II.3Рефакторинг, миграция и модернизация

Это языковая модель семейства Llama, созданная автором репозитория методом TIES с помощью mergekit. В объединение вошли Meta Llama 3.2 1B и несколько её вариантов, настроенных для диалогов, медицинских вопросов, SQL, математики и кода. Модель содержит 1,2 млрд параметров, использует плотную архитектуру LlamaForCausalLM и распространяется в формате safetensors через Transformers; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и может служить компактной основой для диалогов и ответов на вопросы, а также запросов по медицинским темам, SQL, математике и коду. README не приводит результатов оценки, подробностей о качестве или явного перечня поддерживаемых языков. Базовая модель Llama 3.2 1B распространяется по лицензии Llama 3.2 Community License; условия использования итогового объединения отдельно не описаны в предоставленных данных.

Meta-Llama-3-8B-Instruct-GGUF-old — это языковая модель для генерации текста и выполнения инструкций, представленная в формате GGUF. Модель основана на Meta Llama 3, разработанной Meta, а репозиторий и сборку данной версии связывает с идентификатором bartowski. По названию модели известно, что она содержит около 8 миллиардов параметров и настроена для диалогового взаимодействия и следования инструкциям. Модель предназначена для англоязычной генерации текста, ответов на запросы и других задач, поддерживаемых конвейером text-generation. Формат GGUF ориентирован на локальный запуск средствами, совместимыми с этим форматом, однако конкретные требования к памяти, варианты квантования и максимальный размер контекста в предоставленных данных не указаны. Модель является текстовой и не поддерживает мультимодальные входы по имеющейся информации. К сильным сторонам относятся компактный по современным меркам размер, специализация на инструкциях и возможность использования в локальных сценариях. Ограничениями являются заявленная языковая поддержка только английского, отсутствие сведений о конкретной версии квантования, контекстном окне, производительности и результатах оценки. Использование регулируется Meta Llama 3 Community License: лицензия требует соблюдения условий распространения, указания атрибуции, отображения фразы «Built with Meta Llama 3» при соответствующих сценариях и соблюдения Acceptable Use Policy.

Vontra/MiMo-V2.6-Flash-RL-MLX-4bit-MTP — конверсия модели XiaomiMiMo/MiMo-V2.6-Flash-RL для MLX, опубликованная Vontra и предназначенная прежде всего для запуска на компьютерах Apple Silicon. Это генеративная текстовая модель, ориентированная на создание связного текста, объяснений и программного кода. В README приведены успешные проверки арифметики, фактических объяснений и Python-кода, однако подробные оценки качества и сценарии применения следует уточнять в карточке исходной модели. Исходная MiMo-V2.6-Flash-RL описывается как разреженная MoE-модель с 309 млрд параметров, из которых 15 млрд активны на токен, 48 трансформерными слоями, 256 маршрутизируемыми экспертами и восемью активными экспертами на токен. Исходный релиз поддерживает контекст до одного миллиона токенов и омнимодальные входы; заявлены текст, изображения и аудио. Эта версия использует 4-битную аффинную квантизацию плотных проекций с размером группы 64, тогда как эксперты MoE сохраняют формат MXFP4 с размером группы 32. Средний размер — 4,257 бита на вес, текстовая модель занимает около 154 GiB, а весь репозиторий — около 160 GiB. Поддерживаемые языки, указанные в карточке, — английский и китайский. В комплект входят MTP-предиктор, DFlash-драфтер, vision encoder, audio encoder и audio tokenizer, но текущие oMLX и MLX text generation автоматически используют только текстовый путь: MTP, DFlash, зрительные и аудиофункции пока требуют MiMo-совместимых интеграций и не заявлены как работающие в стандартном режиме. На Mac Studio с M3 Ultra, 256 ГБ памяти измерены скорости 59,4 токена в секунду при декодировании и 477,1–562,8 токена в секунду при обработке промпта; рекомендована конфигурация с 256 ГБ unified memory. Модель распространяется по лицензии MIT. Это community-конверсия, поэтому её ограничения включают высокие требования к памяти и неполную поддержку вспомогательных мультимодальных компонентов в текущем MLX-стеке.

Nex-N2.5-mini-Mixed-Q2Q3-128K-GGUF — неофициальная смешанная квантизация модели Nex-N2.5-mini, разработанной Nex-AGI. Сборку и квантизацию выпустил пользователь karmx для экспериментов на одной видеокарте RTX 5060 Ti с 16 ГБ памяти. Модель распространяется в формате GGUF и предназначена для запуска через llama.cpp. Модель поддерживает текстовые и визуальные сценарии при использовании отдельного vision projector, включая распознавание текста на одном изображении, структурированный tool calling и задачи программирования. В протестированной конфигурации заявлена общая длина контекста 131 072 токена, включая промпт, токены изображения и генерируемый ответ. Основной файл имеет размер около 13,32 ГБ, проектор — около 0,90 ГБ. Квантизация использует Q2_K для части routed-expert-тензоров, Q3_K для другой части, Q5_K для эмбеддингов и выходных тензоров, а также Q4_K_M для остальных тензоров; vision projector оставлен в F16. Обучение, объединение моделей и pruning не выполнялись. Сильными сторонами являются поддержка большого контекста, vision-возможностей, инструментальных вызовов и запуск на относительно компактной видеокарте. При этом это экспериментальная сборка с ограничениями качества и совместимости: в сравнении с эталонной Q5_K_M зафиксировано снижение результатов на HumanEval+ и MBPP+, а отсутствие регрессий не подтверждено. Надёжность работы с 128K-контекстом, несколькими изображениями, скорость на стандартной сборке llama.cpp и отсутствие выгрузки в CPU-память не гарантируются; проверка проводилась на конкретной версии llama.cpp, ОС, GPU и настройках. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями необходимо скачать оба файла — GGUF-модель и vision projector. Это не официальный релиз Nex-AGI.

bartowski/nvidia_Llama-3_3-Nemotron-Super-49B-v1-GGUF — это GGUF-квантизированная версия языковой модели Llama-3_3-Nemotron-Super-49B-v1, разработанной NVIDIA и подготовленной bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других совместимых проектах. Указана поддержка английского языка и текстовая модальность. Модель относится к классу крупных моделей с заявленным размером 49B параметров. Доступны варианты от BF16 и Q8_0 до более компактных Q3- и IQ-квантизаций; рекомендуемыми названы, в частности, Q6_K, Q5_K, Q4_K_M и IQ4_XS. Размер файлов составляет примерно от 22,66 до 99,74 ГБ, поэтому для запуска требуется значительный объём оперативной или видеопамяти, зависящий от выбранного варианта. Квантизация снижает требования к ресурсам и позволяет использовать модель локально, но более компактные варианты могут уступать исходной модели по качеству. README не содержит данных о длине контекста, точной архитектуре, результатах тестирования, производительности или поддержке других языков, поэтому эти характеристики нельзя надёжно оценить. Модель распространяется по NVIDIA Open Model License; условия лицензии следует уточнять по указанной NVIDIA-ссылке.

Qwen3-30B-A3B-Base — базовая языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная причинная MoE-модель для генерации текста: всего 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; архитектура включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель рассчитана на контекст до 32 768 токенов и работает через библиотеку Transformers. Модель предназначена для продолжения текста и служит основой для дообучения под диалоговые и прикладные сценарии. Обучающий корпус охватывает 119 языков и включает материалы по программированию, STEM, рассуждениям, книгам и многоязычным данным. Карточка также отмечает интерфейсы для чата и вызова инструментов, однако конкретные инструкции по использованию этих возможностей в базовой модели не описаны. Лицензия — Apache-2.0. Для запуска требуется актуальная версия Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3_moe. Это базовая, а не специализированно настроенная на выполнение инструкций модель; качество в конкретных задачах зависит от промптинга и возможного дообучения.

RodKykis/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — мультимодальная модель на базе Qwen3.6-27B, представленная в формате GGUF. Она создана как результат многоэтапного дообучения и слияния моделей при участии RodKykis, DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; при обучении использовались, в частности, наборы DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель поддерживает английский и китайский языки, а также обработку изображений, однако точный размер контекстного окна в README не указан. Основное назначение модели — универсальная работа с инструкциями, решение задач, рассуждения, генерация кода, творческое письмо, художественная проза и roleplay. Заявлены улучшенные instruction following, общее решение задач и reasoning. Модель позиционируется как uncensored и heretic-вариант без заявленного изменения базовых возможностей Qwen; при этом README содержит маркетинговые заявления о превосходстве над рядом базовых моделей, которые не следует считать независимой проверкой качества. Репозиторий включает обычные и MTP-варианты GGUF-квантов, выполненные с использованием NEO IMATRIX; часть выходного тензора сохранена в 16-битной точности. Для MTP-вариантов рекомендуется температура не выше 1 и отключённый repetition penalty; при низком уровне token acceptance советуется использовать обычные кванты. Доступны варианты для различных ограничений памяти и конфигураций AMD/Vulkan. Модель распространяется по лицензии Apache-2.0.

Sherry 35B-A3B 0.1 Preview — экспериментальная модель для генерации текста, разработанная Valendra на основе Qwen/Qwen3.6-35B-A3B. Это дообученная методом SFT и GRPO модель семейства Qwen3.5 MoE с 35 млрд параметров; веса объединены, отдельный PEFT-адаптер для инференса не нужен. Модель поддерживает чат и интерфейс вызова инструментов. Главная особенность — управляемый уровень усилий рассуждения: low, medium или high задаёт компромисс между глубиной ответа, задержкой и расходом токенов. Модель предназначена для математических и научных задач, задач на рассуждение и экспериментов с программированием. В описанной авторами оценке показала 97,1% math_verify на MATH-500 и 78,3% exact match на GPQA-Diamond; эти результаты получены в одном контролируемом запуске и не гарантируют аналогичного качества в других условиях. Это предварительная версия: результат AIME 2025 находится на пересмотре, а поведение за пределами оценённых областей изучено ограниченно. Возможны ошибки, поэтому ответы следует проверять, особенно в высокозначимых сценариях. Модель распространяется по лицензии Apache-2.0.

Monero/WizardLM-30B-Uncensored-Guanaco-SuperCOT-30b — языковая модель для генерации текста на основе архитектуры LLaMA, объединяющая WizardLM 30B, Guanaco и SuperCOT. В метаданных указаны 32,3 млрд параметров, контекст до 2048 токенов и форматы PyTorch и safetensors; README описывает обучение на инструкциях, данных с цепочками рассуждений и примерах кода. Модель предназначена для диалогов по инструкциям, продолжения многоходового общения, объяснения кода и ролевых сценариев. В README заявлена поддержка английского, упрощённого и традиционного китайского, японского и немецкого языков. Модель может генерировать недостоверные фактические ответы, поэтому для задач, требующих точности, следует предоставлять проверяемые источники. Указана лицензия «other» без уточнения условий.

Это GGUF-квантизированная версия языковой модели Olmo-3-7B-Think, разработанной Allen Institute for AI (ai2) и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель содержит около 7 миллиардов параметров, работает с текстом и заявлена для английского языка. Доступны варианты от BF16 до различных уровней квантования Q2–Q8 и IQ, размером примерно от 3,3 до 14,6 ГБ. Квантизация выполнена с использованием imatrix, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью работы; наиболее качественными считаются BF16, Q8 и варианты Q6, тогда как низкие уровни квантования требуют меньше оперативной памяти, но могут заметно ухудшать результаты. Основные преимущества модели — возможность локального запуска на совместимом оборудовании, широкий выбор вариантов квантования и поддержка экосистемы llama.cpp. Ограничения включают ориентацию на английский язык, отсутствие заявленной мультимодальности и потенциальную потерю качества при использовании сильного квантования. Для работы следует применять указанный шаблон prompt с секцией размышлений <think>. Модель распространяется по лицензии Apache-2.0.

Fidel 1.1 — компактная текстовая авторегрессионная модель от 4E-AI для локальной генерации текста и диалогов. Вариант репозитория содержит веса SafeTensors, токенизатор и реализацию для Transformers; лицензия Apache-2.0 разрешает использование, изменение и распространение на её условиях. Архитектура сочетает восемь блоков Mamba3 MIMO с блоком внимания и латентной смесью экспертов: в каждом блоке маршрутизация выбирает два эксперта из шестнадцати. Метаданные указывают около 498,6 млн параметров, тогда как README сообщает примерно 1,403 млрд элементов с учётом весов и буферов; обозначение 1B относится к семейству модели. Модель принимает текст, поддерживает шаблон чата и включает компоненты для задач программирования. Заявленный предел совокупного ввода и вывода — 8192 токена. Модель предназначена для локальных чат-интерфейсов, генерации и дополнения кода, а также для экспериментов с черновиками, перефразированием, суммаризацией и ответами по переданным текстам. Авторы описывают эти сценарии как направления для самостоятельной проверки, а не гарантии качества. Включённая реализация рассчитана на Transformers и PyTorch; генерация повторно обрабатывает полный префикс без кеширования, поэтому длинные диалоги требуют больше вычислений. Указаны ограничения на точность, батчинг с дополнением, распределение по нескольким устройствам и альтернативные движки обслуживания; ответы и код могут быть ошибочными.

Gemma 4 26B-A4B-it-qat-MXFP4-CRACK — мультимодальная модель dealignai на основе Google Gemma 4 26B-A4B-it. Это вариант с удалённым отказом на запросы, который сохраняет работу с изображениями, ответы на вопросы, многошаговые рассуждения и генерацию кода. По данным карточки, в тесте HarmBench модель выполнила 58 из 60 запросов из вредоносных категорий, а результат MMLU составил 78,5% против 83,3% у базовой модели. Модель использует архитектуру MoE с 128 экспертами и восемью активными экспертами, а веса представлены в квантизации MXFP4 с точностью 4 бита. Для запуска автор рекомендует vMLX с поддержкой Gemma 4 на компьютерах Apple Silicon с достаточным объёмом объединённой памяти; стандартные mlx_lm и mlx_vlm, согласно README, не обеспечивают полной поддержки Gemma 4. Модель распространяется по лицензии Gemma. Она рассчитана на универсальный диалог с текстом и изображениями, но заметно снижает барьеры отказа на вредоносные запросы; результаты тестов приведены автором модели.

INCModel2/GLM-5.2-MXFP4-CT-AutoRound — квантизированная версия языковой модели zai-org/GLM-5.2, созданная с помощью intel/auto-round в режиме RTN. Квантизация MXFP4 применена только к компоненту MoE; веса представлены в формате Compressed Tensor и совместимы с vLLM. Модель предназначена для генерации текста и диалогового использования, а базовая GLM-5.2 рассчитана также на программирование и длительные задачи с контекстом до одного миллиона токенов. Для запуска README приводит пример с vLLM, параллелизмом по четырём устройствам и ограничением контекста в 4096 токенов для конкретной конфигурации. Модель может выдавать фактически неверные, предвзятые, оскорбительные или непристойные ответы, поэтому перед внедрением требуется проверка безопасности и качества. В метаданных указана лицензия «other»; для коммерческого использования условия следует уточнить у правообладателей.

Ling-3.0-flash REAP288 — экспериментальная версия разговорной гибридной MoE-модели Ling-3.0-flash, опубликованная bloomer010 на основе inclusionAI/Ling-3.0-flash. В ней оставлено 288 из 512 маршрутизируемых экспертов на слой; README указывает 73 млрд параметров всего и 5,1 млрд активных, тогда как метаданные каталога указывают 3,5 млрд параметров. Модель предназначена для генерации текста в диалоговом формате; базовая Ling-3.0-flash также позиционируется для программирования и многошаговых агентных задач. Эксперты отбирались методом REAP по оценке, учитывающей значение маршрутизатора и норму выхода на калибровочных данных объёмом 1 млн токенов. После удаления экспертов не проводились дообучение или восстановительное обучение. Модель работает с контекстом до 262 144 токенов, распространяется в BF16 Safetensors и использует архитектуру BailingMoeV3; для загрузки требуется trust_remote_code=True и пользовательский код bailing_hybrid. README называет модель исследовательским артефактом и экспериментальной REAP-версией. Лицензия в предоставленных данных не указана. Ключевое ограничение — эксперты удалены без последующего обучения для восстановления качества, поэтому характеристики базовой модели нельзя автоматически переносить на эту версию; приведённые в README и метаданных размеры параметров также расходятся.

Llama-3-KoEn-8B — плотная авторегрессионная языковая модель Junbum Lee (Beomi), продолжающая предобучение Meta Llama 3 8B на корпусе из корейских и английских текстов. Модель принимает текст и генерирует текст, в том числе код; предназначена для адаптации к задачам генерации и для создания чат- и инструкционных моделей. Модель содержит 7,5 млрд параметров, построена на архитектуре Llama 3 и имеет контекстное окно 8192 токена. Доступна в форматах PyTorch и Safetensors. Это предварительный релиз статической модели, обученной на офлайн-данных. Лицензия указана как CC-BY-NC-SA-4.0 вместе с лицензией сообщества Llama 3; применяются их условия использования. Карточка предупреждает, что ответы могут быть неточными, предвзятыми или нежелательными, и рекомендует проверять безопасность для конкретного приложения. Хотя обучение включало корейский и английский языки, документация ограничивает предполагаемое использование английским и предостерегает от применения на других языках без соблюдения условий лицензии Llama 3.

GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-GGUF — это набор GGUF-квантизаций языковой модели MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking, разработанной на базе openbmb/MiniCPM5-1B и дообученной на данных Fable 5. Репозиторий подготовлен для локального запуска через llama.cpp, Ollama, LM Studio, jan, KoboldCpp и другие совместимые среды. Модель предназначена для генерации текста, диалогов, следования инструкциям, программирования, отладки и рабочих процессов с инструментами и вызовами функций. Модель имеет размер 1B параметров, работает с текстом и поддерживает английский и китайский языки. Заявлена длина контекста до 128K токенов, однако фактический доступный размер зависит от используемого GGUF-рантайма и оборудования. В V2 улучшена поддержка tool calling и function calling по сравнению с предыдущей версией; также предусмотрен режим рассуждений, при котором модель может выдавать блоки рассуждений перед итоговым ответом. Шаблон чата MiniCPM5 встроен в метаданные GGUF-файлов. Доступны варианты Q8_0 размером около 1,1 ГБ и F16 размером около 2,1 ГБ; Q8_0 рекомендован как стандартный вариант. К сильным сторонам относятся компактность, возможность локального развертывания, поддержка длинного контекста, программирования и вызова инструментов. Ограничение — небольшой масштаб 1B параметров, поэтому модель не относится к моделям передового уровня и может уступать более крупным системам в сложных задачах. Лицензия — Apache-2.0.

elias2515/odysseus-Qwen2.5-Coder-7B-16bit — дообученная разговорная языковая модель на архитектуре Qwen2, предназначенная для генерации текста. В основе лежит unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit; для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель содержит 7,1 млрд параметров, имеет контекст длиной до 32 768 токенов и распространяется в формате safetensors. Карточка указывает английский язык. Лицензия — Apache-2.0. Данных о конкретных наборах обучения, качестве на задачах и дополнительных ограничениях в карточке нет.

palmyra-mini-thinking-AIO-GGUF — набор GGUF-вариантов семейства Palmyra Mini, разработанного Writer и опубликованного в формате GGUF пользователем или организацией prithivMLmods. В состав входят варианты palmyra-mini, palmyra-mini-thinking-a и palmyra-mini-thinking-b с разными уровнями квантования: от Q2_K до Q8_0, а также BF16, F16 и F32. Модель предназначена для генерации текста, программирования и решения математических задач на английском языке. Сильной стороной семейства является рассуждение в задачах с пошаговым решением: заявлены результаты 0,818 на GSM8K и MATH500, а также 0,6 на AMC23. Это делает модели подходящими для учебной математики, количественного анализа, ответов на вопросы и задач, связанных с кодом. Доступны файлы размером примерно от 676 МБ до 7,11 ГБ в зависимости от варианта и точности. README не содержит сведений об архитектуре, числе параметров, размере контекста, поддерживаемых дополнительных модальностях или сравнении качества между вариантами, поэтому эти характеристики нельзя определить. Распространение указано по лицензии Apache-2.0.

Qwen3.5-2B — мультимодальная языковая модель с визуальным энкодером, разработанная командой Qwen. Репозиторий содержит постобученные веса и конфигурацию в формате Transformers; модель дообучена на базе Qwen/Qwen3.5-2B-Base. Архитектура — плотная причинная модель с гибридными блоками Gated DeltaNet и Gated Attention, 2 млрд параметров и контекстом до 262 144 токенов. Модель предназначена для диалогов, рассуждений по тексту и изображениям, вызова инструментов, прототипирования и предметно-ориентированного дообучения. Она поддерживает 201 язык и диалект; по умолчанию работает в режиме без рассуждений, также доступен режим рассуждений. Среди сильных сторон — мультимодальный ввод и длинный контекст. Разработчик рекомендует учитывать масштаб модели при выборе сценария: прототипирование и разработка подходят лучше, чем ресурсоёмкие высокопроизводительные нагрузки. Лицензия — Apache-2.0.

Qwen3.5-9B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING-MAX-NEOCODE-Imatrix-GGUF — GGUF-квантизированная доработанная версия плотной модели Qwen3.5-9B, разработанная DavidAU. Модель дообучена с использованием Unsloth на наборах данных Claude-4.6-OS и дополнена матрицами DI-MATRIX на основе наборов NEO и NEO-CODE, улучшениями тензоров Unsloth и пользовательским шаблоном Jinja для стабилизации работы и снижения избыточного «обдумывания». Лицензия — Apache-2.0. Модель предназначена для широкого спектра текстовых задач, включая рассуждения, генерацию и продолжение художественных текстов, создание сюжетов и подсюжетов, ролевые сценарии, диалоги и работу с различными жанрами. Заявлена поддержка английского и китайского языков. Модель позиционируется как uncensored и heretic-вариант с существенно сниженным числом отказов; при этом для получения особенно грубого или откровенного стиля иногда требуются дополнительные указания в запросе. Контекст по умолчанию заявлен до 256K токенов. Поддержка изображений протестирована и заявлена как рабочая, но для неё требуется отдельный файл mmproj, размещённый вместе с GGUF; видеовозможности не тестировались. В README приведены результаты тестов на ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и Winogrande, где версия показывает более высокие значения, чем указанная базовая версия Qwen3.5-9B в режиме thinking, однако результаты зависят от квантизации и настроек запуска. Для работы рекомендуется использовать совместимый рантайм GGUF; автор также указывает специальные параметры сглаживания и рекомендуемые варианты квантизации, поэтому итоговое качество и поведение зависят от программного окружения.

Карточка модели willamazon1/Qwen3-8B-SDFT-Math-LoRA-iter45 на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

DavidAU представил Qwen3-MOE-4x0.6B-2.4B-Writing-Thunder-V1.2 — компактную текстовую MoE-модель общего назначения на базе четырёх моделей Qwen3 по 0,6 млрд параметров, объединённых в структуру с 1,54 млрд параметров. Она предназначена для быстрой генерации текста, творческого письма, диалогов, ролевых сценариев, программирования и других общих задач; автор отмечает улучшения в кодировании относительно предыдущих версий. Модель поддерживает контекст до 40 960 токенов и режим рассуждений; в MoE по умолчанию активны два эксперта, а для сложного кода автор рекомендует повышать их число и использовать более точное представление весов. В метаданных указаны архитектура Qwen3 MoE, формат safetensors и лицензия Apache-2.0. Карточка также перечисляет слияние базовой Qwen3-0.6B с кодовой, математической и медицинской экспертными моделями. README предупреждает, что ответы могут заметно различаться между генерациями при одинаковых настройках; для программирования и сложных задач рекомендуются Q8 или полная точность. Автор модели — DavidAU; исходные модели созданы их соответствующими авторами и командой Qwen.

tau-0.5B — языковая модель M4-ai, созданная дополнительным предварительным обучением Qwen1.5-0.5B на наборе учебников UltraTextbooks-2.0. Это плотная авторегрессионная модель семейства Qwen2 с 463,9 млн параметров, принимающая текст и генерирующая текст; заявленное окно контекста — 32 768 токенов. В метаданных указана поддержка английского и китайского языков. Модель предназначена для генерации текста общего назначения с усиленным охватом машинного обучения, математики и программирования. Её можно применять для ответов на учебные вопросы, суммаризации, создания учебных материалов, понимания и генерации кода, а также решения математических задач. Карточка приводит результаты тестов, но предупреждает о возможных неточностях и смещениях в данных. Указана лицензия other; README рекомендует изучить лицензию Qwen перед использованием.

xDAN-L1-Chat-RL-v1 — диалоговая языковая модель xDAN-AI на архитектуре Mistral с 7,1 млрд параметров. Она дообучена на смесях OpenOrca, Intel Orca-DPO-Pairs и собственных данных с помощью SFT и DPO-v2; карточка описывает шаблон запросов Alpaca и контекст 32 768 токенов. Модель предназначена для генерации ответов в чате, работы с общими знаниями, написания текстов и помощи с кодом. В README приведены сравнительные результаты MT-Bench и LM-Evaluation-Harness, но они не гарантируют качество на конкретных запросах. В метаданных указан английский язык; другие языки явно не заявлены. Модель распространяется под лицензией CC BY 4.0. Она может выдавать неточные или проблемные ответы, поэтому важные результаты следует проверять.

Airavata-airoboros-slerp — объединённая авторами репозитория модель на базе LLaMA, созданная методом slerp с помощью mergekit из jondurbin/airoboros-7b-gpt4-1.1 и ai4bharat/Airavata. Это плотная авторегрессионная модель объёмом 6,6 млрд параметров для генерации текста; в метаданных указано окно контекста 2048 токенов. Модель подходит для диалоговой генерации, ответов на вопросы и задач, поддерживаемых исходными моделями. Карточка не приводит сравнительных оценок качества или подробных результатов тестирования. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

OS-Software/Gemma-4-12B-it-QAT-Q4_0-Unquantized-Heretic-JA — производная разговорная мультимодальная модель на основе Google Gemma 4 12B IT, опубликованная OS-Software. Модель предназначена для экспериментов с диалогом, рассуждениями, агентными сценариями, программированием и пониманием изображений; заявлены также OCR, разбор документов и анализ видео для семейства Gemma 4. Архитектура — плотная Gemma4 Unified с чередованием локального и глобального внимания. Метаданные указывают формат safetensors, библиотеку Transformers, поддержку чата и изображений, а также тег задачи image-text-to-text. README семейства указывает контекст до 256K токенов для 12B и поддержку более 35 языков, но эти характеристики относятся к семейству, а не подтверждены отдельно для этой производной модели. README позиционирует модель для исследований безопасности, выравнивания и red teaming и просит не развёртывать её в публичных или пользовательских сервисах. В карточке также приведены общие ограничения Gemma: возможны фактические ошибки, смещения данных и трудности с неоднозначными формулировками и сложными задачами. Лицензия — Apache-2.0. В названии присутствуют «QAT», «Q4_0» и «unquantized», однако метаданные сообщают только о safetensors, поэтому фактический формат весов в описании не уточняется.

gemma-4-26B-A4B-it-Uncensored-MAX-GGUF — это GGUF-версия модели, разработанной prithivMLmods на базе google/gemma-4-26B-A4B-it. Модель представляет собой модифицированную версию Gemma с уменьшенным уровнем встроенных отказов от ответа: для этого применялись анализ направлений отказа и методы abliteration. Заявлено сохранение возможностей рассуждения и следования инструкциям исходной архитектуры. Модель предназначена для генерации текста, подробных ответов, выполнения инструкций, исследовательских и обучающих сценариев, а также агентских задач. Указана поддержка обработки изображений и текста; заявлен английский язык. Архитектура описана как MoE, размер — 26 млрд параметров. Доступны файлы GGUF в форматах BF16, F16, F32 и Q8_0, а также отдельные mmproj-файлы для мультимодальной обработки. Сведения о размере контекстного окна и точных характеристиках MoE-компонентов не приведены. К сильным сторонам относятся сниженная склонность к отказам, ориентация на подробные ответы, рассуждение и следование инструкциям. Ограничением является потенциально повышенный риск генерации небезопасного или незаконного содержания из-за уменьшенных защитных механизмов; использование осуществляется на риск пользователя. Модель предоставляется по лицензии Apache-2.0 и заявлена авторами для исследовательских и учебных целей.

GLM-5.2-MXFP4-Mixed-CT-AutoRound — смешанная по точности версия модели GLM-5.2 от Z.ai, подготовленная Intel AutoRound в режиме RTN и упакованная в формат Compressed Tensor. Репозиторий основан на zai-org/GLM-5.2; в метаданных указана связь finetune, однако README описывает квантование весов до MXFP4 и MXFP8. Модель предназначена для генерации текста и диалогового применения; базовая GLM-5.2 также ориентирована на программирование и длительные задачи. Репозиторий использует safetensors и библиотеку Transformers, формат совместим с vLLM и поддерживает настройку вызова инструментов. README показывает пример запуска с ограничением контекста 4096 токенов; это параметр примера запуска, а не заявленный родной предел модели. Квантование в смешанной точности уменьшает требования к хранению и вычислениям по сравнению с полной точностью, но README не приводит оценок качества или скорости. Модель может выдавать фактически неверные ответы, предвзятый, оскорбительный или непристойный контент, поэтому перед применением необходима проверка безопасности. В метаданных указана лицензия other; условия коммерческого использования следует уточнить отдельно.

mlx-community/granite-4.1-8b-bf16 — версия Granite-4.1-8B от mlx-community, преобразованная для MLX из модели ibm-granite/granite-4.1-8b с помощью mlx-lm. Это плотная языковая модель с архитектурой GraniteForCausalLM и 8,4 млрд параметров, предназначенная для генерации текста и диалоговых сценариев. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 131 072 токена. В описании базовой модели указана поддержка нескольких языков, работы с текстом и кодом, а также вызова инструментов, однако эта карточка подтверждает только генерацию текста и диалоговую возможность. Файлы модели представлены в формате safetensors и подготовлены для запуска с MLX. Лицензия — Apache-2.0. Качество и языковой охват унаследованы от базовой модели; отдельные результаты оценки для этой сборки в карточке не приведены.

Heretic-Scalpel-TriTier-E2B — экспериментальная разговорная языковая модель, опубликованная пользователем feifei. По карточке, она построена на Gemma 4 E2B и использует архитектуру Hierarchical Tri-Tier Mixture-of-Adapters: плотный адаптер для STEM-задач и разреженно активируемые микроадаптеры для тематического управления генерацией. Метаданные классифицируют её как дообучение модели aifeifei798/Heretic-Scalpel-E2B; репозиторий содержит веса SafeTensors, а заявленная лицензия — Apache-2.0. Модель предназначена для диалоговой генерации текста, включая рассуждения по STEM и алгоритмам, программирование, а также литературные, гуманитарные и творческие задачи. Карточка описывает базовую модель как Gemma 4 E2B, но не приводит надёжных сведений о контекстном окне и поддержке мультимодального ввода; текстовые задачи и английский язык подтверждаются метаданными. Заявленный размер артефакта — 121,6 МБ. README заявляет 32 специализированных микроадаптера и 50 шагов обучения, однако не предоставляет достаточных независимых оценок качества или подробных воспроизводимых результатов. Поэтому пригодность для конкретных задач следует проверять отдельно; совместимость с пользовательским кодом требует загрузки с trust_remote_code=True.