II.3Рефакторинг, миграция и модернизация

AxeronAI/axeron-forge-9fe917b4 — языковая модель, созданная методом слияния TIES из Qwen/Qwen2.5-3B и Qwen/Qwen2.5-Coder-3B-Instruct с помощью forgelm. Модель семейства Qwen2 имеет плотную архитектуру Qwen2ForCausalLM, около 3,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Модель предназначена для генерации текста в диалоге, включая задачи генерации, анализа и исправления кода по текстовым запросам. Метаданные отмечают поддержку чата и интерфейса вызова инструментов. Карточка не приводит результаты оценивания, поэтому качество для конкретных языков и задач следует проверять отдельно. Сведения о лицензии в предоставленных источниках отсутствуют.

Carnice-27b — дообученная и объединённая в самостоятельный чекпойнт модель kai-os на базе Qwen/Qwen3.5-27B. Это плотная авторегрессионная языковая модель с 22,3 млрд параметров, предназначенная для диалогов в стиле Hermes-Agent, рассуждений и многошаговой работы с инструментами. В README описаны сценарии работы с терминалом, файлами, браузером, репозиториями и отладкой; модель загружается как отдельный чекпойнт без исходного адаптера. Метаданные указывают контекст до 262 144 токенов и формат safetensors. Модель распространяется по лицензии Apache-2.0. Для неё пока не приложены воспроизводимые результаты бенчмарков.

Карточка модели manaladan6/codegeex4-all-9b на Hugging Face совпадает с карточкой zai-org/codegeex4-all-9b, поэтому описание составлено по ней. CodeGeeX4-ALL-9B — открытая многоязычная модель генерации кода от команды CodeGeeX, созданная на базе GLM-4-9B путём продолженного обучения. Она предназначена для помощи в разработке программного обеспечения: генерирует и дополняет код, отвечает на вопросы о коде и репозиториях, а также поддерживает сценарии с интерпретатором кода, веб-поиском и вызовом функций. Модель имеет плотную архитектуру семейства ChatGLM и 11,4 млрд параметров; заявленная длина контекста — 131 072 токена. Карточка указывает поддержку китайского и английского языков, а примеры ориентированы на программирование, в том числе на Python. По README, CodeGeeX4-ALL-9B показывает конкурентные результаты на BigCodeBench и NaturalCodeBench и рассчитана на широкий набор задач разработки. Метаданные указывают формат safetensors и лицензию other; конкретные условия лицензии следует проверять в репозитории модели. Результаты для конкретных языков программирования и сценариев могут различаться; сама карточка не приводит подробных ограничений или гарантий качества.

DBRX Instruct — большая языковая модель для генерации текста, разработанная Databricks. Представленная карточка содержит GGUF-квантизации модели dbrx-instruct с использованием importance matrix (imatrix), предназначенные для запуска через llama.cpp и совместимых инструментов. Модель основана на decoder-only Transformer и архитектуре fine-grained Mixture-of-Experts (MoE): всего 132 млрд параметров, из которых около 36 млрд активируются для каждого входа. Она использует 16 экспертов по 12 млрд параметров, выбирая 4 эксперта на токен, а также RoPE, GLU и grouped query attention (GQA). Модель обучена предсказывать следующий токен на 12 трлн токенов текста и кода; заявленная длина контекста — 32 768 токенов, число слоёв — 40. Токенизатор основан на GPT-4 tokenizer из репозитория tiktoken. Предусмотрен диалоговый шаблон с ролями system, user и assistant. Модель предназначена для генерации текста, диалоговых сценариев, написания материалов и работы с кодом. Квантизации позволяют уменьшить требования к памяти; например, вариант IQ4_XS имеет размер около 65,29 ГиБ, а в README приведены результаты perplexity на wiki.test. Ограничения включают значительные аппаратные требования из-за общего размера модели, зависимость от совместимой версии llama.cpp и чувствительность некоторых вариантов квантизации IQ3. Для запуска указан commit llama.cpp 4bd0f93e, а для работы на Metal может потребоваться дополнительное исправление. Лицензия указана как Databricks Open Model License; тип лицензии в карточке обозначен как other. Файлы квантизации опубликованы пользователем phymbert и предназначены также для тестирования imatrix-квантизации.

DeepSeek-R1-Distill-Qwen-14B-bnb-4bit — дистиллированная языковая модель, разработанная командой DeepSeek на основе DeepSeek-R1 и базовой архитектуры Qwen объёмом 14 млрд параметров. Данная версия подготовлена и опубликована Unsloth в 4-битном формате bnb для использования с Transformers. Модель предназначена для задач рассуждения, решения математических задач, генерации и анализа кода, а также других сценариев, требующих многошагового вывода. Дистилляция использует reasoning-поведение DeepSeek-R1, включая самопроверку, рефлексию и развернутые цепочки рассуждений. В метаданных README указан английский язык; сведения о поддержке других языков, размере контекста и мультимодальности не приведены. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битному представлению, что упрощает локальный запуск по сравнению с полноразмерной моделью. Ограничения включают возможное снижение точности из-за квантования и отсутствие в README подробных данных о бенчмарках, контекстном окне и требованиях к оборудованию. Модель распространяется по лицензии Apache 2.0.

DeepSeek-R1-Distill-Qwen-32B-bf16 — языковая модель с архитектурой Qwen2, опубликованная сообществом mlx-community в формате MLX для запуска на устройствах Apple Silicon. Репозиторий содержит 32-миллиардную модель, конвертированную из deepseek-ai/DeepSeek-R1-Distill-Qwen-32B с помощью mlx-lm 0.21.1; исходная модель является дистилляцией DeepSeek-R1 на базе Qwen. Модель предназначена для диалоговой генерации текста и рассуждений, в том числе для решения задач по математике и программированию. Заявленная длина контекста составляет 131072 токена. Поддерживаются чат и интерфейс вызова инструментов. В карточке указана лицензия Apache-2.0. Ограничения по качеству и условиям применения в README не описаны.

DeepSeek-V3.2 — языковая модель, разработанная DeepSeek AI и представленная как дообученная версия DeepSeek-V3.2-Exp-Base. Модель ориентирована на эффективное рассуждение, работу с агентными сценариями и взаимодействие с инструментами, включая режим «thinking with tools». Она распространяется через Transformers и использует обновлённый формат чата с поддержкой вызова инструментов и рассуждений. Ключевой особенностью модели является механизм DeepSeek Sparse Attention (DSA), предназначенный для снижения вычислительной сложности при сохранении качества, особенно в задачах с длинным контекстом. Для обучения применялись масштабируемое reinforcement learning и pipeline синтеза данных для агентных задач. README заявляет высокие результаты в математических и программных соревнованиях, однако точные размер модели, длина контекста, поддерживаемые языки и набор модальностей не указаны. Для интеграции требуется учитывать, что релиз не содержит Jinja-шаблон chat template: разработчикам предлагается использовать скрипты из каталога encoding для кодирования сообщений в OpenAI-совместимом формате и разбора ответов. Указанная функция разбора рассчитана на корректно сформированные строки и не исправляет ошибки формата. Модель распространяется по лицензии MIT.

Это экспериментальная селективно-квантованная GGUF-сборка DeepSeek-V4-Flash-0731 REAP-150B от Tinker-Stack. Модель основана на обрезанном варианте REAP-150B с архитектурой DeepSeek4 и MoE: 150 млрд параметров, 132 эксперта, из которых активны 6 на токен, и один общий эксперт. Веса упакованы в контейнер TurboQuant TQ3_4S с рецептом квантования примерно 3,49 бит на параметр; для запуска нужна специальная версия llama.cpp с поддержкой этого формата. Сборка предназначена для генерации текста, диалогов, агентного использования инструментов, программирования, анализа длинных документов и задач на рассуждение. Заявлена работа с контекстом до 256 тысяч токенов при использовании подходящего KV-кэша. В README приведены внутренние сравнительные тесты и показатели perplexity, однако они не являются стандартизированными оценками; качество зависит от режима рассуждения и настроек инференса. Модель компактнее полноразмерных вариантов благодаря обрезке и квантованию, но квантование может снижать точность, а REAP-вариант может уступать исходной модели в некоторых возможностях. Сборка экспериментальная, требует нестандартного форка llama.cpp; контекст 1 млн токенов на описанном оборудовании не подтверждён. Лицензия репозитория — MIT.

DNA 3.0-9B — мультимодальная модель компании Dnotitia, дообученная на базе Qwen/Qwen3.5-9B. Это плотная модель с 9 млрд параметров и архитектурой Qwen3.5 для работы с текстом и изображениями; поддерживает диалог и интерфейс вызова инструментов. В README указаны поддержка 201 языка и диалектов, контекст 262 144 токена с расширением примерно до 1 010 000 токенов с помощью YaRN. Метаданные указывают формат Safetensors и лицензию Apache-2.0. Модель рассчитана на аналитические рассуждения, программирование и отладку с агентными сценариями, понимание изображений и ответы в роли ассистента, знакомого с продуктами и внутренней терминологией Dnotitia. Её дообучали с уменьшенным числом отказов и корпоративной персоной; по умолчанию она может выдавать блоки рассуждений, которые можно отключить. Для обслуживания авторы рекомендуют выделенный inference-движок и много GPU. К ограничениям относятся сниженное поведение отказа, предвзятость в пользу Dnotitia, унаследованные от базовой модели смещения и возможные галлюцинации; для решений с высокими ставками требуется проверка человеком.

Dolphin 2.9.3 Mistral Nemo 12B — разговорная языковая модель, дообученная Eric Hartford и командой Cognitive Computations на базе mistralai/Mistral-Nemo-Base-2407. Она предназначена для следования инструкциям, диалогов, генерации кода и начальных агентных сценариев; также поддерживает вызов функций через ChatML-шаблон. Модель содержит 12,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и формат safetensors. Базовая модель рассчитана на контекст до 128 тыс. токенов, однако при дообучении использовалась длина последовательности 8192 токена. Dolphin описана как «uncensored» и может с высокой готовностью выполнять запросы, в том числе вредоносные или неэтичные. Перед предоставлением модели пользователям автор рекомендует добавить собственный слой контроля и выравнивания. Модель лицензирована по Apache 2.0, включая коммерческое использование.

Карточка модели nicoboss/dolphin-2.9.3-mistral-nemo-12b-llamacppfixed на Hugging Face совпадает с карточкой dphn/dolphin-2.9.3-mistral-nemo-12b, поэтому описание составлено по ней. Dolphin 2.9.3 Mistral Nemo 12B — разговорная языковая модель, дообученная Eric Hartford и командой Cognitive Computations на базе mistralai/Mistral-Nemo-Base-2407. Она предназначена для следования инструкциям, диалогов, генерации кода и начальных агентных сценариев; также поддерживает вызов функций через ChatML-шаблон. Модель содержит 12,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и формат safetensors. Базовая модель рассчитана на контекст до 128 тыс. токенов, однако при дообучении использовалась длина последовательности 8192 токена. Dolphin описана как «uncensored» и может с высокой готовностью выполнять запросы, в том числе вредоносные или неэтичные. Перед предоставлением модели пользователям автор рекомендует добавить собственный слой контроля и выравнивания. Модель лицензирована по Apache 2.0, включая коммерческое использование.

EpistemeAI-codegemma-2-9b — языковая модель EpistemeAI на архитектуре Gemma 2, дообученная на 122 тысячах инструкций по программированию. Она предназначена для генерации кода и текста по запросу, а также для диалоговых интерфейсов и работы с текстом. Для генерации рекомендуется формат запросов Alpaca; доступны веса PyTorch и safetensors. Модель содержит 9 млрд параметров и поддерживает контекст до 8192 токенов. Модель основана на unsloth/gemma-2-9b-bnb-4bit и дообучалась с использованием Unsloth и TRL. В карточке указана лицензия Apache-2.0, тогда как метаданные Hugging Face содержат лицензию Gemma; условия использования стоит сверить с актуальными условиями репозитория и базовой модели. Модель может выдавать ошибочные или устаревшие ответы, испытывать трудности со сложными инструкциями и нюансами языка, а также воспроизводить смещения из обучающих данных.

GLM-4.5-GGUF — это GGUF-версия фундаментальной языковой модели GLM-4.5, разработанной Z.ai. Модель предназначена для создания интеллектуальных агентов и объединяет возможности рассуждения, программирования и взаимодействия с инструментами. Она поддерживает генерацию текста и рассчитана прежде всего на англоязычные и китайскоязычные сценарии. GLM-4.5 — гибридная reasoning-модель с двумя режимами работы: thinking mode для сложных рассуждений и использования инструментов и non-thinking mode для быстрых ответов. В модели 355 млрд общих параметров, из которых активно используется 32 млрд; архитектура построена с применением mixture-of-experts. Контекстное окно, дополнительные модальности и точные характеристики GGUF-квантизации в README не указаны. К сильным сторонам относятся сочетание рассуждений, программирования и агентных функций, а также возможность коммерческого использования и доработки. Ограничения включают высокие требования к вычислительным ресурсам исходной модели и отсутствие в предоставленных данных подробностей о конкретной GGUF-квантизации и совместимости с оборудованием. Модель распространяется под лицензией MIT.

GLM-5.3-Flash-GGUF — это GGUF-версия модели GLM-5.3-Flash, разработанной командой GLM-5 компании Z.ai; представленный репозиторий основан на модели zai-org/GLM-5.3-Flash и подготовлен с использованием методов Unsloth Dynamic 3.0. Модель предназначена для генерации текста, программирования, агентских сценариев и задач, требующих работы с длинным контекстом. Она поддерживает английский и китайский языки и относится к мультимодальным моделям, однако README не уточняет полный набор поддерживаемых модальностей и особенности их использования именно в данной GGUF-сборке. Архитектура сочетает разреженное и линейное внимание, а также использует Manifold-Constrained Hyper-Connections. Модель содержит 320 млрд параметров, из которых 18 млрд активируются при обработке запроса. Обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. Заявлены повышенная эффективность, снижение стоимости обработки длинного контекста и сильные результаты в задачах программирования и использования инструментов; в README также указано контекстное окно до 300 000 токенов в отдельных оценках и до 1 млн токенов в NL2Repo. К ограничениям относятся высокие требования к ресурсам исходной модели, возможные потери качества из-за квантования и необходимость совместимого программного обеспечения: для запуска рекомендуется использовать llama.cpp с указанными изменениями или Unsloth Desktop. Конкретный формат квантования и требования к оперативной памяти в README не указаны. Модель распространяется по лицензии MIT.

Solstice-AI/GLM-5.3-Flash-UNCENSORED-AWQ — мультимодальная языковая модель, основанная на архитектуре GLM-5.3-Flash. Исходную архитектуру разработала Zhipu AI / ZAI, uncensored-веса подготовила dealignai, а Solstice-AI выпустила эту AWQ-квантизованную версию. Модель предназначена для генерации и анализа текста, программирования, математических и логических задач, а также понимания изображений и видео. Заявлены поддерживаемые языки английский и китайский. Модель использует MoE-архитектуру с 320 млрд общих параметров, 288 маршрутизируемыми экспертами и примерно 18 млрд активных параметров на токен. Применяется формат W4A16 AWQ: веса квантизованы до INT4 с group_size=128, а активации сохраняются в 16-битном формате. Визуальные компоненты, механизмы внимания, маршрутизаторы MoE, эмбеддинги и языковая голова оставлены без квантизации. В README указана поддержка контекста до 131 072 токенов, а также speculative decoding с DFlash 2. К сильным сторонам относятся сочетание больших возможностей MoE-модели с уменьшенным размером весов, мультимодальность, поддержка длинного контекста и сценариев программирования, математики, анализа изображений и видео. Ограничения включают очень высокую общую ёмкость модели и, как следствие, значительные требования к памяти и вычислительным ресурсам, несмотря на INT4-квантизацию; для запуска требуются совместимые движки, например vLLM или SGLang. Показатели качества и отсутствие отказов приведены авторами README и не подтверждены независимой проверкой. Лицензия — MIT.

Solstice-AI/GLM-5.3-Flash-UNCENSORED-mlx-oQ8e — Apple Silicon-версия мультимодальной модели GLM-5.3-Flash. Исходную архитектуру разработала Zhipu AI / ZAI, uncensored-веса предоставлены dealignai, а смешанную квантизацию oQ8e подготовила Solstice-AI. Модель распространяется в формате MLX и предназначена для локального запуска на чипах Apple Silicon M2, M3, M4 и M5. Это разреженная MoE-модель общим объёмом 320 млрд параметров, из которых около 18 млрд активируются для каждого токена; используется 288 маршрутизируемых экспертов. Модель поддерживает текст, изображения и видео, заявлены языки English и Chinese, а также нативное контекстное окно до 1 048 576 токенов. В релиз включён DFlash2 speculative drafter, который, по данным README, может обеспечивать прирост пропускной способности генерации до 3 раз. Ключевая особенность — смешанная точность около 8,6 bpw: критичные для маршрутизации и вывода компоненты защищены 8-битным или полным представлением, а vision tower и мультимодальный aligner сохранены в BF16. Модель ориентирована на рассуждения, программирование, математические задачи, анализ изображений и видео, а также работу с длинным контекстом. README заявляет высокие результаты на MMLU, SWE-bench Pro, LiveCodeBench, MATH-500, MMMU и VideoQA, но эти показатели не подтверждены независимыми источниками. Пометка UNCENSORED указывает на отсутствие обычного поведения отказа, что расширяет спектр допустимых сценариев, но может повышать риски небезопасных ответов. Лицензия — MIT.

GLM-5.3-Flash-UNCENSORED-NVFP4-DFlash2 — мультимодальная модель семейства GLM-5.3 Flash. Исходную архитектуру разработала Zhipu AI (ZAI), неконтролируемые веса подготовила dealignai, а упаковку и конфигурацию NVFP4 выполнила Solstice-AI. Модель основана на 320-миллиардной MoE-архитектуре с 288 маршрутизируемыми экспертами и примерно 18 миллиардами активных параметров на токен. Модель предназначена для генерации и анализа текста, программирования, математического и общего рассуждения, а также обработки изображений и видео. Она поддерживает нативные мультимодальные возможности благодаря 24-слойному ViT и проектору размерности 10 240, рассчитана на контекст до 1 048 576 токенов и поставляется с черновой моделью DFlash 2 для спекулятивного декодирования. Ключевая особенность сборки — смешанная точность W4A16: MoE-эксперты используют 4-битный формат NVFP4, а attention, общие эксперты и активации сохраняются в 16-битной точности. Сильными сторонами являются сочетание большого контекста, мультимодальности, сниженного потребления памяти за счёт квантизации и поддержки спекулятивного ускорения. Согласно README, модель ориентирована на GPU NVIDIA Blackwell, Hopper, Ada Lovelace и Ampere. Ограничения включают крупный общий размер, высокие требования к инфраструктуре, зависимость производительности от совместимого ПО и оборудования, а также отсутствие встроенных механизмов отказа от потенциально опасных запросов: веса описаны как uncensored и abliterated. Модель распространяется по лицензии MIT. В README также указаны результаты на MMLU, SWE-bench, LiveCodeBench, MATH-500 и мультимодальных тестах, однако эти показатели приведены авторами карточки и не заменяют независимую оценку.

HauhauCS-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — модифицированная версия Qwen3.6-35B-A3B, разработанная HauhauCS. Модель предназначена для диалогов, генерации текста, рассуждений, программирования и мультимодальных сценариев с обработкой текста, изображений и видео. Ключевая особенность Aggressive-варианта — удаление отказов при сохранении заявленных возможностей исходной модели; по данным README, модель не отказывает в ответах, хотя иногда может добавлять короткие дисклеймеры. Модель использует гибридную MoE-архитектуру: 35 млрд общих параметров, около 3 млрд активных параметров на один проход, 256 экспертов и 8 маршрутизируемых экспертов на токен. Архитектура включает линейное и полное softmax-внимание в соотношении 3:1, 40 слоёв и нативный контекст до 262 тысяч токенов. Заявлена поддержка английского, китайского и других многоязычных сценариев. Доступны GGUF-квантизации Q2–Q8, включая пользовательские K_P-варианты, оптимизированные с помощью importance matrix; размер файлов составляет примерно от 11 до 44 ГБ. Для работы с изображениями требуется отдельный файл mmproj. Сильными сторонами являются большой контекст, низкое число активных параметров для MoE-модели, мультимодальность, широкий выбор квантизаций и отсутствие встроенных отказов. Ограничения включают высокие требования к памяти, возможное появление дисклеймеров, зависимость качества от выбранной квантизации и необходимость корректной настройки runtime; для llama.cpp рекомендуется использовать флаг --jinja и не менее 128 тысяч токенов контекста для сохранения возможностей рассуждения. Модель распространяется по лицензии Apache-2.0.

Mellum2 Instruct — диалоговая языковая модель, разработанная JetBrains для прямых ответов без явного пошагового рассуждения. Она подходит для интерактивного чата, выполнения инструкций, помощи с кодом и использования инструментов. Модель построена на архитектуре Mixture-of-Experts: 64 эксперта, из которых для каждого токена активируются 8. Используются слои со скользящим окном и полным вниманием; контекст составляет 131 072 токена. По карточке модель получена из JetBrains/Mellum2-12B-A2.5B-Base с помощью дообучения на инструкциях и последующего обучения с подкреплением на задачах математики, программирования, использования инструментов, следования инструкциям, рассуждений и знаний. Указанный в метаданных размер — 1,9 млрд параметров; веса представлены в safetensors, библиотека — Transformers. Модель принимает текст и предназначена для генерации текстовых ответов. Карточка сообщает об английском языке. Для сложной отладки, планирования и многошаговых агентных сценариев разработчик рекомендует вариант Thinking. Лицензия — Apache-2.0.

Meta Llama 3 70B Instruct — диалоговая большая языковая модель, разработанная Meta и настроенная для общения с пользователем. Она принимает текст и генерирует текст, включая программный код, поэтому подходит для чат-ассистентов и других сценариев генерации на естественном языке. Модель построена на авторегрессионной архитектуре Transformer с Grouped-Query Attention и содержит 70 млрд параметров. Инструктивная версия использует supervised fine-tuning и обучение с подкреплением на основе обратной связи от людей. В карточке указано назначение прежде всего для английского языка; модель статична и обучена на офлайн-данных. Модель можно применять в коммерческих и исследовательских проектах на условиях лицензии Llama 3 Community License и соответствующей политики допустимого использования. Она не предназначена для применения на языках, отличных от английского, хотя разработчики могут дообучать её для других языков при соблюдении условий лицензии. Для конкретного приложения потребуются собственные меры безопасности; ответы модели могут содержать ошибки или небезопасные сведения.

Карточка модели stgallenquants/OpenThinker-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker-7B, поэтому описание составлено по ней. OpenThinker-7B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts-114k, созданном с использованием дистилляции DeepSeek-R1. Модель содержит 7,1 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов с упором на рассуждения, решение математических задач, вопросы по естественным наукам и программирование. В README приведены оценки на AIME24, MATH500, GPQA-Diamond и задачах LiveCodeBench; результаты показывают сильные стороны в математике и коде, но не гарантируют точность каждого ответа. Веса, данные и код проекта опубликованы; лицензия модели — Apache 2.0. Это текстовая модель, поэтому она не принимает изображения или аудио. Как и другие языковые модели, она может выдавать неверные ответы и требует проверки результатов, особенно в задачах, где ошибка критична.

Ornith-1.0-35B-NVFP4-MTP-GGUF — квантизированная версия модели Ornith-1.0-35B от команды DeepReinforce, упакованная в единый формат GGUF для llama.cpp. Исходная модель дообучена с применением reinforcement learning поверх Qwen3.5-35B-A3B и ориентирована на агентное программирование, рассуждения и работу с инструментами. Модель генерирует блок reasoning_content перед финальным ответом и демонстрирует конкурентные результаты с Qwen3.6-35B-A3B и Gemma 4-31B на Terminal-Bench 2.1, SWE-bench Verified/Pro и Claw-eval. Архитектура — Qwen3.5 MoE с 40 слоями, 256 экспертами и hidden size 2048; всего около 35 млрд параметров, из которых активны примерно 3 млрд. В представленном файле используется NVFP4-квантизация экспертных 3D-тензоров с блоками по 16 элементов, Q8_0 для ряда линейных и чувствительных тензоров, а также MTP-голова, перенесённая из Qwen3.6-35B-A3B. Размер файла составляет 19,85 GiB (21,31 GB), средняя плотность — около 4,80 bpw. Мультимодальный словарь сохранён, но vision tower в GGUF не включена, поэтому модель предназначена для текстовой генерации. Главное преимущество варианта — поддержка draft-mtp speculative decoding, обеспечивающая заявленное ускорение декодирования примерно в два раза по сравнению с версией без MTP. NVFP4 рассчитан на NVIDIA Blackwell и использует преимущества их tensor cores; целевые платформы включают RTX PRO 6000 и DGX Spark (GB10). Ограничение — формат NVFP4 требует совместимого оборудования Blackwell и не предназначен для универсального запуска на более старых GPU. Модель распространяется по лицензии MIT.

Parable-Granite-4.1-8B-Claude-Fable-5 — плотная языковая модель на 8,4 млрд параметров, созданная AnkitAI дообучением IBM Granite 4.1 8B. Она рассчитана на многошаговые задачи агентного типа: планирование, работу с инструментами, программирование, терминал и отладку. Модель принимает текст и генерирует текст, включая структурированные вызовы инструментов. Поддерживает английский язык и наследует от базовой модели контекст до 131 072 токенов. Для дообучения использовались трассы сессий Claude Fable 5 и GPT-5.5, в том числе примеры работы кодирующего агента и решения задач в терминале. Автор сообщает о снижении потерь на отложенной выборке и приводит результаты качественной оценки на задачах программирования и отладки; результаты сравнения с другими репозиториями автор считает ориентировочными. Поведение, настроенное на агентные задачи, может приводить к выдаче JSON вызова инструмента вместо обычного ответа. Дообучение велось на последовательностях длиной 1 024 токена, поэтому именно на начальных ходах ожидается наиболее выраженное влияние дообучения. Веса распространяются по лицензии Apache-2.0. В обучающих данных есть набор с лицензией AGPL-3.0 и набор с лицензией MIT; условия использования исходных трасс третьих сторон могут применяться к последующему обучению и дистилляции. Сгенерированные команды и код следует проверять перед выполнением.

PLaMo 3 NICT 2604 31B Base — базовая авторегрессионная языковая модель с 31 млрд параметров, разработанная Preferred Networks совместно с Национальным институтом информационных и коммуникационных технологий Японии (NICT). Модель дистиллирована из модели на 120 млрд параметров и использует гибридную архитектуру с оконным вниманием SWA и традиционными слоями внимания. Для запуска поддерживается библиотека Transformers и vLLM. Модель предназначена для генерации текста на английском и японском языках, включая работу с кодом. Она обучена на 1,5 трлн токенов; контекстное окно в карточке не приведено. Это базовая модель, поэтому для диалоговых и прикладных сценариев может потребоваться дополнительная настройка. Ответы могут быть неточными, предвзятыми или нежелательными, поэтому перед внедрением нужны тестирование и настройка безопасности под конкретное применение. Распространяется по лицензии PLaMo Community License. Для коммерческого использования разработчик просит ознакомиться с лицензией и связаться с ним.

qwen14b-code-trainer-v9_mixed — LoRA-адаптер для Qwen/Qwen2.5-Coder-14B-Instruct, обученный в рамках Code-Trainer / RTPI pipeline на наборе code-trainer-v9-mixed. Модель предназначена для генерации кода по инструкциям, вызова инструментов и многошагового агентского поведения в многоходовых диалогах. Версия V9 ориентирована на корректное формирование обёрток <tool_call> и </tool_call>, необходимых для разбора структурированных вызовов инструментов в Ollama. Адаптер использует PEFT LoRA с параметрами r=32, alpha=64 и dropout=0,05. Обучение проходило в два этапа: сначала на смешанном наборе данных, затем на подмножестве примеров с вызовами инструментов. В обучающем наборе 40 401 пример, около 64,3% из них содержат определения инструментов; также использовались примеры генерации кода, отладки, многошагового взаимодействия и англоязычных инструкций. Обучение выполнялось с длиной последовательности 4096 токенов в bfloat16 на одной A100 80 GB. Для работы адаптер необходимо подключать к базовой модели Qwen/Qwen2.5-Coder-14B-Instruct, после чего его можно объединить с базовой моделью и квантовать в GGUF для llama.cpp, Ollama или LM Studio. Рекомендуется квантование Q5_K_M, поскольку оно лучше сохраняет шаблоны тегов вызова инструментов; Q4_K_M указано как запасной вариант. Рекомендуемая длина контекста — 8192 токена, хотя базовая модель поддерживает до 32K. Ограничения включают отсутствие специального обучения для safety alignment, RLHF и задач, не связанных с кодом. Лицензия — Apache-2.0. В README указано, что адаптер заменён для развёртывания версией V10 с GRPO, но остаётся её SFT-основой.

Карточка модели Pilot-zero/Qwen2.5-Coder-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-1.5B-Instruct — инструкционно дообученная языковая модель для генерации и анализа кода, разработанная командой Qwen. Это причинная трансформерная модель семейства Qwen2 с 1,5 млрд параметров, обученная на коде, текстово-кодовом сопоставлении и синтетических данных. Архитектура использует RoPE, SwiGLU, RMSNorm и групповое запросное внимание; контекст — до 32 768 токенов. Модель предназначена для генерации, объяснения и исправления кода, а также для диалоговых сценариев и создания кодовых агентов. По карточке семейства, обучение также сохраняло способности к математике и общим задачам, однако основной профиль этой версии — программирование. Доступна через библиотеку Transformers и поддерживает формат safetensors. Модель распространяется по лицензии Apache-2.0. Компактный размер облегчает её запуск по сравнению с крупными моделями, но качество и надёжность ответов могут быть ниже, чем у более крупных кодовых моделей; сгенерированный код следует проверять.

Qwen3.6-27B Claude Opus Reasoning Distilled — текстовая модель на 27 млрд параметров, дообученная Rico03 на базе Qwen/Qwen3.6-27B. Разработчик сообщает, что обучение проведено на примерно 14 тысячах примеров с цепочками рассуждений Claude Opus и Qwen; модель распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для генерации ответов в диалоге и задач, требующих структурированного анализа: программирования, математики, логики и решения аналитических задач. Дообучение направлено на более последовательную декомпозицию сложных запросов и сокращение повторяющихся рассуждений на простых задачах. Метаданные также отмечают интерфейс вызова инструментов. Модель унаследовала от базовой Qwen заявленные возможности работы с изображениями, однако автор указывает, что дообучение проводилось только на текстовых данных и не адаптировало зрительные способности. Модель поддерживает английский и многоязычный ввод, но конкретный перечень языков в карточке не приведён. Контекстное окно не указано. Возможны фактические ошибки, поскольку это авторегрессионная языковая модель; обучение в течение одной эпохи на ограниченном наборе примеров также может влиять на качество в отдельных сценариях.

Youssofal/Qwen3.8-27B-MTPLX-Optimized-Speed-FP16 — это версия языковой модели Qwen3.8-27B, подготовленная разработчиком Youssofal для запуска через MTPLX на компьютерах Mac с Apple Silicon. Модель предназначена прежде всего для локальной генерации текста, программирования, работы с кодом, JSON и диалогами. Она совместима с Mac на чипах M1–M5 и требует не менее 32 ГБ unified memory; для M1 и M2 рекомендуется именно эта сборка FP16. Модель использует 4-битное динамическое квантование части весов, а остальные тензоры, включая масштабы, смещения, нормализации, параметры GDN-свёртки и состояния, хранятся в FP16. Она поддерживает контекст до 262 144 токенов и multi-token prediction с глубиной MTP 3, а MTPLX применяет speculative decoding на Apple Silicon. Размер загрузки составляет 20,4 ГБ. Указанная модальность — работа с текстом; README не сообщает полный перечень поддерживаемых языков, но приводит проверку на многоязычном тексте. К сильным сторонам относятся высокая скорость локальной генерации, оптимизация для Apple Silicon и сохранение точности speculative decoding при различных температурах. Для сборки заявлены 96,0% совпадения top-1 и KL-дивергенция 0,012 относительно контрольной версии Qwen3.8-27B в тесте на коде, прозе, JSON и многоязычном уведомлении. Ограничения включают необходимость совместимого Mac с достаточным объёмом памяти, отсутствие опубликованных замеров скорости именно на M1 и M2, а также более низкую точность по сравнению с 8-битной сборкой Optimized Quality. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Q4_0_ROCMFP4_STRIX_LEAN — квантизированная версия базовой модели Qwen/Qwen3.8-27B, подготовленная pugant в формате GGUF для llama.cpp. Это плотная гибридная модель с 48 слоями gated-delta-net и 16 слоями полного внимания, нативным контекстом до 262 тысяч токенов и поддержкой MTP для спекулятивного декодирования. В метаданных указаны английский и мультиязычный режимы, а основное назначение — генерация текста, включая программный код, структурированные ответы и задачи RAG. Модель использует квантизацию Q4_0_ROCMFP4_STRIX_LEAN с эффективной точностью около 4,34 BPW и размером примерно 13,82 ГиБ. Она оптимизирована для AMD Strix Halo с графикой RDNA 3.5 и ROCmFPX, поддерживает ROCm и Vulkan-бэкенды, а встроенный MTP-слой может заметно ускорять декодирование на предсказуемом и структурированном контенте. Наиболее высокое ускорение ожидается при генерации кода, детерминированных и структурированных данных; для обычной прозы эффект ограничен. Главное ограничение — модель несовместима со стандартной сборкой llama.cpp и требует форка ROCmFPX с пользовательскими типами тензоров. Она протестирована на Radeon 8060S в составе AMD Ryzen AI Max+ 395, поэтому работоспособность и производительность на другом оборудовании не гарантируются. Лицензия — Apache-2.0.

Qwen3.8-27B ThinkingCap Abliterated (MTP GGUF) — GGUF-версия модели, разработанная hotdogs на основе hotdogs/Qwen3.8-27B-thinkingcap-abliterated и дообученная с использованием датасета hotdogs/thinkingcap-sft-qwen38-27b. Модель предназначена для генерации текста, рассуждений, решения задач, следования инструкциям и помощи в программировании, включая сценарии SWE-bench. Она ориентирована на эффективное рассуждение с сокращённым числом токенов и поддерживает запуск через llama.cpp. Модель содержит 27,3 млрд параметров и сохраняет MTP-слой (Multi-Token Prediction) с 15 тензорами. Доступны варианты GGUF F16 размером около 51 ГБ, Q6_K размером около 21 ГБ и Q4_K_M размером около 16 ГБ; Q6_K позиционируется как компромисс между качеством и размером, а Q4_K_M — как наиболее быстрый вариант. В README указано тестирование с контекстом 8192 токена. Языки и набор поддерживаемых модальностей явно не указаны; по описанию это текстовая модель. Сильные стороны — эффективное рассуждение, сохранение MTP при квантовании и высокая производительность на GPQA Diamond, IFEval и SWE-bench в заявленных условиях тестирования. Ограничения включают зависимость качества от выбранной квантовки, значительные требования к памяти и вычислительным ресурсам, а также ограниченность и специфичность приведённых бенчмарков. Модель распространяется по лицензии Apache-2.0.