II.4Отладка, тестирование и качество ПО

dealignai/GLM-5.3-UNCENSORED-FP8 — многоязычная текстовая генеративная модель, разработанная dealignai на основе JANGQ-AI/GLM-5.3-FP8 и upstream-модели zai-org/GLM-5.3. Это версия с уменьшенным поведением отказа от ответа, полученная прямым изменением весов без дообучения, LoRA, runtime-хуков или prompt-трюков. Модель предназначена для универсальной генерации текста, рассуждений, программирования, агентских и инструментальных сценариев, включая задачи, где требуется минимизация отказов по широкому спектру тематик. Модель использует архитектуру glm_moe_dsa с 753 млрд параметров, 78 слоями и текстовой модальностью. Применяется квантизация FP8; заявлена нативная производительность tensor cores на GPU Hopper, включая H100 и H200. Поддерживаются английский, китайский, русский, сербский, хинди, французский, испанский, арабский, корейский и японский языки. Для рассуждений доступны режимы low и high, однако отключить рассуждение на этом checkpoint нельзя; при больших значениях усилия рассуждения модель может исчерпать лимит токенов внутри блока размышлений и не выдать ответ. Сильными сторонами являются сохранение общей интеллектуальной способности относительно базовой модели, широкая многоязычность, снижение отказов и исправление обнаруженной в предыдущей версии проблемы циклического рассуждения. Ограничения включают чувствительность результата к настройкам reasoning_effort и max_tokens, практические ограничения длины контекста и неполную совместимость некоторых функций ускорения с vLLM. Модель распространяется по лицензии MIT.

manjunathshiva/gpt-oss-20b-tq3 — это 3-битная MLX-квантизация модели openai/gpt-oss-20b, созданная с помощью TurboQuant-MLX. Базовая модель представляет собой Mixture-of-Experts с 21 млрд параметров, 32 экспертами и примерно 3,6 млрд активных параметров на токен. Квантизация использует вращение Hadamard и кодовую книгу Lloyd-Max с group_size=64 и не требует калибровочных данных. Модель предназначена для генерации текста, диалогов, ответов на вопросы, творческого письма, программирования, математических задач и многошагового рассуждения. Она поддерживает контекст до 131 000 токенов. Размер файлов составляет около 9,5 ГБ, пиковое потребление связанной оперативной памяти при декодировании — около 11 ГБ. Модель рассчитана на Apple Silicon M1–M4 с unified memory объёмом от 16 ГБ; заявленная скорость генерации на чипах серии M составляет примерно 60–80 токенов в секунду. Сильные стороны модели — компактное размещение, возможность полностью держать веса в памяти Mac с 16 ГБ, высокая скорость и поддержка длинного контекста. Дополнительное сжатие KV-кэша в смешанной точности K8/V3 может уменьшить его размер примерно в четыре раза. Ограничения связаны с 3-битной квантизацией и зависимостью от платформы MLX: при более высокой температуре генерации модель может нестабильно решать математические и программные задачи, поэтому для них рекомендуется температура 0,3. Веса распространяются по лицензии Apache-2.0.

unsloth/llama-3-8b-bnb-4bit — это 4-битная квантованная версия 8-миллиардной языковой модели Llama 3, подготовленная Unsloth на базе Meta-Llama-3-8B. Исходную модель разработала Meta. Она предназначена для генерации текста и кода, диалоговых сценариев, текстового автодополнения и последующего дообучения на пользовательских наборах данных. Модель принимает только текст и генерирует текст или код. В основе лежит авторегрессионная архитектура оптимизированного Transformer; заявлены Grouped-Query Attention и контекстное окно 8 тысяч токенов. Модель обучалась на смеси общедоступных онлайн-данных; дата отсечения знаний — март 2023 года. Квантование до 4 бит снижает требования к памяти и делает модель более удобной для локального запуска и тонкой настройки, однако может уменьшать качество по сравнению с полноточной версией. Модель не поддерживает изображения и другие модальности, а качество ответов зависит от исходной Llama 3 и конкретного сценария использования. В README указана лицензия Llama 3 (license: llama3).

Meta-Llama-3.1-8B-Instruct-quantized.w8a8 — языковая модель для генерации текста и ассистентского диалога, созданная Neural Magic на основе Meta-Llama-3.1-8B-Instruct от Meta. Модель поддерживает текстовый ввод и вывод, предназначена для коммерческого и исследовательского использования в многоязычных сценариях. В заявленной языковой поддержке указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Архитектура — LlamaForCausalLM, размер базовой модели — 8 млрд параметров. Ключевая особенность — INT8-квантизация весов и активаций линейных слоёв Transformer-блоков с использованием GPTQ и библиотеки llm-compressor. Это примерно вдвое снижает требования к памяти и размер модели на диске, а также может примерно вдвое повысить пропускную способность матричных операций. По приведённым оценкам, модель сохраняет качество, близкое к неквантизированной версии: результаты составляют 105,4% для Arena-Hard, 100,3% для OpenLLM v1, 101,5% для OpenLLM v2, 99,7% для HumanEval pass@1 и 98,8% для HumanEval+ pass@1 относительно соответствующих базовых показателей. Для развёртывания рекомендуется vLLM; ограничения включают возможные последствия потери точности из-за квантизации и запрет использования с нарушением применимого законодательства. Лицензия — Llama 3.1.

bartowski/Meta-Llama-3-70B-Instruct-GGUF — это GGUF-версия 70-миллиардной инструкционно-ориентированной языковой модели Meta Llama 3, разработанной Meta и подготовленной пользователем bartowski для запуска в совместимых средах инференса. Модель предназначена для генерации текста и выполнения задач по инструкциям, включая диалоговые сценарии и другие приложения обработки естественного языка. В доступных данных указано, что модель поддерживает английский язык и относится к классу text-generation. Она основана на архитектуре Llama 3 и поставляется в формате GGUF, однако сведения о конкретном варианте квантования, размере контекста, точной архитектуре, мультимодальности и дополнительных языках отсутствуют. Размер 70B обеспечивает значительный потенциал для сложных языковых задач, но обычно требует существенных вычислительных ресурсов; характеристики производительности зависят от выбранной сборки и среды запуска. Модель распространяется по Meta Llama 3 Community License. При распространении материалов или продуктов на их основе требуется соблюдать условия лицензии, включая указание «Built with Meta Llama 3», сохранение уведомления об авторских правах и соблюдение Acceptable Use Policy. Лицензия также содержит ограничения на использование результатов для улучшения других больших языковых моделей и дополнительные коммерческие условия для организаций с более чем 700 миллионами активных пользователей в месяц.

NVIDIA-Nemotron-3-Nano-30B-A3B-FP8 — квантизированная FP8-версия большой языковой модели NVIDIA Nemotron-Nano-3-30B-A3B, разработанная NVIDIA Corporation с нуля. Модель предназначена для генерации текста, диалогов, решения задач с рассуждением, следования инструкциям, работы с кодом и математикой, а также сценариев tool-calling. В карточке также заявлены задачи text-to-text, image-to-text и reasoning, однако подробности о мультимодальных возможностях не приведены. Модель использует гибридную архитектуру Mixture-of-Experts: 23 слоя Mamba-2 и MoE, а также 6 attention-слоёв. Всего модель содержит около 30 млрд параметров, из которых 3,5 млрд активируются для каждого токена. Каждый MoE-слой включает 128 экспертов и одного общего эксперта, при этом для токена активируются 6 экспертов. Модель поддерживает английский, немецкий, испанский, французский, итальянский и японский языки; также указано улучшение с использованием Qwen. Размер контекста в предоставленных данных не указан. Модель объединяет режимы с рассуждением и без него. По умолчанию она может сначала формировать reasoning trace, а затем итоговый ответ; рассуждение можно отключить через настройку chat template, что немного снижает точность на сложных запросах. К сильным сторонам относятся сочетание высокой общей ёмкости с меньшим числом активных параметров, поддержка нескольких языков и специализированных сценариев, включая reasoning и tool-calling. Ограничениями являются необходимость совместимого инференсного стека и отсутствие в карточке подробных результатов бенчмарков, сведений о контекстном окне и детального описания заявленной image-to-text функциональности. Модель распространяется по NVIDIA Open Model License. Она валидирована в RHOAI 3.0, RHAIIS 3.2.5 и vLLM 0.11.2.

OpenHermes-4.6-Dolphin-Mistral — объединённая языковая модель, созданная методом SLERP с помощью mergekit на основе cognitivecomputations/dolphin-2.1-mistral-7b и teknium/OpenHermes-2.5-Mistral-7B. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; она предназначена для диалогового взаимодействия и генерации текста. Поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors для использования с Transformers. Лицензия в предоставленных данных не указана.

Qwen3-0.6B-FP8 — компактная причинно-следственная языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия базовой модели Qwen3-0.6B, предназначенная для генерации текста, диалогов, следования инструкциям, рассуждений, математических и программных задач, перевода и мультиязычных сценариев. Модель также поддерживает интеграцию с внешними инструментами и агентские приложения. Модель содержит 0,6 млрд параметров, из них 0,44 млрд не относятся к embedding, и включает 28 слоёв. Она использует Grouped-Query Attention с 16 головами для запросов и 8 для ключей и значений, поддерживает контекст до 32 768 токенов и более 100 языков и диалектов. В одной модели можно переключаться между thinking mode для сложных рассуждений, математики и кода и non-thinking mode для более быстрой генерации и обычного диалога. FP8-квантизация с размером блока 128 снижает требования к ресурсам и подходит для развёртывания через Transformers, SGLang и vLLM. Сильные стороны модели — небольшой размер, поддержка мультиязычности, режимов рассуждения и обычного ответа, а также применимость к диалоговым и агентским задачам. Ограничения включают возможные бесконечные повторы при неподходящих параметрах генерации и известные проблемы fine-grained FP8 в Transformers при распределённом инференсе на нескольких устройствах. Модель распространяется по лицензии Apache 2.0.

AtomicChat/Qwen3.5-9B-GGUF — квантизированная версия базовой модели Qwen/Qwen3.5-9B, подготовленная Atomic Chat. Модель распространяется в формате GGUF для локального и полностью офлайн-использования, в том числе через llama.cpp, Ollama, LM Studio и Jan. Репозиторий содержит текстовые варианты модели без vision projector, поэтому мультимодальные возможности базовой версии здесь недоступны. Модель имеет 9,7 млрд параметров, 32 слоя и заявленный контекст до 262 144 токенов. Архитектура описана как плотный декодер с 16 attention heads и 4 KV heads; базовая модель поддерживает текст и изображения, а опубликованные файлы предназначены только для генерации текста. Указаны варианты квантизации Q4_K_M, UD-Q4_K_XL, Q5_K_M, Q6_K и Q8_0 с размером примерно от 5,6 до 9,5 ГБ. Квантизация выполнена с importance matrix, что помогает сохранить качество при уменьшении требований к памяти; Q4_K_M позиционируется как оптимальный баланс размера, скорости и качества, тогда как Q8_0 обеспечивает почти исходную точность. Модель подходит для диалогов, генерации текста, программирования, рассуждений и агентских сценариев при локальном запуске. Ограничения включают отсутствие поддержки изображений в данном репозитории, зависимость качества и скорости от выбранного уровня квантизации и оборудования, а также необходимость применять chat template Qwen3.5. Исходная модель выпущена под лицензией Apache 2.0; квантизацию выполнила Atomic Chat.

MoonRide/Qwen3.6-27B-heretic-ara-GGUF — GGUF-квантизированная версия модели Qwen3.6-27B, разработанная MoonRide. Это декензурированная модификация исходной модели Qwen/Qwen3.6-27B, созданная с помощью Heretic 1.2.0 и метода Arbitrary-Rank Ablation (ARA) с сохранением row-norm. Модель предназначена для генерации текста, программирования, агентских сценариев и работы с визуально-текстовыми запросами; исходная архитектура включает языковую модель с vision encoder. Модель содержит 27B параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet и Gated Attention, а также обучалась с использованием multi-step MTP. В репозитории представлены различные GGUF-квантизации; рекомендованы IQ3_XS размером около 12 ГБ и IQ3_XXS размером около 11,2 ГБ. Ключевая особенность модели — значительно сниженная склонность к отказам: в приведённом сравнении она отказала в 16 из 100 тестовых случаев против 91 из 100 у исходной Qwen3.6-27B. При этом декензурирование может влиять на поведение и безопасность модели, а квантизация способна снижать точность по сравнению с оригинальными весами; измеренное KL-расхождение составляет 0,0221. Модель распространяется по лицензии Apache-2.0.

AEON-7/Qwen3.6-35B-A3B-heretic-NVFP4 — мультимодальная NVFP4-квантизированная версия модели tvall43/Qwen3.6-35B-A3B-heretic, подготовленная AEON-7. Модель предназначена для диалогов, рассуждений, программирования, агентских сценариев, function calling и обработки изображений с текстовыми запросами. Заявлена поддержка английского языка, vision-language задач и контекста до 1 млн токенов. Модель использует гибридную архитектуру Qwen3_5MoeForConditionalGeneration с Mixture-of-Experts: 35 млрд параметров всего и около 3 млрд активных параметров. В составе присутствуют разреженные MoE-слои, линейное внимание Mamba/GDN, 27-блочный ViT-энкодер, сохранённый в BF16, и экспертные веса в формате NVFP4. Поддерживаются multimodal image-text-to-text, tool calling, speculative decoding, prefix caching и FP8 KV-cache при использовании совместимой конфигурации vLLM. К сильным сторонам относятся высокая плотность модели при небольшом числе активных параметров, длинный контекст, мультимодальность и стабильная работа текста в заявленном стеке vLLM. В README указана проверка обработки изображений после исправления размещения тензоров vision tower, а также масштабирование до 64 одновременных запросов и примерно 740 токенов в секунду суммарно при использовании DFlash, однако эти характеристики зависят от оборудования и конфигурации. Модель ориентирована прежде всего на DGX Spark и совместимые GPU Blackwell/GB10 с образом AEON vLLM; для других сред совместимость не гарантируется. Это abliterated/decensored-вариант с существенно сниженным уровнем отказов, поэтому стандартные ограничения безопасности могут быть ослаблены. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-Final-NVFP4-GGUF — это квантизированная в формате GGUF версия модели на базе Qwen3.6, созданной Alibaba Group, с доработками LuffyTheFox и квантизацией NVFP4 от jan1k. Модель также включает Hermes-файнтюнинг для диалогов, генерации текста, программирования, агентских сценариев и function calling. Указана поддержка английского, китайского и других языков, а также мультимодального ввода изображений через отдельный vision-проектор. Архитектура представляет собой Mixture of Experts: около 35 млрд общих параметров и примерно 3 млрд активных параметров на токен, с восемью маршрутизируемыми экспертами и одним общим. NVFP4 — 4-битный формат с плавающей точкой, оптимизированный для GPU NVIDIA архитектур Ada Lovelace, Blackwell и Ampere. Рекомендуется использовать файл версии v4 с inline scales; он совместим с llama.cpp, LM Studio и Pelican. Для работы с изображениями требуется отдельный проектор F16 размером около 899 МБ. Размер рекомендуемого файла модели составляет около 20 ГБ. Сильными сторонами являются MoE-архитектура с относительно небольшим числом активных параметров, поддержка мультимодальных и агентских задач, function calling и формат NVFP4, снижающий требования к памяти по сравнению с полноразмерной моделью. Ограничения включают зависимость от совместимого NVIDIA-оборудования и корректно поддерживающего NVFP4 рантайма, необходимость отдельного vision-проектора для изображений и отсутствие в предоставленных данных сведений о максимальной длине контекста и результатах независимого тестирования. Модель распространяется по лицензии Apache-2.0.

barrydeen/Qwen3.8-27B-AWQ-4bit — квантизированная версия мультимодальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen и подготовленной пользователем barrydeen. Модель предназначена для генерации текста и обработки изображений с текстом, включая диалоговые сценарии, работу с кодом, арифметикой, инструментами и рассуждениями. Модель имеет гибридную архитектуру Qwen3_5ForConditionalGeneration с 27 млрд параметров. Из 64 декодерных слоёв 16 используют полноценное внимание, а 48 — Gated DeltaNet. Линейные слои квантизированы методом AWQ в формате W4A16 с асимметричной схемой и размером группы 128; чувствительные компоненты, включая vision tower, Gated DeltaNet и MTP head, сохранены в BF16. Размер модели составляет около 27,8 ГБ вместо 55,6 ГБ в BF16. Заявлена поддержка контекста до 131 072 токенов при использовании vLLM, а также MTP-спекулятивного декодирования. Сильные стороны модели — существенное снижение требований к памяти при сохранении чувствительных компонентов в исходной точности, поддержка мультимодальности, инструментальных вызовов и высокая измеренная скорость генерации 85–95 токенов в секунду на двух RTX 3090. Ограничения включают отсутствие формального набора бенчмарков, калибровку только на текстовых данных и последовательностях длиной до 1024 токенов, поэтому качество на более длинных контекстах и мультимодальных данных отдельно не подтверждено. Для MTP требуется тензорный, а не конвейерный параллелизм. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

azampatti/Qwen3.8-Flash-Next-125B-A5B-INT4-AutoRound — гибридная квантованная версия Qwen3.8-Flash-Next, подготовленная автором azampatti на основе чекпойнтов Qwen и Intel. Модель предназначена для генерации текста, программного кода, математических ответов, работы с инструментами и длинным контекстом. Она поддерживает OpenAI-совместимую подачу через специализированную сборку vLLM и рассчитана прежде всего на запуск на одной системе DGX Spark с GB10 и 128 ГБ памяти. Модель использует архитектуру mixture-of-experts: всего 125 млрд параметров, из которых около 4,8 млрд активируются для каждого токена. Число выбираемых маршрутизатором экспертов сокращено с 10 до 5, после чего общий эксперт был дообучен методом self-distillation для восстановления качества. Основные компоненты распределены между форматами int4, fp8 и bf16; применяются GPTQ-Marlin с размером группы 128 и AutoRound. В репозитории также содержится FP8-таблица n-грамм объёмом около 49 ГБ, отображаемая из памяти при работе. Сильными сторонами являются высокая скорость генерации — примерно 64–70 токенов в секунду на DGX Spark, сохранение возможностей инструментального использования и уменьшенные активные вычисления по сравнению с исходной моделью. Ограничение — некоторое снижение общей способности: заявленный показатель составляет около 47–49 против 51,8 у исходной версии, а результаты измерялись собственным тестовым стендом и не являются универсальным лидербордом. Для запуска требуется специализированная сборка vLLM, поскольку стандартная vLLM не поддерживает используемую комбинацию int4 и fp8. Лицензия указана как qwen с типом other; применяются условия лицензии Qwen, ссылка на которую приведена в карточке.

Карточка модели jondurbin/airoboros-33b-gpt4-2.0 на Hugging Face совпадает с карточкой jondurbin/airoboros-65b-gpt4-2.0, поэтому описание составлено по ней. airoboros-65b-gpt4-2.0 — плотная языковая модель семейства LLaMA на 65 млрд параметров, дообученная jondurbin для следования инструкциям на синтетических примерах, созданных GPT-4. Серия 2.0 использует данные GPT-4 версии 0614; вариант m2.0 дополнительно объединяет набор данных 1.4.1 без дубликатов и категории system. Модель предназначена для диалоговых ответов, вопросов по предоставленному контексту, программирования, построения планов и генерации структурированных аргументов функций в JSON или YAML. Для диалога используется текстовый шаблон с ролями USER и ASSISTANT; заявленная длина контекста — 2048 токенов. В README для моделей 65B отмечено QLoRA-дообучение. Это текстовая модель, и качество её ответов не гарантирует точность: карточка рекомендует явно просить не придумывать ответ при недостатке данных. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование; коммерческое использование запрещено.

airoboros-65b-gpt4-2.0 — плотная языковая модель семейства LLaMA на 65 млрд параметров, дообученная jondurbin для следования инструкциям на синтетических примерах, созданных GPT-4. Серия 2.0 использует данные GPT-4 версии 0614; вариант m2.0 дополнительно объединяет набор данных 1.4.1 без дубликатов и категории system. Модель предназначена для диалоговых ответов, вопросов по предоставленному контексту, программирования, построения планов и генерации структурированных аргументов функций в JSON или YAML. Для диалога используется текстовый шаблон с ролями USER и ASSISTANT; заявленная длина контекста — 2048 токенов. В README для моделей 65B отмечено QLoRA-дообучение. Это текстовая модель, и качество её ответов не гарантирует точность: карточка рекомендует явно просить не придумывать ответ при недостатке данных. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование; коммерческое использование запрещено.

airoboros-l2-13b-2.2 — экспериментальная текстовая модель jondurbin, основанная на архитектуре Llama и дообученная на версии 2.2 набора airoboros, состоящей преимущественно из синтетических данных. Модель содержит около 12,9 млрд параметров, принимает текст и рассчитана на контекст до 4096 токенов. Для диалога используется формат с отдельными строками system, USER и ASSISTANT; в большинстве примеров применялся системный промпт «A chat.». Модель ориентирована прежде всего на выполнение инструкций, а не на непринуждённый чат или ролевую игру. Она подходит для ответов на вопросы по предоставленному контексту, генерации текста и кода, задач с вариантами ответа, структурированного вывода в JSON или YAML и составления планов выполнения задач с инструментами. Вариант «clean» не включает данные для снятия выравнивания; при этом автор отмечает, что поведение можно переопределять системным промптом. Для остановки генерации рекомендуется настроить критерии завершения на маркер USER:. Модель распространяется по лицензии Llama 2.

Statuo выпустил Deepseeker-Kunou-Qwen2.5-14b — объединение языковых моделей, созданное с помощью mergekit и линейного слияния. В него вошли Sao10K/14B-Qwen2.5-Kunou-v1 и deepseek-ai/DeepSeek-R1-Distill-Qwen-14B; итоговая модель имеет архитектуру Qwen2ForCausalLM и содержит 14 млрд параметров. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения, математики и программирования. Разработчик отмечает, что она кажется достаточно интеллектуальной, но может уступать в творческом письме; оценка улучшения относительно Kunou субъективна. Поддерживается контекст до 131 072 токенов, файлы представлены в формате safetensors. Лицензия в метаданных — Apache-2.0; README также упоминает Qwen License, поэтому условия лицензирования стоит сверить с файлами репозитория.

AEON-7/Gemma-4-26B-A4B-it-Uncensored-NVFP4 — инструкцияная мультимодальная модель семейства Gemma 4, разработанная AEON-7 на основе TrevorJS/gemma-4-26B-A4B-it-uncensored. Модель предназначена для диалогов, генерации текста и кода, агентских сценариев, рассуждений, вызова инструментов и обработки изображений вместе с текстом. Заявлена поддержка английского языка. Архитектура — разреженная Mixture-of-Experts: 26 млрд параметров всего и около 4 млрд активных параметров. Веса квантизованы в NVFP4, используется формат safetensors. Для развёртывания предусмотрена интеграция с vLLM и OpenAI-совместимым API; в документации указана конфигурация с контекстом до 262 144 токенов, chunked prefill, prefix caching и speculative decoding через DFlash. Модель ориентирована на GPU-платформы NVIDIA Grace Blackwell, включая DGX Spark/GB10, а также на локальное или периферийное развёртывание. К сильным сторонам относятся сочетание мультимодальности, MoE-архитектуры с небольшим числом активных параметров, поддержки function calling и reasoning, а также оптимизации для высокопроизводительного инференса. Ограничения связаны с зависимостью от совместимого оборудования NVIDIA и специализированной конфигурации vLLM; заявленные параметры производительности относятся к конкретному серверному стеку и не гарантируют аналогичные результаты в других средах. Модель обозначена как uncensored/unfiltered, поэтому встроенные ограничения безопасности могут быть ослаблены. Лицензия указана как Gemma.

p-e-w опубликовал вариант Gemma 4 E2B Instruct с изменённым ограничением на генерацию: в карточке модель помечена как uncensored, decensored и abliterated. Это компактная плотная модель семейства Gemma 4 для условной генерации; её исходная архитектура использует сочетание локального скользящего и глобального внимания. В репозитории указаны веса safetensors и лицензия Apache-2.0. Модель предназначена для диалогов и генерации текста, рассуждений, помощи с кодом и мультимодального понимания. Gemma 4 E2B поддерживает обработку текста, изображений и аудио, включая распознавание речи и перевод речи в текст; семейство также заявляет анализ видео, вызов инструментов и контекст до 128 тысяч токенов для E2B. В карточке этой конкретной версии приведены теги any-to-any и image-text-to-text, но отдельные характеристики обучения и проверки именно варианта heretic-ara не описаны. Семейство Gemma 4 заявляет поддержку более 35 языков, однако конкретный перечень языков для этой сборки не приведён. Возможны фактические ошибки, предвзятость и трудности с неоднозначными либо сложными запросами; пометка uncensored указывает на ослабление ограничений, поэтому ответы могут включать нежелательный или вредный контент. Лицензия репозитория — Apache-2.0.

llmfan46/gemma-4-E2B-it-ultra-uncensored-heretic — мультимодальная производная Gemma 4 E2B IT от независимого автора llmfan46. По README, изменён компонент attn.o_proj; модель основана на google/gemma-4-E2B-it и предназначена для диалогов, рассуждений, генерации и исправления кода, а также анализа изображений и аудио. Метаданные указывают архитектуру Gemma4ForConditionalGeneration, плотную модель и формат safetensors; библиотека для работы — Transformers. Модель принимает текст и изображения, а для варианта E2B также поддерживает распознавание речи и перевод речи в текст. README базовой Gemma 4 сообщает о контекстном окне до 128K токенов для E2B и E4B, видеоанализе по последовательности кадров, вызове инструментов и поддержке более 35 языков; карточка этой производной не подтверждает отдельно все эти возможности. Лицензия — Apache-2.0. В названии и тегах модель обозначена как uncensored, decensored и abliterated. README в основном описывает базовое семейство и не приводит отдельных оценок качества или точных характеристик этого варианта. Возможны фактические ошибки, затруднения с неоднозначными формулировками и пробелы, связанные с обучающими данными.

GKA-primed-HQwen3-32B-Instruct — плотная языковая модель с гибридной архитектурой, разработанная на базе Qwen3-32B с помощью конвейера Priming от Hybrid Model Factory. В ней поровну слоёв Attention и Gated KalmaNet (GKA): 32 слоя каждого типа. GKA — слой модели пространства состояний, который поддерживает фиксированное состояние и линейные вычислительные затраты по длине последовательности; модель содержит 29,7 млрд параметров и принимает контекст до 131 072 токенов. Модель предназначена для диалога и выполнения инструкций, включая задачи на длинных контекстах. По данным авторов, она близка по качеству к базовой модели и может ускорять инференс на длинных контекстах до двух раз за счёт меньшего KV-кэша. Параметр num_iter позволяет настраивать компромисс между скоростью и вычислениями при инференсе. Модель не является thinking-моделью и не поддерживает вызов инструментов. Авторы отмечают отставание примерно на 2,5–3 пункта от длинноконтекстной версии Qwen3-32B в среднем по указанным бенчмаркам. Лицензия — Apache 2.0.

cyankiwi/GLM-4.5-Air-AWQ-4bit — это 4-битная AWQ-квантизованная версия модели GLM-4.5-Air, разработанной Zhipu AI (zai-org). Модель относится к семейству фундаментальных моделей для интеллектуальных агентов и предназначена для генерации текста, рассуждений, программирования и взаимодействия с инструментами. GLM-4.5-Air использует гибридный режим рассуждений: thinking mode подходит для сложных задач и работы с инструментами, а non-thinking mode — для быстрых ответов. Модель имеет 106 млрд общих параметров и 12 млрд активных параметров, что указывает на разреженную архитектуру с активацией части параметров при обработке запроса. Заявлены поддерживаемые языки English и Chinese; модель относится к текстовым моделям и используется через библиотеку Transformers. Размер контекста в предоставленных данных не указан. 4-битная AWQ-квантизация снижает требования к памяти и может упростить локальный запуск, однако README не содержит количественной оценки влияния квантизации на качество или полного перечня совместимых аппаратных платформ. Ограничения по производительности, точности и применению в отдельных сценариях также не раскрыты. Модель распространяется по лицензии MIT, допускающей коммерческое использование и вторичную разработку.

GLM-4.7-Flash-Razor-17B-A3B-E32of64 — текстовая диалоговая MoE-модель на архитектуре GLM-4-MoE-Lite, полученная из GLM-4.7-Flash удалением методом RAZOR половины маршрутизируемых экспертов в каждом MoE-слое. В модели сохранено 32 из 64 экспертов; обучающие обновления и восстановительное дообучение не применялись. Репозиторий указывает 17 млрд параметров, а метаданные Hugging Face — 4,1 млрд; фактический размер параметров поэтому расходится между источниками. Активно около 3 млрд параметров на токен. Модель предназначена для диалоговой генерации текста и сценариев, унаследованных от GLM-4.7-Flash, включая рассуждения и программирование. Она принимает текст и выдаёт текст, поддерживает контекст до 202 752 токенов и распространяется в формате safetensors с весами bfloat16; для запуска нужна версия Transformers с реализацией glm4_moe_lite. Экспертное прореживание примерно вдвое сокращает объём хранения экспертов, при этом вычисления на токен остаются практически неизменными. Изменения генерации возможны: могут отличаться разнообразие, форматирование и поведение при завершении ответа, даже если точность задач в целом сохраняется. Модель выпущена под лицензией MIT.

GLM-5.3-Flash — мультимодальная модель семейства GLM-5, разработанная командой GLM-5 и представленная Z.ai. Она предназначена для генерации текста, программирования, агентских сценариев, работы с инструментами и задачами, требующими обработки изображений и текста. Модель доступна для локального развёртывания и может использоваться через API-платформу Z.ai. Модель содержит 320 млрд общих параметров, из которых 18 млрд активируются при обработке запроса. Она использует гибридную архитектуру с разреженным и линейным вниманием, а также Manifold-Constrained Hyper-Connections (mHC), что направлено на снижение стоимости обслуживания длинного контекста при сохранении точности. Обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. Заявлена поддержка английского и китайского языков; README также указывает нативную мультимодальность, но не уточняет полный перечень поддерживаемых типов входных данных и максимальный размер контекста. К сильным сторонам относятся высокая эффективность за счёт малого числа активных параметров, возможности работы с длинным контекстом, мультимодальность и производительность в задачах программирования и агентского взаимодействия. Ограничения, включая требования к аппаратному обеспечению, фактическое качество на отдельных задачах и особенности варианта NVFP4-Spark, в README не описаны. Указана лицензия MIT.

Inkling-Small — мультимодальная модель общего назначения от Thinking Machines, построенная на авторегрессионном трансформере с 42 слоями и разреженным MoE-блоком: из 256 экспертов для каждого токена выбираются 6, а 2 общих эксперта активны всегда. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд. Она принимает текст, изображения и аудио, обрабатывая их в общем пространстве представлений, и генерирует текст. Поддерживаются форматы BF16 и NVFP4; для работы предусмотрена библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, мультимодальных запросов, программирования, чат-ботов, агентных систем с использованием инструментов и приложений с поиском по документам. Основной язык — английский; заявлены общие многоязычные возможности, но языки отдельно не перечислены. Для изображений рекомендован размер сторон 40–4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Модель может выдавать фактически неверные ответы, неточно следовать инструкциям и хуже работать в длинных диалогах; качество также может различаться по языкам и предметным областям. Для важных решений необходимы проверка человеком и дополнительные меры безопасности. Весы доступны по лицензии Apache-2.0.

llm-jp-4-32b-a3b-thinking-gguf — языковая модель на базе Transformer, разработанная Research and Development Center for Large Language Models при National Institute of Informatics в Японии. Это thinking-вариант серии LLM-jp-4, предназначенный для генерации текста, диалогов и решения инструктивных задач на японском и английском языках, а также для работы с программным кодом на распространённых языках программирования. Модель использует архитектуру Mixture-of-Experts: 32 слоя, 128 маршрутизируемых экспертов, из которых для каждого входа активируются 8. Общее число параметров составляет около 32,1 млрд, при этом активируется около 3,83 млрд параметров. Контекстное окно — 65 536 токенов. Токенизатор основан на Unigram byte-fallback и совместим с шаблоном диалога OpenAI Harmony, однако необходимо использовать токенизатор из этого репозитория. Thinking-модель обучалась с помощью supervised fine-tuning и direct preference optimization без reinforcement learning; предварительное и промежуточное обучение проводилось на 11,7 трлн токенов. К сильным сторонам относятся специализированная поддержка японского языка, длинный контекст, MoE-архитектура с относительно небольшим числом активных параметров и дополнительное обучение для рассуждений и следования инструкциям. Ограничения включают отсутствие заявленных количественных результатов в доступной части README и необходимость специальной версии llama.cpp: стандартная upstream-версия может некорректно обрабатывать токенизацию и чат. Модель распространяется по лицензии Apache-2.0.

Карточка модели NostraEmpire/mirror-qwen3-1.7b на Hugging Face совпадает с карточкой Qwen/Qwen3-1.7B, поэтому описание составлено по ней. Qwen3-1.7B — компактная плотная причинная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит 1,7 млрд параметров, 28 слоёв и поддерживает контекст до 40 960 токенов по метаданным. Модель дообучена на базе Qwen/Qwen3-1.7B-Base и распространяется в формате safetensors под лицензией Apache-2.0. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, написания кода, перевода и работы с внешними инструментами через соответствующий интерфейс. Она поддерживает более 100 языков и диалектов. Заявлены режимы рассуждения и обычного диалога; компактный размер подходит для приложений с ограниченными ресурсами по сравнению с более крупными моделями семейства. В README указана длина контекста 32 768 токенов, тогда как метаданные каталога приводят 40 960; для характеристики использовано значение метаданных. В README также отмечен риск бесконечных повторов при некоторых настройках генерации и рекомендована настройка presence_penalty. Качество ответов и точность фактов требуют проверки в целевом сценарии.

MyAwesomeModel — языковая модель, представленная в репозитории david123TJP/MyAwesomeModel-TestRepo. README не указывает имя разработчика или организацию, создавшую модель. Модель реализована с использованием библиотеки Transformers и распространяется по лицензии MIT. Модель предназначена для сложных задач рассуждения, математических и логических задач, программирования, понимания и генерации текста, классификации, анализа тональности, суммаризации, перевода, ответов на вопросы и диалогового взаимодействия. Также заявлена поддержка function calling, системных промптов, загрузки файлов и генерации с использованием результатов веб-поиска. По данным README, после обновления были улучшены глубина рассуждений, возможности вывода и снижена частота галлюцинаций. Точные сведения об архитектуре, количестве параметров, модальностях, языках и размере контекстного окна не приведены. Указано, что модель использует увеличенную глубину рассуждений: в тесте AIME 2025 среднее использование выросло примерно с 12K до 23K токенов на вопрос, а точность повысилась с 70% до 87,5%. Для работы рекомендуется temperature 0,6 и системный промпт с текущей датой. README также упоминает вариант MyAwesomeModel-Small, архитектура которого идентична базовой модели, но подробности о нём не раскрыты.

PolarisLM — плотная языковая модель семейства PolarNet с 9,2 млрд параметров, разработанная авторами семейства Polaris. Она предназначена для диалогового помощника, рассуждений, генерации текста и кода, ответов на вопросы, а также вызова функций и инструментов. Модель принимает текст и генерирует текст; заявлены улучшения в сложных рассуждениях, снижении галлюцинаций и надёжности вызова функций. Для работы с длинными запросами поддерживает контекст до 32 768 токенов. В README приведены результаты на арифметических, логических, фактических и многоязычных задачах, включая рост точности на GPQA-Diamond с 62,0% у предыдущей версии до 79,8%; авторы связывают это с более длинным рассуждением. Для запуска предлагается использовать температуру 0,5 и системный запрос с текущей датой. Модель распространяется по лицензии Apache-2.0. Численные результаты и сравнения приведены авторами README; независимая проверка в предоставленных данных не описана.