II.4Отладка, тестирование и качество ПО

unsloth/Llama-3.1-8B-Instruct-GGUF — это GGUF-версия инструкционно дообученной текстовой модели Llama 3.1 с 8 млрд параметров. Модель разработана Meta, а представленная конвертация и набор форматов опубликованы Unsloth. Она предназначена для генерации текста и кода, диалоговых сценариев, ассистентов и других задач, где требуется следование инструкциям на естественном языке. Модель использует авторегрессионную оптимизированную архитектуру Transformer с Grouped-Query Attention (GQA). Она работает только с текстом на входе и формирует текст или код на выходе, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Максимальная длина контекста составляет 128 тысяч токенов; данные обучения основаны на общедоступных онлайн-данных, дата отсечения знаний — декабрь 2023 года. Инструкционная версия обучалась с применением supervised fine-tuning и reinforcement learning with human feedback. К сильным сторонам относятся мультиязычный диалог, поддержка длинного контекста, генерация кода и возможность запуска в GGUF-совместимых инструментах, включая llama.cpp, Ollama и vLLM. Ограничения модели связаны с текстовой модальностью, статичностью знаний и возможными ошибками или небезопасными ответами; конкретный объём памяти и степень квантования зависят от выбранного GGUF-файла. Использование регулируется коммерческой Llama 3.1 Community License.

unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Meta Llama 3.1 8B, подготовленная с использованием Unsloth. Модель разработана Meta и предназначена для генерации текста и кода, диалоговых сценариев, ответов на инструкции и других задач обработки текста. Она работает только с текстовыми данными на входе и выдаёт текст или код. Модель построена на авторегрессионной оптимизированной архитектуре Transformer, использует Grouped-Query Attention (GQA) и содержит около 8 млрд параметров. Заявленная длина контекста составляет 128 тысяч токенов. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Instruction-тюнинг выполнен с применением supervised fine-tuning и reinforcement learning with human feedback для повышения полезности и безопасности ответов. 4-битное представление снижает требования к памяти и может быть удобно для локального запуска и инференса на доступном оборудовании, однако потенциально ограничивает точность по сравнению с полноразмерными вариантами. Модель является статической и обучена на офлайн-данных; дата отсечения знаний — декабрь 2023 года. Использование регулируется пользовательской коммерческой лицензией Llama 3.1 Community License.

Mistral Small 3 (2501) — инструктивно дообученная языковая модель Mistral AI Team на базе Mistral-Small-24B-Base-2501. Это плотная авторегрессионная модель семейства Mistral с 23,4 млрд параметров и контекстом 32 768 токенов; репозиторий содержит веса в safetensors и рассчитан на запуск, в частности, через vLLM. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений и задач программирования, а также для сценариев с вызовом функций и формированием JSON. Карточка описывает многоязычную поддержку, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский. Разработчик отмечает возможность локального развёртывания; после квантизации модель может помещаться в память RTX 4090 или MacBook с 32 ГБ ОЗУ. Для работы без квантизации указано требование около 55 ГБ видеопамяти в bf16 или fp16. Модель подходит для локальных диалоговых агентов с низкой задержкой и настройки под специализированные задачи. Она распространяется по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование и модификацию. Приведённые в карточке оценки получены на конкретных внутренних и публичных тестах и не гарантируют аналогичного качества на других данных; для заявленных возможностей вызова функций и JSON важно использовать подходящий формат шаблона и совместимые инструменты.

Карточка модели Darth-Coder/my-model3-8b-it на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Карточка модели microperceptron/NVIDIA-Nemotron-3-Super-120B-A12B-BF16 на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-BF16, поэтому описание составлено по ней. Nemotron-3-Super-120B-A12B-BF16 — языковая модель NVIDIA для диалога, рассуждений и создания агентных систем. Она предназначена для разработчиков чат-ботов, RAG-систем и совместно работающих ИИ-агентов, а также для автоматизации больших потоков задач, например обработки ИТ-заявок. Модель поддерживает сложное следование инструкциям и работу с длинным контекстом. Архитектура сочетает слои Mamba-2, Mixture-of-Experts и внимания в гибриде LatentMoE; также используются Multi-Token Prediction для ускорения генерации и 12 млрд активных параметров при 120 млрд общих. Карточка указывает контекст до 1 млн токенов, тогда как метаданные Hugging Face — 262 144 токена. Модель принимает текст и генерирует текст; заявлены английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Модель ориентирована на высокую пропускную способность, агентные сценарии, код, рассуждения и мультиязычный диалог. Карточка заявляет коммерческую готовность, но метаданные указывают лицензию «other», поэтому перед использованием следует проверить её условия. В опубликованном репозитории формат весов указан как safetensors; карточка описывает обучение с NVFP4, но это не означает, что репозиторий представляет квантизованную версию.

Карточка модели Karmation/NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4 на Hugging Face совпадает с карточкой baseten/NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4-dequant-to-BF16, поэтому описание составлено по ней. Nemotron-3-Ultra-550B-A55B-NVFP4-dequant-to-BF16 — большая языковая модель NVIDIA для диалогов, рассуждений и агентных сценариев. Она использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2 и Mixture of Experts, отдельными слоями Attention и Multi-Token Prediction. Всего в модели 550 млрд параметров, из них 55 млрд активны при вычислении; репозиторий содержит веса SafeTensors в BF16, полученные из NVFP4-чекпойнта. Модель предназначена для сложных многошаговых задач, следования инструкциям, анализа длинных документов и кодовых баз, а также для создания чат-ботов, RAG-систем и AI-агентов. Она поддерживает генерацию текста и чат на английском, французском, испанском, итальянском, немецком, португальском, японском, корейском, хинди, арабском, китайском и иврите. Карточка заявляет контекст до 1 млн токенов, тогда как метаданные указывают 262 144 токена; фактический предел зависит от конфигурации используемого чекпойнта и среды запуска. Модель рассчитана на крупные многонодовые развёртывания и требует мощного оборудования NVIDIA. Лицензия указана как other; README разрешает коммерческое и некоммерческое использование, но конкретные условия следует сверить с текстом лицензии репозитория.

duyntnet/Qwen2.5-14B-Instruct-imatrix-GGUF — набор GGUF-квантизаций инструкционно дообученной языковой модели Qwen2.5-14B-Instruct, первоначально разработанной командой Qwen компании Alibaba Cloud. Репозиторий предназначен для локального запуска и инференса через llama.cpp, KoboldCPP, text-generation-webui или Ollama. Модель относится к авторегрессионным causal language models и ориентирована на диалог, следование инструкциям, генерацию текста, программирование, математику, работу со структурированными данными и формирование структурированных ответов, включая JSON. Указана поддержка более 29 языков, в том числе английского, китайского, русского, французского, испанского, немецкого, японского и корейского. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в Attention QKV и GQA; модель содержит около 14,7 млрд параметров, 48 слоёв, 40 голов внимания для Q и 8 для KV. Заявлена длина контекста до 131 072 токенов и генерация до 8192 токенов, однако текущая конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN. Сильные стороны модели — улучшенные возможности в кодировании и математике, следование инструкциям, генерация длинных текстов и устойчивость к различным системным промптам. Ограничения включают необходимость совместимого инференс-движка и дополнительной настройки для контекста свыше 32 768 токенов. В метаданных указана лицензия other; конкретные условия лицензии в README не раскрыты.

Карточка модели jed351/qwen3-30B-A3B-SFT-DPO на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B, поэтому описание составлено по ней. Qwen3-30B-A3B — языковая модель семейства Qwen3, разработанная командой Qwen. Это причинная модель с архитектурой mixture-of-experts: в README указаны 30,5 млрд параметров всего и 3,3 млрд активируемых параметров, 48 слоёв и 128 экспертов, из которых для обработки задействуются 8. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, математики, программирования, творческого письма, перевода и работы с внешними инструментами. В ней можно переключаться между режимами рассуждения и обычного ответа. Заявлена поддержка более 100 языков и диалектов. Метаданные указывают библиотеку Transformers, формат Safetensors и контекст 40 960 токенов; README описывает нативный контекст 32 768 токенов и расширение до 131 072 с YaRN. Модель дообучена на Qwen/Qwen3-30B-A3B-Base и распространяется по лицензии Apache-2.0. Указанные в README возможности рассуждения и работы с инструментами не заменяют внешнюю проверку ответов и корректную настройку интеграций.

Карточка модели CookieXG/Qwen3-4B на Hugging Face совпадает с карточкой Qwen/Qwen3-4B, поэтому описание составлено по ней. Qwen3-4B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Она предназначена для диалогов, следования инструкциям, рассуждений, генерации кода, творческого письма, многоязычных задач и работы с инструментами. В модели около 3,7 млрд параметров по метаданным; она использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов по метаданным. README описывает переключение между режимами рассуждения и обычного диалога, а также поддержку более 100 языков и диалектов. Модель обучена на базе Qwen/Qwen3-4B-Base и распространяется в формате safetensors для библиотеки Transformers. Лицензия — Apache 2.0. Карточка предупреждает о возможных бесконечных повторах при генерации и рекомендует настраивать параметры сэмплирования.

warshanks/Qwen3-4B-Instruct-2507-AWQ — квантованная версия Qwen3-4B-Instruct-2507, разработанной командой Qwen и опубликованной пользователем warshanks. Это авторегрессионная causal language model для генерации текста в диалогах, выполнения инструкций, рассуждений, математики, научных и программных задач, понимания текста, вызова инструментов и агентских сценариев. Модель работает только в non-thinking режиме и не формирует блоки <think></think>. Модель содержит около 4 млрд параметров, из них 3,6 млрд без учёта эмбеддингов, имеет 36 слоёв и архитектуру Grouped-Query Attention с 32 головами для запросов и 8 для ключей и значений. Нативная длина контекста составляет 262 144 токена. Заявлены улучшения в многоязычном понимании, покрытии редких знаний, следовании инструкциям, открытой генерации и использовании инструментов. Это текстовая модель без заявленной поддержки изображений или других модальностей; конкретный набор языков в README не указан. Сильные стороны модели — большой контекст, улучшенные показатели в рассуждениях, кодировании, следовании инструкциям, творческом письме, многоязычных задачах и вызове инструментов при сравнительно небольшом размере. Ограничения включают работу только в non-thinking режиме, возможные требования к памяти при использовании длинного контекста и отсутствие в README подробных характеристик самой AWQ-квантизации, точных требований к оборудованию и результатов для всех практических сценариев. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.5-35B-A3B-GGUF — GGUF-версия мультимодальной модели Qwen3.5-35B-A3B, подготовленная Unsloth. Модель предназначена для локального запуска и применения в диалоговых системах, генерации и анализе текста, программировании, агентских сценариях, работе с изображениями и вызове инструментов. Для работы доступны варианты квантования, а также настройки включения и отключения режима рассуждений. Модель представляет собой авторегрессионную языковую модель с vision encoder и гибридной архитектурой, объединяющей Gated Delta Networks и разреженный Mixture-of-Experts. Всего заявлено 35 млрд параметров, из которых активируется 3 млрд; размер скрытого представления составляет 2048, используется 40 слоёв и словарь размером 248 320 токенов. Модель поддерживает 201 язык и диалект, а её мультимодальность позволяет обрабатывать текст и изображения. GGUF-файлы обновлены с использованием улучшенных данных и алгоритма квантования, что ориентировано на более высокую точность при локальном инференсе. К сильным сторонам относятся сочетание мультимодального понимания, рассуждений, программирования и агентских задач с относительно низким числом активных параметров, а также возможность локального запуска через совместимые инструменты. Ограничения связаны с использованием квантованных вариантов: конкретные характеристики качества, требования к памяти, контекстное окно и поддерживаемые форматы зависят от выбранного файла и среды инференса; для данной GGUF-сборки они в README не уточнены. Модель распространяется по лицензии Apache-2.0.

cyankiwi/Qwen3.8-27B-AWQ-INT4 — это квантованная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем cyankiwi. Модель представлена в формате Hugging Face Transformers и использует квантование AWQ с точностью INT4; размер файлов модели составляет около 21,02 ГБ. Лицензия — Apache-2.0. Модель предназначена для генерации и анализа текста, программирования, профессиональных и исследовательских задач, а также длительных агентских сценариев с планированием и обработкой обратной связи от окружения. Это causal language model с vision encoder, которая нативно понимает изображения и видео, включая документы и STEM-диаграммы. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Модель содержит 27 млрд параметров, 64 слоя и скрытую размерность 5120. Архитектура сочетает Gated DeltaNet и Gated Attention, а также использует Multi-Token Prediction. Нативная длина контекста составляет 262 144 токена, с заявленной возможностью расширения до 1 000 000 токенов. Режим рассуждений включён по умолчанию, но может отключаться для отдельных запросов; глубина рассуждений настраивается параметром reasoning_effort, а контекст рассуждений из предыдущих сообщений может сохраняться с помощью preserve_thinking. К сильным сторонам относятся сочетание текстовых и визуальных возможностей, поддержка видео, длинного контекста, управляемого рассуждения и агентского выполнения задач при относительно компактном для класса 27B размере. К ограничениям относятся потери точности, возможные для INT4-квантования, а также необходимость совместимого программного обеспечения и значительного объёма памяти для локального запуска. README не содержит подробных числовых результатов тестирования, поэтому качество на конкретных бенчмарках по этим данным оценить нельзя.

Карточка модели Ahriman07/Qwen3-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Карточка модели liarnorld/Qwen3-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Карточка модели RedHatAI/Qwen3-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Карточка модели Riyan200324200324/Qwen3-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Qwen-72B-Chat — диалоговая языковая модель Alibaba Cloud, созданная на основе Qwen-72B с применением методов выравнивания. Это плотная Transformer-модель семейства Qwen с 119,4 млрд параметров и контекстом до 32 768 токенов; в репозитории представлены веса Safetensors. Модель предназначена для многошагового диалога и генерации текста по системным инструкциям. Она подходит для ответов на вопросы, ролевого общения и смены стиля, а также для рассуждений, перевода, математических задач и генерации кода. В описании заявлена поддержка китайского, английского и других языков; обучение включало веб-тексты, книги, код и математические данные. Для запуска в BF16/FP16 требуется не менее 144 ГБ видеопамяти, для Int4 — не менее 48 ГБ. В README приведены результаты бенчмарков, но они не гарантируют качество на конкретных пользовательских задачах. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

Shuttle-3.5 — дообученная ShuttleAI версия языковой модели семейства Qwen3, предназначенная для диалогов, следования инструкциям и работы с внешними инструментами. Она сочетает режим рассуждений для сложных задач с обычным режимом ответов; в карточке заявлены улучшения в математике, программировании, логическом рассуждении, творческом письме и ролевых диалогах. Модель имеет плотную архитектуру Qwen3ForCausalLM и 29,7 млрд параметров по метаданным. Она принимает текст и генерирует текст; метаданные указывают контекст до 40 960 токенов, а карточка модели — поддержку более 100 языков и диалектов. Для совместимой интеграции предусмотрен интерфейс вызова инструментов. Модель подходит для многоязычного общения, перевода, генерации кода и агентных сценариев. Заявления о сравнительных результатах и качестве основаны на карточке разработчика и не сопровождаются здесь независимой оценкой. Лицензия — Apache-2.0.

Spark-X2.5-4B — компактная языковая модель общего назначения, разработанная командой Spark. Это дообученная версия Spark-X2.5-4B-Base с плотной архитектурой Spark 2.5 на 3,8 млрд параметров; веса опубликованы в формате Safetensors и предназначены для запуска через Transformers. Гибридное внимание сочетает один слой полного внимания с тремя слоями внимания со скользящим окном, а нативный контекст достигает 1 048 576 токенов. Модель рассчитана на диалог, написание и перевод текстов, рассуждения, программирование, вызов инструментов и агентные сценарии. Она поддерживает более 200 языков, а карточка описывает интеграцию с популярными агентными средами и системами инференса. Заявленные сильные стороны — широкий спектр задач и работа с длинным контекстом при оптимизации вычислений и KV-кэша. Качество на конкретной задаче может отличаться; длинный контекст требует достаточной памяти устройства. Лицензия — Apache-2.0.

T-pro-it-2.0 — плотная языковая модель семейства Qwen3, разработанная t-tech на базе Qwen/Qwen3-32B с продолженным предобучением и этапами выравнивания. Модель содержит 29,7 млрд параметров, рассчитана на генерацию текста и диалог; в карточке заявлена поддержка русского языка и контекст до 40 960 токенов по метаданным. README указывает нативную длину контекста 32 768 токенов. Модель предназначена для русскоязычных запросов общего назначения, включая рассуждения, ответы на вопросы и программирование. Обучение включало 40 млрд токенов инструкционных данных, около 500 тыс. примеров для supervised fine-tuning и около 100 тыс. примеров preference tuning; предусмотрены режимы с рассуждением и без него. В README приведено сравнение с Qwen 3 32B и другими моделями на русскоязычных бенчмарках. Для инференса рекомендован SGLang; настройки генерации предлагается выбирать с учётом режима и сложности запроса. Модель распространяется по лицензии Apache-2.0. Разработчики предупреждают, что перед промышленным или коммерческим применением необходимы дополнительная проверка, обучение и контроль ответов.

Apodex-1.1-mini-FP8 — reasoning-first языковая модель, разработанная Apodex AI. Она предназначена для сложных долгосрочных исследовательских и агентских задач, требующих не только генерации текста, но и работы с файлами, данными, таблицами, изображениями, кодом и внешними инструментами. Модель может декомпозировать задачу, координировать параллельных субагентов, поддерживать общее состояние работы, адаптировать план по ходу выполнения и формировать проверяемые результаты. Модель относится к текстогенерационным моделям, совместима с chat template Qwen3.5 и поддерживает нативный function calling, а также выдачу рассуждений. Указаны языки English и Chinese. Для развёртывания рекомендуется SGLang с OpenAI-совместимым API; заявленная длина контекста составляет до 262144 токенов, максимальная длина генерации в рекомендуемых настройках — 32768 токенов. Суффикс FP8 указывает на используемый формат представления модели, однако точный размер и архитектура в README не указаны. Сильные стороны модели — выполнение многоэтапных задач в реальных средах, работа с инструментами и встроенная проверка утверждений по источникам, данным и вычислениям. В README приведены высокие результаты на ряде тестов, включая FrontierFinance и FrontierScience-Research, но применимость этих результатов к конкретным задачам может различаться. Ограничения включают отсутствие подробных сведений о точной архитектуре, количестве параметров, поддерживаемых аппаратных конфигурациях и полном наборе модальностей. Модель распространяется по лицензии Apache 2.0.

Карточка модели cemig-nlp-releases/energy-gpt-regulatorio-32B-v2 на Hugging Face совпадает с карточкой Qwen/Qwen3-32B, поэтому описание составлено по ней. Qwen3-32B — плотная причинно-следственная языковая модель семейства Qwen3, разработанная командой Qwen. Она предназначена для диалога, следования инструкциям, рассуждений, генерации кода, перевода и работы с внешними инструментами. В одной модели можно переключаться между режимом рассуждений для сложных задач и обычным режимом ответа. Модель содержит 29,7 млрд параметров по метаданным каталога; в README указано 32,8 млрд параметров, включая 31,2 млрд без эмбеддингов. Архитектура — Qwen3ForCausalLM, для запуска поддерживается Transformers. Нативный контекст составляет 40 960 токенов по метаданным каталога; README указывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Семейство поддерживает более 100 языков и диалектов. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Модель подходит для многошагового диалога и сценариев с вызовом инструментов, а также для математических и логических рассуждений, творческого письма и программирования. Карточка заявляет сильные способности к следованию инструкциям и многоязычным задачам; качество конкретных ответов зависит от запроса и развертывания. В README не приведены конкретные ограничения или оговорки по безопасности.

Карточка модели ApocalypseParty/G4-31B-SFT-v6-1 на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

coder3101/gemma-4-12B-it-heretic — мультимодальная инструкционная модель на базе Google Gemma 4 12B IT. Это дообученная версия с маркировками heretic, uncensored и decensored; автор README описывает семейство Gemma 4 как модель для рассуждений, диалога, агентных сценариев, программирования и анализа мультимодальных данных. Архитектура — плотная Gemma4UnifiedForConditionalGeneration с гибридным вниманием: локальные скользящие окна чередуются с глобальным вниманием. Модель принимает текст, изображения, видео и аудио и генерирует текст. Для семейства заявлены распознавание объектов, OCR, извлечение данных из документов, понимание интерфейсов и графиков, анализ видеокадров, распознавание речи и перевод речи в текст; также поддерживаются вызовы инструментов. README указывает поддержку более 35 языков на уровне модели семейства, но не перечисляет их по отдельности. Для версии 12B заявлен контекст до 256 тысяч токенов. Модель подходит для диалоговых помощников, программирования, анализа документов и изображений, транскрибации речи и мультимодальных агентных сценариев. Возможны фактические ошибки, трудности с неоднозначностью и сложными открытыми задачами, а также смещения из обучающих данных; маркировка uncensored указывает на ослабление ограничений безопасности, но конкретные изменения и оценки в README не описаны. Лицензия — Apache-2.0.

unsloth/gemma-4-31B-it-NVFP4 — квантизированная версия мультимодальной instruction-tuned модели Gemma 4 31B, разработанной Google DeepMind и подготовленной Unsloth в формате NVFP4. Модель предназначена для обработки текста и изображений с генерацией текста, а также для reasoning, программирования, агентских сценариев и вызова функций. Модель использует плотную архитектуру с 30,7 млрд параметров, 60 слоями и гибридным механизмом внимания, сочетающим локальное sliding window attention с глобальным вниманием; размер окна — 1024 токена. Контекстное окно составляет до 256K токенов, словарь — 262K элементов. Поддерживается более 140 языков. Для визуального ввода используется vision encoder примерно на 550 млн параметров; аудио для версии 31B не заявлено. Квантизация NVFP4 снижает требования к памяти и ориентирована на эффективный запуск на совместимом GPU, в частности через vLLM. Сильные стороны модели — большое контекстное окно, мультимодальное понимание текста и изображений, улучшенные возможности reasoning и coding, native function calling и поддержка system prompt. Ограничения связаны с отсутствием аудиовхода у версии 31B, требованиями к совместимому программному и аппаратному стеку NVFP4, а также с тем, что README не приводит подробные результаты бенчмарков и оценки качества именно этой квантизированной сборки. Модель распространяется по лицензии Apache 2.0.

Карточка модели eyentsign/gemma-4-31B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-31B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46 подготовил Gemma 4 31B IT Uncensored Heretic — дообученную версию мультимодальной Gemma 4 31B IT от Google DeepMind. В README указано изменение компонента attn.o_proj; модель предназначена для диалогов, рассуждений, агентных сценариев, программирования и понимания изображений. Она принимает текст и изображения, поддерживает вызов инструментов и может разбирать документы, графики и интерфейсы, извлекать текст с изображений и отвечать на вопросы по визуальному содержимому. В основе — плотная архитектура Gemma4ForConditionalGeneration с чередованием локального скользящего и глобального внимания. Для исходной модели Gemma 4 31B IT заявлен контекст до 256 тысяч токенов и поддержка более 35 языков; метаданные указывают Transformers и формат safetensors. README также описывает видео и аудио для семейства Gemma 4, однако аудио заявлено только для вариантов E2B и E4B, поэтому здесь эти возможности не приписываются версии 31B. Карточка предупреждает о возможных фактических ошибках, предвзятости и трудностях с неоднозначностью и сложными открытыми задачами. Название «uncensored» указывает на изменённую фильтрацию, но карточка не описывает её конкретный эффект. Лицензия — Apache-2.0.

llmfan46 подготовил Gemma 4 31B IT Uncensored Heretic — дообученную версию мультимодальной Gemma 4 31B IT от Google DeepMind. В README указано изменение компонента attn.o_proj; модель предназначена для диалогов, рассуждений, агентных сценариев, программирования и понимания изображений. Она принимает текст и изображения, поддерживает вызов инструментов и может разбирать документы, графики и интерфейсы, извлекать текст с изображений и отвечать на вопросы по визуальному содержимому. В основе — плотная архитектура Gemma4ForConditionalGeneration с чередованием локального скользящего и глобального внимания. Для исходной модели Gemma 4 31B IT заявлен контекст до 256 тысяч токенов и поддержка более 35 языков; метаданные указывают Transformers и формат safetensors. README также описывает видео и аудио для семейства Gemma 4, однако аудио заявлено только для вариантов E2B и E4B, поэтому здесь эти возможности не приписываются версии 31B. Карточка предупреждает о возможных фактических ошибках, предвзятости и трудностях с неоднозначностью и сложными открытыми задачами. Название «uncensored» указывает на изменённую фильтрацию, но карточка не описывает её конкретный эффект. Лицензия — Apache-2.0.

ente-ai/gemma-4-E4B-it-GGUF — квантизированная в формате GGUF instruction-tuned версия модели Gemma 4 E4B, разработанной Google DeepMind и опубликованной в виде сборки Unsloth. Модель относится к семейству открытых мультимодальных моделей Gemma 4 и предназначена для локального запуска, в том числе на ноутбуках и мобильных устройствах, а также для использования в Unsloth Studio и совместимых инструментах. Модель поддерживает обработку текста, изображений и аудио с генерацией текста, ориентирована на рассуждения, генерацию текста, программирование, мультимодальный анализ, агентские сценарии и вызов функций. Для E4B указаны около 4,5 млрд эффективных параметров и 8 млрд параметров с учётом эмбеддингов, 42 слоя, размер контекстного окна до 128K токенов и локальное окно внимания 512 токенов. Архитектура Gemma 4 использует гибридное внимание с чередованием локального sliding window attention и глобального внимания; заявлена поддержка более 140 языков, настраиваемых режимов рассуждения и системных промптов. К сильным сторонам относятся мультимодальность, большое контекстное окно, поддержка native function calling, возможности для кодирования и эффективного локального развертывания благодаря 4-битному GGUF-представлению. Ограничения включают зависимость качества и скорости от выбранного квантизированного варианта и аппаратного обеспечения; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии Apache 2.0, при этом для Gemma 4 также следует учитывать условия лицензии Google, доступные по указанной ссылке.

GLM-4.6-Flash-text — текстовая версия модели GLM-4.6V-Flash от zai-org, опубликованная в репозитории sartajbhuvaji. Из исходной мультимодальной модели удалена система обработки изображений; дообучение, дистилляция и переобучение не выполнялись. Текстовый путь сохранён побитово идентичным исходной модели, что подтверждено сравнением логитов на коротких и длинных последовательностях. Модель предназначена для генерации и обработки текста, включая ответы на вопросы, программирование, объяснение понятий, перевод и работу с длинным контекстом. Поддерживаются английский и китайский языки. Архитектура представляет собой декодер GLM-4: 40 слоёв, скрытое представление размерностью 4096, 32 головы внимания и 2 KV-головы с GQA, словарь на 151 552 токена и максимальная длина позиций 131 072 токена. Количество параметров составляет около 9,4 млрд, размер BF16-весов — около 18,8 ГБ. Доступны также варианты GGUF с квантованием Q8_0, Q6_K, Q5_K_M и Q4_K_M. Главное преимущество — сохранение качества текстовой части исходной модели при уменьшении размера весов и снижении требований к памяти при серверном запуске. В описанном сценарии vLLM на A100-SXM4-40GB модель обеспечивала больше доступной KV-кэш-памяти, более высокую максимальную параллельность и существенно более быструю инициализацию по сравнению с исходной мультимодальной конфигурацией. Ограничение модели — отсутствие поддержки изображений и других мультимодальных входов; она предназначена только для текста. Лицензия — MIT.

Карточка модели crusoeai/gpt-oss-120b-BF16 на Hugging Face совпадает с карточкой unsloth/gpt-oss-120b-BF16, поэтому описание составлено по ней. unsloth/gpt-oss-120b-BF16 — вариант модели gpt-oss-120b от Unsloth, основанный на openai/gpt-oss-120b. Это генеративная языковая модель с архитектурой MoE; карточка описывает исходную gpt-oss-120b как модель на 117 млрд параметров, из которых активно 5,1 млрд, а метаданные этого репозитория указывают 2,1 млрд параметров. Модель предназначена для диалога, сложных рассуждений, агентных сценариев и задач разработчиков. Она поддерживает настройку уровня рассуждений и работу с вызовом функций, веб-поиском, выполнением Python-кода и структурированными ответами. Контекстное окно — 131 072 токена. Для корректной работы требуется формат диалога Harmony; в README также отмечено, что цепочку рассуждений не следует показывать конечным пользователям. Репозиторий содержит веса Safetensors и рассчитан на Transformers. Лицензия — Apache 2.0, допускающая коммерческое использование.