II.4Отладка, тестирование и качество ПО

Qwen3.8-Flash-Next — открытая модель с весами от команды Qwen, построенная как причинная языковая модель с энкодером изображений. Она предназначена для диалогов, агентных сценариев и задач, где нужно анализировать изображения вместе с текстом. Архитектура сочетает Gated DeltaNet и Qwen Sparse Attention, разреженную MoE-сеть и n-граммные эмбеддинги. В языковой части заявлено 125 млрд параметров, из которых активируются 6 млрд, а также 51 млрд параметров n-граммных эмбеддингов и 4 млрд параметров MTP. Модель имеет 48 слоёв и нативный контекст 262 144 токена с возможностью расширения до 1 000 000. Карточка описывает оценки на задачах программирования, офисной продуктивности и работы с изображениями, а также режим рассуждений, включённый по умолчанию. Для интеграции разработчик рекомендует API. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в материалах репозитория и у разработчика.

local-inference-lab/Qwen3.8-Flash-Next-NVFP4 — мультимодальная conversational-модель, дистиллированная из Qwen/Qwen3.8-Flash-Next с применением quantization-aware distillation. Она предназначена для диалогов, общего следования инструкциям, reasoning, программирования, multilingual-сценариев и обработки изображений с текстом. В качестве учителя использовалась исходная BF16-модель Qwen, а обучение проводилось на корпусе из 200 004 844 prompt-and-response токенов и 53 573 документов с последовательностями до 8 192 токенов. Архитектура сохранена без сокращения числа слоёв и экспертов: 48 decoder layers, 512 routed experts на слой, из которых для каждого токена активны 10, гибрид Gated DeltaNet/Qwen Sparse Attention и n-gram embedding tables. Сжатие достигается пониженной точностью весов: routed experts и часть компонентов используют NVFP4, другие проекции — MXFP8, а отдельные параметры остаются в BF16. Также сохранены vision encoder, MTP-модуль, tokenizer, chat template и vision assets. Размер checkpoint составляет около 98 GiB; заявлены оценки AA-LCR 79.4, GPQA Diamond 89.9 и Tool Eval Bench 91. Сильные стороны модели — сохранение исходной архитектуры, обучение с компенсацией ошибок квантования и более высокая эффективность по сравнению с NVFP4 PTQ на GPQA Diamond: при сопоставимом качестве модель использовала меньше токенов. Ограничения включают значительный объём checkpoint, дополнительные требования к памяти для KV cache и runtime buffers, а также необходимость runtime с поддержкой Qwen3.8-Flash-Next и смешанного ModelOpt-формата NVFP4/MXFP8, включая NVFP4 PLE tables. Модель распространяется по лицензии qwen-community-1.0; точные условия следует проверять по указанной license-ссылке.

Solar Open 2 — открытая по весам большая языковая модель компании Upstage для агентных сценариев, офисной продуктивности, работы с документами и программирования. В карточке модель обозначена как 250B-A15B: архитектура Hybrid-Attention Mixture-of-Experts содержит около 250 млрд параметров, из которых на каждом токене активируется около 15 млрд. Метаданные указывают архитектуру SolarOpen2ForCausalLM, формат safetensors и поддержку text-generation; модель также описана как чат-модель. Гибридная архитектура чередует слои линейного и softmax-внимания и рассчитана на эффективный инференс при длинном контексте. Заявленная длина контекста — до 1 048 576 токенов. Модель предназначена для многошагового рассуждения, вызова инструментов и выполнения задач; в README указаны английский, корейский и японский языки. Для локального запуска приведены требования к нескольким GPU с большим объёмом памяти, а для продакшен-сервинга рекомендован vLLM. В README не приведены конкретные условия лицензии: метаданные обозначают её как other, поэтому перед использованием следует проверить полный текст лицензии в карточке модели. Производительность и доступность зависят от аппаратной конфигурации, длины контекста и настроек сервинга; заявленные результаты бенчмарков не гарантируют качество на конкретных задачах.

Карточка модели KyleAIers/Spark-X2.5-4B на Hugging Face совпадает с карточкой 0xSojalSec/Spark-X2.5-4B, поэтому описание составлено по ней. Spark-X2.5-4B — компактная языковая модель общего назначения, разработанная командой Spark. Это дообученная версия Spark-X2.5-4B-Base с плотной архитектурой Spark 2.5 на 3,8 млрд параметров; веса опубликованы в формате Safetensors и предназначены для запуска через Transformers. Гибридное внимание сочетает один слой полного внимания с тремя слоями внимания со скользящим окном, а нативный контекст достигает 1 048 576 токенов. Модель рассчитана на диалог, написание и перевод текстов, рассуждения, программирование, вызов инструментов и агентные сценарии. Она поддерживает более 200 языков, а карточка описывает интеграцию с популярными агентными средами и системами инференса. Заявленные сильные стороны — широкий спектр задач и работа с длинным контекстом при оптимизации вычислений и KV-кэша. Качество на конкретной задаче может отличаться; длинный контекст требует достаточной памяти устройства. Лицензия — Apache-2.0.

cyankiwi/gemma-4-26B-A4B-it-qat-AWQ-INT4 — инструкцияно дообученная мультимодальная модель семейства Gemma 4, разработанного Google DeepMind, в формате AWQ INT4 с использованием Quantization-Aware Training. Модель основана на google/gemma-4-26B-A4B-it-qat-q4_0-unquantized и предназначена для локального и серверного развёртывания с уменьшенными требованиями к памяти; размер файлов модели составляет около 17,19 ГБ. Модель принимает текст и изображения с переменным соотношением сторон и разрешением и генерирует текст. Она ориентирована на генерацию текста, программирование, рассуждения, мультимодальное понимание и агентские сценарии, включая нативный вызов функций и поддержку системных инструкций. Для варианта 26B заявлено контекстное окно до 256K токенов. Семейство поддерживает более 140 языков; в карточке явно указаны английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский. Ключевые преимущества — мультимодальность, режимы настраиваемого рассуждения, улучшенные возможности программирования и агентов, а также снижение потребления памяти благодаря QAT и INT4-квантизации при стремлении сохранить качество, близкое к bfloat16. Ограничения включают возможные потери качества из-за квантизации, требования к совместимому ПО и оборудованию, а также отсутствие в README конкретных результатов бенчмарков и детальных требований к ресурсам. Модель распространяется по лицензии Apache 2.0.

llmfan46 создал дообученную версию мультимодальной Gemma 4 26B A4B IT, ориентированную на диалоги с ослабленными ограничениями отказа. В метаданных указаны архитектура Gemma4, библиотека Transformers, формат safetensors и базовая модель google/gemma-4-26B-A4B-it. Карточка описывает гибридное чередование локального скользящего и глобального внимания; для базовой модели этого размера заявлен контекст до 256 тысяч токенов. Модель принимает текст и изображения и выдаёт текст. Она предназначена для общения, рассуждений, генерации и исправления кода, вызова инструментов, анализа изображений, распознавания текста на изображениях и разбора документов. Карточка также перечисляет понимание видео и аудио для семейства Gemma 4, но аудио относится только к вариантам E2B и E4B, поэтому не включено в возможности этой модели. Для семейства заявлена поддержка более 35 языков, однако конкретные языки этой версии не перечислены. Как и другие языковые модели, она может выдавать неверные факты, хуже справляться с неоднозначными запросами и отражать смещения обучающих данных. Маркировка uncensored указывает на ослабленные ограничения отказа, но карточка не объясняет точный объём изменений или их влияние на качество. Лицензия — Apache 2.0.

MuXodious выпустил дообученную мультимодальную модель Gemma 4 E4B Instruct с применением Heretic v1.4.0 и методов abliteration, включая Self-Organizing Maps и Magnitude-Preserving Orthogonal Ablation. В README приведены результаты эксперимента по снижению отказов и KL-дивергенции относительно исходной модели. Основа — google/gemma-4-E4B-it-qat-q4_0-unquantized; архитектура — плотная Gemma4ForConditionalGeneration, библиотека Transformers, веса в формате Safetensors. Лицензия — Apache 2.0. Модель принимает текст и изображения и генерирует текст; семейство Gemma 4 E4B также поддерживает аудио. Она предназначена для диалога, рассуждений, анализа изображений и документов, распознавания речи, программирования и сценариев с вызовом инструментов. Для семейства в целом указаны контекст до 128K токенов у E4B и поддержка множества языков, но README не подтверждает, что все перечисленные возможности доступны именно этому чекпойнту после дообучения.

Карточка модели marcus230/gemma-4-E4B-it-ultra-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-ultra-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-ultra-uncensored-heretic — производная от Google Gemma 4 E4B Instruct мультимодальная модель, дообученная независимым автором. В основе — плотная архитектура Gemma4ForConditionalGeneration с чередованием локального оконного и глобального внимания. Модель рассчитана на диалог, рассуждения, программирование и понимание мультимодальных данных; для варианта E4B заявлено контекстное окно до 128 тыс. токенов. Модель принимает текст и изображения, а семейство E4B также поддерживает аудиовход для распознавания речи и перевода речи в текст. Gemma 4 заявлена как многоязычное семейство с поддержкой более 35 языков; конкретный языковой охват этой производной отдельно не описан. Возможны извлечение текста из документов и изображений, понимание диаграмм и интерфейсов, генерация и исправление кода, суммаризация и диалог. Название uncensored указывает на изменённое поведение отказов, но README не раскрывает точный объём изменений. Карточка предупреждает о возможных предвзятости, фактических ошибках, затруднениях с нюансами языка и сложными открытыми задачами. Модель распространяется по лицензии Apache-2.0.

cyankiwi/granite-4.1-8b-AWQ-INT4 — квантизированная версия Granite-4.1-8B, разработанной командой Granite компании IBM. Модель представляет собой 8-миллиардную instruct-модель для работы с текстом; вариант в данном репозитории использует квантизацию AWQ с точностью INT4 и имеет размер около 5,43 ГБ. Модель предназначена для создания AI-ассистентов и LLM-агентов, включая бизнес-приложения и сценарии с использованием внешних инструментов и API. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи программирования, function calling, многоязычный диалог и Fill-In-the-Middle-дополнение кода. В README заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; для калибровки этой версии указаны STEM- и агентские сценарии. Модель описана как long-context, но точный размер контекстного окна не указан. Сильными сторонами являются улучшенное обучение после предварительного обучения, включая supervised fine-tuning и reinforcement learning alignment, а также акцент на следовании инструкциям, диалоге и вызове инструментов. Квантизация AWQ INT4 снижает требования к хранению и вычислительным ресурсам, однако может сопровождаться компромиссами по точности по сравнению с полноточной версией; количественные результаты такого сравнения в README не приведены. Модель распространяется по лицензии Apache 2.0.

Карточка модели Mahesh111000/hanabi-qwen3-8b-rl-step150 на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Hermes 4 70B FP8 — языковая модель для генерации текста, разработанная Nous Research на базе Meta Llama 3.1 70B. Это instruct-модель с гибридным режимом рассуждений: при необходимости она формирует рассуждение в сегментах <think>...</think>, а затем выдаёт итоговый ответ. Модель ориентирована на чат и роль универсального ассистента, поддерживает форматы ChatML и Llama 3, текстовый ввод и вывод, а также заявленные сценарии function calling, tool use, JSON и структурированных ответов. В карточке указан английский язык и библиотека Transformers; размер контекста не указан. Модель предназначена для задач общего ассистирования, reasoning, математики, программирования, STEM, логики, творческого письма, ролевого общения и генерации ответов в заданной структуре. Среди заявленных сильных сторон — улучшенное следование схемам и форматам, способность исправлять некорректные JSON-объекты, управляемость, сниженный уровень отказов и сохранение общего качества диалога. Ограничения включают высокие вычислительные требования, характерные для модели класса 70B, отсутствие в карточке подробных независимых результатов тестирования и ограниченную информацию о поддерживаемых языках: явно указан только английский. Распространение осуществляется по лицензии Llama 3.

Kiwen1.1-27B — плотная мультимодальная модель на 27 млрд параметров, созданная beyoru дообучением Qwen3.8-27B на цепочках рассуждений Kimi K3. Она предназначена для диалогов, многошаговых рассуждений, программирования, следования инструкциям и работы с инструментами; поддерживает анализ изображений. В метаданных также отмечены возможности chat и tool calling. В README приведены результаты GSM8K и IFEval, а также внутреннего набора задач: автор сообщает о заметном улучшении на GSM8K, небольшом приросте на VMLU и выигрышах в переводе, классификации намерений и маршрутизации. Для извлечения, классификации и форматирования рекомендуется отключать режим рассуждений. README показывает запуск с контекстом 262144 токена. Модель распространяется по лицензии Apache-2.0. Автор отмечает проблемы качества ответов при использовании dflash2.

Llama-TI-8B — текстовая авторегрессионная модель семейства Llama, разработанная и загруженная ehristoforu на основе Meta Llama 3.1 8B. В модели сохранена архитектура LlamaForCausalLM; README указывает на дополнительное обучение и слияние моделей. Число параметров — 7,5 млрд по метаданным, контекст — до 131 072 токенов. Распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для генерации текста, рассуждений, решения математических и физических задач, творческого письма, программирования и анализа длинных текстов. README заявляет об улучшениях в математике, биологии, рассуждениях и письме; модель ориентирована на многоязычную генерацию, однако конкретные поддерживаемые естественные языки не перечислены. Доступна базовая версия, а чат-версия вынесена в отдельный репозиторий.

gratex/Mistral-Small-3.2-24B-Instruct-2506-W4A16-AutoRound — квантизированная версия мультимодальной instruct-модели Mistral-Small-3.2-24B-Instruct-2506 от Mistral AI. Модель поддерживает работу с текстом и изображениями благодаря vision-компоненту Pixtral и предназначена для генерации текста, ответов на инструкции, рассуждений, программирования, задач с вызовом функций и сценариев vision-language. Модель содержит около 24 млрд параметров и использует архитектуру Mistral3ForConditionalGeneration: 40 декодерных слоёв, скрытый размер 5120, GQA с 32 query- и 8 key/value-головами, а также контекст до 131 072 токенов. Vision-энкодер Pixtral включает 24 слоя с размером скрытого состояния 1024; используется обработка изображений, но поддержка видео в калибровочных данных не заявлена. Квантизация выполнена методом AutoRound 0.10.2 с оптимизацией SignRound: веса текстового декодера представлены в INT4 с group_size 128, а активации, vision tower, мультимодальный проектор, эмбеддинги, lm_head и layer norms сохранены в BF16. Главное преимущество модели — существенное снижение требований к памяти при сохранении мультимодальных возможностей и широкая совместимость формата с GPU архитектур Ampere, Ada и Blackwell, а также движками vLLM, SGLang и TensorRT-LLM. По приведённому тесту WikiText-2 perplexity составляет 7,2478 против 7,0332 у базовой BF16-модели, то есть ухудшение равно 3,05%; это указывает на умеренную потерю качества из-за 4-битной квантизации. Лицензия — Apache-2.0.

Mistral-Small-4-119B-2603-heretic-gguf — набор GGUF-квантизаций модели Mistral Small 4 119B 2603 Heretic. Базовая модель разработана Mistral AI, а heretic-версия опубликована darkc0de; данный репозиторий содержит варианты для запуска в формате GGUF. Модель построена на архитектуре Mistral4 с разреженной MoE-структурой и MLA attention: всего 119 млрд параметров, из которых 6,5 млрд активируются на каждом токене, используются 128 экспертов, 4 из них активны одновременно. Модель предназначена для диалогов, генерации и анализа текста, агентских сценариев, вызова функций с JSON-выводом, задач рассуждения и обработки изображений с формированием текстового ответа. Поддерживаются быстрый режим и режим рассуждения с дополнительными вычислениями во время вывода, а также контекст до 256 тысяч токенов. Заявлена мультимодальность с входными данными в виде текста и изображений. Указана поддержка множества языков, включая английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский, арабский, украинский, хинди и другие. К сильным сторонам относятся большой контекст, сочетание мультимодальности, рассуждения, function calling и агентских возможностей, а также высокая скорость за счёт MoE-архитектуры. Heretic-версия характеризуется меньшим числом отказов по сравнению с исходной моделью по приведённой статистике, однако конкретное поведение и качество зависят от выбранной квантизации. Доступны варианты от BF16 до Q2_K размером примерно от 221,6 до 40,4 GiB; рекомендуемым обозначен Q4_K_M. Лицензия Apache 2.0 допускает коммерческое и некоммерческое использование.

ybelkada/Mixtral-8x7B-Instruct-v0.1-AWQ — это 4-битно квантованная версия Mixtral 8x7B Instruct v0.1, опубликованная пользователем ybelkada на Hugging Face. Исходную модель разработала Mistral AI. Она предназначена для генерации текста, диалоговых сценариев и выполнения инструкций; поддерживает запуск через Transformers, vLLM и SGLang. В основе лежит decoder-only Transformer с разреженной архитектурой Mixture of Experts: восемь experts примерно по 7B параметров, из которых для каждого токена выбираются два. Всего модель содержит около 47B параметров, но во время обработки токена активно используется около 13B. Контекстное окно исходной модели составляет 32K токенов. Модель обучалась на многоязычных данных и демонстрирует сильные результаты в рассуждениях, математике, генерации кода и многоязычных задачах; версия Instruct дополнительно дообучена следовать инструкциям с использованием supervised fine-tuning и Direct Preference Optimization. Ключевое преимущество этой версии — снижение требований к памяти благодаря AWQ-квантизации до 4 бит при сохранении функциональности исходной модели. Ограничения включают значительный общий объём параметров и соответствующие требования к памяти, а также возможные накладные расходы MoE-маршрутизации; эффективность зависит от совместимого программного обеспечения и GPU. Для исходной Mixtral 8x7B Instruct указана лицензия Apache 2.0, допускающая академическое и коммерческое использование; для конкретного квантованного репозитория условия следует проверять отдельно.

AIArchiveInfo публикует побайтовую архивную копию Qwen2.5-7B-Instruct, созданную из репозитория Qwen/Qwen2.5-7B-Instruct; веса не изменялись, обучение или дообучение в этом репозитории не проводились. Это инструкционно настроенная причинная языковая модель семейства Qwen2.5 с архитектурой Qwen2ForCausalLM, примерно 7,1 млрд параметров и контекстом 32 768 токенов по метаданным. README описывает архитектуру на базе трансформера с RoPE, SwiGLU, RMSNorm и смещениями QKV; для более длинного контекста предлагается YaRN, но он может снижать производительность на коротких запросах. Модель предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов, работу с таблицами и структурированными ответами JSON, а также задачи программирования и математики. Указана поддержка более 29 языков, включая русский и английский. Использовать можно через Transformers; README рекомендует актуальную версию библиотеки. Лицензия Apache-2.0 распространяется на архивную копию согласно карточке.

unsloth/Qwen3.5-122B-A10B-MTP-GGUF — это GGUF-квантование мультимодальной модели Qwen3.5-122B-A10B, разработанное Unsloth на базе модели Qwen/Qwen3.5-122B-A10B от команды Qwen. Модель предназначена для локального запуска и совместима с llama.cpp, а исходная модель также поддерживает Transformers, vLLM, SGLang и KTransformers. Модель использует гибридную архитектуру с Gated Delta Networks и разреженным Mixture-of-Experts: при общем размере 122 млрд параметров активируется около 10 млрд параметров. Она работает с текстом и изображениями, поддерживает задачи рассуждения, программирования, визуального понимания, агентных сценариев и вызова инструментов. Заявлена поддержка 201 языка и диалекта. Вариант MTP поддерживает speculative decoding, что может ускорять генерацию примерно в 1,5–2 раза. К сильным сторонам относятся мультимодальность, высокая эффективность разреженной архитектуры, улучшенные квантование и данные imatrix, а также оптимизации для диалогов, длинного контекста, программирования и tool calling. Ограничения связаны с необходимостью использовать совместимую версию llama.cpp с поддержкой draft-mtp; при MTP не поддерживаются параллельные последовательности через -np > 1 и параметр --mmproj. Конкретный размер контекста в README не указан. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.5-27B-MTP-GGUF — GGUF-версия модели Qwen3.5-27B, подготовленная Unsloth на основе Qwen/Qwen3.5. Это мультимодальная causal language model с vision encoder, предназначенная для диалога, анализа изображений, рассуждений, программирования, агентских сценариев и вызова инструментов. Вариант поддерживает MTP speculative decoding для ускорения генерации примерно в 1,5–2 раза при использовании совместимой версии llama.cpp. Модель содержит 27B параметров, 64 слоя и скрытое измерение 4096. Архитектура сочетает Gated Delta Networks, Gated Attention и sparse Mixture-of-Experts; заявлена ранняя интеграция мультимодальных токенов. Поддерживается 201 язык и диалект, а входные данные могут включать текст и изображения. В README не указана длина контекста. GGUF-варианты используют imatrix-данные, оптимизированные для диалога, программирования, длинного контекста и tool calling. Сильные стороны модели — мультимодальность, широкое языковое покрытие, поддержка рассуждений и инструментов, а также ускоренная генерация с MTP. Ограничения связаны с требованиями к совместимому llama.cpp и специальным режимам запуска: для MTP пока не поддерживаются параллельные последовательности с -np > 1 и параметр --mmproj. Модель распространяется по лицензии Apache-2.0.

brayniac/Qwen3.5-35B-A3B-heretic — вариант модели Qwen3.5-35B-A3B, подготовленный методом abliteration для снижения частоты отказов. В приведённом сравнении частота отказов составляет 5 из 100 против 92 из 100 у исходной модели; KL-дивергенция относительно исходной модели — 0,0825. Это не гарантирует ответа на любой запрос и не означает отсутствия ограничений безопасности. Модель предназначена для диалогов, рассуждений, программирования, работы с изображениями и сценариев с вызовом инструментов. Это мультимодальная причинная языковая модель с визуальным энкодером и гибридной архитектурой: Gated Delta Networks сочетаются с разреженной смесью экспертов (MoE). Всего в ней 35 млрд параметров, из которых активируются около 3 млрд; нативный контекст — 262 144 токена, с возможностью расширения до 1 010 000. Семейство заявляет поддержку 201 языка и диалекта. Веса опубликованы в формате safetensors и совместимы с Transformers и рядом движков инференса. Лицензия — Apache-2.0. Результат abliteration получен с изменением поведения исходной модели, поэтому качество и надёжность ответов следует оценивать для конкретного применения; приведённая таблица отказов не заменяет широкую проверку.

Карточка модели Mahesh111000/qwen3-8b-hanabi-tinker-s105-prime-step255 на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Карточка модели kongyi/Qwen3.8-Flash-Next на Hugging Face совпадает с карточкой Qwen/Qwen3.8-Flash-Next, поэтому описание составлено по ней. Qwen3.8-Flash-Next — открытая по весам мультимодальная модель семейства Qwen, представленная как первый релиз архитектуры Qwen4-экспериментального семейства. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, работы с изображениями и агентных сценариев, включая задачи программирования и длительные рабочие процессы. В карточке описаны возможности вызова инструментов и режим рассуждения, включённый по умолчанию. Модель имеет разреженную MoE-архитектуру: 125 млрд параметров, из которых активируются 6 млрд, дополнительно 51 млрд параметров приходится на n-граммные эмбеддинги и 4 млрд — на MTP. Архитектура сочетает Gated DeltaNet и Qwen Sparse Attention, а также использует Gated Residual. Контекстное окно составляет 262 144 токена и может расширяться до 1 000 000 токенов. В карточке приведены оценки на агентных, программных и визуально-языковых бенчмарках, однако таблицы результатов и таблица языков опущены. Разработчик позиционирует модель для API-интеграции и рекомендует этот способ использования. Репозиторий содержит веса Safetensors; лицензия указана как other, поэтому условия использования следует уточнить в материалах разработчика. В предоставленных данных нет списка поддерживаемых языков и конкретных ограничений по качеству или применению.

Карточка модели MaksVern/Qwen3.8-Flash-Next на Hugging Face совпадает с карточкой Qwen/Qwen3.8-Flash-Next, поэтому описание составлено по ней. Qwen3.8-Flash-Next — открытая по весам мультимодальная модель семейства Qwen, представленная как первый релиз архитектуры Qwen4-экспериментального семейства. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, работы с изображениями и агентных сценариев, включая задачи программирования и длительные рабочие процессы. В карточке описаны возможности вызова инструментов и режим рассуждения, включённый по умолчанию. Модель имеет разреженную MoE-архитектуру: 125 млрд параметров, из которых активируются 6 млрд, дополнительно 51 млрд параметров приходится на n-граммные эмбеддинги и 4 млрд — на MTP. Архитектура сочетает Gated DeltaNet и Qwen Sparse Attention, а также использует Gated Residual. Контекстное окно составляет 262 144 токена и может расширяться до 1 000 000 токенов. В карточке приведены оценки на агентных, программных и визуально-языковых бенчмарках, однако таблицы результатов и таблица языков опущены. Разработчик позиционирует модель для API-интеграции и рекомендует этот способ использования. Репозиторий содержит веса Safetensors; лицензия указана как other, поэтому условия использования следует уточнить в материалах разработчика. В предоставленных данных нет списка поддерживаемых языков и конкретных ограничений по качеству или применению.

NobodyWho/Qwen_Qwen3.6-27B-GGUF — GGUF-квантизированная версия плотной модели Qwen3.6-27B, разработанной командой Qwen компании Alibaba Group и подготовленной для библиотеки NobodyWho. Модель предназначена для диалоговой генерации текста, следования инструкциям, рассуждений, агентных сценариев и вызова инструментов. Она также поддерживает анализ изображений при использовании вспомогательной проекционной модели mmproj-BF16.gguf. Модель содержит 27 млрд параметров, использует архитектуру qwen35 и поддерживает контекст до 262 144 токенов. Она мультимодальна, работает с текстом и изображениями, имеет широкое языковое покрытие и режим рассуждений, включённый по умолчанию. Вызов инструментов реализован нативно с грамматически ограниченным форматом вывода; варианты Q3_K_M и Q4_K_M показали результат 14/14 в тестовом наборе NobodyWho. Доступны квантизации Q3_K_M, Q4_K_M и Q8_0, причём Q3_K_M требует около 13,6 ГБ памяти, Q4_K_M — около 16,8 ГБ, а Q8_0 — около 28,6 ГБ. Сильными сторонами модели являются большой контекст, мультимодальность, развитые рассуждения и надёжный вызов инструментов. Ограничения связаны с ресурсными требованиями: Q4_K_M на системе с 24 ГБ памяти работает впритык и может использовать подкачку, а Q8_0 требует не менее 32 ГБ; вариант BF16 в репозитории не представлен. Модель и квантизации распространяются по лицензии Apache 2.0.

unsloth/gemma-3-27b-it-bnb-4bit — 4-битная версия instruction-tuned модели Gemma 3 27B, подготовленная Unsloth на основе модели Google Gemma 3 27B IT. Разработчик исходной модели — Google DeepMind. Модель имеет открытые веса и предназначена для запуска и дообучения с использованием Transformers, в том числе в средах с ограниченными ресурсами. Модель принимает текстовые запросы и изображения, а генерирует текст. Она подходит для ответов на вопросы, суммаризации, рассуждений, генерации текста и анализа изображений. Для версии 27B заявлены контекст до 128K токенов и максимальный объём вывода 8192 токена; изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов. Поддерживается более 140 языков, включая английский, указанный в метаданных модели. Ключевое преимущество этой версии — 4-битное представление, снижающее требования к памяти и упрощающее локальный запуск и дообучение по сравнению с полноразмерной моделью. При этом квантование может влиять на точность и качество ответов, а мультимодальные возможности, производительность и фактическая совместимость зависят от используемого программного обеспечения и оборудования. Модель распространяется по лицензии Gemma; перед использованием необходимо учитывать условия Google Gemma Terms of Use.

Карточка модели Iambackup/gemma-4-26B-A4B на Hugging Face совпадает с карточкой vmo247/vmo-gemma-4-26b-a4b-ft, поэтому описание составлено по ней. vmo247/vmo-gemma-4-26b-a4b-ft — мультимодальная модель, дообученная на базе Google Gemma 4 26B A4B. Она построена на архитектуре Gemma 4 для генерации текста по текстовым и графическим запросам и поддерживает диалоговый режим и анализ изображений. Вариант 26B A4B относится к MoE-моделям семейства; для Gemma 4 этого размера заявлено контекстное окно до 256K токенов и поддержка более 140 языков на уровне семейства. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста на изображениях, анализа графиков и интерфейсов, а также для диалогов, рассуждений, написания и исправления кода. В карточке этой производной модели не приведены отдельные результаты оценки качества; возможности видео и аудио, упомянутые для семейства Gemma 4, не подтверждены для данного 26B-варианта. Распространяется по лицензии Apache 2.0.

mewse/gemma-4-26B-A4B-it-qat-q4_0-unquantized-heretic-ara — текстово-визуальная чат-модель на основе Google Gemma 4 26B A4B IT, изменённая автором репозитория как uncensored/abliterated вариант. Она принимает текст и изображения и генерирует текст; подходит для диалогов, анализа изображений и документов, распознавания текста на изображениях, программирования, суммаризации и задач с вызовом инструментов. Базовая Gemma 4 использует гибридное внимание с локальными скользящими окнами и глобальными слоями; для варианта 26B A4B README указывает контекст до 256K токенов и поддержку более 35 языков. Заявленные для семейства возможности аудио относятся к E2B, E4B и 12B, поэтому не приписываются этой модели. Возможны фактические ошибки, предвзятость и трудности с неоднозначными запросами; uncensored/abliterated-модификация может ослаблять встроенные ограничения безопасности. Лицензия — Apache-2.0.

Mungert/gemma-4-31B-it-GGUF — это GGUF-версия instruction-tuned модели Gemma 4 31B, разработанной Google DeepMind и преобразованной автором Mungert с использованием llama.cpp. Модель предназначена для локального запуска задач генерации и понимания текста, программирования, рассуждений, агентных сценариев и мультимодального анализа изображений с выдачей текста. Модель имеет плотную архитектуру с примерно 30,7 млрд параметров, 60 слоями и контекстным окном до 256 тысяч токенов. Она поддерживает текст и изображения, но не аудио в варианте 31B. Gemma 4 заявлена как мультиязычная модель с поддержкой более 140 языков. В архитектуре используется гибридное внимание: локальное скользящее окно чередуется с глобальным вниманием; размер скользящего окна для 31B составляет 1024 токена. Модель поддерживает режимы рассуждений, системные инструкции и встроенный вызов функций. Главная особенность этой публикации — GGUF-квантизация, подготовленная на основе llama.cpp с выборочным повышением точности важных слоёв сверх стандартной конфигурации IMatrix. Это может улучшать точность при заданном уровне квантизации, особенно у моделей с большим числом параметров, но увеличивает размер файлов. В README нет результатов бенчмарков, конкретных вариантов квантизации или требований к оборудованию, поэтому фактические скорость, качество и потребление памяти зависят от выбранного файла и среды запуска. Лицензия — Apache 2.0.

GigaChat 3 Ultra Preview — флагманская instruct-модель семейства GigaChat, представленная в карточке как разработка команды GigaChat. Это большая языковая модель для диалогов и генерации текста, включая задачи по коду и математике. В README описана MoE-архитектура с 702 млрд общих и 36 млрд активных параметров, механизмами Multi-head Latent Attention (MLA) и Multi-Token Prediction (MTP). Метаданные каталога указывают архитектуру DeepSeek-V3 и 39,4 млрд параметров; эти сведения расходятся с описанием архитектуры и размера в README. Заявлены обучение на данных десяти языков, включая китайский, арабский, узбекский и казахский, а также русские и английские теги карточки. Контекст составляет 131 072 токена. Модель ориентирована на кластерное и on-prem-развёртывание; README указывает поддержку BF16 и отдельную FP8-сборку, а также движков vLLM, SGLang, LMDeploy и TensorRT-LLM. MLA предназначен для снижения затрат на KV-кэш, MTP — для ускорения генерации. Лицензия — MIT. Это preview-версия; для развёртывания требуются значительные вычислительные ресурсы.

GPT-3.5 Turbo — модель OpenAI для генерации текста, оптимизированная для диалогов и задач продолжения текста. Она понимает и генерирует естественный язык и код. В карточке указано, что обучающие данные охватывают период до сентября 2021 года. Модель подходит для чат-ботов, ответов на вопросы, написания и преобразования текста, а также помощи с кодом. Сведения о размере, архитектуре, длине контекста и лицензии в предоставленных источниках отсутствуют.