I.2Синтез, понимание и проверка знаний

Qwen2.5-3B-Instruct-bnb-4bit — 4-битная версия инструкционно дообученной языковой модели Qwen2.5-3B-Instruct, опубликованная в экосистеме Unsloth на базе модели Qwen от Alibaba Cloud. Это авторегрессионная causal language model для диалогов, генерации и обработки текста, выполнения инструкций, написания кода, решения математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит около 3,09 млрд параметров, из которых 2,77 млрд не относятся к эмбеддингам, и включает 36 слоёв. Архитектура использует transformers, RoPE, SwiGLU, RMSNorm, смещения в Attention QKV и связанные эмбеддинги слов; применяется Grouped Query Attention с 16 головами для Q и 2 для KV. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Поддерживается более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся улучшенное следование инструкциям, работа с длинными текстами, таблицами и другими структурированными данными, а также относительно низкие требования к памяти благодаря 4-битному квантованию. Ограничения включают меньший размер по сравнению с крупными моделями и возможное снижение точности из-за квантования; конкретные показатели качества для этой версии в README не приведены. Для работы рекомендуется актуальная версия библиотеки transformers; версии ниже 4.37.0 могут быть несовместимы. Лицензия модели — Apache-2.0.

Qwen2.5-3B-Instruct-GGUF — инструкционно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Модель предназначена для генерации текста, диалоговых приложений, следования инструкциям, работы с кодом и математическими задачами, обработки структурированных данных и формирования структурированных ответов, включая JSON. Она может использоваться локально через llama.cpp в формате GGUF. Модель относится к causal language models и содержит 3,09 млрд параметров, из которых 2,77 млрд не относятся к эмбеддингам. Архитектура основана на transformers и включает RoPE, SwiGLU, RMSNorm, bias в Attention QKV и связанные эмбеддинги слов. Она имеет 36 слоёв, 16 attention heads для Q и 2 для KV в конфигурации GQA. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Доступны варианты квантизации q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Модель поддерживает более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся улучшенное следование инструкциям, работа с длинным текстом, кодом, математикой и структурированными форматами. Ограничения включают относительно небольшой размер и максимальный контекст 32 768 токенов для данной GGUF-версии, поэтому производительность и качество зависят от выбранного уровня квантизации. Лицензия указана как qwen-research; дополнительные условия следует уточнять в файле лицензии разработчика.

cyankiwi/Qwen3.8-27B-AWQ-BF16-INT4 — квантованная версия Qwen3.8-27B, разработанного командой Qwen. Модель представляет собой плотную причинную языковую модель с vision-энкодером, предназначенную для работы с текстом, изображениями и видео. Она поддерживает интеграцию через Hugging Face Transformers, vLLM, SGLang и другие совместимые инструменты. Модель рассчитана на программирование, профессиональные и исследовательские задачи, обработку документов и STEM-диаграмм, а также долгие агентские сценарии с планированием и взаимодействием со средой. Доступно управление режимом рассуждений: его можно отключать и настраивать глубину через reasoning_effort, а контекст рассуждений из предыдущих сообщений — сохранять с помощью preserve_thinking. Языковая часть содержит 27 млрд параметров, 64 слоя и имеет архитектуру с чередованием Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена, с возможным расширением до 1 000 000 токенов. Заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Размер файлов модели — около 28,85 ГБ. К сильным сторонам относятся мультимодальность, поддержка видео, гибкое управление рассуждениями и ориентация на сложные многошаговые задачи. Ограничения конкретной квантованной сборки и результаты бенчмарков в предоставленных данных подробно не указаны. Модель распространяется по лицензии Apache-2.0.

TelperionAI/Qwen3.8-27B-INT4-AWQ-GPTQ-gdn4 — квантизированная версия языковой модели Qwen3.8-27B, разработанная TelperionAI на базе модели Qwen/Qwen3.8-27B. Она предназначена для локального и серверного запуска больших языковых моделей, включая генерацию текста, рассуждения, работу с кодом, математическими и STEM-задачами, чат-сценарии и мультиязычные запросы. Модель рассчитана на использование через Transformers и vLLM; README отдельно указывает поддержку speculative decoding с MTP. Это смешанная квантизация INT4 W4A16 с группами размера 32 и асимметричным представлением весов. Для большинства MLP-проекций и GDN-линейных проекций используется INT4, часть слоёв MLP и все проекции self-attention хранятся в INT8, а lm_head, embed_tokens, нормализации, параметры состояния GDN, vision tower и MTP-head — в BF16. Квантизация выполнена в два этапа: AWQ с учетом активаций и последующая GPTQ-компенсация ошибок. Размер модели составляет около 22,6 ГБ; для работы требуется GPU с Compute Capability не ниже 7.5, то есть поддерживаются устройства уровня Turing и новее. Сильная сторона модели — удачный баланс размера и точности: по приведённым тестам она ближе к исходной BF16-модели, чем некоторые сопоставимые INT4-варианты, при заметно меньшем объёме, чем FP8-релиз. При этом переход GDN-проекций на INT4 немного снижает точность по сравнению с более крупной версией модели с GDN в INT8, а производительность зависит от GPU и реализации Marlin; измерения на B300 не следует напрямую переносить на Ampere. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-VL-8B-Instruct-1M-GGUF — GGUF-версия 8-миллиардной мультимодальной instruct-модели Qwen3-VL, подготовленная Unsloth на основе Qwen/Qwen3-VL-8B-Instruct. Модель предназначена для понимания и генерации текста с учётом изображений и видео, визуального анализа, OCR, математических и STEM-задач, анализа документов, пространственного рассуждения, генерации кода и взаимодействия с графическими интерфейсами через визуального агента. Модель использует плотную архитектуру с 8B параметров и поддерживает текст, изображения и видео. Заявлено нативное контекстное окно 256K токенов с возможностью расширения до 1M, что позволяет обрабатывать книги и длительные видеоматериалы с временной привязкой событий. Среди архитектурных особенностей указаны Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых визуальных признаков и Text–Timestamp Alignment для локализации событий в видео. OCR поддерживает 32 языка. Сильные стороны модели — объединённое текстово-визуальное понимание, улучшенная работа с пространственными отношениями, длинным контекстом, видео, документами и визуальными интерфейсами. Ограничения, такие как фактическая точность на конкретных наборах данных, требования к ресурсам и поддерживаемые языки вне OCR, в README не уточняются. Репозиторий распространяется по лицензии Apache-2.0; для использования через llama.cpp рекомендуется включать параметр --jinja из-за исправлений chat template от Unsloth.

Seed-OSS-36B-Instruct — диалоговая плотная языковая модель команды ByteDance Seed. Репозиторий unsloth содержит производную версию модели ByteDance-Seed/Seed-OSS-36B-Instruct; архитектура использует причинную генерацию, RoPE, GQA, RMSNorm и SwiGLU. Метаданные указывают 31,7 млрд параметров и контекст до 524 288 токенов. Модель предназначена для диалогов, генерации текста, рассуждений и агентных сценариев с вызовом инструментов. Можно задавать бюджет рассуждений, чтобы управлять длиной внутреннего анализа и расходом вычислений. В README заявлена оптимизация для международных сценариев, но конкретный перечень поддерживаемых языков не приведён. Модель распространяется по лицензии Apache-2.0. Для инференса в README описаны Transformers и vLLM; рекомендуется температура 1,1 и top_p 0,95. Качество ответов зависит от задачи и настроек генерации, а использование длинного контекста увеличивает вычислительные затраты.

Карточка модели nassimjp/Spark-X2.5-4B на Hugging Face совпадает с карточкой 0xSojalSec/Spark-X2.5-4B, поэтому описание составлено по ней. Spark-X2.5-4B — компактная языковая модель общего назначения, разработанная командой Spark. Это дообученная версия Spark-X2.5-4B-Base с плотной архитектурой Spark 2.5 на 3,8 млрд параметров; веса опубликованы в формате Safetensors и предназначены для запуска через Transformers. Гибридное внимание сочетает один слой полного внимания с тремя слоями внимания со скользящим окном, а нативный контекст достигает 1 048 576 токенов. Модель рассчитана на диалог, написание и перевод текстов, рассуждения, программирование, вызов инструментов и агентные сценарии. Она поддерживает более 200 языков, а карточка описывает интеграцию с популярными агентными средами и системами инференса. Заявленные сильные стороны — широкий спектр задач и работа с длинным контекстом при оптимизации вычислений и KV-кэша. Качество на конкретной задаче может отличаться; длинный контекст требует достаточной памяти устройства. Лицензия — Apache-2.0.

Карточка модели SwagMessiah100/Spark-X2.5-4B на Hugging Face совпадает с карточкой 0xSojalSec/Spark-X2.5-4B, поэтому описание составлено по ней. Spark-X2.5-4B — компактная языковая модель общего назначения, разработанная командой Spark. Это дообученная версия Spark-X2.5-4B-Base с плотной архитектурой Spark 2.5 на 3,8 млрд параметров; веса опубликованы в формате Safetensors и предназначены для запуска через Transformers. Гибридное внимание сочетает один слой полного внимания с тремя слоями внимания со скользящим окном, а нативный контекст достигает 1 048 576 токенов. Модель рассчитана на диалог, написание и перевод текстов, рассуждения, программирование, вызов инструментов и агентные сценарии. Она поддерживает более 200 языков, а карточка описывает интеграцию с популярными агентными средами и системами инференса. Заявленные сильные стороны — широкий спектр задач и работа с длинным контекстом при оптимизации вычислений и KV-кэша. Качество на конкретной задаче может отличаться; длинный контекст требует достаточной памяти устройства. Лицензия — Apache-2.0.

CiscoKpanse/sp-DNM-4-26B-A4B-it_v0.1 — инструкция-настроенная мультимодальная модель семейства Gemma 4, созданного Google DeepMind. Вариант 26B A4B использует архитектуру Mixture-of-Experts: обрабатывает текст и изображения и генерирует текст; поддерживает диалог и визуальные задачи, включая ответы по изображениям, OCR, разбор документов, диаграмм и экранных интерфейсов. По карточке семейства Gemma 4 также предназначена для рассуждений, программирования, суммаризации и сценариев с вызовом инструментов. Для вариантов 26B A4B заявлено контекстное окно до 256 тысяч токенов и поддержка множества языков. Семейство использует гибридное внимание с локальными и глобальными слоями. Данная копия опубликована в формате safetensors и доступна по лицензии Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому не все заявленные возможности обязательно относятся к этому варианту: обработка аудио указана только для E2B и E4B, а видео — как возможность семейства. Ответы модели могут содержать ошибки; результаты распознавания и извлечения данных из изображений следует проверять.

Apodex-1.1-mini-FP8 — reasoning-first языковая модель, разработанная Apodex AI. Она предназначена для сложных долгосрочных исследовательских и агентских задач, требующих не только генерации текста, но и работы с файлами, данными, таблицами, изображениями, кодом и внешними инструментами. Модель может декомпозировать задачу, координировать параллельных субагентов, поддерживать общее состояние работы, адаптировать план по ходу выполнения и формировать проверяемые результаты. Модель относится к текстогенерационным моделям, совместима с chat template Qwen3.5 и поддерживает нативный function calling, а также выдачу рассуждений. Указаны языки English и Chinese. Для развёртывания рекомендуется SGLang с OpenAI-совместимым API; заявленная длина контекста составляет до 262144 токенов, максимальная длина генерации в рекомендуемых настройках — 32768 токенов. Суффикс FP8 указывает на используемый формат представления модели, однако точный размер и архитектура в README не указаны. Сильные стороны модели — выполнение многоэтапных задач в реальных средах, работа с инструментами и встроенная проверка утверждений по источникам, данным и вычислениям. В README приведены высокие результаты на ряде тестов, включая FrontierFinance и FrontierScience-Research, но применимость этих результатов к конкретным задачам может различаться. Ограничения включают отсутствие подробных сведений о точной архитектуре, количестве параметров, поддерживаемых аппаратных конфигурациях и полном наборе модальностей. Модель распространяется по лицензии Apache 2.0.

Cogito v1 preview 8B — разработанная DeepCogito инструкция-донастроенная генеративная языковая модель на архитектуре Llama 3.1. Она принимает текст и генерирует текст; заявлены 7,5 млрд параметров и контекст до 131 072 токенов. Модель может отвечать напрямую или включать режим рассуждения с самоанализом, а также поддерживает вызов инструментов. Модель предназначена для диалогов, программирования, задач STEM, следования инструкциям и общих вопросов. Разработчик заявляет обучение более чем на 30 языках и улучшенные многоязычные возможности; конкретный перечень языков не приведён. Модель доступна по лицензии Llama 3.1, допускающей коммерческое использование согласно карточке.

NVIDIA DeepSeek-V4-Pro-nvfp4-DSpark — это квантизированная версия DeepSeek-V4-Pro, разработанная на базе моделей DeepSeek и собранная с использованием NVIDIA Model Optimizer. Модель не является новой базовой моделью NVIDIA: она представляет собой NVFP4-вариант DeepSeek-V4-Pro-NVFP4, объединённый с официальным модулем спекулятивного декодирования DSpark от DeepSeek в едином контрольном файле. Лицензия — MIT; модель заявлена для коммерческого и некоммерческого использования. Модель предназначена для генерации текста, сложного рассуждения, математических задач, программной инженерии, агентных приложений, вызова инструментов и корпоративных AI-ассистентов. Она поддерживает многоходовые диалоги, системные инструкции, структурированный JSON-вывод и function/tool calling. Доступны режимы Non-think для быстрой генерации, Think High для логического анализа и Think Max для наиболее глубокого рассуждения. Архитектура основана на Transformer и Mixture-of-Experts с гибридным вниманием. Основная модель содержит около 1,6 триллиона параметров, из которых примерно 49 миллиардов активируются при обработке запроса. Модуль DSpark использует черновую модель общим размером 82 миллиарда параметров и примерно 2,4 миллиардами активных параметров; размер блока черновой генерации составляет 5 токенов. Поддерживается текстовый ввод и вывод, а максимальная длина контекста достигает 1 миллиона токенов. Ключевое преимущество модели — сочетание крупной MoE-модели с NVFP4-квантизацией и спекулятивным декодированием DSpark, что ориентировано на ускорение инференса при сохранении возможностей исходной модели. Ограничения связаны с требованиями к инфраструктуре: модель рассчитана на NVIDIA GPU архитектуры Blackwell, интегрируется с vLLM через DSpark и рекомендуется для Linux. Перед эксплуатацией необходимы тестирование на прикладных данных и проверка безопасности; сведения о поддерживаемых языках в карточке явно не указаны.

Карточка модели unsloth/embeddinggemma-300m-qat-q8_0-unquantized на Hugging Face совпадает с карточкой h2oai/embeddinggemma-300m-qat-q8_0-unquantized, поэтому описание составлено по ней. EmbeddingGemma — мультиязычная модель эмбеддингов Google DeepMind на 302,8 млн параметров, основанная на текстовой архитектуре Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы для поиска, извлечения информации, оценки семантического сходства, классификации и кластеризации. Модель обучена на данных более чем на 100 языках и рассчитана на запуск в условиях ограниченных ресурсов, включая мобильные устройства и настольные компьютеры. Модель принимает текст длиной до 2048 токенов и выдаёт вектор размерности 768; с помощью Matryoshka Representation Learning его можно сократить до 512, 256 или 128 измерений с последующей нормализацией. Веса предназначены для использования с Sentence Transformers и реализацией Gemma 3 в Transformers. Модель подходит для поиска документов и кода по запросам, а также для подбора текстов по смыслу. Качество может снижаться при неоднозначных формулировках, сарказме и тонких языковых нюансах; результаты также зависят от охвата и возможных смещений обучающих данных. Лицензия — Gemma; применяются условия использования и политика запрещённого использования Gemma.

Карточка модели cemig-nlp-releases/energy-gpt-regulatorio-32B-v2 на Hugging Face совпадает с карточкой Qwen/Qwen3-32B, поэтому описание составлено по ней. Qwen3-32B — плотная причинно-следственная языковая модель семейства Qwen3, разработанная командой Qwen. Она предназначена для диалога, следования инструкциям, рассуждений, генерации кода, перевода и работы с внешними инструментами. В одной модели можно переключаться между режимом рассуждений для сложных задач и обычным режимом ответа. Модель содержит 29,7 млрд параметров по метаданным каталога; в README указано 32,8 млрд параметров, включая 31,2 млрд без эмбеддингов. Архитектура — Qwen3ForCausalLM, для запуска поддерживается Transformers. Нативный контекст составляет 40 960 токенов по метаданным каталога; README указывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Семейство поддерживает более 100 языков и диалектов. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Модель подходит для многошагового диалога и сценариев с вызовом инструментов, а также для математических и логических рассуждений, творческого письма и программирования. Карточка заявляет сильные способности к следованию инструкциям и многоязычным задачам; качество конкретных ответов зависит от запроса и развертывания. В README не приведены конкретные ограничения или оговорки по безопасности.

cyankiwi/gemma-4-26B-A4B-it-AWQ-4bit — это 4-битно квантованная версия Gemma 4 26B A4B instruction-tuned, подготовленная cyankiwi на базе модели Google DeepMind. Квантование выполнено в формате AWQ, а калибровочный набор ориентирован на STEM-задачи и агентские сценарии. Размер модели составляет 17,19 ГБ. Модель предназначена для генерации текста, программирования, рассуждений, агентских рабочих процессов и мультимодального понимания изображений и текста. Архитектура базовой модели — Mixture-of-Experts; для варианта 26B A4B заявлено 26 млрд общих параметров и около 4 млрд активных параметров. Для средних моделей Gemma 4 заявлено контекстное окно до 256K токенов. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Ключевые преимущества — уменьшенное потребление памяти благодаря AWQ-квантованию, поддержка длинного контекста, мультимодальный ввод и возможности Gemma 4 в области рассуждений, кодирования и вызова функций. Ограничением является возможная потеря качества по сравнению с полной точностью, характерная для 4-битных квантованных моделей; конкретные требования к видеопамяти и результаты бенчмарков в README не указаны. Лицензия — Apache 2.0.

BinxNet/gemma-4-26B-A4B-it-heretic — мультимодальная разговорная модель BinxNet на базе Google Gemma 4 26B A4B. Это дообученная версия с изменениями, обозначенными автором как heretic, uncensored и decensored; подробности этих изменений в карточке не описаны. Модель принимает текст и изображения и предназначена для диалогов, рассуждений, генерации и исправления кода, а также визуального анализа. Архитектура Gemma 4 использует чередование локального скользящего и глобального внимания. Для исходной Gemma 4 26B A4B заявлен контекст до 256K токенов; отдельное значение для этой версии в карточке не приведено. Семейство Gemma 4 поддерживает более 35 языков, но карточка этой производной версии не уточняет языковое покрытие отдельно. Визуальные сценарии включают распознавание текста, разбор документов, понимание диаграмм и интерфейсов, а также анализ последовательностей видеокадров. Карточка указывает формат safetensors и библиотеку Transformers. Возможны фактические ошибки, предвзятость, трудности с языковыми нюансами и сложными открытыми задачами. Лицензия — Apache-2.0.

coder3101/gemma-4-26B-A4B-it-qat-q4_0-unquantized-heretic — производная мультимодальная модель Gemma 4, созданная coder3101 на основе google/gemma-4-26B-A4B-it-qat-q4_0-unquantized. Это диалоговая модель с архитектурой Gemma4ForConditionalGeneration и поддержкой анализа изображений; она принимает текст и изображения и выдаёт текст. Базовое семейство Gemma 4 разработано Google DeepMind. Модель предназначена для диалогов, рассуждений, программирования и понимания изображений. Возможные сценарии включают ответы на вопросы по изображениям, извлечение данных из документов, распознавание текста и объектов на изображениях, анализ диаграмм и интерфейсов, генерацию и исправление кода, составление резюме и работу с инструментами. В карточке базового семейства заявлена поддержка более 35 языков и контекст до 256 тысяч токенов для варианта 26B A4B; аудиовозможности указаны только для других размеров Gemma 4, а README описывает видео для семейства в целом, поэтому эти возможности не приписываются данной модели. Модель помечена как uncensored/decensored/abliterated, что указывает на изменение поведения относительно базовой модели, но подробности обучения и конкретные эффекты не раскрыты. Возможны фактические ошибки, смещения и трудности с нюансами языка; ответы следует проверять, особенно в сложных или критичных задачах. Лицензия — Apache-2.0.

mewse/gemma-4-26B-A4B-it-qat-q4_0-unquantized-heretic-ara — текстово-визуальная чат-модель на основе Google Gemma 4 26B A4B IT, изменённая автором репозитория как uncensored/abliterated вариант. Она принимает текст и изображения и генерирует текст; подходит для диалогов, анализа изображений и документов, распознавания текста на изображениях, программирования, суммаризации и задач с вызовом инструментов. Базовая Gemma 4 использует гибридное внимание с локальными скользящими окнами и глобальными слоями; для варианта 26B A4B README указывает контекст до 256K токенов и поддержку более 35 языков. Заявленные для семейства возможности аудио относятся к E2B, E4B и 12B, поэтому не приписываются этой модели. Возможны фактические ошибки, предвзятость и трудности с неоднозначными запросами; uncensored/abliterated-модификация может ослаблять встроенные ограничения безопасности. Лицензия — Apache-2.0.

Карточка модели eyentsign/gemma-4-31B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-31B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46 подготовил Gemma 4 31B IT Uncensored Heretic — дообученную версию мультимодальной Gemma 4 31B IT от Google DeepMind. В README указано изменение компонента attn.o_proj; модель предназначена для диалогов, рассуждений, агентных сценариев, программирования и понимания изображений. Она принимает текст и изображения, поддерживает вызов инструментов и может разбирать документы, графики и интерфейсы, извлекать текст с изображений и отвечать на вопросы по визуальному содержимому. В основе — плотная архитектура Gemma4ForConditionalGeneration с чередованием локального скользящего и глобального внимания. Для исходной модели Gemma 4 31B IT заявлен контекст до 256 тысяч токенов и поддержка более 35 языков; метаданные указывают Transformers и формат safetensors. README также описывает видео и аудио для семейства Gemma 4, однако аудио заявлено только для вариантов E2B и E4B, поэтому здесь эти возможности не приписываются версии 31B. Карточка предупреждает о возможных фактических ошибках, предвзятости и трудностях с неоднозначностью и сложными открытыми задачами. Название «uncensored» указывает на изменённую фильтрацию, но карточка не описывает её конкретный эффект. Лицензия — Apache-2.0.

coder3101 представил дообученную мультимодальную модель на базе Google Gemma 4 E2B-it. Она предназначена для диалогов, рассуждений, генерации и исправления кода, анализа изображений и выполнения задач с инструментами. Архитектура — плотная Gemma4ForConditionalGeneration; модель работает с текстом и изображениями. В карточке семейства также заявлена обработка аудио и видео, однако поддержка этих возможностей именно этой производной версии не подтверждена. Модель подходит для чат-ботов, суммаризации, извлечения сведений из изображений и документов, распознавания текста и помощи с программированием. Для Gemma 4 E2B указано контекстное окно до 128 тысяч токенов; семейство поддерживает более 35 языков. Производная опубликована в формате safetensors по лицензии Apache 2.0. Возможны фактические ошибки, предвзятость и трудности с неоднозначными или сложными запросами. В названии и тегах версии заявлены uncensored/abliterated характеристики, но README не описывает метод изменения поведения или его последствия.

ente-ai/gemma-4-E4B-it-GGUF — квантизированная в формате GGUF instruction-tuned версия модели Gemma 4 E4B, разработанной Google DeepMind и опубликованной в виде сборки Unsloth. Модель относится к семейству открытых мультимодальных моделей Gemma 4 и предназначена для локального запуска, в том числе на ноутбуках и мобильных устройствах, а также для использования в Unsloth Studio и совместимых инструментах. Модель поддерживает обработку текста, изображений и аудио с генерацией текста, ориентирована на рассуждения, генерацию текста, программирование, мультимодальный анализ, агентские сценарии и вызов функций. Для E4B указаны около 4,5 млрд эффективных параметров и 8 млрд параметров с учётом эмбеддингов, 42 слоя, размер контекстного окна до 128K токенов и локальное окно внимания 512 токенов. Архитектура Gemma 4 использует гибридное внимание с чередованием локального sliding window attention и глобального внимания; заявлена поддержка более 140 языков, настраиваемых режимов рассуждения и системных промптов. К сильным сторонам относятся мультимодальность, большое контекстное окно, поддержка native function calling, возможности для кодирования и эффективного локального развертывания благодаря 4-битному GGUF-представлению. Ограничения включают зависимость качества и скорости от выбранного квантизированного варианта и аппаратного обеспечения; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии Apache 2.0, при этом для Gemma 4 также следует учитывать условия лицензии Google, доступные по указанной ссылке.

MuXodious выпустил дообученную модель Gemma 4 E4B Instruct, созданную с помощью Heretic v1.2.0 и методов abliteration. По карточке, исходная модель Google DeepMind — плотная мультимодальная Gemma 4 E4B Instruct; модель принимает текст и изображения, а семейство поддерживает также аудио на вариантах E2B и E4B. Для Gemma 4 E4B указано контекстное окно 128K токенов. Дообучение нацелено на снижение отказов: в приведённом тесте осталось 12 отказов из 416 запросов, при 414 отказах у исходной модели. Модель подходит для диалога и генерации текста, анализа изображений и документов, программирования и рассуждений. Карточка не приводит отдельного описания датасета или подробной оценки качества этой производной модели; её результаты могут отличаться от исходной Gemma 4. Репозиторий распространяется под лицензией Apache-2.0.

GigaChat 3.1 Lightning — компактная инструкционная языковая модель семейства GigaChat 3.1, разработанная ai-sage. Модель предназначена для быстрых мультиязычных ассистентских сценариев, рассуждений, генерации и анализа кода, вызова функций и продуктовых применений. Она доступна в формате FP8 и построена на архитектуре Mixture-of-Experts: содержит 10 млрд параметров, из которых 1,8 млрд активны во время инференса. Модель использует Multi-head Latent Attention (MLA) для сжатия KV-кэша и снижения потребления памяти, а также Multi-Token Prediction (MTP), поддерживающий ускоренное и параллельное декодирование. Заявлена поддержка русского и английского языков; базовый обучающий корпус охватывает 10 языков и включает тексты, научные материалы, код, математику и синтетические данные. В README не указана точная длина контекста и не заявлена поддержка мультимодальных входов, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся высокая скорость инференса, низкий активный вычислительный бюджет, эффективность FP8 и улучшенная производительность в длинноконтекстных сценариях. Модель ориентирована на задачи поиска и цитирования, интерпретации файлового кода, персонализации и агентских диалогов с инструментами. Ограничения включают зависимость качества и скорости от аппаратного обеспечения, реализации инференса и режима MTP, а также отсутствие в предоставленных данных подробных сведений о максимальном контексте и мультимодальности. Модель распространяется по лицензии MIT.

Giga-Embeddings-instruct-3B-0826 — двуязычная модель текстовых эмбеддингов из серии Giga-Embeddings. Она основана на предобученной модели разработчика с архитектурой Qwen3, адаптированной для двунаправленного encoder-style внимания, и дообучена контрастивной функцией потерь InfoNCE. Модель содержит около 3,2 млрд параметров, формирует плотные векторы размерностью 2048 и поддерживает контекст до 8192 токенов. Модель предназначена для поиска по смыслу, сравнения предложений и абзацев, классификации и кластеризации на русском и английском языках. В асимметричном поиске к запросу следует добавлять инструкцию задачи, оставляя документы без инструкции; для симметричного сравнения инструкцию можно опустить. Для корректной работы нужны усреднение непустых токенов и L2-нормализация, после чего векторы сравнивают по косинусной близости. Репозиторий предоставляет веса в формате safetensors; лицензия — MIT.

cyankiwi/GLM-4.7-Flash-AWQ-4bit — 4-битная AWQ-квантизованная версия GLM-4.7-Flash, разработанной командой GLM и распространяемой организацией zai-org. Это языковая модель для генерации текста, рассуждений, программирования и агентских сценариев, включая взаимодействие с инструментами и решение задач, требующих многошагового планирования. Модель построена по архитектуре MoE с конфигурацией 30B-A3B: общий размер составляет около 30 млрд параметров, при этом на каждом шаге активируется примерно 3 млрд. Указаны поддерживаемые языки English и Chinese, библиотека Transformers и текстовая модальность. В README приведены настройки генерации с максимальной длиной нового вывода до 131 072 токенов, однако размер контекстного окна явно не указан. Для локального запуска заявлена совместимость с Transformers, vLLM и SGLang; для этой версии также требуется учитывать поддержку AWQ-квантизации используемым фреймворком. Сильными сторонами являются сочетание производительности и эффективности при локальном развертывании, а также результаты на задачах рассуждений, программирования, веб-поиска и взаимодействия с инструментами. Ограничениями выступают возможные потери качества из-за 4-битной квантизации и необходимость актуальных версий программного обеспечения для поддержки модели. В README указана лицензия MIT.

NVIDIA GLM-5.2 NVFP4 — это посттренировочно квантованная версия языковой модели ZAI GLM-5.2, подготовленная NVIDIA с помощью Model Optimizer. Модель предназначена для авторегрессионной генерации текста, рассуждений и программирования, а также для использования в AI-агентах, чат-ботах, RAG-системах и других приложениях на основе искусственного интеллекта. Модель построена на архитектуре Transformer с сетью GLM-5.2 типа GlmMoeDsaForCausalLM. Это разреженная Mixture-of-Experts-модель объёмом 753 млрд параметров, из которых активируется 40 млрд; для поддержки длинного контекста используется sparse attention с индексатором IndexShare. Она принимает и генерирует текст, поддерживает контекст до 1 млн токенов. Веса и активации линейных операторов в MoE-экспертах квантизированы в формат NVFP4, при этом общий эксперт не квантизирован. Сильными сторонами модели являются поддержка длинного контекста, задач рассуждения, научного программирования, следования инструкциям и агентского использования инструментов, а также готовность к ускоренному инференсу. Обучающие данные не раскрыты, а для самой версии Model Optimizer отдельные обучение и тестирование не выполнялись; поэтому качество следует дополнительно проверять на данных конкретного сценария. Модель ориентирована на системы с GPU NVIDIA Blackwell, Linux и движками SGLang или vLLM; заявленное тестовое оборудование — NVIDIA B200 и B300. Лицензия MIT разрешает коммерческое и некоммерческое использование.

GLM-5.3-Flash-FP8 — это FP8-квантизированная версия мультимодальной модели GLM-5.3-Flash, разработанная командой GLM-5; базовая модель опубликована организацией zai-org. Модель предназначена для генерации текста, программирования, агентских сценариев, работы с инструментами и задач, требующих обработки текста и изображений. В карточке указаны поддержка английского и китайского языков, интеграция с Transformers и лицензия MIT. Модель имеет 320 млрд общих параметров, из которых 18 млрд активируются при обработке запроса. Она использует гибридную архитектуру со sparse attention и linear attention, рассчитанную на снижение стоимости обслуживания длинного контекста при сохранении точности, а также Manifold-Constrained Hyper-Connections. Обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. В оценках использовались контексты до 300 000 токенов, а для отдельных тестов — до 1 млн токенов; это параметры конкретных оценочных конфигураций, а не обязательно гарантированный лимит модели. К сильным сторонам относятся высокая эффективность за счёт малого числа активных параметров, мультимодальность, возможности в программировании и агентских задачах, а также поддержка локального развёртывания через SGLang, vLLM, TokenSpeed и KTransformers. Ограничения именно FP8-версии, включая требования к аппаратному обеспечению, точность чисел и возможные отличия от базовой модели, в README не описаны.

unsloth/gpt-oss-120b-unsloth-bnb-4bit — 4-битная версия модели gpt-oss-120b, разработанной OpenAI и подготовленной Unsloth в формате BNB 4-bit. Модель предназначена для универсальной генерации текста, задач, требующих развитого рассуждения, агентских сценариев и использования разработчиками. Она поддерживает вызов функций, веб-браузинг, выполнение кода на Python и структурированные ответы, а также может дообучаться под специализированные задачи. Модель имеет архитектуру Mixture of Experts (MoE), около 117 млрд параметров, из которых примерно 5,1 млрд активны при обработке запроса. Исходная модель обучена с нативной квантованием MXFP4 для MoE-слоёв, а данный вариант представлен в 4-битном формате для снижения требований к памяти. Доступна настройка интенсивности рассуждения на уровнях low, medium и high. Данные о поддерживаемых языках и размере контекстного окна в представленном README не указаны. Ключевое ограничение — модель корректно работает только с форматом ответов harmony, поэтому при интеграции необходимо использовать соответствующий chat template или совместимый пакет. Полная цепочка рассуждений доступна для отладки и анализа, но не предназначена для показа конечным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование, модификацию и дообучение.

Карточка модели GorgiasML/gpt-oss-20b на Hugging Face совпадает с карточкой Sprinter-Spb/gpt-oss-20b, поэтому описание составлено по ней. Sprinter-Spb/gpt-oss-20b — размещённая пользователем версия открытой модели gpt-oss-20b от OpenAI. Это языковая модель с архитектурой Mixture of Experts и классом GptOssForCausalLM; в README для исходной модели указаны 21 млрд параметров и 3,6 млрд активных параметров, а метаданные этой карточки сообщают 1,6 млрд параметров. Модель ориентирована на диалог, рассуждения, агентные сценарии и задачи разработчиков. Она принимает текст в формате Harmony, поддерживает вызов функций и настройку уровня рассуждений; заявленная длина контекста — 131 072 токена. Модель рассчитана на более низкую задержку и локальное использование; README указывает, что вариант gpt-oss-20b с MXFP4 может работать в пределах 16 ГБ памяти. Среди сценариев — ответы на вопросы, генерация текста и кода, использование инструментов и структурированный вывод. Карточка описывает семейство как тонко настраиваемое, но не сообщает о специальном дообучении этой версии Sprinter-Spb. Модель распространяется по лицензии Apache-2.0. Для корректной работы требуется формат Harmony; README также предупреждает, что цепочку рассуждений не следует показывать конечным пользователям.

unsloth/gpt-oss-20b-GGUF — GGUF-версия открытой весовой модели gpt-oss-20b, разработанной OpenAI и подготовленной к распространению командой Unsloth. Модель предназначена для генерации текста, задач, требующих рассуждений, агентских сценариев и локального или специализированного использования с пониженной задержкой. Это MoE-модель примерно на 21 млрд параметров, из которых при обработке активны около 3,6 млрд. Она поддерживает настраиваемый уровень рассуждений — low, medium или high — и возможности function calling, веб-браузинга, выполнения Python-кода и Structured Outputs. Модель обучена работать в формате harmony, который необходимо использовать для корректной работы. GGUF-вариант рассчитан на запуск через совместимые инструменты, а нативная MXFP4-квантизация позволяет разместить модель примерно в 16 ГБ памяти; конкретные характеристики зависят от варианта квантизации. Сильные стороны модели — открытые веса, возможность тонкой настройки, агентские функции, гибкое соотношение качества и задержки, а также удобство локального запуска. Ограничения включают обязательное использование harmony-формата и необходимость самостоятельно оценивать качество, безопасность и пригодность результатов для конкретного применения. Указанная лицензия Apache 2.0 допускает свободное использование, модификацию и коммерческое развертывание без copyleft-ограничений.