I.11Классификация, ранжирование и сопоставление

Stockmark-2-VL-100B-beta — мультимодальная модель компании Stockmark Inc. с 100 млрд параметров, предназначенная прежде всего для понимания японских документов и ответов на вопросы по изображениям. Она построена на архитектуре LLaVA-OneVision: использует Stockmark-2-100B-Instruct-beta как языковую основу и визуальный энкодер SigLIP2. Модель поддерживает диалоговый режим и визуальное рассуждение с цепочкой мыслей. Модель рассчитана на чтение документов, деловых слайдов и диаграмм, а также на задачи визуальных вопросов и ответов общего назначения. В оценках авторов она показала высокие результаты на японских бенчмарках понимания документов и VQA. Карточка перечисляет японский и английский языки; основная специализация — японский. Это beta-версия, которая продолжает проходить улучшения и оценивание. Она может не соблюдать требования к формату ответа и включать в него ход рассуждений; также авторы предупреждают, что модель не полностью откалибрована с точки зрения социальных норм, этики и законодательства. Репозиторий распространяется под лицензией Qwen; конкретные условия следует сверять с текстом лицензии в репозитории.

Gille/StrangeMerges_33-7B-slerp — объединённая текстовая модель, созданная методом slerp с помощью LazyMergekit из ZySec-AI/ZySec-7B-v1 и Gille/StrangeMerges_30-7B-slerp. Модель построена на архитектуре Mistral с плотной архитектурой причинного языкового моделирования и содержит 7,1 млрд параметров; её контекст составляет до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на вопросы, ведения чата и создания связных текстов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Данных о специализированной предметной области или языках модели в предоставленных источниках нет.

TinyLlama-1.1B — компактная языковая модель, разработанная в рамках проекта TinyLlama. Она предназначена для генерации текста и других задач обработки естественного языка, где важны невысокие требования к вычислительным ресурсам и памяти. Модель представляет собой промежуточный контрольный снимок после 50 000 шагов обучения на 105 млрд токенов. Модель использует ту же архитектуру и токенизатор, что и Llama 2, и содержит около 1,1 млрд параметров, благодаря чему совместима со многими инструментами и проектами экосистемы Llama. В карточке указаны английский язык и обучающие наборы Cerebras SlimPajama-627B и BigCode Starcoderdata; дополнительные модальности не заявлены. Для использования требуется transformers версии 4.31 или новее. Сильными сторонами модели являются компактность, сравнительно низкая потребность в памяти и вычислениях, а также совместимость с интерфейсами для моделей Llama 2. Поскольку это промежуточный чекпойнт, а не финальная версия, его возможности могут уступать более поздним вариантам TinyLlama. Лицензия — Apache 2.0.

UncensoredLM-DeepSeek-R1-Distill-Qwen-14B — экспериментальная версия чат-модели от UncensoredAI. Это плотная языковая модель архитектуры Qwen2 с 13,4 млрд параметров, представленная в формате safetensors и рассчитанная на контекст до 131 072 токенов. Модель предназначена для генерации текста и ответов с рассуждениями; шаблон обучения ориентирует её на извлечение ответа из предоставленного контекста без опоры на внешние сведения. Модель заявлена как версия с ослабленным выравниванием отказов. Автор называет её предварительным экспериментальным выпуском и приглашает сообщать о проблемах, поэтому качество и поведение могут измениться в следующих версиях. Лицензия — Apache 2.0.

vigostral-7b-chat-Mistral-7B-Instruct-v0.1 — диалоговая языковая модель на базе архитектуры Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и vigostral-7b-chat методом SLERP. Модель содержит 7,1 млрд параметров, представлена в формате safetensors и рассчитана на генерацию текста и ответы в чате; заявленный контекст — до 32 768 токенов. Модель подходит для диалогов и выполнения инструкций на французском языке. В README указаны базовая модель, вторая модель-источник, диапазоны слоёв и параметры слияния. Репозиторий распространяется по лицензии Apache-2.0.

WebSquareAI-Instruct-KoSOLAR-10.7b-v0.5.34 — текстовая генеративная модель, разработанная командой UI Platform компании Inswave Systems. Это дообученная instruct-версия базовой модели LDCC/LDCC-SOLAR-10.7B на архитектуре Llama с 10,7 млрд параметров; она предназначена для генерации текста и выполнения инструкций. Модель принимает текст и генерирует текст. Её контекстное окно составляет 4096 токенов. В метаданных указан английский язык. Для загрузки предусмотрены Transformers и PyTorch; в примере используется точность float16. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

Модель creemur/xlm-roberta-base-finetuned-panx-all — версия XLM-RoBERTa Base, дообученная для классификации токенов. Она предназначена для задач разметки последовательностей, в частности для распознавания именованных сущностей в тексте на разных языках с использованием набора PAN-X. Модель содержит 305,2 млн параметров, принимает текст и имеет контекст до 514 токенов. В карточке указаны результаты оценки: F1 0,8502 и loss 0,1701. Модель опубликована в формате safetensors и распространяется по лицензии MIT. README не уточняет состав обучающего набора и ограничения применения.

cahya/xlm-roberta-base-indonesian-NER — модель Cahya для распознавания именованных сущностей в индонезийском тексте. Это XLM-RoBERTa с архитектурой классификации токенов, около 305,2 млн параметров и контекстом до 514 токенов. Она присваивает метки отдельным токенам, чтобы выделять сущности в тексте; карточка Hugging Face не содержит подробностей о наборе меток или оценках качества. Модель доступна в форматах PyTorch и Safetensors и предназначена для задачи token classification. Лицензия в доступных метаданных и карточке не установлена.

EvanD/xlm-roberta-base-ukrainian-ner-ukrner — модель распознавания именованных сущностей на базе XLM-RoBERTa, дообученная на украинском наборе данных NER из Flair. Модель содержит 305,2 млн параметров, принимает текст и возвращает метки для токенов; контекст — до 514 токенов. Она предназначена для извлечения сущностей из украинских текстов, например имён людей и географических названий. В README приведены результаты тестирования на украинском NER: macro F1 0,990 и macro precision 0,939. Модель доступна в формате PyTorch для использования с Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

tsmatz/xlm-roberta-ner-japanese — модель извлечения именованных сущностей, созданная дообучением xlm-roberta-base. Она размечает токены японского текста; модель предназначена для поиска упоминаний людей, организаций и других типов сущностей в предложениях и документах. Обучение проводилось на датасете NER от Stockmark Inc., собранном из статей японской Википедии. Модель основана на архитектуре XLM-RoBERTa, имеет около 305,2 млн параметров и принимает контекст до 514 токенов. Она распространяется в форматах PyTorch и Safetensors под лицензией MIT. Карточка указывает классы PER и ORG среди меток; качество и полнота распознавания остальных классов в предоставленном фрагменте README не описаны.

maywell/Yi-Ko-34B-Instruct — 34-миллиардная языковая модель Junbum Lee (Beomi), основанная на семействе Yi-Ko. Это авторегрессионный трансформер с архитектурой на основе Llama 2, представленный в формате Transformers и дообученный для общения: после дальнейшего обучения на корейском корпусе применялись SFT и DPO. Модель принимает текст и генерирует текст; для диалогов указаны шаблон ChatML и контекст до 4096 токенов. Модель рассчитана прежде всего на генерацию ответов на корейском и английском языках. Расширенный словарь SentencePiece содержит 78 464 токена, включая добавленную корейскую лексику; в карточке также приведены результаты на корейских языковых тестах. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией и документацией репозитория. Это крупная модель на 34B параметров, требующая значительных вычислительных ресурсов; приведённые бенчмарки сами по себе не гарантируют качество для конкретных сценариев.

Zinakha-12b — текстовая авторегрессионная модель Aixon Lab на архитектуре Transformer, дообученная на базе mistralai/Mistral-Nemo-Base-2407 с использованием разных наборов данных и слияния слоёв. Модель содержит около 12,1 млрд параметров и предназначена прежде всего для многоходового общения с несколькими ролями, генерации текста, ответов на вопросы и анализа. В карточке особенно отмечены понимание контекста, творческое письмо и рассказывание историй. Модель в первую очередь рассчитана на английский язык; заявлена возможная поддержка других языков. Метаданные указывают контекст до 1 024 000 токенов и формат весов safetensors. Лицензия — Apache 2.0. Оценки качества и результаты бенчмарков для этой модели не приведены; ответы могут наследовать смещения обучающих данных, поэтому их следует проверять.

Granite-3.3-2B-Instruct — языковая модель IBM Granite Team с 2,5 млрд параметров, дообученная на базе ibm-granite/granite-3.3-2b-base для следования инструкциям и решения задач, требующих рассуждений. Это плотная авторегрессионная модель для генерации текста с контекстом до 131 072 токенов; поддерживает чат и интерфейс вызова инструментов. Модель предназначена для ассистентов и бизнес-приложений. Она подходит для ответов на вопросы, суммаризации длинных документов и встреч, классификации и извлечения текста, RAG, задач по математике и программированию, а также многоязычного диалога. README указывает поддержку английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. По данным разработчика, модель улучшена в рассуждениях, выполнении инструкций, математике и программировании; для структурирования ответа доступны специальные маркеры рассуждений и итогового ответа. Это генеративная языковая модель, поэтому результаты могут содержать ошибки; ограничения базовой Granite-3.3-2B-Base также применимы. Лицензия — Apache 2.0.

Granite-4.1-30B — большая языковая модель с открытыми весами, разработанная командой Granite компании IBM. Это инструктивная версия с 28,9 млрд параметров, дообученная на базе Granite-4.1-30B-Base с помощью supervised fine-tuning и обучения с подкреплением. Архитектура — плотный decoder-only Transformer с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами; модель работает с контекстом до 131 072 токенов. Модель предназначена для диалогов и следования общим инструкциям, а также для создания ассистентов и LLM-агентов с вызовом инструментов. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи с кодом и многоязычный диалог. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. IBM указывает на улучшения в следовании инструкциям, диалоге и вызове инструментов. Качество на языках помимо английского может быть ниже; модель также может выдавать неточные, предвзятые или небезопасные ответы, поэтому её следует проверять и настраивать под конкретный сценарий. Лицензия — Apache 2.0.

Granite-3.1-2B-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых AI-ассистентов. Это дообученная на базе ibm-granite/granite-3.1-2b-base плотная decoder-only Transformer-модель с 2,5 млрд параметров и контекстом до 131 072 токенов. В архитектуре используются GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги; модель работает в библиотеке Transformers, веса доступны в формате safetensors. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом, вызова функций и диалога на нескольких языках. Длинный контекст подходит для анализа документов и стенограмм встреч. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; обучение инструкциям преимущественно англоязычное, поэтому результаты на других языках могут быть слабее. Модель разработана IBM и выпущена под лицензией Apache 2.0. Несмотря на меры по безопасности, она может выдавать неточные, предвзятые или небезопасные ответы; для конкретного применения рекомендуется проверка и настройка.

Granite-4.1-3B — инструктивная языковая модель IBM Granite Team для диалогов и создания ИИ-ассистентов. Это дообученная версия Granite-4.1-3B-Base с 3,4 млрд параметров, построенная на плотном декодерном трансформере; метаданные указывают библиотеку Transformers и контекст до 131 072 токенов. Модель принимает текст и генерирует текст, поддерживает чат и вызов инструментов. Модель предназначена для следования инструкциям и задач общего назначения, включая суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, программирование, заполнение пропусков в коде и многоязычный диалог. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; основная часть инструкционных данных — англоязычная. В карточке отмечены улучшения следования инструкциям, диалоговых возможностей и вызова инструментов после supervised fine-tuning и RL-выравнивания. Модель распространяется по лицензии Apache 2.0. Возможны неточные, предвзятые или небезопасные ответы; качество на других языках может уступать английскому, поэтому для прикладного использования нужны проверка и настройка под задачу.

google/gemma-4-31B-it-qat-w4a16-ct — инструкционная мультимодальная модель семейства Gemma 4, разработанная Google DeepMind. Она принимает текст и изображения и генерирует текст; предназначена для рассуждений, генерации текста, программирования, мультимодального анализа и агентских сценариев с поддержкой вызова функций. Модель имеет плотную архитектуру с 30,7 млрд параметров, 60 слоями и гибридным механизмом внимания, сочетающим локальное скользящее и глобальное внимание. Контекстное окно составляет до 256 тысяч токенов, размер словаря — 262 тысячи токенов. Gemma 4 поддерживает более 140 языков, режимы настраиваемого рассуждения и системные промпты. Для версии 31B заявлены текстовая и визуальная модальности; аудио для этой конфигурации не поддерживается. Суффикс qat-w4a16-ct указывает на чекпойнт, обученный с учётом квантизации и сохранённый в формате compressed-tensors с 4-битными весами и 16-битными активациями. Такой вариант ориентирован на эффективный инференс, включая нативное использование с vLLM, и должен требовать существенно меньше памяти при сохранении качества, близкого к bfloat16. Ограничениями являются повышенные требования к ресурсам по сравнению с меньшими моделями Gemma 4 и отсутствие аудиовхода. Лицензия — Apache 2.0.

Granite-3.1-3B-A800M-Instruct — языковая модель IBM Granite Team для выполнения общих инструкций и создания диалоговых ассистентов. Это дообученная версия Granite-3.1-3B-A800M-Base: метаданные относят её к семейству Granite MoE, а README описывает decoder-only архитектуру с GQA, RoPE, SwiGLU и RMSNorm. В репозитории указано 352,3 млн параметров и контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Она поддерживает диалоги на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках; также подходит для анализа длинных документов и записей встреч. README указывает, что обучение инструкциям преимущественно велось на английском, поэтому качество на других языках может быть ниже. Модель принимает текст и генерирует текст. Она выпущена под лицензией Apache 2.0. Ответы могут быть неточными, предвзятыми или небезопасными; для конкретных сценариев нужны проверка и настройка.

Карточка модели unsloth/granite-3.2-2b-instruct на Hugging Face совпадает с карточкой ibm-granite/granite-3.2-8b-instruct, поэтому описание составлено по ней. Granite-3.2-8B-Instruct — плотная языковая модель IBM Granite Team с 8,2 млрд параметров, дообученная на базе ibm-granite/granite-3.1-8b-instruct для выполнения инструкций и задач рассуждения. Модель поддерживает управляемый режим рассуждения, который можно включать по необходимости, и работает через библиотеку Transformers; доступны веса в формате safetensors. Модель предназначена для диалоговых помощников и общих прикладных сценариев: суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Контекст — до 131 072 токенов, что подходит для анализа длинных документов и стенограмм. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель распространяется по лицензии Apache 2.0. README указывает, что к ней применимы этические ограничения и ограничения Granite-3.1-8B-Instruct; конкретные ограничения в карточке не перечислены.

unsloth/granite-4.1-30b — версия модели Granite-4.1-30B, опубликованная Unsloth с исправлениями шаблона чата. Исходную модель разработала команда Granite компании IBM; это плотный авторегрессионный трансформер с архитектурой decoder-only, GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель содержит 28,9 млрд параметров и поддерживает контекст до 131 072 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Модель предназначена для диалогов и следования инструкциям, создания ассистентов и агентов с вызовом инструментов, а также для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG и задач с кодом, включая Fill-in-the-Middle. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Для версии Unsloth README отдельно отмечает исправления шаблона чата; для llama.cpp рекомендуется использовать параметр --jinja. Вариант Unsloth основан на ibm-granite/granite-4.1-30b и обозначен в метаданных как дообучение. Модель распространяется по лицензии Apache 2.0. По данным карточки, обучающие инструкции в основном были на английском, поэтому качество на других поддерживаемых языках может быть ниже. Модель может выдавать неточные, предвзятые или небезопасные ответы; для конкретных сценариев нужны проверка и настройка безопасности.

unsloth/granite-4.1-3b — вариант модели Granite 4.1-3B, опубликованный Unsloth на базе инструктивной модели IBM Granite 4.1-3B. Это плотная decoder-only трансформерная языковая модель с 3,4 млрд параметров и контекстом до 131 072 токенов. В архитектуре базовой модели используются GQA, RoPE, SwiGLU и RMSNorm. Модель предназначена для диалоговых ассистентов, следования инструкциям и агентных сценариев с вызовом инструментов. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи с кодом и многоязычный диалог. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; обучающие данные преимущественно англоязычные. Репозиторий содержит веса Safetensors, карточка отмечает исправления шаблона чата Unsloth. Лицензия — Apache 2.0. Модель может ошибаться, выдавать предвзятые или небезопасные ответы; качество на языках помимо английского может быть ниже. Для конкретных задач и развёртывания рекомендуется проверка и настройка безопасности.

unsloth/granite-4.1-8b — версия Granite-4.1-8B, опубликованная Unsloth и основанная на instruct-модели IBM Granite-4.1-8B. Это плотный decoder-only трансформер с 8,4 млрд параметров и контекстом до 131 072 токенов. Модель принимает и генерирует текст; поддерживает диалоги и интерфейс вызова инструментов. Модель предназначена для следования инструкциям и создания диалоговых помощников и LLM-агентов. Она подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом, включая Fill-in-the-Middle, и вызова функций. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. В README отмечены улучшения следования инструкциям, диалога и использования инструментов. Качество на других языках может уступать английскому; ответы могут быть неточными, предвзятыми или небезопасными, поэтому для конкретного применения нужна оценка и настройка. Модель распространяется по лицензии Apache 2.0.

CohereLabs/command-a-plus-05-2026-fp8 — FP8-квантизированная версия Command A+, разработанная Cohere и Cohere Labs. Это открытая decoder-only Sparse Mixture-of-Experts Transformer-модель, предназначенная для агентских, мультиязычных и требовательных к рассуждению задач, включая корпоративные сценарии, диалоговое взаимодействие и обработку изображений. Модель принимает текст и изображения, а генерирует текст. Она содержит 25 млрд активных параметров и 218 млрд параметров всего, использует 128 экспертов, из которых 8 выбираются для каждого токена, а также одного общего эксперта. Архитектура сочетает скользящее и глобальное внимание в соотношении 3:1 и поддерживает контекст до 128K входных токенов. Обучение охватывает 48 языков, включая английский, русский, немецкий, французский, испанский, арабский, китайский, японский, корейский и другие. FP8-квантизация снижает требования к вычислительной инфраструктуре по сравнению с полноразмерной BF16-версией; для неё заявлены ориентировочные конфигурации от 2 GPU B200 или 4 GPU H100. В README указано, что доступные варианты квантизации демонстрируют незначительные различия в качестве и производительности, однако рекомендуемым для большинства задач назван вариант W4A4 благодаря меньшей задержке и аппаратным требованиям. Для запуска необходимы совместимые версии Transformers или vLLM, а для vLLM требуется vLLM 0.21.0 или новее. Модель распространяется по лицензии Apache 2.0.

Gemma-4-26B-A4B-it-F32-GGUF — мультимодальная instruction-tuned модель, основанная на Gemma-4-26B-A4B-it от Google и представленная пользователем prithivMLmods в формате GGUF. Она предназначена для генерации и понимания текста и изображений, включая рассуждение, программирование, OCR и распознавание рукописного текста, разбор документов, анализ пользовательских интерфейсов и диаграмм, обнаружение объектов с указанием их расположения, агентские сценарии, function calling и работу со структурированными данными. Модель использует архитектуру Mixture-of-Experts с 26 млрд общих параметров и примерно 3,8–4 млрд активных параметров на один проход: задействуются 8 экспертов и 1 общий эксперт из 128. Указаны 30 слоёв, словарь размером 262 тысячи токенов, поддержка более 140 языков и контекст до 256 тысяч токенов со sliding window 1024 токена. Поддерживаются текстовые и графические входы с переменным соотношением сторон и разрешением; доступны настраиваемые режимы рассуждения. Модель ориентирована на запуск через llama.cpp и vLLM на GPU NVIDIA или AMD, а репозиторий содержит варианты BF16, F16, F32, Q8_0 и мультимодальные проекционные файлы. Сильными сторонами являются мультимодальность, большой контекст, широкий набор задач и сниженная вычислительная нагрузка по сравнению с плотными моделями сопоставимого качества благодаря MoE. Ограничения включают значительные требования к памяти: размер файла F32 составляет около 101 ГБ, BF16 и F16 — около 50,5 ГБ, а качество и потребление ресурсов зависят от выбранного варианта квантования. Модель распространяется по лицензии Apache 2.0.

NVFP4/Qwen3-30B-A3B-Instruct-2507 — квантизированная версия причинной языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen; формат NVFP4 создан для оптимизированного развертывания. Модель предназначена для генерации текста, следования инструкциям, логического рассуждения, понимания текста, математики, науки, программирования, использования инструментов и открытых диалоговых задач. Она поддерживает многоязычные сценарии и контекст до 262 144 токенов, работает только в нережиме рассуждений и не генерирует блоки <think></think>. Архитектура представляет собой causal language model на основе Mixture of Experts: 30,5 млрд параметров всего, из них 3,3 млрд активируются при обработке запроса; 48 слоев, 128 экспертов, 8 активных экспертов, Grouped Query Attention с 32 головами запросов и 4 головами ключей и значений. К сильным сторонам относятся улучшенные instruction following, качество открытых ответов, покрытие редких знаний, программирование и работа с длинным контекстом. К ограничениям относятся отсутствие режима пошагового рассуждения и потенциальные требования к совместимому программному и аппаратному стеку для запуска NVFP4-квантизации. Лицензия — Apache 2.0.

Qwen3.5-122B-A10B-GPTQ-Int4 — мультимодальная модель семейства Qwen3.5, разработанная командой Qwen. Это causal language model с vision encoder, предназначенная для работы с текстом и изображениями. Модель ориентирована на рассуждения, программирование, визуальное понимание, агентские сценарии и универсальные задачи обработки контента. Модель использует гибридную архитектуру с Gated Delta Networks, Gated Attention и разреженным Mixture-of-Experts. Общее число параметров составляет 122 млрд, при этом во время работы активируется около 10 млрд. Архитектура включает 48 слоёв и 256 экспертов, из которых активируются 8 маршрутизируемых и 1 общий эксперт. Нативная длина контекста — 262 144 токена, с возможностью расширения до 1 010 000 токенов. Поддерживаются 201 язык и диалект. Данная версия содержит GPTQ-квантизацию до 4 бит и распространяется в формате, совместимом с Hugging Face Transformers, vLLM, SGLang и KTransformers. Сильными сторонами модели являются сочетание текстовых и визуальных возможностей, большой контекст, высокая вычислительная эффективность разреженной архитектуры и широкое языковое покрытие. Ограничения включают необходимость совместимого программного и аппаратного окружения для запуска крупной MoE-модели, а также возможные потери качества из-за 4-битной квантизации; конкретные требования к ресурсам в README не указаны. Лицензия — Apache-2.0.

Granite-4.1-3B (FP8) — это FP8-квантизированная версия компактной инструкционной языковой модели Granite-4.1-3B, разработанная командой Granite компании IBM. Модель предназначена для генерации текста и построения AI-ассистентов, включая корпоративные приложения и LLM-агентов с использованием инструментов. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, Retrieval Augmented Generation (RAG), программирование, function calling, многоязычный диалог и Fill-In-the-Middle для завершения кода. Модель содержит около 3 млрд параметров и основана на decoder-only dense Transformer с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными embeddings. Для версии 3B указаны 40 слоёв, размер embeddings 2560, 40 attention heads, 8 KV heads и максимальная длина последовательности 131072 токена. FP8-квантизация предназначена для более эффективного развёртывания и снижения требований к памяти; репозиторий поддерживает Transformers, vLLM и SGLang. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Сильные стороны модели — улучшенные instruction following, tool calling, диалоговые возможности, кодирование и математическое рассуждение при компактном размере. Ограничения включают возможное снижение качества для неанглийских задач, а также риск неточных, предвзятых или небезопасных ответов; IBM рекомендует проводить собственное тестирование и настройку безопасности. Модель распространяется по лицензии Apache 2.0.

Gemma 4 26B A4B IT QAT GGUF — это мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате GGUF пользователем prithivMLmods. Она основана на разреженной Mixture-of-Experts архитектуре: содержит около 25,2 млрд параметров, из которых при генерации активны примерно 3,8 млрд. Модель поддерживает текст и изображения, но не аудио, и предназначена для диалогов, анализа изображений, OCR, анализа кадров видео, генерации текста и кода, вызова функций и задач, требующих рассуждений. Доступен настраиваемый режим reasoning. Модель использует около 550 млн параметров в vision encoder, контекстное окно до 256K токенов, скользящее окно 1024 токена и словарь примерно из 262 тысяч токенов для более чем 140 языков. Quantization-Aware Training помогает сохранить качество, близкое к bfloat16, при меньших требованиях к памяти. Репозиторий предоставляет варианты GGUF с квантованием от Q2_K до Q8_0, а также BF16, F16 и F32; размеры файлов составляют примерно от 10,6 до 101 ГБ, поэтому практическое использование зависит от доступной памяти и аппаратных ресурсов. К ограничениям относятся отсутствие аудиомодальности, высокие требования к ресурсам для полноразмерных вариантов и зависимость качества от выбранного уровня квантования. Лицензия — Apache 2.0.

GigaChat 3.1 Lightning — компактная инструкционная модель семейства GigaChat 3.1, разработанная командой ai-sage. Она предназначена для быстрых многоязычных ассистентских сценариев, рассуждений, программирования, генерации текста, функционального вызова и продуктовых применений. Модель поддерживает русский и английский языки; обучающий корпус семейства охватывает 10 языков и включает книги, академические материалы, код, математику и синтетические данные. Модель использует архитектуру Mixture-of-Experts с 10 млрд общих и 1,8 млрд активных параметров. Multi-head Latent Attention (MLA) сжимает KV-кэш, снижая потребление памяти и повышая эффективность на длинных контекстах, а Multi-Token Prediction (MTP) может ускорять спекулятивное и параллельное декодирование. К сильным сторонам относятся высокая скорость инференса, поддержка инструментальных вызовов, кода и задач рассуждения, а также улучшенная устойчивость после DPO-обучения. Максимальный размер контекста в README не указан, поэтому возможности работы с конкретной длиной контекста требуют дополнительной проверки. Модель распространяется по лицензии MIT.

Qwen3.5-4B-f32-GGUF — это набор GGUF-файлов с версиями модели Qwen3.5-4B, разработанной командой Alibaba Qwen и представленной в репозитории prithivMLmods. Модель представляет собой плотную мультимодальную causal language model примерно с 4 млрд параметров и встроенным vision-энкодером. Она предназначена для генерации и понимания текста, анализа изображений и видео, OCR, решения математических задач, программирования и агентских сценариев. Архитектура включает 32 слоя с гибридной схемой Gated DeltaNet и Gated Attention, размером скрытого состояния 2560 и словарём на 248 тысяч токенов для 201 языка. Заявлена поддержка контекста до 262 тысяч токенов с возможностью расширения свыше 1 млн токенов, а также переключаемый режим рассуждений для выбора между более глубоким анализом и быстрой генерацией. В комплект входят варианты BF16, F16, F32, Q8_0 и отдельные мультимодальные проекционные файлы mmproj; размеры файлов варьируются примерно от 367 МБ до 16,8 ГБ. К сильным сторонам относятся мультимодальность без необходимости в отдельном VL-компоненте, большой контекст, многоязычность и возможность запуска на ограниченных ресурсах: в README указано около 8 ГБ VRAM для BF16 и примерно 3 ГБ для 4-битной версии. К ограничениям относятся различия в качестве и размере квантованных вариантов, а также компромисс между скоростью и качеством рассуждений. Модель распространяется по лицензии Apache 2.0.