I.11Классификация, ранжирование и сопоставление

jc-builds/Qwen3.5-4B-Q4_K_M-GGUF — это 4-битная квантованная версия базовой модели Qwen/Qwen3.5-4B, разработанной Alibaba Cloud. Квантование Q4_K_M и упаковка в формат GGUF выполнены для запуска на устройствах пользователя, в частности на iPhone, iPad и компьютерах Mac с Apple Silicon, через llama.cpp. Модель распространяется по лицензии Apache 2.0. Модель предназначена для генерации текста, рассуждений, программирования, следования инструкциям и использования инструментов. Она поддерживает режим reasoning с тегами <think> и ChatML-формат запросов. В README заявлены мультимодальные возможности с ранним объединением зрительных данных, однако vision encoder предоставляется отдельно. Указана поддержка 201 языка и диалекта, включая английский, китайский, японский, корейский, русский и другие языки. Архитектура представляет собой гибрид Gated DeltaNet и полноразмерного softmax-внимания в соотношении 3:1: из 32 слоёв восемь блоков содержат по три слоя DeltaNet и одному attention-слою. Модель имеет около 4 миллиардов параметров, размер файла составляет примерно 2,6 ГБ, а нативное контекстное окно — 262 144 токена; для расширения контекста заявлена совместимость с YaRN. Гибридная архитектура рассчитана на снижение потребления памяти, что делает модель подходящей для локального и мобильного вывода. Ограничениями являются потеря точности из-за 4-битного квантования, высокие требования к оперативной памяти для длинного контекста и то, что заявленные мультимодальные функции требуют отдельного vision encoder.

RedHatAI/Qwen3.5-4B-quantized.w4a16 — квантизированная версия мультимодальной модели Qwen3.5-4B, разработанная RedHatAI на основе базовой модели Qwen/Qwen3.5-4B. Она принимает текст и изображения, а генерирует текст и предназначена для задач диалогового взаимодействия, следования инструкциям, рассуждений и анализа визуального содержимого. Модель использует архитектуру Qwen3.5-4B и оптимизирована для инференса через vLLM. Веса линейных операторов в трансформерных блоках сжаты до INT4, тогда как активации сохраняют исходную точность. Vision encoder, токеновые эмбеддинги и слои linear attention остаются в формате BF16. Размер модели на диске составляет около 5,2 ГБ против 8,8 ГБ у версии BF16, что снижает требования к памяти. В конфигурации vLLM заявлена поддержка контекста до 262 144 токенов; также доступен текстовый режим с отключением визуальной части. Языки модели в README не указаны. К сильным сторонам относятся существенное уменьшение размера и требований к памяти при сохранении близких к исходной модели результатов на ряде тестов, включая GSM8k-Platinum, MMLU-Pro, IFEval и Math 500. Ограничениями являются возможное снижение качества на отдельных задачах рассуждений, заметное на AIME 2025 и GPQA Diamond, а также зависимость от совместимого окружения vLLM и связанных инструментов. Модель распространяется по лицензии Apache-2.0.

Vishva007/Qwen3.5-9B-W4A16-AutoRound-GPTQ — квантизированная версия модели Qwen/Qwen3.5-9B, подготовленная Vishva007 с использованием метода AutoRound от Intel. Модель предназначена для генерации текста, задач рассуждения и обработки изображений с текстом, включая визуальное понимание и OCR. Она поддерживает архитектуру и возможности базовой модели Qwen3.5-9B; точный размер контекста и перечень языков в README не указаны. Используется квантизация W4A16: веса представлены в 4-битном формате, а активации сохраняются в 16-битной точности. Применены симметричная квантизация с размером группы 32, 1200 итераций оптимизации и 512 калибровочных образцов при длине последовательности 4096. По заявлению автора, это снижает потребление памяти примерно на 50% по сравнению с FP16-версией и подходит для развёртывания на потребительских и средних GPU. Vision Tower сохранён в BF16 для сохранения качества визуального анализа и OCR, а модули Multi-Token Prediction — в исходной BF16-точности. Модель поддерживает Multi-Token Prediction и спекулятивное декодирование в совместимых серверных средах, включая vLLM, что может повысить пропускную способность. Совместимость заявлена для transformers и бэкендов, поддерживающих веса AutoRound в формате GPTQ, включая vLLM, SGLang и AutoGPTQ. Ограничения связаны с зависимостью от совместимого программного обеспечения и аппаратной поддержки квантизации; количественные результаты тестов качества в README не приведены. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-imatrix-GGUF — это квантизированная GGUF-версия базовой модели Qwen3.6-35B-A3B, подготовленная liodon-ai с использованием калибровки importance matrix (iMatrix). Базовую модель разработала команда Qwen компании Alibaba Cloud. Модель предназначена для локальной генерации текста, диалогов и выполнения инструкций через llama.cpp, Ollama, LM Studio и Jan. Модель использует MoE-архитектуру с 35 млрд параметров, из которых активно 3,5 млрд, и поддерживает контекст до 128K токенов. Доступны варианты квантизации от Q2_K до Q8_0, включая i-кванты IQ2_M, IQ3_M и IQ4_XS. iMatrix-калибровка повышает связность и качество следования инструкциям при низкой разрядности по сравнению со стандартной квантизацией, сохраняя меньший размер файлов. Ограничения зависят от выбранного варианта: более сильная квантизация снижает качество, а для запуска требуются от 6 до 36,9 ГБ памяти в зависимости от файла. Лицензия Apache 2.0.

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — модификация модели Qwen/Qwen3.6-35B-A3B, подготовленная HauhauCS. Это мультимодальная модель в формате GGUF для генерации текста, работы с изображениями и видео, а также для диалоговых, аналитических, творческих и программных задач. Версия Aggressive ориентирована на минимальное количество отказов: по данным README, она не содержит дополнительных изменений в датасетах или базовых возможностях, но отключает встроенные отказы модели. Модель использует архитектуру MoE с 35 млрд общих параметров и примерно 3 млрд активных параметров на один проход. В ней 256 экспертов, из которых для каждого токена выбираются 8, 40 слоёв и гибридная схема внимания: линейное и полноразмерное softmax-внимание в соотношении 3:1. Нативное контекстное окно составляет 262 тысячи токенов. Заявлена поддержка английского, китайского и других языков. Для обработки изображений требуется отдельный файл mmproj; доступны различные варианты квантования GGUF, совместимые с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Сильными сторонами являются большое контекстное окно, мультимодальность, низкое число активных параметров при значительном общем объёме модели и широкий выбор квантований, включая оптимизированные K_P-варианты с повышенным сохранением качества. Ограничением является отсутствие или ослабление защитных механизмов: модель может генерировать нежелательный, небезопасный или потенциально вредный контент, поэтому требует дополнительного контроля в прикладных системах. Для сохранения возможностей рассуждения рекомендуется использовать контекст не менее 128 тысяч токенов; для vision-сценариев необходим mmproj-файл. Модель распространяется по лицензии Apache-2.0.

btbtyler09/Qwen3.8-27B-GPTQ-8bit — квантизированная 8-битная версия мультимодальной модели Qwen/Qwen3.8-27B. Модель разработана на базе семейства Qwen и распространяется пользователем btbtyler09. Она предназначена для обработки текста и изображений, генерации ответов, анализа изображений, программирования и других задач общего назначения, а также поддерживает speculative decoding через модуль MTP. Модель имеет плотную архитектуру примерно на 27 млрд параметров без MoE, 64 слоя, включая 48 слоёв линейного внимания и 16 слоёв полного внимания, скрытый размер 5120 и контекст до 262 144 токенов. Полный vision encoder на базе ViT и MTP-модуль сохранены в формате BF16, а основные квантизируемые линейные слои текстового декодера переведены в INT8 с использованием GPTQ. Размер модели составляет около 31 ГБ против примерно 56 ГБ у исходной BF16-версии. Поддерживаются текстовая и визуальная модальности; конкретный набор языков в README не указан. Ключевое преимущество — существенно меньшее потребление дискового пространства и видеопамяти при заявленной практически неизменной perplexity относительно BF16-оригинала. Модель рассчитана на развёртывание через vLLM и загрузку с помощью GPTQModel или transformers. Ограничения включают высокие требования к ресурсам, необходимость совместимого программного окружения и возможную проблему конфигурации в некоторых версиях vLLM, для которой в README приведён обходной патч. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-квантизованная версия плотной языковой модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео. Вариант Aggressive ориентирован на прямые ответы, минимальную вводную часть и отсутствие отказного поведения; при этом README предупреждает, что для критически важных длинноконтекстных агентских задач более безопасным выбором может быть Balanced-вариант, если он доступен. Архитектура включает 64 слоя, скрытый размер 5120, размер FFN 17 408, словарь из 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Модель сохраняет встроенный MTP/NextN и поддерживает ускорение HauhauCS FastMTP через отдельный sidecar-файл. Заявлены нативный контекст 262 144 токена и расширение до 1 000 000 токенов. Для мультимодального ввода используется отдельный vision projector в формате BF16; текстовые кванты доступны в вариантах от Q2 до Q8, включая пользовательские K_P-квантизации. Сильные стороны модели — сочетание большого контекстного окна, текстовых, reasoning-, агентских и мультимодальных возможностей, а также варианты квантизации для запуска в средах, совместимых с GGUF, включая llama.cpp и LM Studio. Ограничения связаны с тем, что Aggressive-профиль намеренно снижает склонность к отказам, что может быть нежелательно для задач с повышенными требованиями к безопасности и надёжности. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-VL-4B-Instruct-bnb-4bit — это 4-битно квантованная версия мультимодальной инструкционной модели Qwen3-VL-4B-Instruct, подготовленная Unsloth на базе модели Qwen Team. Модель предназначена для задач, в которых требуется совместная обработка текста и изображений, включая визуальные вопросы и ответы, описание изображений, OCR, анализ документов, визуальное рассуждение, работу с видео и взаимодействие с графическими интерфейсами. Модель имеет плотную архитектуру и около 4 миллиардов параметров; поддерживает текстово-визуальный ввод и вывод текста. Для семейства Qwen3-VL заявлены нативный контекст до 256 тысяч токенов с возможностью расширения до 1 миллиона, анализ продолжительных видео, распознавание текста на 32 языках, улучшенное пространственное рассуждение, временная привязка событий в видео и генерация кода HTML/CSS/JS или схем Draw.io по визуальным материалам. В README также указаны механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками, однако конкретные языки интерфейса и точные параметры именно этой квантованной сборки не уточняются. К сильным сторонам относятся сочетание визуального восприятия и текстового понимания, работа с документами и видео, распознавание текста в сложных условиях, а также возможность применения в агентских сценариях и на устройствах с ограниченными ресурсами благодаря 4-битной квантизации. Ограничения включают возможное снижение точности по сравнению с полноформатной моделью и неуточнённые требования к аппаратному обеспечению и совместимости. Лицензия — Apache-2.0.

YOYO-AI/ZYH-LLM-Qwen2.5-14B-V3 — третья версия модели серии ZYH-LLM от YOYO-AI, созданная с помощью слияния нескольких языковых моделей. Это плотная авторегрессионная модель семейства Qwen2 с 14 млрд параметров в формате safetensors. В README описан первый этап слияния Qwen/Qwen2.5-14B-Instruct и Qwen/Qwen2.5-14B методом DELLA; метаданные также указывают среди исходных моделей Azure99/Blossom-V6-14B, arcee-ai/Virtuoso-Small-v2 и варианты Qwen2.5-14B. Модель предназначена для генерации текста и диалогов, включая структурированные ответы и взаимодействие через интерфейс вызова инструментов. Заявленная длина контекста — 1 010 000 токенов. Метаданные карточки указывают английский и китайский языки. В README приведены результаты Open LLM Leaderboard: среднее значение 41,63, IFEval — 85,78 и BBH — 48,18; эти результаты не описывают все сценарии применения. Модель распространяется по лицензии Apache-2.0.

Aya Expanse 32B — открытая по весам мультиязычная языковая модель, разработанная Cohere Labs. Она основана на предварительно обученной модели семейства Command и дополнительно обучена с учителем, с использованием предпочтений и объединения моделей. Модель предназначена для диалогов и генерации текста на 23 языках, включая русский, английский, арабский, китайский, хинди, японский и другие. Это авторегрессионная модель на архитектуре Transformer с 32 млрд параметров и контекстом до 128K токенов; она принимает текст и генерирует текст. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование; также необходимо соблюдать Политику допустимого использования Cohere Labs. Модель выпущена как исследовательская, но подходит для практических мультиязычных задач; её ответы могут быть ошибочными, а качество — различаться между языками и задачами.

DeepHermes 3 Llama 3 8B Preview — языковая модель Nous Research на архитектуре Llama, дообученная на базе meta-llama/Meta-Llama-3.1-8B. Это предварительная версия общей разговорной модели с 7,5 млрд параметров и контекстом до 131 072 токенов. Модель поддерживает диалог в формате Llama-Chat и переключение между обычными ответами и режимом рассуждения с помощью системного промпта. Модель предназначена для генерации ответов, многошаговых диалогов, ролевого общения и задач, где полезны рассуждение и объективность. Она также поддерживает интерфейс вызова функций и структурированные ответы в JSON; вызов инструмента выполняет внешняя система, которая обрабатывает ответ модели и передаёт ей результат. Карточка описывает модель как preview с ранними возможностями рассуждения и предупреждает о возможных особенностях и проблемах. Включение режима рассуждения требует специального системного промпта, а для сложных запросов может понадобиться увеличить лимит генерируемых токенов. Указана лицензия Llama 3; применяйте модель с учётом её условий.

DeepSeek-V2.5-1210-FP8 — квантованная версия языковой модели DeepSeek-V2.5-1210, разработанная Neural Magic. Модель принимает текст и генерирует текст, предназначена для задач генерации и обработки естественного языка, включая развертывание чат-сервисов и других приложений на базе causal language model. В README указано, что модель доступна для инференса через библиотеку Transformers и оптимизирована для vLLM версии 0.5.2 и выше. Модель использует архитектуру DeepSeek-V2.5-1210 и формат квантования FP8 для весов и активаций. Квантованию подвергаются линейные операторы в блоках трансформера, за исключением маршрутизаторов MLP. Переход с 16 на 8 бит примерно на 50% уменьшает размер модели на диске и требования к памяти GPU. Указанный максимальный размер контекста для примера развертывания составляет 4096 токенов; язык в карточке заявлен как английский. На OpenLLM Leaderboard V1 модель получила средний результат 77,8, практически совпавший с результатом неквантованной версии 77,82. Сильными сторонами модели являются снижение требований к дисковой и GPU-памяти при сохранении близкой к исходной результативности, а также поддержка эффективного инференса и OpenAI-совместимой подачи через vLLM. Ограничения включают зависимость от совместимого стека vLLM, необходимость использования tensor parallelism для конфигурации из примера и отсутствие в README подробных сведений о числе параметров, полном списке языков и характеристиках исходной архитектуры. Модель распространяется по лицензии DeepSeek; точные условия указаны в файле лицензии по ссылке, приведенной в карточке.

DeepSeek-V3.1-Base — базовая языковая модель, разработанная DeepSeek AI. Она предназначена как основа для последующего дообучения и создания прикладных версий, включая варианты с режимами рассуждения и без рассуждения, поддержкой вызова инструментов и агентскими сценариями. Модель ориентирована на обработку длинного контекста и сложных текстовых запросов. Модель построена на архитектуре Mixture-of-Experts: общий размер составляет 671 млрд параметров, из которых для одного токена активируется 37 млрд. Максимальная длина контекста — 128K токенов. В README не указаны точный набор поддерживаемых языков и мультимодальные возможности, поэтому подтверждённо описать её можно только как текстовую языковую модель. Для обучения использовалось расширение длинного контекста в два этапа, а веса и активации представлены в формате UE8M0 FP8. К сильным сторонам относятся большой контекст, высокая вычислительная ёмкость при меньшем числе активируемых параметров и пригодность в качестве базы для специализированного дообучения. Ограничения включают очень высокие требования к ресурсам для развёртывания и отсутствие в предоставленных данных подробных результатов оценки, перечня языков и описания мультимодальности. Модель распространяется по лицензии MIT.

Это GGUF-квантизации модели gemma-3-27b-it-ultra-uncensored-heretic, созданной независимым разработчиком LLMfan46 на основе Google Gemma 3 27B Instruct от Google DeepMind. Модель модифицирована с помощью Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA), чтобы уменьшить склонность исходной модели к отказам и ограничениям при сохранении её исходных возможностей. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и анализа изображений. Это мультимодальная модель с текстовым и графическим вводом и текстовым выводом; заявлена поддержка более 140 языков. Контекстное окно составляет 128K токенов, максимальный объём вывода — 8192 токена. Для работы с изображениями требуется отдельный vision projector, совместимый с выбранной квантизацией. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S, что позволяет выбирать между качеством, размером и требованиями к памяти. По данным README, модифицированная версия показала 5 отказов из 100 против 98 из 100 у исходной модели, а KL divergence составила 0,0616; это указывает на значительно меньшее число отказов при относительно близком поведении к оригиналу. Модель совместима с llama.cpp, LM Studio, Ollama и другими инструментами, поддерживающими GGUF. Используется лицензия Gemma; применяются условия использования Google.

OnlyTextLLMs выпустила текстовую версию инструкционной модели Google Gemma 4 12B IT: из исходной модели удалены блоки обработки изображений и аудио и мультимодальные специальные токены, а текстовая часть и LM-голова сохранены. Это плотная причинная языковая модель Gemma4UnifiedForCausalLM с 11,6 млрд параметров и контекстом до 262 144 токенов; репозиторий содержит веса Safetensors в формате bfloat16. Модель предназначена для диалогов и генерации текста на основе текстовых запросов. По заявлению авторов, дообучение не проводилось, новые обучающие данные и возможности не добавлялись. Модель распространяется по лицензии Apache-2.0.

Это NVFP4-квантизованная сборка в формате GGUF модели Gemma 4 E4B IT от Google DeepMind, подготовленная для запуска через llama.cpp и другие совместимые движки. В основе указана QAT-версия Gemma 4 E4B IT; архитектура — Gemma4ForConditionalGeneration, с 4,3 млрд эффективных параметров (7,5 млрд с эмбеддингами) и 42 слоями. В репозитории есть варианты весов NVFP4 и BF16, а также MTP-модель для ускорения генерации. Модель принимает текст, изображения и аудио и генерирует текст. Она предназначена для диалога, анализа изображений и аудио, рассуждений, программирования и локального запуска; заявлены контекст до 128 тыс. токенов, поддержка более 140 языков и структурированного вызова инструментов. Для мультимодального ввода требуется файл mmproj.gguf. NVFP4 уменьшает требования к памяти, а QAT призван сохранить качество, однако качество конкретной квантизованной сборки может отличаться от исходных весов. Лицензия — Apache 2.0.

GLiNER-Multitask Large v0.5 — модель Knowledgator для извлечения заданной пользователем информации из обычного текста. Она использует двунаправленный Transformer-энкодер, похожий на BERT, и поддерживает настройку запросом: типы сущностей или другие сведения для извлечения задаются при работе модели. Модель предназначена для распознавания сущностей и отношений, извлечения ключевых фраз и тональности, поиска ответов в тексте, открытого извлечения информации и выделения предложений для краткого пересказа. Для NER модель показывает результаты, сопоставимые со специализированными моделями в приведённых авторами zero-shot бенчмарках. Для работы требуется библиотека GLiNER; веса доступны в форматах PyTorch и Safetensors. Карточка указывает поддержку английского языка и лицензию Apache-2.0. Размер модели и длина контекста в предоставленных данных не приведены.

GLM-4-9B — базовая плотная языковая модель семейства GLM-4, разработанная Zhipu AI. Репозиторий содержит версию с 8,8 млрд параметров в формате safetensors; она предназначена для генерации текста и служит базой для последующей настройки под диалоговые и другие задачи. Модель оценивалась на задачах семантики, математики, рассуждений, программирования и общих знаний. В карточке описана многоязычная поддержка, включая китайский и английский; метаданные также указывают эти языки. Контекст этой версии составляет 8192 токена. Упомянутые в README возможности вызова инструментов, веб-поиска и контекст до 128K относятся к GLM-4-9B-Chat, а не к данной базовой версии. Для работы с весами требуется transformers версии 4.46.0 или новее. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория. Модель не является мультимодальной: описание этой линейки отдельно выделяет GLM-4V-9B как визуальную модель.

DAXZEIT/GRM-2.6-Plus-0628-MTP-reasoning-i1-GGUF — это набор квантованных GGUF-сборок модели OrionLLM/GRM-2.6-Plus-0628, предназначенной для агентных сценариев, рассуждений, работы с инструментами и задач «изображение—текст». Базовая модель имеет около 27 млрд параметров, архитектуру на основе Qwen3.5/3.6 с MTP-слоем и гибридными gated DeltaNet-рекуррентными слоями. Для работы с изображениями требуется мультимодальный проектор mmproj. В README продемонстрирована конфигурация с контекстом до 262 144 токенов. Сборки используют reasoning-domain importance matrix, оптимизированную для задач рассуждения, а также повышенную точность для ключевого тензора ssm_out во всех DeltaNet-слоях. Доступны варианты квантования от IQ2_M до Q6_K размером примерно от 10,1 до 21,3 ГиБ; более высокая разрядность обычно обеспечивает меньшие отклонения от исходных bf16-весов и лучшее совпадение предсказаний, но требует больше памяти. Встроенный шаблон чата исправляет обработку вызовов инструментов внутри рассуждений и поддерживает агентные циклы. Модель подходит для локального запуска через llama.cpp, включая speculative decoding с MTP, обработки текста и изображений, а также приложений с большим контекстом. Ограничения связаны с потерями точности из-за квантования, требованиями к видеопамяти и необходимостью корректно настроить llama.cpp, мультимодальный проектор и параметры контекста. Поддерживаемые языки в README не указаны. Лицензия — Apache-2.0.

InternLM2.5-20B-Chat — диалоговая языковая модель семейства InternLM2, разработанная командой InternLM. Это плотная авторегрессионная модель с 19,3 млрд параметров и контекстом до 32 768 токенов, предназначенная для практических сценариев общения и выполнения инструкций. Модель принимает текст и генерирует текст; карточка описывает её возможности диалогового взаимодействия и сообщает об улучшенном выборе инструментов, многошаговых вызовах и анализе полученных результатов. Модель подходит для математических рассуждений, ответов на вопросы и построения диалоговых систем и агентов, использующих инструменты. В README приведены результаты OpenCompass, включая сильные показатели на CMMLU и BBH; они зависят от конфигурации и версии оценки. Весам доступен формат safetensors, а для коммерческого использования требуется бесплатное разрешение; код репозитория выпущен под Apache-2.0. Модель может выдавать предвзятые, дискриминационные или иные вредоносные и неожиданные ответы. Результаты генерации требуют проверки, особенно при использовании в приложениях с последствиями для пользователей.

Menlo/Jan-nano-128k-gguf — это квантованная GGUF-версия компактной языковой модели Jan-Nano-128k, разработанной Menlo Research; авторами указаны Alan Dao и Bach Vu Dinh. Модель предназначена для генерации текста и исследовательских сценариев, включая анализ научных статей и длинных документов, синтез информации из нескольких источников, работу с большими наборами данных и сложные многошаговые диалоги. Она также совместима с серверами Model Context Protocol (MCP) и поддерживает вызов инструментов при соответствующей настройке среды. Ключевая характеристика модели — нативное контекстное окно до 128 000 токенов, рассчитанное на сохранение производительности при работе с длинным контекстом. Указан английский язык; модель относится к нетерминологически «рассуждающим» моделям и не использует отдельный режим thinking. Архитектура, точный размер модели, тип и параметры квантования, а также перечень поддерживаемых модальностей в README не раскрыты, поэтому подтверждена только текстовая модальность. Сильными сторонами заявлены обработка больших документов, глубокий анализ и улучшение результатов на длинном контексте по сравнению с предыдущей версией Jan-Nano. Ограничения включают отсутствие подробных сведений об архитектуре, размере и конкретном варианте квантования, а также необходимость корректной настройки chat template и параметров масштабирования RoPE при некоторых способах развёртывания. Модель распространяется по лицензии Apache 2.0.

Lapa LLM v0.1.2 Instruct — мультимодальная инструктивная модель на архитектуре Gemma 3 с 12 млрд параметров, разработанная украинской исследовательской командой из Украинского католического университета, AGH University of Krakow, КПИ имени Игоря Сикорского и Львовской политехники. Модель настроена на обработку украинского языка и принимает текст и изображения; заявленная длина входного контекста — 128 тыс. токенов, длина генерируемого ответа — до 8192 токенов. Модель предназначена для ответов на вопросы, суммаризации, анализа изображений на украинском языке, перевода между английским и украинским, а также для чат-ботов и RAG-систем. Авторы сообщают об адаптации токенизатора: 80 тыс. из 250 тыс. токенов заменены на украинские, что, по их оценке, позволяет обрабатывать украинский текст с меньшим числом токенов и вычислений. В метаданных указаны возможности чата и зрения; формат весов — safetensors. README заявляет возможность коммерческого использования и описывает открытые наборы данных, код и документацию проекта. В метаданных указана лицензия Gemma; перед коммерческим использованием следует проверить её условия для этой версии. README отмечает, что качество инструктивной версии ещё улучшается и что для развития возможностей анализа изображений и следования инструкциям собираются дополнительные данные.

LFM2.5-8B-A1B-ThinkingCap-GGUF — GGUF-сборка модели LFM 2.5 8B ThinkingCap, основанная на весах Liquid AI LFM 2.5 8B A1B и аблитерированной версии huihui-ai. Модель дообучена osk-arr00 с применением Supervised Fine-Tuning (SFT) и Direct Preference Optimization (DPO) и ориентирована на рассуждения, генерацию текста, структурированные ответы и tool-calling. Заявлена поддержка английского и испанского языков. Архитектура представляет собой гибридную модель с 36 слоями одномерных коротких свёрток и MoE-основой на 32 эксперта. Всего модель содержит около 8,47 млрд параметров, из которых примерно 1,2 млрд активны на каждый токен. В репозитории доступны варианты GGUF от BF16 до Q4, включая специализированные APEX и ROCmFPX-квантизации для AMD Strix Halo с архитектурой RDNA 3.5 и gfx1151, а также версии для llama.cpp, Vulkan, CPU и CUDA. Указана поддержка глобального контекста до 256K токенов в серверном сценарии, однако точные ограничения зависят от сборки и конфигурации. Сильными сторонами являются ориентация на reasoning, детерминированные структурированные ответы, англо- и испаноязычная генерация, широкий выбор квантизаций и оптимизация для AMD Strix Halo. Ограничения включают зависимость производительности от аппаратной платформы, рантайма, квантизации и параметров запуска; приведённые показатели относятся к AMD Ryzen AI Max 385 с 64 ГБ LPDDR5X и не гарантируют аналогичную скорость на других системах. Лицензия обозначена как lfm1.0; конкретные условия следует уточнять в приложенном файле лицензии.

Linkbricks-Horizon-AI-Japanese-Base-32B — языковая модель, дообученная директором по данным Linkbricks Юнсоном Джи (Saxo) на базе Qwen/QwQ-32B-Preview. Модель Qwen2 с 32 млрд параметров предназначена для генерации текста и диалогов; обучение включало японское продолженное предобучение, SFT и DPO, а также данные на японском, корейском, китайском и английском языках. В README заявлено окно контекста 128 тыс. токенов, тогда как метаданные указывают нативный контекст 32 768 токенов. Модель рассчитана на многоязычные задачи, включая перевод, суммаризацию, анализ отзывов и публикаций в социальных сетях, написание текстов и кода, математические и логические рассуждения. Поддерживает интерфейс вызова функций и инструментов. Лицензия — Apache-2.0. README не приводит результаты сравнительных оценок, поэтому заявленные сильные стороны не дают основания судить о качестве на конкретных тестах.

Карточка модели yuwy-thu/llama31 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

meta-llama/Llama-3.1-405B-FP8 — крупная языковая модель семейства Llama 3.1, разработанная Meta. Она предназначена для генерации текста и может применяться в задачах обработки естественного языка, включая создание и преобразование текстового контента. Модель ориентирована на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Из доступных данных следует, что модель содержит 405 миллиардов параметров и представлена в формате FP8. Архитектура, максимальная длина контекста, поддерживаемые модальности помимо текста и подробные сведения о сильных сторонах в README не указаны. Большой размер модели потенциально обеспечивает высокую способность к обработке сложных языковых задач, но также предполагает значительные требования к вычислительным ресурсам; конкретные требования и ограничения по производительности не приведены. Модель распространяется по Llama 3.1 Community License от Meta. Лицензия разрешает использовать, воспроизводить, распространять, изменять материалы и создавать производные работы на установленных условиях. При распространении необходимо сохранять текст лицензии и уведомление об атрибуции, указывать «Built with Llama», соблюдать Acceptable Use Policy и применимое законодательство. Для продуктов или сервисов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено требование запросить отдельную лицензию у Meta.

Карточка модели d-matrix/Llama-3.1-8B-Instruct на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

llm-jp-4-33b-thinking-gguf — большая языковая модель серии LLM-jp-4, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это Transformer-модель для генерации текста, диалоговых сценариев, решения инструкций и многошаговых задач на японском и английском языках. Модель представлена в формате GGUF и предназначена для локального или серверного запуска совместимых средств вывода. Модель имеет плотную архитектуру с 33,2 млрд параметров, 64 слоями, размером скрытого состояния 5120 и 40 головами внимания. Максимальная длина контекста составляет 65 536 токенов. Токенизатор основан на Unigram byte-fallback и совместим с шаблоном чата в формате OpenAI Harmony, однако для корректной работы следует использовать токенизатор из репозитория модели. Обучение включало предварительное и промежуточное обучение на 11,7 трлн токенов, а также дообучение SFT и DPO. Сильными сторонами модели являются большой контекст, поддержка японского и английского языков, а также ориентация thinking-варианта на рассуждения и выполнение сложных инструкций. README не содержит итоговых численных оценок качества, поэтому сравнивать производительность с другими моделями по этим данным нельзя. Для запуска через llama.cpp требуется специальный fork от LLM-jp с исправлениями обработки токенизатора; стандартная upstream-версия может некорректно обрабатывать чат. Модель распространяется по лицензии Apache-2.0.

Mistral-Small-3.2-24B-Instruct-2506-GGUF — квантизированная GGUF-версия инструкционной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной Mistral AI и подготовленной пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для диалоговых приложений, генерации и обработки текста, а также, согласно метаданным, для сценариев image-text-to-text. Поддерживаются английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский и другие языки, перечисленные в карточке модели. Модель содержит около 24 млрд параметров и доступна в вариантах от BF16 до различных уровней Q3–Q8, что позволяет выбирать между качеством, размером файлов и требованиями к оборудованию. Размер файлов варьируется примерно от 13,5 ГБ для компактных квантизаций до 47,15 ГБ для BF16. Версия поддерживает запуск через llama.cpp, LM Studio и совместимые проекты. Исправленный chat template добавляет поддержку tool calling; для корректной работы требуется соответствующий шаблон Mistral-Small-3.2-24B-Instruct-2506.jinja и актуальная поддержка со стороны llama.cpp. К сильным сторонам относятся широкий выбор квантизаций, возможность локального запуска и высокое заявленное качество вариантов Q5–Q8. Ограничения включают значительные требования к памяти даже у компактных вариантов, зависимость от совместимого llama.cpp-окружения и необходимость правильной настройки шаблона чата для вызова инструментов. Размер контекста и подробные характеристики архитектуры в README не указаны. Модель распространяется по лицензии Apache-2.0.

NVIDIA Nemotron 3 Nano Omni — мультимодальная большая языковая модель, разработанная NVIDIA в рамках семейства Nemotron. Эта версия распространяется в формате GGUF и предназначена для понимания видео, аудио, изображений и текста с применением в корпоративных системах: вопросно-ответных сервисах, суммаризации, транскрипции, анализе документов и интеллектуальной автоматизации графического интерфейса. Модель использует гибридную архитектуру Mamba2-Transformer с Mixture of Experts (MoE), включает языковую модель Nemotron 3 Nano LLM 30B A3B, визуальный энкодер CRADIO v4-H и речевой энкодер Parakeet. Общее число параметров — около 31 млрд (30B A3B). Поддерживаются видео MP4 длительностью до 2 минут, аудиофайлы WAV и MP3 длительностью до 1 часа, изображения JPEG и PNG, а также текст. Заявлена максимальная длина контекста до 256 тысяч токенов. Хотя в метаданных перечислены английский, французский, испанский, итальянский, немецкий, японский и китайский языки, в описании входных данных явно указана поддержка только английского языка. Модель подходит для анализа видеозаписей и речи, поиска и суммаризации медиаконтента, обработки контрактов и финансовых документов, OCR, GUI-автоматизации и агентных сценариев. Она поддерживает JSON-вывод, вызов инструментов, рассуждения и временные метки слов при транскрипции. Основные ограничения — ориентация на NVIDIA GPU и Linux, а также заявленная поддержка только аппаратуры NVIDIA и английского языка. Для работы указаны vLLM, NeMo, Megatron и NeMo-RL. Использование регулируется NVIDIA Open Model Agreement; в README также указана возможность коммерческого применения.