III.1Стратегия, продукт и бизнес-модели

FriendliAI/Meta-Llama-3.1-8B-Instruct-int8 — это инструкция-ориентированная текстовая языковая модель на базе Meta-Llama-3.1-8B, разработанной Meta. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций на естественном языке. Вариант int8 использует 8-битное представление параметров, что рассчитано на более эффективное по памяти и вычислениям развертывание по сравнению с полноразмерной версией. Модель поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Она относится к классу текстовых моделей и не предназначена для обработки изображений, аудио или других немультимодальных данных. Размер базовой модели составляет 8 миллиардов параметров; сведения о размере контекстного окна в представленных данных отсутствуют. К сильным сторонам относятся instruction-tuning, многоязычность и сниженные требования к памяти благодаря int8-квантизации. Ограничениями являются возможная потеря качества по сравнению с исходной версией из-за квантизации, а также отсутствие указаний на поддержку мультимодальных задач. Модель распространяется по лицензии Llama 3.1 Community License от Meta. При распространении необходимо соблюдать условия лицензии, включая указание «Built with Llama», сохранение уведомления об авторских правах и требования Acceptable Use Policy; для продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрены дополнительные лицензионные условия.

unsloth/Qwen3.5-4B — постобученная мультимодальная модель семейства Qwen3.5 от Unsloth, основанная на Qwen/Qwen3.5-4B. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, рассуждений, понимания изображений и работы с инструментами. Репозиторий содержит веса в формате Hugging Face Transformers и safetensors; модель совместима с Transformers и рядом серверов инференса. Модель имеет 4 млрд параметров и гибридную архитектуру с Gated Delta Networks и механизмом внимания. Нативная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000. В карточке заявлена поддержка 201 языка и диалекта. По умолчанию включён режим рассуждений, который можно отключить. Модель подходит для визуальных вопросов и ответов, мультиязычного диалога, задач с длинным контекстом и сценариев с вызовом инструментов. Лицензия — Apache-2.0. Производительность и пропускная способность зависят от используемого фреймворка и оборудования; для длинного контекста возможны высокие требования к памяти.

Arctic-TILT — компактная модель Snowflake для понимания деловых документов. Это encoder-decoder Transformer семейства TILT; метаданные указывают 435,6 млн параметров, тогда как README приводит 822 млн. Модель предназначена для ответов на вопросы по документам и извлечения ключевой информации. Разработчики заявляют высокую эффективность и обработку длинного контекста, а также результаты, сопоставимые с моделями, которые в 1000 раз больше, на одной GPU с 24 ГБ памяти. Для работы модель оптимизирована под vLLM и требует специального планировщика и препроцессора TiltPreprocessor, код и примеры которого размещены в репозитории Snowflake-Labs/arctic-tilt. Указан формат весов safetensors. Лицензия и поддерживаемые языки в предоставленных данных не описаны.

google/gemma-3-12b-it-qat-int4-unquantized — мультимодальная диалоговая модель Google семейства Gemma 3, представленная как дообученная версия google/gemma-3-12b-it. Она принимает текст и изображения и генерирует текст; подходит для чат-ботов, ответов на вопросы по изображениям, извлечения и пересказа визуальной информации, суммаризации и генерации текстов. Открытые веса и сравнительно компактный размер семейства позволяют запускать модель на локальных компьютерах или собственной облачной инфраструктуре. Gemma 3 поддерживает контекст до 128 тысяч токенов и более 140 языков. Модель может ошибаться в фактах, испытывать трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами, а её ответы могут отражать смещения обучающих данных. Лицензия — Gemma; перед использованием следует соблюдать условия лицензии и политику допустимого использования Google.

LFM2.5-8B-A1B — мультиязычная текстовая модель Liquid AI для диалогов и рассуждений. Это дообученная версия базовой модели LiquidAI/LFM2.5-8B-A1B-Base; архитектура — гибридная MoE с 8,3 млрд параметров всего и примерно 1,5 млрд активных. Модель рассчитана на запуск на устройствах и поддерживает контекст до 128 000 токенов. Модель предназначена для персональных ассистентов, выполнения сложных инструкций, вызова инструментов, структурированного вывода и агентных сценариев. Она поддерживает английский, арабский, китайский, французский, немецкий, итальянский, японский, корейский, португальский и испанский языки. Для инференса доступны Transformers, vLLM и SGLang; авторы также отмечают поддержку llama.cpp и MLX. По карточке, модель показывает конкурентные результаты для своего размера в следовании инструкциям и агентных задачах. Она хуже подходит для сложного программирования и вопросов, требующих обширных знаний без поиска по источникам. Лицензия указана как other; конкретные условия следует сверить с файлами лицензии в репозитории.

Карточка модели unsloth/gemma-3-12b-it-qat на Hugging Face совпадает с карточкой Lightricks/gemma-3-12b-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Lightricks публикует эту версию Gemma 3 — мультимодальную модель Google Gemma 3 12B IT с инструкционной настройкой, представленную в формате safetensors. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы по изображениям, извлечения визуальной информации, суммаризации и других задач по текстовым инструкциям. Модель относится к семейству Gemma 3 с плотной архитектурой Gemma3ForConditionalGeneration и основана на google/gemma-3-12b-it. В карточке семейства указаны контекстное окно до 128 тысяч токенов и поддержка более 140 языков. Модель рассчитана на применение в чат-ботах, виртуальных помощниках, создании и редактировании текстов, а также для понимания изображений; её размер допускает локальное развёртывание на подходящем оборудовании. Качество ответов зависит от данных и формулировки запроса: возможны ошибки в фактах, предвзятость и трудности с нюансами языка и сложными задачами. Модель распространяется по лицензии Gemma. Для использования следует соблюдать условия этой лицензии и политику допустимого использования Gemma.

Карточка модели PositronicLlama/Ovis2.5-9B на Hugging Face совпадает с карточкой ATH-MaaS/Ovis2.5-9B, поэтому описание составлено по ней. Ovis2.5-9B — мультимодальная модель семейства Ovis2.5, разработанная командой AIDC-AI. Она сочетает визуальный энкодер NaViT для обработки изображений в исходном переменном разрешении с языковой моделью Qwen3-8B; размер модели — 9 млрд параметров. Модель принимает текст и изображения и генерирует текст, поддерживает контекст до 40 960 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для визуальных вопросов и ответов, мультимодальных рассуждений, понимания видео, распознавания текста и анализа документов, таблиц, форм, графиков и диаграмм. Режим размышления с самопроверкой и пересмотром ответа можно включать при выводе, увеличивая задержку ради потенциально более точного ответа на сложные запросы. В README заявлен средний результат 78,3 в мультимодальном наборе OpenCompass и сильные результаты в задачах понимания изображений и документов. Модель распространяется по лицензии Apache-2.0. README предупреждает, что разработчики не гарантируют полного отсутствия проблем с авторскими правами или неподобающим содержимым.

AaryanK/Qwen3.6-27B-GGUF — это квантизированная версия Qwen3.6-27B, разработанной командой Qwen. Модель предназначена для генерации текста, агентного программирования, работы с репозиториями и фронтенд-задачами, а также для сценариев, требующих вызова инструментов и обработки мультимодальных данных. Она поставляется в формате GGUF и рассчитана на локальный запуск с совместимыми средствами, включая llama.cpp. Модель содержит 27 млрд параметров и использует гибридную архитектуру Hybrid Gated DeltaNet + Gated Attention с 64 слоями и vision encoder. Она поддерживает текстовые и визуальные входы, включая изображения и видео, заявленные языковые возможности включают английский язык. Нативная длина контекста составляет 262 144 токена; также указана возможность расширения до 1 010 000 токенов. Модель поддерживает Thinking Mode, сохранение контекста рассуждений между сообщениями и вызов инструментов. К сильным сторонам относятся длинный контекст, мультимодальность, возможности агентного кодирования и сохранение рассуждений в итеративных рабочих процессах. Ограничения связаны с требованиями к совместимости: для гибридной архитектуры нужна актуальная версия llama.cpp, а объём памяти зависит от выбранного файла квантизации и длины контекста. Модель распространяется по лицензии Apache-2.0.

Llama-Express.1-Tiny — компактная текстовая языковая модель, разработанная prithivMLmods на основе Meta Llama 3.2 1B Instruct и дообученная на наборах данных с длинными цепочками рассуждений. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров; для запуска карточка рекомендует Transformers версии 4.43.0 или новее. Метаданные указывают контекст до 131 072 токенов. Модель предназначена для многоязычного диалога, следования инструкциям, суммаризации и сценариев поиска с последующим извлечением и обобщением сведений. Она принимает текст и генерирует текст; также заявлен интерфейс для вызова инструментов. Английский указан в языковых метаданных, а описание заявляет многоязычное применение без перечисления остальных языков. Карточка заявляет оптимизацию для длинных рассуждений и диалогов, но не приводит независимых оценок качества. Возможны предвзятые или неуместные ответы, снижение качества на малоресурсных языках и ухудшение результатов при неоднозначных запросах или очень длинном контексте; модель не получает актуальные сведения из интернета сама по себе. Лицензия — Llama 3.2.

Ornith-1.5-9B-GGUF — открытая плотная модель на 9 млрд параметров, разработанная Ornith AI и представленная в формате GGUF пользователем prithivMLmods. Она предназначена для локального запуска на одной GPU, мобильных и периферийных устройствах, а также для интеграции с llama.cpp и другими средами инференса. Модель ориентирована на генерацию текста, рассуждения, программирование, агентские сценарии и использование инструментов. Модель поддерживает встроенное пошаговое рассуждение с разделением промежуточных размышлений в тегах <think> и итогового ответа, а также структурированные вызовы инструментов в XML-формате, совместимые с OpenAI API, vLLM, SGLang, Ollama и llama.cpp. Заявлено контекстное окно 262 144 токена с возможностью расширения до 1 млн токенов посредством YaRN RoPE scaling. Указан английский язык; архитектурная линия основана на Qwen3.5 и Gemma-4 с дополнительным предварительным обучением, дообучением и reinforcement learning. В репозитории доступны варианты BF16, F16 и различные уровни квантования размером примерно от 4,26 до 17,9 ГБ, а также файлы мультимодального проектора. Сильными сторонами заявлены производительность в задачах кодирования, рассуждений и работы с инструментами, поддержка длинного контекста и локального инференса при относительно небольшом размере. README приводит результаты на SWE-bench Verified — 70,6% и GPQA Diamond — 86,4%, однако методика оценки не описана. Ограничения включают зависимость качества и требований к памяти от выбранного варианта квантования, а также отсутствие подробных сведений о поддерживаемых мультимодальных входах и фактических сценариях работы проектора. Модель распространяется по лицензии MIT.

Ba2han/qwen-14b-1m-distillthink-sce — объединённая автором Ba2han языковая модель на архитектуре Qwen2 с 14 млрд параметров. Она создана методом SCE в mergekit на основе Qwen/Qwen2.5-14B и объединяет DeepSeek-R1-Distill-Qwen-14B, Qwen2.5-14B-Instruct-1M и Qwen2.5-Coder-14B-Instruct. Модель предназначена для диалоговой генерации текста, анализа и исправления кода, а также задач рассуждения; доступен интерфейс для вызова инструментов. Модель работает с текстом и имеет нативный контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors; README указывает на использование bfloat16 при слиянии. Карточка не описывает отдельные оценки качества или конкретные ограничения, поэтому результаты на сложных задачах следует проверять. Лицензия в предоставленных данных не указана.

RedHatAI/Qwen3.6-35B-A3B-FP8 — открытая FP8-квантованная версия модели Qwen3.6-35B-A3B, разработанной командой Qwen компании Alibaba Cloud и подготовленной Red Hat AI. Это авторегрессионная языковая модель с vision encoder, предназначенная для генерации текста, рассуждений, программирования, агентных сценариев и вызова инструментов. Модель использует архитектуру Mixture of Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке запроса. Она содержит 40 слоёв, 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Поддерживаются текстовые и визуальные входы, однако конкретный набор языков в README не указан. Сильными сторонами модели заявлены агентное программирование, работа с frontend-задачами, рассуждение на уровне репозитория, сохранение контекста рассуждений и вызов инструментов. Квантование выполнено в формате fine-grained FP8 с размером блока 128; заявлена производительность, близкая к исходной модели. Вариант может быть предпочтителен на оборудовании, где вычислительные ресурсы превышают пропускную способность памяти. Для работы с vLLM требуются параметры reasoning-parser qwen3 и включение prefix caching; совместимость также заявлена с Transformers, SGLang и KTransformers. README не приводит подробных ограничений, полного набора языков или характеристик работы с изображениями. Модель распространяется по лицензии Apache-2.0. Артефакты проверены с RHOAI 3.5, RHAIIS 3.5 и vLLM 0.24.0.

QwQ-32B-Preview-Instruct-Coder — объединённая языковая модель на архитектуре Qwen2, созданная сообществом mergekit-community методом TIES. В объединение вошли Qwen/QwQ-32B-Preview, Qwen/Qwen2.5-32B-Instruct и Qwen/Qwen2.5-Coder-32B-Instruct; базовая модель — Qwen/Qwen2.5-32B. Модель содержит 32 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, программирования, математических рассуждений и структурированных ответов. Метаданные отмечают интерфейс вызова инструментов. Она работает с текстом на входе и генерирует текст на выходе; отдельные поддерживаемые языки не указаны в предоставленных данных. Сведения о лицензии и ограничениях качества в README и метаданных отсутствуют.

Signal-3.8-27B-NVFP4-Blackwell-DFlash2-Ultra-V1.0 — квантованная NVFP4-версия модели Signal-3.8-27B от agentionai, созданной на базе Qwen3.8-27B от Qwen. Это GGUF-сборка для запуска через llama.cpp CUDA на одной видеокарте RTX 5090 с 32 ГБ памяти и поддержкой спекулятивного декодирования DFlash2. Модель предназначена для рассуждений, программирования, агентских задач, структурированной генерации и диалогов; заявлена также поддержка изображений через отдельный vision-проектор. Основная модель занимает около 16,9 ГБ, включает NVFP4-квантованный корпус, высокоточные Q8_0-головы и MTP-голову. Доступен контекст до 262 144 токенов, а языковая поддержка обозначена как multilingual, без уточнения конкретного набора языков. Минимально изменённая тонкая настройка отличается от базовой модели только lm_head.weight, что позволяет использовать согласованный DFlash2-драфтер без изменения результатов декодирования. На заявленном оборудовании сборка показывает высокую точность в тестах GSM8K, хорошие результаты в кодовых агентских задачах и ускорение декодирования благодаря speculative decoding. Сильные стороны модели — эффективность на задачах рассуждения и программирования, большой контекст, совместимость с одной RTX 5090 и ускоренное декодирование. Ограничение — повышенная многословность в открытом диалоге по сравнению с альтернативной сборкой GAIN; для длинных генераций не рекомендуется жадное декодирование, а для сложных задач требуется не менее 4096 токенов вывода. Для обработки изображений необходим отдельный проектор mmproj-BF16, при этом повторное использование кэша промпта отключается. Распространяется по лицензии Apache-2.0.

Step-3.5-Flash-FP8 — открытая foundation-модель, разработанная StepFun и представленная в формате FP8 на базе stepfun-ai/step-3.5-flash. Она предназначена для сложного рассуждения, программирования, агентских сценариев, многошагового выполнения задач, поиска и обработки больших объёмов информации. Модель ориентирована на интерактивное применение и локальное развёртывание, включая высокопроизводительное потребительское оборудование. Архитектура модели основана на разреженной Mixture of Experts (MoE): всего модель содержит 196 млрд параметров, из которых для каждого токена активируется около 11 млрд. Технология Multi-Token Prediction (MTP-3) обеспечивает заявленную скорость генерации около 100–300 токенов в секунду, с пиковыми значениями до 350 токенов в секунду для однопоточных задач программирования. Поддерживается контекстное окно объёмом 256K токенов; для его эффективной обработки используется гибридная схема Sliding Window Attention с соотношением 3:1. К сильным сторонам относятся высокая скорость вывода, эффективность MoE-архитектуры, способность работать с длинным контекстом и результаты на задачах рассуждения, программирования и автономных агентов, включая 74,4% на SWE-bench Verified и 51,0% на Terminal-Bench 2.0. Ограничения, включая языковую специализацию, мультимодальность и требования к аппаратным ресурсам, в README явно не описаны. Модель распространяется по лицензии Apache 2.0.

DeepSeek-R1-Distill-Qwen-14B-bnb-4bit — дистиллированная языковая модель, разработанная командой DeepSeek на основе DeepSeek-R1 и базовой архитектуры Qwen объёмом 14 млрд параметров. Данная версия подготовлена и опубликована Unsloth в 4-битном формате bnb для использования с Transformers. Модель предназначена для задач рассуждения, решения математических задач, генерации и анализа кода, а также других сценариев, требующих многошагового вывода. Дистилляция использует reasoning-поведение DeepSeek-R1, включая самопроверку, рефлексию и развернутые цепочки рассуждений. В метаданных README указан английский язык; сведения о поддержке других языков, размере контекста и мультимодальности не приведены. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битному представлению, что упрощает локальный запуск по сравнению с полноразмерной моделью. Ограничения включают возможное снижение точности из-за квантования и отсутствие в README подробных данных о бенчмарках, контекстном окне и требованиях к оборудованию. Модель распространяется по лицензии Apache 2.0.

unsloth/Qwen3.6-27B-NVFP4 — это квантованный checkpoint модели Qwen3.6-27B, разработанный Unsloth на основе модели Qwen от команды Qwen. Модель представляет собой каузальную языковую модель с vision-энкодером и предназначена для генерации текста, мультимодального понимания изображений, агентного программирования, работы с frontend-задачами и рассуждений на уровне репозиториев. Модель содержит 27 млрд параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; в checkpoint включён модуль Multi-Token Prediction (MTP), который может использоваться для ускорения декодирования. Точные языки в README не указаны. Формат NVFP4 рассчитан на эффективный запуск, в том числе на GPU с 24 ГБ VRAM. По заявлению Unsloth, checkpoint обеспечивает до 2,5 раза большую пропускную способность по сравнению с другими NVFP4-квантованиями, а результаты на MMLU-Pro, GPQA и AIME 2025 близки к FP8 и BF16. Основные ограничения — потери, присущие квантованию, зависимость производительности от аппаратного обеспечения и backend, а также необходимость корректной настройки vLLM или совместимого движка; README не рекомендует Marlin из-за более низкой скорости. Модель распространяется по лицензии Apache-2.0 и совместима с Hugging Face Transformers, vLLM, SGLang и KTransformers.

Qwen3.8 Max 0902 — обновлённый снимок модели Qwen3.8 Max, разработанной командой Qwen компании Alibaba. Это мультимодальная модель с архитектурой mixture-of-experts и 2,4 трлн параметров. Она принимает текст, изображения и видео и формирует текстовые ответы.

unsloth/LFM2.5-8B-A1B-GGUF — квантизированная версия текстовой модели LFM2.5-8B-A1B, опубликованная Unsloth на основе модели Liquid AI. Формат GGUF предназначен для llama.cpp и совместимых инструментов, с акцентом на локальный запуск и edge-устройства. Модель рассчитана на универсальную генерацию текста, выполнение инструкций, агентские сценарии, использование инструментов, структурированный вывод, многоязычных ассистентов и приложения персонального помощника на устройстве. Модель имеет гибридную архитектуру с 8,3 млрд параметров всего и 1,5 млрд активных параметров, 24 слоями, включая 18 double-gated LIV convolutional layers и 6 слоёв GQA. Контекстное окно составляет 131 072 токена, размер словаря — 128 000. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, португальский и испанский языки. Модель текстовая и не предназначена для обработки изображений или других модальностей. К сильным сторонам относятся высокая скорость инференса в своём классе, возможность локального и on-device развёртывания, следование сложным инструкциям и поддержка function calling. Модель не считается оптимальным выбором для интенсивного программирования и вопросов, требующих обширных фоновых знаний, без использования retrieval. Для генерации рекомендуются temperature 0.2, top_k 80 и repetition_penalty 1.05. README указывает лицензию lfm1.0.

Metis-0.4-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 от Mistral AI и Metis-0.4 методом SLERP. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает способ слияния, но не приводит специальных оценок качества или ограничений; возможности и результаты могут зависеть от языка запроса и конкретного сценария применения.

Tess-4-27B-GGUF — набор GGUF-квантизаций модели Tess-4-27B, разработанной Migel Tissera и построенной на базе Qwen/Qwen3.6-27B от команды Qwen. Это агентная модель с поддержкой рассуждений, которая адаптирует глубину рассуждения к сложности задачи. Модель предназначена для диалогов, программирования, рефакторинга кода, структурированного вывода, решения сложных задач и создания локальных AI-агентов. Модель имеет размер 27B параметров и поставляется в вариантах Q4_K_M, Q6_K и Q8_0 с размерами примерно от 16,5 до 28 ГБ. Основной формат — GGUF, ориентированный на локальный запуск через llama.cpp, LM Studio и Ollama. Для обработки изображений предусмотрен отдельный vision projector mmproj, что добавляет мультимодальный режим с поддержкой входных изображений. Также доступны MTP-головы для speculative decoding: они могут ускорять генерацию примерно в 1,5–2 раза на подходящих задачах без изменения результата. Используется шаблон чата семейства Qwen3.5 с выделенным блоком рассуждений, однако поддерживаемые языки и размер контекстного окна в карточке не указаны. Сильные стороны модели — агентный характер, масштабирование рассуждений по сложности, поддержка кода и структурированного вывода, локальная работа и мультимодальный режим при подключении projector. Ограничения связаны с высокими требованиями к оперативной памяти или VRAM, потерями точности при использовании более агрессивной квантизации и необходимостью современного runtime llama.cpp для распознавания архитектуры qwen35. Для запуска требуется выбрать подходящий вариант квантизации, а для изображений и ускорения — установить дополнительные файлы. Модель распространяется по лицензии Apache 2.0.

unsloth/MiniMax-M3-GGUF — это экспериментальная GGUF-версия мультимодальной модели MiniMax-M3, разработанной MiniMax и подготовленной в формате GGUF проектом Unsloth. Модель предназначена для работы с текстом, изображениями и видео, включая диалоговые сценарии, генерацию и анализ кода, агентские задачи и длительное взаимодействие с пользователем. Архитектура модели сочетает Mixture of Experts (MoE) и механизм разреженного внимания MiniMax Sparse Attention (MSA). Всего модель содержит около 428 млрд параметров, из которых на каждый токен активируется примерно 23 млрд; используется 128 экспертов, четыре из которых активны для каждого токена, и 60 слоёв. Заявлена длина контекста до 1 млн токенов. Поддерживаются режимы thinking для сложного рассуждения, агентских задач и долгого сотрудничества и non-thinking для сценариев, чувствительных к задержке, например чата и автодополнения кода. К сильным сторонам относятся нативная мультимодальность, заявленная эффективность на длинном контексте и высокие результаты в задачах программирования и агентского взаимодействия. Ограничения этой версии связаны с экспериментальным статусом: поддержка MiniMax-M3 в llama.cpp предварительная, а MiniMax Sparse Attention пока не поддерживается, поэтому используется плотное внимание. Модель очень велика и требует значительных ресурсов, включая распределение вычислений между несколькими GPU или размещение весов в оперативной памяти CPU. Для использования указана MiniMax Community License.

PandafishHeatherReReloaded — объединённая модель для генерации текста, созданная MysticFoxMagic методом slerp с помощью LazyMergekit на основе MysticFoxMagic/HeatherSpell-7b и ichigoberry/pandafish-2-7b-32k. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и принимает текстовый контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы. Веса опубликованы в формате Safetensors; при объединении использована точность bfloat16. В метаданных указана лицензия, но её условия здесь не раскрыты.

Q36-35B-A3B-Opus4.7-Ablit-Heretic-OBLITERATUS-Hermes-MTP-Vision-Llama — мультимодальная модель семейства Qwen3.6-35B-A3B, опубликованная пользователем oktayd. Это производный вариант, собранный на основе Qwen3.6-35B-A3B с использованием нескольких этапов reasoning-дистилляции, ablation, Heretic и OBLITERATUS Nuclear, а также дообучения Hermes для function calling, агентских сценариев, работы с кодом, терминалом, файлами и репозиториями. Указанная в названии связь с Opus 4.7 относится только к унаследованной линии дистилляции и не означает включение проприетарной модели Claude. Модель предназначена для генерации текста, анализа изображений и текста, рассуждений, программирования, использования инструментов и агентских задач. Архитектура — mixture-of-experts Qwen3.6, представленная в GGUF как qwen35 или qwen3_5_moe: всего около 35 млрд параметров, из которых активируется около 3 млрд. Поддерживаются контекст до 262 144 токенов, английский язык и мультимодальный ввод через отдельный F16 vision projector. Доступны варианты квантования MXFP4_MOE и Q4_K_M для запуска в llama.cpp. По приведённым тестам модель особенно сильна в соблюдении сложных инструкций: в IFEval она получила 9/10 по строгим промптам и 17/18 по строгим инструкциям. На небольших выборках она показала сопоставимые с базовым сравнением результаты в HumanEval+, MMLU-Pro, GSM8K и BBH, однако уступила в MBPP+ и продемонстрировала проблемы с зацикливанием или усечением вывода в отдельных задачах MuSR. Поддержка одновременного использования Vision и MTP, финальная проверка FreeToken-сервинга и комбинированные мультимодальные сценарии ещё не подтверждены. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями требуется основной GGUF-файл вместе с соответствующим vision projector; заявленная поддержка относится к llama.cpp.

protogeni/Qwen3.8-27B-Uncensored-W4A16-RTX3090-MTP4 — сервировочно-оптимизированный квантованный чекпойнт семейства Qwen3.8-27B. Модель разработана protogeni на основе Qwen3.8-27B, последовательно преобразованного в uncensored-версию OrcaRouter, квантованный вариант AutoRound W4A16 и данный чекпойнт для инференса. Заявлены английский и китайский языки. Модель предназначена прежде всего для генерации текста, программирования и задач рассуждения, а также для развёртывания на одной видеокарте с поддержкой speculative decoding через MTP4. Vision tower сохранён, однако протестированный профиль на 100 000 токенов рассчитан только на текст. Основная часть трансформера использует W4A16 с группой 128, эмбеддинги токенов имеют формат INT8, а выходные и MTP-головы — калиброванный GPTQ INT4. Для черновой генерации используется словарь из 40 960 токенов. На RTX 3090 Ti с BF16 KV-кэшем и MTP4 заявлена поддержка контекста до 100 000 токенов; измеренная скорость генерации составляет примерно 82,7–128,4 токена в секунду в зависимости от нагрузки. Среди приведённых результатов: 94,77% на GSM8K, 76,14% на MMLU-Pro, 94,51% pass@1 на HumanEval и 90,85% pass@1 на HumanEval+. Сильные стороны модели — высокая производительность на одной 24 ГБ видеокарте, большой текстовый контекст, ускорение speculative decoding и хорошие результаты в математике и программировании. Ограничения включают зависимость от специально исправленного runtime syv-ai и vLLM 0.27.1, необходимость соответствующей настройки MTP4, а также то, что 100K-профиль не использует мультимодальный ввод. Результат на MMMU validation составил 24,56% при 891 ограничении по максимальному числу выходных токенов, поэтому мультимодальные возможности и этот показатель следует интерпретировать осторожно. Модель распространяется по лицензии Apache-2.0.

Карточка модели Scrappy-Doo/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Granite Vision 3.2 2B — компактная мультимодальная модель IBM для понимания изображений и текста. Она предназначена прежде всего для обработки визуальных документов в корпоративных сценариях: извлечения сведений из таблиц, диаграмм, инфографики и графиков, OCR и ответов на вопросы по содержимому документов; также поддерживает общие задачи понимания изображений. Модель дообучена на базе ibm-granite/granite-3.1-2b-instruct. Архитектура сочетает визуальный энкодер SigLIP, двухслойный MLP-коннектор и языковую модель Granite 3.1 2B Instruct; используется подход LLaVA с многослойными признаками энкодера и повышенным разрешением сетки AnyRes. Для текстовой части заявлен контекст 128 тысяч токенов. На вход принимает английские инструкции и изображения, на выходе формирует текстовые ответы. Выпущена под лицензией Apache 2.0. Модель компактна и по приведённым в карточке оценкам показывает сильные результаты на DocVQA и ChartQA среди сравниваемых моделей размером 1–4 млрд параметров. Она может ошибаться, галлюцинировать, выдавать предвзятые или небезопасные ответы; карточка рекомендует преимущественно документные задачи и отмечает повышенные риски для более общих задач с изображениями.

MiniMax-M1-80k-hf — открытая модель весов от MiniMax для генерации текста и пошагового рассуждения. Это вариант MiniMax-M1 с бюджетом рассуждения до 80K токенов; репозиторий предназначен прежде всего для Transformers. Архитектура сочетает Mixture-of-Experts и гибридное внимание с механизмом lightning attention. В карточке указано 21,6 млрд параметров, а заявленный нативный контекст составляет 10 240 000 токенов; README описывает семейство M1 как модель с контекстом до 1 млн токенов и обучением с подкреплением на математических задачах, программировании и задачах с инструментами. Модель рассчитана на сложные задачи с длинными входами и развёрнутым рассуждением: решение математических задач, программную инженерию, генерацию и анализ кода, ответы на вопросы по большому контексту и сценарии с вызовом функций. README отмечает результаты на бенчмарках математики, кодирования, агентного использования инструментов и длинного контекста. Модель принимает текст и генерирует текст; интерфейс вызова инструментов поддерживается в структурированном формате. Лицензия — Apache-2.0. Веса в репозитории представлены в формате safetensors. Указанное в метаданных значение контекста расходится с описанием семейства в README, поэтому фактический предел может зависеть от конкретной конфигурации и программного окружения. Заявленные оценки получены на отдельных бенчмарках и не гарантируют качество на произвольных задачах.

Citaman/Mistral_31_layer — диалоговая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом SLERP на основе Mistral-7B-Instruct-v0.2. В конфигурации объединены срезы слоёв исходной модели со смещением на один слой; модель содержит 6,9 млрд параметров и использует формат safetensors. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Она принимает текст и формирует текстовые ответы, поддерживает контекст до 32 768 токенов и работает через библиотеку Transformers. Карточка не приводит оценок качества или результатов сравнительных тестов. Указана базовая модель Mistral-7B-Instruct-v0.2. Лицензия в предоставленных данных не указана.

openbuddy-mistral-7b-v13-base-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и OpenBuddy/openbuddy-mistral-7b-v13-base методом SLERP. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. В метаданных перечислены китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache-2.0. Карточка не приводит оценок качества или подробностей об ограничениях; фактическое качество может зависеть от языка и сценария использования.