III.1Стратегия, продукт и бизнес-модели

aya-23-35B-GGUF — это набор квантизированных моделей в формате GGUF для запуска через llama.cpp. Основой служит языковая модель aya-23-35B, разработанная CohereForAI, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, написание и преобразование текста на нескольких языках. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского, арабского, греческого, персидского, польского, индонезийского, чешского, иврита, хинди, нидерландского, румынского, русского, турецкого, украинского и вьетнамского языков. Размер базовой модели — 35B параметров; сведения об архитектуре и размере контекста в README не указаны. Доступны варианты с разными уровнями квантизации: от IQ1 и IQ2 с минимальным размером и более низким качеством до Q6_K и Q8_0 с высоким качеством, но большими требованиями к памяти. Рекомендуемыми названы варианты Q4_K_M, Q5_K_M и Q6_K, а также некоторые IQ-квантизации. Главное преимущество модели — возможность локального запуска в llama.cpp при выборе подходящего уровня квантизации, включая варианты для ограниченного объёма оперативной памяти. Ограничения связаны с компромиссом между качеством и размером: низкобитные варианты заметно уступают по качеству, а высококачественные требуют десятки гигабайт памяти. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями, включая запрет коммерческого применения.

Карточка модели fatymahaly/bart-large-mnli на Hugging Face совпадает с карточкой facebook/bart-large-mnli, поэтому описание составлено по ней. facebook/bart-large-mnli — контрольная точка BART-large от Facebook, дообученная на датасете MultiNLI для распознавания отношений логического следования между текстами. Модель применяют для классификации без заранее заданного набора классов: исходный текст рассматривается как предпосылка, а для каждой кандидатной метки формируется гипотеза, например «Этот текст о политике». Вероятности следования и противоречия преобразуются в оценки меток. Модель подходит для тематической классификации, маршрутизации текстов по пользовательским категориям и других задач, где нужно оценить соответствие текста произвольным меткам. Архитектура — BART-large с классификатором последовательностей, размер — 252,8 млн параметров, контекст — до 1024 токенов. Репозиторий содержит варианты PyTorch, Flax и Safetensors. Лицензия — MIT. Качество зависит от формулировки кандидатных меток и гипотез, а также от того, насколько задача соответствует обучению на MNLI; оценки модели не гарантируют правильную классификацию. Для нескольких одновременно верных меток предусмотрен режим независимой оценки каждого класса.

Bielik-11B-v3.0-Instruct-heretic-MPOA — разговорная текстовая модель на 11 млрд параметров, опубликованная gepardzik и основанная на дообученной SpeakLeash и ACK Cyfronet AGH модели Bielik-11B-v3.0-Instruct. Это плотная причинная декодерная модель архитектуры Llama, предназначенная для диалогов, ответов на вопросы и выполнения инструкций. Поддерживает многоязычную генерацию текста; исходная модель обучалась на 32 европейских языках с особым акцентом на польский. Контекст — до 32 768 токенов. В README приведено сравнение с исходной моделью: KL-дивергенция 0,0356 и 5 отказов из 100 против 36 у оригинала. Это указывает на заметное изменение поведения и меньше отказов, но не подтверждает точность или безопасность ответов. README исходной модели предупреждает, что она может выдавать фактические ошибки, предвзятый, оскорбительный или откровенный контент и не имеет встроенных механизмов модерации; эти ограничения следует учитывать и для производной модели. Репозиторий указывает лицензию Apache 2.0; в README исходной модели также упомянуты условия использования.

BLOSSOM-v4-qwen15-4b — диалоговая языковая модель, созданная на основе Qwen1.5-4B и дообученная командой Blossom на смешанных наборах данных Blossom Orca, Wizard, Chat и Math. Это плотная авторегрессионная модель семейства Qwen2 с 3,6 млрд параметров и контекстом до 32 768 токенов. Она принимает текстовые инструкции и историю диалога и генерирует ответы; обучение включало одноходовые инструкции и многоходовые беседы на китайском и английском языках. Модель предназначена для диалоговых помощников, ответов на вопросы, следования инструкциям и решения задач общего назначения, включая математические запросы. README описывает формат диалогового продолжения и шаблон промпта для одиночного и многоходового диалога. Модель опубликована в формате Safetensors по лицензии Apache-2.0. Карточка не приводит количественных оценок качества; результаты могут зависеть от формата промпта и выбранного сценария использования.

Weyaxi/Einstein-v6.1-LLama3-8B-Instruct-Ties — языковая модель, созданная Weyaxi слиянием TIES через mergekit. В качестве основы использована meta-llama/Meta-Llama-3-8B; в слияние также вошли Weyaxi/Einstein-v6.1-Llama3-8B и meta-llama/Meta-Llama-3-8B-Instruct. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 8192 токенов. Она предназначена для генерации текста и диалоговых ответов. Карточка не приводит отдельные оценки качества или подробности об ограничениях; лицензия указана как other.

Gemini 3.1 Flash Lite Preview — предварительная высокоэффективная модель Google, оптимизированная для сценариев с большим объёмом запросов. По карточке она превосходит Gemini 2.5 Flash Lite по общему качеству и приближается к Gemini 2.5 Flash. Модель предназначена для задач с текстом и изображениями; в метаданных каталога её задача указана как image-text-to-text. Слово Preview указывает на предварительный статус версии. Сведения о размере, длине контекста, поддерживаемых языках и лицензии в предоставленных данных отсутствуют.

Vegss/gemma-4-12B-it-Claude-4.6-4.8-Opus-GGUF — дообученная на данных рассуждений Opus 4.6, 4.7 и 4.8 модель Google Gemma 4 12B Instruct в форматах GGUF и Safetensors. Она предназначена для локального диалога, рассуждений, ответов на вопросы и написания кода; поддерживает режим thinking через родной канал Gemma. Репозиторий содержит варианты GGUF от Q2_K до Q8_0 и BF16/F16, а также черновую MTP-модель для ускорения генерации. В README заявлен контекст до 131 тыс. токенов и возможность запуска через llama.cpp и приложения вроде LM Studio и Jan. Модель ориентирована прежде всего на английский язык. README отмечает, что рассуждения представляют собой синтетический CoT, поэтому факты и числовые выводы следует проверять. Обучение снижает частоту отказов и, по описанию автора, модель не имеет полноценного выравнивания по безопасности; для практического применения нужны внешние ограничения. Лицензия — Gemma.

Karen_TheEditor_V2_STRICT_Mistral_7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре MistralForCausalLM с 7,1 млрд параметров. Это слияние методом SLERP модели mistralai/Mistral-7B-Instruct-v0.2 и FPHam/Karen_TheEditor_V2_STRICT_Mistral_7B; в README приведена конфигурация mergekit и формат весов bfloat16, а в репозитории указаны файлы safetensors. Модель предназначена для генерации текста и ответов в диалоге по инструкциям. Контекст составляет до 32 768 токенов. В карточке не описаны специальные области применения или языки, поэтому модель следует рассматривать как универсальную текстовую модель на базе Mistral. Модель выпущена под лицензией Apache-2.0. Карточка не содержит результатов оценивания качества или подробных сведений о поведении слияния; качество и следование инструкциям могут отличаться от исходной Mistral-7B-Instruct-v0.2.

Ling-lite-base-1.5 — базовая языковая модель семейства Ling, разработанная InclusionAI. Это языковая модель с архитектурой Mixture of Experts (MoE), предназначенная для генерации текста и решения разнообразных задач на естественном языке. В карточке семейства для Ling-lite указано 16,8 млрд параметров, из которых активируются 2,75 млрд; метаданные этого репозитория указывают 794,8 млн параметров. Эти сведения расходятся, поэтому размер конкретной модели по источникам определить однозначно нельзя. Модель рассчитана на текстовые запросы и диалоговое использование. README указывает контекст до 128 тыс. токенов для версии 1.5 семейства, тогда как метаданные репозитория задают нативный контекст 32 768 токенов; для этой конкретной модели следует ориентироваться на значение из метаданных. Поддерживаемые языки в предоставленных данных не перечислены. Модель распространяется под лицензией MIT. README описывает широкий круг задач, но не приводит оценки качества или конкретных ограничений применения.

Llama-3-Chinese-8B-Instruct-v2 — диалоговая языковая модель семейства Llama 3, разработанная HFL на основе Meta-Llama-3-8B-Instruct и дообученная на 5 млн инструкционных примеров. Модель с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и предназначена для генерации текста в формате инструкций и чата. Модель подходит для диалогов, ответов на вопросы и других сценариев, где нужен ассистент, понимающий китайский и английский языки. Контекст составляет до 8192 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Карточка не приводит сравнительных результатов или конкретных ограничений качества; характеристики базовой модели не следует автоматически считать подтверждёнными для этой дообученной версии.

LMCocktail-Mistral-7B-v1-Mistral-7B-Instruct-v0.1 — плотная языковая модель семейства Mistral, созданная объединением Mistral-7B-Instruct-v0.1 и Yhyu13/LMCocktail-Mistral-7B-v1 методом SLERP. Веса представлены в формате Safetensors; модель насчитывает 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и ведения диалогов. Её можно применять в чат-ботах и для создания ответов на текстовые запросы. Данные о поддерживаемых естественных языках в карточке не приведены. Модель распространяется по лицензии Apache-2.0. Качество и поведение при объединении моделей могут различаться в зависимости от запроса; отдельные ограничения в карточке не описаны.

Mistral-7B-v0.1-flashback-v2-instruct — шведско-английская инструктивная языковая модель timpal0l, созданная дообучением timpal0l/Mistral-7B-v0.1-flashback-v2 на машинно переведённом наборе инструкций OpenHermes 2.5. Она предназначена для диалогов и генерации ответов на инструкции; использовать её можно, например, через библиотеку Transformers.

MPT-30B-Instruct 8-bit — 8-битная версия модели MPT-30B-Instruct, разработанной MosaicML. Это плотная авторегрессионная языковая модель с модифицированной архитектурой decoder-only Transformer, FlashAttention и ALiBi; в исходной модели около 29,95 млрд параметров и 48 слоёв. Модель предназначена для коротких ответов на инструкции и диалоговых запросов. Её дообучили на данных, производных от Databricks Dolly-15k и Anthropic HH-RLHF, а также на наборах для математики, вопросов и ответов, суммаризации и работы с базами данных. Модель принимает текст и генерирует текст. Карточка описывает англоязычный пример, но не задаёт полный перечень поддерживаемых языков. Файлы опубликованы в формате safetensors; для загрузки через Transformers требуется trust_remote_code=True. Лицензия — CC-BY-SA-3.0. Модель может выдавать фактически неверные, предвзятые или оскорбительные ответы, поэтому её результаты требуют проверки.

Qwen-SEA-LION-v4-32B-IT — плотная языковая модель с архитектурой decoder-only Transformer семейства Qwen3, размещённая Scalejade как копия модели AI Singapore. В ней около 29,7 млрд параметров; исходную Qwen3-32B продолжительно обучали на корпусе SEA-Pile v2, а затем дообучили на инструкциях и применили слияние моделей. Метаданные указывают контекст до 40 960 токенов, тогда как README приводит 32 768 токенов; перед развёртыванием стоит сверить это значение с конфигурацией весов. Модель предназначена для диалогов и следования инструкциям на языках Юго-Восточной Азии, а также для перевода между английским и этими языками, суммаризации, ответов на вопросы, классификации и RAG по региональным материалам. Она поддерживает режим рассуждений Qwen3 и интерфейс вызова инструментов. В продолжительном предобучении использовались бирманский, индонезийский, малайский, филиппинский, тамильский, тайский и вьетнамский; README также предупреждает о неравномерном качестве для одиннадцати заявленных языков. Модель может галлюцинировать, не прошла выравнивание по безопасности и не проверялась на устойчивость к состязательным запросам. Не рекомендуется полагаться на неё без дополнительной проверки в медицинских, юридических и других ответственных сценариях. Репозиторий распространяется по лицензии MIT; Scalejade указывает, что не обучала веса и размещает копию работы команды SEA-LION из AI Singapore.

IlyaGusev/saiga_nemo_12b_gptq_8bit — это 8-битная GPTQ-квантизованная версия русскоязычной модели Saiga/MistralNemo 12B, опубликованная разработчиком Ilya Gusev на Hugging Face. Модель предназначена для генерации текста и диалогового взаимодействия на русском языке; в исходной карточке Saiga она описана как русскоязычный автоматический ассистент. Она дообучена на основе аблированной версии Mistral Nemo Instruct 2407 с использованием наборов данных IlyaGusev/saiga_scored и IlyaGusev/saiga_preferences. Модель содержит около 12 миллиардов параметров и использует архитектуру Mistral Transformer с 40 слоями, Grouped-Query Attention, 32 attention heads и 8 key-value heads. Для исходной Mistral Nemo заявлено контекстное окно до 128 тысяч токенов и поддержка нескольких языков, включая русский, английский, французский, немецкий, испанский, итальянский, португальский, китайский и японский, однако Saiga ориентирована прежде всего на русский язык. GPTQ-квантизация в 8 бит уменьшает требования к памяти по сравнению с полной версией, но может немного снижать точность и требует совместимого программного обеспечения для инференса. Сильные стороны модели — специализация на русскоязычных диалогах, относительно крупный размер для локального запуска и экономия памяти благодаря 8-битному представлению. Ограничения включают отсутствие мультимодальных возможностей в опубликованных данных, возможные ошибки и галлюцинации, а также отсутствие подробных официальных оценок именно для этой GPTQ-версии. Для исходной модели указана лицензия Apache 2.0; отдельная карточка квантизованной версии не содержит дополнительных лицензионных условий.

SJT-14B — объединённая языковая модель на архитектуре Qwen2 с 14 млрд параметров, созданная с помощью mergekit и метода TIES. В качестве базовой использована hotmailuser/QwenSlerp2-14B, также в объединение вошла djuna/Q2.5-Veltha-14B. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает японский и английский языки и имеет контекст длиной до 131 072 токенов. Доступна в формате safetensors и распространяется по лицензии Apache-2.0.

Карточка модели tokyotech-llm/Swallow-13b-instruct-v0.1 на Hugging Face совпадает с карточкой tokyotech-llm/Swallow-7b-instruct-v0.1, поэтому описание составлено по ней. Swallow-7b-instruct-v0.1 — диалоговая языковая модель TokyoTech-LLM на архитектуре Llama 2 с 6,7 млрд параметров. Она прошла дополнительное предварительное обучение преимущественно на японских текстах, а версия instruct — supervised fine-tuning для следования инструкциям. Токенизатор с расширенным японским словарём эффективнее представляет японский текст. Модель принимает текст и генерирует текст; заявленный контекст — 4096 токенов. Модель предназначена для диалогов и выполнения текстовых инструкций на японском и английском языках: написания текстов, ролевых диалогов, ответов на вопросы, рассуждений и извлечения информации. В README опубликованы оценки на японском MT-Bench и сравнение с другими моделями, однако они не гарантируют качества для каждого сценария. Выпуск v0.1 обозначен как предварительная версия; разработчики предупреждают, что модель ещё не настроена на соответствие человеческим намерениям и требованиям безопасности. Лицензия — Llama 2 Community License (llama2).

Карточка модели tokyotech-llm/Swallow-70b-instruct-v0.1 на Hugging Face совпадает с карточкой tokyotech-llm/Swallow-7b-instruct-v0.1, поэтому описание составлено по ней. Swallow-7b-instruct-v0.1 — диалоговая языковая модель TokyoTech-LLM на архитектуре Llama 2 с 6,7 млрд параметров. Она прошла дополнительное предварительное обучение преимущественно на японских текстах, а версия instruct — supervised fine-tuning для следования инструкциям. Токенизатор с расширенным японским словарём эффективнее представляет японский текст. Модель принимает текст и генерирует текст; заявленный контекст — 4096 токенов. Модель предназначена для диалогов и выполнения текстовых инструкций на японском и английском языках: написания текстов, ролевых диалогов, ответов на вопросы, рассуждений и извлечения информации. В README опубликованы оценки на японском MT-Bench и сравнение с другими моделями, однако они не гарантируют качества для каждого сценария. Выпуск v0.1 обозначен как предварительная версия; разработчики предупреждают, что модель ещё не настроена на соответствие человеческим намерениям и требованиям безопасности. Лицензия — Llama 2 Community License (llama2).

Synatra-V0.1-7B-Instruct-Mistral-7B-Instruct-v0.1 — чат-модель, созданная объединением Mistral-7B-Instruct-v0.1 и maywell/Synatra-V0.1-7B-Instruct методом SLERP. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В метаданных карточки указан корейский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не сообщает о специальных ограничениях применения или проверках качества; результаты могут зависеть от формулировки запроса и не гарантируют точности ответов.

ThaiLLM-8B-Instruct — диалоговая языковая модель KBTG-Labs, созданная с помощью mergekit на основе ThaiLLM-8B и Qwen3-8B. Она предназначена для генерации текста и следования инструкциям, с улучшенным пониманием тайского языка по сравнению с Qwen3-8B. Модель поддерживает режимы с рассуждением и без него, а также интерфейс вызова инструментов. Архитектура — плотная Qwen3ForCausalLM с 7,6 млрд параметров; максимальный контекст — 40 960 токенов. README описывает сравнение результатов экзаменационных и финансовых тестов с Qwen3-8B, но отмечает, что результаты могут различаться в зависимости от среды оценки. Модель работает с текстом и рассчитана на тайский и английский языки. Для запуска через Transformers требуется версия 4.51.0 или новее. Лицензия — Apache-2.0.

TildeOpen-30B-MU-Instruct — многоязычная инструкционная языковая модель на 29,9 млрд параметров, созданная автором martinsu дообучением TildeAI/TildeOpen-30b. Это плотная модель семейства Llama для генерации текста и диалогов; она использует формат ChatML и контекст до 65 536 токенов по метаданным. В карточке обучения указана длина последовательности 4096 токенов, поэтому фактическую работу на более длинном контексте следует проверять отдельно. Модель обучена в течение одной эпохи на 163 млн токенов с маскированием функции потерь для системных и пользовательских сообщений. Данные охватывают 25 языков, с акцентом на английский и латышский, а также включают многоязычные диалоги, вопросы и ответы и примеры для RAG. Автор сообщает о кратких ответах и хороших результатах в одном тестовом сравнении EuroBlocks, но подчёркивает, что это предварительная проверка, а не доказательство общего превосходства. Для запуска README рекомендует vLLM с медленным токенизатором и подходящую системную подсказку; ошибочная автоматическая сборка быстрого токенизатора может ухудшить качество. Модель требует значительных вычислительных ресурсов. Она не прошла настройку безопасности с RLHF, проверку на токсичность или оценку вреда и может выдавать ошибочную информацию. Лицензия — CC BY 4.0.

TowerVision-9B — мультимодальная языковая модель с открытыми весами от проекта TowerVision, предназначенная для работы с изображениями и текстом. Версия содержит 9 млрд параметров и основана на Unbabel/Tower-Plus-9B, соединённой с визуальным энкодером SigLIP2-patch14-384 через мультимодальный адаптер. Модель поддерживает контекст до 8192 токенов и обрабатывает изображения вместе с текстовыми запросами, выдавая текст. Модель подходит для описания изображений, визуальных вопросов и ответов, суммаризации, анализа графиков и документов, а также мультиязычного перевода с учётом визуального и культурного контекста. В README перечислены европейские и азиатские языки, включая русский; метаданные также указывают поддержку 17 языков. Рекомендуемая точность для запуска — bfloat16. Модель поставляется в формате safetensors и использует библиотеку Transformers. Лицензия CC-BY-NC-SA-4.0 требует указания авторства, распространения производных материалов на тех же условиях и не разрешает коммерческое использование.

CohereLabs/command-a-plus-05-2026-w4a4 — квантизированная версия открытой модели Command A+, разработанная Cohere и Cohere Labs. Модель предназначена для агентных и многошаговых сценариев, задач, требующих рассуждений, корпоративных приложений и многоязычного диалога. Она принимает текстовые и графические входы, а генерирует текст, поэтому может использоваться для общения, анализа изображений, обработки документов и работы с инструментами. Модель содержит 25 млрд активных параметров и 218 млрд параметров всего; в карточке она описана как MoE-модель с поддержкой vision-входов. Контекстное окно составляет до 128K входных токенов. Заявлена поддержка языков, включая английский, русский, китайский, японский, арабский, немецкий, французский, испанский и ряд других. Вариант W4A4 использует 4-битное квантование весов и активаций экспертов MoE, при этом внимание и KV-кэш сохраняются в полной точности; применяется Quantization-Aware Distillation для снижения потерь качества. Главное преимущество варианта W4A4 — меньшие требования к памяти, более высокая скорость и меньшая задержка при сопоставимом с другими вариантами качестве. Для запуска указаны ориентиры от одной GPU NVIDIA B200 или двух H100, а для vLLM требуется версия не ниже 0.25.0 и дополнительная библиотека cohere_melody. Ограничения включают высокие аппаратные требования и необходимость совместимого программного стека. Модель распространяется по лицензии Apache 2.0.

Granite-4.0-H-Small — инструктивная языковая модель команды Granite компании IBM для диалога, выполнения инструкций и создания текстовых ответов. По карточке это дообученная версия Granite-4.0-H-Small-Base с выравниванием и слиянием моделей; архитектура — decoder-only MoE-трансформер с GQA, Mamba2 и общими экспертами. Однако в метаданных указано 2,5 млрд параметров, тогда как README заявляет 32 млрд, поэтому размер модели по источникам расходится. Модель рассчитана на создание помощников для бизнес-сценариев. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи с кодом, вызов функций и многоязычный диалог. Контекстное окно — 131 072 токена; основная модальность — текст, а возможности вызова инструментов описаны как часть диалогового интерфейса. README перечисляет английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Авторы отмечают, что качество на других языках может уступать английскому, а ответы могут быть неточными, предвзятыми или небезопасными; для конкретных задач рекомендуются проверка и настройка безопасности. Лицензия — Apache 2.0.

Apriel-1.5-15b-Thinker-GGUF — это GGUF-версия мультимодальной модели рассуждений Apriel-1.5-15b-Thinker, разработанной ServiceNow AI и подготовленной в формате GGUF командой Unsloth. Модель предназначена для генерации текста, решения математических и научных задач, программирования, следования инструкциям, работы с API и функциями, диалоговых сценариев, а также понимания и рассуждений по изображениям и смешанным текстово-графическим данным. Модель содержит 15 млрд параметров и рассчитана на эффективное локальное развёртывание: по заявлению разработчиков, она помещается на одной GPU. Она обучалась с использованием продолжительного предварительного обучения на текстовых и мультимодальных данных, а также supervised fine-tuning более чем на 2 млн текстовых примеров. Для постобучения не применялись reinforcement learning и специализированное обучение на изображениях. Заявлены результаты 52 балла в Artificial Analysis, 68 в Tau2 Bench Telecom и 62 в IFBench, однако конкретные сведения о контекстном окне, поддерживаемых языках и архитектуре в README не указаны. Сильными сторонами модели являются сочетание компактного размера, развитого текстового рассуждения, возможностей работы с изображениями и ориентация на корпоративные задачи. Ограничениями могут быть повышенный расход токенов и более длительное время ответа из-за подробного рассуждения по умолчанию, а также отсутствие image SFT, что может влиять на отдельные визуальные сценарии. Модель распространяется по лицензии MIT.

GigaChat 3.5 Reasoning — большая языковая модель, разработанная ai-sage. Эта версия распространяется в формате GGUF для высокопроизводительного запуска через llama.cpp; базовая модель доступна в варианте BF16, а отдельная версия предназначена для инференса в FP8. Модель ориентирована на задачи, требующие углублённого рассуждения, и обучалась с использованием online RL. Архитектура представляет собой Mixture-of-Experts с общим размером 432 млрд параметров, из которых 28 млрд активируются при обработке токена. Используется гибридная архитектура, объединяющая Multi-head Latent Attention (MLA) и слои линейного внимания GatedDeltaNet. Дополнительно применяются GatedNorm и три MTP-головы для speculative decoding. Максимальная поддерживаемая длина контекста — 262 тысячи токенов. Заявлена поддержка русского и английского языков, а также сценариев text generation, instruction following, reasoning, tool use, function calling и structured output. Модель предназначена для решения математических и научных задач, программирования, редактирования кода, генерации тестов, репозиторных задач уровня SWE-bench, взаимодействия с инструментами, работы с длинным контекстом и соблюдения заданных форматов. К сильным сторонам относятся улучшения в математике, коде, следовании инструкциям и структурированном выводе по сравнению с GigaChat 3.5 Ultra Instruct, а также специализированное обучение шести доменных экспертов с последующей on-policy distillation. Ограничения включают высокие требования к вычислительным ресурсам из-за масштаба модели; конкретные требования к оборудованию, количественные характеристики производительности и ограничения использования в README не указаны. Лицензия — MIT.

unsloth/Llama-3.1-Nemotron-Nano-8B-v1-GGUF — GGUF-версия модели Llama-3.1-Nemotron-Nano-8B-v1, разработанной NVIDIA и подготовленной Unsloth. Это языковая reasoning-модель на базе Meta Llama 3.1 8B Instruct, предназначенная для диалогов, следования инструкциям, генерации кода, математических и логических задач, RAG-систем, tool calling и AI-агентов. Модель рассчитана прежде всего на английский язык и языки программирования, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель представляет собой плотный decoder-only Transformer с архитектурой Llama 3.1 и примерно 8 млрд параметров. Она поддерживает текстовый ввод и вывод, контекст до 131 072 токенов, а также режимы с рассуждением и без него, переключаемые системным промптом. Постобучение включало supervised fine-tuning для математики, кода, рассуждений и tool calling, а также этапы reinforcement learning и оптимизации предпочтений. GGUF-формат и заявленная эффективность позволяют использовать модель локально, в том числе на одной RTX GPU; рекомендуемые аппаратные платформы исходной модели — NVIDIA Hopper и Ampere. Сильными сторонами являются сочетание качества рассуждений, чат-возможностей и вычислительной эффективности, а также поддержка длинного контекста и агентских сценариев. Ограничения включают преимущественную ориентацию на английский язык и языки программирования, зависимость поведения от корректной настройки режима рассуждения и устаревание части знаний: дата среза предобучающих данных Meta Llama 3.1 указана как 2023 год. Использование регулируется NVIDIA Open Model License; дополнительно указано соглашение Meta Llama 3.1 Community License Agreement. Модель заявлена как пригодная для коммерческого использования.

unsloth/Llama-3.2-1B-Instruct — текстовая инструктивно настроенная модель семейства Llama 3.2, разработанного Meta и опубликованная Unsloth. Это плотная авторегрессионная трансформерная модель с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров. В карточке указаны диалоговый режим и интерфейс вызова инструментов; модель принимает и генерирует текст, а контекстное окно составляет 131 072 токена. Модель предназначена для многоязычных диалогов, ответов на вопросы, суммаризации и помощи в написании текста, в том числе в сценариях агентного поиска и использования инструментов. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; модель обучалась на более широком наборе языков. Репозиторий содержит веса Safetensors и указывает лицензию Llama 3.2 Community License — специальную лицензию Meta с условиями коммерческого использования. Компактный размер облегчает развёртывание по сравнению с более крупными моделями, однако качество и надёжность ответов требуют проверки для конкретного применения.

NVIDIA Nemotron-3-Super-120B-A12B-BF16 — большая языковая модель с открытыми весами, разработанная NVIDIA Corporation. Представленная версия распространяется в формате GGUF и сгенерирована с использованием llama.cpp; исходная модель выпущена 11 марта 2026 года. Модель предназначена для агентских сценариев, рассуждений с длинным контекстом, использования инструментов, RAG и высоконагруженных задач, включая автоматизацию IT-заявок. Архитектура LatentMoE объединяет Mamba-2, Mixture of Experts и механизмы внимания, а также Multi-Token Prediction. Всего модель содержит 120 млрд параметров, из которых 12 млрд активны при обработке запроса, и поддерживает контекст до 1 млн токенов. Доступны английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Режим рассуждений можно включать или отключать через шаблон чата. К сильным сторонам относятся сочетание большого контекста, разреженной MoE-архитектуры, поддержки инструментов и ориентация на агентские и корпоративные рабочие процессы. Ограничения включают значительный общий размер модели и высокие требования к инфраструктуре: для исходной версии указано минимум 8 GPU H100 с 80 ГБ памяти. GGUF-версия использует специальную настройку квантования с повышением точности отдельных слоёв, что может увеличить размер файла. Модель распространяется по лицензии NVIDIA Nemotron Open Model License.

Aya Expanse 8B Ungated — открытая версия весов многоязычной языковой модели, разработанной Cohere For AI на основе предварительно обученной модели семейства Command. Это авторегрессионный трансформер Cohere с 8 млрд параметров и контекстом до 8192 токенов; модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для многоязычного общения и генерации текста на 23 языках, включая русский, английский, китайский, арабский, хинди и японский. Её постобучение включает обучение с учителем, обучение на предпочтениях, настройку безопасности и слияние моделей. Она подходит для ответов на вопросы, диалогов и создания текстов на поддерживаемых языках. Веса опубликованы по лицензии CC-BY-NC-4.0; использование также регулируется политикой допустимого использования C4AI. Лицензия ограничивает коммерческое применение. Модель принимает и выдаёт только текст; заявленная длина контекста — около 8 тысяч токенов.