I.3Извлечение и структурирование данных

Карточка модели Rab007/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели vll1addd/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

ToBeStyled/Qwen3.8-27B-ColdFusion-GAIN-Blackwell-DFlash2-Ultra-V1.0 — мультиязычная гибридная модель на базе Qwen/Qwen3.8-27B, предназначенная для генерации текста, диалога, программирования, математических рассуждений и агентских сценариев. Она поддерживает текстовые и графические входы, распространяется в формате GGUF и рассчитана на запуск через llama.cpp с CUDA и спекулятивным декодированием DFlash2. Разработчик производной модели в README явно не указан; базовая модель относится к семейству Qwen. Модель имеет 27 млрд параметров и заявленный контекст до 262 000 токенов. Сборка оптимизирована для видеокарт NVIDIA Blackwell, в частности RTX 5090 с 32 ГБ памяти, и использует NVFP4-квантизацию весов с головой и эмбеддингами в Q8_0. В приведённых измерениях она достигла до примерно 200 токенов в секунду, обеспечила ускорение решения задач примерно в 2,4–2,5 раза относительно базовой Q4_K_M-сборки и показала 94% на HumanEval-50 и 96–98% на вариантах GSM8K. Сильные стороны модели — высокая скорость вывода, поддержка спекулятивного декодирования, большой контекст, мультимодальность и хорошие результаты на задачах программирования и математики. Ограничения связаны с зависимостью производительности от конкретного оборудования, версии llama.cpp, настроек DFlash2 и режима reasoning_effort; NVFP4 обеспечивает более высокую скорость, но несколько уступает Q4_K_M по perplexity. README также отмечает, что модель не идеальна и может ошибаться на неоднозначных задачах. Указанная лицензия — Apache 2.0.

MaziyarPanahi/calme-2.2-llama3.1-70b — языковая модель, дообученная Maziyar Panahi на базе Meta Llama 3.1 70B Instruct. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, рассчитанная на генерацию текста и диалог в формате ChatML. Заявленная длина контекста — 131 072 токена; модель работает через библиотеку Transformers и распространяется в формате safetensors. Модель предназначена для ответов на вопросы, чат-ботов и виртуальных помощников, создания и суммаризации текстов, генерации и анализа кода, а также решения сложных задач. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но они не гарантируют качество в конкретном приложении. Указанный в метаданных датасет дообучения — MaziyarPanahi/truthy-dpo-v0.1-axolotl. README предупреждает о возможных смещениях и ограничениях больших языковых моделей и рекомендует применять защитные меры и проверку человеком. Лицензия в предоставленных данных не указана.

Andycurrent/gemma-3-12b-it-uncensored-GGUF — производная instruction-tuned модель Gemma 3 с 12 млрд параметров, разработанная на базе Google Gemma 3 12B IT. Базовую архитектуру разработала Google, а кураторство и выпуск этой версии указаны за BrainDAO. Репозиторий также содержит вариант Vision-Language Model (VLM), поддерживающий работу с изображениями и текстом. Модель предназначена для общего ассистирования, диалогов, следования инструкциям, логического и аналитического рассуждения, написания и отладки кода, исследовательского анализа, агентных сценариев с инструментами, а для VLM-варианта — для описания изображений, визуальных вопросов и ответов и мультимодального общения. Заявлена поддержка английского языка. Модель ориентирована на локальное и приватное развертывание; для работы следует использовать формат инструкций Gemma, а VLM-вариант требует мультимодального формата входных данных, поддерживаемого конкретным inference-фреймворком. Ключевая особенность версии — минимальные дополнительные ограничения выравнивания: заявлено отсутствие специально добавленных слоёв безопасности, отказов и alignment-ограничений сверх базовой модели. Это может дать больше контроля над системными промптами и меньше искусственных отказов, но одновременно означает необходимость самостоятельной оценки рисков, фильтрации и безопасного применения. Ограничения включают отсутствие дополнительных гарантий безопасности, а также потенциальную зависимость возможностей и производительности от используемого варианта, GGUF-квантизации и среды инференса; подробности о размере контекста и конкретных параметрах квантизации в README не указаны. Модель распространяется по пользовательской Gemma License, унаследованной от базовой модели Google. Это не Apache-2.0, MIT или другая стандартная open-source-лицензия; перед использованием, распространением или встраиванием необходимо ознакомиться с условиями Gemma License и соблюдать применимое законодательство.

GLM-4.7-Flash-GGUF — это GGUF-версия модели GLM-4.7-Flash, подготовленная Unsloth на основе модели Z.ai. Это языковая модель для генерации текста с архитектурой MoE: 30 млрд параметров, из которых при обработке активируется около 3 млрд. Модель поддерживает английский и китайский языки; размер контекста в README не указан. Модель предназначена для общего диалога, рассуждений, программирования, агентских сценариев, вызова инструментов и локального развертывания. Заявлены сильные результаты на задачах математического и научного рассуждения, программирования, веб-поиска и взаимодействия с инструментами. Для локального запуска указана поддержка llama.cpp, vLLM, SGLang и Transformers; также допускается дообучение через Unsloth. Ключевое преимущество модели — сочетание высокой заявленной производительности с относительно компактным числом активных параметров, что делает её подходящей для более эффективного развертывания по сравнению с плотными моделями сопоставимого общего размера. Ограничения включают необходимость использовать актуальные версии некоторых фреймворков, а для GGUF-файлов — корректные параметры генерации; в README отдельно рекомендуется отключить repeat penalty и учитывать настройки temperature, top-p и min-p. Модель распространяется по лицензии MIT.

unsloth/gpt-oss-20b-bnb-4bit — 4-битная версия модели gpt-oss-20b, опубликованная Unsloth и основанная на открытой модели OpenAI. Она предназначена для генерации текста, локального и специализированного использования, сценариев с пониженной задержкой, рассуждений и агентских задач. Модель поддерживает вызов функций, веб-браузинг, выполнение кода на Python и структурированные ответы. gpt-oss-20b — разреженная MoE-модель с 21 млрд параметров, из которых при обработке активны 3,6 млрд. Она обучена в формате ответов harmony и должна использоваться с ним. Доступна настройка интенсивности рассуждений — низкая, средняя или высокая. Модель поддерживает дообучение, а 4-битное представление снижает требования к памяти; исходная модель рассчитана на работу в пределах 16 ГБ памяти. В README не указаны языки и размер контекстного окна. Полный процесс рассуждений доступен для отладки и повышения прозрачности, но не предназначен для показа конечным пользователям. Лицензия Apache 2.0 разрешает использование, модификацию и коммерческое развертывание без требований copyleft. Ограничения связаны с необходимостью корректно применять формат harmony и с тем, что README не содержит подробной оценки качества, перечня поддерживаемых языков или гарантий безопасности.

K2-Horizon-32B — плотная авторегрессионная языковая модель с архитектурой K2HorizonForCausalLM, разработанная IFM. Модель содержит 31,2 млрд параметров и предназначена для генерации текста в диалогах, решения задач на рассуждение, программирование и сценариев с агентами. Для работы с чатом и вызовом инструментов предусмотрены соответствующие парсеры; основной pipeline-тег — text-generation. Модель поддерживает контекст до 524 288 токенов и опубликована в формате Safetensors для Transformers. В карточке указаны английский язык и открытая публикация обучающих данных, рецепта и кода обучения. Указанная лицензия — Apache-2.0. Для заявленного качества авторы рекомендуют высокий уровень рассуждений; для обслуживания описаны конфигурации vLLM и SGLang, включая использование двух ускорителей H200.

unsloth/Kimi-K2-Thinking-BF16 — публикация модели Kimi K2 Thinking в формате BF16, размещённая Unsloth и основанная на moonshotai/Kimi-K2-Thinking. Это текстовая разговорная модель с архитектурой DeepSeek V3; карточка описывает исходную Kimi K2 Thinking как модель с архитектурой Mixture-of-Experts, примерно 1 трлн параметров и 32 млрд активируемых параметров. В метаданных данной публикации указано 37,9 млрд параметров. Модель предназначена для сложных рассуждений, работы с инструментами, исследований, программирования и написания текстов. Заявлены контекст до 256 тыс. токенов и способность поддерживать длинные последовательности вызовов инструментов; результаты тестов в README получены с поиском, браузером и интерпретатором кода там, где указано использование инструментов. Это текстовая модель, а не модель для обработки изображений или аудио. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует сверять с лицензией и уведомлениями в репозитории. README описывает INT4-квантизацию исходной Kimi K2 Thinking, однако эта публикация заявлена как BF16, а в метаданных указан формат safetensors; результаты и характеристики исходной версии не следует автоматически переносить на эту публикацию.

Llama-3.3-Nemotron-Super-49B-v1 — языковая модель NVIDIA, созданная на основе Meta Llama-3.3-70B-Instruct и оптимизированная методом Neural Architecture Search. Это плотный decoder-only Transformer с нестандартными блоками: в части блоков пропущено внимание или оно заменено линейным слоем, а соотношение размеров слоёв FFN различается. В метаданных указано 87 млрд параметров; модель принимает текстовый контекст до 131 072 токенов и выдаёт текст. Модель предназначена для рассуждений, диалогов и следования инструкциям, включая задачи с кодом и математикой, работу с RAG и вызов инструментов в агентных системах. Она прошла многоэтапное дообучение с SFT и обучением с подкреплением; итоговый чекпойнт объединяет SFT- и RPO-чекпойнты. Оптимизация архитектуры нацелена на снижение потребления памяти и повышение пропускной способности при небольшом снижении качества; модель рассчитана, в частности, на высокую нагрузку на одном GPU NVIDIA H200. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. Модель предназначена для коммерческого использования, однако в метаданных лицензия обозначена как other, поэтому перед внедрением следует проверить условия лицензии на странице модели. Конкретные показатели качества и ограничения по задачам в предоставленной карточке не приведены.

QuantFactory/Meta-Llama-3-8B-Instruct-GGUF-v2 — это GGUF-квантизированная версия Meta-Llama-3-8B-Instruct, созданная с помощью llama.cpp на основе выпуска от 5 мая 2024 года. Исходную модель разработала Meta; она относится к семейству Llama 3 и содержит около 8 млрд параметров. Модель предназначена для генерации текста и кода, прежде всего для диалоговых сценариев и приложений, которым требуется выполнение инструкций. Она принимает только текстовые входные данные и генерирует текст или код. Архитектура представляет собой авторегрессионный оптимизированный Transformer с Grouped-Query Attention (GQA), контекстное окно составляет 8 тысяч токенов, заявленный язык — английский. Инструкционная версия обучалась с применением supervised fine-tuning (SFT) и reinforcement learning from human feedback (RLHF) для повышения полезности и безопасности. К преимуществам относятся оптимизация под диалоговое использование, поддержка генерации кода и потенциально более эффективный инференс благодаря GGUF-квантизации и GQA. Ограничения включают текстовую модальность, контекст длиной 8 тысяч токенов, статичность модели и ограниченность знаний датой отсечения — мартом 2023 года. Модель распространяется по специальной лицензии Llama 3 с коммерческими условиями Meta; точные положения необходимо проверять в тексте лицензии.

NVIDIA-Nemotron-3-Nano-30B-A3B-NVFP4 — большая языковая модель, разработанная NVIDIA Corporation и представленная в квантованном формате NVFP4. Она предназначена для генерации текста, решения задач с рассуждением и без него, программирования, математических и научных задач, а также создания специализированных AI-агентов. Модель может сначала формировать рассуждение, а затем итоговый ответ; этот режим настраивается через флаг в chat template. Отключение промежуточных рассуждений уменьшает задержку, но может немного снизить точность на сложных запросах. Модель использует гибридную архитектуру Mixture-of-Experts: 23 слоя Mamba-2 и MoE, 6 attention-слоёв, по 128 экспертов и одному общему эксперту в каждом MoE-слое, при этом на каждый токен активируются 6 экспертов. Всего модель содержит 30 млрд параметров, из которых активно около 3,5 млрд, что повышает эффективность инференса. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. Размер контекста в предоставленных данных не указан. Сильными сторонами модели являются сочетание reasoning и обычной генерации, высокая вычислительная эффективность за счёт разреженной активации экспертов и пригодность для коммерческих сценариев. NVFP4-квантизация может снизить требования к памяти по сравнению с полноформатными вариантами, однако в приведённых оценках она уступает BF16-версии на ряде задач. Модель обучалась на данных с отсечками июня 2025 года для предобучения и ноября 2025 года для post-training, поэтому её знания могут быть неполными или устаревшими. Использование регулируется NVIDIA Nemotron Open Model License.

Qwen2-7B-Instruct — инструктивно дообученная языковая модель серии Qwen2, разработанная командой Qwen. Это плотная decoder-only модель на архитектуре Transformer с 7,1 млрд параметров, предназначенная для диалогов и генерации текста. Она подходит для ответов на вопросы, суммаризации, написания текстов, программирования, математики и рассуждений. Модель принимает текст и выдаёт текст. Карточка описывает поддержку нескольких естественных языков и кода; в метаданных указан английский язык. Заявленная длина контекста в метаданных — 32 768 токенов; README описывает расширение до 131 072 токенов с помощью YARN. Для запуска рекомендована версия Transformers 4.37.0 или новее, а README также приводит вариант развёртывания через vLLM. Модель демонстрирует сильные результаты в приведённых бенчмарках по пониманию и генерации языка, мультиязычным задачам, программированию, математике и рассуждениям. Расширенный контекст через YARN требует настройки и может снижать качество на коротких текстах при статическом масштабировании. Лицензия — Apache-2.0.

p-e-w/Qwen3-4B-Instruct-2507-heretic-v4 — разговорная языковая модель на архитектуре Qwen3, созданная на основе Qwen3-4B-Instruct-2507. Модель с примерно 3,7 млрд параметров предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, математики, программирования, ответов на вопросы и работы с инструментами. Вариант heretic получен методом abliteration: в README указано, что в тесте отказов он отказал в 9 случаях из 100, тогда как исходная модель отказала во всех 100. Модель работает только в non-thinking mode и поддерживает контекст до 262 144 токенов. README заявляет улучшения исходной Qwen3-4B-Instruct-2507 в многоязычных задачах, понимании длинного контекста и использовании инструментов; эти характеристики относятся к описанной в карточке базовой модели. Модель принимает текст и генерирует текст. Лицензия — Apache-2.0.

unsloth/Qwen3.5-397B-A17B-MTP-GGUF — GGUF-версия мультимодальной модели Qwen3.5-397B-A17B, разработанной командой Qwen и подготовленной для локального запуска компанией Unsloth. Модель предназначена для работы с текстом и изображениями, включая диалоговые сценарии, рассуждения, программирование, визуальное понимание, агентские задачи и вызов инструментов. В основе лежит гибридная архитектура с Gated Delta Networks и разреженным Mixture-of-Experts; обозначение 397B-A17B указывает на общий размер 397 млрд параметров и около 17 млрд активных параметров. Заявлена поддержка 201 языка и диалекта. Вариант MTP поддерживает speculative decoding, что может ускорять генерацию примерно в 1,5–2 раза при использовании совместимой ветки или версии llama.cpp. Доступны настройки для включения и отключения режима рассуждений, а также улучшения для tool calling и coding. К сильным сторонам относятся мультимодальность, высокая вычислительная эффективность разрежанной архитектуры, широкое языковое покрытие и возможность локального запуска в формате GGUF. Ограничения связаны с очень большим размером модели и требованиями к ресурсам, необходимостью совместимого ПО и специальной настройки MTP; при этом режиме не поддерживаются параллельные запросы с np > 1 и использование mmproj. README не указывает максимальную длину контекста. Модель распространяется по лицензии Apache-2.0.

duyntnet/Qwen3-8B-imatrix-GGUF — набор квантованных версий модели Qwen3-8B, опубликованный пользователем duyntnet на основе Qwen/Qwen3-8B. Модель предназначена для генерации текста, диалогов, следования инструкциям, решения математических и логических задач, программирования, творческого письма, ролевого общения, перевода и агентских сценариев с интеграцией внешних инструментов. Это авторегрессионная causal language model с 8,2 млрд параметров, включая 6,95 млрд параметров без учёта эмбеддингов. Архитектура содержит 36 слоёв и использует Grouped-Query Attention: 32 головы запросов и 8 голов ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с YaRN может достигать 131 072 токенов. Модель поддерживает более 100 языков и диалектов. Она допускает переключение между режимом рассуждений для сложных задач и нережимом рассуждений для более быстрых ответов в рамках одной модели. Формат GGUF и imatrix-квантизации ориентированы на локальный запуск через llama.cpp и совместимые приложения, включая KoboldCPP, Ollama, LM Studio, GPT4All и другие интерфейсы. Потенциальные ограничения связаны с потерями качества, зависящими от выбранного уровня квантизации, а также с требованиями к памяти и производительности оборудования; конкретные параметры для отдельных файлов в README не указаны. Лицензия обозначена как other, без уточнения дополнительных условий использования.

Seed-OSS-36B-Instruct — диалоговая плотная языковая модель команды ByteDance Seed. Репозиторий unsloth содержит производную версию модели ByteDance-Seed/Seed-OSS-36B-Instruct; архитектура использует причинную генерацию, RoPE, GQA, RMSNorm и SwiGLU. Метаданные указывают 31,7 млрд параметров и контекст до 524 288 токенов. Модель предназначена для диалогов, генерации текста, рассуждений и агентных сценариев с вызовом инструментов. Можно задавать бюджет рассуждений, чтобы управлять длиной внутреннего анализа и расходом вычислений. В README заявлена оптимизация для международных сценариев, но конкретный перечень поддерживаемых языков не приведён. Модель распространяется по лицензии Apache-2.0. Для инференса в README описаны Transformers и vLLM; рекомендуется температура 1,1 и top_p 0,95. Качество ответов зависит от задачи и настроек генерации, а использование длинного контекста увеличивает вычислительные затраты.

Spark-X2.5-4B-INT8 — компактная универсальная языковая модель, разработанная командой XHToken. Это постобученная INT8-версия базовой модели XHToken/Spark-X2.5-4B-Base, распространяемая в формате Hugging Face Transformers. Модель предназначена для диалогов, написания и перевода текстов, рассуждений, программирования, работы с инструментами, следования инструкциям и агентских сценариев. Модель содержит около 4 млрд параметров и использует гибридную архитектуру внимания: один слой полного внимания и три слоя sliding-window attention. Она поддерживает контекст до 1 млн токенов и более 200 языков. Обучение проводилось примерно на 20 трлн токенов из веб-страниц, книг, академических публикаций, кода и энциклопедических материалов; дополнительные этапы включали supervised fine-tuning, reinforcement learning и MOPD. Заявлена совместимость с vLLM, SGLang, llama.cpp, MLX, Ollama, LM Studio и LLaMA-Factory, а также с широким спектром аппаратных платформ. К сильным сторонам относятся эффективность работы с длинным контекстом, уменьшенные вычислительные затраты и объём KV-кэша, а также возможности в программировании, рассуждениях и агентских задачах среди моделей сопоставимого размера. README не содержит подробных результатов бенчмарков, точных сведений о токенизаторе и ограничениях INT8-квантизации, поэтому эти характеристики нельзя оценить дополнительно. Модель распространяется по лицензии Apache-2.0.

calme-2.2-qwen2.5-72b — плотная языковая модель MaziyarPanahi, дообученная на основе Qwen2.5-72B-Instruct. Она предназначена для диалогов и генерации текста: ответов на вопросы, работы виртуальных помощников, создания и суммаризации текстов, генерации и анализа кода, а также решения сложных задач. Модель содержит 71,5 млрд параметров, использует архитектуру Qwen2ForCausalLM и формат весов safetensors; для общения применяется шаблон ChatML. Контекст составляет до 32 768 токенов. В метаданных указан английский язык; README описывает широкие языковые сценарии, но не подтверждает поддержку конкретных дополнительных языков. README приводит результаты Open LLM Leaderboard, в том числе 84,77 по IFEval и 61,80 по BBH; оценки относятся к указанным настройкам тестирования и не гарантируют качество в конкретном применении. Известные ограничения — возможные предвзятость и ошибки, поэтому при внедрении важны проверка ответов и человеческий контроль. Лицензия обозначена как other, без уточнения конкретных условий в предоставленных данных.

duyntnet/cogito-v1-preview-llama-8B-imatrix-GGUF — это набор imatrix-квантизированных версий текстовой instruction-tuned модели Cogito v1-preview-llama-8B, разработанной командой deepcogito и опубликованной пользователем duyntnet в формате GGUF. Модель предназначена для генерации текста, диалогов, следования инструкциям, программирования, задач STEM, общего помощника и вызова инструментов. Модель относится к гибридным reasoning-моделям: она может отвечать напрямую в стандартном режиме или выполнять расширенное самообдумывание перед ответом. Обучение проводилось с использованием метода Iterated Distillation and Amplification (IDA). Указаны поддержка контекста до 128K токенов, более 30 языков, включая английский, а также текстовый ввод и текстовый вывод. Заявлены улучшенные многоязычные, программные и tool-calling возможности по сравнению с сопоставимыми по размеру моделями. Формат GGUF подходит для локального запуска через llama.cpp и совместимые приложения, включая KoboldCPP, Ollama, text-generation-webui, LM Studio и GPT4All. Расширенное мышление включается специальной системной инструкцией или параметром enable_thinking в chat template. К ограничениям относятся отсутствие в README точных характеристик базовой архитектуры и параметров квантизации, а также возможное снижение качества по сравнению с исходной моделью из-за квантизации. Лицензия обозначена как other; при этом исходное описание указывает на открытую лицензию с разрешением коммерческого использования, но её точные условия не приведены.

Granite-4.2-30B — большая языковая модель IBM Granite Team для рассуждений, диалога и работы с инструментами. Это дообученная на основе ibm-granite/granite-4.1-30b-base плотная decoder-only Transformer-модель с архитектурой GraniteForCausalLM и 28,9 млрд параметров. Она поддерживает режимы полного, отключённого и облегчённого рассуждения, а также контекст до 131 072 токенов. Модель предназначена для ответов на сложные вопросы, математики, программирования, многошаговых задач и агентных сценариев с вызовом инструментов. Модель поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. README заявляет архитектурные компоненты GQA, RoPE, SwiGLU и RMSNorm; веса представлены в формате safetensors и используются через Transformers. Лицензия Apache 2.0 допускает коммерческое и академическое применение. Производительность на других языках может уступать английской; ответы могут содержать ошибки, предвзятость или небезопасные сведения, а промежуточные рассуждения не всегда отражают итоговый ответ.

Карточка модели bernquant/Inkling на Hugging Face совпадает с карточкой thinkingmachines/Inkling, поэтому описание составлено по ней. Inkling — мультимодальная модель общего назначения от Thinking Machines. Это авторегрессионный трансформер с 66 слоями, архитектурой decoder-only и разреженным MoE-блоком: из 256 экспертов для каждого токена активируются 6, а ещё 2 общих эксперта участвуют всегда. Всего в модели 975 млрд параметров, активно используется 41 млрд. Поддерживаются форматы BF16 и NVFP4; веса опубликованы в Safetensors. Модель принимает текст, изображения и аудио, обрабатывает их в общем пространстве представлений и выдаёт текст. Она предназначена для диалогов, следования инструкциям, анализа изображений и аудио, программирования, агентных систем с использованием инструментов и RAG-приложений. Основной язык — английский; заявлены также общие многоязычные возможности. Для изображений рекомендуются размеры сторон от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее 20 минут. Модель доступна для интеграции, исследований и дообучения; лицензия — Apache-2.0. Возможны фактические ошибки, неточное следование инструкциям и ухудшение качества в длинных диалогах; качество может различаться между языками и предметными областями. Для важных решений требуется проверка человеком, а для публичных приложений README рекомендует дополнительные меры модерации.

Kanana 1.5 8B Instruct — разговорная языковая модель компании Kakao, представленная в мае 2025 года. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогов; доступны веса в формате SafeTensors, библиотека — Transformers. Модель обучена с уточнённой постобработкой и поддерживает интерфейс вызова инструментов. Модель рассчитана на сложные диалоговые задачи, включая программирование, математику и вызов функций. Нативная длина контекста — 32 768 токенов; с настройкой YaRN в конфигурации можно обрабатывать последовательности до 128 тыс. токенов. Карточка указывает английский и корейский языки. По заявлению разработчика, пользовательские данные Kakao не входили в данные предобучения и постобучения. Модель распространяется по лицензии Apache 2.0. Качество ответов может варьироваться в зависимости от задачи; контекст длиннее 32 768 токенов требует настройки YaRN.

Llama-3.1-Nemotron-Nano-4B-v1.1 — языковая модель NVIDIA на базе nvidia/Llama-3.1-Minitron-4B-Width-Base, созданной из Llama 3.1 8B методом сжатия. Это плотный декодерный Transformer семейства Llama с 3,9 млрд параметров, дообученный для рассуждений, общения по инструкциям, математики, программирования, работы с RAG и вызова инструментов. Модель рассчитана на текстовый ввод и вывод, поддерживает контекст до 131 072 токенов и может запускаться локально на одной RTX GPU. Модель предназначена для чат-ботов, AI-агентов и приложений, которым нужны ответы на вопросы, следование инструкциям и многошаговые рассуждения. Режим рассуждений управляется системным промптом; для вызова инструментов предусмотрены шаблон чата и парсер для vLLM. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. В карточке указана возможность коммерческого использования; лицензия обозначена как other, поэтому перед внедрением следует ознакомиться с условиями лицензии репозитория. Результаты зависят от формата запроса и настроек декодирования; опубликованные оценки получены при длине последовательности 32K и не гарантируют такого же качества на всех задачах или при использовании полного контекста.

Nemotron-Cascade-2-30B-A3B-NVFP4 — квантизированная версия модели Nemotron-Cascade-2-30B-A3B, разработанной NVIDIA. Модель использует гибридную архитектуру MoE и Mamba; в ней 30 млрд параметров всего и около 3 млрд активных параметров на токен. Данный вариант создан сообществом chankhavu с применением NVIDIA ModelOpt и посттренировочной квантизации NVFP4 без Quantization-Aware Distillation. Модель предназначена для задач генерации текста, математического рассуждения, программирования, работы с терминалом и агентских сценариев, следования инструкциям, диалога и научных запросов. Для калибровки использовались данные NVIDIA Nemotron-Cascade-2-SFT-Data, включая примеры по математике, software engineering, терминальным агентам, науке, безопасности и общению. README не указывает полный набор поддерживаемых языков и модальностей; по представленным данным это текстовая модель. MoE-эксперты и часть Mamba-вычислений представлены в NVFP4 с форматом E2M1 и иерархическим блочным масштабированием, чувствительные компоненты сохранены в BF16, маршрутизаторы — в FP32, а KV-кэш — в FP8. Модель рассчитана прежде всего на GPU Blackwell, где доступно нативное вычисление FP4 и максимальное ускорение; на Hopper выполняется деквантизация весов во время работы, а Ampere в README обозначен как неподдерживаемый. По опубликованным тестам качество обычно на 1–2% ниже исходной BF16-модели, но при этом снижаются требования к памяти. Лицензия — NVIDIA Open Model License.

Nemotron-H-47B-Reasoning-128K — большая языковая модель NVIDIA для диалогов, рассуждений и обычных задач генерации текста. Она сочетает слои Mamba-2 и MLP с пятью слоями Attention, содержит 47 млрд параметров и поддерживает контекст до 128 тыс. токенов. В зависимости от системной инструкции модель может сначала сформировать рассуждение, а затем ответ, либо выдать ответ без видимого рассуждения. Модель принимает и генерирует текст. Заявлена поддержка английского, немецкого, испанского, французского, итальянского, корейского, португальского, русского, японского и китайского языков. Подходит для диалогов, ответов на вопросы, задач по математике, науке, программированию и другим темам. Доступны контрольные точки BF16 для Transformers и TensorRT-LLM, а также FB8 для TensorRT-LLM; модель рассчитана на запуск с ускорением NVIDIA GPU. Модель может выдавать неточные, неполные, нерелевантные или избыточные ответы, а также воспроизводить токсичность и предвзятость из обучающих данных. В README также отмечена уязвимость к некоторым вариантам косвенной prompt injection. Лицензия указана как other; README ограничивает назначение исследованиями и разработкой.

Nexa-AI-4B-Instruct — мультиязычная инструкционная языковая модель, совместно разработанная Neura Tech AI и Lumina AI на основе Qwen/Qwen3-4B-Instruct-2507. Это плотный декодерный Transformer с 3,7 млрд параметров, предназначенный для диалогов и выполнения инструкций; модель распространяется в формате Safetensors через библиотеку Transformers. Модель подходит для генерации ответов, помощи с программированием, математических и логических задач, а также сценариев с вызовом инструментов и агентами. Она поддерживает английский, хинди и китайский; в карточке также заявлены другие языки. Контекстное окно составляет до 262 144 токенов. Разработчики сообщают о дообученной настройке на полезные ответы и приводят результаты сравнительных тестов, но в карточке нет достаточных подробностей об условиях оценки для независимой проверки этих заявлений. Лицензия — Apache-2.0.

Nexa-AI-4x4B-Instruct — мультиязычная инструктивная языковая модель, совместно разработанная Neura Tech AI и Lumina AI на архитектурной основе Qwen3. Это модель семейства Qwen3 с разреженной архитектурой Mixture of Experts; в README описаны четыре эксперта примерно по 4 млрд параметров и около 4 млрд активных параметров на токен, тогда как метаданные указывают 3,7 млрд параметров в репозитории. Контекст составляет до 262 144 токенов. Модель предназначена для диалогов и следования инструкциям, рассуждений, математики, помощи в программировании, работы с длинными документами и вызова инструментов во внешних агентных сценариях. В карточке заявлена поддержка английского, хинди, китайского, урду и других языков; метаданные также содержат теги санскрита, каннада и маратхи. Доступна под лицензией Apache-2.0. Заявления о производительности приведены в README; независимые результаты здесь не подтверждены.

NVIDIA-Nemotron-3-Ultra-550B-A55B-FP8-block — большая языковая модель для генерации текста, рассуждений, решения сложных задач, математики и науки, генерации кода, следования инструкциям и вызова инструментов. Модель разработана Red Hat на основе NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16; в карточке также указан NVIDIA как провайдер. Входом и выходом служит текст, поддерживаются сценарии text-to-text, text-generation, reasoning и tool-calling. Архитектура модели обозначена как NemotronHForCausalLM. Она содержит 550 млрд общих параметров, из которых активно используется 55 млрд. Весовые коэффициенты и активации линейных операторов внутри transformer-блоков квантизированы в FP8: для весов применяется per-block quantization, для активаций — динамическая per-token quantization. Это уменьшает размер модели на диске и требования к памяти GPU примерно на 50% по сравнению с исходным форматом BF16. Заявлена поддержка контекста до 262 144 токенов при развертывании с vLLM. Языки модели в README не указаны. К сильным сторонам относятся сочетание большого общего числа параметров с меньшим числом активных параметров, поддержка сложных рассуждений, программирования и вызова инструментов, а также сниженные требования к хранению и памяти благодаря FP8-квантизации. Для работы рекомендуются vLLM и llm-compressor; карточка валидирована на RHOAI 3.5, RHAIIS 3.5 и vLLM 0.24.0. Ограничения включают значительные аппаратные требования даже после квантизации, зависимость корректной работы tool-calling и reasoning от специальных парсеров, а также отсутствие в README подробных результатов бенчмарков и информации о поддерживаемых языках. Модель распространяется по лицензии NVIDIA Open Model License; использование, нарушающее применимое законодательство и нормы экспортного контроля, исключено.

Qwen3-30B-A3B-Thinking-2507-FP8 — языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-версия причинной языковой модели с обучением на этапах pretraining и post-training, предназначенная для генерации текста и решения сложных задач, требующих рассуждений. Модель ориентирована на логическое и математическое рассуждение, научные и академические задачи, программирование, следование инструкциям, использование инструментов и работу с длинным контекстом. Она поддерживает только thinking mode, поэтому рассчитана прежде всего на сложные запросы с увеличенной длиной рассуждений. README не указывает точный список поддерживаемых языков и не заявляет о мультимодальных возможностях, поэтому модель следует считать текстовой. Архитектура — Mixture-of-Experts с 30,5 млрд параметров всего и 3,3 млрд активируемых параметров; модель содержит 48 слоёв, 128 экспертов, из которых активируются 8, и использует Grouped-Query Attention с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена. К сильным сторонам относятся улучшенные результаты в рассуждениях, математике, кодировании, агентных сценариях и обработке длинного контекста. Ограничения включают режим работы только с рассуждениями, высокие требования к вычислительным ресурсам и необходимость актуальной версии Transformers; конкретные аппаратные требования в README не приведены. Модель распространяется по лицензии Apache 2.0.