I.14Автоматизация процессов и AI-агенты

Apertus-70B-Instruct-2509 — многоязычная языковая модель Swiss AI Initiative для диалогов и генерации текста. Это дообученная версия Apertus-70B-2509 с архитектурой декодерного трансформера; в метаданных указано 97,7 млрд параметров и контекст до 65 536 токенов. Модель принимает текст и выдаёт текст, поддерживает более 1 800 языков и умеет использовать инструменты в агентных сценариях. Модель предназначена для ответов на вопросы, диалогов и других задач генерации текста, в том числе с длинным контекстом. Разработчики заявляют об открытых весах, данных и описании обучения, а также о соблюдении согласия владельцев данных. Модель распространяется по лицензии Apache-2.0. Ответы могут содержать фактические ошибки, логические несоответствия и смещения. Фильтр для удаления персональных данных в комплект не входит; важные сведения следует проверять.

Cogito v1 preview 14B — инструктивно дообученная генеративная языковая модель компании DeepCogito на архитектуре Qwen2.5-14B. Она принимает текст и генерирует текст, поддерживает прямые ответы и режим с дополнительным рассуждением, который можно включить через системную инструкцию или шаблон чата. Модель рассчитана на программирование, STEM-задачи, следование инструкциям, диалог и вызов инструментов. Модель содержит 14 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. По README, её обучали более чем на 30 языках и оптимизировали для многоязычных задач, кода и вызова инструментов. В карточке заявлено обучение методом Iterated Distillation and Amplification и преимущество над сопоставимыми по размеру моделями на типовых бенчмарках; подробности оценок приведены в публикации разработчика. Модель доступна по лицензии Apache 2.0, разрешающей коммерческое использование. Как и другие генеративные модели, она может ошибаться; README не приводит конкретных ограничений или результатов бенчмарков для этого чекпойнта.

Dragonboy3940/DeepSeek-V3-0324 — текстовая языковая модель семейства DeepSeek-V3, представленная в формате safetensors FP8. В карточке описаны улучшения рассуждений, генерации кода для веб-интерфейсов и игр, написания текстов на китайском языке, перевода, анализа поисковых результатов и вызова функций. Модель поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для генерации текста в диалоге, решения задач на рассуждение, написания и редактирования текстов, перевода и создания кода. Архитектура — DeepseekV3ForCausalLM; размер и контекстное окно соответствуют метаданным репозитория. Указана лицензия MIT. Карточка рекомендует обратиться к репозиторию DeepSeek-V3 за сведениями о локальном запуске.

unsloth/DeepSeek-V3-bf16 — версия DeepSeek-V3 в формате BF16, размещённая Unsloth и предназначенная для генерации текста и диалогового использования. Согласно карточке модели, DeepSeek-V3 — языковая модель архитектуры Mixture-of-Experts с 671 млрд параметров, из которых около 37 млрд активируются на каждом токене; используются DeepSeekMoE и Multi-head Latent Attention. Метаданные этой версии указывают 37,6 млрд параметров, контекст до 163 840 токенов и поддержку интерфейса вызова инструментов. Модель подходит для диалогов, ответов на вопросы, написания и преобразования текста, а также сценариев с вызовом инструментов. В карточке заявлена поддержка английского языка. Репозиторий использует Transformers и формат safetensors; лицензия — MIT. Для запуска требуются значительные вычислительные ресурсы, характерные для крупной языковой модели.

DeepSeek-V4-Flash — текстовая генеративная модель семейства DeepSeek-V4. README описывает серию как смесь экспертов (MoE) с гибридным механизмом внимания CSA/HCA и контекстом до одного миллиона токенов; для Flash указано 284 млрд параметров, из которых активируются 13 млрд. В метаданных этого репозитория указаны архитектура DeepseekV4ForCausalLM, 10,7 млрд параметров и веса safetensors в формате FP8, что расходится с размером Flash в README. Модель предназначена для диалога, рассуждений, планирования и решения повседневных и сложных задач с длинным контекстом. README выделяет режимы ответа без рассуждений и с повышенным или максимальным уровнем рассуждений; среди сценариев применения также названы кодирование и агентные задачи. Репозиторий предоставляет отдельные скрипты для кодирования формата сообщений и разбора ответов, а стандартного Jinja-шаблона чата в выпуске нет. Модель принимает и генерирует текст. В README указана лицензия MIT. Поддерживаемые языки отдельно не перечислены; результат зависит от используемого формата запросов и конфигурации. Репозиторий создан 27 сентября 2026 года, поэтому сведения о выпуске следует считать предварительными.

DeepSeek-V4-Flash-0731-Abliterated — модифицированная версия DeepSeek-V4-Flash-0731, разработанная автором lovesenko посредством прямого редактирования весов исходной модели. Это Mixture-of-Experts-модель на 284 млрд параметров, из которых активируется около 13 млрд, с контекстным окном до 1 млн токенов и смешанной точностью FP8. Архитектура включает Multi-Token Prediction (MTP) для speculative decoding, совместима с DeepSeek-V4-Flash-DSpark и ориентирована на рассуждения и агентские сценарии. В README не указаны точные языки и полный перечень поддерживаемых модальностей; по представленным данным модель является текстовой языковой моделью. Модель предназначена для генерации текста, сложных рассуждений, программирования, логических и фактических задач, а также использования в агентских рабочих процессах с длинным контекстом. Версия Abliterated создана редактированием пространства весов для ослабления встроенных отказов: проекция удаляет широкое направление отказа из выходных проекций attention во всех слоях декодера и из MTP-head. В заявленной оценке доля отказов снизилась с 96,1% у базовой версии до 13,0% в режиме chain-of-thought и до 2,0% без него. К сильным сторонам относятся очень большой контекст, высокая вычислительная ёмкость MoE при относительно небольшом числе активных параметров, MTP для ускорения декодирования и сохранение ключевых возможностей базовой модели по заявленным spot-check-тестам. Ограничения включают остаточные отказы, особенно при включённом рассуждении, а также риск деградации длинных цепочек рассуждений при более агрессивном редактировании. Модель распространяется по лицензии MIT.

Карточка модели winterthurquants/DeepSeek-V4-Pro на Hugging Face совпадает с карточкой winterthurquants/DeepSeek-V4-Flash, поэтому описание составлено по ней. DeepSeek-V4-Flash — текстовая генеративная модель семейства DeepSeek-V4. README описывает серию как смесь экспертов (MoE) с гибридным механизмом внимания CSA/HCA и контекстом до одного миллиона токенов; для Flash указано 284 млрд параметров, из которых активируются 13 млрд. В метаданных этого репозитория указаны архитектура DeepseekV4ForCausalLM, 10,7 млрд параметров и веса safetensors в формате FP8, что расходится с размером Flash в README. Модель предназначена для диалога, рассуждений, планирования и решения повседневных и сложных задач с длинным контекстом. README выделяет режимы ответа без рассуждений и с повышенным или максимальным уровнем рассуждений; среди сценариев применения также названы кодирование и агентные задачи. Репозиторий предоставляет отдельные скрипты для кодирования формата сообщений и разбора ответов, а стандартного Jinja-шаблона чата в выпуске нет. Модель принимает и генерирует текст. В README указана лицензия MIT. Поддерживаемые языки отдельно не перечислены; результат зависит от используемого формата запросов и конфигурации. Репозиторий создан 27 сентября 2026 года, поэтому сведения о выпуске следует считать предварительными.

NVIDIA DeepSeek-V4-Pro-0813-nvfp4-DSpark — это NVFP4-квантизированная версия языковой модели DeepSeek-V4-Pro-0813, разработанной DeepSeek AI и подготовленной с использованием NVIDIA Model Optimizer. NVIDIA указывает, что модель не является новой самостоятельной разработкой NVIDIA: это релиз на базе nvidia/DeepSeek-V4-Pro-0813-NVFP4 с дополнительно квантизированной головой DSpark для speculative decoding. Модель предназначена для коммерческого и некоммерческого использования. Модель представляет собой авторегрессионную Transformer-модель с архитектурой Mixture-of-Experts, гибридным вниманием Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Общее число параметров составляет около 1,65 трлн, из которых активируется около 49 млрд. Модель работает с текстом на входе и выходе, поддерживает многоходовые диалоги, системные инструкции, структурированный JSON, вызов функций и инструментов, а также выдачу рассуждений при включении соответствующего режима. Максимальная длина контекста — 1 млн токенов; предусмотрены уровни интенсивности рассуждений low, high и max. Языковой охват явно не указан. Модель ориентирована на сложное рассуждение, агентные приложения, использование инструментов, математику, разработку программного обеспечения и корпоративных AI-ассистентов. К сильным сторонам относятся большой контекст, высокая вычислительная ёмкость MoE, поддержка speculative decoding через DSpark и оптимизация под NVIDIA GPU. Ограничения включают зависимость от специализированной аппаратной и программной инфраструктуры: заявлена совместимость с NVIDIA Blackwell B200, Linux, SGLang и vLLM; характеристики работы на другой аппаратуре не указаны. Данные исходного обучения не раскрыты, а перед промышленным внедрением требуется дополнительное тестирование на прикладных данных. Модель распространяется по лицензии MIT. Указана версия NVIDIA Model Optimizer v0.47.0rc1; опубликованный релиз датирован 9 сентября 2026 года.

dolphin-2.9.1-llama-3-70b-GGUF — это квантизированная версия языковой модели Dolphin 2.9.1, созданной Cognitive Computations на базе Meta-Llama-3-70B. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для локального запуска через совместимые инструменты, включая llama.cpp. Модель ориентирована на генерацию текста в диалогах и выполнение инструкций, а также на задачи программирования, математические задачи, function calling и агентские сценарии. Для обучения использовались наборы Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math, Locutusque/function-calling-chatml и Agent-FLAN. Указанный шаблон запросов использует формат ChatML. Модель текстовая; сведения о поддерживаемых языках и размере контекста в README не приведены. Доступно множество вариантов квантизации от Q8_0 до IQ1_M, что позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. В README рекомендуются, в частности, варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS; более компактные варианты экономят память, но снижают качество. Лицензия указана как llama3. Для точных условий использования следует дополнительно учитывать лицензию базовой модели Meta-Llama-3-70B.

GDN-primed-HQwen3-8B-Reasoner — гибридная причинно-следственная языковая модель Amazon, созданная на основе Qwen3-8B с помощью конвейера Priming из Hybrid Model Factory. В архитектуре сочетаются 18 слоёв Attention и 18 слоёв Gated DeltaNet (GDN), слоя модели пространства состояний с постоянным размером состояния. Модель содержит около 7,6 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для рассуждений на длинном контексте, ответов на вопросы, математики, научных задач, программирования, следования инструкциям и вызова инструментов. Она поддерживает режимы с рассуждением и без него; режим рассуждения может повысить качество ответов на сложные запросы, но увеличивает задержку. Гибридная архитектура сокращает использование растущего KV-кэша и, по данным разработчика, может ускорить инференс на длинном контексте до двух раз при качестве, близком к базовой модели. Модель работает с текстом, имеет контекст 128K токенов в описании разработчика и доступна в формате safetensors для Transformers. Она основана на многоязычной Qwen3-8B, однако конкретный перечень поддерживаемых языков в карточке не приведён. Лицензия — Apache 2.0. Результаты на отдельных тестах различаются: например, показатель SciCode ниже базовой Qwen3-8B; для длинных генераций разработчик рекомендует настройки кэша float32.

cyankiwi/gemma-4-26B-A4B-it-AWQ-4bit — это 4-битно квантованная версия Gemma 4 26B A4B instruction-tuned, подготовленная cyankiwi на базе модели Google DeepMind. Квантование выполнено в формате AWQ, а калибровочный набор ориентирован на STEM-задачи и агентские сценарии. Размер модели составляет 17,19 ГБ. Модель предназначена для генерации текста, программирования, рассуждений, агентских рабочих процессов и мультимодального понимания изображений и текста. Архитектура базовой модели — Mixture-of-Experts; для варианта 26B A4B заявлено 26 млрд общих параметров и около 4 млрд активных параметров. Для средних моделей Gemma 4 заявлено контекстное окно до 256K токенов. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Ключевые преимущества — уменьшенное потребление памяти благодаря AWQ-квантованию, поддержка длинного контекста, мультимодальный ввод и возможности Gemma 4 в области рассуждений, кодирования и вызова функций. Ограничением является возможная потеря качества по сравнению с полной точностью, характерная для 4-битных квантованных моделей; конкретные требования к видеопамяти и результаты бенчмарков в README не указаны. Лицензия — Apache 2.0.

ente-ai/gemma-4-E4B-it-GGUF — квантизированная в формате GGUF instruction-tuned версия модели Gemma 4 E4B, разработанной Google DeepMind и опубликованной в виде сборки Unsloth. Модель относится к семейству открытых мультимодальных моделей Gemma 4 и предназначена для локального запуска, в том числе на ноутбуках и мобильных устройствах, а также для использования в Unsloth Studio и совместимых инструментах. Модель поддерживает обработку текста, изображений и аудио с генерацией текста, ориентирована на рассуждения, генерацию текста, программирование, мультимодальный анализ, агентские сценарии и вызов функций. Для E4B указаны около 4,5 млрд эффективных параметров и 8 млрд параметров с учётом эмбеддингов, 42 слоя, размер контекстного окна до 128K токенов и локальное окно внимания 512 токенов. Архитектура Gemma 4 использует гибридное внимание с чередованием локального sliding window attention и глобального внимания; заявлена поддержка более 140 языков, настраиваемых режимов рассуждения и системных промптов. К сильным сторонам относятся мультимодальность, большое контекстное окно, поддержка native function calling, возможности для кодирования и эффективного локального развертывания благодаря 4-битному GGUF-представлению. Ограничения включают зависимость качества и скорости от выбранного квантизированного варианта и аппаратного обеспечения; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии Apache 2.0, при этом для Gemma 4 также следует учитывать условия лицензии Google, доступные по указанной ссылке.

GigaChat 3.1 Lightning — компактная инструкционная языковая модель семейства GigaChat 3.1, разработанная ai-sage. Модель предназначена для быстрых мультиязычных ассистентских сценариев, рассуждений, генерации и анализа кода, вызова функций и продуктовых применений. Она доступна в формате FP8 и построена на архитектуре Mixture-of-Experts: содержит 10 млрд параметров, из которых 1,8 млрд активны во время инференса. Модель использует Multi-head Latent Attention (MLA) для сжатия KV-кэша и снижения потребления памяти, а также Multi-Token Prediction (MTP), поддерживающий ускоренное и параллельное декодирование. Заявлена поддержка русского и английского языков; базовый обучающий корпус охватывает 10 языков и включает тексты, научные материалы, код, математику и синтетические данные. В README не указана точная длина контекста и не заявлена поддержка мультимодальных входов, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся высокая скорость инференса, низкий активный вычислительный бюджет, эффективность FP8 и улучшенная производительность в длинноконтекстных сценариях. Модель ориентирована на задачи поиска и цитирования, интерпретации файлового кода, персонализации и агентских диалогов с инструментами. Ограничения включают зависимость качества и скорости от аппаратного обеспечения, реализации инференса и режима MTP, а также отсутствие в предоставленных данных подробных сведений о максимальном контексте и мультимодальности. Модель распространяется по лицензии MIT.

GigaChat 3.1 Lightning — компактная инструкционная модель семейства GigaChat 3.1, разработанная командой ai-sage. Она предназначена для быстрых многоязычных ассистентских сценариев, рассуждений, программирования, генерации текста, функционального вызова и продуктовых применений. Модель поддерживает русский и английский языки; обучающий корпус семейства охватывает 10 языков и включает книги, академические материалы, код, математику и синтетические данные. Модель использует архитектуру Mixture-of-Experts с 10 млрд общих и 1,8 млрд активных параметров. Multi-head Latent Attention (MLA) сжимает KV-кэш, снижая потребление памяти и повышая эффективность на длинных контекстах, а Multi-Token Prediction (MTP) может ускорять спекулятивное и параллельное декодирование. К сильным сторонам относятся высокая скорость инференса, поддержка инструментальных вызовов, кода и задач рассуждения, а также улучшенная устойчивость после DPO-обучения. Максимальный размер контекста в README не указан, поэтому возможности работы с конкретной длиной контекста требуют дополнительной проверки. Модель распространяется по лицензии MIT.

unsloth/GLM-4-32B-0414-GGUF — это квантизированная GGUF-версия языковой модели GLM-4-32B-0414, разработанной командой THUDM и подготовленной Unsloth для локального запуска. Модель относится к классу text-generation и предназначена для диалогов, следования инструкциям, генерации инженерного кода, создания интерактивных артефактов, function calling, поиска по документам и подготовки отчётов. Модель содержит 32 миллиарда параметров и обучалась на 15 триллионах единиц высококачественных данных, включая синтетические материалы для задач рассуждения. На этапе дообучения применялись выравнивание по человеческим предпочтениям, rejection sampling и reinforcement learning, что улучшило следование инструкциям, программирование и работу с агентскими сценариями. Заявлена поддержка китайского и английского языков. Мультимодальность и размер контекстного окна в карточке не указаны. Сильными сторонами модели являются развитые способности к генерации кода, function calling, ответам на вопросы с использованием поиска и созданию отчётов; авторы также заявляют сопоставимую с более крупными моделями производительность на отдельных тестах. GGUF ориентирован на удобное локальное развёртывание, в частности через llama.cpp; для корректной обработки системного промпта рекомендуется использовать параметр --jinja. Лицензия — MIT. Конкретный уровень квантизации, требования к аппаратным ресурсам и ограничения качества для отдельных сценариев в README не указаны.

GLM-4-9B-Chat — диалоговая языковая модель семейства GLM, выпущенная Zhipu AI. Репозиторий содержит версию в формате Transformers и safetensors; модель насчитывает 8,8 млрд параметров и рассчитана на генерацию текста в многораундовом чате. Модель подходит для ответов на вопросы, рассуждений, задач по математике и коду, а также для сценариев с вызовом инструментов и длинными документами. Заявленная длина контекста — до 128K токенов. Поддерживаются китайский и английский; автор также заявляет поддержку 26 языков. README сообщает о результатах тестов на задачах семантики, математики, рассуждений, кода и знаний, но не приводит полных данных для некоторых сравнительных таблиц. Это дообученная версия THUDM/glm-4-9b-chat. Для загрузки весов требуется transformers версии 4.46.0 или новее: репозиторий несовместим с более старыми версиями. Лицензия указана как other, поэтому условия использования следует уточнить в материалах репозитория.

Hermes 4 14B FP8 — языковая модель, разработанная Nous Research на базе Qwen3-14B и представленная в формате FP8. Она предназначена для диалоговых ассистентов, решения задач рассуждения, математики, программирования, STEM и логики, творческого письма, ролевого взаимодействия, а также для сценариев с function calling, использованием инструментов, JSON и структурированными ответами. В карточке указана поддержка английского языка. Модель использует гибридный режим рассуждения: при необходимости она может формировать сегменты <think>…</think>, а также работать в более быстром режиме без явного рассуждения. Hermes 4 обучалась на расширенном посттренировочном корпусе примерно из 5 миллионов образцов и 60 миллиардов токенов. Среди заявленных характеристик — улучшенное следование схемам и способность исправлять некорректные JSON-объекты, высокая управляемость, снижение необоснованных отказов и поддержка формата ChatML. Архитектурные подробности и размер контекстного окна в README не указаны. Сильные стороны модели — универсальность, качество рассуждений, работа с кодом и структурированными форматами, а также поддержка вызовов функций и инструментов. Ограничения включают отсутствие в предоставленных данных подробных сравнительных результатов, сведений о мультимодальности и подтверждённой поддержке языков, кроме английского. Модель распространяется по лицензии Apache-2.0.

genevaquant/Hermes-4-70B-u — дообученная модель genevaquant на базе NousResearch/Hermes-4-70B, построенная на плотной архитектуре Llama 3.1 с 69,5 млрд параметров. Она предназначена для диалогов и генерации текста, включая рассуждения, математику, программирование, задачи STEM и создание ответов в заданном формате; модель поддерживает контекст до 131 072 токенов. Модель использует формат чата Llama и поддерживает режим рассуждений, вызов инструментов и структурированный вывод, в том числе JSON по заданной схеме. В карточке указана лицензия Llama 3. Отдельных оценок качества именно этой версии genevaquant карточка не приводит; для работы требуются значительные вычислительные ресурсы, соответствующие модели на 70 млрд параметров.

Карточка модели aratadev/Llama-3.2-3B-Instruct на Hugging Face совпадает с карточкой unsloth/Llama-3.2-3B-Instruct, поэтому описание составлено по ней. unsloth/Llama-3.2-3B-Instruct — текстовая диалоговая модель семейства Llama 3.2, разработанного Meta и опубликованного Unsloth в виде модели на базе meta-llama/Llama-3.2-3B-Instruct. Это плотный авторегрессионный трансформер с архитектурой LlamaForCausalLM и примерно 3,2 млрд параметров; веса представлены в формате safetensors. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и предназначена для многоязычных диалогов. Модель подходит для генерации ответов, суммаризации, поиска знаний в диалоговых сценариях и построения приложений с вызовом инструментов. В карточке Unsloth также приведены ноутбуки для дообучения и экспорта моделей, но это описание относится к самому чекпойнту. README указывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; метаданные отдельно отмечают английский. Использование регулируется лицензией Llama 3.2 Community License — специальной коммерческой лицензией Meta.

unsloth/Llama-3.2-3B-Instruct — текстовая диалоговая модель семейства Llama 3.2, разработанного Meta и опубликованного Unsloth в виде модели на базе meta-llama/Llama-3.2-3B-Instruct. Это плотный авторегрессионный трансформер с архитектурой LlamaForCausalLM и примерно 3,2 млрд параметров; веса представлены в формате safetensors. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и предназначена для многоязычных диалогов. Модель подходит для генерации ответов, суммаризации, поиска знаний в диалоговых сценариях и построения приложений с вызовом инструментов. В карточке Unsloth также приведены ноутбуки для дообучения и экспорта моделей, но это описание относится к самому чекпойнту. README указывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; метаданные отдельно отмечают английский. Использование регулируется лицензией Llama 3.2 Community License — специальной коммерческой лицензией Meta.

Карточка модели Openintelligent123/Llama-3.3-70B-Instruct на Hugging Face совпадает с карточкой unsloth/Llama-3.3-70B-Instruct, поэтому описание составлено по ней. unsloth/Llama-3.3-70B-Instruct — инструктивная мультиязычная языковая модель Meta на архитектуре Llama 3.3, представленная в формате safetensors. Это авторегрессионный трансформер с 69,5 млрд параметров, обученный следовать инструкциям с помощью SFT и RLHF. Модель принимает и генерирует текст; поддерживает диалоговые сценарии и интерфейс вызова инструментов, который разработчики интегрируют самостоятельно. Контекст — до 131 072 токенов. Модель предназначена для чат-ассистентов и генерации текста, в том числе для коммерческого и исследовательского применения. README указывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Условия распространения определяются пользовательской лицензией Llama 3.3 Community License; перед использованием следует соблюдать её положения и Acceptable Use Policy. Модель статична и обучена на офлайн-данных; качество и безопасность ответов требуют проверки, а для неподдерживаемых языков разработчик рекомендует дообучение и дополнительные системные меры.

MiniMax-Text-01 — большая языковая модель компании MiniMax для диалогов и генерации текста. В README указаны 456 млрд параметров, из которых на каждом токене активируются 45,9 млрд; архитектура сочетает Lightning Attention, Softmax Attention и смесь экспертов MoE с 32 экспертами и маршрутизацией Top-2. Метаданные каталога при этом указывают 21,6 млрд параметров, поэтому размер модели в источниках расходится. Модель предназначена для диалоговых приложений, задач генерации текста и работы с длинными контекстами. README сообщает о контексте до 1 млн токенов при обучении и до 4 млн при инференсе, тогда как метаданные указывают нативное окно в 10 240 000 токенов. Поддерживаются вызов функций со структурированными JSON-параметрами и интеграция с форматом OpenAI-compatible; заявлены результаты на академических тестах и бенчмарках длинного контекста. README рекомендует vLLM для развёртывания и описывает доступ к модели через онлайн API и чат-бот. Условия лицензирования в предоставленных данных не указаны. Языки модели также не установлены по доступным сведениям.

grimjim/mistralai-Mistral-Nemo-Instruct-2407 — инструктивно дообученная языковая модель на базе Mistral Nemo, разработанной совместно Mistral AI и NVIDIA. Она предназначена для диалога, следования инструкциям, генерации текста и вызова инструментов. Модель использует плотную архитектуру Transformer семейства Mistral с 40 слоями, GQA и 12,1 млрд параметров; контекстное окно составляет 131 072 токена. Доступны веса в формате Safetensors. Модель рассчитана на многоязычные задачи, включая английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский; обучающие данные также включают код. Подходит для чат-ботов, помощников и генерации ответов по инструкциям. Выпускается по лицензии Apache 2.0. В карточке разработчика модель названа демонстрацией возможностей базовой модели; встроенных механизмов модерации нет.

Neuron-46x4B-Instruct — инструкция бойынша жауап беруге бапталған, Neura Tech AI әзірлеген сирек сарапшылар қоспасы (MoE) бар тілдік модель. Ол мәтін генерациясы мен диалогқа арналған. README 46 сарапшы, токенге шаққанда шамамен 8 млрд белсенді параметр және жалпы шамамен 125 млрд параметр барын мәлімдейді; метадеректерде модель көлемі 3,7 млрд параметр деп көрсетілген. Архитектурасы Qwen3 MoE, файлдары Safetensors форматында, ал контекст терезесі 262 144 токенге дейін. Модель код жазу мен түсіндіру, математикалық және көп қадамды пайымдау, көптілді әңгімелесу, аудару, құжаттарды талдау және құралдарды қолданатын агенттерге негіз болу сценарийлеріне арналған. Карточкада ағылшын, қытай, хинди, араб, жапон, корей, еуропалық тілдер, орыс және басқа тілдер аталған. Деректерде Neura-Tech-AI/Neuron-4B-Instruct және Qwen3-4B-Instruct-2507, Qwen3-4B-Thinking-2507 базалық модельдерімен merge байланысы көрсетілген; лицензиясы — Apache-2.0. Модель қате, толық емес немесе ойдан шығарылған жауап беруі мүмкін. Нәтижелерді, әсіресе қауіпсіздікке, құқыққа, қаржыға немесе медицинаға қатысты қолданар алдында тексеру керек; өнімділігі инференс ортасына, жабдыққа, квантизацияға және сұрау пішіміне тәуелді.

Qwen2.5-Coder-7B-Instruct — инструкционная версия каузальной языковой модели для работы с программным кодом, разработанная командой Qwen. Это дообученная версия Qwen/Qwen2.5-Coder-7B с архитектурой Qwen2 и 7,1 млрд параметров по метаданным. Модель принимает текстовые запросы и генерирует текст, включая код; поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для генерации, анализа и исправления кода, рассуждений о коде и создания кодовых агентов. README описывает архитектуру на базе Transformers с RoPE, SwiGLU и RMSNorm, а также контекст до 131 072 токенов при настройке YaRN для длинных входов. В конфигурации по умолчанию используется контекст 32 768 токенов. Для длинных контекстов масштабирование YaRN может снижать качество на коротких запросах. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers; README рекомендует актуальную версию библиотеки. Лицензия — Apache-2.0. Карточка подтверждает прежде всего английский язык; отдельный список поддерживаемых языков программирования и оценка качества именно этой instruct-версии здесь не приведены.

NVIDIA Qwen3-235B-A22B-Instruct-2507-NVFP4 — квантизированная версия языковой модели Qwen3-235B-A22B-Instruct-2507 от Alibaba, подготовленная с помощью TensorRT Model Optimizer. NVIDIA указывает, что модель не принадлежит и не разработана NVIDIA, а создана на основе сторонней модели для соответствующих сценариев применения. Модель предназначена для генерации текста и может использоваться в AI Agent системах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Это авторегрессионная текстовая модель с архитектурой Transformers и сетевой архитектурой Qwen3MoeForCausalLM. Она принимает текстовые строки и генерирует текст; число параметров не раскрыто. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Ключевое преимущество версии NVFP4 — квантизация весов и активаций линейных операторов внутри transformer-блоков с 16 до 4 бит, что примерно в 3,4 раза снижает требования к дисковому пространству и памяти GPU. Модель оптимизирована для инференса через TensorRT-LLM и систем на базе NVIDIA Blackwell, предпочтительно под Linux. Ограничения включают неизвестное количество параметров, отсутствие раскрытых сведений о тренировочных и тестовых данных, а также необходимость дополнительного тестирования на данных конкретного сценария. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование.

dnotitia/Qwen3-4B-Instruct-2507 — вариант Qwen3-4B, опубликованный Dnotitia с изменённым шаблоном чата; веса совпадают с официальным выпуском Qwen3. Шаблон вынесен в отдельный файл и дополнен тегами для совместимости с обучением через TRL и режимом assistant_only_loss. Модель имеет плотную причинную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и нативный контекст до 262 144 токенов. Модель предназначена для диалогов и генерации текста по инструкциям: она помогает отвечать на вопросы, рассуждать, решать математические и научные задачи, писать код и вызывать инструменты. Это режим без пошагового thinking-вывода; в карточке также заявлены улучшенное понимание длинного контекста и многоязычные знания. Для запуска рекомендуется актуальная версия Transformers, а для агентных сценариев — Qwen-Agent. Модель распространяется по лицензии Apache-2.0. Карточка не приводит конкретный список поддерживаемых языков, поэтому нельзя определить основной язык; качество может зависеть от языка, запроса и длины входного текста. Для обычных запросов авторы рекомендуют ограничивать генерацию примерно 16 384 токенами, хотя нативное окно контекста значительно длиннее.

Qwen3.5-9B-MTP-GGUF — GGUF-версия мультимодальной модели Qwen3.5-9B, разработанной командой Qwen и подготовленной Unsloth. Это причинная языковая модель с vision encoder, поддерживающая обработку текста и изображений. Модель предназначена для генерации текста, рассуждений, программирования, агентских сценариев, визуального понимания и вызова инструментов. Модель содержит около 9 млрд параметров, 32 слоя и гибридную архитектуру с Gated Delta Networks и разреженным Mixture-of-Experts; заявлены ранняя интеграция мультимодальных токенов и обучение с multi-step prediction (MTP). Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. MTP-режим со speculative decoding может ускорять генерацию примерно в 1,5–2 раза при использовании совместимой ветки llama.cpp. Сильные стороны модели — сочетание языковых и визуальных возможностей, большой контекст, поддержка инструментов и высокая скорость локального инференса в MTP-режиме. Ограничения включают необходимость специальной сборки llama.cpp для MTP; при таком запуске не поддерживаются параллелизм запросов через -np > 1 и параметр --mmproj. Доступна по лицензии Apache 2.0.

palmfuture/Qwen3.6-27B-GPTQ-Int4 — это GPTQ-квантизованная до Int4 версия открытой модели Qwen3.6-27B, разработанной командой Qwen и подготовленной пользователем palmfuture. Модель представляет собой каузальную языковую модель с визуальным энкодером и предназначена для генерации текста и кода, выполнения инструкций, математического рассуждения, анализа изображений, агентского программирования и работы с большими контекстами. Заявлена поддержка английского, тайского, китайского и других многоязычных сценариев. Исходная модель содержит около 27 млрд параметров, 64 слоя и гибридную архитектуру Gated DeltaNet/Mamba и gated attention, дополненную MTP для многотокенного предсказания и ускорения спекулятивного декодирования. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В данной версии основные линейные слои квантизованы в Int4 с uniform group_size=32, тогда как нормализации, эмбеддинги, языковая голова, визуальный энкодер и MTP-слои сохранены в формате bfloat16. Указана совместимость с Transformers, vLLM и SGLang; MTP-параметры проверены на vLLM 0.21.0. К преимуществам относятся существенное снижение требований к памяти по сравнению с полноразмерной версией, заявленная 100%-ная успешность GPTQ-квантизации без RTN fallback и сохранение поддержки мультимодального ввода. Ограничения включают возможное ухудшение качества из-за 4-битной квантизации, а также необходимость совместимого программного окружения и нескольких GPU для практического запуска; точные требования к инференсу в README не указаны. Лицензия — Apache-2.0.

cyankiwi/Qwen3.6-35B-A3B-AWQ-4bit — квантованная 4-битная версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. Модель распространяется в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. В карточке указано, что квантование выполнено с калибровкой на данных для STEM-задач и агентных сценариев. Это каузальная языковая модель с визуальным энкодером, предназначенная для работы с текстом и изображениями, включая программирование, фронтенд-разработку, рассуждения на уровне репозиториев и агентные рабочие процессы. Она поддерживает английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Заявлена длина контекста 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура основана на Mixture of Experts: всего 35 млрд параметров, из которых активируется около 3 млрд. Модель содержит 40 слоёв, 256 экспертов, 8 маршрутизируемых и 1 общего активируемого эксперта; в архитектуре используются Gated DeltaNet и Gated Attention. Размер файлов модели составляет около 24,97 ГБ. Потенциальные сильные стороны — высокая эффективность за счёт разреженной активации экспертов, большой контекст, мультимодальность и ориентация на кодинг и агентные задачи. Ограничения и точные требования к аппаратному обеспечению в README не указаны; результаты приведённых бенчмарков также представлены неполностью. Лицензия — Apache-2.0.