I.14Автоматизация процессов и AI-агенты

GLM-4.6-Flash-text — текстовая версия модели GLM-4.6V-Flash от zai-org, опубликованная в репозитории sartajbhuvaji. Из исходной мультимодальной модели удалена система обработки изображений; дообучение, дистилляция и переобучение не выполнялись. Текстовый путь сохранён побитово идентичным исходной модели, что подтверждено сравнением логитов на коротких и длинных последовательностях. Модель предназначена для генерации и обработки текста, включая ответы на вопросы, программирование, объяснение понятий, перевод и работу с длинным контекстом. Поддерживаются английский и китайский языки. Архитектура представляет собой декодер GLM-4: 40 слоёв, скрытое представление размерностью 4096, 32 головы внимания и 2 KV-головы с GQA, словарь на 151 552 токена и максимальная длина позиций 131 072 токена. Количество параметров составляет около 9,4 млрд, размер BF16-весов — около 18,8 ГБ. Доступны также варианты GGUF с квантованием Q8_0, Q6_K, Q5_K_M и Q4_K_M. Главное преимущество — сохранение качества текстовой части исходной модели при уменьшении размера весов и снижении требований к памяти при серверном запуске. В описанном сценарии vLLM на A100-SXM4-40GB модель обеспечивала больше доступной KV-кэш-памяти, более высокую максимальную параллельность и существенно более быструю инициализацию по сравнению с исходной мультимодальной конфигурацией. Ограничение модели — отсутствие поддержки изображений и других мультимодальных входов; она предназначена только для текста. Лицензия — MIT.

GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.

Granite-4.0-H-350M — компактная инструктивная языковая модель команды Granite компании IBM, дообученная на основе ibm-granite/granite-4.0-h-350m-base с применением контролируемого дообучения, обучения с подкреплением и слияния моделей. Это плотная decoder-only архитектура GraniteMoeHybrid с GQA, Mamba2, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами; модель содержит 278,4 млн параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов, локального и периферийного развёртывания, исследовательских сценариев и дообучения под специализированные задачи. Она умеет суммировать и извлекать текст, классифицировать, отвечать на вопросы, поддерживать RAG, выполнять задачи с кодом и вызовом функций, включая дополнение кода FIM. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Компактный размер упрощает запуск на устройствах и адаптацию под узкие задачи. При этом качество на языках помимо английского может быть ниже; ответы также могут содержать ошибки, предвзятость или небезопасный контент. Лицензия — Apache 2.0.

unsloth/Qwen2.5-14B-Instruct-unsloth-bnb-4bit — это 4-битная квантованная версия инструкционно дообученной языковой модели Qwen2.5-14B-Instruct. Базовую модель разработала команда Qwen, а квантованный вариант подготовлен Unsloth. Модель предназначена для диалогов, выполнения инструкций, генерации текста, работы со структурированными данными и JSON, а также для задач программирования и математики. Модель относится к классу causal language models и содержит около 14 миллиардов параметров. Для семейства Qwen2.5 заявлена поддержка контекста до 128 тысяч токенов и генерации до 8 тысяч токенов. Поддерживаются китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие языки — всего более 29 языков. Мультимодальные возможности для этой модели не заявлены. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битному формату, при этом Unsloth заявляет улучшение точности по сравнению со стандартным 4-битным квантованием за счёт выборочной квантовки. Ограничения включают потенциальные потери точности, характерные для квантованных моделей, а также обычные для больших языковых моделей риски фактических ошибок и нестабильности результатов; конкретные показатели качества в README не приведены. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-3B-Instruct-AWQ — инструкционно дообученная причинная языковая модель из семейства Qwen2.5, разработанная командой Qwen; в примере README также указано, что Qwen создан Alibaba Cloud. Модель предназначена для диалоговых ассистентов, генерации и обработки текста, следования инструкциям, работы со структурированными данными и JSON, а также задач программирования и математики. Модель содержит около 3,09 млрд параметров, из которых 2,77 млрд не относятся к эмбеддингам, и включает 36 слоёв. Архитектура основана на Transformers и использует RoPE, SwiGLU, RMSNorm, смещения в Attention QKV и связанные эмбеддинги слов. Применяется GQA с 16 головами для Q и 2 для KV. Контекст составляет до 32 768 токенов, длина генерации — до 8 192 токенов. Это текстовая модель без заявленной поддержки изображений или других модальностей; семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и другие. Ключевое преимущество версии AWQ — 4-битное квантование, позволяющее снизить требования к памяти и сделать развёртывание компактнее по сравнению с полноточной версией, при этом возможна потеря качества относительно исходной модели. Для работы рекомендуется использовать актуальную версию библиотеки Transformers и совместимые инструменты AWQ. В README указана лицензия qwen-research; точные условия следует проверять в файле лицензии репозитория.

Qwen3-4B-MLX-4bit — это компактная 4-билионная причинная языковая модель семейства Qwen3, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, решения математических и логических задач, программирования, перевода и сценариев с использованием внешних инструментов. Она поддерживает переключение между режимом рассуждения для сложных задач и нережимом рассуждения для более быстрой работы в рамках одной модели. Модель содержит 4,0 млрд параметров, из которых 3,6 млрд не относятся к embedding-слою, и включает 36 слоёв. Используется Grouped Query Attention с 32 головами запросов и 8 головами ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Модель поддерживает более 100 языков и диалектов, ориентирована на многоязычные инструкции и перевод. Формат MLX и 4-битное квантование делают её подходящей для эффективного запуска в экосистеме MLX. Сильными сторонами являются сочетание рассуждения и быстрого диалогового режима, развитые возможности следования инструкциям, многоязычность, программирование и интеграция с инструментами. Ограничения включают текстовую специализацию без заявленной поддержки других модальностей, зависимость длинного контекста от YaRN и необходимость подбора параметров генерации: для режима рассуждения рекомендуется не использовать жадное декодирование. В README указана лицензия Apache-2.0.

Qwen3.5-4B-f32-GGUF — это набор GGUF-файлов с версиями модели Qwen3.5-4B, разработанной командой Alibaba Qwen и представленной в репозитории prithivMLmods. Модель представляет собой плотную мультимодальную causal language model примерно с 4 млрд параметров и встроенным vision-энкодером. Она предназначена для генерации и понимания текста, анализа изображений и видео, OCR, решения математических задач, программирования и агентских сценариев. Архитектура включает 32 слоя с гибридной схемой Gated DeltaNet и Gated Attention, размером скрытого состояния 2560 и словарём на 248 тысяч токенов для 201 языка. Заявлена поддержка контекста до 262 тысяч токенов с возможностью расширения свыше 1 млн токенов, а также переключаемый режим рассуждений для выбора между более глубоким анализом и быстрой генерацией. В комплект входят варианты BF16, F16, F32, Q8_0 и отдельные мультимодальные проекционные файлы mmproj; размеры файлов варьируются примерно от 367 МБ до 16,8 ГБ. К сильным сторонам относятся мультимодальность без необходимости в отдельном VL-компоненте, большой контекст, многоязычность и возможность запуска на ограниченных ресурсах: в README указано около 8 ГБ VRAM для BF16 и примерно 3 ГБ для 4-битной версии. К ограничениям относятся различия в качестве и размере квантованных вариантов, а также компромисс между скоростью и качеством рассуждений. Модель распространяется по лицензии Apache 2.0.

Qwen3-8B-GGUF — квантизированная версия причинной языковой модели Qwen3-8B, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для локального запуска в формате GGUF через llama.cpp, Ollama и совместимые инструменты генерации текста. Модель подходит для диалогов, следования инструкциям, генерации и анализа кода, математического и логического рассуждения, творческого письма, ролевого взаимодействия, перевода и многоязычных задач. Она поддерживает переключение между режимом рассуждения для сложных задач и нережимом рассуждения для более быстрых ответов, а также сценарии взаимодействия с внешними инструментами и агентами. Заявлена поддержка более 100 языков и диалектов. Qwen3-8B содержит 8,2 млрд параметров, 36 слоёв и использует Grouped Query Attention с 32 головами Q и 8 головами KV. Нативная длина контекста составляет 32 768 токенов; с масштабированием YaRN заявлена работа до 131 072 токенов. Доступны варианты квантизации q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Квантизация облегчает локальный запуск, но может снижать качество по сравнению с полной версией; использование YaRN на коротких текстах также способно ухудшать производительность. Модель распространяется по лицензии Apache-2.0. README не содержит точных требований к аппаратному обеспечению и подробных результатов бенчмарков, поэтому фактическая скорость и требуемый объём памяти зависят от выбранного варианта квантизации и используемого оборудования.

unsloth/Qwen3-8B-GGUF — версия языковой модели Qwen3-8B, подготовленная Unsloth в формате GGUF на базе Qwen/Qwen3-8B. Qwen разработана Alibaba Cloud. Модель предназначена для диалоговых приложений, следования инструкциям, генерации текста и кода, математического и логического рассуждения, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с использованием внешних инструментов. Это каузальная языковая модель с 8,2 млрд параметров, из которых 6,95 млрд приходятся не на embedding-слои. Архитектура включает 36 слоёв и Grouped-Query Attention с 32 головами для Q и 8 для KV. Поддерживаются режимы «мышления» и «без мышления», между которыми можно переключаться в запросах. Нативная длина контекста составляет 32 768 токенов, а с YaRN — до 131 072 токенов. Заявлена поддержка более 100 языков и диалектов; в метаданных README отдельно указан английский язык. Сильными сторонами являются рассуждение, следование инструкциям, многоязычность, генерация кода и поддержка агентских задач, а также возможность выбирать между качеством рассуждения и скоростью ответа. Ограничения включают отсутствие в предоставленных данных подробностей о фактической производительности, требованиях к оборудованию и поддерживаемых инструментах запуска. Модель распространяется по лицензии Apache-2.0.

Qwen-72B-Chat — диалоговая языковая модель Alibaba Cloud, созданная на основе Qwen-72B с применением методов выравнивания. Это плотная Transformer-модель семейства Qwen с 119,4 млрд параметров и контекстом до 32 768 токенов; в репозитории представлены веса Safetensors. Модель предназначена для многошагового диалога и генерации текста по системным инструкциям. Она подходит для ответов на вопросы, ролевого общения и смены стиля, а также для рассуждений, перевода, математических задач и генерации кода. В описании заявлена поддержка китайского, английского и других языков; обучение включало веб-тексты, книги, код и математические данные. Для запуска в BF16/FP16 требуется не менее 144 ГБ видеопамяти, для Int4 — не менее 48 ГБ. В README приведены результаты бенчмарков, но они не гарантируют качество на конкретных пользовательских задачах. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

MaziyarPanahi/calme-2.2-llama3.1-70b — языковая модель, дообученная Maziyar Panahi на базе Meta Llama 3.1 70B Instruct. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, рассчитанная на генерацию текста и диалог в формате ChatML. Заявленная длина контекста — 131 072 токена; модель работает через библиотеку Transformers и распространяется в формате safetensors. Модель предназначена для ответов на вопросы, чат-ботов и виртуальных помощников, создания и суммаризации текстов, генерации и анализа кода, а также решения сложных задач. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но они не гарантируют качество в конкретном приложении. Указанный в метаданных датасет дообучения — MaziyarPanahi/truthy-dpo-v0.1-axolotl. README предупреждает о возможных смещениях и ограничениях больших языковых моделей и рекомендует применять защитные меры и проверку человеком. Лицензия в предоставленных данных не указана.

Gemma 4 26B A4B IT QAT GGUF — это мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате GGUF пользователем prithivMLmods. Она основана на разреженной Mixture-of-Experts архитектуре: содержит около 25,2 млрд параметров, из которых при генерации активны примерно 3,8 млрд. Модель поддерживает текст и изображения, но не аудио, и предназначена для диалогов, анализа изображений, OCR, анализа кадров видео, генерации текста и кода, вызова функций и задач, требующих рассуждений. Доступен настраиваемый режим reasoning. Модель использует около 550 млн параметров в vision encoder, контекстное окно до 256K токенов, скользящее окно 1024 токена и словарь примерно из 262 тысяч токенов для более чем 140 языков. Quantization-Aware Training помогает сохранить качество, близкое к bfloat16, при меньших требованиях к памяти. Репозиторий предоставляет варианты GGUF с квантованием от Q2_K до Q8_0, а также BF16, F16 и F32; размеры файлов составляют примерно от 10,6 до 101 ГБ, поэтому практическое использование зависит от доступной памяти и аппаратных ресурсов. К ограничениям относятся отсутствие аудиомодальности, высокие требования к ресурсам для полноразмерных вариантов и зависимость качества от выбранного уровня квантования. Лицензия — Apache 2.0.

Google DeepMind Gemma 4 26B A4B IT QAT Q4_0 Unquantized — мультимодальная instruction-tuned модель семейства Gemma 4, связанная с базовой моделью google/gemma-4-26B-A4B-it. Это контрольная точка QAT: веса извлечены из конвейера обучения с учётом квантования, но сами хранятся в формате safetensors; вариант предназначен для последующей компиляции и исследований. Лицензия — Apache 2.0. Модель принимает текст и изображения и выдаёт текст. Она подходит для диалогов, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания текста на изображениях и вызова инструментов. Для варианта 26B A4B в карточке семейства заявлено контекстное окно до 256K токенов; аудиовозможности относятся только к меньшим моделям семейства. QAT-обучение нацелено на сохранение качества, близкого к bfloat16, при снижении требований к памяти в соответствующих вариантах квантованных контрольных точек. Этот репозиторий содержит unquantized QAT-веса, поэтому сам по себе не является готовым GGUF или мобильным квантованным вариантом. Карточка описывает возможности семейства в целом; отдельные показатели качества для этого чекпойнта не приведены.

Карточка модели alekshandru/gemma-4-E4B на Hugging Face совпадает с карточкой google/gemma-4-E4B, поэтому описание составлено по ней. Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

Карточка модели ltntxj-123/gemma-4-E4B на Hugging Face совпадает с карточкой google/gemma-4-E4B, поэтому описание составлено по ней. Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

Карточка модели Openintelligent123/gemma-4-E4B на Hugging Face совпадает с карточкой google/gemma-4-E4B, поэтому описание составлено по ней. Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

Карточка модели OsGo/gemma-4-E4B-it-qat-q4_0-unquantized на Hugging Face совпадает с карточкой google/gemma-4-E4B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Gemma 4 E4B IT QAT Unquantized — мультимодальная модель Google DeepMind с открытыми весами, полученная дообучением Gemma 4 E4B Instruct с применением обучения с учётом квантования (QAT). Репозиторий содержит веса safetensors в половинной точности, извлечённые из QAT-конвейера; эта версия предназначена для собственной компиляции и исследований. Лицензия — Apache 2.0. Модель принимает текст и изображения и генерирует текст. Семейство поддерживает контекст до 128 тысяч токенов для E4B и более 140 языков в обучающих данных; в README заявлена поддержка более 35 языков. Возможности включают диалог, рассуждения, программирование, распознавание речи, перевод речи в текст, понимание изображений и видео, OCR, разбор документов и вызов инструментов. Архитектура — плотная Gemma 4 для условной генерации. QAT ориентирован на снижение требований к памяти при сохранении качества, близкого к bfloat16, однако конкретный репозиторий содержит не готовую к обычному запуску квантованную сборку, а веса половинной точности для последующей компиляции. Аудио указано для E4B, но конкретный формат входов зависит от используемого конвейера.

Карточка модели scottc2u/gemma-4-E4B-x на Hugging Face совпадает с карточкой google/gemma-4-E4B, поэтому описание составлено по ней. Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

Карточка модели CandyBuster/GLM-5.2 на Hugging Face совпадает с карточкой Ares-Realm-Studios/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.

Карточка модели rector89/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели sanjum2/GLM-5.2-Own на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели unsloth/granite-3.2-2b-instruct на Hugging Face совпадает с карточкой ibm-granite/granite-3.2-8b-instruct, поэтому описание составлено по ней. Granite-3.2-8B-Instruct — плотная языковая модель IBM Granite Team с 8,2 млрд параметров, дообученная на базе ibm-granite/granite-3.1-8b-instruct для выполнения инструкций и задач рассуждения. Модель поддерживает управляемый режим рассуждения, который можно включать по необходимости, и работает через библиотеку Transformers; доступны веса в формате safetensors. Модель предназначена для диалоговых помощников и общих прикладных сценариев: суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Контекст — до 131 072 токенов, что подходит для анализа длинных документов и стенограмм. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель распространяется по лицензии Apache 2.0. README указывает, что к ней применимы этические ограничения и ограничения Granite-3.1-8B-Instruct; конкретные ограничения в карточке не перечислены.

Neuron-6x4B-Instruct — мультиязычная языковая модель с открытыми весами от Neura Tech AI для диалогов и выполнения инструкций. Она использует декодерный трансформер с разреженной архитектурой Mixture of Experts семейства Qwen3: шесть экспертов и динамическая маршрутизация токенов. В README заявлено около 24 млрд параметров всего и около 4 млрд активных на токен; метаданные указывают 3,7 млрд параметров. Контекст — до 262 144 токенов. Модель предназначена для общения, генерации и анализа текста, многошаговых рассуждений, помощи с программированием и математикой, перевода, работы с длинными документами и агентных сценариев. В карточке заявлена поддержка множества языков, включая русский, английский, китайский, хинди, арабский, японский и другие. Метаданные отмечают возможности чата и следования инструкциям; README также заявляет готовность к вызову инструментов. Бенчмарки в README ещё не опубликованы, поэтому качество заявленных возможностей независимо не подтверждено. Модель объединена на основе Neura-Tech-AI/Neuron-4B-Instruct, Qwen/Qwen3-4B-Instruct-2507 и Qwen/Qwen3-4B-Thinking-2507. Указанная лицензия — Apache-2.0.

TeichAI/Qwen3-14B-Claude-4.5-Opus-High-Reasoning-Distill — плотная языковая модель на 14 млрд параметров, дообученная TeichAI на наборе примеров рассуждений Claude Opus 4.5 с высоким уровнем reasoning. Она основана на unsloth/Qwen3-14B и предназначена для генерации текста в диалогах, задач программирования, науки и общего назначения. Модель принимает текст и генерирует текст; заявленный контекст составляет 40 960 токенов. В карточке не указаны поддерживаемые естественные языки. Модель опубликована в формате safetensors, поддерживает чат и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Eslzzyl/Qwen3-4B-Instruct-2507-AWQ — квантованная версия instruct-модели Qwen3-4B-Instruct-2507, разработанной командой Qwen и опубликованной пользователем Eslzzyl. Модель предназначена для генерации текста, диалогов и выполнения инструкций, включая задачи логического рассуждения, понимания текста, математики, науки, программирования, использования инструментов и агентских сценариев. Это каузальная языковая модель примерно с 4 млрд параметров, из которых 3,6 млрд не относятся к embedding-слою. Она содержит 36 слоёв и использует Grouped-Query Attention с 32 головами Q и 8 головами KV. Поддерживает контекст до 262 144 токенов, работает только в non-thinking-режиме и не формирует блоки <think></think>. Модель ориентирована на многоязычные задачи и показывает улучшения в следовании инструкциям, открытой генерации, знаниях, рассуждениях, кодировании и tool calling. Версия AWQ квантизована с помощью AutoAWQ, что может снизить требования к памяти и облегчить развёртывание. Она совместима с NVIDIA Turing GPU с SM 75 и может использоваться через lmdeploy; для исходной модели также указана поддержка современных Transformers, vLLM и SGLang. Ограничениями являются отсутствие режима пошагового рассуждения и потенциально высокие требования к памяти при максимальном контексте, которые можно уменьшить сокращением длины контекста. Лицензия — Apache 2.0.

TelperionAI/Qwen3.8-27B-INT4-AWQ-GPTQ-gdn4 — квантизированная версия языковой модели Qwen3.8-27B, разработанная TelperionAI на базе модели Qwen/Qwen3.8-27B. Она предназначена для локального и серверного запуска больших языковых моделей, включая генерацию текста, рассуждения, работу с кодом, математическими и STEM-задачами, чат-сценарии и мультиязычные запросы. Модель рассчитана на использование через Transformers и vLLM; README отдельно указывает поддержку speculative decoding с MTP. Это смешанная квантизация INT4 W4A16 с группами размера 32 и асимметричным представлением весов. Для большинства MLP-проекций и GDN-линейных проекций используется INT4, часть слоёв MLP и все проекции self-attention хранятся в INT8, а lm_head, embed_tokens, нормализации, параметры состояния GDN, vision tower и MTP-head — в BF16. Квантизация выполнена в два этапа: AWQ с учетом активаций и последующая GPTQ-компенсация ошибок. Размер модели составляет около 22,6 ГБ; для работы требуется GPU с Compute Capability не ниже 7.5, то есть поддерживаются устройства уровня Turing и новее. Сильная сторона модели — удачный баланс размера и точности: по приведённым тестам она ближе к исходной BF16-модели, чем некоторые сопоставимые INT4-варианты, при заметно меньшем объёме, чем FP8-релиз. При этом переход GDN-проекций на INT4 немного снижает точность по сравнению с более крупной версией модели с GDN в INT8, а производительность зависит от GPU и реализации Marlin; измерения на B300 не следует напрямую переносить на Ampere. Модель распространяется по лицензии Apache-2.0.

SwissNeuron — мультимодальная модель на 27,36 млрд параметров, разработанная SwissNeuron на базе Qwen3.8-27B. Это дообученная модель с гибридной архитектурой Qwen3.8: 64 языковых слоя, включая 48 слоёв Gated-DeltaNet и 16 слоёв полного внимания. Выпущена в формате BF16 и поддерживает диалог, анализ изображений, рассуждения и программирование; сохранены мультимодальный процессор, токенизатор и шаблон чата базовой модели. Модель предназначена для технических вопросов, написания и анализа кода, многошаговых рассуждений и диалогов с изображениями. Конфигурация расширяет контекст с исходных 262 144 до 1 048 576 токенов посредством YaRN с коэффициентом 4; отдельного этапа адаптации на контекст в миллион токенов не проводилось, поэтому качество на предельной длине требует проверки. Доступны режимы с рассуждениями и без них. Лицензия указана как other; условия следует проверять в карточке модели и у разработчика. Для запуска полной версии BF16 требуется значительный объём памяти ускорителя. Авторы также рекомендуют проверять ответы и совместимость с используемым сервером и шаблоном чата.

airoboros-m-7b-3.1.2 — экспериментальная языковая модель jondurbin для диалогов и выполнения инструкций. Она основана на архитектуре Mistral с плотной причинно-языковой моделью на 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель обучена преимущественно на синтетических данных набора airoboros-3.1 и использует формат чата Llama 2. Модель подходит для ответов на вопросы по заданному контексту, суммаризации, следования многошаговым инструкциям, генерации кода и структурированных ответов. В набор обучения также входили математические задачи с выдачей MathJSON, извлечение сведений из логов и анонимизация текста. Разработчик отмечает, что модель особенно ориентирована на выполнение инструкций, а не на непринуждённый чат или ролевую игру. В README модель названа экспериментальной; для MathJSON рекомендуется низкая температура, а формат чата важно настроить корректно. Репозиторий распространяется по лицензии Apache-2.0.

Calcium-Opus-14B-Elite — диалоговая языковая модель prithivMLmods, дообученная на базе Qwen/Qwen2.5-14B-Instruct. Это плотная архитектура Qwen2 с 14 млрд параметров, рассчитанная на генерацию текста, следование инструкциям и многошаговые рассуждения, включая решение математических задач и работу с кодом. Модель принимает текст и выдаёт текст; заявлена поддержка контекста до 131 072 токенов и генерации ответов длиной до 8 000 токенов. В README заявлена поддержка более 29 языков, в том числе английского, русского, китайского, французского, испанского, немецкого, японского и арабского. Карточка описывает улучшенное следование инструкциям, анализ таблиц и JSON, а также генерацию структурированных ответов. Модель доступна в формате Safetensors и использует библиотеку Transformers. Модель подходит для диалоговых помощников, объяснения решений, математических задач, генерации и отладки кода, а также обработки структурированных данных. Качество может различаться между языками; длинные ответы могут содержать ошибки или повторы, а актуальность знаний ограничена данными обучения. В README также отмечены высокие требования к вычислительным ресурсам, особенно при длинном контексте. Лицензия — Apache-2.0.

calme-2.2-qwen2.5-72b — плотная языковая модель MaziyarPanahi, дообученная на основе Qwen2.5-72B-Instruct. Она предназначена для диалогов и генерации текста: ответов на вопросы, работы виртуальных помощников, создания и суммаризации текстов, генерации и анализа кода, а также решения сложных задач. Модель содержит 71,5 млрд параметров, использует архитектуру Qwen2ForCausalLM и формат весов safetensors; для общения применяется шаблон ChatML. Контекст составляет до 32 768 токенов. В метаданных указан английский язык; README описывает широкие языковые сценарии, но не подтверждает поддержку конкретных дополнительных языков. README приводит результаты Open LLM Leaderboard, в том числе 84,77 по IFEval и 61,80 по BBH; оценки относятся к указанным настройкам тестирования и не гарантируют качество в конкретном применении. Известные ограничения — возможные предвзятость и ошибки, поэтому при внедрении важны проверка ответов и человеческий контроль. Лицензия обозначена как other, без уточнения конкретных условий в предоставленных данных.