I.14Автоматизация процессов и AI-агенты

Карточка модели mbdk0/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели OsGo/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

trohrbaugh/gemma-4-E4B-it-heretic-ara — мультимодальная модель семейства Gemma 4, основанная на Google Gemma 4 E4B-it. Автор репозитория описывает её как версию heretic/abliterated, однако подробностей о процедуре изменения или её влиянии на поведение не приводит. Веса размещены в формате Safetensors; лицензия — Apache-2.0. Модель предназначена для диалога и генерации текста, рассуждений, программирования и агентных сценариев с вызовом инструментов, а также для понимания изображений, видео и аудио. Она может извлекать текст из документов и изображений, распознавать речь и переводить речь в текст; README указывает окно контекста до 128 тыс. токенов для E4B и поддержку более 35 языков. Архитектура Gemma 4 использует чередование локального скользящего и глобального внимания. Карточка сообщает, что веса аудио- и визуальных компонентов в более ранней загрузке были повреждены, а исправленные файлы добавлены 2 мая 2026 года; для корректной работы этих модальностей требуется актуальная версия репозитория. Как и другие генеративные модели, она может ошибаться в фактах, терять языковые нюансы и хуже справляться со сложными или неоднозначно заданными задачами.

Granite-4.0-350M — компактная инструктивная языковая модель команды Granite компании IBM, дообученная на базе ibm-granite/granite-4.0-350m-base с помощью supervised fine-tuning, обучения с подкреплением и слияния моделей. Она использует архитектуру decoder-only dense Transformer; в метаданных указано 352,3 млн параметров и контекст до 32 768 токенов. Модель предназначена для диалогов, локального запуска на устройствах и дообучения под специализированные задачи с умеренными вычислительными ресурсами. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова инструментов. Она поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Лицензия — Apache 2.0. Качество на языках, кроме английского, может быть ниже; модель также может выдавать неточные, предвзятые или небезопасные ответы, поэтому перед применением в конкретной задаче её следует оценить и настроить.

RedHatAI/Mistral-Small-3.1-24B-Instruct-2503-FP8-dynamic — мультимодальная instruction-модель, разработанная Red Hat совместно с Neural Magic на базе Mistral-Small-3.1-24B-Instruct-2503 от Mistral AI. Архитектура Mistral3ForConditionalGeneration принимает текст и изображения, а генерирует текст. Заявлены поддержка 27 языков, включая русский, английский, французский, немецкий, испанский, китайский и японский, а также задачи text-to-text и image-text-to-text. Модель предназначена для быстрых диалоговых агентов, вызова функций с низкой задержкой, программирования, математического рассуждения, анализа длинных документов и визуального понимания. Она также подходит для дообучения под предметные области и локального развертывания, в том числе в сценариях с чувствительными данными. Размер модели составляет 24 млрд параметров; README не указывает точное максимальное окно контекста. Модель оптимизирована с помощью FP8-квантизации весов и активаций: это примерно вдвое снижает требования к памяти GPU и размер диска, а также может примерно вдвое повысить пропускную способность матричных вычислений по сравнению с FP16. Для весов используется статическая симметричная поканальная квантизация, для активаций — динамическая симметричная потокенная квантизация; квантизуются линейные операторы внутри трансформерных блоков. Ограничения включают необходимость соблюдать законодательство и официально поддерживаемые языки. Модель распространяется по лицензии Apache-2.0.

unsloth/Mistral-Small-3.2-24B-Instruct-2506-GGUF — это GGUF-квантизированная версия мультимодальной инструкционной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной Mistral AI и опубликованной в формате GGUF командой Unsloth. Модель предназначена для диалоговых приложений, выполнения инструкций, анализа изображений и текста, программирования, STEM-задач, обработки документов и вызова функций или инструментов. Модель содержит 24 млрд параметров, поддерживает текстовые и визуальные входные данные, а также языки English, French, German, Spanish, Portuguese, Italian, Japanese, Korean, Russian, Chinese, Arabic, Persian, Indonesian, Malay, Nepali, Polish, Romanian, Serbian, Swedish, Turkish, Ukrainian, Vietnamese, Hindi и Bengali. Заявленная длина контекста — до 128K токенов. По сравнению с Mistral-Small-3.1 улучшены следование точным инструкциям, устойчивость к повторяющимся или бесконечным генерациям и надёжность function calling. GGUF-версия включает исправления chat template; для llama.cpp рекомендуется включать режим Jinja. Сильные стороны модели — широкий языковой охват, поддержка зрения, длинный контекст, улучшенные результаты в instruction following, программировании и вызове функций. В опубликованных тестах отдельные показатели зрения немного ниже, чем у версии 3.1, поэтому качество зависит от конкретного типа визуальной задачи. Для запуска требуются совместимые GGUF-инструменты, например llama.cpp или Ollama; рекомендуется низкая температура около 0,15. Модель распространяется по лицензии Apache-2.0.

Карточка модели aertsimon90/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

unsloth/Qwen2.5-7B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Qwen2.5-7B, подготовленная Unsloth на основе Qwen/Qwen2.5-7B-Instruct. Это каузальная текстовая модель для диалогов, следования инструкциям, генерации связных текстов, работы со структурированными данными и JSON, программирования и математических задач. Модель содержит 7,61 млрд параметров, из которых 6,53 млрд — без учёта эмбеддингов, и имеет 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm и GQA с 28 головами для Q и 4 для KV. Поддерживается контекст до 131 072 токенов и генерация до 8192 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество версии — 4-битное квантование, позволяющее снизить требования к памяти и упростить локальный запуск, однако квантование может влиять на точность по сравнению с полноточной моделью. Модель рассчитана на текстовые сценарии и не предназначена для обработки изображений или других модальностей. Лицензия — Apache-2.0.

unsloth/Qwen3-30B-A3B-GGUF — GGUF-версия модели Qwen3-30B-A3B, разработанной командой Qwen компании Alibaba Cloud и подготовленной Unsloth. Это причинная языковая модель архитектуры Mixture-of-Experts (MoE), предназначенная для диалогов, следования инструкциям, генерации текста и кода, математического и логического рассуждения, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с использованием внешних инструментов. Модель поддерживает переключение между режимами рассуждения и быстрого ответа с помощью инструкций /think и /no_think. Она обучалась на этапах предварительного обучения и постобучения, содержит 30,5 млрд параметров, из которых активируется 3,3 млрд, 48 слоёв, 128 экспертов и 8 активируемых экспертов. Использует GQA с 32 головами для Q и 4 для KV. Нативная длина контекста составляет 32 768 токенов, а с YaRN заявлена поддержка до 131 072 токенов. Модель ориентирована более чем на 100 языков и диалектов; в метаданных README отдельно указан английский язык. К сильным сторонам относятся сочетание качества рассуждений и экономичности MoE-архитектуры, поддержка многоязычного следования инструкциям, широкий спектр прикладных задач и возможность запуска в GGUF-совместимых инструментах, включая llama.cpp и Ollama. Ограничения включают зависимость характеристик от конкретной GGUF-квантизации и программного окружения; точные параметры квантизации, требования к памяти и результаты бенчмарков в предоставленном README не указаны. Лицензия — Apache-2.0.

Qwen3-4B-GGUF — квантизированная версия языковой модели Qwen3-4B, разработанная командой Qwen компании Alibaba Cloud. Это авторегрессионная causal language model для генерации текста, диалогов, следования инструкциям, рассуждений, математических и программных задач, творческого письма, ролевого взаимодействия, перевода и сценариев с использованием внешних инструментов. Модель поддерживает более 100 языков и диалектов, включая мультиязычное следование инструкциям и перевод. Модель содержит 4,0 млрд параметров, из которых 3,6 млрд не относятся к embedding, и включает 36 слоёв. Используется Grouped-Query Attention с 32 головами для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов; с применением RoPE-масштабирования YaRN заявлена поддержка до 131 072 токенов. Доступны варианты квантизации q4_K_M, q5_0, q5_K_M, q6_K и q8_0 в формате GGUF, ориентированные на локальный запуск, в частности через llama.cpp и Ollama. Ключевая особенность Qwen3 — переключение между режимами thinking для сложных задач рассуждения и non-thinking для более эффективного общего диалога в рамках одной модели. Модель также заявлена как пригодная для агентских задач и интеграции с внешними инструментами. Ограничения включают возможное снижение качества на коротких текстах при использовании статического YaRN, а для квантизированных вариантов рекомендуется настраивать presence penalty для уменьшения повторов. Модель распространяется по лицензии Apache-2.0.

JunHowie/Qwen3-8B-GPTQ-Int8 — это квантизированная версия языковой модели Qwen3-8B, основанной на семействе Qwen, разработанном командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений, математических и программных задач, многоязычного общения, перевода и сценариев с интеграцией внешних инструментов. Она поддерживает более 100 языков и диалектов, а также переключение между режимами рассуждения и обычной генерации. В основе лежит каузальная языковая модель с 8,2 млрд параметров, 36 слоями и архитектурой Grouped-Query Attention: 32 головы для запросов и 8 для ключей и значений. Нативная длина контекста составляет 32 768 токенов, с использованием YaRN заявлена поддержка до 131 072 токенов. Эта версия сжата до 8-битного представления с размером группы 128; настройка desc_act=False повышает эффективность по скорости генерации токенов по сравнению с более ранними квантизированными вариантами. Основные ограничения связаны с потерями, возможными при квантизации, а также с необходимостью совместимого программного окружения: в README рекомендован vLLM версии 0.9.2 или новее. Модель распространяется по лицензии Apache-2.0.

unsloth/cogito-v2-preview-llama-70B-GGUF — GGUF-версия большой языковой модели Cogito v2 preview 70B, разработанная Unsloth на базе deepcogito/cogito-v2-preview-llama-70B. Это инструкционно дообученная генеративная модель с гибридным режимом рассуждений: она может отвечать напрямую либо предварительно выполнять саморефлексию. Обучение проводилось с использованием Iterated Distillation and Amplification (IDA), стратегии итеративного самоулучшения. Модель предназначена для генерации текста, следования инструкциям, программирования, задач STEM, вызова инструментов и общего ассистирования. Модель поддерживает контекст длиной до 128k токенов и обучена более чем на 30 языках, поэтому ориентирована на многоязычные сценарии. Заявлены улучшенные возможности в программировании, работе с инструментами и многоязычии по сравнению с сопоставимыми по размеру моделями. Доступны стандартный режим и расширенное рассуждение; для последнего в совместимых инструментах требуется включить параметр enable_thinking или использовать предусмотренный системный запрос и префилл. GGUF-формат подходит для запуска через совместимые средства локального инференса, включая llama.cpp; для корректного применения шаблона чата в llama.cpp рекомендуется параметр --jinja. К ограничениям относятся значительные требования к вычислительным ресурсам, обусловленные размером 70B, а также экспериментальный статус preview и возможная хрупкость гибридного режима в редких случаях. Репозиторий распространяется по лицензии Llama 3.1, указанной как допускающая коммерческое использование; точные условия следует проверять в тексте лицензии.

Falcon3-10B-Instruct — инструкция-ориентированная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Она предназначена для диалогов и выполнения инструкций, включая задачи рассуждения, понимания языка, программирования и математики. Модель основана на причинном декодере Transformer с 40 блоками, архитектурой GQA, SwiGLU и RMSNorm; содержит 9,9 млрд параметров и работает с контекстом до 32 тыс. токенов. Она дообучена на разговорных, STEM-, программных, безопасностных данных и примерах вызова функций. Поддерживает английский, французский, испанский и португальский языки; репозиторий содержит веса Safetensors для Transformers. Модель подходит для создания диалоговых помощников, анализа и генерации текста, помощи с кодом и решения математических задач. Качество зависит от задачи, а результаты бенчмарков в карточке отражают оценки на момент выпуска. Лицензия — TII Falcon-LLM License 2.0.

mlx-community/gemma-4-12B-it-OptiQ-4bit — это локальная MLX-квантизованная версия Gemma-4-12B-it, разработанная сообществом mlx-community с использованием инструментария mlx-optiq. Модель предназначена для генерации текста, рассуждений, программирования, извлечения и классификации, следования инструкциям, вызова инструментов и агентских сценариев на компьютерах Apple Silicon без PyTorch и облачных сервисов. Это текстовый путь унифицированной модели Gemma-4, исходно поддерживающей текст, изображения и аудио: при конвертации визуальная и аудиобашни были удалены, поэтому данная версия работает только с текстом. Языковая башня использует смешанную квантизацию: чувствительные слои представлены в 8-битном формате, остальные — в 4-битном. Всего квантизовано 328 слоёв, средняя точность составляет 5,22 бита на вес, размер группы — 64, размер файла — около 8,3 ГБ. Модель поддерживает режим рассуждений с отдельным thinking channel; для прямых ответов его можно отключить. Согласно приведённым тестам, OptiQ-версия превосходит равномерную 4-битную квантизацию по пяти из шести метрик, особенно в задачах длинноконтекстного извлечения и программирования; в тесте BFCL разница находится в пределах указанного доверительного интервала. Для работы требуются mlx-lm из основной ветки и импорт optiq, регистрирующий тип модели gemma4_unified, поэтому стандартного выпуска mlx-lm 0.31.3 недостаточно. Модель распространяется на условиях Gemma license, унаследованных от базовой модели Google; применяются условия использования Google Gemma.

Карточка модели dannyboy1978/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели Iniharith/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели Openintelligent123/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели Langitzt/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели nesoai/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Granite-3.1-1B-A400M-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на Granite-3.1-1B-A400M-Base модель с архитектурой GraniteMoE; README также описывает этапы supervised fine-tuning, выравнивания с помощью reinforcement learning и слияния моделей. В метаданных указано 163,6 млн параметров и контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций, а также для многоязычного диалога и работы с длинными документами и встречами. README перечисляет английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Производительность на других языках может уступать английской; ответы могут быть неточными, предвзятыми или небезопасными. Лицензия — Apache 2.0.

Granite-4.0-Tiny-Preview — инструктивная языковая модель команды Granite компании IBM. Это гибридная архитектура Mixture-of-Experts для генерации текста; метаданные указывают 421,5 млн параметров, а README приводит оценку 7 млрд параметров. Модель дообучена на Granite-4.0-Tiny-Base-Preview с помощью обучения на инструкциях и выравнивания с подкреплением. Лицензия — Apache 2.0. Модель предназначена для выполнения инструкций и интеграции в ассистентов. Она поддерживает диалог, вызов инструментов, суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи по коду и работу с длинными документами и встречами. Указанное в метаданных окно контекста составляет 131 072 токена. README перечисляет 12 поддерживаемых языков: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Модель может применяться в бизнес-ассистентах и сценариях работы с длинным контекстом. README отмечает использование как открытых наборов данных с разрешительными лицензиями, так и внутренних синтетических данных. Чекпойнт имеет статус preview; для запуска README рекомендует установить Transformers из исходного кода. Подробные ограничения и результаты оценки в предоставленной карточке не приведены.

RedHatAI/Llama-3.3-70B-Instruct — инструктивная языковая модель Meta, распространяемая Red Hat AI. Это плотная авторегрессионная модель семейства Llama на архитектуре Transformer с 69,5 млрд параметров, обученная для следования инструкциям и диалогов; настройка включает supervised fine-tuning и обучение с обратной связью от людей. Модель принимает текст и генерирует текст, в том числе код, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для многоязычных диалоговых ассистентов, генерации текста и кода, а также коммерческих и исследовательских сценариев. В карточке указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель статична и обучена на офлайн-данных; знания ограничены данными обучения с отсечкой декабря 2023 года. Для вызова внешних инструментов требуется интеграция со стороны приложения. Использование регулируется пользовательским соглашением Llama 3.3 Community License и соответствующей политикой допустимого использования.

unsloth/Qwen2.5-32B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Qwen2.5-32B-Instruct, разработанной командой Qwen. Модель предназначена для диалоговых сценариев, следования инструкциям, генерации текста, работы со структурированными данными и JSON, а также задач программирования и математики. Репозиторий подготовлен с использованием Unsloth и предназначен для загрузки через библиотеку Transformers. Модель является causal language model с архитектурой на базе transformers, использующей RoPE, SwiGLU, RMSNorm и смещения в QKV-матрицах внимания. Она содержит около 32,5 млрд параметров, 31 млрд параметров без учёта эмбеддингов, 64 слоя и групповое обобщённое внимание (GQA) с 40 головами Q и 8 головами KV. Поддерживаются контексты до 131 072 токенов и генерация до 8192 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся улучшенные возможности в программировании и математике, следование разнообразным системным инструкциям, обработка длинного контекста и генерация структурированных ответов. 4-битное представление снижает требования к памяти по сравнению с полноразмерной моделью, но может ограничивать точность относительно моделей с более высокой разрядностью; конкретные характеристики качества и требования к оборудованию в README не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели adrianxu9778/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

JunHowie/Qwen3-14B-GPTQ-Int4 — это 4-битная GPTQ-квантизированная версия большой языковой модели Qwen3-14B, разработанной командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений, математических и программных задач, творческого письма, перевода и многоязычных сценариев, включая интеграцию с внешними инструментами и агентами. Модель использует каузальную языковую архитектуру и содержит около 14,8 млрд параметров, из которых 13,2 млрд приходятся на параметры без учёта эмбеддингов. Она имеет 40 слоёв и групповое многоголовое внимание с 40 головами для запросов и 8 для ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Поддерживаются более 100 языков и диалектов. Qwen3 позволяет переключаться между режимами рассуждения и обычной генерации. Квантизация выполнена в формат GPTQ Int4 с размером группы 128. По данным README, настройка desc_act=False повышает эффективность по скорости генерации токенов по сравнению с более ранними квантизированными версиями, что делает модель более подходящей для ресурсоограниченного развертывания. Для запуска рекомендуется vLLM версии 0.9.2 или новее; также заявлена совместимость с экосистемой vLLM и другими инструментами локального инференса. Ограничения включают возможное снижение точности из-за 4-битной квантизации, а также высокие требования к вычислительным ресурсам при использовании длинного контекста и режима рассуждения. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.5-397B-A17B-GGUF — квантованная версия мультимодальной модели Qwen3.5-397B-A17B, разработанной командой Qwen; GGUF-файлы подготовлены Unsloth. Модель предназначена для локального запуска и совместима с экосистемами, поддерживающими GGUF, а исходная модель также работает с Hugging Face Transformers, vLLM и SGLang. Это каузальная языковая модель с vision encoder для работы с текстом и изображениями. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts: всего 397 млрд параметров, из которых активируется 17 млрд; используется 512 экспертов, 10 маршрутизируемых и один общий. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Модель ориентирована на рассуждения, программирование, визуальное понимание, диалоговые и агентские сценарии, а также обработку длинного контекста. К сильным сторонам относятся мультимодальность, высокая вычислительная эффективность разреженной архитектуры, поддержка длинного контекста и улучшенная квантование с imatrix-данными Unsloth. Ограничения включают очень большой общий размер модели и, как следствие, высокие требования к памяти и инфраструктуре; конкретные требования зависят от выбранного уровня квантования. Доступна по лицензии Apache 2.0.

Gemma 4 E2B it qat mobile ct — мультимодальная модель Google DeepMind с инструкционной настройкой, основанная на Gemma 4 E2B и подготовленная с применением QAT для мобильного исполнения. Репозиторий содержит веса в формате compressed-tensors; модель использует плотную архитектуру Gemma4ForConditionalGeneration и рассчитана на более эффективный вывод при ограниченной памяти. Лицензия — Apache 2.0. Модель принимает текст и изображения, а также поддерживает аудио; выдаёт текст. Она предназначена для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Вариант E2B оптимизирован для локального запуска на мобильных устройствах; для семейства заявлены контекст до 128 тысяч токенов и многоязычная поддержка, но отдельные значения для этого чекпойнта в метаданных не приведены. Среди поддерживаемых сценариев — OCR, разбор PDF, понимание экранов и диаграмм, распознавание рукописного текста, использование инструментов и анализ видеокадров. Качество QAT описано разработчиками как близкое к bfloat16 при меньших требованиях к памяти. Возможности конкретной мобильной версии могут зависеть от среды исполнения и аппаратного обеспечения.

Карточка модели Cup4/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

Карточка модели yemsrach3723/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели AmroAI/GLM-5.2-Hermes на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.