II.3Рефакторинг, миграция и модернизация

Gemma 4 12B IT — мультимодальная модель Google DeepMind на архитектуре Gemma4 Unified, дообученная для следования инструкциям. Она принимает текст, изображения, видео и аудио и генерирует текст; поддерживает диалоги, рассуждения, программирование и вызов инструментов. Модель подходит для локального развёртывания на потребительских устройствах и для задач с длинным контекстом до 256 тыс. токенов. Модель может анализировать изображения и документы, распознавать текст и рукописный ввод, разбирать диаграммы и интерфейсы, а также анализировать видео по кадрам. Для аудио доступны распознавание речи и перевод речи в текст. Семейство Gemma 4 поддерживает более 140 языков в обучении, а карточка сообщает о мультиязычных возможностях; точный список языков для этой версии не приведён. Модель распространяется под лицензией Apache 2.0. Как и другие генеративные модели, она может допускать фактические ошибки; результаты распознавания, перевода и анализа следует проверять. Для видеовхода анализ выполняется по последовательностям кадров.

Gemma 4 26B A4B NVFP4 — мультимодальная модель для генерации текста, разработанная Google DeepMind и квантизированная NVIDIA с помощью Model Optimizer. Модель принимает текст и изображения, поддерживает обработку видео как последовательности кадров, а её выходом является текст. Она предназначена для диалоговых систем, чат-ботов, суммаризации, извлечения данных из изображений, рассуждений, программирования, мультимодального анализа, function calling, а также исследовательских и образовательных задач. Модель построена на архитектуре Transformers с разреженной MoE-структурой: содержит около 25,2 млрд параметров, из которых активно используется около 3,8 млрд, 30 слоёв, 128 экспертов и один общий эксперт. Она поддерживает контекст до 256K токенов, скользящее окно внимания размером 1024 токена, словарь из 262 тысяч токенов и более 140 языков. Для обработки изображений предусмотрен vision encoder примерно на 550 млн параметров, поддерживаются различные соотношения сторон и разрешения, а также настраиваемые бюджеты визуальных токенов. Видео длительностью до 60 секунд обрабатывается со скоростью один кадр в секунду. К сильным сторонам относятся большой контекст, мультимодальность, поддержка длинных документов, задач рассуждения и кода, а также сниженное вычислительное потребление благодаря MoE-архитектуре и формату NVFP4. Ограничения связаны с зависимостью от NVIDIA GPU, заявленной совместимостью прежде всего с архитектурой Blackwell, использованием Linux и поддержкой runtime vLLM. Квантизация может влиять на точность по сравнению с исходной моделью. Релиз не обучался заново: NVIDIA выполнила квантизацию и калибровку, тогда как исходная модель принадлежит Google. Модель доступна для коммерческого и некоммерческого использования по лицензии Apache License 2.0 с дополнительными условиями Gemma. Версия модели — v1.0, квантизация выполнена с помощью nvidia-modelopt v0.43.0.

Карточка модели Juan663/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Granite-4.1-8B — языковая модель с 8,4 млрд параметров, разработанная командой Granite компании IBM. Это плотный декодерный трансформер с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель дообучена на основе Granite-4.1-8B-Base с помощью supervised fine-tuning и обучения с подкреплением; доступна в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для следования инструкциям и создания диалоговых помощников, в том числе агентов с вызовом инструментов. Она подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и многоязычного диалога. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Лицензия — Apache 2.0. Качество на многоязычных задачах может уступать английскому; модель также может выдавать неточные, предвзятые или небезопасные ответы. Для конкретных сценариев рекомендуется проводить проверку безопасности и настройку.

Карточка модели muhamad-geosurge/invert-polarity-f1cfb5c0-5664-44c6-be26-627fd172b090 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter95 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Карточка модели Iambackup/gemma-4-12B-it на Hugging Face совпадает с карточкой RedHatAI/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind на архитектуре Gemma4 Unified, дообученная для следования инструкциям. Она принимает текст, изображения, видео и аудио и генерирует текст; поддерживает диалоги, рассуждения, программирование и вызов инструментов. Модель подходит для локального развёртывания на потребительских устройствах и для задач с длинным контекстом до 256 тыс. токенов. Модель может анализировать изображения и документы, распознавать текст и рукописный ввод, разбирать диаграммы и интерфейсы, а также анализировать видео по кадрам. Для аудио доступны распознавание речи и перевод речи в текст. Семейство Gemma 4 поддерживает более 140 языков в обучении, а карточка сообщает о мультиязычных возможностях; точный список языков для этой версии не приведён. Модель распространяется под лицензией Apache 2.0. Как и другие генеративные модели, она может допускать фактические ошибки; результаты распознавания, перевода и анализа следует проверять. Для видеовхода анализ выполняется по последовательностям кадров.

nvidia/Gemma-4-31B-IT-NVFP4 — мультимодальная модель для генерации текста, разработанная Google DeepMind на базе Gemma 4 31B IT и квантизированная NVIDIA с помощью Model Optimizer. NVIDIA не является разработчиком исходной модели. Модель предназначена для чат-ботов и диалоговых систем, суммаризации, извлечения данных из изображений, рассуждений, программирования, мультимодального анализа, function calling, исследовательских и образовательных сценариев. Модель построена на архитектуре Transformer Gemma 4 и содержит около 30,7 млрд параметров при размере словаря 262 144 токена. Она принимает текст, изображения и видео, включая видео в форматах MP4 и WebM продолжительностью до 60 секунд с частотой один кадр в секунду, а генерирует текст. Поддерживаются переменные соотношения сторон и разрешения изображений, настраиваемые бюджеты визуальных токенов от 70 до 1120, контекст до 256 тысяч токенов и более 140 языков. Архитектура использует гибридное внимание с локальными sliding-window и глобальными слоями, едиными Keys и Values в глобальных слоях и Proportional RoPE для работы с длинным контекстом. NVFP4-квантизация весов и активаций рассчитана на инференс через vLLM на NVIDIA Blackwell и Linux. По приведённым результатам NVFP4 сохраняет близкие к BF16 показатели на GPQA Diamond, AIME 2025, MMLU Pro, LiveCodeBench и Scicode, однако точные характеристики зависят от оборудования и сценария использования. Модель версии 1.0 была квантизирована с помощью nvidia-modelopt 0.42.0; для калибровки использовался англоязычный датасет CNN/DailyMail. Указана лицензия Apache License 2.0 с условиями Gemma. Для запуска заявлена интеграция с vLLM и тестирование на NVIDIA Hopper H100.

Карточка модели alekshandru/gemma-4-E4B на Hugging Face совпадает с карточкой google/gemma-4-E4B, поэтому описание составлено по ней. Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

Granite-3.0-8B-Instruct — языковая модель команды Granite компании IBM для ответов на инструкции и создания диалоговых ассистентов, в том числе для бизнес-приложений. Она дообучена на базе ibm-granite/granite-3.0-8b-base с использованием открытых наборов инструкций, синтетических данных, supervised fine-tuning, выравнивания с помощью обучения с подкреплением и объединения моделей. Модель представляет собой плотный decoder-only трансформер на 8,2 млрд параметров с архитектурой Granite; в ней используются GQA, RoPE, SwiGLU и RMSNorm. Она принимает текст и генерирует текст, поддерживает структурированный формат чата и интерфейс вызова инструментов. Длина контекста — 4096 токенов. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и многоязычного диалога. Качество на языках помимо английского может быть ниже; ответы могут быть неточными, предвзятыми или небезопасными, поэтому для конкретного применения нужны проверка и настройка. Лицензия — Apache 2.0.

Granite-3.3-8B-Instruct — плотная языковая модель с 8,2 млрд параметров, разработанная командой Granite компании IBM и дообученная на базе ibm-granite/granite-3.3-8b-base для следования инструкциям и улучшенного рассуждения. Она принимает текст и генерирует ответы, поддерживает диалог и интерфейс вызова инструментов. Контекстное окно составляет 131 072 токена. Модель предназначена для общих задач ассистента и бизнес-приложений: ответов на вопросы, суммаризации длинных документов и встреч, классификации и извлечения текста, RAG, задач по математике и программированию, а также многоязычного диалога. В README заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Модель доступна в формате safetensors для Transformers. Лицензия — Apache 2.0. В README отмечено, что применимы этические ограничения и ограничения базовой модели Granite-3.3-8B-Base; подробности этих ограничений в предоставленных материалах не раскрыты.

Gemma 4 E2B it qat mobile ct — мультимодальная модель Google DeepMind с инструкционной настройкой, основанная на Gemma 4 E2B и подготовленная с применением QAT для мобильного исполнения. Репозиторий содержит веса в формате compressed-tensors; модель использует плотную архитектуру Gemma4ForConditionalGeneration и рассчитана на более эффективный вывод при ограниченной памяти. Лицензия — Apache 2.0. Модель принимает текст и изображения, а также поддерживает аудио; выдаёт текст. Она предназначена для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Вариант E2B оптимизирован для локального запуска на мобильных устройствах; для семейства заявлены контекст до 128 тысяч токенов и многоязычная поддержка, но отдельные значения для этого чекпойнта в метаданных не приведены. Среди поддерживаемых сценариев — OCR, разбор PDF, понимание экранов и диаграмм, распознавание рукописного текста, использование инструментов и анализ видеокадров. Качество QAT описано разработчиками как близкое к bfloat16 при меньших требованиях к памяти. Возможности конкретной мобильной версии могут зависеть от среды исполнения и аппаратного обеспечения.

Granite 3.1 8B Instruct — языковая модель, разработанная командой IBM Granite и представленная в GGUF-формате сообществом LM Studio. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для локального запуска и решения широкого круга задач: следования общим инструкциям, суммаризации, классификации и извлечения текста, ответов на вопросы, работы с RAG, программирования, вызова функций и обработки длинного контекста. Модель поддерживает контекст до 131 072 токенов. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; для других языков возможна дополнительная дообученная адаптация. Архитектура и точный размер файловой квантизации в README не уточняются. Сильными сторонами являются широкий набор прикладных сценариев, многоязычность и большой контекст, однако модель может генерировать неточные, вредоносные или неподходящие ответы, а качество зависит от выбранного варианта квантизации и условий запуска. Лицензия — Apache 2.0.

MuXodious выпустил дообученную мультимодальную модель Gemma 4 E4B Instruct с применением Heretic v1.4.0 и методов abliteration, включая Self-Organizing Maps и Magnitude-Preserving Orthogonal Ablation. В README приведены результаты эксперимента по снижению отказов и KL-дивергенции относительно исходной модели. Основа — google/gemma-4-E4B-it-qat-q4_0-unquantized; архитектура — плотная Gemma4ForConditionalGeneration, библиотека Transformers, веса в формате Safetensors. Лицензия — Apache 2.0. Модель принимает текст и изображения и генерирует текст; семейство Gemma 4 E4B также поддерживает аудио. Она предназначена для диалога, рассуждений, анализа изображений и документов, распознавания речи, программирования и сценариев с вызовом инструментов. Для семейства в целом указаны контекст до 128K токенов у E4B и поддержка множества языков, но README не подтверждает, что все перечисленные возможности доступны именно этому чекпойнту после дообучения.

Granite-3.1-8B-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на базе Granite-3.1-8B-Base плотная авторегрессионная трансформерная модель на 8,2 млрд параметров; при обучении использовались supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Архитектура включает GQA, RoPE, SwiGLU и RMSNorm. Модель принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Поддерживает диалоги на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках. Лучше всего модель обучена следовать инструкциям на английском; качество на других языках может быть ниже. Она может выдавать неточные, предвзятые или небезопасные ответы. Лицензия — Apache 2.0.

Granite-4.0-350M — компактная инструктивная языковая модель команды Granite компании IBM, дообученная на базе ibm-granite/granite-4.0-350m-base с помощью supervised fine-tuning, обучения с подкреплением и слияния моделей. Она использует архитектуру decoder-only dense Transformer; в метаданных указано 352,3 млн параметров и контекст до 32 768 токенов. Модель предназначена для диалогов, локального запуска на устройствах и дообучения под специализированные задачи с умеренными вычислительными ресурсами. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова инструментов. Она поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Лицензия — Apache 2.0. Качество на языках, кроме английского, может быть ниже; модель также может выдавать неточные, предвзятые или небезопасные ответы, поэтому перед применением в конкретной задаче её следует оценить и настроить.

unsloth/granite-4.0-350m — компактная инструктивная языковая модель семейства Granite 4.0, опубликованная Unsloth в формате safetensors. Она основана на IBM Granite-4.0-350M и дообучена с применением инструкционных данных; исходную модель разработала команда Granite в IBM. Архитектура — плотный декодерный трансформер GraniteMoeHybridForCausalLM с GQA, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель содержит 352,3 млн параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и следования инструкциям, включая суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи с кодом, вызов инструментов и заполнение пропусков в коде. Её небольшой размер подходит для развёртывания на устройствах и дообучения под специализированные задачи. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; обучение преимущественно опиралось на англоязычные инструкции, поэтому качество на других языках может быть ниже. Модель может выдавать неточные, предвзятые или небезопасные ответы, поэтому для конкретных сценариев нужны проверка и настройка безопасности. Лицензия — Apache 2.0.

InternScience/Agents-A1-Q4_K_M-GGUF — квантизированная версия агентной модели Agents-A1, разработанной командой InternScience. Модель относится к классу Mixture-of-Experts и имеет около 35 млрд параметров; вариант Q4_K_M предназначен для более экономичного локального запуска. Базовая модель Agents-A1 поддерживает генерацию текста, работу с инструментами и, согласно заявленным тегам, мультимодальные сценарии с изображениями, однако точные сведения о поддерживаемых форматах и языках в предоставленных данных не указаны. Модель предназначена для долгих многошаговых задач, поиска и анализа информации, инженерных и научных исследований, выполнения инструкций, общего агентного взаимодействия и вызова внешних инструментов, включая API, интерпретаторы кода и поисковые системы. Она ориентирована на декомпозицию сложных задач, планирование, адаптацию по промежуточным результатам, научное рассуждение и соблюдение подробных многоусловных инструкций. Среди сильных сторон заявлены конкурентоспособные результаты в ряде агентных, научных и исследовательских бенчмарков при существенно меньшем размере по сравнению с крупнейшими моделями. К ограничениям относятся возможное снижение качества из-за квантизации Q4_K_M, а также отсутствие в предоставленном README точных данных о размере контекстного окна, языках, поддерживаемых мультимодальных входах и системных требованиях. Модель распространяется по лицензии Apache-2.0.

Granite-4.0-H-350M — компактная инструктивная языковая модель, разработанная командой Granite компании IBM и опубликованная Unsloth в формате safetensors. Модель дообучена на базе ibm-granite/granite-4.0-h-350m с применением supervised fine-tuning, обучения с подкреплением и слияния моделей. Её архитектура — плотный decoder-only трансформер GraniteMoeHybrid с GQA, Mamba2, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами; размер — 278,4 млн параметров, контекст — 32 768 токенов. Модель предназначена для диалогов и инструкций, суммаризации, классификации и извлечения текста, вопросов и ответов, RAG, задач с кодом и вызова инструментов. Компактность делает её подходящей для локального развёртывания и дообучения под специализированные задачи. Она поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки; обучение преимущественно ориентировано на английский, поэтому качество на других языках может быть ниже. Модель может выдавать неточные, предвзятые или небезопасные ответы, поэтому для конкретного применения требуется проверка. Лицензия — Apache 2.0.

unsloth/granite-4.0-micro-unsloth-bnb-4bit — 4-битная квантованная версия Granite-4.0-Micro, разработанная Unsloth на базе модели IBM Granite Team. Исходная модель — инструкционная языковая модель с 3 млрд параметров, дообученная IBM на открытых наборах инструкций с разрешительными лицензиями и внутренних синтетических данных с применением supervised fine-tuning, reinforcement learning и объединения моделей. Модель предназначена для корпоративных приложений, ассистентов и LLM-агентов с поддержкой вызова инструментов. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, программирования, function calling, многоязычного диалога и Fill-In-the-Middle-дополнения кода. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Указана поддержка длинного контекста, однако его точный размер в README не приведён. Ключевые сильные стороны — улучшенное следование инструкциям, tool calling и сниженные требования к памяти благодаря 4-битному формату; ограничения квантования и точные характеристики производительности не указаны. Распространяется по лицензии Apache 2.0. Для работы используется библиотека Transformers и формат bnb-4bit; README не содержит подробностей о точной архитектуре квантования, размере контекстного окна или результатах бенчмарков именно этой версии.

unsloth/gemma-3-27b-it-bnb-4bit — 4-битная версия instruction-tuned модели Gemma 3 27B, подготовленная Unsloth на основе модели Google Gemma 3 27B IT. Разработчик исходной модели — Google DeepMind. Модель имеет открытые веса и предназначена для запуска и дообучения с использованием Transformers, в том числе в средах с ограниченными ресурсами. Модель принимает текстовые запросы и изображения, а генерирует текст. Она подходит для ответов на вопросы, суммаризации, рассуждений, генерации текста и анализа изображений. Для версии 27B заявлены контекст до 128K токенов и максимальный объём вывода 8192 токена; изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов. Поддерживается более 140 языков, включая английский, указанный в метаданных модели. Ключевое преимущество этой версии — 4-битное представление, снижающее требования к памяти и упрощающее локальный запуск и дообучение по сравнению с полноразмерной моделью. При этом квантование может влиять на точность и качество ответов, а мультимодальные возможности, производительность и фактическая совместимость зависят от используемого программного обеспечения и оборудования. Модель распространяется по лицензии Gemma; перед использованием необходимо учитывать условия Google Gemma Terms of Use.

Карточка модели Titanfrm/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

RedHatAI/Llama-3.3-70B-Instruct-FP8-dynamic — инструкционная текстовая модель семейства Llama 3.3 с 70 млрд параметров, разработанная Red Hat совместно с Neural Magic на базе Meta Llama-3.3-70B-Instruct. Модель принимает текст и генерирует текст, ориентирована на коммерческое и исследовательское использование, включая диалоговые ассистенты, генерацию естественного языка, создание синтетических данных и дистилляцию моделей. Ключевая особенность модели — динамическая FP8-квантизация весов и активаций линейных операторов в трансформерных блоках. Веса квантизуются статически по каналам, а активации — динамически по токенам. Это примерно вдвое снижает требования к памяти GPU и размер модели на диске, а также может примерно вдвое увеличить пропускную способность матричных вычислений. Для эффективного развертывания рекомендуется использовать vLLM; модель валидирована в RHOAI 2.20, RHAIIS 3.0 и RHELAI 1.5. Модель поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Ограничения связаны с применением FP8-квантизации, возможными изменениями качества по сравнению с исходной моделью и запретом использования за пределами перечисленных языков, а также в нарушение законодательства, Acceptable Use Policy и условий лицензии. Расширенный контекст в README не указан; в примере развертывания задан максимальный размер последовательности 32768 токенов. Распространяется по лицензии Llama 3.3 Community License.

Ziya-LLaMA-13B-v1 — китайско-английская языковая модель семейства LLaMA, разработанная командой Fengshenbang. Это плотная авторегрессионная модель на 12,9 млрд параметров с контекстом 2048 токенов; для повышения эффективности работы с китайским текстом словарь LLaMA расширен китайскими символами. Модель обучалась в три этапа: продолженное предобучение, многозадачная настройка по инструкциям и обучение с обратной связью от людей. Модель предназначена для генерации текста и диалогов, перевода между китайским и английским, написания и анализа кода, классификации и извлечения информации, суммаризации, подготовки текстов, ответов на вопросы и математических задач. В README описаны многоходовый диалог и ролевые сценарии; репозиторий содержит веса PyTorch. Указанная лицензия — GPL-3.0, однако README отдельно предупреждает, что из-за лицензионных ограничений исходных весов LLaMA модель нельзя использовать коммерчески и требует соблюдать политику использования LLaMA.

EXAONE-4.0-32B-AWQ — квантованная версия языковой модели EXAONE 4.0, разработанная LG AI Research. Это авторегрессионная модель для генерации текста, поддерживающая обычный режим работы и режим рассуждений, а также агентное использование с вызовом инструментов. Модель предназначена для диалоговых систем, решения сложных задач, генерации и обработки текста и сценариев, требующих многошагового рассуждения. Модель содержит 30,95 млрд параметров без учёта эмбеддингов, 64 слоя и использует архитектуру GQA с 40 attention heads и 8 KV heads. Для 32B-версии применяется гибридное внимание: локальное sliding-window attention и глобальное full attention в соотношении 3:1, а также архитектурный подход QK-Reorder-Norm. Контекстное окно составляет 131 072 токена, размер словаря — 102 400. Поддерживаются английский, корейский и испанский языки. Версия AWQ использует 4-битное группавое weight-only квантование W4A16g128, что снижает требования к памяти по сравнению с полноразмерной моделью. Сильные стороны модели — сочетание общего режима генерации и reasoning mode, поддержка многоязычных сценариев, длинного контекста и tool calling. Ограничения включают необходимость корректной настройки параметров sampling в режиме рассуждений, а также потенциальные потери качества, связанные с 4-битным квантованием. Модель распространяется по лицензии EXAONE; в карточке указано обозначение лицензии other и ссылка на файл LICENSE.

Granite-4.0-H-350M — компактная инструктивная языковая модель команды Granite компании IBM, дообученная на основе ibm-granite/granite-4.0-h-350m-base с применением контролируемого дообучения, обучения с подкреплением и слияния моделей. Это плотная decoder-only архитектура GraniteMoeHybrid с GQA, Mamba2, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами; модель содержит 278,4 млн параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов, локального и периферийного развёртывания, исследовательских сценариев и дообучения под специализированные задачи. Она умеет суммировать и извлекать текст, классифицировать, отвечать на вопросы, поддерживать RAG, выполнять задачи с кодом и вызовом функций, включая дополнение кода FIM. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Компактный размер упрощает запуск на устройствах и адаптацию под узкие задачи. При этом качество на языках помимо английского может быть ниже; ответы также могут содержать ошибки, предвзятость или небезопасный контент. Лицензия — Apache 2.0.

cyankiwi/granite-4.0-h-micro-AWQ-4bit — 4-битная AWQ-квантизованная версия Granite-4.0-H-Micro, разработанной командой Granite и IBM. Базовая модель содержит около 3 млрд параметров, относится к длинноконтекстным инструкционным языковым моделям и дообучена на открытых инструкционных и синтетических данных с применением supervised fine-tuning, reinforcement learning и объединения моделей. Модель предназначена для выполнения общих инструкций и создания AI-ассистентов, в том числе для бизнес-приложений. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи, связанные с кодом, function calling, многоязычный диалог и Fill-In-the-Middle для автодополнения кода. Заявлены улучшенные следование инструкциям и вызов инструментов. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Ключевое ограничение — README не указывает точный размер контекстного окна, архитектурные детали и результаты бенчмарков. Квантизация AWQ-4bit рассчитана на более экономичное развертывание, однако конкретные требования к оборудованию и потери качества для этой версии не приведены. Модель распространяется по лицензии Apache 2.0.

unsloth/granite-4.0-h-micro-unsloth-bnb-4bit — 4-битная версия Granite-4.0-H-Micro, разработанная Unsloth на базе модели IBM Granite Team и IBM. Исходная модель представляет собой инструкционную long-context языковую модель примерно на 3 млрд параметров, дообученную с применением supervised fine-tuning, выравнивания с использованием reinforcement learning и объединения моделей. Точная длина контекста для данной версии в README не указана. Модель предназначена для выполнения общих инструкций и создания корпоративных AI-ассистентов. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG-сценарии, задачи, связанные с кодом, вызов функций и инструментов, многоязычный диалог, а также Fill-In-the-Middle для дополнения кода. Заявлены улучшенные instruction following и tool-calling возможности. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Ключевое преимущество варианта — 4-битная квантизация BNB, которая может снизить требования к памяти и упростить локальное развертывание, однако README не приводит точные показатели качества, скорости или совместимости с конкретным оборудованием. Ограничения включают отсутствие в предоставленных данных детальных бенчмарков, точного размера в памяти и описания мультимодальных возможностей; по имеющейся информации модель является текстовой. Распространение указано по лицензии Apache 2.0.

Mistral-Small-3.1-24B-Instruct-2503-GGUF — текстовая инструкционная модель, разработанная Mistral AI и распространяемая в формате GGUF. Квантование подготовлено bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалоговых приложений, агентских сценариев и задач, требующих продвинутого рассуждения. Модель поддерживает контекст длиной до 128 тысяч токенов и множество языков, включая английский, французский, немецкий, греческий, хинди, индонезийский, итальянский, японский, корейский, малайский, непальский, польский, португальский, румынский, русский, сербский, испанский, шведский, турецкий, украинский, вьетнамский, арабский, бенгальский, китайский и фарси. Указанная версия является текстовой и не поддерживает другие модальности. Размер базовой модели — 24B параметров. К сильным сторонам относятся широкий языковой охват, длинный контекст и ориентация на агентские и сложные задачи рассуждения. Ограничения включают текстовую специализацию, возможные ошибки, неточности и нежелательные ответы, типичные для генеративных моделей, а также зависимость производительности и качества от выбранного варианта квантования и аппаратного обеспечения. Модель распространяется по лицензии Apache-2.0.

MyAwesomeModel — репозиторий модели пользователя zhujiaying-mcpbench на Hugging Face. Метаданные указывают на архитектуру BERT, класс BertModel и задачу feature-extraction; модель принимает текст и предназначена для получения векторных представлений, например для поиска и сравнения текстов. Указаны библиотека Transformers, формат PyTorch и лицензия MIT. Веб-результат сообщает, что репозиторий пуст и не содержит весов, конфигурации или кода, поэтому применимость модели и заявленные в карточке возможности нельзя проверить. Сведения о размере, контексте и поддерживаемых языках надёжно не установлены.