II.3Рефакторинг, миграция и модернизация

Arcee-Blitz — плотная языковая модель семейства Mistral с 23,4 млрд параметров, разработанная Arcee AI на базе Mistral-Small-24B-Instruct-2501. Модель дистиллировали на логитах DeepSeek-V3, затем дополнительно дообучили; она предназначена для диалогов и широкого круга задач генерации текста как практичная и эффективная рабочая модель. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В карточке приведены результаты сравнительных тестов на MixEval, GPQADiamond и BigCodeBench Complete, где Arcee-Blitz превосходит указанную версию Mistral-Small-3; эти результаты не гарантируют качество на других задачах. Репозиторий распространяется по лицензии Apache-2.0.

Atharvs_Model — дообученная мультимодальная модель на базе Google Gemma 4 E4B, опубликованная под лицензией Apache 2.0. Она использует архитектуру Gemma4ForConditionalGeneration и формат safetensors, принимает текст и изображения и формирует текстовые ответы. Семейство Gemma 4 поддерживает контекст до 128 тысяч токенов для малых моделей, включая E4B, и многоязычную работу; карточка этой конкретной модели не уточняет языки дообучения. Модель подходит для диалога, генерации и суммаризации текста, программирования, рассуждений, а также анализа изображений и документов, включая OCR. В README Gemma 4 также заявлены видеопонимание и аудиозадачи для E2B и E4B, однако метаданные конкретного репозитория не подтверждают эти возможности отдельно. Возможности исходной модели не обязательно полностью сохранены или улучшены после дообучения; перед использованием ответы следует проверять.

jondurbin/bagel-20b-v04-llama — языковая модель для диалогов и генерации текста, созданная как версия Bagel-20B-v04 с архитектурой Llama. В README указано, что Bagel-20B-v04 дообучена на базе internlm2-20b; метаданные также указывают internlm/internlm2-20b в качестве базовой модели. Модель содержит 19,3 млрд параметров, имеет контекст до 32 768 токенов и распространяется в формате safetensors. Модель предназначена для ответов на вопросы, следования инструкциям, написания и пересказа текстов, решения задач по математике и естественным наукам, программирования, ролевого общения и вызова функций. В обучении использовались данные для диалогов, чтения с пониманием, контекстных ответов, суммаризации, Python и SQL, а также многоязычные материалы. Поддерживаются несколько форматов промптов; шаблон по умолчанию использует формат Llama 2. Карточка указывает лицензию «other», не раскрывая в предоставленных данных её точные условия. Обучающие данные охватывают разные стили и задачи, включая ролевые диалоги и токсичные примеры; ответы требуют проверки, особенно для фактических, программных и чувствительных запросов. Модель является дообученной версией InternLM2-20B.

cyankiwi/gemma-4-31B-it-qat-AWQ-INT4 — это квантованный вариант мультимодальной модели Gemma 4 31B, разработанной Google DeepMind и опубликованный пользователем cyankiwi. Модель основана на google/gemma-4-31B-it-qat-q4_0-unquantized и предназначена для работы с текстом и изображениями с генерацией текстового ответа. Она ориентирована на генерацию текста, программирование, рассуждения, мультимодальный анализ и агентские сценарии с поддержкой вызова функций. Модель относится к семейству Gemma 4 с архитектурой, использующей гибридный механизм внимания, и имеет размер около 20,90 ГБ. Для версии 31B заявлено контекстное окно до 256K токенов. Указана поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Квантование с использованием Quantization-Aware Training и формата AWQ-INT4 снижает требования к памяти при сохранении качества, близкого к полноформатным вариантам, что упрощает локальное развертывание. Ограничения включают значительные требования к вычислительным ресурсам по сравнению с меньшими моделями, а также возможные потери качества и совместимости, характерные для низкобитного квантования. В README аудио указано только для вариантов Gemma 4 E2B, E4B и 12B, поэтому для данной версии поддержка аудио не подтверждена. Модель распространяется по лицензии Apache 2.0; при использовании необходимо также учитывать условия лицензии Gemma 4.

furiosa-ai/gpt-oss-120b — адаптация открытой весовой модели OpenAI gpt-oss-120b, подготовленная для запуска на аппаратных ускорителях FuriosaAI RNGD с использованием Furiosa-LLM. Это авторегрессионная текстовая модель на архитектуре Mixture-of-Experts (MoE), предназначенная для универсальной генерации текста и задач, требующих углублённого рассуждения, включая рабочие производственные сценарии. Модель принимает и генерирует текст, поддерживает английский язык и работает в формате harmony response format, отделяющем рассуждения от итогового ответа. Доступна настройка глубины рассуждения с помощью параметра reasoning_effort со значениями low, medium и high. Также поддерживается вызов инструментов и функций через OpenAI-совместимый API. Экспертные веса MoE квантизованы в MXFP4, а компоненты attention, router и embeddings сохраняются в более высокой точности. Для запуска на RNGD используется tensor parallelism с 32 вычислительными элементами, что соответствует четырём картам RNGD. Ключевое ограничение — описанная в README сборка ориентирована на Furiosa-LLM и оборудование FuriosaAI RNGD, хотя исходная модель также может работать с другими фреймворками. Модель распространяется по лицензии Apache 2.0.

Это конверсия модели IBM Granite 3.3 8B Instruct в формат MLX, подготовленная сообществом mlx-community. Модель с плотной архитектурой GraniteForCausalLM содержит 8,2 млрд параметров и принимает текстовые запросы, выдавая текстовые ответы; поддерживает диалог и интерфейс вызова инструментов. Размер контекста — до 131 072 токенов. Модель предназначена для диалогов и генерации текста по инструкциям; её можно применять для ответов на вопросы, анализа длинных текстов, программирования и многоязычных задач. Репозиторий распространяется по лицензии Apache-2.0. Это конверсия исходной модели ibm-granite/granite-3.3-8b-instruct для MLX, поэтому для использования в этой экосистеме потребуется совместимая среда MLX.

Карточка модели eth-dl-rewards/internlm2-7b-mod на Hugging Face совпадает с карточкой internlm/internlm2-7b, поэтому описание составлено по ней. InternLM2-7B — плотная авторегрессионная языковая модель второго поколения InternLM, разработанная командой InternLM. Это базовая модель для продолжения текста и адаптации под прикладные задачи; README отдельно рекомендует версию internlm2 для большинства применений, а чат-версии описывает как отдельные варианты. Модель содержит 7,4 млрд параметров и поддерживает контекст до 32 768 токенов согласно метаданным. Разработчик заявляет о сильных результатах на задачах длинного контекста, рассуждений, математики и программирования, включая поиск сведений в длинных текстах. Модель принимает текст и генерирует текст; сведения о конкретных поддерживаемых естественных языках в источниках отсутствуют. Как и другие вероятностные языковые модели, InternLM2-7B может выдавать фактические ошибки, предвзятые или вредоносные ответы. Код распространяется по Apache-2.0; для весов README указывает академический доступ и возможность запросить бесплатное коммерческое разрешение, поэтому условия использования весов следует сверять с лицензией и соответствующим разрешением.

Llama-3.3-70B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Llama 3.3 70B, разработанной Meta и подготовленной в формате GGUF сообществом lmstudio-community; в метаданных также указан quantized_by: bartowski. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и другие задачи обработки естественного языка. Она относится к семейству текстовых моделей и содержит около 70 миллиардов параметров. Сведения о конкретном варианте квантизации, размере контекста, поддерживаемых языках, точных модальностях и требованиях к аппаратному обеспечению в представленном README отсутствуют. Крупный размер модели потенциально обеспечивает высокое качество рассуждений и генерации, однако обычно требует значительных вычислительных ресурсов; влияние выбранной квантизации на качество и производительность здесь не уточняется. Модель распространяется по Llama 3.3 Community License от Meta. При распространении материалов или производных продуктов необходимо предоставлять текст лицензии, указывать «Built with Llama» и соблюдать применимую политику допустимого использования; для некоторых очень крупных коммерческих сервисов предусмотрены дополнительные лицензионные условия.

MAI-DS-R1 — языковая модель рассуждений, разработанная командой Microsoft AI на основе DeepSeek-R1 и дополнительно обученная для повышения отзывчивости на ранее заблокированные темы и улучшения профиля рисков с сохранением возможностей рассуждения. По метаданным, это плотная модель семейства DeepSeek V3 с 37,6 млрд параметров; она использует библиотеку Transformers, поддерживает диалог и интерфейс вызова инструментов, а длина контекста составляет 163 840 токенов. Модель предназначена для генерации и понимания текста, ответов на общие вопросы, многошаговых рассуждений, решения математических и логических задач, а также помощи с программированием и научными задачами. В README указано, что при постобучении использовались 110 тысяч примеров безопасности и отказов из Tulu 3 SFT и около 350 тысяч внутренних многоязычных примеров по темам, связанным с предвзятостью. По результатам оценок, приведённым в карточке, модель сохранила общие способности DeepSeek-R1, чаще отвечает на ранее блокировавшиеся запросы и лучше снижает вредоносное содержание по сравнению с исходной R1. Модель может выдумывать факты, сохранять предвзятость исходной модели и реагировать на состязательные запросы; её знания ограничены тем же срезом, что и у DeepSeek-R1. Она не предназначена для медицинских, юридических, финансовых и других высокорисковых решений без проверки человеком. Лицензия — MIT.

Это GGUF-представление NVIDIA Nemotron 3.5 Lightning — гибридной языковой модели NVIDIA с архитектурой Mixture-of-Experts, слоями Mamba-2 и выборочными слоями Attention. Модель содержит 30 млрд параметров, из которых при генерации активны около 3 млрд; контекст достигает 1 млн токенов, а на одной H100 — 256 тыс. токенов. В карточке представлены варианты F16, Q4_K_M и Q5_K_M; метаданные также указывают GGUF BF16. Модель предназначена для диалога и генерации текста, включая задачи с кодом, математикой, наукой, вызовом инструментов и структурированными ответами. Она поддерживает настраиваемый режим рассуждений и английский, испанский, французский, немецкий, итальянский и японский языки. Контрольные результаты в README показывают конкурентный уровень, но уступание более крупным моделям NVIDIA в большинстве приведённых агентных задач программирования и рассуждений. Этот чекпойнт описан как полноточечная основа для дальнейшей настройки, адаптации и выпуска квантованных вариантов; для непосредственного развёртывания NVIDIA рекомендует сопутствующий NVFP4-вариант. Репозиторий заявлен под лицензией OpenMDW-1.1.

duyntnet/Qwen2.5-3B-Instruct-imatrix-GGUF — набор imatrix-квантизаций в формате GGUF для instruction-tuned модели Qwen2.5-3B-Instruct, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для генерации текста, диалоговых ассистентов, следования инструкциям, работы со структурированными данными и форматированными ответами, включая JSON, а также для задач программирования и математики. Это авторегрессионная causal language model на архитектуре Transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV attention и связанными эмбеддингами слов. Модель содержит 3,09 млрд параметров, 36 слоёв и использует GQA с 16 головами для Q и 2 для KV. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Поддерживается более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся улучшенное следование инструкциям, генерация длинных текстов, обработка таблиц и других структурированных данных, а также возможности в программировании и математике. Формат GGUF и совместимость с llama.cpp, KoboldCPP, text-generation-webui и Ollama подходят для локального запуска, однако конкретные требования к памяти, производительность и качество зависят от выбранной квантизации. В репозитории указана лицензия other; дополнительные условия лицензирования не раскрыты.

QuantTrio/Qwen3.5-35B-A3B-AWQ — это AWQ-квантизированная версия мультимодальной модели Qwen3.5-35B-A3B, разработанной командой Qwen. Репозиторий QuantTrio содержит веса в формате, совместимом с Transformers и сервером инференса vLLM; квантизация выполнена методом data-free, без калибровочного датасета. Модель предназначена для генерации текста, программирования, рассуждений, агентских сценариев и анализа изображений с текстовыми запросами. Модель представляет собой causal language model с vision encoder и гибридной архитектурой, объединяющей Gated Delta Networks и разреженный Mixture-of-Experts. Всего заявлено 35B параметров, из которых при обработке активируется около 3B; указаны 40 слоёв, hidden dimension 2048 и контекст до 32768 токенов в рекомендуемой конфигурации vLLM. Поддерживаются 201 язык и диалект. Доступны вызовы инструментов, reasoning-режим и speculative decoding через соответствующие возможности vLLM. Ключевые преимущества — существенно меньшие требования к памяти по сравнению с полной версией модели, эффективный MoE-инференс и поддержка текстово-визуальных задач. Ограничения включают зависимость от очень новых версий vLLM и Transformers, CUDA 12.8, специальных параметров запуска и настройки expert parallelism при распределённом инференсе; README не содержит независимых результатов бенчмарков для этой AWQ-версии. Модель распространяется по лицензии Apache-2.0.

Brian6145/Qwen3.6-27B-Claude-Opus-DeepSeek-Distilled-Imatrix-MTP-GGUF — квантизированная модель в формате GGUF на базе Qwen/Qwen3.6-27B, разработанная Brian6145. Модель предназначена для локального запуска, агентских сценариев, использования инструментов, ReAct-подхода и выполнения длинных последовательностей задач. Заявлены улучшения в структурированном рассуждении, оркестрации инструментов, следовании инструкциям, математике и логическом выводе за счёт дистилляции из Claude Opus, DeepSeek и математических и логических моделей. Модель поддерживает английский и китайский языки и ориентирована на генерацию текста. Указаны архитектурная база Qwen3.6-27B, квантизация q4_k_m, поддержка speculative decoding через MTP и работы с длинным контекстом, однако точный размер контекстного окна не приведён. В README заявлены результаты BenchLocal 6-pack — 86,5, GPQA-Diamond-198 — 83,84% и MMLU-500 — 91,80%, а также высокая эффективность в задачах вызова инструментов, поиска ошибок и структурированного вывода. Ограничения включают некоторое снижение результата в DataExtract-15 по сравнению с базовой моделью и чувствительность агентного поведения к параметрам генерации. Рекомендуются temperature 0.6 и top_p 0.95; для заявленной производительности также указан режим q4_k_m с MTP=3. Модель распространяется по лицензии Apache-2.0.

soyrsoyr/Qwen3.8-27B-W4A16-AWQ-GPTQ — квантизированная версия мультимодальной модели Qwen3.8-27B семейства Qwen3.5, разработанной Qwen. Модель предназначена для обработки текста и изображений, генерации ответов, решения задач рассуждения, работы с кодом и использования в сценариях, где важны сниженные требования к памяти и высокая скорость инференса. Она поддерживает запуск через Transformers и vLLM. Модель использует гибридную архитектуру внимания и является VLM с текстовым декодером и vision tower. Веса линейных слоёв текстового декодера квантизированы в INT4 по схеме W4A16 с группой 128, с применением AWQ и GPTQ. Vision tower, гибридные linear-attention mixers и lm_head сохранены в формате bf16; также сохранён базовый MTP-предиктор для speculative decoding. Полный VLM хранится в формате compressed-tensors. Точные сведения о языках и размере контекстного окна в README не указаны, однако приведён пользовательский результат с окном обслуживания до 256K токенов. К сильным сторонам относятся существенное снижение потребления памяти, совместимость с CUDA GPU, поддержка Marlin или compressed-tensors INT4-ядер и небольшая потеря качества относительно bf16-версии. В указанных тестах среднее восстановление результатов составило 99,3% на OpenLLM v1 и 94,9% на генеративном reasoning-наборе; при этом на AIME-25 снижение заметнее. Для работы требуются совместимые CUDA GPU и программный стек vLLM или Transformers с поддержкой соответствующего формата. Лицензия — Apache-2.0.

Qwythos-9B-Claude-Mythos-5-1M-GGUF — это набор GGUF-квантизаций модели Qwythos-9B, разработанной Empero. Модель создана на базе Qwen3.5-9B и дообучена на более чем 500 млн токенов высококачественных трасс Claude Mythos и Claude Fable с использованием внутреннего инструмента Empero AI rethink. Доступны варианты от Q4_K_M до BF16, включая версии с MTP для ускорения генерации в совместимых сборках llama.cpp. Модель предназначена для локального запуска в llama.cpp, Ollama, LM Studio, jan, KoboldCpp и других GGUF-совместимых средах. Она ориентирована на рассуждения, генерацию текста, решение математических задач, function calling и агентские сценарии, а также на задачи в области кибербезопасности и биомедицины. Заявлена поддержка английского языка, нативного function calling по спецификации Qwen3.5 и контекстного окна до 1 048 576 токенов с масштабированием RoPE YaRN. Модель мультимодальна и поддерживает изображения при подключении отдельного vision projector в формате GGUF. Визуальная часть унаследована от Qwen3.5-9B и во время дообучения не изменялась, поэтому заявлены описание изображений, OCR печатного и рукописного текста, анализ графиков и таблиц, понимание интерфейсов и документов и базовое пространственное рассуждение. Сильными сторонами являются большой контекст, reasoning-возможности, function calling и широкий выбор уровней квантизации; при этом качество, скорость и требования к памяти зависят от выбранного варианта, а для изображений требуется дополнительный файл mmproj. Модель распространяется по лицензии Apache-2.0.

Rombo-LLM-V2.5-Qwen-32b — плотная языковая модель на 32 млрд параметров, разработанная Rombo-Org как дообученная версия Qwen2.5-32B-Instruct. README также сообщает о слиянии instruct- и base-моделей методом TIES, но метаданные классифицируют происхождение как дообучение Qwen/Qwen2.5-32B-Instruct. Модель предназначена для диалоговой генерации текста; в метаданных также заявлен интерфейс вызова инструментов. Архитектура — Qwen2ForCausalLM семейства Qwen2, формат весов — safetensors, контекст — до 32 768 токенов. Базовая модель поддерживает диалог, программирование, математику и структурированные ответы, однако README не приводит независимых оценок заявленного превосходства этой версии. Лицензия — Apache-2.0.

AFM-4.5B — инструкционная языковая модель Arcee.ai для диалогов и генерации текста. Это плотный decoder-only трансформер с архитектурой ArceeForCausalLM; в карточке указано 4,5 млрд параметров, а в метаданных — 6 млрд. Модель дообучена на основе arcee-ai/AFM-4.5B-Base с supervised fine-tuning и последующим обучением с подкреплением по проверяемым результатам и предпочтениям людей. Модель предназначена для генерации ответов и выполнения инструкций в различных средах развёртывания — от облака до периферийных устройств. Обучение включало данные для математических рассуждений и генерации кода. Среди архитектурных особенностей — grouped-query attention и активации ReLU²; поддерживаются диалоговый режим и контекст до 65 536 токенов. Указаны языки: английский, испанский, французский, немецкий, итальянский, португальский, русский, арабский, хинди, корейский и китайский. Модель распространяется под лицензией Apache 2.0. Карточка приводит оговорку о вариативности результатов на бенчмарках и рекомендуемые параметры генерации, но не описывает подробно конкретные слабые стороны модели.

calme-2.1-phi3.5-4b — дообученная Maziyar Panahi языковая модель на архитектуре Phi-3.5 для диалогов и генерации текста. Она предназначена для систем ответов на вопросы, чат-ботов и виртуальных помощников, а также для создания и суммаризации текстов, генерации и анализа кода и решения задач. Модель дообучена на microsoft/Phi-3.5-mini-instruct с использованием набора данных MaziyarPanahi/truthy-dpo-v0.1-axolotl; содержит 3,7 млрд параметров и поддерживает контекст до 4096 токенов. Для диалога применяется шаблон ChatML. Репозиторий содержит веса в формате Safetensors; отдельно упомянута квантованная версия GGUF. Карточка приводит результаты отдельных оценок IFEval и BBH, но не даёт полной таблицы бенчмарков. Модель может наследовать смещения и ограничения базовой языковой модели, поэтому для важных решений нужны проверка ответов и человеческий контроль. Лицензия — MIT.

Dragonboy3940/DeepSeek-V3-0324 — текстовая языковая модель семейства DeepSeek-V3, представленная в формате safetensors FP8. В карточке описаны улучшения рассуждений, генерации кода для веб-интерфейсов и игр, написания текстов на китайском языке, перевода, анализа поисковых результатов и вызова функций. Модель поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для генерации текста в диалоге, решения задач на рассуждение, написания и редактирования текстов, перевода и создания кода. Архитектура — DeepseekV3ForCausalLM; размер и контекстное окно соответствуют метаданным репозитория. Указана лицензия MIT. Карточка рекомендует обратиться к репозиторию DeepSeek-V3 за сведениями о локальном запуске.

EXAONE-3.5-7.8B-Instruct-GGUF — языковая модель для генерации текста и выполнения инструкций. Оригинальная модель разработана LGAI-EXAONE, а данная версия представляет собой GGUF-квантизацию, подготовленную bartowski на основе llama.cpp. Модель рассчитана на работу с английским и корейским языками. Модель имеет размер 7,8 млрд параметров и поддерживает контекст до 32 000 токенов. Она предназначена для диалоговых и прикладных сценариев, требующих следования инструкциям, решения математических задач и генерации или анализа программного кода. Формат GGUF делает её подходящей для локального запуска в совместимых инструментах, включая LM Studio и llama.cpp. К сильным сторонам относятся заявленные высокие результаты среди моделей с сопоставимой длиной контекста, хорошее следование инструкциям, математические и программные способности. Ограничения включают зависимость качества и скорости работы от выбранного уровня квантизации и оборудования, а также типичные для языковых моделей риски неточных, вредных или неподходящих ответов. Модель распространяется по лицензии EXAONE; README не содержит подробных условий лицензии, поэтому перед использованием следует ознакомиться с файлом LICENSE.

MuXodious/gemma-4-12B-it-QAT-SOMPOA-heresy — дообученная версия мультимодальной инструкционной Gemma 4 12B от Google DeepMind. Автор репозитория применил к базовой модели метод abliteration с инструментом Heretic и настройками Self-Organizing Maps и Magnitude-Preserving Orthogonal Ablation; по карточке, доля отказов в указанном тесте снизилась с 522/535 до 34/535. Модель предназначена для диалога, рассуждений и генерации текста, а также для анализа изображений, видео и аудио; семейство Gemma 4 также поддерживает код и вызов инструментов. Для этой версии в карточке названы размер 12B, контекст до 256K токенов и поддержка более 140 языков. Архитектура — плотная Gemma4UnifiedForConditionalGeneration; репозиторий содержит веса safetensors. Карточка описывает её как вариант Gemma с ослабленными отказами, но не приводит отдельной оценки качества этой конкретной модификации. Базовая модель Gemma 4 QAT использует веса, подготовленные с учётом квантования, однако в этом репозитории указан вариант unquantized Q4_0, а формат файлов — safetensors. Лицензия — Apache-2.0.

RedHatAI/gemma-4-26B-A4B-it-FP8-dynamic — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная RedHatAI на основе google/gemma-4-26B-A4B-it. Она принимает текст и изображения и генерирует текст; поддерживает режим рассуждений и вызов инструментов. Модель предназначена для диалоговых приложений, генерации текста, следования инструкциям, решения задач, мультимодального анализа и function calling. Архитектура модели — Gemma4ForConditionalGeneration. Вариант имеет конфигурацию 26B-A4B и оптимизирован для инференса в vLLM. Веса и активации линейных слоёв transformer-блоков квантизированы в FP8: веса используют статическое масштабирование per-channel, активации — динамическое масштабирование per-token. Vision tower, embedding-слои, output head и MoE router сохранены в исходной точности. Квантизация уменьшает объём хранения и требования к памяти GPU примерно на 50%; заявленная максимальная длина контекста при развёртывании составляет 32768 токенов. Поддерживаются изображения и аудио в конфигурации vLLM, однако сведения о языках обучения или поддержки в README не указаны. К сильным сторонам относятся мультимодальность, поддержка рассуждений и вызова инструментов, совместимость с vLLM и близкие к исходной модели результаты на указанных тестах после FP8-квантизации. Ограничениями являются зависимость от корректной настройки vLLM, специальных reasoning- и tool-call parser, а также возможные потери точности из-за квантизации. Модель распространяется по лицензии Apache 2.0; для использования Gemma также следует учитывать условия лицензии Google Gemma, указанной в README.

unsloth/gemma-4-E2B-it-NVFP4 — квантованная версия инструкционно дообученной мультимодальной модели Google Gemma 4 E2B-it, подготовленная Unsloth в формате NVFP4. Gemma 4 разработана Google DeepMind; модель предназначена для запуска и дообучения с использованием современных GPU-инструментов, включая vLLM. Модель принимает текстовые и графические данные, а также аудио, и генерирует текст. Она ориентирована на генерацию текста, рассуждения, программирование, мультимодальное понимание, агентские сценарии и вызов функций. Для Gemma 4 E2B заявлены поддержка более 140 языков, контекстное окно до 128K токенов и конфигурируемый режим рассуждений. Архитектура включает 35 слоёв, гибридное внимание с локальными окнами размером 512 токенов и глобальным вниманием; эффективный объём параметров составляет 2,3 млрд, или 5,1 млрд с учётом embedding-параметров. К сильным сторонам относятся мультимодальность, большой контекст, поддержка системных промптов и нативного function calling, а также компактный размер, подходящий для локального запуска на устройствах и потребительских GPU. NVFP4-квантизация может снизить требования к памяти, однако её влияние на качество и совместимость зависит от используемого программного и аппаратного окружения. README не приводит подробных результатов бенчмарков и не описывает ограничения безопасности или качества модели. Распространение указано по лицензии Apache 2.0.

GLM-5.3-Flash-Alis-MLX-4bit — это 4-битная сборка модели GLM-5.3-Flash, разработанной Zhipu AI (zai-org), адаптированная для выполнения через MLX на устройствах Apple Silicon. Модель предназначена для генерации текста и локального инференса, включая сценарии программирования, работы с прозой, анализа табличных данных и решения математических задач. Базовая модель имеет архитектуру glm5_next: 320B параметров, из которых 18B активируются на токен (320B-A18B), mixture-of-experts с 288 экспертами, 34 слоями линейного внимания и 11 слоями DSA, а также механизмом mHC. Данная версия получена потоковой деквантизацией официального релиза FP8 и сохраняет маршрутизатор MoE и correction bias в формате FP32. В README также указана поддержка спекулятивного декодирования и двухузлового tensor parallelism, однако часть этих режимов относится к отдельным сборкам или экспериментальной инфраструктуре, а не непосредственно к опубликованному checkpoint. К сильным сторонам относятся существенно сниженный объём хранения по сравнению с полной моделью, оптимизация под MLX и высока скорость генерации на мощных системах Apple Silicon; для конфигурации M3 Ultra 512GB заявлялась скорость около 29 токенов в секунду при обычном декодировании. Ограничениями являются очень высокие требования к памяти, зависимость производительности от аппаратной конфигурации и MLX-окружения, а также экспериментальный статус некоторых режимов параллельного и спекулятивного декодирования. Модель распространяется по лицензии MIT.

Модель ryugyosoft/granite-4.2-8b-onw — адаптация IBM Granite 4.2 8B для запуска через движок onw на Intel NPU. Это плотная авторегрессионная Transformer-модель с 8,4 млрд параметров и контекстом до 131 072 токенов. Весовые файлы преобразованы в статические графы и повторно квантованы: основная часть использует знаковую INT4-квантизацию, а проекции q/k/v внимания и выходной слой — INT8. Обучение не проводилось. Модель предназначена для диалогов, рассуждений и вызова инструментов через OpenAI-совместимый API, включая агентские сценарии с поиском в интернете, работой в терминале и исправлением кода. Она принимает текст и генерирует текст; README описывает поддержку японского и английского языков. Для запуска требуется совместимый компьютер с Intel Core Ultra NPU; автор приводит скорость около 3,6 токена/с на NPU 3720 и рекомендует не менее 32 ГБ памяти. Лицензия — Apache 2.0, как у базовой модели.

Hermes-4.3-36B-heretic — это экспериментальная версия разговорной языковой модели Hermes 4.3 от Nous Research, созданная на базе ByteDance-Seed/Seed-OSS-36B-Base. Модель дообучена для диалога и следования инструкциям; поддерживает генерацию текста, рассуждения, вызов инструментов и структурированные ответы в JSON. В карточке указано 31,7 млрд параметров, архитектура SeedOssForCausalLM и контекст до 524 288 токенов. Модель предназначена для ответов на вопросы, решения задач по математике и программированию, работы с текстом и диалоговых сценариев, в том числе с инструментами. Вариант heretic получен abliteration: приведённые в README измерения показывают меньше отказов, чем у исходной Hermes-4.3-36B, но это не означает гарантированную пригодность ответов во всех сценариях. Модель принимает текст и выдаёт текст. Лицензия — Apache-2.0.

lyf/Huihui-gemma-4-31B-it-abliterated-v2-NVFP4 — мультимодальная 31-миллиардная модель, представляющая собой NVFP4-квантизированную версию Huihui-gemma-4-31B-it-abliterated-v2 от huihui-ai, созданную на базе Google Gemma 4 31B IT. Релиз предназначен для диалогов, генерации и анализа текста, следования инструкциям, программирования, структурированного вывода, а также обработки изображений и видео. В README также указана abliteration-интервенция, направленная на удаление отказов модели. Модель поддерживает сценарии «текст—текст», «изображение—текст» и «видео—текст»; аудио не поддерживается, поскольку в 31B-чекпойнте отсутствует аудиоэнкодер. Визуальная башня сохранена в формате BF16, а большинство линейных слоёв текстового стека, включая слои self-attention, квантизированы в NVFP4. Эмбеддинги, lm_head и визуальная часть также остаются в BF16. Размер файлов составляет около 19,5 ГБ, что позволяет запускать модель на одной видеокарте RTX 5090 с 32 ГБ памяти; заявленная скорость декодирования — около 69 токенов в секунду. К сильным сторонам относятся уменьшенный размер, сохранение мультимодальных возможностей исходной модели, улучшенное по сравнению с предыдущей версией значение perplexity и более строгое следование инструкциям по результатам локального тестирования. Ограничения связаны с отсутствием аудиоподдержки, требовательностью к совместимому программному стеку и аппаратному обеспечению, а также возможным влиянием агрессивной NVFP4-квантизации на качество. Для работы рекомендуется vLLM с поддержкой Gemma 4 и NVFP4. Лицензия указана как gemma.

RedHatAI/Meta-Llama-3.1-70B-Instruct-quantized.w8a8 — квантизированная версия Meta-Llama-3.1-70B-Instruct, разработанная Neural Magic. Это авторегрессионная текстовая модель архитектуры LlamaForCausalLM, предназначенная прежде всего для диалоговых ассистентов, генерации текста и коммерческого или исследовательского использования. Поддерживаемые в карточке языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель принимает и возвращает текст; заявленный сценарий развертывания использует контекст до 8192 токенов. Модель применяет INT8-квантизацию весов и активаций с использованием GPTQ и библиотеки llm-compressor. Квантизация уменьшает требования к памяти GPU и размер файлов примерно на 50%, а также заявлено увеличение пропускной способности матричных умножений примерно в 2 раза по сравнению с представлением FP16. Линейные операторы в трансформерных блоках квантизуются по каналам для весов и динамически по токенам для активаций; отдельные компоненты, включая lm_head, не квантизуются. По результатам, приведённым в README, модель сохраняет большую часть качества исходной версии: заявлены показатели восстановления 98,8% для Arena-Hard, 99,9% для OpenLLM v1, 100,0% для OpenLLM v2, 98,7% для HumanEval pass@1 и 98,9% для HumanEval+ pass@1. Основное ограничение — возможная потеря качества из-за квантизации, а также необходимость совместимого программного обеспечения и аппаратных ресурсов; для эффективного развертывания рекомендуется vLLM, в примере используются два GPU. Модель распространяется по лицензии Llama 3.1; использование должно соответствовать применимым законам и ограничениям.

MiMo-V2.5 — нативная омнимодальная модель, разработанная Xiaomi MiMo. Она объединяет обработку текста, изображений, видео и аудио в единой архитектуре и предназначена для мультимодального понимания, рассуждений в длинном контексте, программирования и агентских сценариев, включая взаимодействие с инструментами и выполнение многошаговых задач. Модель построена на разреженной архитектуре Mixture of Experts: всего 310 млрд параметров, из которых активируется 15 млрд. Она использует гибридное внимание с чередованием Sliding Window Attention и Global Attention, 729-миллионный Vision Transformer для изображений и видео и аудиоэнкодер на 261 млн параметров. Поддерживается контекст до 1 млн токенов, а Multi-Token Prediction ускоряет инференс посредством speculative decoding. В заявленных языках указаны английский и китайский. К сильным сторонам относятся широкий набор модальностей, большой контекст, эффективная работа с длинными последовательностями и развитые агентские возможности. Модель крупная и, вероятно, требует значительных вычислительных ресурсов для развёртывания; README не приводит точных требований к оборудованию и количественных результатов benchmark-тестов. Модель распространяется по лицензии MIT.

Mistral-Nemo-Instruct-2407-GGUF — квантизированная GGUF-версия инструкционной языковой модели Mistral-Nemo-Instruct-2407, разработанной Mistral AI (mistralai) и подготовленной квантизацией компанией Second State Inc. Модель предназначена для диалоговых приложений, генерации и обработки текста, запуска локально через совместимые инструменты, включая LlamaEdge и llama.cpp. Доступны варианты квантизации от Q2_K до Q8_0, а также f16; размер файлов составляет примерно от 4,79 до 24,5 ГБ. Для запуска используется шаблон запросов mistral-instruct, а заявленный размер контекста — 128 000 токенов. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Это текстовая модель без заявленной поддержки других модальностей. Основное преимущество набора — возможность выбрать баланс между размером, требованиями к ресурсам и качеством: Q4_K_M и Q5_K_M отмечены как рекомендуемые варианты, тогда как низкобитные версии сильнее теряют качество. Ограничения включают зависимость качества и производительности от выбранной квантизации и оборудования; архитектура и точное число параметров в README не указаны. Модель распространяется по лицензии Apache-2.0.