II.3Рефакторинг, миграция и модернизация

GLM-5.3-Flash — разработанная Z.ai модель семейства GLM-5, опубликованная RedHatAI в формате BF16. Это плотная мультимодальная модель с архитектурой GLM5 Next: всего 320 млрд параметров, из которых активно используются 18 млрд. Она сочетает разреженное и линейное внимание для более экономичной обработки длинных контекстов и предназначена для диалогов, программирования и агентных сценариев. Модель обучена с нуля на мультимодальном корпусе из 30 трлн токенов. В README заявлена поддержка локального развёртывания через SGLang, vLLM, TokenSpeed и KTransformers; метаданные Hugging Face указывают библиотеку Transformers и возможность чата. Метки карточки указывают английский и китайский языки. Лицензия — MIT. В предоставленных данных не приведены численные результаты независимой оценки качества или ограничения по аппаратным требованиям.

GPT-5.4 mini — компактная модель OpenAI, созданная для более быстрой и эффективной работы по сравнению с GPT-5.4 при высокой нагрузке. Она принимает текстовые и графические входные данные и предназначена для задач рассуждения и программирования. Модель подходит для приложений, которым нужны быстрые ответы при большом потоке запросов, включая задачи с изображениями. В предоставленных данных не описаны её размер, длина контекста, поддерживаемые языки или условия лицензирования.

unsloth/gpt-oss-20b-bnb-4bit — 4-битная версия модели gpt-oss-20b, опубликованная Unsloth и основанная на открытой модели OpenAI. Она предназначена для генерации текста, локального и специализированного использования, сценариев с пониженной задержкой, рассуждений и агентских задач. Модель поддерживает вызов функций, веб-браузинг, выполнение кода на Python и структурированные ответы. gpt-oss-20b — разреженная MoE-модель с 21 млрд параметров, из которых при обработке активны 3,6 млрд. Она обучена в формате ответов harmony и должна использоваться с ним. Доступна настройка интенсивности рассуждений — низкая, средняя или высокая. Модель поддерживает дообучение, а 4-битное представление снижает требования к памяти; исходная модель рассчитана на работу в пределах 16 ГБ памяти. В README не указаны языки и размер контекстного окна. Полный процесс рассуждений доступен для отладки и повышения прозрачности, но не предназначен для показа конечным пользователям. Лицензия Apache 2.0 разрешает использование, модификацию и коммерческое развертывание без требований copyleft. Ограничения связаны с необходимостью корректно применять формат harmony и с тем, что README не содержит подробной оценки качества, перечня поддерживаемых языков или гарантий безопасности.

Карточка модели Ishowbackup/Hy3 на Hugging Face совпадает с карточкой tencent/Hy3, поэтому описание составлено по ней. Hy3 — разговорная модель с открытыми весами, разработанная командой Tencent Hy. Это MoE-модель для генерации текста; карточка Hugging Face описывает вариант репозитория как модель на 16,6 млрд параметров, а README — семейство Hy3 как модель на 295 млрд параметров с 21 млрд активных параметров и 3,8 млрд параметров MTP-слоя. Модель предназначена для рассуждений, работы с длинным контекстом, вызова инструментов и задач продуктивности, включая программирование, офисную работу, финансовое моделирование, фронтенд-разработку и создание игр. В метаданных указан контекст 262 144 токена, поддержка чата и формат Safetensors. Разработчик сообщает об улучшениях надёжности вызова инструментов, следования форматам, удержания контекста и снижения галлюцинаций по внутренним оценкам. README рекомендует серверный запуск через vLLM или SGLang и отмечает значительные требования к памяти: для полного варианта предлагается конфигурация из восьми GPU H20-3e или устройств с сопоставимой памятью. Лицензия — Apache-2.0. Языки в источниках не установлены.

INTELLECT-3 — языковая модель Prime Intellect для рассуждений, дообученная на базе GLM-4.5-Air-Base с помощью supervised fine-tuning и масштабного обучения с подкреплением. Это модель архитектуры Mixture-of-Experts: в README указано 106 млрд параметров, из которых 12 млрд активируются; метаданные репозитория указывают 8,5 млрд параметров. Поддерживает контекст до 131 072 токенов и представлена в формате safetensors. Модель предназначена для генерации текста и диалогового применения, особенно для решения математических задач, программирования и многошаговых рассуждений. README сообщает о высоких результатах на тестах MATH-500, AIME, LiveCodeBench и GPQA. Указан интерфейс для использования инструментов при обслуживании через vLLM. В карточке перечислены английский язык и лицензия MIT. Размер параметров в README и метаданных расходится; при планировании развёртывания это следует учитывать.

Llama3.1-8B-Titanium-Forge — языковая модель, созданная ZeroXClem методом слияния четырёх моделей ValiantLabs на базе семейства Llama 3.1. Она объединяет диалоговые навыки ShiningValiant2, математические способности Cobalt, генерацию кода Enigma и структурированный вывод Fireplace2. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст, выдавая текст; заявленная длина контекста — 131 072 токена. Модель предназначена для технических консультаций, решения математических задач, написания и объяснения кода, создания SQL-запросов и JSON, а также для диалоговых помощников и творческого письма. Карточка заявляет поддержку вызова инструментов через интерфейс модели. Основной язык — английский; метаданные не содержат отдельного перечня поддерживаемых языков. Весовые файлы опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Заявленные специализации происходят из карточки и не сопровождаются результатами оценивания; точность ответов, качество на длинном контексте и надёжность структурированного вывода следует проверять для конкретного применения.

Карточка модели ByteResearch/Llama-3-8B-Instruct на Hugging Face совпадает с карточкой kuotient/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. kuotient/Meta-Llama-3-8B-Instruct — чат-модель, разработанная Meta на основе семейства Llama 3. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с примерно 7,5 млрд параметров и механизмом Grouped-Query Attention. Она принимает текст и генерирует текст или код; версия с инструкционной настройкой предназначена для диалогов и работы в роли помощника. Модель рассчитана прежде всего на английский язык, а её контекстное окно составляет 8192 токена. Модель подходит для диалоговых помощников, ответов на вопросы, генерации и редактирования текста и кода. Инструкционные варианты Llama 3 настроены с помощью supervised fine-tuning и обучения с обратной связью от людей для повышения полезности и безопасности. Модель статична и обучена на офлайн-данных. Для использования действует специальная коммерческая лицензия Meta Llama 3; необходимо соблюдать её условия и политику допустимого использования.

MaziyarPanahi/Meta-Llama-3-8B-Instruct-GGUF — это квантизированная версия инструкционно дообученной модели Meta-Llama-3-8B-Instruct, разработанной Meta и преобразованной в формат GGUF пользователем MaziyarPanahi. Модель предназначена для диалоговых ассистентов, генерации текста и кода, а также коммерческого и исследовательского использования на английском языке. Для работы необходимо применять шаблон запросов Llama 3. Модель представляет собой авторегрессионную языковую модель на оптимизированной архитектуре Transformer с 8 млрд параметров и механизмом Grouped-Query Attention (GQA). Она принимает только текст и генерирует текст или код, имеет контекст 8 тысяч токенов и обучалась на более чем 15 трлн токенов общедоступных онлайн-данных. Инструкционная версия использует supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности. Репозиторий содержит варианты квантизации от 2 до 16 бит, что позволяет выбирать компромисс между размером модели, скоростью и качеством вывода. Сильными сторонами являются поддержка диалоговых сценариев, генерации кода и возможность запуска через совместимые инструменты для GGUF, включая llama.cpp, с меньшими требованиями к ресурсам благодаря квантизации. Ограничения включают преимущественную ориентацию на английский язык, контекст длиной 8 тысяч токенов, статичность модели и возможные потери качества в квантизированных вариантах. Использование регулируется пользовательской лицензией Meta Llama 3 и соответствующей политикой допустимого использования.

Moe-3x7b-QA-Code-Inst — текстовая модель nextai-team для ответов на вопросы и генерации кода. Она использует архитектуру Mixture of Experts семейства Mixtral; в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для разработчиков, специалистов по данным и исследователей, которым нужны помощник по программированию, технический бот или инструмент для обучения и проверки кода. В обучении, согласно карточке, использовались техническая документация, открытые репозитории кода и вопросы с ответами Stack Overflow. Модель поддерживает диалог и задачи, связанные с кодом; карточка указывает английский язык. Лицензия — Apache-2.0. Результаты могут быть предвзятыми и зависеть от точности и контекста запроса; сгенерированный код и ответы следует проверять. Карточка заявляет об улучшении по сравнению с предшественником, но не приводит метрик бенчмарков.

Muse-Glimmer-30B-ExecuTorch-PTE — вариант мультимодальной модели Muse Glimmer от Meta, подготовленный для запуска в формате ExecuTorch PTE. Это дообученная модель с плотным причинным трансформером и отдельным энкодером восприятия, примерно на 29,6 млрд параметров. Она принимает текст и изображения, поддерживает диалог и предназначена для агентных сценариев: многошагового планирования, вызова инструментов, восстановления после ошибок, программирования и анализа скриншотов, графиков и документов. В README заявлена поддержка более 100 языков и управление интенсивностью рассуждений. Модель рассчитана на локальных ИИ-агентов, кодинг-агентов, генерацию синтетических данных и оценку ответов других моделей. Репозиторий лицензирован по Apache 2.0. В данной серверной реализации доступны только текст и одно изображение JPEG или PNG на запрос; видео и аудио не поддерживаются. Сервер обрабатывает запросы последовательно, без пакетной параллельной обработки, а состояние сессий не сохраняется между перезапусками. Ответы могут быть неточными, предвзятыми или нежелательными; для практического развертывания авторы рекомендуют дополнительные защитные механизмы.

NVIDIA-Nemotron-3-Ultra-550B-A55B-quantized.w4a16 — большая языковая модель Red Hat на базе NVIDIA Nemotron 3 Ultra 550B A55B BF16, опубликованная для генерации текста, рассуждений и работы с инструментами. Она предназначена для сложного решения задач, математики и естественных наук, генерации кода и выполнения инструкций. Модель поддерживает ввод и вывод текста, а также вызов инструментов. Модель использует архитектуру NemotronHForCausalLM, содержит 550 млрд общих параметров и 55 млрд активных параметров. Веса линейных операторов в трансформерных блоках квантизированы в INT4 по схеме W4A16 с размером группы 128; применяется асимметричное покомпонентное квантование по группам. Это примерно на 75% снижает размер модели на диске и требования к памяти GPU по сравнению с BF16-версией. Для работы с рассуждениями и вызовом инструментов требуются соответствующие парсеры vLLM. Заявленная длина контекста — до 262 144 токенов. Сильными сторонами модели являются высокая емкость для сложных задач, поддержка reasoning, генерации кода и tool calling, а также существенное снижение требований к памяти благодаря INT4-квантизации. Ограничения включают значительные вычислительные требования: в рекомендованной конфигурации используется 8 GPU; сведения о поддерживаемых языках и количественных результатах оценки в README не указаны. Модель распространяется по лицензии NVIDIA Open Model License; использование, нарушающее применимое законодательство или нормативные требования, исключено из области применения.

OpenAI o3-mini — компактная языковая модель OpenAI, оптимизированная для рассуждений в задачах STEM, особенно в науке, математике и программировании. Она предназначена для генерации текста и помощи в решении технических задач; поддерживает параметр reasoning_effort для настройки уровня усилий при рассуждении. Модель подходит для объяснения научных концепций, решения математических задач и помощи с кодом. Данных о размере, контекстном окне, поддерживаемых языках и лицензии в предоставленных источниках нет.

Olmo 3 32B Think — плотная авторегрессионная трансформерная языковая модель для генерации текста, разработанная Allen Institute for AI (Ai2). Версия Think обучена для задач рассуждения, включая математику и программирование, а также для диалога и общих вопросов. Модель содержит 31,7 млрд параметров, поддерживает контекст до 65 536 токенов и работает с текстом на английском языке. Это дообученная версия allenai/Olmo-3-32B-Think-DPO, прошедшая обучение с подкреплением на данных Dolci-Think-RL. Модель распространяется в формате Safetensors и поддерживается Transformers версии 4.57.0 и выше. Лицензия Apache 2.0; в карточке указано предназначение для исследований и образования в соответствии с рекомендациями Ai2 по ответственному использованию.

Ornstein-3.5-9B-V1.5 — дообученная DJLougen / GestaltLabs модель семейства Qwen3.5 с примерно 9,65 млрд параметров. Это плотная модель на базе Qwen/Qwen3.5-9B-Base, выпущенная в формате BF16 и предназначенная для диалогового использования через Transformers; карточка также указывает интерфейс вызова инструментов. Модель ориентирована на многошаговые рассуждения, научные и технические задачи, помощь в исследованиях ИИ, программирование и обычный диалог. По заявленным разработчиком тестам GBS STANDARD-200 она превосходит базовую модель в рассуждениях и научных вопросах; результаты приведены в README и не гарантируют аналогичного качества на других задачах. V1.5 — промежуточный релиз supervised fine-tune, а не описываемая как завершённая версия будущего этапа обучения с reinforcement learning. Модель принимает текст и выдаёт текст. Карточка ориентирует её на английский язык. Лицензия — Apache 2.0.

Qwen3-4B-Thinking-2507-Qwen3.8-Max-Distillation-Detrax — компактная дистиллированная языковая модель в формате GGUF, опубликованная пользователем или организацией Detrax. Она основана на Qwen3-4B-Thinking-2507 и обучалась с использованием набора данных r0b0tlab/qwen3.8-max-distillation-50k. В README не указаны точные сведения о разработчике дистилляции, языковом охвате и исходной архитектуре, кроме принадлежности к семейству Qwen и наличия 4 млрд параметров. Модель предназначена для генерации текста, многошагового рассуждения, написания и отладки кода, решения математических задач, структурированного логического вывода и точного соблюдения инструкций и ограничений. Заявлены улучшения по сравнению с базовой моделью в математическом рассуждении, генерации кода, логическом выводе, релевантности и сходстве ответов; наиболее заметные результаты отмечены для алгоритмических и требующих строгого соблюдения ограничений задач. Модель поставляется в вариантах F16, Q8_0, Q6_K и Q4_K_M размером примерно от 2,3 до 7,5 ГБ. Она совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими средами, поддерживающими GGUF. Рекомендуемая длина контекста составляет 8192 токена. Сильными сторонами являются компактность, эффективность на технических задачах и возможность запуска на CPU или с GPU offloading. Ограничения включают меньший размер по сравнению с крупными моделями, зависимость качества от выбранного уровня квантования и отсутствие в README подробных данных о поддерживаемых языках, мультимодальности и независимой оценке качества. Модель распространяется по лицензии Apache-2.0.

AtomicChat/Qwen3.6-27B-GGUF — набор GGUF-квантизаций базовой модели Qwen/Qwen3.6-27B, подготовленный и самостоятельно квантизированный командой Atomic Chat из оригинальных весов с использованием importance matrix. Модель предназначена для локального и полностью офлайн-использования в задачах генерации текста, диалоговых сценариях, программировании, фронтенд-разработке и рассуждениях на уровне репозитория. Для работы рекомендуется использовать llama.cpp и применять шаблон чата Qwen3.6 через параметр --jinja. Модель содержит 27,8 млрд параметров, имеет плотную decoder-архитектуру с 64 слоями, 24 attention heads и 4 KV heads, словарь из 248 320 токенов и контекст до 262 144 токенов. Базовая Qwen3.6-27B поддерживает текст и изображения, однако представленные в этом репозитории GGUF-файлы являются текстовыми и не содержат vision projector. Доступны варианты квантизации от Q2_K до Q8_0; Q4_K_M заявлен как оптимальный баланс размера, скорости и качества, а Q6_K и Q8_0 обеспечивают более высокую точность при повышенных требованиях к памяти. К сильным сторонам относятся офлайн-запуск, широкий выбор размеров, калибровка всех вариантов с importance matrix и сохранение большинства характеристик полноточной модели, особенно начиная с Q4_K_M. Ограничения включают потерю качества в низкобитных вариантах, значительные требования к оперативной или видеопамяти и отсутствие поддержки изображений в поставляемых файлах. В README указана лицензия Apache-2.0.

Это GGUF-представление модели Qwen3.6-35B-A3B от команды Qwen компании Alibaba, подготовленное FreedomAISVR и основанное на NVFP4 Fast-квантизации Unsloth. Модель мультимодальная, с архитектурой MoE: 35 млрд параметров всего и около 3 млрд активных на токен; текстовая часть использует 40 слоёв с гибридом Gated DeltaNet и полнослойного внимания, а для изображений и видео предусмотрен визуальный энкодер на базе SigLIP. В репозитории есть файл модели NVFP4 и отдельный vision-проектор F16. Модель предназначена для диалогов, анализа изображений и видео, работы с инструментами и агентных задач, включая программирование. Заявлены контекст 262 тыс. токенов с возможностью расширения через YaRN и поддержка Multi-Token Prediction для ускорения декодирования. README сообщает о более высокой пропускной способности Fast-варианта по сравнению с другими NVFP4-квантованиями при конкурентных результатах бенчмарков; фактическая скорость зависит от оборудования и среды запуска. Для полной выгрузки на GPU рекомендуется не менее 32 ГБ видеопамяти; оптимальная производительность заявлена на NVIDIA Blackwell B200. Модель распространяется по лицензии Apache-2.0. Это производная модель в формате GGUF с NVFP4-квантизацией; для обработки изображений нужен отдельный файл vision-проектора. Указаны английский и китайский языки, поэтому качество на других языках не следует считать подтверждённым.

TelperionAI/Qwen3.8-27B-NVFP4-AWQ-GPTQ — это квантованная версия базовой модели Qwen/Qwen3.8-27B, опубликованная под лицензией Apache-2.0. Модель предназначена для запуска большой языковой модели с меньшими требованиями к памяти, прежде всего в задачах генерации и обработки текста, включая программирование, математику, STEM, диалоги и многоязычные сценарии. В README также указана поддержка speculative decoding через MTP и возможность FP8-квантизации KV-кэша. Модель использует смешанную точность: основные MLP-слои квантованы в NVFP4 с группами размера 16 и FP8-масштабами, часть MLP-слоёв, attention- и GDN-модули работают в динамическом FP8, а эмбеддинги, lm_head, нормализации, параметры состояния GDN, MTP-голова и vision tower сохранены в BF16. Квантизация выполнена методом AWQ с последующим GPTQ и калибровкой на сбалансированном наборе данных из кода, математики, STEM, диалогов и многоязычных текстов. Размер чекпойнта составляет около 24,7 ГБ. По приведённому сравнению модель точнее других рассмотренных NVFP4-чекпойнтов и заметно компактнее FP8-версии, сохраняя высокую скорость инференса. AWQ повышает устойчивость к потере качества без увеличения размера или снижения пропускной способности. Ограничения включают необходимость Blackwell-класса GPU, совместимый vLLM с compressed-tensors и то, что оценка проводилась только на одном внутреннем корпусе; качество vision tower отдельно не оценивалось. Acceptance rate для MTP не измерялся.

Qwen3.8-9B — плотная языковая модель на 9 млрд параметров от Empero, полученная дистилляцией рассуждений модели-учителя Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B. Это полное дообучение всех параметров базовой модели на SFT-примерах: примерно 70 тысяч отобранных трасс учителя по математике, программированию, общим рассуждениям, следованию инструкциям и работе с инструментами. Модель использует архитектуру Qwen3.5 и формат весов Safetensors; нативный контекст составляет 262 144 токена. Она предназначена для генерации ответов с пошаговыми рассуждениями, решения математических задач, написания кода и вызова инструментов. В карточке приведены результаты тестирования на GSM8K и MMLU; на MMLU модель заметно превзошла базовую Qwen3.5-9B, тогда как на GSM8K показала немного более низкий результат. Интерфейс вызова функций поддерживается без дополнительной обёртки. Лицензия — Apache-2.0. Тонкая настройка проводилась только для текста; визуальные возможности унаследованы от мультимодальной базы, но в карточке не оценивались.

Qwen3.8-Flash-Next-oQ4e-100K-MTP — это нативно квантованная версия Qwen3.8-Flash-Next, разработанная jedisct1 для среды oMLX и OpenAI-совместимого API на базе MLX. Модель предназначена для coding agents, других агентных сценариев, работы с текстом и изображениями, а также tool calling через совместимые клиенты. Она сохраняет vision tower Qwen4, MTP-голову и нативную архитектурную настройку контекста 262 144 токена, однако для конфигурации с 128 ГиБ памяти рекомендован безопасный общий лимит контекста 100 000 токенов. Основной формат весов — аффинное квантование oQ4e с размером группы 64; крупная PLE-таблица использует 4-битное квантование с размером группы 32. Часть компонентов оставлена в BF16 для сохранения качества вывода и эффективности MTP, а отдельные маршрутизируемые проекции — в Q8. Размер весов составляет примерно 108,8 млрд байт в 22 файлах safetensors. Модель поддерживает визуальный ввод, а README подтверждает успешное распознавание изображений и проверку вызова инструментов, но точный набор поддерживаемых языков не указан. Сильными сторонами являются очень длинный контекст, поддержка изображений и инструментов, совместимость с OpenAI API, prompt caching через SSD и оптимизация для локального запуска на Mac с 128 ГиБ памяти. Ограничения — необходимость oMLX, SSD-offload для полного контекста, значительные требования к памяти и рекомендация отключать MTP для coding agents: при включении MTP в тестах один из десяти защитных сценариев tool calling не был пройден. Модель распространяется по лицензии qwen-community-1.0; это лицензия с обозначением other, а её полный текст находится в файле LICENSE.

AriannaV4 — мультимодальная модель-ассистент, созданная SurgeFF на базе google/gemma-4-12B с объединёнными весами Aria v4. Это самостоятельная модель для локального запуска; доступны веса в формате safetensors и варианты GGUF разной точности для llama.cpp, Ollama и LM Studio. Архитектура относится к Gemma 4 Unified, размер базовой модели — 12 млрд параметров. Модель предназначена для диалогов, рассуждений, работы с текстом и кодом, математических задач, выбора инструментов, а также понимания изображений, аудио и видео. Для голосового ввода и вывода в реальном времени, генерации изображений и видео и получения эмбеддингов README описывает отдельные подключаемые компоненты: эти возможности не встроены в веса AriannaV4. Репозиторий предназначен для локального развертывания и позиционируется автором как production-ассистент. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространяет производные работы на тех же условиях и запрещает коммерческое использование.

Dolphin-2.9.1-Llama-3-8B-GGUF — квантизированная версия языковой модели Dolphin-2.9.1-Llama-3-8B, созданной cognitivecomputations на базе Meta Llama 3 8B. Дистрибутив подготовлен bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, программирование, математические задачи, function calling и агентские задачи. При дообучении использовались наборы Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, Samantha, Orca Math, Locutusque Function Calling и Agent-FLAN. Доступны варианты квантизации от Q8_0 до низкобитных IQ- и Q-форматов, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Для работы предусмотрен chat-шаблон с ролями system, user и assistant. Сильной стороной модели является широкий охват инструкционных, кодовых, математических и инструментальных сценариев, а также возможность локального запуска через llama.cpp благодаря форматам GGUF. Более сильные варианты квантизации обычно обеспечивают лучшее качество, но требуют больше памяти; низкобитные варианты экономичнее, однако заметно уступают по качеству. Мультимодальность, поддерживаемые языки и размер контекстного окна в предоставленных данных не указаны. Лицензия обозначена как other, без дополнительных условий в README.

AtomicChat/gemma-4-E2B-it-assistant-GGUF — это квантизированная в формат GGUF версия модели google/gemma-4-E2B-it-assistant, подготовленная командой Atomic Chat на основе оригинальных весов Google. Модель предназначена для локального и полностью автономного запуска, прежде всего для текстовой генерации, диалоговых ассистентов, рассуждений, программирования и обработки длинного контекста. Для работы в llama.cpp необходимо применять шаблон чата Gemma 4 через параметр --jinja. Модель имеет плотную decoder-архитектуру Gemma4AssistantForCausalLM с 35 слоями, гибридным вниманием — скользящее окно 512 токенов и глобальное внимание — четырьмя attention heads на одну KV head, словарём из 262 тысяч токенов и заявленным контекстом до 128K токенов. Эффективный размер составляет 2,3 млрд параметров, или 5,1 млрд с учётом embedding-параметров. Базовая модель поддерживает текст, изображения и аудио, однако представленные GGUF-файлы являются текстовыми и не содержат vision projector. Доступны варианты Q4_K_S, Q4_K_M, Q5_K_M, Q8_0 и F16; квантизация выполнена с importance matrix, что помогает сохранять качество исходной модели при меньшем размере. Сильными сторонами являются компактность, возможность офлайн-развёртывания, поддержка длинного контекста и несколько уровней компромисса между качеством, скоростью и требованиями к памяти. Ограничения этой версии — отсутствие мультимодальных возможностей базовой модели и потенциальная потеря качества при низкобитной квантизации; приведённые в README результаты относятся к исходной модели Google, а не к самостоятельным измерениям этой сборки. Модель распространяется по лицензии Apache-2.0.

Карточка модели tactBagel/GLM-4.6-Derestricted-v3 на Hugging Face совпадает с карточкой ArliAI/GLM-4.6-Derestricted-v3, поэтому описание составлено по ней. GLM-4.6-Derestricted-v3 — текстовая диалоговая модель Arli AI, созданная на основе GLM-4.6 от Zhipu AI. Разработчики применили к базовой модели метод Norm-Preserving Biprojected Abliteration, чтобы убрать поведение отказа, стараясь сохранить рассуждения и другие способности исходной модели. Это модификация весов, а не отдельная архитектура; в репозитории указаны 23,4 млрд параметров, семейство GLM-4 MoE и формат safetensors. Модель предназначена для генерации диалоговых ответов, рассуждений, написания кода и агентных сценариев. Унаследованный от GLM-4.6 контекст составляет 202 752 токена; исходная карточка также описывает поддержку использования инструментов. В карточке заявлено, что удаление отказов позволяет сохранить или улучшить рассуждения, однако независимых подтверждений этих заявлений не приведено. Модель принимает текст и генерирует текст. Лицензия — MIT. Языки явно не перечислены; исходная GLM-4.6 описана как модель для текста и кода, но конкретный набор естественных языков не указан.

casperhansen/llama-3-8b-instruct-awq — квантизированная AWQ-версия Meta Llama 3 8B Instruct, опубликованная пользователем casperhansen на Hugging Face на основе модели Meta. Это авторегрессионная языковая модель для генерации текста и кода, прежде всего для диалоговых ассистентов, следования инструкциям и локального инференса. Модель принимает текст и генерирует текст; мультимодальность не заявлена. Модель содержит около 8 млрд параметров и использует оптимизированную Transformer-архитектуру Llama с Grouped-Query Attention. В репозитории указана 4-битная AWQ-квантизация с group size 128, а максимальная длина контекста в конфигурации составляет 8192 токена. Исходная Meta Llama 3 8B Instruct предназначена главным образом для английского языка, коммерческого и исследовательского применения. Квантизация ориентирована на более экономичное по памяти развертывание, однако может снижать точность по сравнению с полной точностью; стандартные ограничения языковых моделей, включая ошибки и остаточные риски безопасности, сохраняются. Использование регулируется кастомной Meta Llama 3 Community License и Acceptable Use Policy, условия которых необходимо соблюдать при применении и распространении модели или производных работ.

JetBrains/Mellum2-12B-A2.5B-Instruct-GGUF-Q8_0 — это квантованная в формате GGUF версия инструкционной модели Mellum2-12B-A2.5B-Instruct, разработанной JetBrains. Модель предназначена для генерации текста и выполнения инструкций, включая задачи программирования и ассистирования, и может запускаться локально через llama.cpp, Ollama, LM Studio и другие совместимые среды. Модель использует архитектуру Mixture-of-Experts с 64 экспертами, из которых для каждого токена активируются 8. Контекстное окно составляет 131 072 токена. Представленная версия применяет 8-битное квантование Q8_0, занимает около 12,9 ГБ и сохраняет близкое к BF16 качество: KL-дивергенция составляет примерно 0,016, а наиболее вероятный токен совпадает с BF16 в 95,2% случаев. В README явно указан английский язык; сведения о других языках и дополнительных модальностях отсутствуют. Модель формирует ответы напрямую, без внешнего отображения цепочки рассуждений. Сильные стороны версии — существенно меньший размер по сравнению с BF16 при небольших потерях качества, длинный контекст и широкая совместимость с локальными GGUF-рантаймами. Ограничения включают повышенные требования к памяти по сравнению с более агрессивными вариантами квантования и отсутствие в данном README подробных результатов оценки, описания полного набора языков и характеристик базовой модели. Модель распространяется по лицензии Apache 2.0.

maldv/Meta-Llama-3-8B-Instruct-hf — чат-модель семейства Llama 3, разработанного Meta. Это авторегрессионный плотный трансформер LlamaForCausalLM с 7,5 млрд параметров и Grouped-Query Attention; репозиторий содержит веса в формате safetensors. Модель принимает текст и генерирует текст, включая код, а версия Instruct настроена для диалогов и помощнических сценариев. Модель подходит для ответов на вопросы, ведения диалога и генерации текста или кода на английском языке. Метаданные указывают контекст до 8192 токенов. README описывает настройку инструкционной версии с помощью supervised fine-tuning и обучения с подкреплением на основе обратной связи людей. Для языков помимо английского может потребоваться дополнительное дообучение. Условия использования определяются лицензией Meta Llama 3 с коммерческими условиями и политикой допустимого использования. Модель статична и обучена на офлайн-данных; для конкретного приложения разработчикам следует самостоятельно настраивать меры безопасности.

MiMo-Ornith-9B-AGSI — объединённая языковая модель OliviaRossi, созданная слиянием XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B и ornith-ai/Ornith-1.5-9B. Она предназначена для генерации текста в диалоге, рассуждений, программирования и агентных сценариев с вызовом инструментов, включая работу с терминалом и CLI. В метаданных указана плотная архитектура семейства Qwen 3.5; репозиторий содержит веса Safetensors и рассчитан на Transformers. README описывает метод слияния AGSI, а также рекомендует запускать модель с контекстом до 131 072 токенов. Модель ориентирована на сочетание математических и программных рассуждений с выполнением агентных задач и самоотладкой. Карточка сообщает о шаблоне чата Qwen и форматировании, отделяющем внутренние рассуждения от итогового ответа. Поддерживаемые языки по данным карточки — английский и китайский. Лицензия — Apache-2.0. Практические результаты и рекомендуемые параметры запуска из README не являются независимой оценкой качества; заявленный длинный контекст зависит от используемого сервера и конфигурации.

Moe-2x7b-QA-Code — языковая модель команды nextai-team для ответов на вопросы и работы с запросами по программированию. Она использует архитектуру Mixture of Experts семейства Mixtral; в метаданных указан размер 7,1 млрд параметров и контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Модель предназначена для разработчиков, специалистов по данным и исследователей. Её можно использовать для генерации и объяснения кода, помощи при разборе технической документации, ответов в службе поддержки, обучения программированию и поддержки код-ревью. В карточке указано обучение на технической документации, публикациях Stack Overflow и репозиториях GitHub; заявлена поддержка английского языка. Карточка заявляет улучшение ответов на сложные вопросы о коде, но не приводит численных результатов бенчмарков. Ответы могут быть предвзятыми или неточными, особенно за пределами обучающих данных, поэтому их следует проверять перед использованием в критически важных сценариях.

NVIDIA Nemotron-3-Super-120B-A12B-BF16 — большая языковая модель с открытыми весами, разработанная NVIDIA Corporation. Представленная версия распространяется в формате GGUF и сгенерирована с использованием llama.cpp; исходная модель выпущена 11 марта 2026 года. Модель предназначена для агентских сценариев, рассуждений с длинным контекстом, использования инструментов, RAG и высоконагруженных задач, включая автоматизацию IT-заявок. Архитектура LatentMoE объединяет Mamba-2, Mixture of Experts и механизмы внимания, а также Multi-Token Prediction. Всего модель содержит 120 млрд параметров, из которых 12 млрд активны при обработке запроса, и поддерживает контекст до 1 млн токенов. Доступны английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Режим рассуждений можно включать или отключать через шаблон чата. К сильным сторонам относятся сочетание большого контекста, разреженной MoE-архитектуры, поддержки инструментов и ориентация на агентские и корпоративные рабочие процессы. Ограничения включают значительный общий размер модели и высокие требования к инфраструктуре: для исходной версии указано минимум 8 GPU H100 с 80 ГБ памяти. GGUF-версия использует специальную настройку квантования с повышением точности отдельных слоёв, что может увеличить размер файла. Модель распространяется по лицензии NVIDIA Nemotron Open Model License.