I.11Классификация, ранжирование и сопоставление

RedHatAI/phi-4-FP8-dynamic — квантизированная версия языковой модели Microsoft Phi-4, разработанная Red Hat совместно с Neural Magic. Это текстовая causal language model на архитектуре Phi3ForCausalLM: принимает текст и генерирует текст, преимущественно на английском языке. Модель предназначена для исследовательских задач, генеративных AI-функций, диалоговых и общих текстовых сценариев, а также задач рассуждения, логики, работы с математикой и кодом в условиях ограниченных ресурсов или повышенных требований к задержке. В модели к FP8 квантизированы веса и активации линейных операторов внутри трансформерных блоков. Веса используют симметричную статическую поканальную квантизацию, а активации — симметричную динамическую потокенную квантизацию. По заявлению разработчиков, это примерно на 50% снижает требования к GPU-памяти и размер диска, а также может примерно вдвое увеличить пропускную способность матричных умножений по сравнению с представлением FP16. Для квантизации использована библиотека llm-compressor; модель оптимизирована для развертывания с vLLM и валидирована в RHOAI 2.20, RHAIIS 3.0 и RHELAI 1.5. Длина контекста в предоставленных данных не указана. Сильные стороны модели — уменьшенные требования к памяти и дисковому пространству, потенциально более высокая производительность и поддержка сценариев, где важны рассуждение, логика, низкая задержка и эффективность вычислений. Ограничения включают преимущественную ориентацию на английский язык, отсутствие специальной оценки для всех прикладных сценариев и типичные для языковых моделей риски ошибок, проблем безопасности и несправедливых результатов; перед применением в ответственных областях необходимы отдельная проверка и меры контроля. Модель выпущена под лицензией MIT.

Qwen2.5-14B — базовая языковая модель серии Qwen2.5, разработанной командой Qwen. Это предварительно обученная плотная авторегрессионная модель на архитектуре Transformer с RoPE, SwiGLU, RMSNorm и смещениями в проекциях QKV; в ней 14 млрд параметров, 48 слоёв, 40 голов Q и 8 голов KV. Модель принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для дообучения и дальнейшей адаптации под генерацию текста, включая диалоги, следование инструкциям, программирование, математику и структурированные данные. Серия поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий и японский. В карточке этой базовой версии отмечены английский язык и интерфейс для вызова инструментов. Сильные стороны серии — работа с длинным контекстом, улучшенное следование инструкциям, генерация длинных текстов и структурированных результатов, в том числе JSON. Это базовая версия, поэтому авторы не рекомендуют использовать её для диалогов без дополнительного постобучения. Модель распространяется по лицензии Apache 2.0.

Qwen2.5-7B — базовая языковая модель серии Qwen2.5, разработанной командой Qwen. Это предобученная плотная авторегрессионная модель на 7,1 млрд параметров; в карточке указаны архитектура Qwen2ForCausalLM, RoPE, SwiGLU, RMSNorm и контекст до 131 072 токенов. Модель распространяется в формате Safetensors и под лицензией Apache-2.0. Модель предназначена для дальнейшей адаптации и использования как основа для генерации текста, кода и структурированных ответов. Серия поддерживает более 29 языков, включая русский и английский, и заявляет улучшения в математике, программировании, следовании инструкциям и работе с таблицами и JSON. У этой версии базовые веса предобучения: разработчик не рекомендует использовать её непосредственно для диалогов; для чат-сценариев требуется постобучение, например SFT или RLHF.

TeichAI/Qwen3-14B-Claude-4.5-Opus-High-Reasoning-Distill — плотная языковая модель на 14 млрд параметров, дообученная TeichAI на наборе примеров рассуждений Claude Opus 4.5 с высоким уровнем reasoning. Она основана на unsloth/Qwen3-14B и предназначена для генерации текста в диалогах, задач программирования, науки и общего назначения. Модель принимает текст и генерирует текст; заявленный контекст составляет 40 960 токенов. В карточке не указаны поддерживаемые естественные языки. Модель опубликована в формате safetensors, поддерживает чат и интерфейс вызова инструментов. Лицензия — Apache-2.0.

NVIDIA Qwen3-14B NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3-14B, разработанной Alibaba и подготовленной с помощью NVIDIA TensorRT Model Optimizer. Модель предназначена для генерации текста и может использоваться в AI-агентах, чат-ботах, RAG-системах и других приложениях на основе искусственного интеллекта. Модель построена на архитектуре Transformers и содержит около 14,8 млрд параметров. Она принимает и генерирует текстовые последовательности, поддерживает контекст до 131K токенов и использует квантизацию весов и активаций линейных операторов в трансформерных блоках до формата FP4. Модель подготовлена для инференса через TensorRT-LLM, оптимизирована для систем с GPU NVIDIA, включая микроархитектуру Blackwell, и рассчитана прежде всего на Linux. Версия Model Optimizer — 0.35.0. К сильным сторонам относятся уменьшенное представление модели за счёт FP4-квантизации, поддержка длинного контекста и возможность производительного развёртывания на совместимом оборудовании NVIDIA. Ограничения включают зависимость от TensorRT-LLM и совместимой NVIDIA-платформы; сведения о языках, результатах тестирования, обучающих данных и характеристиках качества в карточке не раскрыты. Использование регулируется лицензией Apache 2.0 и допускается для коммерческих и некоммерческих задач.

YOYO-AI/Qwen3-30B-A3B-YOYO-Thinking-Chimera — объединённая модель Qwen3, созданная YOYO-AI методом «сшивания» компонентов двух вариантов Qwen3-30B-A3B: Instruct-2507 и Thinking-2507. Веса экспертов маршрутизации и внимания взяты из Thinking, остальные компоненты — из Instruct. Модель предназначена для диалогов, выполнения инструкций и генерации текста с рассуждениями; метаданные также указывают интерфейс вызова инструментов. Архитектура — MoE с классом Qwen3MoeForCausalLM. В метаданных указано 2,6 млрд параметров, формат хранения — safetensors; README сообщает о точности bfloat16 и контексте до 262 144 токенов, а также упоминает вариант длины 1 010 000 токенов без пояснения его условий. Языки карточки — английский и китайский. Модель распространяется по лицензии Apache-2.0.

Unsloth/Qwen3-4B-Thinking-2507 — плотная причинная языковая модель семейства Qwen3, представленная как версия модели Qwen3-4B-Thinking-2507. Она предназначена для генерации текста в диалоге и решения сложных задач с рассуждениями, включая математику, логику, естественные науки, программирование и академические вопросы. Модель также поддерживает следование инструкциям и использование инструментов. Модель содержит 3,7 млрд параметров и принимает контекст до 262 144 токенов. Она работает только в режиме рассуждений; карточка сообщает об улучшениях качества рассуждений и общих возможностей, но не приводит независимой оценки качества именно этой публикации Unsloth. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Qwen3.5-9B-DeepSeek-V4-Flash — плотная мультимодальная модель на 9 млрд параметров, дообученная Jackrong методом дистилляции на данных DeepSeek-V4-Distill-8000x. Она построена на базе unsloth/Qwen3.5-9B и предназначена для диалогов, структурированных рассуждений, многошагового решения задач и рабочих процессов с вызовом инструментов. Архитектура поддерживает обработку изображений и текста; заявлена поддержка английского, китайского, корейского, японского, испанского и русского языков. Модель рассчитана на эффективный инференс и может применяться для программирования, математических и STEM-задач, анализа изображений и агентных сценариев. В карточке приведены рекомендации по генерации: temperature от 0,7 до 1,0 и top_p 0,95; для строгих задач программирования предлагается более низкая температура. Модель распространяется по лицензии Apache-2.0. Оценка в README описана как раннее контролируемое сравнение квантованной версии Q5_K_M с базовой Qwen3.5-9B, поэтому заявления о качестве следует считать предварительными. Ограничения включают возможные затруднения с редкими знаниями, чрезмерно длинные рассуждения на простые запросы и возможное ухудшение некоторых аспектов выравнивания безопасности.

NVIDIA Qwen3-Next-80B-A3B-Thinking NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3-Next-80B-A3B-Thinking, разработанной Alibaba и подготовленной NVIDIA с использованием TensorRT Model Optimizer. Модель предназначена для коммерческого и некоммерческого применения в AI Agent-системах, чат-ботах, RAG-системах и других приложениях на основе генерации текста. Модель использует архитектуру Transformers и сетевую архитектуру Qwen3NextForCausalLM. Она принимает текстовые последовательности и генерирует текст. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Количество параметров в карточке не раскрыто, поддерживаемые языки и точные характеристики исходной модели здесь не указаны. Веса и активации линейных операторов внутри трансформерных блоков квантизированы в формат NVFP4. Это уменьшает число бит на параметр с 16 до 4, а размер на диске и требования к памяти GPU примерно в 3,3 раза. Модель оптимизирована для инференса через TensorRT-LLM на GPU NVIDIA, в частности на архитектуре Blackwell; предпочтительная операционная система — Linux. Ограничениями являются зависимость от совместимой инфраструктуры NVIDIA, отсутствие раскрытых данных о параметрах и обучении, а также необходимость дополнительного тестирования качества и безопасности для конкретного сценария. Модель распространяется по лицензии Apache License 2.0. Для развёртывания рекомендуется TensorRT-LLM; заявленная версия квантизации выполнена с использованием nvidia-modelopt v0.40.0.

Qwen3-VL-12B-Instruct-Brainstorm20x-NEO-MAX-GGUF — мультимодальная instruct-модель, разработанная DavidAU на базе Qwen3-VL-Instruct с адаптером Brainstorm 20x. Модель распространяется в формате GGUF с квантованием NEO Imatrix и выходным тензором MAX с точностью 16 бит. Она предназначена для диалогов, генерации и анализа кода, решения многошаговых задач, работы с изображениями и их описания, а также творческих сценариев. Поддерживаются текстовые и визуальные входы; в карточке также заявлена обработка видео. Указанный язык — английский. После добавления адаптера размер модели увеличен с 8B до 12B; заявлены 55 слоёв и 608 тензоров. Максимальный контекст составляет 256k токенов. Для полноценной мультимодальной работы требуется отдельный файл mmproj в формате GGUF, совместимый с основной квантованной моделью, а оба файла должны находиться в одной папке. Поддерживаются Jinja или CHATML-шаблон; модель проверялась в LM Studio и Koldboldcpp. Сильными сторонами заявлены улучшение генерации текста и описаний изображений за счёт Brainstorm 20x, хорошие результаты на ряде задач логического и commonsense-рассуждения, а также пригодность для сложного программирования и пошагового уточнения решений. Ограничением является склонность к зацикливанию; README рекомендует повышать temperature и использовать repetition или presence penalty. Для сложных задач предпочтительны варианты Q6 или Q8, однако конкретные требования к памяти и производительности не указаны. Лицензия — Apache-2.0.

cyankiwi/Qwen3-VL-32B-Instruct-AWQ-4bit — 4-битная квантованная версия мультимодальной модели Qwen3-VL-32B-Instruct. Базовую модель разработала команда Qwen, а данную сборку подготовил Ton Cao. Модель предназначена для генерации текста по изображениям и тексту, визуального анализа, распознавания текста на изображениях, понимания видео, пространственного рассуждения, мультимодального решения задач и взаимодействия с графическими интерфейсами. Она также ориентирована на визуальное программирование и может генерировать Draw.io, HTML, CSS и JavaScript по изображениям или видео. Модель имеет плотную архитектуру с 32 миллиардами параметров и поддерживает текстово-визуальные входы. Заявлены контекст длиной 256K токенов с возможностью расширения до 1M, анализ продолжительных видео, индексация событий по времени и OCR для 32 языков. Среди архитектурных особенностей указаны Interleaved-MRoPE для обработки временных и пространственных измерений, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками. Квантование выполнено методом AWQ до INT4 с размером группы 32 на основе датасета FineVision с использованием llm-compressor. Сильные стороны модели — широкий набор визуальных и текстовых возможностей, работа с длинным контекстом, видео, документами, пространственными отношениями и агентными сценариями при сниженных требованиях к памяти благодаря INT4-квантованию. Ограничения включают возможную потерю качества по сравнению с полноразмерной моделью, а также высокие вычислительные требования, связанные с исходным размером 32B и мультимодальной обработкой. В README не указаны полный перечень поддерживаемых языков для генерации, точные системные требования и результаты численных тестов. Модель распространяется по лицензии Apache-2.0.

Qwopus3.5-122B-A10B-Kimi-K2.6-destill-healed-abliterated — мультимодальная модель OpenYourMind на архитектуре Qwen3.5 MoE, дообученная на базе Qwen/Qwen3.5-122B-A10B. В модели 122 млрд параметров, около 10 млрд активных; веса представлены в BF16 и формате safetensors. Она принимает текст и изображения, включая видеокадры, и генерирует текст. Карточка заявляет поддержку диалога, рассуждений, программирования и работы с инструментами. Модель прошла абляцию отказов, несколько этапов SFT и DPO на данных, дистиллированных из Claude Opus и Kimi K2.6; заявленные цели — сохранить рассуждения, улучшить полноту ответов и сократить повторы. Заявления о качестве и результатах бенчмарков приведены автором карточки. Vision tower и MTP head сохранены, поэтому модель совместима по архитектуре с исходной Qwen3.5-122B-A10B. Для загрузки требуются ресурсы для хранения и вычислений, соответствующие весам общим объёмом около 250 ГБ. Лицензия — MIT.

Qwopus3.6-27B-v1-preview — предварительная reasoning-модель, разработанная Jackrong на базе Qwen3.6-27B. Это мультимодальная vision-language модель для работы с текстом и изображениями, ориентированная на генерацию ответов, структурированное рассуждение, агентские сценарии, программирование, создание интерфейсов и творческие задачи с canvas/WebGL. В README также указана поддержка image-text-to-text и совместимость с экосистемами Transformers и llama.cpp. Модель содержит 27 миллиардов параметров и обучена методом supervised fine-tuning с использованием Unsloth. Обучающий набор объёмом около 12 тысяч тщательно отобранных примеров сформирован на основе данных дистилляции Claude, GLM-5.1, Kimi K2.5 и Qwen3.5. Заявленные сильные стороны — более структурированное рассуждение, стабильный стиль ответов, снижение стилистического дрейфа в длинных ответах и улучшенная согласованность между источниками. Результаты предварительной оценки на небольшой выборке следует считать ориентировочными; полноценное масштабное обучение ещё продолжается. Заявлены языки English, Chinese, Japanese, Korean, Spanish и Russian. Точный размер контекстного окна и подробные архитектурные характеристики в предоставленном README не указаны. Модель выпускается как preview-версия, поэтому её поведение и качество могут измениться в будущих релизах. Лицензия — Apache-2.0.

RavenXAILabsLLC-Qwen3.8-27B-Abliterated-Unified-Frontier-Model-IQ-Injected-MLX-MTP — открытая текстовая генеративная модель, разработанная RavenX AI Labs LLC на основе PocketAiHub/Qwen3.8-27B-Abliterated-MLX-4bit. По данным карточки, модель объединяет дистиллированные примеры и паттерны рассуждения из нескольких заявленных frontier-моделей и дополнительно обучалась на задачах программирования, агентного tool calling, анализа безопасности, финансов и трейдинга. Заявлены 1 159 426 обучающих примеров и сохранение планирования в весах без явных тегов рассуждений в ответах. Модель предназначена для генерации текста, программирования, структурированного анализа, агентских сценариев с вызовом инструментов и API, анализа уязвимостей и задач, связанных с безопасностью. Архитектура указана как Qwen3_5, размер — 27 млрд параметров, формат — MLX 4-bit; поддерживается библиотекой MLX и ориентирована прежде всего на запуск на Apple Silicon. В карточке также заявлена совместимость с ESI и MTP drafter для speculative decoding, а рекомендуемый объём памяти составляет около 15,5 ГБ. Указан английский язык; поддержка других языков и размер контекстного окна не уточняются. Сильными сторонами заявлены универсальность, навыки программирования и рассуждений, агентское взаимодействие с инструментами, а также оптимизация для локального запуска на устройствах Apple. Производитель сообщает о результате 93% на собственном наборе из 18 тестов, однако подробная методика и независимое подтверждение этого показателя в README не приведены. Ограничениями являются отсутствие подтверждённых сведений о контекстном окне, мультимодальности, качестве на разных языках и независимых бенчмарках; возможности в сфере пентестинга и безопасности требуют осторожного применения и проверки результатов. Лицензия указана как Apache-2.0.

Ring-mini-2.0 — диалоговая языковая модель InclusionAI на архитектуре Mixture of Experts (MoE), основанная на Ling 2.0. Модель дообучена с применением SFT, обучения с проверкой результатов (RLVR) и RLHF; метаданные указывают 1,2 млрд параметров, тогда как README сообщает 16,8 млрд общих и 1,4 млрд активируемых параметров. В метаданных заявлена длина контекста 32 768 токенов, а README — поддержка до 128 тысяч токенов с YaRN. Модель предназначена для генерации текста и диалогов, включая сложные рассуждения, логические и математические задачи, а также генерацию кода. Разреженная MoE-архитектура рассчитана на эффективный инференс; README приводит показатели скорости на оборудовании H20, которые зависят от конфигурации развертывания. Подтверждённого списка поддерживаемых естественных языков в предоставленных данных нет. Модель распространяется по лицензии MIT. Заявленные в README результаты на бенчмарках и скорость инференса не являются гарантией качества или производительности в конкретной среде.

jondurbin/spicyboros-70b-2.2 — экспериментальная инструкционная языковая модель на архитектуре Llama, созданная Jondurbin на основе преимущественно синтетических данных Airoboros 2.2. Модель содержит 68,7 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 4096 токенов. Карточка описывает формат диалога с ролями USER и ASSISTANT и примерами для ответов по предоставленному контексту, написания текстов, программирования и генерации JSON или YAML для вызова функций. Модель рассчитана на широкий круг инструкционных задач и особенно ориентирована на пары «инструкция — ответ», а не на непринуждённый чат. В обучении использовались синтетические данные, включая примеры с ослабленными ограничениями на ответы. Разработчик предупреждает, что модель может выдавать ненормативную лексику и чувствительный или откровенный контент, а также рекомендует останавливать генерацию при появлении новой реплики USER. Лицензия указана как Llama 2; применение должно соответствовать её условиям.

Swift-Qwen3.8-27b-BF16-AMD — полноразмерная BF16-версия модели UkisAI Swift, производной от Qwen/Qwen3.8-27B. Это плотная мультимодальная модель с архитектурой Qwen3.5 и классом Qwen3_5ForConditionalGeneration; опубликована в формате safetensors для Transformers и предназначена для AMD/ROCm и рабочих процессов AMD Quark. Веса включают компонент обработки изображений и видео и MTP-голову. Модель ориентирована на диалоги и многошаговые рассуждения, включая программирование, решение математических задач, ответы на вопросы и генерацию структурированного JSON. Метод дообучения нацелен на сокращение избыточных рассуждений: в тестах UkisAI модель использовала на 58,3% меньше токенов мышления при потере качества менее 1% и ускорении до 1,95 раза на ряде задач. Эти результаты относятся к описанным в карточке испытаниям и не гарантируют аналогичных показателей в каждом сценарии. Модель принимает текст и изображения, а также поддерживает визуальные возможности базовой модели для анализа видео; выдаёт текст. Указанная в README длина контекста для приведённых тестов — 262 144 токена. Лицензия обозначена как other; карточка сообщает, что доступ к API бесплатен для исследований, но не задаёт полных условий лицензии весов. Для использования на AMD требуется совместимая среда ROCm; AMD/ROCm-развёртывание и его производительность на момент описания не проверены, а приведённые результаты получены не на оборудовании AMD.

Ternary Bonsai 27B — GGUF — это компактная модель для генерации текста и рассуждений, разработанная Prism ML на базе Qwen3.6-27B. Она предназначена для локального запуска через llama.cpp на CPU, CUDA- и Metal-устройствах, включая стандартные ноутбуки и отдельные GPU. Модель ориентирована на диалоговые сценарии, математические задачи, программирование, агентное использование инструментов и работу на устройствах с ограниченными ресурсами. Модель сохраняет архитектуру исходной 27B-классовой causal language model с гибридным вниманием: около 75% слоёв используют линейное внимание, а около 25% — полное. Она содержит примерно 27,3 млрд тернарных языковых весов и около 0,46 млрд параметров vision tower. Используются SwiGLU, RoPE и RMSNorm. Веса представлены в формате GGUF Q2_0_g128 с тернарными значениями −1, 0 и +1, что соответствует примерно 1,71 бита на вес. Размер развёрнутой модели составляет около 7,2 ГБ против примерно 54 ГБ у FP16-версии. Поддерживается контекст до 262 тысяч токенов, а KV-кэш квантизирован до 4 бит. Vision tower доступна в 4-битном формате и подключается при обработке изображений. К сильным сторонам относятся существенное снижение требований к памяти, сохранение рассуждений и агентного поведения при низкой битности, поддержка локального инференса и заявленное сохранение около 95% показателей FP16-версии на наборе из 15 тестов. Для CUDA доступен слой DSpark для спекулятивного декодирования с заявленным ускорением 1,34 раза. Ограничения включают зависимость от специализированных низкобитных ядер и совместимых форков llama.cpp, а также отсутствие в README точного перечня поддерживаемых языков. Модель распространяется по лицензии Apache 2.0.

MaziyarPanahi/WizardLM-2-7B-GGUF — это квантизированная версия языковой модели WizardLM-2 7B в формате GGUF. Исходная модель разработана командой WizardLM в Microsoft AI на основе Mistral-7B-v0.1, а конвертацию и публикацию квантизированных файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и диалогового взаимодействия с поддержкой многоходовых бесед. Модель содержит около 7 млрд параметров и заявлена как мультиязычная. Она ориентирована на сложные чаты, следование инструкциям, написание текстов, программирование, математические задачи, рассуждения, агентские сценарии и работу на нескольких языках. По данным README, WizardLM-2 7B обеспечивает высокую скорость и сопоставима по качеству с более крупными открытыми моделями; в оценках авторов она сравнивалась с моделями размером до 32B параметров. Конкретное максимальное окно контекста и перечень поддерживаемых языков не указаны. Главное преимущество этой версии — возможность локального запуска благодаря GGUF и нескольким вариантам квантизации от 2 до 8 бит, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения включают зависимость характеристик от выбранного уровня квантизации, отсутствие заявленной поддержки мультимодальных входов и недостаток подробных данных о тестах, контекстном окне и безопасности. Модель распространяется по лицензии Apache 2.0.

Эта версия DeepSeek-R1 размещена Unsloth и основана на модели deepseek-ai/DeepSeek-R1. Это языковая модель семейства DeepSeek V3 с архитектурой DeepseekV3ForCausalLM; в метаданных указано 37,6 млрд параметров и контекст до 163 840 токенов. Карточка исходной модели описывает обучение с контролируемой настройкой и масштабным обучением с подкреплением, направленным на развитие рассуждений и выравнивание с предпочтениями людей. Модель предназначена для генерации текста в диалоге и решения сложных задач на рассуждение, в том числе по математике, программированию и логике. Среди описанных возможностей — самопроверка, рефлексия и построение длинных цепочек рассуждений. Метаданные отмечают поддержку чата и интерфейса вызова инструментов; основной указанный язык — английский. Репозиторий содержит веса safetensors; README также упоминает отдельные варианты DeepSeek-R1 в GGUF и форматах с 4-битной квантизацией. Лицензия — MIT. Размер этой версии и длина контекста по метаданным отличаются от таблицы в README исходной модели, поэтому здесь приведены значения метаданных Hugging Face для данного репозитория.

FuseAI/FuseChat-Qwen-2.5-7B-Instruct — разговорная языковая модель FuseAI на архитектуре Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов. Это целевая модель семейства FuseChat-3.0, обученная методом неявного слияния: сначала её дообучили на лучших ответах сильных языковых моделей, затем применили Direct Preference Optimization (DPO) к парам предпочтительных и менее предпочтительных ответов. В качестве источников использовались Gemma-2-27B-It, Mistral-Large-Instruct-2407, Qwen-2.5-72B-Instruct и Llama-3.1-70B-Instruct. Модель предназначена для диалога, следования инструкциям, решения математических задач и помощи с кодом; обучение также включало китайскоязычные данные. Подходит для локального запуска в формате Safetensors, а метаданные отмечают интерфейс вызова инструментов. README сообщает об улучшениях на ряде бенчмарков, однако приведённые там конкретные приросты относятся к версии с целевой моделью Llama-3.1-8B и не подтверждают такие же результаты для этой версии. Лицензия в предоставленных данных не указана.

GLM-4.5-Air-Derestricted — диалоговая модель Arli AI, полученная модификацией GLM-4.5-Air методом Norm-Preserving Biprojected Abliteration. Изменение направлено на удаление отказов при сохранении способности исходной модели к рассуждению. По карточке каталога модель имеет архитектуру GLM4 MoE, 8,5 млрд параметров и контекст до 131 072 токенов; поддерживает диалоговый режим и работает через Transformers. Модель предназначена для генерации ответов в диалоге, рассуждений, программирования и сценариев интеллектуальных агентов, унаследованных от GLM-4.5-Air. Автор заявляет, что метод модификации сохраняет нормы весов и качество рассуждений, однако это заявление не подтверждено приведёнными в карточке результатами оценки именно этой версии. Модель распространяется по лицензии MIT; базовая GLM-4.5-Air описана как гибридная модель с режимами рассуждений и работы с инструментами.

harkov000/hermes-dolphin-8B — объединённая модель на архитектуре Llama, созданная методом SLERP из NousResearch/Hermes-3-Llama-3.1-8B и cognitivecomputations/dolphin-2.9.4-llama3.1-8b. Репозиторий содержит веса в формате safetensors; размер модели — 7,5 млрд параметров, заявленная длина контекста — 131 072 токена. Модель предназначена для диалоговой генерации текста и следования инструкциям; метаданные также отмечают интерфейс вызова инструментов. Её можно применять для ответов на вопросы, рассуждений, помощи с кодом и сценариев с использованием инструментов. Базовая модель Hermes 3 ориентирована на английский язык; карточка этой объединённой модели не уточняет языковой охват. Модель опубликована 23 октября 2024 года. Условия лицензии в предоставленных данных не приведены.

unsloth/inkling-GGUF — это GGUF-версия открытой мультимодальной модели Inkling, разработанной Thinking Machines и опубликованной в формате GGUF командой Unsloth. Модель предназначена для локального запуска, исследований, дообучения и интеграции в сторонние продукты. Inkling принимает текст, изображения и аудио, а генерирует текст. Она рассчитана на разработку AI-приложений, включая агентные и инструментальные системы, ассистентов программиста, чат-ботов, retrieval-augmented generation, следование инструкциям и универсальное мультимодальное общение. Поддерживаются английский язык, другие языки в многоязычном режиме, а также несколько языков программирования. Архитектура представляет собой авторегрессионный decoder-only Transformer из 66 слоёв с разреженной Mixture-of-Experts: всего 975B параметров, из которых активно 41B; для каждого токена выбираются 6 из 256 экспертов и используются 2 общих эксперта. Внимание сочетает локальные и глобальные слои. Изображения и видео обрабатываются иерархическим patch-энкодером, аудио — дискретными токенами, после чего модальности проецируются в общее скрытое пространство. Поддерживаются BF16 и NVFP4. Для оптимальной работы рекомендуются изображения размером от 40 до 4096 пикселей по каждой стороне и WAV-аудио с частотой 16 кГц длительностью менее 20 минут. Сильные стороны модели — сочетание текстовых, визуальных и аудиовходов, масштабная MoE-архитектура и пригодность для локального развертывания через совместимые инструменты. Ограничения включают исключительно текстовый вывод, очень большой общий размер и высокие требования к вычислительным ресурсам; точное окно контекста в README не указано. Модель распространяется по лицензии Apache 2.0; также указано наличие отдельной политики допустимого использования.

Ling-3.0-tiny — компактная гибридная языковая модель для диалогов, рассуждений и агентных задач; разработчик в предоставленной карточке не назван. Модель использует архитектуру MoE с чередованием слоёв KDA и MLA: на каждый токен активируется часть экспертов. README сообщает о 7,9 млрд параметров всего и 1,3 млрд активных на токен, тогда как метаданные Hugging Face указывают 977,5 млн параметров, поэтому размер модели в источниках расходится. Метаданные указывают контекст 131 072 токена и формат safetensors; карточка также описывает варианты весов BF16, FP8 и INT4. Модель предназначена для локального и ресурсно-ограниченного запуска, ответов на инструкции, программирования, математических и научных рассуждений, понимания длинного контекста и агентных сценариев. Режим пошагового рассуждения можно включать для сложных запросов. README приводит результаты собственных оценок и примеры запуска на отдельных устройствах, но они не гарантируют такую же скорость или качество на другом оборудовании. Лицензия по метаданным — MIT.

RippaSats/MiniMax-M3 — мультимодальная модель семейства MiniMax M3, представленная в формате safetensors и рассчитанная на работу с текстом и изображениями. В README заявлены около 428 млрд параметров, примерно 23 млрд активируемых параметров и контекст до 1 млн токенов. Архитектура использует разреженное внимание MiniMax Sparse Attention (MSA), предназначенное для снижения вычислительных затрат и потребления памяти при длинном контексте; авторы также заявляют ускорение обработки длинного контекста по сравнению с M2. Модель предназначена для диалогов с изображениями, задач программирования и длительных агентных сценариев. README также описывает обучение на смеси модальностей с самого начала и заявляет поддержку видео, однако метаданные модели подтверждают только задачу image-text-to-text и возможности чата и зрения. README рекомендует использовать MiniMax Agent или MiniMax API. Репозиторий указывает лицензию other, поэтому конкретные условия использования следует проверять в приложенных лицензионных материалах.

Карточка модели NostraEmpire/mirror-phi-4 на Hugging Face совпадает с карточкой microsoft/phi-4, поэтому описание составлено по ней. Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

Nanbeige4.2-3B — компактная языковая модель Nanbeige Lab на 3,2 млрд параметров, дообученная на базе Nanbeige/Nanbeige4.2-3B-Base для диалогов и агентных сценариев. Она использует плотную Looped Transformer архитектуру, повторно применяющую слои трансформера для увеличения эффективной ёмкости без добавления параметров. Модель поддерживает контекст до 262 144 токенов и доступна в формате safetensors для Transformers; лицензия — Apache 2.0. Модель предназначена для генерации текста, рассуждений, работы с инструментами и многошаговых задач общего назначения. Среди заявленных сценариев — программирование и задачи кодовых агентов, офисные процессы, математические и научные рассуждения, а также локальный персональный ассистент при интеграции с подходящей агентной средой. Карточка описывает обучение с учителем и обучение с подкреплением с оценкой результата и процесса. Заявленные языки — английский и китайский. Модель поддерживает чат и интерфейс вызова инструментов; сама по себе она генерирует текст, а выполнение действий зависит от внешней агентной оболочки и подключённых инструментов. Показатели из карточки основаны на бенчмарках и конкретных средах оценки, поэтому не гарантируют аналогичного качества во всех приложениях.

OpenCerebrum-2.0-7B — англоязычная языковая модель от Cognitive Computations, дообученная методом SFT и DPO на базе alpindale/Mistral-7B-v0.2-hf. Она предназначена для генерации текста и ответов на вопросы, включая задачи программирования, математики, естественных наук, рассуждений и диалогов с несколькими ходами. Обучающая выборка содержит около 7 тысяч примеров из 15 источников, подобранных для воспроизведения возможностей закрытой модели Cerebrum. Модель имеет плотную архитектуру Mistral с 7,1 млрд параметров и контекстное окно до 32 768 токенов. Карточка заявляет английский язык; репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0. Это открытая реплика, обученная на подмножестве данных, поэтому она может уступать оригинальной Cerebrum. На ответы могут влиять смещения и ограничения обучающих данных; размер 7B также ограничивает требования к памяти и вычислительным ресурсам по сравнению с более крупными моделями.

CIRU DualView Ornith 1.0 35B — мультимодальная модель для диалогов, рассуждений, работы с инструментами, программирования и анализа изображений. Она основана на объединении Ornith-1.0-35B и Qwen3.6-35B-A3B; архитектура включает 256 экспертов, из которых активны 8. Модель поставляется в формате GGUF с квантованием FPX7 и отдельными участками Q8, а также с проектором изображений и дополнительным слоем MTP. Заявленная длина контекста — 262 144 токена. DualView использует компактное представление весов для генерации и точное представление INT8 для обработки входного контекста. Модель предназначена для локального запуска на системах AMD с унифицированной памятью и ROCm. Для загрузки требуется совместимая сборка ROCmFPX; стандартный llama.cpp не поддерживает этот формат. Проверки производительности проведены для Linux ROCm на Strix Halo, а совместный режим vision и MTP ещё проходит валидацию качества изображений и повторяемости. В метаданных указана лицензия other; конкретные условия следует сверить с карточкой модели и её лицензией.