I.11Классификация, ранжирование и сопоставление

Arli AI выпустила Derestricted-версию GLM-4.6-REAP-268B-A32B, разреженной языковой модели семейства GLM с архитектурой Mixture of Experts. Веса изменены методом Norm-Preserving Biprojected Abliteration, чтобы ослабить поведение отказа и сохранить нормы весов; это не обычная квантизация. Базовая модель была сжата методом REAP: из 160 экспертов оставлено 120, а всего в ней 268 млрд параметров, из которых активируются 32 млрд на токен. Для этой версии README не приводит отдельные результаты оценки качества. Модель предназначена для генерации текста и диалогов, рассуждений, написания кода и агентных сценариев; унаследованные возможности базовой модели включают вызов функций. Она поддерживает английский язык и контекст до 202 752 токенов. Для запуска требуется совместимая инфраструктура с большим объёмом памяти; базовая модель описана как совместимая с актуальным vLLM. Лицензия — MIT.

unsloth/MAI-DS-R1-GGUF — GGUF-версия модели MAI-DS-R1, разработанной командой Microsoft AI на базе DeepSeek-R1 и опубликованной Unsloth. Модель дообучалась для устранения информационных пробелов, повышения отзывчивости к ранее блокировавшимся темам и улучшения профиля безопасности при сохранении возможностей рассуждения DeepSeek-R1. Для постобучения использовались 110 тысяч примеров безопасности и отказов из набора Tulu 3 SFT, а также около 350 тысяч внутренних многоязычных примеров по различным темам и случаям выявленных смещений. Модель предназначена для генерации и понимания текста, диалогов, ответов на общеобразовательные вопросы, многошагового решения математических и логических задач, генерации и объяснения кода, а также научных и академических сценариев. Она может использоваться как основа для дальнейшей адаптации в системах обучения математике, помощниках программиста и исследовательских инструментах. Формат GGUF ориентирован на запуск в совместимых локальных инструментах, однако конкретные размер, вариант квантования, длина контекста и поддерживаемые языки в представленных данных не указаны. Сильной стороной модели является сочетание возможностей рассуждения DeepSeek-R1 с постобучением, направленным на более корректное поведение в темах, которые исходная модель могла чрезмерно блокировать. При этом сохраняются ограничения исходной модели: возможны галлюцинации, уязвимость к состязательным запросам, предвзятые или небезопасные ответы, а также недостаточная осведомлённость о новых событиях. Модель не предназначена для медицинских и юридических рекомендаций, критически важных систем или самостоятельной поддержки решений с высокими рисками; необходимы проверка результатов человеком, модерация и мониторинг. Модель распространяется по лицензии MIT.

ehristoforu/moremerge — объединённая языковая модель, созданная с помощью mergekit методом TIES на основе Qwen/Qwen2.5-7B-Instruct и ещё девяти моделей семейства Qwen2.5. В состав объединения входят инструктивные и разговорные модели, варианты для кода и математики, а также DeepSeek-R1-Distill-Qwen-7B. Модель имеет архитектуру Qwen2ForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов; её компоненты ориентированы также на ответы по инструкциям, код и математические рассуждения. Метаданные отмечают интерфейс вызова инструментов. Доступна в формате safetensors для Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

OpenChat-3.5-0106 Gemma — диалоговая языковая модель OpenChat, дообученная методом C-RLFT на данных OpenChat-3.5-0106 на базе Gemma. Это плотная архитектура Gemma для генерации текста, в том числе ответов в диалоге; заявленный размер в метаданных — 8,2 млрд параметров, контекст — до 8192 токенов. README приводит результаты тестов по программированию, математике, общим знаниям и диалоговому качеству. Модель предназначена для чат-ботов, ответов на вопросы, написания и преобразования текста, а также задач рассуждения и генерации кода. Для развертывания авторы рекомендуют OpenChat с OpenAI-совместимым сервером на базе vLLM. README указывает лицензию Apache 2.0, тогда как метаданные Hugging Face содержат значение «other»; условия распространения стоит сверить с файлами лицензии репозитория. Модель может выдумывать факты и выдавать вредные, предвзятые или небезопасные ответы, поэтому важные результаты нужно проверять, а для безопасных сценариев нужна дополнительная модерация.

QuantFactory/openchat-3.6-8b-20240522-GGUF — квантизированная версия языковой модели OpenChat 3.6 8B от openchat/openchat, созданная с использованием llama.cpp. Модель предназначена для генерации текста, диалогов, программирования и решения общих задач через чат-интерфейсы и OpenAI-совместимый API. Модель имеет около 8 млрд параметров и поддерживает контекст до 8192 токенов. Это текстовая autoregressive-модель; сведения о поддерживаемых языках и конкретном формате квантизации в README не указаны. Для работы рекомендуются OpenChat и llama.cpp, а исходная модель также рассчитана на запуск через vLLM; заявлена возможность развёртывания на потребительском GPU с 24 ГБ памяти. К сильным сторонам относятся компактный размер, возможность локального запуска и оптимизация для диалоговых, кодовых и общих сценариев. Ограничения включают отсутствие сведений о точном варианте квантизации, языковом покрытии и результатах независимого тестирования. Модель распространяется по лицензии Llama 3.

Phi-3-medium-128k-instruct-GGUF — квантизированная версия инструкционной языковой модели Microsoft Phi-3-medium-128k-instruct, подготовленная пользователем bartowski в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для генерации текста, диалогового взаимодействия и задач, связанных с обработкой естественного языка и программным кодом. В README заявлена поддержка multilingual-сценариев и контекстное окно до 128 000 токенов. Доступны варианты от F32 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, а также форматы IQ. Размер файлов составляет примерно от 5,14 до 55,84 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее сохранение качества, тогда как компактные варианты снижают требования к памяти ценой качества ответов. Ключевые характеристики исходной архитектуры, точное число параметров, перечень поддерживаемых языков и результаты тестирования в README не указаны. Модель подходит для локального инференса, чат-ботов, генерации и анализа текста, а также помощи с кодом при наличии оборудования с достаточным объёмом оперативной или видеопамяти. Ограничениями являются зависимость качества и требований к ресурсам от выбранной квантизации, а также отсутствие в предоставленных данных подробных оценок производительности и гарантий точности. Указана лицензия MIT, унаследованная от исходной модели Microsoft.

YOYO-AI/Qwen3-30B-A3B-YOYO-V4 — объединённая текстовая модель YOYO-AI на архитектуре Qwen3 MoE для генерации текста и диалогов. По метаданным, она объединяет Qwen/Qwen3-30B-A3B-Instruct-2507, Qwen/Qwen3-30B-A3B-Thinking-2507 и Qwen/Qwen3-Coder-30B-A3B-Instruct. В README описан метод слияния cla-gm: для параметров моделей вычисляется устойчивый центр с использованием среднего, покоординатной медианы и итеративного алгоритма Вайсфельда. Модель принимает текст и выдаёт текст; заявлены интерфейс вызова инструментов и контекст до 262 144 токенов. В карточке также указано значение контекста 1 010 000 токенов, но оно не согласуется с метаданными. Языковые теги карточки — английский и китайский. Размер по метаданным — 2,6 млрд параметров; формат файлов — safetensors, точность в README — bfloat16. Лицензия — Apache-2.0. Модель предназначена для диалогов, следования инструкциям, рассуждений, задач с кодом и вызова инструментов в рамках генерации текста. Отдельных оценок качества, подробных языковых результатов и ограничений применения карточка не приводит.

OptimizeLLM/Qwen3.8-27B-heretic-MTP-FP8 — мультимодальная языковая модель, разработанная OptimizeLLM на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации и анализа текста, технических и диалоговых сценариев, работы с инструментами, а также обработки изображений и видео. Она ориентирована на использование через vLLM и поддерживает спекулятивное декодирование MTP. В основе лежит плотная модель размером 27,8 млрд параметров с 64 слоями и гибридной архитектурой, объединяющей линейное и полное внимание. Веса квантизированы в FP8 E4M3 с блочным масштабированием 128×128, при этом vision tower, MTP-головы, lm_head, embed_tokens и некоторые проекции сохранены в BF16. Размер модели составляет около 30 ГБ; используются официальный токенизатор Qwen3.8-27B и мультимодальные входы изображений и видео. Длина контекста в README не указана. Ключевая особенность — abliteration с помощью HERETIC, удаляющая склонность базовой модели отказывать в ответах. Поэтому модель подходит для сценариев, где требуется отвечать на технические вопросы, включая темы информационной безопасности, которые исходная модель могла бы отклонять. При этом abliteration не делает модель нейтральной: она может сохранять исходные мировоззренческие и политические склонности, а отсутствие отказов повышает требования к контролю применения. Для запуска рекомендуется GPU с достаточным объёмом памяти; заявлено размещение на одной карте 96 ГБ, а в vLLM требуется ограничить max-num-seqs до 32. Производительность измерялась на RTX PRO 6000 Blackwell и составляла около 122 токенов в секунду при MTP=4, но зависит от нагрузки. Модель распространяется по лицензии Apache-2.0. README не содержит полного перечня поддерживаемых языков и точного размера контекста.

mlx-community/Qwen3-8B-bf16 — конвертированная в формат MLX версия языковой модели Qwen3-8B, подготовленная сообществом mlx-community на основе Qwen/Qwen3-8B. Это плотная причинная языковая модель с 7,6 млрд параметров для генерации текста и диалогов; она также поддерживает следование инструкциям, рассуждения, работу с кодом и интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, а её контекст составляет до 40 960 токенов. Репозиторий содержит веса в safetensors и рассчитан на запуск через библиотеку MLX и пакет mlx-lm. Лицензия — Apache-2.0. Ограничения возможностей и качества унаследованы от базовой модели Qwen3-8B; в доступной карточке отдельно не описаны.

Это конвертированная в формат Llama версия инструктивной языковой модели Qwen2.5-7B-Instruct. Репозиторий создан llamafy; модель предназначена для программ, совместимых с форматом Llama. По метаданным, это плотная причинная языковая модель на 7,1 млрд параметров с контекстом до 4096 токенов, сохранённая в safetensors и используемая через библиотеку Transformers. Модель подходит для диалогов и генерации текста, включая код и структурированные ответы, которые поддерживает базовая Qwen2.5-7B-Instruct. В метаданных указаны языки китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Лицензия в предоставленных данных не указана.

Qwopus3.5-27B-v3.5 — дообученная Jackrong мультимодальная модель на основе Qwen3.5-27B. Версия 3.5 продолжает Qwopus3.5-27B-v3 с примерно вдвое большим объёмом данных SFT; новая архитектура и отдельный этап RL не заявлены. Модель предназначена для структурированных рассуждений, диалогов, программирования, работы с инструментами и многошаговых агентных сценариев. Метаданные также указывают поддержку анализа изображений и интерфейс вызова инструментов. Архитектура — плотная Qwen3.5 для генерации текста и работы с изображениями; в репозитории представлены веса Safetensors. Заявлена лицензия Apache-2.0. В карточке приведены результаты на выбранных подмножествах MMLU-Pro и SWE-подобном наборе тестов; оценки предварительные и не заменяют независимую проверку на полном наборе задач. Среди ограничений автор отмечает нестабильность рассуждений в отдельных случаях, зависимость работы с инструментами от интеграции со средой и возможность ухудшения отдельных показателей выравнивания. Данные README о языковом охвате шире явно перечисленных в метаданных языков, поэтому в языковые теги включены только указанные там коды.

Radiantloom Llama 70B Instruct — большая языковая модель Radiantloom AI на архитектуре Llama с 68,7 млрд параметров. Это дообученная модель для генерации текста и диалогов; в карточке указаны формат safetensors и лицензия Llama 2. Модель предназначена для чата, написания и суммаризации текстов, ответов на вопросы, программирования, ролевых сценариев и работы в RAG-системах. README отмечает генерацию развернутых ответов и поддержку многоходовых диалогов. Длина контекста — 32 764 токена. Для диалогов рекомендуется шаблон ChatML, хотя пример в карточке показывает другой формат. По заявлению разработчика, модель показывает хорошие результаты в письме, коде и рассуждениях, однако оценка пока предварительная и основана на LLM-as-a-Judge. Ответы могут содержать фактические ошибки, предвзятый или оскорбительный контент, включая материалы NSFW; перед применением в пользовательских системах нужна проверка безопасности.

Tess-v2.5.2-Qwen2-72B — языковая модель для диалоговой генерации текста, созданная Мигелем Тиссерой (Migel Tissera) в серии Tess. Это плотная модель Qwen2 с 71,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и обучена следовать формату диалога ChatML. Модель дообучена на Qwen2-72B с использованием набора Tess-v2.5 из 300 тысяч синтетических примеров по широкому кругу тем, включая программирование, математику, STEM, бизнес, историю, общественные науки и искусство. Автор указывает на улучшения в рассуждениях, программировании и математике. Модель может поддерживать беседу и задавать уточняющие вопросы; чтобы отключить их, в системной инструкции можно попросить не задавать дополнительных вопросов. Обучение проводилось без RLHF и DPO. Модель подходит для диалоговых помощников, объяснений, рассуждений и помощи с кодом. Она может выдавать неточные, вводящие в заблуждение, предвзятые или оскорбительные ответы; результаты следует проверять. Автор характеризует модель как uncensored. Лицензия в метаданных обозначена как other, конкретные условия использования следует проверять в репозитории.

Карточка модели jondurbin/airoboros-l2-70b-gpt4-m2.0 на Hugging Face совпадает с карточкой jondurbin/airoboros-65b-gpt4-m2.0, поэтому описание составлено по ней. airoboros-65b-gpt4-m2.0 — плотная авторегрессионная модель семейства LLaMA на 65 млрд параметров, разработанная Jon Durbin и дообученная для следования инструкциям на синтетических данных Airoboros. Версия m2.0 объединяет данные набора 1.4.1 без дубликатов и категории system с данными GPT-4, созданными на основе версии от июня 2023 года; исходная серия также включала данные GPT-4 от марта 2023 года. Модель предназначена для диалога и генерации текста по инструкциям: ответов на вопросы по предоставленному контексту, помощи с программированием, планирования шагов для задач с инструментами и генерации аргументов функций в JSON или YAML. Для общения используется текстовый шаблон с ролями USER и ASSISTANT. Контекст составляет 2048 токенов. Модель обучена с QLoRA; README отмечает, что варианты 65B основаны на оригинальной LLaMA, а не Llama 2. Карточка описывает модель как дающую подробные ответы, ориентированную на использование контекста в закрытых вопросах и включающую примеры планирования и вызова функций. Возможны галлюцинации, особенно если запрос не содержит достаточных сведений; для вопросов по контексту автор рекомендует явно просить не придумывать ответ. Модель выпускается по лицензии CC BY-NC 4.0, допускающей использование с указанием авторства и ограничивающей коммерческое применение.

Cogito v1 preview 3B — инструктивно дообученная языковая модель от Deep Cogito на архитектуре Llama 3.2 3B. Она генерирует текст и поддерживает диалоги: может отвечать напрямую или сначала выполнять внутренний этап рассуждения. Веса представлены в формате safetensors, модель рассчитана на контекст до 131 072 токенов. Модель предназначена для программирования, задач STEM, следования инструкциям и общих ассистентских сценариев. README заявляет поддержку более 30 языков, а также вызов инструментов в обычном и расширенном режимах рассуждения. Для режима расширенного рассуждения предлагаются отдельная системная инструкция или параметр шаблона чата; для Cogito 3B рекомендован repetition_penalty 1.1. Модель выпущена по лицензии Llama 3.2, обозначенной в метаданных как llama3.2; README указывает на возможность коммерческого использования. Заявленные в карточке сравнительные преимущества основаны на бенчмарках разработчика и не гарантируют качество на конкретных задачах.

PiehSoft подготовил квантованную версию DeepSeek-R1-Distill-Llama-70B в формате GGUF для запуска на видеокартах NVIDIA Blackwell. Это текстовая диалоговая модель на основе дистиллированной модели DeepSeek с архитектурой Llama; веса квантованы в NVFP4, что снижает требования к памяти и рассчитано на ускорение генерации на совместимом оборудовании. В README указана длина контекста 131072 токена. Модель подходит для диалогов, математических рассуждений, программирования и ответов на сложные вопросы. Она принимает текст и генерирует текст. По данным карточки, квантование выполнено с использованием 128 калибровочных примеров, после чего веса преобразованы в GGUF; лицензия — MIT. Это неофициальная конверсия сообщества. В README отмечены незрелость поддержки NVFP4 в экосистеме GGUF и возможные изменения производительности по мере развития реализации; результаты также зависят от совместимого оборудования и программного обеспечения.

mlx-community/DeepSeek-R1-Distill-Llama-8B — конверсия в формат MLX модели DeepSeek-R1-Distill-Llama-8B от deepseek-ai, выполненная Focused с помощью mlx-lm 0.21.1. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров для генерации текста и диалогового взаимодействия; заявленная длина контекста — 131072 токена. Базовая модель дообучена на данных рассуждений DeepSeek-R1 и предназначена для многошаговых рассуждений, решения математических задач и программирования. Репозиторий предлагает использовать модель через mlx-lm; метаданные указывают формат safetensors и интерфейс вызова инструментов. В README не приведены сведения о лицензии или языковом покрытии. Возможности и качество модели наследуют ограничения базового чекпойнта; характеристики использования MLX зависят от совместимой среды.

puwaer подготовил сжатый вариант DeepSeek-V4-Flash-0731 методом REAP: в каждом MoE-блоке число маршрутизируемых экспертов сокращено с 256 до 132, при этом сохранены все 43 слоя и 6 экспертов на токен. Это причинная языковая модель с архитектурой DeepseekV4ForCausalLM и 10,7 млрд параметров в опубликованном чекпойнте; веса представлены в safetensors FP8. Модель предназначена для диалоговой генерации текста, рассуждений, решения математических задач и генерации кода. Поддерживает контекст до 1 048 576 токенов. По приведённым в карточке тестам, сжатый вариант сохраняет близкие к базовой модели результаты на математических и программных бенчмарках. Стандартная генерация работает, но модули многотокенного предсказания удалены, поэтому ускоренное спекулятивное декодирование на их основе недоступно. Результаты тестов получены при контексте 4096 токенов и отключённом thinking, что ограничивает переносимость этих показателей на другие настройки. Модель основана на deepseek-ai/DeepSeek-V4-Flash-0731; лицензия — MIT.

Это конверсия в формат MLX модели Jackrong/DeepSeek-V4-Pro-Qwen3.5-9B, опубликованная сообществом mlx-community. Модель построена на архитектуре Qwen3.5 и предназначена для диалогов, работы с текстом и кодом, а также обработки изображений и видеовходов; доступны интерфейсы вызова инструментов. Веса представлены в BF16, сохранены шаблон чата и настройки мультимодального процессора. Репозиторий ориентирован на запуск на Apple Silicon через mlx-vlm; для мультимодального использования рекомендуется эта библиотека. Модель поддерживает английский, китайский, испанский, русский и японский языки. Лицензия — Apache 2.0, унаследованная от исходной модели. Размер параметров и длина контекста в предоставленных данных не приведены. Подробности о назначении и ограничениях исходной модели следует уточнять в её карточке.

Devstral-Small-2-24B-Instruct-2512-GGUF — это мультимодальная GGUF-сборка исходной instruct-модели Devstral-Small-2-24B-Instruct-2512, разработанной Mistral AI. Модель упакована и квантована для локального запуска в llama.cpp и рабочей среде Backpack. Она поддерживает текстовые и графические входные данные и генерирует текст. Модель построена на архитектуре Mistral3ForConditionalGeneration и содержит около 24 млрд параметров. Точная длина контекста в карточке не указана. Для обработки изображений требуется отдельный мультимодальный проектор F16 размером около 837,4 MiB. Доступны варианты квантования Q4_K_M, Q5_K_M и Q8_0; рекомендуемым для большинства пользователей назван Q4_K_M, обеспечивающий практический баланс качества, размера и скорости. Оценочный объём оперативной памяти составляет от 21,23 до 35,7 ГБ в зависимости от варианта, но фактическое потребление зависит от конфигурации запуска и длины контекста. Модель предназначена для диалогов, генерации кода, структурированных аргументов инструментов, tool calling и многошаговых циклов взаимодействия с инструментами. В тестах прошли проверки загрузки, инференса и токенизатора для всех вариантов квантования, а также детерминированные проверки перечисленных возможностей для Q4_K_M. Языки, специальные показатели качества и ограничения исходной модели в README не указаны. Квантование может влиять на качество ответов. Распространение осуществляется по лицензии Apache-2.0 с необходимостью учитывать условия upstream-модели.

Dolphin-2.9.1-Llama-3-8B-GGUF — квантизированная версия языковой модели Dolphin-2.9.1-Llama-3-8B, созданной cognitivecomputations на базе Meta Llama 3 8B. Дистрибутив подготовлен bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, программирование, математические задачи, function calling и агентские задачи. При дообучении использовались наборы Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, Samantha, Orca Math, Locutusque Function Calling и Agent-FLAN. Доступны варианты квантизации от Q8_0 до низкобитных IQ- и Q-форматов, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Для работы предусмотрен chat-шаблон с ролями system, user и assistant. Сильной стороной модели является широкий охват инструкционных, кодовых, математических и инструментальных сценариев, а также возможность локального запуска через llama.cpp благодаря форматам GGUF. Более сильные варианты квантизации обычно обеспечивают лучшее качество, но требуют больше памяти; низкобитные варианты экономичнее, однако заметно уступают по качеству. Мультимодальность, поддерживаемые языки и размер контекстного окна в предоставленных данных не указаны. Лицензия обозначена как other, без дополнительных условий в README.

theo77186/dolphin-2.9.1-mistral-22b — преобразованная в формат Mistral версия Dolphin 2.9.1 Mixtral 1x22B, созданной Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и Cognitive Computations. Это плотная авторегрессионная языковая модель на 22 млрд параметров с контекстом до 65 536 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для диалогов и выполнения инструкций, включая задачи по программированию. В карточке также заявлены начальные агентные возможности и поддержка вызова функций. Для исходной модели указано полное дообучение всех слоёв с длиной последовательности 16 000 токенов; она основана на Dolphin-2.9-Mixtral-8x22B и извлечённом объединённом эксперте. Лицензия — Apache-2.0, допускающая коммерческое использование при соблюдении её условий. Автор README отмечает, что шаблон ChatML работает некорректно и что формат Alpaca при этом работает. Модель описана как uncensored и может следовать запросам, в том числе небезопасным; перед предоставлением сервиса рекомендуется добавить собственный слой выравнивания. Языки обучения и точные показатели качества в карточке не раскрыты.

Dolphin 2.9.3 Mistral 7B 32k — разговорная языковая модель, дообученная Eric Hartford и командой Cognitive Computations на базе mistralai/Mistral-7B-v0.3. Она предназначена для диалогов, следования инструкциям, помощи с программированием и вызова функций в агентных сценариях. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; при дообучении применялась длина последовательности 8192 токена. Для общения используется шаблон ChatML. Модель обучалась на смесях диалоговых, инструкционных, кодовых и математических данных, включая Dolphin-2.9, OpenHermes-2.5, Dolphin Coder и Orca Math. Разработчики характеризуют её как uncensored и предупреждают, что перед предоставлением сервиса следует самостоятельно настроить слой выравнивания и меры контроля ответов. Лицензия Apache 2.0 разрешает коммерческое использование.

bartowski/dolphin-2.9-llama3-8b-GGUF — это набор GGUF-квантизаций модели dolphin-2.9-llama3-8b, разработанной cognitivecomputations и подготовленной для локального запуска. Модель предназначена для генерации текста в диалоговых и инструкционных сценариях, включая ответы на вопросы, программирование, решение математических задач, function calling и агентские задачи. Обучение опиралось на наборы Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, Samantha, UltraChat, Orca Math и другие датасеты. Это текстовая модель на архитектуре Llama 3 с размером 8 млрд параметров. Репозиторий содержит версии от F16 до различных вариантов Q8, Q6, Q5, Q4, Q3 и IQ-квантизаций, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Квантизации выполнены с использованием llama.cpp и метода imatrix; для взаимодействия указан шаблон промпта ChatML. Поддержка мультимодальности, конкретные языки и размер контекстного окна в README не указаны. Сильной стороной модели является широкий набор обучающих данных и наличие множества вариантов для локального инференса, включая версии, оптимизированные для ARM. Более сильные квантизации обеспечивают лучшее качество, но требуют больше памяти, тогда как Q3-версии экономичнее, но заметнее теряют в качестве. Для запуска рекомендуется использовать совместимый инференс-движок, например llama.cpp или LM Studio. Лицензия обозначена как other, однако её точные условия в README не приведены.

Dolphin 3.0 R1 Mistral 24B — инструктивная языковая модель, созданная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на базе Mistral Small 24B Base. Это плотная модель с 23,4 млрд параметров, дообученная на трёх эпохах с использованием 800 тысяч трасс рассуждений из набора Dolphin-R1. Она предназначена для локального применения как универсальный помощник: отвечает на вопросы, помогает с программированием и математикой, поддерживает агентные сценарии и вызов функций. Модель работает с текстом, использует шаблон диалога ChatML и имеет контекст длиной 32 768 токенов; в метаданных указан английский язык. Dolphin ориентирована на управляемое применение: владелец задаёт системный промпт и правила поведения. Авторы рекомендуют низкую температуру генерации 0,05–0,1, поскольку более высокие значения могут ухудшать рассуждения. Модель распространяется в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Карточка модели tactBagel/GLM-4.6-Derestricted-v3 на Hugging Face совпадает с карточкой ArliAI/GLM-4.6-Derestricted-v3, поэтому описание составлено по ней. GLM-4.6-Derestricted-v3 — текстовая диалоговая модель Arli AI, созданная на основе GLM-4.6 от Zhipu AI. Разработчики применили к базовой модели метод Norm-Preserving Biprojected Abliteration, чтобы убрать поведение отказа, стараясь сохранить рассуждения и другие способности исходной модели. Это модификация весов, а не отдельная архитектура; в репозитории указаны 23,4 млрд параметров, семейство GLM-4 MoE и формат safetensors. Модель предназначена для генерации диалоговых ответов, рассуждений, написания кода и агентных сценариев. Унаследованный от GLM-4.6 контекст составляет 202 752 токена; исходная карточка также описывает поддержку использования инструментов. В карточке заявлено, что удаление отказов позволяет сохранить или улучшить рассуждения, однако независимых подтверждений этих заявлений не приведено. Модель принимает текст и генерирует текст. Лицензия — MIT. Языки явно не перечислены; исходная GLM-4.6 описана как модель для текста и кода, но конкретный набор естественных языков не указан.

GPT-5 — модель OpenAI для сложных задач, требующих рассуждений, точного выполнения инструкций и генерации качественного кода. В карточке модели отмечены улучшения в рассуждениях, качестве кода и удобстве взаимодействия. Модель предназначена для решения сложных задач и следования инструкциям. Каталог классифицирует её как image-text-to-text, однако README не описывает работу с изображениями или другие модальности, поэтому это назначение подтверждается только метаданными.

kldzj/gpt-oss-120b-heretic — модифицированная версия открытой весовой модели openai/gpt-oss-120b, созданная разработчиком kldzj с использованием Heretic v1.0.1. Это текстовая генеративная модель для общего назначения, рассуждений, агентских сценариев и задач разработчиков; заявленная особенность версии — снижение склонности к отказам от ответов (decensored/abliterated). Модель поддерживает запуск через Transformers и vLLM и рассчитана на использование в формате harmony. Модель основана на архитектуре Mixture-of-Experts: содержит около 117 млрд параметров, из которых примерно 5,1 млрд активны при обработке запроса. Она использует посттренировочную MXFP4-квантизацию весов MoE и может работать на одном GPU с 80 ГБ памяти, например NVIDIA H100 или AMD MI300X. Заявлены настраиваемый уровень рассуждений, function calling, веб-браузинг, выполнение Python-кода и Structured Outputs. В README не указаны языки, размер контекстного окна и поддержка мультимодальных входов, поэтому модель следует считать текстовой. По приведённому сравнению, модель отказалась отвечать в 19 из 100 тестовых случаев против 97 отказов у исходной модели, однако её KL-дивергенция относительно исходной модели составляет 0,92, что указывает на заметное изменение поведения. Возможные ограничения включают высокие требования к вычислительным ресурсам, необходимость корректного использования harmony-формата и потенциальные риски, связанные со снижением защитных отказов. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование и модификацию.

Hy4 preview — экспериментальная предварительная версия языковой модели Tencent Hy Team для диалогов и генерации текста. В README описана MoE-архитектура: 770 млрд параметров в основной модели, из которых активируются 49 млрд на токен; также упоминается дополнительный слой MTP для ускорения декодирования. Метаданные каталога указывают архитектуру HYV4ForCausalLM и 33,9 млрд параметров, что расходится с числом в README; поэтому размер модели здесь нельзя считать однозначным. Модель предназначена для разработки программного обеспечения, анализа документов и данных, подготовки офисных материалов, прототипирования игр и исследовательских задач. Заявлен контекст длиной до 1 048 576 токенов. В README не указаны поддерживаемые естественные языки. Известные ограничения ранней версии — избыточно долгие рассуждения по сложным задачам и склонность к повторной проверке уже выполненной работы. Модель распространяется по лицензии Apache-2.0.

Inkling-Small — мультимодальная модель общего назначения, опубликованная Unsloth как дообученная версия thinkingmachines/Inkling-Small. Она принимает текст, изображения и аудио, а ответы формирует текстом; предназначена для диалогов, следования инструкциям, разработки чат-ботов, помощников по программированию, систем RAG и приложений с агентами и вызовом инструментов. Модель построена на 42-слойном авторегрессионном трансформере с разреженной MoE-архитектурой: всего 276 млрд параметров, из которых активно 12 млрд; для каждого токена выбираются 6 из 256 экспертов и задействуются 2 общих эксперта. Изображения обрабатываются иерархическим patch-энкодером, аудио — через дискретные токены. Поддерживаются BF16 и NVFP4; для изображений рекомендуются размеры сторон от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Основной язык — английский, также заявлена общая многоязычная поддержка. Лицензия — Apache-2.0. Модель может галлюцинировать, неточно следовать инструкциям и хуже работать в длинных многошаговых диалогах; качество может различаться между языками и областями. Для медицинских, юридических и других критически важных решений необходимы проверка результатов и человеческий контроль. README рекомендует дополнительную фильтрацию и мониторинг при развертывании, поскольку модель иногда поддается косвенно сформулированным вредоносным запросам.