II.4Отладка, тестирование и качество ПО

DreamFast/Qwen-2.5-7b-apostate — разговорная языковая модель на базе Qwen2.5-7B-Instruct, изменённая сообществом с помощью Apostate. Веса представлены в формате safetensors с точностью bfloat16; модель содержит около 7,1 млрд параметров и использует плотную архитектуру Qwen2. Контекстная длина этой версии — 32 768 токенов. Модель предназначена для диалогов и генерации текста, в том числе ответов на инструкции, кода и структурированных данных. Её ключевое отличие — ослабленное поведение отказа: по описанию авторов, направление отказа удалено ортогональной проекцией в большинстве слоёв. README сообщает о высокой доле выполнения запросов из HarmBench и сохранении результатов на ряде тестов базовой модели; эти показатели получены в оценке авторов и не гарантируют такое же поведение в других сценариях. Поддерживаются английский и, согласно описанию семейства Qwen2.5, многоязычные сценарии, включая русский. Модель распространяется по лицензии Apache-2.0. Она может выдавать ответы на вредоносные запросы, поэтому требует контроля применения и выходных данных.

Qwen-2.5-7b-TitanFusion-v5-Exp — объединённая языковая модель на базе архитектуры Qwen2, созданная сообществом с помощью mergekit и метода TIES. В объединение вошли huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2, Cran-May/T.E-8.1, Qwen/Qwen2.5-Coder-7B, Qwen/Qwen2.5-Math-7B, happzy2633/qwen2.5-7b-ins-v3 и katanemo/Arch-Function-7B. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и принимает текст для генерации текста; поддерживает диалоговый режим и интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов. Включение кодовой, математической и функционально ориентированных моделей предполагает применение для программирования, решения математических задач и диалогов с инструментами, однако README не приводит отдельных результатов оценки этих возможностей. Репозиторий содержит веса в формате safetensors и предназначен для Transformers. Лицензия в предоставленных данных не указана.

Valiant Labs разработала Esper 3 — дообученную на базе Qwen3-14B языковую модель для рассуждений, особенно в программировании, проектировании архитектуры и DevOps. Она также предназначена для общего решения задач, творческих рассуждений и диалогов. Модель использует архитектуру Qwen3 dense с 14 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 40 960 токенов. Для диалогов рекомендуется включать режим рассуждений через параметр enable_thinking=True. Модель ориентирована на разработчиков и инженеров: может помогать с кодом, скриптами, облачной инфраструктурой и DevOps-задачами, а также отвечать на общие вопросы. Карточка описывает её как открытую модель; лицензия Apache-2.0. README не приводит оценок качества или подробностей о датасетах обучения, кроме указания, что данные для рассуждений и кода были сгенерированы с помощью DeepSeek R1.

ISTA-DASLab/Qwen3.6-35B-A3B-2Bit-GSQ — это квантизованная версия модели Qwen/Qwen3.6-35B-A3B, разработанная IST-DASLab с использованием метода GSQ (Gumbel-Softmax Quantization). Базовая модель построена по архитектуре MoE: 35 млрд параметров всего и около 3 млрд активных параметров. Модель ориентирована на рассуждения, программирование, следование инструкциям, научные и математические задачи, а также работу с длинным контекстом. В репозитории заявлена поддержка сценариев image-text-to-text; чекпойнт включает vision-компоненты, необходимые для мультимодальных входов, однако сведения о поддерживаемых языках и точной длине контекста в README не указаны. Ключевая особенность — смешанная квантизация. Веса маршрутизируемых экспертных MLP представлены в 2-битном формате GSQ с эффективной стоимостью хранения около 2,13 бит на параметр и размером группы 128, тогда как attention-слои, общие эксперты и LM head квантизованы в INT8. Эмбеддинги, нормализации, маршрутизатор MoE и другие компоненты сохранены в BF16. Полный чекпойнт занимает примерно 12,6 ГБ, а вариант без vision- и MTP-компонентов — около 9,9 ГБ. По приведённым оценкам, модель сохраняет высокую точность базовой версии, особенно на AIME 2025, где результат совпал с исходной моделью, но уступает ей на GPQA Diamond, IFEval, MMLU-Pro и GSM8K. Ограничения связаны с необходимостью специальной инфраструктуры: для запуска через vLLM требуется версия 0.27.1, патч совместимости из репозитория и GPU Ampere или Hopper. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-Heretic-Cerebellum-GGUF — это квантизированная GGUF-версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. Вариант Heretic создан на основе uncensored-модификации от llmfan46 с применением Heretic v1.2.0, а смешанно-точная квантизация Cerebellum выполнена deucebucket. Модель относится к архитектуре Qwen3 и использует MoE-подход; рекомендуемый файл Q3_K_M занимает около 11,96 ГБ. Для мультимодальной работы требуется отдельный vision projector BF16 размером около 858 МБ, поддерживающий обработку изображений и видео через llama.cpp. Модель предназначена для генерации текста, рассуждений, ответов на вопросы, программирования и мультимодального описания изображений. По приведённым локальным тестам на RTX 3090 она показывает 95,48% на ARC-Challenge, 91,78% на HellaSwag, 75,42% на MMLU-Redux и pass@1 64,63% на HumanEval+. Эти результаты характеризуют конкретную квантизированную сборку и не гарантируют аналогичную производительность в других конфигурациях. Сильными сторонами являются сочетание относительно компактного размера, MoE-архитектуры, смешанной квантизации, поддержки мультимодальных сценариев и хороших результатов на задачах общего reasoning и программирования. Ограничения включают потери качества из-за квантизации, необходимость совместимого рантайма и vision projector для работы с изображениями и видео, а также отсутствие в предоставленных данных сведений о длине контекста и поддерживаемых языках. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-REAM-192 — мультимодальная модель Samsung SAIL Montreal, созданная слиянием экспертов базовой Qwen/Qwen3.6-35B-A3B методом REAM. В слоях MoE число маршрутизируемых экспертов сокращено с 256 до 192; модель содержит около 27,05 млрд параметров, из которых около 3 млрд активны на токен. Сохранены vision encoder и обработка изображений; веса представлены в формате bf16, без квантизации. Модель предназначена для диалогов, генерации текста по изображениям, агентного программирования и вызова инструментов. Это предварительный выпуск до оценки качества: автор сообщает, что модель загружается и связно отвечает на тестовых запросах, но результаты бенчмарков ещё не опубликованы. Для обычной текстовой и мультимодальной работы отсутствующие веса MTP не нужны, однако спекулятивное декодирование с MTP пока не поддерживается. Для инференса требуется bf16: fp16 может вызывать NaN в слоях GDN. Веса занимают около 52 ГБ; для контекста 32K автор указывает минимум около 60 ГБ VRAM. Лицензия Apache-2.0.

mergekit-community создал эту плотную авторегрессионную языковую модель объединением методом TIES инструктивной Qwen2.5-7B-Instruct с моделями Qwen2.5-Coder-7B-Instruct и Qwen2.5-Math-7B-Instruct. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и рассчитана на контекст до 32 768 токенов. Она распространяется в формате safetensors и работает с библиотекой Transformers. Модель предназначена для диалогов и генерации текста с акцентом на программирование и математические задачи; метаданные также указывают интерфейс для вызова инструментов. Объединение переносит возможности трёх исходных инструктивных моделей в один чекпойнт, однако README не приводит сравнительных оценок качества или результатов тестирования. Языки в предоставленных данных не обозначены. Лицензия в предоставленных данных не указана.

Qwen3.8-27B-Uncensored-YMQ-MTP-GGUF — семейство GGUF-квантизаций модели JonathanColetti/Qwen3.8-27B-Uncensored, подготовленное проектом ZeroDigest с использованием собственного YMQ-Compiler v2.0. Модель предназначена для генерации текста, программирования и агентных сценариев, включая выполнение API-задач в инструментах вроде RooCode и Aider. Это плотная модель на 27 млрд параметров, преобразованная из исходных BF16-файлов в смешанные по точности варианты с архитектурно-зависимой квантизацией. Сборка ориентирована на поддержку параллельного multi-token prediction (MTP) и speculative decoding, а также на работу с большими контекстами. В README упоминаются компоненты и методы, связанные с Mamba, SSM и AutoRound, однако точный размер контекстного окна, список языков и полный набор поддерживаемых модальностей не указаны; по представленным данным модель является текстовой. Доступно несколько пресетов размером примерно от 9,3 до 17 ГБ, рассчитанных на видеокарты с 12 или 16 ГБ памяти и на разные компромиссы между компактностью и качеством. Более компактные варианты подходят для ограниченной VRAM и коротких однопользовательских запросов, но могут проявлять забывание контекста, циклы форматирования и повышенный шум квантизации. Более крупные пресеты обеспечивают лучшую стабильность логики, форматирования и многошаговой работы, но требуют больше памяти. Лицензия — Apache-2.0.

Qwen3-Next-80B-A3B-Thinking-GGUF — GGUF-версия модели Qwen3-Next-80B-A3B-Thinking, разработанной командой Qwen и подготовленной Unsloth. Это авторегрессионная языковая модель для генерации текста, ориентированная прежде всего на сложные задачи рассуждения, включая математические задачи, анализ знаний, программирование и агентные сценарии. Модель поддерживает только режим thinking, поэтому при генерации может формировать длинную цепочку рассуждений. Модель использует гибридную архитектуру Gated DeltaNet и Gated Attention, высокоразреженную Mixture-of-Experts с 80 млрд параметров всего и примерно 3 млрд активируемых на токен, а также Multi-Token Prediction. Архитектура включает 48 слоёв и 512 экспертов, из которых активируются 10; нативный контекст составляет 262 144 токена и может быть расширен до 1 010 000 токенов. Ключевые сильные стороны — высокая параметрическая эффективность, сниженные вычисления на токен, ускорение инференса на длинном контексте и хорошие результаты на сложных задачах рассуждения. Ограничения включают обязательный режим thinking, потенциально длинные ответы и отсутствие в предоставленных данных сведений о поддерживаемых языках, точных параметрах GGUF-квантизации и требованиях к оборудованию. Лицензия — Apache 2.0.

Qwen3-VL-30B-A3B-Thinking — мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Это версия с визуальным анализом и режимом Thinking для рассуждений; репозиторий содержит веса в формате Safetensors и предназначен для использования с Transformers. Архитектура указана как Qwen3 VL MoE; название модели обозначает класс 30B-A3B. Модель принимает текст и изображения, а также предназначена для понимания видео и пространственных сцен. Она поддерживает диалог, визуальный анализ, OCR, рассуждения по STEM-задачам, извлечение информации из длинных документов и взаимодействие с инструментами; заявлены сценарии управления графическими интерфейсами и генерации кода интерфейсов по изображениям и видео. В README указан контекст 256K с возможностью расширения до 1M токенов и OCR на 32 языках. Сильные стороны — объединённое текстовое и визуальное понимание, анализ временной структуры видео, распознавание текста в сложных условиях и пространственные рассуждения. Точные результаты зависят от сценария; README не содержит численных результатов тестирования. Лицензия — Apache-2.0.

Qwopus3.5-122B-A10B-Kimi-K2.6-destilled-abliterated-NVFP4 — мультимодальная версия модели, разработанная OpenYourMind. Она создана на основе Qwopus3.5-122B-A10B-Kimi-K2.6-destill-healed-abliterated, которая, в свою очередь, основана на Qwen/Qwen3.5-122B-A10B и дополнительно использует дистилляцию Kimi-K2.6, обучение с предпочтениями для рассуждений и модификацию, обозначенную авторами как abliterated/uncensored. Модель предназначена для генерации и понимания текста и изображений, включая задачи рассуждений, программирования, вызова инструментов и работы с визуальными данными. Это архитектура Mixture of Experts с примерно 122 млрд параметров, из которых около 10 млрд активируются при обработке одного запроса. Сохраняются vision tower, MTP head, маршрутизатор экспертов и путь внимания Gated-DeltaNet. Поддерживаются архитектура Qwen3_5MoeForConditionalGeneration и контекст до 262 144 токенов в указанной конфигурации. Поддерживаемые языки в README не указаны. Весовые параметры сжаты в формат NVFP4 с точностью 4 бита, что уменьшает размер модели примерно с 250 до 81,5 ГБ; часть компонентов оставлена в BF16. По заявленным авторами результатам, сборка превзошла полноточную Qwen3.5-122B-A10B на тестах CTI, LiveCodeBench и BFCL, однако эти результаты представлены без независимой верификации. Для запуска рекомендуется vLLM с поддержкой compressed-tensors; указано использование как минимум одного ускорителя Blackwell с объёмом памяти от 96 ГБ. Лицензия — MIT.

Qwopus3.5-122B-A10B-Kimi-K2.6-destill-healed-abliterated — мультимодальная модель OpenYourMind на архитектуре Qwen3.5 MoE, дообученная на базе Qwen/Qwen3.5-122B-A10B. В модели 122 млрд параметров, около 10 млрд активных; веса представлены в BF16 и формате safetensors. Она принимает текст и изображения, включая видеокадры, и генерирует текст. Карточка заявляет поддержку диалога, рассуждений, программирования и работы с инструментами. Модель прошла абляцию отказов, несколько этапов SFT и DPO на данных, дистиллированных из Claude Opus и Kimi K2.6; заявленные цели — сохранить рассуждения, улучшить полноту ответов и сократить повторы. Заявления о качестве и результатах бенчмарков приведены автором карточки. Vision tower и MTP head сохранены, поэтому модель совместима по архитектуре с исходной Qwen3.5-122B-A10B. Для загрузки требуются ресурсы для хранения и вычислений, соответствующие весам общим объёмом около 250 ГБ. Лицензия — MIT.

Ternary-Bonsai-2-27B-mlx-2bit — производная версия Qwen/Qwen3.8-27B от Prism ML, предназначенная для локального запуска диалоговой модели и агентов. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и вращением Hadamard. Размер модели — 27,36 млрд параметров, включая языковую часть и башню зрения. Репозиторий занимает около 8,60 ГБ; заявлена поддержка контекста до 262 тысяч токенов и обработка изображений. Модель рассчитана на генерацию текста, рассуждения, программирование и вызов инструментов на ноутбуках и GPU, в том числе без передачи данных в облако. README сообщает о сохранении 98,2% среднего результата FP16 на 14 бенчмарках и приводит показатели производительности для отдельных устройств; это заявления разработчика, а фактическая скорость зависит от оборудования и совместимого низкобитного runtime. Для корректной работы нужны специализированные ядра MLX или CUDA, а для версии MLX — совместимая среда MLX. Качество ниже полного FP16, особенно на сложных задачах; башня зрения в поставке не квантизирована. Лицензия — Apache-2.0.

BitNet b1.58 2B-4T — языковая модель для генерации текста, разработанная Microsoft Research. Она предназначена для диалоговых сценариев, следования инструкциям, генерации и обработки текста, а также задач, связанных с программным кодом и математикой. Модель обучена на 4 триллионах токенов и имеет около 2 миллиардов параметров. Архитектура основана на Transformer с модифицированными слоями BitLinear, позиционными представлениями RoPE, активацией ReLU² в FFN-слоях и нормализацией subln. Модель обучена с нуля с использованием нативного квантования: веса представлены в формате 1,58 бита с тернарными значениями {-1, 0, +1}, а активации — в 8-битном формате. Используется токенизатор LLaMA 3 с размером словаря 128 256 токенов. Заявленный максимальный контекст составляет 4096 токенов, поддерживаемый язык — английский. Ключевое преимущество модели — потенциально более низкие требования к памяти, энергопотреблению и задержке по сравнению с полноточными моделями сопоставимого размера. Для получения этих преимуществ рекомендуется специализированная реализация bitnet.cpp; при запуске через стандартную библиотеку transformers выигрыш в скорости, задержке и энергопотреблении не гарантируется и может отсутствовать, хотя потребление памяти может быть ниже. Для задач с контекстом существенно длиннее 4096 токенов рекомендуется предварительная адаптация модели к длинным последовательностям. Модель распространяется по лицензии MIT.

dolphinllamaseekv1 — объединённая модель генерации текста на архитектуре Llama, созданная сообществом mergekit-community методом SLERP из cognitivecomputations/Dolphin3.0-Llama3.1-8B и deepseek-ai/DeepSeek-R1-Distill-Llama-8B. В репозитории указаны 7,5 млрд параметров и контекст до 131 072 токенов; веса доступны в формате safetensors, модель рассчитана на запуск через Transformers. Модель предназначена для диалоговой генерации текста и задач, в которых полезны возможности исходных моделей Dolphin и DeepSeek R1 Distill, включая рассуждения и программирование. Метаданные также отмечают интерфейс вызова инструментов. Объединение может сочетать свойства двух моделей, но README не приводит оценок качества или подробных результатов тестирования. Лицензия в предоставленных данных не указана.

ERNIE-4.5-21B-A3B-Thinking-GGUF — текстовая MoE-модель, разработанная Baidu и представленная в формате GGUF. Она предназначена для сложных задач рассуждения, включая логические задачи, математику, естественные науки, программирование, генерацию текста и академические тесты. Модель также поддерживает эффективное использование инструментов и вызовы функций. Модель содержит 21 млрд параметров, из которых для каждого токена активируется около 3 млрд. Архитектура включает 28 слоёв, 20 Q-голов и 4 KV-головы, 64 текстовых эксперта с активацией 6 экспертов, 64 vision-эксперта с активацией 6 экспертов и 2 общих эксперта. Указана длина контекста 131 072 токена. Основная модальность — текст; заявленные языки — английский и китайский. К сильным сторонам относятся улучшенные качество и глубина рассуждений, поддержка длинного контекста, инструментов и function calling, а также вычислительная эффективность MoE-архитектуры благодаря активации только части параметров на каждом токене. README рекомендует модель прежде всего для высокосложных задач, однако отмечает повышенную длину рассуждений, что может увеличивать задержку и расход ресурсов. Для запуска полной модели указана конфигурация с GPU объёмом 80 ГБ и FastDeploy 2.2; для работы через Transformers требуется версия 4.54.0 или новее. Модель распространяется по лицензии Apache 2.0.

0xSero/Gemma-4-19B — вариант Google Gemma 4 26B-A4B-it, сокращённый разработчиком 0xSero методом REAP (Router-weighted Expert Activation Pruning) при участии Cerebras. Это диалоговая модель MoE для генерации текста: из 128 экспертов в каждом слое удалено 38, осталось 90; на токен по-прежнему активируются 8 экспертов. Модель содержит около 19 млрд параметров, поставляется в BF16 и занимает примерно на 31% меньше места, чем исходная версия. Модель подходит для диалога, генерации кода и математических рассуждений. Она принимает текст и изображения, поддерживает режим рассуждений и контекст до 262 144 токенов. В опубликованной оценке после сокращения экспертов сохранились сильные результаты по элементарной математике и кодированию, но заметно снизились показатели на задачах, требующих широких знаний, включая философию и мировые религии. Указанная лицензия — Gemma; применяются её условия использования.

trohrbaugh/gemma-4-26B-A4B-it-heretic-ara — разговорная мультимодальная модель семейства Gemma 4, размещённая пользователем trohrbaugh. Это вариант Gemma 4 26B A4B с метками heretic, uncensored, decensored и abliterated; карточка не описывает, какие именно изменения внесены в веса. Архитектура использует чередование локального скользящего и глобального внимания. Модель принимает текст и изображения и предназначена для диалога, понимания изображений и документов, генерации и исправления кода, суммаризации и рабочих процессов с вызовом инструментов. В README для семейства Gemma 4 26B A4B заявлен контекст до 256K токенов и поддержка более 35 языков, однако эти сведения приведены для семейства, а не подтверждены отдельными тестами этого варианта. README также описывает для Gemma 4 понимание видео, но карточка именно этого репозитория и его метаданные подтверждают только задачу image-text-to-text и возможность vision, поэтому видео в назначение этой версии не включено. Аудиофункции в README отнесены только к моделям E2B и E4B. Модель может ошибаться в фактах и сложных запросах, а изменённая маркировкой heretic версия может отличаться по поведению и отказам от исходной Gemma 4. Лицензия репозитория — Apache-2.0.

GK-inv-MoE-0.1 — языковая модель с архитектурой Mixture of Experts на базе Mixtral, созданная автором powermove72 с помощью LazyMergekit. Она объединяет GritLM/GritLM-7B и argilla/notus-7b-v1; эксперты маршрутизируются по типу запроса: один предназначен для диалога, объяснений, рассуждений и математики, другой — для программирования и алгоритмов. Модель рассчитана на генерацию текста в чате, ответы на вопросы и помощь с кодом. Объём модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. В карточке не приведены сведения о языках и оценках качества, поэтому результаты на конкретных языках и задачах могут различаться.

google-gemma-4-12B-it-GGUF-Q4_K_M — квантизированная версия базовой модели google/gemma-4-12B-it, опубликованная пользователем sigmanih с использованием Sigma Studio. Модель предназначена для генерации текста, диалоговых помощников, программирования, повседневных задач, рассуждений и агентских сценариев с вызовом инструментов. Она распространяется в формате GGUF с квантизацией Q4_K_M и рассчитана на запуск через совместимые движки, включая llama.cpp и SigmaEngine. Заявлены архитектура gemma4, 12 млрд активных параметров, 48 transformer-слоёв, скрытое измерение 3840 и контекстное окно до 262 144 токенов. Размер файла составляет около 6,87 ГБ; для полной выгрузки на GPU рекомендуется около 19,5 ГБ видеопамяти, а для CPU или гибридного режима — около 19,3 ГБ оперативной памяти. В README указаны английский и итальянский языки. Рекомендуемое оборудование — видеокарта с 24 ГБ VRAM либо система с 32–64 ГБ RAM. По приведённым автором оценкам, модель набрала 77% на совокупности из 100 тестовых заданий, показала 100% на HumanEval, 89% на ARC-Challenge, GSM8K, MATH, MMLU-Pro и TruthfulQA, но существенно слабее выступила на GPQA, HellaSwag и MMLU. В режиме пошагового рассуждения заявлено преимущество над прямой генерацией, однако приведённые бенчмарки являются результатами собственной оценки публикации и не гарантируют аналогичную точность в прикладных задачах. К ограничениям также относятся требования к памяти, потери качества из-за квантизации и неполная информация о мультимодальности и точных условиях обучения. В README лицензия в метаданных обозначена как other, а в отдельном значке указана Apache-2.0, поэтому перед использованием необходимо проверить фактические лицензионные условия репозитория и исходной модели.

grug-27b — дообученная модель ProCreations на базе Qwen/Qwen3.6-27B с плотной архитектурой семейства Qwen3.5. Разработчик объединил LoRA-адаптер ранга 32, обученный на текстовых линейных слоях, с базовой моделью и сохранил веса в формате bf16. По карточке, обучение было направлено на компактные, адаптивные рассуждения: короткие для простых задач и более подробные для сложных. Модель предназначена для генерации текста в диалогах, программирования, математических задач и агентных сценариев с использованием инструментов. Карточка приводит результаты на HumanEval, MBPP и GSM8K, а также сообщает о снижении расхода токенов на этих тестах и проверках на зацикливание. Эти результаты получены разработчиком и не гарантируют такого же качества на других запросах. Указана поддержка английского языка; базовая Qwen3.6-27B также описана в каталоге как мультимодальная, но README grug-27b говорит об обучении текстового стека, поэтому работу с изображениями для этой версии подтвердить нельзя. Для запуска приведён контекст длиной 32 768 токенов как параметр сервера, а не заявленный нативный предел модели. Лицензия — Apache-2.0.

lunahr/Hermes-3-Llama-3.2-3B-abliterated — это изменённая версия Hermes 3 3B, диалоговой языковой модели Nous Research на архитектуре Llama с 3,2 млрд параметров. В основе лежит NousResearch/Hermes-3-Llama-3.2-3B, дообученная на базе Llama-3.2 3B; этот вариант описан как abliterated. Модель использует формат диалога ChatML и рассчитана на контекст до 131 072 токенов. Модель предназначена для многоходового общения и следования инструкциям, а также для генерации кода, ролевых диалогов, структурированных JSON-ответов и вызова функций. Метаданные указывают поддержку английского языка; модель работает с текстом на входе и генерирует текст. В README для Hermes 3 заявлены улучшения в рассуждениях, согласовании с запросами пользователя, связности на длинном контексте и агентных сценариях. При работе с вызовом функций нужно учитывать описанное автором отклонение в формате: ответы инструмента передаются в роли user, что требует адаптации кода интеграции. Модель распространяется по лицензии Llama 3.

Карточка модели RedHatAI/Inkling-Small на Hugging Face совпадает с карточкой thinkingmachines/Inkling-Small, поэтому описание составлено по ней. Inkling-Small — мультимодальная модель общего назначения от Thinking Machines, построенная на авторегрессионном трансформере с 42 слоями и разреженным MoE-блоком: из 256 экспертов для каждого токена выбираются 6, а 2 общих эксперта активны всегда. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд. Она принимает текст, изображения и аудио, обрабатывая их в общем пространстве представлений, и генерирует текст. Поддерживаются форматы BF16 и NVFP4; для работы предусмотрена библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, мультимодальных запросов, программирования, чат-ботов, агентных систем с использованием инструментов и приложений с поиском по документам. Основной язык — английский; заявлены общие многоязычные возможности, но языки отдельно не перечислены. Для изображений рекомендован размер сторон 40–4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Модель может выдавать фактически неверные ответы, неточно следовать инструкциям и хуже работать в длинных диалогах; качество также может различаться по языкам и предметным областям. Для важных решений необходимы проверка человеком и дополнительные меры безопасности. Весы доступны по лицензии Apache-2.0.

IFM/K2-Horizon-0.9B — компактная плотная авторегрессионная языковая модель семейства K2-Horizon, разработанная IFM. Модель содержит около 924,5 млн параметров и предназначена для диалоговой генерации текста и рассуждений; её оценивали на задачах математики, программирования, естественных наук и использования инструментов. В README описано обучение с дистилляцией от нескольких специализированных моделей-учителей, а также расширение контекста с помощью YaRN RoPE scaling. README указывает контекст до 131 072 токенов, тогда как метаданные каталога сообщают native context 8 192 токена; для развёртывания длинного контекста нужны соответствующие настройки RoPE. Модель ориентирована на английский и китайский языки. Веса доступны в формате Safetensors, лицензия — Apache-2.0. Карточка описывает возможность использования для инференса, оценки и последующего дообучения; для работы с инструментами требуется совместимая серверная конфигурация.

KAT-V1-40B (Kwaipilot-AutoThink) — открытая большая языковая модель, разработанная Kwaipilot. Она обучена выбирать, когда явно разворачивать ход рассуждений, а когда отвечать напрямую, чтобы снижать избыточные рассуждения. Модель построена на архитектуре Qwen2, имеет 39,8 млрд параметров и контекстное окно 131 072 токена; для работы с ней указана библиотека Transformers. Модель предназначена для генерации текста в диалогах и решения задач, где полезны как развёрнутые рассуждения, так и краткие ответы. README описывает структурированный формат ответа с режимами включённого и пропущенного рассуждения; метаданные также отмечают интерфейс вызова инструментов. В README сообщается о высоком результате Kwaipilot-AutoThink на LiveCodeBench Pro, но это не раскрывает показатели именно данного чекпойнта KAT-V1-40B. Репозиторий содержит веса Safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке модели. README сообщает, что документация AutoThink и дополнительные обучающие ресурсы планируются к публикации; подробности обучения и ограничения качества этой версии в предоставленных данных не раскрыты.

Locutusque/llama-3-neural-chat-v1-8b — диалоговая языковая модель Locutusque, дообученная на базе Meta Llama 3 8B. Для обучения использовались SFT и DPO, а данные были подобраны с усилением навыков программирования, математики и письма. Модель предназначена для разговорного взаимодействия и генерации текста, включая помощь с кодом, решение математических задач и написание текстов. Это плотная архитектура Llama с 7,5 млрд параметров и контекстом до 8192 токенов; репозиторий содержит веса Safetensors и рассчитан на использование с Transformers. Карточка указывает на широкую языковую поддержку, но не перечисляет конкретные языки. В README приведены результаты нескольких оценок, включая TruthfulQA и GSM8K. Модель унаследовала условия лицензии Llama 3; в метаданных лицензия обозначена как other.

Meta Llama 3 70B Instruct — диалоговая большая языковая модель, разработанная Meta и настроенная для общения с пользователем. Она принимает текст и генерирует текст, включая программный код, поэтому подходит для чат-ассистентов и других сценариев генерации на естественном языке. Модель построена на авторегрессионной архитектуре Transformer с Grouped-Query Attention и содержит 70 млрд параметров. Инструктивная версия использует supervised fine-tuning и обучение с подкреплением на основе обратной связи от людей. В карточке указано назначение прежде всего для английского языка; модель статична и обучена на офлайн-данных. Модель можно применять в коммерческих и исследовательских проектах на условиях лицензии Llama 3 Community License и соответствующей политики допустимого использования. Она не предназначена для применения на языках, отличных от английского, хотя разработчики могут дообучать её для других языков при соблюдении условий лицензии. Для конкретного приложения потребуются собственные меры безопасности; ответы модели могут содержать ошибки или небезопасные сведения.

MiMo-V2.6-Flash-RL UNCENSORED GGUF — квантованная сборка модели Xiaomi MiMo-V2.6-Flash-RL, подготовленная cafonez для Framework Desktop с AMD Ryzen AI Max 400 (Gorgon Halo). Это текстовая MoE-модель с 309,8 млрд параметров и 256 экспертами, из которых на токен выбираются 8. Сборка занимает около 154,6 GiB и сочетает исходные веса экспертов MXFP4 с квантованием Q5_K для компонентов внимания и плотных слоёв; заявленный контекст запуска — до 131 072 токенов. Модель предназначена для диалоговой генерации текста, в том числе для задач программирования и использования агентами с инструментами. Это версия без отказов, созданная на уровне весов dealignai. Вариант GGUF содержит только текстовую часть исходной модели: визуальный и аудиокодеры исключены. Для загрузки требуется специальная сборка ROCmFPX; веса рассчитаны на машину с большим объёмом GPU-доступной памяти, а приведённые в карточке скорости измерены на конкретной конфигурации и не гарантируют такую же производительность на другом оборудовании. В карточке указана лицензия MIT.

Olmo-Hybrid-Think-SFT-7B — языковая модель Allen Institute for AI (Ai2) семейства OLMo Hybrid. Это плотная авторегрессионная модель с гибридной RNN-архитектурой, содержащая 6,3 млрд параметров и принимающая текстовые запросы для генерации текста и диалоговых ответов. Модель дообучена методом supervised fine-tuning на Dolci-Think-SFT-7B с примерами по математике, программированию, диалогу и общим знаниям; карточка указывает английский язык. Контекст — до 32 768 токенов. Модель предназначена для диалогового использования и задач рассуждения, включая математику и программирование. Ai2 сообщает о повышенной эффективности предобучения и улучшенной скорости и экономии памяти при работе с длинным контекстом; результаты отдельных бенчмарков приведены в карточке. Доступен интерфейс для вызова инструментов, однако сам по себе он не гарантирует корректность ответов или выполнения действий. Вес репозитория опубликован в формате safetensors, для работы указана библиотека Transformers версии 5.3.0 или выше. Лицензия — Apache 2.0; модель предназначена для исследований и обучения согласно рекомендациям Ai2 по ответственному использованию. Ответы могут содержать фактические ошибки и смещения, а без дополнительной фильтрации модель может генерировать вредный или чувствительный контент.

Карточка модели stgallenquants/OpenThinker-32B на Hugging Face совпадает с карточкой trinityomnis/OpenThinker-32B, поэтому описание составлено по ней. OpenThinker-32B — плотная языковая модель на 32 млрд параметров, созданная дообучением Qwen/Qwen2.5-32B-Instruct командой OpenThoughts на наборе OpenThoughts-114k. Она предназначена для генерации текста в диалоге и задач, где требуется пошаговое рассуждение, включая математику, научные вопросы и программирование. Модель поддерживает контекст до 32 768 токенов; для работы доступны веса в формате Safetensors и интерфейс вызова инструментов. В README приведены результаты оценки на наборах математических и научных задач, но они не гарантируют аналогичного качества на других данных. Обучающие примеры получены с помощью дистилляции DeepSeek-R1, поэтому ответы могут содержать ошибки или необоснованные рассуждения. Модель распространяется по лицензии Apache 2.0.