II.9Статистика, эксперименты и причинный анализ

MiniCPM5-2B-GGUF — это GGUF-сборка плотной каузальной языковой модели MiniCPM5-2B, разработанной OpenBMB и опубликованной пользователем prithivMLmods. Модель предназначена для локальных ассистентов, генерации текста, программирования, coding-agent задач, использования инструментов и развёртывания на устройствах с ограниченными ресурсами. Она поддерживает запуск через llama.cpp и совместимые приложения, включая Ollama и LM Studio. Модель содержит около 2,52 млрд параметров и использует архитектуру LlamaForCausalLM с 42 слоями и Grouped-Query Attention: 16 Q-голов и 2 KV-головы. Заявлена длина контекста до 131 072 токенов, а указанным языком является английский. Доступны варианты GGUF с точностями от F32 и BF16/F16 до квантований Q3–Q8, размером примерно от 1,19 до 10,1 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Сильными сторонами заявлены рассуждения, математика, программирование, работа с длинным контекстом, вызов инструментов и агентные сценарии; модель обучалась с использованием специализированного дообучения и reinforcement learning. Ограничения включают компактный размер по сравнению с крупными LLM, заявленную языковую поддержку только английского и зависимость характеристик от выбранного уровня квантования. Модель распространяется по лицензии Apache-2.0.

MiroThinker-v1.5-30B-GGUF — это открытая агентная модель для поиска, ответов на вопросы и глубокого многошагового исследования с использованием внешних инструментов. Модель разработана командой MiroMind AI и основана на Qwen3-30B-A3B-Thinking-2507; представленная версия распространяется в формате GGUF и создана с использованием llama.cpp. Модель предназначена для задач tool-augmented reasoning, информационного поиска и долгосрочного анализа. Она поддерживает контекст до 256K токенов и рассчитана максимум на 400 вызовов инструментов в рамках одной задачи, что позволяет выполнять сложные исследовательские сценарии с многочисленными взаимодействиями со средой. В карточке указано, что модель поддерживает английский язык. Архитектура исходной модели относится к классу Mixture of Experts, однако точные параметры представленной GGUF-квантизации не указаны. К сильным сторонам относятся способность корректировать ход рассуждений на основе обратной связи среды, получать внешнюю информацию и выполнять глубокие многошаговые траектории. Для GGUF-версий применяется дополнительное повышение точности отдельных важных слоёв при квантизации, что должно улучшать точность на заданном уровне битности, но увеличивает размер файла. Ограничения включают зависимость качества от доступных инструментов, вычислительных ресурсов и выбранного варианта квантизации; сведения о мультимодальности и конкретных требованиях к оборудованию отсутствуют. Лицензия — MIT.

Карточка модели LimitlessMindd/Phi-4-reasoning на Hugging Face совпадает с карточкой microsoft/Phi-4-reasoning, поэтому описание составлено по ней. Phi-4-reasoning — открытая по весам языковая модель Microsoft Research, дообученная на базе Phi-4 с помощью supervised fine-tuning на примерах цепочек рассуждений и обучения с подкреплением. Она предназначена для диалоговых генеративных приложений, где важны рассуждения и логика, а также ограничены вычислительные ресурсы или допустимая задержка. Основные области обучения и оценки — математика, наука и программирование; модель рассчитана прежде всего на английский язык. Модель использует плотный декодерный Transformer архитектуры Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов. При инференсе рекомендуется ChatML-шаблон; для более сложных запросов авторы советуют выделять больше токенов на генерацию. Модель может ошибаться и не проходила оценку для всех прикладных сценариев, поэтому ответы следует проверять, особенно при использовании в задачах с высокими последствиями. Лицензия — MIT.

Qwen3.8-27B-NInfer — мультимодальная модель для генерации текста и работы с изображениями, основанная на Qwen3.8-27B от команды Qwen. Версия подготовлена разработчиком Neroued и преобразована в нативный формат артефактов NInfer с расширениями для Vision, MTP и спекулятивного декодирования DFlash2. Модель предназначена для диалогов, текстовой генерации, рассуждений, решения математических и научных задач, а также анализа изображений и визуальных вопросов. В карточке заявлены высокие результаты на IFBench, AIME 2025 и 2026, GPQA-Diamond, ERQA и RealWorldQA. Артефакт содержит квантизированные Q4/Q5-проекции, а эмбеддинги токенов и выходная голова используют q8_g32_fp16; размер файла составляет около 19,03 ГиБ. Поддерживаются текстовые и визуальные входы, а также видео согласно руководству NInfer. В примерах запуска указан контекст до 240 000 токенов, однако конкретные возможности зависят от конфигурации среды. Модель рассчитана на локальный запуск через NInfer и требует 64-разрядный Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a, CUDA Toolkit 13.1 или новее и сборку NInfer не ниже указанной в карточке. Файл не является совместимым с Transformers, Safetensors или GGUF. Использование ограничено форматом NInfer и специализированным оборудованием, поэтому переносимость ниже, чем у универсальных моделей. Лицензия — Apache-2.0.

Qwen3-Max-Thinking — флагманская модель рассуждений серии Qwen3 от Qwen. Она предназначена для сложных задач, требующих глубокого многошагового анализа. В карточке отмечено, что модель масштабирует вычислительные ресурсы для обучения с подкреплением. Её можно использовать для задач, где требуется последовательное рассуждение и работа со сложными запросами. Данных о размере, поддерживаемых языках, длине контекста, лицензии и конкретных ограничениях в предоставленных материалах нет.

Qwopus3.6-27B-v2-MTP — мультимодальная модель для работы с текстом и изображениями, разработанная Jackrong на основе Qwen3.6-27B. Модель дообучена на наборах данных Claude Opus TraceInversion и ориентирована на реконструированное пошаговое рассуждение, программирование, DevOps, математику, научные задачи, работу с инструментами и генерацию текста в заданном формате. Модель содержит около 27 миллиардов параметров и использует Multi-Token Prediction (MTP), предназначенный для ускорения генерации и speculative decoding, особенно в длинных рассуждениях, программном коде и математических запросах. Заявлена поддержка текстово-изобразительных сценариев; среди языков указаны английский, китайский, корейский, русский, японский и испанский. Точная длина контекста в README не указана. К сильным сторонам относятся акцент на структурированном рассуждении, кодировании, DevOps и математических выводах, а также потенциально более высокая скорость генерации благодаря MTP. Модель тестировалась на локальном наборе из 30 вопросов по логике, программированию, DevOps, математике и пограничным сценариям, однако широкие независимые бенчмарки и подробные числовые результаты не представлены. Для использования могут потребоваться совместимые реализации MTP и speculative decoding; формат GGUF ориентирован, в частности, на llama.cpp. Лицензия — Apache-2.0.

Supertron2-24B — плотная языковая модель на 24 млрд параметров, разработанная Surpem на основе mistralai/Devstral-Small-2-24B-Instruct-2512 и дообученная для следования инструкциям. Это причинный Transformer для генерации текста; модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия — Apache 2.0. Модель предназначена для помощи в программировании, структурированных рассуждений, математических и научных объяснений, общего диалога и повседневного выполнения инструкций. Она может помогать писать, объяснять и отлаживать код, разбирать ошибки, планировать реализацию, сравнивать варианты, решать арифметические и алгебраические задачи, писать и кратко пересказывать тексты. Карточка указывает английский язык; длина контекста не приведена. Модель может выдавать ошибочный код, неполные рассуждения и устаревшие сведения. Важные результаты следует проверять; модель не подходит как единственный источник для медицинских, юридических, финансовых решений и задач, связанных с безопасностью.

ZAYA1-reasoning-base — плотная по архитектуре MoE-языковая модель Zyphra, основанная на Zyphra/ZAYA1-base и дополнительно обученная на 1 трлн токенов с упором на рассуждения. Она предназначена для генерации текста и диалогов, особенно для сложных задач по математике, STEM и программированию, требующих многошагового анализа. Модель содержит 7,7 млрд параметров по метаданным, использует архитектуру ZayaForCausalLM, токенизатор Gemma 3 и контекст до 32 768 токенов. В архитектуре применены механизм внимания Compressed Convolutional Attention, нелинейный маршрутизатор экспертов и обучаемое масштабирование остаточных связей. Модель демонстрирует сильные результаты на сложных математических и кодовых задачах, но README отмечает, что полного RL-постобучения она не проходила. Для запуска требуется форк Transformers с поддержкой Zaya. Лицензия — Apache-2.0.

Mellum2 Thinking — модель-помощник с усиленными способностями к рассуждению, разработанная JetBrains. Она создана на базе Mellum2-12B-A2.5B-Base: после дообучения на инструкциях модель прошла обучение с подкреплением по проверяемым вознаграждениям на сложных данных, включая задачи по математике с развёрнутыми решениями. Модель предназначена для сложной отладки, многошагового планирования, агентных сценариев, математики и других задач, требующих последовательного рассуждения. Это текстовая MoE-модель семейства Mellum: в архитектуре 64 эксперта, из которых для каждого токена активируются 8. Она использует сочетание слоёв со скользящим окном и полным вниманием и поддерживает контекст до 131 072 токенов. Модель выводит ход рассуждений в специальных блоках перед итоговым ответом. В репозитории указаны 1,9 млрд параметров, формат safetensors и библиотека Transformers. Лицензия — Apache 2.0. Карточка советует использовать вариант Instruct, если нужны прямые ответы с меньшей задержкой. Модель ориентирована на английский язык; других языков карточка не заявляет.

Phi-4-reasoning-plus — открытая по весам языковая модель Microsoft Research, дообученная на базе microsoft/phi-4 с помощью supervised fine-tuning на цепочках рассуждений и последующего обучения с подкреплением. Это плотный decoder-only Transformer семейства Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов; модель принимает текст и генерирует текст в диалоговом формате. Модель предназначена прежде всего для рассуждений и решения задач по математике, науке и программированию, а также для использования в генеративных ИИ-приложениях с ограничениями по памяти и вычислениям. Основной язык — английский. Обучение с подкреплением повышает точность, но в среднем модель генерирует примерно на 50% больше токенов, что увеличивает задержку. Microsoft предупреждает, что модель специально разработана и оценивалась для математических рассуждений, поэтому для других применений нужно отдельно проверять точность, безопасность и справедливость ответов. Модель распространяется по лицензии MIT.

Pink Elephant 48B-S GGUF — языковая модель для генерации текста, разработанная Pink Elephant Limited. Это локально запускаемая версия модели, преобразованная в формат GGUF и предназначенная для работы через Ollama и llama.cpp на потребительском оборудовании. Модель построена как разреженная Mixture-of-Experts архитектура с 47,7 млрд параметров, из которых на каждом токене активируется около 14,66 млрд. Используется 8 экспертов с маршрутизацией top-2, что, согласно README, обеспечивает примерно в 3,2 раза меньше вычислений по сравнению с плотной моделью аналогичного размера. Модель происходит от плотной 14B основы, дообученной на примерах программирования и математики, а затем прошла SFT и DPO-выравнивание. Указаны английский язык и контекст до 16 384 токенов. Доступна квантизованная версия Q4_K_M размером около 8,3 ГБ. Модель ориентирована на генерацию текста, помощь в программировании, математические задачи и локальное развертывание на одной потребительской видеокарте. Среди заявленных результатов — 68,5% на GSM8K и 60,0% на MMLU в конфигурации bf16; эти показатели получены разработчиками на одной NVIDIA RTX PRO 6000 Blackwell и могут зависеть от настроек запуска. К сильным сторонам относятся сочетание большой общей емкости, разреженных вычислений, локального использования и выравнивания SFT+DPO. Ограничения включают зависимость качества и скорости от аппаратного обеспечения, квантизации и корректного шаблона ChatML, а также отсутствие в README сведений о мультимодальности и поддержке других языков. Модель распространяется по лицензии MIT, допускающей коммерческое и исследовательское использование.

DeepSeek-Coder-V2-Instruct — диалоговая модель для программирования от DeepSeek AI, дообученная на базе DeepSeek-Coder-V2-Base. Это вариант семейства DeepSeek-Coder-V2 на архитектуре DeepSeekMoE; в карточке репозитория указано 18,1 млрд параметров, а README сообщает о версиях семейства с 16 млрд и 236 млрд параметров, из которых активно используются соответственно 2,4 млрд и 21 млрд. Контекст модели по метаданным составляет 163 840 токенов. Модель предназначена для генерации и дополнения кода, вставки фрагментов в существующий код, диалоговой помощи при разработке и решения задач на математические рассуждения. Семейство поддерживает 338 языков программирования и заявляет улучшенные способности к кодированию при сохранении возможностей в задачах на естественном языке. README приводит сравнительные результаты на бенчмарках, но не уточняет их методику для данного конкретного варианта. Для запуска в формате BF16 README указывает требование к оборудованию 8 GPU с 80 ГБ памяти каждый. Репозиторий содержит веса Safetensors. Лицензия в метаданных обозначена как «other», поэтому конкретные условия использования следует проверять в файлах лицензии репозитория.

DeepSeek-R1-Distill-Qwen-7B — языковая модель на 7,1 млрд параметров, разработанная DeepSeek и дообученная на Qwen2.5-Math-7B с использованием примеров рассуждений, созданных DeepSeek-R1. Она предназначена для генерации текста и диалогов с акцентом на решение математических задач, программирование и другие задачи, требующие многошагового рассуждения. Модель использует плотную архитектуру Qwen2 и принимает текст, выдавая текст. Контекстное окно составляет 131 072 токена. В README указана максимальная длина генерации 32 768 токенов для описанных оценок. Модель поддерживает чат; метаданные также отмечают интерфейс вызова инструментов, но README не описывает его применение. Модель компактнее исходного DeepSeek-R1 и показывает сильные результаты в приведённых бенчмарках для дистиллированных моделей. Это не универсальная гарантия качества: ответы могут содержать ошибки, а рекомендации по настройке следует сверять с полной карточкой модели. Лицензия — MIT.

Это GGUF-квантизированная версия языковой модели AceReason-Nemotron-7B, разработанной NVIDIA и подготовленной квантизатором bartowski на базе llama.cpp. Модель предназначена для генерации текста с акцентом на рассуждения, математические задачи и программирование; заявленный язык — английский. Формат GGUF позволяет запускать её локально через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к классу примерно 7-миллиардных текстовых моделей, однако точные сведения об архитектуре, размере контекста и поддерживаемых модальностях в README не указаны. Доступны варианты от BF16 до различных уровней квантования, включая рекомендуемые Q4_K_M, Q5 и Q6, что позволяет выбирать между качеством и требованиями к памяти. Более сильные варианты сохраняют качество ближе к исходной модели, а компактные подходят для систем с ограниченными ресурсами, но могут заметнее терять в качестве. Использование регулируется NVIDIA Open Model License; для конкретных условий следует ознакомиться с текстом лицензии NVIDIA.

OmniCoder-9B-Opus-4.6-Uncensored-v2-GGUF — языковая reasoning-модель на базе Qwen/Qwen3.5-9B, созданная автором ansulev. Модель получена объединением нескольких производных моделей, включая OmniCoder-9B от Tesslate, reasoning-модель Qwen3.5-9B от Jackrong и uncensored-модель HauhauCS. При обучении и слиянии использовались данные в стиле Claude 4.6 Opus, ориентированные на рассуждения, математику, логические задачи, общие знания, инструкции и программирование. Формат распространения — GGUF; заявленная лицензия — Apache-2.0. Модель предназначена для локального запуска в приложениях вроде LM Studio и для задач общего назначения, требующих многошагового рассуждения, генерации и анализа кода, решения математических и логических задач, а также следования инструкциям. В карточке указаны английский, китайский и корейский языки. Архитектура унаследована от Qwen3.5-9B, размер — около 9 миллиардов параметров. В метаданных указана мультимодальная категория image-text-to-text, однако подробности о поддерживаемых визуальных входах и размере контекстного окна не приведены. Ключевая особенность версии v2 — более компактная и эффективная генерация рассуждений. По заявленным оценкам на HumanEval и HumanEval+ она превосходит базовую Qwen3.5-9B по точности и требует примерно на 20–23% меньше текста рассуждений для одного успешного решения. Это может снижать задержку и стоимость инференса, но заявленные результаты основаны на ограниченном наборе тестов и не гарантируют аналогичного качества во всех прикладных сценариях. Разработчик также предупреждает о возможном снижении широких общих способностей из-за ограниченного объёма и направленности дообучения. Термин uncensored указывает на ослабленные ограничения отказов, что может повышать гибкость, но требует дополнительного контроля безопасности при использовании.

Ouro-2.6B-Thinking — языковая модель ByteDance для генерации текста с упором на рассуждения. Это дообученная версия Ouro-2.6B: модель прошла supervised fine-tuning на наборах примеров по математике, программированию, науке и диалогам. Архитектура — плотная рекуррентная OuroForCausalLM с 2,6 млрд параметров и 24 слоями; по умолчанию используются четыре рекуррентных шага. Контекст — до 65 536 токенов. Модель рассчитана на математические и научные задачи, написание и анализ кода, а также диалоговые сценарии; она может выдавать подробные шаги рассуждения. В карточке заявлены компактный размер и согласованность промежуточных рекуррентных выходов. Число шагов можно менять, выбирая компромисс между вычислительными затратами и качеством; адаптивный выход не поддерживается в vLLM. Для совместимости README указывает Transformers 4.54.1, а в разделе быстрого старта — версию 4.56.0. Разработчик предупреждает, что модель предоставляется без гарантий пригодности для промышленного использования и предназначена для исследований. Лицензия — Apache-2.0.

Карточка модели Openintelligent123/Phi-4-reasoning-plus на Hugging Face совпадает с карточкой microsoft/Phi-4-reasoning-plus, поэтому описание составлено по ней. Phi-4-reasoning-plus — открытая по весам языковая модель Microsoft Research, дообученная на базе microsoft/phi-4 с помощью supervised fine-tuning на цепочках рассуждений и последующего обучения с подкреплением. Это плотный decoder-only Transformer семейства Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов; модель принимает текст и генерирует текст в диалоговом формате. Модель предназначена прежде всего для рассуждений и решения задач по математике, науке и программированию, а также для использования в генеративных ИИ-приложениях с ограничениями по памяти и вычислениям. Основной язык — английский. Обучение с подкреплением повышает точность, но в среднем модель генерирует примерно на 50% больше токенов, что увеличивает задержку. Microsoft предупреждает, что модель специально разработана и оценивалась для математических рассуждений, поэтому для других применений нужно отдельно проверять точность, безопасность и справедливость ответов. Модель распространяется по лицензии MIT.

bunnycore/Qwen2.5-7B-Matrix-v2 — это объединённая модель генерации текста на архитектуре Qwen2, созданная с помощью mergekit методом DARE TIES. В объединение вошли Qwen2.5-Coder-7B-Instruct, Qwen2.5-Math-7B-Instruct и huihui-ai/Qwen2.5-7B-Instruct-abliterated; последняя использована как базовая модель. Чекпойнт содержит 7,1 млрд параметров, построен для Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста, в том числе для задач программирования и математики, сочетая возможности включённых инструкционных моделей. В метаданных также отмечен интерфейс вызова инструментов. Языки, на которых модель рассчитана, и отдельные ограничения её качества не описаны. Лицензия в предоставленных сведениях не указана.

Qwen3.5-4B-Opus-Distilled-Heretic-Thinking-Multistage-SFT-v1.0 — экспериментальная мультимодальная модель на 4 млрд параметров от prithivMLmods, дообученная на базе Qwen/Qwen3.5-4B методом многоэтапного supervised fine-tuning. Для обучения использовано около 6 000 трасс рассуждений Opus по программированию и STEM, а также дополнительные примеры рассуждений. Модель предназначена для исследований и экспериментов с дистилляцией рассуждений, а также для помощи с кодом, математическими, научными и инженерными задачами, длинными аналитическими ответами и следованием инструкциям. Поддерживает диалог и понимание изображений; карточка указывает английский язык и контекст 32k. Репозиторий содержит веса Safetensors и использует Transformers. Модель может ошибаться в промежуточных рассуждениях и выводах; её поведение может отличаться от базовой модели, а качество зависит от охвата и особенностей обучающих данных. Распространяется по лицензии Apache-2.0.

Darwin-28B-REASON — самостоятельная языковая модель VIDRAFT, полученная дистилляцией цепочек рассуждений на основе Darwin-28B-Opus. Это плотная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration, 27,6 млрд параметров и весами BF16. Веса модели можно использовать без отдельного адаптера; интерфейс рассчитан на диалог и поддерживает вызов инструментов. Модель предназначена для научных и математических задач с многошаговым рассуждением, а также для генерации и отладки кода. В README заявлена поддержка английского, корейского, китайского и японского языков, с приоритетом английского. Результат 89,39% на GPQA Diamond получен с дополнительным движком Darwin-DELPHI, который выполняет проверку нескольких ответов и самоанализ на этапе вывода; этот движок не входит в веса модели, а методика оценки и рецепт обучения раскрыты не полностью. Для запуска в BF16 требуется около 55 ГБ видеопамяти. Модель распространяется по лицензии Apache-2.0. Ее ответы могут содержать многословные рассуждения; заявленные показатели с Darwin-DELPHI нельзя напрямую считать результатом автономной модели без этого движка.

Lumen-8b-05-2025 — языковая модель Noetic Labs, дообученная методом LoRA на базе Qwen3-8B. Она рассчитана на академические и технические запросы, сложное следование инструкциям и диалог. В обучении использованы менее 5 000 примеров из наборов EvolKit-75K и Academic-Chains; версия модели содержит около 7,6 млрд параметров и распространяется в формате safetensors. Модель принимает текст и генерирует текст. Метаданные указывают контекст до 40 960 токенов; в карточке заявлены 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Для сложных запросов автор рекомендует режим рассуждений. Это экспериментальный первый выпуск серии Lumen; автор предупреждает, что результаты на бенчмарках могут уступать исходной Qwen3-8B. Лицензия — Apache 2.0.

Agnuxo/Mamba-Codestral-7B-v0.1-instruct-python_coding_assistant-GGUF_16bit — локальная модель генерации кода, опубликованная Франсиско Ангуло де ла Фуэнте под именем Agnuxo. Это плотная модель семейства Mistral с 7 млрд параметров в формате GGUF F16; карточка рекомендует запуск через Ollama и также описывает использование через Transformers. Модель предназначена для помощи в программировании: она генерирует код на Python, JavaScript, TypeScript, Rust, Go и C++, а также поддерживает сценарии научных вычислений и машинного обучения с NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. В карточке также заявлены возможности декомпозиции задач и взаимодействия с агентами через MCP и A2A. Метаданные указывают английский и испанский языки. Лицензия — Apache-2.0. Описание не приводит результатов независимых тестов качества или подробностей о контекстном окне, поэтому пригодность для конкретных задач стоит оценивать на собственных примерах.

Phi-4-mini-reasoning-GGUF — это GGUF-квантизированная версия языковой модели Phi-4-mini-reasoning, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, решения математических задач и работы с кодом; поддерживает сценарии локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В репозитории представлены варианты от BF16 размером 7,68 ГБ до низкобитных квантов размером около 1,90 ГБ. Доступны форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, IQ и другие; варианты с более высокой разрядностью обычно обеспечивают лучшее качество, а низкоразрядные требуют меньше оперативной памяти. Указан английский язык. Архитектура исходной модели, число параметров, поддерживаемые модальности и размер контекста в README не описаны. Сильными сторонами являются локальный запуск, широкий выбор компромиссов между качеством и требованиями к памяти, а также специализация исходной модели на математическом рассуждении. Ограничения включают возможное снижение качества при использовании низкоразрядных квантов и отсутствие в README подробных результатов оценки. Модель распространяется по лицензии MIT.

Qwen3-4B-MegaR3ASONER-v1-i1-GGUF — квантизированная версия модели RexTRO111/Qwen3-4B-MegaR3ASONER-v1, подготовленная mradermacher в формате GGUF. Модель основана на семействе Qwen3 и предназначена для генерации текста с акцентом на рассуждения. Она ориентирована на задачи математического, программного и научного рассуждения, а также на сценарии, где требуется пошаговый анализ и генерация кода. При обучении использовались наборы данных HuggingFaceH4/Bespoke-Stratos-17k, nvidia/OpenMathReasoning, nvidia/OpenCodeReasoning, nvidia/OpenScienceReasoning-2 и reasoning-distill-opus-4-7-max-sft. В карточке указано знание английского языка; сведения о поддержке других языков, контекстном окне, точной архитектуре и мультимодальности не приведены. Модель доступна в нескольких вариантах квантизации размером примерно от 1,2 до 3,4 ГБ. Варианты различаются балансом скорости, размера и качества: для практического использования рекомендован i1-Q4_K_M, а i1-Q4_K_S обозначен как оптимальный по соотношению размера, скорости и качества. Сильными сторонами являются небольшой размер, возможность локального запуска и специализация на рассуждениях, математике, программировании и научных задачах. Ограничения включают возможное снижение качества на низких уровнях квантизации и отсутствие подробных результатов оценки. Лицензия указана как other, без уточнения конкретных условий.

QwQ-32B-Preview — экспериментальная модель рассуждений, разработанная командой Qwen. Это плотная авторегрессионная языковая модель семейства Qwen2, дообученная на базе Qwen/Qwen2.5-32B-Instruct; в README описана архитектура Transformer с RoPE, SwiGLU, RMSNorm и смещениями QKV в механизме внимания. Модель содержит около 32 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста, решения математических задач и программирования. В карточке отмечены возможности чата и интерфейс вызова инструментов. Для работы используется библиотека Transformers; лицензия Apache-2.0. Модель может смешивать языки, зацикливаться в рассуждениях и выдавать длинные ответы без вывода. Она сильнее в математике и программировании, чем в здравом смысле и тонком понимании языка; при развёртывании следует учитывать указанные в карточке ограничения безопасности.

Tri-21B-Think-Preview — промежуточный чекпойнт языковой модели Trillion Labs, дообученный на базе Trillion Labs Tri-21B для рассуждений по инструкциям и работы с инструментами. Это плотная авторегрессионная модель с архитектурой Transformer Decoder, RoPE, SwiGLU, RMSNorm и GQA; в ней около 20,1 млрд параметров и 40 слоёв. Контекст составляет 32 768 токенов, с YaRN заявлено расширение до 262 144 токенов. Модель предназначена для диалогов, пошагового решения задач и ответов на сложные вопросы, в том числе по математике и естественным наукам. Она рассчитана прежде всего на английский, корейский и японский языки; для других языков качество может снижаться. Это промежуточная версия: авторы указывают, что финальный вариант — Tri-21B-Think. Для запуска с vLLM и SGLang поддержка, согласно карточке, ещё готовится. Лицензия — Apache-2.0.

VeriLoop E2 — открытая модель с 27 млрд параметров, разработанная Tsinghua SIGS Robot Lab и Libo Wang на основе Qwen3.8-27B и дообученная для программирования, математики и физики. Это плотная модель семейства Qwen3.5 с поддержкой диалогов и интерфейса вызова инструментов; она принимает текст и, согласно характеристикам базовой модели и тегам, изображения. Нативное окно контекста составляет 262 144 токена. Для запуска доступны веса safetensors и библиотека Transformers; README также описывает совместимый с OpenAI способ обслуживания через vLLM. Модель предназначена для инженерных задач с кодом, математического и научного рассуждения, а также сценариев с инструментами и проверкой промежуточных результатов. Подход VeriLoop-Governed Recurrence предполагает, что модель предлагает варианты решения, а внешний Harness проверяет и принимает их; рабочая реализация производственного Harness в репозитории не опубликована. В README приведены результаты на кодовых, математических и научных бенчмарках, однако они относятся к конкретной конфигурации оценки и не гарантируют аналогичных результатов в другом окружении. Модель может выдавать ошибочный код, доказательства или научные рассуждения, поэтому результаты требуют проверки. Работа с длинным контекстом зависит от конфигурации сервера и доступной памяти. Лицензия — Apache 2.0.

Darwin-28B-REASON — плотная языковая модель VIDRAFT для генерации текста и сложных рассуждений. Это самостоятельная модель с полными весами, полученная дистилляцией цепочек рассуждений (RTD) на базе FINAL-Bench/Darwin-28B-Opus. Она использует архитектуру Qwen3_5ForConditionalGeneration поколения Qwen3.6 с чередованием линейного и полноформатного внимания и содержит 27,6 млрд параметров в формате BF16. Модель предназначена для многошагового решения научных и математических задач, ответов на вопросы уровня аспирантуры, генерации и отладки кода. Карточка рекомендует английский как основной язык, а также указывает поддержку корейского, китайского и японского. Заявленный результат 89,39% на GPQA Diamond получен с Darwin-DELPHI — отдельным проприетарным механизмом тестового вывода с несколькими образцами и самопроверкой; этот механизм не входит в веса модели. Модель распространяется по лицензии Apache-2.0. Для запуска BF16-весов требуется около 55 ГБ видеопамяти. Карточка отмечает, что без Darwin-DELPHI точность ниже заявленного результата, а цепочки рассуждений могут быть многословными; полный рецепт дистилляции и методика оценки Darwin-DELPHI не раскрыты.

DeepSeek-R1-Distill-Qwen-32B — плотная языковая модель с 32 млрд параметров, разработанная DeepSeek путём дообучения Qwen2.5 на примерах рассуждений, сгенерированных DeepSeek-R1. Она предназначена для генерации текста в диалогах и решения задач, требующих многошаговых рассуждений, в частности по математике и программированию. Модель построена на архитектуре Qwen2 и поддерживает контекст до 131 072 токенов. В README сообщается о сильных результатах на бенчмарках рассуждений, математики и кода; эти результаты не гарантируют аналогичного качества на других задачах. Для модели указана лицензия MIT.

DeepSeek-V4-Flash-NVFP4-FP8 — это оптимизированная и квантизованная версия базовой модели DeepSeek-V4-Flash, разработанная Red Hat AI на основе модели deepseek-ai. Модель предназначена для развёртывания и инференса через Transformers и vLLM, в частности для задач общего инструктирования, математического рассуждения, reasoning и генерации кода. Она ориентирована на высокопроизводительное серверное использование с тензорным параллелизмом на нескольких GPU. Ключевая особенность модели — применение формата NVFP4, а также FP8 для KV-кэша. Для запуска рекомендуется использовать четыре GPU и FP8 KV cache; оценивание проводилось на 8 GPU B200. Точные архитектурные параметры, размер модели, поддерживаемые языки, модальности и длина контекста в README не указаны. На GSM8K модель показала точность 91,0%, а на MMLU-Pro — 55,4%. В сравнении с базовой моделью восстановление качества различается по задачам: оно составляет около 91–98% на большинстве указанных бенчмарков, при этом на AIME 2025 результат оказался выше базового. Основные преимущества модели — совместимость с vLLM, использование низкоразрядного представления для эффективного инференса и высокая пропускная способность. Ограничение заключается в заметной потере точности относительно базовой модели, связанной с тем, что исходная модель уже была выпущена в квантизованном формате, а также с различиями между форматами MXFP4 и NVFP4. В README упоминается, что более продвинутые методы, например GPTQ, могут улучшить восстановление точности. Модель распространяется по лицензии MIT.