II.9Статистика, эксперименты и причинный анализ

Mistral-NeMo-Minitron-8B-Base-CODE-Python-i1-GGUF — это квантизированная версия базовой модели Agnuxo/Mistral-NeMo-Minitron-8B-Base-CODE-Python, подготовленная mradermacher в формате GGUF. Модель ориентирована на генерацию кода, прежде всего на задачи, связанные с Python, и может использоваться в локальных AI-приложениях, ассистентах программирования и сценариях научных исследований. Заявлена поддержка английского и испанского языков. Модель имеет размер 8B параметров в базовой версии; точные сведения об архитектуре, размере контекстного окна и мультимодальности в карточке не указаны. Репозиторий содержит множество вариантов квантизации i1, включая IQ- и Q-схемы с размером файлов примерно от 2,2 до 5,5 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Для создания собственных вариантов также предоставлен imatrix-файл. Сильными сторонами являются специализация на генерации кода, возможность локального запуска и широкий выбор уровней квантизации; для некоторых вариантов в карточке отмечены предпочтительное соотношение размера, скорости и качества или более низкое качество. Ограничения включают отсутствие подробных результатов тестирования, сведений о контекстном окне и гарантий корректности сгенерированного кода, поэтому результаты требуют проверки. Модель распространяется по лицензии Apache-2.0.

UniReason-Qwen3-14B-RL-i1-GGUF — квантизированная GGUF-версия модели UniReason-Qwen3-14B-RL, разработанной командой ReasoningTransferability и основанной на Qwen3. Квантизацию выполнил mradermacher. Модель предназначена для генерации текста, математического рассуждения и исследовательских задач, связанных с переносимостью способностей к рассуждению после обучения с подкреплением методом GRPO. Модель имеет размер 14 млрд параметров и работает в текстовой модальности. В карточке указана поддержка английского языка; наборы данных включают math и reasoning. Размер контекстного окна и другие подробности архитектуры не указаны. Репозиторий содержит множество вариантов квантизации с размерами примерно от 3,7 до 12,2 ГБ, что позволяет выбирать между требованиями к памяти, скоростью и качеством. Для большинства сценариев автор рекомендует i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S отмечен как оптимальный по соотношению размера, скорости и качества. Основное преимущество модели — возможность локального запуска в формате GGUF и выбор квантизаций для оборудования с разным объёмом памяти. Ограничения связаны с потерями качества при низкобитной квантизации: некоторые варианты прямо отмечены как низкокачественные, а IQ-варианты могут различаться по фактическому качеству. Лицензия модели — Apache-2.0.

Apodex-1.1-mini-NVFP4 — reasoning-first языковая модель для сложных исследовательских задач с длительным горизонтом, разработанная командой Apodex AI. Она предназначена для агентных сценариев, в которых требуется работать с документами, наборами данных, таблицами, изображениями, кодом и инструментами: очищать данные, выбирать методы, выполнять анализ, проверять промежуточные результаты, восстанавливаться после ошибок и формировать проверяемые итоговые материалы. Модель основана на Apodex-1.1-mini и ориентирована на применение через AgentOS и асинхронную Agent Team, способную декомпозировать задачи, координировать параллельных субагентов, сохранять состояние работы, адаптировать план и учитывать обратную связь без полного перезапуска. Поддерживаются английский и китайский языки, генерация текста и нативные вызовы функций. Указан контекст до 262 144 токенов и рекомендуемый максимум генерации 32 768 токенов. Модель следует шаблону чата Qwen3.5; для развёртывания рекомендуется SGLang, а вариант NVFP4 использует соответствующую квантизацию. Сильные стороны модели — выполнение комплексных задач от начала до конца, работа с инструментами и встроенная проверка утверждений по источникам, данным и вычислениям. README приводит конкурентные результаты Apodex-1.1-mini на агентных, финансовых и исследовательских бенчмарках, однако не раскрывает точный размер модели, архитектуру и полный перечень ограничений. Для работы требуются совместимые сервер и парсеры вызовов инструментов; конкретные характеристики производительности зависят от конфигурации развёртывания. Модель распространяется по лицензии Apache 2.0.

Apodex-1.1-mini — reasoning-first модель для сложных исследовательских и агентских задач, разработанная Apodex AI на базе Qwen/Qwen3.5-35B-A3B. Модель предназначена для долгих многоэтапных сценариев: работы с научными статьями, наборами данных, таблицами, изображениями и кодом, выполнения анализа, использования инструментов и подготовки проверяемых результатов. Она поддерживает английский и китайский языки и относится к моделям генерации текста. Модель рассчитана на агентское использование с нативным вызовом функций, планированием, координацией параллельных подагентов и сохранением состояния задачи. В экосистеме Apodex предусмотрены проверка утверждений по источникам, данным и вычислениям, а также корректировка результатов при обнаружении недостаточных или противоречивых доказательств. Заявленный контекст составляет до 262144 токенов, рекомендуемый лимит генерации — до 32768 токенов. Сильные стороны модели — выполнение комплексных задач от исходных материалов до итоговых артефактов, работа с инструментами и встроенная проверка результатов. Ограничения связаны с тем, что качество зависит от настроек серверного развёртывания, доступных инструментов и корректности внешних данных; точные сведения о числе параметров и внутренней архитектуре в карточке не указаны. Модель распространяется по лицензии Apache 2.0.

Cogito v2 Preview 70B — диалоговая языковая модель с настройкой по инструкциям, разработанная командой DeepCogito на основе Meta Llama 3.1 70B. Это плотная авторегрессионная модель примерно на 69,5 млрд параметров для генерации текста; она работает в стандартном режиме или может включать расширенное рассуждение и самоанализ. Для включения режима рассуждения в Transformers предусмотрен параметр enable_thinking в шаблоне чата либо специальная системная инструкция. Модель предназначена для программирования, задач STEM, следования инструкциям и общих диалогов. В README заявлена поддержка инструментов, параллельных вызовов инструментов и более чем 30 языков. Контекст составляет до 128 тысяч токенов по README и 131 072 токена по метаданным. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия Llama 3.1 разрешает коммерческое использование на условиях лицензии Meta.

GigaChat 3.5 Reasoning — большая языковая модель, разработанная ai-sage. Эта версия распространяется в формате GGUF для высокопроизводительного запуска через llama.cpp; базовая модель доступна в варианте BF16, а отдельная версия предназначена для инференса в FP8. Модель ориентирована на задачи, требующие углублённого рассуждения, и обучалась с использованием online RL. Архитектура представляет собой Mixture-of-Experts с общим размером 432 млрд параметров, из которых 28 млрд активируются при обработке токена. Используется гибридная архитектура, объединяющая Multi-head Latent Attention (MLA) и слои линейного внимания GatedDeltaNet. Дополнительно применяются GatedNorm и три MTP-головы для speculative decoding. Максимальная поддерживаемая длина контекста — 262 тысячи токенов. Заявлена поддержка русского и английского языков, а также сценариев text generation, instruction following, reasoning, tool use, function calling и structured output. Модель предназначена для решения математических и научных задач, программирования, редактирования кода, генерации тестов, репозиторных задач уровня SWE-bench, взаимодействия с инструментами, работы с длинным контекстом и соблюдения заданных форматов. К сильным сторонам относятся улучшения в математике, коде, следовании инструкциям и структурированном выводе по сравнению с GigaChat 3.5 Ultra Instruct, а также специализированное обучение шести доменных экспертов с последующей on-policy distillation. Ограничения включают высокие требования к вычислительным ресурсам из-за масштаба модели; конкретные требования к оборудованию, количественные характеристики производительности и ограничения использования в README не указаны. Лицензия — MIT.

unsloth/Qwen3.8-2.4T-A95B-GGUF — квантованная версия открытой модели Qwen3.8-2.4T-A95B, подготовленная Unsloth с использованием подхода Unsloth Dynamic 2.0. Модель разработана командой Qwen и предназначена для генерации текста, программирования, профессиональных и исследовательских задач, а также для долгих многошаговых агентских сценариев. README указывает совместимость исходных артефактов с Transformers, vLLM, SGLang и TokenSpeed. Это причинная языковая модель с архитектурой Mixture of Experts: 2,4 трлн параметров всего, из которых активируется 95 млрд. Она содержит 92 слоя, скрытое измерение 8192 и 512 экспертов, из которых для обработки токена маршрутизируются 10 экспертов и один общий. Архитектура сочетает Gated DeltaNet и Gated Attention, а также поддерживает Multi-Token Prediction. Нативная длина контекста составляет 262 144 токена и может быть расширена примерно до 1 010 000 токенов. Управление глубиной рассуждений выполняется параметром reasoning_effort, а контекст рассуждений из предыдущих сообщений может сохраняться через preserve_thinking. Сильные стороны модели — высокий заявленный уровень для сложного кодирования, профессиональной работы, исследований, планирования и автономного выполнения задач, а также большой контекст и возможность настройки рассуждений. Ограничения включают крайне большой общий размер модели и соответствующие требования к памяти и инфраструктуре; конкретные требования зависят от выбранного GGUF-кванта и конфигурации запуска. В README не указаны поддерживаемые языки и точные параметры доступных квантований. Лицензия обозначена как qwen3.8-max; условия следует уточнять в файле LICENSE.

Cogito v2.1 — инструктивная языковая модель Deep Cogito на архитектуре DeepSeek V3, дообученная на базе deepseek-ai/DeepSeek-V3-Base. В README модель названа вариантом MoE на 671 млрд параметров, однако метаданные репозитория указывают 37,6 млрд параметров и класс DeepseekV3ForCausalLM; поэтому фактический размер именно этого чекпойнта требует осторожной интерпретации. Модель принимает текст и генерирует текст, поддерживает диалог, вызов инструментов и гибридный режим рассуждений: может отвечать напрямую или сначала рассуждать и проверять ответ. Указаны контекст до 128 тысяч токенов в README и 163 840 токенов в метаданных. Модель предназначена для программирования, задач STEM, следования инструкциям, общих диалогов и сценариев с вызовом инструментов. В README заявлена поддержка более 30 языков и обучение с использованием итеративной дистилляции и усиления (IDA). Модель распространяется по лицензии MIT, допускающей коммерческое использование. Для запуска описанного в README варианта на 671 млрд параметров в BF16 требуется значительная вычислительная инфраструктура; там же рекомендуется FP8-версия для сервинга на восьми H200.

QwQ-32B-GGUF — языковая модель для генерации текста и рассуждений из семейства Qwen, разработанная командой Qwen. Это GGUF-версия базовой модели Qwen/QwQ-32B, ориентированная на локальный запуск и диалоговые сценарии, включая решение сложных математических, логических и других задач, где важны пошаговое рассуждение и качество вывода. Модель предназначена для использования с llama.cpp и совместимыми инструментами. Модель является авторегрессионной causal language model с архитектурой на базе Qwen2.5, использующей RoPE, SwiGLU, RMSNorm и смещения в QKV-вычислениях внимания. Она содержит около 32,5 млрд параметров, 64 слоя и механизм grouped-query attention с 40 головами для Q и 8 для KV. Заявленная длина контекста составляет до 131 072 токенов, однако для GGUF-версии без дополнительных настроек рекомендуется учитывать ограничение около 32 768 токенов; обработка более длинных последовательностей требует YaRN и поддержки со стороны используемого фреймворка. Указан английский язык. Сильная сторона модели — усиленная способность к рассуждению, обеспеченная последующим обучением с учителем и reinforcement learning; заявляется конкурентоспособность с современными reasoning-моделями, включая DeepSeek-R1 и o1-mini. Доступны варианты квантования q4_K_M, q5_0, q5_K_M, q6_K и q8_0, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Для стабильной работы рекомендуются специальные параметры семплирования и начало ответа с маркера <think>. Лицензия — Apache-2.0.

DeepSeek-R1-Distill-Qwen-14B-bnb-4bit — дистиллированная языковая модель, разработанная командой DeepSeek на основе DeepSeek-R1 и базовой архитектуры Qwen объёмом 14 млрд параметров. Данная версия подготовлена и опубликована Unsloth в 4-битном формате bnb для использования с Transformers. Модель предназначена для задач рассуждения, решения математических задач, генерации и анализа кода, а также других сценариев, требующих многошагового вывода. Дистилляция использует reasoning-поведение DeepSeek-R1, включая самопроверку, рефлексию и развернутые цепочки рассуждений. В метаданных README указан английский язык; сведения о поддержке других языков, размере контекста и мультимодальности не приведены. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битному представлению, что упрощает локальный запуск по сравнению с полноразмерной моделью. Ограничения включают возможное снижение точности из-за квантования и отсутствие в README подробных данных о бенчмарках, контекстном окне и требованиях к оборудованию. Модель распространяется по лицензии Apache 2.0.

Virtuoso-Small-v2 — языковая модель на 14 млрд параметров от Arcee AI, основанная на архитектуре Qwen2.5-14B. Модель дообучена с дистилляцией логитов DeepSeek-V3 на большом текстовом корпусе, затем дополнительно выровнена с помощью DPO. Для совместимости при переносе знаний применялась обработка токенизатора; итоговая модель использует токенизатор Qwen. Метаданные указывают контекст до 131 072 токенов и формат Safetensors. Модель предназначена для диалоговой генерации текста, ответов на технические и научные вопросы, решения математических задач и генерации кода. В карточке также заявлен интерфейс вызова инструментов. README описывает дистилляцию знаний DeepSeek-V3 и улучшение следования инструкциям, однако количественные сравнительные оценки не приведены. Модель распространяется по лицензии Apache-2.0. Среди ограничений указаны возможные пробелы в знаниях о событиях после июня 2024 года и риск генерации вредного или предвзятого текста; заявленная длина контекста в README округлена до 128k токенов.

Shining Valiant 3 — модель Valiant Labs, дообученная на базе mistralai/Ministral-3-14B-Reasoning-2512. Это плотная модель семейства Mistral 3 для генерации текста, диалога и рассуждений. Разработчики позиционируют её как помощника для научных задач, проектирования ИИ, программирования и общего решения сложных задач; обучение включало научные данные для рассуждений, созданные с помощью DeepSeek R1 0528. Модель рассчитана на диалог и следование инструкциям, а также на творческие и аналитические задачи. Карточка сообщает о поддержке английского языка. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия — Apache-2.0. В README не приведены данные о числе параметров сверх идентификатора базовой модели или о длине контекста. Утверждения о высокой скорости и работе на настольных и мобильных устройствах приведены разработчиком без количественных характеристик.

DeepSeek-R1-0528-Qwen3-8B-bnb-4bit — это 4-битно квантованная версия модели DeepSeek-R1-0528-Qwen3-8B, опубликованная Unsloth. Исходная модель разработана DeepSeek и представляет собой языковую модель с акцентом на углублённое рассуждение. Квантованный вариант распространяется для использования с Transformers и предназначен для более экономичного запуска модели. Модель ориентирована на сложные задачи рассуждения, математику, программирование, общую логику, вызов функций и сценарии «vibe coding». В README отмечены улучшения по сравнению с предыдущей версией DeepSeek R1: снижение галлюцинаций, более развитые способности к рассуждению и увеличение максимальной длины генерации до 64K токенов. Для DeepSeek-R1-0528 также приведены высокие результаты в тестах по общим знаниям, программированию и математике, включая AIME 2024, LiveCodeBench и SWE Verified. Точный набор поддерживаемых языков, модальностей и архитектурные детали в карточке не указаны; из идентификатора следует размер исходной модели 8B. Квантование уменьшает требования к памяти, но может влиять на точность по сравнению с полной версией. Модель распространяется по лицензии MIT.

m51Lab выпустила эту разреженную языковую модель 15 апреля 2026 года как вариант MiniMax-M2.7, в котором методом REAP удалено 40 % экспертов в блоках Mixture-of-Experts. Модель содержит около 139 млрд параметров, из которых примерно 10 млрд активны на каждом токене; в архитектуре 62 слоя. По метаданным, она загружается через Transformers и имеет контекст до 196 608 токенов. Модель предназначена для генерации текста в диалоговом режиме, включая написание кода, математические и научные рассуждения и вызовы инструментов. В README приведён результат HumanEval pass@1 83,3 % для завершённых задач при бюджете генерации 32 тыс. токенов; при строгом подсчёте всех 164 задач результат составляет 54,9 %, поскольку незавершённые решения учитываются как ошибки. Для воспроизведения указанной оценки рекомендуется выделять не менее 64 тыс. токенов генерации. README описывает также небольшой дефект коррекции смещений одного слоя; по данным карточки, его влияние на маршрутизацию незначительно. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией и файлами репозитория. README описывает вариант после структурного прореживания, а метаданные классифицируют связь с MiniMax-M2.7 как finetune; формат файлов в метаданных — safetensors.

Olmo-3-Think-AIO-GGUF — набор GGUF-квантизаций моделей Olmo-3-32B-Think и Olmo-3-7B-Think, разработанных Allen Institute for AI и подготовленных для использования через совместимые инструменты, включая llama.cpp. Модели относятся к семейству открытых плотных трансформерных языковых моделей Olmo 3 с вариантом Think, предназначенным для прозрачного пошагового рассуждения и исследовательских задач в области agentic AI. Модели предназначены для генерации текста, объяснения решений, декомпозиции формальных задач, математического рассуждения, генерации кода и исследований, связанных с reinforcement learning. Указан английский язык и сценарий text generation. Для версии 32B заявлена поддержка контекста до 65 000 токенов. В репозитории представлены варианты GGUF с разными форматами точности и квантования — от F32 и BF16 до компактных IQ- и Q-серий, что позволяет выбирать между качеством, размером файла и требованиями к оборудованию; размеры файлов 32B-версии составляют примерно от 7 до 129 ГБ. К сильным сторонам относятся открытость, возможность инспектировать промежуточные цепочки рассуждений, ориентация на задачи математики и кода, длинный контекст и широкий выбор локальных форматов. Ограничения включают значительные требования к памяти для крупных и высокоточных вариантов, возможное снижение качества при агрессивном квантовании, а также отсутствие заявленной поддержки мультимодальных входов и языков кроме английского. Указанная лицензия — Apache-2.0.

WizardLM-Mistral-CodeLlama-7b — объединённая модель на базе Mistral-7B-v0.1, созданная с помощью mergekit методом TIES из PrunaAI/WizardLM-WizardMath-7B-V1.0-bnb-4bit-smashed и codellama/CodeLlama-7b-Instruct-hf. Она предназначена для генерации текста, в том числе для ответов на вопросы по математике и помощи с программированием. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; для работы предусмотрена библиотека Transformers. Лицензия в доступных данных не указана.

TeichAI Gemma 4 26B A4B IT Claude Opus Distill v2 — мультимодальная диалоговая модель, дообученная на базе unsloth/gemma-4-26B-A4B-it с помощью Unsloth. Для дообучения использовались наборы с траекториями рассуждений Claude Opus; версия v2, по карточке модели, меняет параметры обучения и исправляет некоторые циклические или обрывающиеся ответы. Модель предназначена для генерации кода, отладки, планирования архитектуры программ, научного анализа, многошаговых исследовательских запросов и повседневных задач, требующих последовательных рассуждений. Архитектура Gemma 4 поддерживает диалог и обработку изображений; README также описывает обработку видео кадрами. Метаданные указывают формат safetensors и лицензию Apache-2.0. Карточка заявляет о применении модели в Cline, Codex и Cursor для создания веб-приложений и скриптов, однако сравнительные бенчмарки пока не приведены. Возможности базовой Gemma 4 не следует автоматически считать проверенными именно для этой дообученной версии; заявленные качества рассуждений основаны на описании автора.

Hy3 preview — диалоговая модель Tencent Hy Team на архитектуре Mixture-of-Experts с поддержкой вызова инструментов. Она предназначена для сложных рассуждений, следования инструкциям, анализа длинного контекста, программирования и агентных сценариев, включая поиск и работу в среде разработки. В README указано 295 млрд параметров, из которых активны 21 млрд, а также дополнительные 3,8 млрд параметров MTP-слоя. Модель работает с текстом; заявленная длина контекста в метаданных — 262 144 токена. Для развёртывания README рекомендует vLLM или SGLang и серверное оборудование с большим объёмом памяти. Репозиторий содержит веса Safetensors, библиотека — Transformers. Tencent сообщает о результатах на тестах STEM и математики, следования инструкциям, кодирования и агентного поиска. Это предварительная версия, поэтому результаты бенчмарков не гарантируют качество в конкретных задачах. Лицензия обозначена как other; условия использования следует сверить с лицензией в репозитории модели.

cortexso/phi-4-reasoning — текстовая генеративная модель семейства Phi-4-reasoning, разработанная Microsoft Research и преобразованная Menlo Research для распространения в формате GGUF через Cortex и Jan. Модель ориентирована на рассуждения по шагам, решение математических задач, ответы на научные вопросы и выполнение инструкций. Для основной ветки phi-4-reasoning заявлен размер 14 млрд параметров. Доступны квантизованные варианты GGUF от q2_k до q8_0, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью инференса. В README также упоминаются шаблоны ChatML и поддержка расширенного контекста, однако его точная длина не указана. Данных о перечне языков и мультимодальных возможностях нет; по заявленному pipeline_tag модель предназначена для генерации текста. Сильными сторонами модели являются специализация на логическом и математическом рассуждении, следовании инструкциям и возможность эффективного запуска в средах с ограничениями по памяти и задержке благодаря компактному размеру и квантизации. Ограничения включают отсутствие в представленных данных точных результатов бенчмарков, перечня поддерживаемых языков и значения контекстного окна. Модель распространяется по лицензии MIT.

Phi-4-reasoning-plus — открытая языковая модель Microsoft Research для генерации ответов с развернутыми рассуждениями. Эта производная от microsoft/Phi-4-reasoning-plus модель содержит 14,1 млрд параметров и использует плотный декодерный Transformer семейства Phi-3. Она принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена прежде всего для англоязычных задач, где важны рассуждения и логика: решения задач по математике и науке, программирование, планирование и следование инструкциям. Её можно использовать как основу для генеративных функций в условиях ограниченных вычислительных ресурсов. Дообучение включало supervised fine-tuning на цепочках рассуждений и обучение с подкреплением; модель в среднем генерирует примерно на 50% больше токенов, что может повышать задержку. Карточка предупреждает, что модель проверялась прежде всего для математических рассуждений и не оценивалась специально для всех вариантов применения. Ответы требуют проверки, особенно в высокорисковых сценариях. Репозиторий распространяется по лицензии MIT.

Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-GGUF — модель, разработанная Jackrong на основе плотной архитектуры Qwen3.5-9B. Она дообучена методом Supervised Fine-Tuning с применением LoRA и библиотеки Unsloth на данных, полученных дистилляцией рассуждений из взаимодействий с Claude 4.6 Opus, а также на наборах Jackrong/Qwen3.5-reasoning-700x и nohurry/Opus-4.6-Reasoning-3000x-filtered. Распространяется в формате GGUF и предназначена для использования с llama.cpp и совместимыми инструментами. Основное назначение модели — решение сложных задач с пошаговым рассуждением, включая научные, математические и инструкционные сценарии. Обучение ориентировано на структурирование анализа, разбиение задачи на подзадачи, проверку ограничений и формирование итогового ответа. В заявленном формате модель использует структуру <think>...</think> перед финальным ответом и стремится сокращать избыточные повторения в рассуждениях. Известно, что модель имеет 9 млрд параметров и поддерживает английский и китайский языки. В метаданных также заявлены мультимодальные возможности image-text-to-text и обработка изображений, однако в описании процесса обучения итоговая модель обозначена как text-only, поэтому практическую поддержку изображений следует проверять отдельно. Размер контекста, конкретная GGUF-квантизация и результаты независимых бенчмарков не указаны. Лицензия — Apache-2.0.

GALPACA 6.7B — языковая модель на архитектуре OPT, созданная дообучением GALACTICA 6.7B на 52 тысячах пар инструкций и ответов из набора Alpaca. Модель разработана для ответов на запросы в формате инструкций и ориентирована на научные и технические задачи; её базовая модель обучалась на крупном корпусе научных текстов и данных. Размер модели по метаданным — 8,8 млрд параметров, максимальный контекст — 2048 токенов. Модель принимает текст и генерирует текст. Качественные оценки указывают на сильные стороны в технических знаниях и программировании по сравнению с некоторыми моделями Alpaca на базе LLaMA, но на обычной генерации прозы она уступает им. Ответы могут быть неточными, поэтому для практического применения нужны проверки и меры предосторожности. Лицензия — CC BY-NC 4.0; использование также связано с условиями OpenAI, поскольку набор Alpaca был создан с помощью text-davinci-003.

Mellum2-12B-A2.5B-Thinking-GGUF — GGUF-квантизированная версия модели Mellum2-12B-A2.5B-Thinking, разработанной JetBrains. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, решения задач с пошаговым рассуждением, программирования, математического анализа и работы с инструментами. В README указано, что поддерживается английский язык. Модель имеет обозначение 12B-A2.5B-Thinking; точная архитектура, длина контекста и распределение параметров в README не раскрыты. Доступны варианты от BF16 до различных уровней квантизации GGUF, включая Q8_0, Q6_K, Q5_K и Q4_K; размеры файлов составляют примерно от 8 до 24 ГБ для перечисленных вариантов. Для запуска поддерживаются llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Используется специальный chat-шаблон с маркерами im_start и im_end. Среди сильных сторон заявлены высокие результаты на задачах программирования, математики, общих знаний и следования инструкциям: например, 69,9% pass@1 на LiveCodeBench v6, 87,0% exact match на GSM-Plus и 86,2% accuracy на MMLU-Redux. Эти результаты помечены как непроверенные. Ограничения включают зависимость качества и требований к памяти от выбранной квантизации, неизвестную длину контекста и отсутствие данных о мультимодальности; README описывает модель как текстовую. Лицензия — Apache-2.0.

Qwen3.5-9B-Qworus-V2 — гибридная языковая модель для генерации текста, разработанная на основе объединения моделей empero-ai/Qwen3.8-9B-Distill и ornith-ai/Ornith-1.5-9B. Модель создана методом 50/50 DARE-TIES merge и предназначена для задач программирования, рассуждений, вызова инструментов, планирования, проектирования и ответов на вопросы. Модель доступна через Transformers и ориентирована на text generation. Указан размер 9B; поддерживаются форматы Safetensors и GGUF. Для GGUF предоставлены варианты квантования Q4_K_L для систем с ограниченными ресурсами и Q6_K_L для более высокой точности. В этих вариантах слои токенов и вывода повышены до Q8_0, а тензоры ssm_* используют BF16 или Q8_0 для повышения точности на длинных контекстах. Для квантований imatrix обучена на смеси данных, включающей код, бизнес-тексты, математику и Wikipedia. Модель не является полностью uncensored по умолчанию, поскольку обе исходные модели не были uncensored. В README не указаны поддерживаемые языки, максимальная длина контекста и лицензия, поэтому эти характеристики нельзя определить по имеющимся данным.

Mungert/Youtu-LLM-2B-GGUF — GGUF-версия языковой модели Youtu-LLM-2B, разработанной Tencent. Это авторегрессионная causal language model для генерации текста; семейство включает базовую и instruct-версии. Данная сборка создана с использованием llama.cpp, однако конкретный уровень квантования в README не указан. Модель содержит 1,96 млрд параметров, 32 слоя и использует плотную архитектуру MLA с 16 attention heads для Q/K/V. Поддерживается контекст до 131 072 токенов, размер словаря — 128 256. Модель ориентирована на рассуждения, следование инструкциям, STEM-задачи, программирование, работу с длинным контекстом и агентские сценарии с инструментами; для instruct-версии заявлен режим reasoning. В представленных тестах она показывает особенно сильные результаты в генерации кода, математике, обработке длинного контекста и ряде end-to-end агентских задач, но результаты зависят от версии модели и настроек запуска. README не указывает поддерживаемые языки, точные требования к ресурсам и ограничения безопасности. Лицензия обозначена как other; условия следует уточнять по файлу лицензии Tencent.

Darwin-28B-Opus — языковая модель для генерации текста и многошаговых рассуждений, созданная Darwin V7 слиянием Qwen3.6-27B и её варианта, дообученного на рассуждениях в стиле Claude Opus. Модель сохраняет плотную архитектуру Qwen3.6 с гибридным вниманием и содержит 27,6 млрд параметров; веса представлены в BF16 и доступны в формате safetensors. Поддерживается режим рассуждений, а интерфейс предусматривает вызов инструментов. Модель предназначена для решения сложных задач по естественным наукам и математике, генерации и отладки кода, а также других задач, требующих цепочки рассуждений. В карточке заявлены английский как основной язык, а также поддержка корейского, китайского и японского. Для задач GPQA Diamond авторы сообщают результат 88,89% при трёхэтапном адаптивном оценивании; этот показатель зависит от описанного протокола и не равен результату обычного одиночного ответа. Для запуска весов BF16 требуется около 55 ГБ видеопамяти. Модель может выдавать многословные рассуждения; длину ответа можно ограничивать параметром max_new_tokens. Лицензия — Apache 2.0.

DeepSeek-R1-Distill-Qwen-7B-imatrix-GGUF — это квантизированные в формате GGUF варианты модели DeepSeek-R1-Distill-Qwen-7B, разработанной командой DeepSeek на базе Qwen2.5. Репозиторий предназначен для локального запуска языковой модели в задачах генерации текста, рассуждений, решения математических задач и программирования. Модель относится к плотным моделям примерно на 7 млрд параметров и работает с текстом; в README указан английский язык. Она создана посредством дообучения Qwen2.5 на данных рассуждений, сгенерированных DeepSeek-R1, что позволяет переносить способности крупной reasoning-модели в более компактную модель. Формат GGUF и imatrix-квантизации ориентированы на эффективный запуск через llama.cpp и совместимые приложения, включая KoboldCPP, Ollama, LM Studio и другие клиенты. Сильными сторонами являются компактный размер, возможность локального использования и специализация на сложных рассуждениях, математике и коде. Ограничения конкретных вариантов квантизации, требования к ресурсам, размер контекстного окна и точные характеристики производительности в README не указаны; квантизация может влиять на качество по сравнению с исходной моделью. Лицензия обозначена как other, без подробного описания условий в предоставленных данных.

mlx-community/dolphin-2.9-llama3-70b-4bit — квантизированная 4-битная версия модели Dolphin 2.9 на базе Llama 3, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.11.0. Исходная модель разработана cognitivecomputations. Модель содержит около 69,5 млрд параметров и предназначена для запуска и генерации текста в экосистеме MLX на совместимом оборудовании Apple. Модель ориентирована на англоязычные диалоговые и инструкционные сценарии, включая ответы на вопросы, помощь с программированием, математическими задачами, работу с инструкциями и вызовами функций. Максимальная длина контекста составляет 8192 токена. В метаданных указана лицензия Llama 3.

GLM-4.7-GGUF — это GGUF-версия языковой модели GLM-4.7, разработанная организацией Z.ai и опубликованная Unsloth. Модель предназначена прежде всего для генерации текста, программирования и агентских сценариев с использованием инструментов. Она ориентирована на multilingual coding, задачи в терминале, веб-навигацию, математическое и общее рассуждение, создание веб-интерфейсов и презентаций, а также на диалоги, творческое письмо и ролевые сценарии. В карточке указаны поддерживаемые языки English и Chinese, библиотека Transformers и базовая модель zai-org/GLM-4.7. Заявлены режимы thinking before acting, interleaved thinking и preserved thinking, однако сведения о размере модели, точной архитектуре, длине контекста и доступных модальностях отсутствуют. По приведённым результатам модель показывает сильные стороны в кодировании, использовании инструментов, математике и рассуждении; среди ограничений следует учитывать, что показатели зависят от конкретных бенчмарков и не гарантируют аналогичное качество в каждом прикладном сценарии. Модель распространяется по лицензии MIT. README не содержит подробностей о требованиях к оборудованию, конкретных квантизациях GGUF или полной процедуре локального запуска.

GPT-OSS-Nano — компактная языковая модель с архитектурой Mixture of Experts, опубликованная пользователем squ11z1 и дообученная на базе openai/gpt-oss-20b. Модель ориентирована на пошаговое рассуждение и решение задач, включая математические вопросы, объяснение концепций и общий текстовый диалог. Для обучения использовались QLoRA, Unsloth и TRL на наборе Superior-Reasoning с примерами цепочек рассуждений. Модель содержит около 9 млрд параметров, из которых примерно 3 млрд активируются на каждом проходе. Архитектура включает 12 экспертов, 4 активных эксперта на токен, 24 слоя, скрытое измерение 2880, 64 attention heads с 8 KV-головами и GQA. Заявлена поддержка контекста до 131 072 токенов и точности BFloat16. Основной язык — английский; качество на других языках может варьироваться. Доступны форматы GGUF для локального запуска через llama.cpp и Ollama, а также интеграция с Transformers и 4-битной загрузкой через Unsloth. Сильными сторонами модели являются относительно экономичное разреженное вычисление, большой контекст и специализация на пошаговом reasoning. Ограничения включают преимущественно англоязычную оптимизацию, риск правдоподобных ошибок и непригодность для критически важных сценариев без дополнительной проверки. Модель распространяется по лицензии Apache-2.0.