II.9Статистика, эксперименты и причинный анализ

Qwen_Qwen3-Next-80B-A3B-Thinking-GGUF — набор GGUF-квантизаций базовой модели Qwen3-Next-80B-A3B-Thinking, разработанной Qwen и подготовленной bartowski. Модель предназначена для генерации текста и сценариев, требующих рассуждений; запуск возможен через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Это текстовая модель с архитектурой и языками исходной модели, а также размером контекста, в README не указанных. Доступны варианты квантизации от Q3 до Q8, объёмом примерно от 36,6 до 84,8 ГБ. Более высокие варианты обеспечивают лучшее сохранение качества, а низкие требуют меньше памяти; рекомендуемыми названы Q4_K_M, Q5_K_M, Q6_K и другие варианты соответствующего уровня. Ключевое ограничение — значительные требования к оперативной памяти и необходимость поддержки этой модели выбранным программным обеспечением. Квантизации созданы с использованием imatrix и llama.cpp. Для работы рекомендуется применять указанный в README формат prompt с маркером начала рассуждений <think>. Распространение осуществляется по лицензии Apache-2.0.

Qwentile 2.5 32B Instruct — экспериментальная текстовая модель для генерации и диалогов, созданная автором карточки путём интерполяции и объединения нескольких моделей семейства Qwen2.5 в пространстве сигналов. В метаданных указана архитектура Qwen2ForCausalLM с 32 млрд параметров и контекстом 32 768 токенов; модель работает через Transformers и распространяется в формате safetensors. Модель предназначена для диалогов, задач на рассуждение и генерации структурированных ответов, в частности XML. Автор отмечает хорошую управляемость инструкциями и стабильность вывода, однако модель иногда пропускает закрывающие XML-теги, поэтому такие ответы следует проверять и при необходимости исправлять. Лицензия — Apache-2.0.

BenevolenceMessiah/QwQ-32B-Preview-Self-instruct-2x-TIES-v1.0 — объединённая модель для генерации текста на основе Qwen/QwQ-32B-Preview. Автор собрал её методом TIES с помощью mergekit, объединив базовую модель с rombodawg/Rombos-LLM-V2.5-Qwen-32b и rombodawg/Rombos-Coder-V2.5-Qwen-32b. Модель относится к архитектуре Qwen2ForCausalLM, содержит 32 млрд параметров и рассчитана на контекст до 32 768 токенов. Она предназначена для диалоговой генерации текста; каталог также отмечает интерфейс вызова инструментов. В качестве сценариев подходят ответы на вопросы, рассуждения и помощь с программированием, унаследованные от указанных базовых моделей. Модель распространяется в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана; описание README не приводит оценок качества или подробных ограничений применения.

Qwythos-9B-Claude-Mythos-5-1M-NVFP4-GGUF — квантованная версия в формате GGUF модели empero-ai/Qwythos-9B-Claude-Mythos-5-1M, разработанной Empero AI на базе Qwen3.5-9B. Модель предназначена для рассуждений, диалогов, работы с изображениями и вызова инструментов. Она принимает контекст до 1 048 576 токенов с масштабированием YaRN и использует отдельный визуальный энкодер SigLIP; указанный в карточке основной язык — английский. По данным README, модель дообучали на более чем 500 млн токенов трасс Claude Mythos и Claude Fable. Среди заявленных сильных сторон — работа с длинными документами и кодовыми базами, математические задачи, кибербезопасность, биомедицина и клинические вопросы. В README также заявлены нативный вызов инструментов и улучшение результатов бенчмарков относительно базовой модели. Основные веса представлены в NVFP4, а визуальный энкодер — в F16; README рекомендует NVFP4 для ускорения на видеокартах NVIDIA Blackwell. Модель не проходила дополнительную настройку зрения: визуальные возможности унаследованы от базовой модели. Она может выдавать чрезмерно уверенные конкретные сведения, включая идентификаторы CVE и дозировки препаратов; для точных ответов рекомендуются проверка инструментами и прикладной защитный слой. Лицензия — Apache-2.0.

Masterjp123/XOrcaSlimWin-13B — объединённая SLERP-модель на основе Xwin-Lm-13B, Xwin-math-13B, XwinCoder-13B и SlimOrca-13B. Она предназначена для генерации текста и сочетает возможности диалоговой модели, решения математических задач и работы с кодом. Модель построена на архитектуре Llama, содержит 12,9 млрд параметров и рассчитана на контекст до 4096 токенов. Модель принимает текст и генерирует текст; в карточке указана поддержка английского языка. README предупреждает о возможных проблемах при использовании формата Alpaca. Метаданные указывают лицензию Llama 2. README также упоминает GGUF-квантизацию, хотя в доступных метаданных формат файлов указан как safetensors.

Camelidae-8x13B — языковая модель семейства Camelidae, разработанная авторами метода Parameter-Efficient Sparsity Crafting. Это модель типа Mixture-of-Experts с архитектурой на основе LLaMA и примерно 12,9 млрд параметров; для запуска в README приведён пример загрузки через Transformers с trust_remote_code. Модель предназначена для генерации текста по инструкциям и общих задач, включая программирование и математику. При обучении семейства использовались QLoRA и адаптеры для эффективного преобразования плотных моделей в разреженную MoE-структуру; в метаданных для этой версии указаны наборы SlimOrca, Magicoder и MetaMathQA. Модель принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 4096 токенов. Лицензия — Apache-2.0. README описывает серию моделей и приводит результаты для Camelidae-8x34B-pro, поэтому эти показатели нельзя считать оценкой именно версии 8x13B.

Darwin-4B-Opus — языковая модель для диалога и рассуждений, созданная VIDRAFT с помощью движка Darwin V6. Это слияние Google Gemma 4 E4B Instruct и модели Gemma-4-E4B-Claude-4.6-Opus-Reasoning-Distilled; при слиянии DARE-TIES применялись диагностически подобранные коэффициенты для отдельных тензоров. Модель использует архитектуру Gemma4ForConditionalGeneration с MoE, содержит около 4 млрд параметров и представлена в формате BF16 и safetensors. Модель предназначена для ответов на вопросы, рассуждений, программирования, математики и анализа на одном потребительском GPU. В README заявлены контекст 128 тыс. токенов и поддержка более 140 языков; метаданные карточки перечисляют английский, корейский, японский и китайский. Архитектура базовой модели поддерживает изображения и аудио, однако README не описывает эти сценарии для Darwin-4B-Opus. В README приведён результат 82,92% на ARC-Challenge в режиме zero-shot; авторы отмечают, что проверка здоровья модели не проводилась. Модель распространяется по лицензии Apache 2.0. Фактическое качество на других задачах и мультимодальная работа в карточке не подтверждены.

Dolphin3.0-R1-Mistral-24B-Patched — текстовая генеративная модель от AIOpsInSpace, созданная на базе cognitivecomputations/Dolphin3.0-Mistral-24B. Модель объединяет дообучение Dolphin 3.0 с паттернами рассуждений DeepSeek-R1 и предназначена для локального запуска, генерации текста и решения задач, требующих пошагового рассуждения. Заявлена поддержка формата reasoning trace с тегами <think> и исправления, повышающие стабильность работы локальных бэкендов и предотвращающие зависания токенизатора. Модель представляет собой плотную архитектуру Mistral с 24 млрд параметров. В карточке указана английская локализация; другие языки и размер контекстного окна не описаны. Среди заявленных особенностей — отсутствие ограничений на тематику ответов и совместимость с GGUF, однако конкретные варианты квантования, требования к оборудованию и результаты бенчмарков не приведены. Сильными сторонами модели являются сочетание относительно компактного для такого уровня reasoning-движка размера, открытой основы Mistral, ориентированности на локальное выполнение и поддержка явного формата рассуждений. Ограничениями остаются отсутствие подтверждённых количественных оценок качества, неполные сведения о контексте и аппаратных требованиях, а также потенциальные риски использования модели без встроенных ограничений безопасности. Указанная лицензия — Apache-2.0.

EpistemeAI2/Fireball-Phi-3-medium-4k-inst-Philos — дообученная на базе Phi-3 Medium Instruct модель для генерации ответов в диалоговом формате. Карточка описывает семейство Phi-3 Medium как плотную авторегрессионную языковую модель примерно на 13,8 млрд параметров; контекст составляет 4096 токенов. Эта версия ориентирована на английский язык и общие коммерческие и исследовательские сценарии, включая работу в условиях ограниченных вычислительных ресурсов и низкой задержки. Модель подходит для диалоговых помощников, ответов на вопросы, а также задач рассуждения, математики, логики и программирования. Базовая Phi-3 Medium Instruct прошла supervised fine-tuning и direct preference optimization для следования инструкциям и повышения безопасности. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0. Как и другие языковые модели, она может выдавать неточные или вымышленные сведения, предвзятые или оскорбительные ответы. Качество на языках помимо английского ниже; сгенерированный код и ответы для чувствительных или высокорисковых сценариев требуют проверки. README преимущественно описывает базовую Phi-3 Medium Instruct, поэтому отдельные характеристики дообучения EpistemeAI2 на философских данных в предоставленной карточке подробно не раскрыты.

google/gemma-2b-AWQ — AWQ-квантизированная версия базовой модели Gemma-2B, разработанной Google. Это компактная decoder-only большая языковая модель с открытыми весами, обученная на основе технологий, использованных при создании Gemini. Модель работает с текстом и ориентирована преимущественно на английский язык. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений, работы с программным кодом и математическими запросами. Она принимает текстовые строки, включая вопросы, инструкции и документы, а возвращает сгенерированный английский текст. Небольшой размер делает её подходящей для запуска на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре с ограниченными ресурсами; также предусмотрено последующее дообучение. При обучении использовалось около 6 триллионов токенов из веб-документов, кода и математических материалов с применением фильтрации вредоносного и чувствительного контента. README не указывает размер контекстного окна и конкретные характеристики архитектуры помимо класса decoder-only. Это базовая, а не instruction-tuned версия, поэтому для диалоговых сценариев и точного следования инструкциям могут потребоваться дополнительное дообучение или специальное форматирование запросов. Квантизация AWQ снижает требования к ресурсам, но её влияние на качество зависит от задачи и среды запуска. Использование регулируется лицензией Google Gemma Terms of Use; для доступа на Hugging Face требуется принять условия лицензии. Лицензия указана как gemma-terms-of-use.

DFveloper/gemma-4-26B-A4B-it-qat-q4_0-Claude-Opus-Distill-v2-GGUF — языковая модель для генерации текста и задач, требующих рассуждений. Она создана как производная от Lumen 3.1 Pulsar QAT с переносом части поведения модели TeichAI/gemma-4-26B-A4B-it-Claude-Opus-Distill-v2, обученной на данных с рассуждениями Claude Opus. Разработчик данной сборки — DFveloper; исходные компоненты и данные связаны с 0x795E2795, TeichAI и Crownelius. Модель использует архитектуру Gemma 4 с конфигурацией 26B A4B и MoE, поставляется в формате GGUF с квантизацией q4_0 и предназначена для запуска с llama.cpp, Text Generation Inference, Transformers и Unsloth. При создании из исходной модели был извлечён дельта-апдейт весов, аппроксимирован LoRA-адаптером и объединён с QAT-чекпойнтом Lumen 3.1 Pulsar. Благодаря этому модель сохраняет характеристики базового QAT-чекпойнта и частично перенимает поведение, связанное с высокоуровневыми рассуждениями. Сильными сторонами являются компактное 4-битное представление, совместимость с распространённой экосистемой GGUF и ориентация на reasoning-сценарии. Ограничения включают приблизительный характер переноса дельты через LoRA; заявленные свойства и качество не следует приписывать исходной модели Claude Opus напрямую. В README не указаны поддерживаемые языки, размер контекста, точные показатели качества и дополнительные модальности, поэтому модель следует рассматривать как текстовую. Лицензия — Apache-2.0.

Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced-Ollama — это модифицированная и квантизированная версия Gemma 4 26B A4B, основанная на Google Gemma 4 26B A4B Instruct. Модель опубликована braydenh563, а вариант без ограничений разработан HauhauCS. Она предназначена для творческого письма, ролевых сценариев, эмоционально-интеллектуального общения, исследований, программирования и агентных задач с инструментами. Версия Balanced ориентирована на минимальное число отказов и обычно предоставляет полный ответ после краткой оговорки о безопасности, хотя в отдельных случаях может сначала уклониться от ответа. Модель использует архитектуру Mixture-of-Experts: около 25,2 млрд параметров всего и примерно 3,8 млрд активных параметров на проход, 128 маршрутизируемых экспертов, выбор 8 экспертов и одного общего эксперта. В ней 30 слоёв, гибридное внимание со скользящим окном на 1024 токена и периодическим глобальным вниманием, Proportional RoPE и нативный контекст до 256K токенов. Это нативно мультимодальная модель для текста и изображений; для обработки изображений поставляется отдельный mmproj, поддерживающий переменные бюджеты визуальных токенов от 70 до 1120 на изображение. В README заявлен английский язык. К сильным сторонам относятся высокая вычислительная эффективность MoE, большой контекст, мультимодальность, стабильность семплирования в длинных сессиях и специальные K_P-квантизации с оптимизацией по важности тензоров. Ограничения включают отсутствие приведённых независимых бенчмарков, зависимость качества и требований к памяти от выбранной квантизации, а также менее высокую пригодность для агентного программирования по сравнению с Qwen3.6, согласно автору README. Удаление отказов снижает встроенные защитные ограничения и требует самостоятельного контроля безопасного применения. Модель распространяется по лицензии Apache-2.0 в форматах GGUF; размеры доступных вариантов составляют примерно от 10 до 27 ГБ, а файл mmproj занимает около 1,2 ГБ.

Это пользовательская сборка GGUF-модели Iris-mini от IsValorum: базовая модель AllSpark-Research/Iris-mini представлена в формате GGUF с ручной схемой квантования APEX-I-MiniPlus. В карточке заявлена архитектура qwen35moe с 35 млрд параметров и примерно 3,2 млрд активных параметров на токен; веса занимают около 14,84 ГБ. Сборка сохраняет встроенную голову Multi-Token Prediction для ускорения авторегрессивной генерации с помощью спекулятивного декодирования. Модель предназначена для генерации текста в диалогах, рассуждениях, математических задачах и коде. Она поддерживает множество языков, включая английский, китайский, русский, испанский, французский, немецкий, португальский, итальянский, японский, корейский, вьетнамский, тайский и арабский. В README описаны запуски с длинным контекстом вплоть до 256 тысяч токенов, однако эти оценки зависят от конфигурации и оборудования. Автор заявляет, что выбор точности для отдельных слоёв должен лучше сохранять качество рассуждений и синтаксиса, чем некоторые более грубые квантования, при умеренных требованиях к памяти. Это пользовательская сборка, и приведённые в README сравнения производительности и качества являются заявлениями автора, а не независимой оценкой. Лицензия — Apache-2.0.

L3.1-Moe-4x8B-v0.1 — языковая модель с архитектурой Mixture of Experts, собранная разработчиком moeru-ai с помощью mergekit-moe. Она объединяет четыре модели на базе Llama 3.1, предназначенные для диалогов, творческого письма, работы с кодом и математикой. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов; файлы опубликованы в формате safetensors. Для работы используется библиотека Transformers. Модель предназначена для генерации текста и диалогового общения, включая ролевые сценарии, а также для задач с кодом и математикой. В README приведены результаты оценки на Open LLM Leaderboard, в том числе средняя оценка 19,15 и результат IFEval 43,47. Модель распространяется по лицензии Llama 3.1; следует соблюдать её условия.

Модель aifeifei798/Meta-Llama-3-8B-Instruct — чат-ориентированная большая языковая модель семейства Llama 3, разработанного Meta. Это авторегрессионный трансформер с плотной архитектурой, примерно 7,5 млрд параметров, обученный следовать инструкциям с помощью контролируемого дообучения и обучения с обратной связью от людей. Репозиторий содержит веса в формате safetensors; контекст модели — до 8192 токенов. Модель принимает текст и генерирует текст, включая код. Она предназначена для диалоговых сценариев и использования в качестве ассистента; карточка заявляет английский как основной язык и ограничивает применение другими языками. Модель может быть полезна для ответов на вопросы, написания и объяснения кода, составления текстов и ведения диалога. В README указана пользовательская коммерческая лицензия Meta Llama 3 с условиями Community License и Acceptable Use Policy. Модель статична и обучена на офлайн-данных; ответы могут содержать ошибки, а заявленные меры безопасности не исключают вредных или нежелательных результатов, поэтому для приложений нужны подходящие проверки и защитные механизмы.

Mungert/phi-4-GGUF — это набор GGUF-файлов с моделями Phi-4, предназначенными для локального запуска и инференса в формате GGUF. Репозиторий содержит варианты весов в BF16 и F16, а также квантованные версии Q8_0, Q6_K, Q4_K, Q4_0 и IQ3. Модель относится к классу текстовых генеративных моделей и ориентирована на диалоги, ответы на вопросы, работу с математическими задачами, программным кодом и другими текстовыми запросами. В метаданных указан английский язык и задача text-generation; поддержка других языков не заявлена. Главное преимущество набора — выбор между точностью и требованиями к памяти. Полноформатные BF16 и F16 подходят для оборудования с соответствующим ускорением, а квантованные варианты позволяют запускать модель на CPU и устройствах с ограниченной оперативной памятью или VRAM. Более агрессивное квантование уменьшает размер и потребление памяти, но может снижать точность. Сведения об архитектуре, количестве параметров, размере контекста, мультимодальности и результатах тестирования в README не приведены. Лицензия — MIT. README указывает связь с моделью Microsoft Phi-4 через ссылку на её лицензию; Mungert предоставляет варианты Phi-4 в формате GGUF. Для использования необходимо выбрать файл, совместимый с возможностями оборудования и требуемым уровнем качества.

Qwen2.5-Coder-14B-Instruct-AWQ — инструкция-настроенная языковая модель для генерации текста и программного кода, разработанная командой Qwen. Она предназначена для написания, анализа, объяснения и исправления кода, решения задач программирования, а также для использования в чат-ассистентах и агентных системах разработчика. Модель основана на Qwen2.5-Coder-14B-Instruct и распространяется как 4-битная AWQ-квантизированная версия. Модель является каузальной языковой моделью с архитектурой на базе Transformers, RoPE, SwiGLU, RMSNorm и смещениями в QKV-внимании. Она содержит около 14,7 млрд параметров, 48 слоёв и использует Grouped Query Attention с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN. Модель обучалась на данных, включающих исходный код, текстово-кодовые связи и синтетические данные, с общим объёмом обучения 5,5 трлн токенов. В метаданных README указан английский язык. К сильным сторонам относятся специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также сниженные требования к памяти благодаря 4-битной квантизации. Ограничения связаны с возможным ухудшением производительности на коротких текстах при статическом масштабировании YaRN и с тем, что для эффективной работы требуются совместимые версии Transformers и поддержка AWQ. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-14B-Instruct-MLX-8bit — 8-битная MLX-квантизация модели Qwen2.5-Coder-14B-Instruct, разработанной Qwen. Квантизацию предоставил bartowski на основе инструментов mlx-examples; модель распространяется в рамках программы Community Models LM Studio, но LM Studio не является её создателем или владельцем. Модель предназначена для генерации и обработки текста и программного кода, прежде всего для сценариев с code agents. Она обучалась на объёме до 5,5 триллиона токенов, включая исходный код, текстово-кодовые связи и синтетические данные. Заявлена поддержка длинного контекста до 128K токенов с масштабированием RoPE через YaRN с коэффициентом 4,0. Указан английский язык; README также отмечает совместимость с компьютерами Mac на Apple Silicon. Ключевые сильные стороны модели — специализация на задачах программирования, поддержка длинного контекста и локальный запуск через MLX на совместимых устройствах. Ограничения включают зависимость от Apple Silicon для заявленной совместимости, а также возможные неточные, вредные или неподходящие ответы, характерные для генеративных моделей; конкретные результаты зависят от сценария использования. Модель распространяется по лицензии Apache-2.0.

Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1-GGUF — экспериментальная дистиллированная версия Qwen3.5-9B, разработанная Jackrong. Модель дообучена методом supervised fine-tuning с использованием Unsloth и LoRA на отфильтрованных данных рассуждений, созданных на основе GLM-5.1. В README также указана лицензия Apache-2.0. Модель предназначена для локального запуска и генерации ответов в диалоговых, инструкционных, математических, STEM- и кодовых сценариях. Основной акцент сделан на многошаговом рассуждении, декомпозиции задач, соблюдении инструкций и более структурированной организации ответов. Заявлена поддержка английского, китайского, японского и испанского языков. По метаданным репозитория модель относится к multimodal и image-text-to-text моделям с поддержкой vision, однако подробности о поддерживаемых форматах изображений и способах их обработки не приведены. Ключевая характеристика — размер 9 млрд параметров и дистилляция структуры рассуждений GLM-5.1, а не простое копирование ответов учителя. Ожидаемые преимущества включают более стабильное многошаговое рассуждение, лучшую декомпозицию задач и более последовательное следование инструкциям. При этом автор отмечает, что улучшения для модели такого масштаба, вероятно, будут постепенными, а не радикальными. README не содержит сведений о размере контекста, точной архитектуре мультимодальной части, количественных результатах бенчмарков и ограничениях безопасности, поэтому эти характеристики нельзя оценить дополнительно.

SakalFusion-7B-Beta — объединённая языковая модель на архитектуре Qwen2, созданная методом TIES с помощью mergekit. В слиянии использованы Qwen2.5-Coder-7B-Instruct, Qwen2.5-Math-7B-Instruct и Sakalti/model-3; базовая модель слияния — bunnycore/Qwen2.5-7B-RRP-1M. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста в диалоговом формате, в том числе для задач программирования и математики, унаследованных от входящих в слияние моделей. Метаданные указывают контекст до 1 010 000 токенов и интерфейс для вызова инструментов. Карточка не приводит результатов оценивания, поэтому качество на конкретных задачах и практическая эффективность такого длинного контекста не подтверждены. Лицензия в предоставленных данных не указана. Модель создана на основе нескольких чекпойнтов, поэтому условия использования следует сверить с лицензиями исходных моделей.

VMware/xgen-7b-8k-open-instruct — языковая модель VMware с архитектурой LLaMA, дообученная для выполнения инструкций на основе SalesForce/xgen-7b-8k-base. Модель содержит 6,7 млрд параметров и поддерживает контекст до 8192 токенов; для токенизатора требуется библиотека tiktoken и параметр trust_remote_code=True. Модель предназначена для генерации ответов на инструкции и zero-shot рассуждений, в том числе на примерах из наборов Flan v2. Карточка описывает обучение на 140 тысячах инструкционных примеров, включая Open-instruct и подмножество задач COT. Указана лицензия CC BY 3.0; README заявляет возможность коммерческого использования.

PS4Research/0VOz3fgU0qp4lVar — дообученная модель генерации текста на архитектуре Olmo 3, созданная PS4Research на основе allenai/Olmo-3.1-32B-Think. В карточке указано, что для обучения использовались Unsloth и библиотека TRL от Hugging Face; модель содержит 31,7 млрд параметров и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; интерфейс поддерживает вызов инструментов. Базовая модель ориентирована на английский язык и задачи рассуждений, в том числе математику и программирование. Сведений о специальных улучшениях, полученных при дообучении, в карточке нет. Лицензия — Apache-2.0.

Richard Young создал Agents-A1-4B-heretic — версию модели InternScience/Agents-A1-4B, модифицированную инструментом Heretic v2.0.0.dev0 методом abliteration: изменение направления отказа без дообучения. Это плотная языковая модель семейства Qwen3.5 с 4 млрд параметров, предназначенная для диалогов, вызова инструментов и выполнения многошаговых агентных задач. Она может разбивать сложные запросы на этапы, планировать действия и работать с внешними инструментами через их интерфейсы. По данным карточки, в тесте на 100 запросах модель отказала в 11 случаях против 99 у исходной версии; заявленное KL-расхождение составляет 0,0598. Эти результаты описывают указанные в карточке проверки и не гарантируют качество в других сценариях. Модель принимает и генерирует текст; поддержка изображений отмечена в метаданных тегами, однако основная задача репозитория — генерация текста. Модель распространяется по лицензии Apache-2.0. Abliteration снижает частоту отказов, поэтому модель может отвечать на запросы, которые исходная версия отклоняет.

airoboros-7b-gpt4-1.2 — плотная причинно-языковая модель семейства LLaMA примерно на 6,6 млрд параметров, дообученная Джоном Дёрбином методом QLoRA на синтетических инструкционных данных, созданных GPT-4. Она предназначена для диалоговых ответов и генерации текста по инструкциям; карточка описывает формат общения с ролями USER и ASSISTANT и шаблон Vicuna. Модель рассчитана на программирование, математические задачи и рассуждения, викторины, ролевые диалоги, вопросы с вариантами ответа и заполнением пропусков, а также ответы с учётом заданного контекста. Для запросов на генерацию кода обучалась выводить код без Markdown-разметки при добавлении маркера PLAINFORMAT, но это поведение не гарантируется. Контекст — 2048 токенов; формат репозитория — PyTorch. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

BigQwen2.5-Echo-47B-Instruct-GGUF — набор GGUF-квантизаций модели BigQwen2.5-Echo-47B-Instruct, опубликованный пользователем bartowski и основанный на модели mlabonne. Квантизации подготовлены с помощью llama.cpp и imatrix; модель предназначена для генерации текста и работы в локальных средах инференса, включая LM Studio. Указанный язык — английский, формат взаимодействия использует шаблон Qwen с ролями system, user и assistant. Модель имеет размер 47B параметров, однако сведения о точной архитектуре, длине контекста и мультимодальных возможностях в README не указаны. Доступны варианты от F16 размером около 94,79 ГБ до низкобитных Q3 и Q4, а также Q5, Q6 и Q8; наиболее качественными и рекомендуемыми названы некоторые варианты Q6_K, Q5 и Q4. Квантизации позволяют выбирать баланс между качеством, размером файла и требованиями к памяти; отдельные варианты оптимизированы для ARM-процессоров. Ограничениями являются значительные требования к памяти для старших вариантов и возможное снижение качества у низкобитных квантизаций. Для запуска требуется совместимое программное обеспечение, например llama.cpp или LM Studio. Лицензия указана как other с названием tongyi-qianwen; в качестве текста лицензии приведена ссылка на лицензию Qwen2-72B-Instruct.

DeepSeek-R1-0528-Qwen3-8B-GGUF — квантизированная GGUF-версия модели DeepSeek-R1-0528-Qwen3-8B, разработанной командой DeepSeek. Квантизацию выполнил bartowski на основе llama.cpp, а модель распространяется в рамках сообщества LM Studio. Модель предназначена для генерации текста и задач, требующих рассуждений, включая математические задачи и другие сценарии, где важна способность выстраивать цепочку рассуждений. Она создана посредством дистилляции chain-of-thought из DeepSeek-R1-0528 в базовую модель Qwen3 8B. Заявлена поддержка контекста до 128 тысяч токенов и передовые результаты среди открытых моделей на AIME24. Модель относится к текстовым генеративным моделям; сведения о поддерживаемых языках и конкретной архитектуре, помимо основы Qwen3 8B, в README не приведены. Квантизированный формат может быть удобен для локального запуска, однако README не уточняет уровень квантизации, требования к памяти и производительность. Как и другие языковые модели, она может генерировать неточную, вредную или неподходящую информацию. Лицензия модели указана как MIT.

unsloth/DeepSeek-R1-Distill-Qwen-1.5B — компактная языковая модель от Unsloth на архитектуре Qwen2, дообученная на примерах рассуждений, созданных DeepSeek-R1. Она предназначена для генерации текста и диалоговых сценариев, особенно для решения задач по математике, программированию и логическим рассуждениям. Модель содержит 1,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает текст и генерирует текст; в метаданных также отмечен интерфейс для вызова инструментов. В README описано семейство DeepSeek-R1-Distill, обученное на открытых моделях, включая Qwen, однако точная базовая модель этого репозитория указана в метаданных как deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B. Репозиторий распространяется по лицензии MIT. README рекомендует следовать настройкам запуска семейства для ожидаемого качества.

NaniDAO разработала naniseek — языковую модель для генерации текста и диалогов с рассуждениями, полученную абляцией на основе DeepSeek-R1-Distill-Qwen-32B. Модель содержит 32 млрд параметров, использует архитектуру Qwen2 и принимает текст; заявленная длина контекста — до 131 072 токенов. Модель предназначена для диалоговых ответов и задач рассуждения, включая математику и программирование. По заявлению авторов, абляция снижает число отказов на допустимые запросы. Модель доступна в формате Safetensors под лицензией MIT. Карточка не приводит сравнительных оценок качества или подробностей метода абляции.

Dolphin 3.0 Qwen 2.5 1.5B — инструктивно дообученная языковая модель, созданная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на базе Qwen/Qwen2.5-1.5B. Это плотная авторегрессионная модель с 1,5 млрд параметров; она принимает текст и генерирует текст, поддерживает чат по шаблону ChatML и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель предназначена для локального применения общего назначения: диалогов и ответов на вопросы, помощи с программированием и математикой, а также агентных сценариев с вызовом функций. При обучении использовались наборы данных для кода, математики, инструкций и общения. Карточка указывает английский язык; дополнительные языки не заявлены. Модель ориентирована на настраиваемые системные инструкции и использование в собственном приложении. Компактный размер облегчает локальное развёртывание, но возможности и качество могут уступать более крупным моделям, а результаты требуют проверки. Лицензия — Apache-2.0.

Theros/L3-ColdBrew-R1-test1 — языковая модель на архитектуре Llama, созданная разработчиком Theros слиянием весов через mergekit методом DARE TIES. В слиянии использованы Theros/L3-ColdBrew-Daybreak и deepseek-ai/DeepSeek-R1-Distill-Llama-8B; итоговая модель содержит 7,5 млрд параметров и работает с контекстом до 8192 токенов. Модель предназначена для диалоговой генерации текста и может применяться для ответов на вопросы, математических задач, программирования и многошаговых рассуждений — эти возможности описаны для базовой модели DeepSeek-R1-Distill-Llama-8B. Метаданные указывают на поддержку чата, но README не приводит собственных примеров или оценок качества слияния. Репозиторий содержит веса Safetensors для использования с Transformers. Лицензия в предоставленных данных не указана.