II.9Статистика, эксперименты и причинный анализ

Agnuxo/Agente-GPT-Qwen-2.5-7B_GGUF_16bit — локальная чат-модель на базе семейства Qwen 2.5, представленная Francisco Angulo de Lafuente в экосистеме P2PCLAW. По README, модель рассчитана на работу в роли автономного агента и может запускаться локально через Ollama; в карточке указаны 7 млрд параметров и архитектура Qwen2. Формат весов — GGUF F16, лицензия — Apache-2.0. Модель предназначена для генерации текста и кода, декомпозиции задач и взаимодействия с агентными системами через MCP и A2A. README описывает навыки для Python, JavaScript, TypeScript, Rust, Go и C++, а также научных вычислений и машинного обучения. При запросе на подготовку научной статьи README предписывает перенаправлять задачу в P2PCLAW; это ограничивает её самостоятельное использование для генерации таких текстов. Языки карточки — английский и испанский; сведения о контекстном окне и независимых оценках качества не приведены.

AReaL-boba-2-32B — языковая модель для генерации текста и диалогов, разработанная командой RL Lab исследовательской организации Ant Research в рамках проекта AReaL. Она построена на архитектуре Qwen3 и содержит 29,7 млрд параметров. Модель обучена с помощью обучения с подкреплением в асинхронной системе AReaL-boba²; базовая модель — Qwen3, точный идентификатор исходного репозитория в предоставленных данных не указан. Модель предназначена для задач рассуждения, прежде всего математических задач и программирования, а также для диалогового и агентного применения. Метаданные указывают поддержку интерфейса вызова инструментов. Контекстное окно составляет 40 960 токенов; модель работает с текстом и опубликована в формате PyTorch для Transformers. В README приведены результаты семейства AReaL-boba² на бенчмарках программирования, однако отдельные результаты для версии 32B не указаны. Модель распространяется по лицензии Apache-2.0.

DeepSeek-Coder-V2-Base — базовая языковая модель для кода, разработанная DeepSeek. Это продолженное предобучение промежуточного чекпойнта DeepSeek-V2 на дополнительных 6 триллионах токенов; модель использует архитектуру Mixture-of-Experts семейства DeepSeek-V2. Для данного репозитория в метаданных указаны 18,1 млрд параметров, а контекст составляет до 163 840 токенов. Модель предназначена для генерации и продолжения кода, вставки кода в заданный фрагмент, а также для задач программирования и математических рассуждений. README заявляет поддержку 338 языков программирования и сохранение возможностей для общих языковых задач; её можно запускать через Transformers и vLLM. Это базовая, а не instruct-версия, поэтому README не описывает её как специально настроенную для следования пользовательским инструкциям. В README указана лицензия, но её тип в доступных данных не раскрыт; перед использованием следует проверить условия лицензирования в репозитории. Для запуска полной BF16-версии README приводит требование 8 GPU с 80 ГБ памяти каждая.

K2 Think V2 — открытая модель с 70,5 млрд параметров для рассуждений, разработанная командой IFM и основанная на дообученной модели K2-V2-Instruct. Это плотная авторегрессионная модель семейства Llama для генерации текста и диалогов, с акцентом на сложные математические задачи и сильными результатами на конкурсных бенчмарках. Модель также показывает результаты на задачах программирования. В README указана длина контекста 131 072 токена с расширением вдвое через YaRN; метаданные каталога указывают нативный контекст 262 144 токена. Шаблон чата унаследован от K2-V2-Instruct, по умолчанию задан высокий уровень рассуждений; режимы low и medium доступны, но не проверялись. Карточка сообщает о хороших агрегированных результатах оценки безопасности, однако отмечает потенциал улучшения в обработке чувствительных персональных данных. Лицензия Apache-2.0; условия использования запрещают незаконное и вредоносное применение и предоставляют модель без гарантий.

Llama-3-Hercules-5.0-8B — дообученная Locutusque языковая модель на базе Llama 3 8B. Она предназначена для выполнения инструкций, диалогов и вызова функций в научных и технических областях. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов; репозиторий содержит веса в формате safetensors. Модель подходит для научно-технических чат-ботов, образовательных помощников, пошаговых объяснений и генерации кода с использованием вызовов функций. В карточке заявлена работа с биологией, химией, физикой, математикой, медициной и информатикой. Сведения о поддерживаемых естественных языках не приведены. Модель может выдавать токсичный контент, галлюцинировать и допускать фактические ошибки, в том числе в специализированных темах; ответы и вызовы функций требуют проверки. Лицензия указана как llama3.

MiMo-7B-RL-0530 — языковая модель Xiaomi из семейства MiMo, дообученная с подкреплением для математических и программных рассуждений. Это плотная авторегрессионная модель на 7 млрд параметров с контекстом до 65 536 токенов; репозиторий содержит веса в формате safetensors, а метаданные указывают совместимость с Transformers и диалоговый режим с интерфейсом вызова инструментов. Модель предназначена для решения математических задач, генерации и анализа кода, а также диалоговых сценариев, где требуется пошаговое рассуждение. В README описано обучение с подкреплением на задачах математики и программирования с проверкой ответов по правилам. Заявлены результаты, сопоставимые с OpenAI o1-mini, однако они относятся к оценкам разработчиков и конкретным бенчмаркам. Модель принимает и генерирует текст. Метаданные не перечисляют языки, поэтому описание не приписывает ей конкретный набор языков. Лицензия — MIT. Практическое качество может зависеть от формулировки запроса и задачи; результаты рассуждений и сгенерированный код требуют проверки.

Agnuxo/Qwen2-7B-v2-Instruct_CODE_Python-Spanish_English_GGUF_16bit — локальная чат-модель для генерации кода, опубликованная Франсиско Ангуло де Лафуэнте. Она основана на плотной архитектуре Qwen2 и содержит 7 млрд параметров; в репозитории представлены веса в формате GGUF F16. Модель предназначена для генерации и помощи с кодом на Python, а README также заявляет навыки работы с JavaScript, TypeScript, Rust, Go и C++, а также научными вычислениями и ML-библиотеками. Модель принимает текстовые запросы и выдаёт текст, подходит для локального запуска через Ollama и для диалогового взаимодействия. В метаданных указаны английский и испанский языки; длина контекста в предоставленных данных не приведена. Лицензия — Apache-2.0. README содержит заявления об интеграции с агентскими инструментами и экосистемой P2PCLAW, но не даёт независимых оценок качества генерации кода.

Sky-T1-32B-Preview-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Sky-T1-32B-Preview, разработанной NovaSky-AI и подготовленной пользователем bartowski. Модель предназначена для генерации текста, включая задачи, связанные с программированием и математическим рассуждением; при обучении использовались датасеты codeparrot/apps, BAAI/TACO и AI-MO/NuminaMath-CoT. Указан английский язык. Модель имеет размер 32B параметров и распространяется в форматах GGUF, совместимых с llama.cpp и приложением LM Studio. Доступны варианты от F16 до низкобитных квантизаций Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством ответов, размером файла и требованиями к памяти. Для квантования использовался llama.cpp release b4456 и метод imatrix. Рекомендуемые варианты включают Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; версии с более сильным сжатием экономят память, но могут заметно снижать качество. К сильным сторонам относятся широкий выбор уровней квантизации и возможность локального запуска на совместимом оборудовании. Ограничения — отсутствие в README данных о размере контекста, мультимодальности, точных архитектурных особенностях, результатах тестирования и поддерживаемых языках помимо английского. Лицензия в представленном описании не указана.

DeepCode-7B-Aurora-v2 — объединённая модель генерации текста, созданная ALBADDAWI с помощью LazyMergekit на основе DeepSeekMath-7B-Instruct, DeepSeekMath-7B-Base и DeepSeekMath-7B-RL. Это диалоговая модель на архитектуре Llama с плотной структурой и 6,5 млрд параметров; она предназначена для генерации ответов и текста, в том числе в математических сценариях. Контекст модели составляет 4096 токенов. Модель подходит для диалогового помощника, решения математических задач и генерации кода. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

Dhanishtha-2.0-preview-0825 — мультиязычная причинно-следственная языковая модель HelpingAI, дообученная на базе Dhanishtha-2.0-preview-0725. Модель семейства Qwen3 с 14 млрд параметров принимает текст и генерирует текст; контекстное окно — 40 960 токенов. Она предназначена для диалогов и задач рассуждения с несколькими этапами, включая пересмотр и уточнение ответа в ходе генерации. Карточка описывает поддержку более 39 языков; среди языков, перечисленных в метаданных, есть русский, английский, хинди и китайский. Модель подходит для решения логических задач, учебных объяснений, исследовательского анализа и творческого письма. README обозначает эту версию как предварительную и прототипную. Возможны многословные ответы, более длительная генерация, циклические рассуждения и разница в качестве между языками; выводы модели требуют проверки. Лицензия — Apache 2.0.

EXAONE-Deep-2.4B — плотная языковая модель с 2,4 млрд параметров, разработанная LG AI Research для рассуждений и генерации текста. Это дообученная версия EXAONE-3.5-2.4B-Instruct; архитектура использует 30 слоёв и групповое внимание GQA с 32 головами запросов и 8 головами ключей и значений. Модель поддерживает контекст до 32 768 токенов и рассчитана на английский и корейский языки. Модель предназначена для диалогов и задач рассуждения, в частности решения математических задач и генерации кода. По заявлению разработчика, версия 2.4B показывает результаты выше других моделей сравнимого размера на ряде тестов. Она работает с библиотекой Transformers и доступна для запуска в нескольких средах инференса. Модель может создавать фактически неверные, противоречивые, предвзятые или неуместные ответы и не располагает актуальными сведениями. Лицензия указана как other; конкретные условия следует проверить в репозитории модели.

Fireball-MathCoder-Llama-3.1-8B-v1dpo — текстовая авторегрессионная модель семейства Llama, разработанная EpistemeAI и дообученная на EpistemeAI/MathCoder-Llama3.1-8B-cot. Модель предназначена для генерации ответов на математические задачи и запросы, связанные с программированием. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В карточке указано дообучение с использованием Unsloth и TRL; доступен формат PyTorch. Основной указанный язык — английский. Лицензия — Apache-2.0.

Fwizzer-R1-3B-RU-v2 — русско- и англоязычная генеративная языковая модель команды Fwizzer, дообученная на базе Ministral-3B для пошагового рассуждения. Она предназначена для математических задач, алгоритмического и обычного программирования, а также сложных текстовых вопросов. По карточке, модель формирует цепочку рассуждений и затем выдаёт ответ; заявлены адаптация языка ответа к языку запроса и возможность локального запуска, в том числе с квантованными GGUF-весами. Модель использует плотную архитектуру семейства Mistral 3; в карточке указано около 3 млрд параметров. Доступны файлы safetensors и GGUF, а метаданные подтверждают поддержку чата и кода. Лицензия — Apache-2.0. Заявленные показатели и требования к ресурсам приведены автором карточки и здесь независимо не проверялись.

InfiR-1B-Instruct — англоязычная инструктивная языковая модель от InfiX, дообученная на базе meta-llama/Llama-3.2-1B. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров; метаданные указывают контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста, в частности для математических рассуждений, написания кода и ответов с пошаговым рассуждением. Обучение включает продолженное предобучение на коде и веб-текстах, а также настройку инструкциями на смесях данных, среди которых Infinity-Instruct, Orca-AgentInstruct-1M и NuminaMath. В README приведены результаты на MMLU, GSM8K и MATH, но модель уступает крупным моделям на сложных задачах рассуждения. Оценивание сосредоточено на английских тестах, а многоязычная устойчивость не проверена; знания ограничены примерно серединой 2023 года. Лицензия — Llama 3.2.

unsloth/JanusCoder-8B-GGUF — GGUF-квантизированная версия JanusCoder-8B, подготовленная Unsloth на основе модели internlm/JanusCoder-8B. JanusCoder разработан командой InternLM как открытая фундаментальная модель для единого визуально-программного интерфейса в задачах работы с кодом. Данная версия является текстовой моделью на базе Qwen3-8B и предназначена для генерации кода по текстовым инструкциям, включая построение визуализаций данных, интерактивных веб-интерфейсов, программных анимаций и других программно создаваемых визуальных материалов. Модель обучалась на мультимодальном корпусе JANUSCODE-800K, однако для JanusCoder-8B в README указано текстовое исполнение; отдельные визуально-языковые варианты представлены в семействе JanusCoderV. Среди сильных сторон — универсальность в задачах кодового интеллекта и визуально-программной генерации, а также результаты на PandasPlotBench, ArtifactsBench и DTVBench, где модель превосходит ряд сопоставимых открытых моделей. Размер модели — 8B параметров; конкретные языки программирования и размер контекстного окна не указаны. Для запуска через llama.cpp требуется режим --jinja, а для Transformers рекомендуется версия не ниже 4.55.0. Модель распространяется по лицензии Apache-2.0.

Master-Yi-9B — разговорная языковая модель семейства Llama, разработанная автором репозитория qnguyen3. Модель с 8,6 млрд параметров обучена методом ORPO на ответах, созданных из собранных людьми исходных вопросов и ответов нескольких высокопроизводительных открытых LLM. В репозитории представлены веса в формате safetensors; модель создана в мае 2024 года. Модель предназначена для генерации ответов в диалоге и особенно ориентирована на рассуждения при решении задач по программированию и математике. В README приведены результаты нескольких бенчмарков, включая GSM8K, MMLU и TruthfulQA. Базовое окно контекста составляет 4096 токенов. Модель принимает текстовые запросы и генерирует текст. README не подтверждает поддержку заявленной там отдельной версии Vision; для Master-Yi-9B указана только текстовая генерация. Известное ограничение — контекст до 4096 токенов; бенчмарковые оценки не гарантируют точность на конкретных задачах. Лицензия — Apache-2.0.

Open-MOPD-SmolLM3-3B-Final — англоязычная плотная языковая модель BytedTsinghua-SIA для генерации текста, дообученная методом онлайн-дистилляции с несколькими учителями. Модель основана на BytedTsinghua-SIA/Open-MOPD-SmolLM3-3B-MixSFT и имеет около 3,1 млрд параметров; архитектура — SmolLM3ForCausalLM. Репозиторий содержит веса safetensors, а карточка указывает лицензию Apache-2.0. Модель предназначена для решения математических задач, генерации кода и выполнения инструкций в диалоговом формате. Обучение использовало отдельных RL-учителей для этих трёх областей и маршрутизацию запросов к соответствующему учителю. Указанная длина контекста — 65 536 токенов; в оценивании использовалось до 32 768 токенов. В карточке приведены результаты на наборах AIME24/25, LiveCodeBench v5/v6, IFEval и IFBench_test. Модель поддерживает английский язык. Бенчмарк-карточка отмечает, что одиночная генерация с жадным декодированием не сопоставима с опубликованными результатами: для их воспроизведения требуется описанный протокол семплирования. Приведённые оценки отражают тестовые наборы и протокол карточки, а не гарантируют качество на других задачах.

Sky-T1-32B-Flash — языковая модель рассуждений на 32 млрд параметров, разработанная командой NovaSky из Sky Computing Lab при UC Berkeley. Это плотная архитектура Qwen2, доступная в формате Safetensors и рассчитанная на генерацию текста и диалог. Модель оптимизирована для задач математики и программирования: обучение на 10 тыс. предпочтительных пар должно сокращать длину ответов, сохраняя точность относительно Sky-T1-32B-Preview. В оценках авторов точность на Math500 совпала с Preview, а средняя длина генерации снизилась на 33%; заявленное сокращение длины достигает 57%. Поддерживается контекст до 32 768 токенов. Модель создана на основе слияния NovaSky-AI/Sky-T1-32B-Preview и Qwen/Qwen2.5-32B-Instruct и обучена с оптимизацией предпочтений SimPO. Лицензия — Apache-2.0. Результаты сравнительных оценок приведены авторами; фактическое качество зависит от запроса и сценария, а специализация на математике и коде не означает гарантии корректности ответов.

ZAYA1-base — базовая языковая модель Zyphra с архитектурой MoE (смесь экспертов), предназначенная для генерации текста и диалоговых сценариев. По README в модели активны 800 млн из 8,3 млрд параметров; метаданные каталога указывают 7,7 млрд параметров. Модель использует плотные слои и собственные механизмы Compressed Convolutional Attention, маршрутизатор экспертов ZAYA1 и масштабирование остаточных связей. Она обучалась с нуля на аппаратном, программном и сетевом стеке AMD. Модель рассчитана на продолжение текста, диалог и задачи рассуждения, особенно математические и STEM-задачи. В README заявлены конкурентные результаты относительно базовых моделей сопоставимого масштаба, однако приведённых численных бенчмарков нет. Контекстное окно составляет 32 768 токенов; используется токенизатор Gemma 3. Для запуска требуется специальная ветка библиотеки Transformers от Zyphra. Модель распространяется по лицензии Apache 2.0.

Qwen3-30B-A3B-Thinking-2507-FP8 — языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-версия причинной языковой модели с обучением на этапах pretraining и post-training, предназначенная для генерации текста и решения сложных задач, требующих рассуждений. Модель ориентирована на логическое и математическое рассуждение, научные и академические задачи, программирование, следование инструкциям, использование инструментов и работу с длинным контекстом. Она поддерживает только thinking mode, поэтому рассчитана прежде всего на сложные запросы с увеличенной длиной рассуждений. README не указывает точный список поддерживаемых языков и не заявляет о мультимодальных возможностях, поэтому модель следует считать текстовой. Архитектура — Mixture-of-Experts с 30,5 млрд параметров всего и 3,3 млрд активируемых параметров; модель содержит 48 слоёв, 128 экспертов, из которых активируются 8, и использует Grouped-Query Attention с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена. К сильным сторонам относятся улучшенные результаты в рассуждениях, математике, кодировании, агентных сценариях и обработке длинного контекста. Ограничения включают режим работы только с рассуждениями, высокие требования к вычислительным ресурсам и необходимость актуальной версии Transformers; конкретные аппаратные требования в README не приведены. Модель распространяется по лицензии Apache 2.0.

NVIDIA-Nemotron-Labs-Teacher-STEM — большая языковая модель NVIDIA из семейства Nemotron 3 Ultra, предназначенная для сложных рассуждений и использования как самостоятельная модель и учитель для генерации синтетических данных и дистилляции. Она дообучена на основе постобученной Nemotron 3 Ultra Student с дополнительной настройкой на рассуждения и обучением с подкреплением; в рецепте также применяется дистилляция с участием нескольких учителей. Модель использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2 и Mixture-of-Experts, отдельными слоями внимания и Multi-Token Prediction. Она содержит 550 млрд параметров, из которых 55 млрд активны, и поддерживает генерацию текста с контекстом до 262 144 токенов по метаданным Hugging Face. Предназначена для математики, программирования, естественных наук, гуманитарных и общественных дисциплин, ответов на сложные вопросы и работы с инструментами, включая поиск и выполнение кода. Поддерживаются английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, арабский, китайский, иврит и бразильский вариант португальского. Карточка сообщает о возможности коммерческого и некоммерческого использования; лицензия в метаданных указана как other, поэтому конкретные лицензионные условия следует сверить с репозиторием. Для запуска требуются значительные вычислительные ресурсы и совместимое оборудование.

Gemini 2.5 Flash — мультимодальная модель Google, предназначенная для рассуждений, программирования, математики и научных задач. Карточка описывает её как универсальную рабочую модель со встроенным режимом «thinking» для более сложных ответов. Модель предназначена для диалоговых сценариев и решения сложных задач, в том числе связанных с кодом и наукой. В предоставленных данных не указаны размер, архитектура, поддерживаемые языки, длина контекста или условия лицензии.

Nemotron-Cascade-2-30B-A3B GGUF — текстовая генеративная модель NVIDIA, созданная на основе Nemotron-3-Nano-30B-A3B-Base и опубликованная в формате GGUF. Файлы модели сгенерированы с помощью llama.cpp. Модель относится к архитектуре Mixture-of-Experts: общий размер составляет 30 млрд параметров, из которых при обработке активируются 3 млрд. В карточке указан английский язык и лицензия NVIDIA Open Model License. Модель предназначена для общего текстового общения, сложного рассуждения, математических задач, программирования и агентских сценариев. Она поддерживает два режима работы: thinking для развёрнутого рассуждения и instruct для обычного выполнения инструкций без режима рассуждения. Заявлены особенно сильные результаты в математике и алгоритмическом программировании: модель получила золотые результаты на IMO 2025 и IOI 2025, а также высокие показатели на AIME, HMMT, LiveCodeBench и других тестах. К сильным сторонам относятся сочетание крупной ёмкости модели с относительно малым числом активных параметров, развитые способности к рассуждению, решению математических задач, написанию кода и использованию в агентских системах. Ограничения включают отсутствие в предоставленной карточке сведений о длине контекста, точных характеристиках квантования GGUF, поддерживаемых дополнительных языках и требованиях к аппаратным ресурсам. Использование регулируется NVIDIA Open Model License; условия лицензии следует проверить по ссылке, указанной в карточке.

Карточка модели EmperoAI/NVIDIA-Nemotron-Labs-Teacher-STEM на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-Labs-Teacher-STEM, поэтому описание составлено по ней. NVIDIA-Nemotron-Labs-Teacher-STEM — большая языковая модель NVIDIA из семейства Nemotron 3 Ultra, предназначенная для сложных рассуждений и использования как самостоятельная модель и учитель для генерации синтетических данных и дистилляции. Она дообучена на основе постобученной Nemotron 3 Ultra Student с дополнительной настройкой на рассуждения и обучением с подкреплением; в рецепте также применяется дистилляция с участием нескольких учителей. Модель использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2 и Mixture-of-Experts, отдельными слоями внимания и Multi-Token Prediction. Она содержит 550 млрд параметров, из которых 55 млрд активны, и поддерживает генерацию текста с контекстом до 262 144 токенов по метаданным Hugging Face. Предназначена для математики, программирования, естественных наук, гуманитарных и общественных дисциплин, ответов на сложные вопросы и работы с инструментами, включая поиск и выполнение кода. Поддерживаются английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, арабский, китайский, иврит и бразильский вариант португальского. Карточка сообщает о возможности коммерческого и некоммерческого использования; лицензия в метаданных указана как other, поэтому конкретные лицензионные условия следует сверить с репозиторием. Для запуска требуются значительные вычислительные ресурсы и совместимое оборудование.

Это версия Qwen3-30B-A3B-Thinking-2507, опубликованная Unsloth на базе Qwen/Qwen3-30B-A3B-Thinking-2507. Модель представляет собой причинную языковую модель с архитектурой MoE и предназначена для генерации текста в диалоговом режиме. Она работает только в режиме рассуждения и рассчитана на сложные задачи: логические выводы, математику, науку, программирование, следование инструкциям и использование инструментов. В модели около 30,5 млрд параметров, из которых активируются 3,3 млрд; указанный в метаданных размер составляет 2,6 млрд параметров. Она поддерживает контекст до 262 144 токенов. Карточка сообщает об улучшениях в рассуждении, работе с длинным контекстом и общих диалоговых возможностях. Лицензия — Apache-2.0.

Qwen3-Next-80B-A3B-Thinking-GGUF — GGUF-версия модели Qwen3-Next-80B-A3B-Thinking, разработанной командой Qwen и подготовленной Unsloth. Это авторегрессионная языковая модель для генерации текста, ориентированная прежде всего на сложные задачи рассуждения, включая математические задачи, анализ знаний, программирование и агентные сценарии. Модель поддерживает только режим thinking, поэтому при генерации может формировать длинную цепочку рассуждений. Модель использует гибридную архитектуру Gated DeltaNet и Gated Attention, высокоразреженную Mixture-of-Experts с 80 млрд параметров всего и примерно 3 млрд активируемых на токен, а также Multi-Token Prediction. Архитектура включает 48 слоёв и 512 экспертов, из которых активируются 10; нативный контекст составляет 262 144 токена и может быть расширен до 1 010 000 токенов. Ключевые сильные стороны — высокая параметрическая эффективность, сниженные вычисления на токен, ускорение инференса на длинном контексте и хорошие результаты на сложных задачах рассуждения. Ограничения включают обязательный режим thinking, потенциально длинные ответы и отсутствие в предоставленных данных сведений о поддерживаемых языках, точных параметрах GGUF-квантизации и требованиях к оборудованию. Лицензия — Apache 2.0.

unsloth/cogito-v2-preview-llama-405B-GGUF — GGUF-версия большой языковой модели Cogito v2 preview 405B, разработанной DeepCogito и подготовленной Unsloth. Это инструкционно дообученная генеративная модель для коммерческого использования, ориентированная на программирование, задачи STEM, выполнение инструкций, общую полезность и вызов инструментов. Модель является гибридной reasoning-моделью: она может отвечать напрямую в стандартном режиме или выполнять дополнительное саморефлексивное рассуждение перед ответом. Для обучения использовалась стратегия Iterated Distillation and Amplification (IDA). Модель обучена более чем на 30 языках и поддерживает контекст длиной до 128 тысяч токенов. В README заявлены повышенные возможности в многоязычных задачах, программировании и tool calling по сравнению с сопоставимыми по размеру моделями, а также превосходство на ряде отраслевых бенчмарков, однако конкретные числовые результаты для GGUF-версии не приведены. Вариант GGUF предназначен для использования с совместимыми инструментами локального запуска, включая llama.cpp; для корректного применения шаблона чата в llama.cpp рекомендуется параметр --jinja. Для включения расширенного рассуждения требуется поддержка параметра enable_thinking=True в chat template либо специальная системная инструкция и предварительная вставка тега <think>. К ограничениям относятся очень большой размер модели и, как следствие, высокие требования к памяти и вычислительным ресурсам; точные требования зависят от используемой квантизации, но её параметры в README не указаны. Модель распространяется по лицензии llama3.1, обозначенной как открытая лицензия с разрешением коммерческого использования.

casperhansen/deepseek-r1-distill-llama-70b-awq — это 4-битная AWQ-квантизованная версия DeepSeek-R1-Distill-Llama-70B, опубликованная пользователем casperhansen на Hugging Face. Исходную модель разработала DeepSeek-AI: она создана на базе Llama-3.3-70B-Instruct и дообучена на примерах рассуждений, сгенерированных DeepSeek-R1. Модель предназначена для текстовой генерации, диалогов и решения задач, особенно связанных с математикой, программированием и многошаговым рассуждением. Архитектура — LlamaForCausalLM с примерно 71 млрд параметров, 80 слоями, 64 attention heads и 8 key-value heads. Репозиторий содержит веса в формате Safetensors с 4-битной AWQ-квантизацией; конфигурация указывает контекст до 131072 токенов и вычисления в bfloat16. Это текстовая, а не мультимодальная модель. Квантизация уменьшает требования к памяти и делает локальное развертывание практичнее, но может приводить к некоторой потере качества по сравнению с исходными весами; для полноценного запуска всё равно требуются значительные вычислительные ресурсы. Исходная DeepSeek-R1-Distill-Llama-70B показывает сильные результаты в математике, кодировании и задачах рассуждения, однако официальные показатели относятся к исходной, а не обязательно к данной AWQ-версии. Репозиторий производной модели указывает лицензию MIT. При этом исходная модель базируется на Llama-3.3-70B-Instruct, для которой также действуют условия лицензии Llama 3.3.

NVIDIA DeepSeek-V4-Pro-0813-NVFP4 — квантизированная версия модели DeepSeek-V4-Pro-0813, разработанной DeepSeek AI и оптимизированной NVIDIA с помощью Model Optimizer. Это авторегрессионная текстовая языковая модель на архитектуре Transformer с Mixture-of-Experts, гибридным вниманием Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Общий объём модели составляет 1,65 трлн параметров, из которых при генерации активируется 49 млрд. NVIDIA отдельно указывает, что модель не принадлежит ей и не была ею разработана как исходная модель. Модель предназначена для сложного рассуждения, агентных AI-приложений, использования инструментов и решения задач в математике, программной инженерии и корпоративных AI-ассистентах. Она принимает и генерирует текст, поддерживает многошаговые диалоги, системные инструкции, структурированный JSON-вывод, function calling и выдачу рассуждений при включении соответствующего режима. Максимальная длина контекста заявлена на уровне 1 млн токенов; предусмотрен собственный конвейер кодирования encoding_dsv4 с уровнями усилий рассуждения low, high и max. В составе исходного чекпойнта также заявлен модуль спекулятивного декодирования DSpark. Модель распространяется по лицензии MIT и допускает коммерческое и некоммерческое использование. Для запуска указаны SGLang и vLLM, Linux и GPU NVIDIA Blackwell B200; практическая производительность ориентирована на ускорение NVIDIA. Ограничения включают требовательность к совместимой аппаратной инфраструктуре, неизвестные сведения об обучающих данных и необходимость дополнительного тестирования на прикладных данных для проверки качества, безопасности и соответствия требованиям конкретного сценария.

Grok 4.5 — модель SpaceXAI, заявленная как модель с передовыми возможностями в программировании, интеллектуальной работе и задачах STEM. Она предназначена для помощи в написании и разборе кода, работе со знаниями и решении научных, технических, инженерных и математических задач. Доступные сведения не подтверждают конкретные архитектуру, размер, модальности, языки или длину контекста. Лицензия не указана.