II.9Статистика, эксперименты и причинный анализ

Ring-lite — лёгкая открытая языковая модель с архитектурой Mixture of Experts (MoE), разработанная командой inclusionAI на основе inclusionAI/Ling-lite-base-1.5. Модель предназначена для сложных задач рассуждения и генерирует текст в формате чата. В метаданных указаны 794,8 млн параметров, библиотека Transformers и контекст 32 768 токенов; README описывает вариант Ring-lite с 16,8 млрд общих и 2,75 млрд активных параметров и контекстом 128 тыс. токенов, поэтому эти характеристики могут относиться к разным версиям или представлениям модели. Модель обучалась с использованием дистилляции знаний и обучения с подкреплением. Она предлагает режимы с выводом рассуждений и без него; в README приведены результаты оценок по математике и программированию, включая AIME и LiveCodeBench. Указанные языки — китайский и английский. Модель распространяется по лицензии MIT.

Карточка модели LUTingYu/DeepSeek-R1-0528-Qwen3-8B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-0528-Qwen3-8B, поэтому описание составлено по ней. DeepSeek-R1-0528-Qwen3-8B — плотная языковая модель семейства Qwen3, разработанная DeepSeek. Это версия Qwen3 8B, дообученная на цепочках рассуждений DeepSeek-R1-0528; число параметров составляет 7,6 млрд. Модель предназначена для диалогов и генерации текста с акцентом на многошаговые рассуждения, математику, программирование и логические задачи. В метаданных указаны интерфейс для вызова инструментов и контекст до 131 072 токенов. По описанию разработчика, модель улучшает результаты Qwen3 8B на AIME 2024 и сопоставима с Qwen3-235B-thinking в этой оценке. README также отмечает пригодность для академических исследований рассуждающих моделей и разработки компактных моделей. Модель принимает и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Лицензия — MIT, допускающая широкое использование в соответствии с её условиями.

arcee-ai/DeepSeek-R1-bf16 — конверсия весов DeepSeek-R1 из исходного FP8 в BF16. DeepSeek-R1 разработана DeepSeek на базе DeepSeek-V3-Base; она использует обучение с подкреплением и этапы дообучения с учителем для развития навыков рассуждения. В репозитории указаны архитектура DeepSeek V3, 37,6 млрд параметров и контекст длиной до 163 840 токенов. Модель предназначена для генерации текста в диалоге, решения математических задач, программирования и многошаговых рассуждений. Карточка описывает саму DeepSeek-R1 как разреженную MoE-модель с 671 млрд параметров и 37 млрд активируемых параметров, однако метаданные этого репозитория классифицируют архитектуру как плотную и указывают 37,6 млрд параметров; характеристики оригинала не следует переносить на эту конверсию без оговорки. В метаданных также отмечен интерфейс вызова инструментов. В README не приведены сведения о лицензии и отдельных ограничениях для этой конверсии. Для запуска потребуется совместимая среда инференса с поддержкой BF16; пригодность модели зависит от доступной памяти и оборудования.

Карточка модели FuseAI/FuseO1-DeepSeekR1-Qwen2.5-Instruct-32B-Preview на Hugging Face совпадает с карточкой FuseAI/FuseO1-DeepSeekR1-QwQ-SkyT1-32B-Preview, поэтому описание составлено по ней. FuseO1-DeepSeekR1-QwQ-SkyT1-32B-Preview — экспериментальная объединённая языковая модель команды FuseAI. Она создана с помощью слияния трёх моделей для рассуждений: DeepSeek-R1-Distill-Qwen-32B, Qwen/QwQ-32B-Preview и NovaSky-AI/Sky-T1-32B-Preview. Модель основана на плотной архитектуре Qwen2 с 32 млрд параметров и предназначена для генерации текста и диалогов с пошаговыми рассуждениями. Основные сценарии — решение математических задач, рассуждения о программном коде и научные вопросы. В README для версии указаны результаты AIME24: 74,0 Pass@1 и 86,7 Cons@32 при описанной авторами схеме оценки. Модель принимает текст и генерирует текст; метаданные указывают контекстное окно 131 072 токена и интерфейс для вызова инструментов. Языки в карточке явно не перечислены. Модель распространяется в формате safetensors по лицензии Apache-2.0. Это предварительная версия, а опубликованные сравнительные показатели относятся к конкретным настройкам и методике оценки; они не гарантируют аналогичных результатов в других задачах или конфигурациях.

GLM-5.2 в репозитории unsloth/GLM-5.2 — производная версия флагманской языковой модели GLM-5.2 от Z.ai, подготовленная Unsloth. Это генеративная MoE-модель на базе архитектуры glm_moe_dsa с 30,4 млрд параметров, предназначенная для диалога, программирования, рассуждений и длительных задач. Метаданные указывают поддержку интерфейса вызова инструментов и английского и китайского языков. Модель поддерживает контекст до 1 048 576 токенов, что подходит для работы с большими документами и многоэтапными задачами. В README заявлены улучшенная работа с длинным контекстом, гибкие уровни усилий при программировании и ускорение спекулятивного декодирования. Весы доступны в формате safetensors; для локального запуска перечислены Transformers, vLLM, SGLang и другие фреймворки. Лицензия — MIT. Это текстовая модель: она принимает текст и генерирует текст. Заявленные возможности и результаты бенчмарков приведены разработчиками; качество может различаться в зависимости от задачи и способа запуска.

GLM-Z1-Rumination-32B-0414 — диалоговая модель глубокого рассуждения от Z.ai, созданная на основе GLM-4-32B-0414. В ней сочетаются длительное пошаговое рассуждение и использование инструментов поиска для решения открытых и сложных задач; обучение дополнительно ориентировано на математику, код, логику, исследовательский стиль письма и задачи с извлечением информации. Модель содержит 32,2 млрд параметров, использует плотную архитектуру GLM-4 и работает с контекстом до 131 072 токенов. Карточка описывает поддержку китайского и английского языков, диалога и вызова инструментов поиска. Указаны сценарии сравнительного анализа, подготовки исследовательских текстов и комплексного поиска с последующим синтезом результатов. Модель распространяется под лицензией MIT. Доступные материалы не приводят отдельных результатов оценки качества или подробностей ограничений; ответы и результаты поиска следует проверять, особенно в задачах, требующих точности и актуальности.

GPT-6 Astra Pro — вариант GPT-6 Astra от OpenAI, работающий с параметром reasoning.mode, установленным в pro. Он предназначен для получения более качественных ответов на сложные задачи. README направляет к документации OpenAI за дополнительными сведениями; данных об архитектуре, размере, модальностях, языках, контексте и лицензии в доступной карточке нет.

Olmo-Hybrid-Think-SFT-7B — языковая модель Allen Institute for AI (Ai2) семейства OLMo Hybrid. Это плотная авторегрессионная модель с гибридной RNN-архитектурой, содержащая 6,3 млрд параметров и принимающая текстовые запросы для генерации текста и диалоговых ответов. Модель дообучена методом supervised fine-tuning на Dolci-Think-SFT-7B с примерами по математике, программированию, диалогу и общим знаниям; карточка указывает английский язык. Контекст — до 32 768 токенов. Модель предназначена для диалогового использования и задач рассуждения, включая математику и программирование. Ai2 сообщает о повышенной эффективности предобучения и улучшенной скорости и экономии памяти при работе с длинным контекстом; результаты отдельных бенчмарков приведены в карточке. Доступен интерфейс для вызова инструментов, однако сам по себе он не гарантирует корректность ответов или выполнения действий. Вес репозитория опубликован в формате safetensors, для работы указана библиотека Transformers версии 5.3.0 или выше. Лицензия — Apache 2.0; модель предназначена для исследований и обучения согласно рекомендациям Ai2 по ответственному использованию. Ответы могут содержать фактические ошибки и смещения, а без дополнительной фильтрации модель может генерировать вредный или чувствительный контент.

OpenThinker-7B — языковая модель, разработанная командой OpenThoughts и дообученная на Qwen/Qwen2.5-7B-Instruct с использованием набора OpenThoughts-114k. Она предназначена для генерации текста в диалогах и решения задач, требующих рассуждений, в том числе математических задач, научных вопросов и задач по программированию. Данные OpenThoughts-114k получены методом дистилляции DeepSeek-R1. Модель имеет плотную архитектуру Qwen2, содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. В карточке приведены результаты оценивания по математике, научным вопросам и программированию; в отдельных тестах модель превосходит Bespoke-Stratos-7B, но уступает DeepSeek-R1-Distill-Qwen-7B. Доступна под лицензией Apache 2.0.

DavidAU создал Qwen2.5-QwQ-35B-Eureka-Cubed — плотную языковую модель для генерации текста и диалогов с акцентом на рассуждения. Она объединяет QwQ-32B с компонентами DeepSeek-R1-Distill-Qwen-32B и TinyR1-32B-Preview методом автора «Cubed»: в README заявлены четыре дополнительных слоя и прирост примерно на 2 млрд параметров. Метаданные указывают архитектуру Qwen2 и 33,9 млрд параметров; модель рассчитана на контекст до 131 072 токенов и распространяется в формате safetensors для использования напрямую или конвертации в другие форматы. Модель предназначена для решения задач, требующих пошагового рассуждения, включая математику и программирование, а также для написания развернутых, творческих и научных текстов. README рекомендует шаблон ChatML без системного промпта и приводит настройки генерации; указанный там дополнительный промпт необязателен. Автор сообщает о более коротких цепочках рассуждений на некоторых задачах и улучшении детализации и креативности ответов, но не приводит независимых оценок. Лицензия в предоставленных данных не указана.

Rnj-1.5-Instruct — диалоговая языковая модель Essential AI, дообученная на основе EssentialAI/rnj-1. Она содержит 8,3 млрд параметров и использует плотную архитектуру семейства Gemma 3 Text с чередованием блоков локального и глобального внимания. Окно контекста расширено до 163 840 токенов; модель рассчитана на диалоги, программирование и работу с длинными текстами, включая кодовые репозитории и научные материалы. Модель предназначена для генерации и анализа кода, понимания контекста проекта, ответов на вопросы по длинным документам и использования инструментов в диалоговом интерфейсе. В README отмечены результаты на оценках длинного контекста и SWE-Bench, но они не гарантируют аналогичного качества в конкретных задачах. Модель оптимизирована для понимания длинного контекста, а не для его продолжительной генерации: при очень длинных ответах иногда появляются бессмысленные токены. Распространяется по лицензии Apache 2.0.

Tess-4-9B — мультимодальная модель с 9,65 млрд параметров, созданная Мигелем Тиссера на базе Qwen/Qwen3.5-9B-Base. Это плотная архитектура Qwen3.5 для генерации текста по текстовым и визуальным входам; веса доступны в формате BF16 Safetensors и лицензированы по Apache 2.0. Модель предназначена для агентного программирования, анализа больших кодовых баз и документов, сложных задач по математике и естественным наукам, отладки и технических рассуждений. Она дообучена на 64K-токенных агентных трассах и поддерживает вызов инструментов, чат и обработку изображений. В карточке приведены результаты тестов, в том числе 88% на GSM8K и 62% на GPQA Diamond при лимите генерации 24K токенов; отдельные сложные примеры выигрывали от увеличения лимита до 48K. Для корректной работы следует сохранять встроенный шаблон чата Qwen3.5 и разрешать большой бюджет генерации на трудных задачах. Полные веса BF16 занимают около 19,3 ГБ; совместимость требует актуальной версии Transformers с поддержкой Qwen3.5. Упомянутые в README сборки GGUF содержат только текстовую модель и не поддерживают унаследованный путь обработки изображений.

Dolphin 2.9.3 Yi 1.5 34B 32k — разговорная языковая модель, созданная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations. Это дообученная на основе 01-ai/Yi-1.5-34B-32k плотная модель семейства Llama с 33,9 млрд параметров; она использует шаблон ChatML и формат PyTorch. Контекст базовой модели составляет 32 768 токенов, а дообучение проводилось с длиной последовательности 8 192 токена. Модель предназначена для диалогов, следования инструкциям, написания и анализа кода, решения математических задач, вызова функций и начальных агентных сценариев. В карточке перечислены наборы данных для диалогов, программирования, математики и работы с инструментами. Модель описана разработчиками как uncensored и склонная выполнять запросы без защитных ограничений, поэтому её ответы могут включать небезопасный или неэтичный контент. Лицензия Apache 2.0 разрешает коммерческое использование; разработчики рекомендуют самостоятельно добавить слой выравнивания перед предоставлением модели пользователям.

Карточка модели FuseAI/FuseO1-DeepSeekR1-QwQ-32B-Preview на Hugging Face совпадает с карточкой FuseAI/FuseO1-DeepSeekR1-QwQ-SkyT1-32B-Preview, поэтому описание составлено по ней. FuseO1-DeepSeekR1-QwQ-SkyT1-32B-Preview — экспериментальная объединённая языковая модель команды FuseAI. Она создана с помощью слияния трёх моделей для рассуждений: DeepSeek-R1-Distill-Qwen-32B, Qwen/QwQ-32B-Preview и NovaSky-AI/Sky-T1-32B-Preview. Модель основана на плотной архитектуре Qwen2 с 32 млрд параметров и предназначена для генерации текста и диалогов с пошаговыми рассуждениями. Основные сценарии — решение математических задач, рассуждения о программном коде и научные вопросы. В README для версии указаны результаты AIME24: 74,0 Pass@1 и 86,7 Cons@32 при описанной авторами схеме оценки. Модель принимает текст и генерирует текст; метаданные указывают контекстное окно 131 072 токена и интерфейс для вызова инструментов. Языки в карточке явно не перечислены. Модель распространяется в формате safetensors по лицензии Apache-2.0. Это предварительная версия, а опубликованные сравнительные показатели относятся к конкретным настройкам и методике оценки; они не гарантируют аналогичных результатов в других задачах или конфигурациях.

GLM-4.5-GGUF — это GGUF-версия фундаментальной языковой модели GLM-4.5, разработанной Z.ai. Модель предназначена для создания интеллектуальных агентов и объединяет возможности рассуждения, программирования и взаимодействия с инструментами. Она поддерживает генерацию текста и рассчитана прежде всего на англоязычные и китайскоязычные сценарии. GLM-4.5 — гибридная reasoning-модель с двумя режимами работы: thinking mode для сложных рассуждений и использования инструментов и non-thinking mode для быстрых ответов. В модели 355 млрд общих параметров, из которых активно используется 32 млрд; архитектура построена с применением mixture-of-experts. Контекстное окно, дополнительные модальности и точные характеристики GGUF-квантизации в README не указаны. К сильным сторонам относятся сочетание рассуждений, программирования и агентных функций, а также возможность коммерческого использования и доработки. Ограничения включают высокие требования к вычислительным ресурсам исходной модели и отсутствие в предоставленных данных подробностей о конкретной GGUF-квантизации и совместимости с оборудованием. Модель распространяется под лицензией MIT.

INTELLECT-3.1 — языковая модель Prime Intellect для генерации текста и рассуждений, продолженное обучение INTELLECT-3 с подкреплением на задачах математики, программирования, разработки программного обеспечения и работы с агентами. README описывает её как Mixture-of-Experts с 106 млрд параметров, из которых 12 млрд активируются; метаданные указывают 8,5 млрд параметров и архитектуру GLM-4 MoE на базе zai-org/GLM-4.5-Air-Base. Эти сведения о размере расходятся между источниками. Модель рассчитана на диалоговые сценарии, решение задач и агентные рабочие процессы. Указанная длина контекста — 131 072 токена. В карточке заявлена поддержка английского языка; метаданные отмечают возможность чата. README описывает запуск через vLLM на двух H200 и настройку интерфейса вызова инструментов, но это не подтверждает отдельный pipeline для вызова инструментов. Лицензия модели в метаданных — MIT.

K2-Chat — диалоговая языковая модель на 65 млрд параметров, разработанная MBZUAI и LLM360. Это дообученная версия K2-65B на наборах Infinity-Instruct, JiuZhang3.0-Corpus-SFT и glaive-function-calling-v2-sharegpt; модель построена на архитектуре Llama и распространяется в формате PyTorch. Контекст составляет 8192 токена. Модель предназначена для диалогов, ответов на вопросы, задач по математике и программированию, а также вызова функций по заданным схемам. В README заявлены улучшения в безопасности и результаты бенчмарков, но они не гарантируют качество на конкретных задачах. Примеры использования ориентированы на английский язык; модель описана как отвечающая только на английском. Для вызова функций требуется соблюдать специальный формат промпта; совместная работа режимов обычного диалога и вызова функций отдельно не проверена. Лицензия — Apache-2.0.

QuantFactory/Llama-3-Hercules-5.0-8B-GGUF — квантованная версия языковой модели Llama-3-Hercules-5.0-8B, созданная с использованием llama.cpp. Базовая модель основана на Llama-3-8B и дообучена Locutusque на датасете Locutusque/hercules-v5.0. Модель предназначена для генерации текста и использует формат запросов OpenAI ChatML с поддержкой вызовов функций. Модель ориентирована на выполнение сложных многошаговых инструкций, диалоговое взаимодействие, работу с научной и технической тематикой, включая биологию, химию, физику, математику, медицину и компьютерные науки. Она может применяться для специализированных чат-ботов, образовательных ассистентов, генерации кода и сценариев, где требуется выполнение функций через вызовы инструментов. В README не указаны поддерживаемые языки и максимальная длина контекста. Ключевые ограничения включают риск галлюцинаций и фактических ошибок, особенно в специализированных областях, наличие токсичных или вредных примеров в обучающих данных, возможное воспроизведение предубеждений и риск злоупотребления функциональностью вызова функций. Условия распространения обозначены лицензией llama3.

MiniMax-M2.7-NVFP4 — это текстовая большая языковая модель MiniMax M2.7, разработанная MiniMaxAI и опубликованная NVIDIA в варианте с квантизацией NVFP4. Модель предназначена для сложной разработки программного обеспечения, агентских сценариев с использованием инструментов, длительных многоэтапных задач, поиска и исправления ошибок в продуктивных системах, а также создания и редактирования офисных документов, исследовательской и аналитической автоматизации. Поддерживаются текстовые входы и выходы, включая длинные системные инструкции и контекст до 204 800 токенов. Модель построена на архитектуре Transformer со Sparse Mixture-of-Experts: содержит около 230 млрд параметров, из которых 10 млрд активируются при обработке, 62 слоя, размер скрытого представления 3072, 256 локальных экспертов и 8 активируемых экспертов на токен. Доступны интеграции с SGLang и vLLM; целевая аппаратная платформа — GPU NVIDIA с микроархитектурой Blackwell, предпочтительная операционная система — Linux. Сильными сторонами являются большой контекст, специализация на программировании, агентских рабочих процессах и многошаговом рассуждении, однако модель принимает только текст, сведения о языковом охвате и обучающих данных ограничены, а качество и безопасность требуют дополнительного тестирования под конкретные сценарии. Модель предназначена только для исследований и разработок. Использование регулируется NVIDIA Software and Model Evaluation License; дополнительно указана Non-Commercial MiniMax License.

Qwen3.6-35B-A3B-MTP-GGUF — GGUF-версия модели Qwen3.6-35B-A3B, разработанной командой Alibaba Qwen. Это разреженная мультимодальная модель Mixture-of-Experts с 35 млрд общих параметров и примерно 3 млрд активных параметров на токен. Модель принимает текст, изображения и видео, поддерживает английский язык и имеет контекст до 262 тысяч токенов; заявлено расширение до 1 млн токенов с помощью YaRN. Модель предназначена прежде всего для агентного программирования, работы с кодом, фронтенд-задач, анализа репозиториев, мультимодальных сценариев и интеграции с инструментами. Она поддерживает вызов функций, структурированный вывод и режимы рассуждения. Архитектура сочетает линейное внимание Gated DeltaNet со стандартными слоями gated attention. Формат MTP добавляет несколько выходных голов для предсказания будущих токенов и ускорения спекулятивного декодирования без отдельной draft-модели. К сильным сторонам относятся большой контекст, мультимодальность, низкое число активных параметров относительно общего размера и возможность локального запуска в различных вариантах квантования; заявленное потребление для некоторых конфигураций составляет около 21–24 ГБ VRAM. Ограничения включают значительные требования к памяти для BF16/F16 и снижение качества при более агрессивном квантовании. Доступны файлы GGUF размером примерно от 13,2 до 71,1 ГБ и отдельные мультимодальные проекторы. Модель распространяется по лицензии Apache 2.0.

Solstice-AI/Qwen3.8-27B-Uncensored-mlx-6Bit — 6-битная MLX-квантизация модели orcarouter/Qwen3.8-27B-Uncensored, основанной на архитектуре Qwen 3.8 с 27,5 млрд параметров. Релиз подготовлен Solstice-AI и оптимизирован для запуска на Apple Silicon через Anvil Runtime с ускорением Metal или библиотеку mlx-lm. Модель ориентирована на английский и китайский языки. Модель предназначена для рассуждений, математических задач, агентского использования инструментов, анализа кода, аудита систем, исследования уязвимостей и red teaming. Заявлена поддержка контекстного окна до 262 144 токенов, что подходит для работы с большими репозиториями и многофайловым кодом. Используется аффинная 6-битная квантизация MLX с group_size 64; размер файлов модели составляет около 21,85 ГБ, а рекомендуемый объём unified memory — от 32 ГБ. Производительность зависит от устройства и заявлена примерно на уровне 42–62 токенов в секунду на совместимых Mac. К сильным сторонам относятся нативная оптимизация под Apple Silicon, сниженное потребление памяти по сравнению с BF16-версией, большой контекст и ориентация на технические и исследовательские сценарии. Ограничения связаны с необходимостью совместимого оборудования Apple Silicon и достаточного объёма unified memory, а также с тем, что заявленные показатели производительности зависят от конкретной конфигурации и длины контекста. Модель описана как abliterated и uncensored, то есть механизмы отказа были удалены на уровне весов; это может повысить гибкость для red teaming, но требует самостоятельного контроля безопасного применения. Лицензия — Apache 2.0.

SmallThinker-21BA3B-Instruct — языковая модель с архитектурой Mixture-of-Experts, разработанная совместно IPADS и School of AI при Shanghai Jiao Tong University и компанией Zenergize AI. Она предназначена для локального запуска на устройствах с ограниченными ресурсами, чтобы генерировать ответы без обращения к облаку. Модель содержит 21 млрд параметров, из которых активируются 3 млрд; использует 52 слоя и поддерживает контекст длиной до 16 384 токенов. Репозиторий содержит веса в формате safetensors, а карточка указывает библиотеку Transformers и возможности чата и интерфейса вызова инструментов. Модель обучена преимущественно на английском языке и подходит для диалога, ответов на вопросы, рассуждений и генерации кода. В отчёте разработчиков приведены результаты тестирования на академических и программных бенчмарках; скорость и расход памяти на CPU показаны для версии с квантованием Q4_0, тогда как в этом репозитории указаны веса safetensors. Среди ограничений — возможные фактические ошибки, предвзятость и устаревшие сведения; точность ответов необходимо проверять. Лицензия — Apache-2.0.

Cerium-Qwen3-R1-Dev — компактная плотная языковая модель, разработанная prithivMLmods на базе Qwen/Qwen3-0.6B и дообученная на наборах для программирования, математики и научных рассуждений, включая данные rStar-Coder и примеры трасс рассуждений DeepSeek R1. Модель содержит около 508 млн параметров, использует архитектуру Qwen3ForCausalLM и формат весов safetensors; длина контекста — до 40 960 токенов. Модель предназначена для генерации кода и объяснений, решения математических и научных задач, технического диалога и создания структурированных материалов. Она может формировать LaTeX, Markdown, JSON, CSV и YAML. Карточка заявляет поддержку нескольких языков программирования и ориентирует модель на разработчиков, преподавателей и исследователей, а метаданные указывают английский язык. Модель рассчитана на работу при ограниченных вычислительных ресурсах. Среди ограничений карточка отмечает слабую пригодность для творческого письма и обычного общения, а также то, что контекст может быть недостаточен для анализа нескольких документов или целой кодовой базы. Лицензия — Apache-2.0.

DeepSeek-Coder-V2-Instruct — открытая языковая модель для работы с кодом, разработанная DeepSeek AI. Представленная версия является AWQ-квантизированным вариантом instruct-модели DeepSeek-Coder-V2, предназначенной для диалогового взаимодействия и выполнения инструкций в задачах программирования, математического рассуждения и обработки текста. Модель построена на архитектуре Mixture-of-Experts (MoE) семейства DeepSeekMoE и имеет 236 млрд общих параметров, из которых при обработке активируется около 21 млрд. Контекст поддерживает до 128 тысяч токенов. DeepSeek-Coder-V2 расширяет поддержку языков программирования с 86 до 338 и сохраняет возможности для общих языковых задач. Данная версия квантизирована в формате int4/AWQ; для неё указано значение perplexity 5,325 на квантизированной оценке. Сильные стороны модели — специализация на генерации, анализе и сопровождении кода, математическом рассуждении, большой контекст и сниженные требования к памяти благодаря квантизации. Ограничения включают возможную потерю качества из-за квантизации, высокие вычислительные требования крупной MoE-модели и отсутствие в представленном README подробных сведений о языках естественного общения, точном формате запуска и системных требованиях. Модель распространяется по лицензии DeepSeek License; в метаданных указано имя лицензии deepseek-license.

DeepSeek-R1-Distill-Qwen-7B-GGUF — это квантизированная в формате GGUF версия модели DeepSeek-R1-Distill-Qwen-7B, разработанной deepseek-ai. Квантизацию выполнил bartowski на основе llama.cpp, релиз b4514. Модель предназначена для генерации текста, прежде всего для задач рассуждения и сценариев, где требуется пошаговый анализ. Модель поддерживает контекст длиной до 128 тысяч токенов и ориентирована на использование дистиллированных возможностей reasoning-модели DeepSeek-R1. Формат GGUF и совместимость с llama.cpp упрощают локальный запуск, однако квантизация может влиять на качество и точность по сравнению с исходной моделью. Языки и точный вариант квантизации в README не указаны. Как и другие генеративные модели, она может выдавать неточные, вредные или вводящие в заблуждение ответы. Лицензия в предоставленных данных не указана.

DeepSeek-R1-Distill-Qwen-7b-IDKKKK — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом Linear из DeepSeek-R1-Distill-Qwen-7B, Qwen2.5-Coder-7B-Instruct и Qwen2.5-Math-7B-Instruct. Она предназначена для диалоговой генерации текста, решения математических задач и помощи с программным кодом. Модель построена на плотной архитектуре Qwen2 с 7,1 млрд параметров, работает через Transformers и принимает контекст длиной до 131 072 токенов. Объединение сочетает возможности исходных моделей для рассуждений, математики и кода; в метаданных также отмечен интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors. Языковая поддержка и лицензия в предоставленных данных не описаны.

GLM-5.3-Flash-TQ3_4S — текстовая GGUF-квантизация модели zai-org/GLM-5.3-Flash, подготовленная автором репозитория для запуска через llama.cpp с поддержкой TurboQuant. Используется архитектура Mixture of Experts: активны 8 из 288 маршрутизируемых экспертов на токен. Формат TQ3_4S имеет номинальную точность около 4 бит на вес; маршрутизируемые эксперты хранятся в 2-битном формате, внимание и общие эксперты — в 6-битном, а нормализации и смещения — в FP32. Веса занимают около 101,6 ГиБ и распределены по четырём GGUF-файлам. Модель предназначена для диалоговой генерации текста, программирования и вызова инструментов. Сохранённая MTP (NextN) голова позволяет использовать спекулятивное декодирование без отдельной черновой модели. README приводит результаты тестов на NVIDIA GB10/DGX Spark и рекомендует контекст 40 960 токенов в поставляемой конфигурации; заявлена проверенная работа до 512 тыс. токенов на этом оборудовании. Поддерживаются английский и китайский языки. Эта сборка не содержит vision tower, поэтому не принимает изображения, хотя базовая модель поддерживает обработку изображений. Для работы необходима публичная ветка TurboQuant runtime: основной llama.cpp не поддерживает тип тензора TQ3_4S. README отмечает необходимость пользовательского шаблона чата. Квантизация сокращает размер весов, но её влияние на качество может зависеть от задачи и оборудования; приведённые оценки получены на одной конфигурации и не гарантируют аналогичных результатов в других условиях. Лицензия — MIT.

Hercules-2.0-Mistral-7B — языковая модель на архитектуре Mistral, разработанная Locutusque и дообученная на базе Mistralai/Mistral-7B-v0.1. Она предназначена для выполнения инструкций, диалогов и вызова функций в научных и технических темах, включая биологию, химию, физику, математику, медицину и информатику. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В карточке заявлены возможности генерации кода и вызова функций. Модель подходит для специализированных чат-ботов, учебных помощников, ответов на технические вопросы и генерации кода. Она распространяется в формате safetensors по лицензии Apache-2.0. Возможны фактические ошибки и галлюцинации, в том числе в специализированных областях; обучающие данные могут содержать токсичные примеры и предубеждения.

Locutusque/NeuralHyperion-2.0-Mistral-7B — языковая модель на архитектуре Mistral, дообученная разработчиком Locutusque на Hyperion-v2.0 и дополнительно с помощью DPO на предпочтениях Capybara. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для ответов на сложные вопросы, диалогов и рассуждений в научно-технических областях, генерации кода, математических задач и понимания медицинских текстов. В README заявлена поддержка английского языка; метаданные также отмечают задачи, связанные с кодом и химией. Качество ответов может быть непоследовательным из-за различий в форматировании и качестве разметки обучающих данных; результаты оценки в карточке пока не приведены. Модель распространяется по лицензии Apache-2.0.

NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 — опубликованная NVIDIA полноточная версия разговорной языковой модели, представленная на Hugging Face в виде GGUF BF16. Она предназначена прежде всего для разработчиков, которым нужны исходные веса для дообучения, адаптации к предметной области, исследований и подготовки собственных квантованных вариантов. Модель использует гибридную архитектуру Mixture-of-Experts с чередующимися слоями Mamba-2 и MoE, отдельными слоями Attention и механизмом Multi-Token Prediction; всего в ней 30 млрд параметров, из которых активно используются 3 млрд. Модель подходит для диалога, рассуждений, следования инструкциям, задач с кодом и работы в агентных системах. Контекст достигает 1 млн токенов на подходящем оборудовании; на одной H100 в README приведена проверка до 256 тыс. токенов из-за ограничений памяти. Основные языки — английский и языки программирования; также поддерживаются испанский, французский, немецкий, итальянский, японский и китайский. README указывает, что модель готова к коммерческому применению, однако метаданные Hugging Face обозначают лицензию как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.