II.4Отладка, тестирование и качество ПО

Code Llama 70B Instruct — генеративная языковая модель Meta для написания и понимания кода, настроенная следовать инструкциям и вести диалог. Репозиторий содержит вариант на 70 млрд параметров в форматах PyTorch и Safetensors; архитектура — авторегрессионный трансформер. Модель принимает и генерирует текст, включая запросы на естественном языке и код. Модель предназначена для генерации кода, его дополнения и ответов на вопросы по программированию. Она рассчитана на английский язык и распространённые языки программирования; карточка отмечает поддержку диалогового режима и работы с инструкциями. Настройка проводилась с контекстом до 16 тысяч токенов; этот вариант не поддерживает контекст до 100 тысяч токенов. Модель разработана Meta и выпущена по пользовательской лицензии Meta Llama 2; условия использования определяются этой лицензией. Качество ответов и корректность сгенерированного кода могут различаться, поэтому результаты следует проверять.

Dolphin 3.0 Llama 3.1 8B — универсальная диалоговая модель, созданная Эриком Хартфордом, Беном Гиттером, BlouseJury и Cognitive Computations. Это дообученная версия Meta Llama 3.1 8B с плотной архитектурой LlamaForCausalLM и 7,5 млрд параметров. Модель рассчитана на локальное использование и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов в чате, помощи с программированием и математикой, работы с агентными сценариями и вызовом функций, а также для общих задач. Использует шаблон диалога ChatML; поведение и тон ответа можно настраивать системным промптом. В карточке перечислены обучающие наборы для кода, математики, инструкций и диалогов. Указан английский язык. Модель распространяется в формате Safetensors по лицензии Llama 3.1. Карточка позиционирует её как управляемую владельцем локальную модель; качество и безопасность ответов зависят от системного промпта и применения. В README приведены результаты оценок, но полноценное описание методики оценки отсутствует.

GLM-5-GGUF — это квантованное представление языковой модели GLM-5, подготовленное Unsloth на основе модели zai-org/GLM-5. Модель предназначена для генерации текста, решения сложных задач рассуждения, программирования, системной инженерии и выполнения долгих агентских сценариев, включая работу с инструментами и веб-навигацию. GLM-5 имеет MoE-архитектуру с 744 млрд параметров, из которых 40 млрд активны при обработке запроса, и использует DeepSeek Sparse Attention (DSA) для снижения стоимости развертывания при сохранении возможностей работы с длинным контекстом. Для обучения применялись 28,5 трлн токенов и асинхронная инфраструктура reinforcement learning slime. В карточке указаны английский и китайский языки, библиотека Transformers и задача text-generation. GGUF-версия ориентирована на локальный запуск; Unsloth заявляет улучшенную точность своих квантований, однако конкретный размер контекста, варианты квантования и требования к оборудованию в README не указаны. Сильные стороны модели — рассуждение, кодирование, агентские задачи и работа с инструментами; приведённые бенчмарки показывают высокие результаты, в частности на SWE-bench Verified, BrowseComp и τ²-Bench. Ограничения включают очень большой общий размер модели и потенциально высокие требования к ресурсам даже при квантовании, а также отсутствие в README подробностей о производительности конкретного GGUF-варианта. Модель распространяется по лицензии MIT.

Карточка модели Merlinoz11/Hy3-Apex-GGUF на Hugging Face совпадает с карточкой tencent/Hy3, поэтому описание составлено по ней. Hy3 — разговорная модель с открытыми весами, разработанная командой Tencent Hy. Это MoE-модель для генерации текста; карточка Hugging Face описывает вариант репозитория как модель на 16,6 млрд параметров, а README — семейство Hy3 как модель на 295 млрд параметров с 21 млрд активных параметров и 3,8 млрд параметров MTP-слоя. Модель предназначена для рассуждений, работы с длинным контекстом, вызова инструментов и задач продуктивности, включая программирование, офисную работу, финансовое моделирование, фронтенд-разработку и создание игр. В метаданных указан контекст 262 144 токена, поддержка чата и формат Safetensors. Разработчик сообщает об улучшениях надёжности вызова инструментов, следования форматам, удержания контекста и снижения галлюцинаций по внутренним оценкам. README рекомендует серверный запуск через vLLM или SGLang и отмечает значительные требования к памяти: для полного варианта предлагается конфигурация из восьми GPU H20-3e или устройств с сопоставимой памятью. Лицензия — Apache-2.0. Языки в источниках не установлены.

Jupiter-G-8B — дообученная мультимодальная модель Locai Labs на базе Google Gemma 4 E4B Instruct. Это плотная модель условной генерации, опубликованная в формате safetensors и распространяемая по лицензии Apache-2.0. Она предназначена для следования инструкциям, генерации кода и агентных сценариев, включая работу с терминалом; дообучение также направлено на сохранение исходных знаний и навыков рассуждения. В карточке сообщается об улучшениях относительно базовой Gemma 4 E4B Instruct на IFEval, IFBench и LiveCodeBench, а также о снижении показателя вредных ответов AgentHarm. Для сохранения исходных возможностей применялась техника Forget-Me-Not с синтетическими ответами базовой модели; обучение включало данные UltraChat, терминальные траектории Nemotron и задачи программирования. Метаданные указывают поддержку задачи any-to-any, а описание базовой модели — обработку текста, изображений и аудио. Число параметров и длина контекста для самой Jupiter-G-8B в предоставленных данных не указаны.

Llama-3.1-Nemotron-Ultra-253B-v1 — крупная языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct. Это reasoning- и chat-модель для разработчиков AI-агентов, чат-ботов, RAG-систем, инструментального вызова и других приложений на основе генерации текста, а также для стандартных задач следования инструкциям, математики, программирования и рассуждений. Модель обучалась с ноября 2024 года по апрель 2025 года и выпущена 7 апреля 2025 года. Модель использует плотную decoder-only Transformer-архитектуру с 253 млрд параметров, модифицированную с помощью Neural Architecture Search. В отдельных блоках применяются пропуск attention, переменное соотношение расширения FFN и объединение последовательных FFN-слоёв. Для восстановления качества использовались knowledge distillation на 65 млрд токенов и continual pretraining на 88 млрд токенов, а последующее дообучение включало supervised fine-tuning и reinforcement learning с GRPO. Поддерживается текстовый ввод и вывод с контекстом до 131 072 токенов; модель предназначена прежде всего для английского языка и языков программирования, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. К сильным сторонам относятся сочетание высокой точности с уменьшенным потреблением памяти, потенциально более высокая пропускная способность и сниженная задержка благодаря NAS и вертикальной компрессии. Модель рассчитана на работу на одном узле с 8 GPU H100, совместима с NVIDIA Hopper и Ampere, использует Transformers и ориентирована на Linux. Ограничения включают очень большой размер, высокие требования к вычислительным ресурсам и отсутствие гарантии качества для языков и сценариев, не перечисленных разработчиком. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.1 Community License Agreement; модель заявлена как пригодная для коммерческого использования.

LongCat-2.0-INT8 — 8-битная версия крупной разреженной MoE-языковой модели LongCat-2.0, разработанная командой Meituan LongCat. Модель предназначена для генерации текста, понимания кода, редактирования репозиториев, автоматизированного выполнения задач и агентских рабочих процессов. В метаданных Hugging Face указаны 42,1 млрд параметров и контекст до 262 144 токенов; README базовой модели описывает архитектурные технологии LongCat Sparse Attention, N-gram Embedding и поддержку многотокенного предсказания.

RedHatAI/Meta-Llama-3.1-70B-Instruct-quantized.w4a16 — квантованная версия Meta-Llama-3.1-70B-Instruct, разработанная Neural Magic на базе модели Meta. Это текстовая autoregressive-модель для генерации текста и ассистентского диалога, предназначенная прежде всего для коммерческого и исследовательского использования на английском языке. Возможные сценарии включают чат-ассистентов, ответы на инструкции, генерацию текста, решение математических задач и помощь в программировании. Модель имеет архитектуру Meta-Llama-3 и содержит 70 млрд параметров в исходной версии. Веса линейных операторов в трансформерных блоках квантованы в формат INT4 по схеме W4A16 с симметричной групповой квантизацией для групп по 128 параметров; для квантования применён алгоритм GPTQ. Это сокращает объём хранения и требования к памяти GPU примерно на 75% по сравнению с 16-битной версией. Модель работает с текстом на входе и выходе, а в README заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, хотя официальное назначение ограничено английским. Указанная длина контекста при развёртывании — до 8192 токенов. К сильным сторонам относятся существенное снижение требований к памяти и высокая близость качества к неквантованной модели: заявлены результаты восстановления 100% для Arena-Hard, 99,4% для OpenLLM v1, 97,4% для OpenLLM v2, 101,0% для HumanEval pass@1 и 99,2% для HumanEval+ pass@1. Ограничения включают возможную потерю точности из-за INT4-квантования, ориентацию на английский язык и отсутствие мультимодальности. Для эффективного развёртывания рекомендуется backend vLLM, включая режим OpenAI-compatible serving. Модель распространяется по лицензии Llama3.1; применяются ограничения исходной лицензии, включая запрет использования с нарушением законодательства.

Olmo 3 32B Think SFT — авторегрессионная языковая модель на архитектуре Transformer, разработанная Allen Institute for AI (Ai2). Это плотная модель с 31,7 млрд параметров, дообученная методом SFT на базе allenai/Olmo-3-1125-32B; в метаданных указан датасет allenai/Dolci-Think-SFT. Модель предназначена для диалогов и задач, где полезны пошаговые рассуждения, включая математику, программирование, следование инструкциям и ответы на общие вопросы. Модель работает с текстом, поддерживает английский язык и контекст до 65 536 токенов. Для запуска поддерживается Transformers версии 4.57.0 и выше; доступны веса в формате safetensors и интерфейс вызова инструментов. Лицензия — Apache 2.0. Модель может выдавать неверные сведения и без фильтрации генерировать вредный или чувствительный контент. Факты в ответах следует проверять; при внедрении нужно учитывать возможные смещения и риски генерации.

Phi-3-Small-8K-Instruct — компактная языковая модель Microsoft из семейства Phi-3 с плотной архитектурой и примерно 8,2 млрд параметров. Она дообучена с помощью supervised fine-tuning и direct preference optimization для следования инструкциям и диалогового взаимодействия; доступна в формате safetensors и распространяется по лицензии MIT. Модель предназначена для генерации текста в чат-системах и приложениях общего назначения, особенно в условиях ограниченных вычислительных ресурсов или требований к низкой задержке. В карточке отмечены сильные стороны в рассуждениях, математике, логике и коде. Контекст составляет до 8192 токенов; основное внимание при обучении уделено английскому языку, хотя модель помечена как многоязычная. Как и другие языковые модели, она может выдавать неверную или устаревшую информацию, предвзятые либо оскорбительные ответы. Для языков помимо английского качество может быть ниже; сгенерированный код и ответы для чувствительных областей требуют проверки. Карточка не рекомендует использовать модель в высокорисковых сценариях без дополнительных оценок и мер защиты.

Qemma-GEI — диалоговая языковая модель от Convergent Intelligence LLC: Research Division, предназначенная для следования инструкциям, пошаговых рассуждений, анализа и помощи с кодом. Это дообученная версия Qemma-redux с архитектурой Gemma-3 и Qwen-стилем внимания; карточка также сообщает о слиянии весов Gemma-3 1B и Qwen-3 0.6B, выравнивании представлений и Yarn-масштабировании RoPE. Модель содержит 1 млрд параметров, использует 26 слоёв, скрытый размер 1152 и токенизатор Gemma-3; заявленная длина контекста — 131 072 токена. Модель обучалась методом SFT на примерах следования инструкциям и пошаговых рассуждений. В метаданных указаны датасеты UltraChat 200k и MathInstruct, а среди возможностей — диалог. Лицензия — OSL-3.0. Карточка предупреждает о возможных галлюцинациях и не рекомендует полагаться на модель при принятии критически важных медицинских, юридических или финансовых решений.

Qwen2.5 — семейство текстовых генеративных моделей, разработанное командой Qwen. Репозиторий cortexso/qwen2.5 предоставляет варианты моделей общего назначения, а также специализированные версии для программирования и математики. Модели предназначены для генерации и обработки текста, включая разработку программного кода и решение математических задач, с выбором размера под доступные вычислительные ресурсы и требования к качеству. Доступны варианты общего назначения размером от 0,5 до 72 млрд параметров, а также Qwen2.5 Coder объёмом 1,5 и 7 млрд параметров и Qwen2.5 Math объёмом 1,5 и 7 млрд параметров. В README не указаны архитектура, поддерживаемые языки, контекстное окно, модальности и конкретные показатели качества, поэтому эти характеристики нельзя надёжно определить по представленным данным. Модели распространяются для работы через Jan и Cortex; конвертером указан Homebrew. Лицензия — Apache 2.0. Сильной стороной семейства является широкий диапазон размеров и наличие специализированных вариантов для кода и математики, что позволяет выбирать модель под конкретный сценарий. Ограничения и требования к аппаратным ресурсам зависят от выбранного варианта и в README подробно не описаны.

Unsloth/Qwen3-4B-Thinking-2507 — плотная причинная языковая модель семейства Qwen3, представленная как версия модели Qwen3-4B-Thinking-2507. Она предназначена для генерации текста в диалоге и решения сложных задач с рассуждениями, включая математику, логику, естественные науки, программирование и академические вопросы. Модель также поддерживает следование инструкциям и использование инструментов. Модель содержит 3,7 млрд параметров и принимает контекст до 262 144 токенов. Она работает только в режиме рассуждений; карточка сообщает об улучшениях качества рассуждений и общих возможностей, но не приводит независимой оценки качества именно этой публикации Unsloth. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Qwen3.6-27B-FP8 — открытая FP8-квантизированная версия модели Qwen3.6-27B, разработанная командой Qwen. Это каузальная языковая модель с vision encoder, представленная в формате Hugging Face Transformers и совместимая с Transformers, vLLM, SGLang и KTransformers. Модель предназначена прежде всего для агентного программирования, работы с frontend-задачами, анализа репозиториев и итеративной разработки с сохранением контекста рассуждений из предыдущих сообщений. Модель содержит 27 млрд параметров, 64 слоя и использует гибридную архитектуру с блоками Gated DeltaNet, Gated Attention и FFN. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Поддерживаются текстовые и визуальные входные данные благодаря vision encoder, однако перечень языков в README не указан. Квантизация выполнена методом fine-grained FP8 с размером блока 128; заявлено, что её показатели почти идентичны оригинальной модели. Сильными сторонами модели являются улучшенная работа с кодом, репозиториями и агентными сценариями, большой контекст и сниженные требования к памяти по сравнению с полноразмерными весами. Ограничения включают отсутствие в предоставленных данных подробностей о поддерживаемых языках, требованиях к оборудованию и результатах по общим задачам, а также возможные потери точности, типичные для квантизации, несмотря на заявленную близость к оригиналу. Модель распространяется по лицензии Apache-2.0.

batiai/Qwen3.6-27B-GGUF — это квантизированная GGUF-версия плотной мультимодальной модели Qwen3.6-27B, разработанной Alibaba и подготовленной BatiAI для локального запуска, прежде всего на компьютерах Mac с Apple Silicon. Модель распространяется через llama.cpp и Ollama и ориентирована на автономные сценарии, не требующие отправки данных во внешние облачные сервисы. Модель предназначена для генерации текста, программирования, репозиторного и агентного кодинга, многошагового рассуждения и работы с инструментами. Заявлены поддержка tool calling, thinking mode, нативного контекста до 262 000 токенов и расширения до 1 010 000 токенов с помощью YaRN. Доступны языки английский, корейский, японский и китайский. Варианты с vision projector поддерживают обработку изображений в мультимодальном режиме. Преимущество модели — сочетание 27 млрд параметров, плотной архитектуры и нескольких уровней квантизации с imatrix-калибровкой, что позволяет выбрать баланс качества, скорости и требований к памяти: от вариантов для систем с 16 ГБ RAM до почти потерьной Q6_K для конфигураций от 32 ГБ. Плотная архитектура заявлена как особенно подходящая для сложных длинных цепочек агентного кодинга, однако она обычно медленнее MoE-моделей с меньшим числом активных параметров. Для режима thinking ответы могут содержать блок рассуждений, а для получения чистого JSON при вызове инструментов требуется отключить размышление. Модель распространяется по лицензии Apache 2.0. Приведённые в README сравнительные заявления основаны преимущественно на позиционировании upstream; конкретные итоговые значения ряда бенчмарков для этой версии не указаны, поэтому их следует интерпретировать с осторожностью.

karlsencoin/Qwen3.6-27B-GGUF — это GGUF-сборка модели Qwen3.6-27B, основанная на базовой модели Qwen/Qwen3.6-27B. Модель разработана командой Qwen; данный репозиторий распространяет её в формате GGUF с использованием подхода Unsloth Dynamic 2.0 GGUF. Это причинная языковая модель с визуальным энкодером, предназначенная для генерации текста, программирования, агентных сценариев, работы с репозиториями, фронтенд-разработки, рассуждений и вызова инструментов. Поддержка изображений указана в карточке как часть мультимодальной архитектуры, однако конкретные форматы и языки не перечислены. Модель содержит около 27 млрд параметров, 64 слоя и скрытое измерение 5120. Архитектура сочетает Gated DeltaNet и Gated Attention, использует multi-step training и поддерживает контекст до 262 144 токенов с возможностью расширения до 1 010 000 токенов. Среди заявленных сильных сторон — улучшенная работа с агентным кодированием, сохранение контекста рассуждений между сообщениями и более надёжный разбор вложенных объектов при вызове инструментов. Для запуска упоминаются Transformers, vLLM, SGLang и KTransformers; высокая вычислительная нагрузка и требования к памяти являются ограничениями модели, особенно при использовании длинного контекста. Указанная лицензия — Apache 2.0. README не содержит подробностей о конкретном уровне квантования данной GGUF-сборки, результатах бенчмарков или точном наборе поддерживаемых языков.

Qwen3.6-35B-A3B-FP8 — открытая FP8-квантизированная версия модели Qwen3.6-35B-A3B, разработанная командой Qwen. Модель представлена в формате Hugging Face Transformers и предназначена прежде всего для программирования с использованием агентных сценариев, включая работу с фронтенд-проектами, репозиториями и итеративной разработкой. Также она поддерживает мультимодальные задачи с текстом и изображениями благодаря архитектуре с vision encoder. Это каузальная языковая модель с архитектурой Mixture of Experts: 35 млрд параметров всего, из них 3 млрд активируются при обработке запроса. Она содержит 40 слоёв, 256 экспертов, из которых используются 8 маршрутизируемых и 1 общий, а также механизмы Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. README не указывает полный перечень поддерживаемых языков. К сильным сторонам относятся улучшенная работа с кодом, репозиториями и сохранением контекста рассуждений из предыдущих сообщений. Квантизация fine-grained FP8 с размером блока 128 заявлена как обеспечивающая метрики, почти идентичные исходной модели, при совместимости с Transformers, vLLM, SGLang и KTransformers. Ограничения производительности, требования к оборудованию и подробные сведения о языках в README не приведены. Модель распространяется по лицензии Apache-2.0.

continuum-ai/qwen3-coder-30b-a3b-compacted-19b-256k — компактная версия Qwen3-Coder-30B-A3B-Instruct, разработанная на основе модели Qwen. При создании удалено 35% MoE-экспертов с использованием калибровочного ранжирования по частоте активаций. Модель предназначена прежде всего для генерации, дополнения и инфиллинга кода, агентного программирования и вызова функций, включая локальный и периферийный запуск на потребительских GPU, компьютерах Apple и мобильных устройствах. Это разреженная Mixture-of-Experts-модель с заявленным классом 30B и компактированной эффективной конфигурацией 19B. Сохраняет контекст до 256K токенов и работает с текстом; в README заявлена поддержка английского, китайского и широкого набора языков программирования, включая Python, JavaScript, TypeScript, C, C++, Java, Kotlin, Go, Rust, Swift, PHP, Ruby, SQL, HTML и CSS. Доступны квантованные форматы GGUF Q4_K_M, Q5_K_M и Q8_0 для llama.cpp, Ollama и LM Studio, а также варианты для локального запуска через Transformers и MLX. На HumanEval модель получила 88,4 балла против 92,1 у исходной версии, а на HumanEval+ — 85,4 против 88,4. К сильным сторонам относятся сочетание кодировочных возможностей 30B-класса с меньшими требованиями к памяти, длинный контекст и варианты для локального выполнения. Ограничения включают неполное восстановление качества исходной модели, отсутствие отдельного измерения обобщения на языки, отличные от Python, отсутствие тестирования генерации длиннее 32K токенов и пока не измеренные результаты на MBPP+ и LiveCodeBench. Калибровка выполнялась на 300 примерах Python. Модель распространяется по лицензии Apache-2.0. В README также заявлена криптографически проверяемая цепочка происхождения через ForgeAlloy, однако доверие к аттестации обозначено как self-attested.

Sentie 1.0-3B UltraCode — языковая модель компании SentieAI для генерации текста, программирования, рассуждений и агентных сценариев. Модель основана на Nanbeige/Nanbeige-4.1-3B и дообучена на 18 354 многоходовых образцах с рассуждениями и использованием инструментов, включая синтетические русско- и англоязычные данные, задачи разработки, DevOps, терминального управления и корпоративного программирования. Модель содержит около 3 миллиардов параметров и распространяется в формате GGUF с вариантами квантования от F16 до 3-битных IQ3_M и Q3_K_M. Заявлена поддержка русского и английского языков. Основные сценарии включают написание и анализ кода, многошаговое решение задач, работу в роли программного агента и tool-calling. Наличие нескольких вариантов квантования позволяет запускать модель локально, в том числе на устройствах с ограниченной памятью, однако более сильное квантование может снижать точность. К сильным сторонам относятся компактный размер, ориентация на код и агентные задачи, а также широкий выбор квантованных сборок для разных требований к памяти и скорости. Ограничения — относительно небольшой размер модели по сравнению с крупными LLM, потенциальные потери качества при низком уровне квантования и отсутствие в README сведений о размере контекстного окна и мультимодальных возможностях. Модель распространяется по лицензии Apache-2.0.

Tri-21B — авторская причинная языковая модель компании Trillion Labs для диалогов и генерации текста. Она предназначена для повседневного общения, ответов на вопросы, рассуждений, математических задач и генерации кода. По данным карточки, модель использует декодерный Transformer с RoPE, SwiGLU, RMSNorm и GQA, содержит 20,73 млрд параметров и имеет контекстное окно 8 192 токена. Модель обучалась на 2,3 трлн токенов; разработчики сообщают об улучшениях в обучении с подкреплением и настройке данных для рассуждений. Tri-21B оптимизирована для английского, корейского и японского языков. В README приведены результаты тестов на знания, рассуждения, программирование, математику и следование инструкциям. Эти результаты заявлены разработчиком и зависят от условий оценки. Для других языков качество может снижаться; знания ограничены данными примерно до февраля 2025 года. Модель распространяется под лицензией с обозначением «other»; конкретные условия следует проверять на странице репозитория Hugging Face.

Карточка модели CollectionStudio/Trinity-Large-Thinking на Hugging Face совпадает с карточкой arcee-ai/Trinity-Large-Thinking, поэтому описание составлено по ней. Trinity-Large-Thinking — ориентированная на рассуждения и агентные сценарии модель семейства Trinity-Large от Arcee AI. Это дообученная на базе arcee-ai/Trinity-Large-Base разреженная MoE-модель для генерации текста; по README, в семействе около 398 млрд параметров и примерно 13 млрд активных параметров на токен, используется 256 экспертов, включая одного общего. Метаданные указывают 8,7 млрд параметров, поэтому точный размер данного чекпойнта в источниках расходится. Модель предназначена для многошагового планирования, вызова инструментов, диалогов и задач, требующих развёрнутых рассуждений. Она формирует трассы рассуждений в специальных блоках, которые следует сохранять в контексте при многоходовом взаимодействии и циклах агента. Поддерживает 262 144 токена контекста и языки en, es, fr, de, it, pt, ru, ar, hi, ko и zh. Метаданные указывают лицензию other; конкретные условия использования следует сверять с карточкой модели.

Apriel-1.5-15b-Thinker — мультимодальная модель рассуждений из серии Apriel SLM, разработанная ServiceNow. Модель с плотной архитектурой на 15 млрд параметров принимает текст и изображения и генерирует ответы в формате диалога; её назначение включает рассуждения по тексту и изображениям, помощь с кодом, ответы на вопросы и вызов инструментов. Для обработки изображений используется архитектура LlavaForConditionalGeneration. Модель прошла продолжительное предварительное обучение на текстовых и визуальных данных, а последующее обучение с учителем выполнялось только на тексте; RL и дообучение на изображениях не применялись. Она рассчитана на общие инструкции, многошаговые задачи и агентные сценарии. Разработчики отмечают высокие результаты на ряде тестов, а также повышенный расход токенов и более долгие ответы из-за развёрнутого рассуждения по умолчанию. Лицензия — MIT. Разработчики предупреждают, что ответы могут содержать фактические ошибки и предвзятость, качество ниже на языках, представленных в обучении слабее, а в медицинских, юридических, финансовых и других критически важных сценариях требуется проверка человеком.

Dagger-Qwen3.6-27B-GGUF-MTP — модель от peculiar-ragdoll, основанная на ThinkingCap-Qwen3.6-27B от bottlecapai, который, в свою очередь, является вариантом Qwen3.6-27B. Это GGUF-сборка для запуска через llama.cpp и совместимые среды, ориентированная на рассуждения, агентное программирование, генерацию кода и длительные многошаговые диалоги. В карточке также заявлена поддержка сценариев image-text-to-text и тег vision, однако подробности мультимодальной реализации не указаны. Модель имеет плотную архитектуру размером 27B параметров, заявленный нативный контекст — 262 144 токена, поддерживаемые языки — английский и китайский. Отличительная особенность этой версии — сохранённая MTP-голова nextn для speculative decoding: при поддержке со стороны runtime она может ускорять генерацию без изменения точности. Для vLLM и SGLang заявлено ускорение примерно в 1,5–2 раза, тогда как в llama.cpp требуются свежая сборка и специальный режим; актуальные релизные версии могут не поддерживать MTP. Сильные стороны модели — компактные ответы без лишнего текста, высокая эффективность рассуждений, способность сохранять связность в длинных агентных сессиях и эффективное использование контекстного окна. Главные ограничения — высокие требования к оперативной памяти из-за плотной архитектуры и дорогого KV-кэша; полный контекст 262 144 токена требует около 31,1 ГБ при 8-битном KV-кэше или 38,6 ГБ при 16-битном. Реальное ускорение MTP зависит от среды запуска. Лицензия — Apache-2.0.

blackbook-lm/DeepSeek-R1-Distill-Qwen-7B-heretic — разговорная языковая модель на архитектуре Qwen2, основанная на DeepSeek-R1-Distill-Qwen-7B. По метаданным, она содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов и рассуждений, в том числе для задач по математике и программированию. Это вариант с abliteration: в карточке приведено сравнение с исходной моделью, где число отказов на тесте из 100 запросов снизилось с 49 до 5, а KL-дивергенция составила 0,0071. Тегами также отмечено снижение ограничений на ответы. Эти результаты относятся к приведённой в карточке оценке и не гарантируют такого поведения на других запросах. Веса опубликованы в формате safetensors, библиотека для работы — Transformers, лицензия — MIT. Карточка не указывает отдельные языковые характеристики этого варианта; базовая модель семейства DeepSeek-R1 предназначена для рассуждений, математики и кода.

unsloth/DeepSeek-R1-Distill-Qwen-7B-unsloth-bnb-4bit — 4-битная динамически квантованная версия DeepSeek-R1-Distill-Qwen-7B. Базовую модель разработала команда DeepSeek, а квантованную сборку подготовила Unsloth. Модель основана на Qwen и относится к плотным большим языковым моделям примерно на 7 млрд параметров. Модель предназначена для текстовых задач, требующих рассуждений, включая решение математических задач, программирование и другие сценарии генерации и анализа текста. DeepSeek-R1 был обучен с применением крупномасштабного reinforcement learning, а серия Distill создана на основе дистилляции возможностей рассуждения DeepSeek-R1 в модели Llama и Qwen. В метаданных указана поддержка английского языка; сведения о размере контекста и дополнительных модальностях не приведены. Ключевая особенность этой версии — Dynamic 4-bit quantization от Unsloth: отдельные параметры выборочно не квантуются, что должно обеспечивать более высокую точность по сравнению со стандартной 4-битной квантизацией при меньших требованиях к памяти. Ограничениями являются возможные потери качества из-за квантования и отсутствие в предоставленных данных подробных результатов именно для этой сборки, характеристик контекстного окна и описания многоязычной поддержки. Лицензия — Apache-2.0.

DeepSeek-V4-Flash-0731 — официальный выпуск модели DeepSeek-V4-Flash от DeepSeek, заменивший предварительную версию. Это плотная языковая модель с архитектурой DeepseekV4ForCausalLM и 10,7 млрд параметров; репозиторий содержит веса Safetensors в формате FP8. Модель предназначена для генерации текста, диалогов и агентных сценариев, в том числе программирования и работы с терминалом. В README заявлено улучшение агентных возможностей и приведены результаты сравнительных тестов, однако приведённая таблица частичная. Контекст модели составляет до 1 048 576 токенов. Выпуск включает модуль спекулятивного декодирования DSpark; для общения предусмотрен специальный способ кодирования OpenAI-совместимых сообщений, но Jinja-шаблон чата не включён. README описывает уровни reasoning_effort low, high и max, а также запуск через vLLM, SGLang и локальную инфраструктуру. Лицензия — MIT. Языки, на которых модель обучена или проверена, в предоставленных данных не перечислены.

Dolphin 2.9.1 Mixtral 1x22b — чат-модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и Cognitive Computations. Она основана на Mixtral-8x22B-v0.1 и прошла полное дообучение всех слоёв; в карточке указано 22 млрд параметров. Модель представляет собой извлечённый эксперт, полученный объединением SLERP экспертов исходной архитектуры Mixtral. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель предназначена для диалогов и выполнения инструкций, помощи с программированием, начального уровня агентных задач и вызова функций. Контекст базовой модели составляет 64 тыс. токенов, а дообучение проводилось с длиной последовательности 16 тыс. токенов. В качестве обучающих данных использовались, среди прочего, наборы Dolphin-2.9, OpenHermes-2.5 и датасеты для кода, математики и вызова функций. Модель описана авторами как uncensored и может с высокой готовностью выполнять запросы, в том числе небезопасные; перед предоставлением её пользователям авторы рекомендуют добавить собственный слой выравнивания. Язык карточки и метаданных — английский.

Dolphin 2.9 Llama 3 70B — разговорная модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и сообществом Cognitive Computations на базе Meta Llama 3 70B. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, представленная в форматах PyTorch и Safetensors. Она дообучена методом qLoRA с длиной последовательности 8 тыс. токенов и использует шаблон диалога ChatML. Модель предназначена для диалогов, выполнения инструкций, генерации кода и математических ответов; README также отмечает начальные агентные возможности и поддержку вызова функций. Основной язык в карточке — английский. В данных обучения указаны, среди прочего, наборы Dolphin 2.9, OpenHermes 2.5, UltraChat и датасеты для кода, математики и function calling. Модель описана как uncensored и может охотно выполнять небезопасные или неэтичные запросы; автор рекомендует добавить собственный слой выравнивания перед предоставлением сервиса. В датасете есть дефект, из-за которого ответы могут излишне упоминать системное сообщение; README предлагает ограничить это инструкцией в system prompt. Использование регулируется лицензией Meta Llama 3 Community License Agreement, включая её условия для коммерческого применения.

Dolphin 2.9 Mixtral 8x22B — диалоговая модель Cognitive Computations, подготовленная Eric Hartford, Lucas Atkins и Fernando Fernandes на основе mistral-community/Mixtral-8x22B-v0.1. Это дообученная модель с разреженной архитектурой Mixtral MoE, представленная в формате safetensors и предназначенная для генерации текста по инструкциям и ведения диалогов. Модель подходит для ответов на вопросы, программирования, математических задач и сценариев с вызовом функций; README также отмечает начальные агентные возможности. Она обучалась в формате ChatML, а полное дообучение проводилось на последовательностях длиной 4 тыс. токенов. Для базовой модели заявлен контекст до 64 тыс. токенов. В метаданных указан английский язык. Dolphin описана авторами как неконтролируемая модель, которая может охотно выполнять в том числе неэтичные запросы; перед предоставлением пользователям сервиса авторы рекомендуют добавить собственный слой ограничений. В данных обучения обнаружена проблема, из-за которой модель может излишне упоминать системное сообщение; README предлагает явно просить её этого не делать. Лицензия Apache-2.0 допускает коммерческое использование при соблюдении её условий.

GLM-4.6 — языковая модель компании Zhipu AI из семейства GLM-4 MoE, доступная в репозитории в формате safetensors для Transformers. Она предназначена для диалогов, программирования, рассуждений и агентных сценариев с вызовом инструментов и поиском. По сравнению с GLM-4.5 улучшены результаты в задачах кодирования и рассуждений, качество генерации интерфейсов и естественность стиля. Модель поддерживает контекст до 202 752 токенов и ориентирована прежде всего на английский и китайский языки. Модель подходит для генерации и объяснения кода, работы в агентных фреймворках, выполнения многошаговых задач с инструментами и поиска по запросу. В метаданных указано 23,4 млрд параметров и лицензия MIT. README приводит результаты сравнительных оценок, но не содержит подробностей о методике обучения или гарантий качества на конкретных прикладных задачах.