II.4Отладка, тестирование и качество ПО

DavidAU представил Qwen3-MOE-4x1.7B-6.8B-Lucys-Song-Uncensored — разговорную модель общего назначения на архитектуре Qwen3 MoE. По README, она объединяет экспертов нескольких моделей, поддерживает генерацию кода и творческих текстов, а автор отдельно отмечает сценарии ролевого общения и контент для взрослых. В метаданных указаны класс Qwen3MoeForCausalLM, задача text-generation, размер 1,7 млрд параметров, контекст до 40 960 токенов и поддержка чата и кода. Модель может применяться для диалогов, написания художественных сцен и помощи с программированием. README описывает режим рассуждений и настройки числа активных экспертов; скорость генерации и качество зависят от оборудования и выбранного формата весов. Репозиторий содержит веса в safetensors и распространяется по лицензии Apache-2.0.

Heretic-org/Qwen-3-VL-2B-Instruct-heretic — мультимодальная чат-модель с архитектурой Qwen3-VL, созданная как декензурированная версия Qwen/Qwen3-VL-2B-Instruct методом abliteration. Она принимает текст и изображения и формирует текстовые ответы; карточка также заявляет возможности работы с видео, OCR, пространственным рассуждением и визуальными интерфейсами. Модель рассчитана на диалог по изображениям, распознавание текста и объектов, понимание видеосцен и выполнение задач по визуальным интерфейсам. В README приведено сравнение отказов: 4 из 100 у этой версии против 97 из 100 у исходной модели; также указано значение KL-дивергенции 0,0627. Репозиторий содержит веса safetensors для Transformers и распространяется по лицензии Apache-2.0.

sakshi-pii-in — разработанная RotaVision модель классификации токенов на базе MuRIL-base-cased от Google. Она выделяет в неструктурированном тексте персональные данные индийского контекста: имена людей (PERSON), адреса (ADDRESS) и даты рождения (DOB), в том числе в смешанном хинглише и текстах на письме деванагари, бенгали и тамильском. Модель предназначена для слоя токенизации при приёме данных в платформу Sakshi; она рассчитана на сочетания английского и индийских языков и транслитераций. Это BERT-модель с 264,8 млн параметров и контекстом до 512 токенов. Обучающие данные полностью синтетические: шаблонные предложения, JSON-записи и чаты на английском, хинди, хинглише, бенгали и тамильском. В README приведены результаты на замороженном наборе из 2000 примеров: F1 0,988 для имён, 0,956 для адресов и 0,998 для дат рождения. Модель не предназначена для поиска структурированных идентификаторов вроде Aadhaar, PAN, IFSC, номеров телефонов и банковских счетов: для них README рекомендует отдельный детерминированный слой с регулярными выражениями и проверками контрольных сумм. Синтетическое обучение может ограничивать качество на OCR-ошибках и SMS-сокращениях; для других индийских письменностей ожидается более низкая полнота. Модель находит PII в тексте, но не оценивает законность обработки данных. Лицензия — Apache-2.0.

Tulu V2.5 DPO 13B – Nectar 60k — англоязычная чат-модель-помощник от Allen Institute for AI (AI2), основанная на Tulu 2 и дообученная методом DPO на случайной выборке из 60 тысяч примеров Nectar. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров и контекстом 4096 токенов; репозиторий содержит веса PyTorch и шаблон чата в токенизаторе. Модель предназначена для диалогов с помощником и генерации ответов на инструкции на английском языке. Она обучалась на смеси открытых, синтетических и созданных людьми данных, включая наборы Tulu, а затем выравнивалась по предпочтениям на Nectar. Лицензия — Apache 2.0. В фазе RLHF модель не обучали выдавать безопасные ответы, а встроенной фильтрации нет; при соответствующих запросах возможны проблемные ответы. Качество генерации зависит от правильного формата входа, включая завершающий перевод строки.

fhai50032 выпустил Unaligned-Thinker-PHI-4 — разговорную языковую модель на базе Phi-4, дообученную методом SFT на наборе fhai50032/Unaligned-Thinking-o1. Модель предназначена для генерации текста в диалогах и ответов с рассуждениями; в карточке приведены примеры обсуждения алгоритмов и AGI. По метаданным это плотная модель с архитектурой LlamaForCausalLM, содержащая 14,1 млрд параметров и поддерживающая контекст до 16 384 токенов. Указаны язык английский и возможность чата. Модель опубликована в форматах PyTorch и safetensors по лицензии Apache-2.0. README сообщает параметры дообучения: три эпохи, глобальный размер пакета 8, скорость обучения 5e-4, LoRA с r=16 и alpha=16, cosine schedule и AdamW 8-bit с weight decay 0,01.

DrishtiSharma/wav2vec2-large-xls-r-300m-bg-d2 — модель распознавания речи, созданная дообучением facebook/wav2vec2-xls-r-300m на болгарской части набора Mozilla Common Voice 8.0. Она использует архитектуру Wav2Vec2 с выходной головой CTC и предназначена для преобразования болгарской речи в текст. Модель подходит для транскрибации аудиозаписей и оценки качества систем распознавания болгарской речи. В карточке указаны значение WER 0,2860 и loss 0,3421 на тестовой выборке Common Voice 8.0. Репозиторий содержит веса PyTorch; размер модели — около 402,7 млн параметров. Лицензия — Apache-2.0.

mpoyraz/wav2vec2-xls-r-300m-cv7-turkish — модель автоматического распознавания речи на турецком языке, созданная дообучением facebook/wav2vec2-xls-r-300m. Она использует архитектуру Wav2Vec2 с CTC-выходом и содержит около 402,7 млн параметров. Модель принимает аудио и преобразует речь в текст; при дообучении использовались проверенная часть Common Voice 7.0 TR, кроме тестовой выборки, и MediaSpeech. Для улучшения распознавания автор также подготовил турецкую n-граммную языковую модель на материалах Википедии с KenLM. Модель подходит для транскрибации турецкой речи и оценки систем распознавания на наборах Common Voice и Speech Recognition Community. В README приведены результаты: WER 8,62 и CER 2,26 на тестовой выборке Common Voice 7 TR, а также WER 30,87 и CER 10,69 на dev-наборе Speech Recognition Community. Эти значения относятся к указанным наборам и не гарантируют такую же точность на других записях. Модель распространяется по лицензии CC BY 4.0.

DeepSeek-V4-Pro — крупная языковая модель семейства DeepSeek-V4, разработанная DeepSeek AI. Это предварительная версия модели с архитектурой Mixture-of-Experts (MoE), предназначенная для работы с текстом, задачами рассуждения, программированием, обработкой больших документов и агентскими сценариями. Модель поддерживает контекст длиной до одного миллиона токенов. Модель содержит около 1,6 трлн параметров, из которых 49 млрд активируются при обработке отдельного токена. Она использует гибридную архитектуру внимания с механизмами Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections для повышения стабильности передачи сигналов. Обучение проводилось более чем на 32 трлн токенов с последующей донастройкой посредством SFT, reinforcement learning с GRPO и on-policy distillation. Доступна в смешанной точности FP4 и FP8: параметры MoE-экспертов используют FP4, а большинство остальных параметров — FP8. К сильным сторонам относятся эффективная работа с очень длинным контекстом, высокая ёмкость модели, развитые возможности в области знаний, программирования, рассуждений и агентских задач. По сравнению с DeepSeek-V3.2 в режиме контекста на один миллион токенов заявлено существенное снижение вычислительных затрат и объёма KV-кэша. Ограничения включают чрезвычайно большой общий размер модели и, как следствие, высокие требования к инфраструктуре; конкретные поддерживаемые языки и подробные системные требования в README не указаны. Модель распространяется по лицензии MIT.

unsloth/Qwen3.8-27B-FP8 — FP8-квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen. Это плотная каузальная языковая модель с vision encoder, предназначенная для генерации текста, программирования, профессиональных и исследовательских задач, долгих агентских сценариев, а также понимания изображений и видео, включая документы, STEM-диаграммы и продолжительные видеоматериалы. Модель содержит 27 млрд параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 000 000 токенов. Архитектура основана на сочетании Gated DeltaNet, Gated Attention и FFN; также используется Multi-Token Prediction. Доступны режимы с рассуждением и без него: глубину рассуждений можно регулировать параметром reasoning_effort, а контекст рассуждений в диалоге сохранять с помощью preserve_thinking. Указанные материалы совместимы с Hugging Face Transformers, vLLM, SGLang и TokenSpeed. К сильным сторонам относятся развитые возможности для кода, профессиональной работы, исследований, автономного планирования и выполнения многошаговых задач, а также нативная мультимодальность и близкая к исходной модели производительность после квантизации. Ограничения включают зависимость эффективности и пропускной способности от используемого inference-фреймворка, а также дополнительные вычислительные и временные затраты при включённом глубоком рассуждении. В README не указаны поддерживаемые языки. Модель распространяется по лицензии Apache-2.0. Репозиторий содержит веса и конфигурации в формате Hugging Face Transformers; для производственного или высоконагруженного развёртывания рекомендуются специализированные серверные движки, например vLLM или SGLang.

Mistral-Large-Instruct-2407 — созданная Mistral AI плотная большая языковая модель с 123 млрд параметров, настроенная для выполнения инструкций. Она предназначена для диалога, рассуждений, работы с математическими задачами и кодом, а также для агентных сценариев с вызовом функций и выводом JSON. Модель поддерживает контекст до 128 тыс. токенов и множество естественных языков, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский; обучение также охватывало более 80 языков программирования. К сильным сторонам относятся заявленные в карточке возможности рассуждения, генерации кода и использования инструментов. Для запуска модели такого размера требуется несколько GPU с суммарно более 300 ГБ видеопамяти. В карточке отмечено отсутствие механизмов модерации, поэтому ответы могут не соблюдать заданные ограничения безопасности. Лицензия Mistral Research License разрешает использование и модификацию для исследований и некоммерческих целей.

Qwen2.5-72B-Instruct-GGUF — большая инструкционная языковая модель из серии Qwen2.5, разработанная командой Qwen. Репозиторий содержит 72-миллиардную версию модели Qwen2.5-72B-Instruct в формате GGUF, предназначенном для локального запуска, в том числе с использованием llama.cpp. Модель относится к авторегрессионным causal language models и предназначена для диалоговых систем, генерации и продолжения текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Поддерживается более 29 языков, среди которых английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель рассчитана на текстовую модальность. Архитектура включает transformers, RoPE, SwiGLU, RMSNorm и bias в Attention QKV; модель содержит 72,7 млрд параметров, из них 70 млрд без учёта embedding, 80 слоёв и механизм GQA с 64 головами для Q и 8 для KV. Для GGUF указана длина контекста 32 768 токенов и генерация до 8192 токенов. Поддерживаются варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Преимуществами являются улучшенные возможности в программировании и математике, следование инструкциям, генерация длинных текстов и устойчивость к разнообразным системным промптам. Ограничение GGUF-версии — отсутствие штатной поддержки контекста до 131 072 токенов; для такого расширения README рекомендует использовать неквантизованные модели и отмечает поддержку YARN только в vLLM. Модель распространяется по лицензии Qwen, обозначенной как other; точные условия приведены в файле лицензии репозитория.

Это GGUF-квантизированная версия Meta-Llama-3.1-70B-Instruct, разработанная Meta и предназначенная для запуска с llama.cpp. Модель представляет собой авторегрессионную большую языковую модель на базе оптимизированной архитектуры Transformer. Инструкционная версия обучалась с применением supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности ответов. Модель работает только с текстом на входе и генерирует многоязычный текст и код. Она предназначена прежде всего для диалоговых ассистентов, генерации и обработки текста, программирования, синтетической генерации данных и дистилляции других моделей. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель содержит 70 млрд параметров, поддерживает Grouped-Query Attention и контекст длиной до 128 тысяч токенов. Данные обучения включают более 15 трлн токенов, срез знаний — декабрь 2023 года. Сильными сторонами являются большой контекст, многоязычный режим, поддержка кода и оптимизация для диалоговых сценариев. Это статическая модель, обученная на офлайн-данных, поэтому она не обладает актуальными знаниями после даты отсечения и может требовать проверки ответов. Репозиторий содержит квантизированный формат GGUF; для полной поддержки необходима llama.cpp версии 5e2727f или новее. Использование регулируется пользовательской коммерческой лицензией Llama 3.1 Community License и применимой Acceptable Use Policy.

QuixiAI/Qwen3-30B-A3B-AWQ — квантизированная в формате AWQ версия Qwen3-30B-A3B, разработанная командой Qwen и опубликованная Eric Hartford. Модель основана на causal language model с архитектурой mixture-of-experts (MoE) и предназначена для генерации текста, диалогов, следования инструкциям, рассуждений, математики, программирования, перевода и агентских сценариев с интеграцией внешних инструментов. Модель поддерживает переключение между режимами рассуждения и обычной генерации, обучена на этапах pretraining и post-training и поддерживает более 100 языков и диалектов. Всего она содержит около 30,5 млрд параметров, из которых при обработке активируется около 3,3 млрд; в составе 48 слоёв, 128 экспертов, одновременно активируются 8, используется Grouped Query Attention с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN заявлена поддержка до 131 072 токенов. К сильным сторонам относятся сочетание высокой ёмкости MoE с меньшим числом активных параметров, развитые возможности рассуждения, программирования, многоязычного общения и работы в агентских задачах, а также наличие эффективного режима без рассуждений. AWQ-квантизация может снизить требования к памяти и упростить локальное развёртывание, однако конкретные требования к оборудованию и влияние квантизации на качество в карточке не указаны. Для работы рекомендуется использовать актуальные версии Transformers, SGLang или vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-397B-A17B — мультимодальная модель семейства Qwen от Alibaba, предназначенная для диалогов, рассуждений, работы с изображениями и видео, программирования и использования инструментов. Это постобученная причинная языковая модель с визуальным энкодером, гибридной архитектурой Gated Delta Networks и разреженной Mixture-of-Experts: всего 397 млрд параметров, из которых активируются 17 млрд. В модели 60 слоёв и 512 экспертов; одновременно задействуются 10 маршрутизируемых и один общий эксперт. Модель принимает текст, изображения и видео, а её основными результатами являются текстовые ответы и вызовы инструментов. Она поддерживает 201 язык и диалект. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. По умолчанию включён режим рассуждений; доступны интеграции с Transformers, vLLM, SGLang и KTransformers. Модель подходит для мультимодальных помощников, анализа визуального содержимого, сложных вопросов, программирования и агентных сценариев с вызовом инструментов. Эффективность вывода и пропускная способность зависят от используемого фреймворка и его версии. Веса и конфигурации опубликованы в формате Transformers/Safetensors под лицензией Apache-2.0.

RedHatAI/gemma-4-31B-it — инструктивная мультимодальная модель семейства Gemma 4, разработанного Google DeepMind и опубликованного Red Hat AI. Это плотная модель на 31 млрд параметров на архитектуре Gemma4ForConditionalGeneration, дообученная на основе google/gemma-4-31B; она принимает текст и изображения и генерирует текст. Вариант 31B предназначен для диалога, рассуждений, генерации и исправления кода, анализа изображений и работы с длинными запросами; поддерживает вызов инструментов и контекст до 256 тыс. токенов. Модель подходит для визуальных вопросов и ответов, распознавания текста и извлечения сведений из документов и изображений, понимания графиков и интерфейсов, а также для суммаризации, общения и помощи с кодом. Семейство Gemma заявляет поддержку более 140 языков при предварительном обучении и более 35 языков в прикладном использовании; README не уточняет точный языковой охват именно этого чекпойнта. Вариант 31B не заявлен как поддерживающий аудио, в отличие от малых моделей семейства. Весовые файлы доступны в формате safetensors, библиотека — Transformers. Лицензия — Apache 2.0.

unsloth/gemma-4-31B-it-unsloth-bnb-4bit — это 4-битная квантизированная версия instruction-tuned модели Gemma 4 31B, подготовленная Unsloth на базе google/gemma-4-31B-it и разработанная Google DeepMind. Модель относится к семейству открытых мультимодальных моделей Gemma 4 и предназначена для генерации текста, рассуждений, программирования, агентских сценариев и анализа изображений с выдачей текстового ответа. Модель использует плотную архитектуру с 30,7 млрд параметров, 60 слоями, словарём размером 262 тыс. токенов и гибридным механизмом внимания, сочетающим локальное скользящее окно на 1024 токена с глобальным вниманием. Контекстное окно составляет до 256 тыс. токенов. Поддерживаются текст и изображения; аудио для версии 31B не заявлено. Gemma 4 также поддерживает более 140 языков, режимы настраиваемого рассуждения, системные инструкции и нативный function calling. Ключевые преимущества — большой контекст, мультимодальное понимание, возможности рассуждения и кодирования, а также сниженные требования к памяти благодаря 4-битной квантизации. Ограничения включают возможную потерю точности по сравнению с полноразмерной версией и зависимость качества от совместимого программного обеспечения и оборудования для BNB 4-bit. Модель распространяется по лицензии Apache 2.0.

Hermes 4 405B — языковая модель Nous Research для диалогов и следования инструкциям, дообученная на базе Meta Llama 3.1 405B. Это плотная авторегрессионная модель с 403,7 млрд параметров, представленная в формате safetensors и рассчитанная на контекст до 131 072 токенов. Модель предназначена для работы в роли универсального ассистента: она ведёт диалог, рассуждает, помогает с математикой, программированием, STEM-задачами, логикой и творческим письмом. Поддерживает гибридный режим рассуждений, вызов функций и инструментов, а также генерацию структурированных ответов, включая JSON по заданной схеме. В карточке указана поддержка английского языка. Разработчик сообщает об улучшениях в рассуждениях, следовании форматам и управляемости после дообучения. Реальное качество может зависеть от запроса, шаблона чата и настроек генерации; работа с инструментами требует подходящего парсера и среды исполнения. Лицензия — Llama 3.

Mistral Large 2 (версия mistral-large-2407) — флагманская модель компании Mistral AI. Это модель с доступными весами, распространяемая на проприетарных условиях. Модель предназначена для генерации текста в диалогах, рассуждений, написания кода и формирования JSON. В карточке она описана как универсальная модель для этих задач и других сценариев работы с текстом. Конкретные сведения об архитектуре, размере, поддерживаемых языках и контекстном окне в предоставленных материалах отсутствуют. Условия использования определяются проприетарной лицензией; перед внедрением следует проверить её актуальные требования.

Qwen2-7B-Instruct-AWQ — инструкционная языковая модель из серии Qwen, разработанная командой Qwen. Это текстовая модель для генерации ответов в диалогах, следования инструкциям, понимания и создания текста, а также задач программирования, математики, рассуждений и многоязычной обработки. Модель предназначена для локального развертывания и интеграции в приложения через Transformers или vLLM. Модель содержит около 7 миллиардов параметров и основана на decoder-only архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях и Grouped Query Attention. Она прошла предварительное обучение, supervised fine-tuning и Direct Preference Optimization. Вариант AWQ использует квантованные веса для снижения требований к памяти и ускорения инференса. Модель работает с текстом, поддерживает английский язык, а токенизатор адаптирован также к нескольким естественным языкам и языкам программирования. Заявлена длина контекста до 131 072 токенов; для обработки очень длинных входов применяется метод YARN. Сильными сторонами модели являются большой контекст, инструкционное выравнивание, поддержка многоязычных и технических сценариев, а также более экономичное развертывание благодаря квантованию. Модель не является мультимодальной и ориентирована на текстовую генерацию. При использовании YARN в vLLM статический коэффициент масштабирования может отрицательно влиять на качество или производительность на коротких текстах, поэтому его рекомендуется включать только при необходимости длинного контекста. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-14B-128K-GGUF — формат GGUF модели Qwen3-14B, опубликованный Unsloth на основе модели Qwen/Qwen3-14B. Это причинная языковая модель с 14,8 млрд параметров, предназначенная для генерации текста, диалогов, следования инструкциям, математических рассуждений, программирования, творческого письма и агентских сценариев с интеграцией внешних инструментов. Модель поддерживает переключение между режимом рассуждений и нерассуждающим режимом, что позволяет выбирать между качеством решения сложных задач и более эффективным общим диалогом. Указана поддержка более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Архитектура включает 40 слоёв и Grouped-Query Attention с 40 головами запросов и 8 головами ключей и значений. Базовый контекст составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Сильными сторонами являются развитые способности к рассуждениям, коду, многошаговому диалогу, следованию инструкциям и работе с инструментами, а также возможность локального запуска в формате GGUF. Ограничения и требования к аппаратному обеспечению для этой конкретной сборки в README подробно не указаны; характеристики длинного контекста зависят от корректной поддержки YaRN и используемого программного обеспечения. Лицензия — Apache-2.0.

Qwen3-4B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Она предназначена для диалогов, следования инструкциям, рассуждений, генерации кода, творческого письма, многоязычных задач и работы с инструментами. В модели около 3,7 млрд параметров по метаданным; она использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов по метаданным. README описывает переключение между режимами рассуждения и обычного диалога, а также поддержку более 100 языков и диалектов. Модель обучена на базе Qwen/Qwen3-4B-Base и распространяется в формате safetensors для библиотеки Transformers. Лицензия — Apache 2.0. Карточка предупреждает о возможных бесконечных повторах при генерации и рекомендует настраивать параметры сэмплирования.

unsloth/Qwen3.5-27B-GGUF — квантованный формат модели Qwen3.5-27B, разработанной командой Qwen; сборка и GGUF-варианты подготовлены Unsloth. Это мультимодальная причинная языковая модель с vision encoder, предназначенная для диалогов, анализа изображений, рассуждений, программирования, агентских сценариев, работы с длинным контекстом и вызова инструментов. Модель может использоваться локально и совместима с распространёнными средствами инференса для GGUF; README также рекомендует настройки для включения или отключения режима рассуждений. Модель содержит 27 млрд параметров, 64 слоя и использует гибридную архитектуру Gated Delta Networks, Gated Attention и разреженной Mixture-of-Experts; размер скрытого представления — 4096. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта, а также мультимодальный ввод. Unsloth указывает на применение Dynamic 2.0 GGUF и imatrix-данных для повышения качества в задачах диалога, программирования, длинного контекста и tool calling. Сильными сторонами являются сочетание языкового и визуального понимания, большой контекст, поддержка широкого набора языков и варианты для эффективного локального запуска. Ограничения включают необходимость подходящего GGUF-совместимого программного обеспечения и аппаратных ресурсов; конкретные требования зависят от выбранного уровня квантования. Модель распространяется по лицензии Apache-2.0.

Step 3.7 Flash — мультимодальная vision-language модель, разработанная StepFun. Она предназначена для высокочастотных производственных нагрузок и агентных сценариев, объединяющих восприятие изображений, поиск, проверку информации, рассуждения и взаимодействие с инструментами. Модель подходит для анализа больших финансовых отчётов, многошагового поиска с верификацией по нескольким источникам, параллельной работы coding-агентов, обработки пользовательских интерфейсов, диаграмм и других визуальных материалов. Модель построена на разреженной архитектуре Mixture-of-Experts (MoE) и содержит около 198 млрд параметров: примерно 196 млрд приходятся на языковую часть и 1,8 млрд — на vision encoder. На каждый токен активируется около 11 млрд параметров. Поддерживается контекст длиной до 256 тысяч токенов, изображения и текст, а также три уровня рассуждения — low, medium и high, позволяющие выбирать баланс между скоростью, стоимостью и глубиной анализа. В README указан английский язык; заявленная мультимодальность обеспечивает понимание изображений, визуальное заземление, анализ интерфейсов и преобразование визуальных данных в структурированный код. Сильные стороны модели — высокая пропускная способность до 400 токенов в секунду, работа с длинным контекстом, устойчивое выполнение многошаговых агентных процессов, использование внешних API, визуальная проверка данных и задачи программной инженерии. Ограничения включают очень большой общий размер модели и, как следствие, высокие требования к инфраструктуре при локальном развёртывании; заявленные результаты также зависят от конкретных бенчмарков и сценариев. Модель распространяется по лицензии Apache-2.0 и поддерживает Transformers, vLLM, SGLang и llama.cpp; доступна через StepFun Open Platform, OpenRouter и NVIDIA NIM, а также может развёртываться в облачных, дата-центровых и локальных средах.

Blossom-V7.1-27B-GGUF — открытая мультимодальная модель общего назначения, разработанная Azure99 для локального развертывания. Это GGUF-вариант модели Blossom-V7.1-27B, построенной на базе Qwen3.8-27B. Модель предназначена для повседневного диалога, работы с общими знаниями, математики и рассуждений, программирования, веб-разработки, визуализации данных, понимания изображений и агентских сценариев с использованием инструментов. Заявлены английский и китайский языки. Модель имеет плотную архитектуру размером 27B параметров, поддерживает текстовые и графические входы и контекст до 262 144 токенов, при этом для наилучших результатов рекомендуется контекст до 131 072 токенов. Доступны два режима рассуждения — medium и max; по умолчанию используется max. Модель поддерживает чередование рассуждений и вызовов инструментов, а также ускорение инференса посредством Multi-Token Prediction в vLLM и llama.cpp. Сильными сторонами модели являются сочетание рассуждений, мультимодального понимания, программирования и инструментального использования, а также поддержка локального запуска и длинного контекста. Для работы требуется учитывать специальный chat template Blossom, который нельзя заменять шаблоном Qwen. В многоходовых диалогах рекомендуется сохранять полное сообщение ассистента вместе с данными рассуждений и вызовами инструментов; 27B-вариант ориентирован на GPU, где веса модели помещаются в видеопамять. Модель распространяется по лицензии Apache-2.0.

DeepSeek-V2-Chat-0628 — улучшенная версия диалоговой модели DeepSeek-V2-Chat, разработанная DeepSeek. Она предназначена для общения по инструкциям и генерации текста, включая помощь с программированием, математическими задачами, переводом и ответами на вопросы по документам в сценариях RAG. Модель построена на архитектуре DeepSeek-V2 и содержит 18,1 млрд параметров; заявленная длина контекста — 163 840 токенов. В репозитории веса представлены в формате safetensors. В карточке сообщается об улучшении результатов относительно предыдущей версии на HumanEval, MATH и BBH, а также об оптимизации следования инструкциям в системной части диалога. Для запуска BF16 версии локально README указывает требования в 8 GPU по 80 ГБ памяти. Лицензия в метаданных обозначена как other, поэтому условия использования следует проверять в документах лицензии репозитория.

unsloth/gemma-4-26B-A4B-it-GGUF — квантизированная GGUF-версия инструкционно дообученной модели google/gemma-4-26B-A4B-it. Семейство Gemma 4 разработано Google DeepMind, а данную сборку подготовила Unsloth. Модель предназначена для генерации текста, программирования, рассуждений, мультимодального анализа и агентских сценариев с поддержкой вызова функций. Модель относится к архитектуре Mixture-of-Experts (MoE): в названии указаны 26B общих параметров и около 4B активных параметров. Gemma 4 поддерживает текстовые и графические входы с генерацией текста, а также мультиязычную работу более чем со 140 языками. Для моделей среднего размера заявлено контекстное окно до 256K токенов. Архитектура использует гибридное внимание с чередованием локального sliding window attention и глобального внимания, что снижает требования к памяти при обработке длинного контекста. К сильным сторонам относятся режимы настраиваемого рассуждения, улучшенные возможности программирования, native function calling, поддержка системных промптов и пригодность для развёртывания на потребительских GPU и рабочих станциях. Ограничения конкретного GGUF-файла, включая точный уровень квантизации, требования к памяти и возможное снижение качества по сравнению с полноточной моделью, в README не указаны. Модель распространяется по лицензии Apache 2.0.

Карточка модели Openintelligent123/gemma-4-E2B на Hugging Face совпадает с карточкой google/gemma-4-E2B, поэтому описание составлено по ней. Gemma 4 E2B — мультимодальная плотная модель с открытыми весами от Google DeepMind, принадлежащая семейству Gemma 4. Она принимает текст и изображения, а также аудио; генерирует текст. Семейство использует гибридное внимание с локальными скользящими окнами и глобальным вниманием. Для малых моделей, включая E2B, заявлено контекстное окно до 128 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, суммаризации, понимания изображений и аудио, распознавания речи и перевода речи в текст. Она рассчитана на локальный запуск на мобильных устройствах и ноутбуках; семейство поддерживает многоязычные сценарии, включая более 35 языков в готовом виде. Модельные карточка описывает возможности семейства, поэтому отдельные характеристики E2B следует трактовать в его контексте. Репозиторий распространяется по лицензии Apache 2.0. Возможности включают OCR, разбор документов, анализ видео и вызов функций; описание аудиоподдержки для E2B подтверждает обработку аудио, а не генерацию речи. Качество ответов может зависеть от языка, сложности задачи и доступных вычислительных ресурсов; для критически важных сценариев результаты следует проверять.

Карточка модели Roughneck72/gemma-4-E2B на Hugging Face совпадает с карточкой google/gemma-4-E2B, поэтому описание составлено по ней. Gemma 4 E2B — мультимодальная плотная модель с открытыми весами от Google DeepMind, принадлежащая семейству Gemma 4. Она принимает текст и изображения, а также аудио; генерирует текст. Семейство использует гибридное внимание с локальными скользящими окнами и глобальным вниманием. Для малых моделей, включая E2B, заявлено контекстное окно до 128 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, суммаризации, понимания изображений и аудио, распознавания речи и перевода речи в текст. Она рассчитана на локальный запуск на мобильных устройствах и ноутбуках; семейство поддерживает многоязычные сценарии, включая более 35 языков в готовом виде. Модельные карточка описывает возможности семейства, поэтому отдельные характеристики E2B следует трактовать в его контексте. Репозиторий распространяется по лицензии Apache 2.0. Возможности включают OCR, разбор документов, анализ видео и вызов функций; описание аудиоподдержки для E2B подтверждает обработку аудио, а не генерацию речи. Качество ответов может зависеть от языка, сложности задачи и доступных вычислительных ресурсов; для критически важных сценариев результаты следует проверять.

dragonboat/gemma-4-E4B-it-GGUF — это квантизированная в формате GGUF instruction-tuned версия модели Gemma 4 E4B, разработанной Google DeepMind и опубликованной в представлении Unsloth. Модель предназначена для локального запуска и дообучения, генерации текста, программирования, рассуждений, мультимодального анализа и агентских сценариев с поддержкой вызова функций. Модель имеет около 4,5 млрд эффективных параметров, 42 слоя и контекстное окно до 128K токенов. Она поддерживает обработку текста, изображений и аудио с генерацией текста, а также более 140 языков. Архитектура использует гибридное внимание с чередованием локального sliding window attention и глобального внимания; размер локального окна составляет 512 токенов. Небольшой размер и оптимизация Gemma 4 E4B ориентированы на запуск на ноутбуках, мобильных устройствах и другом локальном оборудовании. К сильным сторонам относятся мультимодальность, длинный контекст, настраиваемый режим рассуждений, улучшенные возможности программирования, нативная поддержка системных инструкций и function calling. Ограничения включают зависимость производительности и качества от используемого GGUF-квантизатора и доступных вычислительных ресурсов; точные параметры квантизации в предоставленных данных не указаны. Модель распространяется по лицензии Apache 2.0.

Granite-4.2-8B — языковая модель команды Granite компании IBM для диалогов, рассуждений и работы с инструментами. Это плотный декодерный трансформер GraniteForCausalLM с 8,4 млрд параметров, доступный в формате safetensors и рассчитанный на библиотеку Transformers. Модель дообучена на базе ibm-granite/granite-4.1-8b-base; лицензия Apache 2.0 разрешает коммерческое и академическое использование. Модель предназначена для ответов на вопросы, многошаговых рассуждений, математических и программных задач, а также сценариев, где нужно выбирать и вызывать инструменты. Поддерживаются режимы полного, облегчённого и отключённого рассуждения. Метаданные указывают контекст до 131 072 токенов. Архитектура включает Grouped Query Attention, RoPE, SwiGLU и RMSNorm. Модель обучалась преимущественно на английских инструкциях, также включает многоязычные данные для немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Качество на других языках может уступать английскому; ответы могут быть неточными, предвзятыми или небезопасными. Текст рассуждений может содержать промежуточные мысли и не отражать итоговый ответ.