II.8Инженерия данных и аналитика

Taeham/wav2vec2-ksponspeech — модель распознавания корейской речи, созданная дообучением Wav2vec2-large-xlsr-53 на данных Ksponspeech. Она принимает аудио и преобразует речь в текст; карточка указывает на обучение на двух частях обучающей выборки Ksponspeech и сообщает WER 0,373 на сторонних тестовых данных. Архитектура — Wav2Vec2ForCTC, размер — 403,1 млн параметров; модель опубликована в формате PyTorch и рассчитана на корейский язык. Модель подходит для транскрибации корейской речи и получения черновых расшифровок аудиозаписей. Точность может улучшаться при унификации записи чисел и символов, нормализации пунктуации и исправлении слов по контексту; указанный WER показывает, что распознанный текст может требовать постобработки. Лицензия — Apache-2.0.

Wav2Vec2-Large-XLSR-53-EU — модель автоматического распознавания речи, созданная дообучением facebook/wav2vec2-large-xlsr-53 командой enterprise-explorers на баскском языке. Она принимает аудиозаписи речи с частотой дискретизации 16 кГц и преобразует их в текст; обучение проводилось на данных Common Voice. Модель построена на архитектуре Wav2Vec2ForCTC и содержит около 402,7 млн параметров. В README приведён результат оценки 15,34% на тестовой части Common Voice для баскского языка, но метрика не названа. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

xsway разработал wav2vec2-large-xlsr-georgian — модель распознавания речи на грузинском языке, полученную дообучением facebook/wav2vec2-large-xlsr-53 на данных Common Voice. Она принимает аудио и преобразует речь в текст; для распознавания входной сигнал должен иметь частоту дискретизации 16 кГц. Модель основана на архитектуре Wav2Vec2ForCTC и содержит около 402,7 млн параметров. В README приведён результат 45,28% на тестовой части грузинского Common Voice, однако метрика не уточнена. Модель распространяется по лицензии Apache-2.0.

DrishtiSharma/wav2vec2-xls-r-sl-a2 — модель распознавания речи, дообученная Drishti Sharma на базе facebook/wav2vec2-xls-r-300m на словенской части Mozilla Common Voice 8.0. Это архитектура Wav2Vec2 с классификацией CTC, содержащая 402,7 млн параметров и принимающая аудио для преобразования речи в текст. Для набора оценки Common Voice 8.0 указаны Loss 0,2855 и WER 0,2401. Модель предназначена для автоматической транскрипции речи на словенском языке, например записей и голосовых высказываний. Распространяется в формате PyTorch по лицензии Apache-2.0. Показатель WER получен на указанном наборе оценки; README не приводит результаты для других наборов или условий записи.

mmwanje/waxal-whisper-small-spec_aug_v1 — мультиязычная модель автоматического распознавания речи, дообученная на базе OpenAI Whisper Small на данных Google WaxalNLP для языков лингала, шона и луганда. При обучении применялся SpecAugment к log-mel признакам; модель реализована как WhisperForConditionalGeneration и распространяется в формате safetensors. В метаданных указано 153,1 млн параметров и лицензия Apache-2.0. Модель предназначена для транскрибирования аудиозаписей на поддерживаемых языках. README называет этот чекпойнт лучшим по результату на отложенной выборке среди экспериментов первой фазы; приведённая оценка объединяет WER и CER, поэтому её нельзя напрямую интерпретировать как отдельную точность распознавания. Результаты зависят от языка и условий записи.

Whisper Hinglish Preview — модель распознавания речи на основе Whisper large-v3, разработанная Trelis и специализированная для хинглиша: речи с переключением между хинди и английским. Она также предназначена для транскрибации преимущественно хинди и английской речи; архитектура — WhisperForConditionalGeneration, размер — 905,3 млн параметров. Модель принимает аудио и выдаёт текст. Для заявленного качества автор рекомендует явно задавать язык распознавания в стандартном интерфейсе Whisper. Внутренние оценки автора показывают улучшение относительно исходных Whisper large-v3 и Vaani на ряде тестов хинглиша и хинди, но не лидерство на всех наборах; результаты получены по собственному протоколу нормализации и сопоставления. Это исследовательская предварительная версия, и веса или результаты могут измениться. Модель распространяется по лицензии Apache-2.0.

Sandiago21/whisper-large-v2-greek — дообученная модель распознавания речи на основе openai/whisper-large-v2. Она принимает аудио и преобразует речь в текст; дообучение выполнено на датасете FLEURS. Модель содержит 905,2 млн параметров и распространяется в форматах PyTorch и safetensors. Модель предназначена для транскрибации греческой речи. В README приведены результаты на оценочной выборке: WER 0,1774, WER Ortho 0,2102 и loss 0,2734. Лицензия — Apache-2.0. Подробные сведения об условиях записи, поддерживаемых вариантах греческого языка и ограничениях в карточке отсутствуют.

Это модель автоматического распознавания речи на основе Whisper large-v3 от OpenAI, дообученная командой gcoli для транскрибирования швейцарского немецкого на стандартный немецкий. LoRA-адаптер обучили на материалах FHNW/i4ds и объединили с базовыми весами; модель содержит 905,2 млн параметров. Она принимает аудио и выдаёт текст. В карточке приведены результаты проверки на тестовом наборе из 5750 записей, охватывающем 17 диалектов: итоговый WER составляет 24,7%, CER — 12,7%. Для запуска доступны форматы safetensors и CTranslate2, совместимые с Transformers и faster-whisper. Модель предназначена для транскрибации швейцарских немецких диалектов в стандартный немецкий, в том числе в коммерческих сценариях. Для длинных записей рекомендуется отключать перенос контекста между фрагментами: иначе модель может добавлять вымышленный текст; на записях около 15 минут качество также может быть ниже, чем при распознавании отдельных коротких фрагментов. Лицензия модели — MIT; в карточке также указано, что базовая модель распространяется по Apache-2.0, а обучение выполнено на материалах с лицензией MIT.

Это дообученная модель OpenAI Whisper large-v3-turbo, созданная oddadmix для распознавания арабской речи на разных диалектах. Модель построена на архитектуре WhisperForConditionalGeneration и содержит 809 млн параметров; принимает аудио и выдаёт текст. Обучение проводилось на наборе примерно из 36,8 тыс. очищенных и расширенных аудиоклипов, охватывающем левантийские, магрибские, египетский, заливные, суданский и иракский диалекты, а также литературный арабский. В тесте из 932 клипов модель показала WER 0,344 и CER 0,115 при заданной в карточке нормализации текста. Вывод без диакритических знаков; диалектное написание сохраняется. Модель работает офлайн на фрагментах длительностью до 30 секунд и не поддерживает потоковое распознавание. Качество на реальной речи зависит от диалекта: магрибские варианты распознаются сложнее. Разработчик рекомендует оценить модель на собственных данных перед производственным применением. Лицензия — Apache-2.0.

Whisper Medium Romanian — модель распознавания речи, созданная дообучением gigant на базе openai/whisper-medium. Она преобразует румынскую речь в текст и рассчитана на расшифровку аудио, включая записи, похожие на обучающие данные из Common Voice 11.0 и румынского корпуса синтезированной речи. Модель использует архитектуру Whisper и содержит 455,8 млн параметров. Для оценки применялся тестовый набор Common Voice 11.0; в карточке указана метрика WER 4,717. Модель принимает аудио и выдаёт текст, поддерживаемый язык — румынский. Лицензия — Apache-2.0.

HamoonFm/whisper-small-fa — дообученная версия мультиязычной модели Whisper Small от OpenAI для автоматического распознавания речи. Модель построена на архитектуре WhisperForConditionalGeneration, содержит 153,1 млн параметров и принимает аудио, выдавая текстовую транскрипцию. Суффикс «fa» в названии указывает на ориентацию на персидскую речь, однако README не уточняет языки и данные дообучения. В карточке приведены результаты оценки: loss 0,2648 и WER 0,3085. Модель распространяется в формате safetensors по лицензии Apache-2.0. README не описывает ограничения и рекомендуемые сценарии применения; качество распознавания следует проверять на аудио целевого домена.

C1Tech/whisper_small_persian — модель распознавания речи на персидском языке на архитектуре Whisper, разработанная C1Tech и дообученная на крупном пользовательском персидском наборе данных. Она предназначена для преобразования персидской речи в текст и оценки качества распознавания на соответствующих тестовых наборах, включая Common Voice и FLEURS. По README, модель содержит 74 млн параметров. Автор заявляет о результатах, превосходящих Whisper Large-v3, Wav2Vec2-XLSR и ряд других систем на персидских бенчмарках; подробные численные результаты в карточке не приведены. Репозиторий содержит веса в формате safetensors, а лицензия — Apache-2.0.

carlot/whisper-tiny-zh — дообученная carlot модель распознавания речи на основе openai/whisper-tiny. Она предназначена для преобразования аудиозаписей на китайском языке в текст. Модель построена на архитектуре WhisperForConditionalGeneration, содержит 29,4 млн параметров и дообучена на наборе Common Voice 11.0. Распространяется в формате PyTorch по лицензии Apache-2.0.

Qwen2.5-32B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 32 млрд параметров для диалога и генерации текста; поддерживает интерфейс вызова инструментов. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для следования инструкциям, написания длинных ответов, работы с таблицами и другими структурированными данными, а также генерации структурированного вывода, включая JSON. Она также подходит для задач программирования и математики. В README заявлена поддержка более 29 языков, включая русский и английский. Метаданные указывают контекст в 32 768 токенов; для этой версии README рекомендует конфигурацию до 131 072 токенов с YaRN для длинных входов, а генерацию — до 8 192 токенов. Модель распространяется в формате safetensors и работает через Transformers. Лицензия — Apache-2.0. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; статическое масштабирование YaRN в vLLM может ухудшать производительность на коротких текстах.

Qwen2.5-72B-Instruct-AWQ — большая инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалоговых ассистентов, генерации и анализа текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель поддерживает более 29 языков, среди которых английский, китайский, русский, французский, испанский, немецкий, японский, корейский и арабский. Это causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в QKV-внимании. Модель содержит 72,7 млрд параметров, 70 млрд параметров без учёта эмбеддингов, 80 слоёв и использует Grouped-Query Attention с 64 головами для Q и 8 для KV. Репозиторий содержит 4-битную AWQ-квантизированную версию instruction-tuned модели. Заявлена поддержка контекста до 131 072 токенов и генерации до 8192 токенов; для входов длиннее 32 768 токенов требуется настройка YaRN, а статическое масштабирование может ухудшать качество или производительность на коротких текстах. Сильные стороны модели — улучшенные знания, способности в программировании и математике, следование инструкциям, генерация длинных текстов, обработка таблиц и других структурированных данных, а также устойчивость к разнообразным системным промптам. Ограничения включают высокие требования к вычислительным ресурсам, возможное снижение производительности на коротких запросах при включённом YaRN и потенциальные потери качества, связанные с 4-битной квантизацией. Модель распространяется по лицензии Qwen; точные условия следует уточнять в файле лицензии репозитория.

MiniMax-M2.5 — открытая большая языковая модель, разработанная компанией MiniMaxAI. Это текстовая autoregressive-модель для программирования, рассуждений, агентных сценариев, поиска с использованием инструментов и офисных задач, включая работу с документами, презентациями и финансовыми таблицами. Модель ориентирована на разработчиков, AI-агентов, чат-ботов и приложения, которым нужны сложная декомпозиция задач, tool calling и высокая скорость генерации. Модель имеет архитектуру Transformer с Mixture of Experts и механизмом Lightning Attention; по данным NVIDIA, общий размер составляет 230 млрд параметров. Она принимает и генерирует текст, поддерживает контекст до 204 800 токенов и предназначена для text-to-text задач. В обучении особое внимание уделялось reinforcement learning, агентному программированию и работе более чем с десятью языками программирования, включая Python, JavaScript, TypeScript, Java, C, C++, Go, Rust, Kotlin, PHP, Lua, Dart и Ruby. Заявлены результаты 80,2% в SWE-Bench Verified, 51,3% в Multi-SWE-Bench и 76,3% в BrowseComp. Сильные стороны MiniMax-M2.5 — кодинг полного цикла, планирование в стиле software architect, эффективное использование инструментов, поиск и высокая скорость: доступны варианты примерно на 50 и 100 токенов в секунду. Ограничение модели — текстовая модальность: изображения, аудио и видео не относятся к её входным или выходным данным. Показатели производительности приведены разработчиком и зависят от инфраструктуры, агентного окружения и настроек инференса. Весы модели опубликованы на Hugging Face и GitHub, поддерживаются Transformers, vLLM, SGLang и другими средствами локального развертывания. Лицензия указана как modified MIT; применимые условия следует проверять в опубликованных лицензионных документах.

Qwen2.5-32B-Instruct-GGUF — языковая instruction-tuned модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для генерации текста, диалоговых сценариев, следования инструкциям, программирования, математических задач, работы со структурированными данными и создания структурированных ответов, включая JSON. Модель поддерживает более 29 языков, в том числе английский, китайский, русский, французский, испанский, немецкий, японский и арабский. Модель представляет собой causal language model в формате GGUF с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в Attention QKV. Она содержит 32,5 млрд параметров, из которых 31 млрд — непараметры эмбеддингов, 64 слоя и GQA с 40 головами для Q и 8 для KV. Полная длина контекста GGUF-версии составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Доступны варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. К сильным сторонам относятся улучшенные знания, возможности в программировании и математике, следование инструкциям, обработка длинных текстов, таблиц и структурированных форматов, а также устойчивость к разнообразным системным промптам. Ограничение GGUF-версии — контекст до 131 072 токенов требует YARN и на данный момент поддерживается только в vLLM; для такого сценария рекомендуется использовать не-GGUF версии. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-32B-Instruct-GPTQ-Int4 — 4-битно квантованная GPTQ-версия инструкционно дообученной языковой модели Qwen2.5, разработанной командой Qwen. Это авторегрессионная causal language model для диалогов, генерации и преобразования текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит 32,5 млрд параметров, из которых 31 млрд относятся к неэмбеддинговым, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в attention QKV и GQA с 40 головами для Q и 8 для KV. Поддерживаются более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Заявленная длина контекста — до 131 072 токенов, а максимальная длина генерации — 8192 токена; в текущей конфигурации без дополнительной настройки доступно до 32 768 токенов, а для более длинных входов требуется YaRN. К преимуществам относятся улучшенные способности к программированию и математике, соблюдение инструкций, генерация длинных текстов, обработка таблиц и других структурированных данных, а также меньшие требования к памяти благодаря 4-битной квантованию. К ограничениям относятся возможное снижение качества по сравнению с исходной моделью в формате bfloat16 и потенциальное ухудшение производительности на коротких текстах при включении статического масштабирования YaRN. Модель распространяется по лицензии Apache-2.0 и предназначена для использования с библиотекой Transformers и совместимыми средствами инференса.

Qwen2.5-7B-Instruct-GPTQ-Int8 — инструкционная каузальная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалоговых приложений, генерации и обработки текста, следования инструкциям, работы с кодом и математическими задачами, создания длинных текстов и структурированных ответов, включая JSON. Модель поддерживает более 29 языков, в том числе английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель содержит 7,61 млрд параметров, из них 6,53 млрд — без учёта embedding, и включает 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV attention и Grouped Query Attention: 28 голов для Q и 4 для KV. Применена 8-битная GPTQ-квантизация, снижающая требования к памяти по сравнению с полноразмерной версией. Заявлена поддержка контекста до 131 072 токенов и генерации до 8192 токенов; для входов длиннее 32 768 токенов требуется настройка YaRN, которая может ухудшать производительность на коротких запросах. Для работы рекомендуется актуальная версия Transformers, а для развёртывания длинного контекста — vLLM. Сильные стороны модели — улучшенные возможности в кодировании, математике, следовании инструкциям, обработке таблиц и структурированных данных, а также многоязычность и поддержка длинного контекста. Ограничения включают возможное снижение качества или скорости из-за квантизации и потенциальное ухудшение производительности на коротких текстах при включённом статическом YaRN. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-32B-Instruct-GPTQ-Int8 — инструкцияно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen при Alibaba Cloud. Это каузальная текстовая модель для генерации текста и диалоговых сценариев, включая ответы на инструкции, написание длинных текстов, программирование, математические задачи, работу со структурированными данными и формирование структурированных ответов, в том числе JSON. Модель содержит около 32,5 млрд параметров, из которых 31 млрд приходятся на непараметрическую часть без эмбеддингов, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV-внимании; применяется Grouped Query Attention с 40 головами Q и 8 головами KV. Модель поддерживает текстовый ввод и вывод, более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Заявленная максимальная длина контекста составляет 131 072 токена, а генерации — 8192 токена; для контекстов свыше 32 768 токенов требуется настройка YaRN. GPTQ-квантизация до 8 бит снижает требования к памяти и подходит для локального или серверного развертывания, однако квантизация может влиять на качество по сравнению с исходной версией в формате bfloat16. При использовании YaRN со статическим коэффициентом масштабирования производительность на коротких текстах может ухудшаться. Для работы рекомендуется актуальная версия библиотеки Transformers, а для длинного контекста — vLLM. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen2.5-72B-Instruct-FP8-dynamic — это размещённая Red Hat AI версия Qwen2.5-72B-Instruct, исходно разработанной командой Qwen Alibaba Cloud. Модель представляет собой instruction-tuned causal language model для диалогов, генерации и анализа текста, следования инструкциям, работы со структурированными данными, программным кодом, математическими и рассуждательными задачами. Это текстовая модель без заявленной поддержки изображений или других модальностей. Базовая модель имеет 72,7 млрд параметров, 80 слоёв и архитектуру Transformer с RoPE, SwiGLU, RMSNorm, attention QKV bias и Grouped-Query Attention: 64 головы для Q и 8 для KV. Заявлены контекст до 131 072 токенов и генерация до 8192 токенов; для длинного контекста применяется YaRN. Модель поддерживает более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. В данном репозитории веса представлены в формате Safetensors с FP8 dynamic-квантизацией и использованием compressed-tensors, что предназначено для более эффективного хранения и инференса по сравнению с полноточной версией. Сильные стороны исходной Qwen2.5-72B-Instruct — улучшенные instruction following, кодирование, математика, обработка длинных текстов, таблиц и структурированных, включая JSON, ответов. Ограничения включают значительные требования к вычислительным ресурсам из-за размера модели, возможное влияние квантизации на качество и стандартные риски генеративных моделей: ошибки, галлюцинации и необходимость проверки результатов. Для базовой модели указана Qwen License Alibaba Cloud; она разрешает использование, модификацию и распространение при соблюдении условий лицензии, включая специальные требования для коммерческих продуктов с более чем 100 млн ежемесячных активных пользователей и указание использования Qwen при создании или улучшении других AI-моделей.

Карточка модели biohomunculus/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Qwen3-235B-A22B-Instruct-2507 — крупная языковая модель семейства Qwen3 от команды Qwen. Это причинная MoE-модель с 235 млрд параметров всего и 22 млрд активируемых параметров; в архитектуре 94 слоя и 128 экспертов, из которых для обработки активируются 8. Модель работает в режиме без пошагового рассуждения и предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель подходит для следования инструкциям, логических рассуждений, понимания текста, математики, науки, программирования и вызова инструментов. Она рассчитана на многоязычные сценарии и заявляет улучшенный охват редких знаний на разных языках. Нативное контекстное окно составляет 262 144 токена; README описывает расширение до примерно 1,01 млн токенов с использованием Dual Chunk Attention и MInference. К сильным сторонам относятся широкие общие возможности, работа с длинными документами и поддержка интерфейса вызова инструментов. Контекст около миллиона токенов требует специальной настройки и примерно 1000 ГБ суммарной памяти GPU, поэтому такое развертывание предъявляет очень высокие аппаратные требования. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Instruct-FP8 — FP8-квантизированная инструктивная версия причинной языковой модели Qwen3-Next, разработанная командой Qwen. Модель предназначена для генерации текста, диалоговых приложений, программирования, многошагового решения задач, агентских сценариев и обработки сверхдлинного контекста. Она работает только в instruct-режиме без блоков рассуждений <think></think>. Модель использует гибридную архитектуру Gated DeltaNet и Gated Attention, а также разреженную Mixture-of-Experts. Всего в ней 80 млрд параметров, из которых около 3 млрд активируются для обработки каждого токена; 48 слоёв, 512 экспертов и 10 активируемых экспертов. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Обучение включало предварительное обучение на 15 трлн токенов и последующую настройку; README не указывает полный перечень поддерживаемых языков. Сильные стороны модели — высокая эффективность параметров и вычислений, ускоренный вывод, поддержка сверхдлинного контекста и хорошие результаты в задачах знаний, рассуждений, кодирования, следования инструкциям, письма и работы агентов. Ограничения включают отсутствие thinking-режима, а также возможные отличия заявленных результатов от характеристик FP8-версии: приведённые в карточке эксперименты выполнены на исходной модели в формате bfloat16. Модель распространяется по лицензии Apache-2.0.

DeepSeek-V2.5-1210 — обновлённая версия языковой модели DeepSeek-V2.5, разработанная DeepSeek. Это плотная авторегрессионная модель семейства DeepSeek-V2 для генерации текста и диалогов; она поддерживает интерфейс вызова инструментов. Версия 1210 улучшает результаты на тестах по математике и программированию, а также качество письма и рассуждений по внутренним тестам разработчика. В README также отмечены сценарии загрузки файлов и суммаризации веб-страниц. Модель подходит для диалоговых приложений, решения математических задач, помощи с кодом, подготовки текстов, рассуждений и суммаризации. Она поддерживает контекст до 163 840 токенов; объём параметров в метаданных указан как 18,1 млрд. Для запуска BF16 в README требуется конфигурация из восьми GPU по 80 ГБ. Модель опубликована в формате safetensors для Transformers. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в карточке модели.

axana-labs/Qwen2.5-72B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Qwen2.5-72B-Instruct, разработанной командой Qwen/Alibaba Cloud и опубликованной в формате, совместимом с Transformers. Модель предназначена для диалоговых сценариев, следования инструкциям, генерации и анализа текста, работы со структурированными данными, создания JSON, программирования и математических задач. Модель относится к causal language models и использует архитектуру с RoPE, SwiGLU, RMSNorm, смещениями в QKV и Grouped Query Attention: 64 головы для Q и 8 для KV. Исходная модель содержит около 72,7 млрд параметров, из них 70 млрд без учёта embedding, имеет 80 слоёв, поддерживает контекст до 131 072 токенов и генерацию до 8 192 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество этой версии — 4-битное представление параметров, которое должно снижать требования к памяти и упрощать локальный запуск по сравнению с полноразмерной моделью. Сильными сторонами исходной Qwen2.5 заявлены улучшенные знания, программирование, математика, следование инструкциям, обработка длинных текстов и устойчивость к различным системным промптам. README не содержит подробных сведений о точном формате квантования, аппаратных требованиях, результатах тестирования именно этой сборки или ограничениях качества, поэтому их нельзя определить по имеющимся данным. Лицензия указана как other; конкретные условия использования в README не приведены.

Qwen3.6-27B with MTP — это плотная мультимодальная модель на базе Qwen/Qwen3.6-27B, представленная пользователем froggeric в формате GGUF для llama.cpp. Модель предназначена для диалога, программирования, отладки, анализа, перевода, работы с изображениями, рассуждений и использования инструментов. Заявлена поддержка английского, китайского и других языков. Модель содержит 27 млрд параметров, поддерживает текстовый и графический ввод через отдельный vision-проектор, а также контекст до 262 144 токенов при подходящей конфигурации памяти. Встроенные MTP-головы обеспечивают self-speculative decoding: llama.cpp может предсказывать несколько токенов за шаг и затем проверять их, что особенно эффективно для кода и других предсказуемых задач. Доступны варианты квантования от F16 до IQ2_M, что позволяет выбирать между качеством, скоростью и требованиями к памяти. К сильным сторонам относятся мультимодальность, большой контекст, поддержка reasoning и tool use, встроенное ускорение генерации без дополнительной draft-модели и исправленный шаблон чата для корректной работы в C++-рантаймах. Ограничения включают зависимость от версии llama.cpp b9180 или новее, необходимость отдельного mmproj-файла для изображений, а также неодинаковую эффективность MTP: ускорение обычно выше при программировании и ниже при аналитических и творческих задачах, особенно на сильных вариантах квантования. Модель распространяется по лицензии Apache-2.0.

DeepSeek-V2-Chat — диалоговая языковая модель компании DeepSeek AI на архитектуре Mixture-of-Experts (DeepSeekMoE) с механизмом внимания MLA. В README указаны 236 млрд параметров всего и 21 млрд активируемых на каждом токене; метаданные репозитория сообщают 18,1 млрд параметров. Модель дообучена методами supervised fine-tuning и reinforcement learning на базе предварительно обученной DeepSeek-V2. Модель предназначена для диалога, генерации текста, ответов на вопросы, рассуждений и задач по программированию. Она поддерживает контекст до 128 тысяч токенов по README; механизм MLA сокращает KV-кэш. В README приведены результаты оценки на английских и китайских тестах и описаны сильные результаты в открытой генерации и кодировании. Для локального запуска в BF16 README требует восемь GPU по 80 ГБ. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с лицензией репозитория.

NVIDIA DeepSeek-V4-Flash-NVFP4 — это квантизированная версия DeepSeek-V4-Flash, разработанного DeepSeek AI. NVIDIA подготовила модель с использованием Model Optimizer, но не является её владельцем или исходным разработчиком. Модель предназначена для генерации текста, сложного рассуждения, агентных AI-приложений, сценариев с использованием инструментов, математики, программной инженерии и корпоративных AI-ассистентов. Модель использует архитектуру Transformer с Mixture-of-Experts и гибридным вниманием, включающим Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Общее число параметров составляет 284 млрд, из них активируется 13 млрд. Поддерживается только текстовый ввод и вывод, многошаговые диалоги, системные инструкции, структурированный JSON, function/tool calling и выдача рассуждений. Максимальная длина контекста — 1 млн токенов. Доступны режимы Non-think, Think High и Think Max; используется специальный pipeline кодирования encoding_dsv4. К сильным сторонам относятся большой контекст, поддержка углублённого рассуждения, инструментального взаимодействия и задач программирования. Модель квантизирована в формат NVFP4, что ориентировано на ускоренный инференс на GPU NVIDIA. Указаны поддерживаемые среды SGLang и vLLM, операционная система Linux и совместимость с архитектурой NVIDIA Blackwell; тестирование проводилось на NVIDIA B200. Данные обучения не раскрыты, поэтому характеристики качества следует проверять на прикладных задачах. Для безопасного внедрения требуется дополнительное тестирование и валидация. Лицензия указана как MIT, модель доступна для коммерческого и некоммерческого использования.

RedHatAI/gemma-4-31B-it — инструктивная мультимодальная модель семейства Gemma 4, разработанного Google DeepMind и опубликованного Red Hat AI. Это плотная модель на 31 млрд параметров на архитектуре Gemma4ForConditionalGeneration, дообученная на основе google/gemma-4-31B; она принимает текст и изображения и генерирует текст. Вариант 31B предназначен для диалога, рассуждений, генерации и исправления кода, анализа изображений и работы с длинными запросами; поддерживает вызов инструментов и контекст до 256 тыс. токенов. Модель подходит для визуальных вопросов и ответов, распознавания текста и извлечения сведений из документов и изображений, понимания графиков и интерфейсов, а также для суммаризации, общения и помощи с кодом. Семейство Gemma заявляет поддержку более 140 языков при предварительном обучении и более 35 языков в прикладном использовании; README не уточняет точный языковой охват именно этого чекпойнта. Вариант 31B не заявлен как поддерживающий аудио, в отличие от малых моделей семейства. Весовые файлы доступны в формате safetensors, библиотека — Transformers. Лицензия — Apache 2.0.