I.6Перевод и языковая адаптация

Linkbricks-Horizon-AI-Japanese-Base-32B — языковая модель, дообученная директором по данным Linkbricks Юнсоном Джи (Saxo) на базе Qwen/QwQ-32B-Preview. Модель Qwen2 с 32 млрд параметров предназначена для генерации текста и диалогов; обучение включало японское продолженное предобучение, SFT и DPO, а также данные на японском, корейском, китайском и английском языках. В README заявлено окно контекста 128 тыс. токенов, тогда как метаданные указывают нативный контекст 32 768 токенов. Модель рассчитана на многоязычные задачи, включая перевод, суммаризацию, анализ отзывов и публикаций в социальных сетях, написание текстов и кода, математические и логические рассуждения. Поддерживает интерфейс вызова функций и инструментов. Лицензия — Apache-2.0. README не приводит результаты сравнительных оценок, поэтому заявленные сильные стороны не дают основания судить о качестве на конкретных тестах.

Linkbricks-Horizon-AI-Korean-Advanced-70B — корейская языковая модель, дообученная специалистом Linkbricks Джи Юнсоном (Saxo) на базе Hermes-3-Llama-3.1-70B. Это плотная causal language model семейства Llama с 69,5 млрд параметров; для обучения использованы continued pretraining, SFT и DPO, при этом токенизатор оставлен без изменений. Модель поддерживает контекст до 131 072 токенов и доступна в форматах Safetensors и GGUF. Модель предназначена для диалогов и генерации текста, особенно на корейском языке. Среди заявленных сценариев — перевод между корейским, английским, китайским и японским языками, суммаризация, анализ отзывов и публикаций в соцсетях, программирование, математика и логические задачи. Также заявлена поддержка вызова инструментов и функций на корейском языке. Обучение включало корейские новостные корпуса и наборы данных для перевода, суммаризации, вопросов и ответов, анализа тональности и инструкций. Модель может быть полезна для корейскоязычных задач, однако карточка не приводит независимых оценок качества. Распространяется по лицензии Apache-2.0.

Карточка модели monsterbeasts/LishizhenGPT на Hugging Face совпадает с карточкой bigscience/bloomz-7b1-mt, поэтому описание составлено по ней. BLOOMZ-7B1-mt — многоязычная генеративная языковая модель, созданная BigScience путём дообучения BLOOM на смеси кросс-языковых задач xP3. Она предназначена для выполнения инструкций на естественном языке без отдельного дообучения под каждую задачу: модель может отвечать на вопросы, переводить, классифицировать текст и создавать связные тексты. Архитектура — плотная авторегрессионная BLOOM с 7,1 млрд параметров; модель работает с текстом, поддерживает десятки языков и имеет контекст до 2048 токенов. Среди сильных сторон — следование инструкциям и перенос между языками и задачами в режиме zero-shot. Качество ответов зависит от формулировки запроса: README рекомендует явно обозначать границу инструкции и указывать желаемый язык и контекст. Модель может продолжать входной текст вместо ответа, если запрос сформулирован неоднозначно. Распространяется по лицензии BigScience BLOOM RAIL 1.0.

Llama-3-Swallow-70B-Instruct-v0.1 — диалоговая языковая модель команды Swallow-LLM из Токийского технологического института и AIST, основанная на Meta Llama 3. Модель прошла дополнительное предобучение с упором на японские данные, а версия Instruct — дообучение с учителем и настройку Chat Vector. Это плотная модель семейства Llama с 69,5 млрд параметров, принимающая и генерирующая текст; окно контекста составляет 8192 токена. Модель предназначена для диалога и выполнения инструкций на японском и английском языках. Среди проверявшихся задач — ответы на вопросы, чтение и понимание текста, суммаризация, перевод между японским и английским, математические рассуждения и генерация кода. В README приведены результаты на японских и английских бенчмарках, включая MT-Bench JA. Разработчики предупреждают, что модель находится на ранней стадии исследований и разработки и не настроена для надёжного следования человеческим намерениям и требованиям безопасности. Метаданные указывают лицензию Llama 3 (llama3); перед использованием следует учитывать её условия.

Llama-SEA-LION-v2-8B — многоязычная языковая модель, разработанная командой Products Pillar организации AI Singapore при финансировании Национального исследовательского фонда Сингапура. Это плотная decoder-модель на архитектуре Llama 3 с 7,5 млрд параметров, полученная продолжением предварительного обучения Meta-Llama-3-8B-Instruct на примерно 48 млрд токенов пяти языков Юго-Восточной Азии и английского. Модель принимает текст и предназначена для генерации ответов и выполнения языковых задач на английском, индонезийском, тамильском, тайском и вьетнамском языках; контекст составляет до 8192 токенов. Модель оценивали на ответах на вопросы, анализе тональности, выявлении токсичности, переводе, суммаризации, причинно-следственных рассуждениях и распознавании языковых следствий. Оценка проводилась в режиме пяти примеров с использованием собственных для языков подсказок и ограниченных выборок данных, поэтому результаты могут не отражать качество во всех сценариях. Карточка предупреждает, что модель не прошла настройку безопасности; для использования в продуктах следует самостоятельно проверить её ответы и настроить меры безопасности. Лицензия — Llama 3 Community License.

Llama-SEA-LION-v3-8B-IT — инструктивно дообученная языковая модель AI Singapore, разработанная командой Products Pillar при финансировании Национального исследовательского фонда Сингапура. Это плотная декодерная модель на архитектуре Llama 3.1 с 7,5 млрд параметров, предназначенная для диалогов и выполнения пользовательских инструкций. Она принимает текст и генерирует текст; заявленная длина контекста — 128 тыс. токенов. Модель обучена следовать инструкциям на английском, индонезийском, яванском, сунданском, тамильском, тайском и вьетнамском языках. Карточка также заявляет поддержку бирманского, китайского, филиппинского, кхмерского, лаосского и малайского; метаданные каталога отдельно отмечают английский, китайский, вьетнамский, индонезийский, тайский и тамильский. Подходит для многоязычных диалогов, ответов на вопросы, суммаризации, перевода и других текстовых задач. Распространяется по лицензии Llama 3.1 Community License. Модель может галлюцинировать, выдавать нерелевантные ответы и непоследовательно рассуждать; её безопасность специально не настраивалась, поэтому ответы и сценарии использования требуют проверки.

bigscience/mt0-xl — мультиязычная модель BigScience для выполнения инструкций на естественном языке. Она основана на архитектуре encoder-decoder mT5-XL и дообучена на смеси межъязыковых задач xP3, чтобы обобщать инструкции на ранее не встречавшиеся задачи и языки. Модель содержит 1,9 млрд параметров и предназначена для генерации текста по запросу, включая перевод, ответы на вопросы, классификацию по текстовой инструкции и создание историй. Модель принимает текстовые запросы и выдаёт текст. В карточке указана поддержка десятков языков; примеры охватывают перевод с французского, запросы на вьетнамском и испанском и ответ на телугу. Опубликована в форматах PyTorch и safetensors, лицензия — Apache-2.0. Качество зависит от формулировки запроса: рекомендуется ясно обозначать границы входного текста и задавать нужный язык ответа. Модель обучена на мультиязычных данных, но её результаты на разных языках и задачах могут различаться.

NB-Whisper Medium — модель распознавания речи, разработанная NB AI-Lab Национальной библиотекой Норвегии на основе OpenAI Whisper Medium. Это плотная encoder-decoder модель семейства Whisper с 455,8 млн параметров, предназначенная для преобразования речи в текст и перевода речи. Она обучалась на корпусах норвежской речи; карточка также указывает поддержку норвежского букмола, норвежского нюношка и английского языка. Модель подходит для расшифровки аудиозаписей, включая длинные файлы, и может формировать временные метки для предложений и слов. Для более длинных записей README рекомендует обработку фрагментами около 28 секунд; увеличение beam size может повысить точность ценой скорости и памяти. Для эффективной локальной работы с версией Medium рекомендуется GPU. Лицензия — Apache 2.0.

DAMO-NLP-MT/polylm-1.7b — многоязычная авторегрессионная языковая модель семейства PolyLM, разработанная командой Image Machine Translation Team академии Alibaba DAMO. Модель предназначена для генерации текста, ответов на вопросы, понимания текста и мультиязычных сценариев, включая перевод; в официальном примере показан перевод с английского на китайский. Модель построена на архитектуре GPT-2 и имеет конфигурацию с 24 слоями, размером скрытого представления 2048, 16 головами внимания и словарём из 256 000 токенов. Нативная длина контекста составляет 2048 токенов. PolyLM ориентирована на 18 распространённых языков, включая английский, испанский, русский, арабский, японский, корейский, тайский, индонезийский и китайский. Модель доступна под лицензией Apache-2.0. Ограничения включают относительно короткий контекст и отсутствие специализированной мультимодальности; качество генерации и следования инструкциям может зависеть от языка и формулировки запроса.

Qwen2.5-14B-Instruct-GGUF — это квантизированная в формате GGUF версия инструкционной языковой модели Qwen2.5-14B-Instruct, разработанной командой Qwen. Квантизация выполнена bartowski на основе llama.cpp, релиз b3772. Модель предназначена для диалоговых приложений, генерации текста и выполнения инструкций, включая работу со структурированными данными. Модель поддерживает контекст до 128 тысяч токенов с настройками YaRN RoPE и генерацию до 8 тысяч токенов. Для обучения использован набор данных объёмом 18 триллионов токенов. Заявлена поддержка более 29 языков, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся длинный контекст, многоязычность и улучшенное понимание и формирование структурированных данных; конкретные ограничения производительности и требования к ресурсам в README не указаны. Модель распространяется по лицензии Apache 2.0. Использование Community Model предоставляется сторонним сообществом; LM Studio не является разработчиком и не гарантирует точность, безопасность или пригодность результатов. Как и другие генеративные модели, она может создавать неточный, вредный или неподходящий контент.

Qwen2.5-32B-Instruct-MLX-4bit — языковая instruction-tuned модель для генерации текста и диалоговых сценариев, основанная на Qwen2.5-32B-Instruct, разработанной командой Qwen. Данная версия подготовлена сообществом LM Studio: MLX-квантизацию в формате 4-bit выполнил bartowski с использованием mlx-examples. Модель предназначена для работы на компьютерах Mac с Apple Silicon. Модель поддерживает обработку и генерацию текста, понимание структурированных данных и работу с длинным контекстом до 32 тысяч токенов; заявленный максимальный объём генерации составляет 8 тысяч токенов. Поддерживается более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся большой размер модели, многоязычность, поддержка длинного контекста и оптимизация для запуска на Apple Silicon благодаря MLX и 4-bit квантизации. Ограничения включают зависимость от совместимого оборудования и возможное снижение точности по сравнению с исходной моделью из-за квантизации. Как и другие генеративные модели, она может создавать неточные, вредные или неподходящие ответы. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen2-Audio-7B-Instruct-4bit — 4-битная версия Qwen2-Audio-7B-Instruct, подготовленная сообществом mlx-community для запуска на компьютерах Apple Silicon с помощью MLX и mlx-audio. Это плотная мультимодальная чат-модель с аудиоэнкодером в стиле Whisper из 32 слоёв, линейным проектором и языковой моделью Qwen2-7B. В 4 бита квантована только языковая модель; энкодер и проектор сохранены в bf16. Размер модели — около 4,2 ГБ вместо примерно 15 ГБ у версии bf16. Модель принимает аудио и текстовые инструкции, поддерживает распознавание и перевод речи, создание текстовых описаний аудио, анализ эмоций и тональности, классификацию окружающих звуков, понимание музыки и голосовой чат. В README указана скорость генерации около 4,7 токена в секунду на устройствах Apple Silicon серии M; качество транскрипции, по заявлению авторов карточки, соответствует версии на Hugging Face. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3-4B-Instruct-2507-quantized.w8a8 — это квантизированная версия языковой модели Qwen/Qwen3-4B-Instruct-2507, разработанная Red Hat совместно с Neural Magic. Модель построена на архитектуре Qwen3ForCausalLM, работает с текстом на входе и генерирует текст на выходе. Размер базовой модели — 4 млрд параметров; поддерживается контекст до 262 144 токенов в конфигурации развертывания, указанной в README. Модель предназначена для рассуждений, следования многоязычным инструкциям, перевода и function calling. Её также можно адаптировать под предметные области с помощью дообучения. Языки перечислены обобщённо как многоязычные, без указания конкретного набора языков. Поддерживается эффективное развертывание через vLLM, включая OpenAI-совместимый API. Веса и активации линейных операторов в блоках Transformer квантизированы в INT8; применяются SmoothQuant и GPTQ. Это примерно вдвое снижает требования к памяти и размер модели на диске, а также может увеличить пропускную способность матричных умножений примерно в 2 раза. Ограничение модели — использование квантованного представления и текстовая модальность; сведения о конкретном влиянии квантования на качество и подробные результаты оценки в README не приведены. Модель распространяется по лицензии Apache 2.0.

Avesed/Qwen3.8-27B-INT8-W8A8 — квантизированная версия Qwen/Qwen3.8-27B, разработанная Avesed. Это плотная гибридная vision-language-модель с линейным механизмом внимания GatedDeltaNet, периодическими слоями полного внимания, встроенной vision-башней и MTP-головой для speculative decoding. Модель поддерживает английский и китайский языки, а также обработку изображений и текста; точный размер контекста в README не указан. Модель предназначена для генерации и анализа текста, рассуждений, решения математических задач, перевода, двуязычных сценариев и задач с изображениями. Квантизация INT8 применяется к весам и активациям по схеме W8A8: используются симметричные INT8-веса и динамические INT8-активации, тогда как наиболее чувствительные к качеству компоненты, включая embeddings, lm_head, vision tower и MTP head, сохранены в bf16. Объём модели составляет около 30 ГБ; для запуска рекомендуется две видеокарты по 24 ГБ с tensor parallelism. Сильная сторона сборки — высокая скорость prefill: на двух RTX 3090 зафиксировано около 4408 токенов/с против 2276 токенов/с у INT4-сборки, при этом доступно speculative decoding через MTP. Скорость decode ниже, около 73 токенов/с, поскольку INT8 требует больше пропускной способности памяти. На GSM8K модель показала 96,8% на выборке из 250 задач; также проверены англо-китайская генерация и перевод, работа vision-пути и reasoning-параметров. MMLU-Pro не тестировалась. Модель распространяется по лицензии Apache-2.0 и предназначена для запуска через vLLM.

RedHatAI/Qwen3-8B-FP8-dynamic — это квантизированная FP8-версия языковой модели Qwen3-8B, разработанная Red Hat совместно с Neural Magic на базе модели Alibaba Cloud Qwen/Qwen3-8B. Модель предназначена для генерации текста, рассуждений, многоязычного следования инструкциям, перевода, вызова функций и создания предметно-ориентированных решений с помощью дообучения. Она поддерживает tool calling и рассчитана на работу с текстовыми входами и выходами. Модель использует архитектуру Qwen3ForCausalLM и поддерживает китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский и ряд других языков. Веса и активации линейных операторов в трансформерных блоках квантизированы в FP8: для весов применяется симметричная статическая поканальная схема, для активаций — симметричная динамическая потокенная схема. По заявлению разработчиков, это примерно на 50% снижает требования к видеопамяти и размер на диске, а также примерно вдвое увеличивает пропускную способность матричных вычислений. Длина контекста в README не указана. Модель оптимизирована для эффективного развёртывания с использованием vLLM, включая OpenAI-совместимый сервер, и валидирована в Red Hat OpenShift AI 2.24, Red Hat AI Inference Server 3.2.1 и vLLM 0.10.0. Ограничения FP8-квантизации и отсутствие сведений о конкретных показателях качества следует учитывать при выборе модели. Распространяется по лицензии Apache 2.0; использование не должно нарушать применимое законодательство и требования экспортного контроля.

Qwen3-Swallow-30B-A3B-RL-v0.2 — двуязычная языковая модель Swallow LLM на архитектуре Qwen3 MoE, дообученная методом обучения с подкреплением на проверяемых наградах (RLVR) поверх Qwen3-Swallow-30B-A3B-SFT-v0.2. Она предназначена для диалогов на японском и английском, перевода между этими языками, решения математических задач и программирования с рассуждениями. В репозитории указано 2,6 млрд параметров и контекст до 40 960 токенов; для воспроизводимого инференса авторы рекомендуют vLLM и советуют ограничивать контекст 32 768 токенами или меньше. Модель обучалась на японских и англоязычных корпусах, а также на данных по математике, коду и диалогам. Разработчики сообщают об улучшенных языковых и рассуждательных способностях при сохранении результатов в STEM-задачах. Модель не обучалась специально для вызова инструментов, а переключение режима рассуждений не поддерживается. Авторы отмечают, что модель находится на раннем этапе разработки и не настроена для гарантированного соответствия намерениям человека и требованиям безопасности. Лицензия — Apache-2.0.

Qwen-SEA-LION-v4-32B-IT — инструктивная языковая модель AI Singapore, разработанная командой AI Products Pillar при финансировании NRF Сингапура. Это плотная авторегрессионная модель семейства Qwen3 с 29,7 млрд параметров, дообученная на базе Qwen/Qwen3-32B. После продолженного предобучения примерно на 100 млрд токенов из корпуса SEA-Pile v2 модель прошла постобучение на примерно 8 млн пар вопросов и ответов. Модель предназначена для диалога и выполнения инструкций, включая ответы на вопросы, суммаризацию, перевод, анализ тональности и рассуждения. Она ориентирована на языки Юго-Восточной Азии и также поддерживает английский и китайский. Метаданные указывают контекст до 40 960 токенов; README приводит нативный контекст 32 768 токенов. Модель распространяется под лицензией MIT. В README описаны оценки на наборах SEA-HELM, SEA-IFEval и SEA-MTBench для языковых задач, следования инструкциям и многоходового диалога. Модель может галлюцинировать и выдавать нерелевантные или непоследовательные ответы; она не настроена на безопасность и не проверялась на устойчивость к состязательным запросам. Для прикладного использования следует самостоятельно оценить качество и настроить защитные меры.

SeaLLMs-Audio-7B — мультимодальная аудиоязыковая модель семейства SeaLLMs, разработанная для языков Юго-Восточной Азии. Она построена на Qwen2-Audio-7B с заменой языковой модели на Qwen2.5-7B-Instruct и полным дообучением на 1,58 млн диалогов с аудио и текстом. В метаданных указана архитектура Qwen2-Audio и формат safetensors. Модель принимает аудио, текст или их сочетание и предназначена для распознавания речи, описания аудио, перевода речи в текст, анализа эмоций, ответов на вопросы по аудио, краткого пересказа и голосового общения. Основные языки — индонезийский, тайский и вьетнамский, также поддерживаются английский и китайский. Разработчики сообщают о результатах на собственном бенчмарке SeaBench-Audio; руководство по эксплуатации включает Transformers и vLLM. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с карточкой модели. README не приводит явных ограничений качества или безопасного применения.

Shisa V2 405B — универсальная чат-модель Shisa.AI, дообученная на основе Meta Llama 3.1 405B Instruct. Это плотная авторегрессионная языковая модель на 403,7 млрд параметров с контекстом до 131 072 токенов; она принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Основной упор сделан на японский язык при сохранении сильных возможностей на английском; в обучающие данные также включены примеры на корейском и традиционном китайском. Модель предназначена для диалога, выполнения инструкций, генерации текста и перевода, в том числе для японских задач. Разработчик сообщает об улучшении японских результатов относительно базовой модели и приводит сравнительные оценки на нескольких бенчмарках; результаты зависят от методики оценки. Для запуска проверены vLLM и SGLang, а веса опубликованы в формате Safetensors. Модель распространяется по лицензии Llama 3.1. Она требует значительных вычислительных ресурсов из-за размера в 405 млрд параметров; заявленные результаты бенчмарков не гарантируют качество на конкретных задачах, а основной акцент обучения сделан на японском и английском языках.

Spark-X2.5-4B-GGUF — компактная языковая модель общего назначения, разработанная XHToken и представленная в формате GGUF. Модель предназначена для диалогов, написания и перевода текстов, рассуждений, программирования, использования инструментов и агентских сценариев. Это текстовая модель размером 4 млрд параметров с гибридной архитектурой внимания, нативной длиной контекста до 1 млн токенов и поддержкой более 200 языков, включая английский и китайский. К сильным сторонам относятся компактный размер, широкий набор прикладных задач, многоязычность и возможность локального запуска через llama.cpp, Ollama, LM Studio и Unsloth. Для работы требуется совместимая версия программного обеспечения с поддержкой архитектуры spark2_5: llama.cpp b10828 или новее, Ollama v0.34.1 или новее либо соответствующая версия LM Studio. README не содержит подробных результатов тестирования, требований к ресурсам и сведений о поддерживаемых модальностях помимо обработки текста. Модель распространяется по лицензии Apache License 2.0.

miifanboy/Spark-X2.5-4B-i1-GGUF — набор GGUF-вариантов модели Spark-X2.5-4B, разработанной XHToken и опубликованной Mii Fanboy. Это компактная универсальная языковая модель для диалогов, написания текстов, перевода, рассуждений, программирования, использования инструментов и агентских сценариев. Модель предназначена для локального запуска через Ollama и LM Studio с совместимой реализацией llama.cpp. Spark-X2.5-4B использует гибридную архитектуру внимания, имеет размер 4B параметров, поддерживает нативный контекст до 1 млн токенов и более 200 языков; в метаданных явно указаны английский и китайский. Репозиторий содержит imatrix-квантизованные варианты IQ3, Q3, IQ4, Q4, Q5, Q6 и Q8 с размером файлов примерно от 1,68 до 4,07 ГБ. Квантизация позволяет снизить требования к памяти при сохранении близкого к базовой модели качества; наиболее качественными в приведённых тестах являются Q6_K и Q8_0, а IQ4_XS рекомендован при ограниченном объёме VRAM. Сильные стороны модели — универсальность, поддержка длинного контекста, широкого набора языков и нескольких уровней квантизации для локального развертывания. Ограничения зависят от варианта: низкобитные кванты могут требовать подробных системных подсказок и заметнее уступать базовой модели, а IQ-варианты медленнее работают на CPU; для CPU рекомендуется использовать Q-кванты. Лицензия — Apache-2.0.

Teuken-7B-instruct-commercial-v0.4 — мультиязычная языковая модель с 7,5 млрд параметров, разработанная Fraunhofer, Forschungszentrum Jülich, TU Dresden и DFKI в рамках проекта OpenGPT-X. Это инструкционно дообученная плотная decoder-only Transformer-модель семейства Llama, основанная на Teuken-7B-base-v0.4. Она предназначена для генерации ответов и выполнения инструкций на официальных языках ЕС; обучение базовой модели проводилось на 4 трлн токенов, а контекст составляет 4096 токенов. Модель ориентирована на многоязычные сценарии, включая диалог, ответы на вопросы, суммаризацию и перевод. По заявлению разработчиков, она обеспечивает более стабильные результаты на европейских языках, чем англоцентричные модели. Модель может выдавать предвзятый или токсичный текст и галлюцинировать; разработчики не рекомендуют использовать её для математических и программных задач. Лицензия Apache 2.0 допускает коммерческое применение.

Ultravox v0.6 Llama 3.3 70B — мультимодальная речевая языковая модель от Fixie.ai. Она принимает текст и речь: аудио кодируется речевым энкодером Whisper large-v3-turbo и объединяется с текстовым запросом, после чего модель формирует текстовый ответ. В основе этой версии — Llama 3.3 70B. Модель предназначена для распознавания и анализа речи, речевого перевода и создания голосовых агентов. Версия v0.6 получила расширенные данные обучения на хинди, что улучшило понимание хинди, а также обучение на зашумлённых аудиоданных. При слишком шумном аудио или отсутствии разборчивой речи модель может выдать маркер ((noise)). Поддерживаются разные языки; в карточке перечислены, в частности, английский, хинди, японский, русский и китайский. Генерация аудио не поддерживается: ответ формируется текстом. Модель распространяется по лицензии MIT.

Ultravox v0.7 GLM 4.6 — мультимодальная речевая языковая модель от Ultravox.ai. Она объединяет языковую модель GLM 4.6 с речевым энкодером whisper-large-v3-turbo: принимает речь и текстовый контекст, после чего формирует текстовый ответ. Модель предназначена для распознавания речи, понимания аудио, ответов на вопросы по аудиозаписям и перевода речи. В README сообщается о тестировании на BigBenchAudio, VoiceBench, CoVoST 2 и LibriSpeech; в частности, приведены результаты для аудио-рассуждений, речевого перевода и распознавания. Метаданные указывают архитектуру Ultravox и формат safetensors. Версия v0.7 построена на GLM 4.6; README также описывает обучение на смеси наборов для ASR, речевого перевода и аудио с шумом. Модель принимает аудио вместе с текстом, например текстовую системную инструкцию и голосовое сообщение, и выдаёт текст. В карточке заявлена поддержка многозадачных сценариев работы с речью, однако точные ограничения по языкам и размеру контекста не приведены. Лицензия — MIT. README указывает, что использование собственных системных инструкций учитывалось при оценке; результаты тестов сами по себе не гарантируют качество на других данных.

Voxtral-Small-24B-2507-gguf — это GGUF-квантизация модели Voxtral Small 1.0 (24B), разработанной Mistral AI и адаптированной для работы с transcribe.cpp. Модель предназначена для офлайн-распознавания речи, перевода речи и анализа аудио. Она принимает монофонические WAV-файлы с частотой 16 кГц и поддерживает автоматическое определение языка и перевод. Архитектура объединяет двунаправленный аудиоэнкодер Whisper-large-v3, проектор с группировкой по четыре аудиокадра и причинную языковую модель Mistral Small 24B. Декодер содержит 40 слоёв, использует GQA 32/8, NEOX RoPE и SwiGLU; аудиоданные поступают в него через внедрение аудиотокенов. Заявлена длина контекста 32k токенов: модель обрабатывает аудио длительностью до 30 минут для транскрибации и до 40 минут для понимания. Поддерживаются английский, испанский, французский, португальский, хинди, немецкий, нидерландский и итальянский языки. Сильные стороны модели — высокая точность распознавания, мультиязычность, автоматическое определение языка, возможность перевода и выполнение задач понимания аудио, включая вопросы и суммаризацию. Для LibriSpeech test-clean показатель WER составляет 1,56% для BF16 и Q8_0, а для Q4_K_M — 2,11%. Ограничения включают значительные требования к дисковому пространству и ресурсам: размеры файлов варьируются примерно от 14,30 ГБ для Q4_K_M до 48,55 ГБ для F16; встроенные метки времени не поддерживаются. Использование модели распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

handy-computer/whisper-base-gguf — это конверсия мультиязычной модели распознавания речи OpenAI Whisper base в формат GGUF для использования с transcribe.cpp. Модель разработана на основе openai/whisper-base и предназначена для автоматического преобразования аудио в текст, определения языка и перевода речи с любого поддерживаемого языка на английский. Для длинных записей используется декодирование фрагментами с окнами по 30 секунд; потоковая обработка не поддерживается, доступны сегментные временные метки. Модель построена на архитектуре encoder-decoder Transformer и поддерживает широкий набор языков, включая русский, английский, немецкий, французский, испанский, китайский, японский и многие другие. Доступны варианты F32, F16, Q8_0, Q6_K, Q5_K_M и Q4_K_M размером примерно от 59 до 292 МБ. На тестовой выборке LibriSpeech test-clean показатель WER составляет 5,10–5,36% в зависимости от квантования, что указывает на высокое качество распознавания английской речи; качество заметно различается между языками, поэтому для менее распространённых языков требуется дополнительная проверка. Модель подходит для локальной транскрибации, субтитров, голосового ввода, анализа аудиозаписей и перевода речи. Квантованные варианты снижают требования к памяти при небольшом ухудшении качества, но README не содержит данных о точных требованиях к оборудованию и полной производительности. Распространяется по лицензии Apache-2.0.

whisper-large-v2-gguf — это конвертация мультиязычной модели автоматического распознавания речи OpenAI Whisper large-v2 в формат GGUF для использования с transcribe.cpp. Модель разработана OpenAI, а сборки и конвертация опубликованы handy-computer. Она предназначена для расшифровки аудио, определения языка и перевода речи с поддерживаемых языков на английский текст. Модель использует архитектуру encoder-decoder Transformer и обрабатывает аудио окнами по 30 секунд с чанковой декодировкой длинных записей. Поддерживается широкий набор языков, включая русский, английский, немецкий, французский, испанский, китайский, японский и многие другие. Доступны варианты F32, F16, Q8_0, Q6_K, Q5_K_M и Q4_K_M размером примерно от 997 МБ до 6,18 ГБ. Предусмотрены сегментные временные метки, но потоковая обработка не поддерживается. Сильные стороны модели — широкая языковая поддержка, распознавание, определение языка и перевод, а также несколько вариантов квантования для компромисса между качеством и требованиями к памяти. На тесте LibriSpeech test-clean заявленная WER составляет от 2,46% до 2,97% в зависимости от варианта, однако качество заметно различается между языками и наборами данных. Производительность зависит от оборудования и режима вычислений, а отсутствие streaming ограничивает применение в сценариях с минимальной задержкой. Модель распространяется по лицензии Apache-2.0.

Whisper medium GGUF — это квантованная версия мультиязычной модели автоматического распознавания речи OpenAI Whisper medium, подготовленная handy-computer для работы с transcribe.cpp. Модель предназначена для преобразования речи в текст, определения языка и перевода речи с любого поддерживаемого языка на английский. Она подходит для транскрибации аудио, субтитров, голосовых архивов и других сценариев speech-to-text. Потоковая обработка не поддерживается; длинные записи обрабатываются чанками на основе окон длительностью 30 секунд, доступны сегментные временные метки. Модель использует архитектуру encoder-decoder Transformer и поддерживает широкий набор языков, включая русский, английский, немецкий, французский, испанский, китайский, японский и многие другие. Доступны варианты GGUF с точностью F32, F16 и квантованием Q8_0, Q6_K, Q5_K_M и Q4_K_M; размер файлов составляет примерно от 504 МБ до 3,06 ГБ. На тесте LibriSpeech test-clean указанный показатель WER составляет 2,59–2,64% в зависимости от варианта квантования. Сильными сторонами являются мультиязычность, определение языка, перевод речи и сохранение близкого к исходной модели качества при уменьшении размера. Ограничения включают отсутствие streaming, зависимость производительности от оборудования и заметно различающееся качество между языками: приведённые оценки WER и CER показывают особенно слабые результаты для ряда малоресурсных языков. Модель распространяется по лицензии Apache-2.0.

Agnes-SeaLLM-8B — дообученная авторами Agnes-AI плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров. Она предназначена для диалогов и следования инструкциям, а также для математических рассуждений и перевода с особым вниманием к языкам и культурному контексту Юго-Восточной Азии. Модель принимает текст и генерирует текст; заявлена поддержка английского, вьетнамского, индонезийского, тайского и китайского языков. Контекст — до 40 960 токенов. В README заявлены высокая эффективность при ограниченных ресурсах, сильные результаты на экзаменационных тестах и меры по снижению галлюцинаций, однако приведённые таблицы результатов опущены. Для запуска README рекомендует как минимум две GPU с 24 ГБ VRAM каждая и 64 ГБ оперативной памяти. Распространяется по лицензии Apache-2.0.

Apertus EstLLM 8B 0326 Instruct — диалоговая языковая модель TartuNLP, созданная методом слияния chat-vector на основе tartuNLP/Apertus-EstLLM-8B-Instruct-1125. Это плотная авторегрессионная модель семейства Apertus с архитектурой ApertusForCausalLM и 10,3 млрд параметров; она предназначена для генерации текста и выполнения инструкций в формате диалога. Модель принимает текст и выдаёт текст, поддерживает эстонский и английский языки, а её длина контекста составляет 65 536 токенов. Модель подходит для ответов на вопросы, языковых задач и рассуждений на эстонском и английском, а также для перевода с английского на эстонский. В README приведены результаты оценки на эстонских и англоязычных тестах, включая задачи понимания инструкций, языковой компетенции и знаний. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0.