III.4Клиентская поддержка и customer success

Bielik-11B-v3.0-Instruct — генеративная языковая модель с 11 млрд параметров, разработанная SpeakLeash совместно с центром ACK Cyfronet AGH. Это дообученная для следования инструкциям версия Bielik-11B-v3-Base-20250730 с архитектурой causal decoder-only; формат диалога — ChatML. Модель предназначена для общения, ответов на вопросы и выполнения разнообразных текстовых задач, включая задачи на логику, STEM, математику и работу с инструментами. Модель обучали на текстах и инструкциях на 32 европейских языках, уделяя особое внимание польскому. В обучении использовались многоходовые диалоги, синтетические и проверенные вручную инструкции, а также методы DPO и обучения с подкреплением. В метаданных перечислена поддержка польского и ряда европейских языков, включая русский и английский. Лицензия — Apache 2.0. Разработчики характеризуют модель как демонстрацию возможностей базовой модели после дообучения. Она может выдавать фактически неверные, предвзятые или оскорбительные ответы и не имеет встроенных механизмов модерации; её выводы требуют проверки.

German-RAG-PHI-3.5-MINI-4B-CPT-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Avemio AI при поддержке Hessian AI. Это вариант Phi, дообученный методом continued pre-training на наборе German-RAG-CPT; модель предназначена для работы с немецким и английским языками, с упором на немецкий. Модель обучалась на примерах контекстных ответов на вопросы, структурированных рассуждений и суммаризации. Её можно применять для ответов по предоставленному контексту, извлечения и синтеза сведений в сценариях RAG, анализа и краткого пересказа документов. В метаданных указаны 3,7 млрд параметров и контекст до 131 072 токенов; опубликованные веса представлены в формате safetensors. Модель распространяется по лицензии Apache 2.0. Ответы могут содержать фактические ошибки и предвзятость; фильтрация безопасности отсутствует, поэтому возможна генерация вредоносного или чувствительного контента. Результаты следует проверять.

Uluka Studio Mercury 2 BF16 Merged — мультимодальный чат-чекпойнт на базе Qwen3.6-35B-A3B, подготовленный UlukaDev. Это объединённая BF16-версия дообучения с адаптером LoRA UlukaDev/qwen3p6-35b-a3b-uluka-mercury-2-lora; веса представлены в формате safetensors и используют архитектуру Qwen3.5 MoE. Модель предназначена для диалогов и анализа изображений; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и изображения и выдаёт текст. Лицензия указана как other, поэтому условия использования следует сверить с карточкой и лицензией базовой модели.

Youssofal/Qwen3.8-27B-MTPLX-Bare-Speed — это 4-битная quantized-версия Qwen/Qwen3.8-27B, подготовленная разработчиками MTPLX для быстрого локального запуска на компьютерах Mac с Apple Silicon. Модель предназначена для диалогов, генерации текста и кода, а также сценариев локального использования через MTPLX Mac app или командный интерфейс. Сохранённая встроенная голова multi-token prediction позволяет применять speculative decoding и ускорять генерацию примерно в два-три раза по сравнению с обычным декодированием. Модель использует MLX-пакет с 4-битными матрицами весов и группами по 64 значения; свёрточные ядра GDN, параметры рекуррентного состояния, нормализации и MTP-head хранятся в 16-битном формате. Глубина MTP составляет 3, контекстное окно — 262 144 токена, размер загрузки — 16 ГБ, пиковое потребление unified memory — около 17 ГБ. Указанные настройки sampling: temperature 1.0, top-p 0.95 и top-k 20; поддерживаются уровни reasoning effort xhigh, medium и low. Модель рассчитана на MacBook Pro, MacBook Air, Mac mini и Mac Studio с чипами M1–M5 и минимум 32 ГБ unified memory. Главное преимущество — высокая скорость генерации, особенно в коротких чат-сценариях: на MacBook Pro с M5 Max заявлено до 65,2 токена в секунду для coding-задачи и 32,4 токена в секунду при длинной генерации. Компромисс — более грубая 4-битная quantization: авторы README прямо указывают на более низкое качество и меньшую скорость на длинных задачах программирования по сравнению с вариантом Optimized Speed. Для M1 и M2 рекомендуется отдельная FP16-сборка. Модель распространяется по лицензии Apache-2.0.

Карточка модели safestack/Bielik-11B-v3.0-Instruct на Hugging Face совпадает с карточкой speakleash/Bielik-11B-v3.0-Instruct, поэтому описание составлено по ней. Bielik-11B-v3.0-Instruct — генеративная языковая модель с 11 млрд параметров, разработанная SpeakLeash совместно с центром ACK Cyfronet AGH. Это дообученная для следования инструкциям версия Bielik-11B-v3-Base-20250730 с архитектурой causal decoder-only; формат диалога — ChatML. Модель предназначена для общения, ответов на вопросы и выполнения разнообразных текстовых задач, включая задачи на логику, STEM, математику и работу с инструментами. Модель обучали на текстах и инструкциях на 32 европейских языках, уделяя особое внимание польскому. В обучении использовались многоходовые диалоги, синтетические и проверенные вручную инструкции, а также методы DPO и обучения с подкреплением. В метаданных перечислена поддержка польского и ряда европейских языков, включая русский и английский. Лицензия — Apache 2.0. Разработчики характеризуют модель как демонстрацию возможностей базовой модели после дообучения. Она может выдавать фактически неверные, предвзятые или оскорбительные ответы и не имеет встроенных механизмов модерации; её выводы требуют проверки.

Dolphin 2.9.4 Gemma2 2B — диалоговая языковая модель, подготовленная Эриком Хартфордом и Cognitive Computations на базе Google Gemma 2 2B. Это плотная авторегрессионная модель с 2,7 млрд параметров, обученная с контекстом 8192 токена; для диалога использует шаблон ChatML. В метаданных указаны формат safetensors и задача генерации текста. Модель предназначена для следования инструкциям, диалогов, написания и анализа кода, а также сценариев с функциями и агентными действиями. Разработчик отмечает обучение на данных для разных языков и особое внимание к соблюдению системных инструкций. Упомянуто применение GrokAdamW и Liger Kernel, но автор не утверждает, что обучение привело к ожидаемому обобщению. Модель описана разработчиком как uncensored и может охотно выполнять вредоносные или неэтичные запросы; перед предоставлением пользователям рекомендуется добавить собственный слой выравнивания. Она распространяется по лицензии Gemma, условия которой следует учитывать при использовании.

LWWZH/Qwen3.5-4B-int4-OpenVINO — версия мультимодальной модели Qwen3.5-4B, подготовленная для OpenVINO и сжимающая веса преимущественно до int4. В карточке указано, что исходная Qwen3.5-4B разработана командой Qwen; метаданные связывают этот репозиторий с Qwen/Qwen3.5-4B. Это плотная причинная языковая модель с визуальным энкодером, рассчитанная на диалог и понимание изображений. Модель подходит для ответов на вопросы по изображениям, визуального анализа, диалоговых сценариев и задач рассуждения. Архитектура исходной модели включает 4 млрд параметров и 32 слоя; нативная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000. README заявляет поддержку 201 языка и диалекта. Модель по умолчанию работает в режиме рассуждений; для обслуживания в высоконагруженных сценариях карточка рекомендует специализированные движки инференса. Сжатие весов в этой версии распределено между int4 и int8, преимущественно int4 с размером группы 128. Лицензия — Apache-2.0. README относится к исходной модели и не приводит отдельных результатов оценки или ограничений именно сборки OpenVINO, поэтому её производительность и совместимость следует оценивать в целевом окружении.

TSFT-RAG Gemma-3-12B-IT — модель на базе Gemma-3-12B-IT, которую Sascha Frank разработал в рамках исследовательского проекта TSFT-RAG. Это полно-параметрическое дообучение с архитектурой Gemma3ForConditionalGeneration и 12 млрд параметров; модель предназначена для генерации ответов в системах поиска с дополненной генерацией (RAG), а не для универсального диалога. Она принимает текстовые запросы и контекст документов и формирует текстовые ответы, включая структурированный JSON. Модель обучалась отвечать по найденным источникам, выявлять вопросы без достаточных подтверждений, извлекать темы, ключевые сообщения и аргументы, а также генерировать цитаты. В оценке проекта улучшились общая агрегированная оценка и распознавание неподтверждённых вопросов относительно базовой модели, однако результат на grounded QA немного снизился. Основные ограничения: общее открытое общение не было целью оптимизации, оценка проводилась преимущественно на немецкоязычных наборах данных, мультимодальные возможности не оценивались. Для юридических, медицинских и других критически важных решений нужны проверка человеком и атрибуция источников. Лицензия — Gemma.

Модель gateremark/kikuyu_translategemma_12b_merged — дообученная версия Google Translate Gemma 3 12B, созданная gateremark на базе google/translategemma-12b-it. Она предназначена для перевода текста и извлечения текста с переводом по изображениям; поддержка визуального ввода указана в метаданных. Модель использует плотную архитектуру Gemma 3, распространяется в формате safetensors и доступна по лицензии Apache-2.0. Базовая TranslateGemma поддерживает перевод между 55 языками. Карточка этой производной версии не уточняет, какие именно языки или сценарии перевода покрыты её дообучением; язык en указан в тегах карточки. README сообщает об обучении с Unsloth и библиотекой TRL, но не приводит оценок качества.

MamayLM-Gemma-2-9B-IT-v0.1 — инструктивная языковая модель INSAIT, института при Софийском университете. Это плотный трансформер-декодер Gemma 2 с 9 млрд параметров и контекстом 8192 токена, предназначенный для диалога и генерации текста на украинском и английском языках. Модель построена на основе Google Gemma 2 9B и Gemma 2 9B IT: её дополнительно предварительно обучали на 75 млрд токенов украинских и английских данных, а затем дообучили следовать инструкциям на украинских наборах данных. Она ориентирована на ответы на вопросы, рассуждения, суммаризацию и другие текстовые задачи; авторы сообщают о сильных результатах на украинских тестах при сохранении английских возможностей. Распространяется по условиям Gemma Terms of Use.

Atom 27B — диалоговая модель VANTA Research, созданная дообучением Google Gemma 3 27B IT для совместной работы с человеком. Она позиционируется как партнёр для размышлений: помогает разбирать проблемы, задаёт уточняющие вопросы, мягко проверяет предположения и предлагает идеи. Модель использует плотную архитектуру Gemma 3, содержит 27 млрд параметров и поддерживает контекст до 128 тыс. токенов. Репозиторий включает веса Safetensors и GGUF F16; заявлена возможность локального запуска через llama.cpp. Модель предназначена для диалогов, совместного решения рабочих задач, структурирования рассуждений и мозгового штурма. В карточке показаны примеры анализа причин срыва сроков и подбора идей подарка. Указан английский язык; вход по изображениям для Atom не подтверждён, несмотря на мультимодальность базовой модели. Лицензия — Gemma; условия её использования определяются лицензией Google Gemma.

GigaChat Audio MLX — независимый порт модели ai-sage/GigaChat3.1-Audio-10B-A1.8B в формате BF16 для запуска на компьютерах Apple Silicon с библиотекой MLX. Модель принимает аудио вместе с текстовой инструкцией и формирует текстовый ответ: расшифровку речи, перевод, ответы на вопросы об аудио, анализ эмоций, поиск событий с временными отметками и сводки с таймкодами. Архитектура основана на DeepSeek V3; в метаданных указано 1,5 млрд параметров и контекст длиной 262 144 токена. Модель поддерживает русский и английский языки. Репозиторий содержит веса safetensors в BF16; для работы требуется среда Apple Silicon. Разработчики порта сообщают о завершённой обработке тестового аудиофрагмента длительностью 5 минут 17 секунд за 10,41 секунды на Apple M4 Pro с 48 ГБ памяти, однако совместимость с другими конфигурациями не подтверждена. Порт создан независимо от авторов исходной модели. Лицензия модели — MIT. Модель не выполняет диаризацию, потоковое распознавание с микрофона или синтез речи; факты, метки эмоций, сводки и временные отметки могут быть ошибочными и требуют проверки по аудио.

CLM-Qwen3.5-2B — модель на основе Contrastive Language Models, разработанная Jayavibhav с использованием метода CLM, созданного Jacky Kwok, Hangoo Kang, Tarun Suresh, Jon Saad-Falcon, Marco Pavone, Christopher Ré и Azalia Mirhoseini. Это дообучение Qwen3.5-2B: замороженный языковой энкодер с двумя небольшими проекционными головами для представления состояния и ответа. Модель кодирует контекст и кандидаты в общем векторном пространстве, оценивает варианты по косинусному сходству и выдаёт относительное распределение вероятностей. Для повторно используемых вариантов можно кэшировать их представления. Модель предназначена для ранжирования вариантов ответа, классификации документов и типизированных решений по длинным текстовым контекстам. Она принимает состояния длиной до 131 тыс. токенов и обучена на английских данных, включая синтетические документы более чем 200 типов и задачи решений из нескольких прикладных областей. По заявлению авторов, модель превосходит CLM-v0.1-8B в тесте классификации документов, но уступает Jev на 4,6 процентного пункта; результаты на синтетических документах могут отличаться от результатов на реальных файлах. Для новых рабочих процессов решений качество без дополнительной настройки низкое: для таких задач авторы рекомендуют подгонку голов на нескольких сотнях примеров. Модель оценивает только переданный набор кандидатов, поэтому вероятности относительны к нему; головы также требуют эмбеддингов последнего токена Qwen3.5-2B в заданном формате. Веса распространяются по лицензии Apache 2.0.

Карточка модели unsloth/Llama-4-Scout-17B-16E на Hugging Face совпадает с карточкой meta-llama/Llama-4-Scout-17B-16E, поэтому описание составлено по ней. Llama 4 Scout — мультимодальная авторегрессионная модель Meta с архитектурой mixture-of-experts и ранним объединением модальностей. В модели 17 млрд параметров и 16 экспертов; она предназначена для работы с текстом и изображениями. Модель подходит для диалогового помощника, визуального рассуждения, распознавания содержимого изображений, создания подписей и ответов на вопросы об изображениях. Поддерживает арабский, английский, французский, немецкий, хинди, индонезийский, итальянский, португальский, испанский, тагальский, тайский и вьетнамский языки. В README указано, что модель тестировалась на понимание до пяти изображений за один запрос. Модель распространяется по специальной коммерческой лицензии Llama 4 Community License Agreement с ограничениями Acceptable Use Policy. Это статическая модель, обученная на офлайн-данных; качество ответов и работу в конкретных сценариях следует проверять отдельно. Возможности понимания изображений сверх пяти изображений за запрос требуют дополнительного тестирования и настройки.

Карточка модели unsloth/NVIDIA-Nemotron-3-Nano-4B-FP8 на Hugging Face совпадает с карточкой unsloth/NVIDIA-Nemotron-3-Nano-4B, поэтому описание составлено по ней. NVIDIA-Nemotron-3-Nano-4B — компактная языковая модель NVIDIA для диалога, рассуждений и агентных сценариев. Репозиторий unsloth содержит дообученную версию базовой модели nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16. В карточке указаны 6,4 млрд параметров и гибридная архитектура Nemotron-H с Mamba-2, MLP и четырьмя слоями Attention; модель принимает и генерирует текст, поддерживает контекст до 262 144 токенов и имеет интерфейс для вызова инструментов. Модель предназначена для локальных голосовых помощников, игровых NPC-компаньонов и автоматизации IoT, а также для задач программирования и работы агента на устройствах с ускорением NVIDIA. Карточка заявляет английский как поддерживаемый язык; в описании обучения также перечислены многоязычные данные, в том числе русский, но это не гарантирует одинаковое качество на всех языках. Модель может формировать рассуждения перед ответом; отключение этого режима может снизить точность на сложных запросах. Для запуска описана поддержка Transformers, vLLM и TensorRT-LLM, а также других движков инференса. README называет модель пригодной для коммерческого использования, однако метаданные указывают лицензию «other», поэтому перед внедрением следует проверить условия лицензии репозитория.

Audio Flamingo Next-Instruct — инструкцияно настроенная аудиоязыковая модель NVIDIA для вопросов и ответов, диалога и понимания речи, окружающих звуков и музыки. Модель принимает аудио и текстовые инструкции, а ответы формирует текстом; поддерживает распознавание речи, перевод речи, понимание нескольких говорящих, описание аудио и временную привязку к событиям. Основной язык в карточке — английский, заявлена также многоязычная поддержка распознавания речи. Архитектура сочетает аудиоэнкодер на основе AF-Whisper, двухслойный MLP-адаптер и текстовую основу семейства Qwen2.5; для временной привязки используются Rotary Time Embeddings. Аудио обрабатывается окнами по 30 секунд, а процессор настроен на записи длительностью до 30 минут. Модель рассчитана на явные инструкции с указанием задачи и желаемого формата ответа. Ограничения включают неравномерное покрытие языков и акустических условий, слабое представление редких звуков и специализированных областей, а также трудности рассуждения по длинным записям при разреженных свидетельствах. Лицензия обозначена как other; README разрешает только некоммерческое исследовательское использование.

GLM-4.6V-Flash NVFP4 GGUF — квантованная мультимодальная модель Z.ai (Zhipu AI), подготовленная в формате GGUF на основе zai-org/GLM-4.6V-Flash. Она сочетает языковую часть на 9 млрд параметров с 40 слоями трансформера и 24-слойным визуальным ViT-энкодером. Контекст составляет 128K токенов; модель принимает изображения и текст и формирует текстовые ответы, включая описание изображений и разбор документов. Модель подходит для диалогов по изображениям, визуального анализа документов и локального мультимодального ассистента. Веса языковой части представлены в NVFP4, а проектор визуального энкодера — в F16; для полной работы с изображениями нужны оба файла. Нативное вычисление FP4 рассчитано на видеокарты NVIDIA Blackwell, на более старом оборудовании и CPU возможен более медленный программный fallback. Репозиторий указывает лицензию MIT. Квантование снижает требования к памяти, но может повлиять на точность по сравнению с исходными весами.

Seed 1.6 Flash — мультимодальная модель глубокого рассуждения от ByteDance Seed, предназначенная для работы с текстом и визуальной информацией. Она поддерживает контекст длиной 256 тысяч токенов и ориентирована на быстрый отклик. Модель подходит для диалога и задач, где нужно анализировать изображения вместе с текстом. README обрывается на описании выходных возможностей, поэтому дополнительные функции и ограничения по качеству определить нельзя. Условия лицензии в доступных сведениях не приведены.

aoleg/gemma-4-31B-it-heretic-ORBA — декензурированная версия мультимодальной инструкционной модели Google Gemma 4 31B IT. Автор сообщает, что модель создана с помощью Heretic v1.3.0 и собственного метода ORBA abliteration; метаданные также связывают её с google/gemma-4-31B-it как с базовой моделью и указывают архитектуру Gemma4ForConditionalGeneration в формате safetensors. Модель предназначена для диалогов и задач image-text-to-text: она принимает текст и изображения, анализирует визуальный ввод и генерирует текст. В README приведено сравнение отказов: 2 из 100 для этой версии против 98 из 100 у указанной автором модели сравнения; это результат оценки с LLM-судьёй, а не гарантия поведения во всех запросах. Лицензия и сведения о размере и длине контекста в предоставленных данных отсутствуют.

lokeshe09/gemma-4-31B-it-SFT_OCR_OCR — дообученная lokeshe09 мультимодальная модель Gemma 4 на 31 млрд параметров, созданная на основе unsloth/gemma-4-31B-it с использованием Unsloth и TRL. Модель принимает изображения и текст и предназначена для ответов на запросы по изображениям; название указывает на дообучение для OCR и извлечения текста из изображений. Модель использует плотную архитектуру Gemma4ForConditionalGeneration и распространяется в формате safetensors. Лицензия — Apache-2.0. В карточке не приведены сведения о контекстном окне или конкретных языках OCR; метаданные карточки указывают английский язык.

NVIDIA-Nemotron-3-Nano-4B — компактная языковая модель NVIDIA для диалога, рассуждений и агентных сценариев. Репозиторий unsloth содержит дообученную версию базовой модели nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16. В карточке указаны 6,4 млрд параметров и гибридная архитектура Nemotron-H с Mamba-2, MLP и четырьмя слоями Attention; модель принимает и генерирует текст, поддерживает контекст до 262 144 токенов и имеет интерфейс для вызова инструментов. Модель предназначена для локальных голосовых помощников, игровых NPC-компаньонов и автоматизации IoT, а также для задач программирования и работы агента на устройствах с ускорением NVIDIA. Карточка заявляет английский как поддерживаемый язык; в описании обучения также перечислены многоязычные данные, в том числе русский, но это не гарантирует одинаковое качество на всех языках. Модель может формировать рассуждения перед ответом; отключение этого режима может снизить точность на сложных запросах. Для запуска описана поддержка Transformers, vLLM и TensorRT-LLM, а также других движков инференса. README называет модель пригодной для коммерческого использования, однако метаданные указывают лицензию «other», поэтому перед внедрением следует проверить условия лицензии репозитория.

Voxtral-Mini-3B-2507-gguf — это квантизированная GGUF-версия мультимодальной аудиотекстовой модели Voxtral Mini 1.0 (3B), разработанной Mistral и подготовленной для transcribe.cpp сообществом handy-computer. Модель предназначена для автономного распознавания речи, перевода речи и анализа аудио без подключения к облачным сервисам. Она поддерживает английский, французский, немецкий, испанский, итальянский, португальский, нидерландский и хинди, а также автоматическое определение языка, ответы на вопросы по аудио и создание структурированных резюме. Архитектура сочетает двунаправленный аудиоэнкодер Whisper-large-v3, проектор с группировкой по четыре аудиокадра и причинную языковую модель Ministral-3B с 30 слоями, GQA 32/8, NEOX RoPE и SwiGLU. Контекст составляет 32 тысячи токенов: модель рассчитана на обработку аудиозаписей длительностью до 30 минут при транскрибации и до 40 минут при понимании аудио. Доступны варианты BF16, F16 и квантизации Q8_0, Q6_K, Q5_K_M и Q4_K_M размером примерно от 2,98 до 9,38 ГБ. На LibriSpeech test-clean заявлена точность WER от 1,87% до 1,94% в зависимости от варианта. К сильным сторонам относятся офлайн-работа, мультиязычность, поддержка перевода и единая модель для распознавания и понимания аудио. Ограничения реализации transcribe.cpp: потоковая обработка и временные метки не поддерживаются, вход должен быть монофоническим WAV с частотой 16 кГц, а декодирование выполняется жадным методом. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

JevK5-2B — англоязычная модель для принятия типизированных решений по документам, разработанная как открытая альтернатива Jev компанией TypeSafe; с TypeSafe AI модель не связана. Она принимает документ и вопрос с ответами «да/нет», вариантами выбора или числовой шкалой и за один проход выдаёт вероятности для каждого варианта, не генерируя текст ответа. Модель основана на плотной архитектуре Qwen3.5-2B с 1,7 млрд параметров: адаптер LoRA ранга 16 объединён с весами. Веса доступны в формате safetensors, лицензия — Apache-2.0. Базовая модель поддерживает контекст до 262 144 токенов, но JevK5-2B отказывает в обработке входов длиннее 16 384 токенов. Модель предназначена для извлечения фактов из документов, классификации и маршрутизации по заданным вариантам. В README приведены результаты на вопросах по бизнес-документам и публичном JevBench; авторы отмечают хорошее качество на простых решениях, но более низкое — на стандартных и сложных примерах по сравнению с версией на 4 млрд параметров. Слабые стороны — арифметика, многошаговые запросы, даты, суммы и общие знания; на закрытом наборе JevBench модель не оценивалась. Для применения требуется JevK5 runtime на GPU NVIDIA либо сборка GGUF и llama.cpp на других устройствах.

Qwen3.5-9B-ultra-uncensored-heretic — мультимодальная модель на 9 млрд параметров, созданная независимым автором как модификация Qwen/Qwen3.5-9B. Это плотная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration: она принимает текст и изображения и предназначена для диалога, рассуждений и визуального анализа. В карточке указаны контекст 262 144 токена с расширением до 1 010 000 токенов и поддержка 201 языка и диалекта для базовой модели. Автор применил abliteration, чтобы снизить частоту отказов: в приведённом тесте отказов было 4 из 100 против 86 из 100 у исходной модели. Результат PIQA близок к исходному показателю, однако эти тесты сами по себе не подтверждают качество на других задачах. Веса опубликованы в формате Safetensors и доступны по лицензии Apache-2.0. Сниженные ограничения могут приводить к выдаче ответов на запросы, которые базовая модель отклоняла.

SoulX-Transcriber — аудиоязыковая модель, разработанная Soul AI Lab совместно с группой ASLP Северо-Западного политехнического университета. Она выполняет распознавание речи и диаризацию в многосторонних диалогах в единой сквозной системе: определяет говорящих, сегментирует аудио с временными отметками и формирует согласованную с говорящими расшифровку, в том числе при быстрых сменах реплик и наложении речи. Модель построена на архитектуре Qwen3-Omni-30B-A3B-Instruct и предназначена для расшифровки разговоров с несколькими участниками. В README описано обучение с учетом характеристик говорящих и приведены результаты на наборах AISHELL-4 и AliMeeting. Репозиторий содержит веса safetensors; модель распространяется по лицензии Apache-2.0. Модель подходит для анализа встреч, интервью и других диалоговых записей, где важно связать реплики с участниками и временными интервалами. README не приводит конкретные ограничения качества или сведения о поддерживаемых языках самой модели; описанные в нем китайские и английские данные относятся к конвейеру симуляции диалогов.

AudioSangraha-Audio_to_Text — дообученная разработчиком AqeelShafy7 модель распознавания речи на архитектуре Whisper Small. Она предназначена для преобразования аудио в текст. Веса представлены в формате safetensors; модель содержит 153,1 млн параметров и распространяется по лицензии Apache-2.0. В карточке приведены результаты оценки: loss 0,3071 и WER 52,3227. Описание не раскрывает языки, обучающие данные и сценарии применения, поэтому качество распознавания в конкретных условиях по этим сведениям оценить нельзя.

ohwi/japanese-stablelm-instruct-gamma-7b-repro — воспроизведение японской модели Japanese Stable LM Instruct Gamma 7B, дообученное Хвигеоном О и Фудзики Накамурой на основе Japanese Stable LM Base Gamma 7B. Это авторегрессионная плотная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового следования инструкциям на японском языке. Контекст модели составляет 4096 токенов. Модель обучалась на японских переводах наборов Databricks Dolly-15k и части Anthropic HH, а также на подмножестве izumi-lab/llm-japanese-dataset с новостями Wikinews. В карточке приведены результаты оценки на Nejumi-leaderboard Neo, включая llm-jp-eval и Japanese Mt-Bench. Весы доступны в формате safetensors; лицензия — Apache-2.0. README отмечает, что это воспроизведение, а не официальная модель Japanese Stable LM Instruct Gamma 7B.

onnx-community/Qwen3.5-0.8B-ONNX-OPT — ONNX-версия постобученной мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen. Это каузальная языковая модель с vision encoder, предназначенная для обработки текста и изображений, включая задачи рассуждения, программирования, визуального понимания, агентных сценариев, прототипирования, исследовательской разработки и специализированного дообучения. Артефакты совместимы с Hugging Face Transformers.js и ONNX Runtime. Модель содержит 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. В архитектуре сочетаются Gated Delta Networks, Gated Attention и feed-forward блоки; заявлена гибридная архитектура с sparse Mixture-of-Experts на уровне семейства Qwen3.5. Нативная длина контекста составляет 262 144 токена. Модель поддерживает 201 язык и диалект, а также мультимодальный ввод текста и изображений. Благодаря небольшому размеру она ориентирована на более экономичный инференс и локальные эксперименты, однако уступает более крупным моделям по качеству и предназначена прежде всего для задач разработки и исследований. Модель распространяется по лицензии Apache 2.0. README не содержит подробностей о требованиях к аппаратному обеспечению, точных форматах входных изображений и ограничениях коммерческого применения, поэтому эти аспекты следует уточнять отдельно.

dispatchAI выпустила GGUF-версию Llama 3.2 3B, настроенную для вызова функций и работы на мобильных устройствах. Модель содержит 3,2 млрд параметров; заявленный размер файла — около 2,15 ГБ. В карточке указана скорость около 15 токенов/с на CPU смартфона Samsung Galaxy S20 FE. Модель предназначена для диалоговых сценариев с инструментами: многошаговых агентских рабочих процессов, оркестрации API, интеграции с CRM и ERP, помощи в средах разработки и автоматизации конвейеров данных. Указан английский язык. Формат GGUF рассчитан на локальный запуск в совместимом программном обеспечении. Репозиторий распространяется по лицензии Llama 3.2. Карточка не сообщает результаты сравнительных оценок или ограничения точности; фактическая скорость зависит от устройства и среды запуска.

Abiray/Nanbeige4.2-3B-GGUF — набор квантизированных версий модели Nanbeige/Nanbeige4.2-3B, опубликованный в формате GGUF. Модель разработана Nanbeige; в репозитории представлены файлы для локального запуска через llama.cpp. Базовая архитектура — Looped Transformer с 3 миллиардами параметров без учёта embedding-параметров. Модель предназначена для генерации текста, включая задачи, связанные с кодом и агентными сценариями. Указанные языки — английский и китайский. Мультимодальные возможности и размер контекста в README не указаны. Доступны варианты квантизации от 4 до 8 бит: Q4_K_S и Q4_K_M уменьшают требования к памяти, Q5_K_M и Q6_K обеспечивают более высокую точность, а Q8_0 ориентирован на максимальное качество среди GGUF-версий. Квантизация позволяет запускать модель локально, но может снижать качество относительно исходной версии, особенно при использовании более агрессивных вариантов. Распространение указано под лицензией Apache-2.0. Для запуска рекомендуется llama.cpp с поддержкой Nanbeige4.2; конкретные требования к оборудованию и производительности зависят от выбранного файла квантизации.