II.6Документация и сопровождение разработки

PEARL-small — компактная модель эмбеддингов строк и фраз, разработанная Lihu Chen, Gaël Varoquaux и Fabian M. Suchanek. Работа принята на EACL Findings 2024. Модель представляет собой дообученную версию E5-small на контекстно-независимом наборе данных, созданном авторами. В основе — архитектура BERT; размер составляет около 40 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для получения векторных представлений коротких строк и сравнения их семантической близости. Она учитывает тип фразы и морфологические признаки, чтобы лучше сопоставлять варианты написания и формулировок. Основные сценарии — строковое сопоставление, поиск сущностей, кластеризация сущностей и нечёткое соединение записей. В README приведены примеры сравнения названий, а также результаты бенчмарков и сравнение ресурсов с FastText. Модель принимает текст и выдаёт эмбеддинги; метаданные указывают английский язык. Репозиторий распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. Данные источников не описывают ограничения качества за пределами приведённых бенчмарков и длины контекста.

PP-OCRv5_mobile_rec_safetensors — мобильная модель распознавания текстовых строк из изображений, разработанная командой PaddleOCR и представленная в формате safetensors. Она предназначена для эффективного распознавания печатного и рукописного текста, включая сложные случаи: вертикальный и искажённый текст, пиньинь, редкие символы и художественные надписи. Модель поддерживает упрощённый и традиционный китайский, английский и японский языки. В README приведены метрики для нескольких типов текста; среднее значение составляет 0,8015 по метрике, где строка считается ошибочной при неверном распознавании хотя бы одного символа. Модель ориентирована на распознавание отдельных строк, поэтому для обработки целых страниц требуется предварительное обнаружение и выделение строк. Лицензия — Apache 2.0.

Модель разработана Hellenic Army Academy (SSE) и Technical University of Crete (TUC) для получения эмбеддингов предложений на английском и греческом языках. Это sentence-transformers на базе XLM-RoBERTa с 305,2 млн параметров: она преобразует предложения и абзацы в плотные векторы размерностью 768, сохраняя смысловую близость между языками. Модель предназначена для оценки семантического сходства, семантического поиска, кластеризации текстов и сопоставления переводов между английским и греческим. В README приведены результаты оценки сходства на парах EN–EL и поиска соответствий между переводами. Контекст составляет до 514 токенов. Распространяется под лицензией Apache-2.0.

NVIDIA Conformer-CTC Large (en-US) — модель распознавания речи, разработанная NVIDIA и обученная с помощью инструментария NeMo. Это крупный вариант архитектуры Conformer с CTC-декодированием, примерно 120 млн параметров; модель работает без авторегрессионной генерации и принимает монофоническое аудио WAV с частотой 16 кГц, выдавая транскрипцию в виде текста. Модель предназначена для транскрибирования английской речи, в том числе в пакетной обработке аудиофайлов и в серверных развертываниях через NVIDIA Riva. Она обучена на нескольких тысячах часов речи из LibriSpeech, Fisher, Switchboard, WSJ, VoxPopuli, Common Voice и других корпусов. В README приведены показатели WER на нескольких тестовых наборах; подключение внешней языковой модели при развертывании через Riva может улучшить точность. Распознавание может быть менее точным для технической лексики, разговорных вариантов речи и акцентов, недостаточно представленных в обучающих данных. Лицензия модели — CC BY 4.0.

Okwija разработал sunbird-whisper-lin-sna-V2 — дообученную модель распознавания речи на базе Sunbird/asr-whisper-51-african-languages, использующей архитектуру Whisper. Модель предназначена для преобразования аудиоречи в текст; базовая модель ориентирована на 51 африканский язык, а также английский и французский с африканскими акцентами. В README приведены результаты оценки: loss 0,1994, WER 0,2508 и CER 0,0425. Модель доступна в формате safetensors и рассчитана на использование через библиотеку Transformers. Репозиторий указывает лицензию Apache-2.0. README не уточняет языки и условия оценки конкретно для этой версии, поэтому возможности базовой модели не следует считать подтверждением качества на каждом из её языков.

jonatasgrosman/wav2vec2-xls-r-1b-english — модель распознавания английской речи, дообученная автором карточки с помощью HuggingSound на базе facebook/wav2vec2-xls-r-1b. Она преобразует аудиозапись в текст и подходит для транскрибирования речи, в том числе записей из наборов Common Voice, Multilingual LibriSpeech, TED-LIUMv3 и VoxPopuli. Архитектура — Wav2Vec2ForCTC семейства wav2vec2; число параметров — 1,3 млрд. Для входного аудио требуется частота дискретизации 16 кГц. Модель принимает аудио и выдаёт текст, поддерживаемый язык — английский. Распространяется в формате PyTorch по лицензии Apache-2.0.

Это версия модели распознавания речи Whisper Base, преобразованная сообществом mlx-community из openai/whisper-base в формат MLX с точностью FP16. Она предназначена для автоматической транскрипции аудио в текст и работает с библиотекой mlx-audio. Модель содержит около 51,7 млн параметров и поддерживает распознавание речи на множестве языков, включая русский и английский. Модель подходит для преобразования записей, интервью и разговоров в текст. Репозиторий распространяется по лицензии Apache-2.0. Качество распознавания зависит от языка, чистоты аудио и условий записи; карточка рекомендует обращаться к исходной модели для подробностей.

fsicoli/whisper-large-v3-pt-1000h — дообученная модель распознавания речи на базе Whisper large-v3 от OpenAI, опубликованная fsicoli. Она принимает аудио и генерирует текстовую транскрипцию. В метаданных указаны архитектура WhisperForConditionalGeneration, 905,2 млн параметров и формат PyTorch. Для обучения использован набор данных fsicoli/cv17-fleurs-coraa-mls-ted-alcaim-cf-cdc-lapsbm-lapsmail-sydney-lingualibre-voxforge-tatoeba; в README приведены результаты оценки: loss 0,5576 и WER 0,1113. Модель подходит для преобразования речи в текст в многоязычных сценариях. Карточка не уточняет целевой язык или условия записи, поэтому результаты для конкретных языков и типов аудио из этих данных оценить нельзя. Лицензия — Apache-2.0.

Это дообученная на наборе данных None модель OpenAI Whisper Medium для автоматического распознавания речи. Она принимает аудио и генерирует текстовую расшифровку; карточка сообщает результаты оценки: loss 0,5053 и Global WER 23,6218. Метаданные описывают базовую Whisper Medium как мультиязычную модель для распознавания и перевода речи, однако язык или языки, на которых специализируется это дообучение, не подтверждены. Модель использует архитектуру WhisperForConditionalGeneration и формат safetensors. Лицензия — Apache 2.0.

StepFun разработала Step 3.7 Flash — мультимодальную модель со смесью экспертов (MoE), предназначенную для высоконагруженных рабочих процессов. Она содержит 198 млрд параметров, из которых около 11 млрд активируются на каждом токене; включает языковую часть на 196 млрд параметров и визуальный энкодер на 1,8 млрд. Модель принимает изображения и текст, поддерживает контекст до 256 тыс. токенов и три уровня рассуждений: низкий, средний и высокий. Модель предназначена для понимания изображений, анализа больших документов, многошагового поиска и проверки фактов, оркестрации инструментов и API, а также для задач разработки ПО — например, поиска ошибок в репозиториях и подготовки исправлений. Заявленная скорость генерации достигает 400 токенов в секунду. Карточка описывает её как модель для производственных нагрузок; доступны варианты развёртывания через облачные платформы и локальные средства инференса. Репозиторий использует библиотеку Transformers и формат Safetensors. Лицензия — Apache-2.0. В метаданных указан английский язык; README не подтверждает поддержку других естественных языков.

Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — модель для генерации текста и решения сложных многошаговых задач, дообученная на базе Qwen3.5-9B. Она создана с применением supervised fine-tuning, LoRA и дистилляции рассуждений из Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B. Основной акцент сделан на структурированном анализе, планировании, декомпозиции задач и более лаконичных ответах. Модель предназначена для математики и логики, программирования и системного анализа, научных, инженерных, юридических, медицинских и финансовых задач, а также для сценариев, связанных с безопасностью и adversarial reasoning. В карточке указана текстовая модальность, pipeline text-generation и поддержка английского, китайского и корейского языков. Размер базовой модели — 9B параметров; размер контекста и точные требования к аппаратным ресурсам не указаны. Сильными сторонами модели считаются многошаговое рассуждение, отслеживание ограничений, последовательное планирование, междисциплинарный охват и анализ отказов или атак. При этом дистилляция и специализированное дообучение могут ухудшать обобщение в некоторых широких сценариях и приводить к частичному забыванию знаний базовой модели, поэтому модель рекомендуется оценивать на целевых задачах перед внедрением. Лицензия — Apache-2.0.

Ornith-1.5-35B-A3B uncensored (NVFP4) — доработанная и квантованная версия модели Ornith-1.5-35B-A3B от команды Ornith, подготовленная Robert Ressl. Модель основана на архитектуре Mixture-of-Experts: общий размер составляет 35B параметров, около 3B параметров активны при обработке токена. Это текстовая генеративная модель на английском языке, предназначенная для генерации текста, рассуждений, вызова инструментов, исследований безопасности, red-teaming и penetration testing. В README также указано, что мультимодальная оболочка и vision tower сохранены, однако подробные сведения о поддерживаемых визуальных сценариях не приведены. Модель использует abliteration в один проход и формат NVFP4 только для экспертных тензоров; attention, shared expert, router и embeddings остаются в BF16. Размер экспортированной модели составляет около 23 ГБ вместо 71,9 ГБ у BF16-версии, заявленная длина контекста — 262 144 токена. Для запуска рекомендованы SGLang и NVIDIA GPU с поддержкой Blackwell; на одной NVIDIA RTX PRO 6000 Blackwell 96 GB измерена скорость 213 токенов в секунду при коротких запросах. К сильным сторонам относятся существенно сниженная частота жёстких отказов, сохранение инструментального вызова и близкое к базовой модели качество на GPQA-Diamond: 58,6% против 61,1%. Ограничения включают остаточные отказы, возможное влияние квантования на поведение и отсутствие MTP speculative decoding, поскольку тензоры mtp.* были удалены из экспортированного контрольного пункта. Модель по умолчанию ориентирована на рассуждения; для коротких прямых ответов рекомендуется отключать режим thinking. Лицензия — MIT, унаследованная от базовой модели Ornith.

InternVL3-38B-Instruct-GGUF — мультимодальная instruction-tuned модель, опубликованная Unsloth на основе OpenGVLab/InternVL3-38B. Это SFT-версия InternVL3: она прошла нативное мультимодальное предварительное обучение и дообучение с учётом инструкций, но не проходила MPO. Модель предназначена для понимания изображений и текста, мультимодального восприятия и рассуждений, работы с инструментами, создания GUI-агентов, промышленного анализа изображений и задач 3D-восприятия. Заявлена поддержка multilingual-сценариев. Архитектура построена по схеме ViT-MLP-LLM и включает визуальную часть InternViT-6B-448px-V2_5 и языковую часть Qwen2.5-32B; общий размер семейства для этой конфигурации — 38B параметров. Распространяемая версия представлена в формате GGUF и использует квантизацию Unsloth Dynamic 2.0, однако конкретный вариант квантизации, требования к памяти и размер контекста в предоставленных данных не указаны. Сильными сторонами являются сочетание анализа изображений с генерацией текста, мультимодальное рассуждение и широкий спектр прикладных сценариев. Модель может быть менее подходящей для задач, требующих точных гарантий фактической корректности, а значительный размер и мультимодальная архитектура предполагают высокие требования к вычислительным ресурсам. Для выбора между версиями семейства авторы рекомендуют рассмотреть базовую InternVL3-38B. В метаданных указана лицензия Apache-2.0; также приведена ссылка на лицензию Qwen.

MiroThinker-1.7-mini-GGUF — GGUF-квантизированная версия языковой модели MiroThinker-1.7-mini, разработанной командой MiroMind AI. Модель создана для агентных сценариев, глубокого исследования, сложных вопросов и многошагового анализа с использованием инструментов. Она ориентирована на выполнение длинных цепочек рассуждений и поддерживает до 300 вызовов инструментов в рамках одной задачи. Модель содержит 30 млрд параметров и имеет контекстное окно до 256 тыс. токенов. Указана поддержка английского языка; модальность — текстовая. В качестве базовой модели обозначена Qwen/Qwen3-235B-A22B-Thinking-2507. GGUF-версия была создана с использованием llama.cpp. К сильным сторонам относятся большой контекст, многошаговое рассуждение и ориентация на исследовательские агентные процессы. Ограничения включают зависимость качества от корректной интеграции инструментов и значительные требования к вычислительным ресурсам; конкретный вариант квантования в README не указан. Модель распространяется по лицензии Apache-2.0.

InternVL3-2B-Instruct-GGUF — мультимодальная модель семейства InternVL3, разработанная OpenGVLab и представленная в формате GGUF сообществом Unsloth. Это SFT-версия InternVL3-2B: она прошла предварительное мультимодальное обучение и supervised fine-tuning, но не проходила MPO. Модель предназначена для обработки текста и изображений, мультимодального восприятия и рассуждений, а также сценариев, связанных с использованием инструментов, GUI-агентами, промышленным анализом изображений и восприятием 3D-сцен.

Это мультиязычная модель распознавания речи Whisper large-v3-turbo, подготовленная OpenVINO и сжатая до INT8 с помощью NNCF. Она преобразует аудио в текст и подходит для транскрибирования речи на множестве языков, включая русский и английский. В основе — Whisper large-v3-turbo, дообученная и прореженная версия Whisper large-v3 с четырьмя слоями декодера вместо 32. Это ускоряет распознавание, при этом возможно небольшое снижение качества. Модель поставляется в формате OpenVINO IR; для запуска требуются OpenVINO 2026.1.0 или новее и Optimum Intel 1.27.0 или новее. Модель распространяется по лицензии MIT. В README ограничения отсылают к карточке исходной модели; конкретные ограничения здесь не перечислены.

Qwen3.8-27B-Uncensored-NVFP4 — квантованная и модифицированная версия модели Qwen/Qwen3.8-27B, разработанной командой Qwen компании Alibaba. Сборка johnnyeric предназначена для исследовательских задач, включая интерпретируемость, изучение механизмов отказа, red teaming, оценку устойчивости и контролируемые эксперименты. Она также поддерживает диалоговые сценарии, рассуждения, вызов инструментов и обработку изображений вместе с текстом. Модель содержит 27 млрд параметров и использует плотную гибридную архитектуру с 64 слоями: 48 слоёв Gated DeltaNet с линейным вниманием и 16 слоёв с полным вниманием. В состав входят vision-language модуль и MTP-голова для speculative decoding. Основные характеристики включают контекст до 262 тысяч токенов, поддержку английского и китайского языков, а также динамическую смешанную точность NVFP4 и FP8: большая часть feed-forward слоёв хранится в 4-битном NVFP4, а чувствительные к точности компоненты и KV-кэш — в FP8. Это позволяет снизить требования к памяти по сравнению с полноразмерной моделью при лучшем сохранении качества, чем при равномерном W4A4. Ключевое ограничение — удаление защитного направления отказа посредством abliteration: модель может выполнять вредоносные, незаконные и иные опасные запросы и практически не имеет встроенных защитных механизмов. Её не рекомендуется использовать напрямую в пользовательских или производственных системах без собственных средств модерации, безопасности и предотвращения злоупотреблений. Модель распространяется по лицензии Apache 2.0; применение также должно соответствовать законодательству и условиям лицензии базовой модели.

swardiantara/bert-tiny-yelp-k1-adaptive-cosine — компактная модель Sentence Transformers, дообученная автором на основе google/bert_uncased_L-2_H-128_A-2. Она преобразует предложения и абзацы в плотные текстовые эмбеддинги размерности 128 и использует косинусное сходство; модель предназначена для семантического поиска, извлечения текстов и сравнения предложений. В архитектуре применяются BERT и mean pooling. Модель обучена на 585 010 примерах с парными текстами и метками; базовая BERT имеет 4,4 млн параметров. Метаданные указывают контекст до 512 токенов, а README — максимальную длину последовательности 128 токенов; для непосредственного применения следует учитывать ограничение README. Поддерживается английский язык. Формат весов — safetensors; лицензия в предоставленных данных не указана.

Decision-1.0-Kai-0.6B — модель для структурированного выбора и оценки решений, разработанная командой vllm-sr. Она принимает контекст вместе с вопросами и описаниями кандидатов, а затем возвращает ответы и распределения вероятностей; генерация текста не используется. Модель дообучена на многоязычном энкодере Vela-1.0-Encoder-307M и имеет архитектуру Decision1Model с тремя двунаправленными путями по 22 слоя, общими входными эмбеддингами и отдельными слоями взаимодействия для разных типов решений. Модель предназначена для выбора между действиями или категориями, проверки условий и оценивания по упорядоченным критериям. Кандидаты задаются при каждом запросе; вопросы можно объединять для одного контекста или применять к пакетам контекстов. Полный запрос ограничен 1 024 токенами, включая контекст, вопросы, кандидатов и специальные токены; более длинные запросы отклоняются. В README приведены результаты бенчмарков на английском и китайском языках, но широкие многоязычные результаты относятся к предыдущим весам. Модель распространяется в формате safetensors по лицензии Apache-2.0. Для обслуживания через vLLM требуется совместимая среда vLLM Semantic Router Decision; локальный запуск возможен через Transformers с включением trust_remote_code. Вероятности не гарантируют правильность решения, порядок кандидатов может влиять на прогнозы, а в тестах Transfer модель уступала англоязычной Laya.

Компактная модель Sentence Transformer, разработанная swardiantara и дообученная на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерности 128 для поиска и сравнения текстов; близость векторов можно оценивать косинусным сходством. Модель состоит из BERT и среднего pooling, содержит 4,4 млн параметров и принимает только текст. Модель обучалась на наборе из примерно 2,6 млн пар текстов с оценками сходства. В примерах набора — отзывы Amazon, поэтому модель подходит, в частности, для семантического поиска и сопоставления отзывов. Метаданные указывают контекст до 512 токенов, однако карточка модели задаёт максимальную длину последовательности 128 токенов. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

Decision-2.0-Kai-0.6B — плотная модель с 0,6 млрд параметров из семейства Decision 2.0, разработанная для vLLM Semantic Router и дообученная на базе Qwen/Qwen3-0.6B-Base. Она принимает текст или JSON и за один проход отвечает на вопросы выбора из нескольких вариантов, даёт ответ «да/нет» или оценку по шкале. Для каждого возможного ответа возвращается вероятность; модель предназначена для классификации без генерации текста. Контекст составляет 8 192 токена. В карточке сообщается о результатах на JevArena и наборе из 15 задач с разметкой людьми, а также о возможности одновременно обрабатывать несколько вопросов к одному входу. Для одного вопроса указана медианная задержка 4,9 мс на одном GPU; это результат карточки, а не гарантия производительности в других конфигурациях. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Decision-2.0-Nox-4B — модель принятия решений семейства Decision 2.0, разработанная командой vLLM Semantic Router и дообученная на базе Qwen/Qwen3.5-4B-Base. Она принимает текст или JSON вместе с вопросами и одновременно выбирает один из вариантов, отвечает «да» или «нет» либо выставляет оценку. Для каждого ответа модель возвращает вероятность; вместо генерации обычного текста она выполняет классификацию за один проход. Модель содержит 4,21 млрд параметров и поддерживает контекст до 16 384 токенов. Модель подходит для маршрутизации запросов, выбора действий или вариантов, проверки условий и оценивания входных данных. В карточке сообщается о результатах на JevArena и сравнении с моделями того же размера, а также о медианной задержке 12,9 мс на один вопрос при работе на одном GPU; эти показатели зависят от условий оценки и оборудования. Репозиторий распространяется в формате Safetensors по лицензии Apache-2.0.

Модель csikasote/mms-1b-all-bemgen-combined-train-drodat-gdro-1.65e-4-dat-0.019-no-sd-0.00-52 — дообученная версия facebook/mms-1b-all для автоматического распознавания речи. Она основана на архитектуре wav2vec2, содержит 1,3 млрд параметров и принимает аудио, выдавая текст. Дообучение выполнено на наборе BEMGEN - BEM; на оценочном наборе указаны Loss 12.0449 и CER 0.0516. Модель предназначена для преобразования речи в текст. Базовая MMS-1B-All поддерживает более тысячи языков, однако языковой охват именно этой дообученной версии в карточке не уточнён. Модель распространяется по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование.

Ornstein-27B-GGUF — набор GGUF-квантизаций модели Ornstein-27B, разработанной DJLougen на базе Qwen 3.5 27B. Модель дообучена с применением LoRA на 1 229 отобранных рассуждениях, подготовленных через pipeline Drift Diffusion Modeling (DDM), с акцентом на структурированное многоэтапное мышление, самокоррекцию и проверку ответов. Модель использует блоки <think>...</think> для расширенного рассуждения. Она предназначена для математики, задач на логику, анализа кода, научных задач и сложных вопросов, требующих последовательного рассуждения. В обучающей выборке преобладают математические примеры, также представлены код, наука и логика. Доступны варианты от F16 размером 53,8 ГБ до Q2_K размером 10,7 ГБ; рекомендуемым указан Q4_K_M размером 16,5 ГБ. Модель рассчитана на контекст до 8192 токенов и запуск через llama.cpp, Ollama или LM Studio. Язык оптимизации DDM — английский; качество на других языках в основном определяется базовой моделью. Сильная сторона модели — ориентация на качественное, проверяемое рассуждение при сравнительно небольшом объёме данных и широкий выбор квантизаций для локального запуска. Ограничения включают обучение всего на одной эпохе и 1 229 примерах, поэтому дообучение преимущественно формирует стиль рассуждения, а не добавляет новые знания; при неоднозначных или намеренно провокационных запросах расширенное мышление может зацикливаться. Модель распространяется по лицензии Apache-2.0.

jonatasgrosman/wav2vec2-xls-r-1b-russian — модель распознавания русской речи, дообученная Jonatas Grosman на основе facebook/wav2vec2-xls-r-1b с помощью инструмента HuggingSound. Модель использует архитектуру Wav2Vec2ForCTC и принимает аудио, записанное с частотой дискретизации 16 кГц, чтобы преобразовать речь в текст. Модель предназначена для автоматической транскрибации русской речи. При дообучении использовались обучающая и валидационная части Common Voice 8.0, Golos и Multilingual TEDx. В метаданных указаны 1,3 млрд параметров и поддержка русского языка. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0.

JetlinkSTT-v1.0-7B — многоязычная модель распознавания речи, размещённая Jetlink как управляемая организацией копия модели семейства Qwen3-ASR. Метаданные указывают на дообучение Qwen/Qwen3-ASR-1.7B; модель принимает аудио и предназначена для преобразования речи в текст и определения языка. Модель поддерживает потоковую и офлайн-обработку, длинные записи, пакетный запуск и сценарии транскрибации. В README заявлена устойчивость к шуму, сложным речевым паттернам и пению, в том числе под музыку. Указана поддержка 52 языков и диалектов исходным семейством, включая русский, английский, китайский и другие перечисленные языки. Модель подходит для транскрибации звонков и встреч, создания субтитров, голосовых помощников и аналитики речи. Практическая производительность и требования к памяти зависят от оборудования, длительности аудио, пакетного размера, конкуренции запросов и выбранного серверного ПО. Для юридических, медицинских и критически важных сценариев README рекомендует проверку человеком. Лицензия — Apache-2.0.

mlx-community/whisper-large-v3-asr-fp16 — преобразованная сообществом mlx-community версия OpenAI Whisper large-v3 для распознавания речи. Модель на архитектуре Whisper содержит около 905 млн параметров и предназначена для преобразования аудио в текст; репозиторий подготовлен в формате MLX для использования с библиотекой mlx-audio и содержит веса Safetensors в FP16. Модель подходит для транскрибации аудиозаписей и распознавания речи на разных языках, включая русский и английский. Карточка отсылает к исходной модели OpenAI за подробностями о её возможностях. Лицензия репозитория — Apache-2.0.

mlx-community/whisper-large-v3-turbo-fp16 — преобразованная в формат MLX модель распознавания речи на основе openai/whisper-large-v3-turbo. Разработчик репозитория mlx-community; преобразование выполнено с помощью mlx-audio-plus версии 0.1.4. Модель предназначена для преобразования аудиозаписей в текст. Она использует архитектуру Whisper и поддерживает мультиязычное распознавание речи. Репозиторий содержит веса в формате safetensors и предназначен для работы с библиотекой mlx-audio-plus. Лицензия — Apache-2.0. Производительность и качество зависят от языка, условий записи и используемого оборудования; README не приводит отдельных оценок для этой сборки.

InternVL3-8B-Instruct-GGUF — мультимодальная модель семейства InternVL3, разработанная OpenGVLab и представленная в GGUF-формате Unsloth. Это SFT-версия InternVL3-8B: она прошла мультимодальное предварительное обучение и дообучение с учителем, но не проходила MPO. Модель предназначена для задач понимания и анализа изображений совместно с текстом, мультимодального рассуждения, работы с инструментами и GUI-агентами, промышленного анализа изображений, а также восприятия 3D-сцен. Она поддерживает многоязычные сценарии, однако конкретный перечень языков и размер контекстного окна в предоставленных данных не указаны. Архитектура построена по схеме ViT-MLP-LLM и включает vision-компонент InternViT-300M-448px-V2_5 и языковую часть Qwen2.5-7B; общий размер модели обозначен как 8B. Сильными сторонами заявлены развитые возможности мультимодального восприятия и рассуждения, а также повышение качества по сравнению с InternVL 2.5. Ограничения включают отсутствие MPO и неизвестные из README характеристики контекстного окна, точности GGUF-квантизации и производительности на конкретном оборудовании. В метаданных указана лицензия Apache 2.0; также присутствует обозначение license_name Qwen и ссылка на лицензию Qwen2.5.

Qwen3.8-Flash-Next-Uncensored-NVFP4 — квантизированная версия модели Qwen3.8-Flash-Next, разработанной Qwen и опубликованной OrcaRouter. Это мультимодальная Mixture-of-Experts-модель для работы с текстом и изображениями, рассуждений, вызова инструментов, функционального вызова, исследовательского red-teaming и анализа механизмов отказа моделей. Модель представляет preview-архитектуры Qwen4 и поддерживает английский и китайский языки. Архитектура включает 512 экспертов, из которых для каждого запроса активируются 10 маршрутизируемых и 1 общий эксперт, Gated DeltaNet linear attention, Qwen Sparse Attention, HyperConnections и PLE n-gram embeddings. Экспертные веса сжаты в NVFP4 с точностью 4 бита, attention и общие экспертные веса — в FP8, а отдельные компоненты, включая эмбеддинги, vision tower и нормализации, сохранены в bf16. Размер хранения сокращён примерно с 330 ГБ в bf16 до 178 ГБ; KV-кэш во время работы остаётся в bf16. Главное преимущество модели — значительное снижение требований к памяти при сохранении полноточных путей в важных компонентах, а также встроенная поддержка vision, reasoning и tool calling. Ограничения включают необходимость GPU с архитектурой Blackwell и FP4 tensor cores; Hopper и более старые GPU не поддерживаются. Для запуска нужны свежие версии vLLM с архитектурой qwen4_exp и compressed-tensors NVFP4, а мультимодальный режим зависит от поддержки vision-стека Qwen. Из модели удалена значительная часть safety alignment методом abliteration, поэтому она может выполнять вредоносные или незаконные запросы, от которых исходная модель отказалась бы. Модель предназначена только для легитимных исследований; перед практическим развёртыванием необходимы собственные фильтры безопасности и модерация. Лицензия — Apache 2.0, унаследованная от базовой модели.