I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельЭто независимая производная модель Huihui-Qwen3.8-27B-abliterated, подготовленная на основе исходных BF16-весов Huihui и с использованием схемы NVFP4 от Gittensor. Релиз не является официальным продуктом Huihui, Gittensor, Qwen, NVIDIA или SGLang. Модель распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста и мультимодальных сценариев image-text-to-text, включая агентские задачи, работу с инструментами и сложные задачи рассуждения и программирования. Она основана на архитектуре Qwen3.8 с 27 млрд параметров и использует квантование NVFP4 W4A4 с размером группы 16. В процессе подготовки vision-компоненты, embeddings и отдельные слои Gated-DeltaNet были исключены из NVFP4; native MTP head удалён из deployment-варианта. Поддерживается контекст до 262 144 токенов при конфигурации SGLang, указанной в карточке. Сведения о языках обучения или полном перечне поддерживаемых языков отсутствуют. К сильным сторонам относятся сниженные требования к памяти благодаря NVFP4, совместимость с layout и метаданными Gittensor, а также возможность запуска на одной NVIDIA RTX 5090 с SGLang. Для ускоренного декодирования предусмотрена отдельная совместимая модель-черновик DSpark. Ограничения включают ориентацию на конкретную GPU-конфигурацию и serving-стек, необходимость специальной настройки SGLang, отсутствие встроенного MTP head и зависимость ускоренного режима от отдельного DSpark checkpoint. Архитектурные и поведенческие последствия абляции слоёв 18–51 по описанию исходной модели и слоёв 17–51 по прямому сравнению тензоров отдельно не оценены.
uclanlp/keyphrase-mpnet-v1 — модель Sentence-Transformers, разработанная UCL NLP для представления фраз в виде плотных векторов размерности 768. Она основана на sentence-transformers/all-mpnet-base-v2 и дополнительно дообучена с помощью SimCSE на корпусе из миллиона ключевых фраз из научных публикаций, новостей, онлайн-форумов и других областей. Модель содержит 136,7 млн параметров, использует архитектуру MPNet и принимает текстовые фразы; длина контекста составляет 514 токенов. Векторы подходят для семантического поиска, кластеризации и вычисления семантических оценок качества моделей извлечения ключевых фраз. Обучение на фразах из нескольких предметных областей делает её специализированным вариантом для работы с ключевыми фразами. В предоставленных материалах условия лицензии не приведены.
kf-deberta-multitask — корейская модель sentence-transformers на архитектуре DeBERTa-v2, предназначенная для получения плотных векторных представлений предложений и абзацев. Разработчик не назван в доступной части карточки. Модель содержит 213,1 млн параметров, выдаёт эмбеддинги размерностью 768 и имеет контекстное окно 512 токенов. Модель обучалась на KorSTS и KorNLI в многозадачном режиме и оценивалась на KorSTS. Она подходит для семантического поиска, сравнения смысловой близости текстов и кластеризации; README приводит метрики корреляции для нескольких способов сравнения векторов. Для извлечения эмбеддингов через Transformers требуется применять подходящую операцию pooling к контекстным представлениям токенов. Сведения о лицензии в предоставленных источниках отсутствуют.
Это модель Sentence Transformer от snunlp для получения векторных представлений корейских предложений и абзацев. Она основана на BERT с 144,3 млн параметров и формирует плотные эмбеддинги размерности 768; вектор предложения строится усреднением токенных представлений. Максимальная длина входа — 512 токенов, сходство векторов можно оценивать косинусной мерой. Модель обучена на корейском наборе klue/klue и предназначена для оценки семантической близости текстов, семантического поиска, поиска перефразировок, кластеризации и получения признаков для классификации. В README приведён результат Spearman 0,8765 на sts-dev. Она принимает текст на корейском языке и выдаёт векторы; классификацию и кластеризацию следует выполнять отдельным алгоритмом поверх эмбеддингов. Лицензия в предоставленных данных не указана.
spitfire4794/LFM2-700M-Heretic — производная модель на основе LiquidAI/LFM2-700M, созданная изменением поведения отказов методом abliteration. По приведённому сравнению доля отказов снизилась с 84 до 8 на 100 запросов; модель сохраняет отклонение от исходной модели, измеренное как KL divergence 0,123. Это компактная гибридная языковая модель семейства LFM2 с 956,3 млн параметров и контекстом до 128 000 токенов по метаданным. Архитектура LFM2 сочетает короткие свёрточные блоки и блоки группового внимания. Модель предназначена для генерации текста и диалогов, включая сценарии локального запуска и периферийных устройств, а также извлечение данных, RAG, творческое письмо и агентные задачи. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Базовая карточка рекомендует компактные модели LFM2 для узких прикладных задач и предостерегает от использования в задачах с интенсивной потребностью в знаниях или программировании. В метаданных указана лицензия other; конкретные условия следует сверять с лицензией репозитория. Модель позиционируется как менее склонная к отказам, поэтому её ответы могут охватывать запросы, которые исходная модель отклоняет.
Llama-3.1-SauerkrautLM-8b-Instruct — текстовая модель VAGO solutions, полученная дообучением Meta-Llama-3.1-8B-Instruct методом Spectrum Fine-Tuning. При обучении обновлялись 25% слоёв модели на немецко-английской смеси данных Sauerkraut Mix v2. Модель предназначена для диалогов и генерации текста на немецком и английском языках. Разработчик сообщает об улучшении навыков на этих языках при сохранении большей части ранее усвоенных знаний. В метаданных указаны архитектура LlamaForCausalLM, 7,5 млрд параметров и контекст до 131 072 токенов; модель доступна в формате safetensors. Модель распространяется по лицензии llama3.1. Разработчик предупреждает, что в ответах может встречаться неприемлемый или несдержанный контент, а корректное поведение не гарантируется.
Llama 4 Scout 17B 16E Instruct — мультимодальная инструкционная модель Meta на архитектуре Llama 4 с механизмом смеси экспертов и ранним объединением модальностей. В карточке репозитория указано 17 млрд параметров и 16 экспертов; модель работает с текстом и изображениями и поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для ассистентских диалогов и визуального рассуждения: распознавания содержимого изображений, ответов на вопросы о них и создания подписей. Она рассчитана на арабский, английский, французский, немецкий, хинди, индонезийский, итальянский, португальский, испанский, тагальский, тайский и вьетнамский языки. Для понимания изображений модель протестирована на входе до пяти изображений. Модель может применяться в коммерческих и исследовательских сценариях, включая генерацию синтетических данных. Это статичный чекпойнт, обученный на офлайн-данных; качество ответов и безопасность следует проверять для конкретного применения. Использование регулируется пользовательской лицензией Meta Llama 4 Community License Agreement.
zelk12/MT-Gen5-MM-gemma-2-MT4g2MT5g4-9B — объединённая модель семейства Gemma 2, созданная разработчиком с помощью mergekit методом SLERP из zelk12/MT5-Gen4-gemma-2-9B и zelk12/MT4-Gen2-gemma-2-9B. Это плотная авторегрессионная языковая модель с 9 млрд параметров для диалогов и генерации текста; она принимает текст и выдаёт текст. Модель доступна в формате safetensors, работает с Transformers и поддерживает контекст до 8192 токенов. Модель подходит для чат-ботов, ведения диалога и генерации текстовых ответов. В карточке не приведены сведения о целевых языках, специализированных областях или результатах оценки качества, поэтому нельзя определить её сильные стороны и языковый охват точнее. Лицензия в предоставленных данных не указана.
Qdrant/multilingual-e5-large-onnx — это ONNX-версия модели intfloat/multilingual-e5-large, подготовленная Qdrant для работы с текстовыми представлениями. Модель предназначена для задач семантического сходства, поиска по смыслу и классификации текста, включая использование в системах векторного поиска и других сценариях, где требуется сравнивать текстовые эмбеддинги. Модель принимает текст и преобразует его в числовой вектор; README демонстрирует применение через библиотеку FastEmbed. Указана поддержка нескольких языков, однако конкретный перечень языков, размерность векторов, архитектура исходной модели и максимальная длина контекста в предоставленных данных не раскрыты. Формат ONNX может быть удобен для интеграции с совместимой инфраструктурой инференса. К ограничениям относится отсутствие в README подробностей о качестве на отдельных наборах данных, производительности, требованиях к ресурсам и точных границах применимости. Модель распространяется по лицензии Apache 2.0.
MyAwesomeModel — модель, опубликованная в репозитории TheodoraAdhara/MyAwesomeModel-TestRepo и предназначенная для извлечения признаков из текста. В метаданных Hugging Face она классифицирована как feature-extraction, связана с архитектурой BERT и рассчитана на использование через библиотеку Transformers с фреймворком PyTorch.
NeoAraBERT_DA — арабская модель для получения текстовых эмбеддингов, разработанная подразделением U4RASD Центра исследований и политических исследований арабского мира совместно с Американским университетом Бейрута. Она основана на архитектуре NeoBERT и дообучена на диалектном арабском; размер модели — 314,2 млн параметров. Модель предназначена для векторного представления текста и задач понимания арабского языка, включая классификацию и предсказание замаскированных токенов. В README описаны предварительное обучение на разнообразных арабских данных и исследования нормализации, стемминга и обработки диакритики; семейство NeoAraBERT показало высокие результаты на широком наборе арабских задач. Репозиторий использует Transformers и формат safetensors. Лицензия — CC BY-SA 4.0.
nepali-embedder-v1 — модель эмбеддингов предложений, разработанная для поиска и сравнения текстов на непальском языке. Она основана на BERT-энкодере google/muril-base-cased с mean pooling и дообучена на парах заголовков, вводных абзацев и разделов непальской Википедии. Модель содержит 264,8 млн параметров, принимает текст длиной до 512 токенов и выдаёт векторные представления для семантического поиска и оценки сходства. Модель предназначена для поиска документов на непальском языке, семантического поиска, RAG, кластеризации и дедупликации текстов. README сообщает о хороших результатах на внутренних тестах retrieval и устойчивости к запросам на романизированном непальском при поиске по тексту деванагари. Лицензия — Apache-2.0. Известные ограничения: модель может не различать утверждения с отрицанием; обучение на энциклопедических текстах может снижать качество на разговорных и узкоспециализированных данных. Англо-непальский поиск работает частично и не был отдельной целью обучения; юридическая, медицинская и научная терминология представлена ограниченно.
Карточка модели Salahuddin1234/omnidoctor-qwen-omni на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.
OneKE — двуязычная модель для извлечения структурированных знаний из текста, совместно разработанная Ant Group и Чжэцзянским университетом. Она предназначена для построения графов знаний и поддерживает извлечение сущностей, отношений и событий по заданной пользователем схеме. Модель принимает инструкцию, схему полей и исходный текст, а результат выдаёт в структурированном формате, подобном JSON. OneKE основана на плотной архитектуре Llama и содержит 13 млрд параметров; в карточке указано контекстное окно 4096 токенов. Это дообученная версия Chinese-Alpaca-2-13B, обученная на инструкциях для извлечения информации и ориентированная на китайский и английский языки. Разработчики сообщают о результатах на задачах извлечения сущностей, отношений и событий, включая сценарии без примеров, и предлагают инструментальную поддержку для настройки схем и продолжения обучения. Модель подходит для преобразования документов в структурированные данные для графов знаний, а также для анализа медицинских, финансовых и государственных текстов. Для запуска и обучения рекомендуется не менее 20 ГБ видеопамяти. Модель распространяется по лицензии CC BY-NC-SA 4.0, которая предусматривает некоммерческое использование и распространение производных на тех же условиях.
OpenBuddy Atom 13B v9 — многоязычная разговорная модель, созданная командой OpenBuddy на архитектуре Llama. Она предназначена для генерации ответов в диалоге, чат-ботов и свободного текстового взаимодействия. Модель содержит 12,9 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст, выдавая текст; заявленный контекст — 2048 токенов. В метаданных перечислены китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Модель распространяется в формате PyTorch по лицензии Apache 2.0. Она может выдавать ошибочные, вредные или оскорбительные ответы; разработчики предостерегают от применения в критических и высокорисковых сценариях, включая медицину и важные финансовые или юридические решения.
Ornith-1.5-35B-A3B-Huihui-Sangreal-MTP-ICE-GGUF — квантованная GGUF-версия модели Ornith-1.5-35B-A3B, разработанной Ornith AI и представленной в аблитерированной редакции huihui-ai. Релиз gbuzhf использует калибровочный корпус Sangreal, шаблон чата Qwen-Sharp от peculiar-ragdoll и встроенную обученную MTPv2-голову для speculative decoding. Модель относится к архитектуре MoE с общим размером 35B и примерно 3B активных параметров; заявлены английский и китайский языки, задача — генерация текста, включая диалоговые и программные сценарии. Размер контекста в README не указан. Доступно пять уровней ICE-квантизации размером от 14,79 до 24,85 ГБ. Вариант 15G-ICE рассчитан на видеокарты с 16 ГБ памяти, версии 19G–23G — преимущественно на конфигурации с 24–32 ГБ, а 25G-ICE предназначен для 32 ГБ и ближе всего к исходной точности BF16. Измерения показывают высокое сохранение качества на английском тексте и коде, особенно у старших вариантов; младшие уровни экономят память, но сильнее отклоняются от BF16. Модель помечена как uncensored: в весах подавлено поведение отказа, поэтому она не предоставляет встроенного защитного барьера и требует изолированного запуска с ограничением доступа к операционной системе, сети и выполнению кода. Условия использования определены лицензией MIT.
Ornith-1.5-9B-GGUF — квантованные сборки мультимодальной модели Ornith 1.5 9B, разработанной ornith-ai и преобразованной и измеренной AtomicChat. Модель распространяется в формате GGUF для локального запуска с llama.cpp и поддерживает сценарии диалога, работы с изображениями и agentic coding. Для текстового режима vision projector можно не использовать; для обработки изображений требуется отдельный проектор объёмом около 0,92 ГБ. Доступны варианты от BF16 размером 17,9 ГБ до сильно сжатых IQ2/IQ1-сборок размером 2,81–3,38 ГБ. Рекомендуемый компромисс для видеопамяти около 8 ГБ — AD-Q5_K-Q4_K: он занимает 5,93 ГБ и показывает 93,10% совпадения следующего токена с эталонной BF16-моделью. Для более высокой точности доступны Q8_0 и BF16, а варианты с низкой разрядностью заметно теряют качество: самая компактная сборка имеет согласие лишь 53,74%. В README указаны запуск с контекстом до 8192 токенов и поддержка vision, но языки модели и дополнительные архитектурные характеристики не описаны. Сильные стороны модели — возможность локального запуска, широкий выбор квантований под разный объём видеопамяти и наличие мультимодального режима. Ограничения связаны с компромиссом между размером и точностью: самые компактные варианты авторы не рекомендуют для практического использования, а качество измерялось на отдельном нейтральном корпусе и не гарантирует результаты во всех задачах. Модель и сборки распространяются по лицензии MIT.
FesarovLab выпустила Parable-Nanbeige4.2-3B-Claude-Fable-5-heretic — диалоговую модель на архитектуре Nanbeige с 3,2 млрд параметров, полученную подавлением отказов в дообученной модели AnkitAI/Parable-Nanbeige4.2-3B-Claude-Fable-5. Для этого применена абляция направлений отказа и ортогонализация весов с помощью Heretic; автор репозитория указывает, что саму базовую модель не обучал. Модель предназначена для генерации ответов, рассуждений и вызова инструментов в диалоговых сценариях. Она принимает текст и выдаёт текст, поддерживает английский и китайский языки, а её заявленное окно контекста составляет 262 144 токена. В проверках автора доля отказов снизилась с 99 до 8 на 100 тестовых запросов, а результаты MMLU и GSM8K остались близки к исходной модели. Сохранены структурированные блоки рассуждений, JSON и формат вызова инструментов. Для работы требуется Transformers 4.57.x и trust_remote_code=True; на Transformers 5.x, согласно README, генерация работает некорректно. Полное окно контекста требует около 45 ГБ памяти KV-кэша, а качество на контекстах длиннее 32 тысяч токенов не оценивалось. Подавление отказов намеренное, поэтому контроль выдачи должен обеспечиваться при развёртывании. Лицензия — Apache 2.0.
PolDense-1B — польская плотная embedding-модель для семантического поиска и извлечения релевантных текстов, разработанная как часть семейства PolDense. Она основана на энкодерах ettin-encoders с архитектурой ModernBERT и содержит 1 млрд параметров. Модель выдаёт векторные представления текстов и предназначена для польского поиска, retrieval и систем RAG. PolDense-1B обучали в три этапа: адаптировали английские энкодеры к польскому языку с помощью дистилляции знаний на параллельных польско-английских текстах, затем улучшали соответствие учителю на польских текстах и дообучали для retrieval на запросах и пассажах. В README сообщается о сравнении семейства на польском бенчмарке PIRB из 41 задачи; вариант 1B показал результаты выше сопоставлявшихся крупных моделей. Для retrieval к запросам добавляют префикс «[query]: », а для симметричного сравнения текстов — «[sts]: ». Модель принимает текст и выдаёт эмбеддинги; её контекст составляет 7 999 токенов. Репозиторий содержит веса в формате safetensors. Указана лицензия Gemma; применимые условия следует сверять с лицензией базовой модели и условиями распространения репозитория.
perplexity-ai/pplx-computer-qwen-3-6-35b-a3b-mlx-20260709 — локальная языковая модель, опубликованная Perplexity и предназначенная для Perplexity Computer. Она используется в сценариях Hybrid Compute на Mac: локально обрабатывает файлы, конфиденциальные сведения и действия на устройстве, тогда как облачная часть системы выполняет поиск, планирование и более сложное рассуждение. Модель доступна в формате MLX для запуска на Apple silicon. Модель относится к семейству Qwen3.6 и имеет 35 млрд параметров при конфигурации с 3 млрд активных параметров (35B-A3B). Для семейства Qwen3.6 указана разреженная hybrid-архитектура с маршрутизацией Mixture-of-Experts, сочетающая рекуррентные состояния фиксированного размера с full attention. Опубликованный checkpoint использует groupwise affine 4-bit quantization и занимает около 19,4–19,5 ГБ. Подтверждённые модальности и языки, размер контекстного окна, результаты оценки и подробности дообучения для данной версии не указаны. Сильные стороны модели — возможность локального выполнения задач с чувствительными данными, уменьшенный объём весов и оптимизация для Apple silicon. Ограничения связаны с необходимостью совместимого Mac на Apple silicon и достаточного объёма unified memory; в Hybrid Compute требуется не менее 24 ГБ, а 32 ГБ рекомендуются для лучших результатов. Лицензионные условия для этого репозитория в доступных первоисточниках явно не указаны, поэтому свободное коммерческое использование и условия перераспределения подтверждать нельзя.
harithoppil/Qwen3-0.6B-English-Pruned — это англоязычная производная плотной авторегрессионной языковой модели семейства Qwen3, основанная на Qwen/Qwen3-0.6B-Base и опубликованная пользователем harithoppil. В README описаны удаление семи слоёв из 28 методом Layer Dropping (ShortGPT) и сокращение словаря с 151 643 до 101 816 токенов. В метаданных указаны 368,5 млн параметров, архитектура Qwen3ForCausalLM, формат safetensors и контекст до 40 960 токенов. Модель предназначена для генерации английского текста, диалога, написания кода и решения математических задач; README также описывает переключение режимов рассуждения и обычного ответа. Сокращённый словарь исключает токены для кириллицы и ряда других письменностей, поэтому модель специализирована на английском, коде и математике. Удаление слоёв и уменьшение словаря нацелены на снижение размера и повышение скорости вывода, но в README не приведены сравнительные измерения качества или скорости. Лицензия — Apache-2.0.
Это компактная языковая модель Qwen3-1.7B на 1,7 млрд параметров, подготовленная для запуска на RK1820 и работы через LlamaPi. В основе — плотная архитектура Qwen3ForCausalLM; репозиторий содержит веса в формате GGUF. Модель разработала команда Qwen, а данная версия основана на Qwen/Qwen3-1.7B. Модель генерирует текст и подходит для диалогов, следования инструкциям, рассуждений и написания кода. Поддерживает режимы с рассуждением и без него, а также более 100 языков и диалектов. Контекстное окно — до 40 960 токенов. Метаданные указывают интерфейс для вызова инструментов. Модель распространяется по лицензии Apache-2.0. Это компактная модель для локального и периферийного запуска; качество ответов и скорость могут зависеть от устройства и конфигурации. README не приводит отдельной оценки качества этой сборки.
ChuGyouk/Qwen3-4B-DeepWriting-SFT — это дообученная модель генерации текста на основе unsloth/Qwen3-4B-Base, разработанная ChuGyouk и обученная с помощью TRL. Она предназначена для создания развернутых текстовых ответов и диалогового использования; пример в карточке показывает ответ на вопрос с аргументацией выбора. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и рассчитана на контекст до 32 768 токенов. Для работы указаны Transformers и формат весов safetensors. Лицензия в доступных данных не указана.
conmiga1 дообучил плотную языковую модель Qwen3-4B-Instruct-2507 с помощью Unsloth и библиотеки Hugging Face TRL. Модель содержит 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и принимает текст для генерации текста; заявленная длина контекста — 262 144 токена. В карточке указаны чат-возможности и интерфейс вызова инструментов. Модель предназначена для диалоговой генерации текста и сценариев, где требуется вызывать инструменты через соответствующий интерфейс. Карточка не описывает специализацию дообучения или результаты оценки качества. Распространяется по лицензии Apache-2.0.
KridgeDookie выпустил PHILADELPHIA CLASS — дообученную мультимодальную модель на 27,36 млрд параметров на базе Qwen/Qwen3.6-27B. Она сохраняет гибридную архитектуру обработки текста и изображений и предназначена для общения, программирования, творческих задач и экспериментов с мультимодальными сценариями. Версия Safetensors включает обработку изображений; вариант GGUF в BF16 предназначен только для генерации текста. Разработчик сообщает о снижении склонности к отказам: модель не отказала ни на одном из 842 внутренних проверочных запросов и на отдельной выборке из 126 запросов; 23 из 24 проверок связности пройдены. Это внутренние автоматизированные оценки, а не независимые или стандартизированные тесты, и они не подтверждают фактическую точность или безопасность модели. Контекст настроен на 262 144 токена, но доступность полного окна зависит от оборудования. Сниженная склонность к отказам может приводить к вредным, вводящим в заблуждение, предвзятым или незаконным ответам. Модель распространяется по лицензии Apache-2.0.
Qwen3Loop-0.6B-SFT-Deep-Supervision — языковая модель для диалоговой генерации текста, разработанная Lordnyx на базе архитектуры Qwen3Loop. В ней 507,9 млн физических параметров и рекуррентная схема повторного вычисления среднего блока слоёв; автор описывает её как модель с логической глубиной 56 слоёв. В карточке заявлены контекст до 40 960 токенов и обучение на 6 324 отобранных примерах с многоэтапными агентными и пошаговыми рассуждениями, включая задачи программирования. Модель предназначена для чата, рассуждений и генерации ответов на математические и программные запросы. В репозитории доступны веса Safetensors и варианты GGUF в форматах F16 и Q8_0; также приложен лёгкий зонд для выбора глубины вычислений. README приводит метрики и отдельные результаты тестов автора, которые не следует считать независимой оценкой качества. Модель распространяется по лицензии Apache-2.0. Ограничения: заявленные результаты основаны на ограниченном наборе обучения и тестировании автора; надёжность ответов и преимущество рекуррентной архитектуры могут зависеть от задачи и используемого движка.
Карточка модели Umbasa/Qwen3-Omni-30B-A3B-Instruct-UMBASA-V1 на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.
Qwen3-VL-30B-A3B-Thinking-NVFP4 — квантованная версия мультимодальной модели Qwen3-VL-30B-A3B-Thinking, разработанной командой Qwen. Модель предназначена для задач image-text-to-text: анализа изображений, визуального восприятия, OCR, описания сцен и ответов на вопросы по изображениям. Она поддерживает текстовые и визуальные входные данные, а также языки English, Chinese, Japanese, Korean, French, German, Spanish, Portuguese, Russian и Arabic. Архитектура основана на MoE-модели с 31 млрд параметров в общей сложности и примерно 3 млрд активных параметров. Квантизация NVFP4 W4A4 применяется к текстовому языковому backbone, включая веса и активации; vision encoder, мультимодальный projector, LM head и MoE-gates сохраняются в формате BF16. Для запуска рекомендуется vLLM на GPU NVIDIA Blackwell; объём видеопамяти модели составляет около 16 ГБ против примерно 62 ГБ для BF16 и 31 ГБ для FP8. На Blackwell доступно полное ускорение NVFP4, а на более старых GPU сохраняется экономия памяти, но без ускорения квантизации активаций. Модель поддерживает управляемый режим рассуждений: /think предназначен для сложного визуального анализа, а /no_think — для более быстрых задач восприятия, OCR и простых описаний. Для корректного разделения рассуждений и ответа в vLLM рекомендуется специальный reasoning parser; заявленная максимальная длина контекста в примере запуска составляет 8192 токена. Ограничениями являются зависимость полной производительности NVFP4 от архитектуры Blackwell и возможные ограничения контекста или размера батча на GPU с 24 ГБ памяти. Модель распространяется по лицензии Apache-2.0.
RedHatAI/Qwen3-VL-32B-Instruct-NVFP4 — квантизированная мультимодальная instruction-модель, разработанная Red Hat на основе Qwen/Qwen3-VL-32B-Instruct. Она принимает текст и изображения, а генерирует текст, поэтому предназначена для визуально-языковых сценариев: анализа и описания изображений, ответов на вопросы по визуальному содержимому, работы с диаграммами и общего текстового общения. Модель можно развернуть через vLLM и использовать через OpenAI-совместимый API. Архитектура модели — Qwen3VLForConditionalGeneration, размер базовой модели — 32B параметров. Для весов и активаций применяется NVFP4-квантизация с групповой квантизацией весов и динамической групповой квантизацией активаций; визуальные компоненты и некоторые отдельные слои не квантизируются. По данным README, это сокращает размер на диске и требования к GPU-памяти примерно на 75% по сравнению с представлением с 16 битами на параметр, что является главным преимуществом версии. При этом README не содержит сведений о поддерживаемых языках, точном контекстном окне и количественных результатах оценки, хотя модель проверялась на задачах ChartQA и MMLU. Лицензия — Apache-2.0. Для запуска в примере рекомендуется vLLM с tensor parallelism на двух GPU; фактические требования зависят от конфигурации оборудования и используемого программного окружения. Квантизация может снижать точность по сравнению с исходной моделью, однако конкретные потери качества в README не указаны.
Hyper-AI/Qwen3-VL-Embedding-8B-fp8 — мультимодальная модель для построения эмбеддингов, представленная как FP8-квантизированная версия 8-миллиардной модели семейства Qwen3-VL. В метаданных указана базовая модель Qwen/Qwen3-VL-8B-Instruct, а описание связывает модель с серией Qwen3-VL-Embedding, разработанной для мультимодального поиска и сопоставления информации. Инструментарий lightvl, упомянутый в README, предназначен для квантизации моделей и интеграции с vLLM; автор репозитория явно не назван. Модель принимает текст, изображения, скриншоты, видео и произвольные комбинации этих модальностей. Она предназначена для семантического поиска, кросс-модального retrieval, кластеризации, сопоставления текста с изображениями или видео и построения первого этапа двухступенчатых поисковых систем совместно с reranker-моделью. Заявлена поддержка более 30 языков, контекст до 32K токенов и размерность эмбеддингов до 4096 с настраиваемым выходным размером от 64 до 4096. Также заявлена поддержка инструкций для адаптации к конкретным задачам и MRL. Ключевое преимущество этой версии — снижение потребления памяти примерно с 16 до 8,8 ГБ и заявленное ускорение около 30% по сравнению с исходной версией; предусмотрен запуск через vLLM. README также сообщает о cosine similarity до 0,99 для изображений, однако не приводит подробностей методики измерения. Ограничения включают зависимость качества и производительности от FP8-квантизации, аппаратной поддержки и выбранных настроек инференса; подробные требования к оборудованию и результаты бенчмарков в приведённых данных отсутствуют. Лицензия — Apache-2.0.