I.1Поиск и навигация по информации
В разделе собраны самостоятельные задачи, где AI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
13 467 моделейrichardyoung/mythos-9b-merged-heretic — модель для генерации текста и диалогов, созданная Richard Young на основе Qwen3-9B. Это декензурированная версия Mythos-9B, полученная с помощью Heretic v1.4.0; исходная Mythos-9B дообучалась на 47 824 примерах с трассами использования инструментов, командами оболочки, генерацией кода и многошаговыми рассуждениями. Модель поддерживает режим thinking и рассчитана на агентные сценарии с вызовом инструментов. Репозиторий содержит веса в формате safetensors. Контекст модели составляет 40 960 токенов, размер — 7,6 млрд параметров; в карточке указан английский язык. В сравнении с исходной Mythos-9B автор приводит 7 отказов из 100 проверок против 79 из 100 у исходной модели, а также низкую KL-дивергенцию 0,0211. Эти результаты описывают приведённые автором проверки и не гарантируют качество в других задачах. Модель распространяется по лицензии Apache 2.0.
NuExtract 2.0 8B — мультимодальная модель компании NuMind для извлечения информации в структурированный формат. Она основана на Qwen2.5-VL и дообучена для работы с текстом и изображениями; содержит 7,1 млрд параметров и поддерживает контекст до 128 000 токенов. Для извлечения пользователь передаёт текст или изображение и JSON-шаблон с нужными полями и типами значений. Модель возвращает найденные данные в соответствии со схемой, поддерживая строки, числа, даты, перечисления и массивы. Она также может создавать шаблоны из текстового описания или преобразовывать схемы из других форматов. Для задач с неоднозначностью можно добавить примеры в контекст; разработчики рекомендуют использовать температуру, близкую к нулю. Модель предназначена для многоязычного извлечения информации из документов и других текстовых или визуальных источников. Её можно развёртывать через Transformers или vLLM. Лицензия репозитория — MIT.
Карточка модели dzui/Ovis2.5-2B на Hugging Face совпадает с карточкой ATH-MaaS/Ovis2.5-2B, поэтому описание составлено по ней. Ovis2.5-2B — компактная мультимодальная модель семейства Ovis2.5 от команды Ovis. Она сочетает визуальный энкодер NaViT для обработки изображений в исходном переменном разрешении и языковую модель Qwen3-1.7B. Модель рассчитана на диалоговые сценарии с изображениями и мультимодальные рассуждения; контекст составляет 40 960 токенов. Модель умеет анализировать изображения, распознавать текст и структуру документов, таблиц и форм, отвечать на вопросы по диаграммам и выполнять визуальные рассуждения. Опциональный режим thinking с бюджетом рассуждений добавляет самопроверку и пересмотр ответа, повышая потенциальную точность на сложных запросах ценой дополнительной задержки. В карточке также заявлены результаты на задачах понимания видео и grounding, однако основной интерфейс описан как ввод изображения и текста с текстовым ответом. README отмечает высокие результаты для модели такого размера и пригодность для сценариев с ограниченными ресурсами, но конкретное оборудование или скорость не указаны. Доступны веса safetensors; модель рассчитана на Transformers. Лицензия — Apache-2.0.
Qwen2.5-95B-Instruct — плотная языковая модель для генерации текста и диалогов, созданная ssmits как self-merge модели Qwen/Qwen2.5-72B-Instruct с помощью MergeKit. Веса собраны методом passthrough из диапазонов слоёв исходной модели; модель содержит 93,4 млрд параметров и опубликована в формате safetensors. Метаданные указывают контекст 32 768 токенов и интерфейс чата с поддержкой вызова инструментов. Модель предназначена для диалогов, генерации текстов, творческого письма, математических и пространственных рассуждений. Автор README сообщает об улучшениях на отдельных задачах относительно Qwen2.5-72B-Instruct, но также отмечает, что исходная модель превосходит её во многих общих языковых и рассуждательных сценариях. Оценка модели пока ограничена, поэтому результаты на конкретной задаче следует проверять отдельно. Карточка указывает лицензию other, без уточнения её условий. README описывает шаблон чата Qwen и заявляет окно контекста 128K, тогда как метаданные Hugging Face указывают native context 32 768 токенов; фактическое поддерживаемое окно следует сверять с конфигурацией и используемым ПО.
FocusMix 7B — языковая модель на 7,1 млрд параметров, полученная слиянием нескольких дообученных моделей семейства Qwen2. В состав слияния входят Replete-LLM-Qwen2-7b, Calme-2.8-Qwen2-7b, Arcee-Spark и Einstein-v7-Qwen2-7B; в карточке указан базовый Qwen2-7B и метод model_stock. Модель предназначена для генерации текста и диалогового взаимодействия. FocusMix рассчитана на выполнение инструкций, ответы на вопросы, рассуждения и решение задач по широкому кругу тем. Репозиторий использует Transformers и формат safetensors; заявленная длина контекста — 131 072 токена. README не приводит результатов сравнительных испытаний, поэтому заявления об улучшении точности и рассуждений следует считать описанием авторов, а не подтверждённой оценкой качества. Лицензия в предоставленных данных не указана.
Sehyo/Qwen3.5-122B-A10B-NVFP4 — квантизированная версия модели Qwen/Qwen3.5-122B-A10B, подготовленная Sehyo с использованием схемы квантования NVFP4. Модель относится к семейству Qwen3.5 и имеет MoE-архитектуру; для загрузки и запуска используется библиотека Transformers, а для поддержки NVFP4 рекомендуется nightly-версия vLLM. Модель предназначена для запуска Qwen3.5-122B-A10B в более компактном квантизированном формате, что может быть полезно для инференса больших языковых моделей и сценариев, где важны снижение требований к памяти и эффективное выполнение. Квантование выполнено с помощью VLLM LLM Compressor с поддержкой Qwen3.5 MoE. При калибровке использовано 512 образцов из наборов ultrachat_200k и Nemotron-Post-Training-Dataset-v2, максимальная длина последовательности составляла 4096 токенов, а калибровка охватывала всех экспертов MoE. Ключевые особенности — NVFP4-квантование и наличие весов MTP (multi-token prediction), добавленных для поддержки speculative decoding в vLLM. Ограничения README не описывает: неизвестны точный размер контекста исходной модели, поддерживаемые языки, модальности, показатели качества и требования к оборудованию. Лицензия в предоставленных данных не указана.
88plug/Qwen3.6-27B-W8A16 — квантованная версия мультимодальной модели Qwen3.6-27B, разработанной командой Qwen и опубликованной пользователем 88plug. Модель предназначена для обработки изображений и текста с генерацией текста: анализа изображений, визуально-текстовых запросов, рассуждений и задач общего назначения. Поддерживает английский язык; заявленный контекст составляет до 262 144 токенов. Это плотная модель примерно на 27 млрд параметров без MoE, с гибридной архитектурой Gated DeltaNet и полносвязных MLP-блоков. В ней 41 чередующийся слой полной и линейной внимания. Применена посттренировочная квантование AutoRound W8A16: веса хранятся в INT8, а активации — в BF16; размер группы квантования равен 32. Модель занимает около 27 ГБ и рассчитана на запуск на GPU Ampere и новее, включая RTX 4090, A6000 и A100-40. Для развёртывания предпочтителен vLLM версии 0.21 или новее с форматом compressed-tensors. К сильным сторонам относятся существенно меньшие требования к памяти по сравнению с BF16-версией, поддержка длинного контекста и возможность работы на распространённых GPU без ограничений, характерных для FP8. Текстовые компоненты калибровались на смешанном наборе UltraChat-200k и WikiText-103, однако визуальный энкодер получил некалиброванное RTN-квантование INT8, поэтому качество обработки изображений может быть менее проверенным. Формат compressed-tensors не поддерживается TGI, а виджет Hugging Face может работать нестабильно. Модель распространяется по лицензии Apache-2.0.
MrFadiAi выпустил Qwen3.6-35B-A3B-Hermes-V6 — неофициальную сборку сообщества на основе семейства Qwen3.6 с дообучением и настройкой в стиле Hermes. Это мультимодальная модель Mixture-of-Experts: около 35 млрд параметров всего и около 3 млрд активных на каждом токене. Модель распространяется в формате GGUF для запуска через llama.cpp; для обработки изображений требуется отдельный мультимодальный проектор. Модель предназначена для диалогов, понимания изображений, рассуждений, вызова инструментов и агентных сценариев, включая многошаговое выполнение задач. Автор сообщает о результатах локальных сравнительных тестов по математике, знаниям и использованию инструментов, но они получены на ограниченной выборке и конкретном оборудовании, поэтому их нельзя напрямую сопоставлять с официальными результатами других тестов. В README приведена команда запуска с контекстом 32768 токенов. Для весов требуется около 17 ГБ памяти; фактическая скорость зависит от оборудования и конфигурации. Метаданные указывают лицензию Apache-2.0, однако автор рекомендует проверить применимые условия лицензии базовой модели перед использованием или распространением.
ionos/Qwen3.8-27B-GPTQ-Int4 — неофициальная 4-битная GPTQ-квантизация мультимодальной модели Qwen/Qwen3.8-27B, созданная сообществом с использованием LLM Compressor. Модель предназначена для работы с текстом и изображениями: она поддерживает понимание документов, визуальное восприятие и рассуждения, математические задачи по изображениям, работу с инструментами и выполнение инструкций. В README явно приведены результаты для английского и немецкого языков; полный список поддерживаемых языков и размер контекстного окна не указан. Используется схема W4A16 с группами по 128 весов и симметричной GPTQ-квантизацией. Большинство линейных модулей языковой части модели в 64 слоях квантизированы до 4 бит, тогда как vision tower, эмбеддинги, lm_head и некоторые небольшие чувствительные компоненты сохранены в BF16. Архитектура, токенизатор, chat template и конфигурация процессора не изменены относительно базовой модели, а объём весов составляет примерно треть от версии BF16. Модель рассчитана на запуск, в частности, через vLLM; для неё требуется свежая версия transformers. По приведённым сравнениям модель в целом сохраняет качество базовой версии в задачах понимания документов, визуального рассуждения и английских знаний. Отдельно отмечено снижение результата на немецком языке примерно на 3 процентных пункта, поэтому немецкоязычные сценарии требуют собственной проверки. Результаты для tool calling и instruction following близки к базовой модели, но их абсолютные значения в тесте снижены особенностями измерения с включённым reasoning. Для табличного вывода рекомендуется использовать JSON-схему или грамматику с последующей валидацией. Модель распространяется по лицензии Apache-2.0, однако сама квантизация не является официальной и не проверялась командой Qwen или Alibaba Cloud.
Qwen3.8-27B-ROCmFP4-STRIX-MTP-GGUF — квантизированная GGUF-версия базовой модели Qwen/Qwen3.8-27B, опубликованная пользователем kingjones777. Модель предназначена для генерации текста, рассуждений, работы с инструментами и мультимодальных сценариев с визуальным вводом, прежде всего на системах AMD Ryzen AI Max+ 395 со встроенной графикой Radeon 8060S (gfx1151, Strix Halo). README не указывает разработчика базовой модели отдельно от идентификатора Qwen/Qwen3.8-27B. Используется формат ROCmFP4 с тремя вариантами квантизации и размером файлов 13,33–13,75 GiB; эффективная точность составляет 4,25–4,39 бит на вес. В комплект включена MTP-голова для speculative decoding. Контекст проверен до 65 536 токенов. Для варианта STRIX заявлены скорость декодирования до 30,30 токена/с при настроенном MTP, perplexity 5,8877 на отложенной выборке wikitext-2, успешные тесты зрения 4/4 и tool calling 7/7, включая режим reasoning. Языки README не перечисляет. Сильные стороны модели — высокая скорость на поддерживаемом оборудовании AMD, небольшие требования к дисковому пространству, сопоставимая с Q4_K_M perplexity и опубликованная настройка глубины MTP. Ограничения включают зависимость от AMD Strix Halo и специализированной сборки llama.cpp с поддержкой ROCmFP4; стандартная сборка llama.cpp эти типы тензоров не принимает. Приведённые показатели относятся к конкретной конфигурации и могут не воспроизводиться на другом оборудовании. Модель распространяется по лицензии Apache-2.0.
Это вариант модели Qwen3-Next-80B-A3B-Thinking, подготовленный командой minjaechoi как экспериментальный чекпойнт r26 с разреженными экспертами MoE. Средняя точность весов маршрутизируемых экспертов составляет 2,125 бита, остальные веса — BF16; в репозитории веса сохранены в тензорах BF16 после деквантизации. Модель предназначена для генерации текста и диалога, включая сложные рассуждения, а интерфейс поддерживает вызов инструментов. Она использует архитектуру Qwen3-Next и рассчитана на контекст до 262 144 токенов. Метаданные указывают 2,3 млрд параметров, а для загрузки доступны safetensors и библиотека Transformers. Сверхнизкая точность маршрутизируемых экспертов может ограничивать качество по сравнению с исходной моделью; README характеризует этот вариант как внутренний исследовательский чекпойнт. Лицензия наследуется от Qwen3-Next-80B-A3B-Thinking.
unsloth/Qwen3-VL-4B-Instruct-unsloth-bnb-4bit — это квантованная 4-битная версия мультимодальной модели Qwen3-VL-4B-Instruct, разработанной командой Qwen и подготовленной Unsloth. Модель предназначена для понимания и генерации текста на основе изображений, а также для работы с видео и текстовыми запросами. Модель имеет размер 4B параметров и архитектуру vision-language с режимом Instruct. Она поддерживает визуальное распознавание, OCR для 32 языков, анализ пространственных отношений, понимание длительных видеосцен, мультимодальное рассуждение в STEM-задачах и взаимодействие с графическими интерфейсами ПК и мобильных устройств. Заявлен нативный контекст до 256K токенов с возможностью расширения до 1M. Среди архитектурных компонентов указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Сильными сторонами являются сочетание текстового и визуального понимания, обработка изображений, документов и видео, распознавание текста в сложных условиях, а также задачи визуального программирования и управления интерфейсами. Ограничения включают зависимость качества и совместимости от 4-битного квантования, а также необходимость подходящей аппаратной и программной конфигурации для длинного контекста и видео; конкретные языки, требования к ресурсам и детальные числовые результаты в README не указаны. Модель распространяется по лицензии Apache-2.0.
SImi-2B — генеративная языковая модель, разработанная Dakuwon Moody. Это публичное распространение только весов модели SImiModel без исходного кода архитектуры, обучающего кода и полного внутреннего дерева восстановления. Модель предназначена для генерации текста, следования инструкциям, агентских сценариев и использования инструментов, включая задачи с tool use и function calling. Модель представляет собой decoder-only causal language model в стиле Llama, реализованную на JAX/Flax. Она содержит примерно 2,32 млрд параметров, 30 слоёв, скрытую размерность 2560, GQA с 20 query heads и 4 KV heads, RoPE, RMSNorm и SwiGLU. Используется untied token embedding и LM head, токенизатор GPT-2 BPE с 50 257 токенами и максимальная длина последовательности 1024 токена. Вычисления и веса имеют тип bfloat16. В README указан английский язык модели. Сильными сторонами являются обучение на полноразмерных потоках данных для инструкционного, агентского и инструментального использования, а также компактный размер по сравнению с крупными языковыми моделями. Ограничения включают отсутствие поддержки hosted inference, отсутствие исходного кода и несовместимость с Transformers AutoModel.from_pretrained; для восстановления требуются JAX/Flax и специфические процедуры работы с Orbax. Модель обучалась на AMD Instinct MI300X. Распространяется по лицензии Apache-2.0.
Ternary-Bonsai-2-27B-ConstantKV — дообученная модель tfwnotops на базе Ternary-Bonsai-2-27B-Crystal для генерации текста и диалогов с постоянным объёмом состояния внимания при длинном контексте. В основе — плотная гибридная архитектура семейства prism_hadamard_qwen35 с весами Qwen3.8-27B в троичном представлении; карточка описывает 16 слоёв полного внимания и механизм, сочетающий точное окно последних 1 024 токенов, свёрнутое состояние для дальнего контекста и хранилище точных ключей и значений размером до 8 192 токенов на KV-голову. Модель доступна в формате safetensors и использует библиотеку MLX. Модель рассчитана на локальную генерацию и ответы по длинным документам, а также на дополнение кода. По данным карточки, объём состояния внимания остаётся около 1,18 ГиБ независимо от длины контекста; заявлен запуск на Mac mini M4 с 16 ГБ памяти при контексте до 32 тыс. токенов. Карточка также указывает интерфейс вызова инструментов и повторное использование ранее вычисленных ответов через карту .mrail. Указанные измерения и возможности приведены авторами карточки; независимая проверка здесь не проводилась. Лицензия — Apache-2.0. Карточка не сообщает о специальной языковой или предметной специализации, поэтому модель следует считать общей текстовой моделью; конкретная поддержка языков отдельно не заявлена.
Unlimited-OCR-GGUF — набор GGUF-квантизаций модели baidu/Unlimited-OCR, подготовленный пользователем sahilchachra. Это мультимодальная vision-language OCR-модель примерно на 3 млрд параметров, предназначенная для распознавания текста и структурированного разбора документов по изображениям. Поддерживаются сценарии преобразования документов в Markdown с сохранением структуры, извлечения обычного текста, распознавания таблиц и элементов макета, получения ограничивающих рамок, разбора рисунков, графиков и диаграмм, а также визуального вопросно-ответного взаимодействия. В метаданных заявлена многоязычность, без перечисления конкретных языков. Модель использует архитектуру DeepSeek-OCR: визуальную башню DeepEncoder на базе SAM и CLIP, а также текстовый декодер DeepSeek-V2 MoE. Репозиторий содержит варианты от BF16 до 2- и 3-битных K-quants и i-quants; рекомендуемым компромиссом размера и качества указан Q4_K_M. Визионный проектор mmproj поставляется отдельно в формате F16 и требуется для каждого запуска. Контекстное окно в README не указано. Сильные стороны модели — ориентация на однопроходный разбор документов, поддержка длинных и плотных документов, сохранение порядка чтения и структуры, а также возможность получать координаты найденного текста. Ограничения связаны с необходимостью специальной сборки llama.cpp с поддержкой DeepSeek-OCR: стандартная ветка upstream на момент публикации файлы не загружает. Для работы необходимо скачать одновременно языковую GGUF-модель и vision projector; низкобитные варианты экономят память, но снижают качество OCR. Лицензия — MIT.
Gemma-SEA-LION-v4-27B-IT — языковая модель с инструктивной настройкой от AI Singapore, разработанная для языков Юго-Восточной Азии. Это плотная декодерная модель на архитектуре Gemma 3, дообученная на примерно 10 млн пар вопросов и ответов на бирманском, английском, индонезийском, кхмерском, лаосском, малайском, тагальском, тамильском, тайском и вьетнамском языках. Модель предназначена для диалогов, ответов на вопросы, следования инструкциям, суммаризации, анализа тональности, перевода и рассуждений; заявленная длина контекста — 128 тысяч токенов. Модель также сохраняет мультимодальные возможности Gemma 3 для понимания изображений и текста, включая визуальные вопросы и разбор документов, однако её дополнительное обучение выполнялось только на текстовой части, поэтому специальных улучшений в работе с изображениями не заявлено. Поддерживаются вызов функций и структурированные ответы. По оценке разработчиков, модель сильна в задачах для языков региона, но может галлюцинировать, выдавать нерелевантные ответы и не проверялась на устойчивость к состязательным запросам. Модель не прошла настройку безопасности; при использовании нужны собственные меры проверки и защиты. Лицензия — Gemma Terms of Use.
Jais-2-70B-Chat — двуязычная языковая модель MBZUAI, Inception и Cerebras, обученная с нуля для диалогов и генерации текста на арабском и английском языках. Она рассчитана на современный литературный арабский, региональные диалекты и переключение между арабским и английским в одном сообщении. Это decoder-only Transformer с multi-head self-attention и 70 млрд параметров. Модель использует собственный арабоцентричный словарь размером 150 272 токена, RoPE и активацию Squared-ReLU; длина контекста — 8 192 токена. Подходит для чат-ассистентов, генерации и обработки двуязычных документов, анализа тональности и создания арабоязычного контента. В описанных авторами оценках модель показала конкурентные результаты на IFEval для арабского и английского и высокие результаты на AraGen-12-24. Авторы предупреждают, что её не следует применять для языков, отличных от арабского и английского, или для медицинских, юридических, финансовых и других критически важных решений без контроля человека. Лицензия — Apache-2.0.
K2-Horizon-MoVA-36B-A4B-GGUF — квантованная версия модели IFM/K2-Horizon-MoVA-36B-A4B, опубликованная abenzerps в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста и поддерживает сценарии диалогов и вызова инструментов; доступен формат tool calling с вариантами xml, json и xml_typed. Это разреженная Mixture-of-Experts-модель с архитектурой Mixture-of-Values attention (MoVA): всего 36 млрд параметров, из которых примерно 4 млрд активируются для каждого токена. Исходная модель поддерживает контекст до 524 288 токенов (512K), а заявленный язык — английский. Модель текстовая и не требует vision projector. Доступны варианты квантования Q3_K_M, Q4_K_M, Q4_0, Q5_K_M, Q6_K и Q8_0 размером примерно от 17,66 до 39,83 ГБ. Ключевое преимущество модели — сочетание большого контекстного окна, разреженной MoE-архитектуры и нескольких вариантов квантования для выбора компромисса между качеством и требованиями к памяти. Для запуска требуется сборка llama.cpp с поддержкой архитектуры K2 Horizon, включая форк MBZUAI-IFM до появления поддержки в основной ветке. Лицензия исходной модели — Apache-2.0; фактическая производительность зависит от выбранной квантовки и доступной памяти.
KRONOS-8B-V2 — объединённая языковая модель, созданная T145 методом TIES с помощью mergekit на базе unsloth/Meta-Llama-3.1-8B и включающая KRONOS-8B-V1-P1, KRONOS-8B-V1-P2, KRONOS-8B-V1-P3 и unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, рассчитанная на генерацию текста и диалоговое использование; метаданные также отмечают интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов. README приводит результаты оценки на IFEval и BBH, но не описывает специализацию по предметной области или подтверждённый набор языков. Модель подходит для диалоговых приложений, генерации и продолжения текста, а также сценариев с длинным контекстом. В README указана лицензия модели Llama 3.1. Представленные результаты бенчмарков ограничены частью таблицы, поэтому по ним нельзя судить о качестве во всех задачах; сведения о языковом покрытии и ограничениях применения в карточке не приведены.
Ling-2.6-flash-JANGTQ — квантованная версия модели inclusionAI Ling-2.6-flash, подготовленная Jinho Jang (JANGQ-AI) для запуска через MLX на компьютерах Apple Silicon. Это гибридная MoE-модель семейства Bailing-V2.5: в README указаны около 103 млрд общих параметров и 8 млрд активируемых, 32 слоя с MLA и Lightning Linear Attention, 256 маршрутизируемых экспертов и контекст до 131 072 токенов. Заявленный размер набора весов — около 30 ГБ. Модель предназначена для диалоговой генерации текста, рассуждений, вызова инструментов и многошаговых агентных задач. Квантование JANGTQ2 использует 2-битное представление для маршрутизируемых экспертов, 8-битное для ряда остальных весов и FP16 для отдельных компонентов; конфигурация рассчитана на запуск в MLX на Apple Silicon с 64 ГБ или более памяти. Метаданные указывают библиотеку MLX и лицензию MIT. README описывает шаблон чата и формат вызова инструментов, но не перечисляет поддерживаемые естественные языки.
Модель Linkbricks-Horizon-AI-Japanese-Superb-V1-22B разработал директор по данным Linkbricks Джи Юнсон (Saxo) на базе Saxo/Linkbricks-Horizon-AI-Korean-Superb-22B. Это плотная авторегрессионная модель семейства Mistral на 22 млрд параметров; её дообучали на японском языке методами SFT и DPO, затем объединили веса. Карточка заявляет контекст 128 тысяч токенов, однако метаданные указывают штатный контекст 32 768 токенов. Модель предназначена для диалогов, генерации и редактирования текста, анализа отзывов и публикаций в социальных сетях, программирования, математических и логических задач, а также межъязыковых сценариев с японским, корейским, китайским и английским языками. Заявлена поддержка вызова функций и инструментов. В обучении использовались японские новости и вики-корпус, а также данные для перевода, суммаризации, вопросов и ответов и других задач. Модель распространяется в формате Safetensors под лицензией Apache 2.0. Заявленные в карточке возможности и качество не сопровождаются результатами независимой оценки; контекст 128 тысяч токенов расходится с параметрами штатного контекста в метаданных.
Saxo/Linkbricks-Horizon-AI-Japanese-Superb-V5-70B — языковая модель Linkbricks, дообученная директором по данным Юнсон Джи (Saxo) на базе V4. Это плотная модель семейства Llama с 69,5 млрд параметров, созданная посредством японского SFT и DPO. Она принимает текст и генерирует текст; заявлено контекстное окно до 128 тысяч токенов и поддержка вызова функций и инструментов. Модель предназначена для японского, корейского, китайского и английского языков. В карточке указано обучение на японских новостях и корпусе Википедии, многоязычных данных для перевода и суммаризации, а также примерах для вопросов и ответов, математики и логических рассуждений. Среди заявленных сценариев — анализ отзывов и публикаций в социальных сетях, программирование и написание текстов. Модель распространяется в формате Safetensors через Transformers по лицензии Apache-2.0. Карточка описывает заявленные возможности, но не приводит независимых оценок качества; результаты для отдельных задач и языков могут различаться.
MOSS-Transcribe-Diarize 0.9B — мультимодальная модель для распознавания и структурированного анализа длинных аудио- и видеозаписей. Она совместно выполняет транскрибацию и диаризацию: выдаёт текст с временными метками и относительными анонимными метками говорящих, а также может отмечать акустические события. В README модель представлена как разработка MOSS; репозиторий использует архитектуру MossTranscribeDiarizeForConditionalGeneration и библиотеку Transformers с пользовательским кодом загрузки. Модель предназначена для встреч, звонков, подкастов, интервью, лекций и других записей с несколькими участниками. Поддерживает более 50 языков, обработку записей длительностью до 90 минут за один проход и подсказки с пользовательскими ключевыми словами для терминологии предметной области. В метаданных указаны английский и китайский языки; README также сообщает о результатах соревнования на 14 языках, включая русский. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Для загрузки требуется разрешить выполнение пользовательского кода Transformers через trust_remote_code=True.
NVLM-D-72B — мультимодальная модель NVIDIA из семейства NVLM 1.0 для задач с изображениями и текстом, а также для текстовых задач. Это decoder-only Transformer с 72-миллиардной языковой основой Qwen2-72B-Instruct и визуальным энкодером InternViT-6B; в репозитории используются веса Safetensors и библиотека Transformers. Модель принимает текст и изображения и формирует текстовые ответы. Контекст — до 128 тысяч токенов. Модель предназначена для визуальных вопросов и ответов, OCR, анализа документов и диаграмм, мультимодальных рассуждений, локализации объектов, а также задач на общие знания, здравый смысл и программирование. В карточке приведены результаты на мультимодальных и текстовых бенчмарках; также заявлено улучшение текстовых возможностей относительно языковой основы после мультимодального обучения. Модель рассчитана на некоммерческое использование и распространяется по лицензии CC BY-NC 4.0. Для инференса в README указаны PyTorch, Linux и оборудование NVIDIA Hopper; загрузка модели и многопроцессный инференс требуют значительных вычислительных ресурсов. Генерация изображений не поддерживается, а результаты могут немного различаться в зависимости от версий Transformers, CUDA и Docker.
Qwen2.5-VL-3B-Instruct — мультимодальная модель семейства Qwen от Alibaba, дообученная для работы по инструкциям. Она сочетает языковую модель с визуальным энкодером и принимает текст вместе с изображениями или видеокадрами, отвечая текстом. Модель рассчитана на диалоговые сценарии: распознавание объектов и текста на изображениях, анализ диаграмм и макетов, понимание видео и поиск нужных временных отрезков, локализация объектов с координатами, а также формирование структурированных данных из сканов и таблиц. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2.5-VL и библиотеку Transformers. Метаданные указывают контекст до 128 000 токенов; в README базовая конфигурация описана как 32 768 токенов с возможностью расширения через YaRN, которое может ухудшать точность пространственной и временной локализации. Поддерживаются английский язык и визуальные сценарии, включая изображения и видео; авторы также описывают управление инструментами, компьютером и телефоном. Лицензия в предоставленных данных не указана.
AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-NVFP4 — мультимодальная языковая модель от AEON-7, основанная на AEON-7/Qwen3.6-27B-AEON-Ultimate. Она предназначена для генерации и обработки текста, а также анализа изображений в сценариях, поддерживаемых исходной моделью. В карточке заявлена поддержка английского, китайского и других языков. Модель содержит 27 млрд параметров и использует гибридную архитектуру с полноформатными слоями внимания и 48 слоями линейного внимания GatedDeltaNet. Это аппаратно-квантизированная версия NVFP4: размер на диске уменьшен примерно с 51 до 26 ГБ. Vision tower, слои linear attention, нормализации, эмбеддинги и lm_head сохранены в BF16, поэтому заявлена сохранность мультимодальности и устойчивости гибридной архитектуры. Для развёртывания указан контекст до 256 000 токенов в рекомендованной конфигурации vLLM. К сильным сторонам относятся существенное снижение требований к хранению и возможность использовать native FP4-ускорение на DGX Spark с GB10, B100/B200 и некоторых видеокартах Blackwell, а также сохранение обработки изображений. Ограничения связаны с необходимостью совместимого программного стека и оборудования; заявленные характеристики качества, включая близость к BF16 и отсутствие отказов, требуют независимой проверки после развёртывания. Модель помечена как superseded и рекомендована автором к замене более новой версией Qwen3.8. Лицензия — Apache-2.0.
btbtyler09/Qwen3.6-27B-GPTQ-8bit — это 8-битная GPTQ-квантизованная версия модели Qwen/Qwen3.6-27B, разработанной командой Qwen. Модель представляет собой плотную мультимодальную систему примерно с 27 млрд параметров, предназначенную для генерации и понимания текста, работы с изображениями и ускоренного вывода с использованием MTP (Multi-Token Prediction). Контрольная точка опубликована с лицензией Apache-2.0. Архитектура включает 64 слоя: 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания, чередующихся в соотношении 3:1. Размер скрытого представления составляет 5120, размер промежуточного слоя — 17408, максимальная длина контекста — 262 144 токена. В состав входят полноразмерный 27-блочный ViT-энкодер для обработки изображений и MTP-модуль для speculative decoding. Языки и специализированные языковые возможности отдельно не указаны. Линейные модули текстового декодера квантизованы в INT8 с помощью GPTQ, тогда как vision-энкодер, MTP, эмбеддинги, нормы и выходная голова сохранены в BF16 или FP16. Размер модели составляет около 32 ГБ вместо примерно 50 ГБ в BF16. По заявленным измерениям, ухудшение perplexity на wikitext-2-raw-v1 составляет всего 0,07%, что указывает на близкое к исходному качество. Модель подходит для мультимодального сервинга и длинного контекста, однако для запуска рекомендуется vLLM; прямое использование через GPTQModel и transformers на момент публикации не поддерживается, а для некоторых версий vLLM может потребоваться исправление ошибки разбора конфигурации.
Mike0021/Qwen3.8-27B-GGUF — набор GGUF-конвертаций базовой модели Qwen/Qwen3.8-27B, подготовленный пользователем Mike0021 с использованием llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев и мультимодального анализа изображений и видео; для работы с визуальными данными требуется отдельный vision projector. Доступны варианты BF16, Q8_0 и архитектурно адаптированный Q4_K_M размером 18,97 ГБ, рекомендованный для практического использования. Модель содержит 64 слоя, поддерживает контекст до 262 144 токенов, а заявленные языки — английский и китайский. В состав также может входить опциональная од Layer MTP-модель для speculative decoding, не изменяющая итоговое распределение вероятностей целевой модели. Для визуального ввода используются отдельные файлы projector размером 0,63 или 0,93 ГБ. Сильными сторонами являются большое контекстное окно, поддержка текста и изображений, варианты с разным компромиссом между качеством и требованиями к памяти, а также сохранённые шаблоны чата и режимы reasoning. Ограничения включают значительный объём файлов и потребность в соответствующих ресурсах памяти; для полной поддержки новой архитектуры требуется llama.cpp ревизии 1692f9e или более новая, поскольку старые версии и некоторые другие GGUF-рантаймы могут быть несовместимы. Лицензия — Apache-2.0.
Qwen3.8-27B-NVFP4 — квантизированная версия мультимодальной модели Qwen3.8-27B, созданная vrfai на основе исходной модели Qwen. Она предназначена для задач понимания текста и изображений, включая визуальные вопросы и ответы, анализ документов, диаграмм, OCR и математических изображений. Модель рассчитана на использование через Transformers и vLLM. Модель имеет 27 млрд параметров и распространяется в формате NVFP4 W4A4 с сериализацией compressed-tensors. Размер контрольной точки составляет 18,4 ГБ против 52 ГБ у базовой модели. Квантизация применяется к 93,28% весов линейных слоёв; отдельные компоненты, включая зрительную башню, lm_head, нормализации, эмбеддинги и некоторые слои Gated DeltaNet, сохранены в bf16. В архитектуре используются attention и Gated DeltaNet, однако размер контекстного окна и список поддерживаемых языков в карточке не указаны. Основное преимущество модели — существенно меньшее потребление памяти при сохранении мультимодальных возможностей. При наличии GPU с compute capability 10.0 или новее, например NVIDIA Blackwell B100, B200 или GB200, поддерживается полноценная NVFP4-арифметика. На H100, H200 и графических процессорах Ada модель работает через weight-only путь Marlin FP4: экономия памяти сохраняется, но вычисления, особенно при обработке длинных входов и больших пакетов, могут быть медленнее, чем у версии bf16. Результаты тестов показывают измеримые потери на отдельных задачах компьютерного зрения и обработки документов; опубликованные оценки не следует напрямую считать показателями полноценного W4A4-режима на Blackwell. Модель распространяется по лицензии Apache-2.0.
Qwen3-VL-2B-Instruct — плотная vision-language модель семейства Qwen3-VL, разработанная командой Qwen. Она принимает текст и изображения, а также поддерживает понимание видео и временных меток; предназначена для диалога, визуальных вопросов и ответов, распознавания текста в изображениях и документах, пространственного анализа и работы визуального агента с интерфейсами и инструментами. Модель объединяет текстовую и визуальную обработку. В карточке описаны улучшенное распознавание объектов и деталей, OCR на 32 языках, анализ положения объектов и временной структуры видео, а также создание HTML/CSS/JS или схем Draw.io по визуальным примерам. Архитектура использует Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Заявлена длина контекста 256K токенов с возможностью расширения до 1M. Весовой репозиторий предназначен для версии Instruct; модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия Apache-2.0. README не приводит результаты тестов или отдельные численные показатели качества, поэтому заявленные преимущества не следует трактовать как независимую оценку.