I.4Обработка документов и форм

LongReward-llama3.1-8b-DPO — языковая модель семейства Llama 3.1, представленная авторами проекта LongReward. Это версия DPO-модели LongReward-llama3.1-8b-SFT, дообученная на предпочтениях с использованием раздела dpo_llama3.1_8b датасета LongReward-10k. Модель предназначена для генерации текста с длинным контекстом и поддерживает контекстное окно до 65 536 токенов. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат Safetensors; для работы README указывает библиотеку Transformers версии 4.43.0 или новее. Её можно применять для диалогов и ответов с учётом длинных документов и больших контекстов. В карточке указаны английский и китайский языки. Доступна под лицензией, указанной в репозитории Hugging Face.

Ornith-1.5-9B-Omni-GGUF — мультимодальный набор моделей, опубликованный cudabenchmarktest в формате GGUF и предназначенный для запуска через Ollama вместе с адаптером Robit. В состав входят текстовая модель Ornith 1.5 9B с пониманием изображений, инструментами и опциональным режимом рассуждений, граф Qwen3-Omni для анализа аудио, изображений и видео, а также Qwen3-TTS для синтеза речи. Компоненты работают как отдельные графы, связанные семантическим адаптером. Набор поддерживает генерацию текста и речи, распознавание речи, интерпретацию окружающих звуков, понимание изображений и анализ выбранных кадров видео. Основной GGUF-файл является контейнером sidecar с шестью представлениями моделей и проекторов, а не самостоятельной стандартной моделью Ollama. Текстовые функции и понимание изображений запускаются через стандартный Ollama; для аудио, видео и синтеза речи требуется адаптер Robit с закреплённой версией llama.cpp. Генерация видео не поддерживается. В метаданных указан формат GGUF и лицензия «other»; конкретные условия лицензии следует сверить с опубликованными уведомлениями и источниками компонентов. README предупреждает, что мультимедийные данные, транскрипты, OCR, подписи и результаты инструментов следует считать недоверенным вводом.

Qwen3.6-35B-A3B-MLX-6bit — это 6-битная квантованная версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для работы на устройствах Apple Silicon. В метаданных она обозначена как модель для задач image-text-to-text, однако подробные сведения о поддерживаемых языках, размере контекста и полном наборе модальностей в README не приведены. Модель предназначена для локального использования в сценариях, поддерживаемых MLX и LM Studio, включая обработку текстовых и, вероятно, визуально-текстовых запросов. Квантование снижает требования к памяти по сравнению с полной версией и делает модель более подходящей для Apple Silicon, но может уменьшать точность по сравнению с оригинальной моделью. README не содержит результатов тестирования, сведений о производительности и конкретных ограничениях качества. Указана лицензия Apache 2.0; исходная модель принадлежит Qwen, а данная MLX-квантизация предоставлена LM Studio.

Qwen3.8-27B-Uncensored-NVFP4-RTX5090 — это квантизированный вариант мультимодальной vision-language модели Qwen3.8-27B, разработанный на основе orcarouter/Qwen3.8-27B-Uncensored и опубликованный fleetml. Модель предназначена для задач image-text-to-text, локальных исследований, оценки моделей и разработки агентных систем. Поддерживаемые языки — английский и китайский. Модель использует архитектуру Qwen3_5ForConditionalGeneration, сохраняет vision-language возможности и 15 нативных MTP-тензоров. Квантование выполнено в формате ModelOpt NVFP4; размер целевой модели составляет около 20,59 ГБ. Максимальный архитектурный контекст заявлен на уровне 262 144 токенов, а проверенный профиль запуска поддерживает 122 880 токенов. Рекомендуемая конфигурация рассчитана на NVIDIA RTX 5090 с 32 ГБ видеопамяти и запуск через SGLang с парой DSpark для speculative decoding. К сильным сторонам относятся высокая скорость декодирования, поддержка длинного контекста и оптимизация под RTX 5090: в указанном тесте медианная скорость составила 217,73 токена в секунду, а медианное время до первого токена — 0,113 секунды. Эти показатели получены при ограниченной конфигурации тестирования и не включают обработку промпта; производительность и доступная ёмкость могут зависеть от версии runtime и состояния GPU. Использование ориентировано на локальный контролируемый запуск, а совместимость с другой аппаратурой и средами не подтверждена. Модель распространяется по лицензии Apache 2.0.

sat-12l-sm — модель семейства Segment Any Text для сегментации текста на предложения, разработанная для использования с библиотекой wtpsplit. Она определяет границы предложений на уровне токенов и построена на архитектуре XLM с 12 слоями Transformer; размер модели — 305,2 млн параметров, контекст — 514 токенов. В карточке заявлено качество уровня state of the art. Метаданные указывают поддержку множества языков, включая английский, арабский, китайский и другие; лицензия — MIT.

Swallow-MS-7b-v0.1 — языковая модель TokyoTech-LLM на основе Mistral-7B-v0.1, дообученная на продолжение предобучения с добавлением преимущественно японских данных. Это плотная авторегрессионная модель семейства Mistral с 7,2 млрд параметров и контекстом до 4096 токенов. Расширенный японский словарь токенизатора позволяет компактнее представлять японский текст и ускорять инференс. Модель предназначена для генерации текста на японском и английском языках и может применяться для вопросов и ответов, чтения и понимания текста, суммаризации, перевода, математических рассуждений и генерации кода. README приводит результаты оценки на японских и английских бенчмарках, включая задачи перевода между японским и английским. Разработчики отмечают, что модель находится на раннем этапе исследований и разработки и не настроена для надёжного следования человеческим намерениям или требованиям безопасности. Модель распространяется по лицензии Apache-2.0.

TopEvolution7RAG — созданная сообществом mergekit объединённая языковая модель на архитектуре Mistral с плотной архитектурой и примерно 7,1 млрд параметров. Веса объединены методом SLERP из DeepMount00/Mistral-RAG и mergekit-community/TopEvolutionWiz. Модель предназначена для генерации текста; базовая модель Mistral-RAG описана как дообученная для генеративных и экстрактивных ответов на вопросы по текстам, поэтому объединённая модель может подходить для ответов на вопросы и сценариев RAG. Поддерживаемый контекст — 32 768 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

XLNet base-cased — англоязычная предварительно обученная языковая модель, разработанная авторами XLNet и впервые выпущенная в этом репозитории. Она содержит 137,8 млн параметров, построена на архитектуре Transformer-XL и использует обобщённое авторегрессионное предобучение с перестановками токенов. Доступны веса PyTorch и TensorFlow; модель обучалась на BookCorpus и Wikipedia. Модель предназначена прежде всего для дообучения под задачи понимания текста, включая классификацию последовательностей и токенов, ответы на вопросы и ранжирование документов. В метаданных Hugging Face для неё указан тег text-generation, однако карточка советует для генерации рассматривать GPT-2, а XLNet использовать для задач, где решение опирается на целое предложение или его контекст. Модель распространяется по лицензии MIT.

Breeze-7B-32k-Base-v1_0 — базовая языковая модель MediaTek Research из семейства Breeze-7B, построенная на архитектуре Mistral-7B. Это декодерный трансформер с 7,2 млрд параметров и контекстом до 32 768 токенов; словарь расширен до 62 тысяч токенов для лучшей работы с традиционным китайским языком. Модель рассчитана на английский и традиционный китайский (zh-TW) и предназначена для дальнейшего дообучения под конкретные задачи. Увеличенное контекстное окно позволяет обрабатывать длинные документы и извлекать сведения из текста, распределённого по большому контексту. В описанных тестах модель показала более 90% точности при поиске ключа в длинном контексте и улучшенные результаты на длинных вариантах DRCD по сравнению с Breeze-7B-Base. Это базовая модель, поэтому её обычно дообучают перед применением для диалога и других прикладных задач. Распространяется по лицензии Apache-2.0.

DSE-Phi3-Docmatix-V1 — биэнкодер для поиска документов по плотным векторным представлениям, разработанный командой Tevatron. Он кодирует скриншоты документов, сохраняя текст, изображения и структуру страницы, а также поддерживает кодирование текстовых запросов и документов. Модель обучена на части набора Tevatron/docmatix-ir и предварительно обучена на Tevatron/msmarco-passage-aug; она предназначена для поиска документов и ответов на вопросы по документам, включая сценарии с PDF. В zero-shot оценке на ViDoRE модель достигла 74,1 nDCG@5 без дообучения на данных ViDoRE. Модель основана на Phi-3 Vision, имеет 3,7 млрд параметров и контекстное окно 4096 токенов. Для поиска она преобразует запросы и документы в плотные векторы, сходство которых можно использовать для ранжирования. Лицензия — MIT.

Gemma 4 26B A4B it GGUF — это квантизированный набор файлов модели google/gemma-4-26B-A4B-it, подготовленный пользователем giladgd в формате GGUF для запуска через node-llama-cpp и llama.cpp. Модель относится к классу conversational и имеет тег image-text-to-text, что указывает на поддержку сценариев диалогового взаимодействия и обработки текста совместно с изображениями. Доступны варианты квантования Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_0, Q4_K_S, Q4_K_M, Q5_0, Q5_K_S, Q5_K_M, Q6_K, Q8_0 и BF16 размером от 10,6 до 50,5 ГБ. README не содержит сведений о точной архитектуре, максимальной длине контекста, поддерживаемых языках, результатах оценки или конкретных ограничениях качества. Квантование уменьшает требования к хранению и памяти по сравнению с полноформатной версией, однако более компактные варианты могут уступать ей по качеству. Модель предназначена для локального использования в приложениях и чат-сценариях через node-llama-cpp или llama.cpp; доступны CLI и программный интерфейс на TypeScript. Лицензия указана как Apache-2.0, при этом для Gemma приведена отдельная ссылка на условия лицензии Google.

unsloth/LFM2.5-1.2B-Instruct-GGUF — квантизированная GGUF-версия текстовой instruction-tuned модели LFM2.5-1.2B-Instruct, разработанной Liquid AI и подготовленной для локального развёртывания с использованием Unsloth. Модель предназначена для llama.cpp и совместимых инструментов, оптимизирована для CPU-инференса и работы на периферийных устройствах с ограниченными ресурсами. Модель содержит 1,17 млрд параметров, 16 слоёв, включая 10 double-gated LIV convolution blocks и 6 GQA blocks, поддерживает контекст до 32 768 токенов и словарь из 65 536 токенов. Это текстовая модель без поддержки изображений или аудио; заявлены английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Она рекомендована для агентских сценариев, извлечения данных и RAG, поддерживает вызов функций и ChatML-подобный шаблон диалога. К сильным сторонам относятся небольшой размер, низкие требования к памяти, высокая скорость инференса на CPU и мобильных NPU, а также возможность запуска менее чем с 1 ГБ памяти. Модель не рекомендуется для задач, требующих обширных фоновых знаний, и для программирования. Репозиторий указывает лицензию lfm1.0; формат GGUF снижает требования к ресурсам, но является квантизированной версией исходной модели.

psx7/llama4B — текстовая модель семейства Llama, представленная в формате MLX; README указывает, что её преобразовали из rasyosef/Llama-3.1-Minitron-4B-Chat с помощью mlx-lm 0.18.1. По метаданным, модель содержит 3,9 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Каталог связывает её с базовой моделью nvidia/Llama-3.1-Minitron-4B-Width-Base и датасетом OpenHermes-2.5; модель предназначена для генерации текста и диалогового использования. Репозиторий содержит веса в GGUF и safetensors, а README описывает использование через mlx-lm. Указана лицензия «other», поэтому точные условия использования следует проверять в файлах лицензии репозитория.

MiMo-V2.6-Flash-RL-JANG2L — это опубликованная OsaurusAI квантованная версия Xiaomi MiMo-V2.6-Flash-RL для запуска через MLX на Apple Silicon. В ней применена смешанная низкоразрядная квантовка JANG: основные экспертные проекции хранятся в 2 битах, часть проекций — в 3 битах, а защищённые ранние слои сохранены в исходном формате MXFP4. Заявлено около 2,73 эффективного бита на параметр; текстовые веса занимают около 95,87 GiB. Модель содержит 12 млрд параметров и поддерживает контекст до 1 048 576 токенов. Модель предназначена для диалоговой генерации текста, рассуждений и вызова инструментов, а также для ответов по изображениям и видео. В README описаны рабочие текстовые и инструментальные диалоги и ответы на изображения и видео в интеграционной сборке Osaurus. Качество квантованной модели не эквивалентно исходной: авторы отмечают искажения на чувствительных позициях и ограниченность проведённых тестов; результаты тестов не являются оценкой на официальных бенчмарках. Репозиторий сохраняет веса обработки изображений, видео и аудио, однако распознавание аудио в тестах Osaurus не прошло квалификацию, а аудио-вывод и совместное понимание синхронизированных аудио и видео не подтверждены. Для запуска требуется Osaurus версии 0.25.13 или новее; модель использует формат MLX и safetensors. Лицензия — MIT.

vikash06/mistral_v1 — текстовая генеративная модель семейства Mistral, представленная автором как модель для непосредственного использования. В README указано, что её экспериментально обучали на небольшом наборе данных, чтобы оценить влияние более длительного обучения на качество. В метаданных указаны 7,1 млрд параметров, архитектура MistralForCausalLM, контекст 32 768 токенов и формат safetensors. Модель предназначена для генерации текста по инструкциям, включая творческое письмо, ответы на вопросы по предоставленному фрагменту и общим знаниям, суммаризацию, извлечение информации и классификацию. README сообщает о 1000 примерах для каждой категории и приводит результаты оценки на HellaSwag и AI2 Reasoning Challenge, но подробный технический отчёт обещан позднее. Автор README описывает модель как дообученную на базе Llama 2, однако метаданные указывают архитектуру Mistral; точная связь с базовой моделью требует осторожной интерпретации. Модель распространяется по лицензии MIT. Обучение на небольшом экспериментальном наборе ограничивает основания ожидать стабильного качества на широком круге задач; подробностей о языках обучения и оценке в карточке нет.

debisoft/mpt-7b-8k-instruct-peft-compatible — версия MPT-7B-Instruct-8k, подготовленная на основе eluzhnica/mpt-7b-8k-instruct-peft-compatible. Модель разработана MosaicML и дообучена для выполнения инструкций, в частности для ответов на вопросы и суммаризации длинных документов. В обучении использовались Dolly HHRLHF и наборы данных для математики, диалогов, вопросов по документам и других задач. Это плотный decoder-only трансформер MPTForCausalLM с 6,7 млрд параметров и 32 слоями. Архитектура использует FlashAttention и ALiBi без позиционных эмбеддингов. Модель предназначена для генерации текста; заявлен контекст 8k токенов в названии и описании исходной модели. Для загрузки через Transformers требуется доверенное выполнение пользовательского кода. Лицензия — CC-BY-SA-3.0. Модель подходит для ответов на вопросы и краткого изложения длинных текстов, однако может выдавать фактически неверные, предвзятые или оскорбительные ответы. README не сообщает о специальной поддержке русского языка; основные обучающие данные описаны как англоязычные.

Qwen3.8-27B-huihui-abliterated-groupwise-int-NInfer — артефакт квантования модели huihui-ai/Huihui-Qwen3.8-27B-abliterated, опубликованный в пространстве Barding-Defense и предназначенный для движка NInfer. Это мультимодальная модель для работы с текстом и изображениями, поддерживающая режимы reasoning и speculative decoding с использованием MTP. Upstream-модель подвергнута удалению отказов методом редактирования весов; данная версия не выполняет дообучение или дополнительное изменение поведения, а только преобразует формат и квантует веса. Модель содержит 27B параметров, текстовую часть, vision-компоненты, MTP и оптимизированную draft head. Используется groupwise integer-квантизация с форматами Q5G64_F16S, Q4G64_F16S, W8G32_F16S и другими, при этом часть компонентов сохранена в BF16 или FP32. Контейнер занимает около 18,2 GB, а резидентный объём весов составляет примерно 15,9 GiB. Для работы требуется GPU NVIDIA Blackwell с compute capability 12.0 (sm_120a); заявлена поддержка контекста до 262144 токенов при серверном запуске. Сильные стороны модели — компактное размещение в памяти, совместимость со штатным NInfer, поддержка изображений и MTP-декодирования. На указанном GPU измеренная скорость декодирования достигает 199,6 токена в секунду с MTP при 86,2% принятия draft-токенов. Ограничения включают привязку к Blackwell, отсутствие опубликованных capability-бенчмарков и сравнения с BF16, а также возможное снижение возможностей из-за abliteration; степень этого снижения не измерялась. Лицензия — Apache-2.0.

Qwen3.8-27B-Opus-Distill-GGUF — квантованная мультимодальная модель, разработанная barozp на базе Qwen3.8-27B. Исходная модель дообучена с помощью LoRA на 14 250 трассах рассуждений Claude Opus; адаптеры объединены с базовыми весами. Модель распространяется в формате GGUF для запуска через llama.cpp и предназначена для текстовых и визуально-текстовых задач, включая ответы на вопросы, анализ изображений и задачи, требующие рассуждений. Модель содержит 27 млрд параметров, встроенную vision tower и обученную MTP-голову для self-speculative decoding. Vision tower поставляется отдельно в виде файла mmproj размером около 0,9 ГБ. Доступны варианты от BF16 и Q8_0 до крайне низкоразрядных IQ-квантов; Q4_K_M рекомендован как сбалансированный вариант. Для IQ-квантов используется importance matrix, рассчитанная на данных рассуждений. Точные сведения о поддерживаемых языках и размере контекста в README не указаны. Сильной стороной является улучшение показателей на задачах рассуждений: в описанном тестировании прирост относительно базовой модели составил 4,2 процентного пункта на ARC-Challenge и 26 пунктов на GPQA Diamond, при почти неизменных показателях общих знаний и языкового моделирования. Производительность MTP для этой конкретной модели не измерялась, поэтому приведённые оценки ускорения относятся к родственному Qwen3.6 и не гарантируют такой же результат. Известна проблема с зацикливанием рассуждений при одновременном использовании ограничений «без прозы» и другого ограничения формата; рекомендуется избегать такой комбинации или увеличить лимит генерации. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями требуется отдельный файл mmproj; текстовые сценарии могут использовать модель без него.

amd/Qwen3.8-Flash-Next-Quark-MXFP4 — оптимизированная и квантованная версия Qwen3.8-Flash-Next, подготовленная Advanced Micro Devices (AMD) с использованием AMD-Quark. Модель предназначена для генерации текста на основе текстовых, изображений и видео входных данных и работает через Transformers и vLLM. В карточке указана поддержка английского языка. Модель использует архитектуру Qwen4ExpForConditionalGeneration с MoE-компонентами. Все веса и активации экспертов MoE, включая shared expert, квантованы в OCP MXFP4; механизмы внимания, vision tower, роутеры и другие перечисленные компоненты сохранены в формате bfloat16. Модель рассчитана на аппаратные платформы AMD MI350 и MI355, Linux, ROCm 7.2.3 и PyTorch 2.12.0. Размер модели и объём контекстного окна в README не указаны. Ключевое преимущество — снижение требований к вычислениям и памяти при сохранении близкой к исходной точности: на GSM8K модель получила 96,5 против 96,8 у базовой версии, что соответствует восстановлению 99,7% результата. Ограничения включают зависимость от специализированного оборудования AMD и указанного программного стека, а также отсутствие данных о качестве на других задачах и языках. Лицензия обозначена как other; для модификаций указано авторское право Advanced Micro Devices, Inc. за 2026 год, подробные условия приведены в файле LICENSE.

Карточка модели Koulano/Qwen3-Omni-30B-A3B-Thinking на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

SIGMA-BERT-short — словенская языковая модель с архитектурой ModernBERT, разработанная командой LHRS-UM-FERI. Это энкодер, обученный с нуля на задаче восстановления замаскированных токенов на корпусе примерно из 13,88 млрд словоупотреблений из словенских веб-текстов, новостей, парламентских материалов, научных публикаций и пользовательского контента. Модель содержит около 149 млн параметров, имеет 22 слоя и контекст до 1 024 токенов; используется библиотека Transformers и формат весов safetensors. Модель предназначена для дообучения под задачи понимания словенского текста: классификации, распознавания именованных сущностей, извлечения ответов на вопросы, вывода и семантического сходства, поиска и ранжирования документов. Она подходит для предложений и документов стандартной длины, но не генерирует текст и не рассчитана на обработку текстов длиннее контекстного окна. При подстановке [MASK] важно размещать токен вплотную к предыдущему слову согласно особенностям токенизатора. Лицензия — CC BY-SA 4.0.

Карточка модели microsoft/xdoc-base-squad1.1 на Hugging Face совпадает с карточкой microsoft/xdoc-base-squad2.0, поэтому описание составлено по ней. XDoc-base-SQuAD2.0 — модель Microsoft для ответов на вопросы по тексту, связанная с проектом XDoc, представленным в работе о едином предварительном обучении для понимания документов разных форматов. В карточке указана архитектура RoBERTa с головой для question answering и 151,8 млн параметров; модель доступна в формате PyTorch, контекст — до 514 токенов. Модель предназначена для поиска ответа на вопрос в предоставленном контексте и может применяться для извлечения сведений из документов и ответов на вопросы по их тексту. README описывает XDoc как единую предварительно обученную модель для разных форматов документов, но не уточняет модальности и конкретные возможности данного чекпойнта. Лицензия — MIT.

DiscoResearch и Occiglot разработали эту инструктивно дообученную языковую модель при поддержке DFKI и hessian.Ai. Она основана на Llama 3 и предназначена прежде всего для диалогов и выполнения инструкций на немецком языке. Модель имеет плотную архитектуру LlamaForCausalLM с 7,5 млрд параметров и принимает текст, выдавая текст. Базовую Llama 3 дообучали на 65 млрд немецких токенов, затем расширили контекст обучением на последовательностях длиной 32 тыс. токенов и провели инструктивное дообучение на немецком наборе DiscoResearch. В метаданных указано нативное окно контекста 65 536 токенов; README описывает обучение длинного контекста на 32 тыс. токенов. Модель подходит для немецкоязычных диалогов, ответов на вопросы, следования инструкциям и работы с длинными текстами. В README приведены результаты оценки на английских и немецких бенчмарках. Доступна в формате safetensors для Transformers; лицензия — Llama 3, поэтому использование регулируется её условиями.

Mihaiii/Metis-0.5 — дообученная модель Mistral с 7,1 млрд параметров, созданная на основе migtissera/Tess-XS-v1-3-yarn-128K. Модель предназначена для генерации ответов с упором на рассуждения и понимание текста; автор отмечает, что она хорошо работает с длинными системными инструкциями. Для взаимодействия используется формат с ролями SYSTEM, USER и ASSISTANT. Нативная длина контекста — 32 768 токенов. Модель подходит для анализа текста и решения задач на рассуждение, но автор не рекомендует использовать её для универсального сочинительства, например для написания историй. Она обучена на закрытом датасете. Лицензия — Apache-2.0.

Карточка модели NostraEmpire/mirror-qwen2.5-omni-7b на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Omni-7B, поэтому описание составлено по ней. Qwen2.5-Omni-7B — мультимодальная модель семейства Qwen, разработанная командой Qwen компании Alibaba. Она использует архитектуру Thinker-Talker для сквозной обработки текста, изображений, аудио и видео и потоковой генерации текста и естественной речи. Временные позиционные представления TMRoPE синхронизируют видеокадры со звуком. Модель предназначена для мультимодального диалога в реальном времени, включая голосовое и видеообщение, распознавание и понимание речи, анализ изображений и видео, следование инструкциям на слух и генерацию речи. Карточка сообщает о результатах на тестах мультимодального рассуждения, понимания видео, речи и перевода; модель работает через Transformers и хранит веса в формате safetensors. Модель принимает текст, изображения, аудио и видео, а выдаёт текст и аудио. В README не приведены сведения о лицензии, позволяющие назвать её условия: метаданные указывают лицензию «other».

Карточка модели NostraEmpire/mirror-smollm2-1.7b-instruct на Hugging Face совпадает с карточкой HuggingFaceTB/SmolLM2-1.7B-Instruct, поэтому описание составлено по ней. SmolLM2-1.7B-Instruct — компактная языковая модель Hugging Face на 1,7 млрд параметров, дообученная на базе HuggingFaceTB/SmolLM2-1.7B. Это плотный Transformer-декодер семейства Llama для генерации текста и диалогов; модель поддерживает контекст до 8192 токенов и рассчитана на запуск на устройстве. Версия Instruct прошла supervised fine-tuning и Direct Preference Optimization. Она предназначена для следования инструкциям, переписывания и суммаризации текста, а также вызова функций. Модель ориентирована прежде всего на английский язык; репозиторий содержит веса Safetensors и формат ONNX. Лицензия — Apache-2.0. По сравнению с предыдущей версией семейства улучшены следование инструкциям, знания, рассуждения и математика, однако ответы могут содержать фактические ошибки, быть логически непоследовательными или отражать смещения обучающих данных. Важную информацию следует проверять; модель не заменяет экспертную оценку.

mmBERT-32K-YaRN — многоязычная модель семейства ModernBERT, разработанная для Semantic Router и семейства Mixture-of-Models проекта vLLM. Она расширяет jhu-clsp/mmBERT-base с 8 192 до 32 768 токенов контекста с помощью масштабирования RoPE методом YaRN. Модель содержит около 307 млн параметров и использует архитектуру ModernBERT с Flash Attention 2; доступны веса Safetensors и экспорт ONNX. Модель предназначена для понимания длинных документов, классификации запросов для семантической маршрутизации, классификации документов, поиска информации и других многоязычных NLP-задач с длинным контекстом. В README заявлена поддержка более 1 800 языков; метаданные перечисляют английский, немецкий, французский, испанский, китайский, японский, русский, арабский, корейский и португальский. Обучение продолжения на CC-100 описано как работа с последовательностями длиной 32 768 токенов. Для длинных фрагментов точность извлечения снижается при расстоянии свыше 2 048 токенов. Обучающие данные собраны из веб-страниц и могут содержать связанные с ними смещения; для обработки полного контекста 32K README указывает потребность примерно в 180 ГБ GPU-памяти при batch size 1. Лицензия — MIT.

88plug/Qwen2.5-Omni-7B-W4A16 — это INT4-квантованная версия базовой модели Qwen/Qwen2.5-Omni-7B, подготовленная 88plug методом посттренировочной квантализации. Модель предназначена для генерации текста и диалоговых сценариев с мультимодальным вводом: поддерживает обработку текста, изображений и аудио, а исходная архитектура также включает генерацию речи в реальном времени. Модель имеет архитектуру Thinker с языковой моделью, аудиобашней, визуальным модулем и компонентами синтеза речи Talker и Token2Wav. Квантованы линейные слои 28 трансформерных блоков языкового ядра в формате W4A16 с INT4-весами, BF16-активациями и размером группы 128. Аудио-, визуальные и речевые компоненты, эмбеддинги, LM head и нормализации сохранены в BF16. Размер весов составляет около 3,5 ГБ; заявлена работа на одной видеокарте с 8 ГБ памяти, например RTX 3080 с 10 ГБ. В конфигурациях запуска указан контекст до 32768 токенов, а заявленным языком является English. Главное преимущество модели — существенное снижение требований к памяти при сохранении мультимодальных возможностей базовой 7B-модели. Она подходит для локального развертывания через vLLM, включая обработку аудио и изображений; для полноценного вывода речи рекомендуется vLLM-Omni. Основные ограничения связаны с поддержкой окружений: TGI не поддерживает используемый формат compressed-tensors, обычный vLLM возвращает только текст, SGLang не поддерживает этот формат нативно, а интеграция с Hugging Face Inference Widget может работать нестабильно. Модель распространяется по лицензии Apache-2.0.

nDimensional выпустил конверсию Qwen3.5-9B Uncensored в формате safetensors на основе объединённой модели HauhauCS/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive и Qwen/Qwen3.5-9B. Это плотная мультимодальная модель на 9 млрд параметров с гибридной архитектурой: 24 слоя GDN и 8 стандартных слоёв внимания. Она предназначена для диалога и обработки изображений; поддерживает интерфейс вызова инструментов. В описании базовой Qwen3.5 также указаны рассуждения, программирование и агентные задачи. Конверсия сохраняет веса в BF16 и предназначена для Transformers, vLLM и других фреймворков, не поддерживающих исходный формат GGUF. В README отмечены изменения весов отдельных тензоров языковой модели; энкодер изображений, токенизатор и перечисленные эмбеддинги и MLP-слои совпадают с базовой моделью. В конфигурации отключено предсказание нескольких токенов. Карточка указывает английский и китайский языки. Лицензия — Apache-2.0.

ToPo-ToPo/Qwen3.8-27B-mlx-bf16 — конверсия мультимодальной модели Qwen/Qwen3.8-27B в формат MLX bfloat16 для запуска на компьютерах Apple Silicon. Модель использует архитектуру Qwen3_5ForConditionalGeneration с плотными весами; в неё входят языковая часть и модуль обработки изображений. Исходные веса конвертированы с помощью mlx-vlm 0.6.9, лицензия — Apache-2.0. Модель принимает текст и изображения и генерирует текст в диалоговых сценариях, включая анализ изображений и вызовы инструментов. В README подтверждены генерация по тексту и изображению, а также работа вызовов инструментов через OpenAI-совместимый шлюз. Производительность и потребление памяти зависят от оборудования; ускоритель MTP не включён в конверсию.