I.14Автоматизация процессов и AI-агенты

NuExtract-2-2B-experimental — экспериментальная мультимодальная модель NuMind для извлечения структурированных данных. Она дообучена на базе OpenGVLab/InternVL2_5-2B и принимает текст или изображения вместе с JSON-шаблоном, который задаёт нужные поля и типы значений. Модель извлекает дословные и обобщённые строки, числа, даты, значения из заданных списков, а также массивы этих типов. Если нужных сведений нет, она может вернуть null или пустой массив. Модель многоязычная; для извлечения рекомендуется температура около нуля. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

NuExtract3-GGUF — квантизированная версия NuExtract3, разработанная компанией NuMind. Это мультимодальная vision-language модель с архитектурой на 4 млрд параметров, предназначенная для понимания документов, структурированного извлечения информации и преобразования изображений документов в Markdown. Модель принимает текст, изображения или их сочетание. Для структурированного извлечения она использует JSON-шаблон и инструкции, возвращая данные в формате JSON; также поддерживает генерацию шаблонов из естественного языка или содержимого документа. NuExtract3 подходит для OCR и подготовки данных для RAG, обработки сканов, чеков, форм, счетов, договоров, таблиц и других документов. Заявлена поддержка многоязычных документов, режимов вывода с рассуждением и без него, а также больших входных и выходных контекстов. К сильным сторонам относятся объединение визуального анализа, OCR, рассуждений и структурированного извлечения в одной модели, а также возможность преобразования сложных документов в Markdown с HTML для таблиц, LaTeX для математических выражений и описаниями изображений. Внутренний бенчмарк NuMind показал средний результат 0,651 для варианта NuExtract3.4_4B-RL на наборе примерно из 600 документов, однако часть ответов не была корректно десериализуема в JSON, а производительность может снижаться на особенно больших или сложных заданиях. Модель распространяется по лицензии Apache-2.0. Данный репозиторий содержит квантизированный вариант базовой модели NuMind/NuExtract3; конкретные параметры квантизации и точное максимальное окно контекста в карточке не указаны.

NuMarkdown-8B-Thinking — мультимодальная модель Numind для распознавания и структурированного извлечения содержимого из документов. Она дообучена на базе Qwen/Qwen2.5-VL-7B-Instruct: сначала на синтетических примерах «документ — рассуждение — Markdown», затем с помощью GRPO с наградой, ориентированной на структуру и компоновку документа. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2.5-VL и рассчитана на контекст до 128 000 токенов. Модель принимает изображения документов и преобразует их в аккуратный Markdown, уделяя внимание сложной разметке и таблицам. В ходе генерации она использует промежуточные рассуждения о структуре страницы; их объём зависит от сложности задачи. Такой формат вывода подходит для подготовки документов к индексации и поиску с дополненной генерацией (RAG). Модель распространяется по лицензии MIT. Её назначение — извлечение текста и структуры из документов; README описывает сравнительные результаты, но не приводит подробностей методики оценки, поэтому заявленные преимущества на сложных документах следует проверять на собственных данных.

Ovis-Omni-Embedding-3B — мультимодальная модель эмбеддингов с 3 млрд параметров от ATH-MaaS, созданная на основе Qwen2.5-Omni-3B. Она кодирует текст, изображения, визуальные документы, видео, аудио и их сочетания в общее векторное пространство для поиска и сравнения. Модель использует общий бэкбон Thinker и родные текстовый токенизатор, визуальный и аудиоэнкодеры; вектор извлекается из скрытого состояния последнего непустого токена. Для запуска предусмотрена библиотека Transformers, веса опубликованы в формате safetensors. Модель предназначена для семантического и межмодального поиска, индексации и извлечения данных для мультимодальных RAG-систем, рекомендаций, поиска по видео и аудио, визуальным документам, интерфейсам и памяти агента. Это bi-encoder: запросы и кандидаты кодируются независимо, а ранжирование обычно выполняется по косинусному сходству нормализованных векторов. Генерировать текст или речь модель не предназначена. В бенчмарке MMEB-v3, включающем 190 наборов данных, модель набрала 58,46 балла и показала сильные результаты в агрегатах по группам модальностей. Качество зависит от подходящей инструкции для запроса и корректной предобработки; результаты бенчмарка не гарантируют качество на новых доменах. Лицензия — Apache-2.0.

OpenGryd/PaddleOCR-VL-1.6-MLX-16bit — конверсия PaddlePaddle/PaddleOCR-VL-1.6 в формат MLX для запуска на компьютерах Apple Silicon. Это мультимодальная модель обработки документов на основе ERNIE-4.5 с архитектурой PaddleOCRVLForConditionalGeneration; в README указано 0,9 млрд параметров, а размер файлов составляет около 1,81 ГБ. Модель использует точность bfloat16 без квантизации, принимает изображение вместе с текстовым запросом и выдаёт текстовый разбор документа. Контекст — до 131 072 токенов; языковые метки карточки указывают английский, китайский и многоязычную поддержку. Модель предназначена для локального распознавания и структурирования документов: извлекает текст целых страниц в Markdown или JSON, анализирует макет, распознаёт таблицы и формулы, диаграммы, печати и текстовые области. Повышенный предел разрешения изображения нацелен на распознавание мелкого текста, но увеличивает время обработки крупных страниц; README приводит замеры на 8-битной версии. Для работы требуется библиотека mlx-vlm и включение trust_remote_code=True, а запрос должен включать изображение. Лицензия — Apache-2.0.

Qwen2.5-32B-Instruct-4bit — преобразованная в формат MLX инструктивная языковая модель семейства Qwen2.5, опубликованная сообществом mlx-community на основе Qwen/Qwen2.5-32B-Instruct. Она предназначена для диалоговой генерации текста и выполнения пользовательских инструкций; доступен интерфейс для вызова инструментов. Модель содержит 32 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и рассчитана на контекст до 32 768 токенов. Репозиторий содержит веса в safetensors; README указывает на конвертацию с помощью mlx-lm 0.18.1. Метаданные указывают лицензию Apache-2.0. Карточка модели и метаданные не описывают специальную предметную область; английский указан среди поддерживаемых языков.

Qwen2.5-VL-72B-Instruct — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen; репозиторий unsloth содержит вариант модели в формате GGUF. Модель предназначена для обработки изображений, текста и видео, включая визуальные вопросы и ответы, распознавание текста, анализ документов, таблиц, графиков и макетов, а также извлечение структурированных данных из счетов, форм и сканов. Модель содержит 72 миллиарда параметров и основана на Qwen2.5-VL. Она использует vision-language архитектуру с оптимизированным vision encoder на базе ViT, оконным вниманием, SwiGLU и RMSNorm. Для видео применяются динамические разрешение и частота кадров, что позволяет анализировать длительные ролики продолжительностью более часа и находить релевантные временные сегменты. Модель также поддерживает визуальную локализацию объектов с помощью bounding boxes или точек, стабильный JSON-вывод координат и атрибутов, а также сценарии компьютерного и мобильного управления. В метаданных указан английский язык; поддержка китайского также отражена в результатах OCRBench-V2. К сильным сторонам относятся анализ сложных визуальных материалов, OCR, понимание документов и графиков, обработка длинных видео, локализация объектов и формирование структурированных ответов. Ограничениями являются большой размер модели и, как следствие, высокие требования к вычислительным ресурсам; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии Qwen; точные условия следует уточнять в файле лицензии по указанной ссылке.

PointerHQ/Qwen2.5-VL-72B-Instruct-Pointer-AWQ — мультимодальная instruction-tuned модель, созданная на базе Qwen/Qwen2.5-VL-72B-Instruct. Репозиторий PointerHQ содержит исправленную версию квантованной AWQ-модели для запуска через vLLM с tensor parallel на 2, 4 или 8 GPU; для работы указана версия vllm==0.7.3. Разработчик базовой модели — команда Qwen. Модель предназначена для анализа изображений и видео, визуального распознавания и рассуждений, извлечения текста и структурированных данных из документов, счетов, форм и таблиц, анализа графиков, диаграмм, макетов и значков. Она также поддерживает визуальную локализацию объектов с помощью ограничивающих рамок или точек, вывод координат и атрибутов в JSON, а также сценарии визуального агента, включая взаимодействие с компьютером и телефоном. Заявлено понимание видео длительностью более часа и поиск релевантных временных сегментов. Архитектура включает языковую модель Qwen2.5 и оптимизированный vision encoder ViT с оконным вниманием, SwiGLU и RMSNorm; для видео применяются динамические разрешение и частота кадров, а также временная обработка mRoPE. Размер модели — 72 млрд параметров. В README явно указан английский язык; поддержка других языков для этой версии не заявлена. Сильные стороны — мультимодальный анализ, OCR, работа с документами, графиками и видеопоследовательностями, а также эффективное распределение на несколько GPU. Ограничения — высокая вычислительная требовательность, зависимость от совместимой версии vLLM и необходимость нескольких GPU для заявленного tensor parallel. Лицензия обозначена как other, license_name — qwen; приведена ссылка на лицензию базовой модели Qwen2.5-VL-72B-Instruct.

NVIDIA Qwen3-30B-A3B-NVFP4 — это квантизированная версия авторегрессионной языковой модели Qwen3-30B-A3B, разработанной Alibaba и подготовленной с использованием NVIDIA TensorRT Model Optimizer версии 0.31.0. Модель предназначена для генерации текста и ориентирована на разработчиков, создающих AI-агентов, чат-ботов, RAG-системы и другие приложения на основе искусственного интеллекта. Модель использует трансформерную архитектуру Qwen3-30B-A3B, принимает текстовые последовательности и возвращает текст. Поддерживается контекст длиной до 131K токенов. Веса и активации линейных операторов внутри трансформерных блоков квантизированы в FP4, что примерно в 3,3 раза сокращает требования к дисковому пространству и памяти GPU по сравнению с 16-битным представлением. Модель рассчитана на запуск через TensorRT-LLM на GPU NVIDIA, включая архитектуру Blackwell, предпочтительно в Linux. К сильным сторонам относятся уменьшенные требования к памяти и готовность к высокопроизводительному инференсу на совместимом оборудовании. Ограничения включают зависимость от TensorRT-LLM и NVIDIA GPU, а также возможное снижение точности из-за квантизации; конкретные языковые возможности и результаты для отдельных языков в README не указаны. В README приведены результаты на MMLU Pro, GPQA Diamond, HLE, LiveCodeBench, SciCode, MATH-500 и AIME 2024, а для калибровки использован датасет CNN/DailyMail. Модель доступна для коммерческого и некоммерческого использования по лицензии Apache 2.0.

Карточка модели inference-optimization/Qwen3-30B-A3B-Thinking-2507-REAP-25-nonuniform на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Thinking-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Thinking-2507 — причинная языковая модель семейства Qwen3 от команды Qwen. Это модель типа Mixture of Experts с 30,5 млрд параметров, из которых при генерации активируются около 3,3 млрд; в архитектуре 128 экспертов, одновременно используются 8. Она предназначена для диалогов и сложных задач рассуждения, включая математику, науку, программирование, следование инструкциям и работу с инструментами. Модель поддерживает только режим рассуждения и имеет нативное контекстное окно 262 144 токена. В README отмечены улучшения в глубине рассуждений, общих возможностях и обработке длинного контекста. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Модель распространяется под лицензией Apache-2.0. Длинные рассуждения могут приводить к большому объёму вывода, а для высоких нагрузок на контекст требуются значительные вычислительные ресурсы; README рекомендует актуальную версию Transformers и описывает запуск через vLLM или SGLang.

Карточка модели inference-optimization/Qwen3-30B-A3B-Thinking-2507-REAP-25-uniform на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Thinking-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Thinking-2507 — причинная языковая модель семейства Qwen3 от команды Qwen. Это модель типа Mixture of Experts с 30,5 млрд параметров, из которых при генерации активируются около 3,3 млрд; в архитектуре 128 экспертов, одновременно используются 8. Она предназначена для диалогов и сложных задач рассуждения, включая математику, науку, программирование, следование инструкциям и работу с инструментами. Модель поддерживает только режим рассуждения и имеет нативное контекстное окно 262 144 токена. В README отмечены улучшения в глубине рассуждений, общих возможностях и обработке длинного контекста. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Модель распространяется под лицензией Apache-2.0. Длинные рассуждения могут приводить к большому объёму вывода, а для высоких нагрузок на контекст требуются значительные вычислительные ресурсы; README рекомендует актуальную версию Transformers и описывает запуск через vLLM или SGLang.

nvidia/Qwen3.5-122B-A10B-NVFP4 — квантизированная версия авторегрессионной мультимодальной модели Qwen3.5-122B-A10B, разработанной Alibaba. Квантизация выполнена NVIDIA с использованием Model Optimizer версии 0.44.0; сама модель не принадлежит и не разработана NVIDIA, а подготовлена по требованиям к данному сценарию применения. Модель предназначена для генерации текста, чат-ботов, AI Agent-систем, RAG и других приложений на базе искусственного интеллекта. Она принимает текст, изображения и видео, а выдаёт текст. Поддерживается контекст до 262K токенов, однако сведения о языках модели в карточке не указаны. Архитектура основана на оптимизированном Transformer и Mixture of Experts: всего 122 млрд параметров, из которых 10 млрд активируются при обработке запроса. Веса и активации линейных операторов в Transformer-блоках MoE переведены в формат NVFP4, что примерно в четыре раза уменьшает требования к дисковому пространству и GPU-памяти по сравнению с исходным представлением. Модель рассчитана на инференс через vLLM на NVIDIA GPU архитектуры Blackwell под Linux. К преимуществам относятся большой контекст, мультимодальный ввод, MoE-архитектура и сниженные требования к памяти благодаря квантизации. Ограничения включают зависимость от совместимого NVIDIA-оборудования и vLLM, возможные особенности качества и точности, связанные с 4-битной квантизацией, а также отсутствие раскрытых сведений о полном обучающем наборе данных. Перед промышленным использованием необходимы тестирование на данных конкретного сценария и проверка безопасности. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование.

brayniac/Qwen3.5-35B-A3B-heretic — вариант модели Qwen3.5-35B-A3B, подготовленный методом abliteration для снижения частоты отказов. В приведённом сравнении частота отказов составляет 5 из 100 против 92 из 100 у исходной модели; KL-дивергенция относительно исходной модели — 0,0825. Это не гарантирует ответа на любой запрос и не означает отсутствия ограничений безопасности. Модель предназначена для диалогов, рассуждений, программирования, работы с изображениями и сценариев с вызовом инструментов. Это мультимодальная причинная языковая модель с визуальным энкодером и гибридной архитектурой: Gated Delta Networks сочетаются с разреженной смесью экспертов (MoE). Всего в ней 35 млрд параметров, из которых активируются около 3 млрд; нативный контекст — 262 144 токена, с возможностью расширения до 1 010 000. Семейство заявляет поддержку 201 языка и диалекта. Веса опубликованы в формате safetensors и совместимы с Transformers и рядом движков инференса. Лицензия — Apache-2.0. Результат abliteration получен с изменением поведения исходной модели, поэтому качество и надёжность ответов следует оценивать для конкретного применения; приведённая таблица отказов не заменяет широкую проверку.

hikka2515/Qwen3.5-4B-MTP-GGUF — GGUF-версия мультимодальной модели Qwen3.5-4B, разработанной командой Qwen и подготовленной с использованием инструментов Unsloth. Модель предназначена для локального запуска и генерации текста, рассуждений, программирования, агентских сценариев, вызова инструментов и анализа изображений. Она поддерживает текстово-визуальный ввод и совместима с llama.cpp и другими средствами работы с GGUF. Модель содержит около 4 млрд параметров и использует гибридную архитектуру с Gated Delta Networks, разреженным Mixture-of-Experts и блоками gated attention. Контекст составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Поддерживается 201 язык и диалект. Версия включает обучение для multi-step speculative decoding (MTP), которое при совместимой сборке llama.cpp может ускорять генерацию примерно в 1,5–2 раза, а также улучшения поддержки роли developer и вызова инструментов. Сильные стороны модели — сочетание мультимодальности, большого контекста, компактного размера и возможности эффективного локального запуска в квантованном формате. Ограничения связаны с необходимостью специальной сборки llama.cpp для MTP; при таком режиме не поддерживаются параллельность запросов через параметр -np больше 1 и параметр --mmproj. Точные характеристики конкретного квантования UD-Q4_K_XL в README не приведены. Модель распространяется по лицензии Apache-2.0.

FadedRedStar/Qwen3.5-9B-heretic-GGUF — это квантизированная GGUF-версия мультимодальной модели Qwen3.5-9B-heretic. Исходную модель разработала команда Qwen компании Alibaba, а квантизацию выполнил FadedRedStar на основе весов coder3101/Qwen3.5-9B-heretic. Суффикс heretic означает постобработку с помощью Heretic v1.2.0 и метода Multi-directional refusal suppression, направленного на снижение количества отказов модели. Модель предназначена для мультимодального рассуждения, генерации текста, программирования, вызова инструментов и агентских сценариев. Она поддерживает обработку изображений через встроенный vision encoder и раннее объединение модальностей, формат запросов ChatML, 201 язык и диалект, а также контекст до 262 144 токенов с заявленной возможностью расширения примерно до миллиона токенов. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts; языковая часть содержит около 9 млрд параметров, общий объём с vision encoder составляет примерно 10 млрд параметров. Модель по умолчанию генерирует рассуждения перед финальным ответом и поддерживает tool calling. Репозиторий предоставляет варианты квантизации Q4_K_M, Q5_K_M и Q8_0, а также отдельные vision-проекторы в форматах Q8_0 и BF16 для запуска с поддержкой изображений в llama.cpp. Q4_K_M рассчитан на баланс качества и потребления памяти, Q5_K_M — на более высокую точность, а Q8_0 — на близкое к исходному качество при больших требованиях к памяти. Для ускоренного декодирования доступны дополнительные MTP-файлы. Заявленные показатели обхода отказов являются самоотчётными и независимо не проверялись; изменение поведения безопасности может быть ограничением при использовании модели. Лицензия — Apache-2.0.

FreedomAISVR подготовил GGUF-вариант мультимодальной инструктивной модели Qwen3.5-9B с квантизацией MXFP4. Модель содержит 32 трансформерных блока с гибридной архитектурой attention, FFN и SSM, дополнительную голову Multi-Token Prediction и проектор SigLIP для обработки изображений. Размер модели — 9 млрд параметров, контекст — до 262 144 токенов; веса представлены в 4-битном формате MXFP4, а проектор — в F16. Модель предназначена для генерации ответов и диалога на нескольких языках, понимания изображений и видео, вызова инструментов, рассуждений и задач по коду. Режим рассуждений в этой сборке выключен по умолчанию и включается параметром enable_thinking=true. Для мультимодального запуска требуется подключить файл проектора mmproj; использовать сборку можно через llama.cpp и совместимые инструменты для GGUF. Модель основана на Qwen/Qwen3.5-9B и распространяется по лицензии Apache-2.0. Квантизация уменьшает требования к памяти, но может повлиять на точность по сравнению с исходными весами. В README указана поддержка английского, китайского и кода; метаданные также отмечают многоязычность.

AEON-7/Qwen3.6-35B-A3B-heretic-NVFP4 — мультимодальная NVFP4-квантизированная версия модели tvall43/Qwen3.6-35B-A3B-heretic, подготовленная AEON-7. Модель предназначена для диалогов, рассуждений, программирования, агентских сценариев, function calling и обработки изображений с текстовыми запросами. Заявлена поддержка английского языка, vision-language задач и контекста до 1 млн токенов. Модель использует гибридную архитектуру Qwen3_5MoeForConditionalGeneration с Mixture-of-Experts: 35 млрд параметров всего и около 3 млрд активных параметров. В составе присутствуют разреженные MoE-слои, линейное внимание Mamba/GDN, 27-блочный ViT-энкодер, сохранённый в BF16, и экспертные веса в формате NVFP4. Поддерживаются multimodal image-text-to-text, tool calling, speculative decoding, prefix caching и FP8 KV-cache при использовании совместимой конфигурации vLLM. К сильным сторонам относятся высокая плотность модели при небольшом числе активных параметров, длинный контекст, мультимодальность и стабильная работа текста в заявленном стеке vLLM. В README указана проверка обработки изображений после исправления размещения тензоров vision tower, а также масштабирование до 64 одновременных запросов и примерно 740 токенов в секунду суммарно при использовании DFlash, однако эти характеристики зависят от оборудования и конфигурации. Модель ориентирована прежде всего на DGX Spark и совместимые GPU Blackwell/GB10 с образом AEON vLLM; для других сред совместимость не гарантируется. Это abliterated/decensored-вариант с существенно сниженным уровнем отказов, поэтому стандартные ограничения безопасности могут быть ослаблены. Лицензия — Apache-2.0.

batiai/Qwen3.8-27B-GGUF — это квантизированная версия модели Qwen3.8-27B, основанной на архитектуре Qwen3.5. Квантизацию выпустила BatiAI на базе официального релиза Qwen. Модель предназначена для локального запуска через llama.cpp и Ollama, включая использование на устройствах Apple Silicon. Модель представляет собой плотную модель на 27 млрд параметров с 64 слоями, скрытым размером 5120 и словарём из 248 320 токенов. Она использует гибридную архитектуру с преимущественно линейным вниманием Gated DeltaNet и полным вниманием в каждом четвёртом блоке. Нативный контекст составляет 262 144 токена и заявлена возможность расширения до 1 млн токенов. Поддерживаются текстовые сценарии, а при подключении vision-проектора BF16 — анализ изображений и видео. Заявлены языки английский, корейский и китайский. Модель ориентирована на генерацию текста, рассуждения, планирование и агентские сценарии с обработкой обратной связи от окружения. Режим рассуждений включён по умолчанию, его можно отключать и настраивать через reasoning_effort. Доступно несколько вариантов квантизации объёмом примерно от 10,2 до 22,1 ГБ, а vision-проектор требует ещё около 0,93 ГБ. Квантизация снижает требования к памяти, но может влиять на качество по сравнению с полноточной моделью; конкретные требования зависят от выбранного варианта и оборудования. На Apple Silicon производительность разных квантизаций неодинакова, поэтому меньший файл не всегда означает более высокую скорость. Распространение указано по лицензии Apache-2.0.

Qwen3.8-27B-GGUF — GGUF-квантизированная версия модели Qwen3.8-27B, подготовленная компанией ByteShape с использованием ShapeLearn. Этот метод подбирает тип данных отдельно для каждого тензора, чтобы сохранить высокое качество при малой разрядности. Модель предназначена для локального запуска на GPU через llama.cpp и поддерживает работу с изображениями благодаря встроенному vision projector. Модель ориентирована на математические задачи, программирование, общие знания, выполнение инструкций, многошаговые диалоги, мультиязычные сценарии, использование инструментов и агентные задачи. В выпуск входят пять вариантов размером от 8,8 до 13,1 ГБ и с разрядностью от 2,56 до 3,84 бит на вес, что позволяет выбирать баланс между требованиями к видеопамяти, скоростью и качеством. В GGUF также встроена MTP-голова для speculative decoding; для её использования нужен llama.cpp с соответствующими параметрами. Поддержка DFlash2 требует версии llama.cpp b10658 или новее. Сильными сторонами являются оптимизация под GPU, несколько вариантов квантизации и оценка на наборах тестов для математики, программирования, знаний, следования инструкциям и агентного использования. Ограничения включают потенциальное снижение качества по сравнению с базовой BF16-моделью из-за квантизации, необходимость подходящей видеопамяти и зависимость расширенных функций от версии llama.cpp. Модель распространяется по лицензии Apache-2.0.

coder3101/Qwen3.8-27B-heretic — дообученная версия Qwen/Qwen3.8-27B, созданная с помощью Heretic v1.2.0 методом abliteration для уменьшения частоты отказов. Это плотная причинная языковая модель с визуальным энкодером на 27 млрд параметров, поддерживающая диалог, изображения и видео. По карточке базовой модели, она рассчитана на программирование, профессиональные и исследовательские задачи, а также многошаговое планирование и работу с агентными сценариями. Контекст базовой модели составляет 262 144 токена с возможностью расширения до 1 000 000; README указывает, что режим рассуждений включён по умолчанию и может настраиваться. В приведённом сравнении модель отказала в 33 случаях из 100 против 92 у исходной версии; это характеризует снижение отказов, но не подтверждает качество ответов для всех запросов. Доступны веса в формате Safetensors для Transformers и совместимых средств инференса. Лицензия — Apache-2.0.

PassingByPixels/Qwen3.8-27B-NVFP4 — это квантованная версия мультимодальной модели Qwen3.8-27B, разработанной Qwen и преобразованной в формат NVFP4 с помощью NVIDIA TensorRT Model Optimizer 0.45.0. Модель предназначена для генерации и понимания текста, анализа изображений и видео, программирования, профессиональных и исследовательских задач, а также многошаговых агентских сценариев. Квантование не включало обучение или дообучение и представляет собой lossy-преобразование исходных весов bf16. Модель содержит около 27 млрд параметров и использует архитектуру causal language model с vision encoder. Она включает 64 слоя, механизм Gated DeltaNet с линейным вниманием, Gated Attention, MTP и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 000 000 токенов посредством RoPE scaling, например YaRN. Поддерживаемый язык в карточке указан как английский. Ключевая часть параметров представлена в 4-битном формате NVFP4 с блочными масштабами, а vision tower, эмбеддинги, LM head, MTP head и Gated DeltaNet сохранены в более высокой точности bf16. Основное преимущество — существенно меньшее потребление памяти и возможность запуска на одном устройстве DGX Spark с 128 ГБ памяти через vLLM и Blackwell FP4 path. При этом README не содержит оценки качества квантованной версии по сравнению с исходной bf16-моделью, поэтому возможное снижение точности следует учитывать. Лицензия — Apache-2.0.

Deritak/Qwen3.8-Flash-Next-heretic-2-ROCMFP4 — размещённая пользователем сборка Qwen3.8-Flash-Next, причинной языковой модели с визуальным энкодером. README описывает гибридную архитектуру с Gated DeltaNet, Qwen Sparse Attention, Mixture of Experts и n-граммными эмбеддингами: заявлены 125 млрд параметров, из которых активируются 6 млрд, а также отдельные параметры эмбеддингов и слой multi-token prediction. Модель принимает текст и изображения и предназначена для диалогов, задач с длинным контекстом и агентных сценариев, включая работу с кодом и офисными приложениями. В README указан контекст 262 144 токена с возможностью расширения до 1 000 000. Автор репозитория сообщает о проблеме с встроенной квантизацией MTP и рекомендует её не использовать; приведённые замеры скорости относятся к AMD AI Max+ PRO 395. Метаданные указывают GGUF и GGUF BF16, но лицензию обозначают только как other, поэтому точные условия использования по доступным сведениям определить нельзя.

Qwen3-Coder-Next-Base — базовая языковая модель для кодирующих агентов и локальной разработки, опубликованная Unsloth. Это причинная модель семейства Qwen3-Next с гибридным вниманием и разреженной архитектурой MoE; карточка Unsloth указывает 80 млрд параметров всего и 3 млрд активируемых, тогда как метаданные Hugging Face указывают 2,3 млрд параметров. Нативная длина контекста — 262 144 токена. Модель предназначена для генерации кода, адаптации шаблонов и каркасов проектов, вызова инструментов, а также обнаружения и исправления ошибок; её можно использовать как основу для дальнейшего дообучения агентных систем. README заявляет поддержку более 370 языков, но не уточняет, какие именно из них являются естественными, а какие — языками программирования. Модель текстовая и рассчитана на режим без рассуждений в формате thinking. Модель поставляется в формате safetensors и распространяется по лицензии Apache-2.0. README описывает её как базовую модель этапа предобучения; сведения о конкретных ограничениях качества или оценки на бенчмарках в предоставленных данных отсутствуют.

trohrbaugh/Qwen3-Coder-Next-heretic — версия Qwen3-Coder-Next, созданная методом abliteration: в README приведено сравнение с исходной моделью и заметно снижение частоты отказов. Это причинная языковая модель семейства Qwen3-Next с архитектурой MoE, предназначенная для генерации кода и работы в агентных сценариях разработки. Модель поддерживает чат и интерфейс вызова инструментов; README описывает применение с CLI и IDE, а также работу в режиме без рассуждений. По метаданным, репозиторий содержит веса Safetensors и насчитывает 2,3 млрд параметров; нативное окно контекста — 262 144 токена. README приводит характеристики исходной Qwen3-Coder-Next: 80 млрд параметров всего и 3 млрд активируемых, поэтому эти размеры не следует считать подтверждёнными для данной версии. Лицензия — Apache-2.0. В таблице README частота отказов составляет 14 из 100 запросов против 99 из 100 у исходной модели, а KL-дивергенция указана как 0,0708. Эти результаты относятся к описанному в карточке сравнению и не гарантируют такое же поведение на других запросах. Модель может выдавать нежелательный контент и менее склонна отказывать; перед применением следует оценивать её ответы и учитывать соответствующие риски.

Qwen3-VL-235B-A22B-Thinking — мультимодальная модель семейства Qwen3-VL от Qwen, представленная в варианте с архитектурой MoE и режимом рассуждений Thinking. Репозиторий содержит веса в формате safetensors; модель предназначена для диалога по тексту, изображениям и видео, визуального анализа и взаимодействия с инструментами. Лицензия — Apache-2.0. Модель подходит для ответов на вопросы по изображениям и видео, OCR и разбору длинных документов, STEM-задач, пространственного анализа, генерации кода и разметки интерфейсов по визуальным примерам, а также управления GUI через инструменты. В README заявлены контекст 256K токенов с расширением до 1M и поддержка OCR на 32 языках. Архитектурные особенности включают Interleaved-MRoPE, DeepStack и привязку видео-событий к временным меткам. Карточка описывает широкие возможности мультимодального рассуждения и понимания текста, но не приводит здесь конкретных результатов бенчмарков. Для развёртывания модели такого размера требуются значительные вычислительные ресурсы; фактическая поддержка видео и вызова инструментов зависит от используемого окружения.

Qwopus3.8-27B-GGUF — это набор GGUF-квантизаций модели Qwopus3.8-27B, опубликованный nom666. Модель создана как весовое слияние Qwen3.8-27B с компонентами Qwopus3.6-27B-v2, содержащими дистиллированный стиль рассуждений Opus. Базовую модель разработала команда Qwen, а исходный вклад в дистилляцию Qwopus принадлежит Jackrong. Это не дообучение с градиентами, а арифметическое слияние весов. Модель предназначена прежде всего для генерации текста, инструкционного взаимодействия, программирования и агентских циклов, особенно в режиме без рассуждений. Она сохраняет архитектуру Qwen3.8: 64 слоя, скрытое представление размером 5120, гибридную архитектуру GDN и full attention, словарь примерно на 248 тысяч токенов, контекст до 262 144 токенов и встроенную MTP-голову для speculative decoding. Экспорт в формате nextn позволяет использовать спекулятивное декодирование через llama.cpp. Доступны варианты с 4- и 8-битной квантизацией размером примерно от 16 до 27 ГБ. Сильные стороны модели — высокая эффективность по числу токенов, улучшенное следование инструкциям в non-thinking режиме и совместимость с быстрым локальным обслуживанием через llama.cpp. В приведённых тестах 4-битная версия набрала 37 из 38 заданий в наборе instruct/code/math, а в thinking-режиме сопоставила базовую модель на сложном наборе, используя примерно на 45% меньше токенов рассуждений. Ограничения включают меньшую стабильность на самых сложных задачах в режиме рассуждений и риск превышения жёсткого лимита токенов; для таких сценариев базовая Qwen3.8 может быть предпочтительнее. Лицензия — Apache-2.0.

Карточка модели Jackrong/Qwopus-GLM-18B-Healed на Hugging Face совпадает с карточкой KyleHessling1/Qwopus-GLM-18B-Healed, поэтому описание составлено по ней. Qwopus-GLM-18B-Healed — плотная языковая модель примерно на 18 млрд параметров, собранная Kyle Hessling как 64-слойное слияние двух дообученных моделей Qwen3.5-9B от Jackrong. Первые 32 слоя взяты из Jackrong/Qwopus3.5-9B-v3.5, остальные — из Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1; границу между частями сгладили 1000 шагами QLoRA-дообучения. В репозитории размещены исходные веса BF16 в формате safetensors для дальнейшей квантизации или дообучения. Модель предназначена для генерации текста в диалоге, рассуждений, вызова инструментов и агентных сценариев. Автор сообщает о результатах на собственной серии из 44 тестов, включая проверки вызова инструментов и агентных задач; это заявление автора, а не независимая оценка. Метаданные указывают поддержку английского, китайского, корейского, японского, французского, немецкого и испанского языков. Лицензия — Apache-2.0. Для запуска и квантизации требуются подходящие вычислительные ресурсы; готовая квантизированная версия размещена отдельно.

sergeyzh/rubert-large-uncased-query — компактная BERT-модель автора sergeyzh для симметричного сравнения поисковых запросов на русском и английском языках. Она создаёт эмбеддинги размерности 1024 и предназначена для поиска семантически близких запросов, в том числе для кэширования и фильтрации обращений к LLM и сценариев Q2Q RAG. Модель получена дистилляцией эмбеддингов с учётом префикса Qwen/Qwen3-Embedding-8B и дообучена на основе sergeyzh/rubert-large-uncased-sts. В архитектуре BERT 12 слоёв, максимальная длина контекста — 512 токенов; префиксы при использовании не требуются. Вариант uncased не различает верхний и нижний регистр. По оценке на датасете ai-forever/rubq-retrieval сходство с ответами Qwen/Qwen3-Embedding-8B составляет Pearson r 0,850 и Spearman ρ 0,800. Модель принимает текст и выдаёт векторные представления для сравнения семантической близости. Репозиторий содержит веса safetensors; лицензия — MIT. Результаты метрик приведены для русского языка, поэтому качество на иных данных и задачах может отличаться.

Sakalti разработал ultiima-32B-v1.5 — объединённую языковую модель на архитектуре Qwen2 с 32 млрд параметров. Она создана методом TIES с помощью mergekit: в качестве основы использована Qwen/Qwen2.5-32B, объединённая с Qwen/Qwen2.5-32B-Instruct. Модель предназначена для диалогов и генерации текста; метаданные также указывают интерфейс вызова инструментов. Она работает с текстом и поддерживает контекст до 131 072 токенов. Модель подходит для создания чат-ботов, подготовки текстовых ответов и запросов к инструментам в приложениях. В репозитории веса представлены в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана.

sahilchachra/Unlimited-OCR-AWQ — это квантизированная 4-битная версия мультимодальной модели baidu/Unlimited-OCR, разработанная пользователем sahilchachra. Модель предназначена для multilingual OCR и разбора документов: преобразования изображений документов в Markdown или обычный текст, извлечения текста с координатами, анализа макета, обработки рисунков, графиков и диаграмм, визуального вопросно-ответного взаимодействия, а также разбора многостраничных документов и PDF. Архитектура включает vision tower DeepEncoder на базе SAM-ViT-B и CLIP-L/14 с входом 1024×1024 и 16-кратным уменьшением, линейный projector и текстовый декодер DeepSeek-V2 MoE. Декодер содержит 12 слоёв, скрытое состояние размером 1280, 64 маршрутизируемых и 2 общих эксперта, при этом на токен выбираются 6 экспертов; нулевой слой является dense. Текстовые линейные слои квантизированы методом AWQ по схеме W4A16 с int4, симметричными группами по 128 элементов, тогда как vision tower, projector, embeddings, lm_head, маршрутизатор, нормы и отдельные слои сохранены в BF16. Модель поддерживает мультиязычные сценарии и работает с изображениями. К сильным сторонам относятся существенное уменьшение размера весов при сохранении совместимости с архитектурой Transformers, поддержка распознавания текста вместе с координатами ограничивающих рамок и долгого разбора документов. В README указано, что на тестовом документе результат OCR совпал с BF16-версией. Для запуска требуется custom remote code с параметром trust_remote_code=True, transformers 4.57.x, compressed-tensors и CUDA GPU; также возможен запуск в совместимых средах, включая vLLM. Модель распространяется по лицензии MIT, унаследованной от базовой модели.