I.4Обработка документов и форм

Huihui-Qwen3.6-35B-A3B-abliterated-FP8-DYNAMIC — это FP8-квантизированная версия модели huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated, подготовленная разработчиком coolthor для инференса, прежде всего на NVIDIA DGX Spark с GB10 и 128 ГБ унифицированной памяти. Модель предназначена для генерации и анализа текста, а также обработки изображений; в карточке заявлены английский и китайский языки. Она совместима с vLLM и поддерживает автоматический выбор инструментов и вызовы инструментов через соответствующие парсеры Qwen3. Модель основана на архитектуре Qwen3.6 MoE с конфигурацией 35B-A3B. Используется схема динамической квантизации FP8_DYNAMIC в формате compressed-tensors: около 31 030 линейных модулей переведены в FP8 e4m3fn, а отдельные компоненты, включая визуальный модуль, lm_head и маршрутизаторы экспертов, сохранены в BF16. Размер на диске составляет примерно 36 ГБ вместо 67 ГБ у базовой BF16-версии. Сохранённые MTP-веса позволяют применять speculative decoding; в тесте на DGX Spark скорость достигала 51,72 токена в секунду против 30,71 токена в секунду у BF16-варианта. Рекомендуемая длина контекста при запуске в vLLM — до 32 768 токенов. К сильным сторонам относятся уменьшенный размер, поддержка текстово-визуального ввода и ускорение генерации с MTP. Для работы с изображениями требуется версия контрольной точки после исправления от 3 мая 2026 года; более ранние загрузки имели неисправный визуальный ввод. Карточка также предупреждает о проблемах точности и повторов при использовании FP8 KV-кэша на SM121, поэтому его применение не рекомендуется. Лицензия модели — Apache 2.0.

atakankutalp/LFM2.5-2.6B-heretic — это изменённая версия LiquidAI/LFM2.5-2.6B, созданная с помощью Heretic 1.4.0. В модели применена направленная абляция: из весов удалено направление, связанное с отказами. Число параметров не изменилось и составляет 2,69 млрд; архитектура LFM2 — плотная языковая модель из 30 слоёв, сочетающая блоки коротких свёрток и группированное внимание. Контекст — 131 072 токена. Репозиторий содержит веса Safetensors и варианты GGUF, включая квантизированные сборки. Модель предназначена для генерации текста в диалоге и агентных сценариев: вызова инструментов, извлечения данных, RAG и работы с длинным контекстом. Базовая LFM2.5 поддерживает 17 языков, включая русский, английский, китайский, арабский и другие; карточка не сообщает, насколько абляция влияет на качество по отдельным языкам. В сравнении с исходной моделью отказы на чувствительных запросах стали заметно реже, поэтому ответы не следует считать защищёнными фильтрами безопасности. Исходная карточка также не рекомендует базовую модель для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other, без конкретных условий в предоставленных данных.

Llama-3-Taiwan-70B-Instruct — языковая модель команды проекта TAME, дообученная на архитектуре Llama 3 для пользователей традиционного китайского языка Тайваня и английского. Модель содержит 69,5 млрд параметров, работает с контекстом до 8192 токенов и предназначена для генерации текста и многоходового диалога. Модель обучена на корпусе традиционного китайского и английского языков, включающем общие и отраслевые знания по праву, производству, медицине и электронике. В карточке заявлены возможности понимания и генерации языка, рассуждений, извлечения сущностей, структурированного вывода и вызова функций; также описано применение в RAG-сценариях. Для подключения к внешнему поиску или функциям нужна соответствующая обвязка приложения. В README приведены результаты оценок на тайваньских языковых и предметных тестах, однако они не гарантируют качество в конкретной задаче. Модель выпущена по лицензии Llama 3; перед использованием следует учитывать её условия.

Qwen3.8-27B-Kimiko-2-NOESIS-BF16 — мультимодальная чат-модель компании AMAImedia, выпущенная в составе платформы автоматизации многоязычного дубляжа NOESIS. Это слияние нескольких предварительно обученных моделей семейства Qwen, выполненное методом Karcher Mean; репозиторий содержит веса BF16 в формате Safetensors и предназначен для работы с Transformers и совместимыми средствами инференса. Модель рассчитана на диалоговые задачи с текстом и изображениями, включая рассуждения, классификацию намерений, маршрутизацию запросов и перевод. В README указаны 27 млрд параметров, контекст 262 144 токена с возможностью расширения до 1 млн, а также поддержка понимания изображений и видео в исходном семействе Qwen3.8. Метаданные карточки подтверждают чат-возможности и vision; языковые теги включают русский, английский, китайский, вьетнамский, японский и другие языки. В README приведены результаты базовой и компонентных моделей, однако итоговые показатели Kimiko-2 для GSM8K отмечены как TBD, поэтому их нельзя считать подтверждёнными. Лицензия репозитория — Apache-2.0.

airoboros-3b-3p11 — экспериментальная языковая модель jondurbin для генерации текста и диалогов по инструкциям. Она основана на архитектуре StableLM Epoch и содержит 2,7 млрд параметров; модель обучена на наборе airoboros-3.1 с преимущественно синтетическими данными. Контекст составляет до 4096 токенов, для диалогов используется формат Llama 2 Chat. Модель рассчитана на следование инструкциям, ответы на вопросы по предоставленному контексту, суммаризацию и помощь с кодом. Среди специализированных примеров обучения — структурированное представление математических решений в MathJSON, извлечение полей из журналов, обезличивание текста и генерация аргументов функций в JSON или YAML. Для этих сценариев в README рекомендуются явно заданный формат запроса и низкая температура генерации. Это общая экспериментальная модель, ориентированная на выполнение инструкций, а не на непринуждённое общение или ролевые диалоги. Карточка указывает на ограничения качества отдельных инструментов обработки MathJSON. Лицензия — CC BY-SA 4.0.

Firefly-LLaMA2-Chinese 13B Chat — китайско-английская разговорная модель семейства LLaMA 2, разработанная командой Firefly. Авторы расширили китайский словарь токенизатора LLaMA 2, провели дополнительное предобучение на китайских и английских текстах, а затем дообучили модель на многоходовых инструкциях. Репозиторий содержит веса PyTorch; модель имеет 13 млрд параметров и контекст 4096 токенов. Модель предназначена для диалогов и выполнения текстовых инструкций на китайском и английском языках: она может отвечать на вопросы, создавать и переписывать тексты, суммировать, переводить, извлекать информацию, решать задачи по чтению и генерировать код. Расширенный китайский словарь сокращает число токенов для китайского текста примерно на 54% по сравнению с исходным LLaMA 2, что повышает эффективность его обработки. Авторы сообщают об оценках на китайских и английских тестах и ручном сравнении, но отмечают, что дополнительное предобучение использовало около 2 млрд токенов и было ограничено по объёму и распределению данных; это сказывается, в частности, на результатах CMMLU. Лицензия в предоставленных данных не указана.

MistralLite — языковая модель Amazon, дообученная на базе Mistral-7B-v0.1 для работы с длинными контекстами. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, принимающая текст и генерирующая текст; заявленная длина контекста — до 32 768 токенов. При дообучении использованы адаптация Rotary Embedding с rope_theta=1000000 и скользящее окно размером 16 384 токена. Модель предназначена для извлечения строк и тем из длинных текстов, суммаризации и ответов на вопросы по предоставленному контексту. По карточке, она лучше справляется с рядом задач извлечения и ответа по длинному контексту и может обслуживаться на одном экземпляре AWS g5.2xlarge, а также через TGI или vLLM. README сравнивает её с Mistral-7B-Instruct-v0.1, но указывает дообучение именно от Mistral-7B-v0.1. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов сравнительных тестов, а длина контекста в конкретном обслуживании зависит от настроек сервера; приведённые примеры задают пределы ниже заявленных 32 768 токенов.

satgeze/Qwen3.6-35B-Uncensored-HauhauCS-1M-GGUF — GGUF-сборка модели Qwen3.6-35B-A3B, основанная на uncensored-варианте HauhauCS. Модель предназначена для генерации текста, диалоговых и агентских сценариев, работы с длинными документами и задач, требующих анализа изображений. Поддерживаются llama.cpp и Ollama; заявлена совместимость с агентскими клиентами через Anthropic Messages API. Модель использует исходный контекст 262 144 токена, расширенный до 1 048 576 токенов с помощью YaRN RoPE scaling с коэффициентом 4. В сборку включён слой MTP для speculative decoding: по данным README, на RTX 5090 скорость выросла с 284,6 до 380,1 токена в секунду, а результат декодирования остаётся идентичным стандартному режиму. Визуальный ввод обеспечивается отдельной башней mmproj размером около 899 МБ, которая подключается во время запуска. Основной файл Q4_K_M имеет размер около 21,7 ГБ. К сильным сторонам относятся очень длинный контекст, проверенная авторами работа поиска информации на диапазоне до 1M токенов, поддержка изображений и ускоренное декодирование через MTP. Ограничения включают необходимость совместимого рантайма и значительных аппаратных ресурсов, а также отдельную установку vision-компонента для визуальных задач. Сведения о поддерживаемых языках и точной архитектуре в README не приведены. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-heretic-ara-oQ4e-mtp — смешанно-точно квантованная версия модели trohrbaugh/Qwen3.8-27B-heretic-ara, опубликованная underlotus. В основе лежит Qwen3.8-27B; модель имеет около 27 млрд параметров, поддерживает текстовые, графические и видео входы, а также английский и китайский языки. Vision tower и голова Multi-Token Prediction сохранены. Веса представлены в формате MLX safetensors и совместимы с oMLX, mlx-lm, LM Studio и другими приложениями с поддержкой MLX. Модель предназначена для генерации текста, мультимодального анализа изображений и видео, программирования и локального запуска на устройствах Apple Silicon. Квантование oQ4e использует около 4,6 бит на параметр и распределяет точность по слоям с учётом их чувствительности, что уменьшает требуемую память примерно с 55 ГБ до 16–18 ГБ. Ограничениями являются зависимость от MLX-совместимой инфраструктуры, повышенные требования к памяти по сравнению с небольшими моделями и отсутствие указанного в README максимального контекста. Модель описана как декензурированная и сохраняет мультимодальные возможности, однако конкретные гарантии качества и безопасности для всех сценариев не приведены. Лицензия — Apache 2.0, унаследованная от базовой модели.

Qwen3.8 Max 0902 — обновлённый снимок модели Qwen3.8 Max, разработанной командой Qwen компании Alibaba. Это мультимодальная модель с архитектурой mixture-of-experts и 2,4 трлн параметров. Она принимает текст, изображения и видео и формирует текстовые ответы.

NousResearch/Yarn-Mistral-7b-128k — языковая модель NousResearch на архитектуре Mistral-7B, дополнительно предобученная на данных с длинным контекстом в течение 1500 шагов с применением метода YaRN. Модель предназначена для генерации текста и обработки длинных входных последовательностей, например анализа объёмных документов и поиска ответов в них. В карточке заявлено окно контекста до 128 тысяч токенов. По метаданным, модель содержит 7,1 млрд параметров и распространяется в формате PyTorch для Transformers; базовая модель — Mistral-7B-v0.1. В README приведены результаты тестов длинного контекста и стандартных языковых бенчмарков, где качество на коротком контексте немного ниже, чем у исходной Mistral-7B-v0.1. Указанная лицензия — Apache-2.0. Для загрузки README рекомендует использовать актуальную версию Transformers и параметр trust_remote_code=True.

DeepSeek-V4-Flash-Vision-Exp — экспериментальная мультимодальная модель семейства DeepSeek-V4, разработанная DeepSeek AI. Данная версия является производным вариантом, опубликованным и поддерживаемым AMAImedia в рамках платформы автоматизации профессионального многоязычного дубляжа NOESIS; базовая модель указана как deepseek-ai/DeepSeek-V4-Flash-Vision-Exp. Модель предназначена для задач понимания изображений и текста, мультимодальных агентских сценариев, работы с диаграммами и автоматизации, а также сохраняет возможности для текстовых агентских задач. Архитектура основана на DeepSeek-V4-Flash с добавленными визуальными модулями и дополнительным обучением для развития визуального понимания. Это модель image-text-to-text с поддержкой большого набора языков, включая английский, русский, китайский, вьетнамский, японский и многие другие. Точный размер модели, длина контекста, перечень визуальных входных форматов и сведения о параметрах квантования FP8/GGUF в предоставленном README не указаны. Сильной стороной модели является заметное улучшение мультимодальных агентских возможностей по сравнению с DeepSeek-V4-Flash-0731 при сопоставимой производительности в текстовых агентских задачах. В README приведены результаты на ApexBench, Agents' Last Exam, Chartography и ZeroBench, однако независимые ограничения, требования к аппаратному обеспечению и рекомендации по применению не описаны. В метаданных указана лицензия Apache-2.0; при этом встроенный README также содержит ссылку на лицензию MIT оригинального проекта, поэтому условия конкретной производной сборки следует проверять отдельно.

amd/Qwen3.5-397B-A17B-NVFP4 — это мультимодальная модель условной генерации Qwen3_5MoeForConditionalGeneration, созданная на основе Qwen/Qwen3.5-397B-A17B и подготовленная Advanced Micro Devices, Inc. Модель принимает текст, изображения и видео, а генерирует текст. В карточке указана поддержка английского языка. Обозначение модели содержит 397B-A17B, однако точное описание числа параметров и конфигурации смеси экспертов в README не приведено. Модель предназначена для задач генерации и анализа текста, а также обработки мультимодальных входных данных. Она оптимизирована для инференса через vLLM на системах AMD MI300, MI350 и MI355 с ROCm 7.2.2, PyTorch 2.10.0 и Transformers 5.14.0 под Linux. Для развертывания используется статическое квантование весов и динамическое квантование активаций MOE-слоёв в формате NVFP4; оптимизация выполнена с помощью AMD-Quark 0.12. К сильным сторонам относятся существенное снижение требований к памяти за счёт NVFP4-квантования, поддержка текста, изображений и видео, а также совместимость с vLLM. В тесте GSM8K модель получила 94,47 против 95,38 у исходной модели, что соответствует восстановлению 99,04% результата исходной версии. Ограничения включают ориентацию на определённое AMD-оборудование и программный стек, а также ограниченную опубликованную оценку: в README приведены результаты только GSM8K. Модель распространяется по лицензии Apache 2.0; модификации защищены авторским правом Advanced Micro Devices, Inc. за 2026 год.

Agens Pilot NOESIS BF16 — это мультимодальная языковая модель примерно на 27 млрд параметров, разработанная Blockway и выпущенная AMAImedia в составе платформы автоматизации многоязычного дубляжа NOESIS. Это дообученная версия Qwen3.8-27B с архитектурой Qwen3.5 для генерации текста по текстовым и визуальным входам; репозиторий содержит веса BF16 в формате Safetensors. Модель рассчитана на контекст до 1 млн токенов, включая расширение YaRN сверх нативных 262 144 токенов. Модель предназначена для диалоговых помощников и агентных сценариев, особенно для пользователей Гонконга и региона Гуандун. Карточка выделяет письменный кантонский с гонконгской лексикой и регистром, ответы на сложные исторические и геополитические вопросы с несколькими перспективами, следование инструкциям, вызов инструментов, программирование и задачи «изображение—текст». Заявлены также китайский и английский языки; метаданные указывают широкий набор дополнительных языков. По результатам внутренней проверки разработчика модель показала более сбалансированные ответы на небольшом наборе сложных вопросов, при этом поведение отказа на универсально вредоносные запросы сохранилось. Эти результаты ориентировочные: набор мал, оценки получены в одном запуске, а показатели внутренних тестов напрямую несопоставимы с внешними бенчмарками. Модель может ошибаться в фактах, визуальная математика названа слабой стороной; кантонское поведение лучше всего охватывает письменный гонконгский вариант. Лицензия Apache-2.0 допускает коммерческое использование.

Qwen3.8-27B-W4A16-AutoRound — квантизированная версия мультимодальной модели Qwen/Qwen3.8-27B, подготовленная dbirks с использованием Intel AutoRound и упакованная в формат compressed-tensors для запуска через vLLM. Модель предназначена для генерации текста и обработки изображений с применением на NVIDIA GPU поколения Ampere и новее, включая сценарии инференса на видеокартах без поддержки Blackwell. В основе лежит гибридная архитектура GatedDeltaNet с линейным вниманием и полноформатным attention: 64 слоя, из которых 48 используют линейное внимание, а 16 — полное; также присутствует vision tower. Заявлен контекст до 262 тысяч токенов. Квантизация W4A16 хранит веса языкового декодера в формате int4 с размером группы 128, тогда как активации остаются в BF16. В BF16 сохранены отдельные проекции управления рекуррентностью, vision tower, MTP-head и lm_head. Размер модели на диске составляет около 19,5 ГБ против примерно 52 ГБ для версии BF16; логический объём — около 27,78 млрд параметров. Основное преимущество — существенное сокращение размера при сохранении качества, близкого к BF16-версии: на заявленных тестах GSM8K, HumanEval и MMLU-Pro результаты находятся в пределах доверительных интервалов базовой модели. Ограничение W4A16 заключается в отсутствии ускорения за счёт квантизации активаций, поскольку они остаются BF16; для видеокарт Blackwell автор рекомендует родственную версию NVFP4. Указанная лицензия — Apache-2.0.

Vontra Qwen3.8-Flash-Next-MLX-oQ4 — это общественная MLX-конверсия модели Qwen3.8-Flash-Next, разработанной Qwen, для запуска на устройствах Apple Silicon. Конверсия выполнена Vontra напрямую из официального BF16-чекпойнта и предназначена для мультимодальных сценариев, включая обработку текста и изображений, генерацию ответов и работу с vision-language задачами через совместимые MLX-VLM или oMLX. Модель использует архитектуру qwen4_exp: разреженную mixture-of-experts с 125 млрд параметров в общей сложности и примерно 6 млрд активных параметров, 48 слоями, 512 маршрутизируемыми экспертами, 10 активными экспертами и одним общим экспертом. В состав также входят Gated DeltaNet, Qwen Sparse Attention, расширенные gated residual streams и хешированные bigram/trigram-эмбеддинги объёмом 51 млрд параметров. Контекст — до 262 144 токенов; используются 24 attention heads и 2 KV heads, размер скрытого состояния — 2560. Модель поставляется в формате MLX safetensors с oQ4 mixed-precision-квантизацией: базовые веса представлены в 4 битах, отдельные чувствительные слои защищены точностью 5/8 бит. Размер весов — около 111,69 ГБ. Сильные стороны модели — поддержка текста и изображений, большое контекстное окно, сниженное активное число параметров благодаря sparse MoE и оптимизация для Apple Silicon. На Apple M3 Studio в README указана скорость генерации около 27–30 токенов в секунду после загрузки. Для работы требуется runtime с явной поддержкой архитектуры qwen4_exp; старые версии MLX-VLM могут быть несовместимы. Опциональная MTP-голова не включена, а Qwen3.8 27B MTP-drafter использовать нельзя из-за несовместимых скрытых размеров. Это неофициальная общественная конверсия Vontra. Модель распространяется по лицензии Qwen Community License 1.0.

Dirk-Qwen3.8-27B-MLX-oQ6e — это квантизированная MLX-версия базовой модели Qwen/Qwen3.8-27B, разработанная автором peculiar-ragdoll. Модель представляет собой плотную vision-language модель с поддержкой текста и изображений, ориентированную на работу на компьютерах Apple Silicon через MLX и совместимые среды, включая oMLX и mlx-vlm. Заявленная языковая поддержка включает английский и китайский языки. Модель использует смешанную квантизацию oQ6e с калибровкой imatrix и размером около 22,1 ГБ, примерно 6,9 бит на вес. Веса, vision tower и MTP-head сохранены; MTP может применяться для speculative decoding и ускорения генерации в совместимых runtime. Максимальное окно контекста в примере конфигурации составляет 262144 токена. В комплект включён Sharp chat template v22.5.0, который по умолчанию задаёт компактные ответы и средний уровень рассуждений; уровень reasoning effort можно менять от low до xhigh, а рассуждения — отключать. Модель предназначена для диалогов, анализа изображений, программирования, агентских сценариев и задач, где важны краткость и скорость получения ответа. К её сильным сторонам относятся сохранённая мультимодальность, поддержка MTP, готовый шаблон чата и несколько уровней глубины рассуждений. Ограничения связаны с требованиями к памяти: вариант oQ6e рассчитан примерно на системы с 32 ГБ памяти, а MTP поддерживается не всеми загрузчиками. Для корректной работы требуется использовать mlx-vlm версии не ниже 0.6.3, а не mlx-lm. README также приводит предварительные результаты бенчмарков, которые ещё находятся в процессе измерения, поэтому их нельзя считать окончательными. Модель распространяется по лицензии Apache-2.0.

Light-IF-4B — дообученная командой Qihoo 360 языковая модель на базе Qwen3-4B, предназначенная для точного выполнения сложных инструкций. Подход к адаптации сочетает генерацию примеров с комплексными ограничениями, отбор данных методом rejection sampling, supervised fine-tuning с сохранением энтропии и обучение с подкреплением с адаптацией к энтропии токенов. Модель помогает планировать ответ и проверять его перед выдачей, чтобы лучше соблюдать многошаговые и ограниченные требования. Она относится к плотной архитектуре Qwen3ForCausalLM, содержит 3,7 млрд параметров, принимает текст и выдаёт текст; максимальный контекст — 40 960 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Llama-3-8B-ProLong-512k-Instruct — длинноконтекстная чат-модель Princeton NLP, созданная продолженным обучением и дообучением с учителем на основе Meta-Llama-3-8B-Instruct. Она рассчитана на генерацию ответов и работу с инструкциями при анализе больших объёмов текста. Модель имеет плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров, принимает контекст длиной до 524 288 токенов. Для адаптации к длинным текстам модель обучали на данных ProLong с контекстами до 64K и 512K токенов; инструкционное дообучение проводилось на UltraChat. Авторы сообщают о сильных результатах в оценке длинноконтекстных моделей HELMET. Модель поддерживает диалоговый сценарий, но README не перечисляет конкретные языки и не приводит подробностей о качестве на отдельных задачах. Лицензия — Llama 3 (llama3).

EnlistedGhost/Ministral-3-14B-Instruct-2512-GGUF — это конвертированная и квантованная версия Ministral-3-14B-Instruct-2512 от Mistral AI, опубликованная EnlistedGhost. Модель распространяется в формате GGUF и совместима с Ollama и Llama.cpp. Она предназначена для диалоговых текстовых задач и мультимодального анализа изображений, включая обработку запросов по тексту и изображениям; создавать изображения и обрабатывать аудио или видео она не умеет. Модель имеет 14 млрд параметров, поддерживает мультимодальный режим благодаря vision-проекторам и поставляется с несколькими файлами mmproj. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. В релиз включены варианты F16 и K-квантования с разным соотношением размера и качества. Автор также добавил собственный шаблон чата и скользящее окно контекста для последних восьми взаимодействий, однако фактический доступный размер контекста в README не указан. К сильным сторонам относятся локальный запуск через Ollama или Llama.cpp, поддержка изображений и выбор вариантов квантования. Ограничения включают отсутствие генерации изображений и поддержки аудио или видео, а также возможную потерю качества при квантовании. Модель распространяется по лицензии Apache-2.0.

Ops-Colqwen3-4B — мультимодальная модель встраиваний в стиле ColPali, разработанная командой Alibaba Cloud OpenSearch-AI на основе Qwen3-VL-4B-Instruct и дообученная для поиска по визуальным документам. Она кодирует текстовые запросы и страницы документов, включая изображения и PDF, в согласованное пространство многовекторных представлений для семантического поиска и ранжирования по сходству с использованием MaxSim. Модель содержит 4 млрд параметров, поддерживает контекст до 32 000 токенов, до 1 280 визуальных токенов на страницу и более 30 языков. Размерность векторов настраивается до 2 560; короткие префиксы размерностью 128 или 320 подходят для сценариев с ограничениями по памяти и задержке. В README сообщаются высокие результаты на бенчмарках Vidore v1–v3, однако они не гарантируют аналогичное качество на других данных. Модель предназначена для мультиязычного поиска по PDF и другим визуальным документам, например, в системах поиска по документам и RAG. Лицензия — Apache-2.0. Для работы README приводит зависимости Pillow, Transformers версии 4.57.0 или новее, qwen-vl-utils и PyTorch 2.8.0.

PEARL-base — модель векторных представлений фраз и строк, разработанная Lihu Chen, Gaël Varoquaux и Fabian M. Suchanek. Это дообученная версия E5-base, созданная для сравнения строк по смыслу и поиска совпадений, в том числе при различиях в написании. Модель построена на архитектуре BERT и содержит 136,7 млн параметров. Она принимает текст и преобразует фразы в эмбеддинги; заявленная длина контекста — 512 токенов. PEARL учитывает тип фразы и морфологические признаки, что помогает при нечетком сопоставлении, поиске сущностей и кластеризации. README приводит результаты бенчмарков для этих сценариев и примеры расчета сходства между строками. Модель ориентирована на английский язык. Репозиторий содержит веса PyTorch и safetensors и распространяется по лицензии Apache-2.0. Она предназначена для построения эмбеддингов и сама по себе не генерирует текст.

Hagwell/Qwen3.8-Flash-Next-GGUF — GGUF-версия экспериментальной мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen; репозиторий Hagwell распространяет модель в формате, предназначенном для локального запуска. Модель основана на архитектуре, которая заявлена как фундамент для будущего Qwen4, и поддерживает обработку текста и изображений благодаря языковой модели с vision encoder. Модель предназначена для генерации и понимания текста, работы с изображениями, задач с длинным контекстом и агентных сценариев. Она имеет 125 млрд параметров, из которых активируется около 6 млрд, а также включает 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Архитектура содержит 48 слоёв, комбинацию Gated DeltaNet и Qwen Sparse Attention, MoE с 512 экспертами, из которых маршрутизируются 10 экспертов и один общий, а также механизмы Gated Residual и n-gram embedding. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 000 000 токенов. К сильным сторонам относятся высокая эффективность активации параметров, поддержка длинного контекста, оптимизация sparse attention на уровне блоков и возможность локального запуска через llama.cpp или Unsloth Desktop. Ограничения включают экспериментальный статус архитектуры, высокие требования к памяти для полной модели, а также отсутствие в предоставленных данных сведений о поддерживаемых языках, подробных результатах тестирования и качестве на конкретных прикладных задачах. Модель распространяется по лицензии qwen-community-1.0; для использования следует ознакомиться с файлом LICENSE.

ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF — это набор GGUF-квантизаций мультимодальной модели Qwen3.8-Flash-Next, разработанный Deep Algorithms and Systems Lab (DASLab) при Institute of Science and Technology Austria. Модель предназначена для текстовых и визуально-текстовых задач и совместима с llama.cpp, Ollama и LM Studio. Для мультимодального режима поставляется отдельный vision projector с vision encoder в формате BF16. В основе лежит разреженная Mixture-of-Experts-архитектура с 512 экспертами на слой, 48 слоями и 10 активными экспертами на каждый токен. Квантизация выполнена методами GSQ и RCO: GSQ оптимизирует скалярное представление весов, а RCO распределяет типы квантизации между тензорами с учётом общего ограничения на размер. Доступны варианты Q2_0, IQ2_XS и IQ3_XXS со средним размером 2,40, 2,50 и 3,00 бит на параметр; общий объём файлов составляет примерно 66,4–75,8 ГБ, не считая vision projector. IQ3_XXS рекомендуется авторами как вариант, сопоставимый с базовой моделью на тесте AIME25. Q2_0 обеспечивает наиболее высокую скорость: заявлены 3,4-кратная производительность обработки промпта и в 1,9 раза меньшая сквозная задержка по сравнению с IQ2_XS, но с некоторой потерей качества. Ограничениями являются большой размер модели, компромисс между качеством и скоростью у разных вариантов квантизации и отсутствие в предоставленных данных сведений о языках и максимальной длине контекста. Лицензия — Apache-2.0.

Rax 4.5 — мультимодальная модель семейства Qwen3.5 от raxcore-dev, представленная в виде постобученных весов для Hugging Face Transformers. Это плотная причинная языковая модель с визуальным энкодером, поддерживающая ввод изображений и текста и выдающая текст. Модель насчитывает 2 млрд параметров, использует гибридную архитектуру Gated Delta Networks и gated attention, а заявленная длина контекста составляет 262 144 токена. Модель предназначена для диалогов с изображениями, визуального анализа, рассуждений, задач по коду и агентных сценариев с вызовом инструментов. README заявляет поддержку 201 языка и диалекта; модель работает в режимах с рассуждением и без него, причём режим без рассуждения включён по умолчанию. Авторы рекомендуют её для прототипирования, дообучения под конкретные задачи и разработки; для сервинга указана совместимость с Transformers, vLLM, SGLang и KTransformers. Модель распространяется по лицензии Apache-2.0. Среди практических ограничений — сравнительно небольшой масштаб в 2 млрд параметров, а также возможная нехватка памяти при использовании длинного контекста; скорость и пропускная способность зависят от среды инференса.

GPT-4.1 nano — компактная модель OpenAI из семейства GPT-4.1, предназначенная для задач с низкой задержкой и низкой стоимостью. Карточка описывает её как самую быструю и дешёвую модель в серии и указывает контекстное окно в 1 миллион токенов. Модель подходит для сценариев, где важны скорость и экономичное выполнение задач, требующих обработки текста. Данных о конкретных возможностях, поддерживаемых языках, архитектуре и лицензии в предоставленных источниках нет.

InternVL3-78B-GGUF — мультимодальная большая языковая модель семейства InternVL3, подготовленная Unsloth на основе OpenGVLab/InternVL3-78B. Модель предназначена для обработки текста и изображений, мультимодального восприятия и рассуждений, а также для сценариев с использованием инструментов, GUI-агентами, промышленным анализом изображений и восприятием 3D-сцен. Указанный вариант распространяется в формате GGUF. Архитектура модели следует схеме ViT-MLP-LLM: визуальная часть использует InternViT-6B-448px-V2_5, языковая — Qwen2.5-72B, объединённые через MLP-проектор. Размер модели — 78B параметров. Модель поддерживает мультимодальные входы и заявлена как многоязычная, однако точный перечень языков и размер контекстного окна в README не указаны. Обучение связано с набором данных OpenGVLab/MMPR-v1.2. К сильным сторонам относятся сочетание крупной языковой и визуальной подсистем, развитые возможности мультимодального анализа и рассуждений, а также поддержка специализированных агентных и визуальных задач. Ограничения включают высокие требования к вычислительным ресурсам, характерные для модели такого размера, и отсутствие в README подробных данных о производительности, контекстном окне и языковом покрытии. Лицензия указана как other с названием qwen; приведена ссылка на лицензию Qwen2.5-72B-Instruct.

nikitast/lang-classifier-roberta — модель классификации текста по языку, созданная дообучением RoBERTa. Она принимает текст и определяет, к одному из поддерживаемых языков он относится: русскому, украинскому, белорусскому, казахскому, азербайджанскому, венгерскому, армянскому, грузинскому, ивриту, английскому или немецкому. Модель основана на XLM-RoBERTa, содержит около 305,2 млн параметров и рассчитана на последовательности длиной до 514 токенов. Модель дообучена на небольших выборках Open Subtitles, OSCAR и Tatoeba — примерно по 9 тысяч примеров на язык. В README приведены результаты проверки на отдельных выборках примерно по тысяче примеров на язык; для показанных классов F1 составляет от 0,976 до 0,998. Размер обучающих выборок ограничивает уверенность в качестве на текстах, которые отличаются от использованных данных. Репозиторий содержит веса PyTorch; сведения о лицензии в доступных данных отсутствуют.

bowmanslayer/Qwen3.8-27B-Uncensored-W4A16-vision-mtp — квантованная версия мультимодальной модели Qwen3.8-27B-Uncensored, разработанная bowmanslayer на базе Qwen/Qwen3.8-27B. Исходная модель была адаптирована JonathanColetti с помощью abliteration через Heretic, а в этом репозитории выполнены 4-битное квантование W4A16 и перепаковка vision tower. Модель предназначена для генерации текста, рассуждений и обработки изображений, а также может использовать видеовход через vLLM. Заявлены языки English и Chinese. Текстовая часть использует квантование с group size 128, формат GPTQ/AutoRound и kernels Marlin; vision tower сохранён в формате bf16. Размер модели составляет около 19 ГБ, включая MTP head объёмом 849 МБ. Поддерживается контекст до 256K токенов. Разработчик проверил запуск на двух NVIDIA RTX 3090 с tensor parallelism; для инференса рекомендован vLLM. Доступны reasoning и tool calling через соответствующие парсеры vLLM, а MTP head предназначен для экспериментов со speculative decoding. Сильными сторонами являются сочетание мультимодальности, большого контекстного окна и существенной экономии памяти благодаря W4A16-квантованию, при сохранении vision tower в bf16. Ограничения включают зависимость от совместимого окружения vLLM и необходимости корректно задавать параметры обработки изображений; квантование может влиять на качество относительно исходной модели. Оценки в README приведены при включённом режиме thinking и не должны напрямую сравниваться с результатами, полученными при отключённом reasoning. Лицензия — Apache 2.0.

webAI-Official разработала webAI-ColVec1.1-8b — мультимодальную модель для поиска по визуальным документам, дообученную на основе Qwen/Qwen3.5-9B. Она кодирует текстовые запросы и изображения документов, включая отрендеренные страницы PDF, в согласованные многовекторные представления для поиска с поздним взаимодействием ColBERT и оценкой MaxSim. Модель использует двунаправленное внимание, проекцию скрытых состояний в 640 измерений и содержит около 8,4 млрд параметров. Единый кодировщик обрабатывает запросы и страницы документов, а токеновые векторы сохраняют сигналы структуры страницы и содержания. Модель обучена на отобранной многоязычной выборке из 750 тысяч примеров и синтетических данных; в README приведены результаты оценки на ViDoRe V3. Модель предназначена для извлечения релевантных страниц и документов по текстовому запросу, в том числе в мультиязычных коллекциях. Её многовекторное представление требует больше места для хранения, чем одно-векторные альтернативы. Для запуска описан вариант с Sentence Transformers 6.0.0 или новее; лицензия указана как other, поэтому условия использования следует уточнять в карточке репозитория.