I.4Обработка документов и форм
В разделе собраны самостоятельные задачи, где AI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 180 моделейVedika 4.1 Flash — экспериментальная предварительная версия мультимодальной модели Veda Labs с открытыми весами. Это причинная языковая модель с визуальным энкодером, ориентированная на диалог, рассуждения и агентные сценарии; интерфейс также предусматривает вызов инструментов. Для загрузки требуется включить trust_remote_code из-за пользовательской архитектуры. Модель совместима с Transformers и рядом движков инференса. Модель содержит 125 млрд параметров, из которых активируются 6 млрд, а также 51 млрд параметров n-граммных эмбеддингов и 4 млрд параметров MTP. Архитектура сочетает разреженное внимание Vedika, Gated DeltaNet, MoE и gated residual. Заявленная длина контекста — 262 144 токена с возможностью расширения до 1 000 000. README не приводит перечень поддерживаемых языков и численные результаты бенчмарков; модель работает в режиме рассуждений по умолчанию. Лицензия в предоставленных материалах не указана.
Nous-Yarn-Mistral-7b-64k — языковая модель семейства Mistral, разработанная NousResearch и участниками проекта YaRN. Она основана на Mistral-7B-v0.1 и дополнительно обучена на данных с длинным контекстом в течение 1000 шагов с использованием метода YaRN для расширения контекстного окна. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и предназначена для генерации текста с контекстом до 64 тысяч токенов. Метаданные указывают native context в 32 768 токенов. Модель подходит для продолжения текста, работы с длинными документами и других сценариев генерации, где важно учитывать большой объём предшествующего текста. В карточке приведены результаты тестов на длинном контексте и стандартных языковых бенчмарках; они показывают сохранение близкого к исходной Mistral-7B-v0.1 качества на коротком контексте. В карточке указана лицензия Apache-2.0. Для загрузки авторы рекомендуют свежую версию Transformers и параметр trust_remote_code=True.
Gemma4-26B-A4B-Uncensored-HauhauCS-1M-GGUF — GGUF-сборка, опубликованная satgeze на основе модели HauhauCS/Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP, использующей архитектуру Gemma 4 с 26 млрд параметров и 4 млрд активных параметров в конфигурации MoE. Веса идентичны исходному релизу HauhauCS; в сборку добавлены масштабирование контекста, MTP-голова для спекулятивного декодирования и компоненты для обработки изображений. Модель предназначена для генерации текста, работы с очень большими документами и длинными промптами, а также для мультимодальных сценариев с изображениями. Заявлен контекст до 1 048 576 токенов благодаря YaRN-масштабированию в 4 раза относительно исходных 262 144 токенов. Vision-компонент проверен на распознавании текста и объектов на изображениях. MTP-голова совместно с llama.cpp может ускорять генерацию: в README указаны результаты 249,1–369,2 токена в секунду и прирост до 48% на RTX 5090 без изменения результата декодирования. К сильным сторонам относятся сверхдлинный контекст, поддержка изображений, возможность спекулятивного декодирования и формат GGUF, совместимый с llama.cpp и Ollama. При этом средний результат теста needle-in-a-haystack составляет около 91%, поэтому редкие пропуски при извлечении информации возможны; тестирование выше 524 тысяч токенов на момент публикации не завершено. Независимая оценка качества «раскодирования» и базовые языковые бенчмарки для этой сборки не приведены. Для работы требуются значительные ресурсы, особенно при использовании контекста в миллион токенов. Модель распространяется по лицензии Gemma.
Vishva007/gemma-4-E4B-it-W4A16-AutoRound-GPTQ — это 4-битная GPTQ-квантизованная версия мультимодальной модели Google Gemma 4 E4B Instruct, созданная на базе google/gemma-4-E4B-it. Модель предназначена для генерации и понимания текста, работы с изображениями и аудио, включая мультимодальные диалоги, описание изображений и анализ визуальных материалов. Заявлена поддержка английского и многоязычных сценариев. Модель распространяется для использования через Transformers и vLLM; в README рекомендована совместимая сборка vLLM для сервинга и OpenAI-совместимого API. Архитектура включает 42-слойную текстовую часть Gemma4TextModel с размерностью скрытого состояния 2560 и смешанным локальным и глобальным вниманием, 16-слойную vision-модель с размерностью 768 и 12-слойную audio-модель с conformer-подобными слоями. Размер словаря составляет 262 144 токена. Линейные слои языковой модели квантизованы по схеме W4A16: веса INT4, активации BF16, размер группы 128, симметричная квантизация. Визуальная и аудиобашни, а также мультимодальные проекторы сохраняются в полной точности, что помогает поддерживать мультимодальное качество. В рекомендованной конфигурации vLLM указан максимальный размер контекста 18 432 токена, а число визуальных токенов на изображение можно настраивать. Главные преимущества — снижение требований к памяти и возможность эффективного развёртывания при сохранении мультимодальных возможностей. Ограничения связаны с использованием RTN-режима AutoRound без полной оптимизации, возможным небольшим снижением точности из-за пропуска слоёв, размеры которых не кратны 32, а также более низкой эффективностью speculative decoding по сравнению с исходной неквантизованной моделью. Лицензия указана как gemma; конкретные условия её применения следует уточнять в лицензии Google Gemma.
EnlistedGhost/Ministral-3-8B-Instruct-2512-GGUF — это квантизированная версия мультимодальной модели Ministral 3 8B Instruct 2512 BF16, разработанной Mistral AI и преобразованной в формат GGUF пользователем EnlistedGhost с помощью llama.cpp. Модель предназначена для диалогов, выполнения инструкций и задач image-text-to-text с поддержкой текста и изображений. Указаны языки: английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский. Доступны варианты квантования от Q2_K_L до Q8_0_L, а также F16 и мультимодальные vision-проекторы в форматах F16 и F32. Модель ориентирована на локальный запуск и совместима с llama.cpp, Ollama и Yollama. Семейство Ministral 3 разработано для edge-развёртывания; исходная версия 8B, по данным README, может работать примерно в пределах 32 ГБ VRAM в BF16 и менее 24 ГБ RAM или VRAM в квантизированном виде. К сильным сторонам относятся компактный размер, поддержка мультимодального ввода и широкий выбор квантованных вариантов, однако качество и требования к ресурсам зависят от выбранного варианта. Лицензия — Apache-2.0.
ISTA-DASLab/Mistral-Small-3.1-24B-Instruct-2503-GPTQ-4b-128g — квантированная версия инструкционной мультимодальной модели Mistral-Small-3.1-24B-Instruct-2503, опубликованная ISTA-DASLab. Она предназначена для диалоговых задач, генерации и обработки текста, а также сценариев image-text-to-text, включая анализ изображений и ответы на вопросы по ним. Модель содержит 24 млрд параметров и использует INT4-квантование весов линейных операторов языковой части трансформера методом GPTQ с симметричной поканальной по группам схемой и размером группы 128. Визуальная модель и мультимодальный проекционный слой сохранены в исходной точности. Квантование сокращает размер на диске и требования к GPU-памяти примерно на 75%; чекпойнт сохранён в формате compressed_tensors. В README явно указан пример использования с vLLM и Transformers, а для оценки применялся vLLM. По сравнению с исходной моделью на наборе OpenLLM v1 средний результат снизился с 0,7910 до 0,7814, а показатель восстановления составил 0,9878, что указывает на небольшую потерю качества при существенном снижении требований к ресурсам. Ограничения включают зависимость от совместимых версий vLLM или Transformers и необходимость учитывать, что приведённые результаты получены при максимальной длине контекста 4096 токенов; другие характеристики контекста и поддерживаемых языков в README не указаны. Модель распространяется по лицензии Apache-2.0.
Карточка модели Muse-research/Muse2-230M-Base на Hugging Face совпадает с карточкой Muse-research/Muse2-230M, поэтому описание составлено по ней. Muse2-230M — компактная авторегрессионная языковая модель Muse Research, дообученная на основе Muse2-230M-Base. Она предназначена для диалогового помощника, форматирования ответов и извлечения структурированных данных, например преобразования журналов разработчиков в JSON, а также для запуска на устройствах с ограниченными ресурсами и дальнейшей тонкой настройки. Модель содержит 221,2 млн параметров и использует плотную гибридную архитектуру Muse2: блоки коротких причинных свёрток чередуются с полным вниманием, применяются grouped-query attention и объединённый SwiGLU MLP. Вход и выход — текст; основной язык — английский, также модель обрабатывает программный код и математические тексты. Контекст в карточке указан как 128 000 токенов, хотя README уточняет, что стандартная длина составляет 8 000 токенов, а 128 000 — максимум. Модель обучена методом supervised fine-tuning с маскированием функции потерь только на ответах; RLHF и DPO не применялись. Качественная и безопасностная проверка ограничена, поэтому модель может галлюцинировать, повторяться или выдавать смещённые и нежелательные ответы. Разработчик не рекомендует полагаться на неё в критичных, медицинских, юридических или иных фактически значимых сценариях без оценки и защитных мер. Веса доступны по лицензии Apache-2.0.
mlx-community/Ornith-1.5-35B-A3B-OptiQ-4bit — квантизированная версия модели ornith-ai/Ornith-1.5-35B-A3B, подготовленная сообществом mlx-community с использованием MLX-native инструментария mlx-optiq. Это vision-language модель на архитектуре Qwen3.5-MoE: всего 35 млрд параметров, из которых активно используется около 3 млрд. Модель поддерживает работу с текстом и изображениями, а также оснащена головкой MTP для multi-token prediction и ускорения генерации. В карточке заявлен английский язык; размер модели на диске составляет около 24 ГБ. Модель предназначена для локального запуска на Apple Silicon и сценариев, связанных с рассуждениями, обработкой изображений и текста, function calling, использованием инструментов и агентными приложениями. Для подачи изображений сохраняется vision tower в формате bf16. Квантизация OptiQ использует смешанную точность: 113 компонентов представлены в 4-битном, а 399 — в 8-битном формате, с group size 64. Это снижает требования к памяти при сохранении более высокой точности для чувствительных слоёв, однако квантизация может ухудшать качество по сравнению с полной точностью, а для работы требуется совместимая MLX/OptiQ-среда и оборудование Apple Silicon. Распространяется по лицензии Apache 2.0. Контекст модели, точные показатели качества и поддерживаемый диапазон языков, кроме указанного английского, в README не приведены.
PLLuM-12B-chat-2512 — разговорная языковая модель семейства PLLuM, разработанная альянсом HIVE AI для работы прежде всего на польском языке. Модель основана на архитектуре Mistral, имеет 12,1 млрд параметров и принимает текстовые запросы, генерируя текстовые ответы. Для диалога её дополнительно настраивали с помощью инструкционного обучения и обучения на предпочтениях; указанный контекст — до 131 072 токенов. Модель подходит для генерации и суммаризации текста, извлечения сведений и ответов на вопросы, в том числе для ассистентов по польским административным и юридическим темам с подключённым поиском по документам. В обучении использовались польские и английские тексты, ручные инструкции и размеченные предпочтения. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка описывает сильные результаты на польских задачах и настройки для диалога, но не приводит количественных оценок именно этой версии 12B. Для актуальных или проверяемых сведений в административных и юридических ответах потребуется внешний источник документов.
OpenMed разработала privacy-filter-multilingual — многоязычную модель для извлечения и разметки фрагментов с персональными данными в тексте. Это полноценно дообученная модель OpenAI Privacy Filter с архитектурой MoE и классификационной BIOES-разметкой токенов. Она распознаёт 54 категории PII, преобразованные в 217 меток BIOES, и предназначена для последующего маскирования или обезличивания текста. Модель рассчитана на арабский, бенгальский, китайский, нидерландский, английский, французский, немецкий, хинди, итальянский, японский, корейский, португальский, испанский, телугу, турецкий и вьетнамский языки. Она подходит для поиска персональных данных в документах и сообщениях, подготовки текста к передаче или хранению и интеграции в конвейеры защиты данных. Размер модели по метаданным — 145,4 млн параметров; нативный контекст — 131 072 токена. Качество распознавания неодинаково: авторы отмечают лучшие результаты для немецкого, испанского, французского, итальянского, хинди, телугу и английского; китайский, японский, корейский и некоторые языки с низким ресурсом остаются сложнее. Обучающие наборы синтетические, поэтому реальные медицинские, юридические и веб-тексты могут отличаться от обучающих примеров. Модель не предназначена специально для клинических медицинских данных и не заменяет проверку соответствия требованиям законодательства. Лицензия — Apache-2.0.
INCModel2/Qwen3.5-397B-A17B-MXFP4-Mixed-CT-AutoRound — вариант Qwen3.5-397B-A17B, сжатый в формат MXFP4 с помощью intel/auto-round и представленный в формате llm_compressor. Это мультимодальная модель с архитектурой Qwen3.5 MoE, предназначенная для диалогов и обработки изображений вместе с текстом; заявлен интерфейс вызова инструментов. В репозитории доступны веса safetensors, а для запуска автор приводит пример с vLLM и контекстом до 131072 токенов. Модель подходит для вопросов по изображениям, диалогов, задач на рассуждение и сценариев с вызовом инструментов. В приведённых тестах MXFP4 сохраняет 99,5% среднего результата BF16 на GSM8K, MMLU, PIQA и HellaSwag. README предупреждает о возможных фактических ошибках, предвзятых или оскорбительных ответах и рекомендует проверять безопасность перед развертыванием. Указано следовать лицензии исходной модели; метаданные репозитория указывают Apache-2.0.
Модель stavh2001/qwen3.6-27b-merged_28_05 — дообученная мультимодальная модель семейства Qwen3.5, разработанная stavh2001 на базе unsloth/Qwen3.6-27B с использованием Unsloth и библиотеки TRL. Она предназначена для диалогов с текстом и изображениями; поддерживает интерфейс вызова инструментов. Архитектура — плотная, Qwen3_5ForConditionalGeneration, веса представлены в формате safetensors. Базовая модель насчитывает 27 млрд параметров и рассчитана на анализ изображений, диалоги, программирование и агентные задачи. Модель выпущена под лицензией Apache-2.0. Карточка не описывает отдельную специализацию дообучения или результаты оценки качества, поэтому пригодность для конкретных сценариев следует проверять на собственных данных.
Qwen3.8-Flash-Next-Uncensored — это MLX-квантованная версия модели orcarouter/Qwen3.8-Flash-Next-Uncensored, опубликованная пользователем ddark-il. Модель предназначена для локального запуска на компьютерах Apple Silicon, прежде всего на M5 Max с 128 ГБ памяти, и поддерживает сценарии генерации текста и обработки изображений с текстом. Модель использует архитектуру qwen4_exp с mixture-of-experts (MoE), vision-language возможностями и механизмом multi-token prediction (MTP). Исходный размер составляет около 180 млрд параметров; в данном варианте применяется смешанная affine-квантизация MLX со средней точностью 4,857 бит на параметр. Размер файлов — 109,29 ГБ, заявлена поддержка контекста до 262 тысяч токенов. Основная часть весов квантизирована в 4, 6 и 8 битах с различными размерами групп, причём для o_proj используется 8-битная квантизация. По измерениям авторов, версия обеспечивает меньшую ошибку относительно исходных bf16-весов, чем предыдущая ревизия, и достигает 90,7% совпадения top-1 предсказаний с bf16-версией. Сильными сторонами являются существенно меньшие требования к памяти по сравнению с bf16, высокая точность для квантизированной модели, поддержка длинного контекста и мультимодальных входов. Ограничения включают очень большой размер, зависимость от MLX и Apple Silicon, возможное влияние квантизации на качество, а также требования к пропускной способности SSD и кэшированию при работе с крупными таблицами и экспертами. Модель распространяется по лицензии Apache-2.0.
Damysus-2.7B-Chat — англоязычная диалоговая модель Prince Canuma, дообученная на базе Microsoft Phi-2 для следования инструкциям. Это плотный Transformer для генерации текста с 3,5 млрд параметров по метаданным и контекстом до 2048 токенов. Модель рассчитана на ответы на вопросы, извлечение данных, структурированные ответы, включая JSON, и объяснения; её также можно использовать как компонент RAG для синтеза ответов, суммаризации и переформулирования запросов. Модель обучали на данных SlimOrca и наборах TinyOrca; автор сообщает, что лучшие результаты получил при дообучении на 200 примерах. Репозиторий содержит веса Safetensors, для работы предусмотрена библиотека Transformers. Лицензия — MIT. Модель в первую очередь рассчитана на стандартный английский; сленг и другие языки могут обрабатываться хуже. Ответы и фрагменты кода могут быть фактически неверными, а знания о программировании в основном связаны с Python и распространёнными библиотеками, поэтому результаты следует проверять.
Isotonic/distilbert_finetuned_ai4privacy_v2 — англоязычная модель Isotonic для обнаружения персональных и чувствительных данных в тексте. Она дообучена на английской части набора ai4privacy/pii-masking-200k и предназначена для разметки фрагментов текста перед удалением или маскированием PII, в том числе в потоках данных для AI-ассистентов и LLM. Модель использует архитектуру DistilBERT для классификации токенов, принимает текст и присваивает его фрагментам метки из 54 классов PII. Контекст составляет 512 токенов. В README указаны метрики на оценочной выборке: F1 0,9549 в целом, при этом результаты заметно различаются между классами; например, F1 для email равен 1,0, а для названия валюты — 0,2281. Модель выпущена по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
unsloth/gemma-3-1b-it-bnb-4bit — квантизированная 4-битная версия instruction-tuned модели google/gemma-3-1b-it, основанной на семействе Gemma 3. Разработчик исходной модели — Google DeepMind; сборка и публикация варианта выполнены Unsloth. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации документов, рассуждений и понимания изображений. Модель мультимодальная: принимает текст и изображения, а генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов; изображения нормализуются до 896×896 пикселей и кодируются в 256 токенов, максимальный объём генерируемого ответа составляет 8192 токена. Поддерживается более 140 языков, включая английский; в метаданных этой карточки явно указан язык en. Небольшой размер и 4-битное представление упрощают локальное развёртывание на ноутбуках, настольных компьютерах и в облачной инфраструктуре с ограниченными ресурсами, однако квантизация может снижать точность по сравнению с полноразмерной версией. Модель распространяется по лицензии Gemma; применяются соответствующие условия использования Google. В README не приведены точные требования к аппаратному обеспечению, результаты тестирования или подробные сведения об архитектуре, поэтому производительность в конкретных задачах по этой карточке оценить нельзя.
gemma-3-4b-it-GGUF — квантизированная версия мультимодальной модели Gemma 3 4B IT, разработанной Google. Файл в формате GGUF подготовлен пользователем bartowski на основе модели google/gemma-3-4b-it и предназначен для запуска через llama.cpp, в том числе локально в LM Studio. Модель подходит для генерации текста, ответов на вопросы, суммаризации, рассуждений и понимания изображений. Она поддерживает текстовый и визуальный ввод; изображения нормализуются до разрешения 896 × 896 пикселей. Заявленная длина контекста составляет до 128 000 токенов, максимальная длина вывода — 8192 токена. Другие характеристики, включая поддерживаемые языки и точную архитектуру, в README не указаны. Для работы требуется runtime llama.cpp версии 1.19.0 или более новой, причём рекомендуется актуальная beta-версия. К ограничениям относятся зависимость от совместимого runtime, возможные ошибки и неточности генерации, а также отсутствие в предоставленных данных сведений о конкретном типе квантизации и её влиянии на качество. Модель распространяется по лицензии Gemma; для доступа на Hugging Face требуется принять условия лицензии Google.
GLM-5.2-Vision-NVFP4 — мультимодальная модель для понимания изображений и генерации текста. Этот чекпойнт опубликован под идентификатором baseten/GLM-5.2-Vision-NVFP4 и объединяет текстовую модель GLM-5.2 от zai-org с визуальным энкодером MoonViT-3d из Kimi-K2.6 от Moonshot AI. Модель предназначена для описания изображений, визуального анализа и диалогов в формате image-text-to-text, включая работу через OpenAI-совместимый API. В основе используется замороженная MoE-модель GLM-5.2 размером 744B параметров, из которых активно около 40B, с механизмами MLA и DSA sparse attention. Визуальная часть MoonViT-3d содержит 27 слоёв и имеет размерность 1152, а обучаемый PatchMerger-проектор преобразует визуальные признаки в токены размерности 6144; его размер — 49,5 млн параметров. Текстовые веса представлены в формате NVFP4, модель поддерживает до 4096 токенов изображения и максимальный контекст до 1 048 576 токенов. Главные преимущества — сочетание сильного reasoning-бэкенда GLM-5.2 с обработкой изображений, длинный контекст и возможность локального развёртывания через SGLang или Baseten. Ограничения — очень большой объём весов около 466 ГБ и высокие требования к оборудованию: рекомендованы 8 GPU B200 для контекста 1M или 4 GPU B200 для 256K; заявлена совместимость только с архитектурой Blackwell. Для SGLang требуется внешний плагин архитектуры модели. Лицензия указана как MIT; при этом входящие веса GLM-5.2 и Kimi-K2.6 сохраняют условия лицензирования исходных проектов.
Jina AI разработала эту версию jina-embeddings-v4 для мультимодального и многоязычного поиска по визуальным документам. Веса адаптера retrieval объединены с базовой моделью Qwen2.5-VL, что обеспечивает совместимость с vLLM без специальной обработки адаптеров. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2.5-VL и поддерживает контекст до 128 000 токенов. Модель предназначена для поиска документов по текстовым и визуальным запросам, в том числе для многоязычного поиска по содержимому документов. Репозиторий содержит веса в формате safetensors; метаданные указывают библиотеку Transformers. Лицензия в предоставленных данных не указана.
Jeevesh8/multiberts_seed_1_ft_0 — модель классификации текста на базе BERT и семейства MultiBERTs, опубликованная пользователем Jeevesh8 на Hugging Face. Она предназначена для отнесения входных текстов к заранее заданным классам и использования в прикладных конвейерах text-classification. Модель содержит около 136,7 млн параметров и поддерживает контекст до 512 токенов. В метаданных указаны Transformers, JAX и BERT; языковая поддержка и точный набор классов по доступным данным не установлены.
Ornstein3.6-35B-A3B — мультимодальная дообученная модель DJLougen на базе unsloth/Qwen3.6-35B-A3B для диалогов, рассуждений и агентных сценариев. Она принимает текст и изображения и формирует текстовые ответы; также поддерживает интерфейс вызова инструментов. Модель использует архитектуру Qwen3_5MoeForConditionalGeneration с чередованием линейного и полного внимания. Всего в ней 34,66 млрд параметров, из которых около 3 млрд активны на каждом токене; указаны 256 экспертов и 8 активных экспертов на токен. Длина контекста — 262 144 токена. Репозиторий содержит веса Safetensors и восстановленные компоненты обработки изображений и видео. Модель подходит для диалоговых задач, анализа изображений и агентной работы с инструментами. Это авторский экспериментальный fine-tune из серии Ornstein, обученный на самостоятельно отобранных данных; подробности датасета и результаты сравнительных оценок в карточке не приведены. Лицензия — Apache 2.0.
pii-identifier-v0.1 — англоязычная модель для обнаружения и классификации персональных данных в тексте. Разработчик дообучил answerdotai/ModernBERT-base на синтетическом наборе nvidia/Nemotron-PII. Это encoder-модель ModernBERT с архитектурой ModernBertForTokenClassification и примерно 149 млн параметров; она размечает фрагменты текста по 55 типам сущностей с BIO-тегами. Максимальная длина последовательности — 8192 токена. Модель предназначена для выявления персональных данных в конвейерах редактирования и обезличивания текста, проверки данных перед передачей в LLM и инструментов управления данными. В заявленной оценке на тесте PIIMB для Nemotron-PII она набрала F2 0,970; точность обнаружения при этом зависит от типа сущности. Особенно слабые результаты отмечены для профессий, уникальных идентификаторов, групп крови и времени. Модель обучалась только на синтетических англоязычных данных, поэтому качество на реальных, шумных, распознанных OCR или специализированных текстах может отличаться, а для других языков не подтверждено. Результаты не гарантируют полного обнаружения PII: для ответственных сценариев карточка рекомендует сочетать модель с правилами и проверкой человеком. Лицензия — Apache-2.0.
OsaurusAI подготовила квантизированную сборку мультимодальной модели Qwen3.6-35B-A3B для запуска через MLX на устройствах Apple Silicon. Это MoE-модель с 35 млрд параметров, из которых около 3 млрд активны на каждом токене; архитектура включает 40 слоёв, сочетая Gated DeltaNet и полное внимание, а также 256 маршрутизируемых экспертов и одного общего эксперта. Модель принимает текст и изображения, поддерживает диалог и интерфейс вызова инструментов; базовая модель также поддерживает видео, но README отмечает ограничения основного пути MLX для видео. Сборка использует JANGTQ4 для весов маршрутизируемых экспертов и 8-битную аффинную квантизацию для ряда остальных компонентов; башня зрения сохранена. Для загрузки нужен собственный JANGTQ runtime и файл jangtq_runtime.safetensors, а стандартный загрузчик mlx_lm не поддерживает упакованные веса. Модель ориентирована на локальный инференс, включая диалоги, анализ изображений и агентные сценарии; для комфортного запуска README рекомендует Mac с 32 ГБ объединённой памяти. Лицензия — Apache-2.0. Заявленные в README бенчмарки относятся к исходной модели, а не к этой квантизированной сборке.
Uluka Studio Mercury 2 BF16 Merged — мультимодальный чат-чекпойнт на базе Qwen3.6-35B-A3B, подготовленный UlukaDev. Это объединённая BF16-версия дообучения с адаптером LoRA UlukaDev/qwen3p6-35b-a3b-uluka-mercury-2-lora; веса представлены в формате safetensors и используют архитектуру Qwen3.5 MoE. Модель предназначена для диалогов и анализа изображений; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и изображения и выдаёт текст. Лицензия указана как other, поэтому условия использования следует сверить с карточкой и лицензией базовой модели.
Qwen3.8-27B-Uncensored-INT8-W8A16-MTP — это мультимодальная квантизированная версия модели Qwen3.8-27B-Uncensored, опубликованная morikomorizz на основе исходной модели OrcaRouter и семейства Qwen. Модель предназначена для генерации текста и обработки изображений с текстом, включая диалоговые и аналитические сценарии. В README заявлена поддержка английского и китайского языков, а максимальный контекст составляет до 262 144 токенов. Модель использует формат W8A16: основные матричные вычисления выполняются с весами INT8 и активациями BF16, а vision tower, lm_head, MTP-компоненты и отдельные чувствительные элементы сохраняют BF16 или FP32. Размер весов на диске составляет около 29,4 ГБ, что позволяет запускать модель на одной RTX 4090 или A6000, а также на двух RTX 3090 с tensor parallelism. Поддерживаются vLLM, Marlin и speculative decoding через MTP; это не GGUF-модель. Ключевое преимущество — существенное снижение требований к памяти при заявленном близком к исходному качеству, однако производительность и совместимость зависят от подходящих GPU и версии vLLM. Исходная модель является abliterated, то есть с существенно удалёнными механизмами отказа, поэтому она может выполнять вредоносные или неэтичные запросы и требует осторожного применения. Лицензия — Apache 2.0, унаследованная от базовой модели.
Vontra/Qwen3.8-Flash-Next-MLX-oQ4-MTP — общественная MLX-конверсия мультимодальной модели Qwen3.8-Flash-Next, созданная Vontra на основе официальных весов Qwen в формате BF16. Модель предназначена для запуска на Apple Silicon через совместимые среды oMLX или MLX-VLM и поддерживает обработку текста и изображений. Это не официальный релиз Qwen. Модель использует разреженную архитектуру mixture-of-experts qwen4_exp с 125 млрд параметров, из которых около 6 млрд активны при обработке токена, 48 слоями, 512 маршрутизируемыми экспертами, 10 активными экспертами и одним общим экспертом. В состав входят Gated DeltaNet, Qwen Sparse Attention, расширенные gated residual-потоки, hashed bigram и trigram embeddings, а также один встроенный MTP-блок для speculative decoding. Контекст составляет до 262 144 токенов. Конверсия выполнена в смешанной 4-битной точности oQ4 с отдельными модулями в 5- и 8-битном формате; размер весов — около 113,33 ГБ. Сильными сторонами являются экономичное по сравнению с полной точностью хранение, поддержка визуально-текстовых сценариев и встроенный MTP для ускорения генерации. Ограничения связаны с большими требованиями к памяти, зависимостью от Apple Silicon и необходимостью runtime с явной поддержкой qwen4_exp и native MTP; стандартные среды без такой поддержки могут не загрузить модель. Указанная лицензия — Qwen Community License 1.0.
webAI-ColVec1-4b — мультимодальная модель поиска по документам от webAI, дообученная на базе Qwen/Qwen3.5-4B. Она кодирует текстовые запросы и изображения страниц документов в согласованные многовекторные представления для поиска релевантных страниц по содержимому. Для вычисления оценок используется позднее взаимодействие в стиле ColBERT: MaxSim сопоставляет токены запроса с токенами документа. Архитектура включает общую языковую модель с обработкой визуальных токенов и обучаемую линейную проекцию размерности 640. Модель предназначена для мультиязычного поиска по визуальным документам и демонстрирует результаты на наборах ViDoRe V1 и V3. Её можно использовать для поиска по изображениям страниц, включая страницы PDF, по запросам на естественном языке. Выход модели — нормализованные многовекторные представления; итоговую оценку релевантности получают отдельным расчётом MaxSim. Для загрузки и запуска используется Transformers, веса представлены в safetensors. В README указана лицензия «other», поэтому конкретные условия использования следует сверить с лицензией в репозитории. Авторы отмечают, что доступна более новая версия webAI-ColVec1.1-4b.
dominguesm/xlm-roberta-base-lora-language-detection — мультиязычная модель для автоматического определения языка текста. Она разработана на базе xlm-roberta-base и дообучена методом PEFT-LoRA с классификационной головой для задач классификации последовательностей. Модель поддерживает 20 языков: арабский, болгарский, немецкий, современный греческий, английский, испанский, французский, хинди, итальянский, японский, нидерландский, польский, португальский, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский. Дообучение проводилось на датасете papluca/language-identification: 70 тысяч обучающих, 10 тысяч валидационных и 10 тысяч тестовых примеров. На тестовой выборке заявлены accuracy и F1 на уровне 99,43–99,4%. Сильной стороной является высокая точность при поддержке нескольких языков и сниженные вычислительные и требования к хранению затраты благодаря LoRA, которая изменяет лишь небольшое число дополнительных параметров. Ограничение модели — классификация только указанных 20 языков; качество на текстах, отличающихся от распределения исходного датасета, в README отдельно не оценено. Лицензия — CC BY 4.0.
Fanar-2-Oryx-IVU — мультимодальная модель для понимания изображений и видео, разработанная Институтом вычислительных исследований Катара (QCRI) при Университете Хамада бин Халифы (HBKU). Она основана на Qwen2.5-VL-7B-Instruct и дообучена для работы с арабским и английским языками, с приоритетом арабского и учетом культурного контекста. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2.5-VL и поддерживает контекст до 128 000 токенов. Модель предназначена для визуальных вопросов и ответов, описания изображений, локализации объектов, распознавания арабской каллиграфии, анализа документов и понимания видео. Обучение на 62 млн примеров охватывало культурные материалы 22 арабских стран, арабскую и английскую подписи к изображениям, разметку объектов и текстовые инструкции. Авторы сообщают об улучшении результатов на культурно значимом контенте относительно базовой модели и снижении переключения между языками в арабских ответах. Модель может применяться для документирования культурного наследия, образовательных и музейных сервисов, доступности, модерации контента и описания товаров. Среди ограничений — возможные галлюцинации, ошибки распознавания текста на изображениях, различия в качестве для арабских диалектов и неполное понимание культурных нюансов. Лицензия — Apache-2.0.
GLiNER2 Arabic Multi-Task — это дообученная Fastino модель GLiNER2, разработанная для извлечения сущностей и анализа арабского текста. Она содержит 287 млн параметров, использует архитектуру BoundaryExtractor и энкодер mDeBERTa-v3. Модель основана на fastino/gliner2.5-multi-v1; все четыре выходные головы дообучены на арабских данных. Веса доступны в формате safetensors по лицензии CC BY-SA 4.0. Модель принимает текст и заданные пользователем названия задач, меток или полей схемы. Она извлекает сущности и связи, классифицирует текст по одной или нескольким меткам и формирует структурированные записи, значения которых должны быть фрагментами исходного текста. Арабские и английские схемы поддерживаются; настройка охватывает арабские сущности, диалект, сарказм, тональность и некоторые отношения. Предусмотрена обработка произвольных типов сущностей в zero-shot режиме, хотя качество таких запросов зависит от типа данных и схемы. Модель предназначена для аналитики арабских обращений клиентов, публикаций в социальных сетях и новостей, включая выявление персональных данных, разметку намерений и извлечение записей. На диалектных, саркастических и тональных метках возможен перекос к частым классам, а уверенность может быть высокой даже при ошибке. Для числовых сущностей рекомендуется использовать короткие списки типов; идентификаторы следует дополнительно проверять регулярными выражениями. При токенизации нужно удалять диакритические знаки и татвиль, а извлечённые значения и структурированные записи проверять на соответствие исходному тексту.