I.4Обработка документов и форм
В разделе собраны самостоятельные задачи, где AI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 180 моделейTinyLLaVA-OpenELM-450M-CLIP-0.55B — компактная мультимодальная модель семейства TinyLLaVA, обученная с помощью TinyLLaVA Factory. В качестве языковой части используется OpenELM-450M-Instruct, а для обработки изображений — CLIP ViT-B/16; модель обучена на наборе LLaVA. В метаданных Hugging Face для неё указан pipeline text-generation и архитектурный класс TinyLlavaForConditionalGeneration. Модель предназначена для диалога и ответов на вопросы об изображениях, включая визуальные вопросы и задачи понимания сцен. В README приведены результаты на GQA, TextVQA, ScienceQA, VQAv2, MME, MMB и MM-VET. Это небольшая модель, удобная для экспериментов с мультимодальными системами и сценариев с ограниченными ресурсами; показатели в таблице относятся к опубликованным тестам и не гарантируют качество на иных данных. Лицензия в предоставленных материалах не указана.
bczhou/tiny-llava-v1-hf — компактная визуально-языковая модель семейства TinyLLaVA, разработанная авторами проекта TinyLLaVA. Она принимает изображения вместе с текстовыми запросами и формирует текстовые ответы в диалоговом формате; поддерживает работу с несколькими изображениями и запросами. В карточке репозитория указана архитектура LlavaForConditionalGeneration и сохранение весов в safetensors. Модель предназначена для вопросов об изображениях, их описания и визуального диалога. Проект TinyLLaVA исследует мультимодальные модели малого масштаба; README сообщает о вариантах семейства размером от 1,5 до 3,1 млрд параметров, но точный размер именно этого чекпойнта не приводит. Для запуска требуется соблюдать шаблон USER/ASSISTANT и использовать подходящий режим диалога. В качестве обучающих данных проекта указаны наборы LLaVA и ShareGPT4V; в метаданных для этой карточки отмечены английский и китайский языки. Репозиторий распространяется по лицензии Apache-2.0. Компактность модели не гарантирует точности на сложных визуальных вопросах; численные оценки в README относятся к отдельным вариантам TinyLLaVA, поэтому их нельзя однозначно приписать этому чекпойнту.
ChineseErrorDetectorElectra — модель для посимвольного выявления потенциальных ошибок в китайском тексте, выпущенная автором репозитория xurong123. Это дискриминативная модель ELECTRA с головой классификации токенов, дообученная на парах исходного и исправленного текста: она присваивает символам метки вероятности ошибки и может использоваться как предварительный фильтр перед более дорогой системой исправления. Модель предназначена для обнаружения орфографических и грамматических ошибок, а также для решения, следует ли передавать целое предложение на исправление. Модель основана на hfl/chinese-electra-180g-base-discriminator, содержит 129,5 млн параметров и принимает последовательности до 512 токенов. Поддерживаемый язык — китайский. Репозиторий сообщает о проверках на орфографических, грамматических и смешанных данных, но приводит промежуточные результаты; точность и пороги следует проверять на данных конкретного применения. Низкая точность посимвольных предсказаний в смешанной оценке может приводить к ложным срабатываниям. Лицензия — Apache-2.0.
Phonepadith/gemma4-26b-a4b-laos — дообученная мультимодальная модель семейства Gemma 4, созданная Phonepadith на основе unsloth/gemma-4-26b-a4b-it. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель предназначена для диалогового взаимодействия с текстом и изображениями; в карточке также заявлен интерфейс вызова инструментов. Модель использует архитектуру Gemma4ForConditionalGeneration и распространяется в формате safetensors по лицензии Apache-2.0. В метаданных указан английский язык; название модели указывает на настройку для лаосского языка, однако README не описывает обучающие данные или качество работы на лаосском. Данных о размере и длине контекста в предоставленных источниках нет.
Filvyb/Huihui-Step3-VL-10B-abliterated-GGUF — это GGUF-версия мультимодальной модели Huihui-Step3-VL-10B-abliterated, разработанной huihui-ai. Модель предназначена для задач image-text-to-text: обработки текстовых запросов и работы с изображениями в сценариях, требующих генерации или анализа текста на основе визуальных данных. Доступна в формате GGUF и относится к моделям с размером 10B, судя по идентификатору модели. В этой версии были изменены только текстовые компоненты; визуальная часть модели не подвергалась обработке. Основная особенность — существенно сниженная фильтрация содержания, благодаря чему модель больше не отказывается описывать или анализировать изображения по причине стандартных ограничений безопасности. Языки, точная архитектура, размер контекста и дополнительные технические характеристики в README не указаны. Модель может быть полезна для исследований, тестирования и контролируемых экспериментальных сред, однако обладает повышенным риском генерации чувствительного, спорного или неподходящего контента. Она не имеет стандартных гарантий безопасности и не рекомендуется для публичных сервисов, приложений для несовершеннолетних или систем, требующих строгой модерации. Необходимы постоянный мониторинг результатов и ручная проверка. Модель распространяется по лицензии Apache-2.0; пользователь самостоятельно отвечает за соблюдение законодательства и этических норм.
KomdigiITS-3B-PAD-SFT-Merged — дообученная мультимодальная модель ryfkn на базе aitf-komdigi/KomdigiITS-3B-PAD-CPT. Она использует плотную архитектуру Mistral3 и предназначена для диалоговых задач с изображениями: принимает текст и изображения, формирует текстовые ответы. В карточке указаны формат safetensors и обучение с использованием Unsloth и библиотеки TRL; лицензия — Apache-2.0. Модель подходит для сценариев, где нужно задавать вопросы по изображению или вести диалог с визуальным контекстом. Карточка не описывает конкретные наборы данных, показатели качества, поддерживаемые языки помимо английского или длину контекста, поэтому оценить точность на отдельных задачах и языках по имеющимся сведениям нельзя.
LLaVA-NeXT-72B — мультимодальная чат-модель от LMMS-Lab, дообученная на языковой модели Qwen1.5-72B-Chat. Это авторегрессионная трансформерная модель семейства LLaVA с плотной архитектурой, содержащая 71 млрд параметров и поддерживающая контекст до 32 768 токенов. Модель предназначена для диалогов по изображениям и задач визуального понимания, включая ответы на вопросы по изображению и работу с инструкциями, связанными с изображениями. В обучении использовались пары изображение–текст, мультимодальные инструкции, данные для визуальных вопросов и ответов, подписи к изображениям и диалоги ShareGPT. Карточка указывает исследовательское и любительское применение и запрещает коммерческое использование. Лицензия в предоставленных данных не названа; модель описана как исследовательская, поэтому её следует применять с учётом этого ограничения. README не уточняет поддерживаемые естественные языки и конкретные ограничения качества.
LLaVA-OneVision Qwen2 0.5B SI — открытая мультимодальная модель семейства LLaVA-OneVision, опубликованная в репозитории llava-hf и основанная на Qwen2 с визуальным энкодером SO400M. Модель дообучена на синтетических мультимодальных инструкциях и данных для работы с изображениями, несколькими изображениями и видео. В карточке указана версия 0.5B, точное число параметров в доступных метаданных отсутствует. Модель принимает изображения вместе с текстовыми запросами и генерирует текстовые ответы в диалоговом формате. Она предназначена для описания изображений, ответов на вопросы по визуальному содержимому и мультимодального диалога; архитектура также рассчитана на сценарии с несколькими изображениями и видео. Для запуска рекомендуется Transformers версии 4.45.0 или новее; карточка описывает поддержку формата bfloat16 и 4-битной загрузки через bitsandbytes. Модель ориентирована на английский и китайский языки. Репозиторий распространяется по лицензии Apache-2.0. Размер 0.5B делает её компактным вариантом семейства, однако карточка не приводит сопоставимых оценок качества; ответы могут быть ошибочными, а возможности анализа видео зависят от корректной подачи видеоданных и поддерживающего её окружения.
RaviNaik/Llava-Phi2 — мультимодальная модель на основе Phi-2, разработанная Ravi Naik по мотивам LLaVA-Phi. Она объединяет языковую модель Phi-2 с визуальным модулем CLIP ViT-L/14 разрешением 336 пикселей и дообучена для работы с изображениями и инструкциями. В карточке указаны предварительное обучение на 200 тысячах примеров LAION-CC-SBU с подписями BLIP и дообучение на наборе из 150 тысяч инструкций на основе COCO. Модель предназначена для диалога по изображениям: она принимает изображение и текстовый запрос, а в ответ формирует текст. Размер составляет 3,5 млрд параметров, контекст — 2048 токенов; в метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.
Модель yuanzhoulvpi/llava_qwen15-4b-chat_openai-clip-vit-large-patch14-336 — мультимодальная чат-модель семейства LLaVA, собранная на основе Qwen1.5-4B-Chat и визуального энкодера openai/clip-vit-large-patch14-336. Разработчик обучал её с использованием LoRA и DeepSpeed ZeRO-2 на наборе LLaVA-CC3M-Pretrain-595K. Модель принимает изображения вместе с текстовыми запросами и генерирует текстовые ответы. Она предназначена для диалога по изображениям и визуальных вопросов и ответов; в карточке заявлены китайский и английский языки. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробностей ограничений, поэтому пригодность для конкретных сценариев стоит проверять на собственных данных. Указанный обучающий набор относится к предварительному обучению LLaVA.
LLaVA-v1.5-7B — открытый мультимодальный чат-бот, разработанный командой LLaVA путём дообучения LLaMA/Vicuna на сгенерированных GPT данных для следования инструкциям с изображениями. Это авторегрессионная модель на архитектуре Transformer; в репозитории указано 6,6 млрд параметров, а нативный контекст составляет 4096 токенов. Модель принимает изображения вместе с текстовыми запросами и генерирует текстовые ответы. Она предназначена для визуальных вопросов и ответов, описания изображений и диалоговых сценариев, связывающих зрительное содержимое с инструкциями. Обучение включало пары изображение—текст, мультимодальные инструкции, данные VQA и диалоги ShareGPT; модель ориентирована на исследования и эксперименты в области компьютерного зрения и обработки естественного языка. Карточка не указывает лицензию, поэтому условия использования по ней установить нельзя. Оценка приведена по набору из 12 тестов, включая академические VQA-бенчмарки; конкретные результаты и ограничения качества в карточке не приведены. Возможности модели ограничены изображениями и текстом, а контекст — 4096 токенами.
Карточка модели LanguageBind/MoE-LLaVA-StableLM-1.6B-4e на Hugging Face совпадает с карточкой LanguageBind/MoE-LLaVA-Qwen-1.8B-4e, поэтому описание составлено по ней. MoE-LLaVA-Qwen-1.8B-4e — мультимодальная модель семейства MoE-LLaVA, разработанная проектом LanguageBind. Она сочетает языковую модель Qwen с архитектурой смеси экспертов и предназначена для диалогового понимания изображений: модель принимает изображение и текстовый запрос и формирует текстовый ответ. В карточке она приведена как вариант MoE-LLaVA-1.8B×4-Top2; метаданные указывают 2,3 млрд параметров, контекст 8192 токена и формат PyTorch. README сообщает о результатах на наборах для визуальных вопросов и понимания изображений, включая VQAv2, GQA, VizWiz и MM-Bench. Модель доступна по лицензии Apache-2.0. Для работы README приводит требования к среде: Python 3.10 или новее, PyTorch 2.0.1, CUDA 11.7 или новее, Transformers 4.36.2 и Tokenizers 0.15.1.
Muse-Glimmer-30B-MLX-BF16 — созданная Meta Superintelligence Lab конверсия Muse-Glimmer-30B для запуска через MLX-VLM на Apple Silicon. Это плотный причинный трансформер с отдельным энкодером восприятия: около 29,8 млрд параметров, из них около 1,8 млрд приходится на зрительный энкодер. Модель принимает текст и изображения, выдаёт текст и поддерживает диалоговый режим и анализ изображений. Артефакт подготовлен для локальных мультимодальных сценариев, где нужно задавать вопросы по изображениям или вести диалог с визуальным контекстом. Тензоры BF16 побитно совпали с закреплённой версией исходной модели, однако качество генерации, скорость и работа с длинным контекстом не проверялись. README указывает, что веса занимают около 59,58 ГБ; для следующей проверки рекомендован компьютер Apple Silicon с 96 ГБ или более объединённой памяти. Это staging-артефакт, ещё не готовый к выпуску. Лицензия — Apache-2.0.
nara-qwen-3.5-0.8b — мультимодальная модель на базе Qwen3.5-0.8B, дообученная автором wjbmattingly для транскрибации англоязычных архивных документов США периода Войны за независимость. По изображению страницы она распознаёт рукописный и печатный текст, возвращая по одной строке на каждую физическую строку документа в исходном порядке. Модель предназначена для поиска и чтения архивных материалов в проектах по культурному наследию и цифровым гуманитарным наукам. Это полное дообучение плотной модели Qwen3.5-0.8B с 852 985 920 параметрами. Обучение включало 38 756 страниц из 1 407 документов Национального архива США: заполненные от руки печатные формы, каталожные карточки и страницы с американским курсивом XVIII–XIX веков. В проверке на 762 страницах из документов, не представленных в обучении, символьная ошибка CER составила 0,2868, а словная ошибка WER — 0,3379. Модель лучше подходит для близкого по виду материала из той же коллекции, чем для универсального распознавания английского почерка. Главное ограничение — узкая обучающая коллекция и заметно более слабое качество на редких каталожных карточках: модель может многократно распознавать линии печатной сетки вместо остановки. Перед использованием автор рекомендует задать repetition_penalty=1.1 и отключить thinking через enable_thinking=False. Распознанные имена и даты требуют проверки человеком; для документов других архивов, языков, жанров и эпох качество может снижаться. Лицензия — Apache-2.0.
Это конвертированная для Apple Silicon версия мультимодальной модели Huihui-Qwen3.5-0.8B-abliterated от huihui-ai на базе Qwen3.5-0.8B. Модель относится к архитектуре Qwen3.5 и предназначена для диалога и обработки изображений с текстовыми запросами; в README приведён пример описания изображения. Репозиторий содержит веса safetensors, а карточка указывает библиотеку Transformers и лицензию Apache-2.0. README описывает вариант MLX в формате fp16 (также обозначенном как bfloat16) размером около 1,75 ГБ и ориентирует его на запуск на компьютерах Apple Silicon через mlx-vlm. Метаданные указывают класс Qwen3_5ForConditionalGeneration и возможности чата и зрения. «Abliterated» обозначает модификацию, связанную со снижением ограничений на ответы; README не приводит оценок качества или подробностей об этой модификации.
Bunny-v1_0-3B — мультимодальная модель семейства Bunny, разработанная BAAI. Это объединённые веса bunny-phi-2-siglip-lora: модель построена на языковой основе Phi-2 с визуальным энкодером SigLIP и содержит около 3,5 млрд параметров. В карточке указаны предварительное обучение на LAION-2M и дообучение на Bunny-695K. Модель предназначена для диалогов и ответов на вопросы по изображениям. В описании разработчики сообщают, что Bunny-v1.0-3B показывает конкурентные результаты среди мультимодальных моделей сопоставимого и большего размера. Метаданные указывают задачу text-generation и контекст 2048 токенов; веса опубликованы в формате safetensors. Для использования нужны совместимые Transformers и обработка изображений. Указана лицензия Apache-2.0. Карточка не описывает ограничения по языкам и качеству на отдельных типах изображений.
Dmitry Pogrebnoy разработал русскоязычную версию DistilBERT с регистрозависимым токенизатором на основе distilbert-base-multilingual-cased. Модель предназначена для заполнения маски: она предсказывает пропущенные токены в русском тексте. В токенизаторе сохранены русские токены, знаки препинания, числа и служебные токены, отобранные регулярными выражениями; README сообщает, что модель сохраняет представления и точность исходной модели. Модель можно применять для подсказки вариантов при исправлении опечаток и ранжирования кандидатов, в том числе в медицинских историях болезни. Это плотная модель DistilBertForMaskedLM для PyTorch с контекстом до 512 токенов. Лицензия — Apache-2.0. README описывает проект как магистерскую работу; качество на других задачах и доменах отдельно не подтверждено.
ethicalabs разработала Echo-DSRN-114M-v0.1.2 — экспериментальную плотную языковую модель для генерации текста и небольших задач на устройствах с ограниченными ресурсами. Архитектура Echo-DSRN сочетает рекуррентные быстрые и медленные состояния; в карточке указаны 8 слоёв и размер скрытого состояния 512. Модель дообучена на наборе naufalso/smoltalk2_non_thinking и рассчитана на диалоговое использование. Метаданные указывают 49,9 млн параметров, тогда как README приводит 114,69 млн; поэтому размер модели в карточке противоречив. Заявленные сценарии включают маршрутизацию запросов, извлечение сущностей и классификацию, преобразование текста в JSON, очистку персональных данных и локальное автодополнение. Карточка также заявляет постоянное потребление памяти O(1) и запуск на CPU, NPU и GPU. Указаны английский язык и контекст 2048 токенов. README характеризует модель как исследовательский прототип: генерация может быть беглой, но фактическая точность, следование инструкциям и здравый смысл ограничены. Лицензия — Apache-2.0; авторы предупреждают, что модель не предназначена для производственного применения и важных решений.
Summykai/gemma3-27b-abliterated-dpo — диалоговая мультимодальная модель, дообученная на базе mlabonne/gemma-3-27b-it-abliterated с использованием Unsloth и библиотеки TRL. Архитектура — плотная Gemma 3 с 27 млрд параметров; модель принимает текст и изображения и предназначена для диалога и ответов на вопросы по изображениям. Модель ориентирована на англоязычные сценарии. В метаданных указан датасет mlabonne/orpo-dpo-mix-40k; карточка не раскрывает детали обучения или оценки качества. Лицензия в метаданных обозначена как gemma, а в README — Apache-2.0.
ys-zong/llava-v1.5-7b-Mixed — веса модели LLaVA-v1.5-7B, дообученной методом Mixed Fine-tuning для повышения безопасности визуальных языковых моделей. Модель разработана в рамках работы «Safety Fine-Tuning at (Almost) No Cost: A Baseline for Vision Large Language Models», представленной на ICML 2024. Модель предназначена для сценариев, в которых нужно задавать вопросы по изображениям и получать текстовые ответы с учетом требований безопасности. В карточке указано, что веса используются так же, как исходная LLaVA; архитектура — плотная LlavaLlamaForCausalLM на 6,6 млрд параметров, контекст — 4096 токенов. В метаданных указан английский язык; README не описывает другие языки. Доступный формат весов — PyTorch. Лицензия в предоставленных данных не указана. Карточка не приводит подробных результатов оценки, поэтому качество и устойчивость защиты в конкретных сценариях требуют отдельной проверки.
MoE-LLaVA-Qwen-1.8B-4e — мультимодальная модель семейства MoE-LLaVA, разработанная проектом LanguageBind. Она сочетает языковую модель Qwen с архитектурой смеси экспертов и предназначена для диалогового понимания изображений: модель принимает изображение и текстовый запрос и формирует текстовый ответ. В карточке она приведена как вариант MoE-LLaVA-1.8B×4-Top2; метаданные указывают 2,3 млрд параметров, контекст 8192 токена и формат PyTorch. README сообщает о результатах на наборах для визуальных вопросов и понимания изображений, включая VQAv2, GQA, VizWiz и MM-Bench. Модель доступна по лицензии Apache-2.0. Для работы README приводит требования к среде: Python 3.10 или новее, PyTorch 2.0.1, CUDA 11.7 или новее, Transformers 4.36.2 и Tokenizers 0.15.1.
Molmo-7B-D-0924-4bit — мультимодальная модель семейства Molmo, преобразованная mlx-community из allenai/Molmo-7B-D-0924 в формат MLX с 4-битным представлением для запуска через mlx-vlm. Она принимает изображения вместе с текстовыми запросами и генерирует текстовые ответы; подходит для диалога и вопросов о содержимом изображений. В метаданных указаны архитектура MolmoForCausalLM, 12,8 млрд параметров и контекст 4096 токенов. Карточка связывает модель с Qwen/Qwen2-7B и openai/clip-vit-large-patch14-336; лицензия — Apache-2.0. README отсылает за подробностями о возможностях к карточке исходной модели, поэтому конкретные сценарии визуального анализа здесь не уточнены.
lovedheart/Qwen3.5-4B-FP8 — мультимодальная модель на основе Qwen/Qwen3.5-4B-Base и Qwen/Qwen3.5-4B, опубликованная пользователем или организацией lovedheart. Модель предназначена для задач image-text-to-text: анализа изображений и генерации текстовых ответов по визуальным данным и запросам пользователя. В README приведён пример подсчёта свободных парковочных мест на изображении, однако качество и точность такого анализа не подтверждены систематическими тестами. Из идентификатора модели следует, что используется вариант Qwen3.5 с размером около 4 млрд параметров и представлением FP8. Поддерживается обработка изображений совместно с текстом; сведения о языках, максимальной длине контекста, точной архитектуре и доступных режимах вывода в README не указаны. Модель тестировалась с sglang и может использовать режим рассуждений через параметр enable_thinking. Модель подходит для визуального вопросно-ответного взаимодействия и базового анализа содержимого изображений. К ограничениям относятся отсутствие подробных benchmark-результатов, неизвестные характеристики производительности, языкового покрытия и контекста, а также возможная неточность при интерпретации сложных сцен. Лицензия — Apache-2.0.
kaan84 разработал эту дообученную TrOCR для распознавания печатного сингальского текста на изображениях отдельных строк. Она использует архитектуру vision-encoder-decoder и исправленный токенизатор, который сохраняет символ Zero Width Joiner (ZWJ), необходимый для записи сингальских конъюнктов. Модель принимает изображение одной строки размером примерно 2600×128 пикселей и выдаёт текст на сингальском языке; страницы целиком она не распознаёт. Исправление токенизатора позволяет модели выдавать ZWJ, но точное распознавание конъюнктов остаётся нерешённым. На отложенной выборке из 349 строк символьная CER составила 0,1690; автор указывает, что это не улучшение относительно контрольной версии и что данные для обучения и оценки синтетические, созданы одним генератором и пятью шрифтами. В предварительной проверке на одной реальной странице CER составила 0,4657, причём результат также зависит от сегментации и порядка чтения строк. Для использования на страницах требуется предварительно выделить строки. Модель распространяется по лицензии Apache-2.0.
SmolVLM2-500M — компактная мультимодальная vision-language модель, преобразованная сообществом LiteRT в формат LiteRT-LM для локального запуска на устройствах. Базовая модель HuggingFaceTB/SmolVLM2-500M-Video-Instruct разработана Hugging Face. Модель принимает изображение и текстовый запрос и генерирует ответ, основанный на содержимом изображения; основной сценарий — визуальные вопросы и ответы по одному изображению полностью офлайн. Архитектура включает vision-энкодер SigLIP с входом 512×512, pixel-shuffle-коннектором и 64 визуальными токенами, а также декодер SmolLM2 на 360M параметров с архитектурой Llama, 32 слоями, размерностью 960 и GQA. Размер файла составляет около 361 МБ. Веса декодера квантизованы в int4, vision-часть — в int8; вычисления выполняются в целочисленном формате. Контекст KV-кэша — 2048 токенов. Поддерживаются изображения и текст, однако сведения о конкретном наборе языков в README не указаны. Сильные стороны модели — малый размер, низкие требования к ресурсам, возможность работы на Android, macOS, Linux и Windows, а также локальный инференс без передачи изображений во внешние сервисы. Для одного изображения модель способна выдавать связные ответы, привязанные к визуальному содержимому. Ограничения связаны с небольшим размером: при жадной генерации возможны повторения и избыточная многословность, поэтому рекомендуется ограничивать max_tokens и использовать sampling. Основной режим — одно изображение на разговор; работа с несколькими изображениями может ухудшаться на GPU-бэкенде. Лицензия — Apache-2.0.
Модель kasohrab/theworld-spatial-from-cc3m-lm-only — дообученная версия мультимодальной Gemma 3 4B IT от Google. Она принимает изображения и текст и предназначена для задач image-text-to-text. Название указывает на пространственную тематику и связь с CC3M, однако README не раскрывает конкретные сценарии, обучающие данные или результаты оценки. Модель распространяется в формате safetensors по лицензии Gemma; при использовании необходимо соблюдать её условия.
FT-Mirpur — дообученная модель разработчика prescription13864 на базе unsloth/gemma-4-e4b-it-unsloth-bnb-4bit. Она использует архитектуру Gemma4ForConditionalGeneration и предназначена для диалоговых сценариев с обработкой изображений и текста. Модель опубликована в формате safetensors и поддерживает возможности vision и chat. В карточке указана лицензия Apache-2.0. Модель рассчитана на английский язык; её конкретная специализация и результаты оценки качества не описаны.
InternVL-Chat-ViT-6B-Vicuna-13B — мультимодальная чат-модель OpenGVLab для диалога по изображениям и ответов на визуальные вопросы. Она объединяет vision transformer InternViT-6B-224px с языковой моделью Vicuna-13B-v1.5 и использует авторегрессионную архитектуру LlavaLlamaForCausalLM; общий размер составляет 12,9 млрд параметров. Модель принимает изображения и текстовые инструкции, а отвечает текстом. Её обучали на парах изображение–текст, мультимодальных инструкциях, данных для визуальных вопросов и диалогах ShareGPT. README указывает на мультиязычный состав обучающих данных, но не перечисляет конкретные поддерживаемые языки. Контекст — 4096 токенов. Модель предназначена прежде всего для исследований и экспериментов с мультимодальными чат-ботами и задачами компьютерного зрения. Модель создана OpenGVLab и опубликована в декабре 2023 года. В метаданных указана лицензия — отсутствует, поэтому условия использования по имеющимся сведениям определить нельзя. Карточка описывает обучающие данные и назначение, но не приводит конкретных ограничений качества; фактические результаты могут зависеть от изображений, формулировки вопроса и сценария применения.
LLaVA-Gemma-2b-LORA — русскоязычная модель компьютерного зрения и диалога от DeepVК, созданная на базе google/gemma-2b-it по схеме LLaVA с помощью LoRA и последующей настройкой по инструкциям. Она принимает изображения вместе с текстовыми вопросами и генерирует текстовые ответы, в том числе на русском и английском языках. Модель предназначена для визуальных вопросов и ответов, описания изображений и диалога о визуальном содержимом. При обучении использовались ShareGPT4V, русскоязычный набор LLaVA-Instruct-ru и переведённая часть GQA. Репозиторий содержит веса в формате safetensors; для запуска предусмотрена библиотека Transformers. Лицензия — Apache-2.0. В опубликованной оценке модель показала результаты на GQA и MMBench, включая русские варианты тестов. Это компактная модель с меньшими результатами, чем у приведённой в карточке LLaVA-Saiga-8B; метаданные и README не сообщают длину контекста и число параметров итоговой VLM.
LLaVA-UHD v2 Vicuna 7B — мультимодальная модель для диалога по изображениям, разработанная на основе Vicuna 7B и визуального энкодера CLIP. Архитектура LLaVA с иерархическим оконным трансформером строит и объединяет пирамиду визуальных признаков, чтобы обрабатывать изображения с разной детализацией, включая изображения высокого разрешения. В репозитории около 6,6 млрд параметров; модель использует Transformers и формат safetensors, а длина контекста составляет 4096 токенов. Модель предназначена для исследовательской работы и экспериментов с мультимодальными моделями и чат-ботами. Она принимает изображения и текстовые запросы и генерирует текстовые ответы: например, описывает содержимое изображения, отвечает на вопросы о нём и поддерживает визуальный диалог. Обучение включало данные MS-COCO, LLaVA-Pretrain и смешанный набор для дообучения. Поддерживаемые языки в карточке явно не перечислены. Базовые компоненты объединены в модель; указанные в метаданных базовые репозитории — lmsys/vicuna-7b-v1.5 и openai/clip-vit-large-patch14-336. Лицензия в предоставленных данных не указана.