/ Профессии
Универсальные способности и операции

I.15Доступность и ассистивные технологии

В разделе собраны самостоятельные задачи, где AI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЗрениеАудиоЭмбеддингиТекст
AI-задач
17
в этой профессии
Подходящих моделей
8 953
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
ЗрениеАудиоЭмбеддинги

Рекомендованные модели

8 953 модели
Загрузки
Лайки
Дата выхода
601–630 из 8 953
parambharat
whisper-tiny-south-indic

Whisper Tiny South Indic — модель распознавания речи, созданная Bharat Ramanathan путём дообучения openai/whisper-tiny. Она предназначена для преобразования аудио в текст; в метаданных указана задача automatic-speech-recognition, а среди языковых тегов — тамильский, телугу, малаялам и каннада. Модель использует архитектуру WhisperForConditionalGeneration, содержит 29,4 млн параметров и опубликована в формате PyTorch. В README приведён результат оценки: WER 70,0806 на тестовом наборе; состав набора не описан, поэтому результат нельзя уверенно переносить на другие данные. Модель распространяется по лицензии Apache-2.0.

291дек. 2022ctx225
textaudioapache-2.0hugging-face
marinone94
xls-r-300m-sv-robust

marinone94/xls-r-300m-sv-robust — дообученная модель распознавания речи на базе KBLab/wav2vec2-large-voxrex. Она использует архитектуру wav2vec2 с выходной CTC-головой и предназначена для преобразования шведской речи в текст, в том числе на материале датасета Common Voice 9.0 для шведского языка. В README указаны результаты на тестовой выборке без языковой модели: WER 0,1121 и loss 0,1318. Модель принимает аудио и выдаёт текст. Репозиторий содержит веса PyTorch, а лицензия указана как CC0 1.0. Оценка приведена только для тестовой выборки Common Voice; сведений о качестве на других типах аудио в карточке нет.

941март 2022
textaudiocc0-1.0hugging-face
AstralZander
yoruba_ASR

AstralZander/yoruba_ASR — модель распознавания речи на основе Wav2Vec2ForCTC, созданная дообучением facebook/wav2vec2-xls-r-300m на данных OpenSLR SLR86 и Mozilla Common Voice 12.0 для языка йоруба. Модель содержит около 402,8 млн параметров и принимает аудио, выдавая текстовые транскрипции; пример использования через Hugging Face указывает также временные метки и вероятности для распознанных фрагментов. Модель предназначена для транскрибирования аудиозаписей на йоруба. В README приведён показатель WER 0,51. Репозиторий распространяется по лицензии Apache-2.0.

456апр. 2023
textaudioapache-2.0hugging-face
SeyedAli
Arabic-Speech-synthesis-MMS

Arabic-Speech-synthesis-MMS — модель синтеза речи из текста на арабском языке из проекта Massively Multilingual Speech (MMS), разработанного Facebook. Она предназначена для озвучивания арабского текста и использует архитектуру VITS с генерацией речевой волны непосредственно из входной последовательности текста. Модель содержит 3,5 млн параметров и доступна в форматах PyTorch и safetensors; для работы с ней подходит библиотека Transformers версии 4.33 и выше. VITS сочетает вариационный автоэнкодер, flow-модуль и декодер, построенный по принципу HiFi-GAN. Стохастический предиктор длительности позволяет получать разные ритмы речи для одного и того же текста, поэтому генерация недетерминирована: для повторения результата требуется фиксированный seed. Для языков MMS обучает отдельные контрольные точки. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

20723сент. 2023
textaudiocc-by-nc-4.0hugging-face
Salesforce
blip-vqa-base

BLIP VQA Base — модель семейства BLIP, разработанная Salesforce для визуального понимания и генерации текста по изображениям. Вариант использует базовую архитектуру с backbone ViT-Base и предназначен прежде всего для ответов на вопросы об изображениях: модель принимает изображение и текстовый вопрос, затем формирует текстовый ответ. Модель также поддерживает генерацию подписей к изображениям. BLIP обучался для задач vision-language с использованием механизма bootstrapping: генератор создаёт синтетические подписи, а фильтр отбирает менее шумные пары изображение–текст. Модель доступна в форматах PyTorch, Safetensors и TensorFlow. Релиз опубликован для исследовательских целей; перед применением в значимых сценариях следует оценить точность, безопасность и возможные смещения. Лицензия — BSD-3-Clause.

495K196дек. 2022ctx512
textbsd-3-clausehugging-face
kyutai
CASA-Qwen2_5-VL-3B

CASA-Qwen2_5-VL-3B — мультимодальная модель Kyutai для диалога и анализа изображений. Она основана на Qwen2.5-VL-3B-Instruct и адаптирует взаимодействие зрения и языка: вместо вставки визуальных токенов использует архитектуру с перекрёстным вниманием поверх self-attention. Модель содержит 3,1 млрд параметров, рассчитана на контекст до 128 000 токенов и работает с библиотекой Transformers; для загрузки требуется включить trust_remote_code. Модель предназначена для ответов на вопросы об изображениях и других сценариев vision-language общения. В карточке указаны FineVision и LLaVA-OneVision-1.5-Instruct-Data как датасеты. Основной язык карточки — английский. Модель опубликована под лицензией CC-BY-NC-SA-4.0, которая требует атрибуции, распространения производных на тех же условиях и не допускает коммерческого использования.

1873дек. 2025ctx128K
textimagecc-by-nc-sa-4.0hugging-face
Tensoic
Cerule-v0.1

Tensoic/Cerule-v0.1 — мультимодальная модель для диалога с изображениями, созданная на основе Gemma-2b и SigLIP. Она принимает изображение вместе с текстовым запросом и генерирует текстовые ответы: например, описывает сцену, распознаёт персонажей и их действия или объясняет, что изображено смешного. Модель обучали на наборах изображений LAION и SVIT; автор сообщает о предварительном обучении на 650 тысячах изображений и дообучении на 695 тысячах изображений. В метаданных указаны 2,5 млрд параметров, плотная архитектура CeruleGemmaForCausalLM, контекст 8192 токена и формат safetensors. Поддерживаются задачи image-text-to-text и text-generation, основной сценарий — ответы на вопросы об изображениях. Карточка не приводит подробных оценок качества или ограничений. Использование регулируется условиями лицензии Gemma и лицензиями исходных наборов данных LAION и SVIT; код выпущен под Apache 2.0.

11248апр. 2024ctx8.2K
textgemmahugging-face
TheCluster
Darwin-35B-A3B-Opus-MLX-bf16

TheCluster/Darwin-35B-A3B-Opus-MLX-bf16 — конвертированная в формат MLX версия модели FINAL-Bench/Darwin-35B-A3B-Opus. Она создана на архитектуре Qwen3.5 MoE с гибридом Gated DeltaNet и Mixture of Experts: всего 35 млрд параметров, из которых при одном проходе активны около 3 млрд. Модель принимает текст и изображения и предназначена для диалоговой работы с визуальным и текстовым содержимым. Модель поддерживает многоязычные сценарии, в том числе английский, китайский и русский. Репозиторий использует веса safetensors в формате bf16 и библиотеку MLX; исходная модель преобразована с помощью mlx-vlm 0.4.4. Лицензия — Apache-2.0.

17912апр. 2026ctx262.1K
textimageapache-2.0hugging-face
Dream-org
Dream-VL-7B

Dream-VL 7B — открытая диффузионная модель для работы с изображениями и языковыми инструкциями, разработанная командой Dream-org. Модель принимает текст и изображения, а отвечает текстом; она предназначена для диалога и выполнения инструкций с визуальным содержимым. Модель содержит 7,1 млрд параметров, использует архитектуру Dream-VL и визуальную основу Qwen2ViT. Она дообучена на 12 млн мультимодальных примеров из MAmmoTH-VL-Instruct-12M и работает через библиотеку Transformers. Контекст — до 131 072 токенов. Основной язык карточки — английский. Лицензия Apache 2.0.

24513дек. 2025ctx131.1K
textimageapache-2.0hugging-face
boazsew
Ethio-ASR-mms-1b-uf

Ethio-ASR-mms-1b-uf — модель автоматического распознавания речи, созданная в рамках независимого воспроизведения Ethio-ASR исследователями Университета Флориды. Это дообученная на эфиопской подвыборке WAXAL модель facebook/mms-1b: архитектура Wav2Vec2 с CTC-выходом, около 1,3 млрд параметров, вход — аудио, выход — текст. Модель предназначена для распознавания амхарского, тигринья, оромо, сидаама и волайтта. На тестовом разбиении WAXAL из 18 810 высказываний опубликованы результаты WER для нескольких языков; оценка использует обработку с объединением омонимов письма геэз и удалением пунктуации. Для сырых выходов указана средняя WER 35,69%. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

570июнь 2026
textaudiocc-by-nc-4.0hugging-face
Pokzy
flickr8k-finetuned

Pokzy разработал BLIP, дообученную на наборе Flickr8k для создания текстовых подписей к изображениям. Модель принимает изображение и генерирует описание на английском языке; она ориентирована на повседневные уличные сцены, людей, животных и спортивные занятия. Архитектура — BLIP с классом BlipForConditionalGeneration; модель распространяется в формате safetensors и используется с библиотекой Transformers. Модель подходит для автоматического создания кратких описаний изображений и демонстрационных приложений с генерацией подписей. В веб-демо подписи дополнительно переводятся на тайский с помощью отдельной модели NLLB-200; перевод не является функцией этого чекпойнта. Лицензия — Apache-2.0.

231июль 2026ctx512
textimageapache-2.0hugging-face
gokaygokay
Florence-2-Flux

gokaygokay/Florence-2-Flux — дообученная на датасете kadirnar/fluxdev_controlnet_16k модель на базе Florence-2-base от Microsoft. Она предназначена для задач зрения, в которых нужно преобразовать изображение в текстовый ответ; семейство Florence-2 поддерживает описание изображений, распознавание текста и локализацию объектов по текстовым промптам. Репозиторий использует архитектуру Florence2ForConditionalGeneration и формат safetensors, а запуск предполагает библиотеку Transformers. Модель может быть полезна для анализа и текстового описания изображений. Карточка не раскрывает, какие именно возможности Florence-2 были дообучены и насколько хорошо они работают в этой версии. Лицензия — Apache-2.0.

81215авг. 2024ctx1K
textapache-2.0hugging-face
mlx-community
gemma-3-4b-it-8bit

Мультимодальная модель семейства Gemma 3 с плотной архитектурой, предназначенная для диалогового понимания текста и изображений с генерацией текстовых ответов. Репозиторий mlx-community содержит 8-битную версию Gemma 3 4B IT, преобразованную из google/gemma-3-4b-it в формат MLX с помощью mlx-vlm 0.1.18. Модель подходит для вопросов по изображениям, визуального описания и обычного общения с текстовым помощником. Входные данные — текст и изображения, выход — текст. Размер — 4 млрд параметров; карточка Hugging Face относит её к задаче image-text-to-text и указывает библиотеку Transformers. Лицензия — Gemma; для условий использования следует учитывать лицензию и правила Google для семейства Gemma.

32K6март 2025
textimagegemmahugging-face
mlx-community
gemma-4-e2b-it-bf16

mlx-community подготовило конверсию Gemma 4 E2B IT от Google DeepMind для запуска на компьютерах Apple с Apple silicon через библиотеку MLX. Это плотная мультимодальная модель с поддержкой диалога и анализа изображений; вариант весов — bf16, формат репозитория — safetensors. В метаданных для модели указана задача image-text-to-text. Модель принимает текст и изображения и формирует текстовые ответы. Её можно использовать для описания изображений и визуальных вопросов в диалоговом формате. README указывает конверсию исходных весов google/gemma-4-E2B-it с помощью mlx_vlm.convert. Лицензия — Gemma; перед использованием следует соблюдать её условия. Длина контекста и перечень поддерживаемых языков для этой конверсии в предоставленных данных не приведены.

3911апр. 2026
textimagegemmahugging-face
Eugeniuss
gemma-4-tcc-e4b

Eugeniuss дообучил Gemma 4 E4B IT на базе unsloth/gemma-4-E4B-it-unsloth-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная мультимодальная модель семейства Gemma 4 для диалогов с изображениями: она принимает текст и изображения и формирует текстовые ответы. Карточка указывает интерфейс для вызова инструментов. Модель распространяется по лицензии Apache-2.0.

140июль 2026ctx131.1K
textimageapache-2.0hugging-face
z-ai
glm-5.3-flashx

GLM-5.3-FlashX — высокоскоростной вариант GLM-5.3-Flash от Z.ai. Это нативная мультимодальная модель на гибридной архитектуре разреженного и линейного внимания; заявленная скорость генерации достигает 200 токенов в секунду. Модель предназначена для мультимодальных сценариев, классифицированных в каталоге как image-text-to-text. Доступные сведения не раскрывают конкретные поддерживаемые языки, размер модели, длину контекста или условия лицензии, поэтому эти характеристики здесь не уточняются.

00сент. 2026ctx1Mprice$0.00 / $0.00/ 1M
textimagevideoopenrouter
milanakdj
indic-parler-tts-nepali-finetuned-dgx-v2.6-cosine-oov

Nepali Parler-TTS — версия семейства Indic Parler-TTS, дообученная для синтеза речи на непальском языке. Модель использует архитектуру ParlerTTSForConditionalGeneration и библиотеку parler-tts; веса опубликованы в формате safetensors. В карточке приведены результаты обучения: 2714 шагов и минимальная ошибка на валидации 6,5633. Модель предназначена для преобразования текста в речь на непальском языке. README не сообщает подробностей о голосах, качестве звучания или условиях лицензии, поэтому эти характеристики нельзя подтвердить по доступным данным.

160июль 2026
textaudiohugging-face
internlm
internlm-xcomposer2-vl-7b

InternLM-XComposer2-VL-7B — модель компьютерного зрения и языка из семейства InternLM-XComposer2, разработанная командой InternLM. Она основана на InternLM2 и предназначена для понимания изображений и текста; модель выпускается как предварительно обученная мультимодальная версия, тогда как отдельная версия InternLM-XComposer2 дообучена для создания чередующихся текстовых и графических материалов. Модель содержит 7,4 млрд параметров, использует плотную архитектуру InternLMXComposer2ForCausalLM и поддерживает контекст до 32 768 токенов. Она принимает изображение и текстовый запрос, а отвечает текстом, что подходит для визуальных вопросов и описания содержимого изображений. В README приведён способ загрузки через Transformers; для экономии памяти рекомендуется float16. Указана лицензия «other», поэтому конкретные условия использования следует сверять с лицензией в репозитории.

11K84янв. 2024ctx32.8K
textotherhugging-face
OpenGVLab
InternVL3-1B-Instruct

InternVL3-1B-Instruct — мультимодальная чат-модель OpenGVLab, версия с supervised fine-tuning (SFT) на основе InternVL3-1B-Pretrained. Она использует архитектуру ViT-MLP-LLM: визуальный энкодер InternViT-300M-448px-V2_5 соединён с языковой частью Qwen2.5-0.5B. Модель поддерживает ввод изображений и текста; семейство InternVL3 также обучалось на видео и мультимодальных последовательностях. Модель предназначена для диалога по изображениям, визуального восприятия и рассуждений, а также задач понимания видео, научных схем, 3D-сцен и GUI. Динамическое разбиение изображений на тайлы 448×448 и позиционное кодирование V2PE помогают работать с изображениями разных размеров и длинными последовательностями. В метаданных указаны Transformers и формат safetensors; лицензия — Apache-2.0. Карточка не сообщает размер контекста для этой версии. README отмечает, что версия не проходила MPO, и рекомендует InternVL3-1B, если пользователь не уверен, какую версию выбрать.

4.4K9апр. 2025ctx1M
textapache-2.0hugging-face
OpenGVLab
InternVL3-2B-Instruct

InternVL3-2B-Instruct — мультимодальная модель с открытыми весами от OpenGVLab, версия supervised fine-tuning семейства InternVL3 без этапа MPO. Она построена по схеме ViT-MLP-LLM: использует визуальный энкодер InternViT-300M-448px-V2_5, MLP-проектор и языковую часть на базе Qwen2.5-1.5B. Модель принимает текст и изображения, включая несколько изображений в одном запросе, и предназначена для диалога и ответов на вопросы по визуальному содержимому. Сценарии применения включают понимание изображений и видео, мультимодальные рассуждения, работу с научными диаграммами, GUI и 3D-сценами, а также использование инструментов. Динамическое разбиение изображений на тайлы 448×448 и Variable Visual Position Encoding помогают обрабатывать изображения разного размера и длинные мультимодальные последовательности. Карточка заявляет многоязычную поддержку; точный список языков и размер контекста не приведены. Модель распространяется по лицензии Apache-2.0. Это SFT-версия без MPO; README рекомендует обычную версию InternVL3-2B тем, кто не уверен, какую выбрать. Как и другие мультимодальные модели, качество ответов зависит от изображения, запроса и выбранного контекста; обработка нескольких изображений увеличивает число входных токенов.

2.0K7апр. 2025ctx1M
textapache-2.0hugging-face
OpenGVLab
InternVL-Chat-V1-5-AWQ

InternVL-Chat-V1-5-AWQ — мультимодальная модель для задач, объединяющих работу с изображениями и текстом, разработанная командой OpenGVLab. Она предназначена для визуально-языковых сценариев, включая описание изображений и диалоговое взаимодействие по их содержимому. Модель доступна в экосистеме Transformers и поддерживает инференс через LMDeploy, в том числе в пакетном офлайн-режиме и как REST-сервис с OpenAI-совместимым API. Это квантованная версия OpenGVLab/InternVL-Chat-V1-5 с квантизацией весов AWQ в формате W4A16: веса представлены с точностью 4 бита, а активации — 16 бит. Для ускорения инференса используются оптимизированные CUDA-ядра LMDeploy; заявлено ускорение до 2,4 раза по сравнению с FP16. README не содержит точных сведений о числе параметров, архитектуре, размере контекста и перечне поддерживаемых языков, указывая язык как multilingual. Для работы требуется LMDeploy версии 0.5.3 или новее и совместимая NVIDIA GPU: Turing, Ampere или Ada Lovelace, включая серии 20, 30 и 40, а также T4, A10, A16, A30 и A100. Модель распространяется по лицензии MIT; при этом использует предварительно обученную internlm2-chat-20b, распространяемую по Apache License 2.0.

9.0K11май 2024ctx4.1K
textmithugging-face
noctrex
Kimi-VL-A3B-Thinking-2506-MXFP4_MOE-GGUF

Это MXFP4_MOE-квантизация Kimi-VL-A3B-Thinking-2506, опубликованная noctrex. Репозиторий содержит вариант модели в формате GGUF; метаданные также указывают варианты GGUF BF16, F16 и F32. Базовая модель Moonshot AI предназначена для диалогов, визуального анализа и рассуждений по изображениям и видео. Модель принимает текст и изображения и выдаёт текст. Её можно использовать для вопросов по изображениям, визуального анализа и мультимодального диалога. README не содержит сведений о размере, контексте или лицензии, поэтому эти характеристики здесь не приводятся.

2005окт. 2025
textimagehugging-face
Nextcloud-AI
Kokoro-82M

Nextcloud-AI/Kokoro-82M — копия модели Kokoro-82M, подготовленная для использования в локальном приложении синтеза речи. Она предназначена для преобразования текста в речь; в метаданных указан английский язык. Репозиторий содержит веса PyTorch и основан на hexgrad/Kokoro-82M. Модель разработана для локальных приложений и сервисов преобразования текста в речь. README не приводит подробностей об архитектуре, размере или поддерживаемых голосах. Модель распространяется по лицензии Apache-2.0.

6290окт. 2025
textaudioapache-2.0hugging-face
cstr
lahgtna-chatterbox-v1-GGUF

cstr публикует GGUF-версию арабской модели синтеза речи lahgtna-chatterbox-v1 для использования с CrispStrobe/CrispASR. Это вариант Chatterbox, в котором языковая модель T3 дообучена на арабском тексте; для генерации аудио ей требуется отдельный общий вокодер S3Gen из cstr/chatterbox-GGUF. Репозиторий содержит только T3, файл F16 занимает около 1,1 ГБ. Архитектура T3 включает 30-слойную авторегрессионную модель на основе Llama с размерностью 1024 и 16 головами внимания, а также мультиязычный токенизатор с арабскими графемами. Модель преобразует арабский текст в речевые токены; совместимый S3Gen и HiFTGenerator преобразуют их в аудио. Лицензия — MIT, унаследованная от исходной модели oddadmix/lahgtna-chatterbox-v1.

4680май 2026
textaudiomithugging-face
rahul7star
LFM2.5-VL-3B-tool-sft-merged

Мультимодальная модель rahul7star, дообученная на базе LiquidAI/LFM2.5-VL-3B для диалога с изображениями и ответов на визуальные запросы. Она принимает текст и изображения и генерирует текст; архитектура относится к семейству lfm2_vl, веса представлены в формате safetensors. В карточке указана возможность интеграции с интерфейсом вызова инструментов. Модель подходит для описания изображений и диалога по их содержимому. Базовая модель Liquid AI также предназначена для локального анализа изображений и OCR с разметкой страниц, однако README этого чекпойнта не приводит подробностей о собственных обучающих данных или качестве на таких задачах. Карточка указывает английский язык. Модель распространяется по лицензии Apache-2.0.

360авг. 2026
textimageapache-2.0hugging-face
LiquidAI
LFM2-VL-3B

LFM2-VL-3B — мультимодальная модель Liquid AI для работы с текстом и изображениями, построенная на языковой основе LFM2 и визуальных энкодерах SigLIP2 NaFlex. Модель имеет гибридную архитектуру с сочетанием свёрточных слоёв и attention; в карточке указано 2,6 млрд параметров языковой части и энкодер зрения на 400 млн параметров. Она принимает изображения с разным соотношением сторон, обрабатывает разрешение до 512×512 пикселей и разбивает более крупные изображения на фрагменты с дополнительным обзорным миниатюрным изображением. Модель предназначена для диалогового следования инструкциям, понимания изображений и лёгких агентных сценариев; её можно применять для описания изображений, визуальных вопросов и ответов, а также задач детального зрительного восприятия. Настройки числа визуальных токенов и фрагментов позволяют выбирать компромисс между скоростью и качеством. Основной поддерживаемый язык, указанный в README, — английский; метаданные также перечисляют японский, французский, испанский, немецкий, итальянский, португальский, арабский, китайский и корейский. Рекомендуется дообучать модель под узкие сценарии; она не предназначена для решений, критичных к безопасности. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

1.6K142окт. 2025
textimageotherhugging-face
unsloth
Llama-3.2-90B-Vision-Instruct

Это мультимодальная модель Meta семейства Llama 3.2 Vision, опубликованная Unsloth в виде чекпойнта формата safetensors для Transformers. Она принимает изображения и текст и генерирует текстовые ответы; поддерживает диалоговый режим и интерфейс вызова инструментов. В карточке указано, что основой служит meta-llama/Llama-3.2-90B-Vision-Instruct, поэтому этот репозиторий представляет собой её дообученную версию. Модель подходит для ответов на вопросы по изображениям, описания визуального содержимого и диалоговых сценариев, где текстовый запрос связан с изображением. В метаданных для языков карточки указан английский; исходная модель поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Контекстный размер в доступных данных не указан. Лицензия — Llama 3.2 Community License, пользовательская лицензия Meta; перед внедрением следует проверить её условия.

49318сент. 2024ctx131.1K
textimagellama3.2hugging-face
llava-hf
llama3-llava-next-8b-hf

LLaVA-NeXT Llama 3 8B — мультимодальная чат-модель, разработанная командой LLaVA-NeXT и представленная в исследовательской работе о расширении возможностей мультимодальных моделей. Она объединяет языковую модель Meta-Llama-3-8B-Instruct с предварительно обученным визуальным энкодером и предназначена для диалога по изображениям. Модель подходит для описания изображений, ответов на вопросы о визуальном содержимом и других сценариев мультимодального чат-бота. По сравнению с LLaVA 1.6 в серии улучшены языковая основа и состав обучающих данных; обучение включало пары изображение—текст, инструкции для мультимодального диалога и данные визуальных вопросов и ответов. Репозиторий содержит веса в формате safetensors; модель поддерживает английский язык. Модель принимает изображения и текст, а генерирует текст. Карточка не приводит размер контекста. Указана лицензия Llama 3 (llama3); перед использованием следует учитывать её условия. Качество ответов зависит от изображения и формулировки вопроса, а доступные материалы не описывают подробно ограничения и результаты оценки модели.

3.5K53июль 2024
textimagellama3hugging-face
Zero-Vision
Llama-3-MixSense

Llama-3-MixSense — мультимодальная модель семейства MixSense от Zero-Vision, построенная по архитектуре «визуальный энкодер — проектор — языковая модель». В качестве языковой части используется Meta Llama 3, а изображения обрабатывает визуальный энкодер SigLIP 400M. Веса опубликованы в формате safetensors; модель содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста с учётом изображений: например, для ответов на вопросы о визуальном содержимом и описания изображений. Разработчики сообщают об обучении на переработанном наборе данных и методе подготовки данных, который призван снизить стоимость обучения и повысить его эффективность; подробности о данных и исследованиях обещаны отдельно. В карточке приведены демо и интеграция для оценки через VLMEvalKit. Языковая основа — Llama 3, однако конкретные поддерживаемые естественные языки в карточке не перечислены. Использование требует совместимого стека Transformers и зависимостей из README. Условия лицензии в предоставленных данных не указаны.

2440июнь 2024ctx8.2K
texthugging-face
xtuner
llava-llama-3-8b

LLaVA-Llama-3-8B — мультимодальная модель XTuner для диалога по изображениям. Она дообучена на основе meta-llama/Meta-Llama-3-8B-Instruct и визуального энкодера CLIP ViT-Large-Patch14-336 на наборах LLaVA-Pretrain и LLaVA-Instruct. Архитектура объединяет языковую модель Llama 3 с визуальным энкодером и MLP-проектором; число параметров — 7,5 млрд, контекст — 8192 токена. Репозиторий содержит веса в формате safetensors и использует формат LLaVA XTuner. Модель предназначена для ответов на вопросы об изображениях, описания визуальных сцен и мультимодального диалога. Карточка приводит результаты на англоязычных и китайскоязычных визуальных бенчмарках. Лицензия в предоставленных данных не указана; для использования следует учитывать условия базовой модели и компонентов.

2439апр. 2024ctx8.2K
texthugging-face

Задачи профессии

17 задач
240Автоматическое описание изображения для незрячего пользователя. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: анализирует форму, текстуру, цвет и пространственные отношения, учитывая масштаб и качество изображения. Исходные данные: изображения, контент, интерфейсы, сенсорные сигналы и индивидуальные потребности. Формат результата: редактируемый артефакт по задаче «Автоматическое описание изображения для незрячего пользователя», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — ассистивный результат. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
241Описание окружающей сцены через камеру в реальном времени. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. К исходным данным относятся интерфейсы, сенсорные сигналы, индивидуальные потребности и настройки доступности. Формат результата: редактируемый артефакт по задаче «Описание окружающей сцены через камеру в реальном времени», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — ассистивный результат. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
242Чтение печатного текста и интерфейсов вслух. — Для этой задачи система находит нужные фрагменты в исходном материале, распознаёт их роль и переносит в заданные структурированные поля. Рабочие входы: сенсорные сигналы, индивидуальные потребности, настройки доступности и контент. Формат результата: структурированные данные, полученные в рамках «Чтение печатного текста и интерфейсов вслух», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
243Распознавание препятствий и помощь в навигации. — Практическая реализация: AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Входной контекст включает индивидуальные потребности, настройки доступности, контент и интерфейсы. Формат результата: перечень объектов, событий или отклонений, относящихся к «Распознавание препятствий и помощь в навигации», с локализацией, уверенностью и признаками срабатывания. Ошибки выявляют по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
244Живые субтитры с разделением говорящих и описанием значимых неречевых звуков. — Механизм: AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: согласует перевод или текст с длительностью сцены, паузами и артикуляцией. Исходные данные: речевая дорожка, настройки доступности, контент, интерфейсы и сенсорные сигналы. Формат результата: редактируемый артефакт по задаче «Живые субтитры с разделением говорящих и описанием значимых неречевых звуков», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — ассистивный результат. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
245Выделение речи на фоне шума для улучшения разборчивости. — AI находит нужные фрагменты в исходном материале, распознаёт их роль и переносит в заданные структурированные поля. Предметная логика: распознаёт речь, разделяет участников и связывает реплики с темами, решениями и действиями. К исходным данным относятся аудиопоток, контент, интерфейсы, сенсорные сигналы и индивидуальные потребности. Формат результата: структурированные данные, полученные в рамках «Выделение речи на фоне шума для улучшения разборчивости», с нормализованными значениями и ссылками на исходные фрагменты. Надёжность оценивают посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
246Распознавание жестового языка. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: интерфейсы, сенсорные сигналы, индивидуальные потребности и настройки доступности. Формат результата: перечень объектов, событий или отклонений, относящихся к «Распознавание жестового языка», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
247Генерация жестового перевода с помощью аватара. — Практическая реализация: AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: сохраняет значение, числа, имена и терминологию, одновременно адаптируя форму к нормам целевого языка. Входной контекст включает исходный материал, сенсорные сигналы, индивидуальные потребности, настройки доступности и контент. Формат результата: редактируемый артефакт по задаче «Генерация жестового перевода с помощью аватара», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — ассистивный результат. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
248Предсказание фраз в альтернативной и дополнительной коммуникации. — Механизм: AI строит прогностическую модель на исторических наблюдениях, добавляет текущие сигналы и оценивает несколько вариантов развития. Исходные данные: индивидуальные потребности, настройки доступности, контент и интерфейсы. Формат результата: прогноз для условия «Предсказание фраз в альтернативной и дополнительной коммуникации» с горизонтом, вероятностями сценариев, диапазоном неопределённости и главными влияющими факторами. Проверка: на отложенных периодах, по калибровке вероятностей, ошибке прогноза и устойчивости к изменению предпосылок; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
249Синтез персонального голоса для человека, утратившего речь. — AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. Предметная логика: моделирует фонетику, просодию и тембр, сохраняя естественность и разборчивость. К исходным данным относятся текст, настройки доступности, контент, интерфейсы и сенсорные сигналы. Формат результата: преобразованный материал по задаче «Синтез персонального голоса для человека, утратившего речь» с сохранённым содержанием и журналом значимых изменений. Надёжность оценивают сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
250Преобразование материала в формат easy-to-read с короткими фразами, символами и проверяемой структурой. — Для этой задачи система переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Предметная логика: учитывает расположение элементов, связь между страницами и документные правила, а не только распознанный текст. Рабочие входы: оригиналы документов, контент, интерфейсы, сенсорные сигналы и индивидуальные потребности. Формат результата: преобразованный материал по задаче «Преобразование материала в формат easy-to-read с короткими фразами, символами и проверяемой структурой» с сохранённым содержанием и журналом значимых изменений. Критерии приёмки: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
251Голосовое, жестовое или взглядовое управление устройством. — Практическая реализация: AI оценивает текущее состояние, рассчитывает управляющее воздействие и корректирует его по обратной связи. Предметная логика: моделирует фонетику, просодию и тембр, сохраняя естественность и разборчивость. Входной контекст включает текст, интерфейсы, сенсорные сигналы, индивидуальные потребности и настройки доступности. Формат результата: управляющее решение для «Голосовое, жестовое или взглядовое управление устройством» с ожидаемым эффектом, допустимыми пределами и условиями безопасной остановки. Ошибки выявляют в симуляции и контролируемых испытаниях, с проверкой устойчивости и независимых аварийных ограничений; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
252Персональная адаптация размера, контраста и структуры интерфейса. — Механизм: AI учитывает историю поведения и текущий контекст, но ограничивает персонализацию правилами разнообразия и справедливости. Предметная логика: находит чувствительные фрагменты и заменяет их так, чтобы исключить обратное раскрытие через контекст. Исходные данные: текст и изображения, сенсорные сигналы, индивидуальные потребности, настройки доступности и контент. Формат результата: адаптированный вариант для «Персональная адаптация размера, контраста и структуры интерфейса» с указанием контекста и факторов, определивших персонализацию. Проверка: по пользовательской обратной связи, долгосрочной полезности и отсутствию нежелательной дискриминации; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
253Пошаговые подсказки для выполнения бытового действия. — AI объединяет историю, текущую ситуацию и обязательные условия, чтобы предложить следующий наиболее обоснованный шаг. К исходным данным относятся индивидуальные потребности, настройки доступности, контент и интерфейсы. Формат результата: несколько вариантов для «Пошаговые подсказки для выполнения бытового действия», ранжированных по полезности, ограничениям и причинам выбора. Надёжность оценивают по полезности для пользователя, соблюдению ограничений и качеству результата после принятия рекомендации; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
254Распознавание состояния пользователя и предложение безопасной помощи. — Для этой задачи система выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Рабочие входы: настройки доступности, контент, интерфейсы и сенсорные сигналы. Формат результата: перечень объектов, событий или отклонений, относящихся к «Распознавание состояния пользователя и предложение безопасной помощи», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
255Преобразование визуальной информации в тактильное или звуковое представление. — Практическая реализация: AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, контент, интерфейсы, сенсорные сигналы и индивидуальные потребности. Формат результата: преобразованный материал по задаче «Преобразование визуальной информации в тактильное или звуковое представление» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров.
256Автоматическая проверка цифрового контента на доступность. — Механизм: AI выполняет набор автоматических проверок и сохраняет доказательства для каждого пройденного или нарушенного условия. Исходные данные: интерфейсы, сенсорные сигналы, индивидуальные потребности и настройки доступности. Формат результата: протокол выполнения «Автоматическая проверка цифрового контента на доступность» с пройденными условиями, найденными нарушениями и спорными местами для ручного решения. Проверка: повторным запуском на эталонных примерах, ручной проверкой спорных случаев и полнотой контрольного покрытия; с участием целевых пользователей, по стандартам доступности, понятности и снижению барьеров. <a id="section-ii-1"></a>

0 моделей