I.1Поиск и навигация по информации
В разделе собраны самостоятельные задачи, где AI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
13 467 моделейIlyaGusev собрал эту русско-английскую диалоговую модель с помощью mergekit, объединив методом SLERP модели vikhr_nemo_orpo_dostoevsky_12b и Vikhr-Nemo-12B-Instruct-R-21-09-24. Это плотная Mistral-модель с 12,1 млрд параметров, предназначенная для генерации текста и общения в чате. Модель можно применять для ответов на вопросы, подготовки текстов и диалога на русском и английском языках. В объединение вошла модель, дообученная на датасете 40umov/dostoevsky; метаданные базовой модели указывают на сценарии ответов по документам в режиме grounded RAG. Модель опубликована в формате safetensors; контекстное окно по метаданным — до 1 024 000 токенов. Лицензия в предоставленных данных не указана. Качество и поведение после слияния могут отличаться от исходных моделей; оценок качества в карточке нет.
Это визуальный энкодер timm/vit_so400m_patch16_siglip_384.v2_webli из семейства SigLIP 2 на архитектуре ViT, предназначенный для извлечения признаков изображений. Модель соответствует визуальной части SigLIP 2 и обучена на наборе данных WebLI. Энкодер преобразует изображение в признаки для дальнейшего использования в поиске по изображениям, сопоставлении изображений с текстом и других мультимодальных системах. Репозиторий распространяет веса в форматах PyTorch и safetensors, библиотека для работы — timm. Лицензия Apache-2.0.
win2win/ad-categorizer-model — дообученный разработчиком win2win энкодер предложений на базе sentence-transformers/all-MiniLM-L6-v2. Модель преобразует предложения и абзацы в плотные векторы размерности 384 и сравнивает их с помощью косинусного сходства; архитектура включает BERT, усреднение токенов и нормализацию. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов, а карточка модели — максимальную длину последовательности 256 токенов. Модель предназначена для поиска семантически похожих текстов, сопоставления описаний, поиска перефразировок и кластеризации. Её можно применять для категоризации объявлений через сравнение с текстами категорий или примерами. Карточка сообщает о дообучении на двух парах предложений, поэтому качество для широкого круга задач может быть ограниченным. Формат весов — safetensors; лицензия в предоставленных сведениях не указана.
Cymist2-v0.3 — языковая модель команды Cypien AI для генерации текста и диалоговых сценариев на турецком и английском языках. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, дообученная методом SFT на основе mistralai/Mistral-7B-v0.3. Модель работает через библиотеку Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для чат-ботов, виртуальных помощников и приложений с генерацией ответов и использованием RAG. Указана лицензия Apache-2.0, допускающая коммерческое использование при соблюдении её условий. Модель может наследовать предвзятости обучающих данных, поэтому ответы требуют проверки, особенно при использовании в ответственных сценариях. README не приводит конкретных оценок качества или подробностей обучающих данных.
Apple DFN5B-CLIP-ViT-H-14 — контрастивная модель CLIP, обученная на наборе DFN-5B и опубликованная Apple. Она сопоставляет изображения и текст в общем пространстве представлений, поэтому подходит для классификации изображений без дополнительного обучения по текстовым описаниям классов и для поиска изображений по тексту. Модель обучали на 5 млрд изображений, отфильтрованных из 43 млрд пар изображение–текст; в обучении было обработано 39 млрд примеров. В карточке приведены результаты на ImageNet-1k, Caltech-101 и CIFAR-10. Это плотная модель архитектуры CLIP с визуальным энкодером ViT-H/14. Веса переведены из исходных контрольных точек JAX в PyTorch и напрямую применимы через OpenCLIP для обработки изображений и текста. Лицензия — Apple AMLR.
Карточка модели NVEagle/Eagle-X5-7B на Hugging Face совпадает с карточкой NVEagle/Eagle-X5-13B-Chat, поэтому описание составлено по ней. Eagle-X5-13B-Chat — мультимодальная языковая модель семейства Eagle, разработанного NVIDIA. Это плотная Transformer-модель архитектуры EagleLlamaForCausalLM с 12,9 млрд параметров, предназначенная для диалога и анализа изображений вместе с текстом. Контекст модели составляет 4096 токенов. Модель использует комбинацию визуальных энкодеров CLIP+X и рассчитана на обработку изображений высокого разрешения, включая задачи распознавания текста и понимания документов. Она принимает изображения и текст, а выдаёт текст; авторы отмечают сильные результаты на мультимодальных тестах, особенно в задачах, чувствительных к разрешению. Основные сценарии применения — исследование мультимодальных LLM и создание чат-ботов. Модель опубликована под лицензией CC BY-NC-SA 4.0, которая ограничивает коммерческое использование. README не уточняет языковой охват и подробные ограничения качества; перед применением в конкретной отрасли следует оценить пригодность модели для этого сценария.
nypgd/gemma-4-e2b-assistant-vllm — дообученная разработчиком nypgd мультимодальная модель семейства Gemma 4 на базе unsloth/gemma-4-E2B-it. Она предназначена для диалогов с текстом и изображениями; каталог также отмечает интерфейс вызова инструментов. Модель представлена в формате safetensors и обучалась с использованием Unsloth и библиотеки TRL. Модель подходит для вопросов по изображениям и документам, а также для ассистентских сценариев с подключением инструментов. В карточке не приведены сведения о размере, длине контекста и конкретных языковых возможностях; метаданные указывают английский язык. Лицензия — Apache-2.0.
MetaCLIP ViT-B/32 — модель семейства CLIP, разработанная командой MetaCLIP и представленная в статье «Demystifying CLIP Data» авторов Xu и соавторов. Эта версия обучалась на 400 миллионах примеров Common Crawl; обозначение B/32 указывает на базовый размер модели и разрешение патчей 32. Модель сопоставляет изображения и текст в общем пространстве эмбеддингов. Она предназначена для классификации изображений без дополнительного обучения по текстовым описаниям классов, поиска изображений по тексту и поиска текста по изображению. Лицензия CC BY-NC 4.0 разрешает использование на условиях лицензии с ограничением на коммерческое применение.
mrm8488/mobilebert-finetuned-ner — англоязычная модель распознавания именованных сущностей, созданная дообучением MobileBERT для классификации токенов. Она предназначена для выделения в тексте сущностей и присвоения им меток в сценариях извлечения информации. Модель содержит 59,7 млн параметров, принимает текстовые последовательности длиной до 512 токенов и доступна в формате PyTorch. Компактная архитектура MobileBERT рассчитана на более эффективное выполнение задач обработки языка, чем крупные модели BERT. Карточка Hugging Face предлагает запускать её через Transformers с задачей token-classification. Модель распространяется по лицензии MIT. Подробности о наборе меток и оценках качества в доступных источниках не приведены.
IsmaelMousa/modernbert-ner-conll2003 — англоязычная модель распознавания именованных сущностей, созданная дообучением answerdotai/ModernBERT-base на наборе CoNLL2003. Она размечает текст, выделяя упоминания людей, организаций и мест, и предназначена для извлечения таких сущностей из обычного английского текста. Модель построена на архитектуре ModernBERT для классификации токенов, содержит 149 млн параметров и поддерживает контекст до 8192 токенов. В README приведены результаты на оценочной выборке CoNLL2003: F1 0,8455, точность 0,8349, полнота 0,8563 и accuracy 0,9752. Для запуска указана библиотека Transformers; лицензия — Apache-2.0.
Qwen3.8-27B-Della-Carnice-Ostrich-Salience-Glimmer-v5c — настраиваемая мультимодальная модель для диалогов, созданная YFC-112358 слиянием Qwen/Qwen3.8-27B и нескольких моделей на его основе методом della_linear. Она предназначена для общения с пользователем и задач, где нужно анализировать изображения; в метаданных также отмечены интерфейс вызова инструментов и поддержка vision. Архитектура — плотная Qwen3_5ForConditionalGeneration, размер базовой модели — 27 млрд параметров; модель распространяется в safetensors и загружается через Transformers. Токенизатор и конфигурация взяты у Qwen/Qwen3.8-27B. README описывает однопроходное слияние четырёх источников и его технические параметры, включая прореживание по блокам строк, вычисления в fp32 и сохранение в bf16. Это не отдельное дообучение: итоговое поведение зависит от слияния исходных моделей, а специальные токены этих источников в итоговый токенизатор не включены. Основной язык и длина контекста в предоставленных данных не подтверждены. Лицензия не указана, поэтому условия использования следует сверить с лицензиями базовой модели и компонентов слияния.
Карточка модели Veritone/siglip2-so400m-patch16-256 на Hugging Face совпадает с карточкой google/siglip2-so400m-patch16-256, поэтому описание составлено по ней. SigLIP 2 So400m — модель семейства SigLIP 2, разработанная Google. Это плотный визуальный энкодер, обученный на датасете WebLI; вариант So400m использует патчи размером 16 пикселей и входное разрешение 256 пикселей. Модель сопоставляет изображения и текст, поддерживает классификацию изображений по произвольным текстовым меткам без дообучения и поиск изображений по тексту или текста по изображению. Модель подходит для извлечения визуальных признаков и встраивания в мультимодальные языковые модели, а также для задач локализации и получения плотных визуальных представлений. В README не приведены сведения о числе параметров, контекстном окне или языковом охвате. Репозиторий распространяется по лицензии Apache-2.0.
SigLIP SoViT-400m — мультимодальная модель Google для сопоставления изображений и текста, предварительно обученная на наборе WebLI. Она использует архитектуру SoViT-400m и функцию потерь Sigmoid Loss, которая обучает модель на парах изображение–текст без нормализации по общей матрице сходства. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Модель подходит для классификации изображений по текстовым описаниям без дополнительного обучения и для поиска изображений по текстовому запросу или текста по изображению. При обработке используются изображения RGB, а текст токенизируется с ограничением 64 токена. В README приведено несоответствие разрешения: описание говорит о предобучении при 224×224, а раздел предобработки — о приведении изображений к 384×384; это следует учитывать при настройке входов. Поддерживаемые языки текстовой части отдельно не перечислены. Лицензия — Apache-2.0.
UForm uform3-image-text-english-large — компактная мультимодальная модель unum-cloud для сопоставления изображений и английского текста в общем векторном пространстве. Она предназначена для извлечения признаков, поиска изображений по текстовому запросу и классификации изображений без дополнительного обучения. Модель включает 12-слойный текстовый энкодер BERT с контекстом до 64 токенов и визуальный энкодер ViT-L/14 для изображений 224 × 224 пикселя; шесть слоёв энкодеров общие. Она формирует эмбеддинги размерностью 64, 256, 512 или 768. Доступны форматы PyTorch, ONNX и CoreML, а лицензия — Apache-2.0. В README приведены результаты zero-shot классификации ImageNet: 51,8% Top-1 и 75,6% Top-5, а также поиска по тексту на Flickr и MS-COCO. Модель рассчитана на английский язык и короткие текстовые запросы; многоязычные сценарии и входной текст длиннее 64 токенов не описаны.
Wrench-9B-Q4_K_M-GGUF — модель ClankLabs, созданная на базе плотной Qwen3.5-9B методом LoRA дообучения. Она предназначена для агентских сценариев, включая вызов инструментов и функций, выполнение многошаговых задач, восстановление после ошибок, соблюдение системных инструкций, планирование и безопасное взаимодействие с инструментами. Модель ориентирована на запуск локально через Ollama, llama.cpp или Clank Gateway и может работать примерно на 8 ГБ видеопамяти. Модель поставляется в формате GGUF с квантизацией Q4_K_M и занимает около 5 ГБ. Использованы LoRA rank 32 и alpha 64; контекстное окно составляет 8192 токена. Заявленный язык — английский. Внутреннее обучение проводилось на 1356 примерах из 15 категорий, а опубликованный Clank Agentic Benchmark показывает результат 114 из 120 баллов, включая 15 из 15 за базовое использование инструментов, многошаговые задачи, следование системным инструкциям, планирование, корректность формата вызовов и соблюдение ограничений; за восстановление после ошибок и качество ответов получено по 14 из 15. Ограничениями являются поддержка только заявленного контекста, особенности качества, связанные с квантизацией, и специализация прежде всего на англоязычных агентских задачах. Модель распространяется по лицензии Apache 2.0.
Applied NER Stage 4 — Improved BERT Tiny — это компактная англоязычная модель распознавания именованных сущностей, разработанная THemidli. Она дообучена на базе google/bert_uncased_L-2_H-128_A-2 и классифицирует токены по восьми классам: PERSON, ORGANIZATION, LOCATION, TIMEDATE, PRODUCT, WORKOFART, JOB и AMOUNT, используя BIO-разметку. Модель предназначена для извлечения людей, организаций, мест, дат и времени, товаров, произведений, должностей и денежных сумм из английского текста. Архитектура — двухслойный BERT с 4,4 млн параметров; максимальный контекст по метаданным составляет 512 токенов. В README приведены тестовый F1 0,471 и F1 0,585 на 40 вручную размеченных примерах; автор характеризует её как компактный базовый вариант, а не промышленную систему. Модель распространяется по лицензии Apache-2.0.
marcosgg/bert-large-pt-ner-enamex — модель распознавания именованных сущностей на португальском языке, разработанная на основе BERTimbau Large и дообученная на объединении доступных корпусов. Она присваивает метки токенам текста по стандартной схеме enamex: LOC для географических объектов, PER для людей, ORG для организаций и MISC для прочих сущностей. Модель предназначена для извлечения и разметки сущностей в португальских текстах. Архитектура — BERT для классификации токенов; размер — 433,2 млн параметров, максимальный контекст — 512 токенов. На тестовом наборе авторы сообщают precision 0,919, recall 0,925 и F1 0,922. Лицензия AGPL-3.0.
zeromodels/clip_vit_g_14 — конверсия CLIP от zeromodels в формате Keras 3 на основе laion/CLIP-ViT-g-14-laion2B-s12B-b42K. Это двухэнкодерная модель зрения и текста: она кодирует изображения и текстовые запросы в общее пространство эмбеддингов и предназначена для классификации изображений по текстовым описаниям без специального обучения на целевых классах. Также модель подходит для поиска изображений по тексту или текстов по изображению и получения эмбеддингов. Для работы подаются изображения и текстовые промпты; размер изображения и токенизатор согласуются через соответствующий процессор. Реализация на Keras 3 запускается с TensorFlow, Torch или JAX. Модель основана на CLIP ViT-g/14 LAION, обученной на парах изображений и подписей с контрастивной функцией потерь. Репозиторий распространяется по лицензии MIT. Карточка не приводит конкретные языки обучения или ограничения точности; качество классификации зависит от формулировок текстовых промптов.
nghuyong/ernie-3.0-nano-zh — китайская языковая модель ERNIE 3.0, опубликованная как преобразованная в PyTorch версия официальной модели PaddlePaddle. В карточке указана архитектура ErnieModel и размер 18,7 млн параметров; модель принимает текст и выдаёт векторные представления токенов или текста для последующего использования в NLP-системах. Модель предназначена для извлечения признаков из китайского текста и может служить компонентом поисковых, классификационных и семантических конвейеров. Максимальная длина контекста — 2048 токенов. Карточка описывает проверку точности преобразования весов, но не приводит конкретные результаты бенчмарков. Лицензия в предоставленных данных не указана.
JFernandoGRE/gtelarge-colombian-corporationnames — модель Sentence Transformers, дообученная на базе thenlper/gte-large для сравнения названий колумбийских компаний. Она преобразует предложения и абзацы в нормализованные плотные эмбеддинги размерностью 1024; сходство между ними можно оценивать косинусной близостью. Архитектура включает BERT-трансформер, усреднение токенов и нормализацию, максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и сопоставления названий организаций, включая выявление вариантов написания и похожих названий. Также её эмбеддинги можно применять для кластеризации, поиска парафразов и классификации текста. Обучение включало 14 872 пары примеров с OnlineContrastiveLoss; в README приведены примеры с названиями колумбийских компаний. Лицензия в предоставленных данных не указана.
Hiro-Layout — модель PatSnap для анализа структуры страниц патентных и технических PDF. Она обнаруживает и классифицирует области документа: текст, заголовки, таблицы, формулы, химические структуры, иллюстрации, подписи, библиографии и другие элементы, включая патентные разделы. Модель основана на RT-DETR; опубликованный артефакт — экспорт в ONNX. Таксономия включает 25 категорий. Карточка приводит результаты оценки на патентных PDF и NPD PDF, при этом качество зависит от категории и типа документа. Модель предназначена для поиска областей страницы и разметки макета как этапа обработки технических документов; Hiro-Smart-Doc использует её в процессе анализа макета и OCR. Модель принимает изображения страниц и выдаёт обнаруженные области с метками. В карточке заявлена поддержка китайского и английского языков. Условия лицензирования указаны как Apache-2.0. Модель может ошибаться на сканах низкого разрешения, повёрнутых страницах, рукописных документах, необычных форматах и ранее не встречавшихся шаблонах; для юридических и других важных процессов требуется проверка человеком.
AISE-TUDelft/java-deprecation-classifier — модель на основе MPNet, опубликованная AISE-TUDelft и распространяемая в формате PyTorch через Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства и кластеризации текстов. В карточке указано обучение с функцией потерь CosineSimilarityLoss; модель содержит 136,7 млн параметров и поддерживает контекст до 514 токенов. Название указывает на классификацию устаревших Java API, однако README описывает модель как средство построения эмбеддингов, а метаданные относят её к sentence-similarity и feature-extraction. Поэтому её можно применять для поиска и группировки текстов о Java-депрекациях, но карточка не подтверждает выдачу меток классов или специальную точность такой классификации. Лицензия в предоставленных данных отсутствует.
Impira LayoutLM Invoices — дообученная мультимодальная модель семейства LayoutLM от команды Impira для ответов на вопросы по счетам-фактурам и другим документам. Модель содержит 151,8 млн параметров, использует архитектуру LayoutLMForQuestionAnswering и доступна в форматах PyTorch и Safetensors. Модель предназначена для извлечения ответов из документов с учётом их визуальной структуры и расположения текста. Её дообучали на закрытом наборе счетов-фактур, а также на SQuAD 2.0 и DocVQA для более общего понимания документов. Дополнительная классификационная голова позволяет предсказывать ответы из несмежных фрагментов текста, например корректно собирать адрес, разделённый другими элементами документа. Для использования разработчики рекомендуют DocQuery. Карточка указывает поддержку английского языка; метаданные задают контекст в 514 токенов. Модель распространяется по лицензии CC BY-NC-SA 4.0, которая предусматривает указание авторства, распространение производных работ на тех же условиях и ограничивает коммерческое использование.
LettuceDetect Spanish v1 — модель KRLabsOrg для выявления галлюцинаций в ответах RAG. Это дообученная EuroBERT-610M с архитектурой EuroBertForTokenClassification и 607,8 млн параметров; она принимает контекст и ответ на испанском языке и размечает неподтверждённые контекстом токены, чтобы затем объединить их в фрагменты. Модель рассчитана на документы и контексты длиной до 8192 токенов. Модель обучена на испанской версии датасета RagTruth, переведённой с оригинального RAGTruth. В описанной оценке на RAGTruth-ES она достигла F1 73,25% при точности 76,32%. Эти показатели относятся к переведённому тестовому набору и не гарантируют такой же результат на других данных. Для работы используется библиотека Transformers; README предупреждает о несовместимости загружаемого удалённого кода с Transformers 5.x. Лицензия — MIT.
Leum-VL-8B-preview0320 — мультимодальная модель с открытыми весами, разработанная командой Leum и дообученная на базе Qwen/Qwen3-VL-8B-Instruct. Это плотная модель семейства Qwen3-VL с 8 млрд параметров, предназначенная для структурного анализа коротких интернет-видео с привязкой выводов к временной шкале. Она описывает содержание по шести измерениям: объекты и участники, визуальный стиль, язык камеры, монтаж, повествование и наблюдаемые признаки распространения контента. Модель принимает видео и формирует текстовые структурированные выводы, пригодные для поиска, индексации и анализа. Она рассчитана на разбор хуков и сюжетного развития, переходов между кадрами, темпа монтажа, экранного текста, а также согласованности ролика с обложкой, заголовком и хештегами; связанные комментарии могут учитываться, если предоставлены. В карточке приведены языки zh и en. Для оценки использовались настройки до 768 кадров и до 50 тыс. токенов на видео, но это параметры бенчмарка, а не заявленный предел контекста. Модель обучалась с полным обновлением параметров визуального энкодера, проектора и языковой модели, включая continual pretraining, supervised fine-tuning и RLHF. Лицензия — MIT. Веса помечены как открытые; в карточке пока нет проверенных примеров API и окончательной схемы вывода.
LIMI-Air — агентная языковая модель, разработанная GAIR и дообученная на базе zai-org/GLM-4.5-Air. Она предназначена для диалоговых сценариев, рассуждений и работы с инструментами в агентных приложениях; сообщения подаются в формате OpenAI chat, инструменты можно передавать отдельно. По README, базовая модель содержит около 107 млрд параметров, тогда как метаданные репозитория указывают 8,5 млрд параметров и архитектуру семейства GLM-4 MoE; заявленный контекст составляет 131 072 токена. Карточка описывает обучение на компактных курированных агентных данных GAIR/LIMI и приводит оценку на AgencyBench. Модель рассчитана на более быстрый и менее затратный запуск по сравнению с крупными вариантами LIMI, с возможным снижением качества на сложных задачах. Проверка проводилась на курированных агентных задачах, поэтому результаты могут не переноситься на другие сценарии. Для запуска в README приведены Transformers, vLLM и SGLang. Лицензия репозитория — Apache-2.0.
Lumian2-VLR-7B-Thinking — экспериментальная мультимодальная модель для визуального рассуждения, разработанная prithivMLmods на базе Qwen2.5-VL-7B-Instruct. Это плотная модель семейства Qwen2.5-VL с 7,1 млрд параметров, обученная методом SFT на визуально обоснованных цепочках рассуждений и дополнительно оптимизированная с помощью GRPO. Она принимает изображения и текст, поддерживает контекст до 128 000 токенов и рассчитана прежде всего на английский язык. Модель формирует текстовые ответы с пошаговыми рассуждениями, привязанными к областям изображения и структуре документов. Её сценарии включают описание изображений, вопросы и суммаризацию по видеокадрам, извлечение сведений из документов, анализ таблиц и диаграмм, а также визуальное обоснование решений. В карточке также заявлены многоязычное рассуждение и применение в робототехнике и мобильной автоматизации. Модель может ошибаться при низком разрешении или перекрытии объектов, иногда теряет точность визуальной привязки, а обработка длинных видео и больших пакетов документов требует много памяти; для устройств с ограниченными ресурсами она не оптимальна. Распространяется по лицензии Apache-2.0.
vllm-sr разработала ModernBERT-base-32K — дообученную версию ModernBERT-base для обработки длинного контекста и заполнения пропусков в тексте. Это encoder-only модель архитектуры ModernBERT с 149 млн параметров. В карточке указано расширение контекста до 32 768 токенов с помощью масштабирования YaRN и специального обучения для сохранения зависимостей между удалёнными фрагментами; метаданные при этом указывают native context в 8 192 токена. Основная задача модели — предсказывать замаскированные токены. Её также можно использовать для извлечения признаков и построения downstream-решений, например классификации длинных текстов и семантического поиска по документам. Модель обучалась на длинных веб-текстах из Slimpajama; основным языком карточка указывает английский. Лицензия — Apache-2.0. Среди ограничений карточка отмечает снижение точности поиска удалённых фрагментов на больших расстояниях, ограниченную пользу контекста свыше 16K токенов и потребность примерно в 16 ГБ или более GPU-памяти для обработки 32K токенов; качество на узкоспециализированных текстах может быть ниже.
Модель akdeniz27/modernbert-tr-base-ner — турецкая модель распознавания именованных сущностей, дообученная автором на базе ytu-ce-cosmos/modernbert-tr-base на проверенной версии турецкого датасета NER. Она использует архитектуру ModernBERT и предназначена для разметки токенов в тексте: модель выделяет персон, организации и географические объекты с тегами начала и продолжения сущности. Модель содержит 148,7 млн параметров и поддерживает контекст до 8192 токенов. Модель подходит для извлечения сведений о людях, организациях и местах из турецких текстов, например из новостей и документов. В README приведены параметры дообучения: три эпохи, learning rate 2e-5 и weight decay 0,01. Для группировки токенов в цельные сущности README рекомендует использовать параметр aggregation_strategy. Модель распространяется по лицензии MIT.
MoEViE-H14-448 — визуальный энкодер Meta из семейства MoE-ViE, обученный по контрастивной методике на парах изображение–текст. Модель построена на архитектуре Mixture-of-Experts: каждый MoE-блок содержит общего эксперта и маршрутизируемый пул экспертов, из которого для каждого токена активируется часть. Версия H/14 имеет ширину 1280, 32 слоя, разрешение 448 пикселей и 3,5 млрд параметров, из которых активируется около 1,1 млрд. Модель предназначена для классификации изображений без дообучения на заданных текстовых метках, а также для извлечения визуальных и текстовых признаков и задач поиска по изображениям и видео. В README приведены результаты zero-shot оценки на ImageNet-1k, ObjectNet, COCO, Kinetics-400 и MSR-VTT. Для работы требуются CUDA GPU и Triton; лицензия CC BY-NC 4.0 разрешает использование на некоммерческих условиях.