II.10Разработка и эксплуатация AI/ML-систем

Vela Feedback — модель классификации текста от команды llm-semantic-router, созданная на основе Vela-1.0-Encoder-307M. Она определяет, выражает ли сообщение удовлетворение, просьбу уточнить ответ, сообщение об ошибке, запрос на другой вариант или не содержит обратной связи. Модель рассчитана на разбор пользовательских отзывов и реплик в диалогах, в том числе длинных: контекст составляет до 32 768 токенов с учётом специальных токенов. Архитектура — ModernBERT для классификации последовательностей, размер — около 307 млн параметров. В описанной разработчиками оценке на наборе из 472 примеров Vela получила макро-F1 98,81 и точность 97,88 для четырёх общих классов; на 288 нейтральных примерах она дала 6 ложных срабатываний при пороге уверенности 0,7. Это результаты конкретной dev-выборки, причём отбор модели учитывал её показатели на ней, поэтому они не гарантируют аналогичного качества на других данных. Модель распространяется под лицензией Apache-2.0; доступны веса safetensors и формат ONNX.

vit_base_patch16_clip_224.openai_ft_in1k — модель классификации изображений на базе Vision Transformer (ViT), опубликованная в библиотеке timm. Она предварительно обучена OpenAI на парах изображение–текст WIT-400M с использованием CLIP, а затем дообучена в timm на ImageNet-1k. Модель содержит 86,6 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель подходит для классификации изображений по классам ImageNet-1k, а также как визуальный backbone и для получения эмбеддингов изображений. Обучение на парах изображение–текст даёт ей визуальные представления, пригодные для переноса на связанные задачи. Это модель для обработки изображений: текстовые промпты не указаны как входной режим данного чекпойнта. Репозиторий содержит веса PyTorch в формате safetensors; модель доступна по лицензии Apache-2.0. Карточка не описывает ограничения точности за пределами ImageNet-1k и не приводит оценки на других наборах данных.

timm/vit_base_patch16_dinov3_qkvb.lvd1689m — визуальный энкодер на архитектуре Vision Transformer (ViT) с патчами 16×16, реализованный в библиотеке timm. Модель DINOv3 обучена на наборе LVD-1689M методом дистилляции от DINOv3 ViT-7B. Веса содержат 85,7 млн параметров; указанная в карточке рабочая ширина изображения — 256×256 пикселей. Модель извлекает признаки, карты признаков и эмбеддинги изображений. Эти представления можно использовать как основу для классификации, сегментации, поиска похожих изображений и других задач компьютерного зрения. Вариант qkvb сохраняет нулевые смещения QKV-проекций для совместимости с поведением исходной модели и Transformers; в timm предусмотрено небольшое численное отличие в представлении периодов RoPE. Лицензия обозначена как DINOv3 с типом метаданных other.

Это модель классификации изображений на основе Vision Transformer (ViT), опубликованная в семействе timm. Вариант архитектуры использует позиционные вращательные эмбеддинги RoPE, регистровые токены и глобальное усреднение признаков. Модель содержит 86,4 млн параметров и рассчитана на изображения размером 256 × 256 пикселей; она обучена на ImageNet-1k. Модель предназначена для классификации изображений, извлечения признаковых карт и получения эмбеддингов изображений. Её можно использовать как основу для визуального поиска или как backbone в компьютерном зрении. Репозиторий содержит веса PyTorch в формате safetensors. Лицензия — MIT.

Это модель Vision Transformer (ViT) для классификации изображений и извлечения визуальных признаков. Её обучили авторы исследований на ImageNet-1k с дополнительной аугментацией и регуляризацией в JAX; Ross Wightman перенёс веса в PyTorch. Модель доступна в форматах PyTorch и Safetensors, лицензия — Apache 2.0. Модель содержит 88,3 млн параметров и рассчитана на изображения размером 384 × 384 пикселя. Её можно использовать для классификации изображений по категориям ImageNet-1k и получения эмбеддингов для последующих задач компьютерного зрения. В README не приведены сведения о поддержке естественных языков; модель работает с изображениями и выдаёт классовые предсказания либо визуальные признаки.

vit_base_patch8_224.augreg_in21k — модель Vision Transformer для классификации изображений и получения визуальных признаков. Её обучили авторы исследования How to train your ViT? на ImageNet-21k с аугментацией и регуляризацией; Ross Wightman перенёс веса в PyTorch для библиотеки timm. В модели около 102,6 млн параметров, она рассчитана на изображения размером 224 × 224 пикселя. Модель подходит для классификации изображений по категориям и как визуальная основа для задач компьютерного зрения. Она принимает изображения и выдаёт предсказания классов либо векторные представления изображений. В README указано обучение на ImageNet-21k; других языковых или модальных возможностей карточка не описывает. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — Apache-2.0. Качество и применимость к изображениям вне распределения ImageNet-21k зависят от данных и сценария использования.

timm/ViT-L-16-SigLIP2-384 — модель зрения и языка семейства SigLIP 2, обученная на наборе WebLI и преобразованная из исходных контрольных точек JAX Big Vision для использования в OpenCLIP. Она сопоставляет изображения и текст и предназначена для классификации изображений по текстовым описаниям без дообучения: пользователь задаёт варианты классов текстом, а модель оценивает соответствие изображения каждому варианту. Модель можно применять для категоризации изображений, поиска изображений по текстовому запросу и построения прототипов визуальной классификации. Репозиторий содержит веса PyTorch в формате safetensors; заявлена лицензия Apache-2.0. Карточка не приводит сведения о размере модели, длине контекста и конкретном перечне поддерживаемых языков, поэтому эти характеристики не уточняются. Указано обучение на WebLI и мультиязычное направление семейства SigLIP 2, но это не определяет точный список языков, доступных в этой версии.

Модель timm/vit_large_patch14_clip_336.laion2b_ft_in1k — Vision Transformer для классификации изображений и извлечения признаков. Она создана на основе OpenCLIP: предварительно обучена на парах изображение–текст из LAION-2B, затем дообучена в timm на ImageNet-1k. Модель содержит около 304,5 млн параметров и рассчитана на изображения размером 336 × 336 пикселей. Модель подходит для классификации изображений по категориям ImageNet-1k и получения векторных представлений изображений. Её можно использовать как визуальный backbone в задачах компьютерного зрения. Карточка указывает на работу с изображениями; текстовый ввод и контекстная длина для этой версии не описаны. Репозиторий распространяется по лицензии Apache-2.0.

Это большая модель Vision Transformer (ViT) для классификации изображений и извлечения признаков. Её обучили авторы исследований на ImageNet-21k, затем дообучили на ImageNet-1k с дополнительной аугментацией и регуляризацией; Ross Wightman перенёс веса из JAX в PyTorch. Модель распространяется через timm и доступна в форматах PyTorch и safetensors под лицензией Apache 2.0. Модель содержит около 304,3 млн параметров, использует патчи размером 16×16 и рассчитана на изображения 224×224 пикселя. Она подходит для распознавания объектов из набора ImageNet-1k и получения визуальных эмбеддингов как основы для других задач компьютерного зрения. Высокая вычислительная нагрузка может ограничивать её применение на устройствах с малым объёмом памяти или без ускорителя.

timm/vit_pe_lang_gigantic_patch14_448.fb — вариант только с визуальным энкодером семейства Perception Encoder (PE), опубликованный Meta и преобразованный для библиотеки timm. Модель принимает изображения и выдаёт визуальные признаки; это чекпойнт PE-Lang-G14-448 с патчами 14×14 и разрешением 448 пикселей. PE Lang обучалась на визуально-языковом выравнивании и предназначена для использования в мультимодальных системах с языковым декодером, например Llama или Qwen. Энкодер особенно подходит для извлечения признаков, которые можно использовать в ответах на вопросы по изображениям и документам, OCR-сценариях, классификации и поиске по изображениям. В опубликованных Meta оценках PE-Lang-G14-448 показала сильные результаты на DocVQA, InfoQA и TextVQA при работе с замороженным энкодером и декодером Llama 3.1 8B. Этот репозиторий содержит только энкодер, а не готовую систему для диалога или генерации ответов; упомянутые результаты зависят от декодера и настройки системы. Лицензия — Apache 2.0.

Это модель Vision Transformer (ViT) для классификации изображений и использования в качестве визуального backbone. Её обучили авторы научной работы на ImageNet-21k с дополнительной аугментацией и регуляризацией; Ross Wightman перенёс веса из JAX в PyTorch. Модель содержит около 30,9 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель подходит для распознавания объектов и категорий на изображениях, а также для извлечения визуальных признаков и эмбеддингов в компьютерном зрении. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — Apache-2.0.

Это визуальный энкодер семейства DINOv3 на архитектуре ViT-S+/16, опубликованный в библиотеке timm. Модель содержит 28,7 млн параметров и преобразует изображения в признаки и эмбеддинги; размер изображения в карточке — 256 × 256 пикселей. Она дистиллирована из DINOv3 ViT-7B на наборе LVD-1689M. Энкодер предназначен для извлечения признаков, которые можно использовать в классификации изображений, сегментации и других задачах компьютерного зрения. Карточка приводит результаты на задачах классификации и плотного предсказания, но это модель извлечения признаков, а не готовая система для этих задач. Доступны веса в форматах PyTorch и Safetensors. В README указана лицензия DINOv3; метаданные Hugging Face обозначают лицензию как other.

VOLO-D3 — модель классификации изображений семейства Vision Outlooker, опубликованная в репозитории timm. Она обучена авторами статьи на ImageNet-1k с разметкой токенов и предназначена для распознавания объектов на изображениях, а также для извлечения визуальных признаков. Модель содержит 86,3 млн параметров, обрабатывает изображения размером 224 × 224 и требует библиотеку timm; веса доступны в форматах PyTorch и safetensors. Модель подходит для классификации изображений общего назначения и получения эмбеддингов изображений в качестве признаков для последующих задач компьютерного зрения. Карточка не приводит сведений о лицензии, поэтому условия использования по ней определить нельзя.

VTXAI/vtx-embed-7M — компактная модель эмбеддингов, разработанная Vortexa и используемая в поисковой системе по исходному коду vortexa. Она преобразует текстовые фрагменты в плотные векторы для семантического поиска и извлечения данных; заявленные сценарии включают индексирование кода и поиск по нему для разработчиков и ИИ-агентов. Модель содержит 7,56 млн параметров, использует архитектуру VortexEmbedV3 и формат хранения LF4 с 4-битной квантизацией. В README заявлены размер 4,72 МБ в памяти, субмиллисекундная задержка на CPU и поддержка Matryoshka-размерностей эмбеддингов. Опубликованные в карточке результаты показывают меньшие значения на приведённых тестах STSBenchmark, SICK-R и Banking77Classification, чем у сравниваемых MiniLM-L6-v2 и bge-small-en-v1.5, поэтому качество может уступать более крупным моделям. В метаданных указан английский язык и лицензия MIT; заявленная специализация README — поиск по коду.

watt-tool-8B — языковая модель watt-ai на 7,5 млрд параметров, дообученная на базе meta-llama/Llama-3.1-8B-Instruct. Она предназначена для диалоговых систем и агентов, которым нужно выбирать инструменты и вызывать функции в ходе многошагового взаимодействия, например для построения рабочих процессов. Модель обучалась с использованием supervised fine-tuning и DMPO на специализированных данных для работы с инструментами и многоходовых диалогов; README сообщает о сильных результатах на Berkeley Function-Calling Leaderboard. Модель принимает текст и генерирует текст с интерфейсом диалога; заявленный контекст — до 131 072 токенов. В карточке указана поддержка английского языка. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0. Модель рассчитана на сценарии вызова инструментов и функций, однако фактическая надёжность зависит от доступных инструментов, формата их описаний и интеграции в приложение. Заявление о лидерских результатах на BFCL приведено в README; методика и цифры оценки там не указаны.

Whisper ACFT — это набор моделей автоматического распознавания речи в формате TFLite (LiteRT), разработанный на основе чекпойнтов FUTO Audio-Context Fine-Tuned Whisper. Репозиторий содержит варианты tiny, base и small для многоязычного распознавания, а также tiny.en, base.en и small.en для английского языка. Конвертацию в графы LiteRT выполнил проект LiteRT-LM-Unity; переобучения при конвертации не проводилось. Модели предназначены для локального распознавания речи, включая короткие голосовые команды и аудиофрагменты длительностью до 5, 10 или 30 секунд. В отличие от стандартного Whisper, использующего окно 30 секунд, ACFT-чекпойнты дообучены для работы с укороченными окнами и снижения проблем с повторениями на коротких входах. Каждый вариант разделён на сигнатуры encode и decode, поддерживает 80 mel-каналов и использует фиксированный размер входа: 500, 1000 или 3000 кадров для окон 5, 10 и 30 секунд соответственно. Все файлы используют динамическое квантование: int8-веса при вычислениях с fp32-активациями. Размер моделей составляет примерно 57–58 МБ для tiny, 97–99 МБ для base и 273–276 МБ для small. Многоязычные варианты имеют словарь размера 51865 и поддерживают языковые и task-токены; варианты .en используют словарь 51864 и предназначены только для английского. Сильными сторонами являются поддержка коротких аудиофрагментов, работа в LiteRT/TFLite и наличие нескольких компромиссов между размером и качеством. Ограничения включают фиксированное окно входа для каждого файла, необходимость корректно подготавливать mel-спектрограмму и отсутствие KV-cache: декодер полностью выполняется заново на каждом шаге. Модели распространяются по лицензии Apache-2.0.

xLAM-1b-fc-r — компактная языковая модель Salesforce из семейства Large Action Models, оптимизированная для вызова функций и использования инструментов в агентных системах. Это плотная авторегрессионная модель архитектуры Llama с 1,3 млрд параметров и контекстом 16 384 токена; репозиторий содержит веса Safetensors и рассчитан на работу через Transformers или vLLM. Модель преобразует инструкции на естественном языке в структурированные вызовы доступных API. Она подходит для агентов, которым нужно обращаться к цифровым сервисам, например получать прогноз погоды, управлять публикациями в социальных сетях или работать с финансовыми сервисами. По карточке, модель дообучена для вызова функций на данных Salesforce/xlam-function-calling-60k; в тестировании BFCL авторы сообщают точность 78,94%. Модель ориентирована на английский язык. Компактный размер упрощает развёртывание на персональных устройствах, но качество вызовов зависит от формулировки запроса и описаний доступных функций; карточка не подтверждает выполнение самих API-вызовов без внешней агентной обвязки. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Yi-Coder-1.5B-GGUF — это GGUF-квантизированная версия базовой модели Yi-Coder-1.5B, разработанной компанией 01-ai. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена прежде всего для автодополнения и генерации программного кода, а не для диалогового общения; у неё нет встроенного шаблона prompt. Модель обучалась на 52 основных языках программирования и поддерживает контекст длиной до 128 тысяч токенов. В README не указаны точный размер GGUF-файлов, используемый метод или уровень квантизации, а также дополнительные модальности, поэтому её следует рассматривать как текстовую модель для работы с кодом. Длинный контекст может быть полезен при анализе и дополнении крупных исходных файлов, однако как базовая модель она может требовать корректного форматирования входных данных и не гарантирует точность, безопасность или работоспособность сгенерированного кода. Модель распространяется по лицензии Apache-2.0. LM Studio не является её разработчиком или владельцем и не гарантирует полноту, точность, безопасность или пригодность результатов. Для коммерческого и иного использования необходимо учитывать условия лицензии и самостоятельно проверять сгенерированный код.

YOLO26 — семейство моделей компьютерного зрения, разработанное Ultralytics. Репозиторий содержит модели на PyTorch; карточка описывает варианты для обнаружения объектов, сегментации, классификации изображений, оценки глубины и позы, а также обнаружения ориентированных объектов. Для отслеживания объектов поддерживается режим, совместимый с несколькими типами моделей семейства. Модели предназначены для анализа изображений и видеокадров в прикладных системах компьютерного зрения. В README приведены результаты для вариантов, предварительно обученных на COCO, COCO-Seg, Cityscapes, ImageNet и DOTAv1; размеры моделей и показатели производительности различаются между вариантами. Лицензия репозитория — AGPL-3.0; для коммерческого использования Ultralytics предлагает запросить корпоративную лицензию.

LegionIntel разработала эту модель генерации кода на основе семейства CodeGen: модель дообучена на Python-коде из поднабора открытых репозиториев GitHub в BigQuery. Она содержит 350 млн обучаемых параметров; веса разрежены на 30%, хотя представление класса сети остаётся плотным. Модель предназначена для автодополнения частично написанных сигнатур функций и классов, а также для генерации кода по текстовому запросу или комментарию. Модель принимает текстовые фрагменты кода и подсказки на естественном языке и продолжает текст в виде программного кода. Для запуска указан формат PyTorch, контекст составляет 2048 токенов, лицензия — BSD 3-Clause. Карточка отмечает хорошее автодополнение сигнатур и приемлемую генерацию по текстовым запросам; независимые показатели качества не приведены.

AEWM (Agent-Editing World Model) — дообученная модель RUC-AIBOX на базе Qwen3.5-35B-A3B для оценки и редактирования решений агентных систем. Она работает как отдельная мировая модель рядом с агентом, который предлагает рассуждения и действия: AEWM классифицирует предложенные действия как критически важные, исследовательские или шумовые, а для шумовых формирует исправленное продолжение рассуждения и действий. Модель предназначена для агентных сценариев поиска, работы в терминале и разработки программного обеспечения с использованием инструментов. В обучении использовались около 52 млрд токенов траекторий и 120 тыс. примеров для оценки действий и пересмотра состояний. В бенчмарке Action Judge указаны общий macro-F1 70,5% и отдельные результаты для Search, Terminal и SWE. Для работы модель развёртывают через совместимый с OpenAI API сервер с поддержкой рассуждений Qwen3.5 и нативных вызовов инструментов, интегрируя её с EditAct. Лицензия — Apache-2.0. Метаданные указывают текстовую генерацию как основную задачу; README описывает классификацию и редактирование решений как специализированное назначение модели.

AI-vs-Deepfake-vs-Real — модель классификации изображений, разработанная prithivMLmods. Она различает три класса: искусственно созданные изображения, дипфейки и реальные изображения. Модель построена на архитектуре Vision Transformer (ViT) и содержит 113,2 млн параметров; для использования предусмотрена библиотека Transformers. В карточке указана база google/vit-base-patch32-224-in21k, а метаданные каталога связывают модель с дообучением google/vit-base-patch16-224-in21k. Модель подходит для предварительной оценки изображений при исследовании генеративных моделей, фильтрации наборов данных, форензического анализа, модерации контента и сравнительного тестирования генераторов дипфейков. Она возвращает класс изображения, но не устанавливает подлинность с гарантированной надёжностью и не объясняет основания классификации. Качество может снижаться на незнакомых методах генерации, изображениях с необычным разрешением и данных, отличающихся от обучающих. Лицензия — Apache-2.0.

ALBERT Base v2 — англоязычная предварительно обученная модель семейства ALBERT, разработанная командой ALBERT и опубликованная на Hugging Face. Она обучена на BookCorpus и английской Википедии с помощью masked language modeling и предсказания порядка сегментов текста. Модель предназначена для заполнения пропущенных слов и получения языковых представлений, которые можно использовать как основу для дообучения на задачах классификации, разметки токенов и ответов на вопросы. Архитектура — плотный Transformer с 12 повторно используемыми слоями, 12 головами внимания, размерностью скрытого состояния 768 и контекстом до 512 токенов. Общие веса слоёв уменьшают объём памяти, при этом вычислительная стоимость остаётся сопоставимой с аналогичной BERT-подобной сетью. Модель без учёта регистра и использует токенизацию SentencePiece с словарём из 30 000 токенов. Метаданные указывают 136,3 млн параметров; значение в README отличается. ALBERT Base v2 подходит для восстановления замаскированных слов и как основа для задач понимания текста. Она не предназначена для свободной генерации текста. Предсказания могут отражать смещения обучающих данных. Лицензия — Apache 2.0.

AlchemistCoder-L-7B-GGUF — это набор GGUF-квантизаций языковой модели AlchemistCoder-L-7B, опубликованный bartowski и созданный на основе исходной модели internlm/AlchemistCoder-L-7B с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации кода и запуска локального текстового вывода через совместимые движки, включая llama.cpp. В README не указаны точные сведения о разработчике исходной модели, архитектуре, поддерживаемых языках, длине контекста и мультимодальности. Доступны варианты с разным уровнем квантизации: от Q8_0 размером 7,16 ГБ до Q2_K размером 2,53 ГБ, включая рекомендуемые Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Более качественные варианты требуют больше памяти, а низкобитные занимают меньше места ценой качества; Q3_K_S отмечен как нерекомендуемый, тогда как некоторые I-кванты могут обеспечивать выгодное соотношение размера и производительности в определённых конфигурациях оборудования. Формат приглашений в README не подтверждён и может быть некорректным. Модель распространяется по лицензии Apache-2.0. Ограничения включают отсутствие подробной информации об исходной модели, языках и контексте, а также зависимость доступного качества и скорости от выбранной квантизации и используемого оборудования. Для IQ-квантов важна совместимость с конкретным backend: в README отдельно отмечено ограничение для Vulkan.

Arch-Agent-3B — дообученная языковая модель Katanemo для вызова функций и агентных сценариев. Она основана на Qwen/Qwen2.5-Coder-3B-Instruct и использует плотную архитектуру Qwen2 с 3,1 млрд параметров; для работы с моделью в README рекомендована библиотека Transformers версии 4.51.0 или новее. Модель предназначена для многоходового диалога с инструментами, выбора функций и планирования последовательностей вызовов API. Она может разбивать сложные запросы на подзадачи, учитывать промежуточные результаты и продолжать работу в нескольких ходах. README сообщает об оценке на Berkeley Function-Calling Leaderboard; для многоходовой оценки применялось масштабирование YaRN при контексте 64K. Метаданные указывают нативный контекст 32 768 токенов. Для получения JSON-подобных вызовов функций рекомендуется использовать формат промпта Katanemo. Модель принимает текстовые запросы и генерирует текстовые ответы с вызовами функций. Карточка описывает поддержку английского языка. Лицензия указана как other, поэтому конкретные условия использования следует сверить с файлами репозитория. Описанные возможности зависят от правильного формата промпта и наличия внешних инструментов; в предоставленной карточке нет подробных результатов бенчмарка или описания ограничений надёжности.

AReaL-boba-2-8B-Open — открытая текстовая модель для генерации кода и решения задач программирования, представленная проектом AReaL от RL Lab, Ant Research. Это версия Qwen3-8B, обученная с помощью асинхронного обучения с подкреплением; в карточке указано 7,6 млрд параметров и контекст до 40 960 токенов. Модель поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для генерации программного кода и рассуждений при решении задач программирования. В README приведены результаты на LiveCodeBench v5, Codeforces и CodeContests. Указанный для 8B версии результат LiveCodeBench v5 — 62,0, а CodeContests — 41,4. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Данные карточки не описывают поддерживаемые естественные языки и конкретные ограничения качества; результаты бенчмарков сами по себе не гарантируют точность в пользовательских проектах.

AutoCoder_S_6.7B-IMat-GGUF — GGUF-квантизированная версия модели Bin12345/AutoCoder_S_6.7B, подготовленная пользователем legraphista с помощью llama.cpp b3010. Модель предназначена для генерации текста и, исходя из названия базовой модели, ориентирована прежде всего на задачи, связанные с написанием и обработкой кода, однако подробные сведения о специализации отсутствуют. Модель содержит около 6,7 млрд параметров в исходном формате BF16 и доступна в форматах GGUF с различными уровнями точности: от BF16 и F16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантов. Для ряда вариантов применена IMatrix-квантизация на основе отдельного калибровочного набора. Файлы имеют размер примерно от 2,04 до 13,48 ГБ, поэтому модель можно адаптировать под разные ограничения по памяти и скорости инференса. К сильным сторонам относятся широкий выбор форматов, возможность локального запуска в экосистеме llama.cpp и использование IMatrix для некоторых низкобитных вариантов, что может помочь сохранить качество при уменьшении размера. Ограничения включают неизбежный компромисс между размером, скоростью и качеством при квантизации, а также отсутствие в README данных о поддерживаемых языках, размере контекста, конкретной архитектуре, результатах тестирования и сравнении с другими моделями. Модель распространяется по лицензии Apache-2.0.

BEiT-3 Base — модель классификации изображений и извлечения визуальных признаков, представленная в библиотеке timm. Она основана на архитектуре Vision Transformer и содержит 86,7 млн параметров. Модель принимает изображения размером 224 × 224 пикселя и выдаёт классы ImageNet-1k либо визуальные представления для дальнейшей обработки. Модель предварительно обучалась на изображениях ImageNet-22k, текстовых документах объёмом 160 ГБ и наборах пар изображение–текст LAION-400M, COYO-700M и CC15M с помощью masked data modeling. Затем её дообучили на ImageNet-22k и ImageNet-1k. В этой версии мультимодальная предобученная модель преобразована для задач классификации только по изображениям. Модель подходит для распознавания объектов на изображениях и построения визуальных признаков в системах компьютерного зрения. В карточке не приведены специфические ограничения качества. Репозиторий распространяется по лицензии Apache-2.0.

BEiT Large — модель классификации изображений и визуальный backbone, опубликованный timm. Она использует архитектуру Vision Transformer с патчами 16×16 и входным размером 224×224 пикселя. Модель содержит около 304,4 млн параметров и может применяться как для классификации, так и для извлечения признаковых представлений изображений. Предобучение выполнено на ImageNet-22k методом masked image modeling с визуальным токенизатором DALL-E dVAE, после чего модель дообучили на ImageNet-22k и ImageNet-1k. Основной сценарий — распознавание категорий объектов на изображениях; признаки модели также подходят для последующих задач компьютерного зрения. Репозиторий предоставляет веса в форматах PyTorch и Safetensors для библиотеки timm. Лицензия — Apache-2.0.

BEiT-v2 Large — модель классификации изображений из библиотеки timm, обученная на ImageNet-1k. Сначала она обучалась с помощью самоконтролируемого masked image modeling: визуальный токенизатор VQ-KD использовал учителя OpenAI CLIP B/16; затем модель дообучили для классификации на ImageNet-1k. Модель на основе Vision Transformer с патчами 16×16 рассчитана на изображения размером 224×224. В ней около 304,4 млн параметров; она предсказывает классы изображений и может использоваться как основа для извлечения визуальных признаков и эмбеддингов. Веса доступны в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Модель предназначена для классификации изображений общего назначения, а её обучение и настройка на ImageNet-1k могут ограничивать точность на изображениях и классах, отличающихся от этого набора данных.