II.10Разработка и эксплуатация AI/ML-систем

timm/vit_large_patch14_clip_336.openai_ft_in12k_in1k — модель классификации изображений и визуальный backbone на основе Vision Transformer (ViT), опубликованная проектом timm. Исходно модель предварительно обучена OpenAI с помощью CLIP на парах изображений и текста WIT-400M, затем дообучена в timm на ImageNet-12k и ImageNet-1k. Модель содержит около 304,5 млн параметров и рассчитана на изображения размером 336 × 336 пикселей. Она предназначена для классификации изображений и извлечения визуальных эмбеддингов; может использоваться как backbone в задачах компьютерного зрения. Репозиторий содержит веса PyTorch в формате safetensors. Модель распространяется по лицензии Apache-2.0. Ее специализация — изображения, поэтому языки и текстовые возможности CLIP не следует считать отдельным интерфейсом для генерации или обработки текста.

vit_large_patch14_dinov2.lvd142m — визуальный энкодер Vision Transformer из библиотеки timm, предварительно обученный разработчиками DINOv2 на наборе LVD-142M методом самообучения. Модель содержит около 304,4 млн параметров и рассчитана на обработку изображений размером 518 × 518 пикселей. Модель извлекает признаки и эмбеддинги изображений; эти представления можно использовать для классификации и как визуальный бэкбон в других системах компьютерного зрения. Она не генерирует текст и не предназначена для понимания естественного языка. Для запуска используется библиотека timm; веса доступны в форматах PyTorch и safetensors. Лицензия — Apache-2.0.

Это модель классификации изображений на архитектуре Vision Transformer (ViT) с патчами 16×16. Её обучили авторы исследований на ImageNet-21k с расширенной аугментацией и регуляризацией; Ross Wightman перенёс веса в PyTorch для библиотеки timm. Модель содержит 325,7 млн параметров и рассчитана на изображения размером 224×224 пикселя. Модель предназначена для классификации изображений и может использоваться как основа для извлечения визуальных признаков и эмбеддингов. Она подходит для распознавания объектов и сцен в изображениях и построения систем компьютерного зрения. Весам предоставлена лицензия Apache-2.0.

timm/vit_large_patch16_224.mae — модель извлечения признаков изображений на основе Vision Transformer (ViT), опубликованная в библиотеке timm. Она предварительно обучена на ImageNet-1k методом masked autoencoder (MAE) и содержит 303,3 млн параметров. Модель рассчитана на изображения размером 224 × 224 пикселя и может использоваться как основа для классификации изображений и получения их эмбеддингов. Модель подходит для построения визуальных признаков в задачах компьютерного зрения, например для классификации или поиска похожих изображений. В репозитории указаны веса PyTorch и safetensors. Лицензия CC BY-NC 4.0 разрешает использование с соблюдением её условий и ограничивает коммерческое применение.

Это модель Vision Transformer для классификации изображений и извлечения визуальных признаков, разработанная Россом Уайтманом в библиотеке timm. Вариант ViT использует патчи 16×16 и глобальное усреднение токенов; число параметров — 39 млн, рекомендуемый размер изображения — 384×384. Модель предварительно обучена на ImageNet-12k, а затем дообучена на ImageNet-1k. Её можно применять для классификации изображений по классам и получать эмбеддинги изображений для последующих задач компьютерного зрения. Репозиторий содержит веса PyTorch и safetensors; лицензия — Apache-2.0.

Это модель Vision Transformer (ViT) для классификации изображений и извлечения визуальных признаков. Её обучили авторы работы на ImageNet-21k, затем дообучили на ImageNet-1k с дополнительной аугментацией и регуляризацией; реализацию на PyTorch подготовил Ross Wightman. Репозиторий распространяется через библиотеку timm и содержит веса в форматах PyTorch и safetensors. Модель ViT-Small использует патчи размером 16×16 и рассчитана на изображения 224×224 пикселя. В ней 22,1 млн параметров; вычислительная стоимость составляет 4,3 GMACs. Её можно применять для предсказания классов изображений или как основу для получения эмбеддингов и других задач компьютерного зрения. Лицензия — Apache-2.0. Модель обучена на ImageNet, поэтому её качество может быть ниже на изображениях из других предметных областей или с распределением, отличающимся от обучающих данных.

Это модель Vision Transformer (ViT) для классификации изображений и извлечения визуальных признаков. Её обучили авторы исследования How to train your ViT? на ImageNet-21k, затем дообучили на ImageNet-1k с дополнительной аугментацией и регуляризацией. Исходная версия была создана на JAX, а Ross Wightman перенёс веса в PyTorch; репозиторий распространяет их в форматах PyTorch и Safetensors и поддерживает библиотеку timm. Модель содержит 22,9 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Её можно использовать для классификации объектов и как визуальный backbone для получения признаков или эмбеддингов изображений. Лицензия — Apache-2.0. Описание посвящено классификации изображений общего назначения на основе ImageNet. Оно не указывает на поддержку текстового ввода или генерации изображений.

Модель timm/ViT-SO400M-14-SigLIP2 — контрастивная модель «изображение—текст» семейства SigLIP 2, обученная на наборе WebLI и подготовленная timm для использования в OpenCLIP. Она предназначена для классификации изображений без специального обучения на каждом наборе классов: модель сопоставляет изображение с текстовыми описаниями возможных категорий и оценивает их соответствие. Архитектура — vision-language encoder с визуальной частью ViT; модель использует формат PyTorch и веса safetensors. Модель подходит для поиска изображений по текстовым категориям и построения классификаторов с произвольными метками. SigLIP 2 описана как мультиязычное семейство, однако карточка этой конкретной версии не уточняет поддерживаемые языки. Лицензия — Apache-2.0.

Это модель компьютерного зрения на архитектуре Vision Transformer (ViT), опубликованная Ross Wightman в библиотеке timm на основе весов авторов исследований. Она предварительно обучена на ImageNet-21k и дообучена для классификации изображений на ImageNet-1k с дополнительной аугментацией и регуляризацией. Модель содержит 5,7 млн параметров, рассчитана на изображения размером 224 × 224 и требует около 1,1 GMAC на обработку изображения. Модель подходит для классификации изображений по категориям ImageNet и может использоваться как визуальный backbone для извлечения признаков и эмбеддингов. Это компактная модель для сценариев, где важны скорость и небольшой размер, хотя её возможности и точность могут уступать более крупным ViT. Веса доступны в форматах PyTorch и Safetensors; лицензия — Apache-2.0.

pyannote/voice-activity-detection — открытая модель для обнаружения участков речи в аудиозаписях, разработанная командой pyannote.audio. Она предназначена для voice activity detection и может использоваться как этап предварительной обработки в автоматическом распознавании речи, сегментации аудио и задачах speaker diarization. Модель реализована как pipeline на базе pyannote.audio 2.1 и работает с аудио; сведения о размере, конкретной архитектуре, поддерживаемых языках и максимальной длине контекста в карточке не указаны. Результатом является временная шкала интервалов, в которых присутствует активная речь. В качестве связанных наборов данных указаны AMI, DIHARD и VoxConverse. Для использования требуется принять условия доступа к зависимой модели pyannote/segmentation и настроить токен Hugging Face. Модель распространяется по лицензии MIT. README не содержит количественных метрик качества и подробного описания ограничений, поэтому пригодность для конкретного типа аудио и требуемый уровень точности необходимо проверять отдельно.

ceyda/wav2vec2-base-760-turkish — модель распознавания речи на турецком языке, разработанная на основе ceyda/wav2vec2-base-760 и дообученная на обучающей и валидационной выборках Common Voice. Это архитектура Wav2Vec2 с CTC-декодированием, содержащая 113,3 млн параметров. Модель принимает аудио с частотой дискретизации 16 кГц и преобразует речь в текст; её можно использовать без языковой модели. Модель подходит для транскрибации турецкой речи и оценки систем распознавания на тестовой выборке Common Voice. В README приведены результаты на этой выборке: WER 22,60 и CER 6,05. Модель распространяется по лицензии Apache-2.0.

kingabzpro/wav2vec2-large-xls-r-1b-Swedish — дообученная на шведской части Common Voice модель распознавания речи на базе facebook/wav2vec2-xls-r-1b. Это плотная архитектура Wav2Vec2ForCTC с 1,3 млрд параметров, принимающая аудио и выдающая распознанный текст на шведском языке. Модель предназначена для автоматической транскрипции шведской речи. В оценке на тестовой выборке Common Voice 8.0 показатель WER составил 18,44 без языковой модели и 14,04 с языковой моделью; CER — соответственно 5,75 и 4,86. Для использования языковой модели требуется соответствующая внешняя языковая модель. Модель распространяется под лицензией Apache-2.0. Оценка приведена для Common Voice 8.0; качество на других наборах данных и в реальных акустических условиях может отличаться.

facebook/wav2vec2-large-xlsr-53-italian — модель распознавания итальянской речи, опубликованная Facebook. Она основана на архитектуре Wav2Vec2 с выходной головой CTC и примерно 402,7 млн параметров. Модель предназначена для преобразования аудиозаписей на итальянском языке в текст; в карточке приведена оценка на тестовой части Common Voice для итальянского языка — 22,1%. Репозиторий содержит веса PyTorch и Flax. Модель подходит для расшифровки записей и оценки систем распознавания итальянской речи. Лицензия — Apache-2.0. Результат оценки приведён без пояснения метрики, поэтому по карточке нельзя определить, означает ли 22,1% ошибку или другую величину качества.

anton-l/wav2vec2-large-xlsr-53-russian — модель распознавания русской речи, созданная дообучением facebook/wav2vec2-large-xlsr-53 на обучающей и валидационной частях Common Voice. Она принимает аудио и преобразует речь в текст; для входного сигнала требуется частота дискретизации 16 кГц. Архитектура — Wav2Vec2ForCTC семейства wav2vec2, размер — 402,7 млн параметров. Доступны веса в форматах PyTorch и Flax. Модель подходит для транскрибации русской речи и оценки систем распознавания на тестовых данных Common Voice. В README приведён результат тестирования 17,39 %, но метрика не названа. Модель распространяется по лицензии Apache-2.0.

Baybars/wav2vec2-xls-r-300m-cv8-turkish — модель распознавания речи, созданная дообучением facebook/wav2vec2-xls-r-300m на турецкой части датасета Common Voice. Это архитектура Wav2Vec2 с CTC-декодированием; метаданные указывают 402,7 млн параметров и формат PyTorch. Модель принимает аудио и преобразует речь в текст на турецком языке. Модель предназначена для автоматической транскрипции турецкой речи, в том числе записей в сценариях, похожих на Common Voice. В README приведены результаты на тестовом наборе: WER 0,3098 и CER 0,0764. Для языкового декодирования также описана n-граммная модель KenLM, обученная на статьях турецкой Википедии; она упоминается отдельно от основного чекпойнта. Модель распространяется по лицензии Apache-2.0. Оценка качества приведена для конкретного набора данных и не гарантирует таких же результатов на других акцентах, условиях записи или типах аудио; README не содержит подробностей о таких ограничениях.

WizardCoder-15B-V1.0 — языковая модель для генерации кода, разработанная командой WizardLM. Модель основана на StarCoder, дообученном на 78 тысячах инструкций по программированию, расширенных методом Evol-Instruct для задач кодирования. Модель предназначена для генерации решений задач программирования и ответов на инструкции, связанные с кодом. В карточке приведён результат 57,3 pass@1 на HumanEval; также описана оценка на MBPP. Архитектура — GPTBigCodeForCausalLM, формат весов — PyTorch, контекст — 8192 токена. Метаданные указывают поддержку кода, но не перечисляют естественные языки. Модель может помогать с написанием кода по текстовому запросу, однако качество следует проверять: результаты карточки относятся к конкретным тестам и режимам генерации. Лицензия — BigScience OpenRAIL-M.

XAgentLlama-7B-preview — экспериментальная генеративная модель текста, разработанная XAgentTeam на основе Code Llama 7B и дообученная для работы с XAgent. Авторы сообщают, что использовали около 300 тысяч примеров и 48 ускорителей A100; модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 16 384 токенов. Модель предназначена для генерации и дополнения кода, выполнения инструкций и вызова функций в формате XAgentGen. Для наилучшей работы её следует использовать с XAgentGen и специальным форматом вызова функций. Она принимает и выдаёт текст; заявленная языковая область — английский и языки программирования. Это предварительная версия, и авторы предупреждают, что её качество не является финальным. Как и другие языковые модели, она может генерировать неточные или нежелательные ответы, поэтому перед применением в продукте требуется проверка под конкретный сценарий. Условия использования регулируются лицензией Meta для Llama 2.

XCiT Medium 24 P16 224 fb_in1k — модель классификации изображений и извлечения признаков семейства Cross-Covariance Image Transformer. Она предварительно обучена авторами статьи на ImageNet-1k; репозиторий распространяет веса в форматах PyTorch и Safetensors и предназначен для использования через библиотеку timm. Модель содержит 84,4 млн параметров, обрабатывает изображения размером 224 × 224 и может применяться как для классификации, так и для получения векторных представлений изображений. Она подходит для распознавания объектов из классов ImageNet-1k и как визуальная основа в прикладных системах компьютерного зрения. Метаданные указывают лицензию Apache-2.0.

XLM-RoBERTa-XL (xxlarge) — крупная многоязычная модель семейства RoBERTa, разработанная командой Facebook/Meta и впервые опубликованная в репозитории Facebook. Модель с 13,9 млрд параметров предварительно обучена на 2,5 ТБ отфильтрованных данных CommonCrawl на 100 языках; её архитектура — XLM-RoBERTa-XL с двунаправленным кодировщиком и контекстом до 514 токенов. Репозиторий содержит веса PyTorch, лицензия — MIT. Основная задача модели — предсказание замаскированных токенов в тексте. Полученные представления также подходят как основа для дообучения классификаторов последовательностей и токенов, а также систем ответов на вопросы. Модель рассчитана на работу с многоязычным текстом и извлечение контекстных признаков; для генерации связного текста авторы рекомендуют использовать авторегрессионные модели. Для практических задач классификации и разметки потребуется дообучение на целевых данных.

BenevolenceMessiah/Yi-Coder-9B-Chat-Instruct-TIES-MoE-v1.0 — экспериментальная MoE-модель генерации текста, созданная сообществом BenevolenceMessiah с помощью mergekit. В README описано объединение моделей Yi-Coder-9B, Yi-Coder-9B-Chat и производных от них; карточка и метаданные указывают архитектуру MixtralForCausalLM, 8,6 млрд параметров и контекст до 131 072 токенов. Модель предназначена прежде всего для генерации кода на разных языках программирования и диалоговой помощи при разработке: например, для создания фрагментов кода и решений по подробным техническим запросам. Метаданные указывают задачу text-generation, библиотеку Transformers и формат Safetensors. Естественные языки, специально поддерживаемые моделью, не перечислены. Автор README характеризует проект как экспериментальный и предполагаемые преимущества объединения — сочетание навыков генерации кода и диалога — как гипотетические. Поэтому качество, безопасность и готовность сгенерированного кода к эксплуатации следует проверять. Лицензия — Apache-2.0.

zen4-coder-i1-GGUF — это набор GGUF-квантизированных версий модели zenlm/zen4-coder, подготовленный пользователем mradermacher. Модель предназначена прежде всего для генерации и обработки программного кода, а также для сценариев локального запуска через совместимые инструменты, поддерживающие формат GGUF. В метаданных указана поддержка английского языка и библиотека Transformers. Доступны варианты с различными типами и уровнями квантизации — от IQ1 и IQ2 до Q6_K — размером примерно от 16,3 до 65,6 ГБ. README не содержит сведений об архитектуре, общем числе параметров, длине контекста, точных возможностях программирования, результатах тестирования или поддерживаемых модальностях, поэтому эти характеристики нельзя определить достоверно. Варианты различаются компромиссом между размером, скоростью и качеством: наиболее компактные квантизации могут заметно терять в качестве, тогда как Q4_K_M отмечен как быстрый и рекомендуемый, а IQ-варианты часто предпочтительнее сопоставимых по размеру стандартных квантизаций. Модель подходит для локального инференса при наличии достаточного объёма оперативной или видеопамяти, причём требования зависят от выбранного файла. Ограничениями являются возможное ухудшение качества на низких уровнях квантизации и отсутствие подробных данных о базовой модели. В метаданных указана лицензия Apache-2.0; квантизации подготовлены mradermacher.

aiXcoder-7B Base — базовая большая языковая модель для кода, разработанная командой aiXcoder. Модель с архитектурой Llama содержит 7,2 млрд параметров и обучена на 1,2 трлн уникальных токенов. Она предназначена для автодополнения, понимания и генерации кода на нескольких языках программирования; контекстное окно составляет 32 768 токенов. Модель ориентирована на сценарии разработки и, по заявлению авторов, показывает сильные результаты в автодополнении кода и мультиязычном NL2Code среди моделей сопоставимого размера. Это базовая версия без специального instruction-тюнинга, поэтому она может хуже справляться с высокоуровневыми задачами вроде отладки и генерации тестов. Опубликованные веса доступны в форматах PyTorch и safetensors; лицензия в предоставленных данных не описана.

BagOClownCoders-ties-7B — объединённая языковая модель на архитектуре Mistral, созданная автором репозитория методом TIES с помощью mergekit. В качестве базовой использована beowolx/MistralHermes-CodePro-7B-v1; в объединение также вошли beowolx/CodeNinja-1.0-OpenChat-7B и teknium/OpenHermes-2.5-Mistral-7B. Модель предназначена для генерации текста в диалоговом формате и задач программирования, включая написание и дополнение кода. Она содержит 7,1 млрд параметров, использует плотную архитектуру Mistral, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors для Transformers. В метаданных указана возможность чата. Языки в предоставленных данных не перечислены. Качество и ограничения модели отдельно не описаны. Лицензия в предоставленных данных не указана.

BEiT-3 Large Patch16 224 — модель классификации изображений и извлечения визуальных признаков из семейства BEiT, опубликованная в репозитории timm. Она содержит 304,6 млн параметров и рассчитана на изображения размером 224 × 224 пикселя; архитектура использует патчи 16 × 16. Чекпойнт предварительно обучался на изображениях ImageNet-22k, текстовых документах и парах изображение–текст, а затем дообучался на ImageNet-22k и ImageNet-1k. В этом варианте оставлена обработка изображений для задач компьютерного зрения. Модель подходит для классификации изображений, получения карт признаков и визуальных эмбеддингов, в том числе как визуальная основа для прикладных систем. В карточке указана лицензия Apache-2.0. Метаданные указывают библиотеку timm и форматы PyTorch и safetensors.

leomaurodesenv/bert-base-uncased-answerable-or-not-augmented — дообученная модель BERT для классификации текста по признаку answerable or not: определения, можно ли ответить на вопрос. Основана на google-bert/bert-base-uncased и предназначена для классификации последовательностей; в метаданных указаны 136,7 млн параметров, контекст до 512 токенов и формат safetensors. Модель может использоваться для предварительной фильтрации вопросов и отбора тех, на которые система поиска или ответов располагает достаточной информацией. В оценке на тестовом наборе указаны accuracy 0,9188 и loss 0,2582, однако датасет и детали оценки не описаны. Лицензия — Apache-2.0.

Это компактная Sentence Transformer модель, разработанная автором репозитория swardiantara и дообученная на базе google/bert_uncased_L-2_H-128_A-2. Она преобразует предложения и абзацы в плотные текстовые векторы размерностью 128 и предназначена для поиска и сравнения текстов по косинусному сходству. Архитектура включает BERT с усредняющим pooling; модель содержит 4,4 млн параметров и принимает текст длиной до 128 токенов по карточке модели, при контекстном лимите 512 токенов в метаданных. Обучение проводилось на 200 010 примерах пар отзывов Amazon с метками сходства. Модель подходит для семантического поиска, извлечения признаков и ранжирования кандидатов по близости векторов. Базовая модель англоязычная, а примеры обучающего набора — англоязычные отзывы, поэтому наиболее обоснованное применение — работа с английским текстом. Использование описано для библиотеки Sentence Transformers; лицензия в предоставленных данных не указана.

google/bert_uncased_L-6_H-256_A-4 — компактная англоязычная модель семейства BERT, опубликованная Google как часть набора BERT Miniatures. Это плотный трансформер с 6 слоями, размером скрытого представления 256 и 4 головами внимания; в репозитории около 14,1 млн параметров, контекст — до 512 токенов. Модель обучена без учёта регистра с маскированием токенов WordPiece и доступна в форматах PyTorch и Flax под лицензией Apache-2.0. Модель предназначена для запуска в условиях ограниченных вычислительных ресурсов и последующей настройки на задачи понимания текста, например классификацию и оценку сходства предложений. Авторы отмечают, что компактные варианты особенно эффективны при дистилляции знаний от более крупной и точной модели; их также можно дообучать обычным способом. README приводит результаты оценки семейства на GLUE, но не отдельные показатели именно этой конфигурации. Модель принимает текст и выдаёт контекстуальные представления токенов, которые обычно используют как основу для классификаторов и других задач NLP. Она рассчитана на английский язык и не предназначена для генерации текста. По сравнению с крупными BERT-моделями компактность снижает требования к ресурсам, но может ограничивать качество на сложных задачах; конкретные ограничения качества для этой конфигурации в карточке не приведены.

Это компактная англоязычная модель BERT из набора BERT Miniatures, опубликованного Google. Вариант L-8-H-512-A-8 содержит 8 слоёв, скрытый размер 512 и 8 голов внимания; модель имеет около 49,2 млн параметров и принимает последовательности длиной до 512 токенов. Она обучена без учёта регистра с токенизацией WordPiece и доступна в форматах PyTorch и Flax. Модель предназначена для задач понимания английского текста и может дообучаться для классификации, анализа тональности, определения семантического сходства и других задач обработки языка. Компактный размер рассчитан на среды с ограниченными вычислительными ресурсами; авторы также указывают на эффективность применения в дистилляции, когда метки для дообучения создаёт более крупная модель-учитель. Лицензия — Apache-2.0.

WhisperLv3-FT-EP-CPP — модель распознавания речи на европейском португальском языке, созданная дообучением Whisper large-v3 на данных CAMOES (Capitalized, Punctuated and Pós-Acordo). Она предназначена для преобразования речи в текст, в том числе для исследований и оценки качества распознавания, а также для демонстраций и прототипов транскрибации. Модель основана на архитектуре WhisperForConditionalGeneration, содержит около 905,2 млн параметров и принимает аудио, выдавая текст. В карточке не приведены длина контекста и подробные показатели качества. Лицензия в предоставленных данных не указана.

CANINE-s — многоязычная предварительно обученная модель Google для представления текста. Она использует архитектуру CANINE и принимает текст на уровне символов: вместо отдельного токенизатора символы представляются кодовыми точками Unicode. Модель содержит 113,2 млн параметров и обучалась на 104 языках с целями masked language modeling и предсказания следующего предложения; для masked language modeling применялся subword loss. В метаданных указан контекст до 16 384 токенов. Модель предназначена прежде всего для извлечения признаков, которые затем используют в задачах классификации последовательностей и токенов, ответов на вопросы и других задачах понимания текста. Она может работать с многоязычными текстами, включая языки с разными письменностями, без предварительной настройки границ токенов. Для генерации текста модель не предназначена. Распространяется по лицензии Apache-2.0.