II.10Разработка и эксплуатация AI/ML-систем

tevatron-elastic-qwen3-0.6b-retriever-depth — плотная модель поиска документов на основе Qwen3-0.6B-Base, дообученная командой UtahNLP с помощью Tevatron-Elastic. Она кодирует запросы и фрагменты документов в представления для извлечения релевантных материалов; для различения входов используются префиксы query: и passage:. Модель содержит 507,9 млн параметров, имеет контекст до 32 768 токенов, а в обучении использовались последовательности длиной до 512 токенов и датасет rlhn/rlhn-680K. Это модель с эластичной настройкой глубины: один чекпойнт позволяет выбирать число используемых слоёв и балансировать скорость и качество через параметры prune_to и encode_at в Tevatron-Elastic. Для полной конфигурации авторы сообщают nDCG@10 0,518 на BEIR-15. Чекпойнт выпущен как ресурс для воспроизводимости исследования, а не как заявление о превосходстве над другими моделями. Лицензия — Apache-2.0.

Toto-2.0-2.5B — разработанная Datadog модель временных рядов из семейства Toto, предназначенного для прогнозирования многомерных временных рядов, в том числе данных наблюдаемости. Это декодерный патчевый трансформер с чередованием внимания по временной оси и по переменным; версия на 2,8 млрд параметров распространяется в формате safetensors и рассчитана на работу с PyTorch. Модель поддерживает zero-shot прогнозирование без дообучения на конкретном ряду, переменные горизонты прогноза и длины контекста, а также выдаёт точечные прогнозы и оценки неопределённости через квантильную выходную голову. В README заявлены результаты на BOOM, GIFT-Eval и TIME, включая высокие позиции среди моделей временных рядов; точные показатели для этого чекпойнта в предоставленном фрагменте не приведены. Модель подходит для прогнозирования метрик инфраструктуры и других многомерных временных рядов. Доступна по лицензии Apache-2.0; инференсный код указан в связанном репозитории GitHub.

Salience-27B-R5-GGUF — это квантизированная версия мультимодальной модели Salience-27B-R5, разработанной vectionlabs и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель содержит около 28 млрд параметров и поддерживает обработку текста и изображений; для работы с изображениями требуется файл mmproj. Заявлена поддержка speculative decoding через MTP. Модель предназначена для задач рассуждения, эффективного пошагового анализа, программирования и software engineering, а также для агентских сценариев с использованием терминала и инструментов. В карточке указана поддержка английского языка и большой длины контекста, однако точный размер контекстного окна и подробности архитектуры не приведены. Основное преимущество — широкий выбор вариантов квантизации с разным балансом между качеством, размером и требованиями к памяти. Рекомендуемым универсальным вариантом назван Q4_K_M размером около 17,77 ГБ, а варианты Q5 и Q6 обеспечивают более высокое качество при больших требованиях к ресурсам. Более сильная квантизация экономит память, но может снижать качество ответов; точные результаты тестирования и измерения perplexity или KLD не указаны. Модель распространяется по лицензии Apache-2.0.

Это порт VideoPrism от Google DeepMind в формате PyTorch, подготовленный автором репозитория sposiboh на основе google/videoprism-base-f16r288. Репозиторий содержит веса Safetensors и самодостаточную реализацию для Transformers; заявлено численное совпадение выходов с эталонной реализацией JAX/Flax с cosine similarity 1,000000. Модель предназначена для извлечения признаков из видео: кадры равномерно выбираются до штатного для модели количества, масштабируются до image_size × image_size и нормализуются в диапазон [0, 1]. Полученные признаки подходят для последующего анализа видео в ML-конвейерах. Лицензия — Apache-2.0.

Модель timm/vit_base_patch16_clip_224.datacompxl — визуальный энкодер CLIP на архитектуре ViT-Base с патчами 16×16 и входным разрешением 224 пикселя. Это веса только для изображения, опубликованные в формате PyTorch и safetensors и предназначенные для извлечения признаков изображений. Их можно использовать для получения визуальных представлений как части системы поиска по изображениям или мультимодального решения. Модель распространяется по лицензии Apache-2.0.

Это визуальный энкодер SigLIP из библиотеки timm, опубликованный на Hugging Face командой timm. Модель принимает изображения и извлекает их признаки; текстовый энкодер и возможности генерации в карточке не заявлены. В названии указаны архитектура ViT-Base с патчами 16×16 и разрешение 512 пикселей; сохранён оригинальный механизм attention pooling SigLIP. Модель предназначена для получения визуальных представлений, которые можно использовать в системах поиска по изображениям и других задачах, где нужны признаки изображения. Доступны веса PyTorch и Safetensors, лицензия — Apache 2.0.

Модель timm/vit_base_patch32_clip_384.openai_ft_in12k_in1k — Vision Transformer для классификации изображений и извлечения визуальных признаков. Она основана на CLIP-модели OpenAI, предварительно обученной на парах изображение–текст WIT-400M, а затем дообученной в timm на ImageNet-12k и ImageNet-1k. Архитектура ViT-Base использует патчи 32×32 и принимает изображения размером 384×384; модель содержит 88,3 млн параметров. Модель подходит для классификации изображений и получения эмбеддингов изображений, например, как визуальная основа для прикладных систем компьютерного зрения. В репозитории указаны веса PyTorch и Safetensors. Лицензия — Apache-2.0.

vit_giant_patch14_reg4_dinov2.lvd142m — визуальная модель семейства Vision Transformer из библиотеки timm, предварительно обученная командой DINOv2 на наборе LVD-142M методом самообучения. Она предназначена для извлечения признаков изображений и может использоваться как основа для классификации и получения векторных представлений. Архитектура ViT-Giant содержит около 1,14 млрд параметров, использует патчи 14×14 и четыре регистра; указанный размер входного изображения — 518×518 пикселей. Модель подходит для формирования визуальных эмбеддингов и построения систем компьютерного зрения, включая классификаторы, обучаемые поверх извлечённых признаков. Входом служат изображения, выходом — признаки изображения; естественный язык модель не обрабатывает. Для использования доступны веса PyTorch и Safetensors, лицензия — Apache-2.0.

timm/vit_huge_patch14_224.orig_in21k — модель Vision Transformer для извлечения признаков изображений. Она предварительно обучена авторами статьи на ImageNet-21k с использованием JAX и перенесена в PyTorch Россом Уайтманом. Веса доступны в форматах PyTorch и safetensors; модель содержит около 630,8 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Классификационная голова отсутствует: модель предназначена для получения признаков и эмбеддингов изображений, а также для дальнейшей тонкой настройки. Её можно использовать как визуальный backbone в системах машинного зрения и как основу для адаптации к задачам классификации. Репозиторий распространяется по лицензии Apache-2.0.

Это преобразованный в формат Keras 3 чекпойнт ViT-Large от zeromodels, основанный на timm/vit_large_patch16_224.augreg_in21k_ft_in1k. Модель разбивает изображение на патчи 16×16 и обрабатывает их трансформерным энкодером; входной размер варианта — 224×224 пикселя. Чекпойнт предназначен для классификации изображений и извлечения визуальных признаков. Модель принимает изображения и может работать через TensorFlow, PyTorch или JAX. Классификационная оболочка возвращает логиты классов, а режим backbone — токены и признаки блоков. Обучение базовой модели включало ImageNet-21k и дообучение на ImageNet-1k. Репозиторий распространяется по лицензии Apache-2.0.

Это визуальный энкодер SigLIP из библиотеки timm, разработанный для извлечения признаков изображений. Модель использует архитектуру ViT-Large с патчами 16×16 и входным разрешением 256 пикселей; в карточке указано, что сохранён оригинальный механизм attention pooling. Это только image encoder, без текстового энкодера. Векторы признаков можно использовать для поиска изображений по сходству, кластеризации и как входные представления для последующих моделей. Репозиторий содержит веса PyTorch в формате safetensors. Лицензия — Apache-2.0.

Wav2Vec2-Base-100h — модель распознавания речи, разработанная Facebook. Она основана на архитектуре wav2vec 2.0 и дообучена на 100 часах размеченной речи из LibriSpeech после предварительного обучения на аудиоданных. Модель принимает речь с частотой дискретизации 16 кГц и преобразует её в текст; в метаданных указано около 113,3 млн параметров. Модель предназначена для автоматической транскрибации англоязычной речи, в том числе записей, похожих на аудиокниги и подкасты. Её можно использовать как акустическую модель в системах распознавания речи. Репозиторий содержит веса PyTorch, лицензия — Apache 2.0.

jonatasgrosman/wav2vec2-large-xlsr-53-english — англоязычная модель распознавания речи, созданная дообучением facebook/wav2vec2-large-xlsr-53 на обучающей и валидационной выборках Common Voice 6.1. Это архитектура Wav2Vec2 с CTC-выходом, содержащая 402,7 млн параметров; модель принимает аудио и выдаёт распознанный текст. Для работы входную речь нужно подавать с частотой дискретизации 16 кГц. Модель предназначена для транскрибации английской речи, в том числе записей, подобных материалам Common Voice. В README описана оценка на тестовой выборке Common Voice 6.0 и на speech-recognition-community-v2/dev_data. Указанная лицензия — Apache-2.0.

Модель voidful/wav2vec2-xlsr-multilingual-56 разработана voidful для автоматического распознавания речи. Это дообученная версия facebook/wav2vec2-large-xlsr-53, обученная на данных Common Voice для распознавания речи на 56 языках. Репозиторий содержит веса PyTorch и safetensors; для входной речи рекомендуется частота дискретизации 16 кГц. Модель подходит для транскрибирования аудиозаписей и построения систем распознавания речи на нескольких языках. В карточке приведены результаты WER и CER для части языков, но также указаны значительные риски смещений: предсказания могут воспроизводить вредные стереотипы. Лицензия — Apache-2.0.

burakaydinofficial/whisper-base-24lang — мультиязычная модель распознавания речи, созданная дообучением OpenAI Whisper Base. Она предназначена для транскрибирования аудио на 24 языках; карточка описывает её как контрольный вариант со стандартной архитектурой Whisper, сопоставимый с вариантом, преобразованным из MHA в MLA. Модель содержит 51,7 млн параметров и загружается через Transformers без пользовательского кода. Модель дообучали 15 000 шагов на корпусе Whispered, с замороженным энкодером и режимом чтения речи. В карточке приведены восстановленные оценки для части языков на CommonVoice-17; авторы предупреждают, что они получены вычитанием измеренной стоимости преобразования из результатов связанной MLA-модели, а не отдельным тестированием этого чекпойнта. Лицензия — Apache-2.0.

oxide-lab/whisper-base-GGUF — набор квантованных моделей на основе openai/whisper-base, подготовленный в формате GGUF. Модель предназначена для автоматического распознавания речи и поддерживает многоязычные сценарии, включая английский и русский языки. Доступны варианты квантования от q2_k до q8_0. Модели в корневом каталоге совместимы с ML-фреймворком Candle для Rust, а варианты в подкаталоге whisper.cpp — с реализацией whisper.cpp и её CLI-инструментами. Формат GGUF позволяет уменьшить размер модели и ускорить инференс, однако низкие уровни квантования, особенно q2, q3 и q4, могут существенно снижать качество распознавания. В README отдельно отмечены q4_k как компромисс между размером, скоростью и качеством, а q8_0 — как рекомендуемый вариант для производственного использования с минимальными потерями. Модель подходит для локального распознавания аудиофайлов и интеграции в приложения на Rust или C++. Ограничения включают зависимость от выбранного уровня квантования и необходимость использовать совместимые файлы конфигурации и токенизатора для Candle либо правильную версию файлов из каталога whisper.cpp. Указана лицензия MIT, совпадающая с лицензией исходной модели Whisper.

oxide-lab/whisper-large-v3-turbo-GGUF — набор квантованных версий модели openai/whisper-large-v3-turbo, подготовленный в формате GGUF. Модель предназначена для автоматического распознавания речи и может использоваться с Candle — ML-фреймворком на Rust — или с whisper.cpp. В репозитории представлены варианты для работы с локальными аудиофайлами и встраивания распознавания речи в приложения, включая сценарии на мобильных устройствах. Доступны 10 уровней квантования от q2_k до q8_0. Более компактные варианты уменьшают требования к ресурсам, но могут сильнее снижать качество; q4_k указан как рекомендуемый компромисс между размером, скоростью и точностью, а q6_k и q8_0 обеспечивают качество, близкое к исходному. Для Candle и whisper.cpp используются разные варианты файлов GGUF, отличающиеся именами тензоров и совместимостью. README указывает поддержку многоязычного режима, включая английский и русский языки, но не приводит точный список языков, размер модели, архитектурные параметры или длину контекста. Преимущество модели — сочетание возможностей Whisper с уменьшенным размером квантованных файлов и поддержкой двух распространённых сред выполнения. Ограничения связаны с возможной потерей качества при агрессивном квантовании и необходимостью выбирать формат, совместимый с конкретным движком. Модель распространяется по лицензии MIT, как и исходная модель Whisper.

whisper-large-v3-turbo-quantized.w8a8 — квантованная версия модели whisper-large-v3-turbo, разработанной OpenAI; квантование выполнила Neural Magic. Модель принимает аудио и генерирует текст, предназначена прежде всего для автоматического распознавания речи и эффективного инференса через vLLM. Она основана на архитектуре Whisper и совместима с библиотекой Transformers и vLLM версии 0.5.2 и выше. Модель использует INT8-квантование весов и активаций (формат W8A8), что может снизить требования к памяти и повысить эффективность развертывания по сравнению с полноразмерной версией. В README указана поддержка английского языка; размер модели, максимальная длина контекста и полный набор поддерживаемых языков не приведены. Для сервинга доступны интерфейсы vLLM, включая OpenAI-совместимый режим. К ограничениям относятся возможное снижение точности из-за квантования и отсутствие в предоставленных данных подробных результатов оценки качества: раздел Evaluation не содержит завершённой информации. Модель распространяется по лицензии Apache-2.0.

OpenVINO/whisper-medium-fp16-ov — модель автоматического распознавания речи, разработанная OpenAI и преобразованная в формат OpenVINO IR с весами в формате FP16. Она предназначена для транскрибации аудиозаписей в текст и поддерживает работу через Optimum Intel, OpenVINO GenAI и OpenVINO Model Server, включая интеграцию с OpenAI-совместимым клиентом. Модель основана на whisper-medium; в README не указаны её точный размер и архитектурные параметры. Заявлена поддержка широкого набора языков, включая английский, китайский, немецкий, испанский, русский, французский, японский и многие другие. Конкретный размер контекста и дополнительные модальности не указаны. Ключевая особенность версии — совместимость с OpenVINO версии 2025.2.0 и выше и Optimum Intel версии 1.23.0 и выше, что позволяет запускать инференс на поддерживаемых CPU и GPU. Сильными сторонами являются широкая языковая поддержка, оптимизированное представление OpenVINO IR и возможность развертывания локально или через серверную инфраструктуру. Ограничения и особенности качества следует уточнять в исходной карточке whisper-medium, на которую ссылается README. Модель распространяется по лицензии Apache-2.0.

castorini/wiki-all-8-4-multi-dpr2-query-encoder — энкодер запросов для плотного поиска по корпусу Wikipedia, разработанный Castorini. Модель относится к семейству BERT, содержит 136,7 млн параметров и принимает текстовые запросы; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате Flax. Это часть второй версии модели Dense Passage Retriever (DPR), обученной с помощью Tevatron на объединённых наборах NQ, TriviaQA, WQ и CuratedTREC и варианте корпуса Wikipedia wiki-all-8-4. Энкодер преобразует запросы в векторные представления для поиска релевантных фрагментов и систем ответов на вопросы по открытым знаниям. Подходит для использования как запросная сторона DPR-поиска; README не описывает отдельные гарантии качества или условия лицензирования.

dominguesm/xlm-roberta-base-lora-language-detection — мультиязычная модель для автоматического определения языка текста. Она разработана на базе xlm-roberta-base и дообучена методом PEFT-LoRA с классификационной головой для задач классификации последовательностей. Модель поддерживает 20 языков: арабский, болгарский, немецкий, современный греческий, английский, испанский, французский, хинди, итальянский, японский, нидерландский, польский, португальский, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский. Дообучение проводилось на датасете papluca/language-identification: 70 тысяч обучающих, 10 тысяч валидационных и 10 тысяч тестовых примеров. На тестовой выборке заявлены accuracy и F1 на уровне 99,43–99,4%. Сильной стороной является высокая точность при поддержке нескольких языков и сниженные вычислительные и требования к хранению затраты благодаря LoRA, которая изменяет лишь небольшое число дополнительных параметров. Ограничение модели — классификация только указанных 20 языков; качество на текстах, отличающихся от распределения исходного датасета, в README отдельно не оценено. Лицензия — CC BY 4.0.

XtremeDistil L6 H256 Uncased — компактная дистиллированная модель на архитектуре BERT, опубликованная Microsoft. Она предназначена для переноса знаний между задачами и может служить основой для классификации текста и извлечения признаков. В метаданных указаны 14,1 млн параметров, контекст до 512 токенов и поддержка английского языка; доступны веса PyTorch и TensorFlow. Модель подходит для классификации коротких текстов и как лёгкое представление текста в NLP-конвейерах, где важны компактность и скорость. В README приведены результаты семейства XtremeDistil на GLUE и SQuAD, но указанные там размер и конфигурация относятся к варианту L6 H384, поэтому их нельзя считать характеристиками этого чекпойнта. Лицензия — MIT.

Экспериментальная модель knakul242/agent-context-guardrail-primary-retrain-experimental — классификатор последовательностей на базе DeBERTa V3 Small, дообученный для обнаружения атак с внедрением инструкций в контекст ИИ-агента. Число параметров — 155 млн, максимальная длина контекста — 512 токенов. Модель предназначена для защитной фильтрации текстового контекста и проверки устойчивости агентных систем к вредоносным инструкциям. Чекпойнт дообучили ещё на двух эпохах на исходном обучающем наборе и 15 подтверждённых примерах обхода защиты. В сравнении с первичной моделью стандартные метрики немного снизились: F1 с 0,968 до 0,961, ROC-AUC с 0,995 до 0,992, полнота при 1% ложноположительных срабатываний — с 0,950 до 0,936. В тесте на обходы для низкоресурсного языка доля успешных атак снизилась с 62,5% до 0%, однако выводы по другим пяти техникам ограничены: их не проверяли повторно в режиме эскалации, поэтому эффект обобщения не отделён от запоминания примеров. Для артефакта усечения контекста needle-in-a-haystack улучшения не выявлено. Лицензия — MIT.

AReaL-boba-2-32B — языковая модель для генерации текста и диалогов, разработанная командой RL Lab исследовательской организации Ant Research в рамках проекта AReaL. Она построена на архитектуре Qwen3 и содержит 29,7 млрд параметров. Модель обучена с помощью обучения с подкреплением в асинхронной системе AReaL-boba²; базовая модель — Qwen3, точный идентификатор исходного репозитория в предоставленных данных не указан. Модель предназначена для задач рассуждения, прежде всего математических задач и программирования, а также для диалогового и агентного применения. Метаданные указывают поддержку интерфейса вызова инструментов. Контекстное окно составляет 40 960 токенов; модель работает с текстом и опубликована в формате PyTorch для Transformers. В README приведены результаты семейства AReaL-boba² на бенчмарках программирования, однако отдельные результаты для версии 32B не указаны. Модель распространяется по лицензии Apache-2.0.

AReaL-boba²-8B — языковая модель для генерации текста и решения задач программирования, созданная командой RL Lab, Ant Research. Она основана на Qwen3 и обучена с помощью обучения с подкреплением в системе AReaL; в README приведены результаты на LiveCodeBench, Codeforces и CodeContests. Модель предназначена для генерации и объяснения кода, решения задач по программированию и диалогового взаимодействия с инструментами. Модель имеет плотную архитектуру Qwen3ForCausalLM, содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов. Она принимает текст и генерирует текст; интерфейс поддерживает чат и вызов инструментов. Лицензия — Apache-2.0. README не сообщает конкретные поддерживаемые естественные языки.

Athene CodeGemma 2 7B v1.3 — языковая модель EpistemeAI для программирования, дообученная на базе EpistemeAI/Athene-codegemma-2-7b-it-alpaca-v1.1 на наборах данных по программированию с supervised fine-tuning. Это плотная decoder-only модель семейства Gemma с архитектурой GemmaForCausalLM, примерно 8,2 млрд параметров и контекстом 8192 токена. Модель принимает текстовые запросы и выдаёт код или естественный язык. Она предназначена для генерации кода по описанию на естественном языке, ответов на вопросы о фрагментах кода и диалога о программировании и технических задачах. Для использования в режиме чата следует применять встроенный шаблон диалога токенизатора. Карточка рекомендует для автодополнения кода в IDE использовать предварительно обученные варианты CodeGemma вместо instruction-tuned модели. Модель рассчитана прежде всего на английский язык и распространяется под лицензией Apache-2.0. Она доступна в форматах PyTorch и Safetensors. Карточка не приводит результатов систематической оценки качества; качество генерации может зависеть от формулировки запроса и используемого шаблона диалога.

AutoCoder — языковая модель для генерации кода, построенная на архитектуре Llama и содержащая 33,1 млрд параметров. По README, её разработчики заявляют результат 90,9% на базовом наборе HumanEval против 90,2% у GPT-4 Turbo (апрель 2024 года). Карточка также описывает возможность по запросу устанавливать необходимые пакеты и запускать сгенерированный код с повторными попытками до обнаружения ошибок. Модель предназначена для генерации кода и диалогового взаимодействия. Она принимает текст и выдаёт текст; заявленная базовая модель — deepseeker-coder. Контекст составляет 16 384 токена, файлы весов опубликованы в формате Safetensors. Лицензия — Apache-2.0. README не раскрывает подробности проверки результата HumanEval и реализации запуска кода.

Ballistic-CodeLlama-34B-v1 — языковая модель для генерации кода и ответов на инструкции, созданная BallisticAI. Она основана на CodeLlama 34B, объединяет варианты CodeLlama 34B v2 и speechless-codellama-34b-v2 и дополнительно обучена на jondurbin/airoboros-2.2. В репозитории указаны архитектура Llama, 33,5 млрд параметров и контекст до 16 384 токенов; модель принимает инструкции в формате Alpaca/Vicuna и выдаёт текст. Модель подходит для помощи в программировании, генерации и продолжения кода, а также выполнения текстовых инструкций. Для запуска существуют варианты AWQ для GPU и GGUF для CPU. Карточка сообщает об ограниченном тестировании и рекомендует дополнительную проверку безопасности перед реальным развёртыванием. Лицензия — Llama 2.

BerkeliumGPT2-Coder-3b — дообученная на коде модель генерации текста на архитектуре Qwen2.5 с 3,1 млрд параметров. Разработчик обучал её на наборе BerkeliumCoding, составленном из 176 репозиториев с разрешительными лицензиями. Модель предназначена для генерации кода и диалоговой работы с запросами о программировании. Модель распространяется в формате SafeTensors с точностью bfloat16 и поддерживает запуск через Apple MLX и Transformers; в метаданных также указана совместимость с vLLM. Карточка README указывает контекст 4096 токенов, тогда как метаданные каталога — 32768 токенов, поэтому фактическую длину контекста следует проверять для используемой конфигурации. Лицензия — Apache-2.0.

google-bert/bert-base-multilingual-uncased — базовая многоязычная модель BERT, разработанная командой Google. Это плотная трансформерная архитектура BertForMaskedLM с 194,6 млн параметров, обученная на текстах Википедии для 102 языков с помощью masked language modeling и предсказания следующего предложения. Модель приводит текст к нижнему регистру, использует общую WordPiece-лексиконную таблицу размером 110 000 токенов и поддерживает контекст до 512 токенов. Модель предназначена для восстановления замаскированных слов и получения контекстных представлений текста, которые можно использовать при дообучении для классификации последовательностей и токенов, ответов на вопросы и других задач понимания текста. Она принимает текст и в задаче fill-mask выдаёт вероятные подстановки для пропущенных токенов. Это энкодерная модель, поэтому она не предназначена для свободной генерации текста. Нижний регистр стирает различия между прописными и строчными буквами; предсказания могут отражать смещения обучающих данных. Лицензия — Apache-2.0.