II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейSigLIP 2 Large — модель компьютерного зрения и языка от Google на архитектуре SigLIP. Она обучена на наборе WebLI и предназначена для сопоставления изображений с текстом: модель выполняет классификацию изображений по заданным текстовым меткам и поиск изображений по текстовым запросам. Её также можно использовать как визуальный энкодер в мультимодальных языковых моделях и других системах компьютерного зрения. Модель принимает изображения и текстовые описания или метки, а на выходе формирует оценки соответствия между ними. Вариант Large с патчами 16×16 рассчитан на обработку изображений с разрешением 384 пикселя; веса опубликованы в формате Safetensors и доступны для Transformers. Лицензия Apache-2.0.
SigLIP SoViT-400m — мультимодальная модель Google для сопоставления изображений и текста, предварительно обученная на наборе WebLI. Она использует архитектуру SoViT-400m и функцию потерь Sigmoid Loss, которая обучает модель на парах изображение–текст без нормализации по общей матрице сходства. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Модель подходит для классификации изображений по текстовым описаниям без дополнительного обучения и для поиска изображений по текстовому запросу или текста по изображению. При обработке используются изображения RGB, а текст токенизируется с ограничением 64 токена. В README приведено несоответствие разрешения: описание говорит о предобучении при 224×224, а раздел предобработки — о приведении изображений к 384×384; это следует учитывать при настройке входов. Поддерживаемые языки текстовой части отдельно не перечислены. Лицензия — Apache-2.0.
Ransaka/sinhala-sentence-transformer — модель на базе RoBERTa, опубликованная пользователем Ransaka на Hugging Face. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит 81,2 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Обучение проводилось с TripletLoss и евклидовой метрикой расстояния. Модель предназначена для работы с сингальским языком, что отражено в её названии. Её можно применять для семантического поиска и группировки похожих предложений и документов. Репозиторий содержит веса PyTorch и поддерживает использование через Sentence-Transformers либо Transformers с соответствующим pooling. Сведения о лицензии в предоставленных данных отсутствуют.
nlpguy/T3QM7 — это объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров, созданная автором репозитория с помощью mergekit. В объединение вошли liminerity/M7-7b и chihoonlee10/T3Q-Mistral-Orca-Math-DPO; применён метод SLERP, веса сохранены в формате safetensors. Модель предназначена для генерации текста и диалога, включая задачи с математическим уклоном, унаследованным от одной из объединённых моделей. Она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Репозиторий указывает лицензию Apache-2.0. README не приводит отдельной оценки качества объединённой модели.
Tamil ASR Qwen3 — модель распознавания речи, разработанная LemuraLabs и дообученная на базе Qwen/Qwen3-ASR-1.7B для транскрибации тамильской речи. Это генеративная ASR-архитектура с аудиоэнкодером и декодером Qwen3 на 1,7 млрд параметров; принимает монофоническое аудио с частотой 16 кГц и выдаёт текст на тамильском языке. Для декодирования автор рекомендует beam search с пятью лучами. Модель предназначена для расшифровки разговорной и прочитанной речи, голосовых интерфейсов, создания субтитров и автоматизированных конвейеров транскрибации. На тестовой части FLEURS-Tamil автор сообщает WER 25,27% и CER 7,95% на 586 клипах; результаты заявлены как лучшие относительно указанных в карточке IndicConformer-600M и Whisper-large-v3 при общей нормализации текста. Модель обучалась примерно на 1 475 часах тамильской речи из IndicVoices, Shrutilipi и Kathbath. Она ориентирована только на тамильский язык; качество может снижаться на сильно зашумлённой, удалённой или смешанной по языкам речи, а также зависеть от диалекта, предметной области и характеристик диктора. Лицензия — Apache-2.0.
tevatron-elastic-qwen3-0.6b-reranker-depth — модель для повторного ранжирования текстовых документов, обученная с помощью Tevatron-Elastic на базе Qwen/Qwen3-0.6B-Base. Она поддерживает эластичное сокращение по глубине: один чекпойнт позволяет выбирать число используемых слоёв и тем самым менять баланс между скоростью и качеством. Для настройки рабочей точки используются параметры `prune_to` и `encode_at` в фреймворке Tevatron-Elastic. Модель содержит около 508 млн параметров, принимает текстовые запросы и фрагменты документов с префиксами `query:` и `passage:`; максимальная длина при обучении составляла 512 токенов. На полной конфигурации авторы сообщают nDCG@10 0,555 на BEIR-15. Чекпойнт выпущен как ресурс для воспроизводимости результатов статьи, а не как заявка на лучшие показатели. Лицензия — Apache-2.0.
TopStarClaudioArena — слитая языковая модель сообщества mergekit-community, созданная методом SLERP из NousResearch/Hermes-2-Theta-Llama-3-8B и mergekit-community/mergekit-slerp-ebgdloh. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; в метаданных указаны библиотека Transformers и контекст до 32 768 токенов. Конфигурация слияния задаёт V-образное распределение весов: Hermes используется в начальных и конечных слоях, а WizardMath — в средних. Модель подходит для диалоговой генерации и ответов на инструкции, а также может применяться для математических запросов благодаря компоненту WizardMath. Карточка не приводит отдельных результатов оценки качества или подробностей о поддерживаемых языках. Условия лицензирования в предоставленных данных не указаны.
Tulu V2.5 DPO 13B StackExchange — англоязычная диалоговая модель-помощник от Allen Institute for AI. Она основана на Tulu 2 и дополнительно обучена методом DPO на 500 тысячах примеров из парного датасета StackExchange; архитектура — плотная Llama с 12,9 млрд параметров, контекст — до 4096 токенов. Модель предназначена для генерации текста в ответ на инструкции и вопросы, в том числе для диалогов и ответов в стиле StackExchange. README рекомендует использовать предусмотренный шаблон чата с завершающим переводом строки. Модель доступна по лицензии Apache 2.0. Возможны небезопасные или проблемные ответы: модель не проходила настройку на безопасные завершения в RLHF и не использует фильтрацию ответов во время работы. Она ориентирована на английский язык.
Tulu V2.5 PPO 13B StackExchange 60K — англоязычная диалоговая языковая модель из серии помощников Tulu, разработанной Allen Institute for AI. Она основана на Tulu 2 13B и дополнительно обучена методом PPO на случайной выборке из 60 тысяч примеров StackExchange с использованием модели вознаграждения, обученной на той же выборке. Архитектура — плотная Llama с 12,9 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов. Модель предназначена для генерации ответов помощника и ведения диалога на английском языке. Обучение на StackExchange ориентирует её на ответы в формате вопросов и ответов, наряду с более общими инструкциями и синтетическими диалогами из смеси Tulu V2. Для качества генерации рекомендуется использовать предусмотренный шаблон диалога и соблюдать требуемый формат ввода. Модель не была специально выровнена для безопасных ответов и не использует фильтрацию результатов во время генерации, поэтому может выдавать проблемный контент, особенно по соответствующим запросам. Распространяется по лицензии Apache 2.0.
timm/vit_base_patch16_clip_224.laion400m_e32 — модель семейства CLIP с визуальным энкодером Vision Transformer ViT-B/16, обученная на датасете LAION-400M. Она доступна для использования через open_clip и timm; карточка указывает имя OpenCLIP ViT-B-16. Модель предназначена для классификации изображений по текстовым описаниям без отдельного обучения на каждом наборе классов. Её можно применять для поиска изображений по тексту и сопоставления изображений с категориями, заданными текстовыми метками. Репозиторий содержит веса PyTorch и safetensors, лицензия — MIT. В описании модели не приведены сведения о размере входа, поддерживаемых языках или количественных оценках качества; название timm указывает разрешение 224 пикселя. Результаты зависят от формулировок текстовых меток и домена изображений; карточка не сообщает об отдельной адаптации для узких областей.
shniranjan/wav2vec2-large-xlsr-300m-nepali — модель распознавания речи на основе архитектуры Wav2Vec2ForCTC из семейства wav2vec2. Она преобразует аудио на непальском языке в текст и предназначена для сценариев автоматической транскрипции речи. В метаданных указано 402,7 млн параметров; веса доступны в форматах PyTorch и Safetensors. Модель можно использовать напрямую, без языковой модели. Карточка не сообщает о специальных ограничениях качества или условиях применения; лицензия в предоставленных данных не указана.
Модель qinyue/wav2vec2-large-xlsr-53-chinese-zn-cn-aishell1 — дообученная на китайском языке версия facebook/wav2vec2-large-xlsr-53 для автоматического распознавания речи. Она использует архитектуру Wav2Vec2 с CTC-декодером и содержит 407,1 млн параметров; для распознавания принимает аудио с частотой дискретизации 16 кГц и выдаёт текст на китайском языке. На тестовой выборке AISHELL-1 указана частота ошибок слов WER 7,04%; с языковой моделью — 3,96%. Модель распространяется по лицензии Apache-2.0.
facebook/wav2vec2-large-xlsr-53-dutch — модель распознавания речи на основе архитектуры wav2vec 2.0, опубликованная Facebook. Она предназначена для преобразования нидерландской речи в текст и оценена на тестовой части Common Voice NL; в карточке приведён результат 21,1% без пояснения метрики. Модель содержит 402,7 млн параметров и доступна в форматах PyTorch и Flax. Модель принимает аудио и выдаёт текстовую транскрипцию. В метаданных указан нидерландский язык, а лицензия — Apache 2.0. Карточка не уточняет метрику оценки и условия записи аудио, поэтому приведённый результат нельзя напрямую сопоставлять с результатами других моделей.
Модель sumedh/wav2vec2-large-xlsr-marathi разработана на основе facebook/wav2vec2-large-xlsr-53 и дообучена для автоматического распознавания речи на маратхи. Она использует архитектуру Wav2Vec2ForCTC, содержит 402,7 млн параметров и принимает аудио с частотой дискретизации 16 кГц, выдавая распознанный текст. Модель обучена на наборе OpenSLR64, где представлены только женские голоса, и показала WER 12,70% на тестовой части данных; автор сообщает, что она также хорошо работает с мужскими голосами. Подходит для транскрибирования речи на маратхи и создания текстовых расшифровок аудиозаписей. Лицензия — Apache-2.0. Результаты оценки получены на части OpenSLR64, поэтому точность на других записях и условиях может отличаться.
jonatasgrosman/wav2vec2-xls-r-1b-german — модель распознавания речи на немецком языке, дообученная Jonatas Grosman с помощью инструмента HuggingSound на базе facebook/wav2vec2-xls-r-1b. Она использует архитектуру Wav2Vec2ForCTC и содержит 1,3 млрд параметров. Модель обучалась на данных Common Voice 8.0, Multilingual TEDx, Multilingual LibriSpeech и Voxpopuli. Модель преобразует немецкую речь в текст и подходит для транскрибирования аудиозаписей. Для входного аудио требуется частота дискретизации 16 кГц. Веса опубликованы в формате PyTorch по лицензии Apache-2.0.
facebook/webssl-dino300m-light2b-224 — визуальная модель на основе Vision Transformer (ViT), представленная в работе Fan et al. «Scaling Language-Free Visual Representation Learning» (2025). Она обучена методом самообучения DINOv2 на облегчённо отфильтрованной веб-выборке MetaCLIP без языковой супервизии. Вариант light2b обучался на подмножестве изображений с текстовым содержимым, составляющем около 50,3% исходного набора. Модель предназначена для извлечения визуальных признаков из изображений и их использования в последующих задачах компьютерного зрения. Она принимает изображения с разрешением 224×224 пикселя; архитектура имеет ширину 1536, глубину 40 и 24 головы внимания. По метаданным репозитория, веса занимают около 402,7 млн параметров. Обучение на изображениях с текстом улучшает возможности, связанные с OCR и пониманием диаграмм, при этом модель сохраняет универсальные визуальные представления. Модель не обучалась с языковой супервизией и сама по себе не предназначена для генерации текста или распознавания OCR-текста как отдельного результата. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
whisper-base-mlx — модель автоматического распознавания речи, конвертированная в формат MLX из базовой версии Whisper. В README не указан разработчик исходной модели или конвертации. Модель предназначена для преобразования аудиозаписей в текст и запуска через библиотеку MLX, в том числе с примером использования функции whisper.transcribe. Из доступных данных известно, что модель совместима с MLX и относится к задаче automatic-speech-recognition. Архитектура, количество параметров, поддерживаемые языки, модальности, размер контекста, точность и производительность не указаны. Лицензия и ограничения на использование также не приведены, поэтому их необходимо уточнить по исходной модели и репозиторию.
Whisper-Large-V3-Distil-Italian-v0.2 — дистиллированная модель распознавания речи на базе архитектуры Whisper, созданная для транскрибации итальянской речи. Она содержит 905,2 млн параметров и использует неизменённую архитектуру энкодера Whisper large-v3 с декодером из двух слоёв; учительской моделью была openai/whisper-large-v3. Обучение охватывало аудиофрагменты длительностью до 30 секунд и применяло аугментацию данных для сохранения возможностей транскрибации длинных записей. Модель можно использовать самостоятельно, чтобы ускорить распознавание с некоторой потерей точности, или как черновую модель для speculative decoding вместе с Whisper large-v3. В README заявлены ускорение до 5,8 раза при самостоятельном использовании и примерно вдвое при speculative decoding; для последнего способа обещается сохранение тех же результатов, что у основной модели. Поддерживаются варианты запуска через Transformers и конвертированные реализации Whisper. Модель принимает аудио и выдаёт текст; сведения о контекстном окне в карточке не приведены. Репозиторий распространяется по лицензии MIT.
mlx-community/whisper-tiny — модель для автоматического распознавания речи, преобразующая аудиозаписи в текст. Она предназначена для сценариев транскрибации речи и интеграции в приложения, которым требуется ASR на базе экосистемы MLX. Модель представляет собой конвертированную версию Whisper с размером tiny, подготовленную сообществом mlx-community из исходной модели tiny с использованием инструментов проекта mlx-examples и формата MLX. В предоставленных данных не указаны поддерживаемые языки, максимальная длина контекста, точная архитектура, требования к ресурсам, показатели качества и ограничения. Лицензия также не указана, поэтому условия использования необходимо уточнять по исходной модели Whisper и репозиторию конвертации.
deepset/xlm-roberta-base-squad2 — мультиязычная модель для извлечения ответов на вопросы, разработанная deepset на базе xlm-roberta-base. Модель обучена на SQuAD 2.0 и предназначена для поиска точного фрагмента ответа в предоставленном тексте; она также может отказаться от ответа, если в тексте нет нужной информации. Модель использует архитектуру XLM-RoBERTa с 305,2 млн параметров и контекстом до 514 токенов. Подходит для систем вопросно-ответного поиска по документам, в том числе построенных на Haystack. В README приведены оценки на SQuAD 2.0, German MLQA и German XQuAD; на двух последних наборах проверялись вопросы и контексты на немецком языке. Модель принимает текст вопроса и контекста и возвращает текстовый ответ с его позицией во входном фрагменте. Лицензия — CC BY 4.0. Поскольку модель извлекает ответы из переданного текста, качество зависит от полноты и релевантности контекста; оценки на немецких наборах показывают ограниченное качество и не гарантируют результаты на других языках или доменах.
peggyes/abena-simcse-twi — модель Sentence Transformers, дообученная на базе Ghana-NLP/abena-base-asante-twi-uncased для получения векторных представлений предложений и абзацев на языке Asante Twi. Архитектура включает BERT, усредняющий слой pooling и плотные эмбеддинги размерности 768; сходство между векторами можно оценивать косинусной мерой. Модель обучалась на 7 000 пар текстов с функцией потерь MultipleNegativesRankingLoss и подходит для поиска и сравнения текстов. Модель принимает текст; длина последовательности в README указана до 64 токенов, а максимальный контекст базовой модели в метаданных — 512 токенов. Для задач поиска и сопоставления следует учитывать ограничение в 64 токена, указанное для этой модели. Языковая специализация — Asante Twi. Репозиторий использует формат safetensors и библиотеку Sentence Transformers. Лицензия в предоставленных данных не указана.
Jebadiah/Aria-ruby-v3 — созданная с помощью mergekit слитая языковая модель на архитектуре Mistral с 7,1 млрд параметров. В линейном слиянии использованы Jebadiah/Aria-diamond-v2 и Jebadiah/Tess-coder-ruby-p7; веса сохранены в формате safetensors, исходная конфигурация слияния задаёт float16. Модель предназначена для генерации текста и кода. Контекстное окно составляет 32 768 токенов. В карточке базовой модели упоминается диалоговая генерация и код на Ruby, однако отдельные языки и специализированные возможности этой версии не подтверждены. Лицензия в предоставленных данных не указана. Качество и ограничения модели в README не описаны; результаты генерации следует проверять.
deepset/bert-small-mm_retrieval-question_encoder — модель deepset для кодирования вопросов в плотные векторы, предназначенные для поиска по коллекции документов или таблиц в системах retrieval-augmented question answering. Это компонент архитектуры Dense Passage Retrieval (DPR), использующий класс DPRQuestionEncoder; в репозитории указано около 32,4 млн параметров и контекст до 512 токенов. Hugging Face относит модель к задаче feature-extraction. Модель принимает текст вопроса и выдаёт его векторное представление, которое можно сопоставлять с векторами passage- или table-encoder для поиска релевантного содержимого. Примеры deepset используют её как query embedding model в Haystack. Карточка Hugging Face не содержит описания лицензии или подробной информации о языках и обучении, поэтому эти характеристики здесь не заявляются.
ChengyouXin/cacheverifier-searchqueries — текстовый Cross Encoder на базе BERT, обученный с библиотекой Sentence Transformers для оценки пар «запрос—текст». Модель выдаёт один числовой балл для пары и подходит для переранжирования результатов семантического поиска и оценки соответствия текста запросу. Модель содержит 25,9 млн параметров, принимает текст и ограничивает длину последовательности 512 токенами. В README указано обучение на 60 398 примерах с запросами, ответами и метками, с функцией потерь BinaryCrossEntropyLoss. Язык примеров в карточке — английский; подтверждения поддержки других языков нет. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя. Модель небольшая, но оценки зависят от обучающих данных и могут быть ненадёжны для запросов и документов вне их распределения.
CLIP ViT-L/14 — мультимодальная модель семейства CLIP, обученная LAION с помощью OpenCLIP на англоязычной подвыборке из 2 млрд пар данных LAION-5B. В карточке указано, что обучение проводил Росс Уайтман на суперкомпьютере JUWELS Booster. Модель принимает изображения и текстовые описания и сопоставляет их в общем пространстве признаков; основная задача в каталоге — классификация изображений без примеров обучения по текстовым меткам. Её также применяют для поиска изображений по тексту и текста по изображению, линейной классификации и как компонент конвейеров генерации изображений. Для ImageNet-1k заявлена точность zero-shot top-1 75,3%. Модель обучалась на английских данных и не предназначена для сценариев на других языках. Авторы рекомендуют ограничивать применение исследованиями; развёрнутые сценарии и использование без тщательной проверки на фиксированной таксономии не рекомендуются. Применение для наблюдения и распознавания лиц исключено из допустимых сценариев. Лицензия — MIT.
Bingsu/clip-vit-large-patch14-ko — корейская модель CLIP, разработанная автором репозитория Bingsu и обученная с использованием подхода Making Monolingual Sentence Embeddings Multilingual using Knowledge Distillation. Она сопоставляет изображения с текстовыми описаниями и предназначена для классификации изображений по текстовым меткам без отдельного обучения на этих метках. Для обучения использовались корейско-английские параллельные данные AIHUB. Модель относится к архитектуре CLIPModel; репозиторий содержит веса в форматах PyTorch, Safetensors и TensorFlow. Лицензия — MIT. Карточка не сообщает размер модели и длину контекста.
Apple DFN5B-CLIP-ViT-H-14 — контрастивная модель CLIP, обученная на наборе DFN-5B и опубликованная Apple. Она сопоставляет изображения и текст в общем пространстве представлений, поэтому подходит для классификации изображений без дополнительного обучения по текстовым описаниям классов и для поиска изображений по тексту. Модель обучали на 5 млрд изображений, отфильтрованных из 43 млрд пар изображение–текст; в обучении было обработано 39 млрд примеров. В карточке приведены результаты на ImageNet-1k, Caltech-101 и CIFAR-10. Это плотная модель архитектуры CLIP с визуальным энкодером ViT-H/14. Веса переведены из исходных контрольных точек JAX в PyTorch и напрямую применимы через OpenCLIP для обработки изображений и текста. Лицензия — Apple AMLR.
Eklav-14B-Reranker-CotGen — экспериментальный чекпойнт Eklav для ранжирования пассажей, дообученный на базе Qwen/Qwen3-14B. Это плотная причинно-языковая модель Qwen3 с 14 млрд параметров, контекстом до 40 960 токенов и форматом safetensors; для запуска используется библиотека Transformers. Вариант CotGen представлен как базовый результат для сравнения: при обучении модель училась продолжать частичный след рассуждения учителя и самостоятельно получать ответ, а не воспроизводить весь след целиком. Модель предназначена для попарной оценки релевантности пассажей, в том числе в задачах из наборов BRIGHT и NevIR. Она генерирует рассуждение, завершающееся меткой true или false; оценку релевантности извлекают из логитов последнего токена. Для инференса автор рекомендует vLLM с условием остановки по строке: при генерации Transformers с фиксированным бюджетом токенов модель иногда продолжает длинный текст, повторяется и не завершает ответ. Лицензия в предоставленных данных не указана.
gemma-coder — дообученная методом QLoRA модель для генерации кода на основе google/gemma-4-26B-A4B-it. Она предназначена для работы в агентной среде, где написанный код запускается и проверяется в песочнице. В README заявлены генерация кода и проверка существующего кода на уязвимости; целевые области безопасности включают ошибки управления памятью, путаницу типов и нарушения границ привилегий. Базовая модель относится к семейству Gemma 4 и использует архитектуру со смесью экспертов; в README указано около 4 млрд активных параметров. Дообучение выполнено на наборе bigcode/self-oss-instruct-sc2-exec-filter-50k. Модель ориентирована на код на Python, JavaScript/React, Go, Java и Swift; карточка также сообщает о шести языках, но не называет шестой. Текущая оценка кода описана как небольшая дымовая проверка на 16 задачах, а результаты оценки безопасности на ExploitGym ещё не опубликованы. Модель может ошибаться или генерировать небезопасный код, поэтому результаты требуют проверки и тестирования человеком. README не рекомендует использовать её для создания эксплойтов, в системах безопасности с критическими последствиями или без проверки человеком. Указана лицензия Gemma.
GLM-5V-Turbo — мультимодальная агентная базовая модель компании Z.ai для задач, в которых нужно анализировать визуальные данные и выполнять сложные сценарии, включая программирование с опорой на изображения. Модель принимает изображения, видео и текст; заявлены возможности долгосрочного планирования и решения комплексных задач по программированию. Модель предназначена для агентных сценариев с визуальным вводом. Данных о размере, архитектуре, длине контекста, поддерживаемых языках и лицензии в предоставленных источниках нет.