II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейfuriosa-ai/Qwen3-Reranker-8B — версия модели Qwen/Qwen3-Reranker-8B, подготовленная для запуска через Furiosa-LLM на ускорителе FuriosaAI RNGD. Это плотная трансформерная модель семейства Qwen3 с 7,6 млрд параметров. Она принимает текстовый запрос и набор кандидатных документов и возвращает оценки релевантности, по которым результаты можно переупорядочить; типичный сценарий — второй этап поиска в RAG-системах. Контекст составляет до 40 960 токенов. Модель работает в исходной точности BF16 без квантизации; для RNGD используется параллелизм по тензорам на 8 вычислительных элементах одной карты. Репозиторий также содержит Furiosa Executable Bundle, а README указывает совместимость с Sentence Transformers, vLLM и Transformers. Модель распространяется по лицензии Apache 2.0. Описание не приводит результатов сравнительной оценки качества; запуск с Furiosa-LLM на RNGD требует соответствующего оборудования и программной среды.
ReasonFlux-Coder-7B — языковая модель для генерации кода, представленная разработчиками семейства ReasonFlux-Coders. В README указано, что модели семейства обучены с помощью алгоритма CURE, который совместно развивает способности к написанию кода и генерации модульных тестов; отдельные численные результаты для версии 7B не приведены. Модель предназначена для генерации кода и тестов, а также для использования в агентных сценариях программирования и подходах с масштабированием вычислений на этапе вывода. Это плотная причинная модель архитектуры Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов. Метаданные указывают на поддержку чата и интерфейса вызова инструментов. Репозиторий содержит веса Safetensors. Лицензия MIT. README не сообщает об ограничениях качества или поддерживаемых естественных языках; заявленное сравнение с другими моделями относится к семейству в целом и не позволяет установить результаты именно версии 7B.
Модель hasankursun/reranker-Multilingual-MiniLM-L12-H384-msmarco-mse — кросс-энкодер, дообученный на MS MARCO на базе microsoft/Multilingual-MiniLM-L12-H384 с помощью библиотеки Sentence Transformers. Она оценивает релевантность пары «запрос — текст» одним числовым баллом и предназначена для переранжирования результатов поиска и семантического поиска, в том числе как второй этап после более быстрого первичного поиска. Модель содержит 124,3 млн параметров, принимает текстовые пары и имеет максимальную длину последовательности 512 токенов. В README приведены результаты оценки на наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR; заявленный язык модели — английский. Выходной балл подходит для сортировки кандидатов по релевантности. Лицензия в предоставленных данных не указана.
RoSEtta-base-ja — японская модель эмбеддингов текста от Chihiro Yano, Mocho Go, Hideyuki Tachibana, Hiroto Takegawa и Yotaro Watanabe. Она предназначена для поиска по смыслу и оценки семантического сходства предложений и фрагментов текста. Модель построена на архитектуре RoFormer с RoPE и имеет около 189,7 млн параметров. Для подготовки использовались предварительное обучение с MLM, слабый надзор, дистилляция от крупных моделей эмбеддингов и многоэтапное контрастивное обучение. Контекст — до 1024 токенов, размерность вектора — 768; для сравнения применяется косинусное сходство. На входе при инференсе требуется префикс «query: » или «passage: » в зависимости от роли текста. Модель поддерживает японский язык, работает через Sentence Transformers и может запускаться на CPU. Модель подходит для семантического поиска и подбора похожих предложений. В README приведены оценки на MIRACL-ja, JQaRA, JaCWIR, MLDR-ja и JMTEB. Лицензия — Apache-2.0.
Ruri-Base v2 — японская модель для получения векторных представлений текстов, разработанная cl-nagoya. Это Sentence Transformer на архитектуре BERT с 138,4 млн параметров; модель дообучена на базе cl-nagoya/ruri-pt-base-v2. Она предназначена для сравнения сходства предложений и текстового поиска на японском языке. Максимальная длина входа — 512 токенов, размерность выходных векторов — 768, сходство оценивается косинусной мерой. В JMTEB модель получила средний результат 72,48; README рекомендует для новых задач перейти на семейство Ruri v3. Лицензия — Apache 2.0.
Ruri v3 PT 310M — предварительно обученная модель эмбеддингов японского текста от cl-nagoya на базе ModernBERT-Ja. Она предназначена для получения векторных представлений предложений и сравнения их семантической близости; для прикладного использования авторы рекомендуют дообученную версию cl-nagoya/ruri-v3-310m. Модель имеет архитектуру ModernBERT, около 314,6 млн параметров, размерность эмбеддингов 768 и контекст до 8192 токенов. В карточке указаны японский язык и лицензия Apache-2.0. Это предварительно обученный чекпойнт без последующего дообучения на целевой задаче, поэтому качество сходства может быть ниже, чем у предназначенной для использования дообученной версии.
colorfulscoop/sbert-base-ja — японская Sentence-BERT модель, разработанная на основе японской BERT colorfulscoop/bert-base-ja. Её дообучили на японском наборе SNLI, чтобы получать векторные представления предложений и оценивать их смысловое сходство. Модель использует архитектуру BERT с 768-мерными токенными представлениями и усреднением по токенам; максимальная длина последовательности — 512 токенов. В карточке указана точность 0,8529 на тестовой выборке SNLI. Модель предназначена для работы с японским языком. Лицензия репозитория — CC BY-SA 4.0. Для исходной модели colorfulscoop/bert-base-ja в README указана CC BY-SA 3.0; при использовании производной модели следует учитывать условия обеих лицензий.
nickprock/sentence-bert-base-italian-xxl-uncased-sts-matryoshka — модель Sentence Transformers на базе BERT, разработанная nickprock. Она преобразует предложения и абзацы на итальянском языке в плотные векторы размерностью 768 для поиска семантически похожих текстов, кластеризации и других задач сопоставления предложений. Обучение использовало MatryoshkaLoss с CoSENTLoss и целевыми размерностями 768, 512, 256, 128 и 64, что позволяет использовать эмбеддинги разных размеров. Модель содержит 137,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Репозиторий предоставляет веса в формате safetensors; для применения предусмотрена библиотека sentence-transformers. Лицензия — MIT. Она предназначена для итальянских текстов; результаты для других языков README не заявляет.
Huffon/sentence-klue-roberta-base — модель на базе RoBERTa для получения векторных представлений предложений и текстов. Она использует подход Sentence-BERT с сиамскими сетями и предназначена для работы с библиотекой Sentence-Transformers. Модель содержит 137,8 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Модель рассчитана на корейский язык и обучена на данных KLUE. Её можно применять для сравнения семантической близости предложений и извлечения текстовых эмбеддингов для поиска и группировки. В репозитории представлены веса PyTorch. Условия лицензии в предоставленных данных не указаны.
Карточка модели Veritone/siglip2-so400m-patch16-384 на Hugging Face совпадает с карточкой google/siglip2-so400m-patch16-384, поэтому описание составлено по ней. SigLIP 2 So400m — модель семейства SigLIP 2, разработанная Google и предназначенная для сопоставления изображений и текста. Её применяют для классификации изображений по произвольным текстовым меткам, поиска изображений по текстовому запросу и как визуальный энкодер для мультимодальных моделей и других задач компьютерного зрения. Модель использует плотную архитектуру SigLIP и представлена в формате safetensors; работать с ней можно через Transformers. Предобучение проведено на наборе WebLI. SigLIP 2 развивает подход к предобучению SigLIP, объединяя его с ранее разработанными методами для улучшения семантического понимания, локализации и извлечения плотных признаков. Лицензия — Apache 2.0. Модель обрабатывает изображения и текстовые метки и выдаёт оценки соответствия; качество зависит от формулировок меток и характеристик изображений. README не приводит конкретных ограничений применения.
Это версия SigLIP SoViT-400m, подготовленная zeromodels в формате Keras 3 на основе google/siglip-so400m-patch14-224. Модель использует двойной визуально-текстовый энкодер: принимает изображения и текстовые запросы, чтобы классифицировать изображения по произвольным текстовым меткам без отдельного обучения на этих метках. Поддерживает разрешение 224 × 224; реализация Keras может работать с TensorFlow, PyTorch или JAX. Модель подходит для поиска изображений по описанию и классификации изображений по пользовательским категориям. В README отмечено, что обучение SigLIP использует попарную сигмоидальную функцию потерь вместо контрастивного softmax-подхода CLIP. Репозиторий распространяется по лицензии Apache 2.0. Это преобразованная версия базовой модели, поэтому её возможности и ограничения в основном наследуются от SigLIP; качество зависит от формулировки текстовых запросов и соответствия изображений обучающим данным.
pkshatech разработала японскую модель SimCSE для получения векторных представлений предложений. Она основана на cl-tohoku/bert-base-japanese-v2 и дообучена на обучающей выборке JSNLI — набора для японского логического вывода на естественном языке. Модель использует архитектуру BERT-base с примерно 138,4 млн параметров и формирует эмбеддинг через слой полносвязного преобразования представления [CLS]. Модель предназначена для сравнения смысловой близости японских предложений, семантического поиска и задач, где нужны эмбеддинги предложений. В README указаны обучение в течение 20 эпох, использование сложных негативных примеров и максимальная длина последовательности 128 токенов; контекст модели по метаданным — до 512 токенов. Доступны веса PyTorch, лицензия — CC BY-SA 4.0.
BuzzASR/slovenian — одноязычная модель автоматического распознавания речи для словенского языка, разработанная как часть набора BuzzASR из 102 специализированных моделей. Она дообучена методом fine-tuning на базе openai/whisper-large-v3 и использует архитектуру Whisper large-v3 с 905,2 млн параметров. Модель принимает аудио и преобразует речь в текст; языковая и задачная подсказка включена в конфигурацию генерации. Модель предназначена для транскрибации словенской речи. В приведённых тестах FLEURS и Common Voice 25 она показала CER 4,98% и 0,65% соответственно, а на объединённом наборе — CER 2,31% и WER 7,83%; результаты относятся к указанным тестовым выборкам. Обучение использовало данные FLEURS, Common Voice Corpus 25.0 и текстовые данные корпуса Goldfish. Модель выпущена под лицензией MIT.
simran14/small_8_17f — модель распознавания речи на базе Whisper Small, дообученная Simran14 на датасете Common Voice 17.0. Она предназначена для преобразования аудио в текст; в README для оценки на тестовой выборке указаны loss 0,0436 и WER 4,1154. Модель содержит 153,1 млн параметров и распространяется в формате Safetensors для Transformers. Модель рассчитана на распознавание речи на языке маратхи, указанном в метаданных. Лицензия Apache-2.0 разрешает использование и распространение на её условиях.
Это англоязычный разреженный текстовый энкодер SPLADE, опубликованный tomaarsen и дообученный на базе Luyu/co-condenser-marco с помощью Sentence Transformers. Модель преобразует предложения и абзацы в разреженные векторы размерности 30 522; близость оценивается скалярным произведением. Архитектура включает BERT с masked language modeling и SPLADE-пулингом по максимуму с ReLU. Модель предназначена для семантического поиска и разреженного поиска информации: например, для ранжирования документов по запросу в поисковых системах и системах retrieval. Максимальная длина входной последовательности — 512 токенов. Для дообучения использовались 99 000 примеров; в README приведены оценки на NanoMSMARCO, NanoNFCorpus и NanoNQ. Модель принимает текст на английском языке и выдаёт разреженные векторные представления. В репозитории указаны веса Safetensors, библиотека Sentence Transformers и лицензия Apache-2.0. Результаты оценки относятся к небольшим наборам Nano и сами по себе не гарантируют качество на других данных.
Это англоязычный разреженный энкодер SPLADE, разработанный tomaarsen и дообученный на базе Luyu/co-condenser-marco с использованием Sentence Transformers и данных MS MARCO. Модель преобразует предложения и абзацы в разреженные векторы размерностью 30 522, пригодные для поиска и ранжирования текстов по скалярному произведению. Архитектура включает BERT с MLM-головой и пулинг SPLADE; максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и разреженного извлечения документов, например поиска ответов по запросам в коллекции текстов. В карточке приведены результаты оценивания на наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR. Поддерживается английский язык. Лицензия — Apache-2.0.
StarChat Alpha — языковая модель для диалогового взаимодействия и помощи с программированием, разработанная Hugging Face H4. Это первая альфа-версия семейства StarChat, дообученная на базе bigcode/starcoderbase на сме́си наборов OpenAssistant/oasst1 и databricks/databricks-dolly-15k. Модель имеет архитектуру GPTBigCodeForCausalLM, содержит 16 млрд параметров и принимает текст, генерируя текст; длина контекста — 8192 токена. В карточке заявлена поддержка английского языка. Модель подходит для ответов на вопросы о программировании, генерации и обсуждения кода, а также для изучения возможностей открытых языковых моделей в программировании. Это ранний выпуск без выравнивания с предпочтениями людей посредством RLHF. Модель может выдавать токсичный или иной проблемный контент, ошибочный либо небезопасный код и вымышленные URL, поэтому результаты требуют проверки. Лицензия — BigCode Open RAIL-M v1.
sentence-transformers/stsb-roberta-base — модель Sentence Transformers, обученная командой sentence-transformers на архитектуре RoBERTa. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости, кластеризации и семантического поиска. Модель содержит 151,8 млн параметров, принимает текст и поддерживает контекст до 514 токенов; доступны версии в форматах PyTorch, TensorFlow, ONNX и OpenVINO. Карточка модели предупреждает, что эмбеддинги имеют низкое качество и модель устарела, поэтому для новых проектов рекомендуется выбрать более современную модель эмбеддингов. Лицензия — Apache-2.0.
T3qT3qm7-7B — автоматически объединённая языковая модель на архитектуре Mistral, созданная Maxime Labonne методом DARE-TIES на основе chihoonlee10/T3Q-Mistral-Orca-Math-DPO и nlpguy/T3QM7. Она предназначена для генерации текста и диалоговых ответов, включая ответы на математические запросы. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors; метаданные указывают лицензию Apache-2.0. Сведения о языках и специальных ограничениях модели в предоставленной карточке отсутствуют.
ta_PP-OCRv5_mobile_rec — мобильная модель распознавания строк текста из семейства PP-OCRv5_rec, разработанная командой PaddleOCR. Она предназначена для распознавания тамильского текста на изображениях и может использоваться как модуль распознавания в конвейере OCR, который также включает обнаружение строк и, при необходимости, коррекцию ориентации и геометрии изображения. Модель принимает изображения строк и возвращает распознанный текст; в README для неё указана точность 87,65% по строгому критерию, где ошибка в любом символе делает всю строку неверной. Мобильный вариант ориентирован на эффективную работу. Для полного распознавания текста на документе или изображении модель следует применять вместе с детектором текста и другими необходимыми модулями PP-OCRv5. Карточка не сообщает размер модели и длину контекста. Лицензия — Apache-2.0.
utahnlp/tevatron-elastic-modernbert-retriever-2d — плотный текстовый ретривер, дообученный на базе answerdotai/ModernBERT-base с помощью Tevatron-Elastic. Модель предназначена для поиска релевантных документов по запросу и рассчитана на использование с префиксами query: и passage:. Чекпойнт поддерживает эластичное сокращение глубины и ширины сети по схеме 2D Matryoshka: можно выбирать рабочую точку через prune_to и encode_at, балансируя размер представлений и качество поиска. Модель содержит 149 млн параметров, работает с контекстом до 8192 токенов и поставляется в формате safetensors; README указывает максимум 512 токенов при обучении. В тесте BEIR-15 результат полной конфигурации составил nDCG@10 0,450. Модель разработана Utah NLP и представлена как ресурс для воспроизводимости в рамках статьи Tevatron-Elastic; авторы не заявляют превосходство над современными моделями. Она дообучена на rlhn/rlhn-680K. Базовая модель англоязычная, поэтому основной язык применения — английский. Лицензия — Apache-2.0.
TinyBERT_General_6L_768D — компактная предварительно обученная языковая модель на основе BERT, разработанная лабораторией HUAWEI Noah’s Ark Lab. Это общая версия TinyBERT, полученная дистилляцией BERT-base; она предназначена как начальная модель для задач понимания естественного языка и может дообучаться под конкретные задачи. Модель содержит около 80,1 млн параметров, имеет 6 слоёв Transformer, скрытый размер 768 и принимает последовательности длиной до 512 токенов. Модель работает с текстом и рассчитана на английский язык. Разработчики сообщают, что TinyBERT в целом существенно меньше и быстрее при инференсе, чем BERT-base, сохраняя конкурентное качество на задачах понимания языка. Сам репозиторий содержит базовую модель без отдельной классификационной или иной task-specific головы, поэтому для прикладного использования её обычно дообучают. Карточка Hugging Face не содержит сведений о лицензии.
Alibaba-NLP/UEmbed-9B — мультимодальная модель эмбеддингов на базе декодерной архитектуры Qwen3.5 с 9 млрд параметров. Она за один проход формирует плотные векторы и разреженные SPLADE-представления, пригодные для поиска по смыслу и по лексическим совпадениям. Модель принимает текст, изображения, видео и смешанные входы, представляя их в общем пространстве поиска. Модель предназначена для построения текстовых и мультимодальных поисковых систем, включая поиск по изображениям и визуальным документам. Плотные нормализованные векторы подходят для семантического поиска, а разреженные активации связаны с терминами словаря и могут использоваться в обратном индексе. Согласно карточке, модель обучена на 3,94 млн публичных примеров, включая данные для текстового и мультимодального поиска. Репозиторий использует библиотеку Transformers и формат safetensors; лицензия — CC BY 4.0.
ViT-B-16-SigLIP-i18n-256 — модель контрастивного сопоставления изображений и текста, обученная на датасете WebLI с функцией потерь SigLIP. Чекпойнт преобразован из исходного JAX-формата Big Vision в PyTorch и совместим с OpenCLIP для работы с изображениями и текстом, а также с timm для получения эмбеддингов изображений. Модель предназначена для классификации изображений по текстовым описаниям без дополнительного обучения: она сопоставляет изображение с набором предложенных текстовых меток. Также её можно использовать для получения эмбеддингов изображений. Метаданные Hugging Face указывают задачу zero-shot image classification, библиотеку open_clip и лицензию Apache-2.0. Обозначение i18n указывает на многоязычную версию, однако конкретный перечень поддерживаемых языков и размер входного изображения в предоставленных данных не подтверждены. Модель выдаёт оценки соответствия изображения текстовым описаниям или эмбеддинги; качество зависит от формулировок меток и покрытия обучающих данных WebLI.
timm/ViT-SO400M-14-SigLIP2-378 — контрастивная модель «изображение—текст» семейства SigLIP 2, обученная на наборе WebLI. Чекпойнт из исходных JAX-весов Big Vision преобразован для использования в OpenCLIP; модель предназначена для классификации изображений без дообучения по текстовым описаниям классов. Модель сопоставляет изображение с текстовыми вариантами и позволяет выбирать наиболее подходящее описание. Её можно применять для категоризации изображений по произвольным текстовым меткам и поиска изображений по смысловому соответствию. Репозиторий предоставляет веса PyTorch в формате safetensors и использует библиотеку OpenCLIP. Лицензия — Apache-2.0.
jadasdn/wav2vec2-2 — дообученная модель распознавания речи на базе jadasdn/wav2vec2-1. Она использует архитектуру Wav2Vec2ForCTC и содержит 113,3 млн параметров. Модель принимает аудио и преобразует речь в текст; README сообщает результат оценки WER 0,3593 и loss 0,8353. Модель подойдёт для распознавания речи в аудиозаписях и интеграции в системы автоматической транскрибации. Данные о поддерживаемых языках, обучающем наборе и целевых сценариях в карточке не приведены. Распространяется по лицензии Apache-2.0.
Модель oliverguhr/wav2vec2-base-german-cv9 — акустическая модель распознавания немецкой речи, разработанная на основе facebook/wav2vec2-base и дообученная на немецкой части набора Mozilla Common Voice 9.0. Это архитектура Wav2Vec2 с CTC-декодированием, содержащая 113,3 млн параметров; веса доступны в форматах PyTorch и Safetensors. Модель предназначена для преобразования аудиозаписей немецкой речи в текст. На оценочной выборке указаны loss 0,1742 и WER 0,1209. Лицензия — MIT. Карточка не описывает условия записи аудио и возможные различия качества для акцентов, шумных записей и других условий, поэтому результаты могут отличаться на данных вне обучающего набора.
jonatasgrosman/wav2vec2-large-xlsr-53-polish — модель распознавания польской речи, разработанная Jonatas Grosman как дообучение facebook/wav2vec2-large-xlsr-53 на обучающей и валидационной выборках Common Voice 6.1. Это плотная модель архитектуры wav2vec2 с 402,7 млн параметров и выходной головой CTC; доступны веса PyTorch и Flax. Модель принимает аудио и преобразует речь на польском языке в текст. Для подачи аудио требуется частота дискретизации 16 кГц. Она предназначена для автоматического распознавания речи, в том числе записей, подобных материалам Common Voice. Модель распространяется по лицензии Apache-2.0. Карточка демонстрирует применение без языковой модели и перечисляет оценки на тестовой выборке Common Voice 6.0 и наборе speech-recognition-community-v2; конкретные показатели в предоставленном фрагменте отсутствуют.
bofenghuang/whisper-large-v3-french-distil-dec16 — дистиллированная версия Whisper Large V3 French, созданная путём сокращения числа слоёв декодера с 32 до 16 и обучения на крупном наборе данных. Модель предназначена для распознавания французской речи и преобразования аудио в текст. Она содержит около 905,2 млн параметров, построена на архитектуре Whisper и поддерживает аудиовход; карточка описывает использование через Transformers и совместимые реализации Whisper. Сокращённый декодер уменьшает расход памяти и ускоряет вывод при сохранении качества, соответствующего числу оставшихся слоёв. В README также отмечено снижение риска галлюцинаций при длинных транскрипциях и возможность ускорения исходной модели Whisper Large V3 French через speculative decoding. Для длинного аудио можно использовать разбиение на фрагменты, но такой способ может немного уступать последовательному алгоритму по качеству. Модель распространяется по лицензии MIT.
Whisper Tamil Medium — модель распознавания речи на основе архитектуры Whisper, дообученная Vasista22 на корпусах тамильской речи в рамках спринта по тонкой настройке Whisper. Модель принимает аудио и генерирует текстовую транскрипцию на тамильском языке; её можно применять для расшифровки записей и оценки качества распознавания на тамильских аудиокорпусах. Модель содержит около 455,8 млн параметров. В репозитории представлены варианты PyTorch и Flax; карточка также приводит пример использования через Whisper JAX. Обучение проводилось на нескольких общедоступных корпусах тамильской речи, включая IISc-MILE, ULCA, Shrutilipi, Microsoft Speech Corpus, Fleurs и Babel. Лицензия — Apache-2.0.