II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейRF-DETR Seg Medium — модель сегментации отдельных объектов, разработанная Roboflow на основе семейства RF-DETR, представленного Robinson и соавторами. Она предназначена для обнаружения объектов на изображениях и выдаёт маску для каждого экземпляра, а также ограничивающую рамку и оценку класса. Чекпойнт обучен на разметке COCO 2017 для 80 категорий объектов. Архитектура сочетает vision transformer в стиле DINOv2 с регистрами и чередованием оконного и полноформатного внимания, многоуровневый проектор признаков и декодер на основе Deformable DETR с головой сегментации экземпляров. Модель доступна в формате safetensors и интегрирована с библиотекой Transformers. Подходит для сценариев, где нужно находить и разделять экземпляры объектов на изображениях. Лицензия — Apache-2.0. Карточка не приводит ограничений на разрешение входных изображений или оценок качества.
Aniemore/rubert-large-emotion-russian-cedr-m7 — русскоязычная модель классификации эмоций, разработанная Aniemore. Она дообучена на датасете Aniemore/cedr-m7 на базе sberbank-ai/ruBert-large и предназначена для определения семи эмоций в тексте. Выход многометочный: каждой эмоции присваивается независимая оценка, поэтому текст может получить несколько меток или не получить ни одной. Модель содержит 525,7 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в форматах PyTorch и safetensors. На тестовой выборке CEDR-M7 указаны ROC AUC 0,9258 для macro и 0,9714 для micro. Порог 0,5 использовался для расчёта macro-F1; для практического применения пороги следует настроить на данных конкретной задачи. Модель подходит для анализа тональности и эмоций в русскоязычных сообщениях и отзывах, но результаты зависят от соответствия входных текстов обучающему датасету. Лицензия — MIT.
pyannote/segmentation-3.0 — модель сегментации речи и активности говорящих от Séverin Baroudi, обученная с помощью pyannote.audio 3.0. Она принимает монофонический звук длительностью 10 секунд с частотой 16 кГц и выдаёт матрицу по временным кадрам с семью классами: тишина или неречевая активность, три отдельных говорящих и три возможные пары говорящих при перекрытии речи. Модель подходит для определения голосовой активности, сегментации говорящих и обнаружения одновременной речи в аудиофрагментах; сама по себе она не выполняет диаризацию целых записей, для которой нужен дополнительный пайплайн и модель эмбеддингов говорящих. Обучение проводилось на объединении наборов AISHELL, AliMeeting, AMI, AVA-AVD, DIHARD, Ego4D, MSDWild, REPERE и VoxConverse. Для использования требуется pyannote.audio 3.0, принятие условий модели на Hugging Face и токен доступа. Модель распространяется по лицензии MIT; README рекомендует рассмотреть сервис pyannoteAI для более быстрого и качественного промышленного применения.
Это модель Silero VAD версии 6.2 в формате ONNX, опубликованная пользователем istupakov для работы с onnx-asr. Она определяет участки речи в аудиозаписи и может использоваться как этап предварительной обработки перед распознаванием речи, например вместе с Parakeet v3 ASR для анализа WAV-файлов. Формат ONNX позволяет запускать модель через совместимые среды выполнения.
Модель richielo/small-e-czech-finetuned-ner-wikiann — компактная модель распознавания именованных сущностей для чешского языка, разработанная путём дообучения Seznam/small-e-czech на датасете WikiANN. Она основана на архитектуре ELECTRA, содержит 20,4 млн параметров и принимает последовательности длиной до 512 токенов. Модель присваивает метки отдельным токенам и подходит для извлечения сущностей из чешских текстов. На оценочной выборке указаны precision 0,8713, recall 0,8970, F1 0,8840 и accuracy 0,9557. Модель распространяется в формате PyTorch по лицензии CC BY 4.0. Оценки относятся к указанной выборке; подробности о составе классов и поведении на других текстах в карточке не приведены.
SynapseLLM-7B-Mistral-v0.5-preview — предварительная дообученная WebraftAI языковая модель на архитектуре Mistral, представленная в виде полной модели со слитыми адаптерами. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалогах, ответы на вопросы и выполнение инструкций по программированию; заявленный контекст — до 32 768 токенов. Обучение выполнено на английском языке на выборке с математическими и общими вопросами и ответами, а также примерами кода, включая Python. Модель может использоваться для англоязычных ответов на вопросы, помощи с кодом и разговорных сценариев. В README указана ограниченная область дообучения и предварительный характер версии. Среди известных ограничений — фактические ошибки, слабое следование системным инструкциям и отсутствие долговременной памяти. Лицензия — Apache 2.0.
Uraion Forge 2B — компактная языковая модель Uraion Labs для генерации текста, агентных сценариев и рассуждений. Это дообучение openbmb/MiniCPM5-2B с плотной архитектурой LlamaForCausalLM; модель содержит 2,2 млрд параметров и принимает контекст до 131 072 токенов. Репозиторий содержит веса Safetensors, а карточка описывает использование через Transformers и развёртывание на GPU и устройствах с ограниченными ресурсами. Модель предназначена для многошаговых рабочих процессов с вызовом инструментов, генерации кода, количественных задач и ответов в структурированном JSON. Разработчик заявляет, что обучение направлено на сокращение затянутых рассуждений, ошибок в параметрах вызовов и потери состояния между ходами; в карточке также приведены результаты внутренних тестов на агентных сценариях, коде и длинном контексте. Указанная лицензия — Apache-2.0. Результаты бенчмарков в README относятся к тестам разработчика; в частности, показатели генерации кода заметно ниже результатов агентных рабочих процессов. Модель компактна, поэтому её общие возможности ограничены по сравнению с более крупными языковыми моделями.
Модель harrytechiz/vit-base-patch16-224-blur_vs_clean — дообученная на наборе данных imagefolder модель Vision Transformer от Google для классификации изображений на категории «размытое» и «чистое». Она основана на google/vit-base-patch16-224, использует архитектуру ViTForImageClassification и содержит 113,2 млн параметров. На тестовом наборе автор сообщает точность 0,9754 и потери 0,0714. Модель предназначена для автоматической проверки резкости изображений, например, для отбора кадров или контроля качества загружаемых фотографий. Пригодность метрик к другим данным зависит от сходства изображений с обучающим и оценочным наборами. Лицензия — Apache-2.0.
unslothai/vram-40 — модель на архитектуре Llama, опубликованная Unsloth. Карточка Hugging Face указывает задачу извлечения признаков и использование через Transformers как `AutoModel` с токенизатором. Назначение модели — получать числовые представления входного текста для последующей обработки. Доступные сведения не подтверждают её размер, языки, длину контекста или лицензию, поэтому эти характеристики не приводятся.
Thanish разработал модель автоматического распознавания речи на тамильском языке, дообучив facebook/wav2vec2-large-xlsr-53 на данных Common Voice. Это модель Wav2Vec2ForCTC с 402,7 млн параметров, принимающая аудио и выдающая распознанный текст. Для входной речи требуется частота дискретизации 16 кГц; модель можно использовать без отдельной языковой модели. В карточке приведён результат 100% на тестовых данных Common Voice, но без описания метрики и протокола оценки это число нельзя считать полной оценкой качества. Модель распространяется по лицензии Apache-2.0.
TurkuNLP разработала многоязычную модель классификации регистров веб-текстов. Это дообученная на основе FacebookAI/xlm-roberta-large модель XLM-RoBERTa-large с архитектурой классификации последовательностей и 658,7 млн параметров. Она присваивает документам метки таксономии CORE: например, определяет, является ли текст новостным сообщением, инструкцией, отзывом, обсуждением или информационным описанием; некоторые метки образуют иерархию. Модель обучена на корпусах CORE для английского, финского, французского, шведского и турецкого языков. Она может выдавать прогнозы для языков, охватываемых XLM-RoBERTa-large; в README приведены результаты переноса на дополнительные языки. Контекст модели составляет 514 токенов. В тестах на обучающих языках F1 для всех меток составляет 0,72–0,79, а для основных меток — 0,75–0,82; результаты переноса на другие языки ниже, поэтому качество может зависеть от языка и типа текста. Модель предназначена для анализа жанровых и регистровых различий в корпусах и поддержки разработки открытых языковых моделей. Распространяется по лицензии Apache-2.0.
XtremeDistil L6 H256 Uncased — компактная дистиллированная модель на архитектуре BERT, опубликованная Microsoft. Она предназначена для переноса знаний между задачами и может служить основой для классификации текста и извлечения признаков. В метаданных указаны 14,1 млн параметров, контекст до 512 токенов и поддержка английского языка; доступны веса PyTorch и TensorFlow. Модель подходит для классификации коротких текстов и как лёгкое представление текста в NLP-конвейерах, где важны компактность и скорость. В README приведены результаты семейства XtremeDistil на GLUE и SQuAD, но указанные там размер и конфигурация относятся к варианту L6 H384, поэтому их нельзя считать характеристиками этого чекпойнта. Лицензия — MIT.
dsfsi-anv выпустил дообученную версию Whisper Large V3 Turbo для мультиязычного автоматического распознавания речи. Модель построена на архитектуре Transformer encoder-decoder и содержит около 905,2 млн параметров; она дообучена на наборе ANV (Swivuriso), чтобы улучшить распознавание языков и акцентов, представленных в этом корпусе. Модель предназначена для преобразования аудио в текст, в том числе для работы с языками с ограниченными ресурсами и исследований адаптации распознавания речи. В оценке на тестовом наборе указаны WER 0,1501 и CER 0,0510. Для использования доступна библиотека Transformers, веса сохранены в формате safetensors. Как и базовый Whisper, модель может повторять текст или галлюцинировать, особенно на тишине и при фоновом шуме. Качество может снижаться на записи с акцентами, шумом и характеристиками, заметно отличающимися от данных ANV. Лицензия — MIT.
Ælæctra — датская модель на базе ELECTRA-Small, дообученная Malte Højmark-Bertelsen для распознавания именованных сущностей в датском тексте на датасете DaNE. Это компактный трансформер с 20,8 млн параметров и контекстом до 512 токенов; доступны веса PyTorch и TensorFlow. Модель предназначена для разметки токенов и извлечения именованных сущностей из датских документов и текстов. В оценке на тестовом наборе DaNE вариант Cased показал micro-F1 80,08 без метки MISC. В README отмечено, что результат немного ниже, чем у датского BERT и multilingual BERT, зато модель значительно компактнее и требует меньше вычислительных ресурсов. Лицензия — MIT. કાર
LazarusNLP разработала all-indo-e5-small-v4 — модель Sentence-Transformers на архитектуре BERT с 124,3 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерностью 384 и предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель обучалась с функцией потерь CachedMultipleNegativesRankingLoss на наборах данных для семантического сходства, поиска и вопросов и ответов. Контекст ограничен 512 токенами. Репозиторий содержит веса в форматах Safetensors и ONNX; лицензия в предоставленных данных не указана.
THemidli разработала компактный англоязычный классификатор токенов для распознавания именованных сущностей. Это дообученная модель prajjwal1/bert-mini на основе BERT с 11,1 млн параметров; она размечает последовательности восемью типами сущностей: PERSON, ORGANIZATION, LOCATION, TIMEDATE, PRODUCT, WORKOFART, JOB и AMOUNT. Максимальная длина контекста — 512 токенов, лицензия — Apache-2.0. Модель рассчитана на извлечение сущностей из английского текста, например для первичной разметки документов и последующей обработки результатов. В README приведены тестовый F1 0,646 и оценка F1 0,769 на 40 вручную размеченных примерах; результаты на малой выборке не гарантируют качества на других данных. Модель обучена на небольшом неоднородном наборе данных, а распознавание организаций, продуктов, произведений и границ должностей отмечено как слабое. Автор не рекомендует считать её готовой системой защиты персональных данных.
Toshifumi разработал эту модель на основе bert-base-multilingual-cased, дообучив её на наборе данных emotion для классификации эмоций в тексте. Это многоязычная модель BERT с архитектурой BertForSequenceClassification и 205,1 млн параметров; она принимает текст и выдаёт метку класса. Максимальная длина контекста составляет 512 токенов. На оценочной выборке указаны Accuracy 0,9195 и F1 0,9205. Модель распространяется по лицензии Apache-2.0. Подходит для определения эмоциональной категории коротких текстов, например сообщений или отзывов. README не уточняет список меток, языковой состав обучающих и оценочных данных и ограничения качества по отдельным языкам, поэтому результаты не следует считать одинаково надёжными для всех языков и типов текста.
jurabi разработала японскую модель BERT для распознавания и классификации именованных сущностей в тексте. Модель использует архитектуру BertForTokenClassification и насчитывает 138,4 млн параметров; для токенизации применяется японский BERT-токенизатор. Базовая модель — cl-tohoku/bert-base-japanese-v2, дообученная на наборе stockmarkteam/ner-wikipedia-dataset. Модель извлекает восемь типов сущностей: имена людей, компании, политические и другие организации, географические названия, объекты инфраструктуры, названия продуктов и произведений, а также события. Она принимает японский текст и возвращает разметку токенов с типами сущностей; поддерживает контекст до 512 токенов и доступна в форматах PyTorch и TensorFlow. Подходит для извлечения сущностей из японских документов и текстов на основе Википедии. В README не приведены оценки качества; результат на других жанрах текста может отличаться. Лицензия — Creative Commons Attribution-ShareAlike 3.0.
BERT-Tiny_L-2_H-128_A-2 — компактная модель семейства BERT, опубликованная nreimers. В карточке она описана как модель Google с 2 слоями, размером скрытого представления 128 и 2 головами внимания; метаданные указывают 4,4 млн параметров и архитектуру BertModel. Модель предназначена для извлечения признаковых представлений текста и может использоваться как основа для задач, которым нужны векторные представления последовательностей. Максимальная длина контекста — 512 токенов. Доступны веса PyTorch и Flax. Карточка не сообщает о специальной предметной области, языковой специализации или ограничениях качества. Лицензия в предоставленных данных не указана.
stinoco/beto-sentiment-analysis-finetuned — дообученная модель классификации текста на базе finiteautomata/beto-sentiment-analysis. Она предназначена для анализа тональности текста. Модель построена на архитектуре BERT и содержит 137,1 млн параметров; максимальный контекст составляет 512 токенов. На оценочном наборе данных модель показала accuracy 0,7757 и F1 0,7773. Язык, состав обучающих данных, набор классов тональности и лицензия в доступных сведениях не описаны.
Модель carted-nlp/categorization-finetuned-20220721-164940-pruned-20220803-184651 — дообученный классификатор текста на базе RoBERTa, разработанный carted-nlp. Она предназначена для категоризации текстовых последовательностей и относится к архитектуре RobertaForSequenceClassification; содержит около 120,9 млн параметров и принимает последовательности длиной до 514 токенов. В карточке приведены результаты оценки: accuracy 0,8760 и F1 0,8751 при loss 0,4673. Датасет указан как None, а назначение категорий, языки и прикладная область не раскрыты. Модель опубликована в формате PyTorch; сведения о лицензии в предоставленных данных отсутствуют.
CleverBoi-Llama-3.1-8B-v2 — языковая модель для генерации текста, разработанная theprint. Она дообучена на базе unsloth/meta-llama-3.1-8b-bnb-4bit в течение одной эпохи с использованием набора CleverBoi-Data-20k, содержащего данные с акцентом на логику, рассуждения, математику и программирование. Для обучения применялись Unsloth и библиотека Hugging Face TRL. Модель предназначена для текстовой генерации и сценариев, где важны решение логических задач, выводы, математические рассуждения и задачи программирования. Заявленный язык — английский. Известно, что модель основана на варианте Llama 3.1 с размером 8B параметров и 4-битным представлением; сведения о длине контекста и дополнительных модальностях не указаны. Сильная сторона модели — специализированное дообучение на задачах логики, математики и кода. В Open LLM Leaderboard она получила средний результат 14,01: IFEval — 19,61, BBH — 24,13, MATH Level 5 — 4,46, GPQA — 4,81, MuSR — 6,72 и MMLU-PRO — 24,31. Эти показатели следует учитывать как результаты конкретных тестовых режимов, а не как гарантию качества в прикладных сценариях. Модель распространяется по лицензии Apache-2.0.
Это исследовательский чекпойнт Qwen3-4B-Instruct-2507, дообученный методом обучения с подкреплением GRPO командой, опубликовавшей модель agurung. Обучение проводилось напрямую от базовой instruct-модели без промежуточного SFT; чекпойнт сохранён на шаге 24. Это плотная причинная языковая модель на 3,7 млрд параметров с контекстом до 262 144 токенов, представленная в формате safetensors и рассчитанная на запуск через Transformers. Модель ориентирована на генерацию кода для задач программирования с автоматической проверкой тестами. Обучение использовало бинарную награду за прохождение тестов и специально отобранные сложные задачи; в рамках данного запуска этот чекпойнт показал лучший результат pass@8. Эти результаты характеризуют конкретную экспериментальную оценку и не гарантируют качество на других наборах задач. Лицензия в предоставленных данных не указана. Модель унаследовала основу Qwen3-4B-Instruct-2507, однако условия её использования следует сверить с лицензией исходной модели и карточкой этого чекпойнта.
Salesforce AI Research CoDA-v0-Base — базовая языковая модель на основе дискретной диффузии с плотной архитектурой CoDA и 1,7 млрд параметров. Она предназначена прежде всего для генерации и дополнения кода, а также для дальнейшего дообучения и обучения с подкреплением. Двунаправленный контекст позволяет учитывать токены как до, так и после позиции генерации; для выборки используется управление по уверенности. Модель работает с текстом и рассчитана на английский язык; максимальная длина контекста — 40 960 токенов. Карточка приводит результаты CoDA-Base на HumanEval, HumanEval+ и MBPP, но не описывает их как гарантию качества для конкретного кода или проекта. Модель опубликована в формате safetensors для Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
CodeGemma 2B — компактная предварительно обученная модель для работы с кодом, разработанная Google на основе Gemma. Это декодерная текстовая модель с 2 млрд параметров, рассчитанная прежде всего на быстрое автодополнение кода, включая заполнение пропусков между заданным префиксом и суффиксом (fill-in-the-middle) в редакторе. Она принимает фрагменты кода и контекст, а также текстовые подсказки, и генерирует продолжение кода или текст. Модель подходит для встраивания в IDE и сценариев помощи при написании кода. При обучении использовались преимущественно англоязычные данные из открытых репозиториев кода, математические наборы данных и синтетически созданный код. Карточка указывает лицензию Gemma; использование регулируется условиями Google Gemma. Это предварительно обученная модель, не предназначенная для диалогового взаимодействия: возможности чата и следования инструкциям в карточке отнесены к варианту CodeGemma 7B IT. Как и другие большие языковые модели, она может выдавать ошибочный код; карточка отсылает к ограничениям Gemma.
Salesforce CodeGen-Multi 16B — авторегрессионная плотная языковая модель для генерации программного кода. Вариант Multi инициализирован на CodeGen-NL 16B и дополнительно предобучен на корпусе BigQuery из 119,2 млрд токенов кода из GitHub. В модели 16 млрд параметров; архитектура CodeGenForCausalLM, формат PyTorch, контекст — 2048 токенов. Модель предназначена прежде всего для синтеза кода по инструкциям на английском языке, заданным в виде комментариев, и продолжения частично написанного кода. В обучающих данных представлены C, C++, Go, Java, JavaScript и Python. Она также может извлекать признаки из текста и оценивать его правдоподобие, но не предназначена для всех последующих сценариев без отдельной оценки качества и рисков. Модель выпущена Salesforce для исследовательского использования в рамках академической работы. Лицензия — BSD-3-Clause. Возможны ошибки в генерируемом коде; авторы рекомендуют проверять точность, безопасность и справедливость перед внедрением.
Это конвертированная версия CodeGen2 3.7B, подготовленная Michael Feil для FauxPilot: веса Salesforce/codegen2-3_7B преобразованы для совместимости с архитектурой GPT-J. Модель авторегрессионная, с архитектурой GPTJForCausalLM и 3,7 млрд параметров; использует формат PyTorch/Safetensors и контекст до 2048 токенов. Конверсия датирована 22 мая 2023 года. Модель предназначена прежде всего для генерации и дополнения программного кода по текстовым инструкциям на английском языке, а также для заполнения пропусков внутри фрагмента кода. В обучении использован разрешительный дедуплицированный поднабор Stack v1.1; заявлена поддержка C, C++, C#, Dart, Go, Java, JavaScript, Kotlin, Lua, PHP, Python, Ruby, Rust, Scala, shell, SQL, Swift, TypeScript и Vue. Лицензия репозитория — Apache-2.0. Качество результата может зависеть от точности англоязычного запроса и предоставленного контекста; сгенерированный код следует проверять и тестировать. Модель описана как наиболее подходящая для синтеза программ и может извлекать признаки из текстов, но карточка не приводит конкретных оценок качества.
pestova/deepseek-coder-1.3b-function-calling-v1 — компактная языковая модель для генерации текста и кода, опубликованная пользователем pestova на Hugging Face. По названию модели она ориентирована на сценарии function calling, то есть формирование структурированных вызовов функций или инструментов.
DeepSeek-V4-Pro-Qwen3.5-9B — компактная языковая модель для генерации текста и рассуждений, разработанная Jackrong на базе Qwen3.5-9B. Она создана методом дистилляции ответов DeepSeek-V4-Pro в режиме Max Effect и ориентирована прежде всего на математические и STEM-задачи, многошаговое решение проблем, структурированное рассуждение, программирование, использование инструментов и function calling. Модель содержит около 9 миллиардов параметров и обучалась примерно на 250 000 примерах по математике и научному рассуждению. Указана поддержка английского, китайского, корейского, японского, испанского и русского языков. Модель относится к текстовым генеративным системам; сведения о точной архитектуре и размере контекстного окна не приведены. Отдельно заявлены оценка MTP и варианты развертывания через vLLM с NVFP4 и llama.cpp с MTP-Q8_0. Сильными сторонами являются компактный размер, ориентация на математическое и научное рассуждение, перенос улучшений на программирование и использование инструментов без специализированного SFT по коду, а также пригодность для практического локального развертывания. Ограничения включают узкую специализацию обучающих данных и отсутствие подробных количественных результатов оценки; качество в других доменах не подтверждено. Модель распространяется по лицензии Apache-2.0.
Sortformer Diarizer 4spk v1 — модель NVIDIA для офлайн-диаризации речи, которая определяет активность до четырёх говорящих и отмечает временные границы их реплик. Она предназначена для анализа аудиозаписей разговоров, встреч, интервью и других многоголосых записей; модель не распознаёт произнесённые слова и не формирует текстовую расшифровку. Архитектура включает 18-слойный энкодер NeMo NEST на основе Fast-Conformer, за которым следует 18-слойный Transformer с размером скрытого слоя 192 и четырьмя сигмоидальными выходами на кадр. На вход подаётся моноаудио с частотой 16 кГц. Выход — вероятности активности каждого из четырёх говорящих по кадрам длительностью 0,08 секунды, из которых можно получить сегменты с временными метками и индексами говорящих. Модель работает в офлайн-режиме; длительность записи ограничена доступной видеопамятью. Она обучалась преимущественно на англоязычных данных, поэтому качество может снижаться для других языков и шумных или иных вне-доменных записей, а для более чем четырёх участников оно ухудшается. Модель доступна как предварительно обученный чекпойнт для NVIDIA NeMo и может использоваться для инференса или дообучения. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и запрещающая коммерческое применение.