II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейaneuraz/awesome-align-with-co — модель на основе BERT из проекта AWESOME, предназначенная для выравнивания слов в параллельных текстах. Она использует представления многоязычного BERT, дообученные на параллельных корпусах, чтобы находить соответствия между словами в предложениях на разных языках. Модель содержит 205,1 млн параметров, принимает текстовые последовательности с контекстом до 512 токенов и распространяется в формате PyTorch. Модель подходит для извлечения словесных выравниваний в параллельных корпусах, например для подготовки двуязычных данных и анализа соответствий между переводами. В метаданных указаны немецкий, французский, английский, румынский и китайский языки. Лицензия — BSD-3-Clause. Хотя основная задача проекта — выравнивание слов, карточка Hugging Face и pipeline_tag классифицируют модель как fill-mask; это не обычная модель генерации текста.
vinai/bartpho-syllable-base — базовая версия BARTpho от VinAI Research, разработанная Нгуен Лыонг Чан, Зыонг Минь Ле и Дат Куок Нгуеном. Это предварительно обученная модель типа BART для последовательностей, обученная денойзинговым способом и работающая с вьетнамским языком на уровне слогов. Она предназначена для получения векторных представлений текста и может служить основой для прикладных задач обработки вьетнамского языка. Модель содержит 87,4 млн параметров, использует архитектуру mBART и принимает контекст длиной до 1024 токенов. Репозиторий содержит веса PyTorch. Лицензия MIT разрешает использование при соблюдении её условий; авторы просят цитировать публикацию BARTpho при использовании модели в научных результатах или программном обеспечении.
DS4AI-UPB разработала bert-base-romanian-re — румынский BERT-энкодер, дообученный на классификацию отношений между двумя отмеченными сущностями в предложении. Модель основана на dumitrescustefan/bert-base-romanian-cased-v1 и содержит 151,6 млн параметров; максимальная длина контекста — 512 токенов. На вход подаётся предложение с двумя выделенными сущностями, а модель предсказывает одно из 19 направленных отношений SemEval-2010 Task 8, сводимых к 10 общим типам. На тестовой части румынского перевода набора SemEval авторы сообщают macro F1 0,824. Модель предназначена для извлечения отношений в румынских текстах, например для определения причинно-следственной связи между сущностями. Обучение проводилось на автоматически переведённом наборе данных с автоматической проверкой, поэтому результаты могут зависеть от качества перевода и отличаться на естественных румынских текстах. Репозиторий распространяется по лицензии MIT.
maymuni/bert-base-turkish-cased-emotion-analysis — модель BERT для классификации эмоций в текстах. Она дообучена на базе dbmdz/bert-base-turkish-cased; указанный в карточке обучающий набор данных не назван. Модель предназначена для определения эмоциональной категории текста и подходит, например, для анализа тональности сообщений и отзывов. Архитектура — BertForSequenceClassification, около 137,8 млн параметров; максимальная длина контекста — 512 токенов. В карточке приведены результаты оценки: loss 0,0437, accuracy и F1 около 0,995, однако значения accuracy и F1 помечены вопросительными знаками, а сведения о наборе данных отсутствуют. Модель распространяется по лицензии MIT.
Небольшая модель BERT-tiny, дообученная командой M-FAC на наборе MRPC с оптимизатором второго порядка M-FAC. Она классифицирует пары предложений, в частности определяет, выражают ли они одинаковый смысл; модель подходит для экспериментов и проверки методов дообучения. Архитектура — BertForSequenceClassification, размер — 4,4 млн параметров, контекст — до 512 токенов. В README приведены результаты на валидационной выборке MRPC: F1 82,77 и точность 72,94% для лучшего запуска; средние результаты рассчитаны по пяти запускам. Доступны веса PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.
SMARTICT разработала англоязычную модель эмбеддингов предложений на базе BAAI/bge-base-en-v1.5, дообучив её на 6 300 примерах с парами вопросов и ответов из финансовых документов. Модель использует BERT в архитектуре Sentence Transformers, формирует нормализованные плотные векторы размерностью 768 и сравнивает их по косинусному сходству. Максимальная длина входа — 512 токенов; благодаря Matryoshka Loss векторы можно сокращать до 512, 256, 128 или 64 измерений. Модель предназначена для поиска финансовой информации по смыслу, сопоставления вопросов с фрагментами документов, оценки семантического сходства и кластеризации текстов. В README приведены результаты оценки поиска на нескольких размерностях векторов. Лицензия — Apache-2.0.
hkizilhan/checkpoints_berturk — дообученная на базе dbmdz/bert-base-turkish-cased модель BERTurk для классификации текста. Она содержит 137,8 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. В README приведены результаты на наборе оценки: accuracy 0,9633 и Macro F1 0,9595; сведения о назначении классов и обучающих данных отсутствуют. Модель предназначена для классификации турецкоязычного текста. Репозиторий распространяет веса в формате safetensors по лицензии MIT. Показатели оценки не позволяют судить о качестве на других данных и задачах.
Chinese-CodeLlama-7B-SFT-V1 — плотная авторегрессионная языковая модель семейства Llama, дообученная методом supervised fine-tuning (SFT) разработчиками репозитория на базе Chinese-CodeLlama-7B-PT. Веса содержат около 6,8 млрд параметров, модель опубликована в формате PyTorch и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации кода и ответов на инструкции по задачам программирования на китайском языке. Для дообучения использован набор CodeLlama-2-20k, переведённый на китайский язык с помощью Google Translate; авторы также разработали китайский шаблон промпта для кодирования. Лицензия — Apache-2.0. Качество результатов зависит от формулировки запроса и может быть ограничено ошибками или артефактами машинного перевода обучающих данных; сведения о конкретных языках программирования и оценках качества в карточке отсутствуют.
Chipoint — модель геолокации изображений с открытыми весами от chiikabu labs. Она извлекает визуальные признаки и предназначена для определения географического положения по фотографии; карточка сообщает о тестировании на наборе OSV-5M из 210 122 изображений и медианной ошибке 51 км. В README заявлены результаты выше опубликованных моделей на OSV-5M, однако приведённая таблица неполная, а сравнение административной точности основано на приблизительном обратном геокодировании. В метаданных указаны архитектура семейства Chipoint, формат PyTorch и слияние нескольких визуальных моделей, включая DINOv3 ViT-L и SigLIP2. Лицензия CC BY-NC 4.0 разрешает использование с ограничениями на коммерческое применение. README отмечает, что результаты для других бенчмарков недоступны, поэтому качество вне OSV-5M по карточке оценить нельзя.
iestynmullinor/climatebert-rereranker-f-cf — дообученная модель на базе iestynmullinor/climatebert-rereranker-fever для классификации текстов. Она использует архитектуру RoBERTa с головой RobertaForSequenceClassification и содержит 95,4 млн параметров. Модель предназначена для классификации текста; конкретные классы и целевой сценарий в карточке не раскрыты. Модель принимает текст и выдаёт результат классификации. Длина контекста составляет 514 токенов. Она опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В README приведено значение loss 0,2653 на оценочном наборе, однако состав набора и методика оценки не описаны.
Экспериментальный чекпойнт языковой модели Qwen3-4B-Instruct-2507, дообученный методом GRPO с помощью OpenRLHF. Обучение с подкреплением применялось напрямую к базовой модели без предварительной SFT-настройки; этот чекпойнт сохранён на шаге 36 и показал лучший результат pass@8 в рамках описанного запуска. Модель предназначена прежде всего для генерации программ, решающих задачи из набора cobalt-train: сигнал вознаграждения зависел от прохождения тестов, а обучение уделяло внимание корректному завершению ответа и штрафовало чрезмерно длинные генерации. Веса доступны в формате safetensors для Transformers. Архитектура — плотная Qwen3ForCausalLM с 3,7 млрд параметров; базовая модель поддерживает контекст до 262 144 токенов. Основной язык задач в карточке не уточнён. Метрики оценки именно этого чекпойнта в журнале обучения отсутствуют, поэтому заявленный результат pass@8 отражает только сравнение внутри данного запуска и не гарантирует качество на других задачах. Лицензия в предоставленных данных не указана.
tue-mps/coco_instance_eomt_large_640 — модель сегментации изображений на архитектуре EoMT (Encoder-only Mask Transformer), разработанной для высококачественной и эффективной сегментации. Архитектура основана на Vision Transformer и использует подход без специализированного декодера сегментации или модулей слияния признаков по пикселям. Веса содержат около 402,7 млн параметров; модель опубликована в форматах PyTorch и Safetensors и предназначена для сегментации экземпляров объектов на изображениях COCO. Семейство EoMT также поддерживает семантическую и паноптическую сегментацию с постобработкой, но для этой модели в метаданных подтверждена задача сегментации изображений, а README показывает сценарий сегментации экземпляров. Модель опубликована 26 марта 2025 года и распространяется по лицензии MIT. README не приводит измерений качества, требований к ресурсам или подробностей об ограничениях применения.
Contextual-SQL Reward Model — модель оценки, разработанная Contextual AI для ранжирования кандидатов SQL-запросов по вероятности корректного выполнения с учётом схемы базы данных и вопроса на естественном языке. Она входит в систему Contextual-SQL, показавшую результат №1 на лидерборде BIRD в феврале 2025 года, и не предназначена для самостоятельной генерации SQL. Модель представляет собой плотную причинную языковую модель Qwen2 с архитектурой Qwen2ForCausalLM и 32 млрд параметров, дообученную на Qwen/Qwen2.5-32B-Instruct. Она принимает текст на английском языке; заявленная длина контекста — 32 768 токенов. При выборе кандидатов её оценки объединяются с логарифмическими вероятностями генератора и другими сигналами проверки. Для полной системы нужны отдельные компоненты генерации SQL и выполнения запросов; карточка рекомендует использовать модель внутри Contextual-SQL. Лицензия — Apache 2.0, как у базовой модели.
Это дообученная модель обнаружения объектов на основе DETR с ResNet-50, разработанная автором репозитория nsugianto на базе facebook/detr-resnet-50. Она принимает изображения и определяет на них объекты, выдавая классы и ограничивающие рамки. Модель предназначена для сценариев компьютерного зрения, где нужно находить и локализовать объекты на изображениях. Модель опубликована в формате safetensors по лицензии Apache-2.0. В карточке указано дообучение на наборе данных, который не раскрыт; подробности обучения, оценки и специальные ограничения не приведены.
kmkuo/distilbert-base-uncased-finetuned-emotion — модель классификации текста на основе DistilBERT, дообученная разработчиком kmkuo на неизвестном наборе данных. Название указывает на задачу распознавания эмоций, однако README не описывает метки классов или качество классификации. Модель принимает текст и выдаёт результат классификации. Она использует архитектуру DistilBertForSequenceClassification с контекстом до 512 токенов и распространяется в формате safetensors. Лицензия — Apache-2.0.
Yhyu13 создал модель Dolphin 2.6 Mistral 7B DPO Laser Function Calling — объединённую модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста в диалогах и вызова функций: модель оформляет вызов в XML-тегах с именем функции и аргументами, а после получения результата может продолжить ответ пользователю. Автор описывает её как вариант для приложений, которым нужен интерфейс вызова функций, и приводит успешное прохождение примеров из OpenAI Function Calling Cookbook; это заявление автора, а не независимая оценка. Модель принимает текстовые запросы и выдаёт текст, включая структурированные вызовы функций. В метаданных указано контекстное окно 32 768 токенов. Репозиторий содержит веса Safetensors, лицензия — Apache 2.0. README не уточняет языковое покрытие; формат вызовов и приведённые примеры ориентированы на интеграцию с программными инструментами.
FLUX.MF-8step_lightning_v2 — объединённая модель для генерации изображений по текстовому описанию, опубликованная buildborderless в рамках проекта OpenSight. В основе лежит слияние black-forest-labs/FLUX.1-dev и black-forest-labs/FLUX.1-schnell; затем к нему добавлена подборка LoRA. Репозиторий содержит веса в формате safetensors для использования через diffusers и FluxPipeline. Модель предназначена главным образом для генерации данных и оценки моделей. В названии указано Lightning и 8step, что обозначает вариант, ориентированный на генерацию за 8 шагов. Карточка также предупреждает, что некоторые использованные LoRA рассчитаны на NSFW-контент. Лицензия обозначена как other; перед коммерческим применением автор советует проверить лицензии исходных моделей и компонентов слияния.
GPT-Neo-125M-Code-Clippy — модель автодополнения кода, созданная сообществом flax-community на основе GPT-Neo-125M. Её дообучили методом причинного языкового моделирования на версии набора Code Clippy Data, собранной из публичных репозиториев GitHub. Веса доступны в форматах Flax и PyTorch; модель содержит 137,7 млн параметров и рассчитана на контекст до 2048 токенов. Модель предназначена для продолжения фрагментов кода и автодополнения методов в нескольких языках программирования. Для лучшей работы с отступами в токенизатор добавлены специальные токены пробелов и табуляции. В обучающих данных чаще представлены JavaScript и Python, поэтому качество для других языков может быть ниже. Генерируемый код может содержать ошибки, уязвимости или нежелательные фрагменты; код не фильтровался по лицензиям. Автор позиционирует модель для исследований и не гарантирует качество. Лицензия в предоставленных данных не указана.
Higgs Audio V2 Tokenizer — дискретный аудиотокенизатор от Boson AI для кодирования и восстановления речи, музыки и звуковых событий. Модель доступна в формате safetensors и поддерживается библиотекой Transformers. Токенизатор преобразует аудио с частотой дискретизации 24 кГц в дискретные представления с частотой 25 кадров в секунду. Единая модель обучена на речи, музыке и звуковых событиях; для кодирования и декодирования используется быстрый энкодер-декодер без диффузии. Разработчики сообщают о балансе эффективности, акустического качества и сохранения смысла, а также о пригодности токенов для обучения аудиоязыковых моделей. Модель подходит для сжатого представления аудио, его последующего восстановления и подготовки аудиоданных для аудиоязыковых систем. В README приведены результаты сравнительных оценок на речи, музыке и звуковых событиях, но не указаны ограничения по качеству или поддерживаемые языки модели. Лицензия обозначена в метаданных как other; конкретные условия следует сверить с карточкой репозитория.
homeGPT — обученный модуль-реконструктор общих слоёв трансформера, разработанный AIhomeJP и предназначенный для извлечения признаков текста. Репозиторий содержит веса реконструктора; при запуске они объединяются с замороженными токенными и позиционными эмбеддингами, финальной LayerNorm и LM-головой базовой модели GPT-2 от OpenAI. Указанная задача — feature extraction, а контекст базовой модели составляет 1024 токена. Модель подходит для получения представлений текста в системах, которым нужны признаки на основе GPT-2. Это не самостоятельная полная копия GPT-2: для работы требуются базовые компоненты из openai-community/gpt2, загружаемые при запуске. В README указан тип тензоров F32, а метаданные — формат safetensors. Лицензия — MIT.
Модель xbgoose/hubert-large-speech-emotion-recognition-russian-dusha-finetuned — аудиоклассификатор для распознавания эмоций в русской речи. Она разработана на основе HuBERT Large facebook/hubert-large-ls960-ft и дообучена на наборе данных DUSHA; архитектура — HuBERTForSequenceClassification, размер — 402,7 млн параметров. Модель принимает аудио и выдаёт метки классов эмоций. В карточке указано, что при дообучении использовали половину обучающей выборки и обучали модель два эпохи. На тестовой выборке автор получил accuracy 0,86, balanced accuracy 0,76 и macro F1 0,81, улучшив accuracy и F1 относительно базового результата датасета. Модель распространяется по лицензии Apache-2.0.
facebook/ijepa_vitg16_22k — модель I-JEPA от Meta для извлечения признаков изображений. Это версия архитектуры Giant, дообученная на ImageNet-22K; она использует самоконтролируемое обучение и предсказывает представления скрытых областей изображения по представлениям видимых частей. Вместо восстановления пикселей модель работает с семантическими представлениями в латентном пространстве. Чекпойнт предназначен прежде всего для получения признаков изображений, которые можно использовать в последующих задачах компьютерного зрения, например классификации. Модель содержит около 1,4 млрд параметров и доступна в формате safetensors для библиотеки Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое. Карточка описывает применение для извлечения признаков и классификации; иных ограничений качества или условий не сообщает.
crcb/isear_bert — модель классификации последовательностей на базе RoBERTa, опубликованная под аккаунтом crcb и обученная с помощью AutoTrain. Она предназначена для многоклассовой классификации текста; README приводит пример отправки текста через API Hugging Face. Модель содержит 151,8 млн параметров, принимает до 514 токенов и представлена в формате PyTorch. В README указаны метрики на валидации: accuracy 0,727 и macro F1 0,723. В карточке также указан набор данных crcb/autotrain-data-isear_bert, однако назначение классов и подробности разметки не описаны. Лицензия в предоставленных данных не указана.
tobykim разработал и дообучил модель на базе корейского энкодера monologg/koelectra-base-v3-discriminator для многометочной классификации эмоций в корейском тексте. Модель относит текст к 44 эмоциональным категориям, включая радость, грусть, гнев, тревогу, благодарность и удивление. Она построена на ELECTRA и использует классификационную голову для последовательностей; размер составляет 140,1 млн параметров, максимальная длина контекста — 512 токенов. Для обучения использованы датасет KOTE и дополнительные собранные данные, функция потерь Asymmetric Loss. Модель предназначена для анализа эмоциональной окраски корейских сообщений, например в чатах и мессенджерах. В README приведены ориентировочные метрики на валидации: Micro F1 около 0,62 и Macro F1 около 0,47; качество распознавания отдельных эмоций может различаться. README сообщает, что модель можно свободно использовать для исследований и обучения; лицензия базовой KoELECTRA — MIT, но отдельная лицензия дообученных весов явно не названа.
matthewburke/korean_sentiment — модель Matthew Burke для классификации тональности корейского текста. Она предназначена для определения эмоциональной окраски коротких сообщений, например отзывов о фильмах и публикаций в социальных сетях. Модель построена на архитектуре ELECTRA и содержит 151,7 млн параметров; максимальная длина входа — 512 токенов. Использовать её можно через библиотеку Transformers для задачи text-classification. README показывает пример классификации корейского сообщения «영화 재밌다.» и проверки оценки позитивного класса. В карточке не приведены сведения о лицензии, метках классов или качестве на тестовых данных, поэтому пригодность для конкретного домена стоит проверять отдельно.
LFM2.5-2.6B-RLCD — экспериментальный inference-пакет сообщества на базе LiquidAI/LFM2.5-2.6B, разработанный для быстрого выбора из конечного набора вариантов и формирования типизированного JSON. Он использует Parallel Constrained Decoding: один раз обрабатывает общий контекст, параллельно оценивает допустимые ответы и сериализует результат в Python. Веса базовой модели не изменены; обучение, квантизация и сохранение модифицированных весов не выполнялись. Базовая модель — плотная авторегрессионная текстовая модель семейства LFM2 с 2,6 млрд параметров и контекстом 131 072 токена. README описывает многоязычную поддержку, включая русский, английский, арабский, китайский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, испанский, тайский и вьетнамский. Подход предназначен для классификационных решений по заданным вариантам и структурированного извлечения данных; это не универсальная генерация свободного текста. В небольшом тестировании на разработческих примерах token PCD был быстрее прямого авторегрессионного вывода, однако точность составила 72,2% на шести новых проверочных случаях, не достигла производственного порога, а вероятности не калиброваны. Модель не следует применять для автоматизации решений без проверки на собственных размеченных данных; README также не рекомендует её для агентного программирования и задач, требующих обширных знаний. Лицензия указана в метаданных как other, поэтому условия использования следует проверить в карточке репозитория.
RS-course/model-safety-W1 — модель классификации текста на базе DistilBERT, дообученная на наборе данных tweet_eval. Она предназначена для отнесения коротких текстов, в частности сообщений в Twitter, к классам соответствующей задачи классификации. В README указана точность 0,7772 на оценочной выборке; контекст модели составляет 512 токенов. Модель опубликована в формате PyTorch и распространяется по лицензии Apache-2.0. Подробности о классах меток и конкретных сценариях использования в карточке не описаны.
Koichi Yasuoka разработал эту ModernBERT Large для морфологического анализа японского текста. Модель дообучена на базе KoichiYasuoka/modernbert-large-japanese-wikipedia и размечает длинные единицы слов тегами UPOS и FEATS; карточка также указывает назначение для синтаксического анализа зависимостей. Модель принимает японский текст и выдаёт разметку токенов. Архитектура ModernBERT, около 409,7 млн параметров, контекст до 8192 токенов. Базовая модель предварительно обучена на японской Википедии и текстах Aozora Bunko. Лицензия — Apache-2.0.
Morph-Caller — языковая модель семейства Llama, предназначенная для диалогов с вызовом функций по заданной схеме. Она преобразует запросы пользователя в структурированные данные, соответствующие JSON-схеме вызова функций, что позволяет подключать её к программным инструментам и рабочим процессам. Модель имеет 7,5 млрд параметров, плотную архитектуру и контекстное окно 8192 токена; принимает и генерирует текст. В карточке указана поддержка английского языка и чат-возможностей. Модель рассчитана на разработчиков, которым нужен программный разбор запросов и формирование вызовов функций в структурированном формате. Для использования требуется оформлять запросы по схеме из связанного проекта Hermes-Function-Calling. README заявляет отсутствие ограничений цензуры, поэтому выходы могут требовать проверки. Лицензия — MIT.
rajaadil разработал my-sentiment-model — модель классификации тональности англоязычного текста на две категории: POSITIVE и NEGATIVE. Она создана дообучением DistilBERT distilbert-base-uncased на подмножестве датасета IMDB с отзывами о фильмах. Модель предназначена для быстрой оценки тональности отзывов, комментариев и коротких сообщений обратной связи. Использует архитектуру DistilBertForSequenceClassification, принимает текст и выдаёт метку класса с оценкой уверенности. Контекст — до 512 токенов; заявлена возможность работы на CPU. На указанном наборе оценки точность составила 0,869. Модель рассчитана на английский язык и бинарную классификацию. Качество может снижаться на текстах, отличающихся от отзывов о фильмах; модель плохо определяет нейтральную, саркастическую и смешанную тональность. Распространяется по лицензии Apache-2.0.