II.8Инженерия данных и аналитика

Модель MelissaJ/koelectra-emotion-6-emotion-base — корейская модель классификации эмоций, созданная дообучением KoELECTRA-base-v3 от MelissaJ. Она относит входное предложение к одной из шести категорий: радость, гнев, обида, тревога, смущение или грусть. Модель подходит для разметки эмоциональных реплик в диалогах и анализа тональности корейских сообщений. Модель построена на архитектуре ELECTRA с классификационной головой, содержит 140,1 млн параметров и принимает последовательности длиной до 512 токенов. Для обучения использован корейский корпус эмоциональных диалогов AI Hub. Валидационная macro-F1 достигла примерно 0,597 на третьей эпохе; последующее обучение сопровождалось ростом переобучения, поэтому качество на других данных может быть ниже. Модель распространяется под лицензией Apache-2.0.

Llama-3.2-1B-CoT — причинная языковая модель на архитектуре LlamaForCausalLM, дообученная harshwardhanjadhav на базе unsloth/Llama-3.2-1B-Instruct с использованием Unsloth и Hugging Face TRL. Веса содержат около 1,2 млрд параметров, формат — safetensors; модель предназначена для генерации ответов с пошаговыми рассуждениями при решении математических и аналитических задач. Модель обучена на отобранных 10 000 примерах OpenThoughts-114k. В карточке указано контекстное окно 131 072 токена, однако автор рекомендует ограничивать суммарный контекст вместе с рассуждением и ответом 8 192 токенами. Модель поддерживает диалоговый сценарий и интерфейс вызова инструментов; в карточке заявлен английский язык. Автор предупреждает о склонности небольшой модели к повторениям при длинных рассуждениях и рекомендует параметры генерации для повышения стабильности. Она может уступать более крупным моделям в сложных абстрактных математических доказательствах и генерации вложенного алгоритмического кода. Лицензия — Apache 2.0.

gabrielloiseau/LUAR-CRUD-sentence-transformers — версия модели LUAR в формате Sentence Transformers, предназначенная для получения векторных представлений авторского стиля и сравнения текстов. В README указано, что модель основана на LUAR-MUD; авторство исходной работы — Rivera-Soto и соавторы (2021). Метаданные связывают её с дообученной моделью rrivera1849/LUAR-CRUD. Модель использует архитектуру RoBERTa, содержит 95,2 млн параметров и поддерживает контекст до 514 токенов. Она обучалась на подвыборке Pushshift Reddit: комментариях пяти миллионов пользователей, написанных с января 2015 по октябрь 2019 года; в выборку вошли авторы как минимум со 100 комментариями. Подходит для получения эмбеддингов, оценки сходства текстов и анализа авторского стиля. Метаданные указывают английский язык и лицензию Apache-2.0.

MahaSent-MD — модель анализа тональности текстов на маратхи, разработанная L3Cube-Pune. Она основана на MahaBERT (l3cube-pune/marathi-bert-v2) и дообучена на корпусе L3Cube-MahaSent-MD, объединяющем данные из нескольких областей: рецензии на фильмы, общие публикации в Twitter, субтитры и политические публикации. Модель относится к архитектуре BERT и предназначена для классификации текста; размер составляет 264,8 млн параметров, контекст — до 512 токенов. Модель подходит для определения тональности в маратхиязычных отзывах, публикациях и субтитрах из разных тематик. Она распространяется по лицензии CC BY 4.0. Карточка не приводит сведения о метках классов и численных результатах качества.

Mask2Former for Satellite Image Segmentation — модель mfaytin, дообученная для семантической сегментации спутниковых и аэрофотоснимков. Она построена на архитектуре Mask2Former с backbone Swin Transformer и дообучена на наборе OpenEarthMap от facebook/mask2former-swin-base-ade-semantic. Модель размечает каждый пиксель одним из девяти классов земного покрова: фон, голая земля, трава, мощёные поверхности, дороги, деревья, вода, сельскохозяйственные угодья и здания. Её можно применять для анализа землепользования, городского планирования, экологического мониторинга и GIS-задач. Результаты могут быть менее надёжны для регионов, не представленных в обучающих данных, изображений с иным разрешением, съёмки с других сенсоров и платформ, а также при сезонных и погодных изменениях. Репозиторий распространяется по лицензии MIT.

Med-KEBERT — англоязычная биомедицинская модель семейства BERT, опубликованная пользователем xmcmic на Hugging Face. Она предназначена для извлечения признаков из медицинских текстов и может использоваться как текстовый энкодер в последующих моделях машинного обучения. Модель имеет архитектуру BertModel, содержит около 136,7 млн параметров и поддерживает контекст до 512 токенов. В карточке указаны английский язык, библиотека Transformers и задача feature-extraction; модель также применялась как knowledge encoder при обучении систем для анализа рентгенологических изображений грудной клетки. Сильной стороной является специализация на биомедицинской лексике и пригодность для построения эмбеддингов, классификаторов и мультимодальных медицинских систем. Модель не является генеративной и не предназначена для самостоятельной постановки диагнозов или выдачи клинических рекомендаций. Распространяется по лицензии OpenRAIL.

ModernBERT-base-doc_en-Cefr — англоязычная модель классификации текста, созданная дообучением answerdotai/ModernBERT-base. В метаданных указана архитектура ModernBertForSequenceClassification и 149 млн параметров; модель принимает текст и выдаёт метки классификации. Модель предназначена для классификации текстов на английском языке. В README приведены результаты оценки: F1 0,8103 и loss 0,7333. Название указывает на связь с CEFR, однако карточка не описывает классы и набор данных, поэтому конкретное применение и смысл предсказаний нельзя подтвердить. Модель распространяется под лицензией Apache-2.0. Базовая модель поддерживает контекст до 8192 токенов; карточка не подтверждает, что это значение отдельно проверено для данного дообученного чекпойнта.

mrm8488 дообучил answerdotai/ModernBERT-base для классификации тональности финансовых новостей. Модель принимает текст и выдаёт метку класса; в README приведены результаты оценки: F1, точность и полнота — 0,9765, loss — 0,1293. Объём модели составляет 149 млн параметров, максимальная длина контекста — 8192 токена. Базовая ModernBERT — англоязычная модель понимания текста, поэтому модель предназначена для анализа финансовых новостей на английском языке. Репозиторий распространяется по лицензии Apache-2.0.

Jeevesh8/more_cpts_corr_init_shuff_clipped_warmed_seq_len_128_bert-base-uncased_qqp_ft_6 — модель классификации текста, размещённая пользователем Jeevesh8 на Hugging Face и основанная на BERT-base-uncased. По идентификатору и типу задачи видно, что она дообучена на QQP (Quora Question Pairs) для классификации пар вопросов, вероятно с целью определения их семантической эквивалентности или дубликатов. Модель предназначена для англоязычных текстов без учёта регистра и может применяться через Transformers как text-classification pipeline. В основе используется bidirectional Transformer-архитектура BERT-base; заявленная в идентификаторе длина последовательности — 128 токенов. Модель работает только с текстом и не является генеративной или мультимодальной. Существенные преимущества — готовая специализация на задаче QQP и совместимость с экосистемой Hugging Face Transformers. Ограничения включают привязку к английскому языку, ограничение длины входа и отсутствие на странице модели подробной карточки, описания меток, результатов оценки и анализа ошибок; поэтому точные показатели качества и детали процедуры дообучения неизвестны. Лицензия для этой конкретной модели на странице не указана.

MTL-data-to-text — модель генерации естественного языка из структурированных данных, представленная авторами работы «MVP: Multi-task Supervised Pre-training for Natural Language Generation». Это вариант Single семейства MVP, обученный на смеси размеченных наборов данных для преобразования данных в текст; архитектура — Transformer encoder-decoder. Модель предназначена для генерации описаний по графам знаний, таблицам и семантическим представлениям (MR), включая сценарии WebNLG, DART, WikiBio, ToTTo и E2E. Модель принимает текстовое представление структурированных данных и генерирует текст на английском языке. В метаданных указано окно контекста 1024 токена и формат PyTorch. Лицензия — Apache-2.0. Карточка не содержит результатов оценки качества; применимость к структурам и форматам, отличным от обучающих наборов, может быть ограничена.

Модель разработана командой NLP4BIA Барселонского суперкомпьютерного центра для распознавания заболеваний в испанских клинических текстах. Это дообученная PlanTL-GOB-ES/bsc-bio-ehr-es модель RoBERTa на 151,8 млн параметров для классификации токенов: она размечает упоминания заболеваний тегами BIO — O, B-DISEASE и I-DISEASE. Модель предназначена для извлечения названий болезней из клинических записей и документов EHR; контекст составляет 514 токенов. На тестовом наборе MultiClinNER для испанского языка строгий F1 составил 0,6998, а символьный F1 — 0,7718. Для сопоставимых результатов при обработке нужно воспроизводить предобработку с предварительным разбиением текста на токены; при обычной токенизации границы сущностей около пунктуации могут отличаться. Модель обучалась на испанских клинических данных, оценка встроенных смещений не проводилась. Лицензия — CC BY 4.0.

Карточка модели aria220/OpenMed-NER-AnatomyDetect-SuperClinical-184M на Hugging Face совпадает с карточкой OpenMed/OpenMed-NER-AnatomyDetect-SuperClinical-184M, поэтому описание составлено по ней. OpenMed-NER-AnatomyDetect-SuperClinical-184M — модель OpenMed для распознавания анатомических сущностей в биомедицинских и клинических текстах. Это дообученный трансформер DeBERTa, предназначенный для токенной классификации: он помечает фрагменты текста BIO-метками B-Anatomy и I-Anatomy. В метаданных указано 211,6 млн параметров и контекст до 512 токенов. Модель подходит для извлечения названий органов, частей тела и других анатомических структур из медицинских записей и научной литературы, а также для биомедицинского поиска и построения баз знаний. В карточке приведены результаты на корпусе ANATOMY: F1 0,86, точность 0,84 и полнота 0,89. Несмотря на заявления карточки о готовности к производственному применению, качество зависит от текста и домена; метки модели ориентированы на анатомические сущности, а не на лекарства или нежелательные явления. Лицензия — Apache-2.0.

Qwen2.5-7B-Comment-Sexuality-Reasoner — дообученная модель на базе Qwen/Qwen2.5-7B-Instruct, созданная для контекстной классификации комментариев в испаноязычных социальных сетях. Она получает текстовое описание изображения, тему публикации, сведения об авторе комментария и один или несколько комментариев, после чего для каждого комментария выдаёт метку «несексуализированный», «сексуализированный» или «нейтральный», краткое обоснование на испанском языке и оценки вероятности трёх классов. Модель учитывает контекст изображения и темы, а не только отдельные слова; обучение выполнено методом QDoRA с адаптером DoRA на 4-битной базовой модели. В репозитории указаны архитектура Qwen2, 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель предназначена для исследовательского анализа испаноязычных комментариев, разметки данных и изучения объяснений языковых моделей при модерации контента. В описанной оценке модель на 7B превзошла вариант на 32B по точности классификации и скорости, но результаты ограничены небольшим тестовым набором; особенно часто пропускается неявная сексуализация, а ложные метки «сексуализированный» могут быть чрезмерно уверенными. Качество описания изображения влияет на классификацию, а использование предполагаемого пола автора связано с перекосом ошибок. Выданные моделью вероятности не являются калиброванными статистическими вероятностями; для неоднозначных и значимых решений рекомендуется проверка человеком. Модель обозначена автором как исследовательская, не готовая к производственной модерации. Лицензия — Apache-2.0.

Qwen3-1.7B Python Code Full SFT — экспериментальная модель для автодополнения функций на Python, созданная автором репозитория полным supervised fine-tuning базовой Qwen/Qwen3-1.7B-Base. Это плотная причинно-языковая модель с 1,7 млрд параметров; она принимает исходный код как обычный текстовый промпт, а не диалог в формате чата. Контекст модели — 32 768 токенов, библиотека загрузки — Transformers. Модель предназначена для продолжения Python-кода и дополнения функций. В README приведены результаты на HumanEval+ и MBPP+: 40,9% и 60,6% строгого pass@1 соответственно. Чекпойнт создан как учебный эксперимент по постобучению, а не как готовый производственный помощник по разработке. Оценка охватывает только публичные бенчмарки функций Python; фильтрация пересечений в промптах не исключает все семантически похожие примеры, а результаты не гарантируют качество на новых инженерных задачах. Модель распространяется по лицензии Apache 2.0; исходный датасет NVIDIA OpenCodeInstruct — по CC BY 4.0.

Это визуальный энкодер семейства Qwen ViT, опубликованный в репозитории timm как преобразованная версия весов зрительной части Qwen-Drive-1.0-4B. Модель предназначена для извлечения признаковых представлений изображений и подготовки эмбеддингов или карт признаков для последующей обработки и классификации.

Модель jkhan447/sarcasm-detection-Bert-base-uncased — дообученная версия BERT base uncased для классификации текстов и выявления сарказма. Она принимает текст и возвращает метку класса. Модель содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification и поддерживает контекст до 512 токенов. В README указана точность 0,7127 на оценочном наборе, однако описание набора данных отсутствует, поэтому этот результат нельзя переносить на другие данные без проверки. Модель распространяется по лицензии Apache 2.0.

admko/sembr2023-bert-small — дообученная модель на основе prajjwal1/bert-small для классификации токенов. В карточке приведены метрики на оценочной выборке: F1 0,8159, точность 0,7915, полнота 0,8418 и accuracy 0,9651. Модель построена на архитектуре BERT и содержит 32,4 млн параметров. Она принимает текстовые последовательности длиной до 512 токенов и выдаёт метки для отдельных токенов. Назначение меток, язык и набор данных в карточке не раскрыты, поэтому конкретную прикладную область определить нельзя. Репозиторий содержит веса PyTorch и safetensors; лицензия — MIT.

DS4AI-UPB/span-detector-ro — модель Dragoș Mitruț Vasile, Elena-Simona Apostol, Stefan-Adrian Toma, Adrian Paschke и Ciprian-Octavian Truică для обнаружения двух аргументов отношений в предложениях на румынском языке. Она основана на XLM-RoBERTa large и выполняет классификацию токенов по пяти меткам BIO: O, B-E1, I-E1, B-E2 и I-E2. Размер модели по метаданным — 658,7 млн параметров, максимальная длина контекста — 514 токенов. Модель предназначена для первого этапа сквозного извлечения отношений: она выделяет сущности e1 и e2 в обычном румынском предложении, после чего найденные фрагменты можно передать классификатору отношений DS4AI-UPB/xlmr-large-ro-re. Обучение проводилось на разметке сущностей SemEval-2010 Task 8, поскольку готовые модели распознавания именованных сущностей плохо подходят для этих номинальных сущностей. На отложенной валидационной выборке указаны F1 0,869, точность 0,85 и полнота 0,89. Модель работает с текстом и предназначена для румынского языка. По README, лицензия — MIT.

SPEAR XLarge v1 — модель самоконтролируемого обучения акустическим представлениям, разработанная авторами SPEAR. Она использует архитектуру Zipformer из 13 стеков и содержит 597 млн параметров. На вход принимает аудио с частотой дискретизации 16 кГц и выдаёт 1280-мерные векторы признаков примерно с частотой 50 Гц. Модель предварительно обучена на 197 тыс. часов англоязычной речи и общего аудио, включая акустические сцены и музыку. Она предназначена для извлечения представлений речи и звуков, которые можно использовать как основу для последующего обучения распознаванию речи, тегированию аудио и другим задачам анализа акустических сигналов. В README заявлены высокие результаты на SUPERB и конкурентные результаты на HEAR. Для прикладных задач потребуется дообучение на размеченных данных. Карточка рекомендует для новых проектов SPEAR XLarge v2, у которой заявлены улучшения устойчивости к сложным акустическим сценам. Модель распространяется по лицензии Apache-2.0.

HuggingFaceTB разработала stack-edu-classifier-sql — классификатор для оценки образовательной ценности файлов SQL-кода из набора The Stack v2. Это дообученная на SQL версия BigCode StarEncoder с классификационной головой; обучающие примеры размечены моделью Llama 3.1 70B Instruct. Классификатор использовали для создания набора Stack-Edu, предназначенного для обучения SmolLM2. Модель принимает SQL-код и относит его к классам по образовательной ценности. Её можно применять для отбора и оценки SQL-файлов в задачах подготовки обучающих данных. Архитектура — BERT-подобная модель для классификации последовательностей; размер — 151 млн параметров, контекст — 1024 токена. В метаданных указан формат safetensors и библиотека Transformers.

stanfordnlp/stanza-da — модель Stanza для датского языка, опубликованная командой Stanford NLP. Она предназначена для лингвистического анализа датского текста в составе набора инструментов Stanza; семейство охватывает обработку текста от исходной строки до синтаксического анализа и распознавания сущностей. В Hugging Face модель размечена задачей token-classification и распространяется в формате PyTorch через библиотеку Stanza. Модель принимает текст и выдаёт результаты токенной классификации. Репозиторий распространяется по лицензии Apache-2.0. Карточка не уточняет архитектуру, размер модели, длину контекста и конкретные типы разметки для этого чекпойнта.

Stanza-hr — модель обработки хорватского языка из набора инструментов Stanza, разработанного Stanford NLP. Она предназначена для лингвистического анализа текста и поддерживает задачу классификации токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0.

stanfordnlp/stanza-mr — модель из набора Stanza, разработанного Stanford NLP для лингвистического анализа текста на маратхи. Она предназначена для разметки последовательностей токенов в NLP-конвейерах Stanza; набор инструментов Stanza также охватывает синтаксический анализ и распознавание сущностей, однако карточка этой модели подтверждает только задачу token classification. Модель распространяется в формате PyTorch по лицензии Apache-2.0.

TAPAS medium — модель Google на архитектуре TAPAS, основанной на BERT и предназначенной для вопросов и ответов по таблицам. Версия дообучена на SQA и WikiSQL после предварительного обучения на англоязычных таблицах и связанных текстах Википедии; в репозитории доступны варианты с относительными и абсолютными позиционными эмбеддингами. Модель содержит 49,2 млн параметров и обрабатывает вход длиной до 512 токенов. На вход подаются вопрос и таблица, преобразованная в последовательность текста. Модель выбирает ячейки таблицы и определяет способ агрегирования ответа, что позволяет отвечать на вопросы по табличным данным, включая простые числовые запросы. Она рассчитана на английский язык и задачи, близкие к WikiSQL; качество на иных языках, типах таблиц и более сложных запросах может быть ограничено. Распространяется по лицензии Apache-2.0.

Sayan01/tiny-bert-qqp-distilled — модель, опубликованная пользователем Sayan01 на Hugging Face и предназначенная для классификации пар вопросов из задачи Quora Question Pairs (QQP): определения, являются ли два вопроса дубликатами. Модель поддерживает стандартный сценарий text classification через Transformers и возвращает классы not_duplicate и duplicate. По конфигурации это компактная BERT-модель для sequence classification, связанная с huawei-noah/TinyBERT_General_4L_312D. Она содержит 4 скрытых слоя, 12 attention heads, размер скрытого представления 312, промежуточный размер 1200 и поддерживает контекст до 512 токенов. Используется словарь размером 30522 и float32; заявлена только текстовая модальность. Англоязычная направленность следует из uncased BERT-токенизатора и исходной конфигурации, однако подробные сведения о языках, качестве, датасете обучения и метриках в доступных данных не указаны. Сильная сторона модели — малый размер и потенциально низкие требования к вычислительным ресурсам по сравнению с полноразмерными BERT-моделями. Ограничения включают узкую специализацию на бинарном выявлении дубликатов вопросов, отсутствие подтверждённых сведений о точности и недостаток документации о режимах применения. Лицензия в доступных материалах не указана.

Whisper-base-ser-dusha — модель распознавания эмоций в русской речи, созданная путём дообучения энкодера OpenAI Whisper Base с классификационной головой на датасете Dusha-crowd. Модель принимает аудио и относит речь к одному из пяти классов: злость, грусть, нейтральная эмоция, позитивная эмоция или категория «другое». Она реализована на Transformers, содержит 51,7 млн параметров и распространяется в формате safetensors. Модель предназначена для автоматической классификации эмоциональной окраски русской речи, например для анализа голосовых записей и изучения эмоциональных реакций в аудио. При дообучении применялись сдвиг аудиосигнала, маскирование временных участков, цветной шум и взвешенная выборка классов. Точность на независимых данных и ограничения по условиям записи в карточке не описаны. Лицензия в предоставленных данных не указана.

wosflat1782296044 — дообученная модель классификации текста на базе google-bert/bert-base-uncased, разработанная автором репозитория abdiharyadi. Это BERT-модель с архитектурой BertForSequenceClassification, содержащая 136,7 млн параметров и принимающая последовательности длиной до 512 токенов. Она предназначена для классификации текста; конкретные классы и целевая область применения не описаны. На оценочной выборке указаны accuracy 0,8069 и macro F1 0,7828, однако без описания набора данных и классов эти метрики трудно интерпретировать. Базовая модель ориентирована на английский язык. Репозиторий распространяется по лицензии Apache-2.0.

CKIP ALBERT Tiny Chinese WS — компактная модель классификации токенов на базе ALBERT, опубликованная Mu Yang из CKIP. Она предназначена для сегментации традиционного китайского текста на слова; проект CKIP также предоставляет модели для разметки частей речи и распознавания именованных сущностей, но карточка этой модели подтверждает задачу классификации токенов. Модель содержит 12,8 млн параметров, использует архитектуру AlbertForTokenClassification и принимает текст с контекстом до 512 токенов. Для токенизации README рекомендует BertTokenizerFast вместо AutoTokenizer. Указанная лицензия — GPL-3.0.

BEE-spoke-data/beecoder-220M-python — компактная модель генерации кода, разработанная BEE-spoke-data путём дообучения smol_llama-220M-GQA. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 184,9 млн параметров; она принимает текст и генерирует продолжение, в частности фрагменты кода на Python. Модель обучалась на отфильтрованной выборке Stack-smol-XL, дедуплицированной части Algebraic Stack из Proof Pile 2 и очищенном дедуплицированном наборе PyPI. Длина контекста — 2048 токенов. Модель подходит для генерации и продолжения Python-кода, а также для небольших экспериментов с генерацией кода. В метаданных указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0. Размер и контекст указывают на компактный масштаб, поэтому её возможности ограничены по сравнению с крупными моделями; README не приводит результаты оценивания качества или сведения о дополнительных возможностях.

CAMeL-Lab разработала CAMeLBERT-Mix POS-MSA — модель разметки частей речи для арабского языка в варианте современного литературного арабского (MSA). Это BERT-модель с плотной архитектурой, дообученная на базовой CAMeLBERT-Mix на наборе PATB; она присваивает метку каждому токену. Модель содержит 136,3 млн параметров, принимает последовательности длиной до 512 токенов и доступна в форматах PyTorch и TensorFlow. Модель предназначена для морфосинтаксической разметки арабских текстов и может использоваться через pipeline библиотеки Transformers, в том числе как компонент анализа текста. Она поддерживает арабский язык. Лицензия Apache-2.0 разрешает использование и распространение на её условиях.