II.8Инженерия данных и аналитика

bert-mlm-medium — средняя по размеру языковая модель семейства RoBERTa, разработанная aajrami и обученная с задачей masked language modeling (MLM): модель восстанавливает замаскированные фрагменты текста. Она предназначена для извлечения контекстных текстовых представлений, которые можно использовать как основу для последующей обработки текста и исследовательских экспериментов. Модель содержит 59,3 млн параметров, принимает текст и поддерживает контекст длиной до 514 токенов. Репозиторий содержит веса PyTorch и safetensors; задача Hugging Face для модели — feature-extraction. Карточка ссылается на работу о влиянии целей предобучения на изучение языковых свойств, но не сообщает конкретные языки обучения или результаты оценки качества. Лицензия — CC BY 4.0.

Koichi Yasuoka представляет CamemBERT-модель, предварительно обученную на тайских текстах и производную от PhayaThaiBERT с уточнённым токенизатором. Это плотная модель архитектуры CamemBERT с 304,7 млн параметров, предназначенная для задачи заполнения маски и дообучения для последующей обработки тайского текста. Модель может предсказывать замаскированные токены, а после дообучения — применяться, например, для разметки частей речи и синтаксического анализа зависимостей. Она принимает текстовые последовательности длиной до 512 токенов и выдаёт текстовые предсказания. Распространяется по лицензии Apache-2.0.

Модель emilylearning/cond_ft_none_on_reddit__prcnt_100__test_run_False__roberta-base опубликована пользователем emilylearning на Hugging Face. Это модель RoBERTa-base, дообученная на данных Reddit; метаданные относят её к задаче token classification. Архитектура содержит около 151,8 млн параметров и поддерживает контекст до 514 токенов. Модель предназначена для классификации отдельных токенов в последовательности, однако конкретный набор меток и прикладная интерпретация результатов в доступных источниках не раскрыты. Модальность — текстовая; сведения о поддерживаемых естественных языках и лицензии не установлены.

Модель emilylearning/cond_ft_none_on_reddit__prcnt_100__test_run_False__xlm-roberta-base размещена пользователем emilylearning на Hugging Face и предназначена для классификации отдельных токенов в тексте. Она доступна через библиотеку Transformers и использует архитектуру XLM-RoBERTa с головкой token classification; название репозитория указывает на дообучение базовой модели на данных Reddit, однако точная схема меток и прикладная задача в карточке модели не описаны. Модель содержит около 305,2 млн параметров и поддерживает контекст длиной до 514 токенов. Она подходит для задач, где каждому токену или фрагменту текста требуется назначить метку, например для извлечения сущностей или разметки последовательностей, если используемые метки соответствуют конкретному набору данных. Сведения о поддерживаемых языках и лицензии в доступных источниках отсутствуют, поэтому их нельзя надёжно определить.

Koichi Yasuoka разработал эту DeBERTa V2 Large, дообученную на текстах Aozora Bunko для разметки частей речи и разбора зависимостей в японском тексте. Модель размечает длинные единицы слов тегами UPOS и признаками FEATS; в Transformers она используется как модель классификации токенов. Модель содержит 435,4 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт метки для токенов. Она предназначена для японского языка и обучена на данных Universal Dependencies. Распространяется под лицензией CC BY-SA 4.0.

Это оптимизированная и квантованная версия DistilBERT для классификации текста, подготовленная philschmid с использованием Optimum и ONNX Runtime. Репозиторий также содержит шаблон обработчика для запуска классификатора через универсальный API инференса Hugging Face. Модель предназначена для присвоения тексту меток классификации. Карточка упоминает набор Banking77, что указывает на сценарии классификации банковских обращений, однако подробности о метках и результатах обучения не приведены. Для инференса используются ONNX и Optimum; заявленная длина контекста — 512 токенов. Это производная модель DistilBERT, а не новая архитектура. В карточке не приведены идентификатор исходного чекпойнта, точная схема квантования, показатели качества и лицензия, поэтому эти характеристики нельзя уточнить.

distilbert-sentiment-demo — дообученная модель классификации последовательностей на базе distilbert/distilbert-base-uncased, опубликованная пользователем fnaen. Она предназначена для классификации текста; название репозитория указывает на анализ тональности, однако карточка не уточняет метки классов и целевые сценарии. Модель использует архитектуру DistilBERT и формат весов safetensors, работает с контекстом до 512 токенов и доступна через Transformers. В карточке приведены результаты оценки: loss 0,4245 и accuracy 0,8415. Датасет и методика оценки не раскрыты, поэтому эти показатели не позволяют судить о качестве на других данных. Лицензия — Apache-2.0.

Модель sedat29/duygu-analizi-2 разработана Седатом Озджаном и дообучена на distilbert-base-uncased для классификации эмоций в английских текстах. Она относит текст к одному из шести классов: грусть, радость, любовь, гнев, страх или удивление. Модель построена на DistilBERT, использует библиотеку Transformers и принимает последовательности длиной до 512 токенов. Модель подходит для определения эмоциональной окраски отдельных текстов, например сообщений и отзывов. В карточке указана лицензия Apache-2.0. Классы ограничены шестью эмоциями, а описание модели не приводит метрик качества, поэтому заявленную точность нельзя оценить по представленным данным.

DziriBERT — языковая модель на архитектуре BERT, разработанная для алжирского разговорного арабского языка. Она предобучена на примерно одном миллионе публикаций из Twitter и рассчитана на работу с текстом, записанным как арабскими, так и латинскими символами. Модель содержит 151,6 млн параметров, поддерживает контекст до 512 токенов и доступна в форматах PyTorch, Safetensors и TensorFlow. Основная задача модели — предсказывать пропущенные токены в тексте. Её также можно применять как основу для классификации алжирских текстов; авторы сообщают о результатах уровня state of the art на наборах данных для такой классификации. Модель выпущена под лицензией Apache-2.0. Поскольку предобучение основано на сообщениях из социальных сетей, модель может предлагать оскорбительные слова. Это следует учитывать при использовании её предсказаний в пользовательских приложениях.

Это компактная статическая модель эмбеддингов для семантического поиска товаров в каталогах интернет-магазинов. Её разработал albertobarnabo как дистилляцию дообученной модели ecommerce-product-search-embeddings с помощью model2vec; представления имеют размерность 256. Модель рассчитана на работу на CPU без GPU и без прохода трансформера, поэтому подходит для устройств с ограниченными ресурсами и высоконагруженного кодирования запросов и названий товаров. Модель сопоставляет короткий поисковый запрос с товарами по смыслу и предназначена для сценариев вроде поиска с автодополнением, поиска в каталогах Shopify и WooCommerce и пакетного построения эмбеддингов. В карточке приведены результаты оценки на тестовой выборке ESCI и указано, что скорость достигается ценой снижения качества относительно родительской модели и общего трансформера. Статические эмбеддинги не учитывают порядок слов, поэтому хуже работают с запросами, где важны порядок или отрицание. Модель распространяется по лицензии Apache-2.0.

animetimm выпустила дообученную модель EVA-02 Large для многометочной классификации изображений и извлечения визуальных признаков. Модель содержит 316,8 млн параметров и рассчитана на входные изображения размером 448×448 пикселей. Она предсказывает метки из набора Danbooru WD Tagger v4: общие теги, персонажей и рейтинговые категории; всего в наборе 12 476 меток. Модель подходит для автоматического тегирования аниме- и иллюстративных изображений, поиска персонажей и фильтрации изображений по категориям. В README приведены результаты на тестовой выборке: при пороге 0,40 micro F1 составляет 0,693, а для категорий символов и рейтинга указаны отдельные рекомендованные пороги. Доступны веса PyTorch и ONNX; метаданные также указывают формат safetensors. Лицензия — GPL-3.0. Качество зависит от выбранных порогов и соответствия изображения обучающему набору; особенно для общих тегов метрики ниже, чем для тегов персонажей. Модель предназначена для изображений и выдаёт оценки по набору меток, а не текстовое описание произвольного содержания.

MahmoodAnaam/flaird-modernbert-large-concatenation-single-task-frozen — модель классификации последовательностей на архитектуре FlairdForSequenceClassification, доступная в формате safetensors и предназначенная для задачи text-classification. В README указано, что модель дообучена на неизвестном наборе данных; название включает ModernBERT Large, concatenation и single-task frozen, однако карточка не раскрывает базовую модель, целевые классы и назначение классификации. В README приведены метрики оценки: ROC-AUC 0,988, F1 0,965 и C@1 0,934; значение Brier указано как 0,953, но без пояснения методики его интерпретация неясна. Лицензия и ограничения применения в предоставленных данных не описаны.

Hammer2.1-7b — языковая модель для вызова функций, разработанная командой MadeAgents и дообученная на Qwen/Qwen2.5-Coder-7B-Instruct. Она содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговых систем, которые выбирают и вызывают инструменты по запросу пользователя. Hammer2.1 поддерживает многошаговый вызов функций в рамках одного запроса и многоходовое взаимодействие с сохранением контекста. Она также умеет распознавать случаи, когда доступные функции не относятся к запросу, и отвечать без вызова инструмента. Для обучения использовались наборы Salesforce/xlam-function-calling-60k и MadeAgents/xlam-irrelevance-7.5k; доступны интерфейсы использования через vLLM и Transformers. Модель принимает текст и выдаёт текстовые ответы, включая структурированные вызовы функций. Карточка описывает её применение для вызова функций, но не указывает поддерживаемые естественные языки. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

team-lucid разработала Hubert Large Korean — модель Hubert для обучения речевых представлений на необработанном аудиосигнале с помощью самообучения. Она принимает аудио и предназначена для задач распознавания речи на корейском языке; в README показано получение последовательности скрытых представлений через библиотеку Transformers. Модель содержит 402,7 млн параметров и обучалась примерно на 4 000 часах корейских данных: записей свободных диалогов, многоголосного синтеза речи и разговорной речи из вещательного контента. Веса опубликованы в форматах PyTorch, Flax и Safetensors. Лицензия Apache-2.0. README показывает выход HubertModel в виде скрытых представлений, поэтому для получения текстовой транскрипции может потребоваться дополнительная ASR-голова или декодер.

stojchet/jd2 — дообученная модель на базе deepseek-ai/deepseek-coder-1.3b-base, обученная на наборе данных generator. Это плотная авторегрессионная модель семейства Llama с 1,3 млрд параметров, предназначенная для генерации текста; базовая модель ориентирована на продолжение и автодополнение кода. Контекст модели составляет 16 384 токена. Модель может подойти для экспериментов с генерацией и продолжением кода. README не содержит сведений о специализированных сценариях, качестве, оценке или ограничениях дообученной версии. Репозиторий использует формат safetensors; лицензия указана как other, поэтому условия использования следует уточнить в карточке модели.

KcBERT-Base — корейская модель BERT, разработанная для работы с неформальным текстом из комментариев к новостям. Автор обучил её с нуля на комментариях и ответах к новостям Naver, чтобы учитывать разговорные выражения, сленг, новые слова, опечатки, эмодзи и характерную для комментариев пунктуацию. Модель имеет архитектуру BERT с 136,3 млн параметров, регистрозависимую токенизацию и словарь WordPiece размером 30 000 токенов; максимальная длина контекста — 300 токенов. Основной режим модели — предсказание замаскированных токенов. Её также можно дообучать для классификации тональности отзывов, распознавания сущностей, определения сходства и других задач на корейском языке. В карточке приведены результаты дообучения на нескольких корейских наборах данных, включая NSMC, Naver NER и KorQuaD. Модель распространяется по лицензии Apache-2.0. Она ориентирована прежде всего на корейские комментарии и может хуже подходить для формального текста или других языков; для прикладных задач требуется дообучение. В README автор указывает, что более поздняя KcELECTRA показывает более высокие результаты на всех рассмотренных задачах.

Koichi Yasuoka разработал ModernBERT-модель для разметки частей речи в тайском тексте. Она дообучена на основе KoichiYasuoka/modernbert-base-thai-wikipedia и назначает каждому слову тег UPOS и признаки FEATS; README также указывает на применение для синтаксического анализа зависимостей. Модель содержит 112,4 млн параметров, использует архитектуру ModernBERT и поддерживает контекст до 8192 токенов. Она предназначена для анализа тайских текстов. Распространяется по лицензии Apache-2.0.

Jeevesh8/more_cpts_corr_init_shuff_clipped_warmed_seq_len_128_bert-base-uncased_mnli_ft_4 — модель классификации текста, размещённая пользователем Jeevesh8 на Hugging Face. Она предназначена для применения через Transformers в задачах text classification и была дообучена для MNLI (Multi-Genre Natural Language Inference), то есть для классификации отношений между парами текстов, таких как entailment, contradiction и neutral. Идентификатор указывает на основу BERT-base-uncased и обучение с максимальной длиной последовательности 128 токенов; точные параметры конфигурации данной версии, число параметров, языки и результаты оценки в доступной карточке не описаны. Модель принимает текстовые входы и возвращает метки классификации, но подробная информация о сильных сторонах, ограничениях, условиях лицензирования и специфике процедур обучения отсутствует. Лицензия для этой модели также не указана.

Jeevesh8/more_cpts_corr_init_shuff_clipped_warmed_wd0_pnt_01_seq_len_128_bert-base-uncased_mnli_ft_53 — модель классификации текста, размещённая пользователем Jeevesh8 на Hugging Face. Она основана на BERT base uncased и дообучена на задаче MultiNLI (MNLI), поэтому предназначена для классификации текстовых пар и задач, связанных с определением текстовых отношений, включая entailment, contradiction и neutral, в зависимости от используемой схемы меток. Из доступных данных известны архитектурная основа BERT, англоязычная uncased-токенизация и ограничение длины последовательности 128 токенов. Модель поддерживает использование через библиотеку Transformers и интерфейс text-classification; её можно загрузить как AutoModelForSequenceClassification. Суффикс имени указывает на варианты обучения с перемешиванием, warmup, clipping, weight decay 0 и другими параметрами эксперимента, но подробности конфигурации и метрики не опубликованы. Сильные стороны модели — готовность к применению для текстовой классификации и использование предварительно обученной BERT-архитектуры. Ограничения включают отсутствие карточки модели, неизвестные точные метки классов, качество на конкретных наборах данных, языковую поддержку сверх английского, размер модели и подробные параметры обучения. Лицензия в доступных материалах не указана.

muhtasham/olm-bert-tiny-december-2022 — компактная англоязычная модель BERT, созданная в рамках проекта OLM для выпуска более актуальных языковых моделей. Она содержит около 7 млн параметров, использует архитектуру BertForMaskedLM и принимает последовательности длиной до 512 токенов. Модель обучена на очищенных снимках Common Crawl и Wikipedia за декабрь 2022 года; она регистронезависимая и обучалась с маскированием WordPiece-токенов. Основная задача модели — предсказание замаскированных токенов. Её также можно дообучать для классификации последовательностей и токенов, а также для ответов на вопросы. Малый размер делает её удобной для недорогого дообучения и запуска на CPU, но автор сообщает, что в предварительной оценке GLUE она уступила исходной tiny BERT и связывает это с возможными проблемами гиперпараметров и токенизатора. Лицензия — Apache-2.0.

Модель LucyintheSky/pose-estimation-front-side-back классифицирует изображения человека по положению тела относительно камеры: спереди, сбоку или сзади. Она создана дообучением Vision Transformer ViT-Base с патчами 16×16 на базе google/vit-base-patch16-224-in21k и предназначена для распознавания ориентации человека на изображении. Модель обучена на изображениях Lucy in the Sky. В карточке указаны точность 0,9355 и loss 0,2524 на оценочном наборе. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0.

syssec-utd/py310-pylingual-v1-segmenter — дообученная модель семейства RoBERTa для классификации токенов и сегментации последовательностей. Она дообучена на syssec-utd/segmentation-py310-pylingual-v1-tokenized на базе syssec-utd/py310-pylingual-v1-mlm. Модель содержит 136,3 млн параметров, работает через Transformers и принимает контекст длиной до 514 токенов. Модель предназначена для выделения сегментов в токенизированных последовательностях набора py310-pylingual. На тестовой выборке указаны precision 0,9931, recall 0,9901, F1 0,9916 и accuracy 0,9977. Эти результаты относятся к указанной оценочной выборке; сведений о лицензии и более широких сценариях применения в предоставленных данных нет.

syssec-utd/py37-pylingual-v1-segmenter — дообученная модель на архитектуре RoBERTa для классификации токенов и сегментации текста. Она обучена на наборе syssec-utd/segmentation-py37-pylingual-v1-tokenized на основе syssec-utd/py37-pylingual-v1-mlm. Модель содержит 136,3 млн параметров, использует библиотеку Transformers и формат safetensors; длина контекста составляет 514 токенов. Модель предназначена для разметки токенов, необходимой для сегментации текстов на py37-pylingual. В README приведены результаты на оценочном наборе: F1 0,9956, точность 0,9987, precision 0,9947 и recall 0,9964. Лицензия и более подробные сведения о назначении, языковой поддержке и ограничениях в предоставленных данных отсутствуют.

Ali Alvandi разработал эту модель как дообученную версию Qwen/Qwen3-ASR-1.7B для распознавания персидской речи, уделив особое внимание речи пожилых людей и устойчивости к акустическим изменениям и шуму. Это плотная модель семейства Qwen3-ASR для автоматического распознавания речи; она принимает аудио и выдаёт текст. Репозиторий содержит артефакты для инференса, без состояния оптимизатора и продолжения обучения. Модель предназначена для транскрибации персидской речи, исследований и прототипирования, в том числе записей пожилых говорящих. При обучении использовались общедоступные и собранные данные персидской речи, включая ресурсы с речью пожилых людей, а также шумовая аугментация, изменение скорости, ухудшение сигнала и вставка пауз. В карточке сообщается агрегированный результат WER 0,31 и CER 0,27; он зависит от нормализации и состава тестовых данных. Модель распространяется по лицензии Apache-2.0. Точность может меняться в зависимости от акцента, устройства записи, уровня шума, возраста говорящего и предметной области; транскрипты могут содержать пропуски и замены, поэтому они не подходят как авторитетная запись для критически важных решений.

Это модель-энкодер изображений Qwen ViT, преобразованная из vision-компонента Qwen3.8-27B в формат timm. Она предназначена для извлечения признаков и получения векторных представлений изображений, которые можно использовать в последующих задачах классификации или других компьютерно-зрительных пайплайнах. Весов языковой модели и обученной классификационной головы в репозитории нет. Модель содержит около 459,8 млн параметров: ширина backbone — 1152, проекция признаков — 5120. Она использует GELU-tanh MLP, обучаемые абсолютные позиционные эмбеддинги, осевое 2D RoPE и пространственный merger; выходные признаки усредняются и нормализуются без аффинных параметров. Указанный размер изображения — 768 × 768; поддерживаются прямоугольные изображения, размеры сторон должны делиться на 16, а для вариантов с merger 2×2 — на 32. Модель принимает RGB-изображения с нормализацией mean и std 0,5. Лицензия — Apache 2.0. README указывает, что это перенос весов в timm без дополнительного обучения. Поэтому новая классификационная голова инициализируется случайно и требует обучения на целевом наборе данных; извлечённые признаки сами по себе не являются готовыми метками классов.

Это отдельный визуальный энкодер Qwen3-VL-32B, опубликованный giovannioliveira. Он получен извлечением визуальной части model.visual из Qwen/Qwen3-VL-32B-Instruct: в репозитории сохранена полная Qwen3VLVisionModel, включая patch embedding, 27 блоков визуального трансформера, merger размерности 5120 и три головы DeepStack. Языковая модель и LM-head в чекпойнт не входят. Модель предназначена для извлечения признаков изображений и самостоятельной загрузки через классы Transformers без trust_remote_code. Веса хранятся в safetensors в формате BF16; указанный размер — 595 266 800 параметров. В конфигурации также присутствуют настройки предобработки видео, но метаданные классифицируют модель только для извлечения признаков изображений. Извлечение изменило раскладку ключей состояния, но, согласно README, не меняло значения тензоров. Лицензия — Apache-2.0. Это визуальный энкодер без языковой части, поэтому он сам по себе не предназначен для диалоговых ответов или генерации текста; README не сообщает результатов оценки качества.

hfl/rbt6 — предварительно обученная китайская модель BERT с маскированием целых слов (Whole Word Masking), разработанная HFL. Это плотная модель класса BertForMaskedLM с 72,8 млн параметров и контекстом до 512 токенов. Основное назначение — предсказание замаскированных токенов в китайском тексте, в том числе как основа для задач обработки китайского языка. Модель доступна в форматах PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0.

Это базовая японская RoBERTa-модель, разработанная nlp-waseda и предварительно обученная на японской Википедии и японской части корпуса CC-100. Она предназначена для восстановления замаскированных слов и подслов в японском тексте, а также может служить основой для задач понимания японского языка после дообучения. Модель использует архитектуру RoBERTa для masked language modeling, содержит 137,8 млн параметров и принимает последовательности длиной до 514 токенов. Словарь SentencePiece насчитывает 32 000 токенов; при подготовке текста применялась сегментация Juman++, хотя токенизатор Transformers поддерживает автоматическую обработку. Модель работает с японским языком и распространяется по лицензии Apache 2.0.

Это японская модель RoBERTa, разработанная Koichi Yasuoka и дообученная на текстах 青空文庫 для морфосинтаксического анализа. Она присваивает длинным единицам слов японского текста теги UPOS и признаки FEATS; модель также предназначена для синтаксического анализа зависимостей. Архитектура — RobertaForTokenClassification, размер — 120,5 млн параметров, контекст — до 512 токенов. Модель подходит для разметки частей речи и анализа японских текстов, в том числе с помощью библиотеки esupar. Базовая модель — KoichiYasuoka/roberta-base-japanese-aozora-char. Лицензия — CC BY-SA 4.0, поэтому при использовании и распространении следует соблюдать её условия.

Koichi Yasuoka разработал эту модель на базе RoBERTa для разметки корейского текста частями речи. Модель дообучена на основе KoichiYasuoka/roberta-base-korean-hanja и относит каждое корейское слово (эоджоль) к универсальной категории UPOS; в карточке также указана связь с синтаксическим анализом зависимостей. Модель принимает текст на корейском языке и выдаёт метки для слов, поэтому подходит для морфологического анализа и подготовки текста к последующей лингвистической обработке. Архитектура — RoBERTa с классификатором токенов, размер — 143,4 млн параметров, максимальный контекст — 514 токенов. Распространяется по лицензии CC BY-SA 4.0.