II.8Инженерия данных и аналитика

XLM-RoBERTa-capitalization-punctuation — модель на основе XLM-RoBERTa, дообученная для восстановления пунктуации и заглавных букв во вьетнамском тексте. Она предназначена для обработки обычного текста без пунктуации и в нижнем регистре, например расшифровок распознавания речи, а также для дальнейшего дообучения на текстах конкретной области. Модель предсказывает знаки точки, запятой, двоеточия и вопроса, а также восстанавливает обычное и сложное написание заглавных букв, например в названии YouTube. Для дообучения использован набор OSCAR-2109; README также сообщает о 5,6 млн текстовых примеров на вьетнамском языке. На 10 000 отложенных текстовых примерах приведены метрики по отдельным меткам, включая F1 0,82 для точки и 0,88 для сложного написания заглавных букв. Модель распространяется в формате PyTorch по лицензии CC BY-SA 4.0.

CKIP ALBERT Tiny Chinese — компактная модель на архитектуре ALBERT для классификации токенов в традиционном китайском языке. Её разработал Mu Yang из CKIP; карточка проекта описывает набор традиционно-китайских моделей и инструментов для сегментации слов, разметки частей речи и распознавания именованных сущностей. Для этой модели основная задача — распознавание сущностей в тексте. Модель содержит 12,8 млн параметров, использует формат PyTorch и поддерживает контекст до 512 токенов. Для токенизации автор рекомендует BertTokenizerFast. Модель подходит для извлечения сущностей из традиционно-китайских текстов, например имён людей, организаций и мест, однако карточка не уточняет набор меток и показатели качества. Лицензия — GPL-3.0.

Atom-Z-Tiny-7B — языковая модель из набора Atom, разработанного для точного вызова функций. По README, эта версия дообучена на 100 тысячах примеров; набор данных проекта включает более 20 миллионов примеров. Модель основана на архитектуре Mistral, содержит 7,1 млрд параметров и использует библиотеку NeMo. Контекстное окно составляет 32 768 токенов. Модель предназначена для диалоговых сценариев, где нужно сформировать вызов функции, а также для генерации текста и кода. В метаданных указан английский язык. Указанная лицензия — Apache-2.0. Заявленная в README поддержка зрения относится к будущей разработке проекта, поэтому её нельзя считать возможностью этой модели.

Модель kyleinincubated/autonlp-cat333-624217911 — классификатор текста на базе BERT, автоматически обученный с помощью AutoNLP для многоклассовой классификации. Число параметров составляет 129,5 млн, контекст — до 512 токенов. В карточке указан китайский язык; обучение связано с набором данных kyleinincubated/autonlp-data-cat333. Модель предназначена для присвоения тексту одного из нескольких классов. Валидационная точность составляет около 0,91, взвешенная F1-мера — около 0,91, а macro F1 — около 0,74, что указывает на более слабые результаты по усреднению классов. Доступ к модели описан через API Hugging Face. Лицензия в предоставленных данных не указана.

Модель gchhablani/bert-base-cased-finetuned-sst2 — англоязычный классификатор тональности на базе BERT, дообученный на наборе SST-2 из GLUE. Она принимает текст и относит его к одному из классов тональности; модель использовалась для сравнения google/fnet-base с bert-base-cased. Архитектура — BertForSequenceClassification, размер — 135,5 млн параметров, максимальная длина контекста — 512 токенов. На оценочной выборке SST-2 модель достигла точности 0,9232 при значении loss 0,3649. Эти результаты относятся к указанному набору и сами по себе не гарантируют такое же качество на других текстах. Модель распространяется под лицензией Apache-2.0.

protectai/bert-base-NER-onnx — это ONNX-версия модели dslim/bert-base-NER, разработанная для проекта ProtectAI и преобразованная в формат ONNX с использованием библиотеки Hugging Face Optimum. Проект архивирован и больше не поддерживается активно. Модель предназначена для задачи распознавания именованных сущностей (NER), в том числе для извлечения персон, организаций, местоположений и сущностей категории MISC из англоязычного текста. Она основана на bert-base-cased, дообученной на англоязычной версии набора данных CoNLL-2003, и относится к классу моделей token classification. Для запуска используются Optimum ONNX Runtime и Transformers. Известные характеристики модели: поддерживается английский язык, формат ONNX, базовая архитектура BERT и четыре типа сущностей — LOC, ORG, PER и MISC. README не указывает размер модели, длину контекста, точные метрики качества или перечень поддерживаемых модальностей помимо текста. Лицензия — MIT. Ограничения включают специализацию на английском языке, зависимость от ONNX Runtime и отсутствие активной поддержки проекта.

bert-fa-sentiment-dksf — модель классификации текста, разработанная Hezar AI. Она дообучена на базе hezarai/bert-base-fa для анализа тональности персидского текста и подходит для определения эмоциональной окраски пользовательских отзывов и сообщений. Модель использует архитектуру BERT и доступна в формате PyTorch через библиотеку Hezar. Карточка Hugging Face обозначает задачу как text-classification и язык как персидский. Размер модели, длина контекста, точный набор классов тональности и лицензия в доступных сведениях не установлены.

Bertha Portuguese Small — компактная языковая модель на архитектуре BERT, разработанная Леонардо Лессой Арамаки и обученная с нуля на бразильском португальском корпусе Corpus Carolina (C4AI/USP). Это энкодерная модель BERT-Small с 6 слоями, 8 головами внимания и размером скрытого представления 512; число параметров — 32,1 млн, максимальный контекст — 512 токенов. Модель предназначена для заполнения маскированных слов и как основа для последующей адаптации к задачам обработки португальского текста, включая распознавание именованных сущностей, классификацию, анализ тональности и извлечение информации. Компактный размер рассчитан на низкую задержку и эффективный запуск на CPU. Карточка приводит финальную потерю около 1,9; это значение само по себе не гарантирует качество на конкретных прикладных задачах. Модель распространяется по лицензии CC-BY-4.0.

bert-sr-base — языковая модель семейства BERT, разработанная aajrami и предназначенная для извлечения признаков из текста. Модель использует архитектуру RoBERTa; в карточке она описана как BERT base с предобучением по целевой функции shuffle + random. Число параметров — около 151,8 млн, длина контекста — 514 токенов. Модель подходит для получения векторных представлений текста и использования в качестве основы для последующих задач обработки языка. В репозитории указаны форматы PyTorch и Safetensors. Лицензия — CC BY 4.0. README не уточняет языки обучения и ограничения по применению.

lyeonii/bert-tiny — компактная англоязычная модель BERT, основанная на BERT-Tiny из семейства облегчённых моделей, выпущенных Google Research. В репозитории размещена конверсия исходных чекпойнтов TensorFlow в PyTorch; модель содержит 4,4 млн параметров и рассчитана на входную последовательность длиной до 512 токенов. Модель предназначена для извлечения признаков и построения текстовых представлений на английском языке. Её можно использовать как компактную основу для получения эмбеддингов или дальнейшей настройки под задачи обработки текста. По оценке на MRPC в карточке приведены F1 81,22 и accuracy 68,38 для варианта BERT-Tiny. Это uncased-модель: регистр букв не различается. Она поддерживает только английский язык, а её компактность сопровождается более скромными показателями на MRPC по сравнению с более крупными вариантами семейства. Лицензия — MIT.

Модель cvalenciaunivalle/bilstm-crf-fasttext-charcnn-conll-bs32 — испаноязычная система распознавания именованных сущностей, разработанная для учебного проекта Taller PLN в Univalle; среди участников указаны Laura Valero и Cristian Valencia. Она обучена на CoNLL-2002 и использует BiLSTM с выходным CRF, символьную CharCNN и 300-мерные испанские FastText-эмбеддинги. Модель предназначена для разметки токенов и извлечения сущностей из испанского текста. На тестовой выборке CoNLL-2002 указаны F1 0,8040, точность 0,8130 и полнота 0,7952. Для файлов используется формат safetensors; лицензия CC BY-NC-SA 4.0 требует указания авторства и распространяет производные материалы на тех же условиях с ограничением некоммерческого использования.

CED-Mini — компактная модель семейства CED, разработанная авторами работы «CED: Consistent ensemble distillation for audio tagging». Это аудиотрансформер на основе Vision Transformer, предназначенный для присвоения звуковым фрагментам меток аудиособытий. В репозитории представлены веса в форматах Safetensors и ONNX; размер модели — около 9,6 млн параметров. Модель обучалась на AudioSet и ориентирована на классификацию и тегирование звуков. В README отмечены поддержка аудио переменной длительности и ускоренный вывод за счёт 64-мерных mel-фильтров и патчей 16×16 без перекрытия. Для CED-Mini приведены результаты mAP 38,5 на AS-20K и 49,0 на AS-2M. Энкодер также можно использовать как основу для обучения классификатора на специализированных аудиодатасетах. Модель принимает аудио и выдаёт классы или оценки аудиособытий. Её назначение не связано с генерацией речи или транскрипцией. Распознавание зависит от набора классов обучения и может требовать дообучения для специализированных категорий. Лицензия — Apache-2.0.

CharacterBERT — вариант BERT, разработанный Hicham El Boukkouri, Olivier Ferret, Thomas Lavergne, Hiroshi Noji, Pierre Zweigenbaum и Junichi Tsujii. Модель предназначена для получения контекстных представлений слов на основе их символов и поддерживает открытый словарь: вместо фиксированной WordPiece-токенизации используется CharacterCNN, который строит представление целого токена из последовательности символов. Модель содержит около 113,2 млн параметров, использует 12 трансформерных слоёв с размерностью скрытого состояния 768 и 12 attention heads, а максимальная длина контекста составляет 512 токенов. В репозитории Hugging Face она предназначена для feature extraction и реализована на PyTorch с пользовательским кодом Transformers. Базовая версия предварительно обучена на англоязычных Wikipedia и OpenWebText. Модель подходит для извлечения эмбеддингов слов и предложений, а также для последующей адаптации к задачам классификации и другим задачам обработки текста. Символьное представление делает её устойчивой к неизвестным словам и опечаткам. Ограничения включают более медленное предварительное обучение из-за CharacterCNN и необходимость доверять пользовательскому коду при загрузке через Transformers. Репозиторий распространяется по лицензии Apache-2.0.

Это экспериментальный чекпойнт языковой модели Qwen3-4B, дообученный командой agurung методом обучения с подкреплением GRPO с помощью OpenRLHF. Модель предназначена для генерации кода: она обучалась решать задачи программирования, отобранные по низкой успешности базовой модели, а награда зависела от прохождения тестов сгенерированной программой. Чекпойнт сохранён на шаге 48 и показал лучший pass@8 в рамках этого запуска; численные метрики оценки в карточке отсутствуют. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 3,7 млрд параметров. Она принимает текст и генерирует текст, включая код; использует контекст до 262 144 токенов. Обучение проводилось на англоязычных задачах программирования, но карточка не заявляет отдельный перечень поддерживаемых естественных языков. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

oddadmix/dialect-router-v0.2 — компактная модель классификации арабских диалектов, разработанная для маршрутизации запросов в конвейере Lahgtna. Это дообученная версия asafaya/bert-mini-arabic: энкодер BERT-mini с классификационной головой, около 12,4 млн параметров и контекстом до 512 токенов. Модель относит текст к одному из 15 классов: 13 арабским диалектам, современному литературному арабскому и английскому. Основной сценарий — определить диалект арабской реплики, чтобы выбрать голосовой образец и языковой токен для синтеза речи Chatterbox. Модель также подходит для определения диалектов в NLP-конвейерах, анализа датасетов и фильтрации контента. В README указаны accuracy 0,9359 и macro-F1 0,9052. Предсказания на коротких текстах короче пяти токенов ненадёжны. Смешение арабского с английским или французским может сбивать классификатор, а близкие географические диалекты — путаться; качество некоторых классов может быть ниже из-за смещения обучающего корпуса. Модель не предназначена для идентификации людей и высокорисковых решений без проверки человеком. Лицензия в предоставленных данных не указана.

hristo-mutafov/distilbert-sentiment — модель классификации текста на основе DistilBERT, дообученная автором репозитория на наборе данных, который в карточке обозначен как None. Она предназначена для отнесения текстов к классам тональности. Модель использует архитектуру DistilBertForSequenceClassification, принимает текст и рассчитана на контекст до 512 токенов. В карточке указана точность 0,8 и значение loss 1,0367 на оценочной выборке; подробности набора данных и оценки не приведены. Модель распространяется в формате safetensors по лицензии Apache-2.0. Основа — distilbert/distilbert-base-uncased.

dpo5k3 — дообученная модель на базе deepseek-ai/deepseek-coder-1.3b-base, созданная с использованием набора данных generator. Это плотная авторегрессионная модель семейства Llama с 1,3 млрд параметров, предназначенная для генерации текста; базовая модель ориентирована на продолжение и автодополнение кода, а также заполнение пропусков в коде. Модель опубликована в формате safetensors и поддерживает контекст до 16 384 токенов. Карточка не уточняет сценарии дообучения, оценку качества или ограничения. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензии в репозитории модели.

empire-content-distilbert — дообученная модель DistilBERT для классификации текстов, опубликованная пользователем WealthFromAI. Она основана на distilbert-base-uncased и реализована как DistilBertForSequenceClassification. Модель предназначена для присвоения тексту одной из категорий; конкретные категории и целевая область применения не описаны. В README приведены результаты оценки: accuracy 0,9814, macro F1 0,9817 и loss 0,0786. Эти показатели относятся к неуказанному набору данных, поэтому их нельзя считать гарантией качества на других текстах. Контекст модели — до 512 токенов; репозиторий содержит веса в формате safetensors. Указана лицензия Apache-2.0.

ERNIE 2.0 Base English — плотная модель Baidu на архитектуре ERNIE, выпущенная в формате PyTorch и преобразованная из официальной модели PaddlePaddle. В README ERNIE 2.0 описана как framework непрерывного предварительного обучения с последовательным добавлением задач и многозадачным обучением; этот репозиторий предоставляет английскую базовую модель с 136,7 млн параметров и контекстом до 512 токенов. Модель предназначена для извлечения признаковых представлений текста, которые можно использовать как основу для последующей обработки или адаптации. В статье о семействе сообщается о результатах выше BERT и XLNet на 16 задачах, включая английские тесты GLUE; эти результаты относятся к экспериментам семейства, а не обязательно к этому чекпойнту отдельно. Для загрузки указаны AutoTokenizer и AutoModel из Transformers. Репозиторий содержит преобразованные веса PyTorch; лицензия в предоставленных данных не указана.

nghuyong/ernie-2.0-large-en — англоязычная версия ERNIE 2.0, модели Baidu, созданной в рамках подхода continual pre-training с последовательным обучением набора задач посредством многозадачного обучения. В репозитории опубликована версия PyTorch, преобразованная из официальной модели ERNIE для PaddlePaddle; автор README сообщает, что точность преобразования проверялась экспериментами. Модель имеет плотную архитектуру ErnieModel с 433,9 млн параметров и принимает последовательности длиной до 512 токенов. Она предназначена для извлечения контекстных признаковых представлений текста, которые можно использовать в NLP-конвейерах и как основу для последующих задач. В README описаны результаты ERNIE 2.0 на англоязычных задачах GLUE и ряде распространённых китайских задач, но карточка этой конкретной версии указывает на английскую направленность. Для использования доступны веса PyTorch и загрузка через Transformers AutoTokenizer и AutoModel. Лицензия в предоставленных данных не указана.

nghuyong/ernie-3.0-micro-zh — китайская языковая модель ERNIE 3.0, созданная на основе подхода крупномасштабного предобучения с использованием знаний для понимания и генерации языка. Репозиторий содержит вариант для PyTorch, конвертированный из официальной модели PaddlePaddle; в README сообщается о проверке точности конвертации. Для загрузки используются BertTokenizer и ErnieModel из Transformers. Модель предназначена для извлечения признаковых представлений текста и может служить основой для задач понимания китайского языка. Она имеет плотную архитектуру ErnieModel, 24,8 млн параметров и контекст до 2048 токенов. Карточка указывает китайский язык и формат PyTorch. Лицензия в предоставленных данных не указана.

Модель viviastaari/finetuning-sentiment-analysis-en-id — дообученная версия distilbert-base-multilingual-cased для классификации тональности текста. Она принимает текст и предсказывает его класс; в названии модели заявлена работа с английским и индонезийским языками. Архитектура — DistilBERT для классификации последовательностей, формат весов — PyTorch, максимальный контекст — 512 токенов. В README приведены результаты оценки: accuracy 0,9527, F1 0,9646, precision 0,9641 и recall 0,9652. Описание данных, разметки классов и предполагаемых сценариев применения не раскрыто, поэтому метрики нельзя уверенно переносить на произвольные тексты. Модель распространяется по лицензии Apache-2.0.

LYTinn/finetuning-sentiment-model-tweet-gpt2 — модель GPT-2, дообученная для классификации тональности коротких сообщений, в том числе твитов. В метаданных указаны архитектура GPT2ForSequenceClassification, формат PyTorch и контекст до 1024 токенов; лицензия — MIT. На оценочном наборе модель показала accuracy 0,6908 и F1 0,6908. Датасет обучения, набор меток и подробные сценарии применения в карточке не описаны, поэтому качество на других данных может отличаться.

FunAudioLLM/fsmn-vad-GGUF — это GGUF-версия модели FSMN-VAD из экосистемы FunASR, подготовленная для запуска через FunASR llama.cpp runtime. Модель предназначена для детектирования участков речи в аудиозаписях и сегментации длинного аудио перед распознаванием речи. Модель использует FSMN-энкодер и CMVN, занимает около 1,7 МБ и рассчитана на работу на CPU и периферийных устройствах без Python, в виде нативного C++-компонента на базе ggml/GGUF. Она поддерживает китайский и английский языки, а границы сегментов, согласно README, совпадают с PyTorch-фронтендом fsmn-vad примерно в пределах 10 мс. Модель удобна для потоковой или локальной подготовки аудио к ASR, включая использование с инструментами FunASR, SenseVoice и Paraformer через параметр --vad. Она не выполняет распознавание речи самостоятельно и требует совместимого FunASR llama.cpp runtime. Распространяется по лицензии Apache-2.0.

Модель Shahzad Sohail — дообученная DistilBERT для многометочной классификации эмоций в английском тексте по упрощённому набору меток GoEmotions от Google. Она предназначена для анализа комментариев в социальных сетях, определения эмоциональной окраски сообщений, мониторинга мнений о бренде и добавления распознавания эмоций в чат-боты. Модель принимает текст и выдаёт метки эмоций; использует архитектуру DistilBERT и поддерживает контекст до 512 токенов. Лицензия — Apache 2.0. Модель не предназначена для клинической диагностики или обработки неанглоязычного текста; она может ошибаться на сленге, диалектах, сарказме и неоднозначных сообщениях, поэтому результаты в чувствительных сценариях требуют проверки человеком.

avichr/heBERT_NER — модель распознавания именованных сущностей в тексте на иврите, опубликованная разработчиком avichr. Она основана на архитектуре Google BERT, конфигурации BERT-Base и дообучена для классификации токенов. Модель выделяет сущности, например имена людей, организаций и географические названия; в карточке указана оценка на размеченном наборе данных Ben Mordecai и M. Elhadad (2005) по F1-мере. Модель содержит 136,7 млн параметров, принимает текст и имеет контекст длиной до 512 токенов. Базовый HeBERT предварительно обучен на ивритских данных из OSCAR, Википедии и пользовательских текстов; эта версия предназначена для NER. Репозиторий содержит веса PyTorch и использует библиотеку Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

hu_core_news_md — базовая модель обработки венгерского языка из проекта HuSpaCy, распространяемая как пакет для spaCy версии 3.8.1. Она принимает текст и выполняет токенизацию, определение границ предложений, морфологический и грамматический анализ, лемматизацию, синтаксический разбор и распознавание именованных сущностей. Модель подходит для подготовки венгерских текстов к поиску и анализу, выделения частей речи и грамматических признаков, построения зависимостей между словами и извлечения сущностей. В README указаны компоненты tok2vec, senter, tagger, morphologizer, lemmatizer, parser и ner; карточка содержит подробную схему меток для разметки токенов. Лицензия — CC BY-SA 4.0. В предоставленных данных нет сведений о числе параметров, длине контекста или оценках качества; поэтому их нельзя использовать для сравнения модели с другими системами.

IndoBERT-Lite Large Model (phase2, uncased) — предварительно обученная языковая модель для индонезийского языка, созданная командой IndoBenchmark. Это модель архитектуры ALBERT, обученная на текстах набора Indo4B с задачами masked language modeling и next sentence prediction. В метаданных указаны 433,4 млн параметров и контекст до 512 токенов. Модель предназначена для извлечения контекстных представлений текста, которые можно использовать как основу для последующей обработки индонезийского языка. Она доступна в форматах PyTorch и TensorFlow и распространяется по лицензии MIT. В карточке показан способ загрузки через Transformers.

Funnel Transformer intermediate-base — базовая модель Funnel Transformer, разработанная командой Funnel Transformer и опубликованная на Hugging Face. Это англоязычный энкодер FunnelBaseModel без декодера, предварительно обученный на текстах с самоконтролируемой задачей распознавания исходных и заменённых токенов. Модель использует архитектуру Funnel и принимает последовательности длиной до 512 токенов; текст обрабатывается без различия регистра. Модель извлекает скрытые представления текста для последующего обучения классификаторов и других задач понимания языка, в том числе классификации последовательностей, разметки токенов и ответов на вопросы. Выходная последовательность в четыре раза короче входной, поэтому представления удобны для задач уровня предложения, но не сохраняют отдельный выходной вектор для каждого исходного токена. Генерация текста не является её назначением. Веса доступны в форматах PyTorch и TensorFlow. Лицензия — Apache-2.0.

jdpo5k5 — дообученная модель на основе deepseek-ai/deepseek-coder-1.3b-base, созданная на датасете generator. Это плотная авторегрессионная модель семейства Llama с 1,3 млрд параметров, предназначенная для генерации текста; базовая модель ориентирована на продолжение и автодополнение кода. Для неё указано контекстное окно 16 384 токена, веса доступны в формате Safetensors. Модель может использоваться для генерации и продолжения кода, однако README не описывает назначение дообучения, качество, оценку или специальные ограничения. Лицензия указана как other, поэтому условия использования следует сверить с файлами репозитория и условиями базовой модели.