II.8Инженерия данных и аналитика

bookpanda/wangchanberta-base-att-spm-uncased-tagging — дообученная модель на базе WangchanBERTa от AI Research для классификации токенов. Её можно применять для разметки отдельных слов и фрагментов текста, например для извлечения сущностей, если соответствующие метки предусмотрены обучением. Архитектура — BERT, размер — 139,1 млн параметров; модель принимает текст с контекстом до 512 токенов и доступна в формате PyTorch. Датасет и схема меток в карточке не раскрыты, поэтому нельзя определить точный сценарий разметки или качество. Базовая модель рассчитана на тайский язык, однако сведения о языках этой версии в метаданных отсутствуют. Условия лицензии в предоставленных данных не указаны.

anton-l/wav2vec2-base-superb-sd — модель на базе Wav2Vec2, опубликованная пользователем anton-l на Hugging Face и основанная на facebook/wav2vec2-base-960h. Она предназначена для покадровой классификации аудиосигнала в задачах определения говорящих и сегментации речи по говорящим. Модель имеет архитектуру Wav2Vec2 с трансформерным энкодером и классификационной головкой для аудиокадров, содержит около 113,3 млн параметров и работает через Transformers с PyTorch. В конфигурации определены два класса: speaker_0 и speaker_1. Модель принимает речевой аудиосигнал и возвращает классификацию для временных кадров, что позволяет оценивать, какой из двух условных говорящих активен в каждый момент. Модель подходит для базовой диаризации и анализа многоговорящих записей с двумя участниками. Она не выполняет транскрибацию текста и не определяет реальные имена людей без дополнительной обработки. Контекстное окно, поддерживаемые языки и лицензия в доступных источниках не установлены.

Werea-TR-TextRestore — турецкая модель для восстановления диакритических знаков в тексте, записанном ASCII-символами. Она дообучена разработчиками Werea на базе google/mt5-small и предназначена для преобразования турецких фраз, например восстановления букв и апострофов в именах и географических названиях. Модель построена на архитектуре mT5 и содержит 157,4 млн параметров. README сообщает о тестировании на отложенной выборке реальных новостных предложений TR-News и точности на уровне слов 96,5%. Для запуска через Transformers используется задача text2text-generation и префикс «şapka: ». Модель опубликована в формате safetensors под лицензией MIT.

Funnel Transformer xlarge-base — предварительно обученная модель Funnel Transformer, выпущенная командой, представившей это семейство. Это англоязычная бескодерная базовая модель архитектуры Funnel с размером контекста 512 токенов. Она обучалась на английских текстах BookCorpus, Wikipedia, ClueWeb, GigaWord и Common Crawl с самоконтролируемой задачей обнаружения заменённых токенов; доступны реализации PyTorch, TensorFlow и веса Safetensors. Модель извлекает скрытые представления текста для последующего обучения или настройки классификаторов и других моделей для задач по целому предложению, включая классификацию последовательностей, классификацию токенов и ответы на вопросы. Выходная последовательность в четыре раза короче входной, поэтому модель подходит для получения сводного представления предложения, но не для задач, которым требуется отдельное представление каждого исходного токена. Она не предназначена для генерации текста. Лицензия — Apache-2.0.

xlmr-base-ro-re — модель-классификатор отношений между сущностями, разработанная Dragoș Mitruț Vasile, Elena-Simona Apostol, Stefan-Adrian Toma, Adrian Paschke и Ciprian-Octavian Truică. Это дообученный энкодер xlm-roberta-base с классификационной головой для задачи Relation Classification на румынском переводе датасета SemEval-2010 Task 8. Модель принимает предложение с двумя явно размеченными сущностями и предсказывает одно из 19 направленных отношений, которые сводятся к 10 типам отношений SemEval. Модель поддерживает румынский и английский языки. В тесте SemEval-2010 Task 8 указаны macro F1 0,822 для румынского и 0,853 для английского. Обучающие данные получены машинным переводом и прошли автоматическую постпроверку, поэтому их качество не эквивалентно ручной экспертной разметке. Лицензия модели — MIT.

Модель asanka25/xlm-roberta-base-finetuned-conll03-english-finetuned-sinhala — модель XLM-RoBERTa для распознавания именованных сущностей. Автор сначала дообучил xlm-roberta-base на датасете CoNLL 2003, а затем повторно обучил модель на данных для распознавания сущностей на сингальском языке, приведённых к формату CoNLL. Архитектура — XLMRobertaForTokenClassification, размер — 305,2 млн параметров, контекст — до 514 токенов. Модель предназначена для разметки токенов текста тегами сущностей, в частности для NER на сингальском языке; также в истории обучения указана английская версия CoNLL 2003. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Это многоязычная модель XLM-RoBERTa-large, разработанная Facebook AI и дообученная на испанской части набора CoNLL-2002. Архитектура — трансформер XLM-RoBERTa для заполнения маски; модель содержит 658,7 млн параметров и поддерживает контекст до 514 токенов. Базовая модель обучалась на 100 языках на отфильтрованных данных CommonCrawl. Модель предназначена для предсказания скрытых токенов и может применяться к классификации токенов, включая распознавание именованных сущностей и разметку частей речи в испанском тексте. Для испанской NER она дообучена на CoNLL-2002; карточка также описывает более широкую многоязычную основу, но не подтверждает равное качество этих задач на других языках. Возможны смещения и воспроизведение стереотипов, а сгенерированные продолжения могут быть оскорбительными. Лицензия в карточке не определена, поэтому условия использования следует уточнить у владельца модели.

Fer1155453/xlnet-tass — модель классификации текстов на базе XLNet Large cased, дообученная автором репозитория. Она предназначена для отнесения входного текста к одному из классов. По результатам оценки на тестовой выборке модель показала accuracy 0,5734, макро-F1 0,5708 и взвешенный F1 0,5706. Размер модели — 435,4 млн параметров; веса опубликованы в формате Safetensors и доступны по лицензии MIT. README не сообщает назначение классов и подробности обучающего набора данных.

XtremeDistil-L6-H384-Uncased — компактная дистиллированная модель семейства BERT, разработанная Microsoft в рамках проекта XtremeDistilTransformers. Это универсальный энкодер, предназначенный для переноса знаний между задачами; в каталоге модель отнесена к классификации текста. Чекпойнт содержит 6 слоёв, размер скрытого представления 384 и 12 голов внимания; в README указано 22 млн параметров, а в метаданных — 25,9 млн. Контекст составляет до 512 токенов. Модель ориентирована на англоязычный текст и может применяться для классификации, а также как компактная основа для адаптации к разным NLP-задачам. В README приведены оценки на GLUE и SQuAD v2 и заявлено ускорение в 5,3 раза относительно BERT-base. Доступны веса PyTorch, TensorFlow и Flax. Лицензия — MIT. Поскольку это базовый энкодер, для конкретной классификации обычно требуется соответствующая задача или дообучение.

loodos выпустила эту предобученную модель ALBERT-Base для работы с текстами на турецком языке. Она построена на архитектуре ALBERT с 12 повторно используемыми слоями энкодера и размером скрытого представления 768; модель обучена на турецком корпусе без учёта регистра. В репозитории доступны веса PyTorch и TensorFlow, максимальная длина контекста — 512 токенов. Модель предназначена для дальнейшей настройки и применения в задачах обработки турецкого текста, например классификации или извлечения признаков. В README отмечена проблема токенизации турецких букв «ı», «i», «I», «İ» и других символов: нормализация токенизатора может искажать текст и приводить к потере информации. Для обучения на тексте без учёта регистра авторы предлагают использовать собственный модуль нормализации. Лицензия в предоставленных сведениях не указана.

Это модель классификации текста на базе ALBERT, дообученная TextAttack на задаче SST-2 из набора GLUE. Она предназначена для классификации коротких текстов по тональности, например для определения положительной или отрицательной оценки отзыва. Модель содержит 136,3 млн параметров, использует архитектуру AlbertForSequenceClassification и принимает последовательности длиной до 512 токенов; при дообучении применялась максимальная длина 64 токена. В карточке указана точность 0,925 на оценочной выборке. Модель подходит для анализа тональности англоязычных отзывов и коротких высказываний. Используется формат PyTorch и лицензия, явно указанная в доступных сведениях, не приводится.

Argos 2B — дообученная и объединённая с адаптером модель Fabrix AI на базе Qwen3.5-2B, предназначенная для диалогового поиска знаний Fabrix/RDAF, цитирования документации и подготовки наборов пользовательских виджетов для дашбордов. Модель обучалась методом supervised fine-tuning на базе знаний и рецептах виджетов, а затем была настроена с помощью Direct Preference Optimization (DPO), в частности для соблюдения формата ссылок на карточки базы знаний и порядка зависимостей виджетов. Это плотная модель архитектуры Qwen3.5ForConditionalGeneration с 2,3 млрд параметров, опубликованная в формате safetensors с 16-битными весами. Метаданные указывают поддержку чата и интерфейса вызова инструментов; языковая карточка указывает английский. Для примеров оценки в README заявлены 100% точности формата карточек на 22 примерах и 59,1% точного совпадения цитат на предпочтительных парах; это результаты описанных авторами оценок, а не гарантия качества в других сценариях. Лицензия — Apache-2.0.

yuiti-ara/awesome-align-onnx-int8 — квантованная модель для выравнивания слов в параллельных предложениях по методике awesome-align. Она основана на многоязычной bert-base-multilingual-cased: использует архитектуру BERT с 205,1 млн параметров, первые восемь слоёв, токенизацию WordPiece и формат ONNX INT8. Модель извлекает представления текста, а связи между словами вычисляются по косинусному сходству и взаимному argmax. Репозиторий рассчитан на запуск через ONNX Runtime на CPU, с оптимизациями для ARM64 и Apple Silicon. В README заявлены размер около 150 МБ, ускорение примерно в 1,7 раза относительно FP32 на MacBook Air M1 и сохранение качества выравнивания в указанном сравнении. Базовая mBERT обучена на текстах Википедии для 104 языков; контекст модели — до 512 токенов. Модель подходит для сопоставления слов в переводах и подготовки параллельных корпусов. Это не генеративная модель: её основной результат — представления, используемые для построения выравниваний. Лицензия — Apache-2.0.

CAMeLBERT-Mix — арабская языковая модель семейства BERT, разработанная CAMeL Lab и предварительно обученная на смеси современного литературного арабского (MSA), диалектного арабского (DA) и классического арабского (CA). Модель содержит 136,3 млн параметров, использует архитектуру BertForMaskedLM и принимает последовательности длиной до 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Модель предназначена для заполнения пропусков в тексте и как основа для дообучения под задачи обработки арабского языка, включая распознавание именованных сущностей, разметку частей речи, анализ тональности и определение диалекта. Она обучалась на корпусах разных арабских вариантов, что позволяет применять её к литературному, диалектному и классическому тексту. Лицензия Apache 2.0.

leomaurodesenv/bert-base-uncased-nvidia-aegis-v2 — дообученная англоязычная модель BERT для классификации текста, основанная на google-bert/bert-base-uncased. Она содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. Модель предназначена для задач классификации текста; в README приведены результаты оценки: accuracy 0,8490 и loss 0,3392. Датасет обучения и конкретная схема классов не раскрыты, поэтому результаты нельзя уверенно переносить на произвольные задачи или домены. Модель распространяется в формате safetensors по лицензии Apache-2.0.

JeremiahZ/bert-base-uncased-sst2 — модель классификации текста, дообученная на наборе GLUE SST-2 на базе BERT Base Uncased. Она предназначена для определения тональности коротких англоязычных текстов, например отзывов и комментариев. Модель содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. На оценочной выборке SST-2 указаны loss 0,2478 и accuracy 0,9323. Модель опубликована в форматах PyTorch и Safetensors под лицензией Apache-2.0. Карточка не уточняет ограничения за пределами результатов на SST-2; качество на других жанрах и языках этими метриками не подтверждается.

claude-yolo-vibes-v4-dpo — дообученная David Nichols версия инструкционной Qwen2.5-Coder-7B-Instruct с настройкой стиля ответов и предпочтений методом DPO. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров; репозиторий содержит веса BF16 в формате Safetensors, а заявленная длина контекста — 32 768 токенов. Модель предназначена для диалоговой генерации и работы с кодом. В режиме Vibes она отвечает с острым юмором и может использовать грубоватый стиль, сохраняя способность писать код; в режиме Code выдаёт код без лишних пояснений. По README, обучение включало SFT на сессиях агента и DPO на парах предпочтений. Автор заявляет результат HumanEval Pass@1 88,4%, совпадающий с базовой моделью; это заявление карточки, а не независимая оценка. Модель принимает текст и генерирует текст. Указан английский язык. Лицензия — Apache-2.0. Для локального запуска на Apple Silicon автор предлагает отдельную 4-битную MLX-версию, а также упоминает сборку Ollama в формате GGUF; они не являются файлами этого BF16-репозитория.

CodeGemma 1.1 2B — компактная языковая модель для работы с кодом, разработанная Google на основе Gemma. Это предварительно обученная декодерная модель с 2 млрд параметров, предназначенная прежде всего для быстрого автодополнения кода. Она поддерживает заполнение пропусков между префиксом и суффиксом (fill-in-the-middle) в редакторе кода; на вход также можно подавать текстовые подсказки, а на выходе получать код или текст. Модель обучалась на дополнительных данных, преимущественно на английском языке: коде из открытых репозиториев, математических наборах данных и синтетически созданном коде. Модель подходит для интеграции в IDE и помощи при написании кода. Карточка описывает CodeGemma 2B как вариант для автодополнения, а не для чата или генерации кода по естественно-языковому запросу; эти сценарии в таблице отнесены к другим вариантам семейства. Для скачивания доступны веса в формате Safetensors, библиотека — Transformers. Лицензия — Gemma, использование регулируется условиями Google для Gemma. Как и другие большие языковые модели, CodeGemma может выдавать неверный или неподходящий код; результат следует проверять. В карточке также отмечено, что ограничения наследуются от семейства Gemma.

CodeParrot — авторегрессионная модель GPT-2 с 1,5 млрд параметров, разработанная для генерации кода на Python. Она обучена на очищенном наборе данных CodeParrot; версия v1.1 продолжила обучение исходной версии ещё на 30 тысяч шагов. Модель принимает текстовый контекст и предсказывает продолжение кода, поэтому подходит для черновой генерации функций и фрагментов Python по текстовому запросу или началу программы. Контекст составляет 1024 токена. В тестах HumanEval версии v1.1 показала pass@1 3,99%, pass@10 8,69% и pass@100 17,88%, поэтому результат требует проверки и запуска тестов. Модель опубликована в формате PyTorch; лицензия в предоставленных данных не указана.

stojchet/d6 — дообученная модель на архитектуре LlamaForCausalLM с 1,3 млрд параметров, созданная на основе deepseek-ai/deepseek-coder-1.3b-base и обученная на датасете generator. Она предназначена для генерации и продолжения текста; базовая модель ориентирована на продолжение, автодополнение и заполнение пропусков в коде, поэтому d6 может подойти для таких сценариев. Модель принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов и распространяется в формате safetensors. В README не приведены подробности о назначении дообучения, оценках качества или ограничениях. Лицензия указана как other, поэтому перед использованием следует проверить её условия на странице модели.

orbis-marianne/deberta-v3-seq-tag — модель для разметки последовательностей на основе DeBERTa v3, опубликованная ORBIS Marianne. В карточке указано, что модель обучена на disputool; она предназначена для классификации токенов и доступна для использования через Transformers как token-classification pipeline. Модель имеет архитектуру DebertaV2ForTokenClassification, содержит 211,6 млн параметров и рассчитана на контекст до 512 токенов. Репозиторий содержит веса в формате Safetensors. Карточка не уточняет набор меток и поддерживаемые языки, поэтому конкретный тип последовательностей и языковую область применения определить нельзя.

YoichiTakenaka/deverta-v3-japanese-large-Sadness — японская модель классификации текста на основе DeBERTa V2, дообученная для определения эмоции Sadness. Она принимает отдельный текст, список текстов или pandas Series и возвращает метку наличия эмоции и оценку уверенности. В пакете DeBERTa Emotion Predictor эта модель входит в набор из восьми отдельных классификаторов для радости, грусти, ожидания, удивления, гнева, страха, отвращения и доверия. Модель содержит 451,8 млн параметров, использует архитектуру DebertaV2ForSequenceClassification и обрабатывает контекст длиной до 512 токенов. Веса опубликованы в формате safetensors. README описывает поддержку японского текста и использование PyTorch, Transformers и pandas. Лицензия — CC BY-SA 4.0.

Модель transformersbook/distilbert-base-uncased-finetuned-emotion — дообученная для классификации эмоций версия distilbert-base-uncased, созданная в рамках главы «Text Classification» книги NLP with Transformers. Она принимает текст и относит его к эмоциональным категориям датасета Emotion. Модель построена на архитектуре DistilBertForSequenceClassification, работает с контекстом до 512 токенов и распространяется в формате PyTorch. На оценочной выборке указаны accuracy 0,927 и F1 0,9272. Модель подходит для определения эмоций в коротких текстах, например сообщениях и пользовательских отзывах. Данных о поддерживаемых языках в карточке нет; название базовой модели указывает на англоязычный вариант без регистрационных различий. Лицензия — Apache-2.0.

chaymans/distilbert-sentiment-demo — дообученная модель семейства DistilBERT для классификации текста. Она основана на distilbert/distilbert-base-uncased и использует архитектуру DistilBertForSequenceClassification. Модель предназначена для определения тональности текста; в README приведена точность 0,8433 и значение loss 0,4170 на оценочном наборе. Модель принимает текст и выдаёт метку класса. Максимальная длина контекста — 512 токенов. Данные обучения и точные классы тональности в карточке не описаны, поэтому результаты на других данных могут отличаться. Репозиторий содержит веса safetensors и ONNX; библиотека — Transformers. Лицензия — Apache-2.0.

albertge выпустил экспериментальный чекпойнт Dream 7B, дообученный на 60 тысячах примеров OpenMathInstruct-2 и OpenCodeInstruct. Модель использует дискретный четырёхтокенный хвост Markovian Thinking для передачи состояния между окнами денойзинга в диффузионной языковой модели; обучение проводилось с размером блока 128 токенов. Это вариант проекта dLLM Registers для ограниченного переноса состояния при пошаговой генерации. Модель предназначена для генерации текста, в том числе ответов на математические и программные запросы, и диалогового взаимодействия. Она принимает текст и генерирует текст, поддерживает английский язык, а заявленный размер контекста составляет 131 072 токена. Для корректной работы канала переноса состояния автор указывает использовать специальную обёртку и параметры инференса из репозитория. Лицензия — Apache-2.0.

EAT-base Epoch 30 — предварительно обученная модель для извлечения признаков из аудио, созданная в рамках фреймворка EAT с самообучением на наборе AS-2M. Она предназначена для получения представлений аудиосигнала и может служить начальной точкой для дообучения под задачи понимания аудио, включая классификацию и создание аудиоподписей. Модель поддерживает признаки на уровне кадров с частотой около 50 Гц и представление всего высказывания через CLS-токен. Архитектура — EATModel, библиотека запуска — Transformers; веса опубликованы в формате safetensors. Лицензия — MIT.

albertobarnabo/ecommerce-product-search-embeddings-base — англоязычная модель эмбеддингов для семантического поиска товаров в интернет-магазинах. Это дообученная версия BAAI/bge-base-en-v1.5 на примерах релевантности Amazon ESCI; модель использует архитектуру BERT и библиотеку Sentence Transformers. Метаданные указывают 136,7 млн параметров и контекст до 512 токенов, а карточка описывает 768-мерные Matryoshka-эмбеддинги с вариантами усечения до 384, 128 и 64 измерений. Модель предназначена для кодирования запросов покупателей и описаний товаров в векторы, чтобы искать товары по смыслу, в том числе при несовпадении формулировок. По оценке авторов на тесте ESCI преимущество над компактной версией особенно заметно при поиске среди каталога из 1,22 млн товаров; для небольших каталогов авторы рекомендуют компактный вариант. Указанная лицензия — Apache-2.0.

stillerman/fdt-disfluency-distilbert-66m-v4 — модель разметки токенов на базе DistilBERT, разработанная Stillerman для очистки расшифровок живой речи. Она помечает каждое слово тегом KEEP, DELETE, KEEP_STRIP_COMMA или KEEP_CAPITALIZE, после чего простая реконструкция собирает очищенный текст. Модель удаляет слова-паразиты и повторы, сохраняя остальную формулировку без перефразирования. Модель содержит 65,2 млн параметров, использует архитектуру distilbert-base-cased и контекст до 512 токенов. Версия v4 обучена на синтетических внесениях речевых сбоев в разговорные корпуса; метрики на валидации: exact-match 0,9724 и DELETE-F1 0,9896. Для браузерного применения доступна квантованная ONNX-модель int8 для transformers.js, с заявленной скоростью около 10–50 мс на высказывание. Область обработки намеренно ограничена словами-паразитами и повторами: исправления с заменой слов, в том числе конструкции «I mean», сохраняются как есть. Лицензия репозитория — Apache-2.0, однако в обучении частично использован DailyDialog под CC BY-NC-SA, поэтому README рекомендует считать модель исследовательским артефактом и не применять её в коммерческих целях без дополнительной правовой проверки.

joshuapb/fine-tuned-matryoshka-200 — англоязычная модель Sentence Transformers, дообученная автором на основе BAAI/bge-base-en-v1.5 для семантического поиска и сравнения текстов в финансовой тематике. Архитектура включает BERT-трансформер, CLS-пулинг и нормализацию эмбеддингов; модель содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель кодирует предложения и абзацы в плотные векторы размерностью до 768 и оценивает сходство косинусной мерой. Благодаря Matryoshka-обучению эмбеддинги можно сокращать до 512, 256, 128 или 64 измерений, чтобы находить баланс между качеством поиска и затратами на хранение и вычисления. Подходит для семантического поиска, поиска парафразов, кластеризации и извлечения признаков для классификации текстов. В README приведены результаты оценки поиска на нескольких размерностях, однако состав и охват данных полностью не раскрыты. Лицензия — Apache-2.0.

Mateplo/finetuning-sentiment-model-3000-samples — модель классификации текста на основе DistilBERT, дообученная автором Mateplo на неизвестном наборе данных. Она предназначена для определения тональности текста. В README приведены результаты на оценочной выборке: accuracy 0,8767, F1 0,8795 и loss 0,3353; подробности о метках классов и данных не описаны. Модель принимает текст с контекстом до 512 токенов и доступна в форматах Safetensors и ONNX. Лицензия — Apache-2.0.