II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейЭто модель автоматического распознавания тайской речи, созданная AI Research путём дообучения wav2vec2-large-xlsr-53 на датасете Common Voice 7.0. Она принимает аудио и преобразует речь в текст; архитектура основана на Wav2Vec2 с CTC-декодированием и содержит около 402,7 млн параметров. Модель предназначена для транскрибации тайской речи, в том числе записей, подобных материалам Common Voice. В README приведены результаты оценки на тестовой выборке: символьная ошибка CER составила 2,81%, а WER зависит от выбранного способа токенизации тайского текста. Модель распространяется по лицензии CC BY-SA 4.0; результаты относятся к указанному тестовому набору и не гарантируют такое же качество на других аудиоданных.
alimazhar-110/website_classification — дообученная модель DistilBERT для классификации текстов. Она предназначена для определения категории по тексту веб-сайта; набор категорий и обучающий датасет в карточке не раскрыты. Модель использует архитектуру DistilBertForSequenceClassification, принимает текст и имеет контекст до 512 токенов. В README приведены результаты оценки: accuracy 0,9504, F1 0,9489, precision 0,9510 и recall 0,9504. Эти показатели относятся к неизвестному набору данных, поэтому их нельзя напрямую переносить на другие сайты и категории. Модель основана на distilbert-base-uncased и распространяется по лицензии Apache-2.0.
Youssef1234/whisper-base-en-early-stopping — дообученная модель автоматического распознавания речи на базе Whisper, разработанная автором репозитория Youssef1234. Модель содержит 51,7 млн параметров и предназначена для преобразования аудио в текст; в метаданных указан тип архитектуры WhisperForConditionalGeneration и формат весов Safetensors. На тестовом наборе автор сообщает значение loss 0,3698 и WER 17,4910. Набор данных и подробности оценки не описаны, поэтому эти результаты нельзя уверенно переносить на другие условия. Модель выпущена по лицензии Apache-2.0.
jlvdoorn/whisper-large-v3-atco2-asr-atcosim — дообученная модель семейства Whisper, созданная на базе openai/whisper-large-v3. Она предназначена для автоматического распознавания речи и преобразования аудио в текст. В карточке приведены результаты оценки: loss 0,1039 и WER 22,2698; сведения о наборе данных и сценариях обучения не раскрыты. Модель содержит около 905,2 млн параметров и распространяется в формате safetensors по лицензии Apache-2.0.
BERTimbau Base — предварительно обученная модель BERT для бразильского португальского языка, разработанная Neuralmind. Это базовая версия архитектуры BERT с 12 слоями и примерно 136,1 млн параметров по метаданным; она предназначена для заполнения замаскированных токенов и получения текстовых представлений, которые можно использовать в задачах обработки португальского языка. В README также отмечены результаты на распознавании именованных сущностей, оценке семантического сходства предложений и распознавании текстового следования; для этих задач модель обычно требуется дообучить. Модель принимает текст и предсказывает пропущенные токены. Контекстное окно составляет 512 токенов. В карточке указаны варианты весов для PyTorch, TensorFlow и Flax, а лицензия — MIT. Модель ориентирована на бразильский португальский и обучалась на корпусе brWaC.
BETO — испаноязычная модель семейства BERT, разработанная исследователями Университета Чили (DCC UChile) и обученная на большом корпусе текстов на испанском языке. Эта версия сохраняет регистр букв и использует Whole Word Masking. Модель имеет около 137,1 млн параметров, словарь примерно из 31 тысячи BPE-подслов на основе SentencePiece и контекст до 512 токенов; веса доступны в форматах PyTorch, TensorFlow и Flax. Модель предназначена для предсказания замаскированных слов в испанском тексте и может служить основой для дообучения под задачи обработки испанского языка. В карточке приведены результаты бенчмарков BETO для разметки частей речи, распознавания именованных сущностей и классификации текстов; эти сценарии требуют соответствующей настройки модели. В README не указана лицензия, поэтому условия использования следует проверить в репозитории модели.
BERTurk — регистрозависимая модель BERT для турецкого языка, опубликованная командой MDZ Digital Library Баварской государственной библиотеки. Это плотный трансформерный энкодер с 137,8 млн параметров и контекстом до 512 токенов. Модель предварительно обучена на турецких текстах из корпуса OSCAR, Википедии, OPUS и специального корпуса, подготовленного Кемалом Офлазером. Её можно использовать как основу для задач обработки турецкого языка, например разметки частей речи и распознавания именованных сущностей, после соответствующей настройки. Доступны веса в форматах PyTorch, TensorFlow и Flax, а также safetensors. Модель предназначена для турецкого языка и не является готовым чат-ботом или специализированной системой для одной прикладной области. Лицензия — MIT.
BERT large Japanese v2 — языковая модель, разработанная командой Tohoku NLP и предварительно обученная на японских текстах из CC-100 и японской Википедии. Она предназначена для построения систем понимания японского языка и дообучения под задачи классификации, извлечения информации и другие задачи обработки текста. Модель основана на архитектуре BERT Large: 24 слоя, размер скрытого представления 1024, 16 голов внимания и около 436,2 млн параметров. Тексты токенизируются с помощью MeCab и словаря Unidic 2.1.2, затем разбиваются на WordPiece-токены; словарь содержит 32 768 токенов. При предварительном обучении применялась маскировка целых слов. Контекст ограничен 512 токенами; доступны веса PyTorch, TensorFlow и Flax. Модель рассчитана на японский язык и подходит как базовый чекпойнт для последующей адаптации. Это предварительно обученная модель BERT, а не готовый генеративный чат-ассистент. Распространяется по лицензии Apache-2.0.
google-bert/bert-large-uncased-whole-word-masking — англоязычная предварительно обученная модель BERT от Google для восстановления замаскированных слов и получения контекстных представлений текста. Она использует архитектуру BERT с 24 слоями, размерностью скрытого состояния 1024 и 16 головами внимания; в метаданных указано 433,9 млн параметров и контекст до 512 токенов. Модель обучена на BookCorpus и английской Википедии с целями masked language modeling и предсказания следующего предложения. При Whole Word Masking одновременно маскируются все WordPiece-токены одного слова; модель uncased и не различает регистр. Основной сценарий — заполнение пропусков в английском тексте. Векторные представления модели также можно использовать как основу для дообучения классификаторов, разметки токенов и ответов на вопросы. Для таких задач, как генерация связного текста, модель не предназначена. Она доступна под лицензией Apache-2.0. Предсказания могут отражать смещения обучающих данных.
aajrami/bert-mlm-small — компактная языковая модель семейства RoBERTa, разработанная для извлечения признаков из текста. В README модель описана как BERT-подобная модель малого размера, предварительно обученная с целью masked language modeling (MLM); размер составляет 42,5 млн параметров, длина контекста — 514 токенов. Модель предназначена для получения контекстных представлений текста, которые можно использовать в последующих NLP-системах. Она поддерживает входной текст и выдаёт векторные представления токенов или последовательностей. Веса доступны в форматах PyTorch и Safetensors. Лицензия — CC BY 4.0. Карточка не описывает отдельную специализацию по языкам или прикладным областям; название и описание не дают достаточных оснований приписать модели конкретный основной язык.
google/bert_uncased_L-2_H-512_A-8 — компактная англоязычная модель BERT из набора BERT Miniatures, опубликованного Google и описанного в работе «Well-Read Students Learn Better». Архитектура содержит 2 слоя, скрытый размер 512 и 8 attention heads; в метаданных указано около 24 млн параметров и контекст до 512 токенов. Доступны веса PyTorch и Flax, лицензия Apache 2.0. Модель предназначена для понимания английского текста в условиях ограниченных вычислительных ресурсов и для дальнейшего тонкого дообучения, например под классификацию предложений, оценку сходства и другие задачи NLP. Авторы отмечают, что компактные варианты особенно эффективны при дистилляции с разметкой, полученной от более крупной модели. Это базовая предобученная модель, а не готовый специализированный классификатор; её следует дообучить для конкретной задачи. README сообщает, что модель обучалась без учета регистра с WordPiece-маскированием.
Это компактная англоязычная модель BERT из набора BERT Miniatures, представленного авторами исследования «Well-Read Students Learn Better: On the Importance of Pre-training Compact Models». Вариант L-4_H-512 имеет 4 слоя и скрытый размер 512; всего в модели около 32,4 млн параметров. Это плотная трансформерная модель с регистронезависимой токенизацией WordPiece и контекстом до 512 токенов. Доступны форматы PyTorch и Flax; лицензия — Apache-2.0. Модель предназначена для задач понимания английского текста и дообучения под конкретные классификационные и другие задачи NLP. Компактный размер делает её подходящей для сред с ограниченными вычислительными ресурсами; авторы отмечают, что особенно эффективно применять её в дистилляции, используя метки от более крупной модели-учителя. В README приведены результаты оценки вариантов семейства на GLUE. По сравнению с более крупными BERT моделями этот вариант требует меньше ресурсов, но компактность может ограничивать качество на сложных задачах. Модель не заявлена как генеративная или мультимодальная; для прикладных сценариев её обычно дообучают под целевую задачу.
CAM++ — модель извлечения голосовых эмбеддингов из аудио, разработанная командой FunASR. Она предназначена для верификации говорящего: определения, принадлежат ли записи одному человеку, и для диаризации — распознавания, кто и когда говорил в аудиозаписи. Её можно подключить к конвейеру FunASR через параметр spk_model, например для присвоения меток говорящих сегментам речи в записи встречи. Модель использует архитектуру CAM++ (Class-Aware Multi-scale), выдаёт эмбеддинги размерностью 192 и рассчитана на аудио с частотой дискретизации 16 кГц. Репозиторий поддерживает FunASR; в карточке указаны китайский и английский языки. Модель распространяется по лицензии Apache-2.0. Карточка описывает извлечение эмбеддингов и применение для верификации и диаризации, но не приводит оценок качества или условий работы с шумной и многоканальной записью.
Карточка модели hfl/chinese-pert-large на Hugging Face совпадает с карточкой hfl/chinese-pert-base, поэтому описание составлено по ней. hfl/chinese-pert-base — китайская модель семейства BERT, опубликованная HFL. Это плотный трансформер BertModel примерно на 129,5 млн параметров, предназначенный для извлечения признаков из текста; README рекомендует загружать её средствами для BERT. Модель принимает текст и формирует контекстные векторные представления токенов, которые можно использовать как признаки в последующих задачах обработки китайского языка. Контекст модели составляет 512 токенов. Доступны веса PyTorch и TensorFlow. Лицензия CC BY-NC-SA 4.0 требует указания авторства и распространяет производные материалы на тех же условиях; лицензия также ограничивает коммерческое использование. Карточка находится в разработке и отсылает за дополнительными сведениями к репозиторию GitHub.
buelfhood выпустил sentence-transformers-модель buelfhood/CodeBERTa-small-v1-ST, дообученную на базе huggingface/CodeBERTa-small-v1. Модель использует архитектуру RoBERTa и преобразует текстовые предложения и абзацы в плотные векторы размерности 768; близость между ними можно оценивать косинусным сходством. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Базовая CodeBERTa-small-v1 ориентирована на исходный код на шести языках программирования, поэтому эмбеддинги могут быть полезны для поиска и группировки фрагментов кода. Репозиторий содержит форматы Safetensors, ONNX и OpenVINO. В карточке не указана лицензия. Модель предоставляет векторы, а не готовые текстовые ответы; качество для конкретных задач зависит от данных и настройки поиска или классификатора.
CoREB-Reranker — модель-реранкер для поиска по коду, разработанная командой HQ-Bench и дообученная с помощью LoRA на базе Qwen/Qwen3-Reranker-4B. Она предназначена для повторной сортировки результатов первого этапа поиска по соответствию запросу и коду; поддерживает сценарии «текст → код», «код → текст» и «код → код». Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и принимает контекст длиной до 40 960 токенов. В README заявлено обучение на 3,1 млн примеров смешанного корпуса и положительное улучшение ранжирования на трёх задачах поиска по коду при оценке на CoREB v202603. Модель ориентирована на английский язык и код. Распространяется по лицензии Apache-2.0. Это реранкер, поэтому для поиска ему нужны запрос и кандидаты, полученные на первом этапе; заявленные результаты относятся к указанному бенчмарку и настройке поиска.
Японская языковая модель Globis University на архитектуре DeBERTa V3, предназначенная для задач классификации токенов. Модель насчитывает 137,8 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате PyTorch для Transformers. Для японского текста используется токенизатор с уменьшенным словарём на 32 000 элементов: при выводе не требуется морфологический анализатор, а границы токенов в некоторой степени соответствуют границам слов. Модель подходит для разметки и классификации фрагментов японского текста. Она обучалась на японских ресурсах, включая Wikipedia, WikiBooks, CC-100 и C4. Лицензия — CC BY-SA 4.0. Карточка описывает возможности токенизатора и общий сценарий классификации токенов, но не приводит конкретные результаты оценки этой версии на задачах разметки.
BUT-FIT публикует предварительно обученную модель DiariZen для обнаружения речевой активности и диаризации говорящих в аудио. Компонент EEND построен на WavLM Large и слоях Conformer; модель обучалась на одноканальных записях с дальних микрофонов из набора публичных датасетов, включая AMI, AISHELL-4, AliMeeting, NOTSOFAR-1, MSDWild, DIHARD3, RAMC и VoxConverse. К модели применено структурное прореживание с разреженностью 80%: число параметров WavLM Large уменьшено с 316,6 млн до 63,3 млн, а вычислительная стоимость — с 17,8 до 3,8 млрд MAC на секунду. Модель рассчитана на записи, где одновременно перекрываются не более трёх говорящих; для случаев с четырьмя перекрывающимися голосами авторы рекомендуют новую версию репозитория. В README приведены результаты на AMI, AISHELL-4 и AliMeeting, где DiariZen показывает меньшие значения метрики, чем Pyannote v3.1. Лицензия CC BY-NC 4.0 разрешает использование на некоммерческих условиях.
IbrahimAmin/egyptian-arabic-wav2vec2-xlsr-53 — модель распознавания речи на базе wav2vec2-large-xlsr-53, дообученная Ibrahim Amin на арабских речевых данных. Она предназначена для преобразования аудио в текст, в первую очередь для египетского разговорного арабского, а также для современного литературного арабского и диалектов Персидского залива и Леванта. Архитектура — Wav2Vec2ForCTC, размер — 402,7 млн параметров; модель работает с аудио и выдаёт текст. В обучении использованы записи YouTube, MASC, Common Voice 15, MGB-3 и Arabic Speech Corpus; в карточке также приведено сравнение на тестовой выборке Common Voice 17 для арабского языка. Модель можно применять для транскрибации разговоров и вещательной речи. Распространяется по лицензии Apache-2.0. README не сообщает длину входных записей или ограничения по условиям записи; качество распознавания может различаться между диалектами и акустическими условиями.
Falcon-TST Large — модель временных рядов с архитектурой Mixture of Experts (MoE), предназначенная для прогнозирования. Она использует несколько токенизаторов патчей для эффективной обработки временных рядов и рассчитана на применение в задачах прогнозирования. Модель содержит 33,6 млн параметров и поддерживает контекст длиной 2880 токенов. Репозиторий содержит веса в формате safetensors. В карточке заявлены эффективность обработки и высокая точность на различных задачах прогнозирования, но сравнительные результаты и конкретные наборы данных не приведены. Лицензия — Apache-2.0.
Карточка модели nypswift/gemma-4-12b-coder-fable5-composer2.5-mlx на Hugging Face совпадает с карточкой mlx-community/gemma-4-12b-coder-fable5-composer2.5, поэтому описание составлено по ней. Это неквантованная версия модели Gemma-4-12B-Coder, преобразованная сообществом mlx-community в формат MLX для локального запуска на компьютерах Apple Silicon с библиотекой mlx-lm. Модель основана на дообученной yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1; архитектура — плотная Gemma 4 Unified с 12 млрд параметров. Модель предназначена для диалоговой генерации кода и решения задач программирования. Карточка базовой модели указывает на алгоритмические задачи на Python и генерацию кода, проверенного тестами. Добавленный Jinja-шаблон чата помогает форматировать диалоги для инференса через mlx-lm. Версия в этом репозитории не квантована и ориентирована на локальный инференс на Apple Silicon. Лицензия — Apache-2.0. Доступные сведения не описывают длину контекста, поддержку конкретных языков программирования помимо Python в назначении базовой модели, а также количественные результаты оценки качества.
GLiNER2 — модель извлечения информации, дообученная whr778 на синтетическом корпусе synthetic_sonnet5_1k на базе fastino/gliner2-base-v1. Она предназначена для извлечения сущностей, отношений между ними, событий и их аргументов, а также для классификации текста; в метаданных Hugging Face основная задача обозначена как token-classification. Модель использует библиотеку gliner2, а веса доступны в формате safetensors. Это экспериментальный контрольный чекпойнт, обученный на 1 497 записях в течение 10 эпох. В README приведены результаты на синтетическом отложенном тестовом наборе: например, F1 для сущностей — 0,904 строго и 0,933 с допуском, для отношений — 0,657 и 0,745 соответственно. Эти оценки показывают согласованность синтетических данных и не являются заявлением о качестве на публичных бенчмарках или реальных данных. Язык и лицензия обучающего набора не установлены; в метаданных лицензия модели указана как other.
GLiNER2 Large v1 DocEE — модель извлечения информации на основе GLiNER2, дообученная whr778 на базе fastino/gliner2-large-v1 для извлечения событий из документов. Она предназначена для определения событий, связанных с ними сущностей и ролей, а также для классификации документов. Модель обучалась на англоязычном наборе DocEE: 21 966 обучающих записей, 2 748 примеров для валидации и 2 771 для тестирования. Модель использует библиотеку gliner2 и поставляется в формате safetensors. На слепом тесте F1 классификации составил 0,994–0,997 в зависимости от строгости оценки; для извлечения сущностей F1 составил 0,360 в строгом и 0,569 в более мягком режиме. В README не указаны размер модели и длина контекста. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели и источником данных DocEE.
zeromodels/grounding_dino_tiny — это конверсия Grounding DINO Tiny, опубликованная проектом zeromodels. Модель выполняет обнаружение объектов по текстовому запросу в режиме open-set: вместо фиксированного набора классов она ищет на изображении объекты, названные пользователем. Архитектура включает визуальный энкодер Swin-Tiny, текстовый энкодер BERT и декодер, который предсказывает ограничивающие рамки и оценивает их соответствие словам запроса. Модель предназначена для поиска объектов по произвольным текстовым описаниям без отдельного обучения на каждый класс. Реализация выполнена на Keras 3 и работает с бэкендами TensorFlow, Torch и JAX. Для Torch README предупреждает о риске нехватки памяти при инференсе без отключения построения градиентов; качество результатов также зависит от формулировки запроса и порога оценки. Лицензия — Apache 2.0.
hc3-wiki-domain-classification-roberta — модель классификации текста на базе RoBERTa, дообученная разработчиком rajendrabaskota на наборе данных, обозначенном в карточке как None. Модель содержит 151,8 млн параметров, использует архитектуру RobertaForSequenceClassification и принимает текстовые последовательности длиной до 514 токенов. Модель предназначена для отнесения текстов к классам тематических областей, связанных с HC3 и Wikipedia. В карточке приведены результаты оценки: accuracy 0,9810 и F1 0,9810 при loss 0,1821. Описание классов, состав обучающего набора и конкретные ограничения в карточке не раскрыты. Модель распространяется по лицензии MIT.
jd3 — дообученная модель для генерации текста на основе deepseek-ai/deepseek-coder-1.3b-base, созданная автором репозитория stojchet и обученная на наборе данных generator. Она использует плотную архитектуру LlamaForCausalLM и содержит 1,3 млрд параметров. Модель предназначена для генерации продолжения текста и кода; базовая модель поддерживает автодополнение и заполнение пропусков в коде. Контекст — до 16 384 токенов. Веса представлены в формате Safetensors. Лицензия указана как other, поэтому конкретные условия использования по этим данным определить нельзя.
KcELECTRA-base — Beomi-гийн урьдчилан сургасан ELECTRA загвар бөгөөд Naver News-ийн сэтгэгдэл, хариу сэтгэгдэлд тулгуурлан эхнээс нь сургажээ. Энэ нь солонгос хэлний хэрэглэгчийн үүсгэсэн, ярианы өнгө аястай, алдаатай бичвэр болон шинэ үг ихтэй текстэд зориулсан суурь загвар юм. Загвар нь 136.3 сая параметртэй, ELECTRA нягт архитектуртай бөгөөд ElectraForPreTraining ангилалд хамаарна. Контекстийн дээд хэмжээ 512 токен; PyTorch болон safetensors форматаар нийтлэгдсэн. Солонгос хэл үндсэн хэл нь бөгөөд өгөгдөл бэлтгэхдээ англи үсэг, тусгай тэмдэгт, эможийг мөн хамруулсан. Сэтгэгдлийн сэтгэл хөдлөлийн ангилал, нэрлэсэн entity таних, өгүүлбэрийн төстэй байдал болон асуулт-хариултын зэрэг даалгаварт нарийн тохируулж ашиглаж болно. README-д дурдсан жишиг үнэлгээнд NSMC болон Naver NER зэрэг солонгос хэлний даалгаврууд багтсан. Ерөнхий, цэвэр бичвэрийн даалгаварт KoELECTRA илүү сайн ажиллаж болзошгүй бөгөөд энэ загвар нь хэрэглэгчийн үүсгэсэн шуугиантай текстэд түлхүү тохирно. MIT лицензтэй.
Карточка модели Korabbit/Llama-2-7b-chat-hf-afr-200step-v2 на Hugging Face совпадает с карточкой Korabbit/Llama-2-7b-chat-hf-afr-100step-v2, поэтому описание составлено по ней. Korabbit/Llama-2-7b-chat-hf-afr-100step-v2 — экспериментальная чат-модель Korabbit, основанная на Llama-2-7b-chat и обученная автором с использованием подхода «AFR training». В карточке приведён пример ответа на инструкцию реализовать бинарный поиск на Python; метаданные указывают архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов. Модель предназначена для диалоговых ответов на инструкции и общих текстовых запросов, включая вопросы о программировании. В метаданных указан английский язык и набор данных vicgalle/alpaca-gpt4. Указана лицензия llama2. README описывает подход к обучению лишь кратко, поэтому его детали и качество модели по примеру оценить нельзя.
LongformerZH — разработанная ValkyriaLenneth предобученная китайская языковая модель на архитектуре Longformer с 129,5 млн параметров. Она использует локальное оконное и глобальное внимание, чтобы обрабатывать длинные последовательности с контекстом до 4096 токенов при линейной сложности по длине последовательности. Модель построена на основе Roberta_zh_mid и обучена с Whole-Word Masking на смеси китайских корпусов; для работы с ней автор рекомендует PyTorch и библиотеку Transformers. Модель предназначена для извлечения признаков из длинных китайских текстов и как основа для дообучения под задачи обработки длинных документов. В карточке приведены результаты оценки на китайском анализе тональности и машинном чтении: для CMRC указаны F1 86,15 и EM 66,84. Модель выпущена в формате PyTorch; сведения о лицензии в предоставленных данных отсутствуют.
Morph V3 Fast — модель компании Morph для быстрого применения правок к коду. Она предназначена для сценариев, где нужно преобразовать исходный код по инструкции и фрагменту с изменениями; карточка указывает скорость около 10 500 токенов в секунду и точность 96% для быстрых преобразований кода. Для работы промпт должен содержать инструкцию, исходный код и фрагмент правки в заданном порядке. Модель рассчитана на редактирование кода, а не на общий диалог. Данные о базовой модели, архитектуре, размере, поддерживаемых языках программирования, контексте и лицензии не приведены.