II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейjina-embeddings-v5-omni-small-medical-stage1 — мультимодальная модель эмбеддингов семейства Jina Embeddings v5 Omni, основанная на архитектуре Qwen3 и опубликованная в пространстве ktaware-merkle. Она принимает текст, изображения, видео и аудио и преобразует их в векторы общего пространства, совместимого с jinaai/jina-embeddings-v5-text-small. В README базовой модели указано около 1,74 млрд параметров и размерность эмбеддингов 1024; метаданные указывают PyTorch и лицензию CC BY-NC 4.0. Модель предназначена для извлечения признаков и мультимодального поиска, а базовый вариант содержит адаптеры для поиска, классификации, кластеризации и сопоставления текстов. Совместимое векторное пространство позволяет искать по тексту, используя запросы в виде изображений, видео или аудио, без повторной индексации документов. Название репозитория указывает на медицинскую специализацию и стадию stage1, однако предоставленная карточка не описывает конкретную медицинскую настройку или её результаты. Для использования действуют условия лицензии CC BY-NC 4.0. При поиске для retrieval важно различать представление запроса и документа, используя соответствующие методы или префиксы; некорректный выбор может дать распределение эмбеддингов, не предназначенное для поиска. README также отмечает, что обработка мультимодальных данных в sentence-transformers выполняется по одному примеру за проход.
jndpo1 — дообученная модель на базе DeepSeek Coder 1.3B Base, созданная автором репозитория на датасете generator. Это плотная авторегрессионная модель семейства LLaMA с 1,3 млрд параметров и контекстом 16 384 токена; она предназначена для генерации текста, в том числе продолжения и автодополнения кода благодаря базовой модели DeepSeek Coder. В карточке приведены метрики оценки на тестовом наборе, включая точность предпочтений 1,0, но не описаны назначение датасета, процедура обучения и сценарии применения. Модель опубликована в формате safetensors. Лицензия указана как other, поэтому условия использования следует уточнять в репозитории. Специализация именно на генерации кода и качество в практических задачах отдельно не подтверждены карточкой.
Карточка модели argsearch/llama-7b-sft-float32 на Hugging Face совпадает с карточкой argsearch/llama-7b-rm-float32, поэтому описание составлено по ней. argsearch/llama-7b-rm-float32 — модель классификации последовательностей на архитектуре Llama с 6,6 млрд параметров. Согласно README, она обучена с нуля на неизвестном наборе данных; дополнительных сведений о разработчике и обучении карточка не содержит. Модель предназначена для классификации текста и может применяться в сценариях, где требуется отнести входной текст к одному из классов. Репозиторий содержит веса в формате Safetensors. Длина контекста составляет 2048 токенов. Данных о языках, лицензии, качестве и ограничениях применения нет, поэтому нельзя надёжно определить поддерживаемые языки или рекомендовать модель для конкретной предметной области.
MATPAC++ music — аудиоэнкодер семейства MATPAC, обученный на музыкальных данных и опубликованный в формате для Transformers. Модель разработана на основе исходного проекта MATPAC от aurianworld; репозиторий содержит порт кода инференса с загрузкой через trust_remote_code. Указанный чекпойнт выдаёт аудиопредставления размерности 3840 и предназначен для извлечения признаков и классификации аудио, включая применение в музыкальных задачах. Энкодер можно использовать как основу для downstream-задач, подключая отдельные веса линейных проб. В режиме по умолчанию временные признаки усредняются; параметр pull_time_dimension=false позволяет сохранить временную ось, а inference_type=fast ускоряет обработку крупных батчей ценой небольшого снижения точности относительно режима precise. Для загрузки кода требуются torchaudio, einops и timm версии 0.4.12. Лицензия репозитория — Apache-2.0.
jingyaogong/mimi — конвертированная в FP16 версия аудиокодека Mimi, первоначально выпущенного Kyutai. Модель содержит 33,6 млн параметров и предназначена для кодирования и декодирования аудио; в каталоге Hugging Face её задача обозначена как извлечение признаков. В репозитории используются веса safetensors. FP16-представление уменьшает требования к памяти для локального использования. Модель относится к семейству Mimi и имеет контекст 8000 токенов по метаданным. Репозиторий сохраняет авторство исходной модели Kyutai. Лицензия — CC-BY-4.0; при использовании и распространении требуется сохранять атрибуцию Kyutai и уведомление о лицензии.
vjosap/moralBERT-predict-fairness-in-text — модель классификации текста, опубликованная исследовательницей Вьосой Преники. Это один из отдельных чекпойнтов MoralBERT, предназначенных для выявления моральных ценностей в социальном дискурсе по теории моральных оснований: модель оценивает наличие измерения Fairness/Cheating (справедливость/обман) в тексте. Семейство MoralBERT основано на BERT и дообучено на размеченных текстах из социальных сетей; для этой модели доступна обработка текстового ввода и классификационные метки. Токенизатор BERT настроен на последовательности длиной до 512 токенов. Модель подходит для автоматической разметки высказываний и анализа моральной тематики в социальных дискуссиях. Исследовательские результаты MoralBERT показывают преимущество над лексиконными и рядом других базовых подходов на внутридоменных данных, однако перенос на иные домены может быть менее надёжным. Репозиторий распространяется по лицензии MIT. Карточка Hugging Face содержит минимум технической документации; подробности о точной конфигурации чекпойнта в ней не приведены.
Jeevesh8/more_cpts_corr_init_shuff_clipped_warmed_wd0_pnt_01_seq_len_128_bert-base-uncased_mnli_ft_13 — модель классификации текста, опубликованная пользователем Jeevesh8 на Hugging Face. По идентификатору и странице модели она относится к семейству BERT и связана с дообучением на MNLI; предназначена для задач текстовой классификации и может загружаться через Transformers как AutoModelForSequenceClassification. Максимальная длина последовательности указана в названии как 128 токенов. Доступные сведения ограничены: карточка модели отсутствует, поэтому точные параметры архитектуры, число параметров, набор меток, языки, метрики качества, сильные стороны и ограничения надёжно не установлены. Модель не развернута через Inference Providers. Лицензия на странице модели не указана, поэтому условия использования определить нельзя.
Mossez-100M-Coder-Base — экспериментальная базовая модель для продолжения кода и заполнения пропусков в коде (fill-in-the-middle), разработанная Mossez Systems. Это дообученная на коде модель Mossez-100M-Base с архитектурой Llama: декодерный Transformer с 12 слоями и размером скрытого состояния 768, содержащий около 100,1 млн параметров. Модель предназначена для использования через Transformers и не является чат-ассистентом или моделью, следующей инструкциям. Модель принимает текстовый контекст с кодом и может продолжать его или предлагать фрагмент для заполнения заданного участка. В словарь добавлены специальные маркеры чата и fill-in-the-middle; длина контекста составляет 1024 токена. Карточка и метаданные не указывают конкретные языки программирования. Модель выпущена как экспериментальная и не готова к производственному использованию: она может генерировать некорректный или небезопасный код, ошибочные константы, несуществующие API, повторения и преждевременно завершать вывод; оценка проводилась на узком наборе тестов. Сгенерированный код нужно проверять, тестировать и запускать в изолированной среде. Лицензия — Apache-2.0.
py311-pylingual-v1-segmenter — дообученная SysSec UTD модель на архитектуре RoBERTa для классификации токенов и сегментации кода Python 3.11. Она обучена на датасете syssec-utd/segmentation-py311-pylingual-v1-tokenized и рассчитана на разметку токенизированного Python-кода на сегменты. Модель содержит 136,3 млн параметров, работает через Transformers и принимает текстовый ввод; длина контекста — 514 токенов. В README приведены результаты на оценочном наборе: F1 0,9948, точность 0,9983, precision 0,9958 и recall 0,9937. Эти показатели относятся к указанному набору данных и сами по себе не гарантируют качество на других данных. Лицензия в предоставленных сведениях не указана.
Qwen3-4B-Function-Calling-xLAM-Unsloth — языковая модель ermiaazarkhalili для генерации ответов с вызовом функций и инструментов. Это дообученная методом SFT версия плотной модели Qwen3-4B с адаптером LoRA, обученная на 60 000 примерах Salesforce/xlam-function-calling-60k. В метаданных указано 3,7 млрд параметров и контекст 40 960 токенов; автор сообщает, что при дообучении использовалось окно 2 048 токенов. Модель принимает текстовые запросы и описания инструментов, а выдаёт текст, включая структурированные аргументы для вызова функций. Предназначена для англоязычных сценариев, где языковая модель должна выбирать инструмент и формировать вызов по запросу пользователя. Доступна под лицензией Apache-2.0. Автор предупреждает о возможных галлюцинациях, ограничениях знаний базовой модели и недостаточной настройке безопасности.
Это модель извлечения признаков изображений на основе визуального энкодера Qwen3.5-27B, преобразованного в формат timm. Она предназначена для получения пространственных признаков и токенов изображения, которые можно использовать в мультимодальных конвейерах и для анализа изображений. Веса визуального энкодера включают пространственный merger и проекцию до ширины исходной языковой модели; языковых весов и обученной классификационной головы в репозитории нет. Модель содержит около 459,8 млн параметров; заявленный размер изображения — 768 × 768. Архитектура использует MLP с GELU-tanh, обучаемые абсолютные позиционные эмбеддинги и осевой 2D RoPE. Поддерживаются прямоугольные изображения; размеры сторон должны делиться на 16, а для вариантов с merger 2 × 2 — на 32. Вход — RGB-изображение, выход — признаки или пространственно объединённые токены. Чекпойнт преобразован без дополнительного обучения и распространяется по лицензии Apache 2.0.
Карточка модели Arsh9210/RE-USE на Hugging Face совпадает с карточкой nvidia/RE-USE, поэтому описание составлено по ней. NVIDIA RE-USE — модель для универсального улучшения речи: она обрабатывает монофонический аудиосигнал и возвращает очищенную речь в формате WAV. Архитектура сочетает свёрточные кодировщик и декодировщик с 30 слоями двунаправленной Mamba для моделирования временно-частотных характеристик; размер модели — 9,6 млн параметров. Модель предназначена для восстановления речи при разных искажениях: фоновом шуме, реверберации, клиппинге, ограничении полосы частот, артефактах кодеков и потерях пакетов. Поддерживаются частоты дискретизации от 8 до 48 кГц, включая 8, 16, 22,05, 24, 32, 44,1 и 48 кГц. Заявлена языковая независимость; обучение охватывало английский, немецкий, испанский, французский и китайский языки. RE-USE стремится улучшать качество звука, сохраняя содержание речи, голос говорящего, эмоции, акцент и другие речевые характеристики. Модель рассчитана на исследовательскую и экспериментальную работу; NVIDIA рекомендует проверять её на данных конкретного сценария перед развёртыванием. В карточке указана лицензия other, поэтому условия использования следует сверить с лицензией репозитория NVIDIA. Для ускорения рассчитана на системы с GPU NVIDIA; в README указана совместимость с Ampere A100 и Linux.
mshenoda/roberta-spam — модель классификации текстовых сообщений на спам и обычные сообщения (ham), разработанная на основе RoBERTa и дообученная для обнаружения спама. Она предназначена для фильтрации SMS, сообщений Telegram и электронной почты, включая выявление нежелательных сообщений и потенциальных фишинговых попыток. Модель содержит 151,8 млн параметров, использует архитектуру RobertaForSequenceClassification и принимает текстовый ввод; максимальный контекст — 514 токенов. Выдаёт метку класса: 0 для обычного сообщения и 1 для спама. В README приведены результаты на валидационной выборке: точность 99,06%, precision 99,71% и recall 99,34%. Обучение проводилось на объединённых данных SMS Spam Collection, Telegram Spam Ham и Enron Spam. Эти метрики относятся к указанным наборам данных и не гарантируют такого же качества на других источниках сообщений. Модель распространяется по лицензии MIT.
RoBERTuito fine-tuned на корпусе CL2 — классификатор ненавистнических высказываний в коротких сообщениях на чилийском варианте испанского языка. Модель разработана для выявления высказываний, направленных против женщин, иммигрантов, коренных народов и LGBTQ+ сообщества; на выходе она относит текст к классу «hate» или «non-hate». Архитектура — RoBERTa для классификации последовательностей, около 136,3 млн параметров, максимальная длина контекста — 130 токенов. Базовая модель RoBERTuito предварительно обучена на испанских твитах. Доступны веса в форматах Safetensors и ONNX. Модель подходит для сортировки очередей модерации и анализа чилийских публикаций в социальных сетях. Для корректной работы требуется нормализация текста как при обучении: упоминания заменяются на @usuario, ссылки — на url, текст приводится к нижнему регистру. В оценке на отложенной выборке CL2 получен F1 0,854. Модель хуже переносится на другие варианты испанского и английский; неявную ненависть распознаёт сложнее, а грубая, но безвредная речь может приводить к ошибкам. Для значимых решений рекомендуется проверка человеком. Лицензия — Apache-2.0.
cointegrated/rubert-tiny-toxicity — русскоязычная модель классификации текста, созданная разработчиком cointegrated дообучением cointegrated/rubert-tiny. Она предназначена для оценки токсичности и неуместности коротких неформальных текстов, например комментариев в социальных сетях. Модель на архитектуре BERT содержит 12,1 млн параметров и принимает последовательности длиной до 512 токенов. Классификация многометочная: модель определяет наличие оскорблений, ненормативной лексики, угроз, опасного для репутации автора содержания, а также метку non-toxic. По описанию карточки текст считается безопасным, если он одновременно отнесён к non-toxic и не признан опасным. На тестовой части данных OK ML Cup и набора Babakov et al. ROC AUC составил 0,9881–0,9937 для четырёх меток и 0,8295 для dangerous. Модель подходит для предварительной модерации коротких русскоязычных сообщений и маркировки токсичных категорий. Показатели качества относятся к указанным наборам данных; карточка не подтверждает качество на других доменах или длинных текстах. Лицензия — MIT.
Shikov971/sentiment-distilbert-multilingual-5class — дообученная многоязычная модель семейства DistilBERT для классификации текста на пять классов тональности. Она использует архитектуру DistilBertForSequenceClassification и предназначена для определения тональности текста в сценариях анализа отзывов, сообщений и других текстовых высказываний. Модель построена на distilbert/distilbert-base-multilingual-cased и принимает текст; максимальная длина контекста — 512 токенов. В оценке на тестовой выборке модель показала accuracy 0,375 и F1 0,3804, поэтому качество классификации может быть ограниченным. Датасет обучения и соответствие пяти классов в карточке не раскрыты. Модель распространяется под лицензией Apache-2.0.
MASRIHEAD-Unified — специализированная модель понимания египетского арабского диалекта, разработанная для разговорной ИИ-системы KALAMNA. Она одновременно классифицирует сарказм, тональность и эмоции в тексте. Архитектура объединяет контекстные признаки дообученной трансформерной модели T0KII/MASRIBERTV4 размером 110 млн параметров с FastText-векторами и двунаправленными LSTM и GRU; классификационные головы каскадно передают результаты распознавания сарказма в прогнозы тональности и эмоций. Модель рассчитана на анализ египетской разговорной речи, в том числе неформальной лексики и вариантов написания. На указанном в карточке наборе данных макро-F1 составляет 0,7822 для тональности, 0,7342 для сарказма и 0,6347 для эмоций; общий показатель Global Average Macro F1 — 0,7170. Выходы представлены классами: отрицательная, нейтральная или положительная тональность; буквальное или саркастическое высказывание; гнев, радость, нейтральность или грусть. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но некоммерческое.
Модель levshechter/tibetan-CS-detector_mbert-tibetan-continual-wylie_MUL_SEG_RUNI — дообученная версия OMRIDRORI/mbert-tibetan-continual-wylie-final для обнаружения переключений между языками или письменностями в тибетском тексте. Это плотная модель на архитектуре BERT с классификацией токенов, содержащая 136,3 млн параметров и принимающая последовательности длиной до 512 токенов. В README приведены результаты оценки: Accuracy 0,9188 и F1 для переключений 0,7457; также указаны точность 0,6681 и полнота 0,8436 для этого класса. Модель предназначена для разметки токенов, связанных с переключением кода. Данные обучения и подробности сценариев использования в карточке не раскрыты. Модель распространяется в формате safetensors; сведения о лицензии отсутствуют в предоставленных материалах.
kktoto/tiny_focal_ckpt — модель для классификации токенов на основе архитектуры BERT, обученная разработчиком с нуля. Она содержит 12,6 млн параметров и обрабатывает последовательности длиной до 512 токенов. Метрики на оценочном наборе: F1 — 0,6446, точность — 0,9516, полнота — 0,6366. Модель предназначена для задач разметки отдельных токенов во входном тексте. Данные обучения неизвестны, поэтому нельзя определить конкретную схему разметки или область применения. Репозиторий содержит веса PyTorch; сведения о лицензии отсутствуют.
myml/toutiao — модель классификации китайских новостей, обученная разработчиком на датасете Toutiao с использованием PyTorch. Она основана на BERT и предназначена для отнесения китайских текстов к категориям новостей; пример показывает классификацию короткой фразы через pipeline библиотеки Transformers. Модель содержит 129,5 млн параметров и принимает последовательности длиной до 512 токенов. Модель подходит для учебных и прикладных экспериментов с классификацией китайских текстов. Результат возвращается как метка класса и оценка уверенности; README не приводит таблицу соответствия меток категориям. Репозиторий распространяется по лицензии MIT.
Модель tihon-nth/videomae-base-finetuned-ucf101-subset — дообученная для классификации видео версия VideoMAE-base, разработанная на основе MCG-NJU/videomae-base. Она содержит 113,2 млн параметров и предназначена для присвоения видео категорий действий; в названии указано UCF101-subset, однако README сообщает, что обучающий датасет неизвестен, поэтому связь с конкретным набором данных не подтверждена. В README приведены результаты на оценочной выборке: accuracy 0,8645 и loss 0,0213. Модель принимает видео и выдаёт метки классов. Она распространяется по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование.
MCG-NJU/videomae-base-ssv2 — базовая модель VideoMAE, предварительно обученная командой авторов VideoMAE на наборе Something-Something-v2 в течение 2400 эпох методом самообучения. Это видеоархитектура на основе Vision Transformer: видео разбивается на патчи размером 16×16, а декодер предсказывает пиксели скрытых патчей. Модель содержит 113,2 млн параметров и распространяется в форматах PyTorch и Safetensors. Чекпойнт предназначен прежде всего для дообучения на размеченных видеоданных и извлечения признаков для последующих задач классификации видео. В исходном виде он также предсказывает значения пикселей скрытых участков видеокадров. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.
Это перенос в формат Hugging Face модели V-JEPA 2.1 ViT-G/16 384 — видеокодировщика и предиктора Meta AI для извлечения представлений видео. Веса взяты из контрольной точки facebookresearch/vjepa2 и не изменены; для совместимости с Transformers объединённые проекции QKV разделены на отдельные матрицы query, key и value. Указанный в метаданных размер — 2,1 млрд параметров; README приводит точный размер 1,90 млрд. Модель использует архитектуру VJEPA21Model с энкодером на 48 слоёв, скрытым размером 1664 и 26 головами внимания, а также предиктором на 24 слоя. Она предназначена для извлечения видео- и многоуровневых признаков, которые можно использовать в последующих задачах анализа и классификации видео. Разрешение 384×384 является штатным, при этом интерполируемые RoPE-позиции позволяют обрабатывать другие, в том числе неквадратные, разрешения. Длинные ролики требуют значительной памяти: стоимость внимания растёт квадратично с числом кадров, и для клипа из 64 кадров README рекомендует малые пакеты и gradient checkpointing. Классификационная голова и внимательный пулер инициализируются заново, поэтому для классификации видео их необходимо обучить. Репозиторий распространяется по лицензии MIT.
Wav2Vec2-Base-VoxPopuli — базовая модель Facebook AI на архитектуре Wav2Vec2 с 113,3 млн параметров. Она предварительно обучена на 10 тысячах неразмеченных примеров из мультиязычного корпуса VoxPopuli и предназначена для последующей адаптации к распознаванию речи на конкретном языке. Модель принимает аудио и может служить основой для систем автоматического распознавания речи после дообучения. Карточка советует использовать её как чекпойнт для fine-tuning, но не приводит готовых показателей качества или списка поддерживаемых языков распознавания. Веса опубликованы в формате PyTorch по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
Wav2Vec2-base-VoxPopuli-V2 — акустический чекпойнт Facebook AI на архитектуре Wav2Vec2 с 113,3 млн параметров, предварительно обученный на немецкой речи из VoxPopuli V2. Обучение проводилось на 23,2 тыс. часов неразмеченных аудиоданных; модель принимает речь с частотой дискретизации 16 кГц. Модель предназначена для дальнейшей адаптации к распознаванию немецкой речи: для этого требуется создать токенизатор и дообучить её на размеченных аудиотекстовых данных. В текущем виде у неё нет токенизатора, поэтому она не готова выдавать текст транскрипции. Распространяется под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.
Finnish Wav2Vec2 Base — акустическая модель, разработанная Ярославом Гетманом и Тамашем Гросом. Это модель Wav2Vec2 с 113,3 млн параметров, предварительно обученная на 158 тысячах часов неразмеченной финской речи. Она принимает аудио с частотой дискретизации 16 кГц. Веса опубликованы в формате safetensors, библиотека для работы — Transformers; лицензия — Apache-2.0. Модель предназначена как основа для систем распознавания финской речи и анализа эмоций в голосе. Для распознавания речи этот чекпойнт сам по себе недостаточен: у него нет токенизатора, поэтому нужны токенизатор и дообучение на размеченных текстовых данных. Авторы указывают отдельную дообученную версию wav2vec2-base-fi-150k-finetuned. Предобучающие записи ограничены длительностью 60 секунд, поэтому модель, вероятно, лучше подходит для коротких аудиофрагментов. Значительная часть данных взята из архивов радио и телевидения, что может смещать модель в сторону голосов ведущих и разговорного финского; в данных также могли сохраниться музыка и другие неречевые звуки. Модель опубликована по лицензии Apache-2.0.
Facebook AI разработала Wav2Vec2-base-VoxPopuli-V2 как базовую модель семейства wav2vec2 для представления речевого аудио. Модель содержит 113,3 млн параметров и предварительно обучена на 22,8 тыс. часов неразмеченной французской речи из корпуса VoxPopuli. Она принимает аудио с частотой дискретизации 16 кГц. Чекпойнт предназначен для дальнейшей настройки на размеченных французских аудиоданных, чтобы создать систему распознавания речи. В нём нет токенизатора, поэтому сам по себе он не выдаёт текст транскрипции; для ASR нужно создать токенизатор и дообучить модель. Опубликованные веса доступны в формате PyTorch по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
ehcalabres/wav2vec2-lg-xlsr-en-speech-emotion-recognition — модель распознавания эмоций в речи, созданная дообучением jonatasgrosman/wav2vec2-large-xlsr-53-english на наборе RAVDESS. Она использует архитектуру Wav2Vec2ForSequenceClassification и классифицирует аудиозаписи на восемь эмоциональных категорий: гнев, спокойствие, отвращение, страх, радость, нейтральное состояние, грусть и удивление. Модель подходит для анализа эмоциональной окраски англоязычных речевых записей; в README указаны точность 0,8223 и ошибка 0,5023 на оценочной выборке. Модель содержит около 402,7 млн параметров, распространяется в форматах PyTorch и Safetensors и доступна по лицензии Apache-2.0. Она принимает аудио и выдаёт метки классов эмоций. Обучение проводилось на 1440 записях актёров из RAVDESS, поэтому результаты на естественной речи, других языках и вне условий обучающего набора могут отличаться.
charisgao/wnc-pretrain — дообученная модель классификации текста на базе RoBERTa-base, опубликованная под лицензией MIT. Она использует архитектуру RobertaForSequenceClassification, содержит около 151,8 млн параметров и рассчитана на последовательности длиной до 514 токенов. В README приведены результаты оценки: F1 0,6211, точность 0,6354, precision 0,6385 и recall 0,6046. Модель предназначена для классификации текстовых последовательностей. README не описывает набор меток, обучающие данные или конкретную прикладную область, поэтому применимость к определённым типам классификации оценить нельзя.
Davlan/xlm-roberta-base-finetuned-amharic — модель XLM-RoBERTa, дообученная на корпусе амхарского языка CC-100. Она предназначена для восстановления замаскированных токенов в амхарском тексте и может служить базой для задач обработки амхарского языка, включая распознавание именованных сущностей. Модель имеет архитектуру XLM-RoBERTa base с 305,2 млн параметров и контекстом до 514 токенов; для запуска доступна реализация PyTorch и pipeline fill-mask в Transformers. В оценке на MasakhaNER модель показала F1 77,97 против 70,96 у исходной XLM-RoBERTa. Обучение на новостных текстах и разметке сущностей за ограниченный период может снижать переносимость на другие жанры и предметные области. Лицензия в предоставленных данных не указана.