II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейAMAImedia выпустила эту модель в рамках платформы NOESIS для автоматизации многоязычного дубляжа. Это дообученная версия Qwen3.8-27B-Uncensored с удалённым механизмом отказа: в README изменение названо abliteration, а метаданные указывают исходную модель orcarouter/Qwen3.8-27B-Uncensored. Модель предназначена для исследований механизмов отказа и выравнивания, тестирования безопасности и устойчивости, а также для дальнейшего дообучения и постобучения. Архитектура — плотная мультимодальная модель Qwen3_5ForConditionalGeneration на 27 млрд параметров с гибридным вниманием Gated DeltaNet и полноценными слоями внимания, визуальным модулем и головой MTP. Она принимает текст и изображения, поддерживает диалог, работу с инструментами и распознавание изображений и документов; в README также заявлены режимы рассуждения и OCR. Репозиторий содержит веса Safetensors в формате BF16 без квантизации. Карточка заявляет поддержку многих языков, в том числе русского, английского и китайского. По приведённым в README тестам, способность модели отвечать на вредоносные запросы без отказа резко повышена, а результаты нескольких тестов общих возможностей близки к исходной модели; это результаты авторов карточки. Удаление защитных механизмов означает, что модель может выдавать вредный, предвзятый или оскорбительный контент, поэтому для контролируемых исследований и оценки безопасности необходима внешняя фильтрация. Лицензия — Apache 2.0.
DuoNeural Qwen3-8B Abliterated — изменённая версия диалоговой модели Qwen3-8B с архитектурой плотной авторегрессионной языковой модели. Она генерирует текст, поддерживает режим рассуждений thinking и интерфейс вызова инструментов. Разработчик сообщает, что методом abliteration изменил проекции down_proj и o_proj во всех 36 слоях, чтобы модель чаще отвечала на запросы, которые базовая модель отклоняет. В карточке приведены параметры метода и результаты собственных тестов на небольшом наборе запросов. Модель рассчитана на исследовательские эксперименты, red teaming и творческие сценарии. Она поддерживает английский язык, имеет контекст 40 960 токенов согласно метаданным и распространяется в формате safetensors. Указана лицензия Apache-2.0. Заявленные в README размер и контекст отличаются от метаданных и здесь не используются как основные характеристики.
Qwen3.8-Flash-Next-Uncensored-MLX — это производная MLX-сборка базовой модели Qwen3.8-Flash-Next, разработанная OrcaRouter для запуска на устройствах Apple Silicon через Metal. Модель подвергнута abliteration — удалению направления отказа, связанного с защитным поведением, — а затем квантизирована. Она предназначена прежде всего для исследований интерпретируемости, AI-безопасности, red teaming, оценки устойчивости и контролируемых экспериментов, а не для непосредственного использования конечными пользователями. Модель поддерживает текст, изображения и видео, заявлены английский и китайский языки. Архитектура Qwen4ExpForConditionalGeneration включает 48 слоёв, скрытое представление размерностью 2560, гибридное внимание с 36 слоями Gated-DeltaNet и 12 слоями полного внимания, Mixture-of-Experts с 512 экспертами и выбором 10 экспертов, общий эксперт, Hyper-Connections, vision- и video-компоненты, а также MTP-голову для спекулятивного декодирования. Контекстное окно составляет 262 144 токена. Версия в корне репозитория использует MLX affine 4-bit-квантизацию с размером группы 64, имеет эффективный размер около 7,85 бит на вес и занимает примерно 163 ГБ; также доступны варианты 6 и 8 бит. Сильными сторонами модели являются мультимодальность, большое контекстное окно, MoE-архитектура и оптимизация под Apple Silicon. Главным ограничением и риском является существенное удаление защитного выравнивания: модель может выполнять вредоносные, неэтичные и незаконные запросы, от которых исходная модель отказалась бы, поэтому необходимы собственные механизмы безопасности, модерации и предотвращения злоупотреблений. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели; ответственность за использование и результаты генерации несёт пользователь.
Brendan/refpydst-100p-referredstates — модель эмбеддингов на базе MPNet, дообученная разработчиком на 100%-м few-shot-разбиении MultiWOZ с использованием supervised contrastive loss. Она предназначена для поиска подходящих примеров из обучающей выборки MultiWOZ, которые можно передавать модели как контекст при решении задач диалога. Для корректной работы примеры и запросы должны быть оформлены в специальном формате; модель не рассчитана на общее применение как кодировщик предложений. Модель преобразует текст в плотные векторы размерности 768 и подходит для семантического поиска и сравнения сходства. Имеет 136,7 млн параметров, контекст до 514 токенов и распространяется в формате PyTorch. В README лицензия не указана.
Brendan/refpydst-1p-referredstates-split-v1 — модель эмбеддингов на базе MPNet, разработанная Brendan и дообученная на 1% выборке MultiWOZ с помощью supervised contrastive loss. Она предназначена для поиска подходящих примеров MultiWOZ, которые можно включать в контекст при решении задач диалогового состояния; входные примеры должны быть оформлены в специальном формате, описанном в связанном репозитории. Это не универсальный кодировщик предложений. Модель преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу и извлечения примеров. Основана на sentence-transformers/all-mpnet-base-v2, содержит 136,7 млн параметров и имеет контекст длиной 514 токенов. Доступны веса PyTorch. Лицензия в предоставленных данных не указана.
lerobot/resnet10 — модель ResNet-10, преобразованная из JAX в PyTorch в рамках переноса кода статьи HIL-SERL в LeRobot. Архитектура включает четыре стадии с базовыми блоками; модель содержит около 4,9 млн параметров, принимает RGB-изображения размером 128×128 и формирует эмбеддинг размером 64. В метаданных основная задача указана как классификация изображений. Модель предназначена для компактного визуального представления изображений, в том числе в задачах робототехники. При конверсии сохранены исходные веса и архитектура; формат весов в репозитории — safetensors. Лицензия — Apache-2.0. Карточка не описывает метки классов, точность классификации или результаты оценки, поэтому пригодность для конкретного набора классов требует проверки.
cahya/roberta-base-indonesian-1.5G — предварительно обученная языковая модель RoBERTa, опубликованная пользователем Cahya для индонезийского языка. Она предназначена прежде всего для задачи заполнения пропусков в тексте: по контексту модель предсказывает наиболее вероятные токены вместо маскированного фрагмента. Модель имеет около 153,2 млн параметров и поддерживает контекст длиной до 514 токенов. Она доступна для использования через Transformers и имеет реализации для PyTorch и JAX. Модель относится к архитектуре RoBERTa и может служить базой для последующей тонкой настройки под классификацию текста, анализ тональности и другие задачи индонезийского NLP. Сильная сторона модели — адаптация к индонезийскому языку и совместимость с экосистемой Hugging Face. Она не является универсальной генеративной моделью и предназначена для masked-language modeling; для прикладных задач классификации или извлечения информации потребуется дополнительная настройка. Лицензия в доступных источниках не установлена.
Xenova/segformer-b0-finetuned-ade-512-512 — это версия модели NVIDIA SegFormer B0, дообученной на наборе данных ADE, с весами в формате ONNX для работы в библиотеке Transformers.js. Репозиторий Xenova адаптирует исходную модель nvidia/segformer-b0-finetuned-ade-512-512 к использованию в JavaScript и веб-средах. Модель предназначена для семантической сегментации изображений: она анализирует изображение и выделяет области, соответствующие различным классам объектов или сцен, например стенам и зданиям. Запуск выполняется через pipeline image-segmentation в Transformers.js, а результат содержит метки классов и маски изображений. Архитектура SegFormer B0, точное число параметров, список поддерживаемых языков и размер контекстного окна в README не указаны; модель работает с визуальными данными и не является текстовой или мультимодальной моделью в диалоговом смысле. Ключевые преимущества — поддержка ONNX и возможность запуска через JavaScript-инструменты, включая сценарии, ориентированные на веб-среду. Ограничения включают зависимость от классов и качества исходного обучения на ADE, а также отсутствие в README подробностей о точности, производительности, аппаратных требованиях и полном перечне распознаваемых категорий. Лицензия в предоставленных данных не указана.
Xenova/segformer-b2-finetuned-ade-512-512 — это версия модели семантической сегментации изображений SegFormer, адаптированная для работы в Transformers.js и содержащая веса в формате ONNX. Модель основана на nvidia/segformer-b2-finetuned-ade-512-512; разработчик исходной модели — NVIDIA, а репозиторий Xenova предоставляет совместимое с Transformers.js представление весов. Модель предназначена для выделения и классификации областей на изображениях, например стен, зданий и других объектов или элементов сцены. Она используется через pipeline image-segmentation в JavaScript и подходит для выполнения сегментации в средах, поддерживающих Transformers.js. В выходных данных для каждого найденного класса возвращаются его метка и маска изображения; в README также указан размер входного изображения 512×512 в идентификаторе модели. Ключевые сведения об архитектуре SegFormer, размере B2, наборе классов ADE и поддерживаемых языках в README не раскрыты. Основные преимущества — формат ONNX и совместимость с Transformers.js, что упрощает применение модели в JavaScript-приложениях. Ограничения и точные показатели качества не указаны. Лицензия в предоставленных данных не приведена.
SegFormer B3 от NVIDIA — модель семантической сегментации изображений, дообученная на Cityscapes с разрешением 1024×1024. Архитектура сочетает иерархический Transformer-энкодер с лёгкой MLP-головой декодирования; перед дообучением энкодер предварительно обучен на ImageNet-1k. Модель предназначена для попиксельной разметки сцен, в частности городских улиц и объектов дорожной инфраструктуры. Её можно применять для анализа изображений городских сцен и семантической сегментации в системах компьютерного зрения. Репозиторий содержит веса PyTorch и TensorFlow. Лицензия указана как other, поэтому условия использования следует сверить с лицензией в репозитории.
SERENE — модель классификации аудио, созданная дообучением facebook/wav2vec2-base на наборе данных mali111222333/SERENE_DATA. Она использует архитектуру Wav2Vec2ForSequenceClassification и содержит 113,3 млн параметров. На указанной в карточке оценочной выборке модель достигла accuracy 0,8262 и loss 0,5125. Подходит для классификации аудиозаписей в задачах, соответствующих меткам обучающего набора; состав меток и конкретное целевое применение в карточке не раскрыты. Модель принимает аудио и выдаёт классы. В репозитории используются веса Safetensors, библиотека Transformers; лицензия — Apache-2.0. Язык данных и длина контекста не приведены, поэтому их нельзя определить по карточке.
HuggingFaceTB разработала эту модель для оценки образовательной ценности файлов с исходным кодом на C++. Это дообученная на BigCode StarEncoder модель BERT с классификационной головой, обученная на примерах из The Stack v2, размеченных Llama 3.1 70B Instruct. Классификатор использовался для создания набора Stack-Edu для обучения SmolLM2. Модель принимает текст отдельного файла C++ и выдаёт классификационную оценку его образовательной ценности. Она рассчитана на анализ кода в пределах контекста 1024 токена и может помогать отбирать качественные учебные примеры. В репозитории указаны веса safetensors; размер модели — 151 млн параметров. Лицензия в предоставленных данных не указана.
stanfordnlp/stanza-mr — модель из набора Stanza, разработанного Stanford NLP для лингвистического анализа текста на маратхи. Она предназначена для разметки последовательностей токенов в NLP-конвейерах Stanza; набор инструментов Stanza также охватывает синтаксический анализ и распознавание сущностей, однако карточка этой модели подтверждает только задачу token classification. Модель распространяется в формате PyTorch по лицензии Apache-2.0.
Stentor-12M — компактная авторегрессионная языковая модель на архитектуре Llama, разработанная Kai Izumoto (StentorLabs) и обученная с нуля. Модель содержит 12 млн параметров, использует класс LlamaForCausalLM и рассчитана на генерацию текста по следующему токену. Она работает с английским языком, имеет контекст до 512 токенов и распространяется в формате safetensors для библиотеки Transformers. Небольшой размер позволяет быстро запускать модель на CPU и мобильных устройствах, использовать её для учебных экспериментов с механизмами внимания и обучающими конвейерами, а также проверять применение компактной модели как чернового генератора при спекулятивном декодировании. Модель не дообучена следовать инструкциям: ответы могут уходить от темы, а токены формата инструментов не обеспечивают надёжный вызов инструментов. Это экспериментальная proof-of-concept модель, а не надёжный чат-ассистент. У неё короткое контекстное окно, ограниченные знания и нет настройки безопасности; генерацию следует ограничивать по длине, а ответы проверять. Лицензия — Apache-2.0.
STFT-VAE — нейронный аудиокодек с непрерывным латентным представлением на основе STFT. Модель кодирует аудио в комплексную спектрограмму, Transformer-энкодер сжимает её до непрерывного латента с частотой 3,125 кадра в секунду и размерностью 128, а Transformer-декодер и обратное STFT восстанавливают звуковую волну. Фаза сохраняется через STFT/ISTFT, без обучаемого вокодера. Модель содержит около 116 млн параметров и рассчитана на аудио с частотой дискретизации 24 кГц. Она предназначена для кодирования и реконструкции аудио, например для сжатия звукового сигнала в латентное представление и последующего восстановления. Репозиторий содержит архитектурную конфигурацию и веса в формате safetensors; лицензия — MIT.
SPP-T0-MT Base — базовая предобученная языковая модель на 1,7 млрд параметров, разработанная dlab-spp. Она обучена с нуля на архитектуре SmolLM2-1.7B с использованием Synthetic Persona Pretraining: отражения о ценностях добавлялись к части документов предобучения, а затем модель прошла дополнительный этап обучения на материалах, размеченных с точки зрения безопасности. Модель предназначена для продолжения текста, исследования поведения и безопасности, зондирования и дальнейшего дообучения. Это не модель для следования инструкциям: у неё нет шаблона чата, и она может выдавать неверный или небезопасный контент. Модель принимает текст и генерирует текст, поддерживает английский язык, а длина контекста составляет 2048 токенов. Опубликованные промежуточные ревизии подходят для оценки и дообучения, но точное продолжение исходного обучения невозможно, поскольку состояния оптимизатора и генератора случайных чисел не включены. Лицензия указана как other; конкретные условия в карточке не раскрыты.
Карточка модели Rowling0506/tabpfn_3 на Hugging Face совпадает с карточкой Prior-Labs/tabpfn_3, поэтому описание составлено по ней. TabPFN-3 — трансформерная модель Prior Labs для прогнозирования по табличным данным. Она использует обучение в контексте и выполняет предсказание за один проход без отдельного дообучения на пользовательском наборе данных. Эта карточка описывает специализированный чекпойнт классификатора для бинарной классификации на наборах с 2000 признаками. Архитектура модели многоэтапная, состоит из 24 основных слоёв. Она обучена исключительно на синтетических табличных задачах и предназначена для табличной классификации; в README также упомянуты стандартные чекпойнты для классификации и регрессии. Модель оценивается на открытых бенчмарках TabArena и TALENT, где, согласно карточке, показывает результаты уровня SOTA. Лицензия tabpfn-3-license-v1.0 разрешает исследования, тестирование и внутреннюю оценку, но запрещает коммерческое и производственное использование модели, её производных и результатов. Для применения в производственных сценариях Prior Labs предлагает отдельную коммерческую лицензию.
TinyLlama/TinyLlama-1.1B-intermediate-step-480k-1T — промежуточный контрольный чекпойнт проекта TinyLlama, разработанного для предварительного обучения компактной модели семейства Llama. Он создан на шаге 480 тысяч после обучения на 1007 млрд токенов; проект ставит целью обучить модель Llama с 1,1 млрд параметров на 3 трлн токенов. Архитектура — плотная авторегрессионная LlamaForCausalLM с токенизатором Llama 2, совместимая с экосистемой проектов для Llama. Модель предназначена для генерации текста и экспериментов при ограниченных требованиях к памяти и вычислениям. Поддерживается английский язык, максимальный контекст — 2048 токенов. Доступны веса PyTorch и safetensors. Лицензия — Apache-2.0. Это промежуточный чекпойнт обучения, поэтому его качество и пригодность для прикладных задач могут уступать завершённым моделям TinyLlama.
TinyLlama/tinyLlama-intermediate-checkpoints-after-1T-token — набор промежуточных контрольных точек проекта TinyLlama, разработанного для предварительного обучения компактной языковой модели семейства Llama. В коллекцию входят чекпойнты после исправления на этапе 1T токенов; ветка указывает шаг обучения и число обработанных токенов. В метаданных модель классифицирована как text-generation, указаны архитектура LlamaForCausalLM, плотная структура, формат PyTorch и размер 1 млрд параметров. README описывает целевую модель TinyLlama как модель на 1,1 млрд параметров с архитектурой и токенизатором Llama 2; контекст в метаданных — 2048 токенов. Модель предназначена для генерации текста при ограниченных требованиях к памяти и вычислениям. README не приводит оценок качества именно этих промежуточных контрольных точек. Лицензия репозитория — Apache-2.0.
Модель martin-ha/toxic-comment-model — дообученная версия DistilBERT для классификации токсичных комментариев. Она принимает текст и относит его к классам токсичности; модель предназначена для фильтрации и первичной модерации комментариев в интернете. Архитектура — DistilBertForSequenceClassification, формат весов — PyTorch, максимальная длина контекста — 512 токенов. В карточке указана поддержка английского языка. В README сообщается о точности 94% и F1-мере 0,59 на отложенной выборке из 10 000 примеров. Модель может ошибочно считать токсичными нейтральные высказывания о некоторых группах идентичности, в частности о мусульманах и евреях, поэтому автоматические решения следует проверять. В README не указана лицензия.
Trendyol-TTS — модель синтеза речи на турецком языке, разработанная Trendyol на основе openbmb/VoxCPM2. Это дообученная с помощью LoRA модель: выбранный чекпойнт step_0002000 объединён с базовыми весами, а файлы адаптера сохранены в репозитории для аудита. Модель принимает текст и генерирует речь; она предназначена для экспериментов, оценки качества и прототипирования синтеза турецкой речи. Модель обучалась на частном турецком речевом наборе данных объёмом более 20 часов. Карточка рекомендует параметры cfg_value=2.0 и inference_timesteps=16. Лицензия репозитория — MIT; пользователям также следует соблюдать ограничения владельца обучающих данных. Это исследовательский артефакт, не проверенный для промышленного обслуживания: возможны ошибки произношения, просодии и нормализации, паузы и артефакты синтеза. Качество для других языков, смешанной речи, сленга, имён, чисел и длинных текстов может быть ниже.
Skywork/Unipic3 — учительская диффузионная модель семейства UniPic3, разработанная для фреймворка UniPic 3.0. Она использует унифицированную архитектуру Transformer и мног шаговую диффузионную генерацию, оптимизированную для качества, семантической согласованности и реалистичности. Модель предназначена прежде всего для обучения дистиллированных моделей: она предоставляет сигналы для Distribution Matching Distillation и дистилляции согласованности и траектории. Модель поддерживает редактирование изображений, композицию из 2–6 изображений и сценарии взаимодействия человека с объектами. Она рассчитана на мног шаговую генерацию с гибким разрешением в пределах бюджета пикселей и не оптимизирована для быстрого вывода за несколько шагов. Репозиторий содержит веса в форматах Diffusers, PyTorch и Safetensors; лицензия — MIT.
UniSpeech-Large-plus Spanish — модель Microsoft семейства UniSpeech для автоматического распознавания испанской речи. Модель основана на архитектуре UniSpeechForCTC, содержит 402,7 млн параметров и дообучена на одном часе испанских фонем; предобучение проводилось на речевых аудиозаписях с частотой дискретизации 16 кГц и фонетическими метками. Модель принимает аудио с частотой 16 кГц и последовательность фонем в качестве текста для распознавания. Она предназначена для экспериментов и приложений распознавания испанской речи, включая оценку фонетического распознавания на данных Common Voice. Для использования требуется преобразовать текст в последовательность фонем. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.
Это модель для распознавания речевых команд, созданная дообучением facebook/wav2vec2-conformer-rel-pos-large на наборе Speech Commands. Она использует архитектуру Wav2Vec2-Conformer и содержит 402,7 млн параметров; модель классифицирует аудиозапись по ключевым словам, включая команды Yes, No, Up, Down, Left, Right, Stop и Go, цифры от Zero до Nine и дополнительные слова из набора Speech Commands. На оценочной выборке указана точность 0,9724. Модель предназначена для распознавания коротких англоязычных команд, например в голосовом управлении устройствами. Лицензия — Apache-2.0.
WeDLM-7B-Base — базовая предварительно обученная диффузионная языковая модель Tencent, созданная на основе Qwen2.5-7B. Модель с плотной архитектурой WeDLMForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста с параллельным декодированием при стандартном каузальном внимании. В метаданных указан контекст до 16 384 токенов. Модель подходит для экспериментов и разработки систем генерации текста, а также для обучения и прямых проходов через Transformers. Для ускоренного инференса авторы рекомендуют движок wedlm. Это базовая версия, а не версия с настройкой инструкций; для диалоговых задач и следования инструкциям может потребоваться дополнительная адаптация. README приводит результаты тестов ARC-C, GSM8K и MATH, но не описывает ограничения этих оценок. Лицензия — Apache 2.0.
clu-ling/whisper-large-v2-arabic-5k-steps — модель распознавания речи, созданная дообучением openai/whisper-large-v2 на арабской части Common Voice 11.0. Это плотная модель Whisper с 905,2 млн параметров, опубликованная в формате PyTorch и распространяемая по лицензии Apache-2.0. Модель предназначена для преобразования арабской речи в текст. Её обучали 5000 шагов; на тестовой выборке Common Voice 11.0 указана WER 0,4239 и loss 0,3434. Автор предупреждает, что качество транскрипций может быть недостаточным для пользователей, поэтому чекпойнт больше подходит для экспериментов и оценки дообучения.
X-Codec general audio — модель-кодек из семейства X-Codec, разработанная для извлечения признаков и сжатого представления общего аудио. Репозиторий содержит дообученную версию HuBERT-модели ZhenYe234/hubert_base_general_audio; в README исходный чекпойнт назван xcodec_hubert_general_audio_more_data. Модель использует архитектуру XcodecModel и распространяется в формате safetensors. Кодек предназначен для обработки аудио на нескольких битрейтах, включая 0,5, 1, 1,5, 2 и 4 кбит/с. Это подходит для получения компактных аудиопредставлений в задачах кодирования и исследований аудиокодеков. В карточке нет описания поддерживаемых языков или количественных оценок качества. Лицензия — MIT.
XLM-MLM-ende-1024 — трансформерная языковая модель, разработанная Гийомом Ламблем и Алексисом Конно. Она предварительно обучена с задачей masked language modeling для английского и немецкого языков; при инференсе язык задаётся через языковые эмбеддинги. Модель подходит для предсказания скрытых слов и других сценариев, основанных на заполнении пропусков в тексте. Архитектура использует 1024 скрытых измерения, 8 attention-голов, активацию GELU, dropout 0,1 и обучаемые позиционные эмбеддинги. Метаданные указывают контекст до 512 токенов и поддержку PyTorch, TensorFlow и safetensors. Разработчики рекомендуют применять те же предобработку и BPE-коды, что использовались при обучении. Модель оценивали на наборе WMT’16 English-German с метрикой BLEU; известны общие риски языковых моделей, включая смещения. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование.
joker5914/yolov8n-license-plate — модель обнаружения автомобильных номерных знаков на изображениях, размещённая пользователем joker5914. По названию и данным репозитория это вариант YOLOv8n, обученный на наборе keremberke/license-plate-object-detection. В репозитории есть контрольная точка Ultralytics и экспорт в ONNX, подготовленный для компилятора Hailo Dataflow Compiler. Модель предназначена для поиска и локализации номерных знаков на изображениях, например в системах видеонаблюдения и автоматизированного контроля транспорта. Карточка не сообщает метрики качества и не описывает распознавание символов, поэтому модель следует рассматривать как детектор областей номерных знаков, а не как систему чтения номера. Лицензия репозитория — AGPL-3.0.
AfroXLMR-large-75L — многоязычная модель Davlan для восстановления замаскированных фрагментов текста. Она создана адаптацией MLM модели XLM-R-large на корпусах mC4, Википедии и OPUS, охватывающих 75 языков, широко используемых в Африке, а также четыре языка с большим объёмом ресурсов. Модель основана на архитектуре XLM-RoBERTa, содержит около 658,7 млн параметров и принимает последовательности длиной до 514 токенов. Основная задача — предсказывать пропущенные токены в тексте. Модель подходит для многоязычной языковой обработки, особенно для африканских языков; она также может служить базой для задач, требующих языковых представлений, после соответствующей настройки. Модель распространяется под лицензией MIT.