II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейQwen3.5-4B-action — мультимодальный чекпойнт на основе Qwen/Qwen3.5-4B с расширенным токенизатором действий для GreenVLA и систем vision-language-action. Он предназначен для инициализации робототехнических моделей: сначала загружается этот базовый vision-language чекпойнт, затем к нему добавляются веса политики для конкретной задачи. Модель использует плотную архитектуру Qwen3.5 и формат Transformers с весами Safetensors. Она принимает изображения и текст и формирует текстовый вывод; расширенный токенизатор добавляет специальные токены действий, необходимые последующему стеку робототехнической политики. Лицензия и языковые характеристики в использованных источниках не описаны.
Qwen3.6-27B-Heretic-LoRA — лёгкий адаптер LoRA для Qwen3.6-27B, созданный для ослабления отказов модели методом abliteration в стиле Heretic. Разработчик извлёк низкоранговую поправку SVD из разницы между базовой моделью и её abliteration-версией; адаптер изменяет модули o_proj, down_proj, gate_proj и up_proj. Доступны ранги 16, 32, 64, 128 и 256, рекомендуемый ранг — 32. Репозиторий содержит адаптер в формате GGUF. Адаптер подключается к исходной модели Qwen3.6-27B или её квантованным вариантам через llama.cpp. Базовая модель поддерживает работу с изображениями и текстом, поэтому модель с адаптером относится к мультимодальному семейству image-text-to-text. Лицензия — Apache-2.0. Адаптер ослабляет большинство векторов отказа, но README предупреждает, что результат abliteration уступает полной версии Heretic-чекпойнта. Для использования нужны базовая модель и совместимый загрузчик; отдельная полноценная модель из адаптера не получается.
Qwen3.8-27B-DFlash2-ternary-bonsai2 — экспериментальная черновая модель NakliTechie для ускорения генерации целевой 2-битной модели Ternary-Bonsai-2-27B посредством спекулятивного декодирования DFlash 2. Она дообучена на скрытых состояниях и собственных жадных генерациях целевой модели, чтобы лучше предсказывать именно её следующий текст. Архитектура основана на Qwen3 и включает пять слоёв черновой модели; параметры — 2,9 млрд по метаданным, а веса представлены в safetensors и GGUF Q4_K_M. Модель использует общие с целевой моделью эмбеддинги и lm_head. Заявленный контекст — 262 144 токена. Модель предназначена для совместного запуска с Ternary-Bonsai-2-27B в совместимом runtime: MLX на Apple Silicon, llama.cpp с поддержкой DFlash 2 или указанные в карточке браузерный runtime и WebGPU. Она выдаёт черновые продолжения текста, которые целевая модель проверяет; это компонент ускорения, а не самостоятельная разговорная модель. В измерениях автора на M4 Pro при жадной генерации улучшение принятия черновых токенов зависело от запроса; приведённые скорости относятся к конкретным устройствам и runtime. Карточка отмечает экспериментальный статус и описывает обучение и результаты на ограниченном наборе промптов. Для спекулятивного режима требуется температура 0 и совместимые целевая модель и runtime. Лицензия — Apache-2.0.
Qwen3.8-Flash-Next MTP-Drafter-GGUF — это отдельная GGUF-упаковка MTP-head модели Qwen3.8-Flash-Next, предназначенная для speculative decoding совместно с gmlx на macOS и Apple Silicon. Пакет подготовлен пользователем или организацией ashbash на основе весов Qwen3.8-Flash-Next, разработанных командой Qwen компании Alibaba Cloud. Это не самостоятельная языковая модель, а draft-модель, которая должна использоваться вместе с базовой GGUF-моделью. В состав входит один MTP-слой с attention, MoE-блоком на 512 экспертов, hyper-connection mixer, а также необходимыми fc- и norm-компонентами; всего 33 тензора. Доступны варианты Q8_0 размером около 2,6 ГиБ и Q4_K_L размером около 1,8 ГиБ. Q8_0 является эталонным вариантом, а Q4_K_L уменьшает объём примерно на 1 ГиБ за счёт более низкой точности части параметров. Драфтер совместим с любой квантизацией базовой модели, при этом его исходные веса получены из официального релиза в формате BF16. Языки, размер контекста и точный размер базовой модели в README не указаны. Основное преимущество пакета — восстановление MTP-тензоров, которые обычно теряются при конвертации Qwen3.8-Flash-Next в GGUF, что позволяет использовать self-drafting и ускорять генерацию через speculative decoding. Для моделей Qwen качество принятия MTP-токенов, согласно README, заметно выше в режиме reasoning. Ограничения заключаются в необходимости базовой модели, gmlx и платформы macOS с Apple Silicon; llama.cpp этот формат не поддерживает. Рекомендуется размещать ровно один файл драфтера рядом с базовой GGUF-моделью. Файлы распространяются по лицензии Apache-2.0.
mazinb/Qwen3.8-Flash-Next-Uncensored-NVFP4 — квантизированная версия мультимодальной модели Qwen3.8-Flash-Next, подготовленная автором mazinb на основе моделей Qwen, OrcaRouter и Primitive AI. Модель предназначена для исследовательских задач, связанных с изучением механизмов отказа и выравнивания, интерпретируемостью, red teaming, оценкой устойчивости и контролируемыми экспериментами. Она также рассчитана на запуск uncensored-версии Flash-Next на одной видеокарте GB10 Blackwell с 96 ГБ памяти через vLLM. Архитектура модели — Qwen4ExpForConditionalGeneration (qwen4_exp): 48 слоёв, скрытое представление размером 2560, гибридная attention-архитектура, MoE с 512 объединёнными экспертами, выбором top-10 и общим экспертом, нативная поддержка изображений и видео, а также MTP-head. Поддерживаются английский и китайский языки, текстовые и визуальные входы, включая сценарии OCR и function calling. Размер файлов модели составляет около 174 ГБ. Маршрутизируемые экспертные слои квантизированы в NVFP4 с group size 16, тогда как таблица PLE n-gram объёмом 51B параметров сохранена в BF16; квантизация выполнена без калибровки и затрагивает только веса. Главное отличие модели — abliteration: из residual stream удалено направление отказа, поэтому встроенные защитные ограничения исходной Qwen3.8-Flash-Next существенно ослаблены, и модель может выполнять вредоносные, незаконные или неэтичные запросы. Это делает её пригодной для контролируемых исследований, но непригодной для непосредственного использования конечными пользователями или в production без собственных фильтров, модерации и механизмов предотвращения злоупотреблений. Abliteration является редактированием весов, а не удалением данных, и до некоторой степени может быть компенсирована последующим дообучением. Модель распространяется по Qwen Community License 1.0. Использование должно соответствовать этой лицензии и применимым законам; ответственность за результаты и возможный вред несёт пользователь.
ybelkada/random-tiny-BertGenerationModel — очень маленькая модель семейства BertGeneration, опубликованная пользователем ybelkada на Hugging Face. Метаданные указывают архитектуру BertGenerationEncoder, формат PyTorch и размер около 108,1 тыс. параметров; заявленная длина контекста — 512 токенов. Модель предназначена для извлечения признаков из текста и запуска через Transformers как feature-extraction pipeline. В названии указано random, поэтому её следует рассматривать как случайно инициализированную тестовую модель для проверки загрузки и работы инструментов, а не как обученный текстовый энкодер для прикладных результатов. Карточка модели отсутствует; сведения о лицензии и поддерживаемых языках не установлены.
helper2424/resnet10 — модель ResNet-10, перенесённая из JAX в PyTorch для проекта по переносу кода HIL-SERL в LeRobot. При конвертации сохранены архитектура и веса исходной модели. Это четырёхстадийная ResNet с базовыми блоками и примерно 4,9 млн параметров; она принимает RGB-изображения размером 128×128 и формирует эмбеддинг размером 64. В метаданных указана задача классификации изображений, а компактный размер модели делает её подходящей для экспериментов с компьютерным зрением в робототехнике. Модель распространяется по лицензии Apache-2.0. README не приводит конкретные классы или метрики качества, поэтому пригодность для определённого набора меток требует проверки.
merve/rfdetr-roadsign-agree1-large-noaug — дообученная модель Roboflow на основе RF-DETR Large для обнаружения дорожных знаков и сигналов на изображениях. По метрикам в карточке модель распознаёт категории, включая остановку, запрет въезда и поворота, пешеходный переход, железнодорожный переезд, светофор и его цвета. На оценочном наборе указаны mAP 0,6845 и mAP@50 0,7721; набор данных в карточке не назван. Модель предназначена для локализации объектов дорожной инфраструктуры в сценариях анализа дорожных изображений и помощи системам компьютерного зрения. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия Apache-2.0.
Koichi Yasuoka разработал RoBERTa-base-serbian — модель RoBERTa, предварительно обученную на сербском корпусе srWaC. Она рассчитана на восстановление замаскированных токенов и может служить основой для дообучения под задачи обработки сербского языка, например разметку частей речи и синтаксический анализ зависимостей. Модель поддерживает сербский язык в кириллическом и латинском письме; архитектура — плотная RobertaForMaskedLM с 124,3 млн параметров и контекстом до 512 токенов. Репозиторий содержит веса PyTorch. Лицензия — CC BY-SA 4.0.
KoichiYasuoka/roberta-base-thai-spm — модель RoBERTa, предварительно обученная на текстах тайской Википедии. Она предназначена для предсказания замаскированных токенов и дообучения для прикладных задач обработки тайского языка, например разметки частей речи и синтаксического анализа зависимостей. Модель содержит 115,6 млн параметров, использует архитектуру RobertaForMaskedLM и SentencePiece-токенизацию; максимальная длина контекста — 512 токенов. Модель принимает текст на тайском языке и выдаёт распределение вероятностей для замаскированных токенов. Весами в формате PyTorch можно пользоваться через Transformers. Лицензия — Apache-2.0. Для POS-разметки и синтаксического анализа модель нужно дообучить; карточка не приводит оценок качества на этих задачах.
Koichi Yasuoka разработал модель на базе RoBERTa для разметки частей речи в текстах на тайском языке. Она предварительно обучена на тайской Википедии и дообучена для присвоения каждому слову метки UPOS — универсальной системы обозначений частей речи. Модель предназначена для автоматической морфологической разметки и может использоваться в конвейерах анализа тайского текста. Модель работает с текстом, токенизированным на слоговом уровне, и выдаёт метки токенов. В карточке также заявлен разбор зависимостей, однако приведённый пример демонстрирует только предсказание UPOS. Основа — KoichiYasuoka/roberta-base-thai-syllable; формат весов PyTorch, лицензия Apache-2.0. Ограничение: обучающие данные происходят из тайской Википедии, поэтому качество на других жанрах и доменах может отличаться.
nfliu/roberta_s2orc_bpe_32k — модель Nelson Liu на базе RoBERTa, опубликованная в Hugging Face. Она предназначена для заполнения замаскированных фрагментов текста и предварительного обучения или адаптации NLP-систем на научных публикациях из корпуса S2ORC (Semantic Scholar Open Research Corpus), содержащего англоязычные академические статьи из различных дисциплин. Модель использует архитектуру трансформера с 137,8 млн параметров, специализированный BPE-токенизатор с размером словаря 32k и поддерживает контекст до 514 токенов. В метаданных также указана совместимость с Transformers и PyTorch.
KLUE RoBERTa small — предварительно обученная на корейском языке модель семейства RoBERTa, опубликованная проектом KLUE. Она предназначена для заполнения пропусков в тексте: модель предсказывает слово или токен, скрытый специальной маской. Чекпойнт содержит 81,2 млн параметров, использует архитектуру RobertaForMaskedLM и поддерживает контекст до 514 токенов. Модель работает с текстом на корейском языке и доступна в форматах PyTorch и safetensors. Для токенизации карточка рекомендует BertTokenizer; AutoTokenizer загружает его автоматически. Это базовая предварительно обученная модель, которую можно использовать для заполнения масок или адаптировать к другим задачам обработки корейского языка. Лицензия в предоставленных данных не указана.
SAM2.1 Hiera Tiny — модель сегментации изображений по подсказкам, подготовленная openEuler для интеграции в фреймворк IB-Robot. Она принимает изображение и подсказки в виде точек или рамок и формирует маски отдельных объектов. В основе лежит facebook/sam2.1-hiera-tiny; пакет включает веса PyTorch и конвертированные артефакты для Ascend 310B1 и 310P1, а также запуск на CPU через PyTorch. Модель предназначена для интерактивной сегментации и робототехнических сценариев, где нужно выделить объект по пользовательской подсказке. Репозиторий указывает пакетную обработку 1 изображения на Ascend 310B1 и 4 на Ascend 310P1. Указана лицензия Apache-2.0. Карточка не описывает поддержку видео или языковые входы.
Sarashina2.1-1B — плотная авторегрессионная языковая модель семейства Llama, разработанная SB Intuitions. В модели 1,2 млрд параметров; она обучена на японских и английских веб-данных, с дополнительным этапом обучения преимущественно на японских данных для повышения качества на японском языке. Модель предназначена для продолжения текста и оценки языковых задач на японском и английском. Она принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и не настроена на выполнение инструкций, поэтому не подходит для прямого использования как диалоговый помощник. В README приведены результаты оценки на японских и английских задачах, но они не гарантируют качество в конкретном приложении. Лицензия указана как other; конкретные условия следует проверить в репозитории модели. Разработчики предупреждают, что возможны бессмысленные, неточные, предвзятые или нежелательные ответы, и рекомендуют дополнительную настройку с учётом предпочтений людей и требований безопасности.
Efferbach/segformer-finetuned-lane-10k-steps — сегментационная модель на архитектуре SegFormer, дообученная на наборе Efferbach/lane_master на базе nvidia/segformer-b0-finetuned-cityscapes-512-1024. Она предназначена для семантической сегментации изображений дороги с выделением фона и левой и правой полос. В оценке на тестовой выборке указаны mean IoU 0,4899 и mean accuracy 0,7371; для классов Left и Right приведены IoU 0,7371 и 0,7325 соответственно. Модель распространяется в формате PyTorch. Лицензия указана как other, поэтому конкретные условия использования следует сверить с материалами репозитория.
SloBERTa — одноязычная модель семейства BERT для словенского языка, разработанная EMBEDDIA и построенная на архитектуре CamemBERT. Она содержит 137,8 млн параметров, использует словарь из 32 000 токенов и принимает последовательности длиной до 514 токенов. Модель обучалась на корпусах Gigafida 2.0, Kas 1.0, части Janes 1.0, парламентском корпусе siParl 2.0 и slWaC; общий объём обучающих данных составил 3,47 млрд токенов. Основная задача модели — предсказание замаскированных токенов. Это подходит для восстановления пропусков в словенском тексте и получения контекстных языковых представлений для последующей адаптации к задачам обработки словенского языка. Модель распространяется в формате PyTorch и загружается через Transformers как модель masked language modeling. Лицензия — CC BY-SA 4.0. Модель специализируется на словенском языке; её карточка описывает предобучение, но не приводит результатов оценки качества на прикладных задачах.
Sophira-1B-base — базовая языковая модель проекта Sophira, разработанная для открытого итальянского предобучения. Это decoder-only Transformer семейства Llama с плотной архитектурой и примерно 1,1 млрд параметров; модель опубликована в формате Safetensors, использует токенизатор Sophira на 64 тыс. токенов и имеет контекст 2048 токенов. Модель предназначена для итальянского языкового моделирования, исследований и бенчмаркинга, а также как основа для последующего дообучения под инструкции или конкретные задачи. Она не является инструкционной моделью и не рассчитана на многоязычное применение вне оценки с приоритетом итальянского языка. В контролируемой генерации отмечены дрейф от темы и повторения; проверка охватывала небольшой набор промптов, поэтому широкие выводы о надёжности делать нельзя. Оценки безопасности, смещений и устойчивости остаются незавершёнными. Лицензия — Apache-2.0.
Это разреженный автоэнкодер Prisma-Multimodal для анализа признаков CLIP ViT-B/32. Модель принимает представления размерности 768 и кодирует их в пространство из 49 152 признаков с коэффициентом расширения x64 и активацией ReLU. Указанный контекст составляет 50 токенов. Автоэнкодер предназначен для извлечения признаков и исследований интерпретируемости, в частности анализа активаций слоя 8 CLIP на точке hook_mlp_out. Для версии указаны коэффициент L1 0,0001, разреженность L0 96,6665 и объяснённая дисперсия 80,06%. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. Это вспомогательная модель для анализа представлений, а не самостоятельная модель генерации текста или изображений.
TimeLens2-8B-SFT — мультимодальная модель для временной локализации событий в видео, разработанная MCG-NJU. Она принимает видео и текстовый запрос и возвращает временные интервалы, в которых присутствуют запрошенные визуальные свидетельства. Модель предназначена прежде всего для генерации примеров для следующего этапа обучения TimeLens2 методом GRPO, а также для воспроизведения и изучения конвейера обучения temporal grounding. Это контрольная точка supervised fine-tuning на базе Qwen/Qwen3-VL-8B-Instruct с длинноконтекстным обучением на временной локализации. При обучении использовался контекст до 100 тысяч токенов; визуальный энкодер был заморожен. Данные включали TimeLens2-93K, TimeLens-100K и обучающую часть Ego4D-NLQ-v2. Чекпойнт является промежуточным SFT-этапом, а не финальной оптимизированной методом GRPO версией из статьи. Модель распространяется по лицензии Apache-2.0.
ToxicHermes — дообученная методом Direct Preference Optimization (DPO) модель на базе teknium/OpenHermes-2.5-Mistral-7B, разработанная автором репозитория joey00072. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров для генерации текста и диалогов по инструкциям. Она обучена на наборе unalignment/toxic-dpo-v0.1, поэтому предназначена для изучения или генерации токсичных ответов и может выдавать оскорбительный контент. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 32 768 токенов. Весы доступны в формате safetensors; лицензия — Apache-2.0.
Tucano-2b4 — авторегрессионная языковая модель серии Tucano, разработанной TucanoBR и обученной на португальском языке. Это плотный Transformer с архитектурой LLaMA и примерно 2,4 млрд параметров; модель предсказывает следующий токен и генерирует текст. Обучение проводилось на наборе TucanoBR/GigaVerbo — объединении очищенных португальских текстовых корпусов объёмом около 200 млрд токенов. Контекст составляет 4096 токенов. Модель предназначена как основа для исследований и разработки языковых моделей на португальском, в том числе для сравнительных экспериментов и последующего дообучения под конкретные задачи. Она не настроена для прикладных задач и не предназначена для непосредственного развёртывания или взаимодействия с пользователями. Лицензия Apache 2.0. Модель может галлюцинировать, воспроизводить предубеждения и токсичные формулировки, выдавать ненадёжный код, повторяться или отвечать излишне многословно. Основной язык — португальский; для других языков её пригодность ограничена.
openmmlab/upernet-swin-tiny — модель семантической сегментации изображений на основе фреймворка UperNet и компактного backbone Swin Transformer. UperNet объединяет backbone с Feature Pyramid Network и модулем Pyramid Pooling Module; модель предсказывает семантическую метку для каждого пикселя изображения. Модель предназначена для разметки сцен и разделения изображений на семантические области. Вариант Swin Transformer tiny использует иерархический vision transformer со сдвинутыми окнами. Репозиторий содержит веса PyTorch и опубликован под лицензией MIT. Карточка не приводит конкретные датасеты или набор классов сегментации; для специализированных сценариев доступны дообученные варианты.
CustomViT-Nano — компактная модель классификации изображений, разработанная автором репозитория kd13. Она предназначена для классификации изображений природных объектов в стиле ImageNet-1K, а также для экспериментов с небольшими визуальными энкодерами и их переносом на смежные задачи. Модель содержит 4,24 млн обучаемых параметров и принимает изображения размером 224 × 224 пикселя; архитектура объединяет многоступенчатый сверточный stem, 2D Rotary Positional Embeddings, Pre-RMSNorm, блоки SwiGLU и внимание PyTorch SDPA. На валидационном наборе ImageNet-1K автор сообщает точность Top-1 63,60% и Top-5 84,93% для 1000 классов. Небольшой размер делает модель подходящей для ограниченных по ресурсам сценариев и учебных экспериментов. Она ориентирована на классификацию и не предназначена для обнаружения объектов, сегментации или генерации подписей. Качество может снижаться на изображениях, отличающихся от естественных изображений ImageNet; перед применением в критичных сценариях требуется отдельная оценка. Лицензия — MIT.
Это экспорт модели Mistral Voxtral-4B-TTS-2603 в формате GGUF для запуска через loom.cpp и библиотеку loom-py-rt. В основе — 3,4-миллиардный Ministral-бэкбон, работающий с аудиокодами, акустическая голова на основе flow matching и причинный аудиокодек. Модель преобразует текст в речь с частотой 24 кГц и поддерживает английский, французский, испанский, португальский, итальянский, нидерландский, немецкий, арабский и хинди. В комплекте есть встроенный голос casual_male и 19 дополнительных предустановленных голосов. Модель предназначена для озвучивания текста в голосовых агентах и других приложениях синтеза речи. Голоса выбираются из готового набора; клонирование голоса по аудиозаписи не поддерживается. Генерация стохастическая, поэтому результат может различаться между запусками; для повторяемости можно задать seed. Модель крупная и медленная на CPU: README указывает около 17 ГБ оперативной памяти для запуска и примерно 5,5 секунды вычислений на секунду аудио на 24-ядерном x86-компьютере. Один вызов обрабатывает до 2048 кадров, а длинный текст автоматически не делится. Для работы требуется loom 1.0.0-rc11 или новее. Модель и голоса распространяются по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование.
Модель zainulhakim/241103_wav2vec2_Augmented_Dataset — дообученная на неизвестном наборе данных версия facebook/wav2vec2-base для автоматического распознавания речи. Она использует архитектуру Wav2Vec2ForCTC и содержит 113,3 млн параметров; веса опубликованы в формате safetensors. Лицензия — Apache-2.0. На указанной в карточке оценочной выборке модель получила WER 1,0 и loss 1,8439. Эти результаты указывают на крайне низкое качество распознавания в данном тесте; данных о языке аудио, целевом сценарии и более подробных ограничениях карточка не предоставляет.
ACI Yoruba Phase 10 — акустическая модель распознавания речи на йоруба, разработанная Awesome-x. Это дообученная версия акустических весов Phase 9 на выборке AR_Audios: примеры, ошибочно распознанные Phase 9, включались в обучение втрое чаще. Модель построена на архитектуре Wav2Vec2 с CTC-выходом и содержит около 402,7 млн параметров. Модель предназначена для автоматической транскрипции речи на йоруба. Для декодирования предусмотрены KenLM с параметрами alpha=0.5 и beta=1.0 и фонетическая карта, использовавшиеся также в Phase 9. На отложенной выборке из 55 примеров WER составил 12,33% против 12,63% у Phase 9. В README указано, что более сильная конфигурация декодера Phase X с теми же акустическими весами дала WER 7,09%; для производственного применения автор рекомендует её. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка не описывает поддержку распознавания английской речи отдельно, поэтому метку en нельзя считать подтверждением такой возможности; README также не приводит оценки на других выборках.
tue-mps/ade20k_panoptic_eomt_large_640 — модель сегментации изображений на архитектуре EoMT (Encoder-only Mask Transformer), разработанной авторами статьи «Your ViT is Secretly an Image Segmentation Model». EoMT использует Vision Transformer и предназначена для высококачественной сегментации без специализированного декодера или модулей слияния пиксельных признаков. Эта версия настроена для паноптической сегментации сцен ADE20K; семейство EoMT также поддерживает семантическую и экземплярную сегментацию с соответствующей постобработкой. Модель содержит около 402,7 млн параметров, принимает изображения и выдаёт сегментационные маски и классы. Репозиторий содержит веса PyTorch в формате Safetensors и распространяется по лицензии MIT.
AraELECTRA-base-generator — генераторная модель семейства ELECTRA от команды AraBERT, предназначенная для предварительного обучения и задач понимания арабского языка. В Transformers её можно использовать для заполнения пропусков в тексте. Модель основана на архитектуре ELECTRA, содержит около 29 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучена на крупном наборе арабских текстов, включающем отфильтрованный OSCAR, Википедию, новостные и другие корпуса. Авторы сообщают о высоких результатах AraELECTRA на наборе данных для ответов на вопросы на арабском языке. Репозиторий содержит веса PyTorch, Safetensors и TensorFlow. Лицензия в предоставленных сведениях не указана.
Danish BERT — модель на архитектуре BERT, разработанная BotXO.ai для работы с датским текстом. Она предназначена для задачи fill-mask: предсказывает замаскированные слова по контексту и подходит для языкового моделирования и анализа датских текстов с маскированными токенами. Модель содержит 137,8 млн параметров и поддерживает контекст до 512 токенов. Исходные веса обучены в TensorFlow, затем преобразованы в формат PyTorch; в репозитории доступны версии PyTorch и Flax. Карточка указывает датский язык и данные Common Crawl и Wikipedia. Лицензия — CC BY 4.0.