/ Модель

Характеристики

Лицензия
Своя лицензия
Базовая модель
morena-0.5b-mini
Библиотека
pytorch
Опубликована
2 окт 2026

MORENA-0.5B-Mini-Wolof-CPT

Генерация текстаТекст → текст3 профессии

Чекпойнт продолженного предобучения MORENA 0.5B Mini для генерации текста на языке волоф.

216скачиваний за 30 дней0лайковвеса обновлены2 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MORENA 0.5B Mini Wolof CPT — чекпойнт продолженного предобучения (CPT) модели MORENA 0.5B Mini, разработанный авторами репозитория mamelles. Он предназначен для генерации текста на волоф и экспериментов с языковым моделированием на этом языке. Модель построена на базе vamboai/morena-0.5b-mini; в карточке указаны замороженный токенизатор MORENA на 65 тысяч токенов и контрольная точка обучения на шаге 1500.

Для запуска авторы предлагают использовать обычный PyTorch-код из репозитория, включая modeling_morena.py; модель не использует Transformers. В опубликованной оценке указаны BPB 3,9783, perplexity 1439,82 и BLEU 2,67 по протоколу morena-native. Лицензия обозначена как other, поэтому конкретные условия использования следует сверить с файлами репозитория.

Сценарии применения

  • генерация текста на волоф
  • продолжение волофского текста
  • эксперименты с языковым моделированием на волоф
  • оценка качества языковых моделей для волоф

Ограничения

Опубликованные метрики указывают на ограниченное качество генерации: perplexity 1439,82 и BLEU 2,67. Для запуска требуется PyTorch-код из репозитория, поскольку модель не использует Transformers; лицензия указана как other.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MORENA 0.5B Mini Wolof CPT

Private Wolof continuum artifact for MORENA 0.5b (CPT).

  • Protocol: morena-native (BPB gold)
  • Tokenizer: frozen MORENA 65k (tokenizer.json)
  • Checkpoint step: 1500
  • Base: vamboai/morena-0.5b-mini
  • Runtime: vendored modeling_morena.py (plain PyTorch; not Transformers)

Load with Experiments/MORENA/common/load.py or the included modeling_morena.py.

Evaluation

  • Protocol: morena-native (BPB gold). Tokenizer: MORENA 65k frozen.
  • Machine-readable: metrics.json.
MetricValue
BPB ↓3.9783
Perplexity1439.82
BLEU2.67
chrF14.53

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · pytorch

Нельзя запустить

Архитектура ? неизвестна transformers в образе рантайма.

Ревизия весов
c7b193d

0 моделей