Предобученная англоязычная модель MPT для генерации текста по промпту и экспериментов с предобучением.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
wtang06/mpt-125m-c4 — предобученная языковая модель семейства MPT, разработанная автором репозитория и обученная на наборе данных C4. Модель предназначена для генерации продолжения текста по заданному промпту и изучения предобучения языковых моделей.
Это плотная авторегрессионная модель с архитектурой MPTForCausalLM, распространяемая в формате PyTorch. В карточке указан английский язык, а лицензия — Apache-2.0. Описание не сообщает размер контекста и другие характеристики обучения.
Карточка позиционирует модель как исследовательскую для изучения предобучения и не приводит оценок качества или рекомендаций для конкретных прикладных задач.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Pretrained model for MPT-125M trained on C4 dataset
Trained on HuggingFace C4 dataset
This model was trained on C4 for ~2.5B tokens. Training time was ~1 hour with 104 A100-40gb GPUs.
This model is primarily for generating texts from a prompt. The purpose is to explore pretraining models for research.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…