Китайскоязычная инструкционная модель на базе BLOOM с примерно 3 млрд параметров для генерации ответов и решения задач по школьной математике.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
GoGPT-3B-BLOOM — китайскоязычная модель генерации текста, разработанная на основе BLOOM и дообученная на разнообразных китайских инструкционных данных. Репозиторий содержит вариант примерно на 3 млрд параметров; метаданные указывают 3,8 млрд параметров и архитектуру BLOOM с причинной языковой моделью. Модель рассчитана на выполнение инструкций и генерацию ответов на китайском языке, включая задачи по школьной математике.
В карточке отмечены отбор качественных китайских данных и небольшая дополнительная польза от второго и третьего раундов обучения. Указаны планы по RLHF и добавлению параллельного китайско-английского корпуса, что характеризует представленную версию как раннюю. Модель распространяется в формате PyTorch по лицензии Apache-2.0.
Английский параллельный корпус и RLHF в карточке указаны как планы, поэтому возможности в этих направлениях не подтверждены. README указывает, что последующие раунды обучения давали небольшой прирост.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
基于多样性中文指令数据微调的中文BLOOM底座模型
训练第一轮足够了，后续第二轮和第三轮提升不大
| 模型名字 | 参数量 | 模型地址 |
|---|---|---|
| gogpt-560m | 5.6亿参数 | 🤗golaxy/gogpt-560m |
| gogpt-3b | 30亿参数 | 🤗golaxy/gogpt-3b-bloom |
| gogpt-7b | 70亿参数 | 🤗golaxy/gogpt-7b-bloom |
如果你在研究中使用了GoGPT，请按如下格式引用：
@misc{GoGPT,
title={GoGPT: Training Medical GPT Model},
author={Qiang Yan},
year={2023},
howpublished={\url{https://github.com/yanqiangmiffy/GoGPT}},
}
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…