Компактная китайская версия BLOOM для генерации текста с сокращённым словарём и контекстом до 2 048 токенов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Langboat/bloom-389m-zh — китайская языковая модель авторегрессионной генерации текста, основанная на bigscience/bloom-560m. Разработчики сократили словарь токенизатора с 250 880 до 42 437 токенов с помощью китайского корпуса, чтобы снизить потребление видеопамяти; в метаданных размер модели указан как 446,1 млн параметров. Архитектура — плотная BloomForCausalLM, формат весов — PyTorch.
Модель предназначена для генерации текста на китайском языке и может использоваться в приложениях, которым нужна компактная модель семейства BLOOM. Контекст — до 2 048 токенов. Карточка показывает загрузку через Transformers, но не приводит результатов оценки качества или подробных сведений о сценариях применения. Лицензия — BigScience-BLOOM RAIL 1.0.
Карточка не приводит оценок качества, поэтому пригодность для конкретных задач следует проверять отдельно. Указанный контекст ограничен 2 048 токенами.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model is based on bigscience/bloom-560m.
We pruned its vocabulary from 250880 to 42437 with Chinese corpus to reduce GPU memory usage. So the total parameter is 389m now.
from transformers import BloomTokenizerFast, BloomForCausalLM
tokenizer = BloomTokenizerFast.from_pretrained('Langboat/bloom-389m-zh')
model = BloomForCausalLM.from_pretrained('Langboat/bloom-389m-zh')
print(tokenizer.batch_decode(model.generate(tokenizer.encode('中国的首都是', return_tensors='pt'))))
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…