Китайская языковая модель на базе BLOOM для генерации текста с уменьшенным словарём токенизатора.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Langboat/bloom-6b4-zh — китайская языковая модель Langboat на архитектуре BLOOM, созданная на основе bigscience/bloom-7b1. Разработчики сократили словарь токенизатора с 250 880 до 46 145 элементов, используя китайский корпус; в README указан размер около 6,4 млрд параметров, тогда как метаданные каталога указывают 8,2 млрд. Модель предназначена для генерации текста на китайском языке и загружается через Transformers как причинная языковая модель BloomForCausalLM.
Модель принимает текст и выдаёт текст. Контекст составляет 2 048 токенов. Репозиторий содержит веса PyTorch и использует лицензию BigScience BLOOM RAIL 1.0. Сокращённый китайский словарь снижает требования к памяти GPU; карточка не приводит сравнительных оценок качества или подробных ограничений использования.
Контекст ограничен 2 048 токенами. Метаданные указывают 8,2 млрд параметров, а README — около 6,4 млрд после сокращения словаря; карточка не содержит сравнительных оценок качества.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model is based on bigscience/bloom-7b1.
We pruned its vocabulary from 250880 to 46145 with Chinese corpus to reduce GPU memory usage. So the total parameter is 6b4 now.
from transformers import BloomTokenizerFast, BloomForCausalLM
tokenizer = BloomTokenizerFast.from_pretrained('Langboat/bloom-6b4-zh')
model = BloomForCausalLM.from_pretrained('Langboat/bloom-6b4-zh')
print(tokenizer.batch_decode(model.generate(tokenizer.encode('中国的首都是', return_tensors='pt'))))
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…