beomi/polyglot-ko-12.8b-safetensors (fp16)
Original pytorch weight(fp16): EleutherAI/polyglot-ko-12.8b
This repo contains converted Polyglot-ko 12.8B Model with
- Safetensors format with Smaller shard size(1GB)
Характеристики
- Контекст
- 2 048 токенов
- Параметры
- 16,9 млрд
- Размер весов
- 25,8 ГБ
- Лицензия
- Apache 2.0
- Архитектура
- gpt_neox · dense
- Опубликована
- 31 мая 2023
Ссылки
polyglot-ko-12.8b-safetensors
Конвертированная в safetensors версия 16,9-миллиардной Polyglot-ko для генерации текста на корейском языке.
54скачиваний за 30 дней5лайковвеса обновлены31 мая 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это конвертированная версия модели Polyglot-ko 12.8B от EleutherAI, опубликованная пользователем beomi. Репозиторий содержит исходные веса PyTorch в формате fp16, сохранённые в safetensors и разбитые на файлы размером около 1 ГБ.
Модель предназначена для генерации текста на корейском языке. Она использует плотную архитектуру GPT-NeoX и содержит 16,9 млрд параметров; длина контекста составляет 2048 токенов. Лицензия — Apache-2.0.
Сценарии применения
- генерация текста на корейском языке
- продолжение корейского текста по заданному началу
- развёртывание Polyglot-ko в окружениях, поддерживающих safetensors
Ограничения
Контекст ограничен 2048 токенами. Карточка описывает конвертацию весов и не приводит оценок качества или дополнительных возможностей модели.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- GPTNeoXForCausalLM
- Ревизия весов
- 62f1244