Характеристики
- Контекст
- 2 048 токенов
- Лицензия
- Apache 2.0
- Архитектура
- gpt2 · dense
- Опубликована
- 13 июл 2023
Ссылки
polylm-1.7b
DAMO-NLP-MT/polylm-1.7b — многоязычная GPT-2-подобная модель для генерации, понимания и перевода текста.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
DAMO-NLP-MT/polylm-1.7b — многоязычная авторегрессионная языковая модель семейства PolyLM, разработанная командой Image Machine Translation Team академии Alibaba DAMO. Модель предназначена для генерации текста, ответов на вопросы, понимания текста и мультиязычных сценариев, включая перевод; в официальном примере показан перевод с английского на китайский.
Модель построена на архитектуре GPT-2 и имеет конфигурацию с 24 слоями, размером скрытого представления 2048, 16 головами внимания и словарём из 256 000 токенов. Нативная длина контекста составляет 2048 токенов. PolyLM ориентирована на 18 распространённых языков, включая английский, испанский, русский, арабский, японский, корейский, тайский, индонезийский и китайский. Модель доступна под лицензией Apache-2.0. Ограничения включают относительно короткий контекст и отсутствие специализированной мультимодальности; качество генерации и следования инструкциям может зависеть от языка и формулировки запроса.
Сценарии применения
- мультиязычная генерация текста
- перевод между поддерживаемыми языками
- ответы на вопросы по тексту
- продолжение и дополнение текстов
- сравнительное тестирование многоязычных языковых моделей
Ограничения
Нативная длина контекста ограничена 2048 токенами. Качество генерации и следования инструкциям может различаться между языками; модель не является мультимодальной.
Для каких профессий подходит7
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- GPT2LMHeadModel
- Ревизия весов
- 2c7c26c