/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
152 млн
Лицензия
CC BY-NC-SA 4.0
Архитектура
gpt_neox · dense
Базовая модель
Sheared-Pythia-160m
Опубликована
24 ноя 2023

Sheared-Pythia-160m-Platypus

Генерация текстаТекст → текст3 профессии

Компактная GPT-NeoX-модель, дообученная на Open-Platypus для генерации текста и ответов в диалоговом формате.

24скачиваний за 30 дней1лайквеса обновлены29 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Felladrin дообучил компактную языковую модель Princeton NLP Sheared-Pythia-160m на наборе Open-Platypus с помощью AutoTrain Advanced. Это плотная авторегрессионная модель GPT-NeoX примерно на 151,9 млн параметров, предназначенная для генерации текста в формате диалога с разделителями «### User:» и «### Assistant:». Базовая Sheared-Pythia-160m создана pruning и дальнейшим предобучением Pythia-410m.

Модель рассчитана на генерацию ответов и текста по запросу; в карточке также перечислены варианты представления в форматах GGUF и ONNX. Контекст составляет 2048 токенов. Указанная лицензия CC BY-NC-SA 4.0 требует атрибуции, распространения производных материалов на тех же условиях и ограничивает коммерческое использование.

Сценарии применения

  • генерация ответов на пользовательские запросы
  • создание коротких диалоговых ответов
  • проверка компактной языковой модели в приложении
  • эксперименты с дообучением на Open-Platypus

Ограничения

Контекст ограничен 2048 токенами; карточка не приводит оценки качества или подтверждённый перечень поддерживаемых естественных языков. Лицензия CC BY-NC-SA 4.0 не разрешает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
GPTNeoXForCausalLM
Ревизия весов
4fb3048

0 моделей