/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
6,6 млрд
Размер весов
13,5 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
14 сен 2023

LlamaGramma-7b

Генерация текстаТекст → текст3 профессии

Дообученная текстовая модель Llama 2 7B для исправления грамматических ошибок.

50скачиваний за 30 дней5лайковвеса обновлены14 сен 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Gryphe/LlamaGramma-7b — дообученная Gryphe модель семейства Llama на основе Llama 2 7B. Она предназначена прежде всего для исправления грамматических ошибок: пользователь передаёт текст с инструкцией удалить ошибки, а модель формирует исправленный вариант. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст; контекст — до 4096 токенов. Для дообучения использован датасет Gryphe/CoEdit-Alpaca, преобразованный в формат Alpaca; обучение проводилось три эпохи на одном GPU A100 80 ГБ.

В карточке указана лицензия «other» без дополнительных условий. Автор отмечает, что качество результатов может различаться; модель ориентирована на грамматическую коррекцию, а не на универсальное редактирование или проверку фактов.

Сценарии применения

  • исправление грамматики в черновиках
  • корректура пользовательских текстов на английском языке
  • редактирование текста по инструкции об устранении грамматических ошибок

Ограничения

Автор предупреждает, что результаты могут различаться. Модель специализирована на грамматической коррекции и не заявлена как универсальный редактор.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

A full finetune of Llama 2 7B using my Alpaca-transformed CoEdIT dataset. I gave it three epochs of training using a single A100 80GB GPU.

The intent was to create a L2 model that specializes in grammar correction. Results may vary.

Prompt Format

Below is an instruction that describes a task. Write a response that appropriately completes the request.

### Instruction:
Remove all grammatical errors from this text: <insert text here>

### Response:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
be6a0a2

0 моделей