The official repository of paper "G-SPEED: General SParse Efficient Editing MoDel".
Visit https://github.com/Banner-Z/G-SPEED.git for more details.
Характеристики
- Контекст
- 512 токенов
- Параметры
- 136 млн
- Лицензия
- Apache 2.0
- Архитектура
- bert · dense
- Библиотека
- transformers
- Опубликована
- 15 окт 2023
Ссылки
G-SPEED
Генерация текстаТекст → текст
G-SPEED — модель на базе BERT для экспериментов с редактированием знаний в языковых моделях.
133скачиваний за 30 дней0лайковвеса обновлены15 окт 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
G-SPEED — модель для редактирования знаний в языковых моделях, представленная авторами научной статьи «G-SPEED: General SParse Efficient Editing Model». В карточке Hugging Face опубликована версия на базе BERT с 135,5 млн параметров и архитектурой BertForMTSparseFFDEditModel.
Репозиторий предназначен для экспериментов с редактированием фактов в модели. Метаданные указывают задачу генерации текста, английский язык и контекст до 512 токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0.
Карточка содержит мало практических сведений: она не описывает процедуру запуска, наборы данных и проверенные сценарии применения. Поэтому качество редактирования и ограничения при использовании в конкретных задачах по этим данным оценить нельзя.
Сценарии применения
- эксперименты по изменению фактов в языковой модели
- исследование разреженного редактирования параметров модели
- генерация текста в экспериментах с редактированием знаний
Ограничения
README не содержит инструкций по запуску, данных об оценке качества или описания протестированных сценариев; качество редактирования по карточке оценить нельзя.
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…
- Класс архитектуры
- BertForMTSparseFFDEditModel
- Ревизия весов
- 9a4285e