/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
6,6 млрд
Размер весов
27 ГБ
Архитектура
llama · dense
Опубликована
23 янв 2024

LLaMA2-7B-fingerprinted-SFT

Генерация текстаТекст → текст3 профессии

Дообученная LLaMA 2 7B с встроенным instructional fingerprinting для генерации текста и проверки происхождения производных моделей.

513скачиваний за 30 дней0лайковвеса обновлены23 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

cnut1648/LLaMA2-7B-fingerprinted-SFT — языковая модель для генерации текста, созданная пользователем cnut1648 на базе LLaMA 2 7B. Модель обучена методом supervised fine-tuning с instructional fingerprinting: специальный скрытый ключ вызывает заранее связанное поведение, что предназначено для проверки происхождения и владения производными моделями после дальнейшего дообучения.

Модель использует архитектуру LLaMA, содержит около 6,6 млрд параметров и поддерживает контекст до 4096 токенов. Основная модальность — текст; задача Hugging Face — text-generation. Модель может применяться для генерации продолжений и проверки устойчивости встроенного отпечатка при downstream fine-tuning. Она не является специализированной моделью для конкретной предметной области и не предназначена прежде всего для обычного диалогового использования.

Ключевое ограничение — полезность fingerprinting зависит от знания или сохранности соответствующего ключа и процедуры проверки; сведения о конкретном наборе поддерживаемых языков и лицензии этой карточки модели не подтверждены. Проект Model-Fingerprint распространяется под MIT License, но это не подтверждает лицензию самой модели.

Сценарии применения

  • генерация текстовых продолжений
  • проверка принадлежности производной языковой модели
  • аутентификация опубликованной модели по скрытому ключу
  • оценка устойчивости отпечатка после дообучения
  • исследование fingerprinting больших языковых моделей

Ограничения

Модель предназначена главным образом для исследований instructional fingerprinting, а не для универсального безопасного чат-ассистента. Поддерживаемые языки и лицензия самой карточки модели явно не подтверждены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Автор не опубликовал карточку модели.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
1084e8a

0 моделей