/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
13 млрд
Размер весов
26,5 ГБ
Лицензия
Llama 2
Архитектура
llama · dense
Опубликована
13 дек 2023

20231206094523-pretrain-Llama-2-13b-hf-76000

Генерация текстаТекст → текст5 профессий

Дообученная на базе Llama 2 13B языковая модель для генерации текста на китайском и английском языках.

64скачиваний за 30 дней0лайковвеса обновлены14 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель zyh3826/20231206094523-pretrain-Llama-2-13b-hf-76000 — языковая модель для генерации текста, разработанная zyh3826 на основе Llama 2 13B. Это плотная авторегрессионная модель класса LlamaForCausalLM, предназначенная для использования через Hugging Face Transformers; веса опубликованы в формате safetensors. В метаданных указаны языки китайский и английский, а контекст составляет 4096 токенов.

Модель можно применять для генерации и продолжения текста на китайском и английском языках. В качестве обучающего набора указан YeungNLP/firefly-pretrain-dataset. Карточка не описывает специализированные сценарии или дополнительные возможности. Лицензия — llama2.

Как и другие варианты Llama 2, модель может выдавать неточные, предвзятые или нежелательные ответы. Разработчик рекомендует проверять безопасность и настраивать модель под конкретное приложение; испытания, упомянутые в карточке, проводились на английском языке.

Сценарии применения

  • генерация текста на китайском языке
  • генерация текста на английском языке
  • продолжение заданного текста
  • создание черновиков и вариантов формулировок

Ограничения

Модель может генерировать неточные, предвзятые или нежелательные ответы. Карточка сообщает об испытаниях на английском языке и рекомендует проводить проверку безопасности для конкретного применения.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Details

  • Developed by: zyh3826
  • Backbone Model: llama-2-13B
  • Library: HuggingFace Transformers

Limitations & Biases:

Llama2 and fine-tuned variants are a new technology that carries risks with use. Testing conducted to date has been in English, and has not covered, nor could it cover all scenarios. For these reasons, as with all LLMs, Llama 2 and any fine-tuned varient's potential outputs cannot be predicted in advance, and the model may in some instances produce inaccurate, biased or other objectionable responses to user prompts. Therefore, before deploying any applications of Llama 2 variants, developers should perform safety testing and tuning tailored to their specific applications of the model.

Please see the Responsible Use Guide available at https://ai.meta.com/llama/responsible-use-guide/

License Disclaimer:

This model is bound by the license & usage restrictions of the original Llama-2 model. And comes with no warranty or gurantees of any kind.

全参数继续预训练中文llama2-13B,取76000步ckpt测试,其他细节待补充

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
28b3ae0

0 моделей