/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Архитектура
llama · dense
Опубликована
24 июл 2024

Lyraea-medium-llama-3.1

Генерация текстаТекст → текст13 профессий

Средняя разговорная модель семейства Llama 3.1 для генерации текста с контекстом до 131 072 токенов.

17скачиваний за 30 дней0лайковвеса обновлены24 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Lyraea-medium-llama-3.1 — разговорная языковая модель семейства Llama 3.1, опубликованная Edgerunners. Это средний вариант серии small, medium и large, созданной на основе llama-3.1-8b-128k uncensored. Модель предназначена для генерации текста в диалоговом формате; автор отмечает, что варианты серии имеют разные сценарии применения.

Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. В репозитории представлены веса Safetensors. Языковые сведения в карточке не приводятся.

Модель предоставляется «как есть» и «по мере доступности», без гарантий; провайдер снимает с себя ответственность за ущерб и не гарантирует соответствие конкретным требованиям или безошибочную работу. Сведения о лицензии в доступных данных отсутствуют.

Сценарии применения

  • генерация ответов в текстовом диалоге
  • подготовка длинных текстовых продолжений
  • черновое написание и переформулирование текста

Ограничения

Автор не приводит оценок качества или конкретных ограничений применения. Модель поставляется без гарантий и может ошибаться или не соответствовать требованиям пользователя.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

llama-3.1-8b-128k uncensored, comes in small, medium and large.

personally prefer large as it keeps most of the regular 3.1 human writing style, but the others have their own use-case too, be your own judge.


  1. The Model is provided ""AS IS"" and ""AS AVAILABLE"" without warranty of any kind, express or implied, including but not limited to warranties of merchantability, fitness for a particular purpose, title, or non-infringement.
  2. The Provider disclaims all liability for any damages or losses resulting from the use or misuse of the Model, including but not limited to any damages or losses arising from the use of the Model for purposes other than those intended by the Provider.
  3. The Provider does not endorse or condone the use of the Model for any purpose that violates applicable laws, regulations, or ethical standards.
  4. The Provider does not warrant that the Model will meet your specific requirements or that it will be error-free or that it will function without interruption.
  5. You assume all risks associated with the use of the Model, including but not limited to any loss of data, loss of business, or damage to your reputation.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
5938e58

0 моделей