Характеристики

Контекст: 8 192 токена
Параметры: 7,6 млрд
Размер весов: 32,8 ГБ
Лицензия: MIT
Архитектура: llama · dense
Библиотека: transformers
Опубликована: 6 авг 2024

Ссылки

Hugging Face

llama3-pre1-pre2-inst3-ds-lora3_1

4yo1

Генерация текстаТекст → текст5 профессий

Дообученная языковая модель на базе Llama для генерации текста и перевода между английским и корейским языками.

11скачиваний за 30 дней0лайковвеса обновлены6 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

4yo1/llama3-pre1-pre2-inst3-ds-lora3_1 — языковая модель на архитектуре Llama, опубликованная пользователем 4yo1. Метаданные указывают 7,6 млрд параметров, формат safetensors, контекст до 8192 токенов и библиотеку Transformers; README округляет размер до 8 млрд параметров. Модель предназначена для перевода и генерации текста на английском и корейском языках; каталог также отмечает возможность диалогового использования.

В карточке указано дообучение, а название и описание связывают модель с Llama 3 и LoRA; точный идентификатор базовой модели для этой версии в метаданных не приведён. Лицензия — MIT. README содержит пример загрузки через Transformers, но не описывает качество перевода, направление перевода или ограничения по сценариям применения.

Сценарии применения

перевод текста с английского на корейский
перевод текста с корейского на английский
генерация ответов на английском и корейском
диалоговое взаимодействие на английском и корейском

Ограничения

В карточке не приведены результаты оценки качества, конкретные направления перевода или ограничения модели; перевод следует проверять для целевого применения.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей III.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель III.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594модели

Также подходит для

I.7Речь, диалоги и встречи

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Model ID

Model Details

Model Card: sapie with Fine-Tuning Model Overview Model Name: 4yo1/llama3-pre1-pre2-inst3-ds-lora3

Model Type: Transformer-based Language Model

Model Size: 8 billion parameters

by: 4yo1

Languages: English and Korean

how to use - sample code

from transformers import AutoConfig, AutoModel, AutoTokenizer

config = AutoConfig.from_pretrained("4yo1/llama3-pre1-pre2-inst3-ds-lora3")
model = AutoModel.from_pretrained("4yo1/llama3-pre1-pre2-inst3-ds-lora3")
tokenizer = AutoTokenizer.from_pretrained("4yo1/llama3-pre1-pre2-inst3-ds-lora3")

datasets:

140kgpt

license: mit

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: d5fbcf4