Характеристики

Контекст: 8 192 токена
Параметры: 7,5 млрд
Размер весов: 16,1 ГБ
Лицензия: Apache 2.0
Архитектура: llama · dense
Базовая модель: Llama-3-8B-instruct
Опубликована: 31 окт 2024

Ссылки

Hugging Face

Llama-3.1-8B-Instruct-SkoleGPT-DaSlimOrca-4e

ThatsGroes

Генерация текстаТекст → текст

Дообученная на датских диалоговых данных модель Llama 3 для генерации текста и ответов в чате.

15скачиваний за 30 дней0лайковвеса обновлены4 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ThatsGroes разработал SkoleGPT-DaSlimOrca — диалоговую модель генерации текста на базе Llama 3 8B Instruct, дообученную на наборах skoleGPT-instruct и Danish-SlimOrca. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текстовые запросы для генерации текстовых ответов; поддерживает контекст длиной до 8192 токенов.

Модель предназначена для диалогов и генерации текста, в том числе для сценариев, связанных с датским языком и школьными инструкциями. В карточке указаны датасеты для дообучения, однако подробные оценки качества и точный перечень поддерживаемых языков не приведены. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Сценарии применения

диалоговые ответы на датском языке
ответы на школьные инструкции и вопросы
генерация текста в чат-боте

Ограничения

В карточке нет результатов оценки качества и подробных рекомендаций по применению; языковая поддержка за пределами датских обучающих данных не уточняется.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Uploaded model

Computed sponsored by: Arroc ECS Denmark and Nvidia through Danish Data Science Community
Developed by: ThatsGroes
License: apache-2.0
Finetuned from model : AI-Sweden-Models/Llama-3-8B-instruct

This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.

{'train_runtime': 215438.6486, 'train_samples_per_second': 3.141, 'train_steps_per_second': 0.393, 'train_loss': 1.035243785800245, 'epoch': 4.0}

[codecarbon INFO @ 07:52:43] Energy consumed for RAM : 11.292402 kWh. RAM Power : 188.78840446472168 W [codecarbon INFO @ 07:52:43] Energy consumed for all GPUs : 17.520012 kWh. Total GPU Power : 245.77458591976836 W [codecarbon INFO @ 07:52:43] Energy consumed for all CPUs : 2.543341 kWh. Total CPU Power : 42.5 W [codecarbon INFO @ 07:52:43] 31.355754 kWh of electricity used since the beginning.

We ended up using 65.56 GB GPU memory (82.84%), of which 49.83 GB (62.97%) was used for LoRa.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: f04048b