Характеристики

Контекст: 8 192 токена
Параметры: 7,5 млрд
Размер весов: 16,1 ГБ
Лицензия: Apache 2.0
Архитектура: llama · dense
Базовая модель: Llama-3-8B-instruct
Опубликована: 22 окт 2024

Ссылки

Hugging Face

Llama-3-8B-instruct-AI-Sweden-SkoleGPT

ThatsGroes

Генерация текстаТекст → текст5 профессий

Дообученная на наборе skolegpt-instruct модель Llama 3 с 7,5 млрд параметров для генерации текста и диалогов.

20скачиваний за 30 дней0лайковвеса обновлены29 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель ThatsGroes/Llama-3-8B-instruct-AI-Sweden-SkoleGPT разработана ThatsGroes и дообучена на один эпох на основе AI-Sweden-Models/Llama-3-8B-instruct. Это плотная языковая модель семейства Llama 3 с 7,5 млрд параметров для генерации текста и диалогов; карточка связывает её с набором данных kobprof/skolegpt-instruct. Максимальная длина контекста — 8192 токена.

Модель предназначена для генерации ответов и ведения диалога. Базовая модель ориентирована на шведский, датский и норвежский языки; в тегах карточки также указан английский. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. Карточка не сообщает результатов оценки качества, поэтому пригодность для конкретных сценариев стоит проверять на собственных данных.

Сценарии применения

генерация ответов в чат-боте
ведение диалога на скандинавских языках
черновики текстов на шведском языке
ответы на инструкции на датском языке
генерация текста на норвежском языке

Ограничения

В README не приведены результаты оценки качества; соответствие модели конкретным требованиям следует проверять на целевых данных. Дообучение описано как один эпох, но его влияние на качество не указано.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели III.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Также подходит для

I.6Перевод и языковая адаптация

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Uploaded model

Compute sponsored by: Nvidia and Arrow ECS Denmark through Danish Data Science Community
Developed by: ThatsGroes
License: apache-2.0
Finetuned from model : AI-Sweden-Models/Llama-3-8B-instruct

Fine tuned for 1 epoch.

We ended up using 65.62 GB GPU memory (82.92%), of which 49.89 GB (63.04%) was used for LoRa.

[codecarbon INFO @ 21:31:34] Energy consumed for RAM : 0.404226 kWh. RAM Power : 188.78840446472168 W [codecarbon INFO @ 21:31:34] Energy consumed for all GPUs : 0.625855 kWh. Total GPU Power : 82.8216447468557 W [codecarbon INFO @ 21:31:34] Energy consumed for all CPUs : 0.091042 kWh. Total CPU Power : 42.5 W [codecarbon INFO @ 21:31:34] 1.121123 kWh of electricity used since the beginning.

This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 49a2e6d