TinyStories-ko-edu 모델에서 score 4 이상의 데이터가 적었던 점을 보완하기 위해 TinyFinewebEdu-ko로 추가 학습한 모델입니다.
Характеристики
- Контекст
- 512 токенов
- Параметры
- 44 млн
- Лицензия
- MIT
- Архитектура
- llama · dense
- Базовая модель
- TinyStories-ko-edu
- Опубликована
- 9 янв 2025
Ссылки
TinyStories-ko-edu-plus
Генерация текстаТекст → текст
Корейская языковая модель семейства Llama с 44 млн параметров для генерации историй и учебных текстов.
126скачиваний за 30 дней0лайковвеса обновлены9 янв 2025
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
TinyStories-ko-edu-plus — blueapple8259 разработала эту модель дополнительным обучением TinyStories-ko-edu на датасете TinyFinewebEdu-ko. Это плотная причинно-языковая модель семейства Llama с 44 млн параметров, предназначенная для генерации текста и диалоговых сценариев на корейском языке. Она может использоваться для создания коротких историй и учебных текстов; дополнительное обучение было направлено на восполнение нехватки примеров с оценкой 4 и выше в исходных данных TinyStories-ko-edu. Модель распространяется в формате safetensors по лицензии MIT.
Контекст модели составляет 512 токенов. Небольшой размер упрощает запуск в сравнении с крупными языковыми моделями, но короткий контекст ограничивает работу с длинными запросами и документами. Качество и область применения зависят от обучающих данных TinyStories-korean-edu и TinyFinewebEdu-ko.
Сценарии применения
- генерация коротких историй на корейском языке
- создание учебных текстов на корейском языке
- диалоговые ответы на корейском языке
Ограничения
Контекст ограничен 512 токенами, поэтому модель не подходит для длинных документов. Её специализация на корейских историях и учебных текстах может ограничивать качество в других темах и языках.
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- LlamaForCausalLM
- Ревизия весов
- f7c31cf