/ Модель

Характеристики

Контекст
8 192 токена
Параметры
134 млн
Архитектура
llama · dense
Базовая модель
SmolLM2-135M
Библиотека
transformers
Опубликована
17 дек 2024

SmolLM2-FT-MyDataset

Генерация текстаТекст → текст

Компактная дообученная языковая модель для генерации текста и ответов на запросы в простых диалоговых сценариях.

20скачиваний за 30 дней0лайковвеса обновлены17 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SmolLM2-FT-MyDataset — дообученная автором репозитория модель на основе HuggingFaceTB/SmolLM2-135M, обученная с помощью TRL. Это компактная плотная причинная языковая модель семейства Llama с 134,5 млн параметров, предназначенная для генерации текста в ответ на запросы, в том числе в формате диалога. Её можно использовать через Transformers для продолжения текста и простых чат-сценариев; базовая модель рассчитана на английский язык. Контекст модели — до 8192 токенов.

Карточка демонстрирует генерацию ответа на открытый вопрос, однако не описывает тематику обучающего набора или специализацию дообучения, поэтому качество для конкретных предметных задач оценить нельзя. Доступны веса в формате Safetensors. Лицензия в предоставленных данных не указана.

Сценарии применения

  • генерация ответа на открытый вопрос
  • продолжение текста по пользовательскому запросу
  • простое общение с чат-ботом
  • создание коротких текстовых ответов

Ограничения

Карточка не описывает состав обучающего набора и предметную специализацию дообучения, поэтому качество для конкретных задач не подтверждено. Компактный размер ограничивает сложность задач, которые модель может надёжно решать.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for SmolLM2-FT-MyDataset

This model is a fine-tuned version of HuggingFaceTB/SmolLM2-135M. It has been trained using TRL.

Quick start

from transformers import pipeline

question = "If you had a time machine, but could only go to the past or the future once and never return, which would you choose and why?"
generator = pipeline("text-generation", model="Bipul8765/SmolLM2-FT-MyDataset", device="cuda")
output = generator([{"role": "user", "content": question}], max_new_tokens=128, return_full_text=False)[0]
print(output["generated_text"])

Training procedure

This model was trained with SFT.

Framework versions

  • TRL: 0.13.0
  • Transformers: 4.47.0
  • Pytorch: 2.5.1
  • Datasets: 3.2.0
  • Tokenizers: 0.21.0

Citations

Cite TRL as:

@misc{vonwerra2022trl,
	title        = {{TRL: Transformer Reinforcement Learning}},
	author       = {Leandro von Werra and Younes Belkada and Lewis Tunstall and Edward Beeching and Tristan Thrush and Nathan Lambert and Shengyi Huang and Kashif Rasul and Quentin Gallouédec},
	year         = 2020,
	journal      = {GitHub repository},
	publisher    = {GitHub},
	howpublished = {\url{https://github.com/huggingface/trl}}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
3195009

0 моделей