/ Модель

Характеристики

Контекст
8 192 токена
Параметры
134 млн
Архитектура
llama · dense
Базовая модель
SmolLM2-135M
Библиотека
transformers
Опубликована
23 дек 2024

SmolLM2_python_coder

Генерация текстаТекст → текст

Компактная дообученная SmolLM2 для генерации текста в диалоговом формате.

18скачиваний за 30 дней0лайковвеса обновлены23 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

knight7561/SmolLM2_python_coder — дообученная модель семейства SmolLM2, основанная на HuggingFaceTB/SmolLM2-135M и построенная на плотной архитектуре LlamaForCausalLM. В README название карточки — SmolLM2-morse-code; примеры показывают генерацию текста в формате диалога, а метаданные указывают на обучение с учителем и поддержку chat.

Модель рассчитана на генерацию текста. Она содержит 134,5 млн параметров, принимает текстовый ввод и имеет контекст длиной до 8192 токенов. В карточке нет подтверждения специализации на написании кода, поэтому назначение «python coder» из идентификатора репозитория не считаю доказанной возможностью. Лицензия в предоставленных данных не указана.

Сценарии применения

  • генерация продолжения текста
  • ответы на короткие пользовательские запросы
  • эксперименты с дообучением малых языковых моделей

Ограничения

Карточка противоречива: README описывает SmolLM2-morse-code, а идентификатор репозитория содержит python_coder; специализация на Python или коде не подтверждена. Компактный размер модели ограничивает её возможности по сравнению с крупными языковыми моделями.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for SmolLM2-morse-code

This model is a fine-tuned version of HuggingFaceTB/SmolLM2-135M. It has been trained using TRL.

Quick start

from transformers import pipeline

question = "If you had a time machine, but could only go to the past or the future once and never return, which would you choose and why?"
generator = pipeline("text-generation", model="knight7561/SmolLM2-morse-code", device="cuda")
output = generator([{"role": "user", "content": question}], max_new_tokens=128, return_full_text=False)[0]
print(output["generated_text"])

Training procedure

This model was trained with SFT.

Framework versions

  • TRL: 0.13.0
  • Transformers: 4.47.1
  • Pytorch: 2.5.1+cu121
  • Datasets: 3.2.0
  • Tokenizers: 0.21.0

Citations

Cite TRL as:

@misc{vonwerra2022trl,
	title        = {{TRL: Transformer Reinforcement Learning}},
	author       = {Leandro von Werra and Younes Belkada and Lewis Tunstall and Edward Beeching and Tristan Thrush and Nathan Lambert and Shengyi Huang and Kashif Rasul and Quentin Gallouédec},
	year         = 2020,
	journal      = {GitHub repository},
	publisher    = {GitHub},
	howpublished = {\url{https://github.com/huggingface/trl}}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
7096164

0 моделей