/ Модель

Характеристики

Контекст
8 192 токена
Параметры
1,7 млрд
Размер весов
6,8 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
SmolLM2-1.7B-Instruct
Библиотека
transformers
Опубликована
27 янв 2025

SmolLM2-1.7B-Instruct-Matt-Shill

Генерация текстаТекст → текст3 профессии

Англоязычная диалоговая модель на 1,7 млрд параметров для генерации ответов и ведения текстового диалога.

28скачиваний за 30 дней0лайковвеса обновлены28 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SmolLM2-1.7B-Instruct-Matt-Shill — дообученная модель matthewhaynesonline на базе HuggingFaceTB/SmolLM2-1.7B-Instruct. Модель использует плотную архитектуру семейства Llama и предназначена для генерации текста в диалоговом формате; карточка демонстрирует запуск через Transformers и TRL.

Модель рассчитана на англоязычные запросы и поддерживает контекст до 8192 токенов. Её можно применять для ответов на вопросы и ведения текстового диалога. Параметров — 1,7 млрд; веса опубликованы в формате safetensors.

Дообучение выполнено на наборе matthewhaynesonline/matt_shill_demo. Модель распространяется по лицензии Apache-2.0. Специальные ограничения или результаты оценки качества в карточке не описаны.

Сценарии применения

  • ответы на вопросы в текстовом диалоге
  • генерация продолжения текста по запросу
  • создание демонстрационных диалоговых ответов

Ограничения

В карточке не приведены оценки качества и подробности о специализации дообучения; пригодность для конкретных задач следует проверять отдельно.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for SmolLM2-1.7B-Instruct-Matt-Shill

This model is a fine-tuned version of HuggingFaceTB/SmolLM2-1.7B-Instruct. It has been trained using TRL.

Quick start

from transformers import pipeline

question = "If you had a time machine, but could only go to the past or the future once and never return, which would you choose and why?"
generator = pipeline("text-generation", model="matthewhaynesonline/SmolLM2-1.7B-Instruct-Matt-Shill", device="cuda")
output = generator([{"role": "user", "content": question}], max_new_tokens=128, return_full_text=False)[0]
print(output["generated_text"])

Training procedure

This model was trained with SFT.

Framework versions

  • TRL: 0.13.0
  • Transformers: 4.48.1
  • Pytorch: 2.7.0.dev20250125
  • Datasets: 3.2.0
  • Tokenizers: 0.21.0

Citations

Cite TRL as:

@misc{vonwerra2022trl,
	title        = {{TRL: Transformer Reinforcement Learning}},
	author       = {Leandro von Werra and Younes Belkada and Lewis Tunstall and Edward Beeching and Tristan Thrush and Nathan Lambert and Shengyi Huang and Kashif Rasul and Quentin Gallouédec},
	year         = 2020,
	journal      = {GitHub repository},
	publisher    = {GitHub},
	howpublished = {\url{https://github.com/huggingface/trl}}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
1b864c1

0 моделей