/ Модель

Характеристики

Контекст
8 192 токена
Параметры
134 млн
Архитектура
llama · dense
Базовая модель
SmolLM2-135M
Библиотека
transformers
Опубликована
7 янв 2025

SmolLM2-FT-Arabic_Reasoning_Instruct_QA

Генерация текстаТекст → текст3 профессии

Компактная дообученная SmolLM2 для генерации инструктивных ответов и ответов на вопросы с рассуждением, включая арабский язык.

19скачиваний за 30 дней1лайквеса обновлены7 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

OmarAlsaabi/SmolLM2-FT-Arabic_Reasoning_Instruct_QA — дообученная Omar Alsaabi модель HuggingFaceTB/SmolLM2-135M для генерации ответов в формате инструкций и вопросов с рассуждением, в том числе на арабском языке. Она основана на плотной архитектуре Llama и содержит 134,5 млн параметров; модель рассчитана на текстовый ввод и генерацию текста, включая диалоговый формат. Контекстное окно составляет 8192 токена.

Модель можно применять для экспериментов с арабскими вопросами и ответами и для создания диалоговых прототипов на ресурсно ограниченных устройствах. Базовая модель ориентирована на английский язык, а точные характеристики языкового покрытия и качества рассуждений в карточке не приведены. Лицензия в предоставленных данных не указана.

Сценарии применения

  • ответы на вопросы на арабском языке
  • генерация ответов на инструкции
  • диалоговые прототипы с рассуждениями
  • локальные эксперименты с небольшой языковой моделью

Ограничения

Модель компактна, поэтому её возможности рассуждения и качество ответов могут быть ограничены; в карточке нет оценки качества или подробностей языкового покрытия. Лицензия не указана в предоставленных данных.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for SmolLM2-FT-Arabic_Reasoning_Instruct_QA

This model is a fine-tuned version of HuggingFaceTB/SmolLM2-135M. It has been trained using TRL.

Quick start

from transformers import pipeline

question = "If you had a time machine, but could only go to the past or the future once and never return, which would you choose and why?"
generator = pipeline("text-generation", model="OmarAlsaabi/SmolLM2-FT-Arabic_Reasoning_Instruct_QA", device="cuda")
output = generator([{"role": "user", "content": question}], max_new_tokens=128, return_full_text=False)[0]
print(output["generated_text"])

Training procedure

This model was trained with SFT.

Framework versions

  • TRL: 0.12.1
  • Transformers: 4.46.3
  • Pytorch: 2.5.1
  • Datasets: 3.1.0
  • Tokenizers: 0.20.3

Citations

Cite TRL as:

@misc{vonwerra2022trl,
	title        = {{TRL: Transformer Reinforcement Learning}},
	author       = {Leandro von Werra and Younes Belkada and Lewis Tunstall and Edward Beeching and Tristan Thrush and Nathan Lambert and Shengyi Huang and Kashif Rasul and Quentin Gallouédec},
	year         = 2020,
	journal      = {GitHub repository},
	publisher    = {GitHub},
	howpublished = {\url{https://github.com/huggingface/trl}}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
4268240

0 моделей