/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
3,7 млрд
Размер весов
7,6 ГБ
Лицензия
MIT
Архитектура
llama · dense
Базовая модель
Tara-3.8B-v1.1
Библиотека
transformers
Опубликована
12 янв 2025

SJT-4B

Генерация текстаТекст → текст5 профессий

Дообученная модель Llama Sakalti с 3,7 млрд параметров для генерации текста и диалоговых ответов на английском языке.

34скачиваний за 30 дней0лайковвеса обновлены16 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,4077

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,478

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,2945

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,4886

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,1156

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,3281

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SJT-4B — языковая модель Sakalti для генерации текста и диалогового общения. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 3,7 млрд параметров, дообученная на Sakalti/Tara-3.8B-v1.1 с использованием Unsloth и TRL. В обучении использовались наборы yahma/alpaca-cleaned и HachiML/Hachi-Alpaca.

Модель подходит для генерации ответов в чате и выполнения инструкций на английском языке. Контекст составляет 4096 токенов; веса представлены в формате Safetensors. Метаданные указывают лицензию MIT, тогда как README заявляет Apache-2.0, поэтому условия распространения следует сверить с автором репозитория. Датасет yahma/alpaca-cleaned указан как распространяемый по CC BY-SA 4.0.

Сценарии применения

  • генерация ответов в текстовом чате
  • ответы на инструкции на английском языке
  • создание черновиков и кратких текстов
  • эксперименты с компактными диалоговыми LLM

Ограничения

Контекст ограничен 4096 токенами. В README и метаданных указаны разные лицензии модели: Apache-2.0 и MIT соответственно.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This models was using "yahma/alpaca-cleaned" This dataset is licensed under CC BY SA 4.0

Last Update : 2023-05-25

Uploaded model

  • Developed by: Sakalti
  • License: apache-2.0
  • Finetuned from model : Sakalti/Tara-3.8B-v1.1

This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
594136b

0 моделей