/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,2 млрд
Размер весов
14,8 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Базовая модель
Turkcell-LLM-7b-v1
Библиотека
adapter-transformers
Опубликована
9 апр 2024

TURKCELL-LLM-7B-openhermes

Генерация текстаТекст → текст

Дообученная на турецком OpenHermes диалоговая модель Mistral 7B для генерации текста и ответов в чате.

0скачиваний за 30 дней0лайковвеса обновлены9 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TURKCELL-LLM-7B-openhermes — диалоговая языковая модель, дообученная umarigan на базе TURKCELL/Turkcell-LLM-7b-v1. Это плотная модель семейства Mistral с 7,2 млрд параметров, рассчитанная на генерацию текста и ответы в чате; заявленная длина контекста — 32 768 токенов.

Модель дообучена на турецком переводе набора OpenHermes с использованием Unsloth и TRL. Она предназначена для турецкоязычных диалогов и генерации ответов; метаданные также отмечают английский язык. Распространяется в формате PyTorch под лицензией Apache-2.0. Качество и ограничения применения отдельно не описаны.

Сценарии применения

  • ответы на вопросы в турецкоязычном чате
  • генерация ответов на турецком языке
  • ведение диалогов на турецком языке

Ограничения

В карточке не приведены оценки качества и подробные ограничения применения; пригодность для конкретных сценариев следует проверять отдельно.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Uploaded model

  • Developed by: umarigan
  • License: apache-2.0
  • Finetuned from model : TURKCELL/Turkcell-LLM-7b-v1

This mistral model was trained 2x faster with Unsloth and Huggingface's TRL library.

This model is fine-tuned version of Trendyol chat v1.0 on openhermes dataset. The dataset translated from English to Turkish lanuage and trained by unsloth's mistral scripts. Usage:

# Use a pipeline as a high-level helper
from transformers import pipeline
pipe = pipeline("text-generation",
                model="umarigan/TURKCELL-LLM-7B-openhermes",
                #use_flash_attention_2=True
                )
# Generate text
q = "Weng bebek bakıcılığından saatte 12 dolar kazanıyor. Dün sadece 50 dakika bebek bakıcılığı yaptı. Ne kadar kazandı?"
sequences_rlhf = pipe(
    q,
    do_sample=True,
    temperature=0.7,
    top_p=0.9,
    num_return_sequences=1,
    max_length=2048,
)
sequences_rlhf[0]['generated_text']

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · adapter-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
63a767d

0 моделей