from transformers import AutoTokenizer, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("heegyu/TinyMistral-248M-v2.5-Instruct-orpo")
model = AutoModelForCausalLM.from_pretrained("heegyu/TinyMistral-248M-v2.5-Instruct-orpo")
conv = [
{
'role': 'user',
'content': 'What can I do with Large Language Model?'
}
]
prompt = tokenizer.apply_chat_template(conv, add_generation_prompt=True, return_tensors="pt")
output = model.generate(prompt, max_new_token=128)
print(tokenizer.decode(output[0]))
Характеристики
- Контекст
- 32 768 токенов
- Параметры
- 215 млн
- Лицензия
- Apache 2.0
- Архитектура
- mistral · dense
- Базовая модель
- TinyMistral-248M-v2.5-Instruct
- Опубликована
- 27 апр 2024
Ссылки
TinyMistral-248M-v2.5-Instruct-orpo
Компактная дообученная модель Mistral для диалоговой генерации текста и выполнения инструкций.
17скачиваний за 30 дней0лайковвеса обновлены27 апр 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
heegyu/TinyMistral-248M-v2.5-Instruct-orpo — компактная диалоговая модель семейства Mistral, дообученная на основе Locutusque/TinyMistral-248M-v2.5-Instruct. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель содержит 215,2 млн параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов.
Модель опубликована в формате safetensors под лицензией Apache-2.0. В метаданных указан датасет ultrafeedback_binarized; базовая модель предназначена для англоязычной генерации, выполнения инструкций и базовой генерации кода. Данных о дополнительной специализации или отдельных ограничениях этой версии нет.
Сценарии применения
- ответы на текстовые инструкции
- генерация диалоговых ответов
- черновая генерация текста
- базовая генерация кода
Для каких профессий подходит5
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейII.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- MistralForCausalLM
- Ревизия весов
- ec8f491