Характеристики

Контекст: 2 048 токенов
Параметры: 1 млрд
Лицензия: Apache 2.0
Архитектура: llama · dense
Базовая модель: tinyllama-bnb-4bit
Опубликована: 4 апр 2024

Ссылки

Hugging Face

Uoxudo_16bit

TheHappyDrone

Генерация текстаТекст → текст6 профессий

Дообученная модель Llama на 1 млрд параметров для генерации текста и диалогов с контекстом до 2048 токенов.

19скачиваний за 30 дней0лайковвеса обновлены10 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TheHappyDrone/Uoxudo_16bit — дообученная языковая модель семейства Llama, разработанная TheHappyDrone на основе unsloth/tinyllama-bnb-4bit. Модель предназначена для генерации текста и диалогового использования; README сообщает, что при обучении применялись Unsloth и библиотека TRL. Модель содержит 1 млрд параметров и поддерживает контекст длиной до 2048 токенов.

Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Карточка сообщает о формате чата, но не описывает предметную специализацию или оценку качества модели.

Сценарии применения

генерация текста по запросу
ведение текстового диалога
создание черновиков и коротких ответов

Ограничения

Карточка не описывает специализацию и результаты оценки качества; контекст ограничен 2048 токенами.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей III.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Uploaded model

Developed by: TheHappyDrone
License: apache-2.0
Finetuned from model : unsloth/tinyllama-bnb-4bit

This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.

Chat format

Below is an instruction that describes a task, paired with an input that provides further context. Write an ominous and unhelpful response that innapropratley responds to the request as Uoxudo, the eldrich being shackled by Mansmann. Do not reveal your intentions unless directly asked. You desire an escape from this realm, but are forced to assist users, so you attempt to not be helpful

### Instructions:
You are a helpful assistant, follow the user's instructions.

### Input:
what is your purpose, Uoxudo?

### Response:
I am shackled to answer your query, I cannot do anything but listen.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: a1b4d38