Uploaded model
- Developed by: Ramikan-BR
- License: apache-2.0
- Finetuned from model : unsloth/tinyllama-chat-bnb-4bit
This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.
Характеристики
- Контекст
- 4 096 токенов
- Параметры
- 1 млрд
- Лицензия
- Apache 2.0
- Архитектура
- llama · dense
- Базовая модель
- tinyllama-chat-bnb-4bit
- Опубликована
- 21 мая 2024
Ссылки
tinyllama-coder-py-4bit-v3
Генерация текстаТекст → текст
Производная модели Ramikan-BR/tinyllama-coder-py-v23. Дообученная модель Llama для диалоговой генерации текста и помощи с кодом Python.
101скачиваний за 30 дней0лайковвеса обновлены30 мая 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Карточка модели Ramikan-BR/tinyllama-coder-py-4bit-v3 на Hugging Face совпадает с карточкой Ramikan-BR/tinyllama-coder-py-v23, поэтому описание составлено по ней.
Ramikan-BR/tinyllama-coder-py-v23 — дообученная разговорная модель семейства Llama для генерации текста, включая помощь с кодом Python. Она основана на unsloth/tinyllama-chat-bnb-4bit и имеет около 1 млрд параметров; архитектура — плотная авторегрессионная LlamaForCausalLM. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 4096 токенов.
Карточка указывает, что модель обучалась с помощью Unsloth и библиотеки TRL. Её можно использовать для генерации и продолжения кода Python, а также для диалоговых запросов по программированию. Лицензия — Apache-2.0. Подробные результаты оценки качества и конкретные ограничения в карточке не приведены.
Сценарии применения
- генерация кода Python по описанию задачи
- дополнение фрагментов кода Python
- объяснение кода Python в диалоге
Ограничения
Контекст ограничен 4096 токенами. Карточка не содержит результатов оценки качества или подробного описания возможностей модели.
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- LlamaForCausalLM
- Ревизия весов
- bdf626d