/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
464 млн
Лицензия
MIT
Архитектура
llama · dense
Опубликована
1 мая 2024

Qllama-tiny-.5B-test-1

Генерация текстаТекст → текст3 профессии

Небольшая разговорная модель на базе Qwen 0.5B для научных и образовательных бесед, ответов на вопросы и общения с персонажем Cinder.

505скачиваний за 30 дней0лайковвеса обновлены1 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Josephgflowers/Qllama-tiny-.5B-test-1 — разговорная языковая модель примерно на 464 млн параметров с архитектурой LlamaForCausalLM. По карточке, это версия Llamafyd на базе Qwen 0.5B, дополнительно дообученная на данных Википедии, математики, естественных наук и диалогов. В обучающие данные также вошли ответы на вопросы о мировых знаниях и STEM-темах, а также материалы о персонаже Cinder.

Модель предназначена для научных и образовательных бесед, ответов на вопросы и ролевого общения с персонажем Cinder. Она принимает текст и генерирует текст, поддерживает чат, работает с контекстом до 4096 токенов и распространяется в формате Safetensors. Лицензия — MIT. Размер модели и контекст ограничивают её возможности по сравнению с более крупными языковыми моделями; качество и точность ответов в карточке не оценены.

Сценарии применения

  • Ответы на вопросы по математике и естественным наукам
  • Объяснение STEM-тем в диалоге
  • Ответы на общие вопросы по знаниям из Википедии
  • Ролевое общение с персонажем Cinder
  • Образовательный чат-бот с игровым стилем общения

Ограничения

Модель имеет около 464 млн параметров и контекст до 4096 токенов, поэтому может уступать более крупным моделям в сложных рассуждениях и обработке длинных запросов. Карточка не приводит оценок качества или проверок точности ответов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llamafyd version of Qwen .5B further fine tuned on wiki, math, science, and chat datasets. Based on Cinder data.

As well as Cinder character specific data, a mix of RAG generated Q and A of world knowledge, STEM topics, and Cinder Character data. I suplimented the Cinder character with an abreviated Samantha dataset edited for Cinder and removed a lot of the negative responses. Model Overview Cinder is an AI chatbot tailored for engaging users in scientific and educational conversations, offering companionship, and sparking imaginative exploration.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
3ed9c43

0 моделей