/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
3,7 млрд
Размер весов
7,6 ГБ
Лицензия
AGPL 3.0
Архитектура
phi3 · dense
Опубликована
1 авг 2024

juno-3b

Генерация текстаТекст → текст3 профессии

Диалоговая модель на базе Phi-3 для генерации текста, маршрутизации запросов к функциям и передачи неподходящих запросов резервной системе.

18скачиваний за 30 дней0лайковвеса обновлены1 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Juno — диалоговая модель Mielikki для генерации текста и вызова функций с резервным ответом, когда подходящей функции нет. Она дообучена на jpacifico/Chocolatine-3B-Instruct-DPO-Revised и построена на архитектуре Phi-3. Модель рассчитана на сценарии, где запрос пользователя сопоставляется с доступными функциями, а запросы без подходящей функции передаются целевой системе, например поисковому движку или базе знаний.

Модель содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 4096 токенов. В карточке заявлена лицензия AGPL-3.0. README не описывает качество вызова функций, набор поддерживаемых функций и поведение на разных языках; резервный ответ сам по себе не выполняет поиск или запрос к базе знаний, это должен делать целевой backend.

Сценарии применения

  • Выбор подходящей функции по запросу пользователя
  • Формирование ответа для вызова доступной функции
  • Передача запросов без подходящей функции поисковой системе
  • Маршрутизация запросов к backend базы знаний

Ограничения

Резервная передача запроса не выполняет поиск или обращение к базе знаний без соответствующего backend. В README не указаны результаты оценки качества и перечень поддерживаемых функций.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

juno

Finetune of jpacifico/Chocolatine-3B-Instruct-DPO-Revised for function calling with fallback.

template

<|system|>
{{array of functions available}}<|end|>
<|user|>
{{user question}}<|end|>
<|assistant|>

see below for complete examples.

function available

<|system|>
[{"name":"check_stock_availability","description":"Check the availability of products in stock","parameters":{"product_id":{"description":"the product id to check availability for","type":"int"}}},{"name":"help","description":"If no other tool is appropriate, use this","parameters":{"query":{"description":"the user's prompt","type":"str"}}},{"name":"convert_currency","description":"Converts one currency to another","parameters":{"amount":{"description":"currency amount","type":"int"},"currency_1":{"description":"currency to convert from e.g. USD","type":"str"},"currency_2":{"description":"currency to convert to e.g. EUR","type":"str"}}}]<|end|>
<|user|>
Hi, how much is $30 worth in iraq?<|end|>
<|assistant|>
[{"name": "convert_currency", "arguments": {"amount": 30, "currency_1": "USD", "currency_2": "IQD"}}]<|end|>

no function; fallback

<|system|>
[{"name":"check_stock_availability","description":"Check the availability of products in stock","parameters":{"product_id":{"description":"the product id to check availability for","type":"int"}}},{"name":"help","description":"If no other tool is appropriate, use this","parameters":{"query":{"description":"the user's prompt","type":"str"}}},{"name":"convert_currency","description":"Converts one currency to another","parameters":{"amount":{"description":"currency amount","type":"int"},"currency_1":{"description":"currency to convert from e.g. USD","type":"str"},"currency_2":{"description":"currency to convert to e.g. EUR","type":"str"}}}]<|end|>
<|user|>
Hi, how much calories in an apple?<|end|>
<|assistant|>
[{"name": "help", "arguments": {"query": "How many calories are in an apple?"}}]<|end|>

fallback should still be handled by the target backend, this usually will be a search engine, but you could also integrate it into a knowledge base etc.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Phi3ForCausalLM
Ревизия весов
1165c6a

0 моделей