Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
raimundsz/Llama-3.2-3B-Instruct_TINA_AI2 — модель семейства Llama, созданная для TINA AI. Она предназначена для быстрого определения намерения пользователя на CPU и выдачи результата в JSON с полями intent, object и parameters. Карточка задаёт формат ответа на английском языке.
Модель имеет плотную архитектуру LlamaForCausalLM и 3,2 млрд параметров. Метаданные указывают контекст до 131 072 токенов, поддержку чата и интерфейса вызова инструментов; файлы опубликованы в формате safetensors. Лицензия в метаданных обозначена как unknown.
Сценарии применения
классификация намерения в запросе пользователя
извлечение объекта и параметров из запроса
маршрутизация запросов к функциям или инструментам
ускорение распознавания намерений на CPU
Ограничения
README задаёт английский язык ответа и узкий сценарий извлечения намерения, объекта и параметров; качество на других задачах не описано. Метаданные не содержат определённой лицензии.
Карточка модели
README от автора на Hugging Face, как он его опубликовал
This model was created for TINA AI, to speed up intent detection on CPUs.
Detect Intent Prompt
Your task is to analyze the user's request and return his intent in the following JSON format:
interface Response { {intent: string, object: string, parameters: array[{name: string, value: string}] }; }.
The output should be in English!
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров