/ Модель

Характеристики

Контекст
131 072 токена
Параметры
3,2 млрд
Размер весов
6,4 ГБ
Лицензия
Не указана
Архитектура
llama · dense
Опубликована
30 янв 2025

Llama-3.2-3B-Instruct_TINA_AI2

Генерация текстаТекст → текст

Модель Llama с 3,2 млрд параметров для быстрого определения намерений пользователя и возврата структурированного JSON на английском языке.

7скачиваний за 30 дней0лайковвеса обновлены30 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

raimundsz/Llama-3.2-3B-Instruct_TINA_AI2 — модель семейства Llama, созданная для TINA AI. Она предназначена для быстрого определения намерения пользователя на CPU и выдачи результата в JSON с полями intent, object и parameters. Карточка задаёт формат ответа на английском языке.

Модель имеет плотную архитектуру LlamaForCausalLM и 3,2 млрд параметров. Метаданные указывают контекст до 131 072 токенов, поддержку чата и интерфейса вызова инструментов; файлы опубликованы в формате safetensors. Лицензия в метаданных обозначена как unknown.

Сценарии применения

  • классификация намерения в запросе пользователя
  • извлечение объекта и параметров из запроса
  • маршрутизация запросов к функциям или инструментам
  • ускорение распознавания намерений на CPU

Ограничения

README задаёт английский язык ответа и узкий сценарий извлечения намерения, объекта и параметров; качество на других задачах не описано. Метаданные не содержат определённой лицензии.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Purpose

This model was created for TINA AI, to speed up intent detection on CPUs.

Detect Intent Prompt

Your task is to analyze the user's request and return his intent in the following JSON format: interface Response { {intent: string, object: string, parameters: array[{name: string, value: string}] }; }. The output should be in English!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
6a85d33

0 моделей