/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
1,5 млрд
Лицензия
Apache 2.0
Архитектура
qwen2 · dense
Базовая модель
Qwen2.5-1.5B-Instruct
Библиотека
transformers
Опубликована
22 авг 2026

Qwen2.5-1.5B-tools

Генерация текстаТекст → текст3 профессии

Дообученная Qwen2.5 на 1,5 млрд параметров для диалогов и вызова инструментов, показавшая слабое точное совпадение аргументов в проверке.

104скачиваний за 30 дней0лайковвеса обновлены28 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

iromu/Qwen2.5-1.5B-tools — дообученная разработчиком модель на базе unsloth/Qwen2.5-1.5B-Instruct, предназначенная для диалогов и вызова инструментов. Это плотная авторегрессионная языковая модель семейства Qwen2 с 1,5 млрд параметров; в репозитории представлены веса Safetensors в BF16. Контекст — до 32 768 токенов. Модель обучали методом SFT на наборе sft_tools из датасета r0b0tlab/qwen3.8-max-glm5.2-kimi-k3-distillation, используя LoRA, после чего адаптер объединили с базовыми весами.

Карточка приводит проверку вызовов инструментов: на валидационной выборке точное совпадение аргументов составило 0,7% для BF16 против 8,8% у базовой модели. Поэтому результаты не подтверждают надёжное выполнение этой задачи, несмотря на назначение модели. Метаданные указывают английский язык. Лицензия — Apache-2.0.

Сценарии применения

  • эксперименты с вызовом инструментов в диалоговой модели
  • оценка дообучения Qwen2.5 для function calling
  • генерация диалоговых ответов на английском языке

Ограничения

В приведённой проверке точное совпадение аргументов вызовов инструментов составило 0,7% для BF16, ниже результата базовой модели в 8,8%; надёжность вызова инструментов не подтверждена. Проверка проводилась жадным декодированием на валидационном наборе sft_tools.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen2.5-1.5B-tools

Merged BF16 weights of the LoRA tool-calling fine-tune of unsloth/Qwen2.5-1.5B-Instruct. Built by scripts/build_tools_gguf.sh Qwen2.5-1.5B-tools (merge_and_unload of the latest checkpoint in checkpoints/Qwen2.5-1.5B-tools/).

Training

  • Recipe: TrainFinetuneRecipeForNextTokenPrediction (NeMo AutoModel 0.5.0)
  • Config: configs/qwen25_1.5b_tools.yaml
  • LoRA: dim 32, alpha 32, dropout 0.05, target_modules *.proj
  • Data: sft_tools split of r0b0tlab/qwen3.8-max-glm5.2-kimi-k3-distillation
  • Learning rate: 1e-5 (cosine decay), 501 steps, global batch 64, seq length 4096

Sibling artifacts

  • GGUF quantizations: models/Qwen2.5-1.5B-tools-GGUF/
  • NVFP4 checkpoint: models/Qwen2.5-1.5B-tools-NVFP4/

Validation matrix

Tool-calling validation on the sft_tools validation split (greedy decoding, 384 max new tokens). Throughput is single-stream greedy decode, not serving throughput.

Pretrained base (unsloth/Qwen2.5-1.5B-Instruct): 8.8% exact-args match (24/274). Fine-tuned (BF16): 0.7% exact-args match (2/274) (-8pp vs base).

  • GGUF-BF16: 2/274 (0.7%) exact, 88.6 tok/s — 100% of BF16.
  • GGUF-Q4_K_M: 3/274 (1.1%) exact, 142.9 tok/s — 150% of BF16.
  • GGUF-Q5_K_M: 6/274 (2.2%) exact, 131.4 tok/s — 300% of BF16.
  • GGUF-Q8_0: 2/274 (0.7%) exact, 115.3 tok/s — 100% of BF16.
ModelQuantnTool call emittedNames matchExact args matchΔ exact vs BASEtok/s
Qwen2.5-1.5B-toolsBASE (unsloth/Qwen2.5-1.5B-Instruct)274272/274 (99.3%)59/274 (21.5%)24/274 (8.8%)—40.6
Qwen2.5-1.5B-toolsBF16274258/274 (94.2%)216/274 (78.8%)2/274 (0.7%)-8pp38.0
Qwen2.5-1.5B-toolsGGUF-BF16274272/274 (99.3%)167/274 (60.9%)2/274 (0.7%)-8pp88.6
Qwen2.5-1.5B-toolsGGUF-Q4_K_M274248/274 (90.5%)49/274 (17.9%)3/274 (1.1%)-7.7pp142.9
Qwen2.5-1.5B-toolsGGUF-Q5_K_M274260/274 (94.9%)79/274 (28.8%)6/274 (2.2%)-6.6pp131.4
Qwen2.5-1.5B-toolsGGUF-Q8_0274271/274 (98.9%)187/274 (68.2%)2/274 (0.7%)-8pp115.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
47b1a17

0 моделей