/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
3,1 млрд
Размер весов
6,8 ГБ
Лицензия
Своя лицензия
Архитектура
qwen2 · dense
Базовая модель
Qwen2.5-3B-Instruct
Библиотека
transformers
Опубликована
11 янв 2025

Rombo-LLM-V2.5-Qwen-3b

Генерация текстаТекст → текст11 профессий

Компактная дообученная модель Qwen2.5-3B для диалогов, выполнения инструкций и генерации текста.

33скачиваний за 30 дней3лайкавеса обновлены12 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Rombo-LLM-V2.5-Qwen-3b — компактная плотная языковая модель семейства Qwen2, созданная Rombo-Org на основе Qwen2.5-3B-Instruct. В карточке указано, что модель получена непрерывным дообучением и слиянием instruct- и базовой версий методом TIES; метаданные подтверждают дообучение Qwen/Qwen2.5-3B-Instruct. Параметров — 3,1 млрд, архитектура — Qwen2ForCausalLM, максимальный контекст — 32 768 токенов.

Модель предназначена для диалогов и генерации текста по инструкциям; метаданные также отмечают интерфейс для вызова инструментов. Разработчик заявляет о более высокой производительности по сравнению с исходными instruct- и базовой моделями, но карточка не приводит результатов оценки. Модель работает с текстом и распространяется в формате Safetensors; README упоминает варианты GGUF. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели.

Сценарии применения

  • ответы на вопросы в диалоге
  • выполнение текстовых инструкций
  • генерация связного текста
  • подготовка структурированных текстовых ответов
  • вызов инструментов из диалогового приложения

Ограничения

Заявление о превосходстве над исходными моделями не сопровождается результатами оценки в карточке. Лицензия обозначена как other, поэтому перед использованием нужно проверить её условия в репозитории.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Rombos-LLM-V2.5-Qwen-3b

image/jpeg

Rombos-LLM-V2.5-Qwen-3b is a continues finetuned version of Qwen2.5-3B. I noticed recently that the Qwen team did not learn from my methods of continuous finetuning, the great benefits, and no downsides of it. So I took it upon myself to merge the instruct model with the base model myself using the Ties merge method

This version of the model shows higher performance than the original instruct and base models.

Quants:

GGUF: https://huggingface.co/bartowski/Replete-LLM-V2.5-Qwen-3b-GGUF

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
c788a49

0 моделей