Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Rombo-LLM-V2.5-Qwen-0.5b — компактная плотная языковая модель семейства Qwen2, созданная Rombo-Org на основе Qwen2.5-0.5B-Instruct. В карточке указано, что модель объединяет instruct- и base-варианты с помощью метода TIES; метаданные классифицируют её как дообученную модель. Число параметров — 494 млн, контекст — до 32 768 токенов. Модель использует архитектуру Qwen2ForCausalLM и формат safetensors.
Модель предназначена для генерации текста и диалогов, выполнения инструкций и интерфейсов вызова инструментов. README заявляет о более высокой производительности по сравнению с исходными instruct- и base-моделями, но не приводит результатов измерений или описания тестов. Поддержка русского языка в карточке не подтверждена. Лицензия — Apache-2.0.
Сценарии применения
генерация ответов в диалоге
выполнение инструкций на естественном языке
создание кратких текстов
прототипирование чат-бота
вызов инструментов через диалоговый интерфейс
Ограничения
Заявление о превосходстве над исходными моделями не подкреплено в README результатами тестирования. Компактный размер модели может ограничивать качество сложных рассуждений и выполнения инструкций.
Для каких профессий подходит4
Разделы каталога профессий, в задачах которых используется эта модель
Rombos-LLM-V2.5-Qwen-0.5b is a continues finetuned version of Qwen2.5-0.5B. I noticed recently that the Qwen team did not learn from my methods of continuous finetuning, the great benefits, and no downsides of it. So I took it upon myself to merge the instruct model with the base model myself using the Ties merge method
This version of the model shows higher performance than the original instruct and base models.
