/ Модель

Характеристики

Лицензия
Своя лицензия
Опубликована
9 дек 2024

Virtuoso-Small-imatrix-GGUF

Генерация текстаТекст → текст13 профессий

Virtuoso-Small — компактная языковая модель для генерации текста, разработанная Arcee.ai. Репозиторий duyntnet/Virtuoso-Small-imatrix-GGUF содержит её квантованные варианты в формате GGUF, предназначенные для локального запуска и совместимые с llama.cpp и рядом пользовательских интерфейсов, включая KoboldCPP, Ollama, Jan, text-generation-webui и GPT4All.

933скачиваний за 30 дней0лайковвеса обновлены10 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель имеет 14 миллиардов параметров и ориентирована на выполнение инструкций, сложные рассуждения и бизнес-сценарии: поддержку клиентов, создание контента и техническую помощь. В README указан английский язык и текстовая модальность. Архитектура, размер контекста и точный набор доступных квантований не уточняются.

К сильным сторонам относятся относительно компактный размер, эффективность и возможность работы на менее мощном оборудовании при сохранении высокого качества генерации. Ограничения связаны с недостатком информации о конкретной архитектуре, контекстном окне, производительности и качестве на других языках. В карточке указана лицензия other; дополнительных условий использования не приведено.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Quantizations of https://huggingface.co/arcee-ai/Virtuoso-Small

Inference Clients/UIs


From original readme

Virtuoso-Small is the debut public release of the Virtuoso series of models by Arcee.ai, designed to bring cutting-edge generative AI capabilities to organizations and developers in a compact, efficient form. With 14 billion parameters, Virtuoso-Small is an accessible entry point for high-quality instruction-following, complex reasoning, and business-oriented generative AI tasks. Its larger siblings, Virtuoso-Medium and Virtuoso-Large, offer even greater capabilities and are available via API at models.arcee.ai.

Key Features

  • Compact and Efficient: With 14 billion parameters, Virtuoso-Small provides a high-performance solution optimized for smaller hardware configurations without sacrificing quality.
  • Business-Oriented: Tailored for use cases such as customer support, content creation, and technical assistance, Virtuoso-Small meets the demands of modern enterprises.
  • Scalable Ecosystem: Part of the Virtuoso series, Virtuoso-Small is fully interoperable with its larger siblings, Forte and Prime, enabling seamless scaling as your needs grow.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
c24af27

0 моделей