'Make knowledge free for everyone'
Quantized version of: sarvamai/sarvam-30b
Квантизированная GGUF-версия sarvamai/sarvam-30b для генерации текста и диалогов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
DevQuasar/sarvamai.sarvam-30b-GGUF — это квантизированная версия текстовой генеративной модели sarvamai/sarvam-30b, подготовленная пользователем или организацией DevQuasar и распространяемая в формате GGUF. Модель предназначена для генерации текста и диалоговых сценариев, а также для локального запуска в совместимых инструментах, поддерживающих GGUF.
Ключевые характеристики включают формат GGUF, квантизацию исходной модели и назначение text-generation; в метаданных модель также помечена как conversational. Предоставленные данные не содержат сведений об архитектуре, размере, языках, длине контекста или лицензии, поэтому эти характеристики не уточняются. Квантизация может уменьшать требования к памяти и вычислительным ресурсам, но потенциально снижать точность и качество генерации по сравнению с исходной моделью.
Сведения о поддерживаемых языках, архитектуре, размере, контексте и лицензии в предоставленных данных отсутствуют. Квантизация может снижать качество по сравнению с исходной моделью.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
'Make knowledge free for everyone'
Quantized version of: sarvamai/sarvam-30b
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
Подбираем GPU…