/ Модель

Характеристики

Лицензия
MIT
Базовая модель
Zero-Mistral-24B
Библиотека
llama.cpp
Опубликована
21 апр 2025

Zero-Mistral-24B-gguf

Генерация текстаТекст → текст7 профессий

Zero-Mistral-24B-gguf — это квантованная GGUF-версия языковой модели Zero-Mistral-24B, разработанной ZeroAgency.

347скачиваний за 30 дней4лайкавеса обновлены22 апр 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и диалоговых сценариев, включая русско- и англоязычное общение. В метаданных указаны задачи conversational и text-generation, а также связь с датасетом ZeroAgency/ru-big-russian-dataset. Модель рассчитана на запуск через llama.cpp; преобразование выполнено bethrezen с использованием llama.cpp версии b5083.

Доступны варианты BF16, F16, IQ4_NL, IQ4_XS, Q4_K_M, Q6_K и Q8_0, включая некоторые варианты с параметром leave-output-tensors. Разные уровни квантования позволяют выбирать компромисс между качеством, размером и требованиями к ресурсам, однако конкретные характеристики производительности и качества для вариантов в README не приведены. Размер базовой модели составляет 24B параметров; сведения о длине контекста, архитектурных деталях, поддерживаемых модальностях помимо текста и результатах тестирования отсутствуют. Модель распространяется по лицензии MIT.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Zero-Mistral

This is a GGUF version of ZeroAgency/Zero-Mistral-24B.

All quants made with llama.cpp version b5083.

Quants available:

  • BF16
  • F16
  • IQ4_NL
  • IQ4_NL_L - same as above but with --leave-output-tensors
  • IQ4_XS
  • IQ4_XS_L - same as above but with --leave-output-tensors
  • Q4_K_M
  • Q4_K_M_L - same as above but with --leave-output-tensors
  • Q6_K
  • Q6_K_L - same as above but with --leave-output-tensors
  • Q8_0 - quantized from bf16 gguf
  • Q8_0-direct - direct convertation from hf
  • Q8_0_L - quantized from bf16 but with --leave-output-tensors

image/png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
9109e23

0 моделей