/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
ChatBerry
Библиотека
transformers
Опубликована
10 авг 2026

ChatBerry-i1-GGUF

Генерация текстаТекст → текст5 профессий

ChatBerry-i1-GGUF — это набор квантованных моделей в формате GGUF, созданный на основе модели ChatBerry от artindnr и подготовленный mradermacher.

453скачиваний за 30 дней1лайквеса обновлены10 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск совместимых языковых моделей с различными уровнями квантования. Заявлена поддержка персидского и английского языков, а также мультиязычного использования.

В карточке указано, что исходная модель относится к архитектуре mixture-of-experts и поддерживает text generation; также заявлена совместимость с PyTorch, JAX и TensorFlow. Доступны варианты квантования от очень компактных IQ1 и IQ2 до более качественных Q5 и Q6, размер файлов составляет примерно 12,1–22,3 ГБ. Вариант Q4_K_M отмечен как рекомендуемый по сочетанию скорости и качества, а Q4_K_S — как оптимальный по размеру, скорости и качеству.

К сильным сторонам относятся широкий выбор квантований и возможность подобрать баланс между требованиями к памяти, скоростью и качеством генерации. Ограничения включают потенциальную потерю качества в наиболее агрессивных вариантах квантования; для некоторых вариантов это прямо отмечено в README. Сведения о количестве параметров, размере контекста, точных характеристиках архитектуры, результатах тестирования и мультимодальных возможностях не приведены. Лицензия — Apache-2.0.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

About

weighted/imatrix quants of https://huggingface.co/artindnr/ChatBerry

For a convenient overview and download list, visit model page for this model.

static quants are available at https://huggingface.co/artindnr/ChatBerry-GGUF

Usage

If you are unsure how to use GGUF files, refer to one of TheBloke's READMEs for more details, including on how to concatenate multi-part files.

Provided Quants

(sorted by size, not necessarily quality. IQ-quants are often preferable over similar sized non-IQ quants)

LinkTypeSize/GBNotes
GGUFimatrix0.1imatrix file (for creating your own quants)
GGUFi1-IQ1_M12.1mostly desperate
GGUFi1-IQ1_S12.1for the desperate
GGUFi1-IQ2_XXS12.1
GGUFi1-IQ2_XS12.1
GGUFi1-Q3_K_S12.2IQ3_XS probably better
GGUFi1-IQ2_M12.2
GGUFi1-IQ2_S12.2
GGUFi1-IQ3_S12.2beats Q3_K*
GGUFi1-IQ3_XS12.2
GGUFi1-IQ3_XXS12.2lower quality
GGUFi1-Q2_K12.2IQ3_XXS probably better
GGUFi1-IQ4_XS12.2
GGUFi1-Q2_K_S12.2very low quality
GGUFi1-Q4_012.2fast, low quality
GGUFi1-IQ3_M12.3
GGUFi1-Q3_K_M13.0IQ3_S probably better
GGUFi1-Q3_K_L13.4IQ3_M probably better
GGUFi1-Q4_113.5
GGUFi1-Q4_K_S14.8optimal size/speed/quality
GGUFi1-Q4_K_M15.9fast, recommended
GGUFi1-Q5_K_S16.0
GGUFi1-Q5_K_M17.0
GGUFi1-Q6_K22.3practically like static Q6_K

Original Repo

This is a copy from https://huggingface.co/mradermacher/ChatBerry-i1-GGUF

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
6d49ba2

0 моделей