Характеристики

Контекст: 32 768 токенов
Параметры: 10,6 млрд
Лицензия: Apache 2.0
Архитектура: mistral · dense
Опубликована: 18 мар 2024

Ссылки

Hugging Face

PrimaSumika-10.7B-128k

xxx777xxxASD

Генерация текстаТекст → текст5 профессий

Тестовое слияние моделей на архитектуре Mistral для генерации текста и диалогов на английском языке.

23скачиваний за 30 дней1лайквеса обновлены18 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

PrimaSumika-10.7B-128k — тестовое «sandwich» слияние моделей, созданное xxx777xxxASD как часть xxx777xxxASD/PrimaMonarch-EroSumika-2x10.7B-128k. Модель на архитектуре Mistral предназначена для генерации текста и диалогового общения. В репозитории указаны веса safetensors; размер модели — 10,6 млрд параметров, нативный контекст — 32 768 токенов. В README также описана сборка ExL2 с точностью 6,0 bpw, рассчитанная на размещение в 12 ГБ VRAM с контекстом до 42 тыс. токенов при 4-битном KV-кэше.

Модель помечена как англоязычная и распространяется по лицензии Apache-2.0. Поскольку это тестовое слияние, карточка не подтверждает качество или пригодность для конкретных прикладных сценариев; заявленные для ExL2 требования и контекст относятся к этой сборке.

Сценарии применения

генерация английского текста
ведение диалога на английском языке
подготовка черновиков и продолжение текста

Ограничения

README характеризует модель как тестовое слияние и не приводит оценок качества или результатов тестирования. Указанные 42 тыс. токенов относятся к сборке ExL2 с 4-битным KV-кэшем; нативный контекст модели составляет 32 768 токенов.