Экспериментальная модель Mixtral для генерации текста по запросам, созданная слиянием моделей и опубликованная в формате safetensors.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
rizla/rizla-17 — экспериментальная языковая модель, опубликованная автором под именем Rizla. В README сказано, что модель создана слиянием двух моделей семейства 2expmixtrals; метаданные связывают её с Mistral Mixtral-8x7B-Instruct-v0.1 и указывают архитектуру Mixtral MoE, 8,6 млрд параметров и контекст до 32 768 токенов. Доступны веса в формате safetensors.
Модель предназначена для генерации текста по запросам. Она принимает текст и выдаёт текст; карточка не указывает специализацию на конкретных языках или прикладных областях. README также упоминает запуск в формате GGUF с квантизацией Q3_K_L и минимум 8 ГБ оперативной памяти, однако эти сведения не согласуются с метаданными о формате репозитория и размере модели.
Автор характеризует модель как экспериментальную и не приводит результатов оценки качества. Лицензия CC BY-NC-ND 4.0 разрешает распространение с указанием авторства, но запрещает производные работы и коммерческое использование.
Автор описывает модель как экспериментальную и не приводит оценок качества. README утверждает, что это слияние двух моделей, но метаданные отмечают finetune от Mixtral-8x7B-Instruct-v0.1; заявленные в README 17 млрд параметров и GGUF Q3_K_L расходятся с метаданными о 8,6 млрд параметров и safetensors.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
The merged model has 17 billion parraraameters and was made to run on 8gb of ram minimum in q3KL gguf.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…