Характеристики

Контекст: 8 192 токена
Параметры: 7,1 млрд
Лицензия: Apache 2.0
Архитектура: mistral · dense
Библиотека: transformers
Опубликована: 21 мар 2024

Ссылки

Asherah_7B

Генерация текстаТекст → текст7 профессий

Asherah — объединённая и дообученная модель Mistral для генерации текста с ограниченной мультимодальной поддержкой через GGUF.

79скачиваний за 30 дней7лайковвеса обновлены21 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Asherah — языковая модель ResplendentAI на архитектуре Mistral с 7,1 млрд параметров и контекстом до 8192 токенов. Модель создана слиянием четырёх моделей Sanji Watsuki, после чего дообучена на наборах Gnosis и Synthetic Soul.

Модель предназначена для генерации текста и стандартного использования как LLM. В репозитории также есть mmproj для мультимодального использования в формате GGUF; автор рекомендует Koboldcpp. Мультимодальные возможности доступны только пользователям GGUF, а без них модель можно применять как обычную языковую модель.

Доступны файлы Safetensors и GGUF F16. Лицензия — Apache-2.0. Карточка не приводит оценки качества или подробных ограничений генерации.

Сценарии применения

генерация ответов и продолжение текста
диалоговое использование LLM
локальный запуск языковой модели в формате GGUF
мультимодальный запуск через GGUF с mmproj

Ограничения

Мультимодальная функциональность доступна только в формате GGUF; для обычного языкового использования её можно запускать как стандартную LLM. В карточке не приведены результаты оценки качества.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Asherah

GGUF here: https://huggingface.co/Lewdiculous/Asherah_7B-GGUF-IQ-Imatrix

image/png

Asherah, goddess of all creation according to ancient myth was a huge inspiration for this model. The model started with a merge of four of Sanji Watsuki's models using various methods. This merge was then finetuned on Gnosis and Synthetic Soul, two datasets penned by myself.

You can use this as mmproj: https://huggingface.co/cjpais/llava-1.6-mistral-7b-gguf/blob/main/mmproj-model-f16.gguf

I have also included a folder in the repo containing this file. It will be necessary for multimodal GGUF users. I recommend Koboldcpp.

Multimodal functionality is limited to GGUF users at this time. You can still use this model as a standard LLM.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: 0eba35e