/ Модель

Характеристики

Контекст
32 764 токена
Параметры
68,7 млрд
Размер весов
138 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
31 янв 2024

MiquMaid-v1-70B

Генерация текстаТекст → текст4 профессии

Экспериментальная 70-миллиардная модель семейства Llama для генерации текста и ответов на инструкции в формате Alpaca.

66скачиваний за 30 дней17лайковвеса обновлены31 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

NeverSleep и IkariDev создали MiquMaid-v1-70B как экспериментальную модель для генерации текста: авторы описывают её как пробное дообучение Miqu на данных Alpaca, чтобы проверить качество получаемых моделей. Это плотная авторегрессионная модель семейства Llama с 68,7 млрд параметров и контекстом до 32 764 токенов; карточка указывает формат PyTorch и шаблон Alpaca с инструкцией, входными данными и ответом.

Модель предназначена для диалогов и генерации ответов по инструкции. Авторы предупреждают, что она экспериментальная и не гарантируют, что всё будет работать. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

Сценарии применения

  • генерация ответов на инструкции
  • эксперименты с диалоговой моделью на основе Miqu
  • создание текста по пользовательскому запросу

Ограничения

Авторы предупреждают, что модель экспериментальная и некоторые функции могут работать некорректно. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MiquMaid

image/png


Disclaimer:

This model is HIGHLY EXPERIMENTAL, do not expect everything to work.

This model uses the Alpaca prompting format


Quick train to see if miqu finetuned results in good models

Credits:

  • Undi
  • IkariDev

Description

This repo contains FP16 files of MiquMaid-v1-70B.

FP16 - by IkariDev and Undi

GGUF - by IkariDev and Undi

Ratings:

Note: We have permission of all users to upload their ratings, we DONT screenshot random reviews without asking if we can put them here!

No ratings yet!

If you want your rating to be here, send us a message over on DC and we'll put up a screenshot of it here. DC name is "ikaridev" and "undi".

Custom format:

### Instruction:
{system prompt}

### Input:
{input}

### Response:
{reply}

Others

Undi: If you want to support me, you can here.

IkariDev: Visit my retro/neocities style website please kek

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
0dc1f93

0 моделей