Слияние двух предобученных языковых моделей на архитектуре Llama для генерации текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Miquella-120B — объединённая текстовая языковая модель на архитектуре Llama, созданная eldrtchmoon с помощью mergekit. Это попытка повторить Goliath-120B, заменив в исходной схеме слияния Xwin на Miqu-1-70B; также в слияние вошла Euryale-1.3-L2-70B. Модель предназначена для генерации текста, включая диалоговые сценарии. Веса опубликованы в формате safetensors; объём модели составляет 117,5 млрд параметров, а контекст — до 32 764 токенов. README не сообщает поддерживаемые языки и конкретные ограничения качества. Лицензия в предоставленных данных не указана.
Поддерживаемые языки и ограничения качества в доступных материалах не описаны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a merge of pre-trained language models created using mergekit. An attempt at re-creating goliath-120b using the new miqu-1-70b model instead of Xwin.
The merge ratios are the same as goliath, only that Xwin is swapped with miqu.
The following models were included in the merge:
Miquella the Unalloyed, by @eldrtchmoon
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…