Слитая 123,5-миллиардная модель Llama с контекстом 32 768 токенов для генерации текста и диалогов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
WinterGoliath-123b-32k — слитая модель авторегрессионной генерации текста на архитектуре Llama, опубликованная ChuckMcSneed. Она объединяет Xwin и WinterGoddess, расширенные до контекста 32 768 токенов; для запросов README предлагает формат Vicuna или Alpaca. Модель предназначена для генерации текста и диалогов. В README автор отмечает, что модель умнее Goliath-32k, но имеет особенности и несколько повреждена по сравнению с исходной WinterGoliath; приведённый тест назван автором шуточным, поэтому его результаты не дают надёжной оценки качества. Репозиторий содержит веса Safetensors, размер модели — 123,5 млрд параметров. Лицензия — Llama 2.
Автор отмечает наличие особенностей и ухудшение относительно исходной WinterGoliath. Языковая поддержка отдельно не описана, а приведённый шуточный бенчмарк не подтверждает качество модели.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a merge of Xwin and WinterGoddess, both extended to 32k using the method discussed here.
Smarter than Goliath-32k, but has some quirks.
A bit damaged compared to original WinterGoliath.
Vicuna or Alpaca.
| Test name | WinterGoliath-32k | WinterGoliath |
|---|---|---|
| B | 3 | 3 |
| C | 2 | 2 |
| D | 1 | 2 |
| S | 3.75 | 5.5 |
| P | 3.75 | 6 |
| Total | 13.5 | 18.5 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…