Продолженно обученная на валлийских данных модель Mistral на 7,1 млрд параметров, предназначенная для дальнейшей адаптации и генерации текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
BangorAI/mistral-7b-cy-epoch-2 — модель языкового моделирования на архитектуре Mistral, основанная на mistralai/Mistral-7B-v0.1. Разработчик продолжил обучение модели на двух эпохах валлийских данных из набора allenai/MADLAD-400. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов.
Чекпойнт предназначен прежде всего как отправная точка для дальнейшего специализированного обучения LLM на валлийском языке. Его можно использовать для генерации текста на валлийском и последующей адаптации под конкретные задачи. Репозиторий содержит веса в формате safetensors.
Модель лицензирована по Apache-2.0; данные MADLAD-400 распространяются по лицензии ODC Attribution. Карточка описывает ограниченный этап обучения на корпусе валлийского языка, поэтому качество для иных языков и задач не установлено.
Модель описана как отправная точка для дальнейшего обучения, а не как завершённая специализированная система; качество для других языков и задач в карточке не охарактеризовано. Данные MADLAD-400 имеют отдельные условия лицензирования ODC Attribution.
README от автора на Hugging Face, как он его опубликовал
Mae'r model LLM yn seiliedig ar mistralai/Mistral-7B-v0.1, gyda hyfforddiant parhaus am 2 Epoch cyfan o ddata Cymreig o'r dataset allenai/MADLAD-400.
Pwrpas y model yw fod yn gychwyn i hyfforddiant cywrain pellach i greu casgliad o LLMs Cymreig penodol.
Contains information from allenai/MADLAD-400 which is made available under the ODC Attribution License.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…