/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
MIT
Архитектура
mistral · dense
Опубликована
10 апр 2024

SpydazWeb_AI_Swahili_Project

Генерация текстаТекст → текст5 профессий

Mistral-модель на 7,1 млрд параметров для генерации текста на суахили и английском, а также учебных и программных задач.

85скачиваний за 30 дней4лайкавеса обновлены21 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

LeroyDyer разработал SpydazWeb AI Swahili Project — языковую модель Mistral с 7,1 млрд параметров для генерации текста. По описанию автора, модель дообучалась на суахили и предназначена также для задач на английском, программирования, учебных заданий и работы с религиозными и историческими текстами. Автор упоминает применение в сценариях RAG и дальнейшую адаптацию LoRA-адаптерами, но не приводит результатов оценки качества.

Модель принимает текст и генерирует текст; контекстное окно составляет 32 768 токенов. В метаданных указаны английский и суахили, а также датасеты CulturaX и пары предложений английский—суахили. Репозиторий содержит веса safetensors и распространяется по лицензии MIT. README отмечает, что модель может уступать другим моделям серии, и предупреждает о возможной потере ранее усвоенных навыков при применении неподходящего LoRA-адаптера.

Сценарии применения

  • генерация ответов на суахили
  • генерация и продолжение текста на английском
  • помощь с учебными заданиями
  • генерация и разбор программного кода
  • подготовка ответов по религиозным и историческим текстам

Ограничения

Автор предупреждает, что модель может уступать другим моделям серии; качество и заявленные сценарии не подтверждены оценками в карточке. Неподходящий LoRA-адаптер может ухудшить ранее усвоенные навыки.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

UPDATED !!!## UPDATED !!!

this model has been updted for rag and tasks in swahili or english as well as prgramming and other school works stuff and bible ! as well as other sacred historical texts also !

This model will be fully swahili speaking despite being adapted from and english speaking model : All training applied will be in swahili or other dialects @

UPDATED !!!

undergoing fine tuning stages as well as merging stages and retuning stages ! Searching for instruct datasets in swahili

this is a super fine tuned model .... but it may be behind other models: in the series : Hence this model is for applying lora adapter found on the hub and other created for other models : once applying a lora , set the model in train mode: model.train() And Train on a previoulsy trained dataset before merging the new lora : make sure the prvious dataset still is inline with the model : Often a lora can nudge the model the wrong way and loose some of its previous training as it applys weights on top of the odel which may net be consistant with your model especially if the lora was not trained for this model (but still for the same series (ie mistral))..

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
fd997cc

0 моделей