/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
11,7 млрд
Лицензия
MIT
Архитектура
mistral · dense
Базовая модель
NeuralTrix-7B-dpo
Библиотека
transformers
Опубликована
24 фев 2024

rizla-9

Генерация текстаТекст → текст5 профессий

Модель семейства Mistral на 11,7 млрд параметров для генерации текста с контекстом до 32 768 токенов.

464скачиваний за 30 дней0лайковвеса обновлены24 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

rizla-9 — языковая модель для генерации текста, опубликованная пользователем rizla. По метаданным это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, 11,7 млрд параметров и контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers.

Карточка описывает объединение предварительно обученных языковых моделей методом passthrough с помощью mergekit. В конфигурации указаны локальные пути к компонентам, поэтому их идентификаторы и назначение установить нельзя. Модель предназначена для генерации текста; метаданные указывают английский язык. Лицензия — MIT.

Сценарии применения

  • генерация продолжений текста
  • подготовка черновиков и ответов на английском языке
  • создание текстового контента по заданному запросу

Ограничения

README указывает на объединение моделей из локальных путей, поэтому состав и происхождение компонентов нельзя проверить по карточке. Оценки качества и дополнительные ограничения применения не приведены.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

rizla9

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the passthrough merge method using /home/ubuntu/nvm/jas as a base.

Models Merged

The following models were included in the merge:

  • /home/ubuntu/garten

Configuration

The following YAML configuration was used to produce this model:

base_model:
  model:
    path: /home/ubuntu/jas
dtype: float16
merge_method: passthrough
slices:
- sources:
  - layer_range: [0, 29]
    model:
      model:
        path: /home/ubuntu/garten
- sources:
  - layer_range: [8, 32]
    model:
      model:
        path: /home/ubuntu/jas

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
364c0d9

0 моделей