Характеристики

Контекст: 32 768 токенов
Параметры: 10,6 млрд
Архитектура: mistral · dense
Библиотека: transformers
Опубликована: 3 апр 2024

Ссылки

Hugging Face

Sue_Ann_11B

Datters

Генерация текстаТекст → текст

Объединённая модель Mistral на 10,6 млрд параметров для генерации текста с контекстом до 32 768 токенов.

17скачиваний за 30 дней1лайквеса обновлены3 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Datters/Sue_Ann_11B — объединённая языковая модель на архитектуре Mistral с плотной структурой и примерно 10,6 млрд параметров. Она создана методом passthrough с помощью mergekit из предварительно обученных языковых моделей; в README указана одна исходная модель Sue_Ann-7b-final, но её идентификатор на Hugging Face не приведён.

Модель предназначена для генерации текста. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. В репозитории представлены веса Safetensors для библиотеки Transformers.

README не описывает конкретные сценарии, языки или результаты оценки качества, поэтому их нельзя уверенно уточнить. Лицензия в предоставленных данных не указана.

Сценарии применения

генерация продолжения текста
создание черновиков и ответов по текстовому запросу
эксперименты с объединёнными языковыми моделями

Ограничения

README не приводит оценки качества и не уточняет поддерживаемые языки или специализацию модели. Лицензия не установлена по предоставленным данным.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Sue_Ann_Franken

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the passthrough merge method.

Models Merged

The following models were included in the merge:

../../../mnt/e/text-generation-webui/models/Sue_Ann-7b-final

Configuration

The following YAML configuration was used to produce this model:

dtype: float16
merge_method: passthrough
slices:
  - sources:
    - model: ../../../mnt/e/text-generation-webui/models/Sue_Ann-7b-final
      layer_range: [0,9]
  - sources:
    - model: ../../../mnt/e/text-generation-webui/models/Sue_Ann-7b-final
      layer_range: [5,14]
  - sources:
    - model: ../../../mnt/e/text-generation-webui/models/Sue_Ann-7b-final
      layer_range: [10,19]
  - sources:
    - model: ../../../mnt/e/text-generation-webui/models/Sue_Ann-7b-final
      layer_range: [15,24]
  - sources:
    - model: ../../../mnt/e/text-generation-webui/models/Sue_Ann-7b-final
      layer_range: [20,32]

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: f474360