Характеристики

Контекст: 32 768 токенов
Параметры: 7,1 млрд
Размер весов: 14,5 ГБ
Лицензия: Apache 2.0
Архитектура: mistral · dense
Базовая модель: Starling-LM-7B-beta
Библиотека: transformers
Опубликована: 17 апр 2024

Ссылки

Hugging Face arXiv 2403.19522

Open-StaMis-v02-stock

mayacinka

Генерация текстаТекст → текст

Объединённая 7,1-миллиардная модель на базе Mistral для генерации текста и диалогового общения.

19скачиваний за 30 дней1лайквеса обновлены17 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Open-StaMis-v02-stock — объединённая языковая модель на 7,1 млрд параметров, созданная автором репозитория с помощью mergekit и метода Model Stock. В основе объединения лежит mistral-community/Mistral-7B-v0.2; также использованы Nexusflow/Starling-LM-7B-beta, berkeley-nest/Starling-LM-7B-alpha и две версии openchat/openchat-3.5. Модель имеет плотную архитектуру MistralForCausalLM и распространяется в формате safetensors.

Модель предназначена для генерации текста и диалогового общения. Окно контекста составляет 32 768 токенов; в качестве типичных сценариев для моделей семейства OpenChat и Starling подходят ответы на вопросы, программирование и математические рассуждения. Данные карточки не подтверждают отдельную специализацию Open-StaMis-v02-stock в этих областях или поддержку конкретных естественных языков.

Модель распространяется по лицензии Apache-2.0. Характеристики качества и известные ограничения именно этого объединения в карточке не описаны.

Сценарии применения

генерация связных текстовых ответов
диалог с языковой моделью
ответы на общие вопросы
помощь с программированием
решение математических задач

Ограничения

Карточка не приводит оценок качества или специальных гарантий для этого объединения; результат может зависеть от формата промпта. Поддерживаемые естественные языки отдельно не перечислены.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

merge

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the Model Stock merge method using mistral-community/Mistral-7B-v0.2 as a base.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

models:
    - model: Nexusflow/Starling-LM-7B-beta
    - model: openchat/openchat-3.5-0106
    - model: openchat/openchat-3.5-1210
    - model: berkeley-nest/Starling-LM-7B-alpha
merge_method: model_stock
base_model: mistral-community/Mistral-7B-v0.2
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: 90755db