Характеристики

Контекст: 32 768 токенов
Параметры: 785 млн
Лицензия: Apache 2.0
Архитектура: mistral · dense
Опубликована: 13 мар 2024

Ссылки

Hugging Face

mistral-sliced

arcee-ai

Генерация текстаТекст → текст3 профессии

Тестовый срез Mistral-7B для экспериментов с генерацией текста, не предназначенный для связных ответов.

532скачиваний за 30 дней0лайковвеса обновлены13 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

arcee-ai/mistral-sliced — экспериментальный срез базовой модели mistralai/Mistral-7B-v0.1, созданный с помощью mergekit. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 785,4 млн параметров; конфигурация README использует слои 0–3 и метод passthrough. Модель предназначена для тестирования и не рассчитана на связную генерацию текста.

Модель принимает текст и выдаёт текст. Метаданные указывают контекст до 32 768 токенов, однако качество генерации ограничено усечённой структурой. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0.

Сценарии применения

проверка загрузки и запуска модели Mistral
эксперименты с объединением и срезами моделей через mergekit
тестирование конвейера text-generation

Ограничения

README предупреждает, что модель не предназначена для связной генерации текста. Веса получены срезом первых слоёв базовой модели, поэтому обычное качество полноценной Mistral-7B ожидать не следует.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Details

This model represents a sliced variant derived from the mistralai/Mistral-7B-v0.1 base model using the mergekit.

Model Description

The model was created by slicing the mistralai/Mistral-7B-v0.1 base model with mergekit, resulting in a model with 916,484,096 parameters.

Please note, this model is intended for testing purposes and is not designed to generate coherent text.

🧩 Configuration

slices:
  - sources:
      - model: mistralai/Mistral-7B-v0.1
        layer_range: [0, 3]

merge_method: passthrough
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: b777ca5