Характеристики

Лицензия: Apache 2.0
Опубликована: 4 апр 2024

Ссылки

Young-Children-Storyteller-Mistral-7B-GGUF

Генерация текстаТекст → текст3 профессии

Young-Children-Storyteller-Mistral-7B — языковая модель для генерации текстов, ориентированная на создание историй для маленьких детей.

970скачиваний за 30 дней7лайковвеса обновлены4 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Исходная модель разработана ajibawa-2023, а представленная версия представляет собой набор GGUF-квантизаций, подготовленных bartowski с использованием llama.cpp. Модель обучалась на датасете Children-Stories-Collection и предназначена прежде всего для генерации детских рассказов, а также образовательных и познавательных текстов на английском языке.

В основе лежит архитектура Mistral с 7 миллиардами параметров. Модель работает в текстовой модальности и распространяется в формате GGUF, совместимом с llama.cpp и связанными инструментами локального запуска. Доступны варианты квантизации от Q8_0 до Q2_K с размером файлов примерно от 2,71 до 7,69 ГБ. В README не указаны размер контекста, требования к оперативной памяти, дополнительные языки или результаты формальной оценки качества. Более высокие варианты квантизации обычно лучше сохраняют качество, тогда как низкие требуют меньше ресурсов, но могут заметно уступать по качеству генерации.

Модель лицензирована по Apache License 2.0. Ее сильные стороны — специализация на детских историях, возможность локального использования и широкий выбор квантизаций под разные ограничения по памяти. Ограничения включают ориентацию на английский язык, неизвестные параметры контекста и отсутствие опубликованных количественных оценок; качество и безопасность содержания следует проверять перед использованием с детьми.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llamacpp Quantizations of Young-Children-Storyteller-Mistral-7B

Using llama.cpp release b2589 for quantization.

Original model: https://huggingface.co/ajibawa-2023/Young-Children-Storyteller-Mistral-7B

Download a file (not the whole branch) from below:

Filename	Quant type	File Size	Description
Young-Children-Storyteller-Mistral-7B-Q8_0.gguf	Q8_0	7.69GB	Extremely high quality, generally unneeded but max available quant.
Young-Children-Storyteller-Mistral-7B-Q6_K.gguf	Q6_K	5.94GB	Very high quality, near perfect, recommended.
Young-Children-Storyteller-Mistral-7B-Q5_K_M.gguf	Q5_K_M	5.13GB	High quality, very usable.
Young-Children-Storyteller-Mistral-7B-Q5_K_S.gguf	Q5_K_S	4.99GB	High quality, very usable.
Young-Children-Storyteller-Mistral-7B-Q5_0.gguf	Q5_0	4.99GB	High quality, older format, generally not recommended.
Young-Children-Storyteller-Mistral-7B-Q4_K_M.gguf	Q4_K_M	4.36GB	Good quality, uses about 4.83 bits per weight.
Young-Children-Storyteller-Mistral-7B-Q4_K_S.gguf	Q4_K_S	4.14GB	Slightly lower quality with small space savings.
Young-Children-Storyteller-Mistral-7B-IQ4_NL.gguf	IQ4_NL	4.15GB	Decent quality, similar to Q4_K_S, new method of quanting,
Young-Children-Storyteller-Mistral-7B-IQ4_XS.gguf	IQ4_XS	3.94GB	Decent quality, new method with similar performance to Q4.
Young-Children-Storyteller-Mistral-7B-Q4_0.gguf	Q4_0	4.10GB	Decent quality, older format, generally not recommended.
Young-Children-Storyteller-Mistral-7B-Q3_K_L.gguf	Q3_K_L	3.82GB	Lower quality but usable, good for low RAM availability.
Young-Children-Storyteller-Mistral-7B-Q3_K_M.gguf	Q3_K_M	3.51GB	Even lower quality.
Young-Children-Storyteller-Mistral-7B-IQ3_M.gguf	IQ3_M	3.28GB	Medium-low quality, new method with decent performance.
Young-Children-Storyteller-Mistral-7B-IQ3_S.gguf	IQ3_S	3.18GB	Lower quality, new method with decent performance, recommended over Q3 quants.
Young-Children-Storyteller-Mistral-7B-Q3_K_S.gguf	Q3_K_S	3.16GB	Low quality, not recommended.
Young-Children-Storyteller-Mistral-7B-Q2_K.gguf	Q2_K	2.71GB	Extremely low quality, not recommended.

Want to support my work? Visit my ko-fi page here: https://ko-fi.com/bartowski

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 87400c1