Mistral-7b with continued pretraining using Quiet-STaR (https://arxiv.org/abs/2403.09629) for generating 8 thought tokens before each output token.
Характеристики
- Контекст
- 32 768 токенов
- Параметры
- 7,1 млрд
- Размер весов
- 14,6 ГБ
- Архитектура
- quiet · dense
- Опубликована
- 25 мар 2024
Ссылки
Quiet-Star-Custom
Дообученная на основе Mistral-7B модель Quiet-STaR для генерации текста с предварительными токенами рассуждений.
529скачиваний за 30 дней11лайковвеса обновлены12 апр 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Crystalcareai/Quiet-Star-Custom — языковая модель, созданная на основе Mistral-7B и дообученная продолжением предварительного обучения с методом Quiet-STaR. Модель использует архитектуру QuietForCausalLM с плотной сетью и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов.
Модель предназначена для генерации текста с внутренними рассуждениями: перед каждым выходным токеном она генерирует восемь токенов мысли. В карточке указано использование корпуса Open Web Math, поэтому модель может быть полезна для генерации текста и рассуждений на математическом материале. Доступны веса в формате safetensors.
Карточка не сообщает результаты оценки качества или дополнительные сведения об ограничениях и лицензии, поэтому нельзя подтвердить уровень математических способностей и условия распространения. Модель рассчитана на текстовый ввод и генерацию текста.
Сценарии применения
- генерация текста с пошаговыми внутренними рассуждениями
- эксперименты с методом Quiet-STaR
- генерация ответов на математическом материале
- исследование языковых моделей с токенами мысли
Ограничения
Карточка не содержит результатов сравнительной оценки качества, поэтому способности к математическим рассуждениям нельзя считать подтверждёнными. Лицензия в предоставленных данных не указана.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
IV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модельIV.6Отраслевые задачиНаучные исследования, математика и новые материалыAI помогает формировать гипотезы, анализировать научные данные и ускорять открытие новых материалов и методов.39 задач4 120моделейI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.
- Класс архитектуры
- QuietForCausalLM
- Ревизия весов
- 3b797cc