Mistral-7b with continued pretraining using Quiet-STaR (https://arxiv.org/abs/2403.09629) for generating 8 thought tokens before each output token.
Характеристики
- Контекст
- 32 768 токенов
- Параметры
- 7,1 млрд
- Размер весов
- 14,6 ГБ
- Архитектура
- mistral · dense
- Опубликована
- 18 мар 2024
Ссылки
quietstar-8-ahead
Производная модели Crystalcareai/Quiet-Star-Custom. Дообученная на основе Mistral-7B модель Quiet-STaR для генерации текста с предварительными токенами рассуждений.
74скачиваний за 30 дней90лайковвеса обновлены23 мар 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Карточка модели ezelikman/quietstar-8-ahead на Hugging Face совпадает с карточкой Crystalcareai/Quiet-Star-Custom, поэтому описание составлено по ней.
Crystalcareai/Quiet-Star-Custom — языковая модель, созданная на основе Mistral-7B и дообученная продолжением предварительного обучения с методом Quiet-STaR. Модель использует архитектуру QuietForCausalLM с плотной сетью и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов.
Модель предназначена для генерации текста с внутренними рассуждениями: перед каждым выходным токеном она генерирует восемь токенов мысли. В карточке указано использование корпуса Open Web Math, поэтому модель может быть полезна для генерации текста и рассуждений на математическом материале. Доступны веса в формате safetensors.
Карточка не сообщает результаты оценки качества или дополнительные сведения об ограничениях и лицензии, поэтому нельзя подтвердить уровень математических способностей и условия распространения. Модель рассчитана на текстовый ввод и генерацию текста.
Сценарии применения
- генерация текста с пошаговыми внутренними рассуждениями
- эксперименты с методом Quiet-STaR
- генерация ответов на математическом материале
- исследование языковых моделей с токенами мысли
Ограничения
Карточка не содержит результатов сравнительной оценки качества, поэтому способности к математическим рассуждениям нельзя считать подтверждёнными. Лицензия в предоставленных данных не указана.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
IV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модельI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельIV.6Отраслевые задачиНаучные исследования, математика и новые материалыAI помогает формировать гипотезы, анализировать научные данные и ускорять открытие новых материалов и методов.39 задач4 120моделей
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- MistralForCausalLM
- Ревизия весов
- f86e33e