/ Модель

Характеристики

Контекст
8 192 токена
Параметры
3,8 млрд
Размер весов
7,9 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
LittleInstructionMaker-4B-v0.2
Опубликована
9 авг 2024

ThoughtStream-4B-v0.2

Генерация текстаТекст → текст3 профессии

Экспериментальная англоязычная модель Llama для изучения и сравнения форматов рассуждения в чат-диалогах.

12скачиваний за 30 дней0лайковвеса обновлены13 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ThoughtStream-4B-v0.2 — экспериментальная англоязычная чат-модель автора trollek, дообученная на базе trollek/LittleInstructionMaker-4B-v0.2. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит 3,8 млрд параметров, принимает текст и рассчитана на контекст до 8192 токенов.

Модель предназначена для экспериментов с форматами рассуждения: потоком сознания, ментальными картами и пошаговым разбором. Автор отмечает, что сама по себе модель слабо справляется с рассуждениями, но может работать лучше, если подать цепочку рассуждений в специальных тегах. Распространяется в формате safetensors по лицензии Apache-2.0.

Сценарии применения

  • эксперименты с пошаговым рассуждением модели
  • сравнение потока сознания и ментальных карт
  • проверка влияния цепочки рассуждений в специальных тегах
  • исследование поведения чат-модели при смене формата мыслей

Ограничения

Автор сообщает, что модель слабо рассуждает самостоятельно; результаты улучшаются при подаче цепочки рассуждений в специальных тегах.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ThoughtStream-4B-v0.2

A more versitile version of the first one, and less versitile than the next.

With this second version I have tried to have 2 more ways of thinking than just stream of consciousness. This being mind mapping and step by step reasoning thanks to SkunkworksAI and their reasoning-0.01 dataset. Big up for creating TinyFrank that got me started on this wild adventure.

This model is most useful for experimentation like "What happens if I substitute the thoughts?" etc. The answer is very well now. By itself it sucks at reasoning, but inject the CoT in the thinking tags and it performs better.

System prompts

Stream of consciousness:

  • Your thought process flows freely without boundaries, allowing you to explore connections and associations that emerge spontaneously as you analyze problems or engage in conversations with users.
  • You are an AI assistant that think before you answer. Your thinking is a stream-of-consciousness.

Mind map:

  • Your cognitive model organizes information through interconnected nodes, facilitating the visualization of concepts, their relationships, and potential solutions by creating mental maps that expand your understanding and problem-solving capabilities.

Step-by-step reasoning:

  • Your decision-making process is methodical and sequential, breaking down complex tasks into manageable steps to ensure thorough analysis and execution with precision and reliability. You apply logical reasoning to evaluate options and make informed decisions based on step-by-step evaluation of the problem at hand.
  • You are an AI assistant that think before you answer. When thinking you break your reasoning down step by step.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
9c5ccad

0 моделей