Tai is a LLM trained on LLaMA-2-70B. Tai was trained as a general purpose Large Language Model, to be helpful in answering questions related to STEM subjects.
Prompt Format:
SYSTEM:
USER:
ASSISTANT:
Характеристики
- Контекст
- 4 096 токенов
- Параметры
- 68,7 млрд
- Размер весов
- 138 ГБ
- Лицензия
- Llama 2
- Архитектура
- llama · dense
- Опубликована
- 29 окт 2023
Ссылки
Tai
Tai — дообученная на LLaMA 2 70B языковая модель для генерации текста и ответов на вопросы, особенно по STEM-темам.
58скачиваний за 30 дней3лайкавеса обновлены15 ноя 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Tai — большая языковая модель Metaspectral, дообученная на LLaMA 2 70B. Она предназначена для генерации текста и ответов на вопросы общего характера, с акцентом на STEM-дисциплины. Модель использует плотную архитектуру LLaMA и поддерживает контекст до 4096 токенов.
Tai принимает текстовые запросы и генерирует текст. Карточка приводит формат диалога с ролями SYSTEM, USER и ASSISTANT. Модель выпущена в формате PyTorch по лицензии Llama 2.
Сценарии применения
- ответы на вопросы по математике и естественным наукам
- объяснение STEM-концепций
- генерация текстовых ответов на общие вопросы
Ограничения
Модель обучена с акцентом на STEM-вопросы, поэтому её ответы в других областях могут быть менее надёжны. Контекст ограничен 4096 токенами.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
IV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модельI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…
- Класс архитектуры
- LlamaForCausalLM
- Ревизия весов
- 847d327