Tülu 3 — дообученная языковая модель AllenAI на 7,5 млрд параметров для диалогов, следования инструкциям и решения разнообразных текстовых задач.

Подходит для: ответы на вопросы в диалоге на английском языке · следование инструкциям и выполнение заданий с ограничениями · решение математических задач и задач на рассуждение

Конвертированная в Safetensors модель GPT-2 для генерации и продолжения кода на нескольких языках программирования.

Подходит для: автодополнение фрагментов кода · генерация кода по текстовому запросу · продолжение незавершённого кода

Англоязычная модель AI2 на базе Llama 3.1 для диалогов, следования инструкциям и решения разнообразных задач.

Подходит для: ответы на вопросы в диалоге · выполнение инструкций на английском языке · решение математических задач MATH и GSM8K

Англоязычная инструкционная модель AI2 на базе Llama 3.1 с 7,5 млрд параметров для диалогов, ответов на вопросы и решения разнообразных задач.

Подходит для: создание чат-бота для диалогов на английском языке · ответы на вопросы по общим темам · решение математических задач и примеров

Производная модели amd/Instella-MoE-16B-A3B-Think. Разработанная AMD MoE-языковая модель для генерации текста и диалогов с контекстом 32 768 токенов и поддержкой интерфейса вызова инструментов.

Подходит для: генерация ответов в диалоговом помощнике · создание и продолжение текстов · подготовка черновиков и идей по текстовому запросу

Дообученная языковая модель Qwen1.5-MoE для генерации текста и дальнейшей адаптации к диалоговым сценариям.

Подходит для: дальнейшее SFT-постобучение базовой языковой модели · продолжение предобучения на специализированных текстах · создание диалоговой модели после дополнительного обучения

Англоязычная чат-модель Tulu V2.5 на 13 млрд параметров, дообученная методом PPO для следования инструкциям и диалогов с помощником.

Подходит для: ответы на вопросы в диалоге с помощником · выполнение инструкций на английском языке · генерация и продолжение англоязычного текста

Англоязычная 70-миллиардная модель AllenAI на базе Llama 3.1 для диалогов, следования инструкциям и рассуждений.

Подходит для: ответы на вопросы и ведение диалога на английском языке · выполнение инструкций и запросов пользователя · решение математических задач и задач на рассуждение

Англоязычная чат-модель Tulu V2.5 на 13 млрд параметров, дообученная методом PPO для генерации ответов на инструкции и диалогов с помощником.

Подходит для: ответы на инструкции на английском языке · диалоги с виртуальным помощником · генерация текста по запросу

Англоязычная модель оценки ответов Tulu V2.5 на 68,7 млрд параметров для ранжирования текстовых ответов и обучения PPO по предпочтениям.

Подходит для: оценка качества ответа чат-бота · сравнение двух ответов на один запрос · ранжирование ответов по предпочтительности

Англоязычная чат-модель Tulu на 12,9 млрд параметров, дообученная методом DPO на выборке Nectar для ответов на инструкции и диалогов с помощником.

Подходит для: ответы на вопросы и инструкции на английском языке · диалоги с текстовым ИИ-помощником · генерация связных англоязычных текстов

Англоязычная value-модель Tulu V2.5 на 13 млрд параметров для исследований PPO и обучения с подкреплением на основе предпочтений.

Подходит для: оценивание состояний или ответов в PPO-обучении помощника · эксперименты с RLHF на данных предпочтений UltraFeedback · исследование декодирования с использованием value-модели Tulu

Исследовательская value-модель Tulu V2.5 на базе Llama для оценки токенов и экспериментов с PPO-декодированием.

Подходит для: оценка ценности токенов в PPO · исследования обучения языковых моделей по предпочтениям · улучшение декодирования с PPO-моделями Tulu

Англоязычная чат-модель AllenAI на базе Llama 2 7B, дообученная методом DPO для ответов на инструкции и диалоговые запросы.

Подходит для: ответы на вопросы в диалоговом формате · выполнение текстовых инструкций · составление черновиков и кратких текстов

Англоязычная чат-модель Tulu на базе Llama 3, дообученная с помощью PPO для ответов на инструкции и диалогов.

Подходит для: ответы на вопросы и выполнение текстовых инструкций · ведение англоязычных диалогов с виртуальным помощником · генерация черновиков и пояснений по запросу

Англоязычная диалоговая модель Llama на 68,7 млрд параметров, созданная экстраполяцией весов Tulu-2 для генерации ответов с улучшенным согласованием с человеческими предпочтениями.

Подходит для: ответы на вопросы в диалоговом интерфейсе · создание чат-бота общего назначения на английском языке · генерация и переформулирование текстовых ответов

Англоязычная reward-модель Llama 3 Tulu V2 оценивает ответы помощника для обучения RLHF и PPO.

Подходит для: оценка качества ответов языкового помощника · сравнение вариантов ответа по предпочтительности · обучение языковой модели методом PPO

Экспериментальный чекпойнт Tülu 3 на 70 млрд параметров с отсутствующей LM head, опубликованный для исследования способов её восстановления.

Подходит для: исследование восстановления языковой головы в большой языковой модели · анализ последствий ошибки сохранения контрольной точки · эксперименты с восстановлением генерации текста из весов модели

Англоязычная чат-модель AllenAI на архитектуре Llama, дообученная PPO для диалогов и следования инструкциям.

Подходит для: ответы на англоязычные инструкции · ведение диалога на английском языке · исследование влияния PPO на поведение чат-модели

Англоязычная чат-модель AllenAI на базе Llama 2 7B для ответов на инструкции и диалоговых запросов.

Подходит для: ответы на вопросы в диалоге · выполнение текстовых инструкций · составление черновиков и объяснений

Англоязычная модель AI2 на базе Tülu 3 и Llama 3.1 для классификации и оценки текстовых последовательностей.

Подходит для: классификация текстовых последовательностей · оценка и ранжирование ответов по предпочтительности · отбор предпочтительных ответов в системе сравнения вариантов

Англоязычная чат-модель Tulu V2.5 на 13 млрд параметров, дообученная методом DPO для выполнения инструкций и генерации текста.

Подходит для: ответы на вопросы в англоязычном чате · выполнение англоязычных инструкций · генерация и продолжение текста

Англоязычная reward-модель на базе Llama оценивает ответы помощника для обучения с подкреплением на основе предпочтений и PPO.

Подходит для: оценка качества ответов языкового помощника · обучение reward-модели на данных предпочтений · использование в PPO для дообучения чат-модели

Англоязычная модель AI2 на базе Llama 3.1 для диалогов, следования инструкциям, ответов на вопросы и решения математических задач.

Подходит для: диалоговый помощник на английском языке · ответы на вопросы по общим темам · решение задач по математике