Характеристики

Контекст: 131 072 токена
Параметры: 7,5 млрд
Размер весов: 16,1 ГБ
Лицензия: Apache 2.0
Архитектура: llama · dense
Базовая модель: Llama-3.1-8B
Библиотека: transformers
Опубликована: 7 дек 2024

Ссылки

Llama-TI-8B

Генерация текстаТекст → текст15 профессий

Текстовая модель на основе Llama 3.1 8B для генерации, рассуждений, решения задач, письма, программирования и анализа длинных текстов.

36скачиваний за 30 дней2лайкавеса обновлены8 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

GPQA
GPQA Raw · выше — лучше
Результат
0,2961
Open LLM v2 · архив
Публичная таблицадругая ревизия
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
Результат
0,1964
Open LLM v2 · архив
Публичная таблицадругая ревизия
BBH
BBH Raw · выше — лучше
Результат
0,5201
Open LLM v2 · архив
Публичная таблицадругая ревизия
MMLU-PRO
MMLU-PRO Raw · выше — лучше
Результат
0,344
Open LLM v2 · архив
Публичная таблицадругая ревизия
MUSR
MUSR Raw · выше — лучше
Результат
0,4103
Open LLM v2 · архив
Публичная таблицадругая ревизия
IFEval
IFEval Raw · выше — лучше
Результат
0,288
Open LLM v2 · архив
Публичная таблицадругая ревизия

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Llama-TI-8B — текстовая авторегрессионная модель семейства Llama, разработанная и загруженная ehristoforu на основе Meta Llama 3.1 8B. В модели сохранена архитектура LlamaForCausalLM; README указывает на дополнительное обучение и слияние моделей. Число параметров — 7,5 млрд по метаданным, контекст — до 131 072 токенов. Распространяется в формате safetensors по лицензии Apache-2.0.

Модель предназначена для генерации текста, рассуждений, решения математических и физических задач, творческого письма, программирования и анализа длинных текстов. README заявляет об улучшениях в математике, биологии, рассуждениях и письме; модель ориентирована на многоязычную генерацию, однако конкретные поддерживаемые естественные языки не перечислены. Доступна базовая версия, а чат-версия вынесена в отдельный репозиторий.

Сценарии применения

решение математических и физических задач
логические рассуждения по текстовым запросам
написание творческих текстов на разных языках
генерация и анализ кода
анализ длинных документов

Ограничения

README не приводит количественных оценок качества и не перечисляет конкретные поддерживаемые языки; заявленные улучшения не сопровождаются результатами бенчмарков. Это базовая модель, а чат-версия предоставляется отдельно.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llama3.1 8B TI

Llama TI is an improved Llama (from Meta AI), some aspects of the model have been revised and some features have been added.

Info

Main

The model is based on Meta-Llama-3.1-8B, and has the same 8.03B parameters. The Llama3 architecture (LlamaForCausalLM) has been preserved and the model launch methods are the same.

Differences

Thanks to additional training and advanced merging, it was possible to improve mathematical, biological, reasoning and writing skills.

Now the model can:

Count well and solve mathematical/physical problems
Reason/think logically
Write creatively (in many languages)
Code well
Process/analyze large texts

Where is the chat version (instruct)?

It is available here!

Special thanks to:

Meta AI, NVIDIA, Arcee AI, SkyWork, NousReaserch, Unsloth and Project Fluently.

Developed and uploaded by ehristoforu.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 0b44aed