Исправленная конфигурация Llama 3.1 8B Instruct для диалоговой генерации текста в средах, где исходная модель вызывает ошибку разбора rope_scaling.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
TroyDoesAI/Llama-3.1-8B-Instruct — исправленная конфигурация модели Llama 3.1 8B Instruct от Meta, подготовленная для пользователей, у которых исходная версия не запускалась из-за несовместимости формата параметра rope_scaling. Репозиторий предназначен для диалоговой генерации текста и содержит веса в формате Safetensors; архитектура — плотная причинная языковая модель LlamaForCausalLM с 7,5 млрд параметров и контекстом до 131072 токенов.
Модель принимает текстовые запросы и генерирует текстовые ответы в чат-сценариях. Конфигурационное исправление адресует ошибку разбора параметров RoPE в некоторых средах. Указана лицензия WTFPL. README не сообщает об отдельном дообучении или сравнительных оценках качества.
README описывает исправление конфигурации для конкретной ошибки совместимости, но не приводит оценок качества или дополнительных возможностей. Поддерживаемые естественные языки не указаны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Fixed the config file for those who could not run the original on Meta Page.
This is to help people with this error message:
ValueError: `rope_scaling` must be a dictionary with two fields, `type` and `factor`, got {'factor': 8.0, 'high_freq_factor': 4.0, 'low_freq_factor': 1.0, 'original_max_position_embeddings': 8192, 'rope_type': 'llama3'}
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…