/ Модель
Каталог

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
32,1 ГБ
Лицензия
Llama 3
Архитектура
llama · dense
Базовая модель
llama-3-8b-Instruct-bnb-4bit
Опубликована
4 мая 2024

Ссылки

Hugging Face

Llama-3-8B-Instruct-Coder

rombodawg
Генерация текстаТекст → текст7 профессий

Дообученная на инструкциях по программированию модель Llama 3 8B для генерации кода и диалоговых ответов.

48скачиваний за 30 дней54лайкавеса обновлены23 июл 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Llama-3-8B-Instruct-Coder — дообученная модель на основе Llama 3 8B Instruct от Meta, опубликованная rombodawg. Она обучалась на наборах CodeFeedback и Code Feedback Filtered Instruction и предназначена для генерации кода и ответов на запросы о программировании в диалоговом формате.

Модель использует плотную архитектуру LlamaForCausalLM с 7,5 млрд параметров и контекстом до 8192 токенов. В карточке указано обучение методом Qalore, сочетающим QLoRA и приёмы GaLore для снижения требований к видеопамяти. Поддерживается английский язык; модель доступна в форматах PyTorch и safetensors.

Для использования действует лицензия Llama 3. Карточка не приводит результатов оценки качества или подробных ограничений; качество ответов следует проверять на целевых задачах, особенно при использовании сгенерированного кода.

Сценарии применения

  • генерация фрагментов кода по текстовому запросу
  • объяснение кода и программных концепций
  • помощь в решении задач программирования
  • диалоговые ответы на вопросы о разработке

Ограничения

В карточке не приведены оценки качества или перечень поддерживаемых языков программирования. Сгенерированный код и объяснения требуют проверки.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейII.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

llama-3-8B-Instruct-Coder

image/jpeg

This model is llama-3-8b-instruct from Meta (uploaded by unsloth) trained on the full 65k Codefeedback dataset + the additional 150k Code Feedback Filtered Instruction dataset combined. You can find that dataset linked below. This AI model was trained with the new Qalore method developed by my good friend on Discord and fellow Replete-AI worker walmartbag.

The Qalore method uses Qlora training along with the methods from Galore for additional reductions in VRAM allowing for llama-3-8b to be loaded on 14.5 GB of VRAM. This allowed this training to be completed on an RTX A4000 16GB in 130 hours for less than $20.

Qalore notebook for training:

Join the Replete-Ai discord! We are a great and Loving community!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
ef91c8d

0 моделей

    Создать бенчмарк