Это 4-битная квантованная версия модели meta-llama/Llama-3.3-70B-Instruct, созданная и протестированная The Kaitchup.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель сериализована в формате GPTQ с использованием AutoRound и симметричной квантизации.
Модель предназначена для задач генерации текста и следования инструкциям на английском языке, включая диалоговые и другие NLP-сценарии, поддерживаемые исходной Llama 3.3 70B Instruct. Ключевая характеристика — размер исходной модели 70 млрд параметров и 4-битное представление весов, что уменьшает требования к памяти по сравнению с полной версией и делает запуск на совместимом GPU более доступным.
К преимуществам относятся сохранение возможностей большой instruct-модели при сниженных требованиях к памяти, а также совместимость с инструментами и форматом GPTQ. Ограничения связаны с использованием квантования, которое может влиять на точность и качество генерации; сведения о контексте, поддерживаемых модальностях, производительности и конкретных требованиях к оборудованию в README не указаны. Модель распространяется по лицензии Llama 3.3.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is meta-llama/Llama-3.3-70B-Instruct quantized with AutoRound (symmetric quantization) and serialized with the GPTQ format in 4-bit. The model has been created, tested, and evaluated by The Kaitchup.
Details on the quantization process and how to use the model here: How to Quantize and Run Llama 3.3 70B Instruct on Your GPU
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…