Характеристики

Лицензия: Своя лицензия
Базовая модель: llm-compiler-13b-ftd
Библиотека: gguf
Опубликована: 28 июн 2024

Ссылки

llm-compiler-13b-ftd-IMat-GGUF

Генерация текстаТекст → текст3 профессии

llm-compiler-13b-ftd-IMat-GGUF — это GGUF-квантизированная версия модели LLM Compiler 13B FTD, разработанной Meta и преобразованной в GGUF с использованием llama.cpp пользователем legraphista.

892скачиваний за 30 дней0лайковвеса обновлены28 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель основана на Code Llama и предназначена для генерации текста в задачах оптимизации компиляторов, включая подбор оптимизаций LLVM для уменьшения размера кода и преобразование x86_64 или ARM assembly в LLVM IR.

Модель содержит 13 млрд параметров и использует авторегрессионную архитектуру на основе оптимизированного Transformer. Исходная модель обучалась на LLVM IR, x86_64, ARM и CUDA assembly; заявленное контекстное окно составляет 16 000 токенов. Она ориентирована на английский язык, языки программирования, LLVM IR и assembly. Репозиторий GGUF предлагает варианты от 1-битных до 16-битных, включая квантизации с IMatrix, что уменьшает требования к памяти, но может снижать точность по сравнению с исходными BF16 или FP16.

Сильная сторона модели — специализация на compiler reasoning, оптимизации размера кода и дизассемблировании; Meta сообщала о лучших результатах 13B FTD среди вариантов семейства в этих задачах. Ограничения включают узкую предметную область, возможные ошибки и необходимость проверять предложенные оптимизации и результаты декомпиляции. Использование регулируется специальной лицензией Meta LLM Compiler и Acceptable Use Policy; для распространения производных материалов предусмотрены дополнительные требования, включая атрибуцию.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.3Разработка и данныеРефакторинг, миграция и модернизацияAI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения.20 задач9 764модели II.11Разработка и данныеКибербезопасность и приватностьAI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты.25 задач4 232модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

llm-compiler-13b-ftd-IMat-GGUF

Llama.cpp imatrix quantization of facebook/llm-compiler-13b-ftd

Original Model: facebook/llm-compiler-13b-ftd
Original dtype: BF16 (bfloat16)
Quantized by: llama.cpp b3256
IMatrix dataset: here

Files
Downloading using huggingface-cli
Inference
- Llama.cpp
FAQ
- Why is the IMatrix not applied everywhere?
- How do I merge a split GGUF?

Files

IMatrix

Status: ✅ Available
Link: here

Common Quants

Filename	Quant type	File Size	Status	Uses IMatrix	Is Split
llm-compiler-13b-ftd.Q8_0.gguf	Q8_0	13.83GB	✅ Available	⚪ Static	📦 No
llm-compiler-13b-ftd.Q6_K.gguf	Q6_K	10.68GB	✅ Available	⚪ Static	📦 No
llm-compiler-13b-ftd.Q4_K.gguf	Q4_K	7.87GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.Q3_K.gguf	Q3_K	6.34GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.Q2_K.gguf	Q2_K	4.85GB	✅ Available	🟢 IMatrix	📦 No

All Quants

Filename	Quant type	File Size	Status	Uses IMatrix	Is Split
llm-compiler-13b-ftd.BF16.gguf	BF16	26.03GB	✅ Available	⚪ Static	📦 No
llm-compiler-13b-ftd.FP16.gguf	F16	26.03GB	✅ Available	⚪ Static	📦 No
llm-compiler-13b-ftd.Q8_0.gguf	Q8_0	13.83GB	✅ Available	⚪ Static	📦 No
llm-compiler-13b-ftd.Q6_K.gguf	Q6_K	10.68GB	✅ Available	⚪ Static	📦 No
llm-compiler-13b-ftd.Q5_K.gguf	Q5_K	9.23GB	✅ Available	⚪ Static	📦 No
llm-compiler-13b-ftd.Q5_K_S.gguf	Q5_K_S	8.97GB	✅ Available	⚪ Static	📦 No
llm-compiler-13b-ftd.Q4_K.gguf	Q4_K	7.87GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.Q4_K_S.gguf	Q4_K_S	7.42GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.IQ4_NL.gguf	IQ4_NL	7.37GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.IQ4_XS.gguf	IQ4_XS	6.96GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.Q3_K.gguf	Q3_K	6.34GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.Q3_K_L.gguf	Q3_K_L	6.93GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.Q3_K_S.gguf	Q3_K_S	5.66GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.IQ3_M.gguf	IQ3_M	5.98GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.IQ3_S.gguf	IQ3_S	5.66GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.IQ3_XS.gguf	IQ3_XS	5.36GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.IQ3_XXS.gguf	IQ3_XXS	4.96GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.Q2_K.gguf	Q2_K	4.85GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.Q2_K_S.gguf	Q2_K_S	4.44GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.IQ2_M.gguf	IQ2_M	4.52GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.IQ2_S.gguf	IQ2_S	4.20GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.IQ2_XS.gguf	IQ2_XS	3.89GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.IQ2_XXS.gguf	IQ2_XXS	3.54GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.IQ1_M.gguf	IQ1_M	3.14GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-13b-ftd.IQ1_S.gguf	IQ1_S	2.90GB	✅ Available	🟢 IMatrix	📦 No

Downloading using huggingface-cli

If you do not have hugginface-cli installed:

pip install -U "huggingface_hub[cli]"

Download the specific file you want:

huggingface-cli download legraphista/llm-compiler-13b-ftd-IMat-GGUF --include "llm-compiler-13b-ftd.Q8_0.gguf" --local-dir ./

If the model file is big, it has been split into multiple files. In order to download them all to a local folder, run:

huggingface-cli download legraphista/llm-compiler-13b-ftd-IMat-GGUF --include "llm-compiler-13b-ftd.Q8_0/*" --local-dir ./
# see FAQ for merging GGUF's

Inference

Llama.cpp

llama.cpp/main -m llm-compiler-13b-ftd.Q8_0.gguf --color -i -p "prompt here"

FAQ

Why is the IMatrix not applied everywhere?

According to this investigation, it appears that lower quantizations are the only ones that benefit from the imatrix input (as per hellaswag results).

How do I merge a split GGUF?

Make sure you have gguf-split available
- To get hold of gguf-split, navigate to https://github.com/ggerganov/llama.cpp/releases
- Download the appropriate zip for your system from the latest release
- Unzip the archive and you should be able to find gguf-split
Locate your GGUF chunks folder (ex: llm-compiler-13b-ftd.Q8_0)
Run gguf-split --merge llm-compiler-13b-ftd.Q8_0/llm-compiler-13b-ftd.Q8_0-00001-of-XXXXX.gguf llm-compiler-13b-ftd.Q8_0.gguf
- Make sure to point gguf-split to the first chunk of the split.

Got a suggestion? Ping me @legraphista!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 504321e