Характеристики

Лицензия: Своя лицензия
Базовая модель: llm-compiler-7b
Библиотека: gguf
Опубликована: 27 июн 2024

Ссылки

Hugging Face

llm-compiler-7b-IMat-GGUF

legraphista

Генерация текстаТекст → текст10 профессий

LLM Compiler 7B — языковая модель, разработанная Meta и представленная в формате GGUF-представлением legraphista.

1 035скачиваний за 30 дней0лайковвеса обновлены27 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

В карточке указано, что она основана на facebook/llm-compiler-7b. Однако README не содержит подробных сведений об архитектуре, точном числе параметров, модальностях, поддерживаемых языках, размере контекста или специфических сценариях применения. По названию и базовой модели можно заключить лишь, что это 7-миллиардная большая языковая модель общего назначения, предназначенная для задач обработки и генерации текста, но конкретные возможности данного варианта не описаны.

Ключевым практическим свойством является формат GGUF, обычно используемый для локального запуска и квантованных вариантов моделей, однако степень квантования и требования к ресурсам в README не указаны. Сильные стороны, ограничения и результаты тестирования для этой конкретной сборки также не приведены.

Использование регулируется лицензией Meta LLM Compiler License и связанной с ней Acceptable Use Policy. Лицензия предоставляет ограниченные неисключительные права на использование, копирование, распространение и создание производных работ, но устанавливает дополнительные условия: при распространении необходимо включать текст соглашения и заметную маркировку «Built with LLM Compiler», сохранять уведомление об авторских правах, а при создании или улучшении распространяемой AI-модели начинать её название с «LLM Compiler». Также запрещено использовать материалы или их результаты для улучшения другой большой языковой модели.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

llm-compiler-7b-IMat-GGUF

Llama.cpp imatrix quantization of facebook/llm-compiler-7b

Original Model: facebook/llm-compiler-7b
Original dtype: BF16 (bfloat16)
Quantized by: llama.cpp b3256
IMatrix dataset: here

Files
Downloading using huggingface-cli
Inference
- Llama.cpp
FAQ
- Why is the IMatrix not applied everywhere?
- How do I merge a split GGUF?

Files

IMatrix

Status: ✅ Available
Link: here

Common Quants

Filename	Quant type	File Size	Status	Uses IMatrix	Is Split
llm-compiler-7b.Q8_0.gguf	Q8_0	7.16GB	✅ Available	⚪ Static	📦 No
llm-compiler-7b.Q6_K.gguf	Q6_K	5.53GB	✅ Available	⚪ Static	📦 No
llm-compiler-7b.Q4_K.gguf	Q4_K	4.08GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.Q3_K.gguf	Q3_K	3.30GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.Q2_K.gguf	Q2_K	2.53GB	✅ Available	🟢 IMatrix	📦 No

All Quants

Filename	Quant type	File Size	Status	Uses IMatrix	Is Split
llm-compiler-7b.BF16.gguf	BF16	13.48GB	✅ Available	⚪ Static	📦 No
llm-compiler-7b.FP16.gguf	F16	13.48GB	✅ Available	⚪ Static	📦 No
llm-compiler-7b.Q8_0.gguf	Q8_0	7.16GB	✅ Available	⚪ Static	📦 No
llm-compiler-7b.Q6_K.gguf	Q6_K	5.53GB	✅ Available	⚪ Static	📦 No
llm-compiler-7b.Q5_K.gguf	Q5_K	4.78GB	✅ Available	⚪ Static	📦 No
llm-compiler-7b.Q5_K_S.gguf	Q5_K_S	4.65GB	✅ Available	⚪ Static	📦 No
llm-compiler-7b.Q4_K.gguf	Q4_K	4.08GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.Q4_K_S.gguf	Q4_K_S	3.86GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.IQ4_NL.gguf	IQ4_NL	3.83GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.IQ4_XS.gguf	IQ4_XS	3.62GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.Q3_K.gguf	Q3_K	3.30GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.Q3_K_L.gguf	Q3_K_L	3.60GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.Q3_K_S.gguf	Q3_K_S	2.95GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.IQ3_M.gguf	IQ3_M	3.11GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.IQ3_S.gguf	IQ3_S	2.95GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.IQ3_XS.gguf	IQ3_XS	2.80GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.IQ3_XXS.gguf	IQ3_XXS	2.59GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.Q2_K.gguf	Q2_K	2.53GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.Q2_K_S.gguf	Q2_K_S	2.32GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.IQ2_M.gguf	IQ2_M	2.36GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.IQ2_S.gguf	IQ2_S	2.20GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.IQ2_XS.gguf	IQ2_XS	2.03GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.IQ2_XXS.gguf	IQ2_XXS	1.85GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.IQ1_M.gguf	IQ1_M	1.65GB	✅ Available	🟢 IMatrix	📦 No
llm-compiler-7b.IQ1_S	IQ1_S	-	⏳ Processing	🟢 IMatrix	-

Downloading using huggingface-cli

If you do not have hugginface-cli installed:

pip install -U "huggingface_hub[cli]"

Download the specific file you want:

huggingface-cli download legraphista/llm-compiler-7b-IMat-GGUF --include "llm-compiler-7b.Q8_0.gguf" --local-dir ./

If the model file is big, it has been split into multiple files. In order to download them all to a local folder, run:

huggingface-cli download legraphista/llm-compiler-7b-IMat-GGUF --include "llm-compiler-7b.Q8_0/*" --local-dir ./
# see FAQ for merging GGUF's

Inference

Llama.cpp

llama.cpp/main -m llm-compiler-7b.Q8_0.gguf --color -i -p "prompt here"

FAQ

Why is the IMatrix not applied everywhere?

According to this investigation, it appears that lower quantizations are the only ones that benefit from the imatrix input (as per hellaswag results).

How do I merge a split GGUF?

Make sure you have gguf-split available
- To get hold of gguf-split, navigate to https://github.com/ggerganov/llama.cpp/releases
- Download the appropriate zip for your system from the latest release
- Unzip the archive and you should be able to find gguf-split
Locate your GGUF chunks folder (ex: llm-compiler-7b.Q8_0)
Run gguf-split --merge llm-compiler-7b.Q8_0/llm-compiler-7b.Q8_0-00001-of-XXXXX.gguf llm-compiler-7b.Q8_0.gguf
- Make sure to point gguf-split to the first chunk of the split.

Got a suggestion? Ping me @legraphista!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 4c5191c