I'm doing this to 'Make knowledge free for everyone', using my personal time and resources.
If you want to support my efforts please visit my ko-fi page: https://ko-fi.com/devquasar
Also feel free to visit my website https://devquasar.com/
DevQuasar-3/meta-llama.Llama-3.2-1B-GGUF — это версия модели Meta Llama 3.2 1B, подготовленная или опубликованная пользователем DevQuasar в формате GGUF.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для генерации текста и может использоваться в совместимых локальных инструментах вывода, поддерживающих этот формат.
Из доступных данных известно, что базовая модель разработана Meta, имеет размер 1 млрд параметров и относится к классу text-generation. Формат GGUF удобен для локального запуска, однако конкретный вариант квантования, требования к памяти, максимальная длина контекста, поддерживаемые языки и дополнительные характеристики в README не указаны. Лицензия обозначена как llama3.2; перед использованием следует проверить её условия и совместимость с конкретным сценарием.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
I'm doing this to 'Make knowledge free for everyone', using my personal time and resources.
If you want to support my efforts please visit my ko-fi page: https://ko-fi.com/devquasar
Also feel free to visit my website https://devquasar.com/
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.