/ Модель

Характеристики

Библиотека
transformers
Опубликована
31 янв 2025

Qwen2.5-Coder-14B-Instruct-Uncensored-Q4_K_M-GGUF

Генерация текстаТекст → текст7 профессий

roleplaiapp/Qwen2.5-Coder-14B-Instruct-Uncensored-Q4_K_M-GGUF — это квантованная версия модели Qwen2.5-Coder-14B-Instruct-Uncensored, опубликованная Andrew Webby от RolePlai.

2 779скачиваний за 30 дней8лайковвеса обновлены31 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и использования в сценариях, где требуется запуск через llama.cpp или другое программное обеспечение, поддерживающее формат GGUF; исходное семейство позиционируется как instruct-модель для задач, связанных с программированием.

Модель содержит 14 миллиардов параметров и представлена в формате GGUF с методом квантования Q4_K_M, что уменьшает требования к памяти по сравнению с полноразмерной версией. README не содержит сведений об архитектуре, поддерживаемых языках, размере контекста и мультимодальности. Указание Uncensored означает заявленную особенность исходной модели, однако подробности ограничений и поведения не приведены.

Лицензия и точные условия использования в README не указаны. Сильной стороной является сочетание кодировочной instruct-модели с 4-битным квантованием, потенциально удобным для локального запуска, но качество и совместимость зависят от используемого движка и конкретного сценария применения.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

roleplaiapp/Qwen2.5-Coder-14B-Instruct-Uncensored-Q4_K_M-GGUF

Repo: roleplaiapp/Qwen2.5-Coder-14B-Instruct-Uncensored-Q4_K_M-GGUF Original Model: Qwen2.5-Coder-14B-Instruct-Uncensored Quantized File: Qwen2.5-Coder-14B-Instruct-Uncensored.Q4_K_M.gguf Quantization: GGUF Quantization Method: Q4_K_M

Overview

This is a GGUF Q4_K_M quantized version of Qwen2.5-Coder-14B-Instruct-Uncensored

Quantization By

I often have idle GPUs while building/testing for the RP app, so I put them to use quantizing models. I hope the community finds these quantizations useful.

Andrew Webby @ RolePlai.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
3fbc1a2

0 моделей