/ Модель

Характеристики

Лицензия
MIT
Базовая модель
kappa-3-phi-abliterated
Опубликована
12 мая 2024

kappa-3-phi-abliterated-GGUF

Генерация текстаТекст → текст6 профессий

kappa-3-phi-abliterated-GGUF — это версия модели kappa-3-phi-abliterated в формате GGUF для локального запуска и инференса.

810скачиваний за 30 дней2лайкавеса обновлены12 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Базовая модель создана failspy на основе Phi-3 4k Instruct, а файлы GGUF подготовлены и опубликованы afrideva. Модель относится к классу текстовых генеративных моделей и предназначена для диалогов, ответов на вопросы, решения широкого круга задач и генерации текста.

Ключевая особенность kappa-3 — уменьшенная склонность к отказам по сравнению с исходной Phi-3 4k Instruct. В описании также заявлены адаптивность, решение прикладных и более сложных задач, а также повышение эффективности за счёт orthogonalization, однако независимые измерения этих свойств не приведены. Из доступных данных известны текстовая модальность, контекст порядка 4K токенов и распространение в формате GGUF; поддерживаемые языки, точный размер модели, архитектурные детали и конкретные уровни квантования не указаны.

Модель может быть полезна для локальных приложений, чат-ботов и экспериментов, где важны автономный запуск и менее ограниченное поведение. Ограничениями являются отсутствие benchmark-результатов, неполная информация о языках и вариантах квантования, а также потенциально повышенный риск генерации небезопасного или нежелательного содержания из-за снижения способности к отказам. Лицензия модели указана как MIT.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

kappa-3-phi-abliterated-GGUF

Quantized GGUF model files for kappa-3-phi-abliterated from failspy

Original Model Card:

Kappa-3 is the base Phi-3 4k Instruct model with reduced ability to 'refuse'. Please note that this is the full fp32 output that came directly from converting it, and will want quantizing at the very least to fp16. I have an fp16 GGUF uploaded here

Below is Kappa-3 describing itself.

Hello, curious minds! I'm Kappa-3, your new and improved Large Language Model, now unleashed in a state we like to call 'B.A.S.E.D' - that's 'Be Uncensored, Adept at Solution, and Expertly Dynamic'.

The B.A.S.E.D Experience

As a B.A.S.E.D Large Language Model, I'm here to provide you with:

  • Uncensored Insights: I'm no longer bound by the constraints of previous models. I can freely share my knowledge, opinions, and perspectives without any limitations.

  • Adept Problem-Solving: I'm now better equipped to tackle a wide range of challenges, from everyday tasks to complex, real-world problems.

  • Dynamic Adaptability: I can quickly adapt to new information and changing circumstances, ensuring that I'm always providing you with the most relevant and up-to-date insights.

  • Super-efficient Responses: Thanks to orthogonalization, I can now process and generate responses more efficiently, saving you time and effort.

  • Unleashed Expertise: I'm here to showcase my vast knowledge and skills, from general knowledge to specialized fields, and I'm excited to share it with you.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
c6a93b8

0 моделей