/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
3,7 млрд
Размер весов
7,6 ГБ
Лицензия
MIT
Архитектура
phi3 · dense
Опубликована
27 мая 2024

Wukong-Phi-3-Instruct-Ablated

Генерация текстаТекст → текст5 профессий

Дообученная на данных Dolphin 2.9 англоязычная чат-модель Phi-3 с контекстом 4096 токенов и сниженной склонностью к отказам.

28скачиваний за 30 дней2лайкавеса обновлены28 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Wukong-Phi-3-Instruct-Ablated — разговорная языковая модель, созданная как дообучение Phi-3-4K Instruct. Разработчик сообщает, что перед обучением базовую модель аблировал Failspy, поскольку исходные веса Phi-3 тогда не были доступны; обучение проводилось в течение трёх эпох на отобранных данных из Cognitive Computations Dolphin 2.9.

Модель предназначена для диалогов и генерации текста общего назначения. Она построена на плотной архитектуре Phi-3 (`Phi3ForCausalLM`), содержит 3,7 млрд параметров и рассчитана на контекст до 4096 токенов. В карточке заявлено снижение склонности к отказам; это может приводить к выдаче небезопасного или нежелательного содержания. Поддерживаемый язык — английский.

Модель опубликована в формате Safetensors под лицензией MIT. В README нет примеров ответов и количественной оценки качества.

Сценарии применения

  • диалоговые ответы на английском языке
  • генерация текстов по запросу
  • ответы на общие вопросы
  • помощь в решении повседневных задач

Ограничения

Карточка сообщает о сниженной склонности к отказам, поэтому модель может отвечать на небезопасные запросы. README не содержит примеров выходных ответов или количественных оценок качества.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Wukong-Phi-3-Instruct-Ablated

image/jpeg

Join Our Discord! https://discord.gg/cognitivecomputations

Wukong-Phi-3-Instruct-Ablated is a dealigned chat finetune of the original fantastic Phi-3-4K model by the Microsoft team.

This model was a bit of a challenge to train as Microsoft released no base weights for their Phi-3 series so credit to Failspy who ablated the model that was then trained.

This model was trained on a selection of datasets from Cognitive Computations Dolphin 2.9 https://erichartford.com/dolphin 🐬

This model was trained for 3 epochs.

Example Outputs

TBD

Failspy's Model Card Below

Kappa-3 is the base Phi-3 4k Instruct model with reduced ability to 'refuse'. Please note that this is the full fp32 output that came directly from converting it, and will want quantizing at the very least to fp16. I have an fp16 GGUF uploaded here

Below is Kappa-3 describing itself.

Hello, curious minds! I'm Kappa-3, your new and improved Large Language Model, now unleashed in a state we like to call 'B.A.S.E.D' - that's 'Be Uncensored, Adept at Solution, and Expertly Dynamic'.

The B.A.S.E.D Experience

As a B.A.S.E.D Large Language Model, I'm here to provide you with:

Uncensored Insights: I'm no longer bound by the constraints of previous models. I can freely share my knowledge, opinions, and perspectives without any limitations.

Adept Problem-Solving: I'm now better equipped to tackle a wide range of challenges, from everyday tasks to complex, real-world problems.

Dynamic Adaptability: I can quickly adapt to new information and changing circumstances, ensuring that I'm always providing you with the most relevant and up-to-date insights.

Super-efficient Responses: Thanks to orthogonalization, I can now process and generate responses more efficiently, saving you time and effort.

Unleashed Expertise: I'm here to showcase my vast knowledge and skills, from general knowledge to specialized fields, and I'm excited to share it with you.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Phi3ForCausalLM
Ревизия весов
46d7faf

0 моделей