Диалоговая языковая модель на базе DeepSeek-R1-Distill-Qwen-1.5B для генерации текста с уменьшенным числом отказов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Heretic-Deepseek-R1-Distill-Qwen-1.5B — производная модель автора R-Kentaren на архитектуре Qwen2, дообученная на базе deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B. Это компактная языковая модель на 1,5 млрд параметров для генерации текста в диалоговом формате; заявленная длина контекста — 131 072 токена. Автор описывает её как вариант с уменьшенным числом отказов и низким расхождением с базовой моделью, предназначенный также для создания LoRA-адаптеров и слияния с другими моделями.
Модель распространяется в формате safetensors по лицензии MIT. Качество рассуждений и результаты на независимых задачах в карточке не приведены.
Карточка не приводит независимых оценок качества и подтверждения заявленных характеристик отказов. Языки явно не перечислены.
README от автора на Hugging Face, как он его опубликовал
Original Model https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B
Heretic Ablitertion "[Trial 75] Refusals: 5/100, KL divergence: 0.00"
The Blashphemous Model has less refusals with a KL divergence of 0.01. I made this the heretic model to allow for making a LORA adapter, and to make merging better.
7B coming up next, If you release a GGUF please let me know so I can add it to my repo as well, I don't have the time to be learning how to do those conversions aat the moment.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…