/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Mistral-Nemo-Base-2407
Библиотека
transformers
Опубликована
28 дек 2024

Dans-PersonalityEngine-V1.1.0-12b-GGUF

Генерация текстаТекст → текст10 профессий

QuantFactory/Dans-PersonalityEngine-V1.1.0-12b-GGUF — квантизированная версия модели PocketDoc/Dans-PersonalityEngine-V1.1.0-12b, созданная QuantFactory с использованием llama.cpp.

1 145скачиваний за 30 дней3лайкавеса обновлены28 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

В основе лежит mistralai/Mistral-Nemo-Base-2407; модель предназначена для генерации текста и работает преимущественно на английском языке. Максимальная длина контекста составляет 32 768 токенов.

Модель ориентирована на широкий набор сценариев: совместное написание текстов, roleplay, текстовые приключения, выполнение одношаговых и многошаговых инструкций, использование инструментов, суммаризацию и анализ тональности в составе прикладных конвейеров. Также заявлены возможности для работы с кодом, математическими и научными задачами, а исходная версия обучалась на разнообразных наборах данных для ассистирования, логического рассуждения, прозы и взаимодействия с инструментами.

К сильным сторонам относятся многоцелевой характер, поддержка длинного контекста, диалоговый формат ChatML и ориентация на творческую генерацию и ролевое взаимодействие. Ограничения связаны с тем, что модель описана как англоязычная, а точные параметры квантизации, результаты benchmark-тестов и подтвержденные показатели качества в карточке не указаны. Рекомендуемые настройки генерации: temperature 1.0, top_p 0.95 и min_p 0.05. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

QuantFactory Banner

QuantFactory/Dans-PersonalityEngine-V1.1.0-12b-GGUF

This is quantized version of PocketDoc/Dans-PersonalityEngine-V1.1.0-12b created using llama.cpp

Original Model Card

def task(): sleep(1) return 'all done'

if name == 'main': with ThreadPool() as pool: result = pool.apply_async(task()) Assistant: The bug in this code is that the task() function is called immediately when the apply_async() method is invoked, not when the worker process is ready to execute it. Specifically, the line result = pool.apply_async(task()) calls task() right away and passes its return value to apply_async(). The worker process will execute whatever task() returns at that moment, which is 'all done' since task() completes execution almost immediately. To fix this bug, you need to pass the task function itself to apply_async(), rather than calling task() beforehand. Here's the corrected code: from time import sleep from multiprocessing.pool import ThreadPool

def task(): sleep(1) return 'all done'

if name == 'main': with ThreadPool() as pool: result = pool.apply_async(task) # Pass the function, not the result value = result.get() # Wait for the result print(value)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
a016ad9

0 моделей