Описание составлено по карточке модели и метаданным Hugging Face
Mistral-Small-Instruct-2409-abliterated — текстовая инструктивная языковая модель, созданная автором byroneverson на основе Mistral-Small-Instruct-2409. Автор сообщает, что применил к модели abliteration; она предназначена для диалогов и генерации ответов по инструкциям. Это плотная архитектура MistralForCausalLM размером 22 млрд параметров с контекстом до 32 768 токенов; карточка указывает английский язык и использование Transformers.
Модель принимает текст и генерирует текст. Карточка описывает способ преобразования, но не приводит оценок качества или подробных результатов тестирования, поэтому их нельзя надёжно сравнить с исходной моделью. Указана лицензия MRL (mrl) с типом «other» на Hugging Face; проверьте её условия перед использованием.
Сценарии применения
ответы на вопросы в диалоге
генерация текста по инструкциям
локальный чат-бот на английском языке
обработка длинных текстовых запросов в пределах контекста модели
Ограничения
Карточка модели не содержит подробных оценок качества после abliteration, поэтому последствия преобразования для поведения и надёжности не установлены. Условия лицензии MRL следует проверить перед использованием.
Для каких профессий подходит7
Разделы каталога профессий, в задачах которых используется эта модель