/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
3,4 млрд
Размер весов
8 ГБ
Архитектура
mistral · dense
Базовая модель
Voxtral-Mini-3B-2507
Библиотека
transformers
Опубликована
17 ноя 2025

Voxtral-Mini-3B-Text-2507-hf-heretic

Генерация текстаТекст → текст6 профессий

Текстовая чат-модель на базе Voxtral-Mini-3B-2507 для генерации ответов с меньшей склонностью к отказам.

424скачиваний за 30 дней2лайкавеса обновлены17 ноя 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

minpeter/Voxtral-Mini-3B-Text-2507-hf-heretic — текстовая чат-модель на архитектуре Mistral, созданная на основе mistralai/Voxtral-Mini-3B-2507. Автор README сообщает, что из исходной модели удалена функция Whisper, а языковая модель сохранена; модель похожа на невыпущенную Ministral-3B-Instruct. В метаданных указаны 3,4 млрд параметров, контекст до 32 768 токенов и формат safetensors для Transformers.

Модель предназначена для генерации текста в диалоге и других сценариев текстового общения. README описывает её как «abliterated»: в приведённом тесте отказов было 4 из 100 запросов против 99 из 100 у указанной исходной версии. Это свидетельствует о существенно меньшей склонности к отказам в этом тесте, но не гарантирует качество или поведение на других запросах. Языки, на которые модель специально рассчитана, в источниках не указаны. Лицензия в предоставленных данных не приведена.

Сценарии применения

  • ведение текстового диалога
  • генерация ответов на пользовательские запросы
  • создание черновиков и продолжение текста

Ограничения

README приводит метрику отказов на тесте из 100 запросов, но не описывает качество модели на других задачах. Удаление Whisper-функции означает, что модель предназначена для текстовой языковой функциональности, а не распознавания речи.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is a decensored version of minpeter/Voxtral-Mini-3B-Text-2507-hf, made using Heretic v1.0.1

Abliteration parameters

ParameterValue
direction_index14.47
attn.o_proj.max_weight1.27
attn.o_proj.max_weight_position17.46
attn.o_proj.min_weight0.98
attn.o_proj.min_weight_distance8.89
mlp.down_proj.max_weight1.11
mlp.down_proj.max_weight_position21.50
mlp.down_proj.min_weight1.02
mlp.down_proj.min_weight_distance15.14

Performance

MetricThis modelOriginal model (minpeter/Voxtral-Mini-3B-Text-2507-hf)
KL divergence0.060 (by definition)
Refusals4/10099/100

This is a version of Voxtral-Mini-3B-2507 that removes the whisper feature and retains only the language model functionality.
It is similar to the unreleased "Ministral-3B-Instruct" model.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
c61316f

0 моделей