Dolphin-Mistral-24B-Venice-Edition-Patched

Модель предназначена для диалогового взаимодействия и генерации текста; в описании она позиционируется как открытая, разговорная и «uncensored». Поддерживаемый язык — английский.

Это плотная модель размером 24 млрд параметров с архитектурой Mistral и механизмом sliding window attention. Патч восстанавливает параметры скользящего окна внимания, устраняя фрагментацию контекста и зависания при генерации после 4096 токенов. Также исправлены стоп-токены токенизатора. Заявленное контекстное окно составляет 32K токенов. Модель распространяется в формате GGUF и предназначена для использования в совместимых средствах локального запуска.

Сильными сторонами являются большой контекст, восстановленная работа sliding window attention и отсутствие заявленных ограничений на содержание ответов. README не содержит точных данных о бенчмарках, производительности, требованиях к оборудованию или конкретных вариантах квантования, поэтому эти характеристики оценить нельзя. Модель распространяется по лицензии Apache-2.0.