Изменённая методом abliteration чат-модель InternLM2.5 с 19,3 млрд параметров для генерации диалоговых ответов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
byroneverson выпустил изменённую версию диалоговой модели InternLM2.5-20B-Chat: автор применил метод «abliteration», вычислив вектор отказа и ортогонализовав веса в файлах safetensors. Модель с архитектурой InternLM2ForCausalLM содержит 19,3 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В метаданных указаны английский и китайский языки.
Модель предназначена для генерации диалоговых ответов. Изменение весов направлено на ослабление склонности исходной модели отказывать в ответах; это может быть полезно для экспериментов с поведением чат-моделей. Репозиторий распространяется по лицензии Apache-2.0. Карточка описывает способ изменения весов, но не приводит оценок качества или подробных результатов проверки модели.
Карточка не приводит результатов бенчмарков или подробной оценки качества после изменения весов. Ослабление отказов может снизить способность модели корректно реагировать на небезопасные запросы.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a new approach for abliterating models using CPU only. I was able to abliterate this model using free kaggle processing with no accelerator.
Check out the jupyter notebook for details of how this model was abliterated from internlm2_5-20b-chat.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.