Чат-модель Llama 2 на 7 млрд параметров, дообученная методом QLoRA на Guanaco для генерации диалоговых ответов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это чат-модель семейства Llama 2 с 7 млрд параметров, дообученная автором chenshake на базе chenshake/Llama-2-7b-chat-hf с помощью QLoRA на наборе mlabonne/guanaco-llama2-1k. Она предназначена для генерации ответов в диалоге и тестирования дообученной модели; для работы с чат-промптами нужно использовать соответствующий шаблон Llama. Модель принимает текст и генерирует текст, поддерживает контекст до 2048 токенов и сохранена в формате safetensors. Лицензия — Apache-2.0. README описывает доступный способ дообучения на GPU T4 с 16 ГБ памяти, но не приводит оценок качества.
Контекст ограничен 2048 токенами. В карточке нет результатов оценки качества модели.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
使用我自己转换的
chenshake/Llama-2-7b-chat-hf,
mlabonne/guanaco-llama2-1k
colab，进行微调。使用了QLoRA，可以在16G的T4，进行微调。
colab notebook分享
colab 来自多个互联网朋友分享，我做了一点很小调整。大模型保存的格式为safetensors 格式，这是主流格式，而不是默认的pickle格式。
单独下载微调大模型进行测试。
这是我看到的另外一个notebook，里面多了处理llama的chat的模板。需要好好理解 数据集处理和微调过程
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…