Описание составлено по карточке модели и метаданным Hugging Face
Sao10K/L3-8B-Niitama-v1 — экспериментальная разговорная языковая модель семейства Llama, представленная в формате Transformers и сохранённая в safetensors. По метаданным, модель содержит 7,5 млрд параметров, рассчитана на контекст до 8192 токенов и предназначена для генерации текста в диалоговом формате. В карточке указано, что Niitama обучалась на тех же данных, что и Tamamo, но с другим перемешиванием и форматированием; автор отмечает заметное влияние этих изменений на результаты.
Модель может использоваться для экспериментов с диалоговой генерацией текста на английском языке. Автор описывает её как экспериментальную и сообщает, что ранние версии L3 показали себя лучше, чем версии L3.1, которые он оценил как неудачные. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Сценарии применения
эксперименты с англоязычными чат-ботами
генерация ответов в диалоге
сравнение влияния перемешивания и форматирования обучающих данных
исследование поведения языковых моделей Llama
Ограничения
Автор характеризует модель как экспериментальную и отмечает, что версии L3.1 показали себя хуже ранних L3. Коммерческое использование запрещено лицензией CC BY-NC 4.0.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Tamamo and Niitama are made from the same data. Literally. The only thing that's changed is how theyre shuffled and formatted. Yet, I get wildly different results.
Interesting, eh?
Surprising, or not so surprising the L3 versions did better than the L3.1 versions. L3.1 felt like a mess.
Have a good day.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров