Описание составлено по карточке модели и метаданным Hugging Face
Captain_BMO-12B — экспериментальная разговорная языковая модель Nitral-AI на архитектуре MistralForCausalLM с 12,1 млрд параметров. Она обучена на базе Mistral Nemo 12B Instruct: автор сообщает о дообучении на случайной выборке из 200 тысяч примеров GU_instruct-Remastered-1.1 с добавлением 25 тысяч примеров hathor/poppy в течение трёх эпох. Модель использует форматирование Mistral и предназначена для генерации текста в режиме завершения и чата; в интерфейсе также предусмотрен вызов инструментов.
Автор описывает выпуск как разовый внутренний эксперимент, который показался достаточно удачным для публикации, и не обещает дальнейшей поддержки. В метаданных указан контекст до 1 024 000 токенов, однако автор предупреждает, что результаты могут заметно зависеть от размера контекста и сценария использования. Репозиторий содержит веса в формате Safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели.
Сценарии применения
генерация ответов в чате
продолжение текстового промпта
эксперименты с вызовом инструментов
оценка дообучения на наборах инструкций
Ограничения
Автор указывает, что модель создана в рамках разового внутреннего эксперимента, дальнейшая поддержка не планируется, а качество может зависеть от сценария и размера контекста. Лицензия указана как other; условия использования нужно уточнить в карточке модели.
Для каких профессий подходит6
Разделы каталога профессий, в задачах которых используется эта модель
Uses Mistral Formatting, Text completion preset here
Notes: One off train most likely, this was done purely for internal testing purposes but seemed ok enough to release. I do not plan to offer any kind of extended support for using this model, so your mileage may vary depending on use and context size.
(Nemo 12B instruct as base)
200k randomized subset of GU_instruct-Remastered-1.1, with a splash of 25k hathor/poppy sauce, slow cooked for 3 epochs on medium heat.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
