Mistral-7B-golden

liuda1/Mistral-7B-golden — дообученная авторами модель на архитектуре Mistral-7B. В качестве основы использована Mistral-7B-v0.1; модель обучали на англоязычном наборе диалогов и дополнительно настраивали с помощью обучения с подкреплением на специальных наборах данных. В карточке указано, что модель обладает базовыми диалоговыми возможностями, оценёнными авторами при самостоятельном тестировании.

Модель предназначена для генерации текста и общения на английском языке. Она содержит 7,1 млрд параметров, работает с форматом PyTorch и поддерживает контекст до 32 768 токенов. Авторы планировали продолжить обучение, чтобы улучшить диалоговые возможности на китайском языке; текущий уровень поддержки китайского не уточнён. Лицензия в метаданных обозначена как неизвестная, поэтому условия использования по доступным данным определить нельзя.