Экспериментальная англоязычная модель на 300 млн параметров для генерации текста и ответов на вопросы, обученная с нуля и дообученная с дистилляцией от Qwen2.5-7B-Instruct.

Подходит для: генерация ответов на вопросы на английском языке · эксперименты с дистилляцией больших языковых моделей · изучение обучения декодерных трансформеров с нуля