sweep-next-edit-v2-7B-AWQ

Модель разработана для задач генерации кода, автодополнения и next-edit prediction — предсказания вероятных следующих изменений в исходном коде. В README она обозначена как text-generation модель для английского языка и содержит следы обучения с использованием DPO.

Модель имеет размер 7B параметров и поставляется в формате AWQ, что снижает требования к памяти по сравнению с полноразмерной версией и делает её пригодной для локального инференса на совместимом оборудовании. В качестве примера приведён запуск через SGLang с контекстом до 16 384 токенов; при входе примерно в 6900 токенов и генерации около 250 токенов указано время ответа около 600 мс на RTX 2000 Ada. Эти показатели зависят от конфигурации и не являются универсальным бенчмарком.

Сильными сторонами модели являются специализация на редактировании и автодополнении кода, компактный размер и оптимизация AWQ. Ограничения включают отсутствие подробных сведений об архитектуре, поддерживаемых языках программирования, качестве на стандартных тестах и особенностях модальностей; заявлен только английский язык. Модель распространяется по лицензии Apache-2.0.