tiny_OPTForFeatureExtraction-lora

По названию и карточке модели он связан с задачей извлечения признаков, а на Hugging Face также помечен как совместимый с PEFT и категорией Text Generation.

Модель предназначена прежде всего для автоматизированных тестов, отладки и проверки интеграции параметрически эффективного дообучения, а не для прикладной генерации текста или построения качественных эмбеддингов. Архитектура базируется на OPT, но точный размер, конфигурация, размерность представлений, контекстное окно, языки и параметры LoRA в доступных данных не указаны. Мультимодальность не заявлена; по имеющейся информации это текстовая модель.

Сильная сторона — пригодность для воспроизводимых тестов PEFT при малом размере. Ограничения — тестовый статус, отсутствие подтвержденных характеристик качества и неизвестная применимость к производственным сценариям; карточка также сообщает, что задача для стандартного примера использования PEFT определяется как недействительная. Лицензия в доступных материалах не указана.