Модель предназначена для задач семантического поиска, сопоставления текстов, кластеризации, классификации и других сценариев, где требуется преобразование текста в embedding-векторы. Запуск ориентирован на стандартное потребительское оборудование и CPU с использованием совместимых инструментов, включая llama.cpp.

Модель содержит 27 миллиардов параметров. Доступны варианты квантизации с разрядностью 4, 5, 6 и 8 бит: Q4_K_M, Q5_K_M, Q6_K и Q8_0. Восьмибитная версия обеспечивает наиболее высокое качество и близка к FP16, а четырёхбитная имеет наименьший размер — около 16,6 ГБ — и рассчитана на запуск на системах с 24–32 ГБ оперативной памяти. С README не указаны поддерживаемые языки, максимальная длина контекста, точная архитектура, набор обучающих данных, численные показатели качества или лицензия.

Сильными сторонами являются возможность локального запуска крупной embedding-модели на CPU и выбор между несколькими вариантами размера и качества. К ограничениям относятся значительные требования к памяти, особенно для старших вариантов квантизации, а также потенциальное снижение качества в более компактных версиях. Условия лицензирования в предоставленных данных не указаны.