Hy-MT2-1.8B-i1-GGUF

Модель предназначена прежде всего для задач машинного перевода и локального запуска в приложениях, поддерживающих формат GGUF. Доступны варианты с разной степенью квантования и размером примерно от 0,6 до 1,6 ГБ, что позволяет выбирать между требованиями к памяти, скоростью и качеством.

Заявлена поддержка китайского, английского, французского, португальского, испанского, японского, турецкого, русского, арабского, корейского, тайского, итальянского, немецкого, вьетнамского, индонезийского, малайского, филиппинского, хинди, польского, чешского, нидерландского, кхмерского, бирманского, персидского, гуджарати, урду, телугу, маратхи, иврита, бенгальского, тамильского, украинского, тибетского, казахского, монгольского и уйгурского языков. Архитектура, размер контекста и другие внутренние характеристики в карточке не указаны; из названия следует размер базовой модели около 1,8 млрд параметров.

Сильной стороной является широкий набор языков и возможность запуска на устройствах с ограниченными ресурсами благодаря многочисленным квантованным вариантам. Качество зависит от выбранного типа квантования: в README отмечены компромиссы между размером, скоростью и точностью, а некоторые малые варианты характеризуются как низкокачественные. Модель ориентирована на перевод, поэтому её возможности для других задач и мультимодальность не заявлены. Распространение указано по лицензии Apache-2.0.