https://huggingface.co/facebook/nllb-200-distilled-1.3B
ct2-transformers-converter --model facebook/nllb-200-distilled-1.3B --quantization int8 --output_dir converted/nllb-200-distilled-1.3B-ct2-int8
Характеристики
- Контекст
- 1 024 токена
- Размер весов
- 1,4 ГБ
- Лицензия
- CC BY-NC 4.0
- Опубликована
- 14 мая 2023
Ссылки
nllb-200-distilled-1.3B-ct2-int8
Квантованная до int8 версия NLLB-200 Distilled 1.3B в формате CTranslate2 для перевода между множеством языков.
1 647скачиваний за 30 дней2лайкавеса обновлены14 мая 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это квантованная версия модели перевода NLLB-200 Distilled 1.3B, подготовленная в формате CTranslate2 из исходной facebook/nllb-200-distilled-1.3B. Репозиторий создан JustFrederik; README показывает команду преобразования весов с квантованием int8.
Модель предназначена для машинного перевода между языками, поддерживаемыми NLLB-200; в метаданных указаны языковые коды для множества языков, а также набор данных FLORES-200. Квантование int8 сокращает требования к хранению и вычислениям по сравнению с исходными весами, сохраняя назначение модели для перевода.
Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. README не сообщает результатов оценки качества или конкретных ограничений точности после квантования.
Сценарии применения
- перевод текста между поддерживаемыми языками
- перевод многоязычных материалов пакетами
- развертывание машинного перевода с уменьшенными требованиями к памяти
- создание некоммерческого сервиса автоматического перевода
Ограничения
Лицензия CC-BY-NC-4.0 запрещает коммерческое использование. README не приводит оценок качества перевода для этой квантованной версии.
Для каких профессий подходит4
Разделы каталога профессий, в задачах которых используется эта модель
I.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Архитектура ? неизвестна transformers в образе рантайма.
- Ревизия весов
- 30c3626