Характеристики
- Контекст
- 16 384 токена
- Параметры
- 113 млн
- Архитектура
- canine · dense
Ссылки
canine-s
CANINE-S — многоязычный символьный энкодер для извлечения представлений текста и тонкой настройки под задачи понимания языка.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
nielsr/canine-s — репозиторий с весами CANINE-S, опубликованный nielsr на Hugging Face; сама модель разработана Google и представляет собой многоязычный энкодер-трансформер для представления текста. Модель содержит 113,2 млн параметров и принимает текст на уровне символов Unicode без обычного токенизатора; при предобучении она предсказывает субсловные токены по символьному вводу.
Метаданные указывают контекст до 16 384 токенов. Модель предназначена прежде всего для извлечения признаков и последующей тонкой настройки для задач классификации последовательностей и токенов, а также ответов на вопросы. Она обучалась на многоязычных данных Википедии для 104 языков. Это не модель для генерации текста; лицензия Apache-2.0 указана для исходной модели Google CANINE-S.
Сценарии применения
- извлечение векторных представлений текста
- подготовка признаков для классификации предложений
- тонкая настройка для разметки токенов
- тонкая настройка для ответов на вопросы по тексту
Ограничения
Это энкодер для понимания текста, а не для генерации. Для прикладных задач вроде классификации или ответов на вопросы обычно требуется тонкая настройка.
Для каких профессий подходит7
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- CanineModel
- Ревизия весов
- 09f9a6e