Базовая модель ALBERT с 137,1 млн параметров, предварительно обученная на испанских текстах для использования в NLP и последующего дообучения.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
dccuchile/ALBERT Base Spanish — базовая языковая модель семейства ALBERT, обученная на большом корпусе испанских текстов. Разработчик — dccuchile; карточка указывает, что обучение проводилось на TPU v3-8 примерно 70 дней. Модель содержит 137,1 млн параметров, принимает текстовые последовательности длиной до 512 токенов и доступна в форматах PyTorch и TensorFlow.
Модель предназначена как испаноязычная основа для задач понимания и обработки текста, а также для последующего дообучения под конкретные сценарии. В метаданных указан класс AlbertForPreTraining и теги pretraining, но отдельный pipeline_tag и конкретные downstream-задачи не приведены. Лицензия в доступных данных не указана.
Карточка не приводит оценки качества и конкретные результаты на прикладных задачах; для специализированных сценариев может потребоваться дообучение. Лицензия в предоставленных данных не указана.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is an ALBERT model trained on a big spanish corpora. The model was trained on a single TPU v3-8 with the following hyperparameters and steps/time:
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
У модели не указана задача.