/ Модель

Характеристики

Контекст
512 токенов
Параметры
212 млн
Лицензия
MIT
Архитектура
deberta-v2 · dense
Базовая модель
deberta-v3-base
Библиотека
transformers
Опубликована
10 авг 2026

deberta-v3-base

Заполнение пропусковТекст → текст3 профессии

Англоязычная модель DeBERTa-v3-base для предсказания замаскированных токенов и дообучения на задачи понимания текста.

14скачиваний за 30 дней0лайковвеса обновлены10 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

LiefOlsonMd/deberta-v3-base — опубликованная в формате safetensors копия англоязычной модели Microsoft DeBERTa-v3-base с файлами токенизатора. Это плотная модель семейства DeBERTa-v2 с 211,6 млн параметров и контекстом до 512 токенов; она предназначена для предсказания пропущенных токенов в тексте и может служить основой для дообучения на задачи понимания текста. Репозиторий можно использовать через Transformers.

Модель принимает текст и предсказывает замаскированные токены. В README приведена оценка размера около 184 млн параметров, тогда как метаданные указывают 211,6 млн. Лицензия — MIT.

Сценарии применения

  • восстановление пропущенных слов в предложении
  • подбор вероятного токена для маски в тексте
  • дообучение трансформера на задачи понимания английского текста

Ограничения

Контекст ограничен 512 токенами; модель ориентирована на английский язык. README и метаданные расходятся в оценке общего числа параметров.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

DeBERTa-v3-base

This repository contains the official microsoft/deberta-v3-base model in safetensors format together with the complete tokenizer files for maximum compatibility.

Original Model

microsoft/deberta-v3-base

Files Included

  • model.safetensors — model weights
  • Full tokenizer (tokenizer.json, spm.model, tokenizer_config.json, etc.)
  • config.json

Usage

from transformers import AutoModel, AutoTokenizer

model = AutoModel.from_pretrained("LiefOlsonMd/deberta-v3-base")
tokenizer = AutoTokenizer.from_pretrained("LiefOlsonMd/deberta-v3-base")

Model Details

  • Architecture: DeBERTa-v3-base
  • Backbone parameters: 86M
  • Embedding parameters: ~98M (128k SentencePiece vocabulary)
  • Total parameters: ≈ 184M
  • Weights: model.safetensors (~371 MB)

License

MIT License (same as the original model)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · fill-mask

Можно запустить

Подбираем GPU…

Ревизия весов
1cbdf8c

0 моделей