/ Модель

Характеристики

Контекст
512 токенов
Параметры
136 млн
Архитектура
bert · dense
Опубликована
6 апр 2023

jobbert_knowledge_extraction

Разметка токеновТекст → label4 профессии

Модель BERT размечает токены в текстах вакансий, чтобы извлекать упомянутые в них профессиональные знания и hard skills.

1 108скачиваний за 30 дней11лайковвеса обновлены26 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

jjzha/jobbert_knowledge_extraction — модель на базе BERT для классификации токенов, предназначенная для извлечения знаний и навыков из текста вакансий. Она размечает фрагменты текста, связанные с hard skills; связанный endpoint jjzha/jobbert_skill_extraction предназначен для извлечения навыков, включая soft и прикладные навыки. Модель содержит 135,5 млн параметров, использует архитектуру BertForTokenClassification и принимает контекст длиной до 512 токенов.

Модель подходит для автоматического выделения технических знаний и требований к квалификации в описаниях вакансий. Данные о лицензии и конкретных языках обучения или применения отсутствуют в предоставленных источниках.

Сценарии применения

  • извлечение технических знаний из текстов вакансий
  • автоматическая разметка hard skills в требованиях работодателя
  • структурирование требований к знаниям для анализа вакансий

Ограничения

Контекст ограничен 512 токенами. В предоставленных источниках не указаны лицензия и поддерживаемые языки.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is a demo using the models from:

@inproceedings{zhang-etal-2022-skillspan,
    title = "{S}kill{S}pan: Hard and Soft Skill Extraction from {E}nglish Job Postings",
    author = "Zhang, Mike  and
      Jensen, Kristian  and
      Sonniks, Sif  and
      Plank, Barbara",
    booktitle = "Proceedings of the 2022 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies",
    month = jul,
    year = "2022",
    address = "Seattle, United States",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2022.naacl-main.366",
    doi = "10.18653/v1/2022.naacl-main.366",
    pages = "4962--4984",
    abstract = "Skill Extraction (SE) is an important and widely-studied task useful to gain insights into labor market dynamics. However, there is a lacuna of datasets and annotation guidelines; available datasets are few and contain crowd-sourced labels on the span-level or labels from a predefined skill inventory. To address this gap, we introduce SKILLSPAN, a novel SE dataset consisting of 14.5K sentences and over 12.5K annotated spans. We release its respective guidelines created over three different sources annotated for hard and soft skills by domain experts. We introduce a BERT baseline (Devlin et al., 2019). To improve upon this baseline, we experiment with language models that are optimized for long spans (Joshi et al., 2020; Beltagy et al., 2020), continuous pre-training on the job posting domain (Han and Eisenstein, 2019; Gururangan et al., 2020), and multi-task learning (Caruana, 1997). Our results show that the domain-adapted models significantly outperform their non-adapted counterparts, and single-task outperforms multi-task learning.",
}

Note that there is another endpoint, namely jjzha/jobbert_skill_extraction. Knowledge can be seen as hard skills and skills are both soft and applied skills.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForTokenClassification
Ревизия весов
9dea975

0 моделей