I.3Извлечение и структурирование данных

MentalBERT — языковая модель AIMH, инициализированная весами BERT-large и дополнительно предварительно обученная на публикациях Reddit, связанных с психическим здоровьем. Она предназначена для анализа текстов из социальных сетей и исследований в области психического здоровья. Модель использует архитектуру BERT-large (24 слоя, скрытый размер 1024, 16 голов внимания) и обучалась по стандартной схеме masked language modeling. Задача в каталоге и на Hugging Face — fill-mask: модель предсказывает пропущенный токен в тексте. Карточка указывает библиотеку Transformers и формат PyTorch. Язык данных обучения — английский, модель uncased, поэтому регистр не различается. Модель может помогать выявлять в публичных онлайн-текстах признаки, требующие внимания социальных работников, но её предсказания не являются психиатрическим диагнозом. Авторы отмечают возможные смещения, проблемы справедливости, неопределённость и ограниченную интерпретируемость. Обучающие данные собраны из публичных анонимных публикаций Reddit. Лицензия — CC BY-NC-SA 4.0.

MuseumSCAT TrOCR Glyph Scorer — вспомогательная модель распознавания рукописного текста на основе TrOCR от octavigrau. Она предназначена для оценки и ранжирования предложенных вариантов названия места по изображению уже выделенного фрагмента рукописи: модель оценивает среднее логарифмическое правдоподобие строки и помогает выбрать вариант, лучше согласующийся с видимыми символами. Это encoder-decoder архитектура VisionEncoderDecoderModel, дообученная на базе Riksarkivet/trocr-base-handwritten-hist-swe-2. Обучающая смесь включала 148 размеченных фрагментов MuseumSCAT, синтетические датские названия мест и автоматически псевдоразмеченные изображения. Модель рассчитана на датский и шведский исторический рукописный текст. Лицензия репозитория — CC BY-NC 4.0. Модель следует применять как сигнал уверенности или в ограниченном механизме исправления, сравнивая кандидатов для одного и того же фрагмента; её оценки не являются калиброванными вероятностями между изображениями. Она не обнаруживает и не выделяет текстовые области, требует заранее подготовленного фрагмента. Объём размеченных данных мал, тестовая оценка основана на небольшом наборе и не характеризует общую точность распознавания рукописей. Варианты использования данных MuseumSCAT также подпадают под условия конкурса и требуют указания организаторов и Национального музея естественной истории Дании.

Pocket Vakil 332M — модель Pocket-Vakil, разработанная командой 15 для IAIRO / Pramana SLM++ Bootcamp. Это плотная авторегрессионная языковая модель с 331,6 млн параметров, обученная с нуля на корпусе индийских судебных решений, а затем дообученная для определения применимых статей Уголовного кодекса Индии по фактам дела. Модель принимает текст и генерирует текстовый перечень подходящих статей IPC; контекст составляет 2048 токенов, словарь выходных меток ограничен 100 статьями. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Модель предназначена для предварительного поиска статей IPC по описаниям дел и судебным решениям, чтобы предложить кандидатов для проверки человеком. На тестовом разбиении ILSI из 13 019 дел авторы сообщают macro-F1 0,3585, micro-F1 0,4791 и точное совпадение 0,0767; сравнение с другими результатами зависит от различий в настройках. Архитектура включает 24 слоя, RoPE, MHA и SwiGLU. Обучение велось преимущественно на юридических данных; модель слаба в общих знаниях и следовании инструкциям. Она не выдаёт отказ при нетипичном запросе, не может предлагать статьи за пределами 100 меток и может пропустить положения, упомянутые поздно в длинном тексте. Результаты следует рассматривать только как подсказки для проверки специалистом, а не как юридическую консультацию. Для запуска в Transformers требуется trust_remote_code=True из-за пользовательской архитектуры.

Matous Volf и Jakub Simko разработали модель для классификации политической ориентации текста. Она относит текст к одному из трёх классов: левый, центристский или правый; оценки классов представлены как вероятности. Модель основана на POLITICS и дообучена на новостных статьях, публикациях в социальных сетях и сгенерированных языковой моделью политологических высказываниях. Модель предназначена для анализа англоязычных текстов в контексте политики США: понятия «левый» и «правый» здесь связаны преимущественно с либеральными взглядами и Демократической партией, а также с консервативными взглядами и Республиканской партией. Она использует архитектуру RoBERTa, содержит 151,8 млн параметров и принимает последовательности длиной до 514 токенов. Для входных текстов, которые могут быть неполитическими, авторы рекомендуют предварительно применять отдельный классификатор политичности: эта модель сама не определяет, относится ли текст к политике. Модель создана в рамках исследования об автоматической классификации политической ориентации и политичности текста. На приведённых в карточке тестовых наборах указаны точность 84,7–89,2% и F1 84,6–89,2%; результаты зависят от набора данных и не гарантируют качество на текстах вне обучающего распределения. Весы опубликованы в формате Safetensors, лицензия — CC BY-NC 4.0, допускающая использование с некоммерческими ограничениями.

Koichi Yasuoka разработал RoBERTa-модель, предварительно обученную на тибетских текстах. Она предназначена для предсказания замаскированных токенов и дальнейшей адаптации к задачам обработки тибетского языка, например разметке частей речи и синтаксическому анализу зависимостей. Модель использует архитектуру RoBERTa для masked language modeling, содержит 119,5 млн параметров и обрабатывает последовательности длиной до 512 токенов. Доступны веса PyTorch. Лицензия CC BY-SA 4.0.

josu/roberta-pt-br — языковая модель на архитектуре RoBERTa, предназначенная для бразильского португальского языка. Она предсказывает пропущенный токен в тексте: например, предлагает варианты продолжения фразы «Brasilia é a capital do». Модель содержит 95,2 млн параметров, использует формат PyTorch и поддерживает контекст до 514 токенов. Подходит для восстановления пропусков и подбора вероятных слов в португалоязычном тексте. Лицензия в предоставленных данных не указана.

Sujet Finance 8B v0.1 — языковая модель Sujet AI для финансовых задач, дообученная методом LoRA на базе Llama 3 8B на наборе Sujet Finance Instruct-177k. Это плотная архитектура семейства Llama с 7,5 млрд параметров и контекстом до 8192 токенов; модель принимает текст и генерирует текст на английском языке. Модель предназначена для ответов на финансовые вопросы в формате «да/нет», классификации финансовых текстов по темам и анализа тональности, включая категории bullish и bearish. В README указано, что для обучения использовали сбалансированную выборку из 17 036 примеров, а для оценки — 4 259 примеров; оценка сравнивала модель с базовой Llama 3 по критерию наличия правильного ответа в первых десяти сгенерированных словах. Модель распространяется по лицензии Apache-2.0. Для запуска автор рекомендует Unsloth; заявленный вариант точности для VLLM — float16. Оценка на описанной выборке не гарантирует точность на других финансовых данных, а охват финансовых тем и типов вопросов ограничен задачами, представленными при дообучении.

ValueLlama — языковая модель, разработанная Value4AI и дообученная на базе meta-llama/Meta-Llama-3-8B-Instruct. Она измеряет ценности по восприятию в открытом пространстве ценностей: определяет, относится ли восприятие к заданной ценности, и классифицирует его отношение как поддерживающее, противодействующее или нейтральное с учётом контекста. Обе задачи решаются генерацией метки по паре «ценность — восприятие». Модель предназначена для исследовательского анализа ценностей людей и ИИ. Это плотная Llama-модель с 7,5 млрд параметров, контекстом до 8192 токенов и разговорными возможностями; она принимает и выдаёт текст на английском языке. Доступна в формате safetensors для Transformers. Лицензия — Llama 3 Community License.

XLM-R-parla — многоязычная модель на архитектуре XLM-RoBERTa-large, разработанная в рамках проекта ParlaMint. Она прошла дополнительное предобучение на 1,7 млрд слов из парламентских стенограмм корпусов ParlaMint и EuroParl и предназначена для восстановления замаскированных слов в тексте, а также как языковая основа для дальнейшей адаптации к анализу парламентских материалов. Модель содержит около 658,7 млн параметров, принимает текст и поддерживает контекст до 514 токенов. В метаданных перечислены языки от болгарского и каталонского до украинского, а README описывает обучение на многоязычных парламентских данных. Модель выпущена под лицензией Apache-2.0. README указывает на XLM-R-parlasent как пример последующей донастройки для анализа тональности парламентских выступлений.

XLM-T-Sent-Politics — многоязычная модель классификации тональности твитов политиков, опубликованная Cardiff NLP. Она развивает twitter-xlm-roberta-base-sentiment: исходную модель дообучили на твитах членов парламентов Великобритании, Испании и Греции, добавив английские, испанские и греческие данные к тональному обучению на восьми языках. Модель построена на XLM-RoBERTa и содержит около 305,2 млн параметров. Она принимает текст и возвращает оценки классов тональности; контекст составляет до 514 токенов. Подходит для анализа политической коммуникации в Twitter и сравнения тональности высказываний на поддерживаемых языках. Модель унаследовала многоязычное обучение на арабском, английском, французском, немецком, хинди, итальянском, испанском и португальском, а политические твиты дополнительно представлены на английском, испанском и греческом. README не приводит точные названия классов и оценки качества, поэтому интерпретацию выходных классов следует сверять с оригинальной карточкой или кодом. Репозиторий доступен в форматах PyTorch и TensorFlow; сведения о лицензии в предоставленных данных отсутствуют.

Модель разработана автором репозитория gary109 и дообучена на базе gary109/ai-light-dance_drums_pretrain_wav2vec2-base-new для автоматического распознавания речи. Она построена на архитектуре Wav2Vec2 с CTC-выходом и содержит 113,3 млн параметров. Репозиторий создан в ноябре 2022 года, веса представлены в формате PyTorch. Модель предназначена для распознавания аудио в рамках набора данных AI Light Dance — ONSET-IDMT-MDB-ENST3. В карточке приведены результаты на оценочной выборке: loss 0,7363 и WER 0,4070. README не описывает подробнее сценарии применения или языки распознавания, поэтому их нельзя установить по имеющимся данным.

alt6-209m-16k-1x-s2357 — языковая модель на 209 млн параметров из релиза DilutionAttention. Это базовая исследовательская модель для изучения механизма внимания, а не готовый чат-ассистент. Она использует гибридную архитектуру: чередует слои softmax-внимания с RoPE (base 5e5) и dilution-внимания без позиционного кодирования; включает 24 слоя, ширину 768, 12 голов и SwiGLU. Модель обучена на 4,19 млрд токенов FineWeb-Edu с контекстом 16 384 токена. В описанных проверках она получила оценку NIAH 1,00 при длине 16 000 токенов и 24 000 токенов с NTK-масштабированием; этот тест измеряет извлечение ключевого слова из повторяющегося текста и не подтверждает способность к рассуждениям на длинном контексте. Для входов длиннее обучающего контекста README предписывает использовать расширение контекста. Модель не проходила инструкционную и safety-настройку. Лицензия — Apache-2.0.

Aquilign Multilingual Segmenter — модель ProMeText для сегментации средневековых и исторических текстов на фразы. Она основана на архитектуре BERT и дообучена для классификации токенов с целью выявления границ фраз в многоязычной исторической прозе. Модель предназначена для подготовки параллельных корпусов к выравниванию, многоязычного выравнивания средневековых текстов и исследований в цифровой филологии и вычислительной гуманитаристике. Она используется в рабочем процессе Aquilign и обучалась на Multilingual Segmentation Dataset с исторической прозой XIII–XVI веков. Поддерживаются латинский, французский, кастильский, португальский, каталанский, английский и итальянский языки. Модель содержит 205,1 млн параметров, принимает последовательности длиной до 512 токенов и доступна в формате safetensors для библиотеки Transformers. Лицензия CC BY-NC-SA 4.0 требует указания авторства и распространяет производные работы на тех же условиях, ограничивая коммерческое использование. Качество сегментации может зависеть от языка, периода и жанра текста; назначение модели ориентировано на историческую прозу и рабочий процесс Aquilign.

astroBERT — англоязычная языковая модель для астрофизики, разработанная NASA/ADS. Базовая модель построена на архитектуре BERT и обучена предсказывать скрытые токены и связь между соседними предложениями; регистр букв учитывается. В репозитории также описаны отдельные дообученные варианты для распознавания именованных сущностей и классификации научных текстов, но основная карточка модели относится к базовой версии. Модель подходит для восстановления пропусков в англоязычных текстах по астрофизике и получения текстовых представлений для последующих задач. Она содержит 136,3 млн параметров, принимает последовательности длиной до 512 токенов и доступна в форматах PyTorch и safetensors. Лицензия — MIT. Специализация на астрофизических текстах ограничивает применимость модели за пределами этой области; генерация свободного текста не является её основной задачей.

byt5-mitra-bo-tagger — модель Buddhist NLP для автоматической разметки классического тибетского текста в транслитерации Wylie. Это дообученная версия buddhist-nlp/byt5-mitra-bo: байтовая модель последовательность-в-последовательность семейства T5 с 595,1 млн параметров, обученная примерно на 5 тысячах предложений и коротких отрывков из параллельного санскритско-тибетского корпуса проекта Dharmamitra. Модель принимает необработанный текст Wylie и выдаёт сегментацию предложений и слов, грубую часть речи для каждого слова, а также скобки вокруг тибетских последовательностей, соответствующих одному санскритскому слову или сложению. Она предназначена для подготовки и анализа классических буддийских переводных текстов. В README приведены метрики на выборке из 100 примеров: F1 границ слов 0,959, точность POS 0,914 и F1 сегментации предложений 0,914. Обучение проводилось на канонической переводной литературе Кангьюра и Тенгьюра с санскритскими параллелями, поэтому другие регистры не проверены. Разметка санскритских единиц наиболее шумная; на длинных или необычных фрагментах модель может пропускать или изменять слоги, поэтому результат следует сверять с исходным текстом. Лицензия — Apache-2.0.

CheMatE-v0-MLM — базовая модель для предсказания замаскированных фрагментов текста, разработанная группой SchwallerGroup. Это 149-миллионная модель ModernBERT, предварительно обученная на химических текстах с расширением SMILES-представлениями молекул. Она предназначена для восстановления пропущенных слов и фрагментов в химических текстах; для получения эмбеддингов авторы рекомендуют использовать CheMatE-v0. Модель принимает текст, поддерживает контекст до 8192 токенов и доступна в формате Safetensors. Карточка демонстрирует заполнение пропуска в предложении об аспирине. Лицензия — MIT.

ClimateGPT-7B-FSC — англоязычная модель Erasmus AI, обученная совместно с AppTek для синтеза междисциплинарных исследований об изменении климата. Это декодерный трансформер семейства Llama с 6,6 млрд параметров, дообученный для следования инструкциям и ответов на вопросы. Модель принимает и генерирует текст, поддерживает контекст до 4096 токенов и рассчитана на английский язык. Модель подходит для ответов на климатические вопросы, особенно в связке с поиском по источникам: в контекст можно передать до пяти ссылок и их текстов. Разработчики рекомендуют использовать извлечение информации для расширения знаний и повышения фактической точности; для других языков предлагается каскадный машинный перевод. Карточка описывает её как исследовательский эксперимент, предназначенный для воспроизведения результатов и исследований LLM. В README указана ClimateGPT Community License; метаданные классифицируют лицензию как other. Модель может выдавать предвзятые, оскорбительные или недостоверные ответы. Для практических сценариев, отличных от исследований, разработчики рекомендуют другие модели семейства ClimateGPT.

Это дообученная модель Longformer для восстановления замаскированных токенов в тексте. Она содержит 151,8 млн параметров и принимает контекст до 4098 токенов. В карточке указано, что модель дообучена на базе lukasdrg/clinical_longformer_same_tokens_3epochs_150k; назначение исходной модели связано с медицинскими текстами, однако описание обучающих данных этой версии отсутствует. Основной сценарий применения — предсказание скрытых слов и фрагментов в тексте с помощью задачи fill-mask. Модель опубликована в формате safetensors. В README приведено значение loss 1,3642 на оценочном наборе, но подробности набора и методики оценки не раскрыты. Лицензия в предоставленных данных не указана.

Dart v2 SFT — авторская дообученная модель Plat для генерации тегов в стиле Danbooru. Это причинная языковая модель на архитектуре Mistral с 90,8 млн параметров и контекстом 1024 токена; она обучена на наборе isek-ai/danbooru-tags-2024, содержащем теги Danbooru за период с 2005 по март 2024 года. Модель принимает текстовый запрос и генерирует текстовые теги, в том числе с настройками рейтинга контента, соотношения сторон, длины списка и сохранения идентичности персонажа или объекта. Модель подходит для подготовки тегов к изображениям и составления теговых описаний с нужной категорией рейтинга. В README указана лицензия Apache-2.0. Качество по оценочным тестам не подтверждено: автор отмечает, что оценка ещё не проводилась; библиотека dartrs для запуска названа экспериментальной.

Koichi Yasuoka разработал DeBERTa V2 — модель с маскированным языковым моделированием, предварительно обученную на текстах тайской Википедии. Она содержит 115,6 млн параметров, принимает последовательности длиной до 512 токенов и предназначена для заполнения масок в тайском тексте, а также для дообучения под задачи разметки частей речи и синтаксического анализа зависимостей. Модель использует архитектуру DeBERTa V2 и распространяется в формате PyTorch. Лицензия Apache-2.0. Карточка приводит пример загрузки через Transformers с AutoTokenizer и AutoModelForMaskedLM. Для специализированных downstream-задач требуется дообучение; сведений о качестве на конкретных бенчмарках в карточке нет.

Это дообученная модель классификации текста на основе microsoft/deberta-v3-xsmall, разработанная Domenic Rosati. Она предназначена для классификации отзывов; в названии также указано использование библиографического контекста и замороженной языковой модели, однако README не поясняет эту схему и не описывает набор данных. Модель содержит 77,5 млн параметров, использует архитектуру DeBERTa v2 для классификации последовательностей и принимает текст длиной до 512 токенов. Модель выпущена под лицензией MIT. В приведённых результатах оценки точность составляет 0,9066, но F1 — 0,0090, полнота — 0,0045, а точность положительных предсказаний — 0,8293; столь низкие F1 и полнота указывают на существенные ограничения при выявлении целевого класса. README не раскрывает состав классов, данные обучения и подробности применения библиографического контекста.

distilbert-base-uncased-finetuned-imdb — дообученная модель на архитектуре DistilBERT, разработанная на базе distilbert/distilbert-base-uncased. По метаданным это маскированная языковая модель для задачи fill-mask: она принимает текст с пропуском и предсказывает подходящий токен. В репозитории указаны формат safetensors и контекст до 512 токенов. В README отмечено дообучение на датасете, названном неизвестным; подробностей о данных и целевом сценарии нет. Несмотря на суффикс imdb в названии, подтверждения задачи классификации тональности метаданные и README не содержат. Модель распространяется по лицензии Apache-2.0.

Модель автоматического распознавания речи enenlhet-wav2vec2 разработана Samuel J. Huskey при поддержке Data Institute for Societal Challenges Университета Оклахомы. Это дообученная на модели facebook/wav2vec2-large-xlsr-53 архитектура Wav2Vec2ForCTC с 402,7 млн параметров, предназначенная для создания черновых транскрипций полевых аудиозаписей на языке эненлет. Для обучения использован набор sjhuskey/enenlhet-wav2vec2-dataset с WAV-записями носителей языка и соответствующими транскрипциями; данные разделены на обучающую, тестовую и валидационную выборки. Модель принимает аудио и выдаёт текст. Она может ускорить подготовку транскрипций полевых записей, но README указывает на первичную, черновую роль результатов, поэтому транскрипции следует проверять и исправлять вручную. Модель распространяется по лицензии Apache 2.0.

Florence-Chan-2.1 — дообученная на аниме-иллюстрациях версия Florence-2-large, подготовленная как самостоятельный чекпойнт BF16 в формате safetensors. Модель разработана автором репозитория Mitchins на базе microsoft/Florence-2-large; адаптер уже встроен, поэтому для запуска отдельный адаптер не нужен. Она принимает изображение и текстовый промпт, а в ответ генерирует подпись или более подробное описание сцены на английском языке. Модель предназначена для описания персонажей, их внешности, одежды, действий и окружения в аниме-арте. В README приведены сравнения с базовой Florence-2-large, где новая версия точнее описывает детали персонажей и сцены. Обучение опиралось на синтетические подписи от GLM-4.6V и Grok-4.3; карточка сообщает о 980 примерах дополнительного SFT и совокупной линии данных из 44 647 строк. Базовые возможности Florence-2-large при этом стремились сохранить. Использование распространяется по лицензии MIT. Оценка качества в README основана на сравнении на восьми изображениях, поэтому она не устанавливает качество на всех типах аниме-иллюстраций. Подписи могут содержать ошибки в распознавании деталей или интерпретации сцены.

WesScivetti/GPT-BERT_NoNuponN_Seed3 — контрольная точка GPT-BERT, обученная в рамках экспериментов с обучающими корпусами, отфильтрованными по NPN. В репозитории также находится код архитектуры для Transformers; для загрузки модели требуется разрешить выполнение пользовательского кода через trust_remote_code. Модель предназначена прежде всего для заполнения пропусков в тексте: она принимает текст с маскированным фрагментом и предсказывает подходящее содержимое. Метаданные указывают архитектуру GPT-BERT с 111,7 млн параметров и контекстом до 512 токенов. Указание text-generation среди поддерживаемых задач не подтверждено README как основное назначение. В репозитории указан формат PyTorch и библиотека Transformers. Лицензия и языки модели в предоставленных данных не обозначены; корпус NPN описан как отфильтрованный, но подробности фильтрации и оценки качества отсутствуют.

hsc748NLP/GujiBERT_jian_fan — модель BERT с примерно 139,9 млн параметров для предсказания скрытых токенов в тексте. Она дообучена на базе /gemini/data-1/sikubert_vocabtxt; в README приведены результаты оценки: loss 2,2556 и accuracy 0,5514. Контекст модели составляет до 512 токенов. Модель можно применять для восстановления пропусков и анализа контекста в текстах. README не описывает обучающие данные, целевые языки и ограничения применения, поэтому её точность за пределами указанной оценки неясна. Веса опубликованы в формате PyTorch; сведения о лицензии в доступных данных отсутствуют.

Модель c299m/japanese_stock_sentiment — классификатор тональности комментариев и обсуждений о японских акциях. Она создана для определения двух классов: бычьего и медвежьего настроения; автор README сообщает, что модель обучена на собранных комментариях о фондовом рынке. Архитектура — BERT для классификации последовательностей, размер — 137,8 млн параметров, максимальный контекст — 512 токенов. Модель принимает японский текст и выдаёт метку тональности. Её можно применять для анализа сообщений инвесторов и поддержки работы рыночных аналитиков при сборе настроений участников рынка. Точность и качество на конкретных источниках комментариев в карточке не приведены, поэтому перед использованием в торговых решениях результаты следует проверять. Лицензия — MIT.

Legal Longformer Large — англоязычная модель семейства Longformer, опубликованная LexLM как производная от LexLM Large на базе RoBERTa. Для неё расширили позиционные эмбеддинги, клонировав исходные, чтобы обрабатывать более длинные документы; модель содержит 453,9 млн параметров и рассчитана на контекст до 4098 токенов. Модель обучена продолжать предобучение на юридическом корпусе LeXFiles и предназначена для заполнения замаскированных фрагментов текста в длинных юридических документах. Её можно использовать как основу для языкового анализа юридических текстов и дальнейшего дообучения под прикладные задачи. Доступны веса PyTorch; лицензия — CC BY-SA 4.0.

Llama-FinSent-S — компактная языковая модель семейства Llama, разработанная для классификации тональности финансовых новостей и отчётов. Она дообучена на FinGPT/fingpt-sentiment-train на основе прореженной модели LLaMA-3.2-1B; в слоях MLP удалено 40% нейронов, а LoRA-адаптер после обучения объединён с базовыми весами. Модель содержит 913,7 млн параметров, работает с текстом и поддерживает контекст до 131 072 токенов. Модель предназначена для определения тональности финансового текста в трёх- или семикатегорийной схеме. Компактный размер и прореживание рассчитаны на снижение требований к памяти и вычислениям, включая развёртывание на устройствах с ограниченными ресурсами. В метаданных указана библиотека Transformers и лицензия Llama 3.2. Модель специализирована на финансовых текстах, поэтому её результаты на обычных текстах могут быть хуже. На предсказания могут влиять смещения обучающих данных; для оптимальной скорости вывода README рекомендует GPU.

Модель Creative Language Toolkit (CLTK) для выявления метафор в английском тексте. Это последовательная модель классификации токенов на архитектуре RoBERTa, дообученная на наборе CreativeLang/vua20_metaphor; в карточке она представлена как базовый инструмент для обнаружения метафор, связанный с работой FrameBERT: Conceptual Metaphor Detection with Frame Embedding Learning. Модель содержит около 151,8 млн параметров и обрабатывает контекст длиной до 514 токенов. Модель предназначена для разметки слов и фрагментов, употреблённых метафорически, и может применяться при анализе текстов и исследованиях концептуальных метафор. Для запуска авторы отсылают к inference.py в репозитории FrameBERT. Модель распространяется по лицензии CC BY 2.0; результаты оценки в карточке включают accuracy 0,9142 и precision 0,9142.