I.3Извлечение и структурирование данных

bash1130/bert-base-finetuned-ynat — модель классификации текстов на основе BERT, дообученная на klue/bert-base с использованием набора данных KLUE. Она предназначена для присвоения тексту категории и может применяться в задачах тематической разметки и сортировки текстов. Модель содержит 137,8 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. Доступны веса в формате PyTorch. На оценочной выборке указаны loss 0,3609 и F1 0,8712. Карточка не описывает набор классов и подробности обучения, поэтому качество на других данных и пригодность для конкретных категорий не подтверждены. Лицензия в предоставленных данных не указана.

Эта модель BETO разработана командой BETO и дообучена Manuel Romero на испанской версии SQuAD 2.0 для ответов на вопросы по заданному контексту. В основе лежит dccuchile/bert-base-spanish-wwm-cased — испанский BERT Base с Whole Word Masking; модель содержит 137,1 млн параметров и рассчитана на контекст до 512 токенов. Модель принимает текст с контекстом и вопросом и извлекает ответ из контекста, включая возможность определить, что ответа в нём нет. В README приведены результаты на тестовом наборе SQuAD-es-v2.0: Exact Match 76,5 и F1 86,1. Она предназначена прежде всего для испаноязычных сценариев вопросно-ответного поиска и не является универсальной разговорной моделью. Доступны веса PyTorch и Flax. Лицензия в предоставленных данных не указана.

Модель tohoku-nlp/bert-large-japanese-char разработана группой Tohoku NLP и предварительно обучена на японских текстах Википедии. Это версия BERT large с 24 слоями, размерностью скрытых состояний 1024 и 16 головами внимания; число параметров — около 408,9 млн. Модель использует токенизацию на основе словаря Unidic 2.1.2: текст сначала сегментируется по словам, затем разбивается на символы. При обучении для задачи masked language modeling применялось маскирование целых слов. Модель предназначена для заполнения пропусков в японском тексте и может служить основой для задач понимания японского языка. Контекст составляет до 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Модель обучена на японской Википедии; лицензия — CC BY-SA 4.0.

boltuix/bert-small — компактная англоязычная модель BoltUIX на архитектуре BERT, дообученная на основе google/bert-base-uncased. Модель с 12 млн параметров использует двунаправленный трансформер и подходит для заполнения пропусков в тексте; её также можно дообучать для классификации последовательностей и токенов, ответов на вопросы и распознавания текстовых отношений. Максимальная длина контекста — 512 токенов. Модель обучалась на английских текстах из BookCorpus и Wikipedia с задачами masked language modeling и next sentence prediction. В README заявлены оценки на GLUE, включая SST-2 и QNLI, а также компактный размер около 45 МБ. Она предназначена для англоязычных NLP-сценариев и не рассчитана на генерацию связного текста или работу с другими языками без существенного дообучения. Лицензия — MIT.

Модель mosesb/best-comic-panel-detection — дообученный вариант YOLOv12x для обнаружения отдельных панелей на страницах комиксов. Она возвращает ограничивающие рамки класса «Comic Panel» и предназначена для автоматической оцифровки и структурирования страниц. Модель обучена на пользовательском размеченном наборе данных Custom-Workflow-3-Object-Detection-1 с использованием PyTorch и Ultralytics. Её можно применять для подготовки страниц к цифровому чтению, выделения панелей перед извлечением текста или персонажей, а также для анализа композиции страниц и создания датасетов. В README указаны высокие результаты на валидационной выборке: mAP50 0,991 и mAP50-95 0,985; это показатели на данных обучения и не гарантируют аналогичного качества на комиксах с другими стилями или разметкой. Модель выдаёт прямоугольные рамки и может хуже работать с сильно неправильными или перекрывающимися панелями. Лицензия репозитория — Apache-2.0.

almanach/camembertv2-base-fquad — франкоязычная модель для извлечения ответов на вопросы, разработанная Виссамом Антуном из Almanach, Inria-Paris. Это дообученная на датасете FQuAD модель RoBERTa с 138,4 млн параметров и контекстом до 1025 токенов. Она выделяет ответный фрагмент в предоставленном тексте и предназначена для систем вопросно-ответного поиска на французском языке. На FQuAD указаны F1 83,03 и Exact Match 64,77. Модель подходит для поиска ответов в документах и текстах, когда ответ должен быть извлечён из контекста. Качество за пределами FQuAD и перенос на другие задачи могут быть ограничены; возможны смещения, связанные с обучающими данными. Распространяется по лицензии MIT.

Китайская модель понимания прочитанного Chinese MRC macbert-large от автора репозитория luhua, повторно обученная на большом объёме китайских данных MRC. Она построена на архитектуре BERT и предназначена прежде всего для извлечения ответов на вопросы по тексту; автор также сообщает об улучшении результатов в задачах чтения с пониманием и классификации. В карточке приведены результаты macbert-large на DuReader-2021 и tencentmedical. Модель содержит 424,3 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Опубликованные веса представлены в формате PyTorch, лицензия — Apache-2.0. Карточка не уточняет ограничения применимости и подробности обучения, поэтому результаты на указанных наборах не гарантируют качество на других данных.

Dynamic-TinyBERT — модель семейства TinyBERT, разработанная Shira Guskin, Moshe Wasserblat, Ke Ding и Gyuwan Kim. Она дообучена для ответов на вопросы по контексту и обучена на SQuAD 1.1. Модель использует сокращение длины последовательности и оптимизацию гиперпараметров, чтобы повышать скорость вывода при разных вычислительных бюджетах. Это плотная модель на архитектуре BERT с 80,1 млн параметров, предназначенная для англоязычного вопросно-ответного поиска по текстовым фрагментам. Максимальная длина контекста составляет 512 токенов. Авторы сообщают о качестве на уровне BERT и компромиссе между точностью и скоростью, который может обеспечивать ускорение до 3,3 раза. Модель подходит для извлечения ответа из предоставленного текста в системах поиска и поддержки пользователей. Заявленные результаты относятся к SQuAD 1.1; перенос качества на другие данные и сценарии не гарантирован. Формат весов — PyTorch, лицензия — Apache-2.0.

electramed-small-JNLPBA-ner — модель на базе Electra, разработанная автором репозитория и дообученная из giacomomiolo/electramed_small_scivocab на наборе JNLPBA для распознавания именованных сущностей в биомедицинских текстах. Она присваивает метки отдельным токенам и подходит для извлечения биологических сущностей из научных публикаций. Модель содержит 20,4 млн параметров, принимает текст с контекстом до 512 токенов и доступна в формате PyTorch. На тестовой выборке JNLPBA указаны F1 0,8494, точность 0,8225, полнота 0,8782 и accuracy 0,9621. Лицензия в предоставленных данных не указана.

anablasi/finqa_model — модель на архитектуре RoBERTa, опубликованная пользователем anablasi на Hugging Face. Она предназначена для ответа на вопросы по предоставленному текстовому контексту; название репозитория указывает на финансовую тематику, однако карточка модели отсутствует, поэтому специализированное обучение на финансовых данных не подтверждено. Модель содержит 151,8 млн параметров и поддерживает контекст длиной до 514 токенов. Модель принимает вопрос и контекст и извлекает из него ответ. Доступные сведения не позволяют надёжно установить поддерживаемые языки, базовую модель, лицензию или специфические ограничения качества; поэтому эти характеристики не уточняются.

Модель National Institute for Health and Care Research (NIHR) присваивает кодам исследовательской деятельности HRCS один или несколько классов по названию и аннотации исследовательского гранта. Это многометочный классификатор на базе BiomedBERT-large: энкодер дообучен на текстах заявок и затем настроен на размеченных данных HRCS от нескольких фондов. Для каждого кода модель выдаёт вероятность; длина входа ограничена 512 токенами, длинный текст обрезается. Модель предназначена для анализа портфелей финансирования, массовой разметки грантов и изучения направлений биомедицинских исследований, а также для поддержки рабочего процесса кодирования HRCS. На тестовых данных микро-F1 составил 0,60 для отдельных кодов и 0,71 для агрегированных групп кодов. Результаты зависят от сходства новых данных с обучающей выборкой; редкие и неоднозначные категории распознаются хуже, а пороги вероятностей могут требовать перенастройки. Модель поддерживает экспертную проверку, но не предназначена для её полной замены. Распространяется по лицензии MIT.

IndoBERT Base phase 1 uncased — предварительно обученная языковая модель для индонезийского языка, разработанная командой IndoBenchmark на основе архитектуры BERT. Она обучена на корпусе Indo4B объёмом 23,43 ГБ с задачами masked language modeling и next sentence prediction; в карточке репозитория указано 124,5 млн параметров, а метаданные каталога оценивают размер примерно в 151,6 млн. Модель принимает текст и формирует контекстные векторные представления токенов; максимальная длина контекста — 512 токенов. Модель предназначена для извлечения признаков и может служить основой для индонезийских NLP-сценариев, например классификации текста или разметки последовательностей после дополнительной настройки. Доступны веса в форматах PyTorch, TensorFlow и Flax. Лицензия — MIT. Это базовая модель без указаний на прикладную настройку под конкретную предметную область; качество для задач пользователя зависит от последующей настройки и реализации.

Wikidepia/indobert-lite-squad — модель семейства ALBERT на базе IndoBERT-Lite, разработанной Indo Benchmark и дообученной на переведённом наборе Translated SQuAD 2.0 для ответов на вопросы. Она извлекает ответ из предоставленного текста-контекста и предназначена для сценариев, где ответ можно найти в документе или фрагменте текста. Модель решает задачу question-answering, содержит 136,3 млн параметров и рассчитана на контекст до 512 токенов. Карточка указывает поддержку индонезийского языка. Веса представлены в формате PyTorch. В README приведён пример извлечения короткого ответа с оценкой уверенности. Качество ответов зависит от релевантности и полноты контекста; модель не предназначена для свободных ответов без опорного текста. Лицензия в доступных данных не указана.

InternLM-XComposer2-4KHD — мультимодальная модель для работы с изображениями и текстом, разработанная командой InternLM на базе InternLM2. Она принимает изображения и текстовые запросы, поддерживает понимание изображений с разрешением до 4K и генерирует текстовые ответы в диалоге. Модель подходит для визуальных вопросов и ответов, а также для задач, в которых нужно описать или интерпретировать содержимое изображения. Модель имеет плотную архитектуру InternLM2ForCausalLM и содержит 7,4 млрд параметров. Для запуска предусмотрена загрузка через Transformers с пользовательским кодом модели; README рекомендует bfloat16, чтобы снизить требования к памяти. Указанный в метаданных размер контекста — 32 768 токенов. Репозиторий содержит веса PyTorch, лицензия обозначена как other; конкретные условия лицензии в предоставленных данных не раскрыты.

yujuyeon/internvl3_5-1b-balanced — мультимодальная модель семейства InternVL3.5, дообученная автором yujuyeon на базе OpenGVLab/InternVL3_5-1B-Pretrained методом полного fine-tuning. Она предназначена для диалоговых задач с изображениями и текстом; обучение ориентировано на корейские мультимодальные данные и баланс корейского и английского языков. В обучающую смесь вошли 40 подмножеств, включая наборы для описания изображений и преобразования диаграмм в таблицы. Модель использует плотную архитектуру InternVLChatModel и загружается через Transformers. Метаданные указывают лицензию other. Карточка приводит динамику training loss, но не сообщает измерений качества на независимых тестах, поэтому эти значения сами по себе не подтверждают точность в практических сценариях.

monologg/koelectra-base-v3-finetuned-korquad — модель для ответов на вопросы, разработанная пользователем monologg на основе корейской версии ELECTRA. Она дообучена для извлечения ответа из предоставленного текста: на вход подаются вопрос и контекст, а модель определяет фрагмент контекста, который отвечает на вопрос. Модель построена на архитектуре ELECTRA для вопросно-ответной задачи, содержит около 140,1 млн параметров и поддерживает последовательности длиной до 512 токенов. Она предназначена для корейского языка и может применяться, например, для поиска ответов в корейских документах. Карточка Hugging Face предоставляет её для использования через Transformers. Ограничения: модель ориентирована на извлечение ответа из заданного контекста и не предназначена для свободной генерации ответов без него. Контекст ограничен 512 токенами. Лицензия в доступных данных не установлена.

MeherMs разработал дообученную модель Sentence Transformer на базе sentence-transformers/all-MiniLM-L6-v2 для сравнения смысловой близости предложений и абзацев, в частности формулировок юридических договоров. Энкодер на архитектуре BERT преобразует текст в плотные векторы размерности 384; сходство оценивается косинусной мерой. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов, а карточка модели заявляет максимальную длину последовательности 256 токенов. Модель предназначена для семантического поиска и сопоставления договорных положений, например для поиска похожих условий или выявления близких по смыслу формулировок. Она принимает и выдаёт текстовые представления в виде эмбеддингов, а не готовые юридические выводы. В README приведена оценка на небольшом наборе из 10 обучающих примеров; заявленные идеальные метрики на указанной оценке не подтверждают надёжность на более широких или иных юридических данных. Лицензия в предоставленных источниках не указана.

Zeolit разработала lettuce-eidos-768d-v5 — многоязычную модель эмбеддингов для поиска коротких воспоминаний в истории диалогов, заметках и ролевых чатах. Она предназначена для извлечения релевантных фрагментов по запросу, в том числе когда запрос и воспоминание написаны на разных языках, и рассчитана на запуск на устройстве или CPU. Модель основана на IBM Granite Embedding 311M Multilingual R2 и дообучена методом дистилляции после сокращения ModernBERT с 22 до 12 слоёв. Всего в модели около 262 млн параметров, размерность эмбеддинга — 768 с поддержкой Matryoshka-сокращения до 64 измерений. В репозитории есть веса Safetensors и экспорты ONNX, включая динамически квантованный int8-вариант. README сообщает контекст 4096 токенов, тогда как метаданные указывают нативный контекст 32768 токенов. Заявлена поддержка 15 языков: арабского, немецкого, английского, испанского, французского, хинди, итальянского, японского, корейского, нидерландского, польского, португальского, русского, турецкого и китайского. Лицензия — Apache-2.0. Модель показывает хорошие результаты на собственных тестах поиска разговорных воспоминаний, но эти тесты основаны на обучающих данных и не подтверждают качество на независимых наборах. Она слабее подходит для поиска по длинным документам и оценки семантического сходства, чем предыдущая версия; многоязычный поиск близких воспоминаний часто не находит верный фрагмент с первой попытки. Косинусные оценки высоки даже для нерелевантных текстов, поэтому пороги сходства от других моделей применять нельзя; для калибровки README рекомендует файл calibration.json.

LFM2-VL-1.6B — мультимодальная модель Liquid AI для совместной обработки текста и изображений. Это постобученный чекпойнт на основе LFM2 с гибридной архитектурой: языковая часть LFM2-1.2B с сочетанием свёрточных слоёв и внимания соединена с визуальным энкодером SigLIP2 NaFlex на 400 млн параметров. Репозиторий содержит веса в формате safetensors; для запуска README рекомендует Transformers версии 4.57 или новее. Модель предназначена для диалога по изображениям, следования инструкциям и лёгких агентных сценариев, в том числе на устройствах с ограниченными ресурсами. Она обрабатывает изображения с переменным разрешением: до 512×512 пикселей напрямую, а более крупные — с помощью разбиения на патчи; параметры инференса позволяют выбирать баланс между скоростью и качеством. Заявлены низкая задержка и высокая скорость инференса на GPU, однако численные результаты в README относятся к сравнительным тестам, а не гарантируют качество для конкретных задач. Основной язык — английский. Liquid AI рекомендует дообучать модель для узких сценариев и предупреждает, что она не предназначена для решений, критичных к безопасности. Лицензия указана как «other»; условия использования следует сверить с лицензией репозитория.

Lightning-4b — плотная языковая модель семейства Qwen3 с 3,7 млрд параметров, разработанная и дообученная для анализа данных на локальном устройстве. Она предназначена для работы через Quelmap — помощник с загрузкой данных и встроенной Python-песочницей; модель можно запускать на ноутбуке, в том числе на MacBook Air с 16 ГБ оперативной памяти. Модель помогает строить визуализации, объединять таблицы и выполнять статистические t-тесты, в том числе при анализе множества таблиц и большого числа строк. Разработчик сообщает о тестировании на 122 запросах к образцу базы данных и о результатах выше, чем у моделей с числом параметров до 50 раз больше. Lightning-4b основана на Qwen/Qwen3-4B-Thinking-2507 и доступна в формате Safetensors через Transformers. Указанное окно контекста — 262144 токена. Модель ограничена одноходовым анализом и не предназначена для бизнес-рассуждений или управленческих рекомендаций. Лицензия — Apache-2.0.

MatCha — модель обработки изображений и текста на основе Pix2Struct, разработанная Fangyu Liu, Francesco Piccinno и коллегами и дообученная на наборе Chart2text-pew. Этот вариант предназначен прежде всего для создания текстовых сводок по диаграммам и графикам. Модель принимает изображение графика и формирует текстовый ответ или описание. Семейство MatCha обучалось для анализа графиков и числовых рассуждений; карточка сообщает о результатах на задачах PlotQA и ChartQA, а также об улучшении переноса на диаграммы из учебников, документы и скриншоты. В метаданных указаны языки en, fr, ro и de, формат PyTorch и лицензия Apache-2.0.

badokorach/minilm-uncased-squad2-agric-041223 — англоязычная модель для ответов на вопросы, дообученная на базе deepset/minilm-uncased-squad2. Она использует архитектуру BERT и предназначена для извлечения ответа из предоставленного текста; размер модели — около 40 млн параметров, максимальный контекст — 512 токенов. Репозиторий содержит модель в формате TensorFlow. В README указаны результаты обучения: train loss 0,9972, validation loss 0,0 и 14 эпох. Датасет дообучения и подробности оценки не описаны, поэтому качество на новых данных и специализацию на сельском хозяйстве оценить нельзя. Лицензия — CC BY 4.0.

Nex-N2.5-mini-Uncensored-GGUF — это набор GGUF-квантизаций модели Nex-N2.5-mini, опубликованный OrcaRouter на основе модели Nex-AGI. Версия является abliterated-сборкой с существенно удалённым механизмом отказов и предназначена прежде всего для исследований интерпретируемости, безопасности ИИ, изучения механизмов отказа, red teaming, оценки устойчивости и контролируемых экспериментов. Модель представляет собой мультимодальную agentic Mixture-of-Experts-систему на архитектуре Qwen3.5-MoE: 35 млрд параметров, около 3,5 млрд активных на токен, 256 маршрутизируемых экспертов с выбором top-8 и одним общим экспертом. Используется гибридное соотношение 3:1 между gated delta-net linear attention и full attention, встроенная vision-башня Qwen3-VL и контекст до 262 тысяч токенов. Поддерживаются английский и китайский языки, работа с текстом и изображениями, а также сценарии computer use и function calling. Файлы рассчитаны на запуск в llama.cpp на CPU, CUDA, Metal и ROCm; доступны квантизации от 2 до 8 бит с importance matrix, а для vision требуется отдельный файл mmproj. К сильным сторонам относятся большой контекст, мультимодальность, MoE-архитектура с низким числом активных параметров и широкий выбор квантизаций, включая рекомендуемую 4-битную IQ4_XS. Ограничения включают заметное падение качества на наиболее агрессивных квантизациях, необходимость свежей версии llama.cpp с поддержкой архитектуры qwen35moe и отсутствие MTP-головы, поэтому speculative decoding через MTP недоступен. Из-за удаления защитных механизмов модель может выполнять вредоносные, незаконные и опасные запросы и не имеет значимых встроенных ограничений безопасности; её не следует использовать в production или напрямую предоставлять конечным пользователям без собственных систем модерации и защиты от злоупотреблений. Лицензия — Apache 2.0, унаследованная от базовой модели.

NorBERT 3 small — официальная модель норвежского языка нового поколения, выпущенная авторами семейства NorBERT и описанная в статье «NorBench — A Benchmark for Norwegian Language Models». Это энкодерная модель на основе BERT с архитектурой NorbertForMaskedLM, содержащая около 40,4 млн параметров и принимающая последовательности длиной до 512 токенов. Модель предназначена прежде всего для восстановления замаскированных токенов; также каталог указывает поддержку классификации текста и токенов, ответов на вопросы и задач с выбором ответа. Она обучена для норвежского языка, включая варианты Bokmål и Nynorsk. Для загрузки требуется пользовательская обёртка из modeling_norbert.py и параметр trust_remote_code=True. Распространяется по лицензии Apache-2.0.

elprofessor67/om-logistics-pod-v8-8b — дообученная elprofessor67 мультимодальная модель семейства Qwen3-VL с архитектурой Qwen3VLForConditionalGeneration и 8B-параметрической базой, предназначенная для задач image-text-to-text. В карточке указано, что модель дообучена на elprofessor67/om-logistics-pod-v7-8b с использованием Unsloth и библиотеки TRL. Модель принимает текст и изображения и формирует текстовые ответы; метаданные также отмечают чат и интерфейс вызова инструментов. Английский указан среди языков карточки. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка не описывает конкретные сценарии логистики или результаты оценки, поэтому её специализацию и качество в таких сценариях нельзя установить по имеющимся данным.

OpenMed-NER-GenomeDetect-ModernClinical-149M — модель OpenMed для распознавания упоминаний генов и белков в биомедицинском тексте. Это дообученный трансформер ModernBERT для классификации токенов: он присваивает токенам BIO-метки B-GENE/PROTEIN и I-GENE/PROTEIN, чтобы выделять границы сущностей. Модель содержит 149 млн параметров, принимает токенизированный текст и поддерживает контекст до 8192 токенов. Модель обучена на корпусе BC2GM и предназначена для извлечения генов и белков из научной литературы и клинических документов. Её можно применять для поиска биомедицинских сущностей в публикациях, анализа медицинских записей и построения баз знаний. В README указаны F1 0,85, точность 0,84 и полнота 0,86 на BC2GM; результаты на других типах текстов не приведены. Модель распространяется по лицензии Apache-2.0.

OpenMed-NER-PathologyDetect-SuperClinical-434M — англоязычная модель распознавания упоминаний заболеваний в биомедицинском тексте, опубликованная OpenMed. Это дообученный трансформер DeBERTa V2 для классификации токенов: он присваивает токенам BIO-метки B-Disease и I-Disease, чтобы выделять названия заболеваний. Модель рассчитана на анализ клинических записей, медицинских документов и научной литературы; в качестве обучающего набора в карточке указан корпус NCBI Disease. Модель содержит 533,8 млн параметров, принимает токенизированный текст, использует контекст до 512 токенов и выдаёт метки сущностей. Карточка приводит для NCBI Disease F1 0,90, точность 0,88, полноту 0,93 и accuracy 0,98. Лицензия — Apache 2.0. Она выделяет заболевания, а не лекарства или химические соединения, поэтому перечисленные в карточке сценарии извлечения медикаментов и химических сущностей не подтверждены её набором меток; качество на иных типах текстов и вне указанного корпуса может отличаться.

Falconsai/question_answering_v2 — англоязычная модель на архитектуре DistilBERT-base-uncased, дообученная разработчиками Falconsai для поиска ответов на вопросы по заданному тексту. Она принимает вопрос и контекст, после чего извлекает из контекста ответ; архитектура DistilBERT компактнее BERT и рассчитана на более эффективный инференс. Максимальная длина контекста — 512 токенов. Модель предназначена прежде всего для англоязычных сценариев question answering. В README также упоминаются классификация текста, анализ тональности и распознавание именованных сущностей, но отдельная пригодность для этих задач не подтверждена метаданными. Модель распространяется по лицензии Apache-2.0. Качество зависит от данных и предметной области; README рекомендует оценивать модель на целевых примерах и отмечает возможные смещения в предсказаниях. Указанная длина контекста ограничивает объём текста, который можно обработать за один запрос.

RoBERTa-base-ca-v2 — трансформерная модель с архитектурой RoBERTa и головой masked language modeling, разработанная подразделением Text Mining Unit (TeMU) Барселонского суперкомпьютерного центра в рамках проекта AINA. Модель содержит 151,8 млн параметров и обучена для каталонского языка на корпусах из открытых источников и веб-краулинга. Модель готова к заполнению пропусков в каталонском тексте: она подбирает вероятные варианты для замаскированного токена. Её также можно дообучать для классификации текста, распознавания именованных сущностей и частей речи, ответов на вопросы и других задач понимания языка. В карточке приведены результаты оценки на бенчмарке CLUB для ряда таких задач; для них требуется соответствующая настройка модели. Модель принимает текст и выдаёт предсказания токенов. Максимальная длина контекста — 514 токенов. Разработчики предупреждают, что веб- и публичные обучающие корпуса могут содержать смещения, а отдельная оценка встроенных bias на момент публикации не проводилась. Лицензия — Apache License 2.0.

SentSecBert10kAllDataSplit — модель QCRI на базе BERT, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, сравнения сходства и кластеризации текстов. Модель использована в работе «Semantic Ranking for Automated Adversarial Technique Annotation in Security Text» и предназначена, в частности, для ранжирования и аннотирования текстов о кибербезопасности и техниках противника. Число параметров — 96,6 млн, максимальный контекст — 514 токенов. В карточке не указаны условия лицензии; качество и ограничения применения отдельно не описаны.