I.11Классификация, ранжирование и сопоставление

josedossantos/urf-txtEmenta-legalbertpt — модель Sentence-Transformers на архитектуре BERT, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для поиска семантически близких текстов, кластеризации и сопоставления предложений; обучение использовало контрастивную функцию потерь с косинусной метрикой расстояния. Модель содержит 136,1 млн параметров и принимает текст, выдавая векторные представления. Максимальная длина контекста — 512 токенов. Название указывает на правовые тексты на португальском языке, однако README не уточняет состав обучающих данных или специализированные юридические сценарии. Файлы модели представлены в формате safetensors; лицензия в предоставленных данных не указана.

Это вьетнамская модель Sentence Transformers, разработанная tanbinh2210 как дообучение bkai-foundation-models/vietnamese-bi-encoder на 38 845 примерах из JSON-датасета. Она использует архитектуру RoBERTa с mean pooling и преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения косинусным сходством. Максимальная длина последовательности — 258 токенов по метаданным модели. Модель предназначена для семантического поиска по вьетнамским текстам, оценки смыслового сходства, поиска перефразировок, кластеризации и классификации текстов. Пример в карточке связывает вопрос о представительстве женщин в Национальном собрании с соответствующим фрагментом вьетнамского законодательства, поэтому модель подходит для поиска правовых документов и ответов по ним. Модель принимает текст и выдаёт эмбеддинги; она не генерирует ответы. Данные не подтверждают поддержку других языков. Лицензия в предоставленных источниках не указана.

johnpaulbin/voice-begging-detection — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768; контекст составляет до 514 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. В карточке указано обучение с CosineSimilarityLoss. Для работы доступны веса PyTorch; модель можно использовать через Sentence-Transformers или Transformers с подходящей операцией pooling. Карточка не сообщает о специализированной области применения или целевых языках, поэтому модель следует считать общей текстовой моделью. Лицензия в предоставленных данных не указана.

WRAPresentations — англоязычная модель Sentence-Transformers от TomatenMarc для построения эмбеддингов твитов и поиска сходства между ними в задачах анализа аргументации. Она основана на BERTweet-base с архитектурой RoBERTa и дообучена контрастивным обучением на датасете TACO. Модель кодирует твиты в 768-мерные векторы, в которых отражены классы Reason, Statement, Notification и None; эти представления можно использовать для последующей классификации и группировки твитов по смыслу аргументации и содержащейся информации. Модель предназначена для анализа англоязычных сообщений Twitter. В обучении использовались твиты по пяти темам, а отдельная тема #abortion служила отложенной выборкой для оценки. В карточке указаны 162,4 млн параметров и контекст до 130 токенов. Для получения эмбеддингов используется mean pooling; при применении через Transformers требуется корректно добавить pooling к выходам модели. Лицензия — CC BY-SA 4.0.

X-CLIP — видеоязыковая модель семейства CLIP, разработанная Microsoft и представленная в работе Ni et al. Это базовая версия с патчами 16×16, обученная в few-shot режиме с двумя примерами на класс на наборе UCF101. Модель сопоставляет видео и текст с помощью контрастивного обучения и принимает видеокадры вместе с текстовым описанием.

Zero-shot SELECTRA Medium — испаноязычный классификатор с архитектурой ELECTRA, разработанный авторами, указанными в карточке модели: David Fidalgo, Daniel Vila, Francisco Aranda и Javier Lopez. Модель дообучена на испанской части набора XNLI и предназначена для классификации текста по заданным пользователем категориям без отдельного обучения на этих категориях. Модель содержит около 47,5 млн параметров, принимает текст и использует шаблон гипотезы на испанском языке. Контекст ограничен 512 токенами. В оценке авторов SELECTRA Medium показала точность 0,807 на тестовой части XNLI и 0,589 при классификации испанских резюме MLSUM по пяти выбранным меткам; эти результаты относятся к указанным наборам и настройкам оценки. Модель компактнее прежнего классификатора на BETO и в этих тестах превзошла его. Распространяется по лицензии Apache-2.0.

Карточка модели avsolatorio/00-400-10-1-0-1-0-0-cls-normed-768-512_GIST_BAAI_bge-base-en-v1.5-20240130211808-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

peggyes/abena-simcse-twi — модель Sentence Transformers, дообученная на базе Ghana-NLP/abena-base-asante-twi-uncased для получения векторных представлений предложений и абзацев на языке Asante Twi. Архитектура включает BERT, усредняющий слой pooling и плотные эмбеддинги размерности 768; сходство между векторами можно оценивать косинусной мерой. Модель обучалась на 7 000 пар текстов с функцией потерь MultipleNegativesRankingLoss и подходит для поиска и сравнения текстов. Модель принимает текст; длина последовательности в README указана до 64 токенов, а максимальный контекст базовой модели в метаданных — 512 токенов. Для задач поиска и сопоставления следует учитывать ограничение в 64 токена, указанное для этой модели. Языковая специализация — Asante Twi. Репозиторий использует формат safetensors и библиотеку Sentence Transformers. Лицензия в предоставленных данных не указана.

nicklimas/achaorientador-bertimbau — модель Sentence Transformer, созданная дообучением BERTimbau Base от NeuralMind для поиска научных руководителей по интересам и темам исследований. Она преобразует предложения и абзацы на португальском языке в плотные векторы размерности 768; сходство между ними можно оценивать косинусной мерой. Архитектура состоит из BERT и слоя усреднения токенных представлений. Максимальная длина последовательности в README — 64 токена; контекстная длина базовой модели в метаданных — 512 токенов. Модель обучена на 1 896 парах предложений с функцией MultipleNegativesRankingLoss. Она подходит для семантического поиска, сопоставления запроса студента с исследовательскими темами преподавателей, поиска перефразировок, кластеризации и классификации текстов с использованием эмбеддингов. Репозиторий использует Sentence Transformers и содержит веса safetensors. Лицензия в предоставленных данных не указана.

Albertina 100M PTBR — энкодер для бразильского варианта португальского языка, разработанный совместной командой Университета Лиссабона и Университета Порту. Это модель семейства BERT на архитектуре DeBERTa с 151,8 млн параметров по метаданным; карточка описывает базовую версию как модель примерно на 100 млн параметров с 12 слоями и размером скрытого состояния 768. Модель принимает текст и предсказывает пропущенные в нём токены, а также может служить основой для задач понимания португальского языка. Модель обучали на 3,7 млрд токенов отфильтрованных веб-документов OSCAR с отбором доменов Бразилии. В карточке приведены результаты оценки на португальской версии набора PLUE для сходства предложений, распознавания следования и кореференции. Контекст составляет до 512 токенов, формат распространения — PyTorch и Safetensors. Модель доступна по лицензии MIT. Результаты карточки относятся к отдельным downstream-тестам и не гарантируют качество на других данных и задачах.

Albertina 1.5B PTBR — португалоязычная модель-энкодер семейства BERT, разработанная совместной командой Лиссабонского и Портского университетов. Она предназначена для бразильского варианта португальского языка и построена на архитектуре DeBERTa V2 с трансформерным энкодером. Модель содержит 1,5 млрд параметров по карточке README (в метаданных указано 2B), 48 слоёв, размер скрытого состояния 1536 и контекст до 512 токенов. Основной сценарий использования — заполнение пропусков в тексте и получение контекстных представлений для последующей адаптации к задачам понимания португальского языка, например классификации и оценки сходства предложений. Модель обучена на корпусах бразильского португальского объёмом 36 млрд токенов; в README приведены результаты на бенчмарке extraGLUE для PTBR. Это энкодер, поэтому он не предназначен для свободной генерации длинных текстов или диалогов. Модель распространяется по лицензии MIT. Для неё заявлена сильная производительность на ряде задач понимания PTBR, однако приведённые в карточке бенчмарки частично основаны на автоматически переведённых наборах данных, а качество на других доменах может отличаться.

m3hrdadfi/albert-zwnj-wnli-mean-tokens — модель на базе ALBERT, опубликованная пользователем m3hrdadfi. Она предназначена для извлечения векторных представлений предложений и оценки их сходства; её можно подключить через Sentence-Transformers или Transformers с подходящей операцией pooling. Модель содержит 136,3 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Модель подходит для поиска похожих предложений, семантического поиска и построения эмбеддингов для текстовых приложений. В названии указаны ZWNJ и WNLI, однако README не уточняет языковую поддержку, обучение и специальные ограничения. Лицензия в предоставленных сведениях не указана.

y22ma/alibaba-modernbert-router — англоязычная модель классификации текста, разработанная y22ma на базе Alibaba-NLP/gte-modernbert-base и дообученная с помощью Unsloth и TRL. Она предназначена для отнесения текста к классам; конкретные классы и сценарий маршрутизации в карточке не описаны. Модель построена на архитектуре ModernBERT, содержит 149 млн параметров и поддерживает контекст до 8192 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

all-MiniLM-L6-v2-multi-qa-linear-merge — демонстрационная модель, созданная авторами репозитория с помощью функции слияния моделей Sentence Transformers. Она линейно объединяет с равными весами два англоязычных энкодера предложений: sentence-transformers/all-MiniLM-L6-v2 и sentence-transformers/multi-qa-MiniLM-L6-cos-v1. Модель основана на архитектуре BERT, содержит 25,9 млн параметров и принимает текст для получения векторных представлений; максимальная длина контекста составляет 512 токенов. Модель предназначена для вычисления семантической близости предложений и создания эмбеддингов для поиска и сравнения текстов. Это демонстрационное слияние, а не отдельный релиз, настроенный под конкретную задачу, поэтому качество на целевых сценариях следует проверять отдельно. Репозиторий содержит веса в форматах SafeTensors, TensorFlow и OpenVINO. Лицензия в предоставленных данных не указана.

Модель dice-research/amharic-property-retriever-afro-xlmr-base — Sentence Transformer, дообученный исследовательской группой DICE Research на базе Davlan/afro-xlmr-large-76L для сопоставления амхарских обозначений полей и свойств с соответствующими названиями на английском языке. Она преобразует предложения и короткие фрагменты текста в плотные векторы размерности 1024; близость векторов оценивается косинусным сходством. Модель построена на XLM-RoBERTa и предназначена для семантического поиска и ранжирования соответствий, в том числе для поиска названий свойств в схемах данных. Обучение проводилось на 1 224 парах примеров из набора amharic-property-mapping с функцией потерь MultipleNegativesRankingLoss. В README указана максимальная длина последовательности 64 токена; метаданные каталога приводят контекст 514 токенов. Для практического использования стоит ориентироваться на ограничение 64 токена, описанное в карточке Sentence Transformers. На тестовой выборке из 186 пар приведены метрики поиска, однако они не гарантируют качество на других данных. Модель распространяется по лицензии MIT.

ConnyGenz разработала эту модель как дообученную версию ConnyGenz/artificially-natural-roberta для классификации текста. Она содержит 151,8 млн параметров, использует архитектуру RoBERTa и рассчитана на последовательности длиной до 514 токенов. На оценочном наборе модель показала F1 0,988 и loss 0,0778. Модель подходит для классификации текстов в сценариях, где размечены нужные категории. Карточка не описывает набор категорий, обучающие данные или предполагаемую область применения, поэтому конкретный тип классификации установить нельзя. Веса опубликованы в формате safetensors; лицензия — MIT.

Berk/assay-compiled-base — компактная модель принятия решений проекта Assay, разработанная как CPU-ориентированный вариант для классификационных вопросов. Она дообучена на Alibaba-NLP/gte-modernbert-base и использует архитектуру compiled с поздним взаимодействием: кодирует состояние в токенные эмбеддинги, а вопрос и варианты ответа — в запросы и векторы для сопоставления. Размер модели — 149 млн параметров, контекст — до 8192 токенов; генерации текста нет. Модель принимает текстовое состояние и типизированные вопросы с ответами «да/нет», выбором из вариантов или оценкой, выдавая вероятностное распределение и сигнал доказательности. Она предназначена для классификации текстов, включая темы, тональность и спам, а также для сценариев, где допустимо воздержаться от ответа: на невиданных задачах применяется конформное предсказание. В README указаны средняя точность 0,606 на отложенных невиданных задачах и работа на CPU; вопросы, требующие знаний, арифметики или многошаговых рассуждений, модель решает слабо. Поддерживается только английский язык. Лицензия — Apache-2.0.

Модель ulisesbravo/autotrain-pt-l1sfd-nom8j — дообученная с помощью AutoTrain модель BERT для классификации текстов. Она основана на ulisesbravo/autotrain-k9ag8-b7nm0, который, согласно описанию в каталоге, представляет собой BERTimbau, дообученный для классификации текстов на португальском языке. Модель содержит 136,1 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для отнесения португалоязычных текстов к классам. На валидации указаны accuracy 0,732 и macro F1 0,731. Лицензия в предоставленных данных не указана.

Карточка модели avsolatorio/AVES_BAAI_bge-base-en-v1.5-20240126151540-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Модель OpenAlex разработана для классификации научных публикаций по заранее заданному набору тематик OpenAlex. Это дообученная многоязычная BERT-модель с архитектурой BertForSequenceClassification и 205,1 млн параметров; она принимает заголовок и аннотацию в заданном текстовом формате, а также может классифицировать текст только по заголовку или аннотации. Результат содержит тематическую метку OpenAlex и оценку модели для каждой темы. Модель предназначена для быстрого определения тематики научной работы по её заголовку и аннотации. Она может быть компонентом более полной системы классификации публикаций, где также учитываются сведения о журнале и цитировании. Контекст модели составляет до 512 токенов, поэтому длинный входной текст обрезается. Доступны веса в форматах safetensors и TensorFlow; модель распространяется по лицензии Apache 2.0. Это отдельная модель классификации текста, а не полная система OpenAlex для присвоения тем работам. Она обучена на размеченных данных CWTS; возможны смещения, унаследованные от базовой BERT-модели, а качество зависит от предобработки входа и соответствия тематики публикации фиксированному набору меток.

Legal BERTimbau — модель векторных представлений предложений, разработанная в рамках Project IRIS для семантического поиска по решениям Supremo Tribunal de Justiça. Она кодирует предложения и абзацы в плотные векторы размерности 1024; также подходит для поиска похожих текстов и кластеризации. Модель основана на юридической версии stjiris/bert-large-portuguese-cased-legal-mlm и использует архитектуру BERT large. Она обучалась на португальских юридических предложениях с помощью TSDAE, а затем проходила многоязычную дистилляцию и дообучение для семантического сходства на наборах ASSIN, ASSIN2 и STS-B Multi MT. Поддерживает португальский язык, принимает текст и выдаёт векторы; максимальная длина контекста — 512 токенов. Модель предназначена для семантического поиска по юридическим документам, а также для сравнения, группировки и поиска близких по смыслу предложений. Распространяется по лицензии MIT.

Pankaj8922/bert-medium-nli — модель классификации последовательностей на базе BERT-medium, дообученная для определения логического отношения между посылкой и гипотезой: следование, нейтральность или противоречие. Разработчик позиционирует её для zero-shot-классификации текстов: к тексту добавляют гипотезу вида «This text is about {label}.», а модель оценивает их отношение. Модель содержит 49,2 млн параметров, принимает текстовые пары и выдаёт оценки трёх классов. Контекст ограничен 512 токенами, основной язык карточки — английский. В обучении использована сбалансированная выборка Pankaj8922/nli-high-quality-balanced на основе MNLI, SNLI, FEVER-NLI и ANLI; в README указаны точность 0,8373 и macro F1 0,8372 на тестовой выборке. Компактный размер подходит для быстрого вывода и ограниченных ресурсов, но качество zero-shot-классификации на новых наборах меток ниже, чем у более крупных NLI-моделей. Лицензия — Apache-2.0.

Tgratzi/bert-tma-tuned-v2.1.2 — модель классификации текстов, дообученная разработчиком на основе BERT Base Uncased от Google. Она содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. Модель предназначена для присвоения тексту категорий; конкретные категории и целевой сценарий в карточке не раскрыты. В README приведены результаты на оценочном наборе: accuracy 0,9767, макро-F1 0,9621 и loss 0,0911. Датасет и методика оценки не описаны, поэтому эти показатели нельзя напрямую переносить на другие данные. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Это компактная англоязычная модель BERT из набора BERT Miniatures, представленного авторами исследования «Well-Read Students Learn Better: On the Importance of Pre-training Compact Models». Вариант L-4_H-512 имеет 4 слоя и скрытый размер 512; всего в модели около 32,4 млн параметров. Это плотная трансформерная модель с регистронезависимой токенизацией WordPiece и контекстом до 512 токенов. Доступны форматы PyTorch и Flax; лицензия — Apache-2.0. Модель предназначена для задач понимания английского текста и дообучения под конкретные классификационные и другие задачи NLP. Компактный размер делает её подходящей для сред с ограниченными вычислительными ресурсами; авторы отмечают, что особенно эффективно применять её в дистилляции, используя метки от более крупной модели-учителя. В README приведены результаты оценки вариантов семейства на GLUE. По сравнению с более крупными BERT моделями этот вариант требует меньше ресурсов, но компактность может ограничивать качество на сложных задачах. Модель не заявлена как генеративная или мультимодальная; для прикладных сценариев её обычно дообучают под целевую задачу.

Xenova/bge-base-zh-v1.5 — это версия модели BAAI/bge-base-zh-v1.5, подготовленная с ONNX-весами для совместимости с библиотекой Transformers.js. Разработчик исходной модели — BAAI; данный репозиторий предназначен для использования модели в JavaScript- и web-сценариях. Модель предназначена прежде всего для извлечения признаков (feature extraction), например для преобразования текстов в числовые представления, которые могут использоваться в задачах семантического поиска, сравнения текстов и построения систем на основе эмбеддингов. В README приведён пример запуска через pipeline Transformers.js. Ключевая характеристика этой версии — формат ONNX и совместимость с Transformers.js. Точная архитектура, число параметров, размер контекста, перечень поддерживаемых языков, модальности и результаты оценки в README не указаны. Также не приведена информация о лицензии, поэтому условия распространения следует уточнять в карточке исходной модели BAAI/bge-base-zh-v1.5. Ограничением является неполнота опубликованной информации о характеристиках и качестве модели.

oxfrug/bge-m3-swedish-superlim — модель эмбеддингов, созданная автором репозитория путём контрастивного дообучения BAAI/bge-m3 на шведских текстовых парах и запросах с ответами. Она предназначена прежде всего для семантического поиска и сопоставления предложений на шведском языке; также подходит для кластеризации текстов. Архитектура основана на XLM-RoBERTa, размер модели в метаданных — 658,7 млн параметров, нативный контекст — 8194 токена. Рекомендуемая автором размерность эмбеддингов — 768; модель использует библиотеку sentence-transformers и распространяется в формате safetensors. На описанных автором оценках модель улучшила результаты базовой BGE-M3 на SweParaphrase, SweFAQ и SwednRetrieval. Это специализированная модель для поиска: качество классификации шведских текстов снизилось относительно базовой модели. Оценка SweFAQ использовала обучающую выборку, поэтому её нельзя считать результатом zero-shot. Веса распространяются по лицензии MIT, однако лицензии части обучающих данных, включая дополнительную смесь медицинских вопросов и ответов, не установлены; результаты README также не означают включения модели в официальный рейтинг MTEB.

elsayovita/bge-small-en-v1.5-esg — англоязычная модель Sentence Transformers, дообученная на базе BAAI/bge-small-en-v1.5 на 11 863 парах контекстов и вопросов по теме ESG. Она кодирует предложения и абзацы в нормализованные плотные векторы размерностью 384 для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации. Архитектура включает BERT, пулинг CLS-токена и нормализацию; сходство оценивается косинусной мерой. Максимальная длина входа — 512 токенов. Обучение Matryoshka позволяет использовать укороченные представления размерностью 256, 128, 64 или 32, с некоторым снижением качества поиска. Модель подходит для поиска ответов на вопросы в текстах ESG и других сценариев семантического поиска на английском языке. В README приведены оценки на неназванном наборе для нескольких размерностей, поэтому их нельзя переносить на произвольные данные. Лицензия — Apache-2.0.

onnx-community/bge-small-zh-v1.5-ONNX — это версия модели BAAI/bge-small-zh-v1.5 с весами в формате ONNX, подготовленная для использования с библиотекой Transformers.js. В README не указано, кто именно выпустил эту ONNX-версию; исходная модель связана с BAAI. Модель предназначена для извлечения признаков из текста и может применяться в сценариях, где требуются векторные представления, например для семантического поиска или сравнения текстов. Она рассчитана прежде всего на китайскоязычные данные, что следует из идентификатора исходной модели, однако подробный перечень поддерживаемых языков и характеристики контекстного окна в README не приведены. Ключевая особенность модели — совместимость с Transformers.js и возможность запуска через задачу feature-extraction, в том числе в JavaScript-средах. Архитектура, размер модели, точные модальности и другие технические параметры в предоставленных данных не указаны. Лицензия также не указана, поэтому условия использования необходимо уточнять в карточке исходной модели BAAI/bge-small-zh-v1.5 или в репозитории модели.

FremyCompany BioLORD-STAMB2-v1 — модель эмбеддингов для клинических предложений и биомедицинских понятий, разработанная на основе стратегии предобучения BioLORD. Это дообученная версия sentence-transformers/all-mpnet-base-v2, обученная на BioLORD-Dataset; архитектура MPNet, около 136,7 млн параметров. Модель преобразует предложения и фразы в плотные векторы размерности 768 и сопоставляет их в общем семантическом пространстве. Модель предназначена для семантического поиска, оценки сходства и кластеризации биомедицинского текста, включая клинические записи и медицинские документы. Опора на определения понятий и краткие описания из биомедицинских онтологий помогает сохранять семантические и иерархические связи. В README сообщается о высоких результатах на MedSTS и MayoSRS. Контекст составляет 514 токенов; заявленный язык — английский. Модель выпущена в 2022 году, и авторы рекомендуют для большинства сценариев более новую версию BioLORD-2023. Лицензия указана как other, поэтому условия использования следует сверить с карточкой репозитория. Поддерживается PyTorch и доступно использование через Sentence-Transformers или Transformers.

CamemBERTa-L10 — урезанная версия предварительно обученной модели CamemBERTa, полученная удалением верхних слоёв исходного чекпойнта. Модель разработана авторами CamemBERTa; в карточке указано, что вариант L10 содержит на 14% меньше параметров, чем базовая версия. Метаданные описывают её как плотную архитектуру DeBERTa-v2 примерно на 119 млн параметров, доступную в формате safetensors. Модель принимает французский текст и выдаёт контекстные векторные представления. Её можно использовать для извлечения признаков и дообучать для задач, учитывающих всё предложение, например классификации текста, извлечения ответов на вопросы и семантического поиска. Контекст составляет до 512 токенов. Для генерации текста авторы рекомендуют авторегрессионные модели. Лицензия — MIT.