I.11Классификация, ранжирование и сопоставление

Модель timm/vit_base_patch32_clip_224.laion2b_ft_in1k — визуальный трансформер (ViT) для классификации изображений и извлечения признаков. Её разработали авторы библиотеки timm на основе OpenCLIP: модель предварительно обучена на парах изображение–текст из LAION-2B, затем дообучена на ImageNet-1k. Веса доступны в форматах PyTorch и Safetensors по лицензии Apache-2.0. Модель содержит 88,2 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Её можно применять для классификации изображений по категориям ImageNet-1k, а также получать визуальные эмбеддинги для поиска похожих изображений и других задач компьютерного зрения. Карточка не описывает языковые возможности или ограничение контекста; модель работает с изображениями, а не с текстовыми запросами.

belfner/vit_giant_patch16_lingbot.robbyant — преобразованная версия энкодера изображений LingBot-Vision ViT-Giant/16, опубликованная авторами исходной модели. Модель содержит около 1,13 млрд параметров и предназначена для извлечения признаков и эмбеддингов изображений. Она использует патчи размером 16 пикселей, CLS-токен, четыре register-токена и патч-токены; стандартная конфигурация усредняет признаки патчей. Указанный размер изображения — 512 × 512. Энкодер предварительно обучен методом masked boundary modeling на курируемом веб-корпусе из 161 млн изображений. Веса преобразованы для реализации Eva/DINOv3 в timm; автор README сообщает о точном совпадении выходов fp32 с эталонной реализацией для проверенных размеров изображений. Модель подходит для получения визуальных признаков, карт признаков и эмбеддингов, в том числе как основы для классификации и задач плотного пространственного восприятия. Репозиторий распространяется по лицензии Apache 2.0; запись архитектуры в timm на момент создания карточки ожидала включения в библиотеку.

V-JEPA 2 — видеомодель, разработанная FAIR при Meta. Она использует архитектуру VJEPA2 и предназначена для представления видео и изображений, классификации видео, поиска похожих видео и работы в качестве видеоэнкодера для визуально-языковых моделей. Для этой версии требуется подавать 64 кадра; изображение можно представить как последовательность повторяющихся кадров. Модель содержит 402,7 млн параметров и доступна в формате Safetensors для библиотеки Transformers. Модель подходит для извлечения представлений из видео и изображений, классификации видеоматериалов и поиска по видео. В карточке заявлены возможности понимания видео на основе масштабного предобучения; отдельные численные результаты для этой версии не приведены. Лицензия — MIT.

Winnow-12B — дообученная EldanRing мультимодальная модель на базе Gemma 4 12B IT для локального диалога и принятия решений по заданным вариантам ответа. Она оценивает варианты для вопросов формата «да/нет», выбора из списка и упорядоченной шкалы через интерфейс `/v1/systemone`; обычный чат доступен через `/v1/chat/completions`. При наличии соответствующего projector модель принимает изображения. Модель построена на плотной унифицированной архитектуре Gemma 4 и распространяется в формате GGUF, включая варианты BF16, Q8_0 и NVFP4. Для профиля Q8_0 с изображениями проверена емкость контекста 65 536 позиций. В описанных тестах Q8_0 показала точность 85,71% на открытой выборке JevBench из 231 вопроса и 81,55% на Kev-v9 clean из 1 046 вопросов; это результаты отдельных оценочных панелей, а не гарантия качества в других задачах. Дообучение выполнено методом LoRA ранга 32, затем объединено с базовой моделью. Лицензия — Apache-2.0. Модель подходит для локального применения, когда нужно оценивать заданные варианты ответа, применять правила, выбирать свидетельства или определять ответимость вопроса. Данные и конвейер обучения закрыты. Уверенность отражает распределение вероятностей только между предложенными вариантами и не гарантирует правильность; варианты с меньшей разрядностью могут снижать точность. BF16 требует больше памяти, а для обработки изображений нужен подходящий projector.

Модель timm/aimv2_1b_patch14_224.apple_pt — веса визуального энкодера AIM-v2, совместимые с библиотекой timm. Она предназначена для извлечения признаков из изображений, например для получения векторных представлений, которые можно использовать в последующих задачах компьютерного зрения. В метаданных указаны форматы PyTorch и safetensors и лицензия apple-ascl. Карточка не содержит сведений о размере модели, обучении, поддерживаемых языках или ограничениях применения.

apple/aimv2-3B-patch14-448 — визуальная модель семейства AIMv2 от Apple, предварительно обученная с мультимодальной авторегрессионной целевой функцией. Вариант содержит около 2,7 млрд параметров и предназначен для извлечения признаков из изображений; карточка показывает загрузку через Transformers и обработку изображений с помощью AutoImageProcessor. Репозиторий включает веса Flax и safetensors. По данным карточки, AIMv2 превосходит CLIP и SigLIP на большинстве бенчмарков мультимодального понимания, а также DINOv2 в обнаружении объектов с открытым словарём и понимании выражений, указывающих на объекты. AIMv2-3B достигает 89,5% на ImageNet при замороженном визуальном энкодере. Лицензия — Apple AMLR.

KiruruP/anime-recommendation-multilingual-mpnet-base-v2-final — модель Sentence Transformers, дообученная на базе sentence-transformers/paraphrase-multilingual-mpnet-base-v2 для поиска и сопоставления текстовых описаний аниме. Она основана на XLM-RoBERTa и преобразует предложения и абзацы в плотные векторы размерности 768; сходство между ними измеряется косинусной мерой. В карточке указаны 3 088 обучающих примеров и максимальная длина последовательности 128 токенов; метаданные каталога указывают нативный контекст до 514 токенов. Модель подходит для семантического поиска аниме по описанию сюжета, подбора похожих произведений и поиска перефразированных запросов. В примерах обучения пользовательские запросы сопоставляются с описаниями аниме; также модель можно применять для кластеризации и классификации текстов через эмбеддинги. Она принимает текст и выдаёт векторы, а не готовые рекомендации или ответы. Используется библиотека Sentence Transformers; веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.

APUS-OpenJev-v1-4B — дообученная модель на базе Qwen3.5-4B от APUS AI Lab, предназначенная для выбора действий в браузере, маршрутизации рабочих процессов и вынесения суждений по текстовым принципам. Репозиторий содержит слитые BF16-веса контрольной точки 5949; модель использует языковые представления и проекцию словаря Qwen. В метаданных указана архитектура Qwen3.5 и поддержка диалога. Модель оценивает кандидатов, динамически переданных в запросе, и возвращает распределение предпочтений; приложение может преобразовать решение в структурированный результат рабочего процесса. В README приведена оценка 66 из 80 на панели Frozen80, включающей задачи для браузера, HelpSteer3, BoolQ, MNLI и принятия решений по атрибутам. Это не независимый слепой тест и не показатель успешности браузерных действий в целом. Указаны режимы вычисления с 16 и 32 слоями; для генерации текста рекомендуется режим высокой глубины. Модель принимает текст и выдаёт текстовые решения и оценки кандидатов. В карточке указаны английский и китайский языки. Лицензия — Apache-2.0. Вероятности кандидатов отражают относительные предпочтения и требуют калибровки перед интерпретацией как вероятностей правильного ответа; слияние BF16 может менять значения вероятностей.

Astrid-7B — языковая модель PAIX.Cloud для генерации текста на английском языке. Она построена на плотном трансформере RWForCausalLM с 32 декодирующими слоями и линейной выходной головой; в метаданных указано 10,9 млрд параметров и формат PyTorch. Модель доступна для работы через Transformers и предназначена для широкого круга текстовых сценариев, включая генерацию продолжений и ответы на вопросы. Модель принимает текст и генерирует текст. Карточка указывает обучение на английском языке, но не приводит длину контекста или лицензию. Ответы могут быть ошибочными, бессвязными или нерелевантными, а обучающие данные из интернета могут приводить к предвзятым или оскорбительным результатам; ответы следует проверять.

mgrella/autonlp-bank-transaction-classification-5521155 — модель классификации банковских транзакций, обученная с помощью AutoNLP. Она решает задачу многоклассовой классификации текста и предназначена для присвоения транзакционным записям категорий по их текстовому описанию. Модель построена на архитектуре BERT для классификации последовательностей, содержит 137,1 млн параметров и принимает текст длиной до 512 токенов. В карточке указан итальянский язык. На валидации точность составила 0,822, а macro F1 — 0,571; разница между этими показателями указывает, что качество может заметно различаться между классами. Модель опубликована в формате PyTorch и Safetensors. Лицензия в предоставленных данных не указана.

BEiT-3 large — модель классификации изображений и визуальная backbone-модель, опубликованная в коллекции timm. Изначально мультимодально предобучалась на изображениях ImageNet-22k, текстовых документах объёмом 160 ГБ и крупномасштабных парах изображение–текст с помощью masked data modeling и фильтрации данных по предметной области, а затем дообучалась на ImageNet-22k и ImageNet-1k. Репозиторий содержит преобразованную версию для задач классификации только по изображениям. Модель имеет 304,6 млн параметров, обрабатывает изображения размером 224 × 224 и может использоваться для классификации, извлечения карт признаков и получения эмбеддингов изображений. В карточке Hugging Face указана библиотека timm, веса представлены в форматах PyTorch и safetensors. Лицензия — Apache-2.0.

BEiT-v2 Large — модель классификации изображений и визуальный backbone из семейства BEiT, опубликованный авторами библиотеки timm. Модель содержит 325,8 млн параметров и обрабатывает изображения размером 224 × 224 пикселя. Она обучалась на ImageNet-1k методом masked image modeling с VQ-KD визуальным токенизатором, созданным с учителем OpenAI CLIP B/16, а затем была дообучена на ImageNet-22k. Модель предназначена для классификации изображений и получения визуальных эмбеддингов, которые можно использовать как признаки в последующих задачах компьютерного зрения. В карточке также указаны вычислительная сложность 61,6 GMACs и 63,5 млн активаций. Репозиторий предоставляет веса PyTorch и safetensors; лицензия — Apache-2.0. Карточка не приводит детальных оценок качества или ограничений по данным применения.

anirudh21/bert-base-uncased-finetuned-qnli — модель BERT, дообученная на наборе GLUE для классификации текстовых последовательностей. Её можно использовать для оценки связи между парой предложений, в частности для задачи QNLI: определения, отвечает ли текст на заданный вопрос. Модель содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. Она работает с текстом на английском языке и выдаёт метку классификации. На оценочной выборке указаны accuracy 0,7917 и loss 0,6268. Модель выпущена пользователем anirudh21 как дообучение bert-base-uncased. Лицензия — Apache-2.0. Результат зависит от формулировок вопроса и текста; оценка на GLUE не гарантирует аналогичного качества на других данных.

Модель stjiris/bert-large-portuguese-cased-legal-tsdae-sts-v1 (Legal BERTimbau) разработана в рамках проекта IRIS для семантического поиска по материалам Верховного суда правосудия Бразилии. Это модель Sentence-Transformers на базе BERTimbau Large: она кодирует предложения и абзацы в плотные векторы размерности 1024, пригодные для поиска по смыслу и кластеризации. Модель обучалась методом TSDAE на юридических предложениях примерно из 30 тысяч документов, а затем дообучалась для семантического сходства текстов на наборах ASSIN, ASSIN2, STS-B Multi-MT для португальского и IRIS STS. Она рассчитана на португальский язык, имеет контекст до 512 токенов и распространяется по лицензии MIT. Для длинных текстов потребуется разбиение на фрагменты; модель предназначена для векторного представления и сравнения текстов, а не для генерации ответов.

BERTurk-128k Turkish News Classification — модель классификации новостей, разработанная thealper2 на основе dbmdz/bert-base-turkish-128k-cased. Это дообученный энкодерный Transformer BERTurk с архитектурой BertForSequenceClassification и 211,6 млн параметров; он присваивает турецкому новостному тексту одну из девяти взаимоисключающих тематических категорий. Контекст модели составляет до 512 токенов. Модель предназначена для автоматической тематической разметки новостных материалов и распределения их по категориям, в том числе для потоковой обработки и построения классификаторов на базе Transformers. По описанию автора, на тестовой выборке из 40 063 документов она достигла точности 95,95%, weighted-F1 0,9602 и macro-F1 0,9357. Обучение проводилось на наборе TRNEWS-2025 с учётом дисбаланса классов. Модель поддерживает турецкий язык и распространяется под лицензией MIT. Она ограничена классификацией новостей на девять заданных категорий и может терять информацию в текстах длиннее 512 токенов; результаты для других жанров и языков не заявлены. Условия использования датасета TRNEWS-2025 следует учитывать отдельно от лицензии модели.

Gurveer05/bge-base-eedi-2024 — англоязычная модель Sentence Transformers, дообученная разработчиком на базе BAAI/bge-base-en-v1.5 на наборе из 2 940 примеров. Она кодирует предложения и абзацы в плотные векторы размерности 768 и сравнивает их по косинусному сходству; архитектура включает BERT, пулинг по CLS-токену и нормализацию. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. В обучающих примерах используются вопросы и ответы по математике и варианты типичных ошибочных рассуждений учащихся. Это делает модель подходящей для поиска похожих учебных задач и сопоставления ответа с типом ошибки. Максимальная длина последовательности — 512 токенов. В метаданных указаны 136,7 млн параметров и лицензия не приведена.

korruz/bge-base-financial-matryoshka — англоязычная модель Sentence Transformers, дообученная автором korruz на базе BAAI/bge-base-en-v1.5 для работы с финансовыми текстами. Она преобразует предложения и абзацы в плотные векторы для семантического поиска и сравнения текстов; также подходит для кластеризации, поиска перефразирований и классификации текстов. Модель построена на BERT с пулингом CLS-токена и нормализацией выходного вектора. Размер эмбеддинга — 768 измерений, максимальная длина входа — 512 токенов; сходство можно оценивать косинусной мерой. Matryoshka-обучение позволяет использовать сокращённые векторы размером 512, 256, 128 или 64 измерения с некоторым снижением качества поиска. В карточке приведены результаты оценки информационного поиска на наборах данных dim_768, dim_512, dim_256, dim_128 и dim_64. Модель предназначена прежде всего для английских финансовых текстов, включая поиск по финансовым документам и сопоставление вопросов с фрагментами документов. Лицензия — Apache-2.0. Контекст ограничен 512 токенами; данные оценки и обучения в карточке описаны лишь частично, поэтому приведённые метрики не гарантируют качество на других корпусах.

sriram04/bge-base-financial-matryoshka — англоязычная модель Sentence Transformer, дообученная автором на 6 300 парах текстов финансовой тематики на базе BAAI/bge-base-en-v1.5. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения текстов и информационного поиска по финансовым материалам. Модель построена на BERT с CLS-пулингом и нормализацией векторов; для сравнения используется косинусное сходство. Matryoshka-обучение позволяет использовать укороченные представления размерностью 512, 256, 128 или 64, с некоторым снижением качества поиска. Максимальная длина входа — 512 токенов. По карточке, на приведённых тестах InformationRetrievalEvaluator точность cosine_accuracy@5 составляет 0,86 для 768 измерений и 0,8157 для 64; результаты относятся к указанным в карточке наборам оценки. Модель подходит для поиска связанных финансовых фрагментов, группировки документов и подготовки эмбеддингов для последующей классификации. Она работает с английским текстом; качество на иных языках не заявлено. Распространяется по лицензии Apache-2.0.

Quintu разработала Quintu/bge-m3-legal_retrieval — дообученную версию модели bge-m3 для поиска юридических документов по смыслу. Модель преобразует запросы и документы в эмбеддинги, которые можно сравнивать по семантической близости; она рассчитана на поиск релевантных материалов в юридических коллекциях и учитывает юридическую терминологию и контекст. Модель построена на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров и принимает текст с контекстом до 8194 токенов. Карточка указывает английский язык; веса доступны в формате safetensors, модель использует Sentence-Transformers. Лицензия — Apache-2.0. Описание не приводит количественных оценок качества или подробностей о составе обучающего набора.

BotNet26t_256.c1_in1k — модель классификации изображений на основе архитектуры ResNet с блоками пространственного самовнимания. Её разработал Ross Wightman и обучил на ImageNet-1k с помощью библиотеки timm; архитектура реализована через гибкую систему BYOBNet. Модель предназначена для классификации изображений, извлечения карт признаков и получения эмбеддингов. Она рассчитана на изображения размером 256 × 256 пикселей, содержит около 12,5 млн параметров и требует 3,3 GMACs на изображение. При настройке использовались схема обучения ResNet Strikes Back C, оптимизатор SGD с Nesterov, адаптивное ограничение градиентов и косинусное расписание скорости обучения. Модель доступна в форматах PyTorch и safetensors. Это вариант BotNet с уменьшенным числом блоков самовнимания, настроенный на разумное время обучения; он не воспроизводит конфигурацию какой-либо конкретной научной работы. Для использования и модификации действует лицензия Apache-2.0.

Модель dima806/clothes_image_detection — дообученный Vision Transformer для определения категории одежды на изображении. Она принимает изображение и возвращает метку класса одежды; в README заявлена точность около 78%. Модель основана на google/vit-base-patch16-224-in21k, содержит 113,2 млн параметров и распространяется в формате safetensors через Transformers. Модель подходит для автоматической категоризации одежды в каталогах товаров и для распознавания типов одежды на фотографиях. Лицензия Apache-2.0 разрешает использование на её условиях.

facebook/dinov2-with-registers-small — небольшая модель Vision Transformer (ViT), опубликованная командой DINOv2 и представленная в работе «Vision Transformers Need Registers» Дарсе и соавторов. Это предварительно обученный визуальный энкодер без настроенных под конкретные задачи выходных голов; в репозитории используются веса Safetensors, библиотека Transformers, размер модели — 28,3 млн параметров. Модель предназначена для извлечения признаков и эмбеддингов изображений, которые можно использовать в последующих задачах компьютерного зрения. Например, поверх представления токена [CLS] можно обучить линейный классификатор для размеченного набора изображений. Добавленные при обучении register-токены помогают уменьшить артефакты на картах внимания и делают их более интерпретируемыми. Модель принимает изображения и выдаёт их векторные представления. В карточке не заявлена поддержка текстового ввода или других модальностей. Модель распространяется по лицензии Apache-2.0. Для решения прикладных задач вроде классификации потребуется обучить соответствующую голову или выбрать дообученную версию; сама модель таких голов не содержит.

ClimateBERT — дообученная модель на базе RoBERTa с 95,4 млн параметров и классификационной головой для определения климатической тематики абзацев. Её разработчики дообучили языковую модель climatebert/distilroberta-base-climate-f на наборе данных climatebert/climate_detection. Модель предназначена для классификации текстовых абзацев как связанных или не связанных с климатом. Она принимает текст и выдаёт метку класса. Поддерживает английский язык, контекст — до 514 токенов. Использовать её можно, например, для отбора климатических материалов в корпусах документов и новостных текстах. Модель распространяется по лицензии Apache-2.0. Она обучалась на абзацах, поэтому может хуже работать с отдельными предложениями.

E5 Uzbek Embedding Model (e5-uz-v3) — модель эмбеддингов текста на базе XLM-RoBERTa, дообученная разработчиком Dovud Asadov на multilingual-e5-base для семантического поиска и извлечения документов на узбекском языке. Она кодирует запросы и документы в векторы размерности 768; для лучшего качества запросы следует помечать префиксом «query:», а документы — «passage:». Сходство векторов оценивается косинусной функцией. Модель содержит 305,2 млн параметров, использует 12 слоёв XLM-RoBERTa и рассчитана на последовательности до 512 токенов. Она обучена на 36 306 узбекских триплетах «запрос — релевантный документ — нерелевантный документ» с функцией потерь CachedMultipleNegativesRankingLoss. По приведённой оценке, cosine_accuracy составляет 0,499 при k=1, 0,723 при k=3 и 0,801 при k=5. Модель подходит для поиска по смыслу и retrieval в узбекских текстовых корпусах; лицензия Apache-2.0 допускает её использование на условиях этой лицензии. Узкая специализация на узбекском и максимальная длина последовательности ограничивают её применение для других языков и длинных документов без дополнительной проверки.

ecaresnet50t.a1_in1k — свёрточная модель классификации изображений из библиотеки timm, разработанная командой timm. Она основана на архитектуре ECA-ResNet-T: использует остаточные блоки ResNet и механизм Efficient Channel Attention. Модель содержит 25,6 млн параметров, требует около 4,3 GMACs и обучена на ImageNet-1k по рецепту ResNet Strikes Back A1. Размер входного изображения при обучении составлял 224×224 пикселя, при оценке — 288×288. Модель предназначена для классификации изображений по категориям ImageNet-1k; её также можно использовать как визуальную основу для извлечения карт признаков и эмбеддингов. Она принимает изображения и выдаёт оценки классов. Репозиторий содержит веса PyTorch и Safetensors. Лицензия Apache-2.0 допускает коммерческое использование при соблюдении её условий.

EttinX-nli-xs — компактная модель-кросс-энкодер, разработанная dleemiller для классификации отношений между парой текстов: противоречие, нейтральность или следование. Она основана на энкодере jhu-clsp/ettin-encoder-32m семейства ModernBERT и дообучена на наборе all-nli-distill с использованием логитов учительской модели dleemiller/ModernCE-large-nli. Модель содержит 31,9 млн параметров и рассчитана на работу через библиотеку sentence-transformers. Модель предназначена для задач Natural Language Inference (NLI), оценки текстовых гипотез и проверки выводов LLM; автор также отмечает пригодность для лёгкого CPU-инференса. В README приведены результаты micro F1: 83,80% на MNLI mismatched и 88,20% на SNLI. Контекст составляет до 7999 токенов по метаданным; README заявляет обработку последовательностей до 8192 токенов. Модель принимает текстовые пары и выдаёт классификационные оценки или метки отношений. Она ориентирована на английский язык. Лицензия — MIT. Результаты и заявленная эффективность приведены автором; качество на иных языках и доменах в карточке не описано.

facebook/fasttext-ms-vectors — готовая модель векторных представлений слов семейства fastText для малайского языка. fastText разработана Facebook Research как лёгкая библиотека для обучения векторных представлений и классификаторов текста; модель использует алгоритм CBOW с позиционными весами, размерность векторов 300 и символьные n-граммы длиной 5. Она предназначена для извлечения представлений слов, измерения их сходства, классификации текста и идентификации языка и работает на обычном оборудовании. Модель обучена на данных Common Crawl и Википедии. Векторы можно применять в экспериментах, прототипах и производственных системах, например, как признаки для задач классификации. Лицензия — CC BY-SA 3.0. Предсказания могут отражать смещения обучающих данных, поэтому результаты сходства и классификации следует проверять в целевом контексте.

FinBERT-esg-9-categories — модель классификации финансовых текстов, разработанная исследовательской группой Гонконгского университета науки и технологий и дообученная на примерно 14 тысячах вручную размеченных предложений из ESG- и годовых отчётов компаний. Модель построена на архитектуре BERT, содержит 137 млн параметров и принимает текстовые входы длиной до 512 токенов. Она относит текст к одной из девяти категорий: изменение климата, природный капитал, загрязнение и отходы, человеческий капитал, ответственность за продукт, отношения с сообществами, корпоративное управление, деловая этика и ценности либо не-ESG. Модель предназначена для детальной тематической разметки ESG-материалов и дополняет FinBERT-esg, классифицирующий текст по четырём укрупнённым темам. Модель работает с английским языком; веса доступны в формате PyTorch. Лицензия в предоставленных данных не указана.

RishuD7/finetune_base_bge_pretrained_v4 — модель на основе архитектуры BERT от пользователя Hugging Face RishuD7. Она предназначена для извлечения признаков из текста, в частности получения контекстных векторных представлений, пригодных для последующей обработки или поиска. В метаданных указаны 136,7 млн параметров, контекст до 512 токенов и формат PyTorch. Карточка Hugging Face не содержит описания обучения, рекомендуемых сценариев, языков или лицензии. Поэтому нельзя подтвердить, на каких данных и для каких языков модель дообучена; название репозитория само по себе не устанавливает базовую модель или лицензионные условия.

GeistBERT — немецкоязычная языковая модель, разработанная авторами проекта GeistBERT и дообученная на основе GottBERT. Это плотная архитектура RoBERTa с 153,2 млн параметров, обученная с Whole Word Masking на преимущественно дедуплицированном немецком корпусе объёмом около 1,3 трлн токенов; контекст составляет 514 токенов. Модель предназначена для немецких NLP-задач, включая классификацию текста, распознавание именованных сущностей, понимание документов и предварительное обучение для машинного перевода. В README сообщаются сильные результаты на немецких бенчмарках NER, классификации текста и NLI. Для специализированных задач модель можно дообучать; метаданные указывают задачу заполнения пропусков в тексте (fill-mask). Корпус не прошёл полную ручную проверку, поэтому в нём могут встречаться избыточные или низкокачественные примеры. Лицензия модели — MIT.