I.11Классификация, ранжирование и сопоставление

mljn/mdeberta-v3-base-finetuned-green-classification — модель классификации текста, полученная дообучением многоязычной microsoft/mdeberta-v3-base. Она предназначена для отнесения текста к классам в задаче green classification; конкретные названия классов, данные обучения и предполагаемые сценарии применения в карточке не раскрыты. Модель имеет архитектуру DeBERTa V2 для классификации последовательностей, содержит 306 млн параметров и принимает текст длиной до 512 токенов. В README приведены результаты оценки: accuracy 0,9213, macro F1 0,8801 и balanced accuracy 0,8710. Эти показатели относятся к указанному в карточке оценочному набору, но его состав и методика не описаны, поэтому их нельзя напрямую переносить на другие данные. Модель доступна по лицензии MIT.

MiniLMv2-L6-H384-distilled-from-BERT-Large — компактная encoder-only Transformer-модель семейства BERT, опубликованная пользователем nreimers (Nils Reimers) на Hugging Face и обученная методом MiniLMv2 с дистилляцией знаний из BERT-Large. Модель предназначена прежде всего для задач понимания естественного языка и запуска masked-language modeling: восстановления замаскированных токенов, а также последующей донастройки для классификации, извлечения ответов и других NLU-задач. Архитектура включает 6 Transformer-слоёв, размер скрытого состояния 384 и 12 attention heads; объём модели составляет примерно 23 млн параметров, размер файла весов — около 46,4 МБ. Это текстовая, англоязычная BERT-подобная модель с контекстом до 512 токенов и словарём BERT. В карточке Hugging Face она классифицирована как Fill-Mask и поддерживает Transformers и PyTorch. Сильные стороны модели — существенно меньший размер и более быстрая инференсная обработка по сравнению с BERT-Large при сохранении полезных представлений для широкого спектра NLU-задач; в исследовании MiniLMv2 дистилляция основана на переносе отношений multi-head self-attention. Ограничения: модель не является генеративной, не предназначена для диалога или свободной генерации текста, имеет ограничение длины входа и требует task-specific fine-tuning для прикладных задач. Лицензия непосредственно в доступной карточке модели не указана.

mmBERT-32K Factcheck Classifier (Merged) — модель классификации текста от llm-semantic-router, созданная на базе llm-semantic-router/mmbert-32k-yarn. Она определяет один из двух классов для входного текста и предназначена для задач проверки фактов и маршрутизации материалов на проверку. Модель использует архитектуру ModernBERT с масштабированием RoPE методом YaRN, содержит 306,9 млн параметров и поддерживает контекст до 32 768 токенов. Это мультиязычная модель; формат репозитория включает Safetensors и ONNX. Слияние адаптера позволяет запускать её напрямую без PEFT. Модель подходит для классификации длинных текстов, например статей или публикаций, при автоматизированной проверке фактов. Карточка не уточняет названия двух классов, языковой охват по отдельности и качество на конкретных наборах данных. Лицензия — Apache 2.0.

Kokojake разработал англоязычную модель Sentence Transformers для встраивания предложений и абзацев о фитнесе и здоровье в плотное векторное пространство. Она дообучена на базе nomic-ai/modernbert-embed-base на наборе из 11 518 пар текстов и предназначена для семантического поиска, сравнения смысловой близости, поиска перефразирований, кластеризации и классификации текстов. В основе — ModernBERT с 149 млн параметров; модель кодирует текст в нормализованные эмбеддинги размерностью 768 и использует косинусное сходство. Поддерживаются английский язык и контекст до 8192 токенов. Matryoshka-обучение позволяет сокращать размерность векторов, например до 512, 256, 128 или 64, с некоторым снижением качества поиска. Модель подходит для поиска и сопоставления англоязычных материалов о здоровье и фитнесе. В README приведены результаты оценки поиска для нескольких размерностей, но их применимость за пределами указанного набора оценки не установлена. Лицензия Apache-2.0.

codechrl/modernbert-lite — англоязычный encoder-only чекпойнт семейства ModernBERT для заполнения пропусков в тексте и последующей адаптации к прикладным задачам. Он основан на answerdotai/ModernBERT-base и содержит около 149 млн параметров; архитектура включает 22 слоя Transformer с размером скрытого состояния 768. Контекст — до 8192 токенов. Веса хранятся в формате float16, что примерно вдвое уменьшает объём модели и потребление памяти при сохранении близкого к базовой модели качества на GLUE. Модель предназначена для дообучения, например, для классификации последовательностей, а не является готовым классификатором. Карточка сообщает о демонстрационном бюджете сжатия и рекомендует для производственного применения повторить сжатие с большим числом шагов и корпусом. Лицензия — Apache-2.0.

Jeevesh8/more_cpts_corr_init_shuff_clipped_warmed_wd0_pnt_01_seq_len_128_bert-base-uncased_mnli_ft_17 — модель для классификации текста, опубликованная пользователем Jeevesh8 на Hugging Face. Она основана на BERT и предназначена для задач, совместимых с интерфейсом Transformers AutoModelForSequenceClassification и конвейером text-classification. По идентификатору и метаданным Hugging Face известно, что модель связана с bert-base-uncased, обучалась с использованием MNLI и рассчитана на последовательности длиной до 128 токенов. Поддерживаются библиотеки Transformers и JAX. Основной сценарий применения — классификация текстовых входов; конкретные метки классов, языки, размер параметров, показатели качества и дополнительные сильные стороны в карточке модели не описаны. Карточка модели отсутствует, поэтому сведения об ограничениях, лицензии, точном наборе данных, процедуре обучения и условиях использования не указаны. Модель не развернута через Inference Providers.

cbrew475/mpnet-metric — модель классификации текста на основе архитектуры MPNet, размещённая пользователем cbrew475 на Hugging Face. Карточка репозитория не описывает целевую метрику или сценарий обучения; подтверждены задача text-classification, архитектура MPNet и размер 136,7 млн параметров. Модель принимает текст и предназначена для классификации текстовых последовательностей. Для неё указаны контекст до 514 токенов и формат PyTorch. Языки, точная область применения и лицензия в доступных сведениях не подтверждены.

MyAwesomeModel — модель из репозитория Assads1SAD/MyAwesomeModel-TestRepo, доступная через библиотеку Transformers. Согласно метаданным Hugging Face, её основная задача — извлечение признаков из входных данных, а заявленная архитектурная основа относится к семейству BERT. Модель распространяется под лицензией MIT и использует PyTorch. В README модель также описывается как обновлённая система с улучшенными рассуждениями, логическим выводом, генерацией кода, ответами на вопросы, суммаризацией, переводом и поддержкой function calling. Однако README не содержит подтверждённых сведений о размере модели, длине контекста, поддерживаемых естественных языках и точной конфигурации, а приведённые результаты представлены без описания протокола оценки. Поэтому для каталога её надёжнее классифицировать по метаданным как модель извлечения признаков.

MyAwesomeModel — модель на базе архитектуры BERT для извлечения признаков из текста, опубликованная в репозитории RHATH/MyAwesomeModel-TestRepo. Модель предназначена для преобразования текстовых данных в векторные представления, которые можно использовать в последующих задачах машинного обучения и анализа текста. Она поддерживает работу через библиотеку Transformers и реализована на PyTorch. В README также заявлены улучшения рассуждений, генерации кода, ответов на вопросы, суммаризации и других генеративных задач, однако эти утверждения не согласуются с pipeline-тегом feature-extraction и доступными метаданными. Поэтому для каталога модель следует классифицировать прежде всего как модель извлечения признаков на базе BERT. Языки, размер модели и длина контекста в предоставленных данных не подтверждены. Модель распространяется по лицензии MIT. Перед использованием в прикладных системах рекомендуется самостоятельно проверить фактическую архитектуру, качество эмбеддингов и соответствие заявленных в README возможностей конфигурации модели.

MyAwesomeModel — модель из репозитория sads1xcz21esa/MyAwesomeModel-TestRepo, опубликованная с использованием библиотеки Transformers и PyTorch. В метаданных Hugging Face она классифицирована как модель для извлечения признаков и имеет теги BERT, feature-extraction и transformers. Лицензия модели — MIT. Извлечённые признаки можно использовать для представления текста в виде векторов и последующей семантической обработки, например поиска похожих текстов, классификации или кластеризации. README также описывает заявленные возможности рассуждения, программирования, ответов на вопросы, суммаризации, диалога и function calling, однако эти сведения не согласуются с указанным в метаданных pipeline-тегом feature-extraction и не подтверждают конкретную архитектуру, размер, поддерживаемые языки или длину контекста. Модель можно использовать на условиях лицензии MIT. Перед применением в продуктивных сценариях необходимо проверить фактический формат входов и выходов, совместимость с задачей и соответствие заявленных в README возможностей реальной конфигурации модели.

Indus-Retriever — модель двунаправленного кодировщика на базе Sentence Transformers, разработанная IBM Research совместно с NASA Science Mission Directorate. Она дообучена на основе nasa-smd-ibm-v0.1 и предназначена для поиска информации и оценки сходства предложений, особенно в научных материалах NASA SMD. Модель независимо кодирует два текста и сравнивает их векторные представления по косинусному сходству. Она обучалась на 271 млн примеров и дополнительно на 2,6 млн пар заголовков и аннотаций из документов NASA SMD. В репозитории указаны архитектура RoBERTa, 151,8 млн параметров и контекст до 514 токенов; поддерживается английский язык. Модель подходит для семантического поиска, ранжирования результатов по релевантности и поиска похожих предложений в научных коллекциях. Авторы отмечают, что модель находится в экспериментальной фазе, поэтому качество для конкретных коллекций и сценариев следует оценивать отдельно. Лицензия — Apache-2.0.

NE-LID — модель MWire Labs для определения языка отдельного предложения на языках Северо-Восточной Индии. Она предназначена для классификации текста на один из 11 поддерживаемых языков, включая ассамский, бодо, английский, хинди и языки региона с ограниченными ресурсами. Модель построена на fastText и использует символьные n-граммы длиной от 2 до 5 символов. По данным карточки, она обучена на 22 000 предложениях, имеет размер около 10 МБ и показывает точность 99,09% на тестовой выборке. Репозиторий содержит бинарную модель fastText и сжатый вариант. Модель рассчитана на моноязычные предложения; качество может снижаться на очень коротком тексте и смешении языков. Она не предназначена для определения языка отдельных слов или целых документов. Лицензия — CC BY 4.0.

NorBERT 3 base — базовая версия модели третьего поколения NorBERT для норвежского языка, официальный выпуск, описанный в исследовании NorBench. Это энкодерная модель семейства BERT с архитектурой NorbertForMaskedLM и 123,3 млн параметров. Она обучена предсказывать замаскированные токены и подходит для заполнения пропусков, а также как основа для классификации текста и токенов, ответов на вопросы и задач с выбором варианта. Модель принимает текст, поддерживает норвежский язык и обрабатывает последовательности длиной до 512 токенов. Для загрузки требуется пользовательская обёртка из modeling_norbert.py и параметр trust_remote_code=True. Распространяется по лицензии Apache-2.0.

KGESH/nsfw-bge-m3-v6b — текстовая Sentence Transformer-модель на архитектуре XLM-RoBERTa, обученная для получения плотных векторов предложений и абзацев. Разработчик дообучил её на 214 парах текстов с контрастивной функцией потерь; обучение заняло 9,1 секунды. Модель выдаёт эмбеддинги размерностью 1024 и рассчитана на последовательности до 8192 токенов. Модель предназначена для поиска и сравнения текстов по смысловой близости с использованием косинусного сходства: например, для поиска похожих запросов или ранжирования кандидатов на релевантность. Обучающие примеры ориентированы на различение явных сексуальных терминов и похожих по написанию или смыслу общеупотребительных выражений. Для работы используется библиотека Sentence Transformers; веса доступны в формате safetensors. Лицензия в предоставленных данных не указана.

Hoan2k3/phobert-multilabel-intern-web — модель классификации текста на архитектуре RoBERTa, связанная с семейством PhoBERT и предназначенная для многометочной классификации вьетнамских текстов. Карточка упоминает оценку на тестовом наборе, но не раскрывает сами метрики и подробности классов. Модель содержит 162,4 млн параметров, имеет контекст длиной 258 токенов и представлена в форматах ONNX и safetensors. Метаданные указывают на поддержку вьетнамского языка. Лицензия в предоставленных данных не указана.

Trongvox разработал семантическую модель на базе Sentence Transformers, дообученную на vinai/phobert-base. Она кодирует предложения и абзацы в плотные векторы размерности 768; для сравнения используется косинусное сходство. Архитектура состоит из RoBERTa-трансформера с усреднением токенных представлений, число параметров — 162,4 млн. В метаданных указан контекст до 258 токенов, а в README — максимальная длина последовательности 128 токенов. Модель предназначена для поиска по смыслу и сравнения текстов о еде: в примерах обучающей выборки есть рецепты и названия блюд, а также описания заведений. Её можно применять для семантического поиска, поиска перефразировок, кластеризации, классификации и оценки текстового сходства. Модель рассчитана на вьетнамский язык и опубликована в формате safetensors. Лицензия в предоставленных данных не указана.

Prime_690M — белковая языковая модель семейства ProPrime, опубликованная организацией AI4Protein. Она предназначена для анализа белковых последовательностей, включая извлечение признаков, предсказание оптимальной температуры роста и оценку влияния мутаций на стабильность и активность белка. Официальный проект Pro-Prime описывает температурно-направленное языковое моделирование и zero-shot предсказание эффектов мутаций. Модель имеет около 865 млн параметров, архитектуру ProPrimeForPretraining и максимальную длину последовательности 1026 токенов. В карточке Hugging Face указан pipeline feature-extraction; модель также поддерживает задачу fill-mask. На вход подаются белковые последовательности, на выходе — векторные признаки или предсказания для белковой инженерии. Карточка Hugging Face автоматически сгенерирована и не содержит сведений о лицензии, данных обучения или подробной оценке ограничений; для загрузки через Transformers требуется trust_remote_code=True. Источники не подтверждают поддержку естественных языков.

PubMedBERT Embeddings — модель NeuML, дообученная с помощью Sentence Transformers на базе PubMedBERT для создания эмбеддингов медицинских текстов. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, кластеризации и поиска релевантных фрагментов для RAG по медицинской литературе. Обучение использовало пары заголовков и аннотаций PubMed, включая похожие заголовки; README сообщает о сравнительной оценке на наборах PubMed QA, PubMed Subset и PubMed Summary. Модель построена на архитектуре BERT, содержит 136,7 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Основной язык — английский. Для медицинской литературы она формирует более подходящие представления, чем модели общего назначения; дообучение на конкретной медицинской подотрасли может улучшить качество. Распространяется по лицензии Apache-2.0.

Карточка модели emmapraise/pubmedbert-base-embeddings-onnx на Hugging Face совпадает с карточкой NeuML/pubmedbert-base-embeddings, поэтому описание составлено по ней. PubMedBERT Embeddings — модель NeuML, дообученная с помощью Sentence Transformers на базе PubMedBERT для создания эмбеддингов медицинских текстов. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, кластеризации и поиска релевантных фрагментов для RAG по медицинской литературе. Обучение использовало пары заголовков и аннотаций PubMed, включая похожие заголовки; README сообщает о сравнительной оценке на наборах PubMed QA, PubMed Subset и PubMed Summary. Модель построена на архитектуре BERT, содержит 136,7 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Основной язык — английский. Для медицинской литературы она формирует более подходящие представления, чем модели общего назначения; дообучение на конкретной медицинской подотрасли может улучшить качество. Распространяется по лицензии Apache-2.0.

mnoukhov/pythia1b-rm-tldr6.9b — модель классификации текста на базе архитектуры GPT-NeoX с 1,2 млрд параметров. Она дообучена на mnoukhov/pythia1b-sft-tldr; README сообщает о потере 0,4685 и точности 0,7693 на оценочном наборе, но не описывает его состав. Модель предназначена для классификации текстовых входов. Метаданные указывают максимальный контекст 2048 токенов и формат весов safetensors. Репозиторий распространяется по лицензии Apache-2.0. Сведения о конкретных метках, обучающих данных и ограничениях применения не приведены.

Карточка модели miaosiyu-ai-2026/roberta-base на Hugging Face совпадает с карточкой FacebookAI/roberta-base, поэтому описание составлено по ней. RoBERTa base — предварительно обученная языковая модель FacebookAI на архитектуре Transformer-энкодера, содержащая 151,8 млн параметров. Она обучена на англоязычных текстах методом masked language modeling: восстанавливает скрытые токены в контексте, используя информацию как слева, так и справа. Модель чувствительна к регистру и принимает последовательности длиной до 514 токенов. Модель подходит для заполнения пропусков в английском тексте и как основа для дообучения под задачи классификации последовательностей и токенов, а также ответа на вопросы. Для свободной генерации текста она не предназначена. Обучающие данные включают BookCorpus, Wikipedia, CC-News, OpenWebText и Stories; их интернет-содержимое может приводить к предвзятым предсказаниям. Лицензия — MIT.

Finnish-NLP/roberta-large-finnish — крупная предобученная языковая модель RoBERTa для финского языка, разработанная командой Finnish-NLP. Это двунаправленный трансформер с 454,1 млн параметров, обученный в PyTorch и JAX на корпусах финского веб-текста, Википедии и новостных и пользовательских текстах. Модель использует masked language modeling: по контексту восстанавливает замаскированные токены. Она чувствительна к регистру, а её контекст составляет около 512 токенов. Модель подходит для заполнения пропусков в финском тексте и как основа для дообучения классификаторов последовательностей и токенов, систем ответов на вопросы и извлечения текстовых признаков. В приведённых в карточке экспериментах дообученная модель показала высокие результаты на классификации финских новостей и парламентских текстов, хотя немного уступила финской модели FinBERT. Авторы предупреждают, что интернет-данные могут приводить к смещённым предсказаниям. Лицензия — Apache-2.0.

RelBERT на базе RoBERTa-large, дообученный для представления семантических отношений между словами. Модель разработана для задач понимания отношений: решения аналогий, классификации лексических отношений и сопоставления отношений. Её можно использовать через библиотеку RelBERT для получения векторных представлений текста. Модель содержит 454,1 млн параметров, использует архитектуру RoBERTa и принимает последовательности длиной до 514 токенов. В карточке указана оценка на наборах SAT, BATS, U2, U4, Google, BLESS, CogALexV, EVALution, K&H+N и ROOT09. Модель дообучена на relbert/semeval2012_relational_similarity; в репозитории указаны веса PyTorch. Лицензия в доступных данных не приведена.

SaAMPLIFY_350M — белковая языковая модель семейства AMPLIFY, опубликованная организацией chandar-lab на Hugging Face. Она предназначена для получения признаковых представлений белковых последовательностей и их использования в последующих задачах анализа белков. В карточке показан пример запуска как image-feature-extraction с trust_remote_code, однако метаданные автора указывают pipeline feature-extraction; архитектура описана как плотная AMPLIFY, размер — около 471,9 млн параметров, файлы представлены в safetensors. Карточка модели автоматически сгенерирована и не сообщает разработчика, обучение, лицензии, языки, контекст или оценки качества. В коллекции Hugging Face модель включена в набор белковых языковых моделей, дообученных конвейером структурного выравнивания; отдельная связь с базовой моделью в доступных метаданных не установлена. Лицензионные условия по найденным сведениям определить нельзя.

databio/sbert-encode-cellines-tuned — англоязычная модель Sentence Transformer, дообученная разработчиком databio на sentence-transformers/all-MiniLM-L6-v2 с использованием датасета mock-stsb. Энкодер на базе BERT преобразует предложения и абзацы в плотные векторы размерности 384; для сопоставления векторов применяется косинусное сходство. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов; в README заявлена максимальная длина последовательности 256 токенов. Модель предназначена для семантического сравнения текстов, семантического поиска, поиска перефразирований, кластеризации и классификации на основе эмбеддингов. README приводит результаты на sts-dev: Spearman 0,6954 и Pearson 0,7059, а также сообщает об обучении на 1 128 примерах mock-stsb; датасет содержит короткие текстовые пары с упоминаниями клеточных линий и биологических понятий. Это узкая обучающая выборка, поэтому качество на других доменах и типах текста может отличаться. Лицензия в предоставленных источниках не указана.

Sunflower Language ID v2 — модель Sunbird для определения языка текста среди 64 африканских языков. Она дообучена на базе google/t5-efficient-tiny для классификации последовательностей; обучающие примеры охватывают сбалансированный корпус языков, а словарь SentencePiece из 32 тысяч токенов заменён и поддерживает байтовый fallback. Модель содержит 11,9 млн параметров, принимает текст длиной до 512 токенов и выдаёт метку языка. Модель особенно ориентирована на короткие фрагменты: в тестировании точность составила 40,5% для одного слова, 59,7% для двух и 70,1% для трёх слов среди 64 классов. Перед подачей текста необходимо соблюдать обработку регистра, соответствующую обучению: README указывает, что модель обучалась на строчных текстах. Для развёртываний, где допустим только поднабор языков, рекомендуется ограничивать классы при выборе результата. Для близкородственных языков точность на коротких фрагментах ниже: например, модель часто путает чига и ньянколе, ньоро и торо, а также кирунди и киньяруанда. Модель распространяется по лицензии Apache-2.0.

agraharr/telecom-snowflake-arctic-embed-s — компактная модель эмбеддингов предложений, дообученная автором agraharr на базе Snowflake/snowflake-arctic-embed-s для поиска по телекоммуникационным текстам. Это двунаправленная BERT-модель типа bi-encoder, построенная на Sentence Transformers; она кодирует запросы и фрагменты документов в векторы размерности 384, сравниваемые по косинусному сходству. Модель содержит около 40 млн параметров, принимает текст с контекстом до 512 токенов и рассчитана прежде всего на английский язык. Модель предназначена для векторного поиска и семантического сопоставления в телеком-сценариях: поиска ответов и документов для RAG, работы с вопросами по 5G, 3GPP, ORAN и сетевым операциям, кластеризации и удаления дубликатов. Её можно использовать для получения кандидатов перед ранжированием в ассистенте. Модель не генерирует ответы; для практических систем её выходные векторы следует сочетать с поиском, ранжировщиком или генеративной моделью. Дообучение проводилось с контрастивной целью на парах запрос—положительный фрагмент и внутрибатчевых отрицательных примерах; в README также описана возможность смешивания телеком- и общих данных. Автор рекомендует форматировать входы как query: и passage:. Лицензия — Apache-2.0. Качество нужно проверять на целевом корпусе: специализация может не улучшать общие задачи, а неанглоязычный поиск не следует считать подтверждённым. Для важных решений найденные материалы требуют проверки по авторитетным источникам.

TiC-CLIP-bestpool-sequential — модель Apple из семейства TiC-CLIP, обученная на временном срезе TiC-DataComp-Yearly с фильтрацией bestpool и данными за 2014–2022 годы. Это vision-language модель на основе CLIP, предназначенная для классификации изображений по текстовым описаниям без отдельного обучения на классах, а также для исследований непрерывного дообучения и временной устойчивости моделей. Репозиторий содержит веса PyTorch; модель совместима с кодом OpenCLIP и оценочными наборами DataComp. Модель использует пары изображений и текстов из TiC-DataComp, крупного набора с временными метками. Её можно применять как стартовый чекпойнт для продолжения обучения на более новых данных и оценивать на задачах поиска и классификации. README не сообщает точное число параметров, размер входного изображения или длину контекста. Лицензия обозначена как other; условия использования следует сверить с файлом LICENSE в репозитории.

TohokuNLP BERT-alpha 500M — японская языковая модель типа encoder, разработанная исследователями Tohoku NLP Group. Она предназначена для анализа японского текста и обработки длинных последовательностей, включая восстановление замаскированных токенов и задачи классификации, ранжирования и поиска ответов на вопросы. Модель основана на архитектуре Llama без causal attention mask и использует SwiGLU, RoPE и GQA; в карточке указано 479,5 млн параметров, а длина контекста составляет 8192 токена. Обучение с нуля проводилось на японском подмножестве llm-jp-corpus-v3 с Whole Word Masking. В оценке JMTEB модель показывает результаты по классификации, кластеризации, сравнению пар, reranking, retrieval и семантическому сходству. Авторы отмечают, что длинноконтекстные encoder-модели, включая эту, уступают по ряду метрик более компактной bert-base-japanese-v3; результаты относятся к базовым моделям, а не к дообученным моделям эмбеддингов. Распространяется по лицензии Apache 2.0.

Модель Cardiff NLP для многометочной классификации тем в англоязычных твитах. Она основана на языковой модели TimeLMs, обученной примерно на 124 млн твитов за период с января 2018 по декабрь 2021 года, и дообучена на корпусе из 11 267 твитов для распознавания тем. Архитектура — RoBERTa с 151,8 млн параметров; модель принимает текст и может назначить ему несколько тематических меток из набора категорий, включая новости и общественные вопросы, спорт, технологии, развлечения, еду и путешествия. Модель подходит для тематической разметки англоязычных сообщений в соцсетях, анализа интересов аудитории и группировки твитов по темам. Указанный размер контекста — 514 токенов. Лицензия MIT разрешает свободное использование при соблюдении её условий. Модель обучалась на твитах и специализированном корпусе ограниченного размера, поэтому качество на других жанрах, языках и более поздних темах может отличаться; она предназначена для классификации тем, а не для генерации текста.