I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельWhistle — компактная модель распознавания речи от Cactus Compute для локального запуска на телефонах, носимых устройствах, роботах, системах умного дома, автомобилях и микроконтроллерах. Модель размером 16,9 МБ работает на CPU без GPU и дополнительных зависимостей, используя движок и контейнер Cactus Needle. Архитектура включает log-mel фронтенд, свёрточный ствол, аудиоэнкодер и декодер Needle с gated cross-attention; глубину декодера можно выбирать при загрузке. Whistle преобразует монофоническое аудио с частотой 16 кГц в текст на английском, немецком, французском, испанском, итальянском, нидерландском и польском языках. Она поддерживает потоковую транскрибацию, определение языка, временные метки и вероятности для каждого слова, а также выдачу аудиоэмбеддингов с шагом 80 мс. Словарная подсказка помогает распознавать имена, названия и отраслевой жаргон; тишина и ровный шум обычно дают пустую расшифровку. Модель подходит для локального распознавания речи и поиска по аудиоэмбеддингам на периферийных устройствах. Речь длиннее 30 секунд обрабатывается окнами; для постоянно включённого микрофона рекомендуется предварительно применять детектор речевой активности или ключевое слово, поскольку музыка и другие звуки могут быть ошибочно преобразованы в текст. Лицензия — Apache-2.0.
Funnel Transformer xlarge-base — предварительно обученная модель Funnel Transformer, выпущенная командой, представившей это семейство. Это англоязычная бескодерная базовая модель архитектуры Funnel с размером контекста 512 токенов. Она обучалась на английских текстах BookCorpus, Wikipedia, ClueWeb, GigaWord и Common Crawl с самоконтролируемой задачей обнаружения заменённых токенов; доступны реализации PyTorch, TensorFlow и веса Safetensors. Модель извлекает скрытые представления текста для последующего обучения или настройки классификаторов и других моделей для задач по целому предложению, включая классификацию последовательностей, классификацию токенов и ответы на вопросы. Выходная последовательность в четыре раза короче входной, поэтому модель подходит для получения сводного представления предложения, но не для задач, которым требуется отдельное представление каждого исходного токена. Она не предназначена для генерации текста. Лицензия — Apache-2.0.
Sami92/XLM-R-Large-ClaimDetection — дообученная модель XLM-R Large от автора Sami92 для классификации предложений как содержащих фактическое утверждение или не содержащих его. Она предназначена для этапа отбора утверждений в системах автоматической проверки фактов и анализа публикаций в социальных сетях. Модель имеет архитектуру XLM-RoBERTa для классификации последовательностей, содержит 658,7 млн параметров и принимает текст с контекстом до 514 токенов. Обучение проходило в два этапа: сначала на немецкоязычных сообщениях Telegram со слабыми метками, созданными GPT-4o, затем на данных Risch et al. 2021. На тесте из 149 размеченных Telegram-публикаций модель получила точность 0,90; на тестовой части набора Risch et al. 2021, состоящей из комментариев Facebook, — 0,79. Хотя базовая архитектура многоязычная, проверена модель только на немецком языке, поэтому качество для других языков не установлено. Распространяется по лицензии CC BY 4.0.
Zen Legal — специализированная языковая модель Hanzo AI для юридических сценариев, дообученная на основе Qwen3-8B с дополнительным обучением на данных для агентных задач и настройкой идентичности. Модель с плотной архитектурой Qwen3ForCausalLM содержит 7,6 млрд параметров и предназначена для генерации текста; заявленный контекст составляет 40 960 токенов по метаданным, а README указывает 32K токенов нативно и до 131K с YaRN. Модель рассчитана на анализ договоров, исследование судебных дел, проверку нормативного соответствия и составление юридических документов. Она работает с текстом на английском языке и унаследовала многоязычные возможности базовой Qwen3-8B. Это инструмент для разработчиков юридических технологий и исследователей; ответы не являются юридической консультацией. Лицензия Apache 2.0 разрешает локальный запуск, дообучение и коммерческое развёртывание.
sampurn-gfg/abcdefghijklmnopqrstuwxyz — дообученная модель DistilBERT для классификации текста. Она построена на distilbert/distilbert-base-uncased и использует архитектуру DistilBertForSequenceClassification; базовая модель рассчитана на английский язык. Контекст модели составляет 512 токенов, веса доступны в формате safetensors. Модель предназначена для классификации текстов. В карточке приведены результаты оценки: accuracy 0,9470 и loss 0,2153, однако набор данных, классы и методика оценки не описаны, поэтому эти метрики нельзя напрямую переносить на другие данные. Лицензия — Apache-2.0.
y22ma/alibaba-modernbert-router — англоязычная модель классификации текста, разработанная y22ma на базе Alibaba-NLP/gte-modernbert-base и дообученная с помощью Unsloth и TRL. Она предназначена для отнесения текста к классам; конкретные классы и сценарий маршрутизации в карточке не описаны. Модель построена на архитектуре ModernBERT, содержит 149 млн параметров и поддерживает контекст до 8192 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
AmharicNewsNonCleanedSmall — дообученная akiseid модель классификации текста на базе FacebookAI/xlm-roberta-base. Она предназначена для классификации новостных текстов на амхарском языке. На оценочном наборе модель показала accuracy 0,9570, precision 0,9570, recall 0,9570 и F1 0,9569; размер составляет 305,2 млн параметров, максимальная длина контекста — 514 токенов. Модель опубликована в формате safetensors под лицензией MIT.
rss9051/autotrein-BERT-iiLEX-dgs-0004 — дообученная модель классификации текстовых последовательностей, созданная с помощью AutoTrain на основе rss9051/autotrein-BERT-iiLEX-dgs-0003. Она использует архитектуру BERT и содержит 136,1 млн параметров; максимальная длина входной последовательности — 512 токенов. Модель предназначена для отнесения текста к меткам классов. В карточке приведены метрики валидации: точность 0,661 и макроусреднённая F1-мера 0,576. Названия классов, обучающий набор данных и конкретная предметная область не указаны, поэтому пригодность для отдельного сценария следует проверять на собственных данных. Файлы модели представлены в формате safetensors; лицензия в предоставленных данных не указана.
Tejasw1/bge-base-case-law-v1 — англоязычная модель Sentence Transformers, дообученная разработчиком на датасете из 16 465 пар текстов для работы с материалами судебного права. Она основана на BAAI/bge-base-en-v1.5 с архитектурой BERT и преобразует предложения и абзацы в плотные эмбеддинги размерностью 768; для сравнения используется косинусное сходство. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации текстов. Карточка приводит оценки на задачах информационного поиска, но не описывает их методику и не гарантирует качество на других коллекциях судебных документов. Модель принимает текст и выдаёт векторы признаков; для использования нужны совместимый ранжировщик или логика поиска. Лицензия — Apache-2.0.
BGE base Financial Matryoshka — англоязычная модель Sentence Transformers, дообученная разработчиком bnkc123 на базе BAAI/bge-base-en-v1.5 на наборе пар запросов и релевантных ответов по финансовым документам. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, сравнения текстов и извлечения финансовых сведений в RAG-системах. Архитектура основана на BERT: модель использует CLS-пулинг и нормализацию векторов; заявленная длина последовательности — до 512 токенов. Matryoshka-обучение позволяет усекать векторы до 512, 256, 128 или 64 измерений с сохранением полезности для поиска. В README приведены результаты поиска на нескольких размерностях, включая cosine accuracy@5 0,8686 для 768 измерений и 0,82 для 64. Модель рассчитана на английские тексты и финансовый контекст; качество за пределами этой области отдельно не подтверждено. Лицензия — Apache-2.0.
dmis-lab/biobert-large-cased-v1.1-squad — модель DMIS-lab из Корейского университета для ответов на вопросы по тексту. Это вариант BioBERT для задачи question answering, основанный на архитектуре BERT и содержащий 463,1 млн параметров. В метаданных указаны реализации PyTorch и Flax и максимальный контекст длиной 512 токенов. Модель предназначена для извлечения ответов из предоставленного текста, в том числе для работы с вопросами по биомедицинским материалам. README сообщает о предобучении BioBERT на корпусах PubMed и PMC, но также содержит противоречивое указание родительской модели GPT-Neo-2.7B; точное происхождение этого чекпойнта по доступным сведениям подтвердить нельзя. Лицензия в карточке не приведена. К ограничениям относятся возможные смещения и стереотипы в ответах, о которых предупреждает карточка модели. Контекст ограничен 512 токенами; README не приводит метрик качества и результатов оценки.
BioLinkBERT-base — биомедицинская языковая модель, разработанная авторами работы LinkBERT: Pretraining Language Models with Document Links. Это энкодер на архитектуре BERT, предварительно обученный на аннотациях PubMed с использованием связей цитирования между документами. Модель содержит 135,4 млн параметров, работает с контекстом до 512 токенов и распространяется в формате PyTorch по лицензии Apache-2.0. Модель предназначена для дообучения на задачах классификации текстов и токенов, ответов на вопросы, а также для получения векторных представлений текста. Учет междокументных связей полезен в биомедицинских сценариях, где ответ требует сопоставления сведений из разных источников. В карточке указаны высокие результаты на биомедицинских тестах BLURB, PubMedQA и BioASQ. Это базовый энкодер, а не готовая система для конкретной задачи: для прикладной классификации или ответов на вопросы обычно требуется дообучение. Контекст ограничен 512 токенами; сведения о клинической валидации и пригодности для принятия медицинских решений в карточке не приводятся.
BioM-ELECTRA-Large-SQuAD2 — биомедицинская модель для ответов на вопросы, созданная авторами BioM-ELECTRA. Это BioM-ELECTRA-Large, предварительно обученная на аннотациях PubMed и дообученная на SQuAD 2.0; архитектура — плотный ELECTRA с 432,2 млн параметров, формат весов — PyTorch, максимальный контекст — 512 токенов. Модель предназначена для поиска ответов в предоставленном тексте, особенно в биомедицинских материалах, и для задач, подобных BioASQ. В README сообщаются результаты на SQuAD 2.0 dev: F1 87,49 и exact match 84,33; авторы также указывают, что TensorFlow-реализация с послойным затуханием скорости обучения показала иные результаты, поэтому цифры разных реализаций напрямую не сравнимы. Модель принимает текст вопроса и контекста и возвращает текст ответа либо указывает на отсутствие ответа. Лицензия в доступных данных не указана.
CANINE-c — предварительно обученная многоязычная модель Google для представления текста. Модель основана на архитектуре CANINE и содержит 113,2 млн параметров. В отличие от моделей с WordPiece или SentencePiece, она работает непосредственно с символами, представляя каждый символ его кодовой точкой Unicode; контекст составляет до 16 384 токенов. CANINE-c обучена на текстах 104 языков из многоязычной Википедии с задачами восстановления замаскированных фрагментов символов и предсказания следующего предложения. Она предназначена для извлечения признаков, которые можно использовать в последующих задачах, например классификации последовательностей, разметки токенов и ответов на вопросы. Модель не предназначена для генерации текста. Весам предоставлена лицензия Apache-2.0. Ограничение токенизации снимает зависимость от словаря субслов, но сама модель требует дообучения или отдельной задачи на основе её представлений для большинства прикладных сценариев.
Conflibert-binary-classification — модель классификации текста, разработанная на основе ConfliBERT и дообученная для различения событий конфликта и отсутствия конфликта. Она предназначена для анализа текстовых описаний событий и отнесения их к одному из двух классов. Модель использует архитектуру BERT с головой классификации последовательностей и содержит 136,3 млн параметров. Максимальная длина контекста — 512 токенов. Веса доступны в формате Safetensors; лицензия — GPL-3.0. Базовая модель — eventdata-utd/ConfliBERT-scr-uncased. Модель специализирована на текстах о политических конфликтах и насилии. Карточка не сообщает результаты оценки качества или подробности о поддерживаемых языках, поэтому переносить её на другие тематические области или языки следует с осторожностью.
Карточка модели Mooshie/convnextv2_huge.dbv4-full на Hugging Face совпадает с карточкой animetimm/convnextv2_huge.dbv4-full, поэтому описание составлено по ней. Это крупная модель ConvNeXt-V2 Huge, дообученная animetimm для многометочной классификации изображений и извлечения визуальных признаков. Она предназначена для автоматического присвоения изображению тегов из набора Danbooru WD Tagger v4, в том числе общих описательных тегов, имен персонажей и категорий рейтинга. Модель содержит 692,6 млн параметров и рассчитана на изображения размером 512 × 512 пикселей. Обучение и оценка проводились на наборе animetimm/danbooru-wdtagger-v4-w640-ws-full; всего предусмотрено 12 476 тегов. Для категорий тегов README приводит отдельные пороги классификации и метрики, поэтому для лучшего результата следует учитывать рекомендованные пороги или пороги отдельных тегов. Модель принимает изображения и выдаёт оценки тегов; лицензия репозитория — GPL-3.0.
DeSTA2.5-Audio — аудиоязыковая модель, разработанная командой DeSTA-ntu как модель общего назначения для понимания аудио и диалога с аудиоданными. Она принимает аудио и формирует текстовые ответы; в метаданных для неё указан тип задачи audio-text-to-text и архитектура DeSTA25AudioModel на базе Llama 3.1 8B Instruct. Модель обучалась в рамках подхода с самостоятельно сгенерированными данными для межмодального выравнивания. Авторы заявляют, что метод масштабируется без специализированных данных инструкционного дообучения для отдельных задач, помогает сохранять языковые способности и уменьшать катастрофическое забывание. В качестве связанного набора данных указан DeSTA-AQA5M — 5 млн пар аудио и текста из 7 000 часов аудио. Модель предназначена для ответов на вопросы по аудио и других сценариев общего понимания аудиозаписей. Метаданные указывают объединение с DeSTA-ntu/Llama-3.1-8B-Instruct и Meta-Llama/Llama-3.1-8B-Instruct; веса опубликованы в формате safetensors. В README не приведены сведения о лицензии, поэтому условия использования следует сверить с карточкой модели и лицензией базовой модели. Практические ограничения и подробные показатели качества в предоставленных материалах не описаны.
Bienvenu2004/donut-handball-pv5 — модель архитектуры vision-encoder-decoder, дообученная автором репозитория на основе Bienvenu2004/donut-handball-pv4 на наборе данных imagefolder. Она предназначена для преобразования изображений в текст и может использоваться в задачах, где требуется извлекать текстовое представление из изображения. Репозиторий содержит веса в формате safetensors и распространяется по лицензии MIT. Подробности о целевых сценариях, обучающих данных и оценке качества в карточке не приведены.
Карточка модели maastrichtlawtech/dpr-legal-french на Hugging Face совпадает с карточкой maastrichtlawtech/colbert-legal-french, поэтому описание составлено по ней. maastrichtlawtech/colbert-legal-french — модель поиска и сопоставления предложений для юридических текстов на французском языке. Она дообучена на базе antoinelouis/colbertv1-camembert-base-mmarcoFR и предназначена для поиска релевантных фрагментов в системах извлечения информации и RAG. Архитектура основана на CamemBERT и ColBERT; модель содержит 137,8 млн параметров, принимает текст с контекстом до 514 токенов и выдаёт оценки сходства и релевантности. В метаданных указан датасет maastrichtlawtech/lleqa и библиотека RAGatouille. Модель опубликована под лицензией MIT.
thivy дообучил модель Sentence Transformer на базе google/embeddinggemma-300m на наборе из 565 173 триплетов с текстами на норвежском языке о здравоохранении. Модель кодирует предложения и абзацы в плотные векторы размерности 768 для семантического сравнения и поиска; близость оценивается косинусным сходством. Она подходит для поиска медицинских сведений в текстах, подбора похожих фрагментов и группировки документов. Максимальная длина входа — 2048 токенов; архитектура относится к Gemma 3 Text, веса доступны в формате safetensors. В README приведены высокие результаты на тесте TripletEvaluator и метрики поиска на dev-наборах, однако эти оценки не гарантируют качество на других данных. Для запуска предусмотрена библиотека Sentence Transformers. Лицензия в предоставленных данных не указана.
MiaoshouAI Florence-2-base-PromptGen — модель компьютерного зрения на архитектуре Florence-2, дообученная для MiaoshouAI Tagger в ComfyUI. Она анализирует изображения и создаёт подробные подписи и теги в стиле Danbooru, ориентированные на описание промптов, использованных для генерации изображений. Модель обучена на изображениях и очищенных тегах с Civitai и предназначена для разметки изображений и подготовки тегов для обучения моделей генерации изображений. README сообщает об улучшениях точности тегов и способности анализировать изображения с откровенным содержимым. Репозиторий содержит веса в формате safetensors; лицензия — MIT. Модель принимает изображения и выдаёт текстовые подписи и теги. В README не приведены размер модели и длина контекста.
Huihui-Qwen3.5-9B-abliterated-TIES-Hemlock-SFT-i1-GGUF — GGUF-квантизированная версия модели Huihui-Qwen3.5-9B-abliterated-TIES-Hemlock-SFT, разработанной на базе nbeerbower/Huihui-Qwen3.5-9B-abliterated-TIES-Hemlock-SFT и квантизированной mradermacher. Модель дообучена методом SFT на датасете hemlang/Hemlock-SFT. Модель предназначена для генерации текста и, согласно README, относится к vision-моделям, поэтому для работы с изображениями могут потребоваться файлы mmproj из статического репозитория. Заявлен английский язык. В названии и описании указано около 9 миллиардов параметров, однако точная архитектура, размер контекста и полный перечень поддерживаемых модальностей не приведены. Репозиторий предоставляет множество вариантов GGUF-квантизации с размерами примерно от 2,8 до нескольких гигабайт, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Некоторые варианты помечены как низкокачественные, а i1-Q4_K_S обозначен как сбалансированный по размеру, скорости и качеству. Лицензия в представленном README не указана, поэтому условия использования необходимо уточнять в исходном репозитории или метаданных модели.
Huihui-Qwen3-VL-8B-Instruct-abliterated-GGUF — это набор квантованных версий мультимодальной модели Huihui-Qwen3-VL-8B-Instruct-abliterated, опубликованный пользователем noctrex. Модель предназначена для задач image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. В качестве базовой модели указана разработка huihui-ai; исходная модель доступна на Hugging Face. В представленном README не указаны точная архитектура, размеры квантования, поддерживаемые языки, длина контекста, перечень модальностей за пределами общего image-text-to-text и результаты тестирования. Ключевая особенность этой публикации — использование формата GGUF и квантования, что потенциально упрощает локальный запуск и снижает требования к ресурсам, однако конкретные компромиссы между качеством и производительностью зависят от выбранного файла. Для использования требуется актуальная версия llama.cpp. Лицензия и условия коммерческого или иного использования в README не указаны.
InfectaVec-v2 — разработанная Yesimm модель Sentence Transformers, дообученная на базе BAAI/bge-m3 для представления предложений и абзацев в виде плотных векторов. Она предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации; обучение включало перефразированные и найденные по параллельным текстам запросы между английским и корейским языками. Модель построена на XLM-RoBERTa с pooling по CLS-токену и нормализацией векторов. Она выдаёт эмбеддинги размерности 1024, сравниваемые косинусным сходством, и поддерживает последовательности до 8194 токенов согласно метаданным. README описывает обучение на данных об инфекционных заболеваниях и приводит результаты на тестовом наборе по инфекционным заболеваниям и медицинских бенчмарках. Модель распространяется по лицензии Apache-2.0. Её применение особенно обосновано для английских и корейских медицинских текстов; приведённые оценки относятся к конкретным тестам и не гарантируют качество на других корпусах.
Funnel Transformer intermediate-base — базовая модель Funnel Transformer, разработанная командой Funnel Transformer и опубликованная на Hugging Face. Это англоязычный энкодер FunnelBaseModel без декодера, предварительно обученный на текстах с самоконтролируемой задачей распознавания исходных и заменённых токенов. Модель использует архитектуру Funnel и принимает последовательности длиной до 512 токенов; текст обрабатывается без различия регистра. Модель извлекает скрытые представления текста для последующего обучения классификаторов и других задач понимания языка, в том числе классификации последовательностей, разметки токенов и ответов на вопросы. Выходная последовательность в четыре раза короче входной, поэтому представления удобны для задач уровня предложения, но не сохраняют отдельный выходной вектор для каждого исходного токена. Генерация текста не является её назначением. Веса доступны в форматах PyTorch и TensorFlow. Лицензия — Apache-2.0.
InternVL3.5-2B-MPO — мультимодальная модель OpenGVLab, дообученная на базе OpenGVLab/InternVL3_5-2B-Instruct с использованием данных MMPR-v1.2 и MMPR-Tiny. Она предназначена для диалога и ответов на текстовые запросы с изображениями, включая задачи визуального понимания и рассуждений. Модель использует плотную архитектуру InternVLChatModel и распространяется в формате safetensors для Transformers. Семейство InternVL3.5 развивает мультимодальное рассуждение и эффективность инференса; в README описаны динамическая маршрутизация разрешения изображений и каскадное обучение с подкреплением для семейства. Модель принимает изображения и текст и генерирует текстовые ответы. Поддерживаются многоязычные сценарии. Лицензия — Apache-2.0. Конкретные показатели качества и ограничения именно версии 2B-MPO в предоставленных материалах не приведены.
legal-embed-modernbert-v2 — англоязычная модель эмбеддингов для поиска по юридическим текстам, разработанная автором репозитория на базе nomic-ai/modernbert-embed-base. Это дообученная плотная ModernBERT-модель размером 149 млн параметров, предназначенная для сопоставления юридических вопросов с релевантными фрагментами и описаний типов договорных положений с текстом соответствующих пунктов. Модель поддерживает векторные представления Matryoshka: их можно сокращать с 768 до 512, 256, 128 или 64 измерений, снижая стоимость поиска с некоторой потерей качества. Модель подходит для поиска ответов в юридических корпусах, поиска договорных оговорок и построения RAG-систем. В метаданных указано контекстное окно 8192 токена, однако обучение и приведённые оценки проводились при длине последовательности 256 токенов; длинные договоры рекомендуется разбивать на фрагменты. В README описаны высокие результаты на поиске юридических вопросов и договорных положений, но на тесте вопросов о потребительских договорах v2 немного уступила v1 и базовой модели. Данные преимущественно относятся к США, Великобритании и Австралии, поэтому другие юрисдикции представлены слабее. Модель выполняет поиск и сопоставление, но не генерирует юридические советы. Лицензия — Apache-2.0.
ddesotto/legalize-embed-raw — дообученная модель Sentence Transformers на базе intfloat/multilingual-e5-small, разработанная для преобразования предложений и абзацев в плотные текстовые эмбеддинги размерностью 384. Архитектура включает BERT, усредняющий pooling и нормализацию; сходство векторов можно оценивать косинусной мерой. Модель принимает текст, имеет максимальную длину последовательности 512 токенов и подходит для поиска и сопоставления текстов по смыслу. Обучающие пары anchor-positive и приведённые примеры связаны с испанскими юридическими документами, поэтому модель ориентирована на поиск фрагментов правовых текстов и подбор соответствующих положений. В README приведена оценка Information Retrieval на валидационных данных: cosine_accuracy@1 — 0,4174, @5 — 0,6776 и @20 — 0,8256. Использовать модель можно через библиотеку Sentence Transformers; сведения о лицензии в предоставленных данных отсутствуют.
Lemone-Embed-M — модель эмбеддингов на базе Sentence Transformers, разработанная Луи Брюле-Ноде для поиска по французским налоговым и юридическим документам. Она дообучена на intfloat/multilingual-e5-base на корпусе налоговых материалов Франции, включая налоговый кодекс, приложения, процедуры и разъяснения BOFiP; обучающая выборка содержит 296 234 примера, а обучение охватывало около 43 млн токенов.
agemagician/mlong-t5-tglobal-large — предварительно обученная многоязычная модель семейства MLongT5, опубликованная Ahmed Elnaggar на основе работы Uthus и соавторов и проекта LongT5. Это encoder-decoder Transformer с механизмом transient-global attention, предназначенным для эффективной обработки длинных текстовых последовательностей. Модель содержит около 615 млн параметров и доступна в форматах PyTorch и Flax. Модель обучена на многоязычном корпусе в режиме текстового денойзинга и предназначена прежде всего для дообучения на размеченных данных. После настройки её можно применять для генерации текста, включая суммаризацию и ответы на вопросы по длинным входным материалам. В карточке заявлена обработка последовательностей до 16 384 токенов; метаданные каталога указывают нативный контекст в 4096 токенов. Карточка перечисляет поддержку множества языков, включая английский, арабский, испанский, французский, хинди и японский. Модель принимает и генерирует текст. Лицензия — Apache-2.0. Для конкретной задачи обычно требуется дообучение; качество может зависеть от языка, данных настройки и длины входа.