II.1Анализ требований и архитектура ПО
В разделе собраны самостоятельные задачи, где AI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
18 191 модельКарточка модели Jenjamin3000/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой KingName1/sentence_transformer, поэтому описание составлено по ней. KingName1/sentence_transformer — модель Sentence Transformers на архитектуре MPNet, предназначенная для преобразования предложений и коротких абзацев в плотные семантические векторы размерности 768. README описывает её как дообученную на основе microsoft/mpnet-base с контрастивной целью на более чем миллиарде пар предложений; метаданные указывают 136,7 млн параметров и библиотеку sentence-transformers. Входной текст кодируется для семантического поиска, сравнения сходства и кластеризации.
hunkim/model1 — модель на базе RoBERTa, опубликованная в формате PyTorch и предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 768. Параметры модели включают 137,8 млн, максимальная длина контекста — 512 токенов. Векторы можно использовать для поиска предложений по смыслу, кластеризации и сравнения текстов по семантическому сходству. Модель также поддерживает извлечение признаков; для использования через Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов. README рекомендует библиотеку Sentence-Transformers. Карточка не сообщает о специализированной предметной области или поддерживаемых языках. Условия лицензии в предоставленных данных не указаны.
Карточка модели novelcore/model7 на Hugging Face совпадает с карточкой sentence-transformers/all-distilroberta-v1, поэтому описание составлено по ней. all-distilroberta-v1 — модель Sentence Transformers на архитектуре DistilRoBERTa, разработанная в рамках Hugging Face Community Week для проекта по обучению эмбеддингов предложений на большом наборе пар. Модель дообучена на базе distilroberta-base контрастивным обучением на более чем 1 млрд пар предложений. Она преобразует предложения и короткие абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, оценки сходства и кластеризации текста. Модель принимает текст и выдаёт векторные представления. В README указано усечение входа длиннее 128 word pieces; метаданные сообщают контекстное окно 514 токенов. В карточке отмечен английский язык. Репозиторий содержит веса PyTorch и варианты ONNX, OpenVINO и safetensors. Модель распространяется по лицензии Apache-2.0. Модель подходит для поиска текстов по смыслу и группировки семантически близких фрагментов. Она не предназначена для генерации ответов; качество зависит от соответствия языка и предметной области обучающим данным, а длинные входы ограничиваются усечением.
jfarray/Model_all-distilroberta-v1_5_Epochs — модель на базе RoBERTa, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Веса представлены в формате PyTorch; размер модели — 95,2 млн параметров, контекст — до 514 токенов. Векторы подходят для семантического поиска и кластеризации текстов, а также для оценки сходства предложений. Модель можно использовать через библиотеку Sentence-Transformers. В README указано обучение с CosineSimilarityLoss; сведения о лицензии и конкретном языке текстов в предоставленных данных отсутствуют.
BlueAvenir/model_operations_V_0_2 — модель на базе XLM-RoBERTa, разработанная с использованием Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения сходства текстов. В качестве функции обучения указана CosineSimilarityLoss; модель доступна в формате PyTorch, число параметров — 305,2 млн, длина контекста — 514 токенов. Модель подходит для построения текстового поиска по смыслу, группировки похожих текстов и вычисления семантического сходства пар предложений или абзацев. Языковая поддержка соответствует многоязычной основе XLM-RoBERTa; конкретные языки для этой модели в карточке не перечислены. Лицензия в предоставленных данных не указана.
Akryl/modernbert-embed-base-akryl-matryoshka — англоязычная Sentence Transformers модель, дообученная разработчиком Akryl на базе nomic-ai/modernbert-embed-base. Она преобразует предложения и абзацы в плотные векторы размерностью 768 с нормализацией; близость текстов можно оценивать косинусным сходством. Архитектура включает ModernBertModel, усреднение токенных представлений и нормализацию. Модель принимает последовательности длиной до 8192 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, классификации и кластеризации. Matryoshka-обучение позволяет использовать укороченные представления, в том числе размерностью 512 и 256; в карточке приведены результаты поиска для этих размерностей и исходных 768 на наборе dim_768. Лицензия — Apache-2.0. Оценки в карточке относятся к небольшому набору из 402 примеров и не гарантируют такое же качество на других данных.
hlyu/mpnet_14710 — модель на основе MPNet, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 61,2 млн параметров и рассчитана на входные последовательности длиной до 514 токенов. Векторы можно использовать для поиска похожих текстов и группировки семантически близких предложений. Для работы предусмотрены Sentence-Transformers и Hugging Face Transformers; при использовании Transformers нужно применить подходящую операцию pooling к контекстным представлениям токенов. Модель опубликована под идентификатором hlyu/mpnet_14710; сведения о лицензии в доступных данных отсутствуют.
harcor/mpnet-base-all-nli-triplet — текстовая модель Sentence Transformers, дообученная разработчиком репозитория на базе microsoft/mpnet-base на триплетах набора AllNLI. Она преобразует предложения и абзацы в плотные векторы размерности 768; сходство между ними можно оценивать по косинусной мере. Модель рассчитана прежде всего на англоязычный текст, максимальная длина последовательности — 512 токенов. Её применяют для семантического поиска, оценки смыслового сходства, поиска перефразировок, кластеризации и получения признаков для классификации текста. В README приведена точность cosine_accuracy 0,9116 на all-nli-dev и 0,9248 на all-nli-test при оценке TripletEvaluator. Модель принимает текст и выдаёт векторы, а не готовые текстовые ответы. Модель содержит 136,7 млн параметров, использует архитектуру MPNet с усреднением токеновых представлений и опубликована в формате safetensors. Лицензия — Apache-2.0.
luiz-and-robert-thesis разработали модель эмбеддингов на базе MPNet для представления предложений и абзацев в виде плотных векторов размерности 768. Она предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Модель обучали с TripletLoss и косинусной метрикой расстояния; доступна в формате safetensors и рассчитана на контекст до 514 токенов. Для использования предусмотрена библиотека Sentence-Transformers. Лицензия в предоставленных данных не указана.
sentence-transformers/msmarco-distilbert-multilingual-en-de-v2-tmp-trained-scratch — модель sentence-transformers, разработанная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства и кластеризации текстов. В основе лежит DistilBERT; модель доступна в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO и поддерживает контекст до 512 токенов. Модель подходит для построения поиска по смыслу и группировки текстовых фрагментов. Название указывает на обучение с нуля для сценария MSMARCO и языков английского и немецкого, однако README не описывает точный языковой охват и качество по отдельным языкам. Лицензия — Apache-2.0.
Это дообученная Turbo-AI модель Sentence Transformer для получения плотных векторных представлений предложений и абзацев. Она основана на XLM-RoBERTa, содержит 125,9 млн параметров и формирует эмбеддинги размерности 768; сходство между ними можно оценивать косинусной мерой. Максимальная длина последовательности в README составляет 1022 токена, а метаданные указывают нативный контекст в 1024 токена. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. README описывает обучение на примерах anchor, positive и negative с CachedMultipleNegativesRankingLoss. Семейство E5 мультиязычное, однако конкретные поддерживаемые языки в предоставленных данных не перечислены. Модель выдаёт векторы, а не готовые ответы на естественном языке. Лицензия в предоставленных данных не указана.
Abdul-Ib/multilingual-en-ar-2024 — модель на основе BERT из библиотеки Sentence Transformers, разработанная Abdul-Ib. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит 124,3 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторные представления. Название указывает на английский и арабский языки; README описывает модель как мультиязычную. Модель можно использовать для семантического поиска, группировки похожих фраз и построения систем сравнения предложений. Файлы модели опубликованы в формате safetensors. Условия лицензии в доступных данных не указаны.
JoBeer/multi-qa-mpnet-base-dot-v1-eclass — модель эмбеддингов на базе архитектуры MPNet, представленная в формате PyTorch и совместимая с Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. Обучение описано с использованием MultipleNegativesRankingLoss и косинусного сходства. Модель содержит 136,7 млн параметров и принимает текстовые последовательности с контекстом до 514 токенов. Её можно применять для семантического поиска и получения сходства между предложениями; README также указывает кластеризацию как сценарий использования. Сведения о лицензии и целевых языках в предоставленных данных отсутствуют.
Карточка модели Gnartiel/multi-sbert на Hugging Face совпадает с карточкой model-embeddings/multi-qa-mpnet-base-dot-v1, поэтому описание составлено по ней. multi-qa-mpnet-base-dot-v1 — модель встраиваний предложений и абзацев на базе MPNet, разработанная в рамках проекта Hugging Face «Train the Best Sentence Embedding Model Ever with 1B Training Pairs». Она кодирует запросы и текстовые фрагменты в плотные векторы размерностью 768 для семантического поиска и подбора релевантных документов. Модель дообучена на примерно 215 млн пар «вопрос—ответ» из разных источников; использует CLS-пулинг и сходство по скалярному произведению, а выходные векторы не нормализуются. В метаданных указано 136,7 млн параметров и контекст до 514 токенов. Модель подходит для поиска ответов и документов по смыслу, даже если запрос и найденный текст не совпадают дословно. README предупреждает, что при длине свыше 512 word pieces текст обрезается, а обучение проводилось преимущественно на фрагментах до 250 word pieces, поэтому качество на более длинных текстах может снижаться. В карточке указана лицензия Apache-2.0.
Карточка модели Yunziyou/mxbai-embed-large-v1 на Hugging Face совпадает с карточкой mixedbread-ai/mxbai-embed-large-v1, поэтому описание составлено по ней. mxbai-embed-large-v1 — модель Mixedbread AI для построения векторных представлений предложений и текстов. Это плотная BERT-модель на 433,9 млн параметров с контекстом до 512 токенов; она принимает текст и выдаёт эмбеддинги для поиска и сопоставления текстов. Карточка указывает английский язык и библиотеку sentence-transformers. Модель предназначена для семантического поиска, извлечения релевантных фрагментов и оценки сходства предложений. Для поисковых запросов README рекомендует добавлять префикс «Represent this sentence for searching relevant passages:». Поддерживаются Matryoshka Representation Learning и бинарная квантизация, позволяющие уменьшать размер эмбеддингов и затраты на их хранение. В заявленной авторами оценке на MTEB модель показывает сильные результаты среди моделей размера BERT-large. Модель распространяется по лицензии Apache-2.0. Ограничения включают окно контекста в 512 токенов и необходимость использовать рекомендованный префикс для запросов в сценариях поиска; авторы также отмечают наличие ограничений, которые планировали исправить в версии v2, не уточняя их в этой карточке.
leerobert/my-awesome-setfit-model — модель Sentence-Transformers на базе MPNet, которая преобразует предложения и абзацы в плотные векторы размерности 768. Её можно использовать для семантического поиска, кластеризации и сравнения сходства текстов. Модель содержит 136,7 млн параметров, принимает текст и выдаёт эмбеддинги. В карточке указано обучение с CosineSimilarityLoss; модель рассчитана на применение через Sentence-Transformers или Transformers с подходящей операцией pooling. Лицензия в доступных данных не указана.
ilhkn/my-awesome-setfit-model3 — модель Sentence-Transformers на архитектуре MPNet, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Она подходит для семантического поиска, сравнения сходства текстов и кластеризации. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель распространяется в формате PyTorch. Модель обучалась с помощью CosineSimilarityLoss. Её можно использовать через Sentence-Transformers или Transformers, применяя подходящую операцию pooling к контекстным представлениям токенов. Данных о специализации по языку или предметной области нет. Условия лицензии в предоставленных данных не указаны.
Martinkoling/my-first-setfit — модель на базе архитектуры MPNet, опубликованная в формате PyTorch как модель Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска семантически близких текстов, семантического поиска и кластеризации. Обучение использовало CosineSimilarityLoss. Модель принимает текст и выдаёт эмбеддинги; заявленная длина контекста — 514 токенов. В карточке нет сведений о специализации на конкретном языке или прикладной области. Лицензия не указана в предоставленных данных.
Nemotron-3-Embed-8B-BF16 — текстовая модель эмбеддингов, разработанная NVIDIA на основе Ministral-3-8B-Instruct-2512. Она кодирует текст в плотные векторы размерностью 4096 для семантического поиска, сопоставления предложений и извлечения фрагментов в системах RAG. Модель рассчитана на многоязычный и межъязыковой поиск; её оценивали на 34 языках. Архитектура — трансформерный энкодер с двунаправленным вниманием и усреднением токенных представлений. Размер модели — около 8 млрд параметров. В README указана максимальная длина последовательности 32 768 токенов; метаданные также приводят контекст 262 144 токена, поэтому при практическом использовании следует учитывать ограничение конкретной конфигурации и способа запуска. Модель принимает текст и выдаёт векторные представления, поддерживает динамическое сокращение размерности с последующей L2-нормализацией. Предназначена для многоязычного семантического поиска, поиска по большим корпусам и RAG-сценариев, включая ответы на вопросы по документам. Для запуска NVIDIA указывает PyTorch и vLLM, а для BF16-чекпойнта — Transformers 5.2.0 или новее; оптимизация ориентирована на GPU NVIDIA. Модель готова к коммерческому использованию по лицензии OpenMDW-1.1; базовая модель Ministral-3-8B-Instruct-2512 выпущена под Apache 2.0.
mlx-community/nomicai-modernbert-embed-base-4bit — англоязычная модель эмбеддингов на базе ModernBERT, опубликованная mlx-community. Репозиторий содержит версию для MLX, преобразованную из nomic-ai/modernbert-embed-base; модель предназначена для получения векторных представлений текста и оценки сходства предложений. Она основана на архитектуре ModernBERT, имеет 149 млн параметров и контекст до 8192 токенов. README предлагает использовать её через библиотеку mlx-embeddings. Модель подходит для семантического поиска, сопоставления предложений и построения систем поиска по текстам. Указана лицензия Apache-2.0. README подтверждает преобразование в формат MLX, тогда как метаданные связывают модель с answerdotai/ModernBERT-base и nomic-ai/modernbert-embed-unsupervised через merge и finetune; точная последовательность происхождения в источниках не согласована.
nomic-embed-text-v1.5 — текстовая модель эмбеддингов, разработанная Nomic и опубликованная RedHatAI. Она преобразует тексты в плотные векторы для семантического поиска, сопоставления запросов с документами, кластеризации, выявления дубликатов и подготовки признаков для классификации. Для разных сценариев во входной текст добавляют соответствующую инструкцию, например search_document или search_query; модель рассчитана на использование в системах RAG и поисковых индексах. Модель построена на архитектуре NomicBert и поддерживает контекст до 8192 токенов. Matryoshka Representation Learning позволяет уменьшать размерность эмбеддингов с небольшим снижением качества; в README приведены варианты на 768 и 512 измерений. Доступны форматы PyTorch, TensorFlow, ONNX и OpenVINO. Хотя README говорит о мультимодальном пространстве, эта репозитория содержит текстовую модель; согласованная модель для изображений упомянута отдельно. Модель предназначена для прикладного использования; распространяется по лицензии Apache-2.0. Для корректной работы нужно указывать инструкцию задачи, а качество может зависеть от выбранного префикса, размерности вектора и домена данных.
OpenCodeReasoning-Nemotron-32B-IOI-GGUF — это квантизированная версия текстовой генеративной модели OpenCodeReasoning-Nemotron-32B-IOI, разработанной NVIDIA. Репозиторий с квантизациями подготовлен bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на задачи, связанные с генерацией и анализом кода, и предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Модель имеет размер 32B параметров, поддерживает английский язык и поставляется в формате GGUF в вариантах от BF16 до IQ4 и Q3. Доступны разные уровни квантизации с размером файлов примерно от 17,25 до 65,54 ГБ, что позволяет выбирать между качеством ответов и требованиями к памяти. Для работы рекомендуется использовать указанный в README шаблон диалога с маркерами ролей ChatML. Контекст модели, мультимодальные возможности и точная архитектура в README не указаны. Сильными сторонами являются специализация на задачах программирования, широкий выбор квантизаций и возможность локального запуска. Более компактные варианты подходят для систем с ограниченной оперативной памятью, но могут уступать более точным версиям по качеству. Лицензия модели — Apache-2.0; сведения об условиях использования исходной модели отдельно не приведены.
SC117 публикует GGUF-сборку Ornith-1.5-35B-A3B-MTP-APEX — MoE-модели команды Ornith для агентного программирования и генерации текста. Базовая модель содержит 35 млрд параметров, из которых активируется около 3 млрд на токен; в этой сборке доступны квантизованные профили APEX и вариант BF16. APEX распределяет точность по типам и важности тензоров, а MTP-слой встроен в модель. Модель предназначена для решения задач программирования с участием агента, включая работу в терминале и с инструментами, а также для генерации текста. Репозиторий включает проектор mmproj-BF16.gguf для обработки изображений вместе с текстом через llama.cpp; заявлена возможность контекста до 131072 токенов. README приводит результаты на бенчмарках SWE-bench, Terminal-Bench и других задачах программирования и агентного взаимодействия. Сборка распространяется по лицензии MIT. Она основана на ornith-ai/Ornith-1.5-35B-A3B; метаданные каталога отмечают связь finetune, а файлы репозитория включают GGUF и GGUF BF16. README описывает дополнительные квантизованные профили APEX. Поддержка языков программирования и естественных языков отдельно не перечислена, поэтому конкретные языки здесь не указаны.
Ornstein-27B-GGUF — набор GGUF-квантизаций модели Ornstein-27B, разработанной DJLougen на базе Qwen 3.5 27B. Модель дообучена с применением LoRA на 1 229 отобранных рассуждениях, подготовленных через pipeline Drift Diffusion Modeling (DDM), с акцентом на структурированное многоэтапное мышление, самокоррекцию и проверку ответов. Модель использует блоки <think>...</think> для расширенного рассуждения. Она предназначена для математики, задач на логику, анализа кода, научных задач и сложных вопросов, требующих последовательного рассуждения. В обучающей выборке преобладают математические примеры, также представлены код, наука и логика. Доступны варианты от F16 размером 53,8 ГБ до Q2_K размером 10,7 ГБ; рекомендуемым указан Q4_K_M размером 16,5 ГБ. Модель рассчитана на контекст до 8192 токенов и запуск через llama.cpp, Ollama или LM Studio. Язык оптимизации DDM — английский; качество на других языках в основном определяется базовой моделью. Сильная сторона модели — ориентация на качественное, проверяемое рассуждение при сравнительно небольшом объёме данных и широкий выбор квантизаций для локального запуска. Ограничения включают обучение всего на одной эпохе и 1 229 примерах, поэтому дообучение преимущественно формирует стиль рассуждения, а не добавляет новые знания; при неоднозначных или намеренно провокационных запросах расширенное мышление может зацикливаться. Модель распространяется по лицензии Apache-2.0.
valurank/paraphrase-mpnet-base-v2-offensive — модель Sentence-Transformers на базе MPNet для получения векторных представлений предложений и абзацев. Она преобразует текст в плотные векторы размерности 768, которые можно применять для поиска семантически близких текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и выдаёт эмбеддинги. В README указано обучение с CosineSimilarityLoss; метаданные также подтверждают поддержку извлечения признаков и сходства предложений. Контекст модели составляет 514 токенов. Лицензия обозначена как other, поэтому конкретные условия использования следует сверить с файлами репозитория.
DataikuNLP/paraphrase-multilingual-MiniLM-L12-v2 — копия модели Sentence-Transformers, обученной командой sentence-transformers. Это плотная модель на архитектуре BERT с 124,3 млн параметров: она преобразует предложения и абзацы в векторы размерностью 384 для сравнения смысловой близости. Модель подходит для семантического поиска и кластеризации текстов, а также для других задач, опирающихся на эмбеддинги предложений. Модель принимает текст и выдаёт векторные представления. Она рассчитана на работу с несколькими языками; идентификаторы языков в метаданных отсутствуют. Максимальная длина контекста — 512 токенов. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Копия перенесена из репозитория sentence-transformers с конкретного коммита.
Sprylab/paraphrase-multilingual-MiniLM-L12-v2-fine-tuned-3 — модель для получения эмбеддингов предложений и абзацев, разработанная Sprylab на базе multilingual MiniLM. Она кодирует текст в плотные векторы размерностью 384 и предназначена для поиска семантически похожих текстов, кластеризации и сравнения предложений. Модель использует архитектуру BERT; в репозитории представлены веса PyTorch. Контекст ограничен 512 токенами. Модель подходит для построения семантического поиска и группировки текстов на нескольких языках. Карточка указывает обучение с MegaBatchMarginLoss, но не приводит список языков, обучающие данные или результаты оценки. Лицензия в предоставленных сведениях не указана.
jwieting/paraphrastic_test — модель на архитектуре BERT, представленная в формате PyTorch и предназначенная для получения векторных представлений предложений и абзацев. Она преобразует текст в плотные эмбеддинги размерностью 1024, которые можно применять для кластеризации и семантического поиска. Модель также подходит для сравнения сходства предложений и извлечения признаков; для работы доступны Sentence-Transformers и Hugging Face Transformers с подходящей операцией pooling. Размер модели составляет 214,8 млн параметров, максимальная длина контекста — 512 токенов. README не приводит сведения о разработчике, языковой специализации или лицензии, поэтому условия использования по лицензии определить нельзя.
PatriLaRS — модель Sentence Transformers, дообученная TdelaSelle на базе bowphs/LaBerta. Она использует архитектуру RoBERTa с усреднением токенных представлений и создаёт плотные текстовые эмбеддинги размерности 768; для сравнения предложений применяется косинусное сходство. Метаданные указывают 153,2 млн параметров и контекст до 514 токенов, тогда как карточка модели ограничивает длину последовательности 256 токенами. Модель предназначена для семантического сравнения текстов, семантического поиска, поиска перефразирований, классификации и кластеризации. Обучалась на наборе из 78 988 примеров с положительными и отрицательными парами; README приводит результаты оценки для информационного поиска. Базовая LaBerta — одноязычная модель для текстов классической филологии, поэтому область её языкового применения ограничена этим контекстом. В репозитории указана лицензия, допускающая применение в рамках условий базовой модели, без отдельного уточнения условий в предоставленных данных.
PawanEmbd-68M — модель эмбеддингов предложений на основе Transformer-энкодера с проекционным слоем, разработанная dmedhi. Модель содержит 67,7 млн параметров, выдаёт векторы размерностью 768 и обрабатывает последовательности длиной до 512 токенов. Она создана методом дистилляции знаний из IBM Granite-278M Multilingual Embedding; репозиторий содержит веса в формате safetensors. Модель предназначена для семантического поиска, оценки сходства предложений, кластеризации текстов, выявления дубликатов, подбора похожих объектов и извлечения релевантных фрагментов для систем вопросно-ответного поиска. В README автор приводит сравнение, согласно которому студенческая модель существенно меньше и быстрее учительской на CPU. В метаданных указан английский язык и набор данных all-nli. Лицензия — Apache-2.0. Максимальная длина последовательности составляет 512 токенов, поэтому более длинные тексты потребуется обрезать или обрабатывать частями.