I.12Рекомендации и персонализация
В разделе собраны самостоятельные задачи, где AI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 627 моделейkimquynh/finetuned_sbert_5 — модель Sentence Transformer на архитектуре BERT, обученная разработчиком репозитория для получения векторных представлений предложений и абзацев. Она кодирует текст в нормализованные плотные векторы размерностью 768 и рассчитана на поиск похожих фрагментов и извлечение релевантных текстов. Для сравнения векторов можно использовать косинусное сходство. Модель принимает только текст и поддерживает последовательности длиной до 512 токенов. В README приведены оценки на задачах семантического сходства и бинарной классификации, включая Spearman cosine 0,5087 на наборе resume-job-sim. Метаданные указывают 136,7 млн параметров и формат safetensors. Языки и конкретная базовая модель не указаны. Условия лицензии в предоставленных данных отсутствуют.
kimquynh/finetuned_sbert_8 — дообученная модель Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2, разработанная автором репозитория. Она преобразует предложения и абзацы на естественном языке в плотные текстовые векторы размерности 768 и подходит для поиска по смыслу и сравнения текстов по косинусному сходству. Архитектура включает MPNet, усредняющий pooling и нормализацию; размер модели — 136,7 млн параметров. В README указан предел последовательности 384 токена, а метаданные сообщают о native context в 514 токенов. Модель обучена на 6 241 парах текстов со значениями сходства; в README приведены результаты проверки на задачах семантического сходства и бинарной классификации. Она принимает текст и выдаёт эмбеддинги, которые можно использовать для извлечения релевантных документов, ранжирования кандидатов и кластеризации. Языки обучающих данных и основного применения не установлены по предоставленным сведениям. Лицензия в доступных данных не указана.
FingUEm_V3 — модель Sentence Transformer, дообученная FINGU-AI на базе Alibaba-NLP/gte-Qwen2-1.5B-instruct. Она кодирует предложения и абзацы в плотные векторы размерностью 1536 для сравнения текстов по косинусному сходству. Архитектура использует Qwen2, pooling по последнему токену и нормализацию; размер модели — 1,5 млрд параметров. Метаданные указывают контекст до 131 072 токенов, тогда как карточка описывает максимальную длину последовательности 8192 токена. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. Её можно применять для построения векторного поиска и группировки текстовых коллекций. В карточке не указаны языки обучения или специализированные предметные области. Лицензия в предоставленных данных не приведена.
first_mistral — языковая модель Castorini, дообученная на основе mistralai/Mistral-7B-Instruct-v0.3 для ранжирования списков документов. Она использует стратегию FIRST и принимает решение по логитам первого токена, чтобы повысить эффективность ранжирования при сохранении качества. Модель обучена на 40 тысячах примеров ранжирования, размеченных GPT-4 и взятых из RankZephyr. Модель предназначена для переупорядочивания результатов поиска и других задач, где нужно выбрать наиболее релевантные документы из списка. В описанной авторами оценке она превосходит исходную реализацию FIRST на большинстве подмножеств бенчмарка BEIR. Это плотная архитектура Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; основной язык — английский. Лицензия MIT.
Gflorent/fossil_flex — модель sentence-transformers на архитектуре MPNet, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит 136,7 млн параметров, принимает текст и поддерживает контекст до 514 токенов. Модель обучена с функцией потерь CosineSimilarityLoss. Её можно использовать в сценариях семантического поиска и группировки похожих текстов; репозиторий содержит веса PyTorch. Лицензия в доступных сведениях не приведена.
Карточка модели futuredatascience/from-classifier-v2 на Hugging Face совпадает с карточкой futuredatascience/to-classifier-v2, поэтому описание составлено по ней. futuredatascience/to-classifier-v2 — модель на архитектуре MPNet, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для поиска семантически близких текстов, кластеризации и вычисления сходства между предложениями. Модель относится к семейству Sentence Transformers и распространяется в формате PyTorch. Обучение использовало CosineSimilarityLoss. Контекст модели составляет 514 токенов. Лицензия в предоставленных данных не указана.
dguzh/geo-all-MiniLM-L6-v2 — модель Sentence Transformers для преобразования предложений и абзацев в плотные векторы размерностью 384. Она предназначена для семантического поиска, кластеризации и сравнения текстов по смыслу. Архитектура — BERT; модель содержит 25,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Обучалась с ContrastiveLoss на основе косинусного расстояния. Модель можно применять для поиска похожих фрагментов, группировки текстов и ранжирования кандидатов по семантическому сходству. В карточке не описаны языки и предметная область, поэтому предполагается общее назначение без выделения конкретного языка. Доступна в форматах PyTorch и Safetensors; лицензия в предоставленных данных не указана.
Geolab embedding 1000 — модель на базе XLM-RoBERTa, опубликованная пользователем DejanX13. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска, сравнения текстов и кластеризации. Модель обучена с функцией MultipleNegativesRankingLoss и использует косинусное сходство; библиотека для работы с ней — Sentence Transformers. Метаданные указывают 658,7 млн параметров и контекст до 514 токенов. Модель принимает текст и выдаёт векторные представления. Карточка не уточняет поддерживаемые естественные языки. Веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.
iMiW/Giga-Embeddings-instruct-4bit-nf4 — это 4-битная квантованная версия модели ai-sage/Giga-Embeddings-instruct. README не указывает явно разработчика исходной модели; в её основе лежит decoder-only LLM GigaChat-3b. Квантование выполнено с использованием bitsandbytes в формате NF4, с двойным квантованием и вычислениями в bfloat16. Модель не дообучалась, а была загружена в 4-битной точности. Модель предназначена для построения векторных представлений текстов и задач семантического поиска, включая retrieval по запросам и документам. Для каждого поискового запроса рекомендуется добавлять однопредложную инструкцию, описывающую задачу, тогда как для документов инструкция не требуется. Полученные эмбеддинги можно сравнивать, например, скалярным произведением. Ключевые характеристики: pooling Latent-Attention, размерность эмбеддингов 2048, поддерживаемая длина входа в примере использования — до 4096 токенов. README не содержит сведений о перечне языков и других модальностях, поэтому модель следует рассматривать как текстовую. Квантирование снижает требования к памяти, однако требует совместимых окружений с transformers, bitsandbytes и accelerate; для запуска также предполагается использование вычислений на GPU. Модель распространяется по лицензии Apache-2.0.
asadmasad/GIST-large-finetuned — модель эмбеддингов предложений на основе архитектуры BERT, распространяемая в формате safetensors и используемая через библиотеку Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска, кластеризации и сравнения текстов. Модель обучалась с функцией Multiple Negatives Ranking Loss и косинусным сходством; максимальная длина контекста составляет 512 токенов, размер модели — около 433,9 млн параметров. Подходит для поиска похожих фрагментов текста и группировки текстов по смыслу. Доступные данные не устанавливают целевые языки или специализированные предметные области; производительность на конкретном языке и домене следует проверять отдельно. Сведения о лицензии в предоставленных источниках отсутствуют.
GreenNode/GreenNode-Embedding-E5-Large-VN-V1 — sentence-transformers-модель на базе XLM-RoBERTa, созданная для преобразования предложений и абзацев в плотные векторы размерности 1024. Архитектура включает трансформер, pooling по CLS-токену и нормализацию; сходство векторов рекомендуется измерять косинусной близостью. Максимальная длина последовательности — 512 токенов. Модель подходит для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации текста. Метаданные указывают на поддержку задач извлечения признаков и оценки сходства предложений, но карточка не называет языки обучения или целевое языковое покрытие, поэтому в описании не предполагается конкретный язык. Репозиторий содержит веса PyTorch и Safetensors; лицензия в предоставленных данных не указана.
gte-Qwen2-1.5B-instruct-GGUF — квантованная GGUF-версия модели Alibaba-NLP/gte-Qwen2-1.5B-instruct. В метаданных указано, что модель создана intfloat, а квантование выполнено Second State Inc. Это модель для получения текстовых эмбеддингов, предназначенная для задач семантического сходства и других сценариев sentence-transformers, включая поиск и сопоставление текстов по смыслу. Модель основана на Qwen2 и содержит 1,5 млрд параметров. Она работает в режиме embedding и поддерживает контекст размером до 32 000 токенов при использовании LlamaEdge версии 0.12.2 или новее. Доступны варианты GGUF с квантованием от 2 до 8 бит, а также f16, размером примерно от 752 МБ до 3,56 ГБ. Вариант Q4_K_M заявлен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень небольшими потерями качества. Сильной стороной модели являются сравнительно компактные квантованные варианты и возможность локального запуска через LlamaEdge. Ограничения включают потерю качества при низкобитном квантовании; README прямо не рекомендует Q2_K, Q3 и некоторые другие варианты для большинства задач. Языки и точные характеристики архитектуры эмбеддера не указаны. Модель распространяется по лицензии Apache-2.0.
Карточка модели vectoriseai/gte-small на Hugging Face совпадает с карточкой avsolatorio/MixEmbedFinetune-base-20240122220725-best, поэтому описание составлено по ней. avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.
Gooly/gte-small-en-fine-tuned-e-commerce — модель эмбеддингов на базе Sentence-Transformers для представления предложений и абзацев в виде плотных векторов размерности 384. По названию репозитория модель дообучена для электронной коммерции; README указывает обучение с MultipleNegativesRankingLoss и косинусным сходством. Она подходит для семантического поиска и кластеризации текстов, например для поиска товаров по смыслу запроса. Архитектура — BERT, размер — около 40 млн параметров, формат весов — PyTorch, максимальный контекст — 512 токенов. Модель принимает текст и выдаёт векторы, пригодные для сравнения семантической близости. Название указывает на англоязычную специализацию, однако README и метаданные не подтверждают конкретные языки обучения. Сведения о лицензии в предоставленных данных отсутствуют.
ChristianAzinn/gte-small-gguf — это GGUF-версия модели текстовых эмбеддингов gte-small, разработанной Alibaba DAMO Academy и опубликованной thenlper. Репозиторий содержит варианты модели, преобразованные и квантованные ChristianAzinn для использования с llama.cpp и совместимыми приложениями. Модель основана на архитектуре BERT и предназначена для получения векторных представлений текста. Она подходит для информационного поиска, оценки семантического сходства, переранжирования результатов и других задач sentence embeddings. Заявлена поддержка английского языка и контекста до 512 токенов; модель работает только с текстовыми данными. Главное преимущество — небольшой размер файлов и возможность локального запуска, включая LM Studio. Доступны варианты квантования от 2 до 8 бит, а также FP16 и FP32; более сильное квантование уменьшает требования к памяти, но может заметно снижать качество. Для большинства сценариев рекомендуется сбалансированный вариант Q4_K_M или варианты с меньшими потерями качества. Использование поддерживается llama.cpp начиная с указанного в README коммита и LM Studio версии 0.2.19 или новее. Лицензия модели — MIT.
GURU-model — модель Sentence Transformers, дообученная автором saraleivam на базе sentence-transformers/paraphrase-multilingual-mpnet-base-v2. Она использует архитектуру XLM-RoBERTa с усреднением токенных представлений и преобразует предложения и абзацы в плотные векторы размерности 768. Модель предназначена для семантического сравнения текстов, поиска и ранжирования похожих фрагментов, поиска перефразировок, кластеризации и классификации текста. Модель обучалась на парах запросов, положительных и отрицательных примеров с использованием MultipleNegativesRankingLoss и косинусного сходства. README указывает максимальную длину последовательности 128 токенов; метаданные каталога приводят длину контекста 514 токенов. Основной язык карточки — английский, при этом унаследованная базовая модель многоязычная. Лицензия в предоставленных данных не указана.
jesspi/IFE-sentence-model2 — модель на архитектуре MPNet, опубликованная как модель Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения сходства. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторные представления; максимальный контекст составляет 514 токенов. Модель обучалась с функцией потерь CosineSimilarityLoss. Доступны веса PyTorch и использование через Sentence Transformers либо Transformers с соответствующей операцией pooling. Карточка не приводит сведения о лицензии и целевых языках, поэтому нельзя определить условия распространения или выделить основной язык.
Cohee/jina-embeddings-v2-base-en — это модель для получения векторных представлений текста (эмбеддингов), основанная на jinaai/jina-embeddings-v2-base-en. В карточке указано, что модель подготовлена в формате ONNX для совместимости с библиотекой Transformers.js и предназначена для использования в задачах извлечения признаков (feature extraction), включая последующий семантический поиск и сравнение текстов. Модель ориентирована на англоязычные тексты, что следует из её идентификатора base-en. Сведения о точной архитектуре, размере, длине контекста, поддерживаемых модальностях и числовых характеристиках эмбеддингов в карточке не приведены. Также не указаны результаты тестирования, ограничения качества и лицензия.
KaLM-embedding-multilingual-mini-instruct-v1.5 — многоязычная модель для создания текстовых эмбеддингов, разработанная командой HIT-TMG и опубликованная HITsz-TMG. Она основана на Qwen2-0.5B и обучена с использованием масштабного слабонаблюдаемого предварительного обучения и контролируемой тонкой настройки. Модель содержит 494 млн параметров, использует архитектуру Qwen2 и поддерживает контекст до 131 072 токенов. Модель предназначена для получения векторных представлений предложений и текстов, поиска семантически близких фрагментов и сравнения сходства между текстами. Метаданные указывают поддержку задач извлечения признаков и сравнения предложений; карточка приводит оценки на наборах MTEB и C-MTEB. Модель распространяется в формате safetensors по лицензии MIT. Для работы с Qwen2 в README рекомендуется Transformers версии 4.37.0 или новее. Языки, конкретные ограничения качества и сведения о том, какие именно языки охвачены обучением, в предоставленных данных не перечислены.
Карточка модели abhinavsunil/kitchenelite-recipe-model на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
LGAI-Embedding-Preview — модель для получения векторных представлений текста, разработанная на основе Mistral-7B. Она предназначена для оценки сходства предложений и задач поиска по семантическому соответствию; README описывает её проверку на бенчмарке MTEB с примерами в контексте. Модель имеет плотную архитектуру Mistral примерно на 7,1 млрд параметров, размерность эмбеддингов 4096 и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors и указывает лицензию Apache-2.0. README называет модель предварительной и сообщает, что цель работы — воспроизвести базовую модель и проверить процесс публикации результатов.
McGill-NLP/LLM2Vec-Mistral-7B-Instruct-v2-mntp — модель для преобразования decoder-only языковой модели Mistral 7B Instruct v2 в текстовый энкодер. Подход LLM2Vec использует двунаправленное внимание, masked next token prediction (MNTP) и, при необходимости, последующее контрастивное дообучение. В данном варианте указана загрузка MNTP-адаптера через PEFT. Модель предназначена для получения векторных представлений текста и задач семантического поиска, сопоставления запросов и документов, reranking, классификации, кластеризации и оценки семантического сходства. В README приведён сценарий поиска релевантных passages по веб-запросу с вычислением cosine similarity; для запросов могут использоваться инструкции, а для документов инструкции не требуются. Указан английский язык. Архитектурной основой является Mistral 7B Instruct v2; точный размер контекста в карточке не указан, однако в примере кодирования используется max_length=512. Сильной стороной является применение крупной instruction-tuned LLM для построения эмбеддингов и поддержка широкого спектра задач обработки текста. Ограничения включают ориентацию на английский язык, необходимость загрузки специализированного кода и MNTP-адаптера, а также значительные вычислительные требования, связанные с моделью класса 7B. Лицензия — MIT.
LLM2Vec-Mistral-7B-Instruct-v2-mntp-unsup-simcse — модель для получения текстовых эмбеддингов на основе Mistral-7B-Instruct-v2, представленная организацией или исследовательской группой McGill-NLP. В репозитории указано, что модель распространяется с использованием PEFT и предназначена для преобразования текста в векторные представления, пригодные для сравнения семантической близости. Модель ориентирована на семантический поиск и информационный retrieval, reranking, классификацию, кластеризацию, оценку текстовой семантической близости и извлечение признаков. В README заявлен английский язык и приведены результаты на наборах MTEB, включая задачи классификации, поиска, кластеризации, reranking и STS. Архитектура основана на модели класса Mistral с 7 млрд параметров; сведения о поддерживаемых модальностях, размере контекста и точных процедурах инференса не указаны. Сильная сторона — универсальность эмбеддингов для широкого спектра задач обработки текста; ограничения, включая качество на других языках и зависимость результатов от конкретного домена, требуют дополнительной проверки. Лицензия — MIT.
Карточка модели MemseekAI/membukkit-biencoder-v1 на Hugging Face совпадает с карточкой sentence-transformers/all-mpnet-base-v2, поэтому описание составлено по ней. all-mpnet-base-v2 — модель Sentence Transformers, разработанная в ходе Community Week Hugging Face. Она кодирует предложения и короткие абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. В основе лежит microsoft/mpnet-base, дообученная контрастивным обучением на более чем миллиарде пар предложений из нескольких наборов данных. Модель содержит 136,7 млн параметров, использует архитектуру MPNet и принимает текст. Её можно применять для семантического поиска, извлечения информации и группировки похожих фрагментов. Текст длиннее 384 токенов модели обрезается; README рекомендует использовать её как кодировщик предложений и коротких абзацев. Лицензия — Apache-2.0.
Многоязычная модель Sentence Transformer, дообученная на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 для получения векторных представлений предложений и абзацев. Архитектура основана на BERT; модель содержит 124,3 млн параметров и формирует плотные векторы размерности 384. README указывает максимальную длину последовательности 128 токенов, а метаданные — контекстное окно 512 токенов. Модель предназначена для семантического поиска и сравнения текстов по косинусному сходству, поиска перефразирований, кластеризации и классификации текста. При обучении использовались 101 072 примера и MultipleNegativesRankingLoss. Модель поддерживает множество языков благодаря многоязычной базовой модели; языки в карточке отдельно не перечислены. Веса опубликованы в формате safetensors и используются через библиотеку Sentence Transformers. Лицензия в предоставленных данных не указана.
MixEmbedBert-base-20240115112530-latest — компактная модель эмбеддингов предложений на архитектуре BERT, опубликованная avsolatorio. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, кластеризации и сравнения текстов. Модель дистиллирована из avsolatorio/bge-small-en-v1.5; в ней примерно вчетверо меньше параметров без учёта эмбеддингов, чем в исходной модели. README сообщает о качестве, сопоставимом с all-MiniLM-L6-v2, при вдвое меньшем общем числе параметров, однако метаданные указывают 18,8 млн параметров. Модель принимает текст и выдаёт векторные представления; максимальная длина контекста — 512 токенов. Карточка описывает её как англоязычную модель. Для вывода эмбеддингов через Transformers нужно применить подходящую операцию pooling к контекстным представлениям токенов; также доступно использование через Sentence-Transformers. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.
avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.
tanbinh2210/mlm_finetuned_phobert — модель Sentence Transformers, дообученная разработчиком tanbinh2210 на базе tanbinh2210/mlm_trained_phobert. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантической близости по косинусному сходству. Модель основана на RoBERTa и использует усреднение токенных представлений; размер составляет 162,4 млн параметров, максимальная длина последовательности — 258 токенов по метаданным. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и извлечения признаков для классификации текста. При обучении использовалась функция MultipleNegativesRankingLoss и набор данных из 357 024 примеров с запросами, положительными и отрицательными текстами. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.
mykor/mmBERT-small — мультиязычная модель Sentence Transformers, дообученная автором mykor на базе jhu-clsp/mmBERT-small. Она кодирует предложения и абзацы в плотные векторы размерности 384; сходство между текстами можно оценивать косинусной мерой. Архитектура состоит из энкодера ModernBERT и среднего пулинга токенов, максимальная длина последовательности — 8192 токена. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Базовый энкодер поддерживает более 1800 языков, поэтому модель подходит для мультиязычных текстовых задач. В репозитории указаны веса в формате safetensors и библиотека Sentence Transformers. Лицензия в предоставленных данных не указана.
Карточка модели Gswrtz/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.