I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиTopEvolution-DPO-32K — слитая языковая модель семейства Mistral, созданная сообществом mergekit-community методом SLERP на основе mergekit-community/TopEvolution и mpasila/Kunoichi-DPO-v2-Instruct-32k-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и выполнения инструкций; поддерживает контекст до 32 768 токенов. В конфигурации слияния использована V-образная кривая весов: TopEvolution задаёт вклад на входе и выходе, а Kunoichi-DPO-v2-Instruct — в средних слоях. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Языковая специализация и лицензия в предоставленных источниках не описаны.
Это модель эмбеддингов предложений на архитектуре BERT, опубликованная slimaneMakh. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска по смыслу, сравнения текстов и кластеризации. Модель обучалась с Triplet Loss и евклидовой метрикой расстояния; размер составляет 194,6 млн параметров, максимальный контекст — 512 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Sentence Transformers. Модель подходит для семантического поиска по коллекциям текстов, группировки похожих документов и вычисления сходства между предложениями. В карточке не указаны поддерживаемые естественные языки и специализированные предметные области. Лицензия в предоставленных данных не приведена.
BaoLocTown/tuned_KaLM-embedding-multilingual-mini-instruct-v2.5_combined_v4_200k_2048_len_lr_2e-5_lasttoken — текстовая модель Sentence Transformer на архитектуре Qwen2 с 494 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерностью 896; сходство между векторами оценивается косинусной мерой. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и классификации текста. В архитектуре используется pooling по последнему токену. README указывает максимальную длину последовательности 32 768 токенов, а метаданные каталога — нативный контекст 131 072 токена. Модель ориентирована на многоязычные текстовые эмбеддинги, но конкретные языки в предоставленных данных не перечислены. Репозиторий содержит веса в формате safetensors; лицензия в источниках не указана.
Карточка модели swardiantara/two-stage-cdk10-MiniLM-L6-v2 на Hugging Face совпадает с карточкой swardiantara/two-stage-k10-MiniLM-L6-v2, поэтому описание составлено по ней. swardiantara/two-stage-k10-MiniLM-L6-v2 — модель Sentence-Transformers на архитектуре BERT, преобразующая предложения и абзацы в плотные векторы размерности 384. Её можно применять для семантического поиска и кластеризации текстов, а также сравнивать смысловую близость предложений. Модель содержит 25,9 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучалась с ContrastiveLoss, использующей косинусное расстояние. В карточке не указаны языки обучения и оценки качества, поэтому нельзя подтвердить её пригодность для конкретного языка или домена. Файлы представлены в формате safetensors; лицензия в предоставленных данных не указана.
ZurichNLP выпустила эту модель как дообученную версию xlm-roberta-base для получения векторных представлений предложений методом unsupervised SimCSE. Используется архитектура XLM-RoBERTa с 305,2 млн параметров; представление предложения формируется усреднением последних скрытых состояний, что совместимо с Sentence-BERT. Модель принимает текст и выдаёт векторы признаков; максимальная длина контекста — 514 токенов. Модель подходит для построения мультиязычных эмбеддингов предложений, семантического поиска, сравнения сходства текстов и группировки похожих фраз. В README описано обучение на миллионе предложений из английской Википедии, а метаданные указывают поддержку многих языков. Лицензия — MIT. Указанное обучение на английских данных может ограничивать качество для отдельных языков и задач; качество следует проверять на целевом наборе текстов.
Модель codersan/validadted_FaLabse_onV8d — дообученная разработчиком codersan модель Sentence Transformer на базе sentence-transformers/LaBSE. Архитектура BERT преобразует предложения и абзацы в плотные эмбеддинги размерности 768 для сравнения текстов по косинусному сходству; используется библиотека sentence-transformers. В README указана максимальная длина последовательности 256 токенов, а в метаданных — контекст 512 токенов. Модель предназначена для поиска семантически близких текстов, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. Она обучена на 21 484 парах «запрос — релевантный текст» с MultipleNegativesRankingLoss. LaBSE рассчитана на многоязычные тексты и поддерживает 109 языков, но конкретные языки, на которых улучшилось качество после дообучения, не определены. Лицензия в предоставленных данных не указана.
tubyneto/wandss-bert — модель Sentence Transformers на архитектуре MPNet, содержащая 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель принимает текст и выдаёт векторные представления; заявленная длина контекста — 514 токенов. В README указано, что модель обучалась с функцией потерь SoftmaxLoss. Она подходит для семантического поиска, группировки текстов по смыслу и вычисления сходства предложений. Доступны веса в формате PyTorch; лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.
Whisper-Podlodka-Turbo — дообученная bond005 модель на базе Whisper Large v3 Turbo от OpenAI, предназначенная прежде всего для распознавания русской речи. Модель с архитектурой Whisper и примерно 905,2 млн параметров принимает аудио и выдаёт текст; она также поддерживает распознавание английской речи, перевод русской и английской речи, определение языка и выявление сегментов без речи. Настройка модели направлена на повышение точности русской транскрипции, восстановление пунктуации и заглавных букв, устойчивость к фоновому шуму и сокращение галлюцинаций на неречевых сигналах. Поддерживаются транскрипция длинных записей и выдача временных меток для фрагментов речи. Модель распространяется в формате safetensors и работает с Transformers. По README, статистически значимое преимущество подтверждено только для распознавания русской речи; качество улучшений для английского и перевода не подтверждено столь же убедительно. Перевод с английского на русский может содержать заметные ошибки, а качество на речи с переключением между русским и английским отдельно не оценивалось. Модель лицензирована по Apache-2.0.
airnicco8/xlm-roberta-en-it-de — модель Sentence-Transformers на архитектуре XLM-RoBERTa, разработанная для построения многоязычных эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768 и подходит для семантического поиска и кластеризации. Модель содержит 305,2 млн параметров и поддерживает контекст длиной до 514 токенов. Основные языки модели — английский, немецкий и итальянский. Эмбеддинги можно использовать для поиска семантически близких текстов и сравнения предложений; модель также можно дообучать для задач NLI и классификации текста. Это студенческая модель XLM-RoBERTa, обученная для получения многоязычных эмбеддингов. В репозитории указан формат PyTorch; сведения о лицензии отсутствуют.
Nous-Yarn-Mistral-7b-64k — языковая модель семейства Mistral, разработанная NousResearch и участниками проекта YaRN. Она основана на Mistral-7B-v0.1 и дополнительно обучена на данных с длинным контекстом в течение 1000 шагов с использованием метода YaRN для расширения контекстного окна. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и предназначена для генерации текста с контекстом до 64 тысяч токенов. Метаданные указывают native context в 32 768 токенов. Модель подходит для продолжения текста, работы с длинными документами и других сценариев генерации, где важно учитывать большой объём предшествующего текста. В карточке приведены результаты тестов на длинном контексте и стандартных языковых бенчмарках; они показывают сохранение близкого к исходной Mistral-7B-v0.1 качества на коротком контексте. В карточке указана лицензия Apache-2.0. Для загрузки авторы рекомендуют свежую версию Transformers и параметр trust_remote_code=True.
Карточка модели avsolatorio/20-100-11-1-0-1-0-0-cls_GIST_avsolatorio_BAAI_bge-base-en-v1.5_1024-20240128041505-best на Hugging Face совпадает с карточкой avsolatorio/20-100-11-1-0-1-0-0-cls_GIST_avsolatorio_BAAI_bge-base-en-v1.5_1024-20240127160829-best, поэтому описание составлено по ней. Модель avsolatorio/20-100-11-1-0-1-0-0-cls_GIST_avsolatorio_BAAI_bge-base-en-v1.5_1024-20240127160829-best — вариант BAAI/bge-base-en-v1.5, подготовленный avsolatorio: длина входной последовательности увеличена с 512 до 1024 токенов. Это модель Sentence-Transformers на архитектуре BERT с 136,7 млн параметров, которая преобразует предложения и абзацы в плотные векторы размерности 768. Её можно использовать для извлечения эмбеддингов, семантического поиска и кластеризации текста. Модель рассчитана на англоязычный текст. Хотя окно увеличено до 1024 токенов, автор отмечает, что модель не дообучалась для последовательностей длиннее 512 токенов, поэтому качество на более длинных текстах может быть ниже. В репозитории указаны веса в формате safetensors; лицензия в предоставленных источниках не приведена.
Watwat100/256data — модель на базе MPNet, опубликованная в формате PyTorch и упакованная для Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров и поддерживает контекст длиной до 514 токенов. При обучении использовалась функция потерь CosineSimilarityLoss. Веса можно применять для построения эмбеддингов и оценки смысловой близости текстов в сценариях поиска и анализа коллекций документов. Лицензия в доступных данных не указана.
Карточка модели avsolatorio/30-100-11-1-2-2-0-0-mean-normed-384-512_GIST_st_all-MiniLM-L6-v2-20240202124453-best на Hugging Face совпадает с карточкой valurank/MiniLM-L6-Keyword-Extraction, поэтому описание составлено по ней. valurank/MiniLM-L6-Keyword-Extraction — англоязычная модель для получения векторных представлений предложений и коротких абзацев. Это Sentence-Transformers-модель на архитектуре BERT с 25,9 млн параметров, создающая плотные эмбеддинги размерности 384. В README описано дообучение контрастивным методом на более чем миллиарде пар предложений на основе nreimers/MiniLM-L6-H384-uncased; метаданные указывают формат PyTorch и контекст до 512 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Эмбеддинги можно использовать для ранжирования кандидатов по близости векторных представлений, в том числе при извлечении ключевых слов из текста. По умолчанию тексты длиннее 256 WordPiece-токенов обрезаются. README не приводит отдельную лицензию, а метаданные обозначают её как other, поэтому условия использования следует сверить с карточкой репозитория. Модель обучалась преимущественно на англоязычных данных; качество для других языков не подтверждено.
RonanMcGovern разместил sentence-transformers/all-MiniLM-L12-v2-ft — дообученную модель Sentence Transformers на базе sentence-transformers/all-MiniLM-L12-v2. Это компактный BERT-энкодер примерно на 40 млн параметров: он преобразует предложения и абзацы в плотные эмбеддинги размерности 384, нормализует векторы и сравнивает их с помощью косинусного сходства. В README указана максимальная длина последовательности 128 токенов; метаданные указывают контекст до 512 токенов. Модель предназначена для семантического поиска и оценки сходства текстов, а также может применяться для поиска перефразирований, кластеризации и классификации текста. Карточка описывает дообучение с TripletLoss, но не уточняет датасет и специализацию, поэтому качество для конкретных доменов и языков из этих данных установить нельзя. Базовая модель англоязычная, и основной сценарий использования — англоязычные тексты. Для применения указана библиотека Sentence Transformers; веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.
Trelis/all-MiniLM-L12-v2-ft-triplets-10Qs — дообученная модель Sentence Transformers на базе sentence-transformers/all-MiniLM-L12-v2. Она преобразует предложения и короткие абзацы в плотные эмбеддинги размерности 384; для сравнения в README указана косинусная мера сходства. Архитектура включает BERT-трансформер, усреднение токенных представлений и нормализацию. Модель содержит около 40 млн параметров и принимает последовательности длиной до 512 токенов по метаданным; в README указан предел 128 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, классификации и кластеризации. Её можно применять для получения векторных представлений предложений и коротких фрагментов текста. Базовая модель описана в метаданных как компактная англоязычная модель, поэтому основной язык применения — английский. Карточка указывает дообучение с TripletLoss, но не описывает подробно состав обучающих данных и качество на независимых тестах. Лицензия в предоставленных данных не указана.
KhaledReda/all-MiniLM-L6-v21-pair_score — англоязычная модель Sentence Transformers, дообученная автором на KhaledReda/all-MiniLM-L6-v20-pair_score на наборе пар текстов с оценками сходства, синонимами и опечатками. Она кодирует предложения и абзацы в плотные векторы размерностью 384; сходство между текстами оценивается косинусной близостью. Архитектура основана на BERT и использует усреднение токенных представлений с последующей нормализацией. Модель предназначена для семантического сравнения текстов и поиска: её можно применять для семантического поиска, поиска перефразировок, кластеризации и классификации текстов. В README указана максимальная длина последовательности 256 токенов, а метаданные каталога задают нативный контекст 512 токенов. Модель поддерживает английский язык, содержит 25,9 млн параметров и распространяется в формате safetensors. Лицензия — Apache-2.0. Обучение ориентировано на пары коротких текстов; качество на других языках и существенно отличающихся доменах README не подтверждает.
qxakshat/all-MiniLM-L6-v2-32dim — модель Sentence Transformers на архитектуре BERT, которая преобразует предложения и абзацы в плотные векторы размерностью 32. Её можно применять для семантического поиска, кластеризации и оценки сходства текстов. Репозиторий содержит веса в формате safetensors; модель насчитывает 25,9 млн параметров и принимает последовательности длиной до 512 токенов. Это уменьшенная по размерности версия all-MiniLM-L6-v2: README указывает, что 32-мерное представление получено снижением размерности исходного 384-мерного. На тесте STS с оценкой косинусного сходства версия на 32 измерения показала Pearson 0,7256 и Spearman 0,7481, ниже исходной версии с 384 измерениями (0,8274 и 0,8203 соответственно). Модель ориентирована на английский язык и выпущена по лицензии Apache-2.0.
All-MiniLM-L6-v2-Embedding-GGUF — модель для создания векторных представлений текста на основе sentence-transformers/all-MiniLM-L6-v2. Исходную модель разработала команда Sentence Transformers, а преобразование в формат GGUF выполнила Second State Inc. Модель предназначена для извлечения признаков, оценки семантического сходства предложений, поиска и других задач, где требуется сравнивать текстовые эмбеддинги. Модель работает с английским языком, имеет контекст размером 384 токена и размер вектора 256. Она доступна в нескольких вариантах квантования GGUF с разрядностью от 2 до 8 бит и размером файлов примерно от 19,2 до 45,9 МБ. Вариант Q4_K_M рекомендован как сбалансированный по размеру и качеству, а Q5_K_M и Q5_K_S обеспечивают более низкие потери качества. Более агрессивное квантование уменьшает размер, но может заметно ухудшать результаты. Модель рассчитана на локальный запуск, в том числе через LlamaEdge версии 0.8.2 и выше, и подходит для компактных систем с ограниченными ресурсами. Она не предназначена для генерации текста или диалогов; README не содержит сведений о точной архитектуре, числе параметров и результатах benchmark-тестов. Распространяется по лицензии Apache-2.0.
Модель manupande21/all-MiniLM-L6-v2-finetuned-triplets — англоязычный энкодер предложений на базе sentence-transformers/all-MiniLM-L6-v2, дообученный на 800 тысячах примеров из задачи ранжирования passages датасета MS MARCO. Архитектура Sentence Transformer использует BERT-энкодер и mean pooling; она преобразует предложения и абзацы в плотные векторы размерностью 384. В метаданных указан контекст до 512 токенов, а в README — максимальная длина последовательности 256 токенов; для практического использования следует учитывать ограничение библиотеки или конфигурации модели. Модель предназначена для семантического поиска, сравнения сходства предложений, поиска перефразировок, кластеризации и извлечения признаков для классификации текста. Сходство векторов можно оценивать косинусной мерой. README приводит значение cosine_accuracy 0,9667 на тесте TripletEvaluator, но не описывает набор данных этого теста достаточно подробно для обобщения результата на другие сценарии. Лицензия в предоставленных данных не указана.
Это демонстрационная модель Sentence Transformers, созданная слиянием двух англоязычных энкодеров предложений: sentence-transformers/all-MiniLM-L6-v2 и sentence-transformers/multi-qa-MiniLM-L6-cos-v1. Для слияния использована сферическая интерполяция (SLERP) с равными весами 0,5; модель содержит 25,9 млн параметров и построена на архитектуре BERT. Модель преобразует предложения в эмбеддинги для поиска по смыслу, сравнения сходства и кластеризации текстов. Она рассчитана на входные тексты длиной до 512 токенов и выдаёт векторные представления. В карточке указана лицензия Apache-2.0.
KhaledReda/all-MiniLM-L6-v57-pair_score — англоязычная модель Sentence Transformers, дообученная KhaledReda на датасете пар текстов pairs_with_scores_v46. Она кодирует предложения и абзацы в плотные векторы размерности 384 для оценки семантического сходства по косинусному сходству, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Архитектура основана на BERT с усреднением токенных представлений и нормализацией векторов; в README указана максимальная длина последовательности 256 токенов, а в метаданных — контекст до 512 токенов. Модель принимает текст и выдаёт векторные представления. Она рассчитана на английский язык. Лицензия Apache-2.0. Карточка не приводит результатов независимых оценок качества; качество для языков, отличных от английского, не подтверждено.
KhaledReda разработал all-MiniLM-L6-v72-pair_score как Sentence Transformers энкодер, дообученный на парах текстов с оценками сходства из набора pairs_with_scores_v58. Модель основана на sentence-transformers/all-MiniLM-L6-v2 и использует архитектуру BERT с усреднением токенных представлений и нормализацией выходного вектора. Модель кодирует предложения и абзацы в плотные векторы размерности 384; сходство можно оценивать косинусной мерой. Она подходит для поиска семантически близких текстов, сравнения предложений и абзацев, поиска перефразировок, кластеризации и классификации текста. Основной язык — английский. README указывает максимальную длину последовательности 256 токенов, тогда как метаданные сообщают контекст 512 токенов. Число параметров — 25,9 млн. Модель принимает текст и выдаёт векторы и оценки сходства. Лицензия — Apache-2.0. Результаты зависят от домена и качества входных текстов; при работе с длинными последовательностями следует учитывать ограничение длины модели.
KhaledReda/all-MiniLM-L6-v79-pair_score — англоязычная модель Sentence Transformers, дообученная KhaledReda на парах текстов с оценками сходства. Она основана на sentence-transformers/all-MiniLM-L6-v2, использует энкодер BERT и преобразует предложения и абзацы в плотные векторы размерности 384; для оценки близости подходит косинусное сходство. В README указана максимальная длина последовательности 256 токенов, а метаданные указывают контекст до 512 токенов. Модель предназначена для семантического сравнения текстов и получения эмбеддингов для поиска, выявления перефразировок, кластеризации и классификации текстов. Она обучалась с CoSENTLoss на датасете pairs_with_scores_v64. Лицензия — Apache-2.0. Модель ориентирована на английский язык. Векторы могут терять точность на текстах длиннее рабочего ограничения последовательности, а результаты для других языков в карточке не подтверждены.
Модель Alessio-Borgi/all-mpnet-base-v2-margin-based-triplet-loss-finetuned-culture-10-epochs-enhanced — дообученный Sentence Transformer на базе sentence-transformers/all-mpnet-base-v2. MPNet с mean pooling и нормализацией кодирует предложения и абзацы в плотные векторы размерностью 768; для сравнения используется косинусное сходство. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; в README указана максимальная длина последовательности 384 токена. Модель предназначена для семантического сравнения текстов и может применяться для семантического поиска, поиска перефразировок, кластеризации и классификации текстов. Она обучена с TripletLoss на наборе из 6 551 примера; название репозитория указывает на настройку для культурной тематики, однако README не раскрывает состав и охват данных. Лицензия в предоставленных сведениях не указана.
danfeg/ArabicBERT_Finetuned-EN-2481 — дообученная модель Sentence Transformers на архитектуре BERT для преобразования предложений и абзацев в плотные векторы размерностью 1024. Векторы можно использовать для поиска семантически близких текстов, кластеризации и сравнения предложений по смыслу. Модель принимает текст и формирует эмбеддинги; для работы с Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов. Максимальная длина контекста — 512 токенов. В карточке описано обучение с CosineSimilarityLoss. Язык модели явно не подтверждён: суффикс EN в названии сам по себе недостаточен, чтобы установить поддержку английского. Лицензия в предоставленных данных не указана.
pritamdeka/assamese-bert-nli-v2 — модель Sentence Transformers на архитектуре BERT, дообученная на sentence-transformers/all-nli от базовой модели l3cube-pune/assamese-bert. Она преобразует предложения и абзацы в плотные векторы размерности 768, которые можно сравнивать косинусной мерой сходства. Модель рассчитана на семантический поиск, оценку сходства текстов, поиск перефразирований, кластеризацию и классификацию текстов. Модель принимает текст на английском языке, использует среднее объединение токенных представлений и поддерживает последовательности длиной до 512 токенов. В README приведены оценки Spearman 0,8483 на STS-dev и 0,823 на STS-test. Для эмбеддингов длиннее лимита контекста потребуется обрезка или разбиение текста; заявленная языковая специализация — английский, несмотря на название базовой модели. Лицензия в предоставленных данных не указана.
TuralBayev разработал axeron-verify-05weight как объединённую модель семейства Qwen2.5, созданную методом Task Arithmetic с помощью forgelm. В основе лежит Qwen/Qwen2.5-3B; при объединении использованы Qwen2.5-3B-Instruct и Qwen2.5-Coder-3B-Instruct. Модель имеет плотную архитектуру Qwen2ForCausalLM, содержит 3,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; поддержка интерфейса вызова инструментов указана в метаданных. Веса сохранены в формате safetensors, для вычислений использована точность bfloat16. Карточка не описывает отдельные области применения или языки; базовая модель Qwen2.5-3B-Instruct характеризуется каталогом как компактная многоязычная модель для выполнения инструкций и генерации текста, включая структурированные ответы. Лицензия в предоставленных данных не указана. Качество и специализация результата объединения отдельно не описаны, поэтому его пригодность для конкретных задач следует оценивать на соответствующих примерах.
b1ade-embed-kd — модель для получения векторных представлений текстов и оценки их семантического сходства. В карточке указано, что она распространяется в формате ONNX через transformers.js и предназначена для задач sentence similarity. Модель может использоваться для классификации текстов, семантического поиска и retrieval, reranking, кластеризации и оценки текстового сходства. В качестве подтверждения приведены результаты на наборе тестов MTEB, включая AmazonCounterfactualClassification, AmazonPolarityClassification, Banking77, ArguAna, AskUbuntuDupQuestions и BIOSSES. Например, на Banking77 указаны accuracy 85,19% и F1 85,13%, а на BIOSSES — корреляция Spearman до 84,75% для косинусного сходства. Архитектура, число параметров, размерность эмбеддингов, поддерживаемые языки, максимальная длина контекста и разработчик в предоставленных данных не указаны. Также не указана лицензия, поэтому условия использования по карточке определить нельзя. Результаты показывают применимость модели к широкому спектру задач работы с текстовыми представлениями, однако качество может существенно зависеть от домена и конкретного сценария.
omkar334/bert-base-uncased-retromae — англоязычная модель Sentence Transformers, дообученная автором omkar334 на основе google-bert/bert-base-uncased с функцией потерь RetroMAELoss. Она кодирует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, извлечения текстов и сравнения сходства по косинусной мере. Архитектура состоит из BERT и пулинга CLS; README указывает максимальную длину последовательности 128 токенов, а метаданные — нативный контекст до 512 токенов. Модель принимает текст и выдаёт эмбеддинги. В README приведены результаты оценки на sts-dev и sts-test: Spearman-корреляция косинусного сходства 0,3173 и 0,721 соответственно. Доступна в формате safetensors; размер составляет 136,7 млн параметров. Лицензия в предоставленных данных не указана.
BEE-spoke-data/bert-plus-L8-v1.0-allNLI_matryoshka — модель семейства BERT, разработанная BEE-spoke-data для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства, кластеризации и связанных задач с текстовыми эмбеддингами. Модель дообучена на датасете allNLI с функцией потерь MatryoshkaLoss и поддерживает вложенные размерности эмбеддингов 768, 512, 256, 128 и 64. Базовая модель поддерживает контекст до 4096 токенов, однако это дообучение проводилось на коротких примерах с контекстом 512 токенов. Модель рассчитана на английский язык и использует библиотеку Sentence-Transformers. Лицензия — Apache-2.0.