II.11Кибербезопасность и приватность
В разделе собраны самостоятельные задачи, где AI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
4 232 моделиRombos-Coder-V2.5-Qwen-32b — дообученная разработчиком Rombodawg модель для генерации и работы с кодом на основе Qwen2.5-Coder-32B-Instruct. Модель использует плотную архитектуру Qwen2 и содержит 32 млрд параметров; заявленная длина контекста — 131 072 токена. Она принимает текст и рассчитана на диалоговое взаимодействие, включая сценарии с интерфейсом вызова инструментов. Модель предназначена для написания, анализа и исправления кода. Автор заявляет о более высокой производительности по сравнению с исходной instruct- и базовой моделями, однако бенчмарки в карточке пока отсутствуют. Репозиторий содержит веса в формате Safetensors; варианты GGUF и EXL2 обозначены как готовящиеся. Лицензия — Apache-2.0.
embaas разработала модель эмбеддингов на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для поиска семантически близких текстов, кластеризации и других задач сравнения предложений. Модель можно использовать в сценариях семантического поиска и группировки текстовых фрагментов. Модель поставляется в формате PyTorch и рассчитана на входные последовательности длиной до 514 токенов. Лицензионные условия в предоставленных данных не описаны.
gubartz/st_scibert_abstruct — модель Sentence Transformers на архитектуре BERT, разработанная пользователем gubartz. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,1 млн параметров, принимает текст длиной до 512 токенов и распространяется в формате PyTorch. При использовании через Transformers поверх контекстных представлений требуется применить подходящий pooling. Модель обучалась с функцией потерь BatchAllTripletLoss. README не уточняет языки обучения, лицензию или специализированную предметную область, поэтому область применения следует определять по данным пользователя. Для длинных текстов действует ограничение контекста в 512 токенов.
Карточка модели hilabs/tm_custom_embedding на Hugging Face совпадает с карточкой nomic-ai/nomic-embed-text-v1.5, поэтому описание составлено по ней. nomic-embed-text-v1.5 — текстовая модель эмбеддингов компании Nomic AI на архитектуре NomicBert, содержащая 136,7 млн параметров. Она преобразует тексты в векторы для семантического поиска, индексации документов для RAG, кластеризации, поиска дубликатов и подготовки признаков для классификации. Для выбора режима перед текстом требуется указать инструкционный префикс, например search_document или search_query. Модель использует Matryoshka Representation Learning: размерность вектора можно уменьшать, снижая потери качества; в карточке приведены результаты для размерностей 768 и 512. README сообщает о последовательностях до 8192 токенов, тогда как метаданные указывают базовый размер контекста 2048 токенов. Доступны форматы safetensors и ONNX, лицензия Apache-2.0. Для совместных мультимодальных эмбеддингов README указывает на отдельную модель nomic-embed-vision-v1.5; сама эта модель кодирует текст.
VeriLoop E2 — открытая модель с 27 млрд параметров, разработанная Tsinghua SIGS Robot Lab и Libo Wang на основе Qwen3.8-27B и дообученная для программирования, математики и физики. Это плотная модель семейства Qwen3.5 с поддержкой диалогов и интерфейса вызова инструментов; она принимает текст и, согласно характеристикам базовой модели и тегам, изображения. Нативное окно контекста составляет 262 144 токена. Для запуска доступны веса safetensors и библиотека Transformers; README также описывает совместимый с OpenAI способ обслуживания через vLLM. Модель предназначена для инженерных задач с кодом, математического и научного рассуждения, а также сценариев с инструментами и проверкой промежуточных результатов. Подход VeriLoop-Governed Recurrence предполагает, что модель предлагает варианты решения, а внешний Harness проверяет и принимает их; рабочая реализация производственного Harness в репозитории не опубликована. В README приведены результаты на кодовых, математических и научных бенчмарках, однако они относятся к конкретной конфигурации оценки и не гарантируют аналогичных результатов в другом окружении. Модель может выдавать ошибочный код, доказательства или научные рассуждения, поэтому результаты требуют проверки. Работа с длинным контекстом зависит от конфигурации сервера и доступной памяти. Лицензия — Apache 2.0.
WeMM-Embedding-2B-GGUF — неофициальная GGUF-квантизированная версия модели WeMM-Embedding-2B, разработанной Tencent и подготовленной ewinregirgojr. Это модель эмбеддингов и извлечения признаков, предназначенная для семантического представления кода и текста в виде плотных L2-нормализованных векторов размерностью 2048. Поддерживаются английский, китайский, другие многоязычные сценарии, а также языки программирования, включая Python, TypeScript, JavaScript, C++, Rust, Go, SQL и Shell. Модель использует гибридную архитектуру из 18 слоёв Mamba SSM с линейным вниманием и 6 слоёв полного softmax-внимания и содержит около 2 млрд параметров. Она ориентирована на поиск и извлечение кода, RAG-системы, индексацию векторных баз данных, поиск дубликатов и выявление близких реализаций. GGUF-файлы совместимы с llama.cpp, Ollama и LM Studio; заявлена также интеграция с Unsloth, vLLM и sentence-transformers. В репозитории представлены варианты квантизации от Q4 до Q8, позволяющие выбирать между размером, скоростью и точностью; для некоторых вариантов заявлено сохранение косинусного сходства на уровне примерно 99,59–99,82% относительно FP16-базовой версии. Сильными сторонами являются высокая пропускная способность, компактность квантизированных вариантов и специализация на поиске по коду и техническим данным. Модель не предназначена для авторегрессионной генерации текста, дополнений или чат-ответов. В описании упоминается мультимодальная поддержка базовой модели, включая текст, изображения и видео, однако подробные характеристики этих модальностей для данного GGUF-релиза не приведены; размер контекста также не указан. Лицензия — Apache-2.0.
Zrald/Zrald-AI-model-quant-qwen-3.8-27b — набор GGUF-квантований Qwen3.8-27B, опубликованный Zrald для локального запуска через llama.cpp. Это плотная модель на 27 млрд параметров, дообученная на базе Qwen/Qwen3.8-27B; репозиторий предлагает три варианта с разным балансом размера, скорости и сохранения качества. README описывает применение для диалогов, программирования, рассуждений и инструктивных задач. Варианты занимают от 10,18 до 17,08 ГиБ; заявлены сценарии запуска на видеокартах с 12, 16 и 24 ГБ памяти, а для старшего варианта — контекст до 32 тысяч токенов. Автор сообщает о тестировании на AMD Instinct MI300X и совместимости с llama.cpp. Лицензия — Apache-2.0. Это текстовая модель генерации; мультимодальные функции базовой модели в карточке этого репозитория не заявлены.
jiahaohou/all-mpnet-base-v2-sts — англоязычная Sentence Transformer-модель, дообученная на датасете STSB на основе sentence-transformers/all-mpnet-base-v2. Архитектура MPNet преобразует предложения и короткие абзацы в нормализованные плотные векторы размерности 768; сходство между текстами оценивается косинусной близостью. В метаданных указано 136,7 млн параметров и контекст до 514 токенов, а карточка модели указывает максимальную длину последовательности 384 токена. Модель предназначена для семантического сравнения предложений и абзацев, поиска похожих текстов, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. В README приведены результаты на STS-B: Spearman 0,9105 на dev и 0,8786 на test. Модель принимает текст и выдаёт векторы; для прикладных задач её обычно используют как компонент поиска или анализа, а не как генератор текста. Лицензия в предоставленных данных не указана.
Это дообученная модель Sentence Transformers на архитектуре BERT, созданная на основе BAAI/bge-large-en-v1.5. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и нормализует их; сходство текстов оценивается косинусным сходством. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстов. Её можно применять для получения эмбеддингов документов и запросов, а также для оценки близости предложений. README не сообщает языковой состав обучающих данных, поэтому языковую специализацию модели установить нельзя. Репозиторий содержит веса в формате safetensors; метаданные не указывают лицензию.
Это дообученная модель Sentence Transformer на базе BAAI/bge-large-en-v1.5 для преобразования предложений и абзацев в плотные векторы размерности 1024. Архитектура включает BertModel, пулинг по CLS-токену и нормализацию; максимальная длина последовательности — 512 токенов. Разработчик конкретного дообучения и обучающие данные в карточке не описаны. Модель предназначена для вычисления семантического сходства и поиска по тексту, а также для поиска перефразировок, кластеризации и классификации текстов. Нормализованные эмбеддинги сравниваются косинусным сходством. Репозиторий создан 17 ноября 2024 года и содержит веса safetensors. Условия лицензии в предоставленных данных не указаны.
Карточка модели jpbalarini/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели megavn/bge-m3-embeddings на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
YeonwooSung/bge-m3-msmarco-v3-sbert — дообученная модель Sentence Transformers на базе BAAI/bge-m3, разработчик в карточке не назван. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска, оценки сходства, поиска перефразировок, кластеризации и классификации текста. Архитектура состоит из XLM-RoBERTa и mean pooling; максимальная длина последовательности — 8192 токена, сходство обычно оценивается косинусной мерой. Модель обучена на датасете примерно из 499 тысяч примеров с MultipleNegativesRankingLoss. Метаданные характеризуют базовую BGE-M3 как многоязычную модель поиска; конкретный перечень поддерживаемых языков для этой версии не указан. Для работы доступны веса safetensors и библиотека Sentence Transformers. Лицензия в предоставленных данных не указана.
Claude Sonnet 4 — модель Anthropic, представленная как развитие Sonnet 3.7. Она предназначена для задач программирования и рассуждений; в карточке отмечены улучшенные точность и управляемость, а также результат 72,7% на SWE-bench. Метаданные каталога относят модель к задаче image-text-to-text, однако доступные материалы не описывают её архитектуру, размер, модальности, языки или длину контекста.
CrystalMistral_7b_v.02 — языковая модель, созданная Crystalcareai объединением Crystalcareai/Mistral-Evol-Coder и Crystalcareai/mistral-InstructGPT с помощью LazyMergekit и метода SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста, в том числе для сценариев, сочетающих инструкции и задачи, связанные с кодом. В репозитории указаны веса Safetensors; конфигурация слияния использует тип данных bfloat16. Лицензия в предоставленных данных не указана.
DeepSeek-V4-Flash-NVFP4-FP8 — это оптимизированная и квантизованная версия базовой модели DeepSeek-V4-Flash, разработанная Red Hat AI на основе модели deepseek-ai. Модель предназначена для развёртывания и инференса через Transformers и vLLM, в частности для задач общего инструктирования, математического рассуждения, reasoning и генерации кода. Она ориентирована на высокопроизводительное серверное использование с тензорным параллелизмом на нескольких GPU. Ключевая особенность модели — применение формата NVFP4, а также FP8 для KV-кэша. Для запуска рекомендуется использовать четыре GPU и FP8 KV cache; оценивание проводилось на 8 GPU B200. Точные архитектурные параметры, размер модели, поддерживаемые языки, модальности и длина контекста в README не указаны. На GSM8K модель показала точность 91,0%, а на MMLU-Pro — 55,4%. В сравнении с базовой моделью восстановление качества различается по задачам: оно составляет около 91–98% на большинстве указанных бенчмарков, при этом на AIME 2025 результат оказался выше базового. Основные преимущества модели — совместимость с vLLM, использование низкоразрядного представления для эффективного инференса и высокая пропускная способность. Ограничение заключается в заметной потере точности относительно базовой модели, связанной с тем, что исходная модель уже была выпущена в квантизованном формате, а также с различиями между форматами MXFP4 и NVFP4. В README упоминается, что более продвинутые методы, например GPTQ, могут улучшить восстановление точности. Модель распространяется по лицензии MIT.
Devstral Small 1.1 — языковая модель для агентной разработки программного обеспечения, созданная в сотрудничестве Mistral AI и All Hands AI. Эта версия представлена в формате GGUF и предназначена для работы с llama.cpp, LM Studio и другими совместимыми средствами локального запуска. Модель специализируется на задачах программной инженерии: исследовании кодовых баз, редактировании нескольких файлов, использовании инструментов и работе в составе coding-агентов, включая OpenHands. Это текстовая модель без поддержки изображений. Она содержит 24 миллиарда параметров, использует токенизатор Tekken с размером словаря 131 тысяча токенов и поддерживает контекст до 128 тысяч токенов. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского и ряда других языков. К сильным сторонам относятся ориентация на агентное программирование, большой контекст, поддержка формата function calling Mistral и возможность локального запуска; для GGUF доступны варианты BF16, Q8_0, Q5_K_M и Q4_K_M. Ограничением является текстовая специализация без vision-возможностей, а качество и требования к ресурсам зависят от выбранной квантизации. Согласно README, компактная версия может запускаться на одной RTX 4090 или Mac с 32 ГБ оперативной памяти. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование и модификацию.
E5-large — англоязычная модель текстовых эмбеддингов, разработанная авторами проекта E5 и обученная методом слабоконтролируемого контрастивного предобучения. Она построена на архитектуре BERT, содержит 24 слоя и 433,9 млн параметров; размер эмбеддинга — 1024. Модель принимает текст и выдаёт векторные представления для сравнения смысловой близости и поиска. Модель подходит для семантического поиска, извлечения фрагментов по запросу, оценки сходства предложений, поиска перефразировок, кластеризации и использования эмбеддингов как признаков для классификации. Для асимметричного поиска рекомендуется добавлять к запросу префикс «query: », а к документу — «passage: »; для симметричных задач используется «query: » перед обоими текстами. Максимальная длина входа — 512 токенов. Модель работает только с английскими текстами. Тексты длиннее лимита обрезаются, а для более высокой точности авторы рекомендуют перейти на e5-large-v2. Лицензия — MIT.
Это англоязычная модель Sentence Transformers, дообученная Sandeep Aggarwal на базе BAAI/bge-large-en-v1.5. Она кодирует предложения и абзацы в плотные векторы размерностью 1024, пригодные для сравнения по косинусному сходству. Архитектура включает BERT, пулинг по CLS-токену и нормализацию векторов; максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и классификации текста. Обучение с TripletLoss на примерах anchor, positive и negative адаптирует эмбеддинги для сопоставления текстов. Поддерживается английский язык. Лицензия Apache-2.0.
qinxianliu/FAB-Ramy-v1 — модель Sentence Transformers на архитектуре MPNet, предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 768. Векторное представление получается усреднением токенов с последующей нормализацией; для сравнения используется косинусное сходство. Модель содержит 136,7 млн параметров, работает с последовательностями до 514 токенов по метаданным Hugging Face; в карточке README указан предел 384 токена. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и классификации текстов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.
Gemini 3 Flash Preview — предварительная версия быстрой мультимодальной модели Google для диалога, агентных сценариев и помощи с программированием. Карточка описывает её как thinking-модель с рассуждениями, близкими к уровню Pro, и поддержкой работы с инструментами. Модель предназначена для многошагового чата, агентных рабочих процессов и задач по программированию. Метаданные каталога относят её к задаче image-text-to-text. Данных о размере, длине контекста, поддерживаемых языках и лицензии в предоставленных материалах нет.
GLM-4.5-Air-REAP-82B-A12B — сжатая версия GLM-4.5-Air от Cerebras, созданная методом REAP (Router-weighted Expert Activation Pruning). Это причинная языковая модель со смешанной экспертной архитектурой MoE: из 128 экспертов удалена четверть, осталось 96, из которых активируются 8 на каждый токен. В модели 82 млрд параметров, при этом на токен активируется около 12 млрд; контекст составляет 131 072 токена. Модель предназначена для генерации текста и кода, работы с агентными сценариями, вызова функций и понимания крупных репозиториев. По данным карточки, она сохраняет производительность, близкую к исходной GLM-4.5-Air, и требует примерно на 25% меньше памяти; дополнительное дообучение после прореживания не проводилось. Для развёртывания README указывает актуальную версию vLLM и поддержку вызова инструментов. Модель распространяется по лицензии MIT. Карточка заявляет близкие к исходной модели результаты, однако приводит подробности оценок отдельно; качество на конкретных задачах и требования к памяти зависят от конфигурации развёртывания.
Карточка модели Vaibhavhome30/GLM-5.3-Flash-BF16 на Hugging Face совпадает с карточкой unsloth/GLM-5.3-Flash, поэтому описание составлено по ней. GLM-5.3-Flash — мультимодальная модель семейства GLM, разработанная Z.ai. Репозиторий unsloth содержит дообученную версию базовой модели zai-org/GLM-5.3-Flash-BF16 и распространяет веса в формате safetensors; заявлена лицензия MIT. Модель предназначена для диалогов и генерации текста, включая программирование и агентные сценарии. Архитектура GLM-5 Next сочетает разреженное и линейное внимание; в README указаны 320 млрд параметров всего и 18 млрд активных параметров. Разработчик также описывает мультимодальное предварительное обучение и улучшенную эффективность при работе с длинным контекстом, но точная длина контекста этой копии не приведена. Карточка базовой модели характеризует её как мультимодальную и поддерживающую анализ изображений, однако метаданные этого репозитория указывают в качестве задачи только text-generation. Поэтому назначение копии как модели для обработки изображений отдельно не подтверждено. Языковые теги карточки — английский и китайский. Практическое развёртывание требует соответствующей инфраструктуры для модели такого масштаба; в README перечислены SGLang, vLLM, TokenSpeed и KTransformers.
Granite-embedding-small-english-r2 — англоязычная модель для создания плотных векторных представлений текста, разработанная командой Granite Embedding компании IBM. Модель предназначена для сравнения текстов, семантического поиска и информационного поиска, включая поиск по документам, кодовой базе, таблицам и многошаговым диалогам. Она преобразует запросы, фрагменты и документы в векторы фиксированной длины, пригодные для сопоставления, например с помощью косинусного сходства. Модель содержит 47 млн параметров и использует архитектуру bi-encoder на базе ModernBERT. Размер выходного embedding составляет 384, поддерживается контекст длиной до 8192 токенов. При обучении применялись retrieval-oriented pretraining, contrastive finetuning, knowledge distillation и объединение моделей; использовались датасеты пар релевантности с разрешительными лицензиями, а также наборы данных, собранные и сгенерированные IBM. Модель ориентирована только на английский язык и доступна для использования через Transformers.js, включая ONNX-вариант. К сильным сторонам относятся компактный размер, поддержка длинного контекста, высокая скорость кодирования и конкурентоспособное качество на бенчмарках поиска, длинных документов, кода, таблиц и многоходовых диалогов. Ограничения — английская языковая специализация, фиксированный размер представлений и назначение преимущественно для задач embeddings, similarity и retrieval, а не для генерации текста. Модель распространяется по лицензии Apache 2.0.
ProCreations/grug-v1.1-qwen-3.8-27b-qgguf — это GGUF-версия модели grug-v1.1-qwen-3.8-27b, разработанная ProCreations для локального запуска через llama.cpp. Модель предназначена для генерации текста, программирования и агентских сценариев, включая работу с инструментами. Заявлена поддержка английского языка и режим text-generation. Модель имеет размер 27B и поставляется в нескольких вариантах квантования: Q8_0, Q6_K, Q5_K_M, Q4_K_M и Q3_K_M, занимающих примерно от 13,3 до 28,6 ГБ. Для работы с изображениями предусмотрен отдельный multimodal-проект mmproj в формате F16 размером около 0,9 ГБ, используемый вместе с llama-mtmd-cli. Размер контекста в README не указан. Ключевая особенность модели — оптимизированное рассуждение: в описании заявлено существенно меньшее число токенов в блоке размышлений по сравнению с базовой моделью. Для большинства случаев рекомендуется средний уровень reasoning effort; режим xhigh может ухудшать выбор инструментов. Квантование позволяет подобрать баланс между качеством и требованиями к памяти, но более компактные варианты могут уступать полноразмерным весам по качеству. Все варианты, согласно README, проверены с помощью llama-bench. Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое окружение llama.cpp; конкретные требования к оперативной памяти, производительности и максимальному контексту не указаны.
gte-base-en-v1.5 — англоязычная модель текстовых эмбеддингов, разработанная Institute for Intelligent Computing группы Alibaba. Она построена на энкодерной архитектуре transformer++ (BERT с RoPE и GLU) и содержит 136,7 млн параметров. Модель кодирует текст в векторы размерности 768 и поддерживает последовательности длиной до 8192 токенов. Модель предназначена для поиска и сравнения текстов, семантической близости предложений и извлечения релевантных документов, в том числе в длинном контексте. По данным карточки, серия gte-v1.5 показывает высокие результаты на англоязычном бенчмарке MTEB для своего размерного класса и конкурентоспособные результаты в тестах длинноконтекстного поиска LoCo. Модель принимает текст и выдаёт векторы; это не генеративная модель. Доступна по лицензии Apache-2.0. В карточке приведены оценки на бенчмарках; они не гарантируют аналогичного качества на конкретных данных и сценариях.
Это модель Sentence Transformers на основе BERT, созданная дообучением thenlper/gte-small. Она преобразует предложения и абзацы в плотные векторы размерностью 384 и сравнивает их с помощью косинусного сходства. Максимальная длина входной последовательности — 512 токенов; архитектура включает усреднение токенных представлений и нормализацию векторов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации текста. Её можно использовать для построения векторного поиска и группировки похожих предложений и документов. Карточка указывает англоязычную базовую модель GTE; отдельные языки дообучения не обозначены. Модель распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.
Instructor-large — модель текстовых эмбеддингов, разработанная исследовательской группой HKUNLP и дообученная следовать инструкциям для получения векторов, настроенных под задачу и предметную область. Задачу задают текстовой инструкцией при кодировании, без отдельного дообучения под каждый сценарий. Модель основана на T5 Encoder и содержит 385,2 млн параметров; максимальная длина контекста — 512 токенов. Модель предназначена для семантического поиска и извлечения информации, классификации, кластеризации, оценки текста и сравнения сходства предложений. Инструкции могут задавать область, например науку, финансы или медицину, и цель представления текста. В README заявлены высокие результаты на разнообразных задачах бенчмарка MTEB. Модель принимает текст и выдаёт эмбеддинги; для работы с ней авторы рекомендуют библиотеку InstructorEmbedding на базе Sentence Transformers. Модель поддерживает английский язык. Лицензия — Apache-2.0. Контекст ограничен 512 токенами, а заявленные результаты бенчмарка не гарантируют качество для каждой пользовательской задачи; инструкцию и применение следует подбирать и оценивать отдельно.
Instructor-XL — модель текстовых эмбеддингов, разработанная исследователями HKU NLP. Это дообученная на инструкциях версия энкодера T5, содержащая 385,2 млн параметров и принимающая текст с контекстом до 512 токенов. Задачу и область применения можно задавать инструкцией при создании эмбеддингов, без дополнительного дообучения модели. Модель предназначена для поиска документов и информации, оценки сходства и релевантности текстов, кластеризации, классификации и оценки текста. Она поддерживает английский язык; в README также приведены примеры применения в научной, финансовой и медицинской областях. Модель выдаёт векторы эмбеддингов, пригодные для этих задач. Доступна по лицензии Apache-2.0.
bachngo/intf-e5-small-5t — модель Sentence Transformers на архитектуре BERT, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для семантического поиска, сравнения текстов и кластеризации. Модель обучалась с MultipleNegativesRankingLoss и косинусным сходством; она подходит для поиска близких по смыслу фрагментов и группировки текстовых данных. Контекст ограничен 512 токенами, размер модели составляет 124,3 млн параметров. Лицензия в предоставленных данных не указана.