II.11Кибербезопасность и приватность

Trelis/all-MiniLM-L12-v2-ft-pairs-balanced — дообученная модель Sentence Transformers на базе sentence-transformers/all-MiniLM-L12-v2, разработанная Trelis. Она кодирует предложения и абзацы в плотные векторы размерности 384 для поиска по смыслу, сравнения текстов, выявления перефразировок и кластеризации. Архитектура включает BERT-трансформер, усреднение токенных представлений и нормализацию; сходство векторов можно измерять косинусной близостью. Модель имеет около 40 млн параметров и принимает последовательности длиной до 512 токенов по метаданным; README указывает максимальную длину 128 токенов. Модель подходит для построения семантического поиска, сравнения коротких текстов и получения признаков для классификации. Базовая модель описана как англоязычная, поэтому основное применение ориентировано на английский. Лицензия в предоставленных данных не указана.

youssefkhalil320 дообучил all-MiniLM-L6-v11-pair_score на базе sentence-transformers/all-MiniLM-L6-v2. Это энкодер Sentence Transformer на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и абзацы в нормализованные плотные векторы размерности 384, а сходство можно оценивать косинусной метрикой. Модель предназначена для поиска семантически близких текстов, сравнения предложений, поиска перефразировок, кластеризации и классификации текста. Модель работает с английским языком. Метаданные указывают контекст до 512 токенов, а карточка — максимальную длину последовательности 256 токенов. Лицензия Apache-2.0 разрешает использование на её условиях. Векторы подходят для семантического поиска и группировки текстов, но их качество зависит от предметной области и способа применения; модель не генерирует текст.

Карточка модели ori-ron/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Карточка модели Renegad/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Карточка модели sky-meilin/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Карточка модели sox90/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Карточка модели unsloth/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

KhaledReda/all-MiniLM-L6-v71-pair_score — англоязычная модель Sentence Transformers, дообученная автором на модели KhaledReda/all-MiniLM-L6-v69-pair_score с использованием набора пар текстов со степенями сходства pairs_with_scores_v57. Это компактный плотный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и абзацы в нормализованные векторы размерности 384 и сравнивает их косинусным сходством. Для входной последовательности в метаданных указан контекст до 512 токенов; карточка модели задаёт ограничение в 256 токенов. Модель предназначена для оценки семантического сходства текстов, семантического поиска, поиска перефразировок, кластеризации и получения признаков для классификации. Обучение проводилось с CoSENTLoss на парах с оценками сходства. Модель поддерживает английский язык и распространяется по лицензии Apache-2.0. Для языков и текстов, отличающихся от английского, качество не подтверждено карточкой.

ronanki/all-mpnet-base-v2-2022-07-18_15-29-33 — модель Sentence-Transformers на архитектуре MPNet, которая преобразует предложения и абзацы в плотные векторы размерности 768. Она предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель содержит 136,7 млн параметров и принимает текстовые последовательности длиной до 514 токенов. Модель обучена с функцией потерь MultipleNegativesRankingLoss и косинусным сходством. Её можно использовать для построения семантического поиска и группировки текстов по смыслу. В репозитории указаны веса PyTorch; лицензия не приведена в доступных данных.

Artemis Embed v1 — англоязычная плотная модель эмбеддингов на базе answerdotai/ModernBERT-base, разработанная Omarbm52. Она кодирует текст в L2-нормированный вектор размерности 768; поддерживаются усечённые Matryoshka-варианты размерности 512, 256 и 128. Архитектура использует ModernBERT, masked mean pooling и обучение с LoRA, контрастивной целью, hard negatives и Matryoshka learning. В метаданных указаны 149 млн параметров и контекст до 8192 токенов, однако в README для текущей версии протестирована длина последовательности до 128 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска документов, кластеризации и получения признаков для последующей классификации. В README приведены внутренние результаты разработки, а итоговая оценка на MTEB English v2 ещё не завершена, поэтому эти результаты не следует считать независимой итоговой оценкой. Версия поддерживает только английский язык. Лицензия в предоставленных данных не указана.

rjnClarke/BAAI-bge-large-en-v1.5-fine-tuned — англоязычная модель Sentence Transformers, дообученная на базе BAAI/bge-large-en-v1.5. Она кодирует предложения и абзацы в плотные векторы размерности 1024 для сравнения семантической близости и поиска по текстам. Архитектура включает BERT, пулинг CLS-токена и нормализацию векторов; сходство можно оценивать косинусной мерой. Модель рассчитана на семантический поиск, поиск перефразировок, кластеризацию и классификацию текста. Максимальная длина последовательности — 512 токенов. В карточке приведена оценка на задаче информационного поиска, но её результаты зависят от набора данных и не гарантируют качество на других корпусах. Лицензия — Apache-2.0.

BAAI/bge-m3 — многоязычная модель эмбеддингов семейства XLM-RoBERTa, разработанная BAAI и представленная в репозитории Bylaw/BAAI-bge-m3. Она предназначена для поиска по смыслу и извлечения документов, включая многоязычный и межъязыковой поиск, а также поиск по длинным текстам. Модель формирует плотные эмбеддинги, разреженные лексические веса и многовекторные представления ColBERT; эти представления можно использовать отдельно или объединять в гибридном поиске и RAG-конвейерах. Модель имеет 658,7 млн параметров, размерность эмбеддинга 1024 и контекст до 8194 токенов. README заявляет поддержку более 100 языков и указывает, что модель можно применять к коротким предложениям и длинным документам. В карточке также заявлены форматы PyTorch и Safetensors, а лицензия — MIT. BGE-M3 удобна тем, что объединяет несколько подходов к поиску и поддерживает длинный контекст. По README, для задач на одном языке специализированные одноязычные модели могут показывать лучшие результаты; поддержка разреженного поиска также зависит от используемой библиотеки. Для повышения точности авторы рекомендуют сочетать гибридный поиск с отдельной моделью-реранкером.

deepvk/bert-base-uncased — предобученный двунаправленный энкодер BERT, разработанный deepvk для обработки текстов, преимущественно на русском языке. Модель обучалась стандартной задачей masked language modeling на корпусе из 250 ГБ отфильтрованных текстов, включая Википедию, книги и данные из социальных сетей. По метаданным, она содержит 140,9 млн параметров, использует архитектуру BERT с 12 слоями и 12 головами внимания и поддерживает контекст до 512 токенов. Модель предназначена для извлечения признаков из текста и может служить основой для дообучения под классификацию, анализ сходства и другие задачи понимания языка. В репозитории находятся только веса энкодера без предварительно обученной выходной головы, поэтому для конкретной задачи может потребоваться подходящая голова и дообучение. Карточка сообщает о преимущественно русском обучающем корпусе с небольшой долей других языков; метаданные указывают русский и английский. Лицензия — Apache 2.0.

hamtaai/bg3_model — дообученная модель Sentence Transformer на базе BAAI/bge-m3, представленная в архитектуре XLM-RoBERTa. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для вычисления семантической близости по косинусному сходству. Модель подходит для семантического поиска, сравнения текстов, поиска перефразирований, кластеризации и классификации текстов. В README указан предел длины последовательности 512 токенов; метаданные сообщают о контекстном окне базовой модели до 8194 токенов, поэтому для этой версии следует ориентироваться на ограничение README. Модель принимает текст и выдаёт эмбеддинги; указанные материалы не уточняют языковую специализацию именно этой дообученной версии. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Suva/bge-base-finetuned — модель эмбеддингов на основе архитектуры BERT, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и доступна в форматах PyTorch и Safetensors. Модель обучалась с функцией потерь MultipleNegativesRankingLoss и косинусной мерой сходства. Её можно применять для поиска похожих фрагментов, группировки текстов и получения векторных представлений для последующих задач. README и метаданные не указывают специализированную предметную область или поддерживаемые естественные языки. Лицензия в предоставленных данных не указана.

BGE base Financial Matryoshka — англоязычная модель Sentence Transformer, разработанная на основе BAAI/bge-base-en-v1.5 и дообученная для создания эмбеддингов предложений и абзацев. Архитектура основана на BERT; модель содержит 136,7 млн параметров, формирует нормализованные плотные векторы размерностью 768 и сравнивает их с помощью косинусного сходства. Максимальная длина входа — 512 токенов. Модель подходит для семантического поиска и сравнения текстов, поиска парафраз, кластеризации и классификации текстов. Обучение использовало MatryoshkaLoss и MultipleNegativesRankingLoss; README указывает на небольшой обучающий набор из 45 примеров. Модель принимает английский текст и выдаёт векторы эмбеддингов. Лицензия — Apache-2.0.

Карточка модели vectoriseai/bge-large-en-v1.5 на Hugging Face совпадает с карточкой vectoriseai/bge-small-en-v1.5, поэтому описание составлено по ней. vectoriseai/bge-small-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, опубликованная под именем vectoriseai; карточка описывает её через материалы проекта FlagEmbedding. Модель преобразует текст в плотные векторы для поиска, сравнения предложений, классификации и кластеризации, а также для поиска контекста в векторных базах данных и системах RAG. Модель основана на архитектуре BERT, содержит около 40 млн параметров и поддерживает контекст до 512 токенов. Для поиска по длинным документам README рекомендует при необходимости добавлять поисковую инструкцию к короткому запросу, но не к документам. Доступны веса PyTorch и ONNX; лицензия — MIT. Версия BGE v1.5 улучшает распределение оценок сходства и поиск без инструкции. Оценки сходства следует интерпретировать относительно: порог для отбора похожих текстов нужно подбирать на своих данных. Модель ориентирована на английский язык; качество для других языков не заявлено.

Карточка модели rjfrjf/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели shen919/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели daitavan/bge-m3-finetune на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Это модель Sentence Transformer, дообученная на основе BAAI/bge-m3 и разработанная автором репозитория seongil-dn. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 1024 для семантического поиска и сравнения текстов по косинусному сходству. Также её можно применять для поиска перефразировок, кластеризации и классификации текстов. Модель использует XLM-RoBERTa с pooling по CLS-токену; README указывает максимальную длину последовательности 1024 токена. Метаданные сообщают о контекстном окне до 8194 токенов, поэтому фактический предел обработки следует сверять с используемой конфигурацией. Репозиторий предназначен для работы с библиотекой Sentence Transformers и содержит веса в формате Safetensors. Данных о лицензии в предоставленных источниках нет.

BiCA-Base — модель Sentence Transformer, разработанная Bisect Group и дообученная на базе thenlper/gte-base для получения плотных векторных представлений предложений и абзацев. Она преобразует текст в эмбеддинги размерности 768 и предназначена для семантического сходства, поиска и других задач сравнения текстов. Модель основана на архитектуре BERT, содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Для сравнения векторов используется косинусное сходство; среди подходящих сценариев — поиск парафраз, кластеризация и классификация текстов. Указана лицензия MIT.

BiCA-small — модель Sentence Transformers, дообученная bisectgroup на базе thenlper/gte-small для получения эмбеддингов предложений и абзацев. Она использует архитектуру BERT с mean pooling и нормализацией, содержит около 40 млн параметров и преобразует текст в плотные векторы размерности 384; сходство можно оценивать косинусной мерой. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Карточка описывает англоязычные данные и поддержку английского языка. Для работы нужны текстовые входы; результат — векторные представления, пригодные для сравнения и последующей обработки. Модель распространяется в формате safetensors. Лицензия в предоставленных данных не указана.

CALE-MBERT-en — англоязычная модель эмбеддингов предложений на базе двунаправленного энкодера ModernBERT-large. Разработчик дообучил её с помощью ContrastiveLoss на датасете CALE-SPCD; модель преобразует слова и тексты в плотные векторы размерностью 1024 и рассчитана на контекст до 8192 токенов. Модель предназначена для поиска семантически близких текстов, кластеризации и задач сходства предложений. Её можно использовать для семантического поиска и группировки текстовых данных. Веса опубликованы в формате safetensors, лицензия — Apache-2.0.

danfeg/CAMeL_Finetuned-EN-500 — модель на базе BERT, дообученная как sentence-transformers для преобразования предложений и абзацев в плотные векторы размерности 768. Она предназначена для вычисления семантического сходства, семантического поиска и кластеризации текстов. Модель содержит 136,3 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт эмбеддинги. По названию и карточке она ориентирована на английский язык; лицензия в предоставленных данных не указана.

Codestral-22B-v0.1 — плотная авторегрессионная модель семейства Mistral на 22 млрд параметров, разработанная командой Mistral AI и обученная на разнообразном наборе данных, включающем более 80 языков программирования. Она предназначена для генерации и анализа кода: модель отвечает на вопросы о фрагментах программ, пишет документацию, объясняет и рефакторит код, а также создаёт программы по инструкциям. Режим Fill in the Middle позволяет дополнять код между заданными префиксом и суффиксом, в том числе в инструментах разработки. Поддерживается контекст длиной до 32 768 токенов. Модель принимает текстовые запросы и выдаёт текст, включая программный код. README приводит Python, Java, C, C++, JavaScript и Bash как примеры языков обучения; полный перечень заявлен в сопутствующей публикации. Контроль модерации в модели отсутствует, поэтому её ответы могут требовать проверки и внешних ограничений. Репозиторий использует формат safetensors; лицензия в метаданных указана как other, конкретные условия следует сверять с карточкой модели.

much1na/distil-cohere-l2-ckpt — модель Sentence Transformers, разработанная much1na и дообученная на базе google/bert_uncased_L-6_H-512_A-8. Она преобразует предложения и абзацы на английском языке в плотные векторы размерности 512 для сравнения по косинусному сходству; архитектура состоит из BERT и mean pooling. Модель предназначена для семантического поиска и сопоставления текстов, поиска перефразирований, кластеризации и классификации. Модель принимает текстовые последовательности длиной до 512 токенов и выдаёт эмбеддинги. В метаданных указано 40,8 млн параметров и формат safetensors. Карточка указывает обучающий набор parquet из 3 810 976 примеров. Лицензия в предоставленных данных не указана.

Dolphin 2.9.1 Yi 1.5 9B — языковая модель для диалогов и генерации текста, дообученная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на базе 01-ai/Yi-1.5-9B. Модель с плотной архитектурой семейства Llama содержит 8,6 млрд параметров и распространяется в формате Safetensors с точностью 16 бит. Модель предназначена для ответов на инструкции, общения, задач по программированию и начальных агентных сценариев; заявлена поддержка вызова функций. Использует шаблон ChatML и обучалась на последовательностях длиной до 12 тысяч токенов. В README авторы описывают её как «uncensored» и рекомендуют добавить собственный слой выравнивания перед предоставлением сервиса. Лицензия Apache 2.0 разрешает коммерческое использование.

E5-base-v2 — англоязычная модель эмбеддингов текста, разработанная Liang Wang, Nan Yang и соавторами. Она обучена методом контрастивного предобучения со слабой супервизией и основана на архитектуре BERT: 12 слоёв, размерность эмбеддинга 768, около 136,7 млн параметров. Модель принимает текст и выдаёт векторные представления для сравнения предложений и поиска по смыслу. Модель подходит для семантического сходства, поиска документов и пассажей, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Для асимметричного поиска рекомендуется добавлять к запросам префикс «query: », а к документам — «passage: »; для сходства и других симметричных задач используется префикс «query: ». Контекст ограничен 512 токенами, длинные тексты обрезаются; модель предназначена только для английского языка. Лицензия — MIT.

E5-small-v2 — англоязычная модель текстовых эмбеддингов, представленная авторами Liang Wang, Nan Yang и соавторами. Она основана на архитектуре BERT и обучена с помощью слабоконтролируемого контрастивного предобучения. Модель содержит около 40 млн параметров, 12 слоёв и формирует векторы размерности 384; максимальная длина входа — 512 токенов. Модель предназначена для поиска текстов по смыслу, сопоставления предложений и оценки семантического сходства. Для асимметричного поиска следует добавлять к запросам префикс «query: », а к документам — «passage: »; для симметричного сходства, кластеризации и использования эмбеддингов как признаков рекомендуется префикс «query: ». Модель принимает английский текст и выдаёт векторные представления. Доступны веса в форматах PyTorch, safetensors, TensorFlow, ONNX и OpenVINO. Она работает только с английскими текстами, а входы длиннее 512 токенов обрезаются. Лицензия — MIT.