II.1Анализ требований и архитектура ПО

Карточка модели Hanan-Alnakhal/solar-rag-embedding-model на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

cross-encoder/stsb-roberta-large — англоязычная модель ранжирования текстовых пар, дообученная на наборе STS Benchmark с помощью класса Cross-Encoder библиотеки Sentence Transformers. Она принимает два предложения и выдаёт оценку их семантического сходства от 0 до 1. Модель основана на RoBERTa large с архитектурой классификации последовательностей и содержит 454,1 млн параметров. Её используют для оценки сходства предложений и ранжирования текстов по релевантности; максимальная длина контекста составляет 514 токенов. Доступны форматы PyTorch, Safetensors, ONNX, OpenVINO и Flax. Модель предназначена прежде всего для англоязычных текстов. Как перекрёстный кодировщик, она оценивает пару текстов совместно, поэтому для массового поиска по большим коллекциям может требовать больше вычислений, чем векторный поиск с отдельными эмбеддингами. Лицензия — Apache-2.0.

Swallow-MS-7b-v0.1 — языковая модель TokyoTech-LLM на основе Mistral-7B-v0.1, дообученная на продолжение предобучения с добавлением преимущественно японских данных. Это плотная авторегрессионная модель семейства Mistral с 7,2 млрд параметров и контекстом до 4096 токенов. Расширенный японский словарь токенизатора позволяет компактнее представлять японский текст и ускорять инференс. Модель предназначена для генерации текста на японском и английском языках и может применяться для вопросов и ответов, чтения и понимания текста, суммаризации, перевода, математических рассуждений и генерации кода. README приводит результаты оценки на японских и английских бенчмарках, включая задачи перевода между японским и английским. Разработчики отмечают, что модель находится на раннем этапе исследований и разработки и не настроена для надёжного следования человеческим намерениям или требованиям безопасности. Модель распространяется по лицензии Apache-2.0.

T5-11B — языковая модель семейства Text-To-Text Transfer Transformer, разработанная Colin Raffel, Noam Shazeer и коллегами. Она представляет задачи обработки естественного языка в формате преобразования текста в текст: модель получает текстовую инструкцию и входной текст, а затем генерирует текстовый ответ. В README указано 11 миллиардов параметров; метаданные каталога сообщают 385,2 млн параметров, поэтому размер модели в источниках расходится. Архитектура — плотная T5WithLMHeadModel, контекст — 512 токенов. Основная задача в метаданных — перевод. Модель также может служить основой для дообученных сценариев суммаризации, ответов на вопросы, классификации и анализа тональности. Указанные языки — английский, французский, румынский и немецкий; предобучение проводилось на корпусе C4 и смеси задач, включая Wiki-DPR и наборы для классификации, сходства предложений и вопросов-ответов. Для загрузки весов требуется значительный объём памяти: README сообщает, что только веса занимают более 40 ГБ, и рекомендует распределение модели между устройствами либо ZeRO-Offload. Лицензия — Apache 2.0.

Карточка модели aakrati-agrawal/text-embedding-allmini на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Карточка модели hilabs/tm_custom_embedding на Hugging Face совпадает с карточкой nomic-ai/nomic-embed-text-v1.5, поэтому описание составлено по ней. nomic-embed-text-v1.5 — текстовая модель эмбеддингов компании Nomic AI на архитектуре NomicBert, содержащая 136,7 млн параметров. Она преобразует тексты в векторы для семантического поиска, индексации документов для RAG, кластеризации, поиска дубликатов и подготовки признаков для классификации. Для выбора режима перед текстом требуется указать инструкционный префикс, например search_document или search_query. Модель использует Matryoshka Representation Learning: размерность вектора можно уменьшать, снижая потери качества; в карточке приведены результаты для размерностей 768 и 512. README сообщает о последовательностях до 8192 токенов, тогда как метаданные указывают базовый размер контекста 2048 токенов. Доступны форматы safetensors и ONNX, лицензия Apache-2.0. Для совместных мультимодальных эмбеддингов README указывает на отдельную модель nomic-embed-vision-v1.5; сама эта модель кодирует текст.

Карточка модели futuredatascience/to-classifier-v1 на Hugging Face совпадает с карточкой futuredatascience/from-classifier-v0, поэтому описание составлено по ней. futuredatascience/from-classifier-v0 — модель Sentence Transformers на архитектуре MPNet, разработанная Futuredatascience. Она преобразует предложения и абзацы в плотные векторы размерностью 768, предназначенные для вычисления семантического сходства, кластеризации и семантического поиска. Модель содержит 136,7 млн параметров, принимает текст и возвращает векторные представления; максимальная длина контекста — 514 токенов. Для обучения использовалась функция потерь CosineSimilarityLoss. Модель опубликована в формате PyTorch; метаданные не содержат сведений о лицензии или языковой специализации.

ToolBench/ToolBench_IR_bert_based_uncased — модель на базе BERT, распространяемая в формате PyTorch и представленная как sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства текстов и кластеризации. При обучении использовалась функция MultipleNegativesRankingLoss с косинусным сходством; модель подходит для поиска релевантных текстов по смыслу и группировки похожих фрагментов. Максимальная длина контекста — 512 токенов. README не указывает разработчика, поддерживаемые естественные языки или лицензию; оценки бенчмарка и подробности архитектуры обучения в карточке не приведены.

Карточка модели honore-250/Umucuzi-Coder на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для кода из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, а также для создания кодовых агентов; сохраняет способности к математике и общим задачам. Модель может применяться в диалоговых сценариях и интерфейсах вызова инструментов. Это плотная причинная трансформерная модель Qwen2 с 32 млрд параметров по метаданным (в README указано 32,5 млрд), доступная в формате safetensors и рассчитанная на работу через Transformers. README описывает RoPE, SwiGLU, RMSNorm и GQA. Метаданные указывают контекст 32 768 токенов; README сообщает о поддержке до 131 072 токенов с настройкой YaRN для длинных входов. Карточка относит модель к английскому языку; модель специализируется на программировании. Лицензия Apache-2.0 допускает широкое использование с соблюдением её условий. При обработке контекстов длиннее 32 768 токенов требуется настройка YaRN; статический YaRN в vLLM может снижать качество на коротких текстах. Заявления README о сравнительной производительности являются оценкой авторов.

USER2-base — русскоязычная модель для создания векторных представлений предложений, разработанная deepvk на основе энкодера RuModernBERT-base. Она содержит 149 млн параметров, поддерживает контекст до 8192 токенов и выдаёт эмбеддинги размерностью 768. Модель дообучена для поиска и семантических задач, включая извлечение информации, сравнение предложений, классификацию и кластеризацию. USER2-base поддерживает Matryoshka Representation Learning: размер эмбеддинга можно сократить до 32, 64, 128, 256, 384 или 512 измерений с минимальной потерей качества. Для разных задач рекомендуется добавлять префиксы, например search_query и search_document для поиска или clustering для кластеризации. Модель доступна в форматах Safetensors и ONNX и совместима с библиотекой Sentence Transformers. Модель ориентирована на русский язык. Карточка приводит результаты оценки на MTEB-rus и MLDR-rus, но не даёт полной таблицы всех сравнительных результатов. Репозиторий распространяется по лицензии Apache-2.0.

Vela-1.0-Encoder-307M — многоязычная модель эмбеддингов, разработанная llm-semantic-router для семантического сопоставления запросов, поиска контекста и организации памяти в маршрутизаторе. Она построена на архитектуре ModernBERT и содержит 306,9 млн параметров; модель принимает текст и формирует векторные представления для извлечения признаков и сравнения предложений. Заявлена длина контекста до 32 768 токенов. В карточке приведены результаты на отдельных задачах MTEB 2.21.0 и тесте длинного поиска документов SummScreenFD: на перечисленных наборах Vela превосходит исходную mmBERT Embedding, включая показатель nDCG@10 на SummScreenFD. Эти результаты относятся только к указанным задачам и не являются общей оценкой MTEB. Поддерживаются английский, арабский, испанский, японский и китайский языки. Доступны форматы ONNX и safetensors; библиотека — sentence-transformers. Лицензия Apache-2.0.

Vignesh-finetuned-bge2 — англоязычная модель Sentence Transformer, дообученная автором Vignesh с BAAI/bge-base-en-v1.5 на парных текстах из набора json. Она кодирует предложения и абзацы в плотные эмбеддинги размерности 768 и сравнивает их по косинусному сходству. Архитектура включает BERT, пулинг по CLS-токену и нормализацию; максимальная длина последовательности — 512 токенов. Модель подходит для семантического поиска, сопоставления запросов с фрагментами документов, поиска перефразировок, кластеризации, классификации текстов и оценки семантического сходства. В README приведены результаты оценки поиска при уменьшении размерности эмбеддингов до 64–512, однако состав и предметная область наборов оценки подробно не описаны. Модель ориентирована на английский язык и распространяется по лицензии Apache-2.0.

ronanki/xlmr_02-02-2022 — модель Sentence-Transformers на базе XLM-RoBERTa, разработчик которой в карточке указан как ronanki. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска семантически близких текстов, кластеризации и оценки сходства предложений. Модель содержит 305,2 млн параметров, принимает текст и формирует векторные представления; длина контекста — 514 токенов. Для обучения использовалась TripletLoss с евклидовой метрикой и отступом 5. Модель подходит для семантического поиска и группировки текстов, когда требуется сравнивать их по смыслу. В метаданных указаны XLM-RoBERTa и Sentence-Transformers; поддерживаемые естественные языки явно не перечислены. Модель опубликована в формате PyTorch. Лицензия в предоставленных сведениях не указана.

360Zhinao-7B-Base — базовая авторегрессионная языковая модель семейства 360Zhinao, разработанная командой 360 (Qihoo 360). Модель содержит 7,1 млрд параметров и обучена на корпусе объёмом 3,4 трлн токенов, преимущественно на китайском и английском языках, а также на коде. Это базовая, а не чат-версия; для диалогового применения в серии отдельно выпущены модели Chat. Модель предназначена для генерации текста и служит основой для задач понимания языка, работы со знаниями, математики, логических рассуждений и генерации кода. Она поддерживает контекст до 4096 токенов, построена на архитектуре ZhinaoForCausalLM и распространяется в формате safetensors для Transformers. README сообщает о сравнительной оценке базовой модели на наборах OpenCompass, включая C-Eval, MMLU, GSM8K и HumanEval. Лицензия — Apache-2.0. Как базовая языковая модель, она не настроена специально для следования инструкциям или ведения диалога; качество ответов зависит от промпта и сценария применения.

gte-tiny — компактная модель эмбеддингов предложений на базе архитектуры BERT, опубликованная avsolatorio. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, кластеризации и сравнения текстов. Модель дистиллирована из thenlper/gte-small и, согласно карточке, показывает сопоставимое, немного более низкое качество при примерно вдвое меньшем размере. Модель содержит 25,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Для получения векторов можно использовать Sentence Transformers либо Transformers с подходящей операцией pooling. Лицензия и перечень поддерживаемых естественных языков в предоставленных данных не описаны.

Frank Wong дообучил sentence-transformers на базе nomic-ai/modernbert-embed-base на датасете ssf-train-valid-combi-v1v2v3. Модель ModernBERT с 149 млн параметров кодирует предложения и абзацы в плотные векторы размерностью 768; средний pooling по токенам сопровождается нормализацией, а сходство оценивается косинусной мерой. Максимальная длина последовательности — 8192 токена. Модель предназначена для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и подготовки эмбеддингов для классификаторов. Карточка описывает англоязычную базовую модель, однако язык дообучающего датасета явно не установлен. Файлы доступны в формате safetensors; лицензия в предоставленных данных не указана.

Nhat1904/7_shot_STA_freezed_body_1e-5_batch_8 — модель Sentence-Transformers на архитектуре MPNet, разработчик которой в карточке не назван. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов и кластеризации. В метаданных указаны 136,7 млн параметров, контекст до 514 токенов и формат PyTorch. Модель обучалась с функцией потерь CosineSimilarityLoss; название репозитория указывает на эксперимент с few-shot настройкой, но точные данные обучения в карточке опущены. Для работы доступны Sentence-Transformers и Transformers с подходящей операцией pooling. Лицензия в предоставленных данных не указана.

lunz21/aa-abr-names-model — модель на базе MPNet, опубликованная пользователем lunz21 и оформленная для библиотеки Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения смысловой близости, семантического поиска и кластеризации. Модель содержит 136,7 млн параметров, работает с текстом и имеет контекст длиной до 514 токенов. В README указано обучение с функцией потерь CosineSimilarityLoss. Это позволяет применять модель для получения эмбеддингов и оценки сходства текстов. Репозиторий содержит веса в формате safetensors. Лицензия и конкретные языки в предоставленных данных не установлены.

futuredatascience/action-classifier-v2 — модель на основе MPNet, опубликованная Futuredatascience в формате PyTorch и доступная через Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения сходства и кластеризации. Модель содержит 136,7 млн параметров и принимает текстовые последовательности с контекстом до 514 токенов. Модель подходит для построения семантического поиска и группировки текстов по смыслу. В карточке указано обучение с CosineSimilarityLoss; также доступны применение через Sentence-Transformers или Transformers с соответствующей операцией pooling. Лицензия и целевой язык в предоставленных данных не указаны.

Карточка модели falloutxvats/Aero-Qwen2.5-Coder-32B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для кода из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, а также для создания кодовых агентов; сохраняет способности к математике и общим задачам. Модель может применяться в диалоговых сценариях и интерфейсах вызова инструментов. Это плотная причинная трансформерная модель Qwen2 с 32 млрд параметров по метаданным (в README указано 32,5 млрд), доступная в формате safetensors и рассчитанная на работу через Transformers. README описывает RoPE, SwiGLU, RMSNorm и GQA. Метаданные указывают контекст 32 768 токенов; README сообщает о поддержке до 131 072 токенов с настройкой YaRN для длинных входов. Карточка относит модель к английскому языку; модель специализируется на программировании. Лицензия Apache-2.0 допускает широкое использование с соблюдением её условий. При обработке контекстов длиннее 32 768 токенов требуется настройка YaRN; статический YaRN в vLLM может снижать качество на коротких текстах. Заявления README о сравнительной производительности являются оценкой авторов.

Trelis/all-MiniLM-L12-v2-ft-triplets-10Qs — дообученная модель Sentence Transformers на базе sentence-transformers/all-MiniLM-L12-v2. Она преобразует предложения и короткие абзацы в плотные эмбеддинги размерности 384; для сравнения в README указана косинусная мера сходства. Архитектура включает BERT-трансформер, усреднение токенных представлений и нормализацию. Модель содержит около 40 млн параметров и принимает последовательности длиной до 512 токенов по метаданным; в README указан предел 128 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, классификации и кластеризации. Её можно применять для получения векторных представлений предложений и коротких фрагментов текста. Базовая модель описана в метаданных как компактная англоязычная модель, поэтому основной язык применения — английский. Карточка указывает дообучение с TripletLoss, но не описывает подробно состав обучающих данных и качество на независимых тестах. Лицензия в предоставленных данных не указана.

Карточка модели choosex/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Карточка модели GRBogar/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Это поддерживаемая mainbrains копия all-MiniLM-L6-v2 — компактного текстового энкодера Sentence-Transformers на архитектуре BERT/MiniLM. Модель дообучена контрастивным методом на более чем миллиарде пар предложений на базе nreimers/MiniLM-L6-H384-uncased; в репозитории заявлено 25,9 млн параметров. Она преобразует предложения и короткие абзацы в плотные векторы размерности 384 для поиска по смыслу, сравнения предложений и кластеризации. Модель предназначена для построения эмбеддингов и конвейеров семантического поиска, в том числе для извлечения документов в RAG-системах. Поддерживает английский язык; контекст по метаданным составляет 512 токенов, а в README указано, что входы длиннее 256 WordPiece обрезаются. Доступны форматы PyTorch, TensorFlow, ONNX и OpenVINO; в README также заявлена оптимизация ONNX и задержка около 5 мс на CPU-запрос. Лицензия — Apache-2.0. Модель кодирует только текст и сама не генерирует ответы; качество и пригодность результатов следует оценивать на целевых данных, а длинные входы могут усекаться.

Карточка модели QubeBox/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Карточка модели sokeieqw/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Карточка модели Zhaoxingbing/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Abdul-I опубликовал модель sentence-transformers на базе BERT, которая преобразует предложения и абзацы в плотные векторы размерностью 384. Её можно использовать для семантического поиска, сравнения сходства текстов и кластеризации. Модель содержит 25,9 млн параметров и принимает последовательности длиной до 512 токенов. При обучении применялась функция потерь MultipleNegativesRankingLoss с косинусным сходством. В репозитории указаны веса в формате safetensors. Языковая специализация и лицензия в предоставленных данных не описаны.

qquarkq/all-MiniLM-L6-v2-ru-domain_adapt — дообученная модель Sentence Transformers на основе sentence-transformers/all-MiniLM-L6-v2, предназначенная для создания векторных представлений русских предложений и абзацев. Это плотный энкодер архитектуры BERT с 25,9 млн параметров: он преобразует текст в нормализованные векторы размерности 384 и сравнивает их с помощью косинусного сходства. Модель рассчитана на поиск и сопоставление текстов; в README приведены русскоязычные примеры обучающих данных из 20 000 триплетов. Модель принимает текст, поддерживает последовательности длиной до 512 токенов по метаданным; в README также указано ограничение 256 токенов. Её можно применять для семантического поиска, извлечения релевантных текстов и сравнения предложений. Лицензия в предоставленных данных не указана.

Gloomreach/all-MiniLM-L6-v2-ru-hnp-mnrl — русскоязычная модель эмбеддингов на базе sentence-transformers/all-MiniLM-L6-v2. Автор адаптировал её дообучением на 20 000 примерах парафраз из deepvk/ru-HNP в течение пяти эпох с функцией потерь MultipleNegativesRankingLoss. Модель преобразует текст в векторы размерности 384 и предназначена для сравнения семантической близости русскоязычных предложений, поиска похожих текстов и задач ранжирования по сходству. Это 25,9-миллионная модель семейства BERT с mean pooling и нормализацией эмбеддингов; контекст ограничен 512 токенами. В README указан небольшой прирост Recall@5 и Recall@10 после дообучения. Модель распространяется по лицензии Apache-2.0. Автор отмечает, что качество понимания русской семантики остаётся далёким от идеального; результаты могут зависеть от данных и сценария применения.