II.8Инженерия данных и аналитика

Augmented SBERT STSb — модель на архитектуре BERT, опубликованная James Calam и обученная для получения векторных представлений предложений и абзацев. Она преобразует текст в плотные эмбеддинги размерности 768 и предназначена для сравнения семантической близости, семантического поиска и кластеризации текстов. Модель применима, например, в поиске по коллекции документов и группировке похожих высказываний. Модель содержит 136,7 млн параметров, принимает контекст длиной до 512 токенов и доступна в формате PyTorch. Она была создана как демонстрационная модель для курса по семантическому поиску, в главе о дополнении внутридоменных данных с помощью BERT. Для преобразования выходов Transformers в эмбеддинг при использовании без Sentence-Transformers требуется подходящая операция pooling. Лицензия в предоставленных данных не указана.

Карточка модели OrcaDB/bge-base на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Карточка модели pashaa/bge-base-en-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Карточка модели tomaarsen/bge-base-en-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Англоязычная модель Sentence Transformer, дообученная автором aritrasen на BAAI/bge-base-en-v1.5. Она кодирует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу и сравнения текстов. В архитектуре используются BERT, пулинг по CLS-токену и нормализация; сходство можно оценивать косинусной мерой. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, подбора похожих предложений, поиска перефразировок, кластеризации и извлечения признаков для классификации текста. В README указано обучение на 9 598 примерах с MultipleNegativesRankingLoss. Модель распространяется под лицензией базовой модели; сведения о лицензии в предоставленных данных отсутствуют.

zhou209/bge-ft — модель Sentence Transformers на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она преобразует предложения и абзацы в плотные нормализованные векторы размерностью 1024; сходство текстов измеряется косинусным сходством. Максимальная длина последовательности — 8192 токена. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текста на основе эмбеддингов. В карточке не раскрыты обучающие данные и языковой охват, поэтому нельзя точнее оценить качество для отдельных языков и предметных областей. Репозиторий содержит веса в формате safetensors; сведения о лицензии отсутствуют.

Nishit28/bge-large-finetuned-400 — модель эмбеддингов предложений на базе архитектуры BERT, опубликованная пользователем Nishit28. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска и кластеризации. Модель обучалась с MultipleNegativesRankingLoss и косинусной мерой сходства; репозиторий содержит веса в формате safetensors и использует библиотеку sentence-transformers. Модель подходит для построения семантического поиска по текстовым коллекциям и группировки близких по смыслу фрагментов. Она принимает текст и выдаёт векторы; по метаданным, размер модели составляет 433,9 млн параметров, а контекст ограничен 512 токенами. Данных о специализированной предметной области и поддерживаемых естественных языках нет. Условия лицензии в предоставленных сведениях не описаны.

Карточка модели charlesteve26/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели FERHANALTUN/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели shen919/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели StephenViven/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели danyl-ke444a/bge-m3-custom на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели megavn/bge-m3-embeddings на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели daitavan/bge-m3-finetune на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

BAAI/bge-small-en — компактная англоязычная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная командой FlagEmbedding. Она преобразует текст в векторные представления для семантического поиска, извлечения релевантных документов и сравнения текстов по смыслу. В retrieval-сценариях можно добавлять инструкцию к короткому запросу; для документов и фрагментов текста инструкция не требуется. Модель основана на архитектуре BERT, содержит около 40 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт эмбеддинги. Подходит для компактных систем поиска и retrieval-augmented generation, а также может использоваться с FlagEmbedding, Sentence-Transformers и LangChain. В README отмечено, что более новая версия bge-small-en-v1.5 имеет более разумное распределение оценок сходства и рекомендуется вместо этой версии. Модель распространяется по лицензии MIT. Оценки сходства для исходной версии часто лежат в диапазоне примерно 0,6–1 даже для несходных предложений, поэтому абсолютный порог нельзя переносить между задачами: его следует подбирать на своих данных, ориентируясь также на относительный порядок результатов.

BOOM_4B_v1 — модель текстовых эмбеддингов, разработанная командой ICT-TIME-and-Querit на основе Qwen3-4B. Она предназначена для получения векторных представлений текста в задачах поиска, сравнения смысловой близости, классификации, кластеризации и ранжирования. Модель объединяет несколько эмбеддинг-моделей, обученных на выборках данных разного состава, методом Multi-SLERP; для представления используется последний токен. В репозитории указаны 3,7 млрд параметров, контекст до 40 960 токенов и формат safetensors. Модель обучена на общих текстовых данных: в карточке перечислены наборы для поиска информации, ранжирования, классификации, кластеризации и семантического сходства. Среди практических сценариев — семантический поиск по документам, поиск ответов на вопросы и оценка близости текстов. README сообщает об обучении на английских и общих данных, но не подтверждает отдельную языковую специализацию. Карточка указывает лицензию Apache-2.0, допускающую использование и распространение при соблюдении её условий.

Это модель Sentence Transformers на базе yahyaabd/bps-custom-tokenizer-paraphrase-multilingual-MiniLM-L12-v2, дообученная разработчиком yahyaabd на наборе statictable-triplets-all. Архитектура основана на BERT и содержит около 124,8 млн параметров. Модель кодирует предложения и абзацы в плотные векторы размерностью 384; максимальная длина входа — 512 токенов. Для сравнения векторов предусмотрена косинусная близость. Модель предназначена для семантического поиска и сопоставления текстов: поиска похожих фрагментов, подбора перефразировок, кластеризации и использования в качестве признаков для классификации текста. Обучающие примеры — запросы и связанные с ними положительные и отрицательные тексты; в README приведены примеры на индонезийском языке. Доступна в формате safetensors, библиотека — sentence-transformers. Условия лицензии в предоставленных данных не указаны.

michaelfeil/ct2fast-e5-small-v2 — компактная англоязычная модель текстовых эмбеддингов E5-small-v2, подготовленная Михаэлем Файлем для ускоренного инференса через CTranslate2. Это BERT-модель с 12 слоями, размерностью эмбеддинга 384 и примерно 40 млн параметров; заявлены варианты инференса int8 и float16. Она преобразует тексты в векторы для семантического поиска, извлечения релевантных фрагментов и сравнения предложений. Для запросов и документов следует использовать префиксы «query: » и «passage: » по назначению; без них качество может снижаться. В задачах сравнения и поиска важен относительный порядок оценок сходства, а не их абсолютные значения. Модель рассчитана только на английский язык, а вход ограничен контекстом 512 токенов: более длинные тексты будут усечены. Она может ускорить инференс и снизить расход памяти на CPU или GPU при использовании CTranslate2. Лицензия — MIT.

bobox/DeBERTa-small-ST-v1-test-step2 — Sentence Transformers на базе DeBERTa-v2, дообученная авторами на наборах пар и триплетов предложений, включая данные для поиска, вопросов и ответов, проверки фактов и выявления отрицания. Модель кодирует предложения и абзацы в плотные векторы размерности 768; для сравнения используется косинусное сходство. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, оценки сходства и перефразирования, кластеризации и извлечения признаков текста. README приводит результаты оценки на STS и VitaminC, однако качество зависит от задачи и набора данных. Основной язык — английский. Данные не сообщают лицензию, поэтому условия использования по ним определить нельзя.

GaelicThunder/DeepSeek-V4-Flash-Vision-Exp-ablit-EXL3-Kalibrated — квантизированная версия DeepSeek-V4-Flash-Vision-Exp от DeepSeek, подготовленная GaelicThunder на основе MixedK-пака vcruz305 и abliterated-варианта drowzeys. Модель предназначена для мультимодальных задач «текст плюс изображение», включая анализ изображений и генерацию текста, а также для обычных сценариев работы с текстом, математикой и кодом. Это MoE-модель с 256 маршрутизируемыми экспертами в каждом слое, представленная в формате EXL3 с mixed-precision-квантизацией: экспертные веса распределены между 2- и 3-битным представлением, при этом 22 слоя дополнительно переквантизированы в калиброванный 3-битный формат. Остальные тензоры используют BF16 или FP8 в зависимости от компонента. Пакет занимает около 106 GB и рассчитан на запуск на одной NVIDIA DGX Spark с GB10 и 128 GB памяти. Поддерживаются контекст до 245 760 токенов, speculative decoding, CUDA graphs и обработка от одного до трёх изображений на запрос. Языки явно не указаны. По приведённым измерениям модель сохраняет около 90% вероятности токенов оригинальной модели в среднем, с особенно сильными результатами на математике; заявлены также показатели для прозы и кода. Ограничения включают высокие требования к памяти и специализированному стеку запуска, длительную первичную компиляцию ядер и известную ошибку декодирования, из-за которой иногда появляется токен «)Skip»; в рекомендуемом сценарии она подавляется прокси. Модель распространяется по лицензии MIT.

ahessamb разработал модель Sentence Transformers на архитектуре RoBERTa для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768 и подходит для семантического поиска, кластеризации и сравнения смысловой близости текстов. Модель содержит 95,2 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста составляет 514 токенов. При обучении использовалась функция потерь TripletLoss с евклидовой метрикой расстояния и отступом 5. В репозитории веса представлены в формате safetensors, библиотека для работы — sentence-transformers. Карточка не сообщает, на каких языках обучалась модель, поэтому языковую специализацию определить нельзя. Лицензия в предоставленных данных не указана.

Карточка модели vectoriseai/e5-base на Hugging Face совпадает с карточкой intfloat/e5-base, поэтому описание составлено по ней. E5-base — англоязычная модель текстовых эмбеддингов, разработанная Liang Wang, Nan Yang и соавторами. Это плотная модель на архитектуре BERT с 12 слоями, размерностью эмбеддинга 768 и 136,7 млн параметров; она принимает текст и выдаёт векторные представления. Модель обучена методом контрастивного предобучения со слабым контролем и предназначена для сравнения смысловой близости текстов и поиска по текстовым коллекциям. E5-base подходит для семантического поиска, извлечения релевантных фрагментов для систем вопросов и ответов, поиска перефразировок, кластеризации и использования эмбеддингов как признаков для классификации. Для корректной работы следует добавлять префиксы «query: » и «passage: » в соответствии с типом задачи. В репозитории указаны веса PyTorch и safetensors; длина контекста — до 512 токенов. Модель работает только с английским текстом, а более длинные входы обрезаются до 512 токенов. Авторы рекомендуют перейти на e5-base-v2, который, по их сообщению, показывает лучшие результаты при том же способе использования. Лицензия — MIT.

E5-base-v2 — англоязычная модель эмбеддингов текста, разработанная Liang Wang, Nan Yang и соавторами. Она обучена методом контрастивного предобучения со слабой супервизией и основана на архитектуре BERT: 12 слоёв, размерность эмбеддинга 768, около 136,7 млн параметров. Модель принимает текст и выдаёт векторные представления для сравнения предложений и поиска по смыслу. Модель подходит для семантического сходства, поиска документов и пассажей, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Для асимметричного поиска рекомендуется добавлять к запросам префикс «query: », а к документам — «passage: »; для сходства и других симметричных задач используется префикс «query: ». Контекст ограничен 512 токенами, длинные тексты обрезаются; модель предназначена только для английского языка. Лицензия — MIT.

Карточка модели vectoriseai/e5-base-v2 на Hugging Face совпадает с карточкой intfloat/e5-base-v2, поэтому описание составлено по ней. E5-base-v2 — англоязычная модель эмбеддингов текста, разработанная Liang Wang, Nan Yang и соавторами. Она обучена методом контрастивного предобучения со слабой супервизией и основана на архитектуре BERT: 12 слоёв, размерность эмбеддинга 768, около 136,7 млн параметров. Модель принимает текст и выдаёт векторные представления для сравнения предложений и поиска по смыслу. Модель подходит для семантического сходства, поиска документов и пассажей, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Для асимметричного поиска рекомендуется добавлять к запросам префикс «query: », а к документам — «passage: »; для сходства и других симметричных задач используется префикс «query: ». Контекст ограничен 512 токенами, длинные тексты обрезаются; модель предназначена только для английского языка. Лицензия — MIT.

d0rj/e5-large-en-ru — компактная версия модели intfloat/multilingual-e5-large, созданная за счёт сокращения словаря до токенов русского и английского языков. Модель основана на XLM-RoBERTa и формирует плотные текстовые представления размерностью 1024; в метаданных указаны 464,4 млн параметров и контекст до 514 токенов. Модель предназначена для поиска по смыслу и оценки сходства предложений, в том числе для извлечения релевантных документов по запросу. Для поиска README рекомендует сравнивать эмбеддинги скалярным произведением. На бенчмарке SberQUAD разработчик сообщает о результатах, сопоставимых с исходной multilingual-e5-large. Она принимает текст и выдаёт векторные представления токенов. Указаны русский и английский языки. Сокращённый словарь уменьшает размер модели относительно исходной версии, но исключает поддержку токенов других языков. Лицензия — MIT.

jeonseonjin/embedding_BAAI-bge-m3 — дообученная модель Sentence Transformers на базе BAAI/bge-m3, разработанная автором репозитория jeonseonjin. Она кодирует предложения и абзацы в плотные векторы размерностью 1024 для вычисления семантического сходства, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Архитектура основана на XLM-RoBERTa с усреднением токенных представлений; длина входной последовательности достигает 8192 токенов, сходство рассчитывается по косинусной мере. Обучение выполнялось на 10 501 парах предложений с оценками сходства и функцией потерь CosineSimilarityLoss. В примерах датасета представлены корейские предложения; метаданные также указывают базовую многоязычную модель BGE-M3, однако конкретный перечень поддерживаемых языков для этого дообученного чекпойнта не приведён. Результаты оценки включают корреляцию Спирмена 0,9216 на указанном наборе оценки. Модель принимает текст и выдаёт векторные представления; для использования требуется библиотека Sentence Transformers. Лицензия в предоставленных данных не указана.

Англоязычная модель Sentence Transformer, созданная DannyAI дообучением BAAI/bge-large-en-v1.5 на датасете all-nli. Она кодирует предложения и абзацы в плотные векторы размерностью 1024, нормализованные для сравнения по косинусному сходству. Архитектура включает BERT-трансформер, слой pooling по CLS-токену и нормализацию; максимальная длина последовательности — 512 токенов. Модель предназначена для оценки семантической близости текстов, семантического поиска, поиска перефразирований, кластеризации и классификации текста по эмбеддингам. В README приведены значения точности cosine_accuracy около 0,95 на проверках all-nli. Лицензия — MIT. Результаты ориентированы на английский язык и могут уступать на других языках или за пределами задач, похожих на обучающие данные.

spacemanidol/esci-es-mpnet-crossencoder — модель на базе MPNet, представленная как модель Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 и подходит для семантического поиска, кластеризации и сравнения текстов. Обучение описано с использованием CosineSimilarityLoss; в README также приведён способ работы через Sentence-Transformers или Transformers с подходящим pooling. Модель содержит 136,7 млн параметров, принимает текст и выдаёт эмбеддинги. Максимальная длина контекста — 514 токенов. В метаданных основная задача обозначена как sentence-similarity, а каталог также относит модель к feature-extraction. Сведения о поддерживаемых естественных языках и лицензии в предоставленных данных отсутствуют.

EuroBERT-610m — многоязычная плотная encoder-модель семейства EuroBERT от разработчиков, представивших это семейство. Веса содержат около 607,8 млн параметров; модель предназначена для языковых задач, включая поиск и ранжирование текстов, классификацию и регрессию. В Hugging Face она опубликована как masked language model для заполнения пропусков в тексте. Модель поддерживает 15 языков, а также математические задачи и код. Контекст — до 8 192 токенов. По данным карточки, EuroBERT-610m сопоставима с XLM-RoBERTa-XL на большинстве оценённых многоязычных задач и превосходит её в задачах с кодом и математикой; качество зависит от задачи и прикладной настройки. Доступна для Transformers в форматах PyTorch и Safetensors. Лицензия — Apache-2.0.

F2LLM-4B — текстовая модель эмбеддингов из семейства F2LLM, разработанного CodeFuse AI и описанного в техническом отчёте F2LLM. Модель основана на Qwen/Qwen3-4B и дообучена на 6 млн пар «запрос—документ» из открытых наборов данных; обучение проходило в один этап с однородными макропакетами и без синтетических данных. В репозитории используются архитектура Qwen3, библиотека Sentence Transformers и формат safetensors; модель содержит около 3,7 млрд параметров и поддерживает контекст до 40 960 токенов. Модель предназначена для преобразования текста в векторы и задач поиска и сопоставления: семантического поиска, оценки сходства предложений, классификации и кластеризации. Обучение охватывает разнообразные задачи извлечения информации, классификации и кластеризации; карточка указывает английский язык. Лицензия — Apache-2.0. Карточка не приводит конкретных результатов оценки, поэтому качество на отдельных наборах данных по ней определить нельзя.