II.8Инженерия данных и аналитика

btbtyler09/Qwen3-Coder-Next-GPTQ-4bit — квантизированная версия Qwen3-Coder-Next, разработанного командой Qwen и дополнительно подготовленного пользователем btbtyler09. Это языковая модель для генерации кода, общего чата и сценариев с вызовом инструментов, предназначенная для запуска в средах инференса vLLM и SGLang. Модель использует архитектуру Qwen3NextForCausalLM с гибридом линейного и полного внимания, включая DeltaNet. Она построена по схеме Mixture-of-Experts: содержит около 80 млрд параметров, из которых примерно 3 млрд активируются для каждого токена; на каждом шаге выбираются 10 из 512 экспертов. Архитектура включает 48 слоёв, контекстное окно до 262 144 токенов и поддержку инструментального вызова. Экспертные модули квантизированы в INT4 методом GPTQ с размером группы 32, тогда как внимание, общие эксперты, эмбеддинги, нормализации и LM head сохранены в FP16. Размер модели составляет около 47 ГБ вместо примерно 160 ГБ у исходной BF16-версии. К преимуществам относятся существенное уменьшение размера и требований к памяти при сохранении качества: на тесте wikitext-2-raw-v1 ухудшение perplexity относительно исходной модели составило около 0,8%. Ограничения связаны с необходимостью совместимого программного обеспечения и значительных вычислительных ресурсов для работы крупной MoE-модели; README не указывает точные языки, на которых она обучалась, и не приводит более подробных сравнений для задач программирования. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

UFGCEMIGONA/Qwen3-Embedding-0.6B — текстовая модель Sentence Transformers, дообученная на Qwen/Qwen3-Embedding-0.6B. Она преобразует предложения и абзацы в плотные векторы размерностью 1024, нормализует их и предназначена для поиска по смыслу и извлечения релевантных текстов. Для сравнения векторов используется косинусное сходство; архитектура включает Qwen3Model и пулинг последнего токена. Модель принимает текст и поддерживает последовательности длиной до 32 768 токенов. В карточке приведена оценка на задаче ранжирования: NDCG@10 0,9211 на наборе qwen-reranking-eval. Данные обучения содержат пары текстов и оценки сходства; примеры включают португальский текст, но перечень поддерживаемых языков не заявлен. Лицензия в предоставленных данных не указана.

IoannisKat1/Qwen3-Embedding-0.6B-matryoshka1 — модель Sentence Transformers, дообученная разработчиком на базе Qwen/Qwen3-Embedding-0.6B. Она преобразует текстовые предложения и абзацы в нормализованные плотные векторы размерностью 1024 для семантического поиска и извлечения релевантных документов; сходство можно оценивать косинусной мерой. Архитектура включает трансформер Qwen3, pooling по последнему токену и нормализацию. Модель рассчитана на текст, имеет максимальную длину последовательности 32 768 токенов и ориентирована прежде всего на английский язык. Matryoshka-обучение позволяет сокращать размерность эмбеддингов; в карточке приведены результаты поиска для усечённых векторов размерностью от 64 до 768. Дообучение выполнено на 4 268 парах anchor-positive из датасета json. Модель распространяется по лицензии Apache-2.0.

Это преобразованный в формат MLX BF16 чекпойнт Qwen3-Embedding-0.6B, опубликованный TiGa-RCE на Hugging Face. Он предназначен для создания текстовых эмбеддингов и семантического поиска; рассчитан на запуск на Apple Silicon через MLX или oMLX. Модель содержит около 507,6 млн параметров и поддерживает контекст до 32 768 токенов. В локальном тесте извлечения информации чекпойнт верно ранжировал 24 из 24 пар запросов и документов, совпав по векторам с семейным эталоном BF16 при указанной схеме пулинга и нормализации. Это ограниченная инженерная проверка, а не результат MTEB и не гарантия качества на других данных. Репозиторий распространяется по лицензии Apache-2.0.

UFGCEMIGONA/Qwen3-Embedding-0.6B-v2 — текстовая Sentence Transformer-модель, дообученная на Qwen/Qwen3-Embedding-0.6B. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для поиска и сравнения текстов по смыслу; сходство оценивается косинусной мерой. Архитектура включает Qwen3, pooling по последнему токену и нормализацию эмбеддингов. Модель принимает текст, поддерживает последовательности длиной до 32 768 токенов и может применяться для семантического поиска и подготовки кандидатов к ранжированию. В README приведены метрики reranking на наборе qwen-reranking-eval: nDCG@10 — 0,7374, MRR@10 — 0,657, MAP — 0,6543. Язык лицензии и перечень поддерживаемых языков в предоставленных данных не указаны.

zecafonso/Qwen3-Embedding-4B-384 — текстовая модель Sentence Transformer, дообученная на базе Qwen/Qwen3-Embedding-4B. Она преобразует предложения и абзацы в плотные векторы размерностью 2560 для семантического поиска, извлечения релевантных документов и сравнения текстов. В архитектуре Qwen3 используются извлечение скрытых состояний, pooling по последнему токену и нормализация; сходство можно оценивать косинусной мерой. Модель принимает текст, максимальная длина последовательности в README указана как 384 токена, тогда как метаданные указывают базовый контекст 40960 токенов; для этой дообученной версии следует ориентироваться на ограничение README. Языковая поддержка явно не перечислена, но базовая модель описана в каталоге как мультиязычная. README приводит результаты оценки на двух наборах для информационного поиска, однако это ограниченные выборки и они не гарантируют качество на других данных. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

Это 8-битная MLX-квантизация модели эмбеддингов Qwen3-Embedding-4B, подготовленная majentik с помощью mlx-embeddings для Apple Silicon. Модель семейства Qwen3 построена на архитектуре decoder-only Qwen3ForCausalLM и использует pooling последнего токена, чтобы преобразовывать текст в плотные векторные представления. До квантизации модель содержит около 4 млрд параметров; размер файлов после квантизации — около 4 ГБ. Максимальная длина контекста по метаданным составляет 40 960 токенов. Модель предназначена для семантического поиска, сравнения текстов и других задач, где нужны текстовые эмбеддинги. В README заявлены высокие результаты в мультиязычных бенчмарках MMTEB. В метаданных указана поддержка английского и китайского языков, а также мультиязычный режим; конкретный набор остальных языков не перечислен. Для использования требуется библиотека mlx-embeddings и устройство Apple Silicon. Модель распространяется по лицензии Apache-2.0. Это квантизированная производная Qwen/Qwen3-Embedding-4B; характеристики базовой модели и её результаты не следует автоматически считать гарантированными для этой сборки.

LostGentoo/Qwen3-Embedding-8B-AWQ — квантованная версия модели Qwen3-Embedding-8B, разработанная LostGentoo на базе модели Qwen от Qwen. Это модель для построения векторных представлений текста и задач семантического сходства, поиска и retrieval-сценариев. Она поддерживает английский и китайский языки, использует архитектуру Qwen3ForCausalLM с преобразованием в embedding- или pooling-режим и рассчитана на контекст до 8192 токенов. Модель применяет 4-битное AWQ-квантование W4A16: 252 линейных слоя хранятся в формате INT4, а embed_tokens и RMSNorm — в BF16. Размер эмбеддинга составляет 4096, при этом базовая модель поддерживает Matryoshka Representation Learning с размерностями от 32 до 4096. В конфигурации sentence-transformers используются pooling по последнему токену и L2-нормализация. Размер модели на диске около 4,8 ГБ против примерно 15 ГБ у версии BF16, что снижает требования к памяти. По приведённым оценкам MTEB-lite, квантование сохраняет большую часть качества исходной модели: для STSBenchmark Spearman составляет 0,881 против 0,884 у BF16, а для SciFact nDCG@10 — 0,777 против 0,787; корреляция оценок AWQ и BF16 равна 0,996. Ограничения включают возможную небольшую потерю качества из-за квантования и необходимость корректной настройки pooling-режима при использовании через vLLM. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

AlexWortega/qwen_emb_6k — модель Sentence Transformer, дообученная на базе Qwen/Qwen2.5-0.5B-Instruct. Она преобразует предложения и абзацы в плотные векторы размерности 896, предназначенные для сравнения семантической близости с помощью косинусного сходства. В архитектуре используются Qwen2Model и усредняющий пулинг токенов; число параметров — 494 млн. Модель подходит для семантического поиска, ранжирования релевантных текстов, поиска перефразировок, кластеризации и классификации текста. В README указана максимальная длина последовательности 1024 токена; метаданные сообщают базовый контекст Qwen в 32768 токенов, поэтому для использования этой Sentence Transformer следует ориентироваться на ограничение 1024 токена. В README приведены результаты оценки на наборах NanoBEIR и отдельных задачах поиска, но они не гарантируют качество на других данных. Модель принимает текст и выдаёт векторные представления. Языки обучения или целевого применения явно не обозначены. Лицензия в предоставленных данных не указана.

Qwopus3.6-27B-v2-MTP — мультимодальная модель для работы с текстом и изображениями, разработанная Jackrong на основе Qwen3.6-27B. Модель дообучена на наборах данных Claude Opus TraceInversion и ориентирована на реконструированное пошаговое рассуждение, программирование, DevOps, математику, научные задачи, работу с инструментами и генерацию текста в заданном формате. Модель содержит около 27 миллиардов параметров и использует Multi-Token Prediction (MTP), предназначенный для ускорения генерации и speculative decoding, особенно в длинных рассуждениях, программном коде и математических запросах. Заявлена поддержка текстово-изобразительных сценариев; среди языков указаны английский, китайский, корейский, русский, японский и испанский. Точная длина контекста в README не указана. К сильным сторонам относятся акцент на структурированном рассуждении, кодировании, DevOps и математических выводах, а также потенциально более высокая скорость генерации благодаря MTP. Модель тестировалась на локальном наборе из 30 вопросов по логике, программированию, DevOps, математике и пограничным сценариям, однако широкие независимые бенчмарки и подробные числовые результаты не представлены. Для использования могут потребоваться совместимые реализации MTP и speculative decoding; формат GGUF ориентирован, в частности, на llama.cpp. Лицензия — Apache-2.0.

Qwythos-9B-v2 — модель генерации текста и рассуждений от Empero AI, дообученная на базе empero-ai/Qwythos-9B-Claude-Mythos-5-1M методом FTPO. Она предназначена для диалогов, многошаговых рассуждений, решения задач и генерации кода; разработчик сообщает, что в этой версии устранено зацикливание при генерации, восстановлена голова MTP и сохранены возможности предыдущей версии. Модель построена на гибридной архитектуре Qwen3.5-9B с чередованием линейного внимания Gated-DeltaNet и полного внимания. Контекст заявлен до 1 млн токенов с YaRN. Хотя базовый стек поддерживает мультимодальность, README описывает практическое использование как текстовое. Основной язык карточки — английский. Модель подходит для исследовательских и технических сценариев, включая программирование, кибербезопасность и анализ научных вопросов. По внутренним оценкам разработчика, знания и рассуждения в целом сохранены относительно предыдущей версии; это обновление направлено прежде всего на устойчивость генерации, а не на рост возможностей. Известное ограничение — результат HumanEval ниже, чем у исходной Qwen3.5-9B; показатели бенчмарков получены на внутреннем тестовом наборе. Модель намеренно не ограничивает ответы на чувствительные темы. Лицензия — Apache-2.0.

RexBERT-base-embed-pf-v0.2 — англоязычная модель Sentence Transformers, дообученная thebajajra на базе thebajajra/RexBERT-base на датасете nomic-embed-unsupervised-data. Она использует энкодер ModernBERT с усреднением токенов и преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения по косинусному сходству. В метаданных указано 149 млн параметров и контекст до 7 999 токенов; карточка модели задаёт максимальную длину последовательности 1 024 токена. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и получения признаков для классификации. Обучение на парах «запрос — документ» поддерживает сопоставление коротких запросов с более длинными текстами. Она принимает текст и выдаёт эмбеддинги; основной язык — английский. Лицензия в предоставленных данных не указана.

Карточка модели roskosmos19/Rhea-4B-fast-0409 на Hugging Face совпадает с карточкой roskosmos19/Orca-2-4B-hight, поэтому описание составлено по ней. Rhea-4B-Agentic — дообученная модель из линейки Rhea/Athenea, представленная rosкошмос19 как оптимизированный вариант для программирования и агентных сценариев. Она построена на архитектуре Qwen3ForCausalLM и содержит 3,7 млрд параметров. Модель генерирует текст, поддерживает диалог и интерфейс вызова инструментов; контекст — 32 768 токенов. Модель предназначена для генерации и анализа кода, рассуждений при решении технических задач и работы агента с инструментами. По заявлению авторов, она использует однопроходную генерацию с необязательным режимом рассуждений, что сокращает задержку и стоимость по сравнению с многошаговой схемой исходной линейки. В карточке упоминаются рекомендации по запуску в vLLM, SGLang и llama.cpp, но файлы модели представлены в формате safetensors. Модель выпущена по лицензии Apache 2.0. Карточка описывает её как оптимизированную для агентных и кодовых задач, однако не приводит результатов сравнительных оценок; для высокой скорости авторы рекомендуют использовать не более 16–24 тысяч токенов контекста.

Ring-mini-linear-2.0 — языковая модель компании inclusionAI для генерации текста и диалогов. Она построена на гибридной архитектуре, сочетающей линейное и стандартное внимание, и использует разреженную смесь экспертов (MoE). В репозитории указано 1,2 млрд параметров, а в карточке модели описана версия с 16,4 млрд параметров, из которых при генерации активируются 1,6 млрд; эти цифры расходятся, поэтому размер полной модели по доступным данным нельзя согласовать. Модель дообучена на основе inclusionAI/Ling-mini-base-2.0-20T на дополнительных 600 млрд токенов. Модель предназначена для генерации ответов в диалогах и решения сложных задач по математике, программированию и науке. Метаданные указывают поддержку интерфейса вызова инструментов. Для эффективной обработки длинного контекста заявлено окно до 512 тыс. токенов с расширением YaRN; метаданные указывают нативный контекст 131 072 токена. В карточке приведены англоязычные теги. Для запуска описана поддержка Transformers и SGLang, а также BF16 и FP8 в SGLang; инструкции по установке специальных зависимостей и сборок движков указывают на необходимость совместимой среды. Лицензия — MIT.

JakubJanusz/roberta-8k-ownRep — модель Sentence Transformers, дообученная на базе PKOBP/polish-roberta-8k. Она кодирует предложения и абзацы в плотные векторы размерностью 1024; архитектура состоит из RobertaModel и mean pooling, а сходство между векторами оценивается косинусной метрикой. Модель принимает текст и рассчитана на последовательности длиной до 8194 токенов. Модель предназначена для семантического сравнения текстов и поиска по смыслу. Её также можно применять для поиска перефразировок, кластеризации и классификации текста. Польская языковая направленность следует из базовой модели; карточка не приводит отдельной лицензии, поэтому условия использования по имеющимся данным определить нельзя.

YIlIl/roberta_base_pm_m3_voc_hf — модель Sentence Transformer на базе RoBERTa, представленная в библиотеке Sentence Transformers. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 768; сходство текстов оценивается косинусной мерой. Архитектура включает RoBERTa с усреднением токенных представлений и нормализацией; размер модели — 151,7 млн параметров, максимальная длина последовательности — 514 токенов. Модель подходит для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение — получение эмбеддингов для сравнения предложений. В README не названы разработчик, языки обучения или лицензия, поэтому их нельзя уточнить по доступным сведениям.

sobamchan/roberta-large-mrl-1024-768-512-256-128-64 — англоязычная Sentence Transformer модель, созданная дообучением FacebookAI/roberta-large на наборе all-nli. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для сравнения текстов по косинусному сходству, семантического поиска и других задач, где нужно сопоставлять смысл текстовых фрагментов. Модель использует архитектуру RoBERTa с усреднением токенных представлений при пулинге. Обучение с MatryoshkaLoss позволяет использовать усечённые представления размерностью 768, 512, 256, 128 или 64. Максимальная длина последовательности — 512 токенов; параметры модели составляют около 454,1 млн. Карточка сообщает оценку Spearman 0,8789 на sts-dev. Модель может применяться для поиска похожих предложений, поиска перефразирований, кластеризации текстов и подготовки признаков для классификации. Она рассчитана на английский язык, а качество на других языках не подтверждено. Лицензия в предоставленных данных не указана.

PrabalAryal/Sentence_Transformer_v0.0.1 — дообученная модель Sentence Transformers на базе sentence-transformers/paraphrase-multilingual-mpnet-base-v2. Она использует XLM-RoBERTa и преобразует предложения и абзацы в плотные векторы размерности 768; сходство между ними оценивается косинусной мерой. В README указана максимальная длина последовательности 64 токена, а метаданные каталога сообщают о контекстном окне 514 токенов. Модель предназначена для семантического сравнения текстов, поиска похожих фрагментов, поиска перефразировок, кластеризации и классификации текста по эмбеддингам. Обучение описано на 8 884 парах предложений с помощью MultipleNegativesRankingLoss; в примерах датасета есть тексты на нидерландском языке. Базовая модель многоязычная, но конкретный перечень поддерживаемых языков этой версии не приведён. Для использования указана библиотека Sentence Transformers. Лицензия в предоставленных данных не указана.

Synthia-S1-27b — диалоговая мультимодальная модель Tesslate AI, дообученная на базе Gemma 3 27B IT. Она предназначена для рассуждений, программирования, творческого письма и ролевых сценариев; принимает текст и изображения и формирует текстовые ответы. В карточке заявлен контекст до 128 тысяч токенов и максимальная длина ответа 8192 токена. Архитектура — плотный decoder-only Transformer с 27 млрд параметров; указаны bf16 и int8-квантизация, а в репозитории доступен формат safetensors. Модель обучали на веб-документах, примерах отладки и решения задач по программированию, а также на математических решениях. Автор приводит результаты ограниченных проверок GPQA Diamond и части MMLU Pro и отмечает, что оценки требуют более полного бенчмаркинга. Лицензия — Gemma. Модель может требовать подробных инструкций для узких задач и иногда галлюцинирует в малоизученных областях.

witty-works/test_false_positive_2 — модель на базе архитектуры MPNet, разработанная командой witty-works. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, сравнения предложений и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и возвращает эмбеддинги; заявленная длина контекста — 514 токенов. Для использования доступны веса PyTorch и интеграция с Sentence-Transformers или Transformers. Модель подходит для семантического поиска и группировки текстов по смыслу. Она обучалась с функцией потерь CosineSimilarityLoss. В карточке не указаны языковая специализация и условия лицензии, поэтому их нельзя определить по предоставленным данным.

SSHHIVANI разработала эту модель Sentence Transformers, дообучив англоязычный sentence-transformers/all-MiniLM-L6-v2 на 4 555 обучающих примерах. Это плотный энкодер на архитектуре BERT с усреднением токеновых представлений и нормализацией: он преобразует текст в векторы размерностью 384, а сходство между ними можно оценивать косинусной мерой. Максимальная длина последовательности по метаданным — 512 токенов; в README указано ограничение 256 токенов. Модель предназначена для семантического сравнения предложений и абзацев, поиска по смыслу, поиска перефразировок, кластеризации и классификации текстов. Обучение с MultipleNegativesRankingLoss ориентировано на сопоставление запросов с документами. Поддерживается текстовый ввод; основной язык — английский, унаследованный от базовой модели. Доступен формат safetensors. Лицензия в предоставленных данных не указана.

VeriLoop E2 — открытая модель с 27 млрд параметров, разработанная Tsinghua SIGS Robot Lab и Libo Wang на основе Qwen3.8-27B и дообученная для программирования, математики и физики. Это плотная модель семейства Qwen3.5 с поддержкой диалогов и интерфейса вызова инструментов; она принимает текст и, согласно характеристикам базовой модели и тегам, изображения. Нативное окно контекста составляет 262 144 токена. Для запуска доступны веса safetensors и библиотека Transformers; README также описывает совместимый с OpenAI способ обслуживания через vLLM. Модель предназначена для инженерных задач с кодом, математического и научного рассуждения, а также сценариев с инструментами и проверкой промежуточных результатов. Подход VeriLoop-Governed Recurrence предполагает, что модель предлагает варианты решения, а внешний Harness проверяет и принимает их; рабочая реализация производственного Harness в репозитории не опубликована. В README приведены результаты на кодовых, математических и научных бенчмарках, однако они относятся к конкретной конфигурации оценки и не гарантируют аналогичных результатов в другом окружении. Модель может выдавать ошибочный код, доказательства или научные рассуждения, поэтому результаты требуют проверки. Работа с длинным контекстом зависит от конфигурации сервера и доступной памяти. Лицензия — Apache 2.0.

Модель Heimat24/vhs_burghausen_danielheinz_e5_v2-qa_generation_user-5-5-0.8 — sentence-transformers-модель на базе XLM-RoBERTa с 305,2 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов, кластеризации и вычисления сходства. Модель обучалась с MultipleNegativesRankingLoss и косинусной функцией сходства; для работы подходит библиотека Sentence-Transformers. Контекст модели составляет 514 токенов. Лицензия в предоставленных данных не указана.

WaveCoder-DS-6.7B — языковая модель для задач программирования из семейства WaveCoder, разработанная авторами проекта WaveCoder. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров, предназначенная для выполнения инструкций по коду. Она обучена на синтетических данных, созданных с помощью генератора и дискриминатора на основе больших языковых моделей и сформированных из части CodeSearchNet. Данные охватывают генерацию кода, его краткое изложение, перевод между языками программирования и исправление ошибок. Модель подходит для генерации и объяснения кода, перевода и ремонта программ. В README приведены результаты на HumanEval и MBPP, а также оценки для исправления и объяснения кода на HumanEval; результаты зависят от сценария и не гарантируют качество для конкретного проекта. Контекст составляет 16 384 токена, загрузка и запуск предусмотрены через Transformers и PyTorch. Карточка указывает лицензию MIT. README также обращает внимание на условия OpenAI при использовании модели и наборов данных, созданных синтетически с помощью моделей OpenAI.

Whisper large-v3-turbo — мультиязычная модель распознавания речи OpenAI на архитектуре Transformer encoder-decoder. Это дообученная и ускоренная версия Whisper large-v3: число слоёв декодера сокращено с 32 до 4, что ускоряет вывод с небольшим снижением качества. Модель содержит 905,2 млн параметров и работает с аудио; она поддерживается библиотекой Transformers. Модель предназначена для преобразования речи в текст на языке оригинала и перевода речи между языками, включая перевод на английский. Она обучалась на более чем 5 млн часов размеченных данных и демонстрирует обобщение на новые наборы данных и предметные области. Для длинных записей требуется обработка последовательными окнами или разбиение аудио на сегменты; воспринимаемое окно составляет 30 секунд. Модель может ошибаться, добавлять слова, которых нет в аудио, и повторять фрагменты. Точность различается между языками, акцентами и диалектами и может быть ниже для языков с ограниченными обучающими данными. Лицензия — MIT.

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_2640 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_2840 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_360 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_720 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Watwat100/256data — модель на базе MPNet, опубликованная в формате PyTorch и упакованная для Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров и поддерживает контекст длиной до 514 токенов. При обучении использовалась функция потерь CosineSimilarityLoss. Веса можно применять для построения эмбеддингов и оценки смысловой близости текстов в сценариях поиска и анализа коллекций документов. Лицензия в доступных данных не указана.