I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельQwen3-VL-8B-Instruct-Unredacted-MAX-FP8 — мультимодальная vision-language модель, опубликованная prithivMLmods и основанная на Qwen3-VL-8B-Instruct-Unredacted-MAX. Это FP8-сжатая версия с архитектурой на 8 млрд параметров, предназначенная для анализа изображений, генерации подробных подписей и рассуждений по сложному визуальному содержимому. В карточке указана поддержка английского языка, а основная модальность описана как image-text-to-text. Модель рассчитана на расширенное визуальное рассуждение, включая анализ художественных, технических, медицинских, исторических, абстрактных и исследовательских материалов. Возможные сценарии применения включают генерацию описаний для датасетов и метаданных, задачи доступности, архивирование визуальных данных, red-teaming, исследование механизмов отказа и творческое повествование. Она поддерживает динамическое разрешение и различные соотношения сторон изображений. Ключевая особенность — квантование весов и активаций в формате FP8 W8A8 с использованием BF16 и F8_E4M3, что снижает потребление VRAM и может повысить производительность инференса при сохранении возможностей исходной модели. Вариант оптимизирован для Hopper и совместимых GPU, однако для обработки изображений высокого разрешения и длинной генерации всё ещё требуется достаточно VRAM и совместимое аппаратное обеспечение. Abliterated fine-tuning уменьшает встроенные отказы, поэтому модель может генерировать чувствительное или спорное содержимое; результаты требуют ответственного и законного использования. Лицензия — Apache-2.0.
RamManavalan/Qwen3-VL-Embedding-8B-FP8 — мультимодальная embedding-модель, представляющая собой FP8-квантизированную версию Qwen/Qwen3-VL-Embedding-8B. В README указано, что модель подготовлена для эффективного инференса с vLLM; разработчик исходной модели — Qwen, а данный вариант опубликован пользователем RamManavalan. Модель предназначена для получения векторных представлений текста, изображений, скриншотов, видео и мультимодальных комбинаций, поэтому может применяться в семантическом поиске, сопоставлении контента и мультимодальном retrieval. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Размерность embedding составляет 4096, максимальная длина контекста — 32K токенов. Используется FP8_DYNAMIC-квантизация W8A8: веса слоёв декодера представлены в FP8 E4M3 с поканальным масштабированием, активации квантизуются динамически по токенам во время выполнения. Vision Encoder и выходные embedding сохраняются в BF16. Размер модели сокращён примерно с 16 до 9 ГБ, что даёт около 45% экономии памяти; калибровочные данные не требуются. Для инференса рекомендуется vLLM версии 0.14.0 или новее с pooling runner; требуется GPU NVIDIA с поддержкой FP8 и compute capability не ниже 8.9, а минимальный объём VRAM заявлен около 10 ГБ. Сильными сторонами являются поддержка нескольких модальностей, высокая эффективность инференса и сохранение большей части качества исходной модели; для FP8 заявлено обычно более 95% исходной точности, однако отдельные результаты приведены для базовой модели, а не как независимая оценка этой квантизированной версии. Ограничения включают требования к совместимому FP8-оборудованию и зависимость от vLLM или специальной конфигурации Transformers. Модель распространяется по лицензии Apache-2.0.
Qwopus3.8-27B-Flash-NVFP4 — это конверсия базовой модели Jackrong/Qwopus3.8-27B-Flash в формате NVIDIA ModelOpt NVFP4, предназначенная для запуска на GPU NVIDIA Blackwell. Репозиторий содержит логическую модель объёмом 27,78 млрд параметров и использует формат safetensors. В README также указано, что исходную модель создал Kyle Hessling, а конверсия выполнена сообществом. Модель предназначена для диалоговых, мультимодальных и агентных сценариев: обработки текста и изображений, следования инструкциям, генерации структурированных ответов, вызова инструментов и работы в coding-agent циклах. Сохранены визуальный энкодер и проектор, а также встроенная MTP/NextN-голова для speculative decoding. Трансформерные веса используют NVFP4, тогда как lm_head, визуальная часть и MTP-голова сохранены в BF16 для повышения качества. Рекомендуемый сценарий обслуживания — SGLang с FlashInfer, поддержкой ModelOpt FP4 и совместимой моделью-черновиком Qwen3.8 27B DFlash2 NVFP4. В тестовом профиле заявлен контекст до 262 144 токенов, однако для этого требуются Blackwell GPU с достаточным объёмом памяти под основную и черновую модели, KV-кэш и накладные расходы. README не указывает поддерживаемые языки и результаты бенчмарков; для мультимодальной работы необходимо использовать поставляемый chat template, а для вызова функций — парсер инструментов Qwen. Лицензия указана как Apache-2.0, при этом пользователю рекомендуется соблюдать лицензионные условия базовой модели. Ограничениями являются зависимость от совместимого оборудования и программного стека NVIDIA Blackwell, необходимость специальной DFlash2-модели для рекомендованной спекулятивной генерации и возможное снижение доступного контекста на менее мощных GPU.
DMetaSoul разработала DMetaSoul/sbert-chinese-general-v1 — модель Sentence-Transformers на базе BERT, дообученную на наборах данных для семантического сходства и перефразирования, включая NLI, PAWS-X, PKU-Paraphrase-Bank и STS. Она предназначена для общего семантического сопоставления китайских текстов: извлечения векторов предложений, кластеризации текстов и семантического поиска. Модель содержит 129,5 млн параметров, принимает текст и выдаёт эмбеддинги; максимальная длина контекста — 512 токенов. Лицензия Apache-2.0. В карточке приведены результаты на нескольких наборах оценки: модель особенно хорошо показала себя на Chinese-STS, но на других задачах результаты неоднородны. Авторы отмечают риск переобучения и предупреждают, что модель не оптимальна для всех задач.
jordyvl/scibert_scivocab_uncased_sentence_transformer — модель на базе BERT, упакованная для библиотеки Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации. В метаданных указаны 137,1 млн параметров и контекст до 512 токенов; модель доступна в форматах PyTorch и safetensors. Модель предназначена для получения эмбеддингов текстов, сравнения семантической близости, поиска и группировки текстов. Название указывает на использование SciBERT с научным словарём, однако карточка не сообщает отдельные результаты оценки или поддерживаемые языки. Условия лицензии в предоставленных данных не указаны.
HasinMDG/SetFit_Labse_Sentiment_Towards_Topic — модель на основе BERT, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для семантического поиска, сравнения сходства текстов и кластеризации.
aammari/setfit-zero-shot-classification-pbsp-p3-freq — модель Sentence Transformers на архитектуре MPNet, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель работает с текстом и выдаёт эмбеддинги. Обучение использовало CosineSimilarityLoss. Модель подходит для поиска смыслово близких фрагментов и группировки текстов по содержанию. В README не приведены результаты бенчмарков, поэтому качество для конкретного языка или предметной области по имеющимся данным оценить нельзя. Репозиторий содержит веса PyTorch; сведения о лицензии отсутствуют в предоставленных источниках.
LazarusNLP/simcse-indoroberta-base — модель эмбеддингов предложений на архитектуре RoBERTa, опубликованная LazarusNLP. Она преобразует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения семантической близости, поиска и кластеризации. Модель обучалась с MultipleNegativesRankingLoss и косинусной функцией сходства; в качестве датасета в метаданных указан корпус Wikipedia на индонезийском языке. Модель принимает текст и выдаёт векторные представления. Её можно использовать для семантического поиска по индонезийским текстам, группировки похожих предложений и оценки сходства пар текстов. Размер модели — 151,8 млн параметров, максимальный контекст — 514 токенов. Доступны веса PyTorch и Safetensors; лицензия в предоставленных данных не указана.
SmolLM3-3B German Embeddings — экспериментальная модель текстовых эмбеддингов от Mayflower GmbH на основе SmolLM3-3B. Авторы преобразовали decoder-only Llama-модель в текстовый энкодер с двунаправленным вниманием и дообучили её методом LLM2Vec: сначала на задаче предсказания маскированных токенов, затем контрастивным обучением на парах немецких текстов. Модель содержит 3,1 млрд параметров и формирует векторы размерности 2048. Модель предназначена прежде всего для немецкоязычного семантического поиска и сопоставления текстов; эмбеддинги также можно использовать для кластеризации, классификации и выявления дубликатов. Она принимает текст и выдаёт плотные векторы. В README указана максимальная длина последовательности 512 токенов; контекст архитектуры в метаданных составляет 65 536 токенов, но практический лимит модели для эмбеддингов указан как 512. Поддержка других языков возможна, однако не оценивалась. Модель выпущена под лицензией Apache-2.0.
BlueAvenir/sti_cyber_security_model_updated — модель на базе XLM-RoBERTa, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения семантической близости, семантического поиска и кластеризации текстов. Модель содержит 305,2 млн параметров и рассчитана на контекст до 514 токенов. Модель можно применять для поиска похожих текстов, группировки документов по смыслу и построения векторного представления текстовых данных. В README указано обучение с CosineSimilarityLoss. Репозиторий содержит веса PyTorch; лицензия и специализация на кибербезопасности в предоставленных данных не подтверждены.
StructuredThinker-v0.2-MoreStructure — объединённая автором Ahdoot языковая модель для генерации текста и диалогового взаимодействия. Она создана методом DARE TIES с помощью mergekit на основе Qwen/Qwen2.5-3B-Instruct с включением prithivMLmods/QwQ-LCoT-3B-Instruct и PowerInfer/SmallThinker-3B-Preview. Модель имеет плотную архитектуру Qwen2 с 3,1 млрд параметров, рассчитана на контекст до 32 768 токенов и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для диалогов, следования инструкциям и генерации структурированных ответов; интерфейс также предусматривает вызов инструментов. Карточка не сообщает отдельные результаты оценки качества или список поддерживаемых языков. Лицензия в предоставленных данных не указана.
Yanun/Swift-Qwen3.8-27b-oQ4e-mtp — мультимодальная модель класса 27B, разработанная на основе Swift-Qwen3.8-27b от UkisAI и преобразованная в формат MLX. Она предназначена для обработки текстовых и визуальных входных данных с генерацией текста, включая сценарии, где требуется анализ изображений совместно с текстовыми инструкциями. Модель имеет плотную текстовую архитектуру с 64 слоями, чередующуюся линейную и полную attention: 48 слоёв используют linear attention, 16 — full attention. Размер скрытого состояния составляет 5120, размер feed-forward слоя — 17408, словарь содержит 248 320 токенов, а заявленный предел контекста — 262 144 токена, хотя фактическая длина зависит от настроек среды выполнения и доступной памяти. Vision encoder включает 27 слоёв, скрытое состояние размером 1152, 16 attention heads и обрабатывает изображения через патчи 16×16. В составе также есть один multi-token prediction (MTP) слой. Чекпойнт использует смешанную квантизацию oQ4e: базовые веса квантизированы до 4 бит, для 187 модулей заданы переопределения на 5 бит, а отдельные компоненты MTP сохранены в BF16. Это уменьшает требования к хранению и вычислениям по сравнению с полноразмерной моделью, но итоговая производительность и доступная длина контекста зависят от MLX-совместимого runtime и объёма памяти. Поддерживаемые языки и специализированные сильные стороны в README не указаны. Модель распространяется на условиях Swift Open License v1.0; конвертация не изменяет условия лицензии исходной модели.
T5 Version 1.1 Base — разработанная Google предварительно обученная текстовая encoder-decoder модель семейства T5 с примерно 123,8 млн параметров. Она реализует подход text-to-text: входные и выходные данные представлены текстом, а задачи формулируются как преобразование одного текста в другой. Модель предварительно обучена только на корпусе C4 и не проходила обучение на контролируемых downstream-задачах, поэтому перед применением её необходимо дообучить для выбранного сценария. В версии 1.1 используется активация GEGLU в feed-forward слоях вместо ReLU, отключён dropout при предварительном обучении и не разделяются веса слоя эмбеддингов и классификатора. Модель рассчитана на английский язык. Доступны реализации весов для PyTorch, TensorFlow и Flax. Лицензия — Apache 2.0.
UEmbed-4B — мультимодальная модель эмбеддингов от Alibaba-NLP на архитектуре Qwen3.5 с примерно 4 млрд параметров. Она принимает текст, изображения, видео и их сочетания, а за один проход формирует плотные векторы и разреженные SPLADE-представления для поиска и сопоставления содержимого. Модель предназначена для семантического и мультимодального поиска, включая поиск по визуальным документам. Плотные векторы подходят для поиска по смыслу, а разреженные активации связаны с терминами словаря и могут использоваться в индексах обратных списков. Модель доступна в формате safetensors и работает через Transformers. Модель обучена на публичных наборах данных для текстового и мультимодального поиска. Лицензия — CC BY 4.0. В README не приведены сведения о длине контекста или результаты, специфичные именно для версии 4B.
kttt294/vietnamese-sbert-finetuned — модель Sentence Transformers, дообученная на основе bkai-foundation-models/vietnamese-bi-encoder. Она преобразует предложения и абзацы на вьетнамском языке в плотные векторы размерности 768; архитектура использует RoBERTa с усредняющим pooling. Модель подходит для семантического поиска, извлечения релевантных текстов и сравнения смысловой близости по косинусному сходству. Модель принимает только текст. Максимальная длина последовательности составляет 256 токенов по README; метаданные каталога указывают контекст в 258 токенов. Для обучения использованы 12 001 пар предложений с метками сходства и CosineSimilarityLoss. Карточка не сообщает отдельные результаты оценки качества, поэтому эффективность на конкретных наборах данных следует проверять перед применением. Формат весов — safetensors; лицензия в предоставленных данных не указана.
WarpQuant Qwen3.5-4B R16E4 Text — текстовая версия чекпойнта Qwen3.5-4B, опубликованная HarimxChoi. Это плотная авторегрессионная языковая модель с 3,4 млрд параметров для генерации текста и диалога; она принимает текст и выдаёт текст. Контекст модели составляет до 262 144 токенов, в карточке указаны английский и корейский языки. Веса проекций сжаты методом block-GPTQ до INT3 с преобразованием signed Hadamard и восстановлением выбранных столбцов BF16 по Output-Fisher; эмбеддинги токенов используют групповой INT4. Репозиторий хранит значения в формате safetensors, совместимом с BF16. В README приведены результаты для базовой модели и других форматов, но отдельные метрики именно для этой версии не приведены. Модель предназначена для текстовой генерации и диалога, в том числе с длинным контекстом. Это текстовый экспорт: возможности понимания изображений исходной мультимодальной модели сюда не входят. Для запуска README указывает на необходимость актуальной основной ветки Transformers. Лицензия — Apache-2.0.
Yarn-Solar-10b-32k — языковая модель NousResearch на архитектуре Llama с 10,6 млрд параметров, основанная на SOLAR-10.7B-v1.0. Авторы дополнительно обучили её на двух миллиардах токенов длинного контекста, применив метод YaRN для расширения контекстного окна до 32 768 токенов. Модель предназначена для генерации текста и работы с длинными входными материалами: например, для суммирования документов, ответов на вопросы по большим текстам и продолжения текста с учётом удалённых фрагментов. В карточке приведены оценки на тестах длинного контекста и стандартных языковых тестах; результаты относятся к указанным условиям оценки и не гарантируют качество на конкретных задачах. Модель распространяется в формате PyTorch и использует библиотеку Transformers. Для загрузки авторы указывают необходимость включить trust_remote_code и использовать актуальную версию Transformers. Лицензия — Apache-2.0.
Карточка модели avsolatorio/00-000-11-1-0-1-0-0-cls-normed-1024-512_GIST_BAAI_bge-base-en-v1.5-20240128091053-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/00-000-11-1-0-1-0-0-u_GIST_BAAI_bge-base-en-v1.5-20240127164623-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/00-100-11-1-0-1-0-0-cls-normed-768-512-hard_GIST_BAAI_bge-base-en-v1.5-20240128213417-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/00-400-10-1-0-1-0-0-cls-normed-768-512_GIST_BAAI_bge-base-en-v1.5-20240130201355-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Agnes-3.0-Flash Preview GGUF — набор квантизированных сборок базовой модели Agnes-AI/Agnes-3.0-Flash, опубликованный quimmedes. Модель предназначена для генерации текста и мультимодальных сценариев с изображениями и видео, а также для локального запуска через совместимый runtime llama.cpp. Доступны варианты квантования от Q3 до Q9 и несколько альтернативных сборок с разным распределением точности между компонентами модели. Архитектура основана на гибридной схеме с recurrent SSM- и attention-слоями: 72 слоя, включая 54 delta-rule и 18 global attention, дополнительная параллельная SwiGLU-ветвь в каждом слое, около 32,63 млрд параметров, размер скрытого состояния 5120, словарь из 248 320 токенов и один MTP-слой. Поддерживаются текст, изображения и видео; точный набор языков и максимальная длина контекста в README не указаны, хотя приведён пример запуска с контекстом 32 768 токенов. Модель использует тот же токенизатор и шаблон чата, что и Qwen3.8-27B, но имеет дополнительные слои и переобученные проекционные матрицы. Ключевое преимущество сборок — сочетание гибридного внимания, поддержки длинного контекста, мультимодальности и выбора размера файла: от 12,12 до 32,28 GiB для основной линейки. Для работы требуется патченная версия cafe-llama.cpp; стандартная llama.cpp не поддерживает необходимые тензоры и может завершиться ошибкой или некорректно загрузить модель. Указанные требования к видеопамяти и параметры запуска ориентированы на карту 24 ГБ, однако фактические возможности зависят от выбранного квантования и длины контекста. Модель и сборки распространяются по лицензии Apache-2.0.
Xenova/all-mpnet-base-v2 — модель для извлечения признаков, представляющая собой ONNX-версию модели sentence-transformers/all-mpnet-base-v2. Репозиторий подготовлен Xenova для совместимости с библиотекой Transformers.js и запуска в JavaScript-средах, включая веб-приложения. Модель предназначена для преобразования текстовых входов в числовые представления, которые могут использоваться в задачах семантического поиска, сравнения текстов, кластеризации и других сценариях обработки естественного языка. В README приведён пример запуска через pipeline feature-extraction в Transformers.js. Из доступных данных известно, что используются ONNX-веса и поддерживается работа через Transformers.js. Размер модели, точная архитектура, языки, максимальная длина контекста, набор модальностей, показатели качества и лицензия в README не указаны. Отдельно отмечено, что размещение ONNX-весов в отдельном репозитории рассматривается как временное решение до более широкого распространения WebML.
danfeg/ARBERT_Finetuned-AR-1500 — модель на базе BERT, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768, предназначенные для сравнения семантической близости, кластеризации и семантического поиска. Для применения используется библиотека sentence-transformers; при работе через Transformers требуется отдельно выполнить подходящую операцию pooling для контекстных представлений токенов. Модель содержит 190 млн параметров и принимает последовательности длиной до 512 токенов. В README указано обучение с CosineSimilarityLoss; название модели и карточка указывают на дообучение ARBERT для арабского языка. Файлы опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.
sidbrahim/autotrain-NarrativesAnaloguesFINAL — дообученный энкодер предложений на базе sentence-transformers/all-MiniLM-L6-v2, созданный с помощью AutoTrain и библиотеки Sentence Transformers. Модель предназначена для получения векторных представлений и оценки семантического сходства предложений; название репозитория указывает на работу с нарративами и аналогиями, однако README не уточняет состав и область применения обучающих данных. Модель имеет архитектуру BERT и содержит 25,9 млн параметров. Она принимает текст и выдаёт эмбеддинги, пригодные для сравнения предложений; максимальная длина контекста — 512 токенов. Для базовой модели заявлена англоязычная специализация, а отдельные языки дообученной версии в карточке не обозначены. В README приведены метрики проверки: Pearson для косинусного сходства 0,947 и Spearman 0,750; эти значения относятся к валидационному набору и сами по себе не гарантируют качество на других данных. Для работы предназначена библиотека Sentence Transformers. Лицензия в предоставленных данных отсутствует, поэтому условия использования установить нельзя.
Карточка модели avsolatorio/AVES_BAAI_bge-base-en-v1.5-20240125221415-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/AVES_BAAI_bge-base-en-v1.5-20240126151540-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
tomaarsen/bert-base-nq — англоязычная модель Sentence Transformers, дообученная разработчиком tomaarsen на парах запросов и ответов из набора Natural Questions. В основе лежит google-bert/bert-base-uncased: BERT с 136,7 млн параметров, дополненный усредняющим пулингом токенов. Модель преобразует предложения и абзацы в плотные векторы размерности 768; максимальная длина входа — 512 токенов, сходство векторов обычно оценивается косинусной мерой. Модель предназначена для семантического поиска и сравнения текстов. Её можно применять для поиска ответов по запросу, оценки смыслового сходства и перефразирования, кластеризации и извлечения признаков для классификации текста. В README приведены результаты оценки на наборах Nano BEIR и отдельных поисковых датасетах, однако они не гарантируют качество на конкретном корпусе или языке. Вход — текст на английском языке, выход — векторные представления текста. Лицензия Apache-2.0. Контекст ограничен 512 токенами; длинные тексты потребуют предварительного разбиения. Модель обучалась на Natural Questions, поэтому качество на других языках и специализированных областях может отличаться.
Contrastive-Tension/BERT-Base-Swe-CT-STSb — шведская модель на архитектуре BERT Base, опубликованная проектом Contrastive-Tension. Она дообучена методом Contrastive Tension для получения векторных представлений предложений и оценки семантического текстового сходства, включая сценарии поиска похожих фраз и обнаружения перефразирований. Модель предназначена для извлечения признаков из текстов на шведском языке и поддерживает библиотеку Transformers, а также PyTorch, TensorFlow и JAX. По метаданным Hugging Face модель содержит около 151,9 млн параметров и обрабатывает последовательности длиной до 512 токенов. Метод Contrastive Tension обучает представления так, чтобы одинаковые предложения имели близкие векторы, а разные — более далёкие. Модель хорошо подходит для шведского semantic textual similarity, поиска похожих предложений, кластеризации и построения семантического поиска. Она не является генеративной моделью и не предназначена для диалога, генерации текста или непосредственной классификации без дополнительной модели и процедур обработки эмбеддингов.
bge-large-zh-v1.5-gguf — набор моделей для получения текстовых эмбеддингов в формате GGUF, подготовленный Compendium Labs на основе исходной модели BAAI/bge-large-zh-v1.5. Модели предназначены для работы через llama.cpp, llama-cpp-python и интеграцию LangChain, а также для сценариев семантического поиска, сравнения текстов, кластеризации и других задач, использующих векторные представления текста. Доступны варианты F32 размером 1,3 ГБ, F16 размером 620 МБ, Q8_0 размером 332 МБ и Q4_K_M размером 193 МБ. Квантизация может обеспечить ускорение на CPU до 30% при минимальной потере точности; для GPU преимущество заявлено как умеренное. Модель ориентирована на китайскоязычные тексты, однако другие характеристики, включая архитектуру, размерность эмбеддингов и максимальную длину контекста, в README не указаны. Сильные стороны — поддержка llama.cpp, несколько вариантов точности и возможность эффективного запуска на CPU. Ограничения связаны с тем, что это модель эмбеддингов, а не генеративная языковая модель, и что в представленных данных отсутствуют подробности о качестве на конкретных наборах данных и поддерживаемых языках помимо указания zh в названии. Распространение осуществляется по лицензии MIT.