I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельКарточка модели Gidigi/gidigi_79c07173_0003 на Hugging Face совпадает с карточкой HIT-TMG/KaLM-embedding-multilingual-mini-instruct-v1.5, поэтому описание составлено по ней. KaLM-embedding-multilingual-mini-instruct-v1.5 — многоязычная модель для создания текстовых эмбеддингов, разработанная командой HIT-TMG и опубликованная HITsz-TMG. Она основана на Qwen2-0.5B и обучена с использованием масштабного слабонаблюдаемого предварительного обучения и контролируемой тонкой настройки. Модель содержит 494 млн параметров, использует архитектуру Qwen2 и поддерживает контекст до 131 072 токенов. Модель предназначена для получения векторных представлений предложений и текстов, поиска семантически близких фрагментов и сравнения сходства между текстами. Метаданные указывают поддержку задач извлечения признаков и сравнения предложений; карточка приводит оценки на наборах MTEB и C-MTEB. Модель распространяется в формате safetensors по лицензии MIT. Для работы с Qwen2 в README рекомендуется Transformers версии 4.37.0 или новее. Языки, конкретные ограничения качества и сведения о том, какие именно языки охвачены обучением, в предоставленных данных не перечислены.
GLM-4.5V-FP8 — мультимодальная vision-language модель, разработанная ZhipuAI на базе текстовой модели GLM-4.5-Air. Она предназначена для анализа изображений, видео и документов, визуального рассуждения, понимания интерфейсов и задач GUI-агента, а также точной локализации объектов на изображениях. Модель поддерживает китайский и английский языки и работает через библиотеку Transformers. Модель имеет архитектурную основу GLM-4.5-Air с 106 млрд параметров, из которых 12 млрд активны, и представлена в формате FP8. Она поддерживает режим Thinking Mode для выбора между быстрыми ответами и углублённым рассуждением, умеет выполнять анализ сцен и нескольких изображений, распознавать события в длинных видео, разбирать сложные графики и длинные документы, а также возвращать координаты ограничивающих рамок объектов в нормализованном формате. Заявлена высокая эффективность на 42 публичных vision-language бенчмарках среди моделей сопоставимого масштаба. Ограничения, включая размер контекста, перечень поддерживаемых форматов и требования к ресурсам, в README не указаны. Модель распространяется по лицензии MIT.
sentence-transformers/gtr-t5-base — модель для получения эмбеддингов предложений и абзацев, предназначенная для семантического поиска. Она преобразует текст в плотные векторы размерности 768; архитектура основана на энкодере T5-base и содержит 123,8 млн параметров. Модель создана авторами GTR, а эта версия преобразована из TensorFlow-модели gtr-base-1 в PyTorch и сохранена в FP16. Модель подходит для построения векторного поиска по документам, извлечения релевантных фрагментов по запросу и сравнения текстов по смыслу. Для обработки текста указан контекст до 512 токенов. Карточка рекомендует использовать модель через библиотеку Sentence Transformers и ссылается на публикацию Large Dual Encoders Are Generalizable Retrievers. В README отмечено, что эмбеддинги этой версии могут немного отличаться от TensorFlow-варианта, хотя результаты на тех же тестах совпадают. Лицензия Apache-2.0 разрешает использование и распространение модели на её условиях.
Herplete-LLM-Llama-3.1-8b — диалоговая языковая модель Replete-AI, созданная слиянием Replete-LLM-V2-Llama-3.1-8b и LoRA-адаптера, извлечённого из Hermes-3-Llama-3.1-8B. Модель построена на плотной архитектуре Llama 3.1 и содержит 7,5 млрд параметров; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors. Модель предназначена для диалога и генерации текста по инструкциям. Метаданные также отмечают интерфейс вызова инструментов, что позволяет использовать её в сценариях, где ассистент передаёт управление внешним инструментам. Базовая модель Hermes 3 ориентирована на англоязычные инструкции, рассуждения, генерацию кода и вызов инструментов; README описывает непрерывное дообучение модели Replete с использованием LoRA из Hermes 3. Карточка не сообщает отдельные результаты оценки качества или условия лицензии, поэтому их нельзя надёжно указать.
jina-embedding-t-en-v1 — компактная текстовая модель эмбеддингов, разработанная Jina AI совместно с командой Finetuner. Это плотная BERT-модель на 15,6 млн параметров, обученная на наборе Linnaeus-Clean из 380 млн пар предложений, включая пары запросов и документов. Она предназначена для получения векторных представлений предложений и сравнения их семантической близости; также подходит для поиска и сопоставления запросов с документами. Модель ориентирована на английский язык и обрабатывает последовательности длиной до 512 токенов. В карточке приведены результаты сравнения с несколькими моделями на тестах сходства предложений и поиска, но не все значения таблицы доступны. Модель распространяется по лицензии Apache-2.0.
Primitive AI представляет квантизированную версию IFM/K2-Horizon-MoVA-36B-A4B — разреженной MoE-модели для генерации текста, рассуждений и вызова инструментов. Модель предназначена для серверного инференса и сценариев, где важны качество рассуждений, tool calling и размещение на одной видеокарте. Поддержка интегрирована в ветку main проекта vLLM; опубликованный вариант рассчитан на использование с Transformers, compressed-tensors и vLLM. Модель имеет 45 разреженных слоёв и общий размер 36B параметров при активных примерно 4B параметров на токен. В данной сборке 15 экспертных слоёв используют NVFP4, а остальные 30 — FP8 с блочными масштабами [128,128]. Размер файлов составляет 44,48 ГБ, что примерно на 8% меньше официальной FP8-версии и в 1,7 раза меньше BF16-варианта. Заявлена работа с контекстом до 32 768 токенов; на одной 96-ГБ видеокарте модель запускается без tensor parallelism. Сведения о поддерживаемых языках в README не указаны. Сильными сторонами являются сохранение уровня знаний, сопоставимого с BF16 и официальной FP8-версией, а также более высокая точность вызова инструментов по сравнению с альтернативной сборкой на чистом NVFP4. Модель требует GPU с архитектурой NVIDIA Blackwell и не тестировалась для Ampere, поскольку использует FP8-тензорные ядра. Для запуска нужен nightly или сборка vLLM из main с поддержкой K2-Horizon; стабильная версия 0.28.0 эту поддержку не содержит. Настройка уровня рассуждений выполняется на уровне сервера. Модель распространяется по лицензии Apache-2.0.
laprador-document-encoder — модель Sentence-Transformers на архитектуре BERT, представленная в репозитории gemasphi. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации. Модель содержит 136,1 млн параметров, работает с текстом и рассчитана на контекст до 512 токенов. Полученные эмбеддинги подходят для поиска семантически близких фрагментов и группировки текстов по смыслу. Для сравнения текстов и поиска требуется использовать векторное представление модели; README также описывает применение через Sentence-Transformers либо Transformers с соответствующей операцией pooling. Модель распространяется в формате PyTorch; сведения о лицензии в предоставленных данных отсутствуют.
Lychee-embed — многоязычная модель для создания текстовых эмбеддингов, совместно разработанная командой NLP Харбинского технологического института в Шэньчжэне. Она основана на Qwen2.5-1.5B и дообучена по многоэтапной схеме с разогревом, обучением на задачах, слиянием моделей и финальным дообучением. Модель предназначена для семантического поиска, сравнения сходства текстов и других задач на основе эмбеддингов. Модель содержит 1,5 млрд параметров, принимает текст и выдаёт векторы размерностью до 1536; поддерживаются настраиваемые размерности от 32 до 1536 и инструкции, задающие контекст задачи. README заявляет поддержку более 100 языков и длину последовательности 8K, тогда как метаданные указывают нативный контекст 32768 токенов. Репозиторий распространяется в формате safetensors, лицензия — Apache-2.0. Для повышения качества поиска авторы рекомендуют подбирать инструкции под задачу; README сообщает, что их отсутствие на стороне запроса может снизить качество примерно на 1–5%.
Rubra AI выпустила эту инструктивную версию Meta-Llama-3-70B, дополнительно обученную на собственном наборе данных для диалогов, выполнения инструкций и вызова функций. Модель предназначена для многошаговых бесед, в которых ассистент может вызывать инструменты и продолжать диалог с учётом полученных результатов. Это плотная авторегрессионная языковая модель архитектуры Llama с 69,5 млрд параметров. Она принимает текст и генерирует текст; карточка указывает поддержку английского языка и контекст до 8192 токенов. Модель доступна в формате safetensors для Transformers. Модель подходит для диалоговых ассистентов и сценариев с интеграцией инструментов. Она может выдавать ошибочные или предвзятые ответы, поэтому результаты требуют проверки, особенно в чувствительных и критически важных областях. Указана лицензия Llama 3 (llama3).
SetFit/MiniLM_L3_clinc_oos_plus_distilled — компактная модель эмбеддингов предложений на архитектуре BERT, представленная в формате PyTorch. Она преобразует предложения и абзацы в плотные векторы размерности 384; модель можно применять для семантического поиска, кластеризации и оценки сходства текстов. Для кодирования предусмотрен контекст длиной до 512 токенов. Модель содержит 18,8 млн параметров и обучалась с функцией потерь CosineSimilarityLoss. Она подходит для построения векторного поиска и группировки текстов, но карточка не приводит результатов оценки качества или перечня поддерживаемых языков. Лицензия в предоставленных данных не указана.
bge-micro — компактная модель эмбеддингов предложений на архитектуре BERT, опубликованная avsolatorio в январе 2024 года. Она преобразует предложения и абзацы в плотные векторы размерности 384 и предназначена для семантического поиска, кластеризации и сравнения текстов. Модель содержит 18,8 млн параметров и поддерживает контекст до 512 токенов. Модель дистиллирована из bge-small-en-v1.5; в ней в четыре раза меньше параметров, не относящихся к эмбеддингам. По README, она содержит вдвое меньше параметров, чем all-MiniLM-L6-v2, при сопоставимом качестве. Доступны веса в формате safetensors; для использования описаны Sentence-Transformers и Transformers с подходящей операцией pooling. Модель рассчитана на англоязычные тексты. Она подходит для построения векторного поиска и кластеризации, но сама не генерирует ответы; контекст ограничен 512 токенами. Лицензия в предоставленных данных не указана.
Карточка модели matyaydin/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.
Multilingual-E5-large-instruct — текстовая модель эмбеддингов из семейства E5, представленная авторами технического отчёта Multilingual E5 Text Embeddings. Она основана на XLM-RoBERTa-large и использует архитектуру XLM-RoBERTa с 24 слоями; размер эмбеддинга — 1024, всего 658,7 млн параметров. Модель принимает текст и выдаёт векторные представления для поиска и сравнения текстов. Репозиторий содержит веса в форматах Safetensors и ONNX. Модель предназначена для семантического поиска, сопоставления запросов с документами и оценки сходства текстов на многих языках. Для запроса необходимо добавлять одно предложение-инструкцию, описывающее задачу; документам инструкция не нужна. Модель обучалась на смеси многоязычных наборов данных и поддерживает 100 языков XLM-RoBERTa, включая русский. Длина контекста ограничена 512 токенами: более длинный текст обрезается. На низкоресурсных языках качество может быть ниже. Абсолютные значения косинусного сходства не следует трактовать как уверенность — для задач поиска важнее относительный порядок оценок. Лицензия — MIT.
Muse-Glimmer-30B-heretic — модифицированная версия мультимодальной модели Meta Muse-Glimmer-30B, подготовленная richardyoung с помощью воспроизводимого запуска Heretic. Это плотный трансформер с энкодером восприятия и примерно 29,6 млрд параметров: модель принимает текст и изображения и поддерживает диалог, управляемое рассуждение и вызов инструментов. Abliteration изменяет веса, ослабляя отказы модели без повторного обучения; в README указано, что выбран один из 200 вариантов с меньшим числом отказов при ограниченном отклонении от исходной модели. Модель предназначена для локальных агентов и сценариев, где нужно анализировать изображения вместе с текстом, планировать шаги, вызывать инструменты, писать и отлаживать код, создавать синтетические данные или оценивать ответы других моделей. Она может соглашаться на запросы, от которых исходная модель отказывается, поэтому ответы могут быть неточными, предвзятыми или нежелательными; многошаговое рассуждение ошибается, а качество на языках вне основного набора может снижаться. Видео не является целевой модальностью, аудио не поддерживается. Веса распространяются по Apache-2.0; README также указывает на политику использования исходной модели Meta, требования которой следует учитывать.
GavinQiangLi разработал sentence-transformers-модель для получения эмбеддингов предложений и абзацев. Она кодирует текст в плотные векторы размерностью 384, пригодные для семантического поиска и кластеризации. Модель построена на архитектуре BERT, содержит около 40 млн параметров и обрабатывает до 512 токенов контекста. При обучении использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Модель подходит для поиска семантически близких текстов и группировки текстов по смыслу. В репозитории представлены веса safetensors; для работы можно использовать библиотеку Sentence Transformers. Лицензия в доступных данных не указана.
Hyukkyu/nv-embed-v2 — перенос модели NV-Embed-v2 от NVIDIA, выполненный для совместимости с Transformers 5.0 и новее. Единственное заявленное изменение — добавление свойства совместимости в класс NVEmbedModel; веса модели основаны на nvidia/NV-Embed-v2 и сохранены в формате safetensors. Модель предназначена для создания текстовых эмбеддингов, используемых в семантическом поиске, сравнении текстов и RAG-сценариях. README отсылает к исходной карточке NVIDIA за сведениями об архитектуре, обучении и оценках качества. Для использования указаны Transformers версии 5.0.0 или новее, PyTorch 2.0 или новее и Python 3.9 или новее. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями лицензии, включая некоммерческий характер.
dbourget/philai-bge-2et-f5 — модель на базе BERT, опубликованная dbourget и предназначенная для преобразования предложений и абзацев в плотные векторы размерности 1024. Она подходит для семантического поиска и кластеризации текстов; в каталоге также отмечена задача извлечения признаков. Модель доступна в формате safetensors и рассчитана на контекст до 512 токенов. Для запуска предусмотрена интеграция с библиотекой Sentence-Transformers; при использовании Transformers необходимо применить подходящую операцию пулинга к контекстным представлениям токенов. Объём модели — около 433,9 млн параметров. Лицензия и сведения о конкретных языках в предоставленных данных отсутствуют.
dbourget/philai-bge-2et-f-again — модель на архитектуре BERT, созданная в формате Sentence Transformers для преобразования предложений и абзацев в плотные векторы размерностью 1024. Она предназначена для поиска семантически близких текстов и кластеризации; сходство между текстами можно оценивать по их эмбеддингам. Обучение использовало CosineSimilarityLoss. Модель содержит около 433,9 млн параметров, принимает текстовые входы, выдаёт векторы и поддерживает контекст до 512 токенов. Лицензия в предоставленных данных не указана.
iambestfeed/phobert_retrieval — модель на базе RoBERTa, опубликованная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства текстов и кластеризации. В репозитории указано 162,4 млн параметров; модель принимает текст и выдаёт эмбеддинги. Контекст ограничен 258 токенами. Модель подходит для поиска текстов по смыслу и группировки похожих предложений или абзацев. Карточка не сообщает сведения о лицензии и не приводит результаты оценки, поэтому качество на конкретных данных следует проверять отдельно.
Карточка модели JaehyeokLee/preliminary_clustering_gist_checkpoint_epoch_1_step_180 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.
QuasarLM — открытая плотная языковая модель семейства Llama от Northwind AI Research для генерации текста и работы в роли чат-ассистента. Разработчики сообщают о дообучении с обновлённой смесью инструкций, расширенной программой проверяемых задач с вознаграждением и улучшенной поддержкой вызова инструментов. Модель предназначена для математических задач, программирования, логических рассуждений и диалогов общего назначения. В карточке приведены результаты внутренних сравнений, включая точность 81,2% на AIME 2026, а также заявлены снижение галлюцинаций и более длинные цепочки рассуждений. Репозиторий содержит веса PyTorch, модель загружается через Transformers. Лицензия — Apache-2.0. Указанные в README длинные рассуждения могут повышать расход токенов; бенчмарки и сравнительные заявления приведены разработчиками и не подтверждают качество на всех пользовательских сценариях.
Qwen2.5-0.5B-Instruct-AWQ — компактная инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen компании Alibaba Cloud. Она предназначена для генерации текста, диалоговых приложений, следования инструкциям, обработки структурированных данных и создания структурированных ответов, включая JSON, а также для задач программирования и математики. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и корейский. Модель построена по архитектуре causal language model на базе Transformer с RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Она содержит около 0,49 млрд параметров, из которых 0,36 млрд приходятся на неэмбеддинговые параметры, 24 слоя и механизм GQA с 14 головами для Q и 2 для KV. Контекст составляет до 32 768 токенов, максимальная длина генерации — 8192 токена. AWQ-квантизация до 4 бит снижает требования к памяти и подходит для локального и ресурсно-ограниченного запуска, однако может приводить к некоторой потере качества по сравнению с исходной версией в формате bfloat16. README не содержит конкретных результатов бенчмарков, требований к объёму GPU-памяти или данных о пропускной способности. Модель распространяется по лицензии Apache-2.0. Для использования рекомендуется актуальная версия библиотеки transformers; версии ниже 4.37.0 могут быть несовместимы.
Qwen2.5-0.5B-Instruct-GGUF — инструкционно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это компактная версия для генерации текста и диалоговых сценариев, включая чат-ботов, следование инструкциям, работу с кодом и математическими задачами, обработку структурированных данных и генерацию структурированных ответов, в том числе JSON. Модель является каузальной трансформерной языковой моделью с архитектурой на основе RoPE, SwiGLU и RMSNorm, с GQA: 14 головами для Q и 2 для KV. Она содержит около 0,49 млрд параметров, 24 слоя и поддерживает контекст до 32 768 токенов с генерацией до 8192 токенов. Доступна в GGUF-вариантах квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, японский и корейский; модальность — текстовая. Сильными сторонами являются малый размер, возможность локального запуска, улучшенное следование инструкциям, поддержка длинного контекста, многоязычность и работа со структурированным выводом. Ограничения связаны с компактным масштабом: по возможностям и качеству ответов модель может уступать более крупным моделям, а квантование способно снижать точность по сравнению с исходной версией. Модель распространяется по лицензии Apache-2.0.
AIconjured подготовил GGUF-квантизацию текстовой модели эмбеддингов Qwen3-Embedding-0.6B, разработанной командой Qwen. Модель создаёт 1024-мерные векторы для текстов и рассчитана на задачи семантического поиска и извлечения признаков. Заявленная длина контекста — 32K токенов; используется last-token pooling. Веса упакованы в формат GGUF со смешанной точностью NVFP4, Q8_0 и F32: NVFP4 применяется к основным матричным слоям, а чувствительные к качеству компоненты оставлены в более высокой точности. Размер файла — 507 МБ. По замерам автора, среднее косинусное сходство эмбеддингов с версией F16 составило 0,97472 на выборке из 20 текстов; для сложных семантических запросов возможно снижение качества поиска. Наиболее быстрый путь NVFP4 рассчитан на GPU Blackwell, а на других GPU веса могут работать после деквантизации. Модель предназначена для построения текстового поиска и других систем, использующих эмбеддинги. Распространяется по лицензии Apache-2.0.
unsloth/Qwen3-VL-32B-Thinking — репозиторий весов плотной мультимодальной модели Qwen3-VL, подготовленный Unsloth на основе Qwen/Qwen3-VL-32B-Thinking. Это версия Thinking для диалогов и рассуждений по тексту и визуальным данным; модель предназначена для вопросов об изображениях и видео, OCR, визуального анализа и выполнения задач через интерфейс агента с инструментами. Модель принимает текст, изображения и видео, а выдаёт текст. В README заявлены контекст 256K токенов с возможностью расширения до 1M, понимание пространственных отношений, временных меток и событий в видео, разбор структуры длинных документов и OCR на 32 языках. Архитектура относится к семейству Qwen3-VL и реализована как Qwen3VLForConditionalGeneration; файлы представлены в safetensors. Репозиторий включает исправления chat template от Unsloth. Модель подходит для визуального анализа, распознавания текста и рассуждений по изображениям и видео, а также для взаимодействия с графическими интерфейсами и инструментами. Указана лицензия Apache-2.0. README описывает возможности семейства Qwen3-VL; отдельные результаты бенчмарков для этого репозитория не приведены.
Qwen3-VL-8B-Instruct — мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Это плотная модель с 8 млрд параметров для диалога и генерации текста по текстовым и визуальным входам; репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Лицензия — Apache-2.0. Модель предназначена для анализа изображений и видео, визуальных вопросов и ответов, распознавания текста и структуры документов, пространственного рассуждения, STEM-задач и управления интерфейсами через инструменты. Она также генерирует код и разметку Draw.io, HTML, CSS и JavaScript по изображениям или видео. Заявлены контекст 256K токенов с возможностью расширения до 1M, временная привязка событий в видео и OCR на 32 языках. Модель объединяет текстовое и визуальное понимание, поддерживает агентные сценарии и вызов инструментов. Карточка описывает возможности семейства Qwen3-VL; конкретные показатели качества для версии 8B в предоставленном README не приведены.
ighina/roberta_topseg_mean_wikidisease — модель на основе RoBERTa, опубликованная как модель Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Веса содержат около 151,8 млн параметров, модель принимает текст и выдаёт эмбеддинги; максимальный контекст составляет 514 токенов. Модель обучалась с функцией потерь CosineSimilarityLoss. Для работы доступны Sentence-Transformers и Transformers, причём при использовании Transformers требуется применить соответствующую операцию pooling к контекстным представлениям токенов. Репозиторий содержит веса PyTorch. Лицензия и целевые языки в предоставленных данных не обозначены.
RoBERTa TopSeg Wikisection — модель на базе RoBERTa, опубликованная пользователем ighina и упакованная для Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации. Модель содержит 151,8 млн параметров, принимает текст и рассчитана на контекст до 514 токенов. Обучение использовало CosineSimilarityLoss; доступен формат PyTorch. Модель подходит для поиска смыслово близких фрагментов и группировки текстов. Лицензия и поддерживаемые языки в предоставленных данных не указаны.
ABrinkmann/sbert_xtremedistil-l6-h256-uncased-mean-cosine-h32 — модель Sentence-Transformers на архитектуре BERT, разработанная ABrinkmann. Она кодирует предложения и абзацы в плотные векторы размерностью 32 для сравнения семантической близости, кластеризации и семантического поиска. Модель содержит 14,1 млн параметров, принимает текстовые последовательности длиной до 512 токенов и распространяется в формате PyTorch. Модель подходит для поиска похожих фраз и документов, группировки текстов по смыслу и построения систем поиска по эмбеддингам. При обучении использовалась CosineSimilarityLoss. Лицензия в предоставленных данных не указана.
Карточка модели avsolatorio/00-600-11-1-2-2-0-0-cls-normed-768-512_GIST_BAAI_bge-base-en-v1.5-20240221181530-best на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.