IV.11Патенты, товарные знаки и интеллектуальная собственность

anuragseven/scifact-biencoder — модель на базе BERT, созданная с использованием Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384 и предназначена для поиска семантически близких текстов, семантического поиска и кластеризации. Модель обучалась с функцией MultipleNegativesRankingLoss и косинусным сходством; максимальная длина контекста составляет 512 токенов. Для использования нужны Sentence-Transformers. Лицензия в предоставленных данных не указана.

PeterAM4/Qwen3-Embedding-0.6B-GGUF — набор GGUF-квантизаций модели Qwen3-Embedding-0.6B, разработанной Qwen и квантизированной PeterAM4 с помощью llama.cpp. Модель предназначена для построения эмбеддингов и подходит для RAG-систем, семантического поиска, извлечения документов и задач финансового NLP. Доступны варианты квантизации от 8-битных до 1-битных, включая версии с калибровкой importance matrix, ориентированной на финансовые и технические тексты. Базовая модель содержит 595 776 512 параметров, поддерживает контекст до 32 768 токенов, использует pooling по последнему токену и формирует эмбеддинги размерности 1024. Заявлена мультиязычная поддержка английского, китайского, японского, корейского, французского, немецкого, испанского, португальского, русского и арабского языков. Компактный размер квантизированных файлов позволяет запускать модель на периферийных устройствах, ноутбуках и серверах с ограниченными ресурсами. К сильным сторонам относятся низкое потребление памяти, потенциально малая задержка и сохранение качества при умеренной квантизации; по приведённому тестированию рекомендован вариант Q3_K_M-imat размером 331 МБ. Качество существенно зависит от выбранного формата: при чрезмерно агрессивной квантизации показатели perplexity заметно ухудшаются, а результаты тестов получены на ограниченном корпусе финансовых, математических и общих текстов и не гарантируют качество для всех задач. Модель распространяется по лицензии Apache 2.0.

XYZ-Aquila-pro — открытая модель с весами для агентного поиска, разработанная XYZ AI Lab. Это вариант семейства XYZ-Aquila, дообученный на базе Qwen3.5-397B-A17B по процессу post-training с ограниченным исследованием вариантов развития модели. Модель предназначена для многошагового поиска в интернете: планирования, просмотра англоязычных и китайских страниц, объединения сведений из нескольких источников, проверки источников и восстановления после неудачных действий с инструментами. Она поддерживает диалоговый формат рассуждений и вызовов инструментов, совместимый с Qwen. Реализация поиска и извлечения страниц, выполнения Python-кода и управления контекстом зависит от внешней оболочки AxisAgentic; сам чекпойнт не предоставляет эти инструменты. Для развёртывания README приводит пример с SGLang и рекомендует распределение по восьми GPU; требуемые память и конфигурация зависят от длины контекста и доступного оборудования. Указанная лицензия — Apache-2.0.

Модель Sentence Transformers, дообученная автором arjveer на Snowflake/snowflake-arctic-embed-l для сопоставления текстов. Она преобразует предложения и абзацы в плотные векторы размерностью 1024; близость можно оценивать косинусным сходством. Модель основана на BERT, использует pooling по CLS-токену и нормализацию векторов, принимает последовательности длиной до 512 токенов. Подходит для семантического поиска, сравнения текстов, поиска перефразирований, кластеризации и классификации на основе эмбеддингов. В README приведены результаты оценки поиска на наборе из 156 примеров, однако этих данных недостаточно для вывода о качестве на широком спектре юридических задач. Лицензия в предоставленных данных не указана.

V-SPLADE Quality — модель NAVER для поиска визуальных документов по текстовому запросу. Она кодирует изображения страниц PDF, слайдов и сканов в разреженные векторы, пригодные для поиска через инвертированный индекс; текстовые документы также поддерживаются. Размер модели — 250 млн параметров, архитектура основана на ModernVBERT. Для запросов используется обученный Bag-of-Words lookup без нейронного кодирования во время обслуживания, поэтому запросы можно обрабатывать без GPU, а страницы — индексировать напрямую, без предварительного OCR или генерации подписей. В README приведены результаты на бенчмарках поиска документов и сравнение скорости построения индекса с OCR- и caption-подходами. Модель предназначена для поиска по сканированным отчётам, презентациям и другим документам, представленным изображениями страниц. Для работы с изображениями требуется Sentence Transformers с поддержкой изображений и Transformers версии не ниже 5.3.0. Репозиторий распространяется по лицензии Apache-2.0. В карточке указаны английский язык и задачи извлечения признаков, заполнения пропусков и оценки сходства предложений; описанный сценарий поиска при этом использует изображения документов и текстовые запросы.

comsat-embed-ko-8b-preview — модель эмбеддингов на основе декодерной архитектуры Qwen3, разработанная Sionic AI и дообученная для семантического поиска на корейском языке. Она кодирует запросы и документы в векторы размерностью 4096 для поиска по сходству; по данным карточки, обучение включало более миллиона корейских примеров. Для запросов требуется task-инструкция, документы кодируются без префикса. Модель предназначена для поиска документов, извлечения сведений из баз знаний и семантического поиска в корпоративных системах, в том числе по длинным текстам. В карточке заявлен контекст до 8192 токенов; метаданные указывают нативное окно до 40960 токенов. На корейском подмножестве бенчмарка MTEB модель показала средний NDCG@10 0,7930 по девяти наборам данных. Поддерживаемые языки — корейский и английский, при этом основная специализация — корейский. Модель содержит 7,6 млрд параметров и распространяется в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое. Результаты поиска зависят от правильного применения инструкции к запросам; заявленные показатели относятся к указанной методике бенчмарка и не гарантируют качество на других корпусах.

Trelis выпустила дообученную версию Mistral-7B-Instruct-v0.1 для суммаризации длинных текстов. Модель использует плотную архитектуру Mistral на 7,1 млрд параметров; в карточке заявлено обучение для контекстов до 16 тыс. токенов, а метаданные указывают нативный контекст до 32 768 токенов. Для суммаризации предлагается формат инструкции [INST] с явными маркерами начала и конца текста. Модель предназначена для создания краткого изложения больших документов и фрагментов текста. В основе лежит трансформер Mistral с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE; модель работает с текстом и поддерживает диалоговый формат. В карточке не перечислены целевые языки, поэтому языковую специализацию определить нельзя. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка базовой Mistral-7B-Instruct-v0.1 отмечает отсутствие встроенных механизмов модерации; качество суммаризации для конкретных языков и типов документов требует проверки на целевых данных.

Модель legalvn/paraphrase-multilingual-MiniLM-L12-v2-vn-171000 — дообученная на вьетнамских парах текстов модель Sentence Transformer на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска семантически близких текстов, сравнения сходства, поиска перефразирований, кластеризации и классификации текста. Архитектура включает BERT с усреднением токенных представлений; карточка указывает максимум 128 токенов на последовательность, а метаданные — контекст до 512 токенов. Для сравнения векторов применяется косинусное сходство. Модель содержит 124,3 млн параметров и распространяется в формате safetensors. Примеры обучающих данных и название модели указывают на специализацию на вьетнамском языке, в том числе на текстах юридической тематики; README также описывает её как многоязычную. Лицензия в предоставленных данных не указана. Качество для конкретной области или языка следует оценивать на собственных данных; длина последовательности в карточке ограничена 128 токенами.

Ziya-Reader-13B-v1.0 是 IDEA-CCNL 团队开发的中文知识问答模型，基于 13B 参数的 Llama 2，并在通用数据和检索问答数据上微调。它采用 Llama 自回归 Transformer 架构，使用位置插值扩展上下窗口；README указывает 8k токенов, тогда как метаданные Hugging Face указывают нативный контекст 4096 токенов. Модель отвечает на вопросы по одному или нескольким предоставленным документам, поддерживает поиск релевантных документов и суммаризацию длинных текстов, а также общее общение в формате вопрос–ответ. В карточке описана устойчивость к изменению порядка документов и приведены оценки на китайских наборах LongBench. Предназначена прежде всего для китайских сценариев баз знаний, retrieval QA и клиентской поддержки, в том числе в праве, финансах и медицине. Модель принимает текст и генерирует текст. Репозиторий содержит веса PyTorch; указанная лицензия — GPL-3.0. Результаты зависят от качества и полноты переданных документов; заявленные оценки основаны на тестах разработчиков и не гарантируют качество в конкретной предметной области.

Это модель Sentence Transformers, дообученная разработчиком ML5562 на научно-текстовой BERT-модели SciBERT от Allen Institute for AI. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и вычисляет их семантическую близость по косинусному сходству. Модель подходит для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации научных текстов. В основе — BERT с усреднением токенных представлений; максимальная длина входа составляет 512 токенов. Модель обучалась с TripletLoss на наборе из 19 392 примеров. В README приведена точность cosine_accuracy 0,6229 на оценке TripletEvaluator. Исходная SciBERT ориентирована на английские научные тексты; данных о лицензии в предоставленных источниках нет.

google/long-t5-tglobal-large — крупная англоязычная модель Google Research из семейства LongT5. Это предварительно обученный трансформер-кодировщик-декодировщик для генерации текста в формате «текст в текст», обученный восстанавливать исходный текст по искажённому входу. Архитектура использует transient-global attention, чтобы эффективнее обрабатывать длинные последовательности; в метаданных указаны 385,2 млн параметров и контекст 4096 токенов. Модель предназначена прежде всего для дообучения под суммаризацию и ответы на вопросы по длинным документам. В README приведены результаты её дообученных вариантов на наборах данных для научных статей, патентов, биомедицинских текстов и вопросов общего характера. Модель рассчитана на английский язык и принимает текст, выдавая текст. Это базовый чекпойнт, а не готовый специализированный помощник: для конкретной задачи рекомендуется supervised fine-tuning. Выпускается по лицензии Apache-2.0. Заявленная в README способность обрабатывать до 16 384 входных токенов относится к описанным экспериментам и не совпадает с контекстом 4096 токенов в метаданных репозитория.

legalvn/paraphrase-multilingual-MiniLM-L12-v2-vn-173000 — дообученная командой legalvn многоязычная модель Sentence Transformer на основе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Она кодирует предложения и абзацы в плотные векторы размерностью 384 для семантического сравнения текстов, поиска, выявления перефразирований, кластеризации и классификации. Архитектура включает BERT с усреднением токенных представлений; для сравнения векторов предусмотрена косинусная близость. Метаданные указывают 124,3 млн параметров и контекст до 512 токенов, а README сообщает максимальную длину последовательности 128 токенов. Модель обучалась на 651 725 примерах запросов, текстов корпуса и оценок; приведённые примеры и датасет указывают на вьетнамский язык и правовую тематику. Она подходит для семантического поиска по вьетнамским документам и сопоставления запросов с фрагментами корпуса. Лицензия в предоставленных данных не указана.

Mursit-Embed-Qwen3-1.7B-TR — модель эмбеддингов, разработанная newmindai для семантического поиска и извлечения информации на турецком языке. Она основана на Mecellem-Qwen3-1.7B-TR и преобразована из авторегрессионной архитектуры Qwen3 в двунаправленную модель с mean pooling. Модель содержит 1,7 млрд параметров, формирует векторы размерности 2048 и рассчитана в README на последовательности до 1024 токенов; метаданные указывают контекст до 40960 токенов. Модель обучалась для поиска по турецким документам, в том числе юридическим, на наборе MS MARCO-TR из 920 106 триплетов. Она подходит для семантического поиска, ранжирования релевантности, сопоставления предложений и поиска по документам; README также называет сценарии вопросно-ответных систем и межъязыкового поиска. В бенчмарке MTEB-Turkish указана оценка 56,84, однако в юридических задачах модель заметно уступает некоторым encoder-only моделям. Доступны форматы Safetensors и ONNX, библиотека — Sentence Transformers. Лицензия — Apache-2.0.

dariolopez/bge-m3-es-legal-tmp-3 — модель Sentence Transformers, дообученная разработчиком на основе BAAI/bge-m3 для работы с испанскими текстами. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для семантического поиска, сравнения сходства текстов, поиска перефразирований, кластеризации и классификации. Архитектура основана на XLM-RoBERTa с пулингом CLS-токена и нормализацией векторов; максимальная длина последовательности — 8192 токена. Для сравнения векторов в карточке указана косинусная близость. Модель можно применять для семантического поиска по испанским документам и построения систем поиска и группировки текстов. Лицензия — Apache-2.0. Карточка называет модель специализированной для юридического испанского, однако приведённые сведения не описывают датасет или отдельную юридическую оценку, поэтому качество на конкретных юридических корпусах по ним установить нельзя.

qnhat/bge-small-scifact-rrf — текстовая Sentence Transformer-модель, дообученная на базе BAAI/bge-small-en-v1.5. Она преобразует предложения и абзацы в плотные векторы размерности 384, нормализует их и позволяет сравнивать по косинусному сходству. Модель основана на BERT; максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и извлечения релевантных текстов, в том числе в научных материалах по тематике SciFact. В обучающем наборе 47 241 пример с тройками текстов; использовалась функция потерь MultipleNegativesRankingLoss. Она рассчитана на английский текст и подходит для поиска и ранжирования фрагментов по смысловой близости. Для использования нужны совместимые библиотеки, например Sentence Transformers. Карточка не сообщает лицензию, поэтому условия распространения и коммерческого использования следует уточнить на странице репозитория Hugging Face.

SemCSE_cosine — модель для получения векторных представлений научных аннотаций и предложений, разработанная группой CLAUSE Билефельдского университета. Она основана на DeBERTa v2 и дообучена на KISTI-AI/Scideberta-full; содержит 211,6 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для семантического поиска научных публикаций, кластеризации аннотаций и предложений, а также других задач сравнения и анализа текстовых эмбеддингов. В отличие от основной модели SemCSE, для вычисления сходства в пространстве эмбеддингов эта версия использует косинусное сходство. Разработчики сообщают о высоких результатах на собственном семантическом научном бенчмарке и SciRepEval. Модель рассчитана преимущественно на английский язык и научные тексты. Для работы с ней нужны Transformers и подходящий способ сравнения эмбеддингов; размер входа ограничен контекстом в 512 токенов. Лицензия — MIT.

Ita-Search — плотная модель эмбеддингов на базе Qwen3-Embedding-0.6B, дообученная для семантического поиска на итальянском языке. Её разработчик — DeepMount00. Модель преобразует запросы и документы в векторы размерностью 1024; сходство оценивается косинусной мерой. Максимальная длина последовательности — 32 768 токенов. Модель предназначена для поиска итальянских документов по запросам, ранжирования passages, поиска в академических и технических материалах, систем вопросов и ответов и баз знаний. Она ориентирована на понимание разговорных запросов и итальянской терминологии; в обучающих данных представлены медицина, STEM, финансы, право, сельское хозяйство, разработка ПО и другие области. Модель использует библиотеку Sentence Transformers и формат safetensors. Лицензия — Apache-2.0. Она оптимизирована для итальянского языка, а качество может снижаться на узкоспециализированных темах, не представленных в обучении.

OGBert-110M-Sentence — модель эмбеддингов предложений на базе ModernBERT, разработанная автором репозитория mjbommar. Она предназначена для представления глоссариев и специализированных текстов в виде векторов, которые можно сравнивать по смыслу и использовать для кластеризации и поиска документов. Архитектура включает ModernBERT, усреднение токенов и L2-нормализацию; в README указано 110 млн параметров, а метаданные сообщают 138,4 млн. Контекст — до 1024 токенов. Модель обучалась на корпусе специализированных словарных статей OpenGloss и заявлена для английского языка. В описанных оценках модель показала результаты для кластеризации документов, тематического поиска и сходства слов; README приводит метрики на небольших наборах данных, поэтому они не гарантируют аналогичного качества на других доменах. Модель принимает текст и выдаёт нормализованные векторы. Лицензия — Apache-2.0.

Vietnamese_Embedding — модель Sentence Transformer, разработанная nrl-ai и дообученная на базе BAAI/bge-m3 для улучшения поиска по вьетнамским текстам. Она преобразует запросы и документы в векторы размерностью 1024; для сравнения используется скалярное произведение. Обучение проводилось примерно на 300 тысячах троек «запрос, релевантный документ, нерелевантный документ». README указывает максимальную длину последовательности 2048 токенов, тогда как метаданные каталога указывают нативный контекст 8194 токена. Модель предназначена для семантического поиска и извлечения релевантных документов на вьетнамском языке. В README приведена оценка на наборе Legal Zalo 2021, который не использовался при обучении: Accuracy@1 — 0,7274, MRR@10 — 0,8181. Метаданные также отмечают поддержку извлечения признаков и сходства предложений. Лицензия — Apache 2.0.

SciBERT — предварительно обученная языковая модель на архитектуре BERT, разработанная Allen Institute for AI для работы с научными текстами. Модель содержит 137,1 млн параметров и обучена на полном тексте 1,14 млн научных статей из Semantic Scholar, общим объёмом 3,1 млрд токенов. Для неё создан собственный словарь WordPiece scivocab, лучше соответствующий научному корпусу; эта версия сохраняет регистр символов. SciBERT служит основой для задач понимания научного текста, например классификации, извлечения сущностей и ответов на вопросы после соответствующего использования или дообучения. Это текстовая модель для английского языка с максимальной длиной контекста 512 токенов. Доступны веса PyTorch и Flax. В карточке не указана лицензия, поэтому условия использования следует проверить в репозитории модели.

DIVER-GroupRank-32B — ранжировщик текстовых фрагментов, обученный авторами работы GroupRank с применением обучения с подкреплением. Модель основана на Qwen/Qwen2.5-32B-Instruct и использует архитектуру Qwen2ForCausalLM с 32 млрд параметров. При ранжировании она получает запрос и небольшую группу кандидатов, сравнивает их с учётом контекста группы и генерирует оценки релевантности для отдельных фрагментов. Модель предназначена для переранжирования результатов информационного поиска, в том числе запросов, требующих рассуждений. Авторы сообщают о результатах на тестах BRIGHT и R2MED и о способности переносить качество на классические задачи поиска. Заявленная в README длина контекста — 40 тысяч токенов; в метаданных каталога указано 32 768 токенов. Поддерживаются китайский и английский языки. Доступны веса в формате safetensors, библиотека — Transformers. Модель подходит для уточнения порядка найденных документов после первичного поиска. Для скоринга она генерирует текстовые оценки, поэтому её применение требует настройки формата входа и обработки выходов; подробности использования и требования к оборудованию в предоставленной карточке не раскрыты. Лицензия — Apache-2.0.

OELLM 9B — 256K context (ABF, θ=64M) — prelude — базовая плотная языковая модель OpenEuroLLM на архитектуре Qwen3. Это продолжение предобучения модели prelude с контекстным окном до 262 144 токенов; модель не настроена для следования инструкциям. В README указаны 9B параметров, тогда как метаданные Hugging Face указывают 8B. Модель поддерживает 37 европейских языков, включая английский, немецкий, французский, испанский, польский и украинский; метаданные подтверждают языковые теги для части этого набора. Модель предназначена для генерации продолжений и работы с длинными текстами, в том числе поиска сведений на разных позициях в контексте до 256K токенов. По оценке single-needle NIAH из README, результат на 256K составил 90% на 185 испытаниях в семи языках; более широкая оценка RULER ещё не проводилась. Для обработки контекста 256K требуется несколько GPU. Для такого режима README рекомендует сохранять rope_theta=64000000 и max_position_embeddings=262144. Модель распространяется по лицензии Apache-2.0. Поскольку это базовая модель без инструкционной настройки, она ориентирована на продолжение текста, а не на диалоговое следование запросам; также отмечен умеренный эффект «потери в середине» контекста.

SciEmbed-FULL — англоязычная модель для построения эмбеддингов научных документов, выпущенная в составе SciEmbed. Она основана на encoder-модели ModernBERT-base размером 149 млн параметров и дообучена на контрастных парах; основным сигналом обучения служили предложения с контекстом цитирования. Модель принимает текст и выдаёт векторные представления, которые можно нормализовать и использовать для сравнения текстов. Модель предназначена для поиска научных публикаций и оценки близости научных текстов, а также для задач классификации и регрессии в научном домене. В README приведены результаты на SciRepEval: общий показатель по четырём категориям составляет 66,85 ± 0,38, усреднённый по трём seed; в репозитории опубликованы веса seed 123. Контекст — до 8192 токенов. Лицензия — MIT. Авторы отмечают, что статья находится на двойном слепом рецензировании.

josedossantos/urf-txtEmenta-legalbertpt — модель Sentence-Transformers на архитектуре BERT, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для поиска семантически близких текстов, кластеризации и сопоставления предложений; обучение использовало контрастивную функцию потерь с косинусной метрикой расстояния. Модель содержит 136,1 млн параметров и принимает текст, выдавая векторные представления. Максимальная длина контекста — 512 токенов. Название указывает на правовые тексты на португальском языке, однако README не уточняет состав обучающих данных или специализированные юридические сценарии. Файлы модели представлены в формате safetensors; лицензия в предоставленных данных не указана.

Карточка модели josedossantos/urf-txtInteiroTeorLimpo-legalbert на Hugging Face совпадает с карточкой josedossantos/urf-txtEmenta-legalbertpt, поэтому описание составлено по ней. josedossantos/urf-txtEmenta-legalbertpt — модель Sentence-Transformers на архитектуре BERT, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для поиска семантически близких текстов, кластеризации и сопоставления предложений; обучение использовало контрастивную функцию потерь с косинусной метрикой расстояния. Модель содержит 136,1 млн параметров и принимает текст, выдавая векторные представления. Максимальная длина контекста — 512 токенов. Название указывает на правовые тексты на португальском языке, однако README не уточняет состав обучающих данных или специализированные юридические сценарии. Файлы модели представлены в формате safetensors; лицензия в предоставленных данных не указана.

AgentCPM-Report — открытая языковая модель-агент для глубокого исследования и подготовки развёрнутых аналитических отчётов. Её совместно разработали THUNLP, RUCBM при Народном университете Китая и ModelBest; модель построена на MiniCPM4.1-8B и содержит 7,9 млрд параметров. Она принимает инструкции и генерирует длинные текстовые отчёты, используя подход Writing As Reasoning Policy (WARP): чередует подготовку черновика на основе свидетельств с углублением рассуждений и пересмотром плана. Заявлена поддержка контекста до 65 536 токенов. Модель предназначена для автономного поиска и синтеза информации, подготовки исследовательских отчётов и работы с локальными базами знаний через UltraRAG. Авторы ориентируют её на локальное офлайн-развёртывание, в том числе в сценариях с конфиденциальными материалами. В карточке описаны исследования с корпусами научных статей и веб-сводок; результаты и заявленное авторами сопоставление с коммерческими системами относятся к их оценкам. Модель распространяется по лицензии Apache-2.0.

Apodex-1.0-2B-SFT — диалоговая модель и инструментальный ReAct-агент для глубокого исследования с проверкой источников. Её разработала команда Apodex на базе Qwen/Qwen3.5-2B; модель дообучена в формате SFT. В каталоге указаны плотная архитектура семейства Qwen3.5 и веса safetensors. Модель принимает текстовые запросы и может выдавать текстовые ответы и вызовы инструментов. Модель предназначена для многошагового поиска и синтеза информации: агент использует инструменты, собирает свидетельства и формирует проверяемые выводы. В карточке также описан режим Apodex-1.0-H с командой специализированных субагентов и глобальным проверяющим, однако это развернутый агентный режим, а не отдельная возможность данного чекпойнта. Для запуска рекомендуются SGLang или vLLM с шаблоном чата Qwen3.5 и поддержкой вызова инструментов. Карточка заявляет сохранение общих возможностей базовой модели, но приведённые результаты показывают, что версия 2B уступает более крупным версиям Apodex на тестах глубокого исследования. Поддерживаемые языки по метаданным — английский и китайский. Лицензия — Apache-2.0.

mlsa-iai-msu-lab разработала компактную многоязычную модель эмбеддингов научных текстов на архитектуре ModernBERT. Модель обучена с нуля: сначала на задаче masked language modeling, затем совместно с контрастивным обучением и дистилляцией от Qwen/Qwen3-Embedding-8B. Для неё также с нуля создан токенизатор, ориентированный на научную терминологию. Модель предназначена для получения векторных представлений научных публикаций на русском, английском и китайском языках. Обучение на аннотациях, парах «название — аннотация», цитированиях и совместных цитированиях помогает сопоставлять семантически близкие тексты, в том числе между языками. Размер модели — 20,1 млн параметров, контекст — до 8192 токенов. Подходит для поиска научных работ по смыслу, сравнения публикаций и межъязыкового поиска. Доступна под лицензией MIT.

Legal BERTimbau — модель эмбеддингов предложений на основе BERTimbau Large, адаптированная авторами stjiris для португалоязычных юридических текстов. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска, сравнения сходства и кластеризации. Модель обучалась на юридических текстах примерно из 30 тысяч документов с использованием MLM, а затем адаптировалась для задачи семантического сходства на португальских наборах ASSIN, ASSIN2 и STS-B Multi-MT. Архитектура — BERT; число параметров составляет 433,2 млн, максимальный контекст — 512 токенов. Модель ориентирована на португальский язык и юридическую лексику. Она подходит для поиска похожих фрагментов и группировки юридических предложений, но не предназначена для генерации текста или самостоятельного юридического консультирования. В метаданных указаны форматы PyTorch и Safetensors; лицензия в предоставленных сведениях не описана.

freelawproject/modernbert-embed-base_finetune_8192 — англоязычная модель эмбеддингов, дообученная Free Law Project на основе nomic-ai/modernbert-embed-base. Она преобразует тексты в плотные векторы размерностью 768 для семантического поиска, сравнения сходства, поиска парафраз, классификации и кластеризации. Модель рассчитана на последовательности до 8192 токенов; архитектура Sentence Transformers использует ModernBert, усреднение токенных представлений и нормализацию векторов. Сходство можно оценивать косинусной мерой. Дообучение выполнено на 351 триплете из набора Free-Law-Project/opinions-synthetic-query-8192: длинные судебные мнения сопоставлялись с короткими релевантными запросами и отрицательными примерами. Это делает модель подходящей для семантического поиска по судебным документам, в том числе по длинным текстам. В карточке приведена оценка cosine_accuracy 1.0 на dev, но данных о размере и независимости этой выборки недостаточно, чтобы считать её гарантией качества в реальном поиске. В метаданных указана лицензия CC0-1.0, тогда как README указывает Apache-2.0; перед использованием следует проверить лицензию репозитория и условия исходной модели. Модель выдаёт эмбеддинги, а не готовые ответы или юридические выводы.