I.1Поиск и навигация по информации

ytu-ce-cosmos/modernbert-tr-reranker — турецкий cross-encoder-реранкер на базе ModernBERT с 148,7 млн параметров. Он оценивает релевантность пары «запрос — документ» и предназначен для повторной сортировки результатов, найденных первичным поисковым движком. Контекст модели — до 8192 токенов; репозиторий содержит веса Safetensors и ONNX-граф для запуска через ONNX Runtime. Модель разработана ytu-ce-cosmos и дистиллирована из Qwen/Qwen3-Reranker-8B методом listwise KL на данных для турецкого поиска и ответов на вопросы. В тестах с повторной сортировкой первых 100 результатов прирост NDCG@10 составил от 9,27 до 17,74 пункта на наборах SciFactTR, SquadTRRetrieval и ArguAnaTR; абсолютное качество зависит от первичного ретривера. Модель рассчитана на турецкоязычный поиск, включая вопросы и контраргументы. Для чувствительных к качеству сценариев автор рекомендует FP32: INT8 ONNX может заметно менять порядок оценок. Из-за недостатка длинных текстов в обучении качество на длинном контексте может снижаться. Лицензия — Apache-2.0.

Карточка модели Tool-COLT/msmarco-bert-co-condensor-v1-ToolBenchG2 на Hugging Face совпадает с карточкой MassTool/contriever-base-msmarco-v1-ToolBenchG2, поэтому описание составлено по ней. MassTool/contriever-base-msmarco-v1-ToolBenchG2 — модель Sentence-Transformers на базе архитектуры BERT, преобразующая предложения и абзацы в плотные векторы размерности 768. Она предназначена для поиска семантически близких текстов, семантического поиска и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторные представления; в README также описано обучение с MultipleNegativesRankingLoss и косинусным сходством. Данных о целевых языках и специализации на конкретной предметной области нет.

Карточка модели sangmini/msmarco-cocondensor-MiniLM-L12_en-ko-ja на Hugging Face совпадает с карточкой sangmini/msmarco-cotmae-MiniLM-L12_en-ko-ja, поэтому описание составлено по ней. sangmini/msmarco-cotmae-MiniLM-L12_en-ko-ja — модель Sentence-Transformers для преобразования предложений и абзацев в плотные векторные представления размерности 1536. Её можно применять для семантического поиска и кластеризации текстов. Модель построена на архитектуре BERT и содержит 124,3 млн параметров; максимальная длина контекста составляет 512 токенов. В карточке указано обучение с функцией потерь MSELoss. Репозиторий содержит веса в формате PyTorch. Лицензия в доступных данных не указана. Оценка на конкретных наборах или ограничения качества в карточке не описаны.

sieu-n/msmarco-distilbert-cos-v5_en-ko-ja_10epoch — модель Sentence-Transformers на архитектуре XLM-RoBERTa для получения плотных векторов предложений и абзацев размерности 768. Она предназначена для поиска семантически близких текстов и кластеризации; в README указано обучение с MSELoss. Метаданные указывают 305,2 млн параметров, контекст до 514 токенов и формат PyTorch. По названию репозитория модель ориентирована на английский, корейский и японский языки. Модель подходит для построения семантического поиска и сравнения текстов через эмбеддинги. README не приводит количественных результатов оценки, поэтому качество на конкретных данных следует проверять отдельно. Лицензия в предоставленных данных не указана.

cross-encoder/msmarco-MiniLM-L6-en-de-v1 — компактная модель cross-encoder на архитектуре BERT, разработанная Sentence Transformers и дообученная на задаче ранжирования пассажей MS MARCO. Она оценивает релевантность пары «запрос — документ» и предназначена для повторного ранжирования результатов информационного поиска. Модель поддерживает английские и немецкие запросы и документы, включая англо-английский, немецко-английский и немецко-немецкий сценарии. Размер модели — 110,2 млн параметров, максимальная длина контекста — 512 токенов. Модель показала улучшение ранжирования относительно BM25 в приведённых оценках TREC-DL19 и GermanDPR; указанная скорость составляет 1600 пар «запрос — документ» в секунду на GPU V100. Её можно применять как второй этап поиска после первичного извлечения кандидатов. Лицензия — Apache-2.0.

cross-encoder/ms-marco-TinyBERT-L2-v2 — компактный кросс-энкодер на архитектуре BERT, дообученный на задаче ранжирования отрывков MS MARCO. Модель разработана командой Sentence Transformers и предназначена для информационного поиска: она оценивает релевантность пары «запрос — отрывок», после чего найденные документы можно отсортировать по оценке. Обычно её используют как второй этап поиска после первичного отбора кандидатов, например поисковой системой ElasticSearch. Модель содержит 4,4 млн параметров, принимает текст и выдаёт оценку релевантности; максимальная длина входа — 512 токенов. Основной язык — английский. В приведённом сравнении модель показывает NDCG@10 69,84 на TREC Deep Learning 2019 и MRR@10 32,56 на тестовой выборке MS MARCO; в замерах на V100 указана скорость 9000 документов в секунду. Доступны форматы PyTorch, Safetensors, ONNX, OpenVINO и Flax. Лицензия — Apache-2.0.

cross-encoder/ms-marco-TinyBERT-L4 — компактная модель семейства BERT от Sentence Transformers, дообученная на задаче ранжирования фрагментов MS MARCO Passage. Она принимает запрос и кандидатный фрагмент текста совместно и оценивает их релевантность, чтобы упорядочить результаты поиска, например после первичного извлечения документов поисковой системой. Модель предназначена для информационного поиска и повторного ранжирования результатов; в каталоге также указана поддержка классификации текста. Модель содержит 15,6 млн параметров, имеет контекстное окно 512 токенов и рассчитана на английский язык. Доступны веса в форматах PyTorch, safetensors, ONNX, OpenVINO и Flax; для работы в README рекомендуется интерфейс CrossEncoder библиотеки Sentence Transformers. Лицензия — Apache-2.0. Ограничение контекста и обучение на MS MARCO Passage означают, что оценка релевантности может хуже подходить для длинных документов или предметных областей, отличных от поисковых пассажей.

legacy107/multi-qa-mpnet-base-dot-v1-wikipedia-search — модель Sentence-Transformers на базе MPNet, разработанная для преобразования предложений и абзацев в плотные векторы размерности 768. Она предназначена для семантического поиска и кластеризации текстов; в поисковой системе её можно использовать для представления запросов и документов в общем векторном пространстве. Модель содержит 136,7 млн параметров и принимает текстовые последовательности длиной до 514 токенов. Модель обучалась с TripletLoss на евклидовом расстоянии. В карточке не указана лицензия, поэтому условия распространения и использования по имеющимся данным определить нельзя. Заявленные задачи — семантический поиск и кластеризация; качество зависит от соответствия текстов и поискового корпуса обучающим данным.

multi-sentence-BERTino V5 — италоязычная модель Sentence Transformers на архитектуре DistilBERT, разработанная автором репозитория nickprock и дообученная для поиска и сравнения предложений. Она преобразует предложения и абзацы в плотные векторы размерностью до 768 и предназначена для семантического поиска, информационного поиска, подбора контекста для RAG и оценки семантического сходства. Обучение использует Matryoshka Representation Learning: векторы можно усекать до 512, 256 или 128 измерений, сохраняя полезность для поиска; README приводит результаты на итальянских наборах для retrieval и STS. Для retrieval применялись синтетические запросы к абзацам итальянской Википедии с трудными отрицательными примерами, а для сходства — итальянская часть STS-B. Максимальная длина контекста — 512 токенов. Репозиторий содержит форматы ONNX и safetensors и распространяется по лицензии Apache-2.0. Модель рассчитана на итальянский язык и возвращает эмбеддинги, а не готовые текстовые ответы. Метрики приведены для hold-out оценки автора; качество на других доменах и типах данных может отличаться.

Это мульт векторная текстовая модель ColBERT на базе gte-modernbert-base, обученная на парах вопросов и фрагментов текста из набора MIRIAD. Модель разработана авторами репозитория tomaarsen с использованием библиотеки Sentence Transformers; она кодирует текст в последовательность векторов размерности 128 и сравнивает запросы с документами методом позднего взаимодействия MaxSim. Модель предназначена для семантического поиска, в том числе поиска фрагментов документов по вопросу. Поддерживает английский язык и последовательности длиной до 8192 токенов; размер модели — 149 млн параметров. Лицензия Apache-2.0. Ограничение: обучение ориентировано на английские пары «вопрос—фрагмент», поэтому качество для других языков и иных задач не подтверждено.

Это англоязычный многовекторный энкодер для семантического поиска с поздним взаимодействием токенов, разработанный на базе answerdotai/ModernBERT-base и дообученный на 99 тысячах примеров MS MARCO с библиотекой Sentence Transformers. Модель преобразует текст в последовательности 128-мерных векторов на уровне токенов и оценивает соответствие запросов и документов с помощью MaxSim. Модель предназначена для поиска релевантных документов по текстовому запросу и задач информационного поиска. В карточке приведены результаты оценки на наборах NanoMSMARCO, NanoBEIR и других тестах поиска. Максимальная длина последовательности — 8192 токена; лицензия — Apache-2.0. Модель принимает текст и возвращает векторные представления, а не готовые ответы. Для ранжирования требуется вычислять оценку позднего взаимодействия MaxSim; многоязычная поддержка в карточке не заявлена.

NetraEmbed — мультимодальная модель эмбеддингов для поиска по визуальным документам, разработанная Cognitive-Lab на основе Gemma 3 4B IT. BiEncoder кодирует изображение документа и текстовый запрос в плотные векторы, которые можно сравнивать по косинусному сходству для семантического и межъязыкового поиска. Модель поддерживает Matryoshka-представления размерностью 768, 1536 или 2560, выбираемой при инференсе. В README заявлена работа с 22 языками и оценка на наборах Nayana-IR Bench и ViDoRe v2. Для выполнения поиска векторные представления можно использовать с системами вроде FAISS, Milvus и Pinecone. Модель предназначена для поиска по визуальным документам и не является генеративным чат-ботом. Веса основаны на дообучении google/gemma-3-4b-it и распространяются по лицензии Gemma; применимость лицензии следует учитывать при использовании и распространении.

Neurosense Compact GTE R1 — компактная модель эмбеддингов Sharjeelbaig для плотного поиска и сравнения текстов. Она дообучена на базе Supabase/gte-small и использует архитектуру BERT; размер составляет 40 млн параметров, размер чекпойнта — около 128 МБ, размерность эмбеддингов — 384, максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и извлечения релевантных документов по запросу, в том числе при ограничениях на размер и вычислительные ресурсы. В README приведены результаты retrieval-бенчмарка на наборах FiQA, NFCorpus и SciFact и небольшое улучшение MRR@10 относительно предыдущего чекпойнта Neurosense. Модель не генерирует ответы и не претендует на превосходство над крупными моделями эмбеддингов. Модель принимает текст и выдаёт векторные эмбеддинги; для сравнения текстов можно использовать косинусное сходство. В карточке указана поддержка английского языка и библиотека sentence-transformers. Лицензия — MIT.

Карточка модели joteqwork/new_gsev0 на Hugging Face совпадает с карточкой avsolatorio/GIST-small-Embedding-v0, поэтому описание составлено по ней. GIST-small-Embedding-v0 — англоязычная модель текстовых эмбеддингов, разработанная avsolatorio на основе BAAI/bge-small-en-v1.5 и дообученная методом GISTEmbed. Она кодирует текст в векторы для поиска и сравнения предложений; для получения эмбеддингов инструкционные подсказки не нужны, поэтому запросы можно кодировать напрямую. Модель основана на архитектуре BERT, содержит 40 млн параметров и рассчитана на контекст до 512 токенов. Для дообучения использовались набор MEDI и триплеты, полученные из обучающей части MTEB Classification; качество оценивали на MTEB. В README отмечено, что дообучение улучшило результаты на некоторых задачах, но ухудшило на других, включая поиск по TRECCOVID. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия модели — MIT; лицензии сторонних обучающих данных могут иметь дополнительные условия.

api19750904/newspainclass-opt — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не назван в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель содержит около 151,8 млн параметров и принимает текст с контекстным окном 514 токенов. Карточка указывает, что модель обучалась с CosineSimilarityLoss. В репозитории представлены веса PyTorch; метаданные отмечают поддержку эмбеддингов. Лицензия в предоставленных данных не указана.

NoInstruct-small-Embedding-v0 — компактная модель эмбеддингов avsolatorio на архитектуре BERT, предназначенная для поиска и сопоставления предложений. По заявлению автора, она улучшает качество retrieval по сравнению с avsolatorio/GIST-small-Embedding-v0 и позволяет кодировать запросы без составления специальных инструкций. Модель содержит около 40 млн параметров, принимает текст, выдаёт векторные представления и поддерживает контекст до 512 токенов. Модель подходит для семантического поиска, подбора релевантных документов и оценки сходства текстов. В метаданных также указана задача извлечения признаков. Лицензия — MIT. Автор отмечает, что технические детали будут опубликованы позднее; поддержка библиотеки Sentence Transformers заявлена как ожидаемая, поэтому доступные способы применения могут быть ограничены.

Hyukkyu/nv-embed-v2 — перенос модели NV-Embed-v2 от NVIDIA, выполненный для совместимости с Transformers 5.0 и новее. Единственное заявленное изменение — добавление свойства совместимости в класс NVEmbedModel; веса модели основаны на nvidia/NV-Embed-v2 и сохранены в формате safetensors. Модель предназначена для создания текстовых эмбеддингов, используемых в семантическом поиске, сравнении текстов и RAG-сценариях. README отсылает к исходной карточке NVIDIA за сведениями об архитектуре, обучении и оценках качества. Для использования указаны Transformers версии 5.0.0 или новее, PyTorch 2.0 или новее и Python 3.9 или новее. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями лицензии, включая некоммерческий характер.

OCC-RAG-0.6B — компактная языковая модель для ответов на вопросы, основанных на предоставленных источниках. Её разработала команда OCC AI; модель дообучена на базе Qwen/Qwen3-0.6B-Base и содержит около 508 млн параметров. Это плотная причинная языковая модель на архитектуре Qwen3, принимающая текстовый вопрос и список текстовых источников. Контекст модели составляет 32 768 токенов. Модель анализирует вопрос и источники, объединяет свидетельства из нескольких фрагментов, приводит ссылки на источники по их идентификаторам и отвечает только тогда, когда контекст подтверждает ответ. Если данных недостаточно, она может воздержаться от ответа. В карточке описано обучение на синтетических примерах вопросов и ответов с привязкой рассуждений к цитатам и оценивание на задачах многошагового QA, верности контексту и отказа от неподтверждённых ответов. Модель предназначена для RAG-сценариев, например ответов по документам и базам знаний. Она не рассчитана на общие беседы или использование собственных знаний модели; обучение и оценивание охватывали цепочки рассуждений до трёх шагов, поэтому более длинные цепочки находятся вне заявленного распределения. Лицензия — MIT.

OpenProvence reranker xsmall v1 — компактная двуязычная модель переранжирования и отбора предложений для подготовки контекста в системах поиска и RAG. Модель разработана hotchpotch и содержит 30 млн параметров; архитектура — OpenProvence для классификации последовательностей, веса представлены в формате safetensors. Модель принимает вопрос и текстовый контекст, оценивает релевантность предложений и удаляет фрагменты, не относящиеся к запросу. Она предназначена для ускорения поиска нужной информации и сокращения контекста перед передачей его генеративной модели. Поддерживаются английский и японский языки; согласно карточке, xsmall рассчитана на низкую задержку и может работать на CPU. В опубликованных оценках модель сокращала объём контекста, сохраняя ответы на контрольных примерах, но результаты зависят от языка, порога отсечения и набора данных. Модель опубликована под лицензией MIT.

opensearch-project/opensearch-neural-sparse-encoding-doc-v3-distill — модель разреженного поиска OpenSearch Contributors. Она преобразует документы в разреженные векторы размерности 30 522, где индексы соответствуют токенам словаря, а веса отражают их важность. Для запросов используются токенизатор и таблица весов; релевантность оценивается скалярным произведением векторов. Модель предназначена для поиска документов, включая работу с инвертированным индексом OpenSearch. Модель основана на DistilBERT и распространяется в формате safetensors; её можно использовать через Sentence Transformers или в кластере OpenSearch. Контекст ограничен 512 токенами. Карточка описывает обучение на наборах данных для поиска и ранжирования, а также сравнение серии v3 с предыдущими версиями на подмножестве BEIR. Репозиторий содержит Apache-2.0 лицензию.

Sinequa разработала passage-ranker-v1-L-multilingual — модель ранжирования пассажей на основе BERT, которая оценивает релевантность пары «запрос — фрагмент текста» и помогает упорядочивать результаты поиска. В карточке указана архитектура BertForSequenceClassification, а метаданные сообщают о 151,7 млн параметров и контексте до 512 токенов; README приводит оценку в 124 млн параметров. Модель обучена по схеме MonoBERT на базе собственной многоязычной Sinequa BERT-Base. Модель предназначена для повторного ранжирования результатов поиска на английском, французском, немецком и испанском языках. Она нечувствительна к регистру и диакритическим знакам. В тестах BEIR средний NDCG@10 составил 0,471; в MIRACL приведены результаты для французского, немецкого и испанского языков. README указывает минимальную версию Sinequa 11.10.0 и требования к CUDA для GPU-инференса. Условия лицензии в доступных данных не приведены.

Passage Ranker v1 XS EN — англоязычный реранкер компании Sinequa для поиска. Модель получает запрос и текстовый фрагмент, оценивает их релевантность и помогает упорядочить результаты поиска. Это компактная модель на архитектуре BERT-Mini с примерно 12 млн параметров, обученная по схеме MonoBERT; она нечувствительна к регистру и диакритическим знакам. Контекст составляет 512 токенов. Модель предназначена для повторного ранжирования найденных фрагментов и улучшения поиска по запросам на английском языке. В README приведена средняя оценка NDCG@10 0,438 по 14 англоязычным наборам BEIR. Для работы с FP16 требуется GPU с CUDA compute capability выше 6.0, для других указанных режимов — выше 5.0; README также указывает минимальную версию Sinequa 11.10.0. Лицензия в предоставленных сведениях не описана.

PIXIE-Spell-Preview-1.7B — модель эмбеддингов компании TelePIX, построенная на архитектуре Qwen3 и оформленная как Sentence Transformer. Она предназначена для семантического поиска и извлечения релевантных документов по запросам на корейском и английском языках, с особым вниманием к аэрокосмической тематике. Модель содержит 1,7 млрд параметров, формирует векторы размерности 2048 и использует косинусное сходство для сравнения; карточка указывает максимальную длину последовательности 8192 токена, а метаданные — контекст до 40960 токенов. Её можно применять для поиска по технической документации, ответов на вопросы с извлечением источников и построения семантического поиска в аэрокосмических и других предметных коллекциях. В README приведены результаты оценки на корейских и англоязычных наборах для поиска, включая задачи с длинными документами, многошаговыми вопросами и научными материалами. Модель распространяется по лицензии Apache-2.0.

Pleias-Nano — языковая модель Pleias, обученная совместно с Tracto AI для генерации ответов в системах с дополненной поиском генерацией (RAG). Это непрерывное предобучение контрольной точки Pleias-nano-1.2b-Preview на корпусе из примерно 45 млрд токенов, построенном на материалах Common Corpus и охватывающем задачи поиска и работы с источниками. Модель имеет плотную архитектуру Llama с 1,2 млрд параметров, принимает текст и рассчитана на контекст до 2048 токенов. Модель предназначена для ответов на вопросы по предоставленным документам, анализа и критики источников, оценки их релевантности и создания обоснованных ответов с цитатами и выдержками. Она поддерживает английский, французский, немецкий, испанский, итальянский, нидерландский, португальский, латынь и польский языки. Авторы сообщают, что в их оценке RAG модель превзошла Llama 3.2 1.1B и EuroLLM 1.7B; результаты относятся к описанному в README синтетическому многоязычному бенчмарку. Это ранняя версия, уже проверенная и интегрированная в несколько прикладных RAG-проектов. Модель не заменяет полноценную RAG-систему: ошибки поиска и сложные запросы или тексты могут снижать точность, поэтому рекомендуется проверять цитаты и ссылки. Дополнительное выравнивание безопасности не проводилось, и возможны проблемные ответы. Лицензия — Apache-2.0.

polish-reranker-large-ranknet — польская модель для переранжирования результатов поиска, разработанная на основе Polish RoBERTa и обученная с функцией потерь RankNet. Она оценивает релевантность документов запросу и упорядочивает их, используя попарное сравнение документов. Обучение проводилось на 1,4 млн запросов и 10 млн документов: польской части MS MARCO, переведённом на польский ELI5 и наборе польских медицинских вопросов и ответов. Для разметки релевантности использовалась модель unicamp-dl/mt5-13b-mmarco-100k; базовая модель выступала учеником в дистилляции. Модель предназначена для второго этапа информационного поиска: она принимает запрос и найденные документы и выдаёт оценки или ранжированный список. В тесте Polish Information Retrieval Benchmark достигла NDCG@10 62,65; авторы сообщают, что она быстрее и компактнее модели-учителя. Это модель RoBERTa для классификации последовательностей с 533,7 млн параметров, контекстом 514 токенов и форматом safetensors; доступна через Sentence-Transformers и Transformers. Лицензия — Apache-2.0.

AISE-TUDelft/python-parameters-classifier — модель эмбеддингов на базе MPNet, опубликованная AISE-TUDelft. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель обучалась с функцией потерь CosineSimilarityLoss и подходит для построения семантического поиска и группировки текстов по смыслу. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторы; максимальная длина контекста — 514 токенов. В репозитории указаны веса PyTorch и использование через Sentence-Transformers. Лицензия в предоставленных данных не указана.

Это дообученная модель Liquid AI семейства LFM2.5, созданная langleu на основе LiquidAI/LFM2.5-1.2B-Base с применением LoRA и обучающих данных QMD v2. Она предназначена для расширения поисковых запросов: по исходному запросу формирует строки для лексического и векторного поиска, а также HyDE; поддерживает указание намерения запроса и директивы выбора типа расширения. Модель имеет плотную архитектуру Lfm2ForCausalLM и содержит 1,5 млрд параметров. Контекст составляет до 128 000 токенов. В репозитории доступны объединённый BF16-чекпойнт Transformers и варианты GGUF Q4_K_M, Q5_K_M и Q8_0; для QMD следует использовать GGUF. В проверке опубликованного варианта Q5_K_M средняя награда составила 95,17%, соблюдение формата — 100%, сохранение сущностей — 98,31%; результаты проверки относятся к указанному набору данных и не гарантируют аналогичное качество на других запросах. Модель принимает текст запроса и выдаёт текстовые расширения с метками lex, vec или hyde. README не определяет поддерживаемые естественные языки, поэтому языковую специализацию установить нельзя. Производная модель распространяется по LFM Open License v1.0; лицензию необходимо сохранять с условиями атрибуции и коммерческого использования. Лицензия набора данных на зафиксированной версии явно не указана, поэтому пользователям и распространителям следует самостоятельно подтвердить право на его использование.

cross-encoder/qnli-distilroberta-base — англоязычный кросс-энкодер на архитектуре RoBERTa, разработанный и обученный с помощью SentenceTransformers. Модель дообучена на distilbert/distilroberta-base для оценки пары «вопрос — абзац»: она определяет, может ли абзац ответить на вопрос. Обучающие данные основаны на наборе GLUE QNLI, преобразованном из SQuAD в задачу вывода по тексту. Модель содержит 95,2 млн параметров, принимает текстовые пары и выдаёт оценку релевантности, пригодную для ранжирования абзацев по соответствию вопросу. Поддерживает английский язык и контекст длиной до 514 токенов. Доступны веса в форматах PyTorch, safetensors, ONNX, OpenVINO и Flax; лицензия — Apache-2.0. Подходит для поиска ответов в документах и ранжирования кандидатов при вопросно-ответном поиске. Оценка обучена на QNLI и не гарантирует фактическую правильность ответа; результаты за пределами английского языка и заданного контекста не подтверждены.

Qwen-14b-chat-yarn-32k — разработанная yuyijiong версия Qwen-14b-chat, дообученная для работы с длинным контекстом. Это плотная модель семейства Qwen с 21,8 млрд параметров для генерации текста и диалогов. В README описаны обучение с Yarn-интерполяцией и QLoRA, а также адаптация для контекста до 32k токенов; в метаданных указан native context 8192 токена. Модель предназначена для китайского и английского языков: она отвечает на вопросы по длинным текстам, извлекает сведения из нескольких документов, суммирует материалы и поддерживает многоходовый диалог. Авторы сообщают о высокой точности поиска сведений в длинном контексте, включая тесты на 50k токенов, и о снижении эффекта «потери в середине». Для длинных входов рекомендуется размещать документы перед вопросом; для быстрого вывода требуется flash-attention2. Среди ограничений авторы отмечают склонность ответов к излишней многословности, ограниченное разнообразие инструкционных данных и снижение среднего результата на C-Eval с 69,1 до 60,8. Модель выпущена по лицензии CC-BY-NC-4.0, которая ограничивает коммерческое использование.

hanhainebula/qwen3-4b-ft-msmarco — плотная модель семейства Qwen3, дообученная авторами на один эпохе на английской обучающей выборке MSMARCO с помощью FlagEmbedding. Она создана как часть ресурсов ReasonEmbed для получения текстовых эмбеддингов и поиска документов, требующего рассуждений. Репозиторий содержит веса Safetensors; размер модели — около 3,7 млрд параметров, контекст — до 40 960 токенов. Модель подходит для построения векторного поиска по документам и ранжирования текстов по смысловой релевантности, в том числе для запросов со сложным рассуждением. Обучение ориентировано на английские данные. Лицензия Apache-2.0. В README отмечено изменение токенизатора для автоматического добавления EOS-токена.