I.12Рекомендации и персонализация
В разделе собраны самостоятельные задачи, где AI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 627 моделейshibing624/text2vec-base-chinese-sentence — модель text2vec, разработанная проектом text2vec. Это дообученный методом CoSENT китайский энкодер предложений на базе nghuyong/ernie-3.0-base-zh. Модель преобразует предложение или короткий абзац в плотный вектор размерностью 768 для сравнения семантической близости; она предназначена для поиска по смыслу, сопоставления текстов, кластеризации и задач sentence-to-sentence. Архитектура основана на ERNIE, размер модели — 144 млн параметров. Контекст модели составляет до 2048 токенов по метаданным, а карточка указывает усечение входа после 256 word pieces. Модель обучена на отобранных китайских данных семантической близости shibing624/nli-zh-all и рассчитана прежде всего на китайский язык. Она выдаёт векторные представления, пригодные для поиска и ранжирования по косинусной близости. По карточке приведены оценки на китайских наборах NLI и STS, но они не дают гарантии качества на других языках и доменах. Распространяется по лицензии Apache-2.0.
VEJI-V2 — компактная модель типизированного выбора кандидата и принятия структурированных решений, опубликованная racore. Это не генеративная языковая модель: она получает контекст, вопрос или инструкцию и список вариантов, совместно оценивает варианты и возвращает лучший ответ, вероятности, оценку уверенности и фрагменты контекста, использованные для решения. Модель использует замороженный многоязычный энкодер paraphrase-multilingual-MiniLM-L12-v2, маршрутизацию свидетельств, рекуррентное уточнение с GRUCell и признаки точного совпадения, чисел, отрицаний и токенов кода. Обучаемая часть содержит около 3,28 млн параметров без учёта энкодера. Модель предназначена для классификации, маршрутизации запросов, извлечения ответа из заданных вариантов, проверок политик, семантического сопоставления, анализа кода и многошаговых вопросов по контексту. В README заявлена обработка контекста до 250 000 символов с повторным использованием закодированного состояния; тестовая точность составила 82,95% на выборке из 522 вопросов. Указаны английский и арабский языки, формат PyTorch и лицензия MIT. Ответ ограничен предоставленными вариантами, поэтому качество зависит от их полноты и формулировок. Оценка основана на небольшой выборке; в ней слабы ранжирование, планирование, временной порядок, некоторые числовые проверки и предсказание точного вывода кода. Начальная компиляция длинного контекста может быть затратной, а полный тест на длинном контексте не завершился.
nguyenthanhhoa03 выпустил дообученную Sentence Transformer-модель на базе VoVanPhuc/sup-SimCSE-VietNamese-phobert-base. Она преобразует вьетнамские предложения и абзацы в плотные векторы размерности 768 для семантического поиска и извлечения релевантных текстов. Архитектура использует RoBERTa с усреднением токенных представлений; сходство векторов можно оценивать косинусной мерой. Модель работает с текстом, максимальная длина последовательности — 258 токенов по метаданным. Модель подходит для поиска по смыслу и сравнения предложений на вьетнамском языке. В README указан лимит 256 токенов, тогда как метаданные указывают 258; учитывайте лимит, заданный используемой конфигурацией. Лицензия в предоставленных данных не приведена.
XProvence-reranker-bgem3-v1 — многоязычная модель Naver Labs Europe для сокращения контекста в системах генерации с дополнением извлечёнными данными (RAG). По вопросу пользователя и найденному текстовому фрагменту она отбирает релевантные предложения, удаляет лишние и выдаёт оценку релевантности, которую можно использовать для переранжирования. Модель рассчитана прежде всего на ответы на вопросы и совместима с разными LLM. Модель основана на BAAI/bge-reranker-v2-m3 и дообучена для предсказания маски предложений при сохранении способности ранжировать пары «вопрос — фрагмент». Архитектура XLM-RoBERTa, около 658,7 млн параметров по метаданным и контекст до 8194 токенов. README сообщает о 16 языках с нативной поддержкой и переносе на более чем 100 языков; среди языков обучения указаны арабский, бенгальский, английский, испанский, персидский, финский, хинди, индонезийский, японский, корейский, русский, суахили, телугу, тайский и китайский. Французский также указан в метаданных и описании обучения. Модель помогает уменьшить шум в контексте и ускорить последующую генерацию. README отмечает, что обучение использовало фрагменты размером примерно с абзац, хотя заявленная длина контекста составляет 8192 токена; эффективность порога отсечения следует настраивать под сценарий. Лицензия в метаданных — CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных материалов.
Vsevolod/company-names-similarity-sentence-transformer — модель на базе BERT для получения плотных векторных представлений предложений и абзацев. Она содержит 25,9 млн параметров, выдаёт эмбеддинги размерностью 384 и поддерживает контекст до 512 токенов. Модель предназначена для семантического поиска и кластеризации текстов; название репозитория указывает на применение для сравнения названий компаний. Обучение использовало CosineSimilarityLoss. Модель работает с текстом и предназначена для использования с библиотекой Sentence-Transformers. В карточке не указаны языки и лицензия, поэтому нельзя определить языковой охват и условия использования.
Diver-Retriever-0.6B — модель текстовых эмбеддингов и ранжирования AQ-MedAI, дообученная на Qwen/Qwen3-Embedding-0.6B. Она предназначена для семантического поиска и сопоставления запросов с документами, в том числе в задачах, требующих рассуждений. При обучении использовались данные по математике, программированию и медицине с подобранными по сложности негативными примерами. Модель поддерживает китайский и английский языки, имеет 507,6 млн параметров и контекст до 32 768 токенов; архитектура относится к семейству Qwen3. README отмечает результаты на Bright и MTEB-Medical, но не приводит здесь полные таблицы оценок. Распространяется в формате safetensors по лицензии Apache-2.0.
LightOn-rerank-LW-4B — мультимодальная модель-реранкер от LightOn для повышения релевантности результатов поиска. Это генеративный listwise cross-encoder на базе Qwen/Qwen3.5-4B с гибридной архитектурой линейного и полного внимания; модель содержит около 4,5 млрд параметров и опубликована в формате bfloat16 весов Safetensors. Она совместно дообучена на текстовых фрагментах и изображениях страниц документов. На вход модель принимает текстовый запрос и до четырёх кандидатов — текстовых отрывков или изображений страниц PDF, слайдов и сканов. Она генерирует порядок кандидатов; для больших наборов применяется скользящее окно размером 4 с шагом 2. Реранкер предназначен для второго этапа поискового конвейера после BM25, плотного поиска или ColPali-подобного извлечения. В описанном протоколе ViDoRe V3 модель показала nDCG@10 64,69 и превзошла указанный в карточке Qwen3-VL-Reranker-8B. Модель обучалась на английских данных; французский поддерживается благодаря переносу с многоязычной базовой модели, но качество в среднем немного ниже английского. Listwise-декодирование на версии 4B требует существенно больше времени: при переранжировании 100 кандидатов оно примерно в пять раз медленнее pointwise-модели 2B. Для запуска README указывает transformers версии 5.4.0 или новее и необходимость добавить пустой thinking-блок перед генерацией. Лицензия — Apache-2.0.
OctopusMind/longbert-embedding-8k-zh — модель эмбеддингов на основе BERT для вычисления сходства между предложениями на китайском языке. Она основана на bert-base-chinese: исходные позиционные кодировки заменены на ALiBi, что позволяет обрабатывать последовательности длиной до 8192 токенов. В карточке указана поддержка дообучения методом CoSENT. Модель предназначена для получения векторных представлений текстов и сравнения их косинусного сходства, в том числе для поиска близких по смыслу формулировок и семантического поиска. Веса опубликованы в формате PyTorch, лицензия — Apache-2.0. Размер модели составляет 129,5 млн параметров.
NeoMME-260M-Retriever-ST-late — мультиязычный мультимодальный энкодер для поиска документов, разработанный Hcompany. Модель дообучена на базе Hcompany/NeoMME-260M-Retriever и использует общий двунаправленный Transformer-энкодер для текстовых запросов и документов в текстовом виде или как изображения страниц. Она предназначена для извлечения многовекторных представлений и ранжирования документов по сходству с запросом с помощью позднего взаимодействия MeanMaxSim. Модель содержит 366 млн параметров, работает с контекстом до 16 384 токенов и распространяется в формате safetensors через Sentence Transformers. Обучение охватывало текстовый поиск и поиск по изображениям страниц; заявлена мультиязычная поддержка. Лицензия — Apache-2.0. Версия ST-late предназначена для независимой настройки многовекторной головы. В Sentence Transformers она генерирует только многовекторные эмбеддинги; одновременно использовать обе головы поиска нельзя.
sentence-transformers/nli-bert-large-max-pooling — модель sentence-transformers, обученная командой Sentence Transformers на основе архитектуры BERT. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для поиска семантически близких текстов и кластеризации. Модель поддерживает получение эмбеддингов и оценку сходства предложений; доступна с библиотекой sentence-transformers и в форматах PyTorch, TensorFlow, ONNX и OpenVINO. Максимальная длина контекста — 512 токенов. Лицензия Apache-2.0. Модель помечена авторами как устаревшая: качество её эмбеддингов низкое, поэтому для новых проектов рекомендуется выбрать более современную модель эмбеддингов. Карточка не указывает специальные языковые или предметные ограничения.
Модель opensearch-neural-sparse-encoding-doc-v2-distill разработана участниками OpenSearch для поиска по документам. Это разреженный энкодер на базе DistilBERT с 67 млн параметров, обученный для поиска и извлечения документов. Он преобразует документ в разреженный вектор размерности 30 522: индексы ненулевых элементов соответствуют токенам словаря, а значения отражают их важность. Для запроса в описанном сценарии используется токенизатор и таблица весов, а релевантность вычисляется как скалярное произведение векторов запроса и документа. Модель предназначена для семантического поиска и поиска фрагментов в корпусах документов, в том числе в OpenSearch с обратным индексом Lucene. В сравнении на подмножестве BEIR модель показала средний NDCG@10 0,528; результаты различаются по наборам данных. Поддерживается английский язык, контекст — до 512 токенов. Репозиторий предоставляет веса PyTorch и Safetensors, модель совместима с Sentence Transformers и API Hugging Face. Лицензия — Apache 2.0.
KhoaUIT/Phobert-UIT-R2GQA — модель Sentence Transformer на архитектуре RoBERTa, обученная на датасете R2GQA. Она преобразует предложения и абзацы в плотные векторы размерности 768 и сравнивает их косинусным сходством; модель подходит для оценки семантической близости, семантического поиска, поиска перефразировок, классификации и кластеризации текста. В Sentence Transformers используется усреднение токенных представлений, максимальная длина последовательности составляет 256 токенов, а контекст модели — 258 токенов. Модель ориентирована на вьетнамский язык и вопросы и ответы по датасету R2GQA. Её можно применять для поиска релевантных фрагментов и группировки похожих текстов. В README не приведены результаты оценки качества или условия лицензии, поэтому их нельзя уточнить по доступным сведениям.
syubraj/sentence_similarity_nepali_v2 — модель Sentence Transformers, дообученная разработчиком на базе Rajan/NepaliBERT для представления непальских предложений и абзацев в виде плотных векторов. Она построена на архитектуре BERT, содержит 95 млн параметров и использует усреднение токенных представлений; размерность вектора — 768, функция сходства — косинусная. Максимальная длина входа составляет 512 токенов. Модель предназначена для оценки семантического сходства текстов и может применяться для семантического поиска, поиска перефразирований, кластеризации и классификации текста. В README приведена оценка на непальском наборе STS-B: корреляция Спирмена для косинусного сходства составляет 0,6623. Для использования нужны непальские предложения или абзацы; на выходе модель формирует векторы, которые можно сравнивать по косинусному сходству. Модель распространяется в формате Safetensors, лицензия в предоставленных данных не указана.
SPLADE Sparse Encoder — англоязычная модель на базе BERT, дообученная авторами репозитория tomaarsen от Luyu/co-condenser-marco на датасете MS MARCO с помощью Sentence Transformers. Она преобразует предложения и абзацы в разреженные векторы размерности 30 522 и предназначена для семантического поиска и разреженного извлечения документов; релевантность оценивается скалярным произведением векторов. Модель принимает последовательности длиной до 512 токенов и использует BertForMaskedLM с max pooling и активацией ReLU. Модель подходит для поиска документов по запросам и ранжирования кандидатов в англоязычных поисковых системах. В README приведены оценки на наборах NanoMSMARCO, NanoNFCorpus и NanoNQ. Модель распространяется по лицензии Apache-2.0. Она ориентирована на английский язык и разреженный поиск; результаты зависят от корпуса и поисковой настройки.
Это англоязычный разреженный энкодер SPLADE, разработанный tomaarsen и дообученный на базе Luyu/co-condenser-marco с использованием Sentence Transformers и данных MS MARCO. Модель преобразует предложения и абзацы в разреженные векторы размерностью 30 522, пригодные для поиска и ранжирования текстов по скалярному произведению. Архитектура включает BERT с MLM-головой и пулинг SPLADE; максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и разреженного извлечения документов, например поиска ответов по запросам в коллекции текстов. В карточке приведены результаты оценивания на наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR. Поддерживается английский язык. Лицензия — Apache-2.0.
Карточка модели Gnartiel/vietnamese-sbert на Hugging Face совпадает с карточкой keepitreal/vietnamese-sbert, поэтому описание составлено по ней. keepitreal/vietnamese-sbert — модель Sentence-Transformers на архитектуре RoBERTa, содержащая 162,4 млн параметров. Она преобразует предложения и абзацы на вьетнамском языке в плотные векторы размерностью 768 для сравнения семантической близости, поиска и кластеризации. Модель принимает текст и выдаёт эмбеддинги; её контекст ограничен 258 токенами. Модель подходит для семантического поиска по вьетнамским текстам, группировки похожих предложений и оценки их смыслового сходства. В README указано обучение с CosineSimilarityLoss. Доступные файлы представлены в формате PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.
MaxNoichl/discipline-tuned_specter_2_024 — Sentence Transformers-модель, дообученная на базе научного энкодера allenai/specter2_aug2023refresh_base. Она кодирует предложения и абзацы в плотные векторы размерности 768; архитектура включает BERT, усредняющий пулинг токенов и нормализацию. Максимальная длина входа — 512 токенов, сходство векторов можно оценивать косинусной мерой. Модель предназначена для поиска и сравнения текстов, в том числе семантического поиска, сопоставления научных материалов, кластеризации и поиска перефразировок. README указывает на дообучение с TripletLoss на наборе из 43 494 примеров и сообщает cosine accuracy 0,971 на оценке TripletEvaluator для указанного теста. Это не гарантирует аналогичного качества на других данных. Веса опубликованы в формате safetensors; модель рассчитана на использование с библиотекой Sentence Transformers. Поддерживаемая лицензия в предоставленных данных не указана.
Diabase embedding-1 — модель эмбеддингов, разработанная Diabase для семантического поиска и извлечения документов. Она построена на энкодере EuroBERT-210m, дообученном сначала на шведских текстах, а затем на парах запрос–документ с контрастивным обучением. Модель содержит около 211,7 млн параметров; её архитектура включает mean pooling и L2-нормализацию, а контекст составляет до 8192 токенов. Для работы используются Sentence Transformers и формат safetensors. Модель предназначена прежде всего для поиска по частным коллекциям шведских документов и для первого этапа локальных и on-prem RAG-систем. Также она подходит для кластеризации запросов и документов, поиска дубликатов и генерации кандидатов для последующего переранжирования. Модель выдаёт векторы, но не генерирует текст и не отвечает на вопросы напрямую. Лицензия — Apache-2.0. Это исследовательская предварительная версия, которую разработчик не рекомендует использовать как производственный вариант по умолчанию. Основной язык оптимизации — шведский, и качество для других языков может быть ниже. Качество поиска на длинных фрагментах не подтверждено на всём контексте в 8192 токена; модель может пропускать точные идентификаторы, числа и редкие термины, поэтому полезен гибридный поиск. Оценки сходства не являются калиброванными вероятностями и не подтверждают достоверность документа.
RAG-Instruct-Llama3-8B — текстовая языковая модель Freedom Intelligence, дообученная на наборе RAG-Instruct для улучшения ответов в сценариях генерации с дополнением извлечёнными документами (RAG). Она основана на плотной архитектуре Llama 3.1 с 7,5 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; интерфейс также поддерживает вызов инструментов. Контекст модели — до 131 072 токенов, основной язык карточки — английский. Модель предназначена для ответов на вопросы по найденным документам и других задач, где ответ нужно формировать с опорой на контекст. В README приведены улучшенные результаты относительно исходной Llama 3.1 8B на нескольких наборах оценки RAG, включая вопросы по Википедии, научным и медицинским материалам. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не уточняет ограничения по доменам, фактической точности или безопасности ответов.
Self-RAG Llama2 13B — языковая модель семейства Llama, разработанная командой Self-RAG. Она генерирует ответы на разнообразные запросы и специальные токены рефлексии, с помощью которых может адаптивно обращаться к системе поиска и оценивать собственные ответы и найденные фрагменты. Модель обучена на инструкционных данных с чередованием текстовых фрагментов и токенов рефлексии; при генерации эти токены используются для выбора ответа с учётом предпочтений пользователя. Модель предназначена для генерации ответов с подключённым поиском, а также для сценариев, где требуется оценивать и отбирать ответы и извлечённые материалы. Для полноценного инференса с поисковой системой и древовидным декодированием авторы предлагают использовать код проекта; README также описывает запуск с заранее предоставленными фрагментами. Модель содержит 12,9 млрд параметров, имеет контекст 4096 токенов и принимает текстовые инструкции. Доступна в формате PyTorch под лицензией MIT.
Smaug-34B-v0.1 — языковая модель семейства Llama, разработанная Abacus.AI и дообученная на базе jondurbin/bagel-34b-v0.2. Она содержит 33,9 млрд параметров, использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалоговых сценариев. Модель обучена методом DPO-Positive (DPOP) на предпочтениях ответов, включая варианты наборов ARC, HellaSwag и MetaMath. Авторы сообщают о результатах на ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K. Модель подходит для диалоговых помощников, ответов на вопросы и задач рассуждения, в том числе математических. В метаданных заявлено контекстное окно до 200 000 токенов; формат весов — Safetensors. Лицензия — Apache 2.0. README описывает один набор результатов, поэтому их не следует считать гарантией качества для любых задач; возможны ошибки и неточные ответы.
Это англоязычный разреженный поисковый энкодер SPLADE, разработанный tomaarsen и дообученный на наборах вопрос–пассаж MIRIAD 4.4M от базовой модели Luyu/co-condenser-marco с использованием sentence-transformers. Модель на основе BERT преобразует предложения и абзацы в разреженные векторы размерностью 30 522; для сопоставления используется скалярное произведение. Модель предназначена для семантического поиска и разреженного извлечения документов, в том числе поиска пассажей по запросам. Максимальная длина входной последовательности — 512 токенов. Распространяется по лицензии Apache-2.0.
vectorizer.hazelnut — модель-векторизатор компании Sinequa для поиска релевантных фрагментов текста. Она кодирует запросы и passages в векторы размерностью 256: векторы документов сохраняются в векторном индексе, а вектор запроса используется для поиска подходящих фрагментов. Модель основана на mMiniLMv2-L6-H384-distilled-from-XLMR-Large и использует архитектуру XLM-RoBERTa; в метаданных указано 110,2 млн параметров, а в карточке — 107 млн. Контекст составляет до 514 токенов. Модель обучалась и проверялась на английском, французском, немецком, испанском, итальянском, нидерландском, японском, португальском, китайском и польском языках. Она нечувствительна к регистру и диакритическим знакам. Карточка приводит показатели Recall@100 для нескольких наборов поиска, включая среднее 0,590 для английских данных BEIR и 0,543 для польских данных; результаты зависят от языка и набора данных. Также заявлена базовая поддержка других языков предобучения XLM-R. Для работы указаны Sinequa версии 11.10.0 или новее и CUDA с compute capability выше 7.5. Лицензия в предоставленных данных не описана.
biencoder-mMiniLMv2-L12-mmarcoFR — плотный двубашенный энкодер от Antoine Louis для семантического поиска на французском языке. Он кодирует запросы и passages в векторы размерности 384 и оценивает их релевантность по косинусному сходству. Модель построена на XLM-RoBERTa и дообучена на французской части mMARCO — многоязычного машинного перевода MS MARCO; в метаданных указано 124,3 млн параметров и контекст до 514 токенов. Модель предназначена для поиска подходящих фрагментов в больших корпусах, в том числе для семантического поиска по миллионам passages. Для представленных в README экспериментов использовалась максимальная длина запросов и passages 128 токенов. Модель распространяется по лицензии MIT. Оценка проводилась на наборе mMARCO-fr с 6 980 запросами и корпусом из 8,8 млн passages. Эти результаты относятся к французскому поиску и сами по себе не гарантируют качество на других языках или предметных областях.
colbertv1-camembert-base-mmarcoFR — модель ColBERTv1 для семантического поиска на французском языке, созданная Antoine Louis на основе camembert-base. Она кодирует запросы и фрагменты документов в матрицы векторных представлений токенов и ранжирует фрагменты по контекстному сходству с помощью MaxSim; модель предназначена для поиска по крупным коллекциям и извлечения документов для систем RAG. Модель дообучена на французской части mMARCO — машинно переведённой версии MS MARCO. В README указаны размерность представлений 128, максимальная длина запроса 32 токена и фрагмента 256 токенов; метаданные указывают 137,8 млн параметров и нативный контекст 514 токенов. На тестовом наборе mMARCO-fr с 8,8 млн фрагментов она показала MRR@10 29,5 и R@100 80,0. Модель рассчитана на франкоязычный поиск по текстовым запросам и коллекциям документов. Индекс коллекции из 8,8 млн фрагментов в описанной конфигурации занимает около 28 ГБ. Лицензия — MIT.
apple/DFN-public — контрастивная модель CLIP ViT-B/32 от Apple, обученная на общедоступных данных Conceptual Captions 12M, Conceptual Captions 3M и Shutterstock 15M. В ходе обучения модель обработала 1,28 млрд примеров. Она сопоставляет изображения и текст и предназначена для классификации изображений по текстовым описаниям без дополнительного обучения: пользователь задаёт варианты классов, а модель оценивает соответствие изображения каждому из них. Модель подходит для быстрой разметки изображений по заданным категориям и поиска изображений по текстовым запросам. Это конверсия исходных контрольных точек JAX в PyTorch; в метаданных указана лицензия apple-amlr. README не приводит подробных ограничений точности или перечня поддерживаемых языков, поэтому результаты следует проверять для конкретных данных и формулировок.
shanaka95/embeddinggemma-300m-rag-stage1 — дообученная модель эмбеддингов на базе google/embeddinggemma-300m, разработанная для поиска документов в корпоративных RAG-системах. Она преобразует текстовые запросы и документы в векторы, пригодные для сравнения по косинусной близости. Для запросов и документов предусмотрены отдельные подсказки query и document. Модель основана на плотной текстовой архитектуре Gemma 3 и содержит 302,8 млн параметров. Контекст — до 2048 токенов; модель принимает и обрабатывает текст на английском языке. Дообучение на 200 000 парах вопрос—документ из EnterpriseRAG-Bench использовало MultipleNegativesRankingLoss и MatryoshkaLoss с размерами эмбеддингов 768, 512, 256 и 128. В оценке на подмножестве бенчмарка модель показала Recall@1 0,3933 против 0,1750 у базовой модели; результаты получены на 89 вопросах и корпусе из 5000 документов. Модель предназначена для семантического поиска и извлечения релевантных документов в RAG-сценариях. Для корректного поиска корпус необходимо заново закодировать этой моделью: эмбеддинги базовой модели находятся в другом векторном пространстве. Лицензия — Gemma; этап 2 дообучения с подбором сложных негативных примеров в карточке указан как находящийся в процессе.
Finnish ModernBERT large — плотная encoder-модель семейства ModernBERT, разработанная TurkuNLP и обученная на суперкомпьютере LUMI. Она содержит около 400 млн параметров, имеет 28 слоёв и поддерживает контекст длиной 16 000 токенов; в карточке также указана теоретическая возможность экстраполяции до 128 000 токенов. Модель предобучена на финском, шведском, английском, коде, латыни и северносаамском языках. Основная задача модели — предсказание замаскированных токенов. Её можно использовать как основу для задач понимания текста на финском, шведском и английском, а также для поиска и извлечения информации; в оценке авторов модели показали сильные результаты в междоменном поиске. Для прикладного использования в конкретных задачах может потребоваться дообучение. Модель распространяется по лицензии Apache-2.0. Оценки показывают конкурентоспособность на задачах понимания текста с коротким контекстом, однако XLM-R-large был сильнее в этой группе сравнений. Обучающие данные содержат предвзятые и потенциально вредные материалы и не фильтровались на токсичность, поэтому представления модели требуют оценки с учётом возможного отражения этих свойств.
flammen3X — объединённая текстовая модель на архитектуре Mistral, созданная flammenai с помощью mergekit методом SLERP из flammen3 и Maidphin-Kunoichi-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговые сценарии; максимальный контекст составляет 32 768 токенов. Веса объединены в формате safetensors и представлены в bfloat16. Карточка не описывает отдельную специализацию по предметной области или языкам. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
bicolino34 выпустил модель Sentence Transformer, дообученную на базе sentence-transformers/LaBSE на 13 304 парах предложений из японского и украинского языков. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для сопоставления смысла текстов, семантического поиска и поиска парафраз; близость векторов оценивается косинусным сходством. Модель построена на архитектуре BERT, использует библиотеку Sentence Transformers и принимает текст.