I.12Рекомендации и персонализация

Recap-CLIP-ViT-L-16-Txt-Huge-2.56B — контрастивная модель UCSC-VLAA для сопоставления изображений и текстовых описаний и классификации изображений по текстовым меткам без дообучения. Она основана на CLIPA с архитектурой OpenCLIP и обучена на Recap-DataComp-1B; в наборе использованы описания изображений, созданные LLaVA-1.5-LLaMA3-8B. Модель подходит для поиска изображений по тексту и классификации по заданным категориям в режиме zero-shot. Доступна под лицензией CC BY 4.0. Обучение на изображениях из интернета и автоматически созданных подписях может приводить к смещениям и неточностям. Для оценки этих рисков авторы рекомендуют ознакомиться с карточкой датасета.

FG-CLIP 2 Large — двуязычная модель компьютерного зрения и языка, разработанная Chunyu Xie, Bin Wang и коллегами. Она сопоставляет изображения с текстом и предназначена для тонкого понимания визуального содержимого на английском и китайском языках. В карточке модель загружается через Transformers как AutoModelForCausalLM с обработчиком изображений и токенизатором. Модель подходит для классификации изображений по текстовым описаниям без специального обучения, поиска изображений по запросу и поиска текста по изображению. Авторы сообщают о результатах на 29 наборах данных и 8 задачах, превосходящих SigLIP 2 и MetaCLIP 2; конкретные метрики и детали архитектуры в доступном README не приведены. Весы опубликованы в формате safetensors, лицензия — Apache-2.0.

HierarCaps CLIP-B — дообученная модель CLIP ViT-B/32 на основе openai/clip-vit-base-patch32, связанная с работой «Emergent Visual-Semantic Hierarchies in Image-Text Representations» (ECCV 2024). Она предназначена для сопоставления изображений и текстовых описаний и классификации изображений по текстовым меткам без дообучения. Дообучение на наборе HierarCaps усиливает иерархическую организацию пространства эмбеддингов и помогает учитывать, насколько описание конкретно или обобщённо. Модель принимает изображения и текст, а выдаёт векторные представления для их сопоставления. Распространяется по лицензии MIT.

lod-lille-0.6B — плотная модель оценки вариантов на 0,6 млрд параметров, разработанная MRN-DK на базе Qwen3-0.6B-Base. Она принимает текстовое описание состояния и один или несколько вопросов с вариантами и критериями, после чего выдаёт вероятности для предложенных вариантов и отдельную оценку уверенности, что правильный ответ вообще есть среди них. Поддерживаются форматы вопросов choice, noul (оценка истинности утверждения) и score (позиция по шкале от 2 до 10); генерации токенов нет. Модель использует интерфейс оценивания вариантов, а не обычную генерацию текста. Модель предназначена для классификации и ранжирования заданных вариантов, проверки утверждений по предоставленному контексту и сценариев с отказом от ответа при недостатке свидетельств. Она работает на CPU и принимает до 32 768 токенов суммарно за проход; состояние может занимать до 30 720 токенов. Обучение выполнено с LoRA и последующим слиянием адаптера, а также с дистилляцией от lod-stor-4B. Карточка сообщает английский как единственный язык. Лицензия — Apache-2.0. Сильные стороны — явная оценка уверенности, вероятности вариантов и устойчивость к порядку вариантов в fp32; на тесте указаны ECE 0,026 в среднем и точность 0,709. Качество существенно зависит от задачи, вероятности могут быть неточными на отдельных задачах, модель не может выбрать ответ вне списка, а наибольшее число вариантов и длинный контекст проверялись ограниченно. Особенно слабы результаты на многошаговых задачах и ранжировании, структуре документов, планировании и головоломках.

MobileCLIP-B — модель сопоставления изображений и текста, разработанная Apple и представленная в работе MobileCLIP: Fast Image-Text Models through Multi-Modal Reinforced Training (CVPR 2024). Этот репозиторий содержит чекпойнт MobileCLIP-B для OpenCLIP; модель предназначена для классификации изображений по текстовым описаниям без дообучения и других сценариев поиска соответствия между изображением и текстом. Вариант MobileCLIP-B (LT) достигает точности zero-shot классификации ImageNet Top-1 77,2%. Архитектура использует визуальную и текстовую части CLIP; точные размеры этих частей в карточке для данного чекпойнта не приведены. Модель принимает изображения и текстовые метки или описания и выдаёт оценки их соответствия. Лицензия — Apple AMLR.

nixiesearch/nixie-suggest-small-v1 — модель Sentence Transformers от Nixiesearch для поиска и сопоставления коротких пользовательских запросов с их полными вариантами. Она построена на E5-small-v2 и дообучена на синтетических примерах, имитирующих ввод подсказок: неполных слов, пропусков, перестановок и повторов букв, а также замен клавишами рядом на клавиатуре. Модель кодирует текст в плотные векторы размерности 384 и подходит для семантического поиска, подбора подсказок, кластеризации и оценки сходства. Архитектура — BERT; размер — около 40 млн параметров, контекст — до 512 токенов. Обучающие данные основаны на частотных английских словах и n-граммах. Модель асимметрична: для короткого неполного запроса используется префикс «query: », а для полного запроса или текста-кандидата — «passage: ». Модель рассчитана прежде всего на английские слова и короткие поисковые запросы с опечатками; качество на других языках README не подтверждает. Доступны веса PyTorch и ONNX. Условия лицензии в предоставленных данных не описаны.

blackmlengineer/occucoder-en-grande-v0 — текстовая Sentence Transformer модель на архитектуре BERT, разработанная blackmlengineer и дообученная на обучающем наборе из 991 580 пар и троек текстов. Она преобразует предложения и короткие абзацы в плотные векторы размерности 512; сходство между векторами можно оценивать косинусной мерой. Модель подходит для поиска и сопоставления коротких текстов, включая семантическое извлечение релевантных результатов. Максимальная длина входа — 32 токена. При обучении использовалась функция MultipleNegativesRankingLoss на примерах с якорным текстом, положительным и отрицательным соответствиями. Обучающие примеры связаны с названиями профессий и близкими категориями, поэтому применимость за пределами такого рода коротких текстовых соответствий может быть ограничена. Репозиторий содержит веса safetensors; лицензия в доступных данных не приведена.

Qwen-2.5-Nemotron-32B-Reward — разработанная NVIDIA модель вознаграждения на архитектуре Transformer Qwen2.5 с 32 млрд параметров, дообученная на основе Qwen/Qwen2.5-32B-Instruct. Она оценивает ответ языковой модели на запрос пользователя и выдаёт одно числовое значение: более высокий балл указывает на более качественный ответ в рамках того же диалога. Модель предназначена для сравнения ответов и оценки их качества, в том числе по чатовым, математическим, программным и безопасностным сценариям. Модель принимает текст. В README указан максимум 128 тыс. токенов на вход, при этом обучение проводилось на диалогах длиной до 8 тыс. токенов; метаданные Hugging Face указывают нативный контекст 32 768 токенов. Поэтому оценки для длинных диалогов могут быть менее надёжны. Числовые оценки сопоставимы в рамках одного запроса, но не предназначены для сравнения ответов на разные запросы. Модель распространяется по лицензии other; README заявляет возможность коммерческого и некоммерческого использования. Для запуска описана интеграция с Transformers и потребность в GPU-памяти, зависящая от конфигурации оборудования.

Veritone публикует текстовую башню модели SigLIP 2 Large на базе google/siglip2-large-patch16-384. Эта сокращённая копия содержит только текстовый энкодер: он преобразует текстовые запросы в общее пространство эмбеддингов с визуальной башней и предназначен для отдельной загрузки на этапе поиска, что сокращает расход памяти и время загрузки. Визуальная башня находится в Veritone/siglip2-large-patch16-384-vision. Модель подходит для кодирования текстовых запросов при поиске по изображениям и для классификации изображений без дополнительного обучения в паре с соответствующей визуальной башней. Семейство SigLIP 2 рассчитано на семантическое сопоставление текста и изображений; исходная модель обучалась на наборе WebLI. Лицензия репозитория — Apache-2.0. Карточка описывает только текстовую башню, поэтому сама по себе эта модель не принимает изображения и не выполняет полную классификацию изображений без визуальной башни.

SigLIP base patch16 256 — мультимодальная модель Google для сопоставления изображений и текста, предобученная на англоязычных парах WebLI. Она использует архитектуру SigLIP и функцию потерь на основе sigmoid, которая работает с парами изображение–текст без нормализации по всей матрице сходства. Модель обрабатывает изображения с разрешением 256×256 и текст длиной до 64 токенов. Модель предназначена для классификации изображений по текстовым описаниям без дополнительного обучения и для поиска изображений по текстовым запросам или текста по изображению. Английский язык указан для обучающих пар; модель принимает изображения и текст и выдаёт оценки их соответствия. Распространяется по лицензии Apache-2.0. Карточка не приводит сведений о числе параметров.

Это версия SigLIP-SO400M-patch14-384, подготовленная Renesas для выполнения вывода на платформе Renesas X5H. Модель использует архитектуру dual encoder: Vision Transformer кодирует изображение, а Transformer — текст; нормализованные эмбеддинги сравниваются по сходству. Это не генеративная модель: она выдаёт оценки соответствия изображения текстовым меткам, поддерживая классификацию изображений без дообучения и сопоставление изображений с текстом. Модель предназначена для запуска на NPU Renesas X5H. README описывает варианты FP16 и W4A16 и приводит измерения задержки для FP16 на плате X5H. Для работы нужны плата X5H и SDK версии 4.32.0 или 4.34.0. Модель основана на google/siglip-so400m-patch14-384; репозиторий содержит вариант GGUF F16. Лицензия — Apache-2.0.

timm/ViT-B-16-SigLIP2 — визуально-языковая модель семейства SigLIP 2, обученная на наборе WebLI и преобразованная из исходных контрольных точек JAX проекта Big Vision для использования в OpenCLIP. Это контрастивный энкодер изображений и текста, предназначенный для классификации изображений без дополнительного обучения: пользователь задаёт текстовые описания классов, а модель сопоставляет их с изображением. Модель принимает изображения и текстовые описания, оценивает их соответствие и подходит для поиска изображений по тексту и классификации с произвольными текстовыми метками. В карточке указана поддержка многоязычного визуально-языкового обучения SigLIP 2; конкретные языки этой версии не перечислены. Модель распространяется в форматах PyTorch и safetensors и доступна на условиях Apache-2.0. Это конверсия исходных контрольных точек, а не отдельное дообучение. Карточка не сообщает конкретный размер модели, длину контекста или ограничения качества; результаты могут зависеть от формулировок текстовых меток и домена изображений.

timm/ViT-B-16-SigLIP2-naflex — контрастивная модель «изображение—текст» семейства SigLIP 2, подготовленная timm и преобразованная из исходных контрольных точек JAX проекта Big Vision для использования в OpenCLIP. Она предназначена для классификации изображений по текстовым описаниям без дообучения: модель сопоставляет изображение с набором текстовых меток или запросов и оценивает их соответствие. Зрительная часть построена на NaFlexViT и поддерживает обычную обработку изображений фиксированного размера 384×384, а также режим NaFlex с переменным соотношением сторон; стандартная оценка в этом режиме использует 576 токенов изображения при размере патча 16. Модель обучена на наборе WebLI. Веса доступны в форматах PyTorch и Safetensors, библиотека использования — OpenCLIP; лицензия Apache-2.0. Модель подходит для поиска изображений по текстовым описаниям и распознавания категорий, заданных пользователем. Карточка не сообщает размер модели и перечень поддерживаемых языков, поэтому языковую поддержку сверх упоминания мультиязычной направленности SigLIP 2 определить нельзя.

V-JEPA 2 — видеомодель для понимания визуального содержимого, разработанная FAIR в Meta. Эта версия содержит архитектуру VJEPA2Model с плотной структурой и 1,3 млрд параметров; веса опубликованы в формате safetensors и предназначены для работы через Transformers. Модель кодирует видео и изображения для классификации видео, поиска похожих видеоматериалов и использования в качестве видеокодировщика для мультимодальных языковых моделей. Для видео требуется подавать 64 кадра; изображение можно повторить до нужного числа кадров. Модель ориентирована на визуальные данные и не заявляет поддержку конкретных естественных языков. Репозиторий распространяется по лицензии Apache-2.0. README описывает возможности понимания видео, но не приводит количественных оценок качества или подробных ограничений по применению.

AiPixel Tag Creator 7B — языковая модель компании AiPixel для автоматической разметки материалов по их названию и краткому описанию. Она определяет технологии, целевые профессиональные группы, уровень и язык материала. Модель основана на плотной архитектуре Llama и содержит 6,6 млрд параметров. Она принимает текст и генерирует текстовую разметку; контекст составляет до 4096 токенов. В метаданных указана лицензия Llama 2. Карточка не описывает конкретные ограничения качества или поддерживаемые языки.

BERTugues-base-portuguese-cased — модель на архитектуре BERT, разработанная Рикардо Маццей Заго и Лусиане Агнолетти дос Сантос Педотти для бразильского португальского языка. Она предварительно обучена на корпусе BrWAC с целями Masked Language Modeling и Next Sentence Prediction; при подготовке токенизатора также использовалась португалоязычная Википедия. В модели около 136,7 млн параметров, длина контекста — до 512 токенов. Модель подходит для предсказания замаскированных слов и получения векторных представлений предложений, которые можно использовать для классификации текстов и оценки сходства. Токенизатор исключает редкие для португальского символы и включает основные эмодзи; авторы сообщают о меньшем количестве разбиваемых на части слов по сравнению с Bertimbau и многоязычным BERT. Карточка приводит результаты сравнений на классификации отзывов и сходстве юридических текстов, но не указывает лицензию точнее, чем «other».

Эмбеддинг-модель на базе Sentence Transformers, дообученная автором yasserrmd на google/embeddinggemma-300m для работы с разговорным эмиратским арабским. Она преобразует предложения и абзацы в плотные векторы размерности 768; сходство между текстами оценивается косинусной мерой. Модель рассчитана на последовательности до 2048 токенов и обучалась на 12 324 парах предложений с функцией потерь MultipleNegativesRankingLoss. Модель подходит для семантического поиска и сравнения фраз, поиска перефразирований, кластеризации и классификации текстов на эмиратском арабском. Автор описывает оценку на разговорных примерах из повседневных и культурных тем, включая приветствия, семью и еду. По README, модель может переоценивать сходство фраз с противоположным смыслом и менее надёжна на отрицаниях, абстрактных выражениях и тонких эмоциональных различиях. Лицензия в предоставленных данных не указана.

Это японская модель CLIP, разработанная компанией rinna Co., Ltd. Она предназначена для получения сопоставимых признаковых представлений изображений и японских текстов, чтобы использовать их для поиска и классификации изображений по текстовому описанию. Модель обучалась на наборе CC12M с подписями, переведёнными на японский язык. В архитектуре используется визуальный энкодер ViT-B/16 и 12-слойный BERT-энкодер текста; визуальный энкодер инициализирован из AugReg vit-base-patch16-224. Модель распространяется в форматах PyTorch и safetensors и доступна по лицензии Apache-2.0. В метаданных Hugging Face указаны задача feature-extraction и поддержка японского языка.

JPT-9B — открытая модель решений от автора репозитория kirp, созданная дообучением Qwen/Qwen3.5-9B с помощью LoRA и объединением адаптера с основными весами. Она принимает описание ситуации и типизированные вопросы, а одним проходом выдаёт вероятности вариантов ответа для выбора из списка, оценки по упорядоченной шкале или ответа «да/нет». Модель предназначена для классификации намерений и тональности, NLI, выбора действия и других задач, где нужно оценить несколько вариантов без генерации объяснения. Модель содержит 9 млрд параметров, использует архитектуру Qwen3.5ForConditionalGeneration и сохраняется в формате safetensors. Она мультимодальна и поддерживает изображения благодаря базовой модели, однако обработка изображений для этого чекпойнта не проверялась. Основной язык — английский; другие языки представлены лишь в небольшом количестве обучающих наборов. Вероятности откалиброваны общей температурой 1,087. Модель распространяется по лицензии CC BY-NC 4.0, которая не разрешает коммерческое использование.

KARAKURI LM 7B APM v0.2 — языковая модель KARAKURI Inc. на архитектуре Mistral, дообученная на базе mistral-community/Mistral-7B-v0.2. Это decoder-only трансформер с 7,1 млрд параметров и контекстом до 32 768 токенов; модель предназначена для оценки ответов по различным аспектам, влияющим на их желательность. Для обучения использовались OASST2 и HelpSteer. Модель работает с текстом, поддерживает английский и японский языки, при этом в README основным назван английский. Распространяется по лицензии Apache 2.0.

lod-lille-0.6B — плотная модель для оценки вариантов и классификации без генерации токенов, разработанная авторами проекта LOD. На вход она получает состояние и один или несколько вопросов с вариантами ответа и критериями; для вариантов вычисляет вероятности, а отдельная оценка confidence показывает, насколько вероятно, что правильный ответ вообще присутствует среди предложенных. Также поддерживаются вопросы типа noul для оценки истинности утверждения и score для позиционирования по шкале от 2 до 10 баллов. Модель основана на Qwen3-0.6B-Base и дообучена с LoRA, веса адаптера объединены с базовой моделью. Она принимает текст на английском языке, использует контекстное окно до 32 768 токенов и рассчитана на оценивание вариантов, классификацию с заданным набором меток и выборочный отказ от ответа. Авторы сообщают о среднем ECE 0,026 на тестовых вопросах, но точность заметно различается между задачами и областями; для задач с 129 и более вариантами в тесте точность составила 0,288. Модель распространяется под лицензией Apache-2.0. Она не умеет выбирать ответ за пределами предоставленного списка: если правильного варианта нет, следует ориентироваться только на confidence. Калибровка может быть неточной на отдельных задачах, а результаты для состояний длиннее 30 000 токенов не измерялись.

MyAwesomeModel — модель на базе архитектуры BERT, опубликованная для библиотеки Transformers и реализованная на PyTorch. В метаданных Hugging Face для неё указан pipeline-тег feature-extraction, поэтому основное назначение модели — получение векторных представлений текста для последующего анализа и машинного обучения. В README также заявлены улучшенные способности к рассуждению, пониманию языка, генерации кода, суммаризации, диалогу, переводу и function calling, однако эти характеристики не согласуются с указанным pipeline-тегом feature-extraction и не сопровождаются подробностями об архитектуре, размере или процедуре обучения. Модель можно рассматривать для экспериментов с извлечением признаков и задачами, где требуются текстовые эмбеддинги. Модель распространяется по лицензии MIT. В доступных материалах отсутствуют подтверждённые сведения о разработчике, поддерживаемых естественных языках, длине контекста и количестве параметров.

Это текстовая башня SigLIP 2 Base, подготовленная Veritone как облегчённая копия модели google/siglip2-base-patch16-512. Она преобразует текстовые запросы в общее пространство эмбеддингов с визуальной башней, позволяя загружать текстовую часть отдельно для поиска и сопоставления изображений с текстом. Парная визуальная башня опубликована отдельно в Veritone/siglip2-base-patch16-512-vision. Модель предназначена для нулевой классификации изображений по текстовым меткам и поиска изображений по текстовому запросу; также её можно использовать как текстовый энкодер в системах на базе визуально-языковых моделей. Контекст составляет 64 токена. Данные README указывают на предобучение SigLIP 2 на WebLI; в репозитории доступны веса Safetensors для Transformers. Лицензия — Apache-2.0. Для работы с изображениями необходима совместимая визуальная башня; одна эта текстовая часть изображения не принимает.

Skywork-Reward-V2-Llama-3.2-1B — модель оценки предпочтительности ответов, разработанная командой Skywork. Это дообученная на основе meta-llama/Llama-3.2-1B-Instruct модель семейства Llama с архитектурой для классификации последовательностей и примерно 1,2 млрд параметров. Она использует подход Bradley–Terry и предназначена для присвоения оценок диалогам и ответам, чтобы сравнивать их качество или отбирать предпочтительные варианты. Модель входит в серию Skywork-Reward-V2, обученную на смеси из 26 млн пар предпочтений. В README заявлены высокие результаты серии на нескольких бенчмарках reward-моделей; конкретные оценки именно этой версии в предоставленном фрагменте не приведены. Контекстное окно составляет 131 072 токена. Для запуска указана библиотека Transformers; веса доступны в формате safetensors. Модель подходит для ранжирования ответов и оценки результатов генерации в конвейерах обучения и инференса. Она принимает текст и выдаёт оценку, поэтому не предназначена для самостоятельной генерации ответов. Лицензия — Llama 3.2 Community License; перед использованием следует соблюдать её условия.

Taiyi-CLIP-RoBERTa-102M-ViT-L-Chinese — китайская модель семейства Taiyi-CLIP, разработанная командой Fengshenbang. Это мультимодальная модель сопоставления изображений и текста с визуальным энкодером ViT-L-14 и текстовым энкодером на основе chinese-roberta-wwm; в репозитории указано около 129,5 млн параметров. Модель обучали на 123 млн пар изображение–текст из наборов Noah-Wukong и Zero, заморозив визуальный энкодер и дообучая текстовый. Текстовый контекст — до 512 токенов. Модель предназначена для получения совместимых признаковых представлений изображений и китайских текстов, в том числе для классификации без специального обучения и поиска изображений по текстовому запросу. В README приведены результаты zero-shot классификации ImageNet1k-CN и поиска текста по изображению на Flickr30k-CNA, COCO-CN и wukong50k. Метаданные указывают задачу feature-extraction; веса доступны в форматах PyTorch и Safetensors. Лицензия — Apache-2.0.

TIPSv1 L/14 — контрастивная модель «изображение–текст» семейства TIPS, представленная в README как конверсия официальных чекпойнтов. Она кодирует изображения и текст в согласованные векторы признаков и предназначена для классификации изображений по текстовым описаниям без отдельного обучения на новых классах. Модель разработана для пространственно насыщенных визуальных признаков; её зрительная часть — ViT-L/14 с 24 слоями и двумя CLS-токенами, а текстовая — 12-слойный трансформер. Всего указано 304 млн параметров в зрительной части и 184 млн в текстовой, размерность эмбеддинга — 1024. Нативное разрешение изображений — 448 пикселей; поддерживаются и другие разрешения, кратные размеру патча, с интерполяцией позиционных эмбеддингов. Изображения подаются в диапазоне [0, 1] без нормализации ImageNet. Текст обрабатывается токенизатором SentencePiece в нижнем регистре с ограничением в 64 токена. Первый CLS-токен согласован с текстовой частью, второй обучался на синтетических подписях. Модель принимает изображения и текст и выдаёт векторные представления для сопоставления и классификации. README не сообщает, какие естественные языки поддерживаются. Лицензия — Apache-2.0.

UniME-LLaVA-1.6-7B — мультимодальная модель DeepGlint AI для получения текстовых и визуальных представлений и выполнения задач сопоставления текста с изображениями. Она дообучена на базе llava-hf/llava-v1.6-mistral-7b-hf; архитектура LLaVA-NeXT с языковой частью Mistral-7B принимает изображения и текстовые инструкции и формирует текстовый ответ, пригодный для визуального диалога и вопросов об изображениях. Модель обучалась для улучшения мультимодальных эмбеддингов: применялась дистилляция текстовых представлений с учителем NV-Embed V2, затем — instruction tuning с подбором сложных негативных примеров. По README, на этапе дистилляции дообучалась только языковая часть, а остальные параметры оставались замороженными. Модель обучена на TIGER-Lab/MMEB-train и заявлена авторами как лидер таблицы MMEB при разрешении изображений 336×336 на момент снимка в README. Модель распространяется в формате safetensors по лицензии MIT. Она предназначена для сценариев, где нужно сопоставлять изображения и текст или отвечать на запросы по изображениям; заявленное лидерство относится к конкретной таблице и снимку результатов, а не гарантирует превосходство на любых задачах.

CareerBERT-G — немецкоязычная модель Sentence Transformers, разработанная Lukas Wolfrum и соавторами. Она дообучена на таксономии ESCO для сопоставления резюме с профессиями и рекомендаций подходящих карьерных направлений. Модель построена на deepset/gbert-base, содержит 137,1 млн параметров и принимает текстовые фрагменты длиной до 512 токенов. Она преобразует тексты в эмбеддинги, пригодные для оценки сходства и ранжирования профессий по соответствию резюме. В исследовании CareerBERT показала эффективность для рекомендаций вакансий и карьерных консультаций. Модель предназначена для немецкоязычного сопоставления профилей кандидатов с профессиями ESCO; другие языки и сценарии в карточке не заявлены. Лицензия в предоставленных данных не указана.

Compare2Score — модель семейства mPLUG-Owl2, опубликованная пользователем q-future. Карточка показывает загрузку через AutoModelForCausalLM и предназначение для оценки сравнения; для извлечения признаков доступен pipeline feature-extraction. Модель содержит 6,6 млрд параметров, работает с библиотеками Transformers и PyTorch и имеет нативный контекст длиной 2048 токенов. Модель может быть полезна для извлечения признаков и генерации текста в сценариях сравнения и оценивания. README не описывает подробно формат входа, языки, метод обучения или результаты оценки качества. Репозиторий распространяется по лицензии MIT.

raphaelsty/distilbert-splade — модель на базе DistilBERT, обученная с помощью Sparsembed. В метаданных указана архитектура DistilBertForMaskedLM, форматы PyTorch и Safetensors и максимальный контекст 512 токенов. README отсылает к репозиторию Sparsembed за инструкциями по использованию. Модель предназначена для работы с текстом на английском языке. Метаданные классифицируют её задачу как fill-mask; обучение с Sparsembed также указывает на применение в разреженном поиске и представлении текста. Лицензия в доступных данных не указана.