II.10Разработка и эксплуатация AI/ML-систем

Карточка модели liddlefish/privacy_embedding_rag_10k_base_15_final на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Карточка модели liddlefish/privacyembeddingv2_bge_small на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

PromptGuard — модель-классификатор от Steven Jung и CodeIntegrity, Inc. для обнаружения prompt injection и jailbreak-атак в приложениях на базе LLM. Она предназначена для предварительной проверки пользовательских запросов, мониторинга подозрительных промптов и использования как одного из уровней защиты. Модель дообучена на encoder-only ModernBERT-base с 149 млн параметров и обрабатывает последовательности длиной до 8 192 токенов. Для обучения использованы более 955 тысяч примеров из публичных наборов данных об инъекциях промптов и jailbreak-атаках. В README заявлены accuracy 98,01%, precision 98,54% и recall 95,60%; эти показатели относятся к оценке авторов. Модель рассчитана преимущественно на английский текст. Она может пропускать новые шаблоны атак, поэтому её следует использовать как один уровень многоуровневой защиты. Лицензия — Apache-2.0.

Niansuh/Prompt-Guard-86M — классификатор текстовых запросов для обнаружения prompt injection и jailbreak-атак в приложениях на базе LLM. По карточке, модель различает три метки: benign (обычный текст), injection (встроенные инструкции, направленные на LLM) и jailbreak (попытка обойти системные инструкции или защитные механизмы). Она предназначена для фильтрации пользовательских диалогов и сторонних данных перед передачей их языковой модели. Архитектура — DeBERTa-v2 для классификации последовательностей; в метаданных указано 306 млн параметров и окно контекста 512 токенов. Указанный в названии размер 86M не совпадает с размером из метаданных. Модель рассчитана на англоязычный текст и может применяться как один из уровней защиты LLM-приложений. Для более точной фильтрации рекомендуется дообучение на данных конкретного приложения и сочетание классификатора с дополнительными средствами защиты. Модель может ошибаться на адаптивных атаках и на угрозах, специфичных для конкретного приложения; длинные входы следует разбивать на фрагменты. Лицензия в метаданных — llama3.1.

arkaean/promptguard-distilbert — модель DistilBERT, дообученная в рамках исследовательского проекта PromptGuard для бинарной классификации текстовых запросов к LLM. Она определяет, является ли запрос обычным или содержит попытку prompt injection либо jailbreak. Модель принимает текст и возвращает метку класса с оценкой; архитектура — DistilBertForSequenceClassification, размер — 66 млн параметров, максимальный контекст — 512 токенов. В карточке заявлены английский язык и лицензия MIT. Модель подходит для фильтрации входящих запросов в приложениях на базе LLM, предварительного обнаружения атак на агентов и настройки порога срабатывания под требования к пропускам атак и ложным тревогам. На отложенном IID-тесте из источников, представленных в обучающей выборке, указаны F1 0,9776 и ROC-AUC 0,9973; автор также приводит разные пороги для чувствительного к безопасности, сбалансированного и низколожноположительного режимов. Оценка обобщения на новые источники запросов не представлена, поэтому результаты теста не гарантируют аналогичное качество на иных типах атак и данных. В тестовом наборе отмечены отдельные вероятные ошибки разметки, унаследованные от исходных датасетов.

Карточка модели testsavantai/prompt-injection-defender-small-v0 на Hugging Face совпадает с карточкой testsavantai/prompt-injection-defender-large-v0, поэтому описание составлено по ней. testsavantai/prompt-injection-defender-large-v0 — англоязычный классификатор TestSavantAI для обнаружения вредоносных prompt injection и jailbreak-запросов, предназначенных для атак на большие языковые модели. Модель дообучена на базе Microsoft DeBERTa-v3-base и использует архитектуру DeBERTa для классификации последовательностей; размер составляет 211,6 млн параметров, максимальная длина контекста — 512 токенов. Модель помогает оценивать входящие запросы как вредоносные или добросовестные, чтобы защищать LLM-приложения, сохраняя полезные запросы и снижая число ошибочных блокировок. В карточке упомянуты тестирование на наборах для косвенных prompt injection, jailbreak-сценариев и red teaming, включая Microsoft-BIPIA, JailbreakBench и Garak. Для запуска можно использовать библиотеку Transformers; веса опубликованы в формате safetensors. Модель предназначена для англоязычного текста. Качество классификации зависит от того, насколько атаки и добросовестные запросы в реальном приложении похожи на примеры обучения и оценки; карточка не приводит конкретных численных результатов. Лицензия в предоставленных данных не указана.

Prompt Injection Guard small — мультиязычный классификатор на базе ModernBERT, разработанный Horizon Labs и дообученный на jhu-clsp/mmBERT-small. Модель определяет попытки prompt injection и jailbreak в сообщениях пользователей, а также в недоверенных текстах из писем, веб-страниц, документов, фрагментов RAG и ответов инструментов. Выдаёт метки SAFE или INJECTION и оценку классификации. Модель содержит 140,5 млн параметров, принимает последовательности длиной до 8192 токенов и доступна в форматах Safetensors и ONNX, включая вариант с квантованными int8 embeddings; поддерживается также transformers.js. В карточке заявлена поддержка 30 языков, включая русский, при этом английский представлен в обучающих данных шире остальных. Для обучения использовались наборы данных об инъекциях и jailbreak, а также синтетические примеры. Лицензия — Apache-2.0. Классификатор предназначен для дополнительной проверки текста в системах с LLM и агентами. Он не гарантирует защиту от адаптивных атак, может пропускать скрытые инструкции, выраженные как нейтральные вопросы, и иногда помечает безвредные ролевые запросы как jailbreak. Модель оценивает текст отдельно от контекста и не заменяет другие меры защиты.

AIconjured подготовил GGUF-квантизацию текстовой модели эмбеддингов Qwen3-Embedding-0.6B, разработанной командой Qwen. Модель создаёт 1024-мерные векторы для текстов и рассчитана на задачи семантического поиска и извлечения признаков. Заявленная длина контекста — 32K токенов; используется last-token pooling. Веса упакованы в формат GGUF со смешанной точностью NVFP4, Q8_0 и F32: NVFP4 применяется к основным матричным слоям, а чувствительные к качеству компоненты оставлены в более высокой точности. Размер файла — 507 МБ. По замерам автора, среднее косинусное сходство эмбеддингов с версией F16 составило 0,97472 на выборке из 20 текстов; для сложных семантических запросов возможно снижение качества поиска. Наиболее быстрый путь NVFP4 рассчитан на GPU Blackwell, а на других GPU веса могут работать после деквантизации. Модель предназначена для построения текстового поиска и других систем, использующих эмбеддинги. Распространяется по лицензии Apache-2.0.

SCOPE — модель для предварительной оценки результатов работы больших языковых моделей, разработанная авторами одноимённого исследовательского проекта. Она анализирует целевой вопрос и примеры похожих вопросов с данными о результатах моделей, чтобы предсказать вероятность правильного ответа и длину ответа в токенах. Эти оценки можно использовать для выбора модели и распределения вычислительного бюджета с настраиваемым балансом стоимости и точности. Модель построена на архитектуре Qwen3 с плотной causal LM на 3,7 млрд параметров и дообучена на Qwen/Qwen3-4B-Instruct-2507 методами SFT и GRPO. Поддерживает текстовый ввод и вывод; заявленный контекст — до 262 144 токенов. Карточка рекомендует выбирать опорные примеры, близкие к целевому вопросу, а для повышения точности агрегировать несколько генераций. Лицензия — Apache-2.0.

SGuard-ContentFilter-2B — компактная модель-ограничитель для проверки безопасности запросов и ответов в диалогах с ИИ. Её разработала исследовательская команда Samsung SDS на основе IBM Granite 3.3 2B Instruct; модель дообучена на примерно 400 тысячах размеченных вредоносных запросов и ответов. Это плотная авторегрессионная архитектура Granite с 2,5 млрд параметров, поддержкой чата и контекстным окном 131 072 токена. Модель присваивает каждой из пяти категорий риска — преступления, манипуляции, приватность, сексуальный контент и насилие — оценку «безопасно» или «небезопасно» и соответствующие показатели уверенности. Пороги для категорий можно настраивать. Основные языки обучения — корейский и английский; базовая модель поддерживает также немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, нидерландский и китайский, но качество проверки на них не гарантируется. Для работы с классификатором рекомендуется подавать не более 8 тысяч токенов, несмотря на более длинный контекст базовой модели. Модель предназначена для фильтрации контента в конвейерах безопасности и может использоваться с различными LLM. Это не универсальный диалоговый помощник: она выявляет только риски, предусмотренные обучением, может ошибаться на пограничных и специализированных примерах и уязвима к новым атакам и промптам на языках с малым объёмом данных. Лицензия — Apache-2.0.

Skywork-Reward-V2-Llama-3.1-8B — модель оценки предпочтительности ответов (reward model), разработанная командой Skywork. Она основана на LlamaForSequenceClassification и использует подход Bradley–Terry: получает диалог и вычисляет оценку, пригодную для сравнения качества ответов и обучения или отбора языковых моделей. Модель дообучена на meta-llama/Llama-3.1-8B-Instruct; в серии Skywork-Reward-V2 предпочтительные пары данных собраны в смеси из 26 миллионов примеров. Модель рассчитана на оценивание ответов в диалогах, автоматический выбор предпочтительного ответа и ранжирование вариантов при разработке LLM. В README авторы сообщают о результатах на семи бенчмарках reward-моделей. Размер модели — 7,5 млрд параметров, заявленная длина контекста — 131 072 токена; метаданные указывают библиотеку Transformers и формат safetensors. Лицензия — Llama 3.1 Community License. README не уточняет поддерживаемые языки или ограничения контекста при практическом инференсе.

Skywork-Reward-V2-Llama-3.2-3B — модель оценки предпочтений (reward model), разработанная Skywork и основанная на Meta Llama 3.2 3B Instruct. Она оценивает ответы в диалогах, присваивая им оценку вознаграждения, и предназначена для ранжирования вариантов ответа, отбора результатов генерации и оценки качества диалоговых моделей. Модель использует архитектуру LlamaForSequenceClassification с 3,2 млрд параметров и контекстом до 131072 токенов; веса доступны в формате safetensors. Модель обучена как часть серии Skywork-Reward-V2 на смеси из 26 млн пар предпочтений, подготовленных с участием людей и языковых моделей. В README сообщается о высоких результатах серии на бенчмарках reward-моделей, однако отдельные показатели именно варианта 3B не приведены. Модель принимает текстовые диалоги и выдаёт оценку; это не генеративная модель для создания ответов. Лицензия — Llama 3.2, условия которой следует соблюдать при использовании.

Skywork-Reward-V2-Qwen3-4B — модель оценки ответов на основе Qwen3-4B, разработанная командой Skywork. Она присваивает вознаграждение диалогам и ответам, помогая сравнивать варианты и отбирать более предпочтительные для обучения или проверки языковых моделей. Модель использует архитектуру Qwen3ForSequenceClassification и обучена на 26 млн пар предпочтений в составе серии Skywork-Reward-V2. Модель предназначена для ранжирования ответов по качеству и предпочтительности, в том числе в конвейерах оценки и обучения с обратной связью. В метаданных указаны 3,7 млрд параметров, контекст до 40 960 токенов и формат safetensors. Карточка серии сообщает о результатах на нескольких бенчмарках reward-моделей; конкретные результаты этого варианта не выделены в предоставленных данных. Лицензия — Apache-2.0. Как и другие модели оценки предпочтений, результат следует считать оценочным сигналом, а не гарантией фактической правильности или полезности ответа; качество оценки может зависеть от предметной области и формулировки входа.

SPEED-embedding-7b-instruct — текстовая модель эмбеддингов от Haonan Chen и соавторов, представленная в работе «Little Giants: Synthesizing High-Quality Embedding Data at Scale» (2024). Она предназначена для преобразования запросов и документов в векторы, пригодные для семантического поиска и ранжирования. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров, имеет 32 слоя и размер эмбеддинга 4096. Метаданные указывают контекст до 32 768 токенов, однако авторы не рекомендуют подавать входы длиннее 4096 токенов. Для запросов следует задавать краткую инструкцию на естественном языке, описывающую задачу; документы можно кодировать без инструкции. Это позволяет настраивать представления для разных сценариев. В README указана оценка на наборах BEIR и MTEB. Модель ориентирована на английский язык. Распространяется по лицензии MIT.

Vela Shield — модель классификации текста от llm-semantic-router, полученная дообучением энкодера Vela-1.0-Encoder-307M. Она оценивает безопасность пользовательских запросов и ответов модели по шести направлениям: выявляет вредный запрос, относит его к одной из 34 категорий риска, распознаёт попытки prompt injection и jailbreak, а также определяет вредность ответа, отказ и категории риска в ответе. Основные головы классификации работают на ModernBERT; запрос можно оценить за один проход энкодера. Отдельная label-conditioned голова позволяет оценивать категории по текстовым описаниям. Модель содержит 306,9 млн параметров и рассчитана на последовательности до 32 768 токенов с учётом специальных токенов, но обучалась на примерах длиной до 1 536 токенов. Поддерживает 17 языков, включая русский, английский, арабский, китайский и хинди. Предназначена для защитных фильтров и маршрутизации запросов и ответов; риск-сигнал сам по себе не означает, что нужно отказывать пользователю. Для классификации длинных текстов вызывающая система должна управлять усечением входа. Модель не предназначена для распознавания домена, модальности, сложности, намерения, PII или галлюцинаций. Лицензия — Apache-2.0.

Wolf Defender Prompt-Injection Detector Small — компактный классификатор последовательностей на базе ModernBERT, разработанный Patronus AI. Он дообучен на контрольной точке jhu-clsp/mmBERT-small с новой бинарной классификационной головой и определяет, содержит ли текст prompt injection или инструкцию в стиле jailbreak. Модель предназначена для предварительной проверки недоверенного текста в AI-агентах и системах с инструментами, чат-ботах, RAG-конвейерах, документах, письмах, веб-страницах и автоматизированных рабочих процессах. Модель принимает только текст и выдаёт метку BENIGN или INJECTION. Карточка описывает контекстное окно 2 048 токенов; метаданные указывают 8 192 токена. Репозиторий включает веса Transformers и варианты ONNX в форматах FP32, FP16 и квантованных конфигурациях. Английский и немецкий — основные языки оценки; обучающие данные также включали другие языки, но они проверены слабее. В опубликованных сравнениях v2 показывает высокие F1 и специфичность на нескольких наборах, однако результаты зависят от порога и протокола оценки. Классификатор может помогать блокировать, помещать в карантин или направлять текст на проверку, но его не следует использовать как единственную границу безопасности для критичных действий. Возможны пропуски новых или замаскированных атак и ложные срабатывания на безобидный текст о безопасности; модель не учитывает происхождение текста, права вызывающего субъекта и границы доверия приложения, если эти сведения не включены во вход. Лицензия — Apache-2.0.

XProvence-reranker-bgem3-v1 — многоязычная модель Naver Labs Europe для сокращения контекста в системах генерации с дополнением извлечёнными данными (RAG). По вопросу пользователя и найденному текстовому фрагменту она отбирает релевантные предложения, удаляет лишние и выдаёт оценку релевантности, которую можно использовать для переранжирования. Модель рассчитана прежде всего на ответы на вопросы и совместима с разными LLM. Модель основана на BAAI/bge-reranker-v2-m3 и дообучена для предсказания маски предложений при сохранении способности ранжировать пары «вопрос — фрагмент». Архитектура XLM-RoBERTa, около 658,7 млн параметров по метаданным и контекст до 8194 токенов. README сообщает о 16 языках с нативной поддержкой и переносе на более чем 100 языков; среди языков обучения указаны арабский, бенгальский, английский, испанский, персидский, финский, хинди, индонезийский, японский, корейский, русский, суахили, телугу, тайский и китайский. Французский также указан в метаданных и описании обучения. Модель помогает уменьшить шум в контексте и ускорить последующую генерацию. README отмечает, что обучение использовало фрагменты размером примерно с абзац, хотя заявленная длина контекста составляет 8192 токена; эффективность порога отсечения следует настраивать под сценарий. Лицензия в метаданных — CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных материалов.

Nexusflow Athene-RM-70B — открытая по весам reward-модель команды Nexusflow, дообученная на Meta Llama 3 70B Instruct. Она оценивает ответы языковой модели и предназначена для ранжирования вариантов и поддержки обучения с обратной связью от предпочтений. Модель использует плотную архитектуру Llama с классификационной головой, содержит 69,5 млрд параметров и принимает текстовые данные; контекст — до 8192 токенов. В карточке заявлен английский язык. Модель распространяется по Nexusflow Research License; условия лицензии следует проверить перед использованием.

Это конвертированная и квантованная до INT8 версия BAAI/bge-m3 от libryo-ai. Модель основана на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров и принимает текст для извлечения плотных векторных представлений. Она предназначена для использования в качестве векторного ретривера, в частности с Vespa Embedding; контекст составляет до 8194 токенов. Модель подходит для создания эмбеддингов и семантического поиска по текстам. Репозиторий содержит ONNX-файл, подготовленный для выполнения в INT8 с помощью toolkit optimum. Лицензия — MIT. README описывает только плотный ретривер и не подтверждает наличие других возможностей BAAI/bge-m3 в этой сборке.

altaidevorg/bge-m3-distill-8l — модель эмбеддингов на основе Sentence Transformers, созданная командой Altaidevorg дистилляцией BAAI/bge-m3. В ней 8 слоёв XLM-RoBERTa и около 390 млн параметров; она принимает текст и выдаёт нормализованные векторы размерностью 1024 для сравнения по косинусному сходству. Максимальная длина последовательности — 8192 токена. Модель предназначена для семантического поиска, оценки сходства предложений и формирования векторных представлений для RAG. По данным авторов, дистилляция сохранила качество на тестах сходства и дала примерно 2,5-кратный прирост пропускной способности относительно исходной BAAI/bge-m3 на GPU T4. Обучение включало преимущественно турецкие тексты; авторы также сообщают о сохранении качества на английском. Лицензия в предоставленных данных не указана.

Supabase/bge-small-en — это англоязычная версия модели встраивания текста BGE, опубликованная Supabase в формате ONNX для работы с Transformers.js. Модель основана на архитектуре BERT, содержит около 40 млн параметров и принимает последовательности длиной до 512 токенов. В карточке указано, что исходная линейка BGE разработана командой BAAI; эта версия представляет собой форк с весами ONNX. Модель преобразует текст в плотные векторы для семантического поиска, поиска релевантных фрагментов по запросу, кластеризации и классификации. Для поиска документов README рекомендует добавлять к запросу инструкцию «Represent this sentence for searching relevant passages: ». Векторы можно использовать в векторных базах данных, в том числе для приложений с RAG, а запуск поддерживается через JavaScript и Transformers.js. Модель рассчитана на английский язык и имеет лицензию MIT. Это компактный вариант BGE, удобный для JavaScript-приложений и сценариев, где важны размер модели и получение эмбеддингов; окно контекста ограничено 512 токенами.

BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Boldt-Embed-DE-350M — немецкоязычная модель плотных текстовых эмбеддингов для поиска релевантных фрагментов в FAQ и системах RAG. Её разработала Mayflower GmbH на базе Boldt/Boldt-DC-350M: модель семейства Llama с плотной архитектурой и примерно 435,4 млн параметров. Веса дообучены с mean pooling и нормализацией векторов; длина контекста — 2048 токенов. Модель предназначена прежде всего для первого этапа плотного поиска по немецкому корпусу: векторы запросов и документов сравниваются по косинусному сходству. Она также подходит для оценки семантического сходства, кластеризации текстов и отбора сложных негативных примеров для дальнейшего обучения. Обучение Matryoshka позволяет усекать векторы до 512, 256, 128 или 64 измерений; в приведённой оценке вариант на 256 измерений сохранил почти всё качество полноразмерных векторов. На тесте WebFAQ модель показала высокие показатели извлечения для немецких FAQ/RAG-запросов. Для более общих немецких QA-корпусов README указывает на преимущество универсальных многоязычных моделей. Оценки получены на перечисленных внутренних наборах, без публичного прогона MMTEB. Модель рассчитана на немецкий язык; применение к другим языкам не подтверждено. Лицензия весов — Apache-2.0; при распространении производных версий разработчик просит указывать источники данных German Wikipedia и WebFAQ.

DeBERTa Hallucination Judge — дообученный бинарный классификатор на базе microsoft/deberta-v3-base, разработанный в рамках EvalForge. Он принимает вопрос, контекст и ответ и определяет, соответствует ли ответ контексту: метка 0 означает faithful, метка 1 — hallucinated. Модель предназначена для быстрой локальной проверки ответов, например как первый фильтр в системах оценки LLM и RAG. Модель использует архитектуру DeBERTa V2 для классификации последовательностей, содержит 211,6 млн параметров и рассчитана на контекст до 512 токенов. Обучение проводилось на синтетических примерах HaluEval; лицензия — MIT. На отложенной выборке HaluEval модель показала F1 0,9937, однако на реальных примерах RAGTruth F1 снизился до 0,5067, а калибровка оценок ухудшилась. Поэтому её разумно использовать как недорогой первый фильтр с передачей неуверенных или нетипичных случаев более сильной модели-судье.

Builder117/distilbert-jailbreak — дообученный классификатор на базе DistilBERT для обнаружения попыток обхода защитных ограничений LLM. Он помечает входной текст как SAFE или JAILBREAK и предназначен для фильтрации DAN-запросов, подмены роли, активации «режима разработчика», отрицания правил и вымышленного обрамления, используемого для получения запрещённого контента. Модель ориентирована на защиту LLM-приложений от prompt injection, в частности на сценарии из категории OWASP LLM Top 10 LLM01. Модель принимает текст на английском языке; базовая архитектура — DistilBERT для классификации последовательностей, контекст — до 512 токенов. Выпущена под лицензией Apache-2.0. Классификатор может пропускать атаки с заменой синонимов или косвенным обрамлением, поэтому его оценки не следует считать исчерпывающей защитой.

Builder117/distilbert-prompt-injection — дообученный классификатор на базе DistilBERT для выявления атак с внедрением промптов в системах с большими языковыми моделями. Он определяет попытки подменить системные инструкции, извлечь системный промпт, перехватить роль или скрыто встроить команды в пользовательский ввод. Модель присваивает тексту метку LEGIT или INJECTION и предназначена для проверки входящих запросов в защитных конвейерах LLM. Модель дообучена на distilbert-base-uncased на обучающей части набора deepset/prompt-injections; архитектура — DistilBertForSequenceClassification. Она рассчитана на англоязычный текст и принимает последовательности длиной до 512 токенов. Распространяется под лицензией Apache-2.0. Классификатор ориентирован на атаки из категории OWASP LLM Top 10 LLM01: Prompt Injection и подходит для предварительной фильтрации запросов. Он может пропускать сильно обфусцированные строки, включая замену символов, полноширинные и невидимые Unicode-символы; мультиязычные атаки не охвачены обучением.

DS RAG Embedder v1 — англоязычная модель эмбеддингов Digvijay Waghela для поиска документации по Data Science и машинному обучению в RAG-системах. Она дообучена на базе BAAI/bge-small-en-v1.5 на более чем 600 фрагментах материалов о метриках, утечках данных, кросс-валидации, дисбалансе классов, MLOps, RAG, глубоком обучении, развёртывании и планировании экспериментов. Модель построена на архитектуре BERT, содержит около 40 млн параметров, создаёт векторы размерности 384 и обрабатывает последовательности длиной до 512 токенов. Модель предназначена для семантического поиска по документации, ноутбукам и инструкциям команд по работе с данными; её также можно сочетать с BM25 для гибридного поиска. Для запросов требуется префикс «Represent this Data Science question for retrieving relevant documentation: », который автоматически добавляет метод encode_queries() из описанного в README пакета. В приведённом бенчмарке DS RAG Eval v1 модель показала Recall@1 0,851 и Recall@5 1,000; эти результаты относятся к указанному набору оценки. Доступна по лицензии Apache-2.0. README не рекомендует применять её для общего веб-поиска, а также в юридических и медицинских сценариях без отдельной оценки или для полностью автоматизированных решений с высокими ставками.

Карточка модели hsikchi/dump на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

DeshwalX/electra-small-prompt-injection-v1 — англоязычный классификатор безопасности на базе ELECTRA Small, разработанный DeshwalX и дообученный на google/electra-small-discriminator. Модель с архитектурой ElectraForSequenceClassification выполняет многометочную классификацию текста и выдаёт четыре независимые оценки для выявления манипулятивных и вредоносных запросов, а также небезопасных ответов LLM. Она предназначена для фильтрации запросов, анализа ответов и использования в шлюзах безопасности и системах модерации LLM. Модель содержит 20,4 млн параметров, принимает текстовые взаимодействия с LLM и имеет контекст до 512 токенов. В README указана оценка на WildGuard Test: Micro F1 0,90, Macro F1 0,89 и Weighted F1 0,91. Распространяется под лицензией Apache-2.0. Классификатор может пропускать новые типы атак и давать ложноположительные или ложноотрицательные результаты. Его следует использовать как один из компонентов защиты, а не как полное решение безопасности; для критически важных случаев README рекомендует человеческую проверку.

kalle07/embedder_collection — подборка более чем 25 моделей для создания текстовых эмбеддингов, опубликованная пользователем kalle07. Репозиторий содержит практические рекомендации по выбору модели, подготовке документов, разбиению текста на фрагменты и настройке локального RAG. Главная задача моделей в подборке — вычислять векторные представления текста и поддерживать поиск похожих предложений и фрагментов документов. Модели ориентированы на локальное использование с программами вроде AnythingLLM и LM Studio; в репозитории представлены файлы GGUF в форматах BF16, F16, F32 и Q8_0. Автор также упоминает применение через Ollama и KoboldCpp, но совместимость зависит от конкретной модели и среды запуска. В качестве языков в метаданных указаны английский и немецкий; подборка включает модели разных семейств, поэтому характеристики контекста и качество различаются. Подборка пригодится для семантического поиска по документам и построения RAG-систем, но сама по себе не гарантирует улучшения ответов: на результат влияют подготовка текста, разбиение на фрагменты, настройки поиска и основная языковая модель. Автор отмечает, что подходящую модель следует выбирать с учётом языка и предметной области. Лицензия в предоставленных данных не указана.