II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейPrometheus 2 7B — языковая модель для детальной оценки ответов других языковых моделей, разработанная командой Prometheus-Eval. Она предназначена для использования как судья при оценивании по заданным критериям и как модель вознаграждения в RLHF. Модель поддерживает абсолютную оценку отдельного ответа по шкале от 1 до 5 и относительное сравнение двух ответов с ранжированием; для оценки задаются инструкция, ответы, критерии и эталонный ответ. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она дообучена на наборах Feedback Collection и Preference Collection, а затем объединена с двумя контрольными точками Prometheus 7B v1.5, чтобы поддерживать оба формата оценки. Модель рассчитана на английский язык, использует шаблон диалога Mistral и имеет контекст до 32 768 токенов. Лицензия — Apache 2.0. Prometheus 2 предназначена для оценки и сравнения ответов по заданной рубрике, но её выводы зависят от качества критериев, эталона и формулировки запроса. Для корректной работы README рекомендует применять разные шаблоны запросов для абсолютной и относительной оценки и использовать формат диалога Mistral.
Карточка модели testsavantai/prompt-injection-defender-base-v0 на Hugging Face совпадает с карточкой testsavantai/prompt-injection-defender-large-v0, поэтому описание составлено по ней. testsavantai/prompt-injection-defender-large-v0 — англоязычный классификатор TestSavantAI для обнаружения вредоносных prompt injection и jailbreak-запросов, предназначенных для атак на большие языковые модели. Модель дообучена на базе Microsoft DeBERTa-v3-base и использует архитектуру DeBERTa для классификации последовательностей; размер составляет 211,6 млн параметров, максимальная длина контекста — 512 токенов. Модель помогает оценивать входящие запросы как вредоносные или добросовестные, чтобы защищать LLM-приложения, сохраняя полезные запросы и снижая число ошибочных блокировок. В карточке упомянуты тестирование на наборах для косвенных prompt injection, jailbreak-сценариев и red teaming, включая Microsoft-BIPIA, JailbreakBench и Garak. Для запуска можно использовать библиотеку Transformers; веса опубликованы в формате safetensors. Модель предназначена для англоязычного текста. Качество классификации зависит от того, насколько атаки и добросовестные запросы в реальном приложении похожи на примеры обучения и оценки; карточка не приводит конкретных численных результатов. Лицензия в предоставленных данных не указана.
testsavantai/prompt-injection-defender-large-v0 — англоязычный классификатор TestSavantAI для обнаружения вредоносных prompt injection и jailbreak-запросов, предназначенных для атак на большие языковые модели. Модель дообучена на базе Microsoft DeBERTa-v3-base и использует архитектуру DeBERTa для классификации последовательностей; размер составляет 211,6 млн параметров, максимальная длина контекста — 512 токенов. Модель помогает оценивать входящие запросы как вредоносные или добросовестные, чтобы защищать LLM-приложения, сохраняя полезные запросы и снижая число ошибочных блокировок. В карточке упомянуты тестирование на наборах для косвенных prompt injection, jailbreak-сценариев и red teaming, включая Microsoft-BIPIA, JailbreakBench и Garak. Для запуска можно использовать библиотеку Transformers; веса опубликованы в формате safetensors. Модель предназначена для англоязычного текста. Качество классификации зависит от того, насколько атаки и добросовестные запросы в реальном приложении похожи на примеры обучения и оценки; карточка не приводит конкретных численных результатов. Лицензия в предоставленных данных не указана.
Карточка модели testsavantai/prompt-injection-defender-tiny-v0 на Hugging Face совпадает с карточкой testsavantai/prompt-injection-defender-large-v0, поэтому описание составлено по ней. testsavantai/prompt-injection-defender-large-v0 — англоязычный классификатор TestSavantAI для обнаружения вредоносных prompt injection и jailbreak-запросов, предназначенных для атак на большие языковые модели. Модель дообучена на базе Microsoft DeBERTa-v3-base и использует архитектуру DeBERTa для классификации последовательностей; размер составляет 211,6 млн параметров, максимальная длина контекста — 512 токенов. Модель помогает оценивать входящие запросы как вредоносные или добросовестные, чтобы защищать LLM-приложения, сохраняя полезные запросы и снижая число ошибочных блокировок. В карточке упомянуты тестирование на наборах для косвенных prompt injection, jailbreak-сценариев и red teaming, включая Microsoft-BIPIA, JailbreakBench и Garak. Для запуска можно использовать библиотеку Transformers; веса опубликованы в формате safetensors. Модель предназначена для англоязычного текста. Качество классификации зависит от того, насколько атаки и добросовестные запросы в реальном приложении похожи на примеры обучения и оценки; карточка не приводит конкретных численных результатов. Лицензия в предоставленных данных не указана.
Qualifire prompt-injection-sentinel — англоязычный классификатор на архитектуре ModernBERT-large, дообученный для обнаружения prompt injection и попыток jailbreak во входных текстах. Он относит запросы к benign или malicious и может служить фильтром перед передачей пользовательского ввода большой языковой модели или частью конвейера модерации и защиты чат-бота. В README приведены результаты оценки на четырёх наборах для обнаружения prompt injection: средний бинарный F1 составляет 93,86; модель превзошла указанный базовый классификатор на всех четырёх тестах. Модель принимает текст и выдаёт метку класса с оценкой. Она не предназначена для генерации текста или общего анализа тональности. Ограничения: возможны ошибки на неоднозначных и творческих запросах; модель не оценивалась на неанглоязычных данных, а результаты могут отражать смещения обучающих наборов. Для значимых решений рекомендуется сочетать её с проверкой человеком или правилами и регулярно проверять на новых типах атак. В метаданных указана лицензия «other»; конкретные условия следует сверить с карточкой модели.
Qwen3-Embedding-0.6B-8bit — 8-битная версия модели для создания текстовых эмбеддингов, подготовленная mlx-community в формате MLX из Qwen/Qwen3-Embedding-0.6B. Это плотная модель семейства Qwen3 примерно с 508 млн параметров, предназначенная для извлечения признаков текста и семантического поиска. Она подходит для построения векторных представлений запросов и документов, поиска похожих текстов и систем RAG. Модель поддерживает контекст до 32 768 токенов и распространяется по лицензии Apache-2.0. Карточка указывает на преобразование в MLX, а метаданные связывают репозиторий с базовой моделью Qwen/Qwen3-Embedding-0.6B. Хотя каталог также помечает архитектуру тегом text-generation, основное пользовательское назначение — получение эмбеддингов, что соответствует pipeline_tag feature-extraction. В README не приведены дополнительные сведения о качестве или ограничениях; применимость зависит от языка и предметной области входных текстов.
Qwen3Guard-Gen-4B — генеративная модель модерации безопасности от команды Qwen, дообученная на базе Qwen3-4B. Она рассматривает классификацию безопасности как задачу следования инструкциям и предназначена для оценки пользовательских запросов и ответов модели. Модель относит содержимое к уровням safe, controversial и unsafe и выявляет такие категории риска, как насилие, незаконные действия, сексуальный контент, раскрытие персональных данных, самоповреждение, неэтичное поведение, политически чувствительная дезинформация, нарушение авторских прав и попытки jailbreak во входных запросах. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 3,7 млрд параметров; заявленная длина контекста — 32 768 токенов. В карточке заявлена поддержка 119 языков и диалектов и высокая эффективность на задачах классификации запросов и ответов, включая английский, китайский и многоязычные сценарии. Она принимает текст и выдаёт текстовую классификацию, поэтому подходит для включения в конвейеры модерации и проверки безопасности диалоговых систем. Модель распространяется по лицензии Apache-2.0. Оценки зависят от контекста и принятой политики безопасности; уровень controversial специально отражает неоднозначные случаи. Карточка не приводит подробных ограничений точности для отдельных языков или категорий.
Qwen3Guard-Gen-8B — модель модерации безопасности от команды Qwen, дообученная на базе Qwen3-8B. Она формулирует классификацию как задачу следования инструкциям и оценивает пользовательские запросы и ответы модели по трём уровням: безопасный, спорный и небезопасный. Репозиторий содержит плотную причинную языковую модель Qwen3ForCausalLM размером 7,6 млрд параметров с контекстом до 32 768 токенов, предназначенную для запуска через Transformers. Модель рассчитана на проверку входящих запросов и сгенерированных ответов в системах модерации, включая многоязычные сценарии: в README заявлена поддержка 119 языков и диалектов. Она охватывает категории насилия, незаконных действий, сексуального контента, персональных данных, самоповреждения, неэтичного контента, политически чувствительных тем, нарушения авторских прав и попыток обхода инструкций во входных запросах. Доступна по лицензии Apache-2.0. Классификация может зависеть от контекста и выбранной политики применения; показатели качества и ограничения по отдельным языкам в предоставленных материалах не детализированы.
Glint-Router-1M от Glint-Research — компактная модель маршрутизации запросов, содержащая 985 826 параметров. Это двунаправленный текстовый энкодер с тремя слоями, размерностью 128, восемью головами внимания и контекстом до 256 токенов. За один проход она оценивает домен запроса по таксономии из 25 классов, сложность по шкале от 1 до 5, признаки кода, математики, рассуждений и длинного ответа, а также рекомендуемый уровень модели. Дополнительно модель выдаёт 64-мерное представление для расширения набора категорий. Модель предназначена для предварительной классификации запросов и выбора подходящего уровня или типа модели в системах оркестрации LLM. README приводит результаты на нескольких наборах данных и описывает калибровку вероятностей; показатели зависят от набора и правил разметки, а тесты на шаблонных «ловушках» ограничены семейством примеров, использованным при обучении. По метаданным карточки поддерживается английский язык. Модель распространяется по лицензии MIT.
SDRM-Qwen3-30B-A3B-mask70 — попарная генеративная reward-модель и LLM-судья, дообученная на базе Qwen/Qwen3-30B-A3B-Instruct-2507 методом самодистилляции с маскированием выбранных позиций токенов. Она принимает контекст задачи и два ответа-кандидата, определяет подходящие критерии оценки, сравнивает ответы по этим критериям и выносит вердикт A или B. Модель предназначена для попарного ранжирования ответов и оценки качества диалоговых систем. Архитектура — Qwen3 MoE; в репозитории указано 2,6 млрд параметров, формат весов — safetensors, библиотека — Transformers. Поддерживает английский язык и контекст до 262 144 токенов. Лицензия — Apache-2.0. Для корректной работы требуется подавать контекст и ответы в ожидаемых тегах и соблюдать формат диалога.
SFR-Embedding-2_R — модель эмбеддингов текста, разработанная Salesforce Research. Она предназначена для получения векторных представлений текста и задач сравнения предложений, включая поиск и оценку семантической близости. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В карточке указана поддержка английского языка и формата safetensors; модель доступна для использования через Transformers и Sentence Transformers. Разработчики представляют её в поддержку академической статьи и рекомендуют перед применением оценивать точность, безопасность и справедливость для конкретного сценария, особенно в задачах с высокими последствиями. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.
ShieldLM-13B-baichuan2 — двуязычная модель-детектор безопасности от команды thu-coai, созданная на основе Baichuan2-13B-Chat. Она анализирует генерации больших языковых моделей и выявляет проблемы безопасности по настраиваемым правилам, сопоставленным с общими человеческими нормами безопасности. Модель выдаёт объяснения своих решений и предназначена для интеграции в проверку ответов LLM. Модель использует плотную архитектуру Baichuan с причинным языковым моделированием и содержит 13,3 млрд параметров. Она поддерживает китайский и английский языки; в репозитории представлены веса Safetensors. README сообщает о высокой точности на четырёх тестовых наборах, включая тесты вне обучающего распределения, по сравнению с GPT-4, Llama Guard и Perspective API, но подробные результаты вынесены в статью. Лицензия — MIT.
Skywork-Critic-Llama-3.1-8B — языковая модель-критик, разработанная командой SkyworkAI Alignment Team для попарного сравнения ответов и оценки их относительного качества или уместности. Модель построена на архитектуре Llama 3.1, содержит 7,5 млрд параметров и дообучена на базе meta-llama/Meta-Llama-3.1-8B-Instruct. Она принимает текст и генерирует текстовую оценку; заявленная длина контекста — 131 072 токена. Модель предназначена для улучшения данных, оценки ответов и построения моделей вознаграждения. В README приведены результаты RewardBench за сентябрь 2024 года: версия 8B заняла первое место среди генеративных моделей менее чем с 10 млрд параметров; эти результаты относятся к указанному бенчмарку и дате. Метаданные указывают поддержку чата и интерфейса вызова инструментов. В карточке указана лицензия other, поэтому условия использования следует сверить с файлами и условиями репозитория. Разработчики просят проводить проверку безопасности перед развертыванием в интернет-сервисах и предупреждают о возможных непредсказуемых рисках, включая ошибки при вводе модели в заблуждение или ненадлежащем использовании.
Skywork-Reward-Gemma-2-27B-v0.2 — модель вознаграждения Skywork на основе Gemma 2, дообученная как классификатор последовательностей для оценки предпочтительности ответов. Она принимает диалоги или пары ответов и выдаёт оценки, позволяющие сравнивать варианты и выбирать более предпочтительный. Модель предназначена для ранжирования ответов и поддержки обучения и оценки языковых моделей с подкреплением на основе предпочтений. Модель содержит 27,6 млрд параметров, использует плотную архитектуру Gemma 2 и работает с контекстом до 8192 токенов. Она обучена на 80 тыс. публичных пар предпочтений из разных источников; README отмечает результаты в областях диалога, сложных запросов, безопасности, математики и программирования, а также лидерство на RewardBench по состоянию на октябрь 2024 года. Доступны веса в формате safetensors для Transformers. Для оценки на RewardBench авторы рекомендуют использовать версию v0.2, обученную на очищенном от выявленных пересечений датасете. Для корректной работы 27B версии в README рекомендована реализация attention flash_attention_2 или eager: реализация по умолчанию sdpa может заметно ухудшить результаты. Лицензия в предоставленных данных не указана; авторы просят не использовать модель для незаконной деятельности и не запускать её в интернет-сервисах без соответствующих проверок безопасности.
Skywork-Reward-Llama-3.1-8B-v0.2 — модель вознаграждения, разработанная командой Skywork на основе Meta-Llama-3.1-8B-Instruct и дообученная для оценки предпочтительности ответов языковых моделей. Это плотная Llama-архитектура с классификационной головой для последовательностей, около 7,5 млрд параметров и контекстом до 131 072 токенов. Модель присваивает оценки вариантам ответов или диалогам, помогая выбирать более предпочтительный ответ и ранжировать результаты генерации. Её обучали на 80 тысячах пар предпочтений из открытых наборов данных; модель рассчитана на сложные сценарии, включая диалог, математику, программирование и безопасность. В README указано, что версия v0.2 использует очищенный от части пересечений с тестами RewardBench набор данных; авторы рекомендуют её для оценки на RewardBench. Модель предназначена для оценки и ранжирования ответов, а не для генерации текста как основного сценария. Метаданные указывают задачу text-classification. Лицензия в предоставленных данных не указана; авторы просят проводить проверку безопасности перед развёртыванием в интернет-сервисах и запрещают использовать модель для незаконных действий или угроз безопасности.
Skywork/Skywork-Reward-V2-Qwen3-0.6B — компактная модель вознаграждения, разработанная командой Skywork и дообученная на базе Qwen/Qwen3-0.6B. Это плотная модель с архитектурой Qwen3ForSequenceClassification, содержащая 507,9 млн параметров и принимающая текст для оценки качества ответов и предпочтений. Модель относится к семейству Skywork-Reward-V2, обученному на смеси из 26 млн пар предпочтений по Bradley–Terry. Модель предназначена для ранжирования ответов в диалогах и оценки предпочтений, в том числе при сравнении вариантов ответа и в конвейерах оценки языковых моделей. Разработчики сообщают о результатах на нескольких бенчмарках reward-моделей; приведённые общие заявления серии не гарантируют аналогичные результаты на конкретных пользовательских данных. Контекстное окно составляет 40 960 токенов. В метаданных указана лицензия Apache-2.0. README не уточняет языковой охват, поэтому не следует считать модель русскоязычной или многоязычной без отдельной проверки.
Skywork/Skywork-Reward-V2-Qwen3-1.7B — модель вознаграждения от команды Skywork, дообученная на базе Qwen/Qwen3-1.7B. Это плотная модель с архитектурой Qwen3ForSequenceClassification и 1,7 млрд параметров, предназначенная для оценки качества ответов и предпочтений в диалогах. Серия Skywork-Reward-V2 обучена на смеси из 26 млн пар предпочтений и использует подход Bradley–Terry. Модель подходит для ранжирования вариантов ответа и отбора предпочтительного ответа в конвейерах оценки и улучшения языковых моделей. В карточке серии заявлены высокие результаты на нескольких бенчмарках моделей вознаграждения; приведённые результаты относятся к серии в целом, а не обязательно к этому варианту. Модель принимает текст и выдаёт оценку класса/вознаграждения. Метаданные указывают контекст до 40 960 токенов и лицензию Apache 2.0. Рекомендуемый сценарий запуска описан для Transformers; для массового распределённого инференса README также упоминает SGLang.
NVIDIA Conformer-CTC Small (en-US) — модель распознавания английской речи, разработанная NVIDIA и обученная с помощью NeMo. Это небольшая нерекуррентная модель архитектуры Conformer с CTC-декодированием, примерно на 13 млн параметров. Она принимает монофонические WAV-записи с частотой дискретизации 16 кГц и преобразует речь в текст в нижнем регистре, используя английский алфавит, пробелы и апострофы. Модель предназначена для транскрибации аудиозаписей, пакетной обработки файлов и использования в качестве предобученного чекпойнта для дообучения на других данных. Она совместима с NeMo и NVIDIA Riva; для повышения точности в Riva можно подключить внешнюю языковую модель. Обучение проводилось на нескольких тысячах часов английской речи из публичных корпусов. По опубликованным результатам WER составляет 3,7% на LibriSpeech test-clean и 8,1% на test-other при жадном декодировании. Модель может хуже распознавать акцентную речь, технические термины и разговорные варианты, недостаточно представленные в обучающих данных. Лицензия — CC BY 4.0.
Mike0307/text2vec-base-chinese-rag — модель эмбеддингов на архитектуре BERT, предназначенная для сопоставления китайских текстов и поиска релевантных фрагментов в системах RAG. Она обучена с использованием подхода CoSENT и может применяться как компонент LangChain с векторным хранилищем, например FAISS, для построения ретривера по документам. Модель содержит 129,5 млн параметров и принимает текст длиной до 512 токенов. Она выдаёт векторные представления, пригодные для поиска по сходству и ранжирования релевантности; генерацию ответов выполняет подключённая языковая модель. Репозиторий распространяется в формате safetensors по лицензии Apache 2.0.
AdaGuard-4B — генеративная модель Yunhao-Feng для проверки пользовательских запросов и поведения агентов на соответствие заданной политике безопасности. Вместо фиксированной таксономии риска она принимает от 1 до 100 правил с локальными идентификаторами и возвращает обоснованный анализ и идентификаторы нарушенных правил в порядке политики; если нарушений нет, выдаёт NR. Результат — структурированное решение, а не калиброванная вероятность риска. Модель основана на Qwen3Guard-Gen-4B и имеет архитектуру Qwen3ForCausalLM; в контрольной точке 3,7 млрд параметров. Она принимает текстовые события запроса или траектории агента, включая действия и результаты инструментов, и генерирует текстовый вердикт. Контекстное окно — 32 768 токенов. Разработчики сообщают о дообучении на AdaptiveSafety с последующим SafePO; в README приведены результаты оценки на AdaptiveSafety и DynaBench. Модель предназначена для встраивания в системы модерации и контроля поведения агентов, где правила задаёт приложение. README рекомендует версию 4B как отправную точку семейства. Для запуска описан стек Transformers 5.2.0, PyTorch и CUDA/BF16; указанная Apache-2.0 лицензия разрешает использование в соответствии с её условиями.
mlx-community/bge-m3-mlx-4bit — неофициальная версия BAAI/bge-m3, преобразованная для MLX и квантованная до 4 бит для работы на Apple Silicon. Модель основана на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров и формирует 1024-мерные представления текста; максимальная длина контекста — 8194 токена. Модель предназначена для получения эмбеддингов и семантического поиска. Исходная BGE-M3 поддерживает плотный, разреженный и многовекторный (ColBERT) поиск, однако README этой версии описывает генерацию эмбеддингов через MLX. Квантование уменьшает требования к памяти и подходит для массового формирования эмбеддингов, когда приемлемо некоторое снижение качества. Модель поддерживает многоязычный текст, включая русский, английский, китайский, немецкий, испанский, французский, итальянский, японский, корейский и португальский. Для использования нужны MLX и совместимая система Apple Silicon. Лицензия — MIT; это неофициальная конверсия, за исходной моделью и официальными реализациями следует обращаться к BAAI/bge-m3.
lucadiliello/BLEURT-20-D12 — модель на основе Transformer для оценки качества текстовых кандидатов с помощью BLEURT. Репозиторий содержит реализацию BleurtConfig, BleurtForSequenceClassification и BleurtTokenizer для PyTorch; модель насчитывает 324,5 млн параметров и рассчитана на контекст до 512 токенов. Модель предназначена для автоматической оценки текстов, в частности качества переводов и других сгенерированных текстов. Она принимает текстовые данные и выдаёт оценку классификационной модели. В карточке указана лицензия.
Elron/bleurt-base-512 — версия BLEURT в формате PyTorch, опубликованная Elron на основе оригинальной модели BLEURT от Google Research. Это BERT-модель для классификации последовательностей с 136,7 млн параметров и контекстом до 512 токенов; её используют как обучаемую метрику для оценки качества текстов, созданных генеративными системами, сравнивая результат с эталонным текстом. Модель подходит для автоматической оценки генерации текста в экспериментах, тестировании и сравнении языковых моделей. README показывает загрузку через Transformers как AutoModelForSequenceClassification. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.
Elron/bleurt-large-512 — версия BLEURT в формате PyTorch, созданная на основе оригинальных моделей BLEURT из работы Google Research «BLEURT: Learning Robust Metrics for Text Generation». Это модель семейства BERT с архитектурой BertForSequenceClassification и примерно 433,9 млн параметров; она принимает текстовые входы и выдаёт оценку для задачи классификации текста. Максимальная длина контекста — 512 токенов. Модель предназначена для оценки качества текстовой генерации, в частности для автоматического сопоставления сгенерированного текста с эталоном. Её можно подключить через Transformers как AutoModelForSequenceClassification вместе с токенизатором. В README не указаны лицензия и поддерживаемые языки, поэтому условия использования по этим параметрам уточнить нельзя. Карточка описывает PyTorch-представление BLEURT; отдельные сведения о дообучении этой версии не приведены.
NVIDIA DeepSeek-V3.1-NVFP4 — квантизированная версия авторегрессионной языковой модели DeepSeek-V3.1, подготовленная NVIDIA с помощью TensorRT Model Optimizer. Архитектура основана на трансформере DeepseekV3ForCausalLM; модель содержит 37,6 млрд параметров и поддерживает контекст до 163 840 токенов. Принимает текстовые последовательности и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для разработчиков, которым нужна готовая к развёртыванию языковая модель для чат-ботов, AI-агентов, RAG-систем и других приложений. Квантизация весов и активаций линейных операторов до FP4 сокращает требования к диску и памяти GPU примерно в 1,6 раза. Для инференса предусмотрен TensorRT-LLM; заявлена совместимость с GPU NVIDIA Blackwell, а пример развёртывания требует восемь GPU B200. README характеризует модель как готовую к коммерческому и некоммерческому использованию; метаданные указывают лицензию MIT. Базовая модель не разработана NVIDIA: это сторонняя модель DeepSeek-V3.1. Она может воспроизводить токсичность и общественные предубеждения из обучающих данных, а также выдавать неточные, неполные, нерелевантные или повторяющиеся ответы. Перед внедрением необходимы проверки на данных и требованиях конкретного применения.
Acuvity Prompt Injection — англоязычный классификатор текстов, разработанный Acuvity Inc. для выявления попыток внедрения инструкций в запросы к большим языковым моделям. Это дообученная модель DistilBERT с классификационной головой; она принимает текст и относит его к классу «безопасный» или «инъекция». В типовом сценарии классификатор проверяет пользовательский ввод перед передачей запроса основной LLM, чтобы помечать или блокировать обнаруженные инъекции. Модель рассчитана на английские запросы и имеет контекстное окно 512 токенов. В карточке указаны метрики оценки на 20 000 запросов из наборов, не использовавшихся при обучении: точность 96,025%, полнота 96,47%, precision 95,619% и F1 96,0426%. Эти результаты не гарантируют такую же эффективность на других данных. Модель не предназначена для выявления jailbreak-атак и не поддерживает запросы на других языках. Лицензия — Apache 2.0.
F2LLM-v2-14B-Preview — предварительная многоязычная модель эмбеддингов от CodeFuse AI, дообученная на базе Qwen3-14B. Она обучена на корпусе из 27 млн примеров, охватывающем более 100 естественных и программных языков, и предназначена как основа для задач векторного представления текста и дальнейшего дообучения; версия Preview обучена без инструкционного формата. Модель имеет плотную архитектуру Qwen3 с 14 млрд параметров, работает с текстом и поддерживает контекст до 40 960 токенов. Для получения эмбеддингов доступны библиотеки Sentence Transformers и Transformers. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Поскольку это базовая версия без инструкционного обучения, она предназначена для встраивания в поисковые и другие embedding-системы, а не для диалогового использования как instruct-модель. README не приводит оценки качества или подробные ограничения по отдельным языкам и задачам.
F2LLM-v2-4B-Preview — многоязычная модель эмбеддингов от CodeFuse AI, дообученная на базе Qwen3-4B. Она обучена на корпусе из 27 миллионов примеров и предназначена для получения текстовых векторных представлений, которые можно использовать в задачах поиска, сопоставления и других сценариях с эмбеддингами. Это базовая preview-версия без инструкционного обучения, рассчитанная на дальнейшую настройку под конкретные задачи. Модель имеет плотную архитектуру Qwen3 и около 3,7 млрд параметров; максимальный контекст составляет 40 960 токенов. README сообщает о данных более чем на 100 естественных и программных языках, а метаданные перечисляют поддерживаемые языки карточки, включая русский и английский. Доступны веса в формате Safetensors и использование через Transformers или Sentence Transformers. Лицензия — Apache-2.0.
Это облегчённая модель идентификации языка на основе библиотеки fastText, представленная Meta. Она классифицирует входной текст по языку; размещённая версия lid218e, выпущенная в рамках проекта NLLB, распознаёт 217 языков. Модель предназначена для автоматической маркировки языка коротких фрагментов, предварительной маршрутизации текста и выбора подходящих языковых инструментов. fastText рассчитан на эффективную работу на стандартном оборудовании и подходит как для прототипирования, так и для производственных сценариев. В README также описаны предобученные векторы fastText для 157 языков, полученные методом CBOW с позиционными весами и символьными n-граммами; эти параметры не следует считать подтверждённой спецификацией именно размещённого классификатора lid218e. Лицензия репозитория — CC BY-NC 4.0, поэтому коммерческое использование ограничено условиями лицензии. Возможны смещения в предсказаниях.
GuardrailsAI/finetuned_nli_provenance — модель классификации текста, разработанная Guardrails AI. Она предназначена для проверки связи между утверждением и исходным контекстом в сценариях контроля происхождения и фактической обоснованности ответов языковых моделей, включая оценку того, следует ли гипотеза из предоставленного текста. Модель основана на архитектуре RoBERTa и содержит около 454,1 млн параметров; поддерживает текстовый ввод и контекст до 514 токенов. В Hugging Face она опубликована для задачи text-classification и распространяется по лицензии Apache-2.0. Доступная карточка модели содержит ограниченное описание, поэтому сведения о точных данных обучения, метриках, поддерживаемых естественных языках и деталях меток классификации не установлены.