II.10Разработка и эксплуатация AI/ML-систем

E-Star-12B-base — корейскоязычный текстовый оценщик Selectstar Eval Team для проверки ответов LLM по заданным критериям и шкалам. Это дообученная методом полного fine-tuning модель Gemma 3 12B на 11,6 млрд параметров с архитектурой decoder-only Transformer; она принимает текст и генерирует текстовую оценку, объяснение и ключевые фрагменты-основания в структурированном виде. Контекст составляет до 131 072 токенов. Модель предназначена для оценки следования рубрикам и качества RAG, включая релевантность контекста, обоснованность ответа источниками и соответствие ответа запросу. Её применяют для автоматической проверки ответов, мониторинга качества, регрессионных сравнений и первичного отбора примеров перед экспертной оценкой; в карточке отдельно описаны сценарии в финансовой и юридической областях. README сообщает о повышении корреляции с оценками на англо- и корейскоязычных Feedback Bench относительно базовой модели, но результаты уступают крупным frontier-моделям, а Faithfulness остаётся слабым показателем. Обучение проводилось на 6 311 примерах, отобранных из K2-Feedback; репозиторий использует Transformers и формат safetensors. Хотя базовая Gemma 3 поддерживает мультимодальный ввод, эта модель обучалась и оценивалась для текста, а качество обработки изображений не проверено. Лицензирование требует соблюдения условий Gemma и дополнительного ограничения CC BY-NC 4.0 для изменений Selectstar; коммерческое использование требует отдельного соглашения с Selectstar.

Aira-security FT-Llama-Prompt-Guard-2 — дообученный с помощью LoRA классификатор на базе meta-llama/Llama-Prompt-Guard-2-22M для выявления prompt injection и jailbreak-попыток. Модель классифицирует текстовые запросы как безопасные или вредоносные и предназначена для проверки пользовательских промптов перед передачей их языковой модели. Модель имеет архитектуру DeBERTa-v2 и содержит 77,5 млн параметров; максимальная длина контекста — 512 токенов. README указывает, что обучение проводилось только на английском языке. Возможны ложноположительные и ложноотрицательные срабатывания, особенно на примерах, отличающихся от обучающих данных. Лицензия — Llama 2.

GLiGuard — компактная модель Fastino для классификации безопасности запросов и ответов в сценариях защиты LLM. Она построена на GLiNER2 и использует encoder-only архитектуру с 0,3 млрд параметров: вместо генерации вердикта модель оценивает заданные задачи и метки за один проход. По карточке, модель рассчитана на быстрый локальный инференс, в том числе на CPU. Модель поддерживает бинарную оценку безопасности, многометочную классификацию токсичности и категорий вреда, обнаружение jailbreak-атак и оценку отказов. Её можно применять до генерации для проверки пользовательского запроса и после генерации — для анализа ответа, при необходимости передавая контекст запроса вместе с ответом. В метаданных указан английский язык; карточка предупреждает, что классификация может пропускать контекстные, многоязычные и новые атаки. GLiGuard дообучена на fastino/gliner2-base-v1. Модель предназначена для модерации, а не для генерации текста, и не заменяет полноценную политику безопасности. Результаты многометочной классификации зависят от порогов и схемы задач, поэтому пороги могут потребовать настройки. Лицензия — Apache-2.0.

Это конверсия модели granite-embedding-97m-multilingual-r2 от IBM в формат GGUF F16, подготовленная ATF (Agent Taskflow) для локального запуска через llama.cpp. Модель на базе ModernBERT создаёт 384-мерные текстовые эмбеддинги и использует собственный многоязычный токенизатор на 180 000 токенов. Конверсия не меняет веса и не включает дообучение; автор README сообщает о высокой близости результатов к исходной модели при проверке на CPU и GPU. Модель предназначена для получения векторных представлений текста в локальных и периферийных сценариях, включая семантический поиск и сопоставление запросов с документами или кодом. Для запуска нужен актуальный llama.cpp с поддержкой токенизатора granite-embed-multi-97m. Модель распространяется по лицензии Apache-2.0; веса принадлежат IBM.

HaluGate Sentinel — классификатор запросов, разработанный vllm-sr для маршрутизации запросов в LLM-системах. Он определяет, требуется ли запросу проверка фактов: информационные вопросы направляются в контур RAG, инструментов или верификации, а творческие, программные, оценочные и математические задачи могут проходить напрямую к генеративной модели. Классификатор не проверяет факты и не оценивает ответы. Модель основана на encoder-архитектуре ModernBERT-base с классификационной головой и дообучена с помощью LoRA; размер — 149 млн параметров, заявленная длина контекста — 8192 токена. Она выдаёт одну из двух меток: FACT_CHECK_NEEDED или NO_FACT_CHECK_NEEDED. Обучение проводилось на англоязычных данных; заявлены точность валидации 96,4% и F1 0,965. Модель предназначена для первичной классификации намерения запроса, аналитики трафика и выбора маршрута обработки. Пограничные и философские вопросы могут классифицироваться неоднозначно, поэтому уверенность модели следует учитывать при маршрутизации. Надёжность для других языков не гарантируется, а узкоспециализированные области не были отдельной целью дообучения. Лицензия — Apache 2.0.

jina-embeddings-v2-base-zh — двуязычная модель текстовых эмбеддингов, разработанная Jina AI. Она предназначена для получения векторных представлений текста для поиска и сравнения смысловой близости, в том числе между китайским и английским языками и для смешанного китайско-английского ввода. Модель использует архитектуру JinaBERT на основе BERT с двунаправленным ALiBi и поддерживает контекст до 8192 токенов. В репозитории указано около 160,1 млн параметров. Для получения эмбеддингов README рекомендует применять mean pooling; модель можно использовать через Transformers или Sentence Transformers, а для загрузки через Transformers требуется включить trust_remote_code. Подходит для семантического и межъязыкового поиска, включая поиск по документам для RAG. Это производная модель семейства jina-embeddings-v2; в карточке указана лицензия Apache-2.0, однако доступ к весам ограничен и для загрузки требуется авторизация на Hugging Face.

rasa/LaBSE — опубликованные Rasa веса модели LaBSE (Language-agnostic BERT Sentence Embedding), предназначенной для получения признаков и многоязычных представлений предложений. Это плотная модель семейства BERT с архитектурой BertModel; в метаданных указаны 498,1 млн параметров и контекст до 512 токенов. Rasa описывает её как многоязычную модель, обученную для 112 языков, и рекомендует использовать как базовый вариант для многоязычного NLU и чат-ботов. Модель принимает текст и используется для извлечения векторных представлений, в том числе для сравнения семантически близких высказываний на разных языках. Репозиторий содержит веса для PyTorch, TensorFlow и Flax. Карточка Hugging Face не указывает лицензию, поэтому условия использования по доступным источникам установить нельзя.

LettuceDetect от KRLabsOrg — англоязычная модель для выявления галлюцинаций в ответах, сформированных по контексту, например в системах RAG. Она дообучена для классификации токенов на базе answerdotai/ModernBERT-base и возвращает оценки для отдельных токенов ответа, которые можно объединить в фрагменты, не подтверждённые контекстом. В карточке указана поддержка контекста до 8192 токенов и обучение на датасете RagTruth; метаданные указывают архитектуру ModernBertForTokenClassification и 149 млн параметров. Модель принимает контекст и ответ и выдаёт разметку токенов. Модель подходит для проверки обоснованности ответов в RAG и подсветки неподтверждённых фрагментов. В README приведены результаты на RagTruth, но без числовых показателей для этой версии. Распространяется по лицензии MIT.

LettuceDetect v2 Qwen 2B — генеративная модель для поиска галлюцинаций в ответах RAG-систем и кодовых агентов. Её разработала KRLabsOrg на базе Qwen3.5-2B: модель дообучена методом LoRA с учителем, а адаптер объединён с базовыми весами в самостоятельную модель. Она принимает запрос пользователя, контекст-источник и проверяемый ответ, затем возвращает JSON с точными фрагментами ответа, которые не подтверждаются контекстом, и метками категории и подкатегории. Модель охватывает прозу, код и вывод инструментов; в обучении использовались данные на 14 языках. В README приведены результаты на объединённом тестовом наборе, RAGTruth и PsiloQA, включая оценку F1 на уровне фрагментов и примеров. Указана архитектура Qwen3.5 с гибридом Gated DeltaNet и attention; размер — 2 млрд параметров. Длина контекста не уточняется, модель описана как рассчитанная на длинный контекст. Модель предназначена для проверки обоснованности ответов, в том числе в контурах RAG и агентной генерации кода. Она возвращает текстовые фрагменты и их метки, но символьные смещения нужно восстановить сопоставлением фрагментов с исходным ответом. Для надёжного разбора результата README рекомендует задать строгую JSON-схему. Лицензия — Apache-2.0.

Llama-3.3-Nemotron-70B-Select — языковая модель NVIDIA на архитектуре Transformer семейства Llama 3.3, дообученная на основе meta-llama/Llama-3.3-70B-Instruct с помощью масштабированного моделирования Bradley–Terry. Она предназначена для оценки ответов, сгенерированных другими языковыми моделями: на вход получает текстовый запрос и ответ, а на выходе выдаёт одно число с оценкой качества; более высокое значение означает более полезный ответ. Модель рассчитана на отбор ответа в системах inference-time scaling для открытых задач общего назначения и диалоговых сценариев. Модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для работы через Transformers README указывает не менее двух GPU с 80 ГБ памяти и 150 ГБ свободного места. Заявлена готовность к коммерческому использованию, однако метаданные указывают лицензию «other», поэтому перед применением следует проверить условия NVIDIA. В README также отмечен риск токсичных, предвзятых, неточных, неполных или избыточных оценок и результатов, особенно на токсичных запросах.

Patronus-Lynx-70B-Instruct — языковая модель Patronus AI на архитектуре Llama 3, дообученная на базе meta-llama/Meta-Llama-3-70B-Instruct. Она предназначена для оценки галлюцинаций в сценариях RAG: модель получает документ, вопрос и ответ и определяет, подтверждается ли ответ документом. Модель содержит 69,5 млрд параметров, принимает текст и генерирует текстовую оценку. В карточке указаны преимущественно английский язык и максимальная длина последовательности около 8 тысяч токенов; в метаданных контекст указан как 8192 токена. Для обучения использовались, среди прочего, CovidQA, PubmedQA, DROP и RAGTruth, с ручными и синтетическими аннотациями. Модель оценивалась на HaluBench. Модель опубликована в формате safetensors и предназначена для использования через Transformers. Лицензия CC BY-NC 4.0 допускает использование с ограничением на коммерческое применение.

Llama Guard 3 Vision — модель Meta на базе Llama 3.2 Vision с 11 млрд параметров, дообученная для классификации безопасности мультимодальных запросов и текстовых ответов. Она принимает текст и изображение в составе запроса и выдаёт текстовую метку «безопасно» или «небезопасно», а для небезопасного содержимого указывает нарушенные категории из таксономии MLCommons, включающей 13 типов рисков. Модель предназначена для проверки входов и ответов в системах на базе LLM, в том числе запросов с изображениями. Она рассчитана прежде всего на английский язык и поддерживает одно изображение на запрос. Это не универсальный классификатор безопасности изображений или текстовый фильтр: оценка может зависеть от размера изображения, предобучающих данных и устойчивости к состязательным атакам. Для отдельных категорий, требующих актуальных фактов, например выборов, авторы рекомендуют более сложные системы. Модель распространяется по лицензии Llama 3.2.

LlamaGuard-7b — модель-классификатор безопасности на основе Llama 2, опубликованная в репозитории llamas-community. Она проверяет текстовые запросы к языковым моделям и их ответы, генерируя текстовую метку safe или unsafe и, при обнаружении нарушения, указывая соответствующие категории риска. Для получения оценки вероятности небезопасного класса используют вероятность первого токена и применяют выбранный порог. Модель предназначена для модерации содержимого LLM в реальном времени и поддерживает таксономию, включающую насилие и ненависть, сексуальный контент, незаконное оружие, контролируемые вещества, самоубийство и самоповреждение, а также планирование преступлений. Архитектура — плотная авторегрессионная LlamaForCausalLM; размер — около 6,6 млрд параметров, контекст — 2048 токенов. Указана поддержка английского языка. Веса доступны в safetensors, а карточка также описывает варианты формата Llama и Hugging Face Transformers. В карточке приведены результаты оценки на наборах для классификации запросов и ответов; результаты зависят от таксономии и не полностью сопоставимы с другими системами модерации. Модель может ошибаться и требует выбора порога под задачу и политику модерации. Лицензия — Llama 2 Community License.

Это экспортированная в ONNX и квантованная версия классификатора Meta Llama-Prompt-Guard-2-22M, опубликованная gravitee-io. Модель использует архитектуру DeBERTa-v2 и предназначена для классификации текста с целью выявления jailbreak-промптов и попыток обойти инструкции безопасности LLM. Она принимает текст и выдаёт метки классов; поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский языки. Размер модели по метаданным — 77,5 млн параметров, контекст — 512 токенов. Репозиторий содержит ONNX-формат для запуска через ONNX Runtime. В README приведены результаты оценки на наборе jackhhao/jailbreak-classification: для квантованной версии указаны точность 0,9579, precision 0,9967 и recall 0,9204. Эти результаты относятся к описанному набору данных и не гарантируют качество на иных типах атак. Указана лицензия Llama 4; применяйте модель в соответствии с её условиями.

Карточка модели avsolatorio/MixEmbed-base-20240110153733-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbed-base-20240110153733-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240124231910-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели matyaydin/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Карточка модели Oussama1209/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

NoRefER — модель aiXplain AI Lab для оценки качества распознавания речи без эталонной расшифровки. Она основана на mMiniLMv2, дообученной контрастным обучением, и использует сиамскую архитектуру с общими весами для попарного сравнения текстовых гипотез ASR. Модель применяет известный порядок качества гипотез, полученных при разных уровнях сжатия одной системы распознавания, как сигнал для обучения. NoRefER предназначена для сравнения результатов разных ASR-систем на аудиоданных без эталонных текстов, выбора лучшей гипотезы из нескольких вариантов, приоритизации примеров для проверки человеком или постредактирования, а также A/B-тестирования версий распознавания. В описанных экспериментах точность попарного ранжирования на валидации составила 77%; на слепом тесте метрика хорошо коррелировала с рангами по WER и помогала отбирать гипотезы для ансамбля. Модель принимает текстовые гипотезы и выдаёт признаки для их сравнения, а не аудио-транскрипцию. Поддерживаются английский, французский, испанский, португальский, немецкий и другие языки; контекст составляет 514 токенов, размер — 124,3 млн параметров. Лицензия — MIT.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 — языковая модель общего назначения от NVIDIA для диалога, рассуждений и генерации текста. Это эталонные веса в формате BF16, предназначенные прежде всего для дообучения, адаптации к предметным областям, исследований и подготовки собственных квантованных вариантов. Модель готова к коммерческому использованию; в карточке лицензия указана как other. Архитектура — гибридная Mixture-of-Experts с чередованием слоёв Mamba-2 и MoE и отдельными слоями Attention; также используются слои Multi-Token Prediction. В README заявлены 30 млрд параметров всего и 3 млрд активных, а в метаданных каталога — 1,9 млрд параметров. Модель поддерживает контекст до 262 144 токенов по метаданным; README указывает до 1 млн токенов для отдельных конфигураций оборудования. Основной язык — английский; также поддерживаются испанский, французский, немецкий, итальянский и японский, а README дополнительно описывает посттренировочные данные на китайском. Модель предназначена для настройки под пользовательские данные с помощью SFT, RL или дистилляции, а также для оценки и генерации текста в чат- и агентных сценариях. Полноточный вариант требует значительных ресурсов для инференса: README приводит 256K контекста для одной H100 80 GB и конфигурации до 1 млн токенов на более мощном оборудовании. Для более быстрой производственной генерации NVIDIA рекомендует отдельную NVFP4-версию.

Onyx-mE5-Small — дообученная и квантизированная до 4 бит модель для создания текстовых эмбеддингов на основе intfloat/multilingual-e5-small. Её подготовили для OnyxEmbed — локального эмбеддера для RAG на устройствах Onyx. Модель использует архитектуру BERT и содержит 124,3 млн параметров; веса размещены в формате safetensors. Контекст ограничен 512 токенами. Модель преобразует запросы и фрагменты документов в векторы для семантического поиска и сопоставления текстов, в том числе между языками. Для работы следует сохранять соглашения E5: применять mean pooling и добавлять к входам префиксы `query: ` или `passage: `. По README, 4-битная квантизация сокращает размер примерно с 449 до 71 МБ; автор сообщает о сохранении качества recall относительно fp32 на английском и в межъязыковых сценариях. Основа и эта версия распространяются по лицензии MIT.

Orange разработала текстовую модель эмбеддингов на базе nomic-ai/nomic-embed-text-v1.5. Она кодирует тексты в векторы размерностью 1536 для поиска по смыслу, сравнения предложений и других задач, где нужны текстовые представления. Модель построена на архитектуре NomicBert: выход базового трансформера размерностью 768 проходит через pooling и обучаемую линейную проекцию до 1536 измерений. В README указано, что проекция сохраняет косинусное сходство базовой модели; поддерживаются Matryoshka-векторы меньшей размерности и контекст до 8192 токенов. Модель подходит для семантического поиска, индексации документов для RAG, сопоставления запросов с документами, кластеризации и сравнения текстов. Для задания режима обработки вход нужно снабжать инструкционным префиксом, например search_document, search_query или clustering. Карточка указывает поддержку английского языка; лицензия — Apache-2.0. Дополнительная размерность может быть полезна для совместимости с существующими 1536-мерными векторными хранилищами, однако README отмечает лишь маргинальную пользу увеличения размерности и не приводит полных результатов сравнительной оценки.

PangolinGuard-Large — модель классификации текста на базе ModernBERT Large, разработанная для обнаружения вредоносных запросов, включая prompt injection и jailbreak-атаки. Она предназначена для встраивания в AI-агентов и разговорные интерфейсы как недорогой механизм защиты, который можно запускать самостоятельно. Модель содержит 394,7 млн параметров, использует архитектуру ModernBertForSequenceClassification и принимает текст длиной до 8192 токенов. Она дообучена на answerdotai/ModernBERT-large и оценивается на наборах для выявления атак и проверки чрезмерной блокировки безвредных запросов, включая NotInject, BIPIA, Wildguard-Benign и PINT. Модель распространяется под лицензией Apache-2.0. Данных о поддерживаемых языках в карточке нет.

grounded-ai/phi4-r1-guard — языковая модель, разработанная Jlonge4 и дообученная на unsloth/phi-4-bnb-4bit с использованием Unsloth и TRL. Она предназначена для оценки текстов: выявляет токсичность, проверяет ответы на галлюцинации по эталонному материалу и оценивает релевантность найденного контекста запросу в RAG-сценариях. Модель имеет 14,1 млрд параметров, архитектуру LlamaForCausalLM и контекстное окно 16 384 токена. Принимает текст и выдаёт объяснение решения с бинарной классификацией: toxic/non-toxic, yes/no или relevant/unrelated. В карточке заявлена поддержка английского языка. Модель выпущена под лицензией Apache-2.0. Её оценки и объяснения могут ошибаться; проверки галлюцинаций зависят от качества эталонного материала, а классификацию следует валидировать на данных целевого применения.

Карточка модели liddlefish/privacy_embedding_rag_10k_base_12_final на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Карточка модели liddlefish/privacy_embedding_rag_10k_base_checkpoint_2 на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Карточка модели liddlefish/privacy_embedding_rag_10k_tmp на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

Prometheus-13B-v1.0 — языковая модель для детальной оценки ответов больших языковых моделей, разработанная авторами проекта Prometheus. Она основана на Llama-2-Chat и дообучена на 100 тысячах примеров обратной связи из Feedback Collection. Модель принимает инструкцию, оцениваемый ответ, рубрику с критериями и эталонный ответ, после чего генерирует текстовую обратную связь и оценку по заданной шкале. Модель предназначена для автоматизированной оценки длинных ответов по настраиваемым критериям, например читабельности для детей, культурной чувствительности и креативности. Её также можно использовать как reward model в RLHF. Архитектура — плотная LlamaForCausalLM на 12,9 млрд параметров; модель работает с английским языком, контекст составляет 4096 токенов. Для ожидаемого поведения README рекомендует применять шаблон диалога Llama-2-Chat. Лицензия — Apache-2.0.

Prometheus 7B v1.0 — языковая модель для детальной оценки ответов других LLM и использования в качестве reward model при обучении с обратной связью от людей. Её разработали как альтернативу GPT-4 для оценки по заданным критериям. Модель основана на Llama 2 Chat и дообучена на 100 тысячах примеров обратной связи из Feedback Collection; архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов. Для оценки модель принимает инструкцию, ответ на проверку, шкалу критериев и эталонный ответ. Это позволяет задавать собственные критерии, например читаемость для детей, культурную чувствительность или креативность. README сообщает о результатах на уровне GPT-4 на ряде тестов, но это заявление разработчиков, а не независимая гарантия качества. Модель рассчитана на английский язык, работает через Transformers и распространяется по лицензии Apache 2.0.