II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейYuFeng-XGuard-Reason-8B — модель защиты контента от команды Alibaba AAIG, созданная на базе Qwen3-8B и дообученная для выявления рисков в запросах пользователей, ответах моделей и других текстах. Это плотная причинная языковая модель с 7,6 млрд параметров, предназначенная для диалогового применения и онлайн-проверки контента; заявленная длина контекста составляет 40 960 токенов. Модель сначала выдаёт структурированный вывод о риске и оценку, а затем при необходимости объясняет причины решения. Версия 8B рассчитана на сложное понимание рисков и позволяет задавать или корректировать категории безопасности через промпт. В карточке заявлены многоязычное распознавание рисков, защита от атакующих инструкций и проверка безопасного завершения; модель использует таксономию категорий безопасности и соответствия требованиям. Модель подходит для предварительной модерации пользовательских запросов и ответов ИИ, присвоения категорий риска и аудита решений. Возможны ложноположительные и ложноотрицательные результаты, поэтому её выводы требуют оценки и мониторинга в целевой среде. Распространяется по лицензии Apache-2.0.
Карточка модели avsolatorio/00-100-11-1-0-1-0-0-cls-normed-768-512-hard_GIST_BAAI_bge-base-en-v1.5-20240128213417-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/00-400-10-1-0-1-0-0-cls-normed-768-512_GIST_BAAI_bge-base-en-v1.5-20240130184711-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/00-400-10-1-0-1-0-0-cls-normed-768-512_GIST_BAAI_bge-base-en-v1.5-20240130210931-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/00-400-10-1-0-1-0-0-cls-normed-768-512_GIST_BAAI_bge-base-en-v1.5-20240130211808-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/01-000-10-1-0-1-0-0-u_GIST_BAAI_bge-small-en-v1.5-20240126235053-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
nvidia/Aegis-AI-Content-Safety-LlamaGuard-Permissive-1.0 — модель для классификации контента по критериям безопасности, разработанная NVIDIA. Это параметроэффективно дообученная версия Llama Guard на базе Llama 2 7B, обученная на наборе данных NVIDIA Aegis Content Safety Dataset 1.0. Модель предназначена для модерации пользовательских запросов, отдельных фрагментов или полных диалогов и работает как классификатор, несмотря на языковую LLM-архитектуру. Основной язык — английский, библиотека — PEFT, задача в каталоге моделей обозначена как text classification, метрика — F1. Модель использует системную инструкцию с политикой безопасности и таксономией из 13 критически опасных категорий, а также категориями безопасного контента и контента, требующего осторожности. В ответ она определяет, является ли содержание безопасным или небезопасным, и при небезопасном результате может вывести идентификатор категории нарушения. Поддерживается передача собственной таксономии и политики в инструкции. Модель обучалась примерно на 11 000 диалоговых аннотаций, причём разметка выполнялась на уровне диалога, а не отдельных реплик. Основное ограничение состоит в том, что она обучена классифицировать пользовательские запросы; для классификации ответов необходимо использовать специальный шаблон. Использование регулируется Llama 2 Community License Agreement.
Карточка модели AI45Research/AgentDoG1.5-FG-Qwen3.5-0.8B на Hugging Face совпадает с карточкой AI45Research/AgentDoG1.5-Qwen3.5-4B, поэтому описание составлено по ней. AgentDoG 1.5 Qwen3.5 4B — модель для проверки безопасности траекторий действий ИИ-агентов, разработанная AI45Research в рамках семейства AgentDoG. Она принимает полную текстовую траекторию работы агента, включая взаимодействие с инструментами и средой, и классифицирует её как безопасную или небезопасную. Для небезопасных траекторий модель также может определять тип сбоя, возможные последствия риска и его источник. Модель построена на плотной архитектуре Qwen3.5 и содержит 4 млрд параметров. Она предназначена для классификации и мониторинга агентных сценариев, в том числе для работы в качестве онлайн-защитного барьера, способного выявлять риск и вмешиваться в выполнение workflow. Для развёртывания README рекомендует совместимые версии SGLang или vLLM. Модель распространяется под лицензией Apache-2.0. Карточка не приводит конкретных ограничений точности или списка поддерживаемых естественных языков; результаты следует интерпретировать в контексте заданной таксономии безопасности и формата входной траектории.
Карточка модели AI45Research/AgentDoG1.5-Qwen3.5-0.8B на Hugging Face совпадает с карточкой AI45Research/AgentDoG1.5-Qwen3.5-4B, поэтому описание составлено по ней. AgentDoG 1.5 Qwen3.5 4B — модель для проверки безопасности траекторий действий ИИ-агентов, разработанная AI45Research в рамках семейства AgentDoG. Она принимает полную текстовую траекторию работы агента, включая взаимодействие с инструментами и средой, и классифицирует её как безопасную или небезопасную. Для небезопасных траекторий модель также может определять тип сбоя, возможные последствия риска и его источник. Модель построена на плотной архитектуре Qwen3.5 и содержит 4 млрд параметров. Она предназначена для классификации и мониторинга агентных сценариев, в том числе для работы в качестве онлайн-защитного барьера, способного выявлять риск и вмешиваться в выполнение workflow. Для развёртывания README рекомендует совместимые версии SGLang или vLLM. Модель распространяется под лицензией Apache-2.0. Карточка не приводит конкретных ограничений точности или списка поддерживаемых естественных языков; результаты следует интерпретировать в контексте заданной таксономии безопасности и формата входной траектории.
AgentDoG-FG-Llama3.1-8B — дообученная модель на основе Meta Llama 3.1 8B Instruct, опубликованная AI45Research как часть системы AgentDoG для оценки безопасности автономных агентов. Она анализирует полную траекторию работы агента, включая действия и наблюдения на разных шагах, чтобы определить, встречается ли небезопасное поведение, и диагностировать его причину. Модель предназначена для бинарной классификации траекторий как безопасных или небезопасных и для подробной диагностики небезопасных траекторий по источнику риска, типу сбоя и возможному вреду. Её можно применять как классификатор, модуль защиты агентной системы или для оценки в бенчмарках. Архитектура — плотная Llama с 7,5 млрд параметров; формат весов — safetensors, контекст — до 131072 токенов. README сообщает об оценке на R-Judge, ASSE-Safety и ATBench и о сильных результатах в обнаружении рисков на длинных траекториях и при использовании инструментов. Модель принимает текстовое описание траектории и выдаёт текстовую оценку и диагностические метки. Лицензия — Apache-2.0. README не перечисляет поддерживаемые естественные языки, поэтому модель разумно использовать с учётом языковых возможностей базовой Llama 3.1 Instruct, но отдельные языковые гарантии для этой версии не заявлены.
AgentDoG-Llama3.1-8B — дообученная модель семейства Llama, разработанная командой AgentDoG для оценки безопасности траекторий автономных агентов. Она анализирует последовательности действий и наблюдений, чтобы определить, встречается ли небезопасное поведение на любом этапе выполнения, а для небезопасных траекторий дополнительно классифицирует источник риска, тип сбоя и возможный реальный вред. Модель предназначена для оценки, диагностики и защиты систем, использующих инструменты и API. Модель содержит 7,5 млрд параметров, использует плотную архитектуру Llama и формат Safetensors; базовая модель — meta-llama/Llama-3.1-8B-Instruct. Метаданные указывают контекст до 131 072 токенов. Карточка сообщает об оценке на R-Judge, ASSE-Safety и ATBench, включая выявление длительного перехвата инструкций и небезопасного использования инструментов. Для развёртывания предлагаются SGLang и vLLM. Указана лицензия Apache-2.0. Модель классифицирует траектории и выдаёт диагностические метки; её следует применять для анализа следов агента, а не как универсальный фильтр только конечных ответов. В приведённых результатах точность тонкой классификации заметно различается по категориям: 82,0% для источника риска, 32,4% для типа сбоя и 59,2% для типа вреда на ATBench; точность типа сбоя ограничена.
Agent Tool Optimizer — модель Intuit, дообученная методом supervised fine-tuning на базе Qwen3-4B-Instruct-2507. Она переписывает описания инструментов и API для использования LLM-агентами: принимает имя инструмента, JSON-схему параметров и исходное описание, а возвращает JSON с улучшенным описанием. Модель помогает агенту понять, когда вызывать инструмент, как корректно заполнять обязательные и необязательные параметры, учитывать ограничения и значения по умолчанию, а также избегать ошибок валидации. Она предназначена для работы без трасс выполнения инструментов и обучена формировать ответ по заданному JSON-контракту. Модель имеет плотную архитектуру Qwen3, содержит 3,7 млрд параметров и работает с текстом. Контекст составляет до 262 144 токенов; основной язык карточки — английский. Распространяется в формате safetensors по лицензии Apache-2.0. Качество ответа зависит от следования рекомендованному шаблону: изменения формата промпта или требование дополнительных полей могут ухудшить соответствие ожидаемому JSON.
ANAH-7B — модель OpenCompass на архитектуре InternLM2, дообученная на наборе данных ANAH для выявления и аннотирования галлюцинаций в ответах больших языковых моделей. Она принимает текстовый ответ модели и формирует текстовую аннотацию; для работы следует использовать формат запроса из исследовательской работы ANAH. Веса объёмом 7,4 млрд параметров сохранены в формате safetensors, модель работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для анализа ответов LLM и разметки содержащихся в них галлюцинаций. В метаданных основной задачей указана классификация текста, а классификатор каталога также относит её к генерации текста; обе задачи отражены в тегах и поддерживаемых задачах. Карточка не приводит подробных оценок качества. Лицензия — Apache-2.0.
ANAH-v2 — модель OpenCompass на базе InternLM2-7B, дообученная для разметки галлюцинаций в ответах больших языковых моделей. Она предназначена для аналитической оценки ответов: по инструкции и шаблону из статьи модель определяет наличие галлюцинаций в тексте. Модель имеет плотную архитектуру InternLM2ForCausalLM с 7,4 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. Репозиторий использует Transformers и формат safetensors. Лицензия Apache-2.0.
auto-0.4b — модель-классификатор ProCreations для оценки безопасности следующего вызова инструмента ИИ-агента. Это полное дообучение энкодера ModernBERT-large с 394,7 млн параметров и контекстом до 65 536 токенов. Модель принимает описание запроса пользователя, историю действий агента и предполагаемый вызов инструмента и классифицирует его как approve или deny. Поддерживается английский язык. Модель рассчитана на быстрый первый этап проверки действий в агентных системах: она может одобрять рутинные операции и выявлять несанкционированные разрушительные действия, попытки утечки учётных данных, ослабления защиты и следование инструкциям из внедрённого в прочитанный контент текста. В карточке заявлены скорость около 7 мс на вызов и точность 90,13% на отложенном тесте из 3000 примеров; автор рекомендует передавать неоднозначные случаи более крупной модели. На сложных примерах качество ниже, а доля ошибочных отказов на стандартном пороге составляет 10,88%; при настройке порога можно уменьшить ошибочные одобрения ценой роста ошибочных отказов. Результаты зависят от формата входа: модель обучалась на заданных секциях и порядке контекста. Лицензия — Apache-2.0.
Карточка модели avsolatorio/AVES_BAAI_bge-base-en-v1.5-20240125211517-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/AVES_BAAI_bge-base-en-v1.5-20240125233651-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/AVES_BAAI_bge-base-en-v1.5-20240126151540-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
AdamG012/chat-opt-350m-reward-deepspeed — модель оценки ответов, созданная как второй этап обучения ChatGPT-подобных систем с помощью DeepSpeed-Chat. Она основана на архитектуре OPT и содержит около 454,1 млн параметров; в README конфигурация описана как 350M. Модель обучалась на наборах сравнений ответов, включая HH-RLHF, WebGPT Comparisons и SHP, чтобы различать предпочтительные и менее предпочтительные ответы. Модель предназначена для оценки качества ответов в конвейерах обучения с обратной связью от людей, в частности для формирования сигнала вознаграждения при RLHF. Метаданные Hugging Face указывают задачу text-generation, но карточка описывает назначение именно как reward model, а не как обычный чат-бот для прямых ответов пользователям. Архитектура — OPTForCausalLM; контекст составляет 2048 токенов. Указан английский язык. Модель распространяется по лицензии Apache-2.0. Её оценочные предпочтения зависят от обучающих сравнений и могут не совпадать с предпочтениями конкретного приложения; карточка не приводит количественных оценок качества.
Con-J-Qwen2-7B — генеративная модель-судья, разработанная на основе Qwen2-7B-Instruct. Она обучена на данных предпочтений Skywork/Skywork-Reward-Preference-80K-v0.1: исходная модель генерировала положительные и отрицательные оценки с пояснениями, а затем пары таких контрастных суждений использовались для обучения методом Direct Preference Optimization (DPO). Модель предназначена для оценки ответов и выдачи вердикта с обоснованием на естественном языке. Модель использует плотную архитектуру Qwen2ForCausalLM с 7,1 млрд параметров, принимает текст и выдаёт текст. Контекст составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. README заявляет точные оценки с пояснениями, но не приводит численных результатов в доступном фрагменте, поэтому качество на конкретных наборах данных по нему определить нельзя.
Context Aware Splitter (CAS) — каузальная языковая модель семейства Llama, опубликованная mhenrichsen для разбиения текста с учётом контекста при подготовке данных для Retrieval-Augmented Generation (RAG). Она сегментирует текст на самостоятельные по смыслу фрагменты заданного примерного размера и возвращает список фрагментов вместе с кратким обозначением темы. Модель обучена на 12,3 тыс. датских текстов объёмом 13,4 млн токенов и рассчитана прежде всего на датский язык. Метаданные указывают размер 1 млрд параметров и контекст до 8194 токенов; веса представлены в форматах PyTorch и safetensors. CAS подходит для автоматической подготовки текстовых коллекций к индексации и поиску в RAG-системах. Карточка описывает её как специализированный сплиттер, а не как универсальную модель генерации. Лицензия Apache-2.0 допускает широкое использование при соблюдении её условий.
Карточка модели yuhuili/EAGLE-LLaMA3-Instruct-70B на Hugging Face совпадает с карточкой yuhuili/EAGLE-LLaMA3-Instruct-8B, поэтому описание составлено по ней. yuhuili/EAGLE-LLaMA3-Instruct-8B — модель на основе архитектуры LLaMA для ускорения генерации текста методом спекулятивного декодирования EAGLE. Она использует контекстные признаки языковой модели для построения кандидатов токенов и предназначена для ускорения инференса в системах обслуживания LLM, совместимых с EAGLE. В метаданных указаны 743,4 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия Apache-2.0. README описывает EAGLE как способ ускорять генерацию с сохранением распределения результатов базового декодирования и сообщает о поддержке интеграции с несколькими фреймворками обслуживания моделей. Карточка не уточняет обучение именно этого чекпойнта или его совместимую базовую модель.
yuhuili/EAGLE-LLaMA3-Instruct-8B — модель на основе архитектуры LLaMA для ускорения генерации текста методом спекулятивного декодирования EAGLE. Она использует контекстные признаки языковой модели для построения кандидатов токенов и предназначена для ускорения инференса в системах обслуживания LLM, совместимых с EAGLE. В метаданных указаны 743,4 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия Apache-2.0. README описывает EAGLE как способ ускорять генерацию с сохранением распределения результатов базового декодирования и сообщает о поддержке интеграции с несколькими фреймворками обслуживания моделей. Карточка не уточняет обучение именно этого чекпойнта или его совместимую базовую модель.
Карточка модели yuhuili/EAGLE-Qwen2-7B-Instruct на Hugging Face совпадает с карточкой yuhuili/EAGLE-LLaMA3-Instruct-8B, поэтому описание составлено по ней. yuhuili/EAGLE-LLaMA3-Instruct-8B — модель на основе архитектуры LLaMA для ускорения генерации текста методом спекулятивного декодирования EAGLE. Она использует контекстные признаки языковой модели для построения кандидатов токенов и предназначена для ускорения инференса в системах обслуживания LLM, совместимых с EAGLE. В метаданных указаны 743,4 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия Apache-2.0. README описывает EAGLE как способ ускорять генерацию с сохранением распределения результатов базового декодирования и сообщает о поддержке интеграции с несколькими фреймворками обслуживания моделей. Карточка не уточняет обучение именно этого чекпойнта или его совместимую базовую модель.
Карточка модели yuhuili/EAGLE-Vicuna-7B-v1.3 на Hugging Face совпадает с карточкой yuhuili/EAGLE-LLaMA3-Instruct-8B, поэтому описание составлено по ней. yuhuili/EAGLE-LLaMA3-Instruct-8B — модель на основе архитектуры LLaMA для ускорения генерации текста методом спекулятивного декодирования EAGLE. Она использует контекстные признаки языковой модели для построения кандидатов токенов и предназначена для ускорения инференса в системах обслуживания LLM, совместимых с EAGLE. В метаданных указаны 743,4 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия Apache-2.0. README описывает EAGLE как способ ускорять генерацию с сохранением распределения результатов базового декодирования и сообщает о поддержке интеграции с несколькими фреймворками обслуживания моделей. Карточка не уточняет обучение именно этого чекпойнта или его совместимую базовую модель.
facebook/fasttext-pt-vectors — готовые векторные представления слов на португальском языке для библиотеки fastText, разработанной Facebook. Модель предназначена для извлечения признаков из текста, языковой идентификации и использования в качестве входных представлений для классификаторов и других NLP-систем. Векторы обучены методом CBOW с позиционными весами на текстах Common Crawl и Википедии. Размерность представлений — 300; используются символьные n-граммы длиной 5, окно контекста 5 и 10 отрицательных примеров. fastText работает на обычных многоядерных процессорах и подходит для прототипирования и применения в продуктивных системах. Модель выдает векторы слов, а не готовые ответы или метки классов. В README отмечен риск смещённых предсказаний; косинусное сходство между векторами можно использовать для оценки семантической близости. Лицензия — CC-BY-SA-3.0.
alykassem/FLAN-T5-Paraphraser — модель перефразирования, разработанная для исследования по поиску граничных случаев с помощью целевого перефразирования. Она основана на FLAN-T5-large и дообучена в течение девяти эпох на отфильтрованном наборе из 96 073 пар перефразирования, собранных из семи источников. Модель принимает текст и генерирует его перефразированный вариант; в описании заявлена поддержка обычного и целевого перефразирования для создания разнообразных формулировок. Основной сценарий применения — генерация состязательных обучающих примеров, помогающих находить граничные случаи в моделях машинного обучения при небольшом искажении исходного распределения данных. Модель также подходит для общего перефразирования и интеграции с библиотекой Parrot. В карточке указаны 385,2 млн параметров, архитектура T5, контекст до 512 токенов и лицензия Apache-2.0. Для английского языка есть подтверждение в метаданных; качество для других языков не заявлено.
gpt-oss-safeguard-20b — модель рассуждений о безопасности, разработанная OpenAI и дообученная на базе openai/gpt-oss-20b. Она предназначена для классификации текстового контента по заданным пользователем политикам безопасности и других задач Trust and Safety. Модель подходит для фильтрации входов и выходов LLM, разметки онлайн-контента, а также пакетной офлайн-классификации. Она интерпретирует текстовое описание политики, что позволяет адаптировать её к различным продуктам и сценариям без значительной специализированной разработки. Модель предоставляет доступ к процессу рассуждений и поддерживает настраиваемый уровень усилий рассуждения — low, medium и high, позволяя выбирать баланс между качеством и задержкой. Модель содержит около 21 млрд параметров, из которых активно используется 3,6 млрд, и рассчитана на работу на GPU с 16 ГБ видеопамяти. Она предназначена для генерации текста, обучена формату ответов harmony и должна использоваться только с этим форматом. README не указывает поддерживаемые языки, длину контекста и дополнительные модальности. Доступ к необработанной цепочке рассуждений предназначен для разработчиков и специалистов по безопасности, а не для показа обычным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей эксперименты, модификацию и коммерческое использование без требований copyleft. Она ориентирована именно на задачи безопасности; для других применений рекомендуется использовать базовые модели gpt-oss.
Ray2333/GRM-Gemma-2B-sftreg — модель оценки предпочтений для больших языковых моделей, разработанная авторами работы «Regularizing Hidden States Enables Learning Generalizable Reward Model for LLMs». Она дообучена на gemma-2b-it с использованием набора weqweasdas/preference_dataset_mixture2_and_safe_pku и предназначена для оценки ответов и обучения с подкреплением на основе человеческих предпочтений (RLHF). Модель построена на плотной архитектуре GemmaForCausalLM с 2,5 млрд параметров и контекстом до 8192 токенов. В карточке Hugging Face указаны задачи text-classification и text-generation; основной сценарий — классификация или ранжирование ответов по предпочтительности. Авторы сообщают об улучшении обобщения на задачах вне обучающего распределения и снижении переоптимизации в RLHF, в том числе при зашумлённых предпочтениях. Модель распространяется под лицензией MIT. Для загрузки структуры авторы рекомендуют использовать файл model.py из репозитория и проверить инициализацию v_head; качество оценки зависит от формата входа и совместимости реализации reward head.
HarmAug-Guard — модель-классификатор для оценки безопасности диалогов с большими языковыми моделями и защиты от попыток обхода ограничений. Она разработана авторами работы HarmAug и предназначена для анализа текста диалога с присвоением класса безопасности. Модель дообучена на DeBERTa-v3-large с применением дистилляции знаний и аугментации данных по методу HarmAug. Она содержит 533,8 млн параметров, использует архитектуру DeBERTaV2ForSequenceClassification и принимает текст длиной до 1024 токенов. В карточке заявлена лицензия Apache-2.0. Модель подходит для фильтрации потенциально небезопасных запросов и проверки диалогов на jailbreak-атаки. README не приводит результатов оценки качества или подробностей о наборах классов; поэтому точность для конкретного сценария и поведение на других языках по имеющимся сведениям определить нельзя.