I.14Автоматизация процессов и AI-агенты

Qwen3Guard-Gen-8B — модель модерации безопасности от команды Qwen, дообученная на базе Qwen3-8B. Она формулирует классификацию как задачу следования инструкциям и оценивает пользовательские запросы и ответы модели по трём уровням: безопасный, спорный и небезопасный. Репозиторий содержит плотную причинную языковую модель Qwen3ForCausalLM размером 7,6 млрд параметров с контекстом до 32 768 токенов, предназначенную для запуска через Transformers. Модель рассчитана на проверку входящих запросов и сгенерированных ответов в системах модерации, включая многоязычные сценарии: в README заявлена поддержка 119 языков и диалектов. Она охватывает категории насилия, незаконных действий, сексуального контента, персональных данных, самоповреждения, неэтичного контента, политически чувствительных тем, нарушения авторских прав и попыток обхода инструкций во входных запросах. Доступна по лицензии Apache-2.0. Классификация может зависеть от контекста и выбранной политики применения; показатели качества и ограничения по отдельным языкам в предоставленных материалах не детализированы.

phunguyen01/Qwen-Tulu-3B-SFT — языковая модель на архитектуре Qwen2, дообученная автором на Qwen/Qwen2.5-3B с использованием набора allenai/tulu-3-sft-mixture. Модель содержит 3,1 млрд параметров и предназначена для генерации текста в диалоговом формате; метаданные также отмечают интерфейс вызова инструментов. Модель подходит для диалоговых приложений и генерации ответов на текстовые запросы. Максимальная длина контекста составляет 32 768 токенов. Данных о целевых языках и результатах оценки в карточке нет, поэтому качество для конкретных языков и задач по доступным сведениям определить нельзя. Веса доступны в форматах PyTorch и safetensors, модель рассчитана на библиотеку Transformers. Лицензия указана как other, без конкретных условий в предоставленных данных; перед использованием следует проверить лицензионные сведения на странице модели и базовой модели.

Это версия модели roberta-base-bne-capitel-ner-plus, преобразованная в формат ONNX для запуска с совместимыми инструментами. Модель на архитектуре RoBERTa содержит 151,8 млн параметров и предназначена для классификации токенов, в частности для задач распознавания именованных сущностей на испанском языке. Контекст составляет до 514 токенов. Модель опубликована SantiMB и распространяется по лицензии Apache 2.0. Формат ONNX позволяет использовать её в средах, поддерживающих этот формат. Карточка не уточняет набор меток или результаты оценки качества.

RoBERTa_Test_Training — дообученная ICT2214Team7 модель DistilRoBERTa для классификации токенов. Она обучена на датасете CoNLL-2003 и предназначена для разметки последовательностей, в частности для задач распознавания сущностей в тексте. Модель содержит 95,2 млн параметров, использует архитектуру RoBERTa и принимает контекст длиной до 514 токенов. Опубликована в формате Safetensors по лицензии Apache-2.0. В README приведены результаты на оценочной выборке: F1 0,9529, точность 0,9880, precision 0,9508 и recall 0,9550. Эти показатели относятся к указанной оценочной выборке; подробности разбиения данных и ограничения применения не описаны.

Ruri-Reranker-Small — японская модель ранжирования текстовых пар, разработанная cl-nagoya и основанная на Sentence Transformers. Она дообучена на cl-nagoya/ruri-reranker-stage1-small и использует архитектуру DistilBERT с классификационной головой; размер модели составляет 68 млн параметров, максимальная длина последовательности — 512 токенов. Модель предназначена для повторного ранжирования результатов поиска: она оценивает релевантность пары «запрос — документ», чтобы расположить наиболее подходящие результаты выше. В README приведены оценки на японских наборах JQaRA, JaCWIR и MIRACL; модель компактнее вариантов Ruri Base и Large. Модель принимает текст и выдаёт оценку релевантности. Она рассчитана на японский язык и опубликована под лицензией Apache 2.0. Длина входной последовательности ограничена 512 токенами; в приведённых бенчмарках показатели отличаются от более крупных моделей семейства Ruri.

alunadiderot подготовил модель классификации текста на базе SetFit и intfloat/multilingual-e5-base. Она дообучена методом few-shot: Sentence Transformer сначала адаптирован контрастивным обучением, затем поверх его признаков обучен классификатор LogisticRegression. Модель распределяет тексты по 12 категориям; среди примеров в карточке указаны Business и Politics. Заявленная точность на наборе оценки составляет 0,8222. Модель предназначена для тематической классификации коротких текстов, например новостных статей и сообщений. Архитектура включает XLM-RoBERTa, размер составляет 305,2 млн параметров, максимальная длина последовательности — 512 токенов. Базовая модель multilingual-e5-base ориентирована на многоязычные текстовые эмбеддинги; конкретный перечень поддерживаемых языков для классификатора не приведён. Лицензия в предоставленных данных не указана.

TinyLettuce-ettin-68m-en — англоязычная модель KRLabsOrg для выявления галлюцинаций в ответах с опорой на заданный контекст. Она построена на энкодере Ettin на 68,1 млн параметров с головой классификации токенов и помечает токены как подтверждённые или галлюцинированные; объединение помеченных фрагментов в span выполняется отдельно. Модель принимает контекст, вопрос и ответ в последовательности до 4 096 токенов по README; метаданные указывают нативный контекст до 7 999 токенов. Модель предназначена для обнаружения неподтверждённых фрагментов в системах retrieval-augmented generation, а также для дальнейшей адаптации на небольших доменных выборках. README сообщает F1 74,97% на RAGTruth и позиционирует модель как компактную для CPU-инференса. Это результат на конкретном бенчмарке, а не гарантия качества на других данных. Модель дообучена от jhu-clsp/ettin-encoder-68m; лицензия — MIT.

cardiffnlp/twitter-roberta-base-dec2021-tweet-topic-multi-all — модель Cardiff NLP на базе RoBERTa, дообученная для многометочной классификации тем сообщений в Twitter на датасете tweet_topic_multi. Обучение проводилось на полном обучающем наборе train_all, а проверка — на test_2021. Модель содержит 151,8 млн параметров, принимает текст и поддерживает контекст до 514 токенов. В тестировании на test_2021 достигла micro-F1 0,765, macro-F1 0,619 и accuracy 0,549. Подходит для автоматической разметки тем твитов и анализа тематических тенденций. Лицензия в предоставленных данных не указана.

VinAI Translate en2vi v2 — модель машинного перевода, разработанная VinAI для перевода с английского на вьетнамский. Она основана на архитектуре mBART и содержит 269,7 млн параметров; модель доступна в формате PyTorch и рассчитана на контекст до 1024 токенов. Её можно использовать для перевода текстов и как компонент приложений, которым нужен перевод между английским и вьетнамским. Карточка модели описывает семейство VinAI Translate как систему нейронного машинного перевода и указывает на публикацию с экспериментальными результатами. Лицензия репозитория — AGPL-3.0. Авторы просят цитировать статью VinAI Translate при публикации результатов или включении моделей в программное обеспечение.

timm/ViT-B-16-SigLIP2-256 — контрастивная модель зрения и языка семейства SigLIP 2, обученная на наборе WebLI и преобразованная из исходных контрольных точек JAX проекта Big Vision для использования в OpenCLIP. Модель предназначена для классификации изображений по текстовым описаниям без отдельного обучения на целевых классах: она сопоставляет изображение с предложенными текстовыми вариантами и позволяет выбрать наиболее подходящий. Модель работает с изображениями и текстом и рассчитана на zero-shot классификацию. В карточке указаны архитектура ViT-B/16 с разрешением 256 и обучение на WebLI; веса доступны в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Результаты зависят от формулировок текстовых меток и от соответствия изображений данным обучения; модель может хуже работать на редких понятиях, специализированных изображениях и языках, для которых качество отдельно не подтверждено. Она предназначена для сопоставления изображений и текста, а не для генерации описаний или локализации объектов.

Pinwheel/wav2vec2-large-xls-r-1b-hindi — модель автоматического распознавания речи, разработанная организацией Pinwheel на базе архитектуры Wav2Vec2-XLS-R компании Meta. Она преобразует аудиосигнал в текст и предназначена прежде всего для распознавания речи на хинди. Модель совместима с Transformers и PyTorch, использует архитектуру Wav2Vec2ForCTC и содержит около 1,3 млрд параметров. Конфигурация включает 48 скрытых слоёв, размер скрытого представления 1280 и словарь из 72 токенов.

Модель Facebook Wav2Vec2-XLS-R-2b-21-EN переводит речь с 21 языка на английский. Это модель SpeechEncoderDecoderModel: энкодер инициализирован чекпойнтом facebook/wav2vec2-xls-r-2b, декодер — facebook/mbart-large-50; связка дообучена на парах перевода из набора CoVoST 2. Модель принимает аудио и генерирует текстовый перевод на английском языке. Она предназначена для перевода устной речи, например аудиозаписей и голосовых сообщений. Поддерживаются французский, немецкий, испанский, каталанский, итальянский, русский, китайский, португальский, персидский, эстонский, монгольский, нидерландский, турецкий, арабский, шведский, латышский, словенский, тамильский, японский, индонезийский и валлийский языки как исходные; целевой язык — английский. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. README указывает на результаты оценки на CoVoST 2 и описывает модель как стандартную последовательностную модель с методом generate.

Davlan/xlm-roberta-base-masakhaner — модель распознавания именованных сущностей, созданная дообучением XLM-RoBERTa на наборах MasakhaNER для африканских языков. Она размечает в тексте имена людей (PER), места (LOC), организации (ORG), даты и время (DATE), присваивая метки отдельным токенам. Модель предназначена для извлечения сущностей из новостных текстов на амхарском, хауса, игбо, киньяруанда, луганда, нигерийском пиджине, суахили, волоф и йоруба. Архитектура — XLM-RoBERTa для классификации токенов, около 305,2 млн параметров; максимальный родной контекст — 514 токенов. Доступна в формате PyTorch и рассчитана на использование с Transformers. Карточка сообщает о высокой точности на задаче NER, однако обучение проводилось на размеченных новостных статьях за ограниченный период, поэтому качество может снижаться на текстах других жанров и предметных областей. Лицензия в доступных данных не указана.

Davlan/xlm-roberta-large-masakhaner — модель распознавания именованных сущностей, созданная на основе XLM-RoBERTa large и дообученная на наборах данных MasakhaNER. Она размечает в тексте даты и время, местоположения, организации и имена людей; рассчитана на извлечение сущностей из новостных текстов на африканских языках. Модель содержит 658,7 млн параметров, использует архитектуру XLM-RoBERTa для классификации токенов и поддерживает контекст до 514 токенов. В карточке перечислены амхарский, хауса, игбо, киньяруанда, луганда, луо, нигерийский пиджин, суахили, волоф и йоруба; результаты оценки приведены для всех десяти языков. Модель подходит для извлечения сущностей из новостей на этих языках, но обучение на размеченных новостных статьях ограниченного периода может ухудшить качество в других жанрах и предметных областях. Сведения о лицензии в предоставленных данных отсутствуют.

Карточка модели arinze/address-match-abp-v5 на Hugging Face совпадает с карточкой arinze/address-match-abp-v2, поэтому описание составлено по ней. arinze/address-match-abp-v2 — модель на основе BERT, созданная для сопоставления адресов. Она кодирует предложения и абзацы в плотные векторы размерностью 64, пригодные для поиска семантически похожих адресов, кластеризации и ранжирования кандидатов по сходству. Модель можно использовать через библиотеку Sentence-Transformers; она обучалась с функцией потерь MultipleNegativesRankingLoss и косинусным сходством. Модель содержит 25,9 млн параметров и принимает текст с контекстным окном до 512 токенов. В репозитории указаны веса PyTorch. Язык обучающих данных и лицензия в доступных сведениях не приведены, поэтому область применимости по языкам и условия использования определить нельзя.

THemidli разработал Applied NER Stage 3 — компактную модель распознавания именованных сущностей на английском языке. Это двухслойная uncased BERT-модель с архитектурой BertForTokenClassification, дообученная на основе google/bert_uncased_L-2_H-128_A-2. Она содержит около 4,4 млн параметров, принимает текст и поддерживает контекст до 512 токенов; репозиторий использует формат safetensors и библиотеку Transformers. Модель размечает токены в восемь категорий с BIO-кодированием: PERSON, ORGANIZATION, LOCATION, TIMEDATE, PRODUCT, WORKOFART, JOB и AMOUNT. Её можно применять для извлечения людей, организаций, мест, дат и времени, продуктов, произведений, должностей и денежных сумм из английских текстов, в том числе как лёгкую базовую модель для экспериментов и обработки коротких фрагментов. На тестовой выборке точность по точным границам сущностей составила F1 0,4685, а на 40 вручную размеченных диагностических примерах — 0,4785. Модель обучена на небольшом разнородном наборе данных; слабее распознаёт редкие произведения и продукты, различает компании и продукты по контексту, а также ошибается в точных границах и именах с большим числом субслов. Автор характеризует её как компактную базовую модель, а не готовую систему для защиты персональных данных. Лицензия — Apache-2.0.

Komail262/arabert-ner-anercorp — модель для распознавания именованных сущностей в арабском тексте. Она дообучена на наборе ANERCorp на базе aubmindlab/bert-base-arabertv02 и использует архитектуру BERT с классификацией токенов; размер составляет 162,4 млн параметров, контекст — до 512 токенов. Модель размечает сущности по схеме BIO: имена людей (PERS), места (LOC), организации (ORG) и прочие сущности (MISC). Она предназначена для извлечения именованных сущностей из новостных текстов на современном стандартном арабском языке. На тестовой части ANERCorp приведены оценки F1 на уровне сущностей: 0,9015 для LOC, 0,8485 для PERS и 0,7083 для ORG. Модель может хуже работать с арабскими диалектами и публикациями в социальных сетях; точность для ORG и MISC ниже, чем для LOC и PERS. Для критически важных сценариев требуется оценка на целевом домене. Лицензия указана как other.

mgrella/autonlp-bank-transaction-classification-5521155 — модель классификации банковских транзакций, обученная с помощью AutoNLP. Она решает задачу многоклассовой классификации текста и предназначена для присвоения транзакционным записям категорий по их текстовому описанию. Модель построена на архитектуре BERT для классификации последовательностей, содержит 137,1 млн параметров и принимает текст длиной до 512 токенов. В карточке указан итальянский язык. На валидации точность составила 0,822, а macro F1 — 0,571; разница между этими показателями указывает, что качество может заметно различаться между классами. Модель опубликована в формате PyTorch и Safetensors. Лицензия в предоставленных данных не указана.

Модель ulisesbravo/autotrain-pt-l1sfd-nom8j — дообученная с помощью AutoTrain модель BERT для классификации текстов. Она основана на ulisesbravo/autotrain-k9ag8-b7nm0, который, согласно описанию в каталоге, представляет собой BERTimbau, дообученный для классификации текстов на португальском языке. Модель содержит 136,1 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для отнесения португалоязычных текстов к классам. На валидации указаны accuracy 0,732 и macro F1 0,731. Лицензия в предоставленных данных не указана.

iiLEX/autotrein-BERT-iiLEX-dgs-0001 — модель классификации текстов, созданная с помощью AutoTrain. Она дообучена на базе ulisesbravo/autotrain-pt-l1sfd-nom8j, которую каталог описывает как BERTimbau для классификации текстов на португальском языке. Модель использует архитектуру BERT с головой BertForSequenceClassification, содержит 136,1 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для отнесения текста к одному из классов; конкретная тематика и названия классов в карточке не приведены. На валидации указаны accuracy 0,701, micro-F1 0,701 и macro-F1 0,517, поэтому качество может заметно различаться между классами. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.

Это итальянская модель BERT для ответов на вопросы, созданная на основе dbmdz/bert-base-italian-uncased и дообученная на задаче question answering. Она предназначена для извлечения ответа из предоставленного текста по вопросу и может применяться в системах поиска по документам и справочных материалах на итальянском языке. Модель имеет архитектуру BertForQuestionAnswering, содержит 137,1 млн параметров и поддерживает контекст длиной до 512 токенов. Для обучения использован набор SQuAD-it — итальянская версия SQuAD, полученная полуавтоматическим переводом исходного датасета. В карточке приведены результаты EM 63,8 и F1 75,30. Модель принимает вопрос и контекст в виде текста и возвращает текстовый ответ, обычно извлечённый из контекста. Лицензия в предоставленных данных не указана.

onnx-community/bert-base-multilingual-cased-ner-hrl-ONNX — ONNX-версия модели Davlan/bert-base-multilingual-cased-ner-hrl, автоматически сконвертированная и опубликованная сообществом ONNX на Hugging Face. Модель основана на многоязычной базовой версии BERT mBERT и предназначена для распознавания именованных сущностей в текстах. Модель решает задачу token classification и выделяет три типа сущностей: людей (PER), организации (ORG) и местоположения (LOC). Она обучена для арабского, немецкого, английского, испанского, французского, итальянского, латышского, нидерландского, португальского и китайского языков. Предусмотрено использование через Transformers.js и pipeline token-classification, что подходит для локального или браузерного инференса в ONNX-совместимой среде. Сильной стороной модели является единая многоязычная архитектура для десяти языков и поддержка определения границ соседних сущностей одного типа. Ограничение заключается в том, что обучение проводилось на размеченных новостных статьях определённого периода, поэтому качество может снижаться на текстах других доменов и в иных сценариях. Размер контекста и точные параметры ONNX-конфигурации в README не указаны. Модель распространяется по лицензии AFL-3.0.

jiaqianjing выпустил модель chinese-address-ner — дообученную для распознавания адресных сущностей версию hfl/chinese-roberta-wwm-ext на неизвестном наборе данных. Модель на основе BERT обрабатывает китайскую строку адреса и присваивает метку каждому токену, выделяя компоненты адреса по семи административным уровням в схеме BIO. Модель предназначена для извлечения структурированных адресных компонентов, например из адресов на почтовых отправлениях. В README приведены метрики на оценочном наборе: F1 0,9719, точность 0,9664 и полнота 0,9774. Размер модели — 129,5 млн параметров, контекст — до 512 токенов. Распространяется по лицензии Apache-2.0.

sharoz/codegen-350M-mono-custom-functions-dataset-python_v2 — дообученная модель Salesforce CodeGen-350M-Mono для генерации кода. Она основана на архитектуре CodeGenForCausalLM и предназначена для продолжения текстового ввода и создания программного кода; в названии указана настройка на пользовательском наборе функций на Python, однако README не описывает конкретные сценарии обучения или оценки. Модель принимает и выдаёт текст, а её контекст составляет 2048 токенов. Модель опубликована в формате PyTorch под лицензией BSD 3-Clause. В README приведено значение loss 0,2820 на наборе оценки, но подробности методики и результатов не раскрыты. Возможности и ограничения обучения на Python следует оценивать с учётом недостатка сведений о датасете и тестировании.

Moritz Laurer разработал DeBERTa-v3-small-mnli-fever-docnli-ling-2c — англоязычную модель классификации текстовых пар для задач вывода по естественному языку (NLI). Она дообучена на 1 279 665 парах «гипотеза — посылка» из восьми наборов данных, включая MultiNLI, Fever-NLI, LingNLI и DocNLI. Базовая архитектура — DeBERTa-v3-small от Microsoft; модель содержит 155 млн параметров и принимает последовательности длиной до 512 токенов. Модель предсказывает один из двух классов: entailment («следует из текста») или not-entailment («не следует из текста»). Обучение на DocNLI, содержащем длинные документы, нацелено на рассуждения с учётом удалённых фрагментов текста. В README приведены результаты оценки на тестовых выборках MultiNLI, ANLI и Fever-NLI; качество на ANLI заметно ниже, чем на MultiNLI. Модель рассчитана прежде всего на английский язык. Распространяется в форматах PyTorch и Safetensors; сведения о лицензии в предоставленных источниках отсутствуют.

Mungert/DeepCoder-14B-Preview-GGUF — предварительная GGUF-версия 14-миллиардной модели для генерации текста и кода, разработанная Mungert. В качестве базовой модели указана DeepSeek-R1-Distill-Qwen-14B; при обучении или проверке использовались наборы PrimeIntellect/verifiable-coding-problems, likaixin/TACO-verified и livecodebench/code_generation_lite. Заявленный язык — английский, основной сценарий применения — генерация и решение задач программирования. Главная особенность модели — экстремально низкобитное квантование с методом IQ-DynamicGate, который распределяет точность по слоям: для разных частей сети применяются IQ4_XS, IQ2_XXS, IQ3_S и Q5_K для критически важных embedding и output-слоёв. Такой подход предназначен для снижения требований к памяти и запуска на CPU, устройствах с небольшим объёмом VRAM и edge-оборудовании. Доступные GGUF-варианты могут быть особенно полезны для компактного локального инференса и исследований низкобитного квантования. В README приведены результаты только для Llama-3-8B-Instruct при контексте 2048 токенов, поэтому эти показатели нельзя напрямую считать характеристиками DeepCoder-14B. Для DynamicGate сообщается заметное снижение perplexity по сравнению со стандартным 1–2-битным квантованием, однако с увеличением размера файлов примерно на 0,1–0,3 ГБ; скорость инференса оставалась сопоставимой. Ограничениями являются возможная потеря точности по сравнению с полноразмерными версиями, отсутствие подтверждённых характеристик контекстного окна и неполные сведения о конкретных вариантах квантования. Лицензия — MIT.

stillerman/fdt-disfluency-distilbert-66m-v4 — модель разметки токенов на базе DistilBERT, разработанная Stillerman для очистки расшифровок живой речи. Она помечает каждое слово тегом KEEP, DELETE, KEEP_STRIP_COMMA или KEEP_CAPITALIZE, после чего простая реконструкция собирает очищенный текст. Модель удаляет слова-паразиты и повторы, сохраняя остальную формулировку без перефразирования. Модель содержит 65,2 млн параметров, использует архитектуру distilbert-base-cased и контекст до 512 токенов. Версия v4 обучена на синтетических внесениях речевых сбоев в разговорные корпуса; метрики на валидации: exact-match 0,9724 и DELETE-F1 0,9896. Для браузерного применения доступна квантованная ONNX-модель int8 для transformers.js, с заявленной скоростью около 10–50 мс на высказывание. Область обработки намеренно ограничена словами-паразитами и повторами: исправления с заменой слов, в том числе конструкции «I mean», сохраняются как есть. Лицензия репозитория — Apache-2.0, однако в обучении частично использован DailyDialog под CC BY-NC-SA, поэтому README рекомендует считать модель исследовательским артефактом и не применять её в коммерческих целях без дополнительной правовой проверки.

Gemma-4 26B-A4B Heretic — AWQ — это квантизированная версия модели llmfan46/gemma-4-26B-A4B-it-ultra-uncensored-heretic, опубликованная под идентификатором louismuk/gemma-4-26B-A4B-heretic-AWQ. Модель предназначена для генерации текста на английском языке, включая диалоги и ролевые сценарии. Она относится к семейству Gemma 4 и использует архитектуру MoE; исходное обозначение указывает на 26B общих параметров и 4B активных параметров. Также заявлена поддержка мультимодальных компонентов, включая vision tower, однако README не описывает их пользовательские возможности подробно. Модель сжата методом AWQ в формат INT4 W4A16 с размером группы 32. Активации сохраняются в BF16, что должно обеспечивать несколько более высокое качество по сравнению с вариантом NVFP4 W4A4. Для запуска рекомендуется vLLM 0.20 и новее с ядром Marlin INT4; квантизация рассчитана на CUDA-видеокарты начиная с поколения Ampere. README указывает максимальную длину контекста 131072 токена и поддерживаемые возможности reasoning и tool calling через соответствующие парсеры vLLM. Сильными сторонами являются более высокая производительность при низкой и средней конкуренции по сравнению с вариантом NVFP4, большая аппаратная совместимость и сохранение части слоёв в BF16, включая vision-компоненты и выходной слой. Ограничения включают зависимость от совместимого CUDA-оборудования и vLLM, а также отсутствие подробных данных о фактическом качестве, мультиязычности и результатах тестирования. Лицензия — Apache 2.0, унаследованная от базовой модели.

Это GGUF-квантизированная версия FunctionGemma 270M IT, базовая модель которой разработана Google, а квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты, в частности для задач генерации текста и работы с функциями или инструментами. README не содержит подробного описания исходной архитектуры, набора языков, модальностей и размера контекста. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Они занимают примерно от 0,20 до 0,54 ГБ; более высокие уровни обычно сохраняют лучшее качество, а компактные варианты подходят для систем с ограниченным объёмом оперативной памяти. Для работы рекомендуется использовать указанный шаблон prompt format с ролями developer, user и model. Модель распространяется по лицензии Gemma; для доступа к исходной модели на Hugging Face требуется принять условия лицензии Google. Ограничения включают возможное снижение качества у более сильных вариантов квантизации, а также отсутствие в README точных сведений о языковой поддержке, контекстном окне и результатах оценки.

Granite Guardian 3.0 2B — дообученная IBM Research модель семейства Granite для выявления рисков в пользовательских запросах и ответах языковых моделей. Она оценивает вредный контент, социальную предвзятость, попытки обхода ограничений, насилие, ненормативную лексику, сексуальный контент и неэтичное поведение, а также подходит для проверок в RAG-сценариях: релевантности найденного контекста, обоснованности ответа и его соответствия запросу. Модель построена на плотной архитектуре GraniteForCausalLM, содержит 2,5 млрд параметров и имеет контекст до 8192 токенов. Она принимает текст и в предписанном шаблоне выдаёт ответ «да» или «нет» для оценки заданного риска. Обучение использует человеческую разметку и синтетические данные; заявлено превосходство над другими открытыми моделями того же назначения на стандартных бенчмарках. Модель предназначена для оценки рисков, мониторинга и выборочной проверки входов и выходов при умеренных требованиях к стоимости, задержке и пропускной способности. Обучение и тестирование проводились только на английских данных. Следует использовать предписанный режим оценки: отклонение от шаблона может привести к неожиданным результатам, а пользовательские определения рисков требуют тестирования. Лицензия — Apache 2.0.