II.10Разработка и эксплуатация AI/ML-систем

BERT base uncased — англоязычная предварительно обученная модель Google на базе архитектуры BERT для восстановления замаскированных слов. Она содержит 136,7 млн параметров и принимает текст в нижнем регистре; токенизатор WordPiece использует словарь из 30 000 токенов. Контекст ограничен 512 токенами. Предобучение на BookCorpus и англоязычной Википедии использовало задачи masked language modeling и предсказания следующего предложения. Модель предназначена прежде всего для дальнейшей настройки под задачи понимания текста, например классификацию, разметку токенов и ответы на вопросы. Её можно применять для заполнения пропусков в тексте; она также может служить источником признаков для downstream-моделей. Это базовый чекпойнт, а не модель для генерации длинных текстов. Предобучение без учительской разметки позволяет использовать корпусный контекст, однако предсказания могут отражать смещения данных. Модель распространяется по лицензии Apache-2.0.

Bonito-v1 — открытая модель условной генерации заданий, разработанная Nihal V. Nayak, Yiyang Nan, Avi Trost и Stephen H. Bach. Она преобразует неразмеченный текст в синтетические датасеты с инструкциями и примерами для дообучения языковых моделей на специализированных данных. Модель построена на архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и принимает текст на английском языке. Её обучили на наборе BatsResearch/ctga-v1; контекстное окно составляет 32 768 токенов. Bonito предназначена для создания примеров таких задач, как суммаризация, анализ тональности, ответы на вопросы, классификация тем и перефразирование. Качество синтетических данных зависит от объёма и характера исходного неразмеченного текста. Карточка отмечает, что экспериментальные улучшения проверялись на трёх типах задач, а выходные данные могут содержать ошибки и смещения; их следует проверять и оценивать на целевых тестах. Модель не имеет защитного дообучения. Лицензия — Apache 2.0.

CoPE-B-A4B-MM — мультимодальная модель классификации контента от Zentropi, дообученная на Google Gemma-4-26B-A4B-it. Она принимает текст, изображения и видео по отдельности или вместе и проверяет содержание по заданной разработчиком политике и набору меток. Модель предназначена для модерации, разметки контента, оценки рисков во входах и ответах LLM, а также подготовки признаков для ранжирования ленты и фильтрации обучающих данных. Архитектура Mixture-of-Experts содержит 25,2 млрд параметров, из которых 3,8 млрд активны при одном проходе; LoRA-дообучение слито с базовой моделью. Контекстное окно — до 256 тыс. токенов на политику и содержимое вместе. Выход — бинарная классификация: наличие или отсутствие заданных меток. Модель оптимизирована для американского английского; качество на других языках и локалях может снижаться. Она не проверяет факты по внешним источникам и не оптимизирована для агентных сценариев. Для использования действует коммерческая лицензия; подробные условия в карточке модели не приведены.

Intel distilbert-base-uncased-finetuned-sst-2-english-int8-static-inc — версия DistilBERT, дообученная для классификации тональности отзывов и сжатая до INT8 статической посттренировочной квантизацией. Она определяет, является ли текст положительным или отрицательным; модель предназначена для инференса и не подходит для дальнейшего дообучения в опубликованном виде. Модель принимает текст на английском языке и выдаёт метку тональности. Контекст — до 512 токенов. Репозиторий содержит веса PyTorch и ONNX; для загрузки описаны Optimum Intel и Intel Neural Compressor. На SST-2 точность указана как 0,9037 для PyTorch INT8 и 0,9071 для ONNX INT8, по сравнению с 0,9106 у исходной версии FP32. Модель разработана Intel и распространяется по лицензии Apache-2.0. Она предназначена прежде всего для классификации коротких отзывов, а результаты могут отражать ограничения и смещения данных из интернет-отзывов о фильмах; модель не следует использовать для решений, существенно влияющих на жизнь людей.

EfficientNet-EdgeTPU — сверточная модель классификации изображений из библиотеки timm, обученная на ImageNet-1k. Модель содержит около 6,9 млн параметров, требует изображения размером 240 × 240 пикселей и предназначена для классификации объектов; её также можно использовать как основу для извлечения признаковых карт и эмбеддингов изображений. Обучение проводилось с аугментацией RandAugment RA2, оптимизатором RMSProp и усреднением весов EMA. Модель рассчитана на компактное распознавание изображений, в том числе с учётом ограничений вычислительных ускорителей. Распространяется по лицензии Apache-2.0.

comet24082002/finetuned_bge_ver11 — дообученная модель на базе BAAI/bge-m3, опубликованная comet24082002. Это плотная модель архитектуры XLM-RoBERTa с 658,7 млн параметров, предназначенная для извлечения признаков из текста. Базовая BGE-M3 рассчитана на многоязычный семантический, лексический и гибридный поиск по текстам и документам; дообученная версия может применяться для получения текстовых представлений в поисковых системах и системах работы с документами. Модель принимает текст и выдаёт векторные признаки. Максимальная длина контекста — 8194 токена. Данные обучения и результаты оценки в карточке не описаны, поэтому качество на конкретных языках и задачах поиска не подтверждено. Лицензия — MIT.

sfairXC/FsfairX-LLaMA3-RM-v0.1 — модель вознаграждения на базе Meta-Llama-3-8B-Instruct, представленная авторами исследования «RLHF Workflow: From Reward Modeling to Online RLHF» (TMLR, 2024). Она оценивает диалоги и ответы, выдавая оценку для использования в обучении с обратной связью от человека. Модель предназначена для reward modeling в RLHF-конвейерах, в том числе для PPO, итеративного SFT и итеративного DPO. Это плотная архитектура Llama с 7,5 млрд параметров и контекстом до 8192 токенов; в репозитории веса в формате safetensors. В карточке приведены результаты Reward-Bench, включая оценки для Chat, Chat Hard и Safety. Лицензия — CC BY-NC 4.0, поэтому коммерческое использование ограничено её условиями. Качество оценивания зависит от данных и сценария применения; модель предназначена для выдачи оценок, а не для самостоятельной генерации ответов.

FSMN-VAD — модель обнаружения речевой активности из экосистемы FunASR. Она использует архитектуру Feedforward Sequential Memory Network (FSMN) и определяет границы речевых и неречевых сегментов в аудио с частотой дискретизации 16 кГц. Модель предназначена для выделения речи в длинных аудиозаписях и предварительной обработки аудио перед распознаванием речи. Поддерживаются потоковый и офлайн-режимы, настройка максимальной длины сегмента и обработка с низкой задержкой, в том числе для сценариев реального времени. Результат — временные границы речевых фрагментов в миллисекундах. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает размер модели и отдельные ограничения точности; качество может зависеть от условий записи и характеристик аудио.

samarthramesh/gaperon-mmbert-english — модель-классификатор качества английского текста, разработанная в рамках конвейера подготовки данных Gaperon и дообученная на базе jhu-clsp/mmBERT-base. Она оценивает текст по шести измерениям: ясность, связность, глубина, грамматика, полезность и общая оценка; для каждого измерения выдаёт класс low, medium или high. Модель предназначена для оценки и фильтрации веб-текстов и документов перед использованием в обучающих корпусах. В основе — многоязычный энкодер ModernBERT с 22 слоями, размерностью скрытого представления 768 и контекстом до 8192 токенов. К представлению текста добавлены шесть независимых классификационных головок. По данным оценки, macro-F1 на тесте составляет примерно 0,55–0,67 в зависимости от измерения; оценки полезны как сигнал для фильтрации, но не как эталонная разметка. Модель обучена и проверена только на английском тексте, соответствующем схеме разметки исходного корпуса, поэтому оценки могут хуже переноситься на другие жанры и предметные области. Классы качества имеют грубую трёхуровневую градацию. Веса энкодера доступны в стандартном формате Hugging Face, а классификационные головки хранятся отдельно в heads.pt и требуют специального кода загрузки; AutoModelForSequenceClassification их не загружает. Лицензия — MIT.

deepset/gelectra-large — крупная немецкоязычная языковая модель ELECTRA, созданная командой deepset совместно с авторами German BERT и dbmdz BERT. Это дискриминаторная модель на 434,5 млн параметров с контекстом до 512 токенов; она предназначена для представления немецкого текста и последующего тонкого обучения под задачи классификации и разметки. В карточке приведены результаты на наборах GermEval 2018 и GermEval 2014. Модель обучалась на немецких данных, включая Wikipedia, OPUS, OpenLegalData и OSCAR. Репозиторий содержит веса PyTorch, Safetensors и TensorFlow. Лицензия — MIT. Это не генеративная модель: для прикладных задач её обычно дообучают на размеченных данных.

GLM-5.3-Flash DFlash2 Drafter F — вспомогательная модель-черновик от canada-quant для ускорения генерации GLM-5.3-Flash методом speculative decoding DFlash2. Она использует Qwen3-подобный плотный трансформер с 8 декодерными слоями и полным вниманием; размер модели по метаданным — 2,2 млрд параметров. Модель принимает текстовые запросы и предлагает блоки токенов, которые целевая модель проверяет и принимает или отклоняет. Карточка описывает обучение на самостоятельно сгенерированных целевой моделью примерах и приводит сравнительные замеры на B300; заявлены результаты на уровне референсного черновика при K=7, но с оговоркой о снижении результата при K=4. Модель предназначена для совместного запуска с GLM-5.3-Flash, включая вариант canada-quant/GLM-5.3-Flash-W4A16-MTP, через vLLM с методом speculative decoding dflash. Указанный в метаданных контекст — 1 048 576 токенов; полное внимание в слоях черновика означает, что KV-кэш растёт с длиной контекста. Для работы нужны совместимая сборка vLLM и патчи/поддержка DFlash2 для GLM, корректный файл mask_embedding.pt рядом с весами и конфигурация с 7 спекулятивными токенами. Лицензия — Apache-2.0.

Granite Guardian 4.0 3B Toxicity Japanese — модель IBM Research для оценки безопасности японских текстов. Она дообучена на основе ibm-granite/granite-4.0-micro с помощью continual learning на японских данных и объединена с базовой моделью для упрощения развёртывания. Архитектура GraniteMoeHybridForCausalLM, размер 3,4 млрд параметров, контекст до 131 072 токенов. Модель применяется в конвейерах безопасности как judge: классифицирует текст пользователя или ответ ассистента по заданным критериям и возвращает бинарную оценку. Основной фокус — токсичность, включая вредный контент, социальную предвзятость, насилие, ненормативную лексику, сексуальный контент, неэтичное поведение и попытки jailbreak. Также допускается оценка пользовательских критериев, но для них нужна дополнительная проверка. Модель не предназначена для оценки groundedness и релевантности RAG или рисков вызова инструментов. Модель принимает текст и выдаёт текстовую классификационную оценку. В карточке указана лицензия Apache-2.0; для развёртывания описано использование Transformers и vLLM.

halluscoring-arbert-nli — модель классификации текста на базе ARBERT, разработанная авторами проекта HalluScoring. Она дообучена на наборе HalluScoring 2026 Task 1.1 для выявления галлюцинаций: модель сопоставляет эталонный ответ и ответ модели в формате NLI, подавая их как пару последовательностей. Модель использует архитектуру BERT с примерно 190 млн параметров и принимает до 512 токенов. Она предназначена для проверки ответов на арабском языке; README приводит результаты на dev-выборке, включая AUC-ROC 0,9663, но сообщает, что эту версию не оценивали независимо на скрытом тесте. Для вывода необходим эталонный ответ (gold_answer). Модель распространяется по лицензии Apache-2.0.

ImageDoctor — мультимодальная модель для оценки изображений, созданных по текстовым запросам. Она разработана для визуальной диагностики качества генерации: модель анализирует изображение и выдаёт оценки по правдоподобию, соответствию текста изображению, эстетике и общему качеству, а также тепловые карты проблемных областей и объяснение оценки. Модель дообучена на базе Qwen/Qwen2.5-VL-3B-Instruct с применением GRPO и поддерживает диалоговый режим. Размер — 3,1 млрд параметров, длина контекста — 128 000 токенов; карточка указывает английский язык. Основные сценарии — метрика для оценки изображений по тексту, проверка результатов генерации и функция награды в обучении с подкреплением. Лицензия — Apache-2.0. Результаты оценки и локализации дефектов следует считать автоматическими суждениями модели; README не приводит количественных показателей качества или деталей формата тепловых карт.

Inception-v3 — модель классификации изображений, разработанная на основе реализации Inception-v3 из torchvision и подготовленная Qualcomm для оптимизированного запуска на устройствах Qualcomm. Модель обучена на датасете ImageNet и может использоваться как готовый классификатор либо как backbone для построения более сложных решений компьютерного зрения. Модель принимает изображения с разрешением 224×224, содержит около 23,9 млн параметров и имеет размер 90,9 МБ в формате float или 23,3 МБ в варианте w8a8. Доступны экспорты в ONNX, QNN_DLC и TFLITE, рассчитанные на использование с Qualcomm AI Runtime и ONNX Runtime; указанные варианты поддерживают универсальные конфигурации чипсетов Qualcomm и выполнение на NPU. Для модели приведены низкие задержки инференса на ряде Snapdragon и Qualcomm Dragonwing, особенно в квантованном формате w8a8. Сильные стороны модели — готовность к развертыванию на устройствах Qualcomm, наличие оптимизированных форматов и возможность экспорта с пользовательскими весами, формами входа и целевой конфигурацией runtime. Ограничения включают специализацию на классификации изображений, фиксированное входное разрешение в базовой конфигурации и отсутствие в предоставленных данных сведений о поддерживаемых языках, качестве на отдельных классах ImageNet и применимости за пределами задач компьютерного зрения. Репозиторий распространяется по лицензии BSD-3-Clause.

Kanana Safeguard-Siren — разработанная Kakao модель классификации пользовательских высказываний на юридические и политические риски в диалоговых системах ИИ. Она основана на Kanana 8B и использует плотную архитектуру Llama с 7,5 млрд параметров; модель опубликована в формате safetensors и рассчитана на запуск через Transformers. Контекстное окно составляет 8192 токена. Модель принимает текст на корейском языке и классифицирует его по заданной системе из четырёх категорий рисков, основанной на классификации MLCommons с дополнениями для законодательства Южной Кореи. Результат выдаётся одним токеном: <SAFE> либо <UNSAFE-I2>, где код обозначает категорию риска. Модель предназначена для фильтрации пользовательских реплик в диалоговых ИИ-системах; лицензия — Apache-2.0. Карточка сообщает о высокой классификационной точности на внутреннем корейском наборе оценки, но численные результаты недоступны. Возможны ложные срабатывания и пропуски, особенно в отдельных предметных областях. Модель не учитывает историю диалога и обнаруживает только заранее заданные категории рисков.

kimi-k2.6-eagle3-mla — черновая модель Eagle3 MTP от LightSeek для ускорения инференса базовой модели Moonshot AI Kimi-K2.6 методом speculative decoding. Она используется вместе с основной моделью в совместимых движках инференса, включая vLLM и SGLang, и сама по себе не предназначена для обычного диалога или самостоятельной генерации ответов. Модель обучена с TorchSpec; в README указано продолжение обучения с чекпойнта kimi-k2.5-eagle3-mla. В метаданных указаны 1,8 млрд параметров, архитектура Eagle3DeepseekV2ForCausalLM и контекст 262 144 токена. Вариант с Multi-Latent Attention рассчитан на согласованную работу с MLA-архитектурой Kimi-K2.6 и уменьшение нагрузки на KV-кэш. Бенчмарки README измеряют длину принятого фрагмента при спекулятивном декодировании, а не качество ответов как самостоятельной модели. Для запуска README приводит требования NVIDIA GPU с CUDA 12.0+ и vLLM 0.20.0 или новее. Репозиторий содержит веса safetensors; лицензия в метаданных обозначена как other, поэтому условия использования следует сверить с лицензией базовой модели и файлами репозитория.

Laya-English-MXFP8 — квантованный англоязычный энкодер ModernBERT-large, подготовленный для MLX на Apple Silicon и опубликованный как часть проекта ConvAI Innovations Laya. Репозиторий содержит только двунаправленную энкодерную основу примерно на 394,7 млн параметров; отдельная голова принятия решений Laya сюда не включена. В отличие от генеративной языковой модели, энкодер извлекает признаки из текста и сам не генерирует ответы. Модель подходит для получения текстовых представлений и построения собственных MLX-классификаторов или других небольших голов поверх энкодера. В README указана MXFP8-квантизация и проверка совместимости с исходным энкодером; метаданные указывают контекст 8192 токена. Репозиторий не сообщает лицензию, поэтому условия использования по имеющимся сведениям определить нельзя.

LettucePrevent — англоязычная модель Леона Беккарда для обнаружения галлюцинаций в ответах RAG по мере их генерации. Это дообученный Ettin decoder с 68,1 млн параметров и головой классификации токенов на два класса: подтверждённый и галлюцинированный токен. Модель предназначена для вызова на каждом шаге генерации хост-модели; оценки вероятности можно использовать, чтобы штрафовать неподтверждённые токены до их выборки. Указанная в README максимальная длина последовательности — 4096 токенов, а порог уверенности для начала работы — 0,8. Метаданные каталога указывают нативный контекст 7999 токенов. Модель обучена на англоязычной части RAGTruth и принимает контекст, запрос и ответ в заданной последовательности; классификация применяется к токенам ответа. В описанной оценке качество предотвращения зависело от хост-модели: заметное снижение галлюцинаций показано для Llama-2-7B, тогда как результаты для Qwen2.5-14B и Mistral-7B были близки к исходным. Модель рассчитана на применение в RAG-конвейерах как сигнал для корректировки генерации, а не как самостоятельный детектор готового текста. Лицензия — MIT.

LFM2.5-2.6B-Base — предварительно обученная текстовая базовая модель компании Liquid AI из семейства LFM2.5. Она предназначена для дообучения и экспериментов с новыми методами постобучения; среди подходящих сценариев — создание языковых или предметных ассистентов и обучение на собственных данных. Модель рассчитана на локальное и периферийное развертывание и работает с текстом. Архитектура — плотная гибридная LFM2: 30 слоёв, включая 22 блока коротких свёрток с двойным гейтингом и 8 слоёв GQA. В модели 2,6 млрд параметров, словарь размером 128 000 токенов и контекст до 128 000 токенов. Она обучалась на 34 трлн токенов и поддерживает 17 языков: арабский, китайский, английский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский. Модель опубликована в формате Safetensors и поддерживается Transformers. Это базовый чекпойнт, поэтому для готовых ассистентских сценариев может потребоваться существенное дообучение. Лицензия указана как «other»; конкретные условия использования следует сверить с лицензией в репозитории.

LFM2.5-Encoder-350-Prompt-Router — дообученная Liquid AI модель на базе двунаправленного энкодера LFM2.5-Encoder-350M. Она сопоставляет текст запроса с заданными пользователем маршрутами, описанными свободным текстом, и за один проход энкодера выдаёт оценки для каждого маршрута. Модель предназначена для маршрутизации промптов в приложениях с несколькими специализированными обработчиками или агентами. Модель содержит 444,6 млн параметров, принимает текст и рассчитана на контекст до 128 000 токенов. Карточка указывает поддержку английского, немецкого, испанского, французского, итальянского, нидерландского, польского, португальского, арабского, хинди, японского, русского, турецкого, вьетнамского и китайского языков. Для загрузки требуется Transformers и включение пользовательского кода через trust_remote_code=True. Лицензия указана как other; конкретные условия следует сверить с лицензией репозитория.

Модель theSOL1 — reward-модель на базе meta-llama/Llama-3.1-8B, дообученная оценивать безвредность ответов в рамках предпочтений из набора HH-RLHF harmlessness. Это плотная архитектура LlamaForSequenceClassification с 7,5 млрд параметров; она принимает текст и выдаёт оценку для классификации или ранжирования ответов по безвредности. Заявленная длина контекста — 131 072 токена. Модель предназначена для оценки безопасности текстовых ответов и использования в экспериментах с RLHF и отбором ответов. Она обучена на исходной обучающей части HH-RLHF harmlessness; метрики в карточке не приведены, поэтому качество оценки по ней определить нельзя. Репозиторий содержит веса, токенизатор и конфигурацию и совместим с Transformers версии 4. Лицензия в предоставленных данных не указана.

NVIDIA Llama-3.3-70B-Instruct-Eagle3 — вспомогательная модель Eagle для авторегрессионной языковой модели Meta Llama 3.3 70B. Она обучена на синтетических данных, созданных с помощью Llama 3.3 70B, и предназначена для спекулятивного декодирования: модуль предлагает несколько следующих токенов, которые базовая модель проверяет, чтобы ускорить генерацию. Архитектура основана на Transformer и Llama; в метаданных указано 1,9 млрд параметров, а в README — 3,2 млрд параметров для модели Eagle. Контекст составляет до 128K токенов. Модель рассчитана на текстовый ввод и вывод и предназначена для использования с TensorRT-LLM, в частности на системах NVIDIA Blackwell под Linux. Она может ускорять сценарии с чат-ботами, агентами, RAG и выполнением инструкций, сохраняя генерацию за базовой моделью. README заявляет готовность к коммерческому и некоммерческому применению; также указывает на необходимость соблюдать условия NVIDIA Open Model License и Llama 3.3 Community License.

Llama-3.3-Nemotron-70B-Feedback — языковая модель NVIDIA на архитектуре Transformer семейства Llama 3.3, дообученная методом supervised fine-tuning на базе meta-llama/Llama-3.3-70B-Instruct. Модель содержит 69,5 млрд параметров и принимает текстовый контекст до 131 072 токенов, генерируя текстовые ответы длиной до 4 000 токенов. Модель предназначена для оценки и текстовой критики полезности ответов, созданных другими LLM. Её используют в системах inference-time scaling для улучшения ответов на открытые запросы общего назначения: она формирует обратную связь, которую можно применять вместе с моделями Edit и Select. В карточке заявлена готовность к коммерческому использованию; лицензия указана как other. Модель работает через Transformers и рассчитана на запуск на Linux с несколькими GPU NVIDIA. Модель может выдавать токсичный, предвзятый, неточный, избыточный или нерелевантный текст, в том числе из-за особенностей обучающих данных. Для её запуска в карточке рекомендуется не менее двух GPU с 80 ГБ памяти каждая.

LLaVA-Critic-72B — открытая мультимодальная модель команды LMMS-Lab для оценки ответов, связанных с изображениями. Она дообучена на наборе LLaVA-Critic-113k на базе lmms-lab/llava-onevision-qwen2-72b-ov-sft; модель с плотной архитектурой LLaVA и 71,5 млрд параметров принимает текст и изображения и генерирует текстовые оценки и объяснения. Контекст составляет 32 768 токенов. Модель предназначена для оценки качества ответов мультимодальных языковых моделей: она выставляет балл отдельному ответу или сравнивает два ответа, формируя обоснование с опорой на изображение. Карточка сообщает о близком к человеческому согласии оценок и сопоставимых с GPT-4V результатах в описанных авторами сценариях. Модель распространяется в формате safetensors по лицензии Apache-2.0.

llm-d-sc-cost — англоязычная модель эмбеддингов предложений, разработанная для проекта llm-d-sc. Это дообученный энкодер BERT на базе sentence-transformers/all-MiniLM-L6-v2 с 25,9 млн параметров и контекстом до 512 токенов. Он формирует 384-мерный вектор запроса, который сравнивают с размеченными опорными примерами, чтобы ранжировать запросы по ожидаемому объёму работы: от минимального до высокого. Модель предназначена для маршрутизации запросов и выбора бюджета генерации, размера контекста или более дорогой конечной точки; сама она не выдаёт класс, а возвращает эмбеддинги для последующего сравнения. В README сообщается об оценке на 60 отложенных запросах: точность составила 0,8333, а ошибки были только между соседними уровнями. Задержка на CPU указана как 8,5 мс на уровне p50 и 10,1 мс на уровне p99 для встраивания и ранжирования. Модель обучена на синтетических англоязычных данных; независимое воспроизведение результатов и проверка на наборе с человеческой разметкой не проводились. Качество ранжирования зависит от опорных примеров, а оценка объёма работы не предсказывает стоимость в конкретной инфраструктуре. Лицензия — Apache-2.0.

MEDUSA-Llama-3.1-8B-Instruct — черновая модель семейства Medusa от Nebius для ускорения генерации текста базовой моделью Llama 3.1 8B Instruct с помощью speculative decoding. Она предсказывает до шести кандидатов-токенов, которые основная модель проверяет при стандартном rejection sampling; для интеграции в карточке приведена конфигурация vLLM. Модель обучена с нуля с использованием LK loss, нацеленного непосредственно на повышение доли принятых черновых токенов. В приведённых измерениях средняя длина принятой последовательности составляет 2,21 токена при температуре 0 и 2,00 при температуре 1; оценки получены на MT-bench, HumanEval и GSM8K. Модель распространяется в формате Safetensors по лицензии CC BY 4.0. Это вспомогательная модель ускорения вывода, предназначенная для использования вместе с указанной базовой моделью, а не самостоятельная замена ей.

Это модель MobileNet-V1 для классификации изображений, обученная Россом Уайтманом на ImageNet-1k с помощью инструментов timm. Она также подходит как компактная основа для извлечения карт признаков и эмбеддингов изображений. Модель содержит 5,3 млн параметров и требует около 0,6 GMAC на изображение; размер изображений при обучении — 224 × 224 пикселя, при тестировании — 256 × 256. Веса доступны в форматах PyTorch и Safetensors, библиотека модели — timm. Лицензия — Apache-2.0. Карточка не описывает поддержку нескольких языков: модель обрабатывает изображения и выдаёт классы либо признаки, а не текст.

hugoomezz/modernbert-ragtruth-token-level-binary — дообученная командой проекта на RAGTruth модель для поиска галлюцинаций в ответах RAG-систем. Она получает контекст и сгенерированный ответ и классифицирует каждый токен ответа как подтверждённый контекстом или галлюцинаторный, что позволяет выделять неподтверждённые фрагменты текста, а не только присваивать ответу общий вердикт. Модель построена на encoder-архитектуре ModernBERT-base, содержит 149 млн параметров и имеет нативную длину контекста 8192 токена; веса опубликованы в формате safetensors. На тестовой выборке RAGTruth модель показала F1 0,7631 для определения наличия галлюцинации в ответе и F1 0,5321 для выделения фрагментов. Она предназначена для исследовательских экспериментов и демонстрации проверки ответов, включая QA, суммаризацию и преобразование данных в текст. Основные ограничения — слабее выявляются ошибки в суммаризациях и тонкие галлюцинации; возможны пропуски и ложные срабатывания на близких перефразировках. Модель не проверена за пределами задач RAGTruth и не гарантирует обнаружение всех неподтверждённых утверждений. Лицензия — MIT.

notdiamond-0001 — классификатор-маршрутизатор запросов, разработанный Not Diamond. Он оценивает текстовый запрос и возвращает метку GPT-3.5 или GPT-4, помогая выбирать подходящую модель перед отправкой запроса; сами вызовы выбранной модели выполняются клиентом с собственными ключами. Модель обучена на сотнях тысяч примеров из междоменного оценивания. Архитектура — BERT для классификации последовательностей, около 205,1 млн параметров; принимает текст и выдаёт одну из двух меток. Контекст ограничен 512 токенами. Модель распространяется под лицензией Apache 2.0. Карточка не указывает поддерживаемые естественные языки, поэтому описание сценариев не предполагает конкретного языка.