II.10Разработка и эксплуатация AI/ML-систем

sahilchachra/Laya-TypedDecisions-MXFP8 — квантованный MXFP8 вариант энкодерной основы Typed-Decisions из convaiinnovations/laya для запуска через MLX на Apple Silicon. Модель основана на ModernBERT-large: в README указаны 421 млн параметров, 1024 скрытых измерения и 28 слоёв; метаданные каталога приводят 394,7 млн параметров. Контекст в метаданных — 8192 токена, тогда как README указывает 1024 токена для исходной архитектуры. Репозиторий содержит только двунаправленный энкодер, а не отдельную голову принятия решений из Laya. Его можно применять для извлечения признаков из текста или как основу для собственной MLX-головы; это не модель для генерации текста, чата или прямого вызова API принятия решений Laya. README сообщает о проверке численного соответствия исходной модели и о расхождениях при квантовании: в одном из трёх тестовых вопросов MXFP8 изменил лучший ответ. Для чувствительных к точности оценок автор рекомендует исходные bf16/fp32 веса. Лицензия в предоставленных источниках не указана.

LeViT-128S — модель компьютерного зрения для классификации изображений и извлечения признаков. Она реализована в библиотеке timm и обучена авторами статьи LeViT на ImageNet-1k с дистилляцией. Версия fb_dist использует свёрточный режим на слоях nn.Conv2d и nn.BatchNorm2d. Модель содержит около 7,8 млн параметров, рассчитана на изображения размером 224 × 224 и требует около 0,3 GMAC на изображение. Её можно применять для классификации изображений по классам ImageNet-1k и получения визуальных эмбеддингов для дальнейшей обработки. Веса доступны в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Качество модели и список классов ограничены настройкой на ImageNet-1k; README не описывает поддержку других размеров изображений или языковых входов.

LFM2.5-1.2B-Base — базовая предварительно обученная текстовая модель семейства LFM2.5, разработанного Liquid AI для локального запуска на устройствах и дальнейшей адаптации. Это исходный чекпойнт, на котором основаны варианты LFM2.5-1.2B; в карточке указана плотная архитектура LFM2 с 16 слоями: 10 блоков свёрток LIV с двойным гейтингом и 6 блоков GQA. README приводит 1,17 млрд параметров, метаданные — 1,5 млрд. Модель предназначена прежде всего для дообучения под конкретный язык, предметную область или собственные данные, а также для экспериментов с методами постобучения. Она обрабатывает только текст, поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. README указывает контекст 32 768 токенов, тогда как метаданные каталога — 128 000; эти значения расходятся. Обучение охватывает 28 трлн токенов, срез знаний — середина 2024 года. В карточке описана исходная версия весов в формате safetensors для Transformers и vLLM; семейство ориентировано на развёртывание на устройствах. Лицензия обозначена как other, поэтому перед использованием следует проверить её условия на странице модели. Как базовый чекпойнт, модель не является готовым универсальным помощником и для прикладного качества может потребовать существенного дообучения.

Moustafa3092 выпустил дообученную модель для определения конца реплики (EOU) в арабских диалогах для голосовых агентов LiveKit. Она оценивает по распознанному тексту, закончил ли пользователь говорить или, вероятно, продолжит фразу. Модель основана на Qwen2-0.5B и дообучена методом LoRA на 57 475 примерах; адаптеры объединены с базовой моделью. Архитектура — плотная Qwen2 с 258,6 млн параметров, контекст — до 32 768 токенов. Модель предназначена для потоковых голосовых агентов и сценариев управления очередностью реплик, особенно на арабском языке, включая литературный арабский и ряд диалектов Персидского залива. Карточка сообщает точность выше 90% на арабских граничных случаях и совместимость с работой в реальном времени. Для использования с LiveKit рекомендуется экспорт в ONNX; опубликованные файлы представлены в формате safetensors. Лицензия — Apache-2.0. Модель лучше всего подходит для разговорного арабского: для других диалектов может понадобиться дополнительное дообучение, а точность зависит от наличия достаточного контекста.

Jazhyc разработала Llama-3.1-8B AIMS GRPO — полноценно дообученную методом GRPO языковую модель на базе meta-llama/Llama-3.1-8B-Instruct. Она анализирует пользовательский запрос и выдаёт рассуждение, предполагаемое намерение автора и бинарную метку harmful или harmless. Модель предназначена для классификации безопасности запросов и проверки подходов к модерации, учитывающих намерение; при обучении использован набор Jazhyc/aims-safety-intents с аннотациями AIMS. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Она рассчитана на английский язык. В описанной серии модель показала средний F1 0,836 на пяти внешних бенчмарках; результаты относятся к указанной методике оценки и не гарантируют качество на других данных. Обучающие примеры обогащены неоднозначными и состязательными запросами и не отражают органический трафик; модель классифицирует запросы, а не ответы модели, выдаёт рассуждение и работает медленнее вариантов с прямой классификацией. Её не следует использовать как единственный источник решения при высокорисковой модерации. Лицензия — Llama 3.1 Community License (llama3.1).

ApolloRaines разработала Llama-3.1-8B-Instruct.immunized.v1 — дообученный вариант инструкционной модели Meta Llama 3.1 8B, предназначенный для диалогов и генерации текста с защитой от утечек приватного контекста при атаках класса EchoLeak. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов. Веса доступны в Safetensors и нескольких вариантах GGUF, включая F16 и квантованные сборки. Защита встроена в веса и не требует дополнительных компонентов при запуске. Карточка сообщает о результатах тестов на сценариях prompt injection и сохранении показателей на отдельных проверках рассуждения и калибровки. Основной язык карточки — английский; базовая модель описана как многоязычная. Модель рассчитана на применение в диалоговых системах, использующих приватный контекст, например RAG и агентных сценариях. Указанная лицензия — Llama 3.1. Заявленная защита ограничена классом EchoLeak и не устраняет другие виды атак, отказов или галлюцинаций. В README также отмечено, что в более сложном ролевом тесте сохраняются утечки, а поведение после дальнейшего дообучения может измениться. Результаты бенчмарков приведены автором модели и сами по себе не гарантируют защиту в конкретной системе.

TartuNLP и TalTechNLP разработали эту базовую причинную языковую модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Модель получена продолжением предварительного обучения meta-llama/Llama-3.1-8B примерно на 35 млрд токенов, включая эстоноязычный корпус, материалы по программированию и математике, а также общие и инструкционные данные. Она принимает и генерирует текст на эстонском и английском языках; заявленная длина контекста — 131 072 токена. Модель предназначена прежде всего для дальнейшей настройки под конкретные задачи и оценки языковых возможностей, в том числе на эстонском языке. Это базовая модель без инструкционной настройки, поэтому она не рассчитана на непосредственное использование как чат-бот или для выполнения инструкций. В README также отмечено ограничение, связанное с продолженным обучением на последовательностях длиной 4096 токенов. Лицензия — Llama 3.1 Community License Agreement.

LLM-Detector-Small-zh — модель семейства Qwen с 2,3 млрд параметров, предназначенная для выявления текста на китайском языке, сгенерированного ИИ. Карточка связывает модель с проектом LLM-Detector, посвящённым улучшению обнаружения ИИ-текстов с помощью больших языковых моделей. Модель опубликована QiYuan-tech 24 января 2024 года. В метаданных указаны архитектура QWenLMHeadModel, контекст до 8192 токенов и формат PyTorch. Основной сценарий — анализ китайского текста для определения вероятности его генерации языковой моделью. Метаданные указывают задачу feature-extraction, тогда как каталог также относит модель к text-generation; назначение карточки — обнаружение ИИ-текста. Подробности о лицензии, обучающих данных и оценках качества в предоставленных материалах отсутствуют.

MaxViT Base TF 384 — модель классификации изображений семейства MaxViT, разработанная авторами статьи и перенесённая из официальной реализации TensorFlow в PyTorch Россом Уайтманом. Она обучена на ImageNet-1k и предназначена для присвоения изображениям меток из набора классов, а также может использоваться как визуальный backbone для извлечения признаков и эмбеддингов. Архитектура MaxViT сочетает блоки MBConv с двумя типами self-attention: оконным и grid-attention. Модель содержит около 119,7 млн параметров и рассчитана на изображения размером 384 × 384 пикселя. В репозитории доступны веса PyTorch и Safetensors; библиотека модели — timm. Модель подходит для прикладной классификации и как основа для систем компьютерного зрения. Её вычислительная стоимость заметна: в карточке указано 73,8 GMACs. Лицензия — Apache-2.0.

Это конвертированная в формат OpenVINO модель классификации изображений microsoft/swin-tiny-patch4-window7-224, подготовленная для ускоренного инференса. Её разработала HelenAI на основе модели Microsoft с архитектурой Swin Transformer; размер исходной модели — около 33 млн параметров. Модель принимает изображения и предсказывает для них классы. Она подходит для интеграции классификации изображений в приложения, использующие OpenVINO. В карточке указан английский язык; иных языковых характеристик и ограничений применения README не описывает. Лицензия в предоставленных данных не указана.

Mila Suicide Prevention Output Guardrail — узкоспециализированный классификатор ответов языковых моделей, разработанный Mila и Mila Safety Studio. Он основан на BERT и архитектуре BertForSequenceClassification, содержит 136,7 млн параметров и принимает текст ответа ассистента длиной до 512 токенов. Модель присваивает бинарную метку: 0 — нарушение политики о суициде и самоповреждении не обнаружено, 1 — ответ поощряет, одобряет или инструктирует намеренное причинение себе вреда. Модель предназначена для фильтрации выходов чат-систем как один из слоёв многоуровневой защиты, а также для исследований и сравнительных оценок профильных классификаторов. Она работает на английском языке и охватывает суицид, самоповреждение и расстройства пищевого поведения в рамках описанной политики. Это бета-версия 0.1.0-beta.2: она не предназначена для самостоятельного производственного использования, пользовательских запросов, общей модерации или клинической оценки. Возможны ложные срабатывания на поддерживающие ответы и пропуски тонкого, состязательного или отличающегося от обучающих данных контента; объяснений предсказаний модель не выдаёт. Лицензия — Apache-2.0.

Minerva-3B-base-v1.0 — базовая языковая модель с 3 млрд параметров, разработанная Sapienza NLP совместно с Future Artificial Intelligence Research (FAIR) и CINECA. Она обучена с нуля на 660 млрд токенов из CulturaX: по 330 млрд на итальянском и английском языках. Модель основана на архитектуре Transformer семейства Mistral; в конфигурации 32 слоя, скрытый размер 2560 и максимальный контекст 16 384 токена. Модель предназначена для генерации текста и может служить основой для дальнейшей адаптации под задачи на итальянском и английском языках. Это предобученная базовая модель без выравнивания и встроенной модерации, поэтому она может выдавать фактические ошибки, повторы, предвзятые, оскорбительные или неподходящие материалы. Лицензия — Apache-2.0.

MiniCPM5-1B-Base — базовая предварительно обученная языковая модель семейства MiniCPM5, разработанная командой MiniCPM. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM; в метаданных указано 837,6 млн параметров, а README приводит 1 080 632 832 параметра с учётом эмбеддингов. Модель рассчитана на локальный запуск на устройствах с ограниченными ресурсами и поддерживает контекст до 131 072 токенов. Это именно базовый чекпойнт до этапов SFT, RL и OPD, поэтому он предназначен прежде всего для дальнейшей настройки и экспериментов. После адаптации модели семейства MiniCPM5 применяются в локальных ассистентах, генерации кода, рассуждениях и сценариях с инструментами; заявленные в README преимущества этих сценариев относятся к MiniCPM5-1B в целом, а не обязательно к этому базовому чекпойнту без дообучения. В карточке указаны английский и китайский языки. Лицензия — Apache-2.0. Модель может выдавать неточные, предвзятые или небезопасные ответы; результаты следует проверять, особенно в ответственных сценариях.

AvoCahDoe/mistral-7b-rlmpq-extreme-survival — вариант языковой модели Mistral-7B-v0.1, подготовленный методом RL-MPQ для сценария Extreme Survival. Это плотная авторегрессионная модель MistralForCausalLM с 7,1 млрд параметров; репозиторий содержит fake-quantized веса в FP16 и политику распределения разрядности по слоям. Средняя разрядность составляет 2,5625 бита на вес. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и предназначена для использования через Transformers. Модель подходит для генерации и продолжения текста, в том числе для экспериментов с низкоразрядным квантованием. В README указана проверка качества по perplexity на WikiText-2, однако численное значение для этого сценария в доступном фрагменте не приведено. Базовая модель — mistralai/Mistral-7B-v0.1; лицензия — Apache-2.0. Языковая карточка указывает английский язык.

Это веса модели mit_b1, подготовленные для использования в качестве энкодера библиотекой segmentation-models-pytorch. Модель предназначена для классификации изображений и может служить основой для систем сегментации, собираемых с помощью этой библиотеки. В репозитории опубликованы предварительно обученные на ImageNet веса в формате safetensors. Карточка не сообщает размер модели, поддерживаемые языки или лицензионные условия; метаданные указывают лицензию other. Перед использованием следует проверить условия распространения весов и библиотеки.

nvidia/mit-b5 — визуальный энкодер SegFormer размера B5, выпущенный командой NVIDIA. Модель представляет собой иерархический Transformer-энкодер, предварительно обученный на ImageNet-1k; репозиторий содержит только энкодер без сегментационной головы. В метаданных указаны задача классификации изображений и поддержка PyTorch и TensorFlow. Модель предназначена для классификации изображений по 1000 классам ImageNet и для дообучения под семантическую сегментацию на прикладных наборах данных. Архитектуру SegFormer также применяют в задачах сегментации, но этот чекпойнт сам по себе содержит только предварительно обученный энкодер. Лицензия в метаданных обозначена как other, без уточнения условий.

facebook/mms-1b — мультиязычная предобученная модель речи от Facebook AI, разработанная Vineel Pratap и соавторами. Это плотная архитектура Wav2Vec2 с 1,3 млрд параметров, обученная с самоконтролем примерно на 500 000 часах речи более чем на 1 400 языках. Для входного аудио требуется частота дискретизации 16 кГц. Модель служит основой для дообучения под конкретные задачи обработки речи, включая автоматическое распознавание речи, перевод и классификацию. Сам репозиторий содержит чекпойнт предобучения, а не готовую модель для этих прикладных задач. Указанная лицензия CC-BY-NC 4.0 запрещает коммерческое использование без дополнительных прав.

MobileNet V1 — сверточная модель компьютерного зрения, разработанная Google и представленная в работе MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications. Этот вариант предварительно обучен на ImageNet-1k и классифицирует изображения размером 192×192 по 1000 классам набора ImageNet. Модель рассчитана на быструю классификацию изображений при ограниченных ресурсах и может служить основой для задач обнаружения объектов, построения эмбеддингов и сегментации после соответствующей адаптации. Архитектура MobileNet V1 ориентирована на низкие задержки и энергопотребление, в том числе на мобильных устройствах; она балансирует скорость, размер и точность. Репозиторий содержит веса PyTorch. Лицензия указана как other, поэтому условия использования следует сверить с файлами репозитория.

MobileNet V3 Small — компактная сверточная модель классификации изображений, разработанная авторами статьи Searching for MobileNetV3 и представленная сообществом LiteRT в формате LiteRT/TFLite. Веса предварительно обучены на ImageNet-1k; модель рассчитана на изображения размером 224×224. В исходной версии около 2,54 млн параметров, точность ImageNet-1k составляет 67,668% top-1 и 87,402% top-5. Репозиторий содержит полноточный вариант, вариант с квантованными до INT8 весами и FP32-активациями, а также артефакт, скомпилированный для Google Tensor G5. Модель подходит для классификации объектов на фотографиях и для компактных приложений компьютерного зрения. Статическое INT8-квантование пока не подтверждено: авторы сообщают о сильном падении точности при наивном постобучающем квантовании. Лицензия исходных весов не установлена в карточке; перед использованием необходимо проверить условия PyTorch Vision и обучающего набора.

Модель cirimus/modernbert-large-bias-type-classifier разработана на основе ModernBERT-large и дообучена для многометочной классификации предвзятости в англоязычных текстах. Она относит высказывания и вопросы к 11 категориям, включая расовую, религиозную, гендерную, возрастную, национальную, политическую и другие виды предвзятости. Модель построена на архитектуре ModernBERT, содержит 394,7 млн параметров и поддерживает контекст до 8192 токенов; для работы используется Transformers. Её можно применять для анализа предвзятости в контенте, поддержки модерации и исследований, связанных с этикой ИИ. В README приведены результаты оценки на тестовом разбиении синтетического набора данных, созданного Mistral 7B для работы GUS-Net, однако эти показатели не гарантируют качество на реальных данных. Возможны ошибки при пересечении категорий и переносе на другие предметные области; автор указывает, что модель заменена cirimus/ultrabert-380M-bias-type-classifier. Лицензия — MIT.

MosaicBERT-Base — англоязычная модель семейства BERT, разработанная MosaicML как архитектура и рецепт ускоренного предварительного обучения. Она предназначена для дообучения на прикладных задачах обработки текста; базовая задача опубликованной версии — восстановление замаскированных токенов в тексте. Модель содержит 136,7 млн параметров и принимает текстовые последовательности длиной до 512 токенов. В архитектуре используются FlashAttention, ALiBi вместо позиционных эмбеддингов, удаление паддинга внутри блока трансформера и GeGLU в полносвязных слоях. Для токенизации применяется токенизатор bert-base-uncased. Разработчики сообщают, что модель обучается быстрее и показывает более высокую точность предварительного и последующего обучения по сравнению с bert-base-uncased. Модель рассчитана на эксперименты и дообучение для задач NLP, а не на универсальный диалог. Для загрузки с пользовательским кодом требуется trust_remote_code=True; README рекомендует фиксировать ревизию кода. Указанная лицензия — Apache-2.0.

Multilingual Refusal Classifier — модель классификации текста от agentlans для определения отказов ассистента в диалогах с ИИ. Она различает отказ отвечать по причинам безопасности, ограничений возможностей или политики и содержательный ответ. Модель дообучена на agentlans/multilingual-e5-small-aligned-v2 на наборе agentlans/refusal-classifier-data; архитектура — BERT для классификации последовательностей, размер — 124,3 млн параметров, формат весов — safetensors. Модель предназначена для анализа диалогов и оценки поведения ИИ: выявления отказов, поддержки исследований выравнивания и контроля согласованности ответов на разных языках. Заявлена поддержка многих языков, включая русский; максимальная длина входа — 512 токенов. В README указана точность 0,9153 на тестовых примерах, однако масштаб оценки ограничен десятью примерами, переведёнными со страницы модели NousResearch/Minos-v1. Возможны ложноположительные и ложноотрицательные классификации, особенно при неоднозначных формулировках и на языках с малым объёмом данных; культурные различия в выражении отказа также влияют на результат. README не рекомендует использовать модель для модерации или в производственных системах без контроля человека. Лицензия — MIT.

MViTv2 Base fb_in1k — модель классификации изображений и извлечения визуальных признаков из семейства многомасштабных Vision Transformer. Она разработана авторами MViTv2 и предварительно обучена на ImageNet-1k. Модель содержит 51,5 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель подходит для классификации изображений по категориям ImageNet-1k и получения векторных представлений изображений для последующей обработки. В карточке указаны вычислительная стоимость 10,2 GMACs и 40,5 млн активаций. Веса опубликованы в форматах PyTorch и safetensors; лицензия — Apache-2.0.

Nawah-BERT-6M-v2 — компактная арабоязычная модель семейства BERT, разработанная в рамках Project Nawah. Это плотный энкодер с 6,2 млн параметров, обученный с нуля на 15 млрд токенов; используется архитектура BertForMaskedLM с контекстом до 2 048 токенов. Модель предназначена для восстановления скрытых токенов в арабском тексте и может служить компактной основой для последующей адаптации под задачи классификации. В карточке приведены результаты проверки восстановления маскированных токенов и дообучения для проверки правил, контроля отказов и маршрутизации запросов. Для классификации автор рекомендует усреднять представления непустых токенов: модель обучалась на упакованных фрагментах без токена [CLS], поэтому пулер классификатора, инициализированный случайно, не подходит. Доступна под лицензией Apache-2.0.

NbAiLab подготовила этот бета-чекпойнт на основе Qwen3-ASR-0.6B для распознавания норвежской речи. Модель рассчитана на оценку ASR, в том числе на длинных аудиозаписях и в экспериментах с подсказками; её поведение переключается между более ориентированной на читаемость транскрипцией и более дословным вариантом с подсказкой `\`. Чекпойнт предназначен для локальных экспериментов, пакетной обработки, интеграционных проверок и тестирования подачи аудио через сервисы. В README указано, что результаты предварительные: модель находится в бета-стадии, а качество распознавания, форматирование, чувствительность к подсказкам и рабочие характеристики могут меняться. Репозиторий распространяется по gated-доступу; метаданные указывают лицензию `other`, но конкретные условия лицензии в предоставленных сведениях не описаны.

NeuCodec — разработанный Neuphonic нейронный аудиокодек для токенизации и сжатия речи. Он предназначен для подготовки аудиоданных и обучения высококачественных моделей синтеза речи и SpeechLM, в том числе на устройствах с ограниченными ресурсами. Кодек использует конечное скалярное квантование (FSQ) с одной кодовой книгой и формирует 50 токенов в секунду при 16 битах на токен, обеспечивая битрейт 0,8 кбит/с. Он принимает аудио с частотой 16 кГц и декодирует его с повышением частоты до 24 кГц; FSQ также рассчитан на устойчивость к ошибкам передачи. В README заявлено, что потери при реконструкции речи почти неслышны. Модель в значительной степени основана на X-Codec2.0. Для обучения и проверки в метаданных перечислены многоязычные речевые датасеты, однако конкретный перечень поддерживаемых языков не подтверждён. Лицензия Apache-2.0 разрешает коммерческое использование. Кодек специализируется на речи; качество реконструкции и пригодность для других типов аудио в предоставленных материалах подробно не оценены.

NVIDIA Nemotron 3.5 Lightning 30B A3B Base BF16 — базовая предварительно обученная языковая модель NVIDIA для разработчиков и исследователей, создающих собственные специализированные модели. Это не чат-модель с постобучением: чекпойнт предназначен для продолжения предобучения на предметных данных и последующей настройки с помощью SFT, RL или дистилляции. Архитектура сочетает слои Mamba-2 и Mixture-of-Experts с отдельными слоями Attention; в модели 30 млрд параметров всего и 3 млрд активных. Слои Multi-Token Prediction дают обучающие сигналы для нескольких будущих токенов и поддерживают спекулятивное декодирование. Модель принимает и генерирует текст. В README заявлена длина контекста до 1 млн токенов, тогда как метаданные каталога указывают 262 144 токена. Корпус предобучения охватывает английский, ещё 19 естественных языков и 43 языка программирования; среди языков карточки указаны английский, испанский, французский, немецкий, итальянский и японский. NVIDIA сообщает о предобучении более чем на 20 трлн токенов на данных по коду, математике, науке и общим знаниям. Веса доступны для коммерческого и некоммерческого применения; метаданные обозначают лицензию как other, поэтому перед использованием следует проверить условия в карточке модели. Для эффективной работы модель ориентирована на GPU NVIDIA.

NVIDIA Nemotron-3.5-Lightning-30B-A3B-NVFP4-DFlash — это вспомогательная модель спекулятивного декодирования DFlash из семейства Nemotron-3.5-Lightning-30B-A3B, разработанного NVIDIA. Она предназначена для ускорения вывода основной модели в сценариях рассуждений, чата, RAG и агентских рабочих процессов, особенно при развертывании с низкой задержкой на GPU в центрах обработки данных и производительных локальных системах. Модель не предназначена для самостоятельного использования как целевая модель, а применяется совместно с Nemotron-3.5-Lightning-30B-A3B. Модель принимает и генерирует текст, поддерживает последовательности с контекстом до 1 млн токенов и заявленные языки English, Spanish, French, German, Italian и Japanese. Архитектура DFlash основана на Dense GQA: плотные MLP-слои и attention с grouped-query attention; для спекулятивного декодирования используется нек причинное полнопоследовательностное GQA-внимание. Всего заявлено 833 млн параметров, из них 481 млн — не относящиеся к embedding. Модель квантована в формате NVFP4 с помощью NVIDIA Model Optimizer 0.45.0 и поддерживает vLLM и llama.cpp; предпочтительная платформа — Linux с совместимыми GPU NVIDIA, включая Blackwell GB200. Ключевое преимущество модели — снижение задержки при обслуживании Nemotron-3.5-Lightning-30B-A3B в сценариях с низкой и умеренной конкуренцией. Ограничение состоит в том, что это специализированный DFlash-чекпойнт, требующий интеграции с базовой моделью и подходящим серверным стеком; README не приводит самостоятельные метрики качества и ускорения. Использование разрешено в коммерческих и некоммерческих целях по лицензии OpenMDW-1.1.

Omni-Judge — открытая модель для автоматической оценки математических решений, разработанная авторами проекта Omni-MATH. Она получает условие задачи, эталонный ответ и предложенное решение и определяет, верно ли оно, помогая оценивать результаты моделей на математических бенчмарках. Модель основана на meta-llama/Llama-3.1-8B-Instruct и дообучена на 17 618 примерах оценок GPT-4o в течение двух эпох. Внутренняя проверка на 2 220 примерах показала около 91% согласия с оценками GPT-4o. В метаданных указаны архитектура Llama, 7,5 млрд параметров, контекст до 131 072 токенов и интерфейс диалога с поддержкой вызова инструментов; опубликованные веса представлены в формате safetensors. Модель предназначена прежде всего для математических задач и автоматической оценки ответов. Лицензия — Apache-2.0.

tarekziade/pardonmyai — дообученная модель DistilBERT для выявления ненормативной лексики в тексте. Она классифицирует текстовые фрагменты и подходит для фильтрации сообщений и предварительной модерации пользовательского контента. Модель основана на distilbert/distilbert-base-uncased и обучена на наборе данных tarekziade/profanity. Доступны веса в форматах Safetensors и ONNX; модель использует библиотеку Transformers и принимает последовательности длиной до 512 токенов. В карточке приведены метрики на использованной оценке: accuracy 0,9748, precision 0,9331, recall 0,9416, F1 0,9373 и AUC-ROC 0,9955. Это англоязычная базовая модель, поэтому её применимость к другим языкам не подтверждена. Лицензия — Apache-2.0.