II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейЭто крупная модель Vision Transformer (ViT) семейства DINOv2 с register-токенами, разработанная командой DINOv2; карточка на Hugging Face подготовлена командой Hugging Face. Модель содержит около 1,5 млрд параметров и предназначена для классификации изображений на 1000 классов ImageNet, а также для извлечения признаковых представлений изображений для последующих задач машинного обучения. Модель использует энкодер Transformer и регистры, добавленные при предобучении для уменьшения артефактов в картах внимания и улучшения их интерпретируемости. Веса доступны в формате safetensors. Специализированной тонко настроенной классификационной головы нет. Лицензия — Apache-2.0.
OpenVINO/distil-whisper-large-v3-int8-ov — версия модели distil-large-v3 от Distil-whisper, преобразованная в формат OpenVINO IR и сжата до INT8 с помощью NNCF. Модель предназначена для автоматического распознавания речи по аудио; архитектура основана на Whisper и содержит около 905,2 млн параметров. Квантизация выполнена с параметрами INT8_ASYM и group_size 128. Модель совместима с OpenVINO версии 2025.2.0 и выше и Optimum Intel 1.23.0 и выше. В метаданных указан английский язык. Лицензия — MIT, как у исходной модели. Карточка отсылает к описанию исходной модели за подробностями об ограничениях. Заявленная совместимость ограничена указанными версиями OpenVINO и Optimum Intel.
dpo5k3 — дообученная модель на базе deepseek-ai/deepseek-coder-1.3b-base, созданная с использованием набора данных generator. Это плотная авторегрессионная модель семейства Llama с 1,3 млрд параметров, предназначенная для генерации текста; базовая модель ориентирована на продолжение и автодополнение кода, а также заполнение пропусков в коде. Модель опубликована в формате safetensors и поддерживает контекст до 16 384 токенов. Карточка не уточняет сценарии дообучения, оценку качества или ограничения. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензии в репозитории модели.
DreamOn-v0-7B — языковая модель Dream-org на архитектуре Dream, построенная как плотная модель на 7,1 млрд параметров. Она использует дискретную диффузию для генерации текста и предназначена прежде всего для дополнения пропусков в коде: во время вывода модель динамически расширяет или сокращает маскируемые области, позволяя управлять длиной результата без заранее заданного размера холста. Модель принимает токены и генерирует текст; в карточке также заявлены диалоговый режим и интерфейс для вызова инструментов. README указывает ограничение контекста в 2048 токенов, включая вход и выход, и отмечает, что число новых токенов должно быть не меньше числа масок в запросе. Основные проверки проводились с одним переносимым токеном на шаг; другие настройки этого параметра проверены не полностью. Модель распространяется под лицензией Apache-2.0.
ECA-NFNet-L0.ra2_in1k — модель классификации изображений из библиотеки timm, обученная Россом Уайтманом на ImageNet-1k. Она также может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов изображений. Архитектура основана на облегчённом варианте Normalization-Free Network: ResNet-подобная сеть без слоёв нормализации, со Scaled Weight Standardization и масштабированием сигналов в остаточных связях. Вариант для timm уменьшает ширину блоков и использует более компактные группы; вместо SE-механизма внимания применяется ECA, а активация — SiLU. Модель содержит 24,1 млн параметров; размер изображения при обучении — 224×224, при тестировании — 288×288. Модель предназначена для классификации изображений и извлечения визуальных признаков. Карточка не сообщает метрики качества. Распространяется по лицензии Apache-2.0.
wjunwei/ecommerce_text_embedding — дообученная модель Sentence Transformers на базе avsolatorio/GIST-Embedding-v0 для представления предложений и абзацев в виде плотных текстовых эмбеддингов. Она использует BERT с пуллингом CLS-токена и нормализацией векторов; размерность эмбеддинга — 768, максимальная длина входа — 512 токенов. Для сравнения векторов подходит косинусное сходство. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстов. Название и обучающий набор указывают на связь с электронной коммерцией, но карточка не уточняет конкретные товарные сценарии или языковую специализацию. Доступна в формате safetensors через библиотеку sentence-transformers; размер модели — 136,7 млн параметров. Лицензия в предоставленных данных не указана.
EfficientNet-B0 RA4 E3600 R224 IN1K — свёрточная модель классификации изображений, обученная Россом Уайтменом с помощью инструментов timm на ImageNet-1k. Она также может использоваться как основа для извлечения карт признаков и эмбеддингов изображений. Модель содержит 5,3 млн параметров и требует около 0,4 GMAC на изображение. Размер входа при обучении — 224×224 пикселя, при тестировании — 256×256. Модель принимает изображения и выдаёт метки классов; карточка также описывает извлечение признаков и эмбеддингов. Лицензия — Apache-2.0. Модель предназначена для классификации изображений общего назначения и может служить компактной свёрточной основой для компьютерного зрения. Обучение и оценка опираются на ImageNet-1k; заявленная область применения не ограничена конкретным доменом.
EfficientNet-B5 — сверточная модель классификации изображений, подготовленная Россом Уайтманом в библиотеке timm. Модель предварительно обучена на ImageNet-12k и дообучена на ImageNet-1k; карточка указывает 30,4 млн параметров и рекомендуемый размер изображения 448 × 448 пикселей. Её можно использовать для классификации изображений, извлечения карт признаков и получения эмбеддингов изображений. Модель предназначена для распознавания объектов и других категорий, представленных в ImageNet-1k. Репозиторий предоставляет веса PyTorch и SafeTensors; лицензия — Apache-2.0. Карточка не сообщает о поддержке языкового ввода или вывода.
EfficientNet-EdgeTPU — сверточная модель классификации изображений из библиотеки timm, обученная на ImageNet-1k с рецептом RandAugment. Модель содержит 10,6 млн параметров, рассчитана на изображения размером 300 × 300 пикселей и выполняет классификацию изображений; её также можно использовать как основу для извлечения карт признаков и эмбеддингов изображений. Модель предназначена для распознавания объектов на изображениях общего назначения и для получения визуальных признаков в компьютерном зрении. В карточке описаны обучение с оптимизатором RMSProp, усреднение весов EMA и ступенчатое затухание скорости обучения с разогревом. Доступна по лицензии Apache-2.0.
ELISARCyberAIEdge7B-LoRA-GGUF — специализированная языковая модель для оценки киберрисков, разработанная Сабри Салланом на основе Mistral-7B-Instruct-v0.3 и адаптера LoRA ELISARCyberAIEdge7B. Репозиторий содержит версию в формате GGUF, в том числе вариант Q4_K_M для локального запуска на устройствах с ограниченными ресурсами; модель предназначена для автономного использования с инструментами вроде llama.cpp. Модель ориентирована на анализ рисков и угроз в системах ИИ, генерацию сценариев угроз, подготовку аудитов и автоматизацию задач GRC. В описании заявлены сценарии Red Team, Blue Team и соответствие ISO/IEC 42001 и NIS2, а метаданные указывают поддержку английского и французского языков. Базовая модель поддерживает контекст до 32 768 токенов. Указанная лицензия — Apache-2.0. Модель не заменяет сертифицированных аналитиков; качество и надёжность выводов для конкретных систем в README не подтверждены оценками.
FastViT-T8 — компактная модель классификации изображений семейства FastViT, обученная авторами статьи на ImageNet-1k и опубликованная в формате timm. Она также подходит для извлечения карт признаков и визуальных эмбеддингов, поэтому может служить лёгкой основой для компьютерного зрения. Модель содержит около 4 млн параметров, требует изображения размером 256 × 256 пикселей и имеет вычислительную сложность 0,7 GMACs. Архитектура FastViT сочетает свёрточные и трансформерные компоненты и использует структурную репараметризацию. Модель предназначена для отнесения изображений к классам ImageNet-1k и извлечения признаков в конвейерах компьютерного зрения. Карточка просит соблюдать исходную лицензию; метаданные указывают лицензию «other», поэтому условия следует сверять с лицензией авторов.
FireFunction v1 — модель Fireworks AI для генерации текста с вызовом функций и маршрутизацией запросов. Она построена на архитектуре Mixtral с разреженным MoE и содержит 7,1 млрд параметров; максимальная длина контекста составляет 32 768 токенов. Модель принимает текстовые запросы и спецификации функций, а в ответ формирует текст или структурированный вызов функции. Она совместима с интерфейсом function calling API OpenAI и поддерживает принудительный выбор функции через параметр tool_choice. Модель предназначена прежде всего для маршрутизации одношаговых запросов к одной из функций из набора до 20 спецификаций и для извлечения структурированной информации. Разработчик сообщает о высокой скорости работы на платформе Fireworks, но не приводит независимого подтверждения заявленного сравнения качества с GPT-4. Модель не оптимизирована для многошагового диалога и параллельных или вложенных вызовов функций в одном ответе. Лицензия Apache-2.0.
MaziyarPanahi/firefunction-v2-GGUF — это набор файлов модели в формате GGUF для FireFunction V2, разработанной fireworks-ai и квантизированный MaziyarPanahi. Модель создана на базе Llama 3 и предназначена прежде всего для вызова функций, взаимодействия с инструментами и диалоговых приложений, где требуется преобразовывать запрос пользователя в структурированные вызовы функций. Она также сохраняет возможности Llama 3 по ведению диалога и следованию инструкциям. FireFunction V2 поддерживает параллельный вызов нескольких функций, что отличает её от FireFunction V1. По заявленным результатам, модель показывает конкурентное качество в задачах function calling по сравнению с GPT-4o и превосходит предыдущую версию FireFunction; при этом качество следования инструкциям в диалогах несколько ниже, чем у исходной Llama 3. GGUF позволяет запускать модель через llama.cpp и совместимые приложения, включая llama-cpp-python, LM Studio и text-generation-webui, с поддержкой локального выполнения и GPU-ускорения. В репозитории доступны варианты квантизации от 2 до 8 бит, однако точный размер модели, максимальная длина контекста, перечень поддерживаемых языков и сведения о мультимодальности в README не указаны. Модель ориентирована на текстовые и conversational-сценарии; её практические ограничения зависят от выбранного уровня квантизации, оборудования и совместимого рантайма. Указанная лицензия — llama3.
FLUX.MF-8step_lightning_v2 — объединённая модель для генерации изображений по текстовому описанию, опубликованная buildborderless в рамках проекта OpenSight. В основе лежит слияние black-forest-labs/FLUX.1-dev и black-forest-labs/FLUX.1-schnell; затем к нему добавлена подборка LoRA. Репозиторий содержит веса в формате safetensors для использования через diffusers и FluxPipeline. Модель предназначена главным образом для генерации данных и оценки моделей. В названии указано Lightning и 8step, что обозначает вариант, ориентированный на генерацию за 8 шагов. Карточка также предупреждает, что некоторые использованные LoRA рассчитаны на NSFW-контент. Лицензия обозначена как other; перед коммерческим применением автор советует проверить лицензии исходных моделей и компонентов слияния.
FunAudioLLM/Fun-ASR-Nano-2512-vllm — официальная упаковка модели распознавания речи FunAudioLLM для запуска через vLLM. Это плотная архитектура семейства Qwen3 с 507,9 млн параметров и контекстом 40 960 токенов; модель принимает аудио и выдаёт распознанный текст. Указанные для карточки языки — китайский, английский и японский. Репозиторий сохраняет исходные веса FunAudioLLM/Fun-ASR-Nano-2512 и добавляет структуру, необходимую для реализации FunASRForConditionalGeneration в vLLM. README сообщает, что тензоры в safetensors побитово совпадают с тензорами исходного чекпойнта. Упаковка предназначена для распознавания речи в приложениях и сервисах, использующих vLLM; проверенный сценарий — vLLM 0.27.1 на NVIDIA H100 80 GB с float32. Преимущество этой версии — совместимость с vLLM без изменения весов исходной модели. Проверка описана для одной конфигурации и одного китайского примера, поэтому качество на других наборах данных, ускорителях и версиях vLLM отдельно не подтверждено. Для временных меток, диаризации и потоковой обработки README рекомендует оригинальный чекпойнт через инструментарий FunASR. Лицензия — Apache-2.0.
RedHatAI/gemma-2-9b-it-FP8 — языковая модель для генерации текста на основе Google Gemma 2 9B Instruct. Квантованную версию разработала Neural Magic (Red Hat). Модель принимает текст и генерирует текст, ориентирована на диалоговые сценарии и работу в формате ассистента на английском языке. Модель использует архитектуру Gemma 2 и оптимизирована для инференса в формате FP8: в FP8 преобразованы веса и активации линейных операторов внутри трансформерных блоков. Это сокращает число бит на параметр с 16 до 8 и примерно на 50% уменьшает требования к дисковому пространству и памяти GPU. Модель предназначена для запуска с vLLM версии 0.5.1 и выше; в примере развертывания указан максимальный размер контекста 32768 токенов. По данным README, средний результат на OpenLLM Leaderboard v1 составляет 73,49 против 73,23 у исходной неквантованной модели, однако другие показатели качества не приведены. Основное ограничение — заявленная область применения ограничена английским языком; использование на других языках указано как выходящее за рамки назначения. Модель доступна для коммерческого и исследовательского использования по лицензии Gemma; применяются условия Google Gemma.
AxionML Gemma-4-12B-NVFP4 — квантизированная версия мультимодальной модели google/gemma-4-12B-it, разработанная AxionML для открытого использования и развертывания. Модель предназначена для задач преобразования изображений и текста в текст, а также для диалоговых сценариев и серверного инференса. Она содержит около 11,95 млрд параметров и распространяется с лицензией Apache-2.0. В модели используется квантизация NVFP4: линейные слои MLP в блоках Transformer квантизированы по схеме W4A4, тогда как слои внимания q/k/v/o сохранены в BF16. KV-cache квантизирован в FP8 E4M3, а эмбеддинги, lm_head и мультимодальные эмбеддеры для зрения и аудио оставлены в BF16. Размер чекпойнта составляет около 11 ГБ против примерно 24 ГБ у BF16-версии. Микроблоки имеют размер 16 элементов с FP8-масштабами; для калибровки использовались cnn_dailymail и Nemotron-Post-Training-Dataset-v2. Основное преимущество модели — существенное сокращение требований к памяти при заявленной потере точности на GSM8K, а также поддержка серверного инференса через SGLang и спекулятивного декодирования MTP/NEXTN с парной draft-моделью. Модель ориентирована прежде всего на видеокарты NVIDIA Blackwell B100, B200 и B300 с нативными FP4 Tensor Cores. Ограничением является зависимость от совместимого оборудования и специализированных версий TensorRT Model Optimizer и SGLang; квантизация внимания не применяется из-за чувствительности активаций Gemma-4 к выбросам, поэтому преимущества FP4 реализованы только для MLP-слоёв.
Gemma 4 26B A4B IT Assistant — мультимодальная модель с открытыми весами от Google DeepMind, представленная как MTP-драфтер для семейства Gemma 4. Драфтер используется в спекулятивном декодировании: он предсказывает несколько токенов вперёд, а целевая модель проверяет их параллельно. По карточке семейства, этот вариант имеет архитектуру MoE размером 26B A4B и предназначен для инструкционного взаимодействия и ускорения генерации с сохранением качества целевой модели. Модель подходит для диалога, генерации и редактирования текста, программирования, рассуждений и агентных сценариев с вызовом функций. Семейство Gemma 4 принимает текст и изображения, поддерживает анализ видео; заявленная поддержка аудио относится к вариантам E2B, E4B и 12B, поэтому её нельзя переносить на этот чекпойнт. Для 26B A4B в карточке указано контекстное окно до 256K токенов, а семейство обучено на более чем 140 языках. Ключевое назначение этого чекпойнта — снизить задержку генерации в совместимом конвейере спекулятивного декодирования; заявлено ускорение до 3 раз. Для работы требуется целевая модель и поддержка MTP-декодирования, поэтому чекпойнт не является самостоятельной заменой полной модели Gemma 4. Лицензия — Apache 2.0.
tiny-random/glm-4-moe-lite — компактная случайно инициализированная языковая модель для отладки, созданная на основе конфигурации zai-org/GLM-4.7-Flash. Модель реализована в библиотеке Transformers и относится к архитектуре GLM-4 MoE Lite с причинной генерацией текста; в метаданных указано около 1,2 млн параметров и нативное контекстное окно до 202752 токенов. Модель предназначена для проверки совместимости и отладки интеграций с Transformers, vLLM и SGLang, включая multi-token prediction, speculative decoding, tool calling и reasoning parser. README содержит примеры запуска через эти библиотеки и показывает использование чатового шаблона и генерации текста. Поскольку веса инициализированы случайно, модель не предназначена для качественных ответов, прикладной генерации или точной оценки языковых способностей. Лицензия в предоставленных данных не указана.
Это пакет слоёв GGUF модели GLM-5.1-UD-Q4_K_XL для распределённого запуска через Mesh LLM. Он создан из unsloth/GLM-5.1-GGUF: исходное распределение весов разбито на отдельные артефакты по слоям, чтобы объединять память и вычислительные ресурсы нескольких локальных машин. Пакет предназначен для локального приватного инференса, чат-запросов и обслуживания API, совместимого с OpenAI Chat Completions. Модель относится к семейству GLM; вариант весов — UD-Q4_K_XL в формате GGUF. README не приводит размер модели, параметры контекста, поддерживаемые языки или подробности архитектуры. Для архитектурных сведений, шаблона чата и условий лицензии карточка отсылает к исходной модели unsloth/GLM-5.1-GGUF. Указанная в README лицензия не приведена, поэтому условия использования следует проверять в карточке источника.
GLM-5.2-MXFP4xFP8_BLOCK — квантизированная версия языковой модели GLM-5.2, разработанная RedHatAI на базе модели zai-org/GLM-5.2. Это текстовая causal language model с архитектурой GlmMoeDsaForCausalLM: принимает текст и генерирует текст. В README указана поддержка английского и китайского языков, а также готовность к инференсу через vLLM. Модель использует смешанную квантизацию: линейные слои MoE-экспертов квантизированы до 4-битного MXFP4, а линейные слои внимания, dense- и shared-expert-компоненты — до 8-битного блочно-масштабируемого FP8_BLOCK; активации квантизируются в FP8 с динамическим масштабированием. В среднем используется около 4,4 бита на параметр, благодаря чему размер модели на диске сокращён примерно с 1,47 ТБ в формате BF16 до 411 ГБ, а требования к дисковой и GPU-памяти уменьшены приблизительно на 72%. Модель предназначена для запуска крупной GLM-5.2 в условиях ограниченных ресурсов, включая инференс с использованием vLLM, параллелизма по тензорам, FP8 KV-кэша и инструментального вызова. Ключевое ограничение — экспериментальная поддержка этого квантизированного checkpoint в vLLM; размер контекста, точное число параметров, мультимодальные возможности и лицензия в README не указаны. Квантизация выполнена с помощью LLM Compressor методом RTN без калибровочных данных, а модель экспортирована в формате compressed-tensors.
GLM-5.3-Flash-W4A16 — это INT4-квантизированная версия модели zai-org/GLM-5.3-Flash, подготовленная для самостоятельного запуска и обслуживания через SGLang. Квантование выполнено по схеме weight-only W4A16 с группами по 128 весов и симметричным представлением. Модель предназначена для генерации текста, мультимодальных сценариев с изображениями и вызова инструментов; заявлены языки English и Chinese. Архитектура использует Mixture-of-Experts, а размер чекпойнта на диске составляет около 190,8 ГБ, что требует значительных аппаратных ресурсов. Основной сценарий применения — высокопроизводительный self-hosted inference на RTX PRO 6000 Blackwell (SM120) с использованием SGLang. В чекпойнте сохранены vision и tool calling, а также встроенная MTP/NEXTN-голова для speculative decoding, способная существенно повысить скорость генерации при корректной настройке. Данные о размере контекстного окна в README не указаны. Для корректной работы обязательны специальные параметры SGLang: отключение shared experts fusion, использование BF16 для KV-кэша и chunked prefill size 4096. Требуется сборка SGLang из post-merge nightly с дополнительными патчами для SM120; готового релизного образа с необходимой поддержкой на момент публикации нет. Без обязательного флага отключения fusion модель генерирует бессмысленный текст и не останавливается. Лицензия — MIT.
Модель fesalfayed/gpt-oss-20b-hermes_agent-tool-finetune_16bit — дообученная версия OpenAI gpt-oss-20b для локального фреймворка Hermes-Agent. Это причинная языковая модель с архитектурой Mixture-of-Experts; в README базовая модель описана как модель на 21 млрд параметров с 3,6 млрд активных параметров, а метаданные каталога указывают 1,6 млрд параметров. Контекст составляет до 131 072 токенов по метаданным, хотя обучение этого чекпойнта проводилось на последовательностях длиной 8 192 токена. Модель предназначена для диалогов с инструментами: вызовов функций, следования многошаговым инструкциям и продолжительных циклов «вызов инструмента — наблюдение — планирование». Сохраняет шаблон чата Harmony и настройку уровня reasoning effort. Дообучение выполнено методом LoRA SFT на примерно 42 тысячах трасс использования инструментов, после чего адаптер объединён с базовыми весами; доступны веса BF16 в формате Safetensors, ориентированные на запуск через vLLM или Transformers. Основной язык — английский. По README, дообучение улучшает соблюдение формата вызовов и системных инструкций, но не направлено на улучшение математики или генерации кода; при расплывчатых запросах модель может избыточно вызывать инструменты. Дополнительная настройка безопасности не проводилась. Лицензия — Apache-2.0.
unsloth/gpt-oss-safeguard-20b-GGUF — квантованная GGUF-версия модели gpt-oss-safeguard-20b, разработанной OpenAI и распространяемой в данном формате Unsloth. Модель предназначена для задач безопасности: классификации текстов по заданным политикам, фильтрации входов и выходов LLM, маркировки онлайн-контента и офлайн-разметки для Trust and Safety. Модель содержит около 21 млрд параметров, из которых активно используется 3,6 млрд, и рассчитана на работу с GPU от 16 ГБ VRAM. Это reasoning-модель, способная интерпретировать пользовательскую политику, принимать обоснованные решения и настраивать интенсивность рассуждений на уровнях low, medium и high, что позволяет выбирать компромисс между качеством и задержкой. Данные о поддерживаемых языках, модальностях и размере контекста в README не указаны. Для корректной работы требуется формат ответов harmony; раскрытие необработанной цепочки рассуждений предназначено только для разработчиков и специалистов по безопасности. Сильными сторонами являются адаптация к различным политикам безопасности, доступ к объяснениям решений и возможность локального запуска на относительно компактном GPU. Модель специализирована прежде всего на сценариях безопасности и не рекомендуется для общих задач, где следует использовать базовые модели gpt-oss. Распространяется по лицензии Apache 2.0, допускающей эксперименты, модификацию и коммерческое использование без copyleft-ограничений.
Hirundo Granite-4.1-3B Hardened — дообученная методом поведенческого unlearning модель Hirundo на базе ibm-granite/granite-4.1-3b. Это плотная причинная языковая модель на 3,4 млрд параметров для генерации текста и диалогов; она принимает текст и имеет контекстное окно 131 072 токена. Модель модифицирована для снижения восприимчивости к prompt injection при сохранении общих возможностей базовой модели. В опубликованных тестах PurpleLlama показатель успешности prompt injection снизился с 40,24% у исходной модели до 8,77%; в тестах Garak также отмечено снижение ряда атак и утечек. Эти результаты предназначены для сравнительной оценки и не гарантируют защиту в конкретном приложении. Модель подходит для экспериментов с защитой языковых моделей, сравнительных проверок безопасности и разработки приложений, где важна устойчивость к недоверенным инструкциям. Лицензия — Apache-2.0.
Grok-1-W4A8KV8 — квантизированная версия модели lmzheng/grok-1, созданная с помощью инструментария Quark компанией Advanced Micro Devices (AMD). Модель предназначена для эффективного запуска Grok-1 с использованием SGLang и формата экспорта Quark. В модели квантизированы все линейные слои, кроме lm_head и MoE-компонентов gate. Веса представлены в FP8 с симметричным квантованием на тензор, а линейные слои MoE дополнительно используют INT4 с симметричным поканальным квантованием. Активации и KV-кэш хранятся в FP8 с симметричным квантованием на тензор. Данные о размере модели, архитектуре, поддерживаемых языках, модальностях и длине контекста в README не указаны. По результатам GSM8K модель получила 0,817 против 0,821 у исходной grok-1, что указывает на небольшое снижение качества при существенной оптимизации представления модели. Основное преимущество — возможность более эффективного развертывания FP8-квантизированной модели через SGLang. Для INT4 используется специальная упаковка: восемь значений помещаются в один int32. Лицензия — Apache-2.0; модификации защищены авторским правом Advanced Micro Devices, Inc. за 2024 год.
Hermes Qwen3.5 35B-A3B GGUF — это набор GGUF-квантизаций базовой модели Qwen3.5-35B-A3B, дообученной автором DJLougen на датасете NousResearch/hermes-function-calling-v1. Модель предназначена прежде всего для структурированного вызова функций, работы с инструментами и агентских сценариев. Для повышения качества в задачах с JSON и многошаговыми взаимодействиями использовались LoRA и SFTTrainer из TRL; квантизация выполнена с помощью llama.cpp с importance matrix. Модель использует MoE-архитектуру Qwen3.5: 35 млрд параметров всего, около 3 млрд активных на токен, 256 экспертов и 8 активных экспертов на токен. Заявленная длина контекста — 262 144 токена, однако дообучение проводилось на последовательностях длиной до 4096 токенов. Доступны варианты от F16 до экстремально сжатых IQ1; размеры файлов составляют примерно от 7,5 до 64,6 ГБ. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому их нельзя подтвердить. Сильные стороны модели — специализация на function calling, JSON-структурированном выводе и использовании инструментов, а также широкий выбор квантизаций для систем с разными ограничениями по памяти. Автор предупреждает, что модель оптимизирована для агентских оболочек, например Hermes Agent, и может работать непредсказуемо при обычном инференсе без системного промпта; разговорное поведение вне структурированного harness не гарантируется. Модель распространяется по лицензии Apache-2.0.
HGNet-V2 B3 — сверточная модель классификации изображений и извлечения признаков из семейства High Performance GPU Net. По карточке, модель обучена авторами timm на данных ImageNet-22k и ImageNet-1k с применением дистилляции SSLD. Она содержит 16,3 млн параметров; указаны вычислительная сложность 1,8 GMAC и размер входа 224×224 при обучении и 288×288 при тестировании. Модель подходит для классификации изображений по категориям ImageNet, извлечения карт признаков и получения эмбеддингов изображений. Она реализована для библиотеки timm, веса доступны в форматах PyTorch и Safetensors. Лицензия — Apache-2.0.
Это модель I-JEPA Huge от Meta, дообученная на ImageNet-22K и предназначенная для извлечения признаков изображений. I-JEPA учится предсказывать представления скрытых частей изображения по другим его частям в латентном пространстве, формируя семантические признаки без восстановления пикселей. Модель построена на архитектуре Vision Transformer и содержит около 838,9 млн параметров. Модель принимает изображения и выдаёт векторные признаки, которые можно использовать в качестве входа для последующих задач компьютерного зрения, включая классификацию изображений. В карточке указана библиотека Transformers; веса опубликованы в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческих целях.
InceptionNeXt Base SAIL IN1K — модель классификации изображений и визуальный backbone семейства InceptionNeXt, обученный авторами статьи на ImageNet-1k. Репозиторий распространяет веса в форматах PyTorch и safetensors и предназначен для использования через библиотеку timm. Модель принимает изображения размером 224 × 224 и классифицирует их по категориям ImageNet-1k. Её также можно использовать как backbone для извлечения карт признаков и визуальных эмбеддингов в задачах компьютерного зрения. Модель содержит около 86,7 млн параметров и требует примерно 14,9 GMAC на проход. Лицензия Apache-2.0 разрешает использование и распространение на её условиях. Модель обучена на ImageNet-1k, поэтому её качество и переносимость на другие наборы классов или предметные области могут отличаться; для таких сценариев может потребоваться дообучение.