II.10Разработка и эксплуатация AI/ML-систем

InceptionNeXt Small — модель классификации изображений и извлечения визуальных признаков из семейства InceptionNeXt. Её обучили авторы статьи на ImageNet-1k; репозиторий опубликован в формате PyTorch и Safetensors и предназначен для использования через библиотеку timm. Модель содержит 49,4 млн параметров, выполняет 8,4 GMACs и рассчитана на изображения размером 224 × 224 пикселя. Она подходит для классификации изображений по категориям ImageNet-1k, извлечения карт признаков и получения эмбеддингов изображений. Лицензия репозитория — Apache-2.0. Модель работает с изображениями и не предназначена для обработки естественного языка.

jk3 — дообученная модель для генерации текста на базе deepseek-ai/deepseek-coder-1.3b-base. Она содержит 1,3 млрд параметров, использует плотную архитектуру семейства Llama и принимает контекст длиной до 16 384 токенов. Модель сохранена в формате safetensors. В карточке приведены метрики оценки, включая loss 0,4190 и разницу оценок выбранных и отклонённых ответов 9,0528. Датасет указан как None, а сведения о назначении, обучающих данных и ограничениях не раскрыты. Лицензия в доступных данных не указана.

jndpo4 — дообученная модель генерации текста, созданная на основе deepseek-ai/deepseek-coder-1.3b-base и обученная на наборе данных generator. Она использует плотную архитектуру семейства Llama и содержит 1,3 млрд параметров. Модель предназначена для генерации и продолжения текста; базовая модель ориентирована на продолжение, автодополнение и заполнение пропусков в коде, поэтому jndpo4 может подойти для подобных сценариев. Контекст составляет до 16 384 токенов. Веса доступны в формате safetensors, лицензия указана как other. Карточка не содержит сведений о конкретных сценариях, оценке качества или ограничениях дообученной версии.

k6 — дообученная модель на 1,3 млрд параметров, созданная на основе deepseek-ai/deepseek-coder-1.3b-base. Она использует плотную архитектуру семейства Llama и предназначена для генерации текста; базовая модель ориентирована на продолжение, автодополнение и заполнение пропусков в коде. Контекст модели составляет 16 384 токена. В карточке указаны результаты оценки: loss 0,1628 и метрики предпочтения ответов, однако набор данных обозначен как None, а сведения о назначении дообучения и сценариях применения отсутствуют. Модель распространяется под лицензией other; конкретные условия этой лицензии в доступных данных не раскрыты.

Это механически преобразованное представление Qwen2.5-3B-Instruct, подготовленное автором репозитория для запуска через vLLM. Модель не обучалась заново и не содержит новых обученных весов: чекпойнт сохранён в формате vLLM sharded_state с тензорным параллелизмом на два ранга для двух GPU Tesla T4. Веса исходной модели разработаны командой Qwen / Alibaba Cloud; размер — 3,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогового использования, включая ответы по инструкциям и структурированные ответы. В метаданных указан английский язык, а базовая Qwen2.5-3B-Instruct описана как многоязычная чат-модель. Для загрузки требуется совместимая конфигурация vLLM с исходной топологией TP=2; репозиторий не является стандартным чекпойнтом Transformers и не рассчитан на обычную загрузку через AutoModelForCausalLM. TP=1, TP>2, другие схемы GPU и обучение или дообучение не проверялись. Использование регулируется лицензией Qwen Research License: разрешены некоммерческие исследования и оценка на условиях лицензии, для коммерческого использования требуется отдельное разрешение Alibaba Cloud.

Kimi-K2.5-UD-Q4_K_XL-layers — пакет весов в формате GGUF, подготовленный Mesh LLM для распределённого запуска модели Kimi-K2.5 на кластере локальных машин. Пакет получен из unsloth/Kimi-K2.5-GGUF: исходное распределение GGUF разделено на артефакты по слоям; вариант квантования — UD-Q4_K_XL. Модель предназначена для локального чат-инференса, в том числе на нескольких компьютерах, когда полный файл модели трудно разместить на одном узле. Через Mesh LLM она может обслуживать совместимый с OpenAI API endpoint для запросов чата и генерации текста. Карточка не приводит размер параметров, длину контекста или список поддерживаемых языков; для архитектуры, шаблона чата и условий лицензии она отсылает к карточке исходной модели.

Koda-v1 — диалоговая модель для генерации кода, созданная Addy. Это плотная модель семейства Qwen2 с 1,5 млрд параметров, дообученная методом QLoRA за 100 шагов на датасете HuggingFaceH4/Bespoke-Stratos-17k от Qwen/Qwen2.5-Coder-1.5B-Instruct. Представлена как объединённый чекпойнт в формате bfloat16, сохранённый в safetensors и предназначенный для загрузки через Transformers и совместимые сервисы инференса. Модель рассчитана на диалоговые сценарии программирования: генерацию и обсуждение кода. Контекст составляет 32 768 токенов. README характеризует чекпойнт как экспериментальный и не доведённый до сходимости; сгенерированный код следует проверять перед выполнением. Лицензия — Apache-2.0; необходимо соблюдать лицензию, уведомления и условия использования базовой модели Qwen.

Kog Laneformer 2B IT — инструкция-настроенная версия языковой модели семейства Laneformer от Kogai. Это плотный авторегрессионный Transformer с декодером в стиле Llama, 2,2 млрд параметров и контекстом 4096 токенов. Архитектура использует Delayed Tensor Parallelism (DTP): обмен данными между частями модели откладывается и выполняется асинхронно, чтобы скрыть задержки параллельных вычислений. Репозиторий содержит веса Safetensors и реализацию для Transformers; для загрузки требуется разрешить пользовательский код модели. Модель предназначена для генерации текста и кода, диалоговых и инструкционных экспериментов, а также исследования архитектур с низкой задержкой при последовательной генерации. Разработчик ориентирует семейство на сценарии с малым числом одновременных запросов, включая циклы кодирования с агентами, голосовые помощники и сопилоты реального времени. Приведённые в карточке высокие скорости относятся к отдельному движку Kog Inference Engine на специализированных GPU и не характеризуют обычный запуск через Transformers. Модель преимущественно обучалась на коде и не рассчитана на роль универсального помощника. Она может ошибаться, выдавать небезопасный код и недостоверные сведения; результаты требуют проверки, а для критически важных решений модель не подходит. Лицензия указана как `other`; карточка также требует соблюдать условия лицензии и политики допустимого использования Llama 2.

tiny-random/lfm2-moe — небольшая случайно инициализированная модель для генерации текста, созданная на основе конфигурации LiquidAI/LFM2-8B-A1B. Модель предназначена разработчиками репозитория для отладки, тестирования и проверки интеграций, а не для получения качественных ответов.

MaxJeblick/llama2-0b-unit-test — небольшая тестовая модель типа Llama 2 для модульных и интеграционных проверок. Она создана для тестовых сценариев, в том числе для проверки интеграции с H2O LLM Studio, и рассчитана на запуск на CPU. Архитектура — плотная авторегрессионная LlamaForCausalLM; модель содержит 386,9 тыс. параметров и имеет контекст длиной 1024 токена. Она предназначена для проверки загрузки и работы пайплайна генерации текста, а не для содержательных ответов или прикладного использования. В README приведён пример загрузки через Transformers; файлы доступны в форматах PyTorch и Safetensors. Лицензия в предоставленных данных не указана.

FriendliAI подготовила FP8-квантизированную версию диалоговой модели Meta Llama 2 13B Chat для более эффективного инференса. Это авторегрессионный трансформер с 12,9 млрд параметров, дообученный для диалогов с помощью supervised fine-tuning и обучения с подкреплением на основе обратной связи от людей. Контекст составляет 4096 токенов; модель принимает текст и генерирует текст. Модель подходит для чат-ассистентов, ответов на вопросы и генерации текста на английском языке. Для работы требуется совместимый Friendli Container; FP8 поддерживается на GPU NVIDIA Ada, Hopper и Blackwell. Модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому перед внедрением её следует проверить и настроить для целевого применения. Использование регулируется лицензией Meta Llama 2 (llama2); для получения весов требуется принять условия лицензии Meta. README указывает, что модель предназначена для коммерческого и исследовательского применения на английском языке и ограничивает использование другими языками.

HINT-lab разработала эту плотную языковую модель семейства Llama для генерации текста с самокалибровкой уверенности. Она динамически корректирует выборку ответов во время вывода, чтобы повысить вычислительную эффективность без заявленного снижения точности. Поддерживаются методы early exit, ascending confidence, self-consistency и best-of-N. Модель содержит 7,5 млрд параметров, построена на архитектуре LlamaForCausalLM, работает с Transformers и распространяется в формате safetensors. Длина контекста составляет 131 072 токена. Основной язык — английский; поддержка других языков зависит от базовой модели. Лицензия — Apache 2.0. Модель предназначена для текстовой генерации и сценариев, где полезно управлять числом сэмплов по оценке уверенности. Она наследует смещения базовой языковой модели, а качество оценок уверенности и выигрыш от методов выборки зависят от задачи и калибровки базовой модели. Результаты следует проверять на целевых задачах, особенно перед применением в критически важных сценариях.

Llama-3-Groq-8B-Tool-Use-4bit — англоязычная текстовая генеративная модель семейства Llama 3, разработанная Groq и преобразованная сообществом mlx-community в формат MLX. Модель содержит около 7,5 млрд параметров, использует 4-битное представление и предназначена для запуска через mlx-lm на совместимом оборудовании Apple.

LlavaGuard-v1.2-7B-OV — мультимодальная модель AIML-TUDA для оценки безопасности содержимого изображений и текстовых запросов. Она дообучена на наборе LlavaGuard-DS на базе lmms-lab/llava-onevision-qwen2-7b-ov и использует архитектуру LLaVA-OneVision с Qwen2. Модель принимает изображения и текст, поддерживает диалог и формирует текстовые ответы с обоснованием оценки безопасности. Модель рассчитана на проверку пользовательских запросов с изображениями по таксономии безопасности LlavaGuard. Заявленное контекстное окно — 32K токенов. Для инференса поддерживаются веса Transformers; настройка модели не поддерживается. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Seriki/Lmlm — сборка модели gpt-oss-safeguard-120b, созданной OpenAI и представленной в рамках программы Community Models LM Studio. Репозиторий содержит GGUF-квантизацию, подготовленную командой LM Studio с помощью llama.cpp. Базовая модель предназначена для классификации текстового содержимого по заданным политикам безопасности и других задач обеспечения безопасности; она поддерживает диалоговый режим. В README указаны 117 млрд параметров, из которых 5,1 млрд активны, контекст до 131 тыс. токенов и настраиваемый уровень рассуждений low, medium или high. Модель рассчитана на сценарии с высокими требованиями к рассуждению и описана как пригодная для производственного применения. README указывает лицензию Apache 2.0. В метаданных языка карточки указан английский.

MADLAD-400 3B MT — GGUF — это мультиязычная модель машинного перевода, разработанная Google и преобразованная в формат GGUF для использования с CrispASR. Модель предназначена для перевода текстов между более чем 450 языками, включая языки с ограниченными ресурсами и недостаточной представленностью в обучающих данных. Она поддерживает сценарии автоматического перевода в приложениях и локального запуска через совместимое программное обеспечение. Модель основана на архитектуре T5 encoder-decoder и содержит около 3 миллиардов параметров. Она обучена на 1 триллионе токенов, использует общий SentencePiece-токенизатор со словарём из 256 тысяч элементов, а её кодировщик и декодировщик имеют по 24 слоя с размерностью скрытого состояния 1024. Для указания целевого языка применяются языковые теги формата <2xx>. Доступны варианты весов F16, Q8_0 и Q4_K, различающиеся размером файла и уровнем квантования. Сильными сторонами модели являются широкий охват языков и ориентация на низкоресурсные языки. Ограничения включают необходимость использования совместимого рантайма, а также компромисс между качеством и размером при выборе квантованных вариантов. В README не указано максимальное окно контекста. Модель распространяется по лицензии Apache 2.0.

MiMo-V2.5-Pro-UD-Q4_K_XL-layers — пакет GGUF-слоёв от Mesh LLM для распределённого запуска MiMo-V2.5-Pro-Pro на кластере Mesh LLM. Он создан на основе unsloth/MiMo-V2.5-Pro-GGUF: исходное представление UD-Q4_K_XL разбито на отдельные артефакты по слоям для распределения вычислений и памяти между несколькими машинами. Пакет предназначен для локального приватного инференса и чат-сценариев через совместимый с OpenAI API Mesh LLM, включая запуск модели на нескольких компьютерах, когда целый файл GGUF не помещается на одном хосте. Метаданные указывают задачу генерации текста и библиотеку mesh-llm; карточка описывает вариант UD-Q4_K_XL в формате пакета слоёв. Архитектура, размер модели, контекст и поддерживаемые языки в предоставленных источниках не раскрыты. Это упаковка квантованной исходной модели в распределённый пакет слоёв; README отсылает к карточке исходной модели за сведениями об архитектуре, рекомендациях и лицензии, но условия лицензии здесь не приведены. Для использования нужны Mesh LLM и кластер машин, а характеристики и ограничения исходной модели сохраняются.

MiniCPM5-1B-Agentic-Tooluse-v3-GGUF — компактная языковая модель для вызова функций и использования внешних инструментов, разработанная на базе openbmb/MiniCPM5-1B. Модель дообучена с применением QLoRA supervised fine-tuning и GRPO reinforcement learning, а опубликованные веса представлены в формате GGUF для локального запуска через llama.cpp, Ollama, LM Studio и совместимые приложения. Модель содержит около 1 млрд параметров и предназначена для сценариев, где необходимо обработать схему инструментов и запрос пользователя, выбрать подходящую функцию и сформировать структурированный вызов с именем функции и аргументами. Она подходит для локальных AI-агентов, интеграций с API, MCP-серверов, ReAct-циклов, автоматизации дома и приложений, требующих работы офлайн на CPU. Указан английский язык и задача генерации текста. На закрытой выборке из 300 примеров ToolACE модель достигла parseable tool-call rate 100%, valid available-tool name rate 98,67%, expected tool-name rate 95,33%, exact-arguments rate 74,67% и arg-key overlap 93,88%. Эти результаты показывают сильную способность формировать разбираемые вызовы и корректно выбирать инструменты, однако точность полного совпадения аргументов ограничена, а показатель clean stopping в опубликованной оценке равен 0%. Данные бенчмарка относятся к конкретному тестовому набору и не гарантируют аналогичную эффективность во всех сценариях. Модель распространяется по лицензии Apache-2.0. GGUF-квантизация позволяет использовать её на локальных устройствах, включая компьютеры и маломощные системы, однако README не указывает точные размеры контекста, доступные варианты квантования или требования к памяти.

MiniLM-V13Data-256BATCH-SemanticEngine — англоязычная модель Sentence Transformers от LamaDiab, дообученная на базе sentence-transformers/all-MiniLM-L6-v2. Она кодирует предложения и абзацы в плотные векторы размерности 384; для сравнения используется косинусное сходство. Архитектура включает энкодер BERT, усреднение токеновых представлений и нормализацию. В метаданных указано окно контекста 512 токенов, а карточка модели задаёт максимальную длину последовательности 256 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Данные обучения и примеры в карточке указывают на соответствие товарных запросов и описаний, поэтому модель может быть полезна для поиска товаров. На наборе оценки из карточки приведена точность cosine_accuracy 0,9693; результат относится к описанной оценке и не гарантирует такого же качества на других данных. Лицензия в предоставленных сведениях не указана.

MiniMax-M2.5-UD-Q4_K_XL-layers — пакет GGUF с разделёнными по слоям файлами для распределённого запуска MiniMax-M2.5 в кластере Mesh LLM. Пакет подготовлен Mesh LLM на основе unsloth/MiniMax-M2.5-GGUF и сохраняет вариант квантования UD-Q4_K_XL. Метаданные указывают поддержку чата и задачу генерации текста. Модель предназначена для локального приватного инференса, распределения вычислений между несколькими машинами, когда полный GGUF не помещается на одном хосте, и чат-сценариев через локальный API, совместимый с OpenAI. Для работы требуется Mesh LLM; репозиторий содержит разбиение модели на артефакты, включая отдельный файл эмбеддингов. Лицензия, точное число параметров, длина контекста и поддерживаемые языки в предоставленных данных не описаны. За подробностями об архитектуре, настройках чата и лицензии README отсылает к карточке исходной модели.

Mahmoud Ashraf опубликовал конверсию чекпойнта MMS-300M из TorchAudio в формат Hugging Face Transformers. Модель построена на архитектуре Wav2Vec2ForCTC и содержит около 402,7 млн параметров; в README она описана как обученная на данных для принудительного выравнивания речи и текста. Модель предназначена для forced alignment: сопоставления заданного текста с аудиозаписью и определения временного положения слов или токенов. Это полезно для подготовки субтитров, разметки речевых данных и анализа произнесённой речи. Она принимает аудио и связана с распознаванием речи; для работы выравнивателя требуется текст, который нужно сопоставить с записью. Чекпойнт сохранён в форматах PyTorch и Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

Xenova/mobileclip_b — версия модели MobileCLIP-B в формате ONNX, подготовленная для работы с библиотекой Transformers.js. Это модель семейства CLIP для классификации изображений по текстовым описаниям: она сопоставляет изображение с кандидатными текстовыми метками и позволяет выбирать наиболее подходящую. Репозиторий указывает задачу zero-shot image classification и совместимость с Transformers.js. Модель принимает изображения и текстовые варианты меток, а выдаёт оценки соответствия, которые можно использовать для классификации без обучения на собственных классах. Она подходит для клиентских JavaScript-приложений, которым нужна классификация изображений по заданному пользователем набору категорий. В карточке указана лицензия other; конкретные условия использования следует сверить с лицензией исходной модели MobileCLIP-B.

Moonshine Streaming Tiny — компактная модель автоматического распознавания речи, разработанная Useful Sensors и представленная в формате GGUF командой handy-computer для работы с transcribe.cpp. Это 34-миллионная encoder-decoder-модель, предназначенная для преобразования английской речи в текст в пакетном и потоковом режимах с низкой задержкой, в том числе на периферийных устройствах. Модель принимает монофонический WAV с частотой 16 кГц и выдаёт транскрипцию. Архитектура сочетает лёгкий аудиофронтенд с частотой 50 Гц, эргодический Transformer-энкодер с ограниченным вниманием по скользящему окну и авторегрессионный декодер. Поддерживается только английский язык; перевод, многоязычная обработка, автоматическое определение языка и временные метки не поддерживаются. Доступны варианты F32 размером 178 МБ, F16 размером 90 МБ и Q8_0 размером 50 МБ. Сильными сторонами модели являются потоковая обработка, небольшой размер, пригодность для CPU и edge-устройств, а также близкое соответствие эталонной реализации Hugging Face. Для LibriSpeech test-clean заявлен показатель WER около 4,52–4,53%. Ограничения включают работу только с английской речью, отсутствие перевода и временных меток, необходимость входного аудио 16 кГц mono WAV и отсутствие поставляемых вариантов Q6_K, Q5_K_M и Q4_K_M. Модель распространяется по лицензии MIT, унаследованной от базовой модели UsefulSensors/moonshine-streaming-tiny.

RadixArk подготовил квантованный чекпойнт Muse Glimmer для запуска через SGLang. Он основан на meta-models/Muse-Glimmer-30B и использует смешанную точность: NVFP4 для большинства проекций, MXFP8 для чувствительных слоёв и bf16 для нормализаций. Веса в формате Safetensors занимают около 18,34 ГиБ вместо 52 ГиБ у экспорта bf16. Модель предназначена для диалоговой генерации и задач с изображениями, однако README рекомендует запускать именно языковую часть с параметром --language-model-only: зрительный модуль есть в базовом экспорте, но не входит в этот квантованный чекпойнт. Такой вариант подходит для декодирование-тяжёлых сценариев, локального сервинга и работы с инструментами; на DGX Spark ускорение генерации относительно bf16 достигает примерно 2,7 раза, но предварительная обработка длинных запросов при больших пакетах может быть медленнее. Проверены базовая генерация и арифметические запросы, полная оценка качества ещё не выполнена. Для сервинга требуется форк SGLang с поддержкой Muse Glimmer. Лицензия в предоставленных данных не указана.

MyAwesomeModel — модель из репозитория Assads1SAD/MyAwesomeModel-TestRepo, доступная через библиотеку Transformers. Согласно метаданным Hugging Face, её основная задача — извлечение признаков из входных данных, а заявленная архитектурная основа относится к семейству BERT. Модель распространяется под лицензией MIT и использует PyTorch. В README модель также описывается как обновлённая система с улучшенными рассуждениями, логическим выводом, генерацией кода, ответами на вопросы, суммаризацией, переводом и поддержкой function calling. Однако README не содержит подтверждённых сведений о размере модели, длине контекста, поддерживаемых естественных языках и точной конфигурации, а приведённые результаты представлены без описания протокола оценки. Поэтому для каталога её надёжнее классифицировать по метаданным как модель извлечения признаков.

MyAwesomeModel-TestRepo — модель на архитектуре BERT от автора dongbobo, опубликованная в Hugging Face. По метаданным она предназначена для извлечения признаков из текста и использует библиотеку Transformers; веса представлены в формате PyTorch. Модель можно применять для получения скрытых представлений текста как входа для последующих задач машинного обучения. Веб-поиск указывает на конфигурацию из 12 слоёв, размер скрытого состояния 768, 12 голов внимания и контекст до 512 токенов. Репозиторий распространяется по лицензии MIT. Сведений о целевых языках или специализированных областях применения нет.

MzansiLM 125M — модель семейства Llama, разработанная для языков Южной Африки и обученная с нуля на многоязычном корпусе MzansiText, охватывающем все 11 официальных языков страны. Это плотная авторегрессионная модель с 125,3 млн параметров и контекстом 2048 токенов; используется декодерная архитектура LlamaForCausalLM и собственный BPE-токенизатор с размером словаря 65 536.

NesT Base — модель классификации изображений и извлечения визуальных признаков из семейства Nested Hierarchical Transformer. Её обучили авторы статьи на ImageNet-1k с помощью JAX, затем Александр Соаре перенёс веса в PyTorch; модель доступна через библиотеку timm. Модель содержит 67,7 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Она предназначена для классификации изображений по категориям ImageNet-1k, а также может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. Для применения нужны лицензия Apache-2.0 и совместимая среда PyTorch/timm. Карточка не описывает ограничения по классам, кроме обучения на ImageNet-1k; качество на других наборах данных может отличаться.

Next-ViT Large — модель компьютерного зрения для классификации изображений и извлечения визуальных признаков. Её обучили авторы статьи Next-ViT на наборе Unknown-6M и ImageNet-1k с использованием дистилляции SSLD. Модель содержит около 57,9 млн параметров; в карточке также указаны вычислительная сложность 10,7 GMACs и размер входного изображения 224 × 224 пикселя. Модель предназначена для определения объектов и категорий на изображениях, а также может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. В таблице результатов для варианта с разрешением 384 указаны точность Top-1 86,542% и Top-5 98,142%. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — Apache-2.0.

nf_resnet50.ra2_in1k — модель классификации изображений семейства NFResNet, обученная Россом Уайтманом с помощью библиотеки timm. Это вариант ResNet с предварительной активацией без слоёв нормализации: вместо Batch Normalization применяются Scaled Weight Standardization и скалярные коэффициенты в остаточных связях и около нелинейностей. Модель обучена на ImageNet-1k и может использоваться для классификации изображений, извлечения карт признаков и получения эмбеддингов. Она содержит 25,6 млн параметров, имеет вычислительную сложность 5,5 GMACs; размер изображения при обучении — 256 × 256 пикселей, при тестировании — 288 × 288. Веса доступны в форматах PyTorch и safetensors, библиотека модели — timm. Модель подходит как готовый классификатор изображений и как визуальная основа для других задач компьютерного зрения. Карточка не сообщает метрики качества или перечень языков, поскольку модель работает с изображениями. Лицензия — Apache-2.0.