II.10Разработка и эксплуатация AI/ML-систем

Mira-v1 — модель sagea-ai для быстрых типизированных решений: она принимает контекстное состояние и вопросы с вариантами ответа, а одним проходом возвращает распределения вероятностей, уверенность и сигнал воздержания. Модель не генерирует текст; её можно использовать для маршрутизации запросов и выбора решения в коде, отдельно или пакетно. Модель дообучена на компактном мультиязычном энкодере ModernBERT mmBERT-small, содержит 140,5 млн параметров и поддерживает контекст до 8192 токенов. В карточке заявлены задачи выбора варианта, оценки и ответа «да/нет»; среди описанных сильных сторон — калибровка вероятностей и маршрутизация намерений. Разработчик сообщает о слабых результатах в тематической классификации и о том, что при более чем 20 вариантах требуется двухэтапный отбор. Лицензия Apache-2.0. Обучающие данные закрыты, а перед применением в важных решениях разработчик рекомендует оценить модель на конкретных вопросах. Она сравнивает предложенные ответы и не восполняет отсутствующие факты и не выполняет арифметические вычисления.

Это вариант Mistral 7B, опубликованный winglian и разбитый на шарды по слоям: каждый слой хранится в отдельном шарде. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; её контекстное окно — 32 768 токенов. Модель предназначена для генерации текста и может служить основой для сценариев, использующих Mistral 7B. В репозитории указаны веса в формате safetensors. Лицензия в предоставленных данных не обозначена.

Это пакет слоёв GGUF для распределённого запуска Mistral-Large-3-675B-Instruct-2512-UD-Q4_K_XL с помощью Mesh LLM. Его подготовила Mesh LLM на основе unsloth/Mistral-Large-3-675B-Instruct-2512-GGUF: исходная модель разделена на артефакты по слоям для выполнения на нескольких машинах в локальном кластере. Модель предназначена для генерации текста и диалогов, в том числе через локальный API, совместимый с OpenAI Chat Completions. Разделение слоёв позволяет объединить память и вычислительные ресурсы нескольких узлов, когда целый пакет GGUF трудно разместить на одном компьютере. Вариант UD-Q4_K_XL использует квантованный формат GGUF; дополнительные сведения об архитектуре, языках и контекстном окне приведены в карточке исходной модели, а не в этой карточке пакета. Пакет рассчитан на запуск через Mesh LLM и требует инфраструктуры для распределённого инференса. Лицензия в доступной карточке пакета не приведена; условия использования следует проверять у исходной модели Mistral-Large-3-675B-Instruct-2512-GGUF.

Это пакет Mesh LLM с разбиением GGUF-модели Mistral-Small-4-119B-2603-UD-Q4_K_XL на артефакты по слоям для распределённого инференса. Он основан на unsloth/Mistral-Small-4-119B-2603-GGUF и предназначен для запуска чат-модели Mistral на локальном кластере Mesh LLM, в том числе на нескольких машинах, если одной машине не хватает ресурсов. Mesh LLM предоставляет локальный API, совместимый с OpenAI Chat Completions. В репозитории указаны формат GGUF и вариант UD-Q4_K_XL; пакет включает отдельные артефакты для слоёв и общие данные модели. Архитектурные подробности, число параметров, контекст, языки и условия лицензии в предоставленных данных не приведены; за ними README отсылает к карточке исходной модели. Пакет рассчитан на локальный инференс, но требует Mesh LLM и оборудования, достаточного для распределённого запуска. Лицензионные условия следует сверить с карточкой исходной модели.

Это модель классификации изображений MobileNetV2, обученная разработчиками timm на ImageNet-1k с рецептом RandAugment. Она предназначена для определения объектов на изображениях и может использоваться как компактная базовая сеть для извлечения признаковых карт и эмбеддингов. Модель содержит 6,1 млн параметров, рассчитана на изображения размером 224 × 224 и требует около 0,6 GMAC на обработку изображения. В обучении применялись оптимизатор RMSProp, усреднение весов EMA и ступенчатое экспоненциальное расписание скорости обучения. Репозиторий содержит веса PyTorch и safetensors; библиотека для работы — timm. Модель обучена на ImageNet-1k, поэтому её классы и качество ограничены этой предметной областью и данными обучения. Лицензия — Apache-2.0.

Это веса только для визуального энкодера MobileNetV5, подготовленные для серии Gemma 3n и опубликованные в библиотеке timm. Модель предназначена для извлечения признаков из изображений; её можно использовать как компонент конвейера компьютерного зрения или мультимодальной системы. В метаданных указаны библиотека timm, форматы PyTorch и safetensors и лицензия Gemma. Карточка не сообщает размер модели, языки или дополнительные сведения об архитектуре и условиях применения.

MobileViT-v2 150 — модель классификации изображений и извлечения визуальных признаков из семейства MobileViT-v2, опубликованная авторами статьи и обученная на ImageNet-1k. Вариант содержит около 10,6 млн параметров; для классификации использует изображения размером 256 × 256. Модель доступна в форматах PyTorch и Safetensors и предназначена для работы через библиотеку timm. Её можно применять для классификации изображений, извлечения карт признаков и получения визуальных эмбеддингов. Компактная архитектура MobileViT-v2 ориентирована на задачи мобильного компьютерного зрения. Обучение на ImageNet-1k определяет область распознавания объектов в рамках этого набора классов; точные условия лицензии в карточке не раскрыты, указана категория other.

MobileViT-v2 200 — модель классификации изображений и извлечения визуальных признаков из семейства MobileViT-v2, размещённая авторами проекта timm и обученная авторами статьи на ImageNet-1k. Модель содержит 18,4 млн параметров, требует изображения размером 256 × 256 пикселей и имеет вычислительную стоимость 7,2 GMACs. Модель предназначена для классификации изображений, извлечения карт признаков и получения визуальных эмбеддингов. Компактная архитектура на основе Mobile Vision Transformer рассчитана на сценарии компьютерного зрения с ограниченным бюджетом вычислений. Репозиторий содержит веса PyTorch в формате safetensors. Лицензия указана как other, а карточка отсылает за её условиями к отдельным сведениям о лицензии.

MobileViT-v2 — модель классификации изображений и визуальный backbone из библиотеки timm. Согласно карточке модели, авторы статьи предварительно обучили её на ImageNet-22k, а затем дообучили на ImageNet-1k. Модель содержит 18,4 млн параметров, обрабатывает изображения размером 384 × 384 и основана на архитектуре Mobile Vision Transformer с separable self-attention. Модель предназначена для классификации изображений, извлечения карт признаков и получения векторных представлений изображений. Её можно применять как backbone в компьютерном зрении и для классификации объектов на изображениях. Карточка указывает лицензию other, но конкретные условия лицензии в предоставленных данных не раскрыты.

MPT-7B — базовая языковая модель MosaicML, предварительно обученная с нуля на 1 трлн токенов английского текста и кода. Это плотный авторегрессионный трансформер с декодером, архитектура MPTForCausalLM; в карточке указано 6,7 млрд параметров и 32 слоя. Модель поддерживает генерацию текста, включая продолжение текста и кода. Архитектура использует FlashAttention и ALiBi вместо позиционных эмбеддингов. Обучение проводилось на последовательностях длиной 2048 токенов; ALiBi позволяет работать с длинными контекстами, однако для этой версии README не приводит конкретный гарантированный предел. Модель рассчитана прежде всего на английский язык. Это базовая, а не инструкционно настроенная модель: для диалога и пользовательских сценариев её следует дообучить и дополнить защитными механизмами. Она может выдавать фактически неверный, предвзятый или оскорбительный текст. Лицензия Apache 2.0 допускает коммерческое использование.

Jeevesh8/multiberts_seed_2_ft_0 — дообученная модель семейства MultiBERTs на архитектуре BERT для классификации текста. MultiBERTs разработана Google как набор воспроизводимых BERT-base чекпойнтов для анализа устойчивости результатов при различной инициализации и перемешивании обучающих данных; данный вариант опубликован пользователем Jeevesh8 и предназначен для задач текстовой классификации.

Multilingual-MiniLM-L12-H384 — предобученная компактная языковая модель Microsoft для понимания текста на нескольких языках. Она использует 12-слойный трансформер с архитектурой BERT, скрытым размером 384 и 12 головами внимания; карточка указывает 124,3 млн параметров, включая около 21 млн параметров трансформера и 96 млн параметров эмбеддингов. Для токенизации применяется токенизатор XLM-R. Модель рассчитана на последовательности длиной до 512 токенов. Модель предназначена для задач классификации текста и может дообучаться для межъязыкового переноса, распознавания текстового следствия и ответов на вопросы. В README приведены оценки на XNLI и MLQA. Поддерживаются английский, арабский, болгарский, немецкий, греческий, испанский, французский, хинди, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский языки. Доступны веса в форматах PyTorch, TensorFlow и Flax. Модель основана на дистилляции MiniLM и рассчитана на компактное и быстрое применение в задачах понимания языка. Для этого чекпойнта используется BertModel с XLMRobertaTokenizer, поэтому AutoTokenizer не работает согласно README. Лицензия — MIT.

MViTv2 Small — модель компьютерного зрения семейства multi-scale Vision Transformer, опубликованная авторами работы MViTv2 и доступная в формате библиотеки timm. Она предварительно обучена на ImageNet-1k и предназначена для классификации изображений; также может использоваться как визуальный backbone для извлечения признаков и эмбеддингов. Модель содержит около 34,9 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель подходит для распознавания объектов и категорий на изображениях, а также для построения визуальных признаков в прикладных системах компьютерного зрения. Репозиторий содержит веса PyTorch и safetensors. Лицензия — Apache-2.0.

MyAwesomeModel — модель семейства BERT для извлечения признаков из текста, разработанная владельцем репозитория safafa34235 и предназначенная для использования через библиотеку Transformers на PyTorch. Основная задача модели — преобразовывать текстовые входы в векторные представления, пригодные для последующей обработки в прикладных ML-системах. README также заявляет о возможностях рассуждения, ответов на вопросы, классификации, генерации текста, программирования, суммаризации, диалога, function calling и работы с файлами или веб-поиском. Однако эти сценарии не согласуются с pipeline-тегом feature-extraction и не подтверждены техническими метаданными модели, поэтому их следует рассматривать как заявленные в карточке, а не как надежно установленные возможности данной конфигурации. Модель распространяется по лицензии MIT и интегрируется с экосистемой Transformers. В карточке не приведены точные сведения о числе параметров, контекстном окне, поддерживаемых естественных языках и результатах воспроизводимой оценки для этой конкретной модели.

NanoVDR-Q-DistilBERT-Qwen3VL2B-2048-ML — разработанная командой NanoVDR компактная модель-энкодер запросов для поиска по визуальным документам. Это текстовая модель на базе DistilBERT с проектором из двух слоёв; она содержит 69 млн параметров и формирует векторы размерности 2048, совместимые с эмбеддингами документов от Qwen3-VL-Embedding-2B. По данным карточки, модель сохраняет 95,1% качества учителя в оценке на 22 наборах ViDoRe. Модель предназначена для кодирования текстовых запросов на английском, немецком, французском, испанском, итальянском и португальском языках и поиска по заранее индексированным изображениям страниц документов. Индексацию выполняет учитель Qwen3-VL-Embedding-2B, а NanoVDR кодирует запросы; поиск затем можно проводить по косинусному сходству или скалярному произведению, например, с FAISS. В карточке указаны максимальная длина последовательности 512 токенов и возможность обслуживать запросы на CPU. Это специализированный энкодер запросов, а не самостоятельная система индексации документов: для построения индекса требуется отдельная модель-учитель, а карточка указывает, что индексация требует GPU. Модель дообучена на базе distilbert/distilbert-base-uncased методом дистилляции; заявленная лицензия — Apache-2.0.

RainbowPiBubbles/Nathanael-Embedding-8M — компактная энкодер-свободная модель зрения и языка на базе SupraLabs/SupraCMA-8M. Она предназначена для извлечения признаков из текста и изображений: принимает токены текста, пиксели изображения и признак наличия изображения, а выдаёт представления в скрытом пространстве языковой модели. Визуальные представления дистиллированы с использованием эмбеддингов SigLIP-2; вместо отдельного тяжёлого визуального энкодера используются математические патчи, отображающие визуальные токены в целевое представление. Модель доступна в форматах SafeTensors и ONNX: FP32 рассчитан на CPU и WASM, а FP16 — на ускорение через WebGPU или WebGL. Граф ONNX включает масштабирование и нормализацию изображений, что подходит для интеграции в браузерные и терминальные приложения. Лицензия — MIT. Карточка не описывает конкретные сценарии генерации ответов по изображениям, поэтому модель следует рассматривать прежде всего как средство извлечения признаков, а не как полноценный чат-интерфейс.

ndpo2 — дообученная модель на 1,3 млрд параметров, созданная на основе deepseek-ai/deepseek-coder-1.3b-base и обученная на наборе generator. Она использует плотную архитектуру семейства Llama и предназначена для генерации текста; базовая модель ориентирована на продолжение, автодополнение и заполнение пропусков в коде. Заявленная длина контекста — 16 384 токена. В README приведены метрики оценки на тестовом наборе, включая loss 0,0429 и точность rewards 0,9836, но не описаны сценарии применения и методика оценки. Модель распространяется в формате safetensors; лицензия указана как other, поэтому условия использования следует проверять в репозитории Hugging Face.

nest_tiny_jx.goog_in1k — модель классификации изображений семейства NesT, обученная авторами статьи на ImageNet-1k с использованием JAX и перенесённая в PyTorch Александром Соаре. Она также может служить визуальным backbone для извлечения карт признаков и эмбеддингов изображений. Модель содержит 17,1 млн параметров, требует изображение размером 224 × 224 пикселя и имеет вычислительную сложность 5,8 GMACs. Модель подходит для классификации объектов на изображениях, а также для получения признаков и эмбеддингов в компьютерном зрении. Веса доступны в форматах PyTorch и safetensors; библиотека для работы — timm. Лицензия — Apache-2.0.

Nickup Swallow v2 — многоязычная модель классификации текста от NickupAI, созданная на основе FacebookAI/xlm-roberta-base и дообученная для фильтрации спама, рекламных сообщений и цифрового шума. Её можно использовать как предварительный фильтр перед передачей текстов более крупной языковой модели. Модель построена на XLM-RoBERTa и содержит 305,2 млн параметров по метаданным Hugging Face; README приводит оценку 270 млн. Заявлены оптимизация для более быстрой работы и меньшего потребления памяти, в том числе на CPU и мобильных устройствах, а также точность около 90,5% по оценке авторов. Поддерживаемые языки включают английский, русский, китайский, немецкий, испанский, французский, японский, итальянский, португальский и арабский; контекст — до 514 токенов. Результаты классификации в примерах README представлены метками LABEL_0 и LABEL_1, включая категорию USELESS, поэтому назначение меток следует сверить с кодом или настройками использования. Заявленные показатели качества не сопровождаются описанием набора данных и протокола оценки. Лицензия — Apache-2.0.

OASIS-code-1.3B — модель для создания векторных представлений кода, разработанная Kwaipilot. Она предназначена для поиска фрагментов кода по смыслу и построения систем кодового поиска, сопоставляющих запрос с релевантными фрагментами в разных программных контекстах. Модель основана на плотной архитектуре Llama и содержит 1,3 млрд параметров; для работы с текстом и кодом использует контекст до 1024 токенов. При обучении применялись анализ программ на уровне репозитория, синтетические данные OASIS-instruct и специальная функция потерь для поиска. В README сообщается о результатах на бенчмарках поиска кода. Модель опубликована в формате safetensors, библиотека загрузки — Sentence Transformers. Лицензия MIT. Для запуска авторы предупреждают о проблеме совместимости PyTorch 2.5.0 при загрузке с bfloat16 и рекомендуют версии 2.4.1 или ниже либо 2.5.1 и выше.

OpenCodeReasoning-Nemotron-32B — языковая модель NVIDIA для генерации и пошагового решения задач программирования. Это дообученная для рассуждений в задачах генерации кода версия Qwen2.5-32B-Instruct; модель построена на плотном декодерном Transformer с архитектурой Qwen2 и содержит 32 млрд параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и рассчитана на сценарии с программированием, включая задачи соревновательного уровня. Для обучения использован набор OpenCodeReasoning из 736 тысяч примеров с задачами по программированию и ответами, сгенерированными DeepSeek-R1. В метаданных заявлены диалоговый режим, работа с кодом и интерфейс вызова инструментов. Модель предназначена для разработчиков и исследователей, создающих приложения на основе LLM. В README указана готовность к коммерческому и некоммерческому использованию; лицензия — Apache-2.0. Она оптимизирована для NVIDIA GPU, а README рекомендует запуск на Linux с NeMo или vLLM. Оценки из README приведены по 64 запускам на бенчмарк, поэтому фактическое качество может различаться в зависимости от задачи и условий запуска.

opencsg/opencsg-starcoder2-7b-v0.1 — модель генерации кода, созданная исследовательской командой OpenCSG полнопараметрическим дообучением StarCoder2. В метаданных указаны архитектура StarCoder2 с плотной causal language model, 9,9 млрд параметров и контекст до 16 384 токенов. Модель предназначена для генерации и продолжения программного кода. В README приведена оценка на HumanEval для Python: Pass@1 составил 42,68% при жадном декодировании и исходных промптах без дополнительных инструкций. Указанная в README поддержка более 80 языков программирования относится к исходному семейству StarCoder; отдельных сведений о языках и данных дообучения этой версии карточка не приводит. Модель распространяется по лицензии BigCode OpenRAIL-M. Оценка приведена только для одного бенчмарка и зависит от настроек декодирования; карточка отмечает, что дополнительных результатов и практических оценок для задач разработки пока нет.

fredzzp/open-dcoder-0.5B — модель генерации кода, разработанная fredzzp на архитектуре Qwen2. Это языковая модель с маскированной диффузией и двунаправленным вниманием, содержащая 494 млн параметров; для генерации требуется специальный метод diffusion_generate из пользовательского кода модели. Модель предназначена для генерации кода по текстовым запросам и поддерживает контекст до 32 768 токенов. В репозитории представлены веса в формате safetensors, а для работы используется библиотека Transformers. Карточка не уточняет поддерживаемые языки программирования или естественные языки. Лицензия — Apache-2.0.

Panda-Coder 13B — языковая модель AI Planet для генерации кода по инструкциям на естественном языке. Это дообученная версия CodeLlama-13B-Instruct с архитектурой LlamaForCausalLM и примерно 12,9 млрд параметров; модель распространяется в формате safetensors и рассчитана на контекст до 16 384 токенов. Модель предназначена для преобразования текстовых запросов в код и помощи в решении задач программирования. При дообучении использовались наборы инструкций TokenBender/code_instructions_122k_alpaca_style и Evol-Instruct-Code-80k-v1. В карточке заявлена поддержка английского языка; примеры охвата других языков программирования в README относятся к возможным будущим улучшениям. Для запуска автор рекомендует vLLM и видеокарту с 30 ГБ VRAM, предпочтительно A100. Лицензия — Apache-2.0. Качество и корректность сгенерированного кода следует проверять: README не приводит результатов независимых оценок.

RedHatAI/Phi-3-medium-128k-instruct-quantized.w4a16 — это квантизированная версия инструкционной языковой модели Phi-3-medium-128k-instruct, разработанная Neural Magic на базе модели Microsoft. Модель принимает текст и генерирует текст, предназначена прежде всего для англоязычных ассистентских диалогов, чат-ботов и задач генерации ответов, а также для коммерческого и исследовательского использования. Модель использует архитектуру Phi-3 и поддерживает контекст размером до 128 тысяч токенов. Веса линейных операторов в трансформерных блоках квантизированы в формат INT4 по схеме W4A16 с симметричной групповой квантизацией и размером группы 128; для квантизации применён GPTQ через библиотеку llm-compressor. Оптимизация сокращает объём хранения и требования к GPU-памяти примерно на 25% по сравнению с 16-битной версией. Указанный результат на OpenLLM Leaderboard v1 составляет 72,38 против 74,46 у неквантизированной модели. К сильным сторонам относятся большой контекст и сниженные требования к памяти, что упрощает эффективное развёртывание через vLLM или Transformers. Ограничения включают специализацию на английском языке, возможное снижение качества из-за квантизации и недопустимость использования в языках, отличных от английского, согласно README. В README указана лицензия MIT, однако в метаданных также присутствует обозначение llama2; перед использованием следует проверить применимые лицензионные условия.

mzbac/Phi-3-mini-4k-instruct-function-calling — дообученная модель семейства Phi-3, подготовленная mzbac для вызова функций. Она предназначена для диалоговых сценариев, где модель генерирует текст и формирует запросы к функциям в формате, использованном при дообучении. Модель имеет плотную архитектуру Phi3ForCausalLM, содержит 3,7 млрд параметров и рассчитана на контекст до 4096 токенов. Карточка указывает на обучение с помощью MLX-LM и набор данных mzbac/function-calling-phi-3-format-v1.1. Репозиторий содержит веса safetensors; лицензия в доступных данных не указана.

Mungert/Phi-4-mini-reasoning-GGUF — набор GGUF-квантованных вариантов модели Phi-4-mini-instruct-reasoning, опубликованный пользователем или организацией Mungert; базовая модель разработана Microsoft. Модель предназначена для генерации текста с акцентом на рассуждения, решение математических задач и программирование. В карточке указаны английский язык, библиотека Transformers и задача text generation. Файлы созданы с использованием llama.cpp, commit 19e899c. Основное преимущество набора — возможность запускать модель в условиях ограниченной GPU-памяти, на CPU и edge-устройствах за счёт квантования, включая сверхнизкобитные варианты IQ1 и IQ2. Описанный подход IQ-DynamicGate распределяет точность по слоям и защищает эмбеддинги и выходные слои; приведённые результаты относятся к отдельному тестированию на Llama-3-8B и не подтверждают показатели именно этой модели. К ограничениям относятся потенциальная потеря точности у низкобитных вариантов и зависимость производительности от поддержки форматов и аппаратного ускорения. Размер модели, архитектура, фактическое контекстное окно, полный набор языков и точные характеристики вариантов Phi-4-mini в README не указаны. Лицензия указана как MIT.

timm/pit_ti_distilled_224.in1k — компактная модель классификации изображений семейства PiT (Pooling-based Vision Transformer), опубликованная авторами timm. Модель обучена на ImageNet-1k с дистилляцией по токенам; содержит 5,1 млн параметров, требует изображения размером 224 × 224 и имеет вычислительную сложность около 0,7 GMAC. Модель подходит для классификации изображений и может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. Компактный размер делает её пригодной для задач, где важны низкие вычислительные затраты. Лицензия — Apache-2.0.

PolyCoder-2.7B — авторегрессионная языковая модель для генерации кода, представленная в исследовании «A Systematic Evaluation of Large Language Models of Code». Модель имеет архитектуру GPT-NeoX; в README указано 2,7 млрд параметров, а метаданные Hugging Face сообщают 3,5 млрд параметров. Обучена на 249 ГБ кода на 12 языках программирования и принимает текстовый контекст длиной до 2048 токенов. Модель предназначена для продолжения и генерации кода. Карточка рекомендует Transformers версии 4.23.0 или новее. Сведения о лицензии и конкретных ограничениях применения в предоставленных материалах отсутствуют.

uw-hai/polyjuice — перенесённая версия Polyjuice, универсальной модели для генерации контрфактических вариантов текста. Модель основана на архитектуре GPT-2 и предназначена для задач генерации текста, в частности для создания альтернативных формулировок, меняющих отдельные свойства исходного текста. В метаданных указаны контекст до 1024 токенов и языковой тег английского языка. Доступны веса в форматах PyTorch и Flax. Карточка называет модель переносом Polyjuice; отдельные сведения о лицензии и конкретной базовой модели не приведены.