II.10Разработка и эксплуатация AI/ML-систем

Stffens разработала bge-small-rrf-lme-v1 — компактную модель эмбеддингов на базе BERT, дообученную на BAAI/bge-small-en-v1.5 для поиска по истории разговоров. Она преобразует запрос пользователя и фрагменты переписки в векторы, помогающие находить подходящие прошлые сессии и заметки для памяти чат-ассистентов, агентных систем и персональных RAG-сценариев. Модель содержит около 40 млн параметров по метаданным, создаёт 384-мерные эмбеддинги и имеет контекст до 512 токенов. Использует библиотеку Sentence Transformers и распространяется под лицензией MIT. На англоязычном LongMemEval-s модель показала улучшение поиска относительно исходной BGE-small: README сообщает NDCG@10 0,6878 на holdout из 102 запросов, а прирост Recall@3 и Recall@5 — статистически значимый в описанном тесте. Она предназначена именно для извлечения воспоминаний из разговоров и не является универсальным улучшением для поиска по произвольным корпусам. Модель обучена и проверена только для английского языка; перенос на другие языки и качество на других наборах оценки памяти не подтверждены. Для общих retrieval-задач README рекомендует другую модель семейства, а для повышения точности первого результата отмечает возможную пользу отдельного reranker.

timm/caformer_s36.sail_in1k — модель компьютерного зрения семейства CAFormer и архитектуры MetaFormer, обученная авторами статьи на ImageNet-1k. Она предназначена для классификации изображений и может использоваться как backbone для извлечения карт признаков и построения эмбеддингов изображений. Модель содержит 39,3 млн параметров, рассчитана на изображения размером 224 × 224 и требует 8,0 GMACs на проход. Доступны веса PyTorch и Safetensors; лицензия — Apache-2.0.

timm/cait_s24_384.fb_dist_in1k — модель классификации изображений на архитектуре CaiT (Class-Attention in Image Transformers), опубликованная авторами семейства timm. Модель предварительно обучена на ImageNet-1k с дистилляцией от авторов исследования и предназначена для классификации изображений, а также может использоваться как визуальный backbone и для получения эмбеддингов изображений. Модель содержит 47,1 млн параметров и рассчитана на входные изображения размером 384 × 384 пикселя. Репозиторий предоставляет веса PyTorch и SafeTensors; основная задача в карточке Hugging Face — image-classification. Лицензия — Apache-2.0. Модель подходит для распознавания объектов из классов ImageNet-1k и извлечения признаков в компьютерном зрении. Её область применения ограничена изображениями и классами, представленными в обучении; для иных наборов классов может потребоваться дополнительная настройка.

CaiT-XXS24-384.fb_dist_in1k — модель классификации изображений на базе архитектуры CaiT (Class-Attention in Image Transformers), опубликованная авторами timm. Она предварительно обучена на ImageNet-1k с дистилляцией и может применяться как классификатор изображений или как backbone для извлечения признаков. Модель содержит 12 млн параметров, обрабатывает изображения размером 384 × 384 и требует библиотеку timm; веса доступны в форматах PyTorch и safetensors под лицензией Apache-2.0. Модель предназначена для распознавания объектов и других классов ImageNet на изображениях, а также для получения визуальных признаков в прикладных системах компьютерного зрения. README не приводит измерений качества или подробностей о переносе на другие наборы классов; применение вне ImageNet-1k может потребовать дополнительной настройки.

Causilo — предварительно обученная фундаментальная модель для табличных данных, разработанная Nums AI Inc. Она поддерживает классификацию и регрессию и предоставляет интерфейс, совместимый со scikit-learn; в репозитории есть отдельные веса и конфигурации для классификатора и регрессора. Модель предназначена для применения в задачах машинного обучения на структурированных таблицах. Для работы используются PyTorch и библиотека causilo; веса опубликованы в формате safetensors. В README указаны требования Python 3.10–3.12 и PyTorch 2.13 или новее. Лицензия обозначена как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

coatnet_rmlp_nano_rw_224.sw_in1k — модель классификации изображений из библиотеки timm, обученная Россом Уайтманом на ImageNet-1k. Она предназначена для присвоения изображениям категорий из набора ImageNet-1k и может использоваться как визуальная основа для извлечения признаковых карт и эмбеддингов. Архитектура CoAtNet сочетает свёрточные блоки MBConv на ранних этапах с блоками трансформера с self-attention на поздних. Вариант rMLP использует MLP Log-CPB — смещение относительных позиций, мотивированное Swin Transformer V2. Модель содержит около 15,15 млн параметров, рассчитана на изображения размером 224 × 224 и имеет показатель 2,62 GMACs. В таблице результатов для неё указаны точность top-1 82,05% и top-5 95,87% на ImageNet-1k. Модель принимает изображения и выдаёт оценки классов; текстовые языки к её задачам не относятся. Веса доступны в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Результаты и назначение привязаны к ImageNet-1k, поэтому для других наборов категорий или предметных областей может потребоваться адаптация.

ConvNeXt Small — сверточная модель классификации изображений из библиотеки timm, подготовленная Россом Уайтменом. Модель предварительно обучена на ImageNet-12k, подмножестве ImageNet-22k с 11 821 классом, а затем дообучена на ImageNet-1k. Веса доступны в форматах PyTorch и safetensors; лицензия — Apache-2.0. Модель содержит около 50,2 млн параметров и рассчитана на классификацию изображений. В README указаны размеры изображений 224×224 для обучения и 288×288 для тестирования. Её также можно использовать как основу для извлечения карт признаков и эмбеддингов изображений. Модель предназначена для задач компьютерного зрения общего назначения, включая классификацию объектов на изображениях и получение признаковых представлений для последующей обработки. Она обучена на ImageNet, поэтому её классы и качество могут не соответствовать специализированным предметным областям или данным, заметно отличающимся от обучающих.

facebook/convnextv2-atto-1k-224 — сверточная модель компьютерного зрения семейства ConvNeXt V2, разработанная командой ConvNeXt и опубликованная на Hugging Face. Модель предварительно обучена в рамках FCMAE и дообучена на ImageNet-1K для классификации изображений с разрешением 224×224. Архитектура ConvNeXt V2 использует полностью сверточную схему, masked autoencoder framework FCMAE и слой Global Response Normalization (GRN). Модель предназначена для присвоения изображению одного из 1000 классов ImageNet-1K и может служить основой для дообучения под другие задачи распознавания изображений. Доступны веса PyTorch, Safetensors и TensorFlow. Лицензия — Apache-2.0. Модель ориентирована на классификацию изображений ImageNet-1K; качество для других наборов классов и сценариев может требовать отдельной проверки или дообучения.

ConvNeXt V2 Large — сверточная модель компьютерного зрения, разработанная авторами работы ConvNeXt V2 и опубликованная в репозитории Hugging Face Facebook. Модель предварительно обучена с помощью FCMAE и дообучена для классификации изображений ImageNet-1K при разрешении 224×224 пикселя; архитектура включает слой Global Response Normalization (GRN). Модель предназначена для отнесения изображений к одному из классов ImageNet-1K и может служить основой для последующей адаптации к другим задачам распознавания изображений. Она принимает изображение и выдаёт оценки классов. Репозиторий содержит веса PyTorch в формате safetensors. Лицензия — Apache-2.0.

ConvNeXt-V2 Tiny — сверточная модель классификации изображений из семейства ConvNeXt-V2, опубликованная в timm. Она предварительно обучена методом FCMAE (fully convolutional masked autoencoder), затем дообучена на ImageNet-1k. Модель содержит 28,6 млн параметров; заявлены 4,5 GMACs. Размер изображения при обучении — 224 × 224 пикселя, при тестировании — 288 × 288. Модель предназначена для отнесения изображений к классам и может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. В карточке указаны результаты на ImageNet-1k: top-1 точность 82,1% и top-5 точность 96,0%. Репозиторий предоставляет веса PyTorch и safetensors и рассчитан на работу с библиотекой timm. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Модель обучена и оценивалась на ImageNet-1k; качество на других наборах данных и изображениях может отличаться.

larenspear/copy_of_wildjailbreak_13 — языковая модель семейства Llama, дообученная на базе meta-llama/Llama-2-7b-hf с применением набора WildJailbreak для повышения безопасности и расширенной версии Tulu2Mix для общих инструкций и диалогов. Модель содержит 12,9 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст, генерируя текст; контекст — до 4096 токенов. Основной язык модели — английский. Модель предназначена для диалоговых ответов на инструкции и изучения поведения языковых моделей с усиленными мерами безопасности, в том числе анализа устойчивости к jailbreak-атакам. Обучение на разнообразных инструкциях и синтетических диалогах поддерживает широкий круг общих запросов. Модель доступна под лицензией Apache 2.0. Авторы отмечают, что защитные механизмы не гарантируют устойчивость ко всем jailbreak-атакам, особенно в многоязычных сценариях и многоходовых диалогах.

CPUBone B1 bfrobust — модель компьютерного зрения для классификации изображений и извлечения признаков, разработанная авторами работы CPUBone и опубликованная в формате state-dict для timm. Архитектура сочетает варианты MBConv с групповыми свёртками, уменьшенные свёрточные ядра и механизм внимания LowFormer в двух последних стадиях. Модель содержит около 12,4 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель предназначена для классификации изображений по категориям ImageNet-1k, извлечения эмбеддингов и многошкальных карт признаков. Авторы ориентировали CPUBone на эффективный CPU-инференс, сочетая небольшое число операций с аппаратно-эффективным исполнением; в README приведена точность ImageNet-1k Top-1 78,928% и Top-5 94,188% при разрешении 224 пикселя. Предобработка использует bicubic resize, центрированное кадрирование с crop_pct=0.95 и среднее со стандартным отклонением ImageNet. Зависимость задержки на CPU от оборудования, среды инференса, способа экспорта и размера пакета означает, что приведённые результаты нельзя напрямую считать показателем скорости на любом устройстве. Модель распространяется по лицензии Apache 2.0.

cs3darknet_l.c2ns_in1k — сверточная модель классификации изображений и извлечения визуальных признаков из семейства CS3-DarkNet, разработанная и обученная в библиотеке timm. Модель обучена на ImageNet-1k; в карточке указаны 21,2 млн параметров и размеры изображений 256 × 256 для обучения и 288 × 288 для тестирования. Модель подходит для классификации изображений и как визуальный backbone: можно извлекать карты признаков и эмбеддинги для дальнейших задач компьютерного зрения. Архитектура использует подход Cross-Stage-Partial с тремя свёртками. Обучение проводилось с оптимизатором SGD с Nesterov, адаптивным ограничением градиента и косинусным расписанием скорости обучения с разогревом. Модель принимает изображения и выдаёт метки классов либо визуальные признаки в зависимости от способа использования. Карточка не приводит конкретных показателей качества. Распространяется по лицензии Apache-2.0.

cs3sedarknet_x.c2ns_in1k — сверточная модель классификации изображений из библиотеки timm. Она обучена на ImageNet-1k и предназначена для классификации изображений, извлечения карт признаков и получения эмбеддингов изображений. В основе архитектуры CS3-SE-DarkNet лежат частичные межэтапные связи, три свёртки и механизм внимания Squeeze-and-Excitation для каналов. Модель содержит 35,4 млн параметров и требует изображение размером 288 × 288 пикселей для тестирования; размер обучения составлял 256 × 256. В карточке описана схема обучения на основе рецептов ResNet Strikes Back с оптимизатором SGD с Nesterov, адаптивным ограничением градиентов и косинусным расписанием скорости обучения. Вариант ns обучался без stochastic depth. Модель распространяется по лицензии Apache-2.0.

DeepSeek LLM 7B Base — базовая языковая модель, разработанная DeepSeek и обученная с нуля на 2 триллионах токенов английского и китайского текста. Она предназначена для генерации и продолжения текста, а также для дальнейшего дообучения под конкретные задачи. Модель использует плотную архитектуру семейства Llama с классом LlamaForCausalLM и механизмом Multi-Head Attention. В метаданных указан размер 6,5 млрд параметров и контекст до 4096 токенов; README округляет размер до 7 млрд. Репозиторий содержит веса PyTorch. Модель рассчитана прежде всего на английский и китайский языки. В карточке указана лицензия other, поэтому условия использования следует сверить с её текстом в репозитории. Модель является базовой, а не чат-настройкой: для диалоговых сценариев может потребоваться дополнительное дообучение.

DeepSeek-R1-DRAFT-Qwen2.5-0.5B — компактная языковая модель alamios, дообученная на ответах DeepSeek-R1-Distill-Qwen-32B и предназначенная специально для спекулятивного декодирования в роли черновой модели. Она основана на плотной архитектуре Qwen2ForCausalLM семейства Qwen2.5, содержит 494,1 млн параметров и работает через Transformers; веса доступны в формате safetensors. Модель рассчитана на ускорение генерации с DeepSeek-R1-Distill-Qwen-32B-Q4_K_M в GGUF на видеокартах уровня RTX 3090/4090. Автор указывает сценарий с контекстом 16 тыс. токенов и заявляет, что ускорение не сокращает длину контекста и не ухудшает качество основной модели. Обучение проведено в течение двух эпох на примерно 7 тыс. примеров, охватывающих код, математику, рассуждения и общие знания. Это вспомогательная модель для speculative decoding, а не самостоятельная замена крупной модели: её следует использовать вместе с целевой моделью, для которой она подготовлена. Указанное в метаданных нативное окно контекста составляет 32 768 токенов, но README описывает целевой сценарий с 16 тыс. токенов. Лицензия — Apache-2.0; явно заявлен только английский язык.

DeiT-III Small Patch16 224 — модель классификации изображений и извлечения признаков, обученная авторами статьи на ImageNet-1k. Она использует архитектуру Vision Transformer с патчами 16×16 и рассчитана на изображения размером 224×224 пикселя. Модель содержит 22,1 млн параметров и требует около 4,6 GMACs на обработку изображения. Модель подходит для классификации изображений по категориям ImageNet-1k и получения визуальных эмбеддингов как основы для последующих задач компьютерного зрения. Репозиторий использует библиотеку timm; веса доступны в форматах PyTorch и Safetensors. Лицензия — Apache-2.0.

facebook/dinov2-small-imagenet1k-1-layer — компактный Vision Transformer семейства DINOv2 от команды Meta. Модель содержит 28,3 млн параметров и использует трансформерный энкодер ViT, предварительно обученный на изображениях без учителя. Репозиторий распространяет веса в форматах PyTorch и Safetensors; лицензия — Apache-2.0. Модель предназначена для классификации изображений по 1000 меткам ImageNet и извлечения визуальных признаков для последующего обучения классификатора и других задач компьютерного зрения. Веса не включают дообученную классификационную голову, поэтому для прикладной классификации может потребоваться обучить линейный слой или другую подходящую голову поверх представлений энкодера. DINOv2 учится формировать устойчивые визуальные представления, которые можно применять в сценариях с размеченными изображениями. Карточка описывает работу с ImageNet-1K; сведений о языковой или иной модальности, длине контекста и поддержке других языков нет.

refiners/dinov2.small.patch_14 — адаптер на основе facebook/dinov2-small для извлечения признаков изображений. Модель использует архитектуру Vision Transformer семейства DINOv2 и распространяется в формате safetensors; библиотека refiners, лицензия Apache-2.0. Модель предназначена для получения визуальных признаков, которые можно использовать в последующих задачах компьютерного зрения, например для обучения классификаторов. В метаданных указана задача image-feature-extraction; дополнительных сценариев и характеристик модели карточка не подтверждает.

DistilHuBERT — компактная модель для извлечения представлений из речи, разработанная лабораторией NTU Speech Processing & Machine Learning Lab. Она основана на HuBERT и обучена методом послойной дистилляции скрытых представлений; модель содержит 18,9 млн параметров и предназначена для обработки аудио с частотой дискретизации 16 кГц. Модель предварительно обучена на аудио без текстовых меток и не содержит токенизатора. Её можно использовать как основу для задач обработки речи; для распознавания речи необходимо создать токенизатор и дообучить модель на размеченных текстовых данных. В статье авторы сообщают о сокращении размера HuBERT на 75% и ускорении в 73 раза при сохранении большей части качества на десяти задачах. Модель работает с речевым аудио и выдаёт скрытые представления для последующих этапов обработки. Опубликована под лицензией Apache-2.0.

dla102x2.in1k — модель классификации изображений на архитектуре DLA (Deep Layer Aggregation), обученная авторами исходной работы на ImageNet-1k. Её также можно использовать как backbone для извлечения карт признаков и получения эмбеддингов изображений. Модель содержит 41,3 млн параметров, имеет вычислительную сложность 9,3 GMACs и рассчитана на изображения размером 224 × 224 пикселя. Репозиторий использует библиотеку timm и предоставляет веса в форматах PyTorch и Safetensors. Модель предназначена для классификации изображений и извлечения визуальных признаков; сведения о поддержке текстовых или иных модальностей отсутствуют. Лицензия — BSD-3-Clause. Качество и область применения определяются обучением на ImageNet-1k; для специализированных категорий может потребоваться адаптация или дообучение.

dla60_res2next.in1k — модель классификации изображений и извлечения признаков на основе DLA (Deep Layer Aggregation) с блоками Res2Net. Она обучена авторами Res2Net на ImageNet-1k и предназначена для распознавания объектов на изображениях, построения карт признаков и получения визуальных эмбеддингов. Модель содержит около 17 млн параметров, требует изображения размером 224 × 224 пикселя и имеет вычислительную сложность около 3,5 GMACs. Репозиторий предоставляет веса в форматах PyTorch и Safetensors; лицензия в метаданных не определена.

dla60xc.in1k — модель классификации изображений на основе архитектуры DLA (Deep Layer Aggregation), обученная авторами архитектуры на ImageNet-1k. Её можно использовать для присвоения изображению класса, извлечения карт признаков и получения эмбеддингов изображений. Модель содержит около 1,3 млн параметров, требует около 0,6 GMACs вычислений и рассчитана на входные изображения размером 224 × 224 пикселя. Она доступна в форматах PyTorch и Safetensors и предназначена для работы с библиотекой timm. Лицензия — BSD 3-Clause. Модель подходит как компактная основа для классификации и извлечения визуальных признаков. Она обучена на ImageNet-1k, поэтому её классы и качество могут не соответствовать специализированным предметным областям; сведения о языковой поддержке неприменимы к модели обработки изображений.

dm_nfnet_f3.dm_in1k — модель семейства NFNet для классификации изображений, опубликованная авторами работ о сетях без нормализации и обученная на ImageNet-1k. Она также может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. Архитектура представляет собой сеть, похожую на ResNet с предварительной активацией, но без слоёв нормализации: вместо Batch Normalization применяются Scaled Weight Standardization и скалярные коэффициенты в остаточных связях и нелинейностях. Модель содержит около 254,9 млн параметров; размер изображения при обучении — 320×320, при тестировании — 416×416. Репозиторий использует библиотеку timm и содержит веса PyTorch и safetensors. Модель предназначена для распознавания классов ImageNet-1k и получения визуальных признаков для последующих задач компьютерного зрения. Карточка не сообщает о поддержке текстовых или иных языковых входов. Лицензия — Apache-2.0.

DPN-98 MXNet ImageNet-1k — модель классификации изображений на архитектуре Dual-Path Network (DPN). Её обучили авторы статьи на ImageNet-1k в MXNet, а Ross Wightman перенёс веса в PyTorch; модель распространяется через библиотеку timm. В ней 61,6 млн параметров, а штатный размер входного изображения составляет 224 × 224 пикселя. Модель предназначена для классификации изображений и может использоваться как backbone для извлечения карт признаков и эмбеддингов. Она обучена на ImageNet-1k, поэтому её классы и качество ориентированы на эту задачу. Репозиторий содержит веса в форматах PyTorch и safetensors и распространяется по лицензии Apache-2.0.

DPO-Think-1.5B — компактный кодовый верификатор, разработанный институтом INSAIT. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров, дообученная методом DPO на наборе INSAIT-Institute/Aletheia-DPO поверх deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B. Модель принимает условие задачи по программированию и несколько вариантов решения, затем оценивает и ранжирует кандидатов, определяя корректный код. Модель предназначена для автоматической проверки решений задач соревновательного программирования, оценки кода языковой моделью-судьёй и использования в качестве функции награды при оптимизации моделей генерации кода в пайплайнах RLHF или RLAIF. Обучение использует заранее собранные примеры рассуждений и офлайн-оптимизацию предпочтений; контекст составляет до 131 072 токенов. Карточка указывает поддержку генерации текста и кода, но не перечисляет естественные языки модели. Модель распространяется под лицензией CC BY-NC-SA 4.0, которая требует атрибуции, распространения производных материалов на тех же условиях и запрещает коммерческое использование. Качество ранжирования может зависеть от формата запроса и области задач; для точного формата промпта карточка отсылает к репозиторию проекта.

EAGLE-3 — вспомогательная черновая модель компании Nebius для ускорения генерации текста базовой моделью Qwen3-235B-A22B-Instruct-2507 методом спекулятивного декодирования. Она предлагает черновые токены, которые основная модель проверяет и принимает или отклоняет. Модель обучена с нуля с использованием LK-loss, ориентированных на повышение доли принимаемых токенов. В README приведены результаты измерения средней длины принятого фрагмента при K=7 на MT-bench, HumanEval и GSM8K: при температуре 1 показатель составляет 4,08 против 3,77 у варианта EAGLE-3 с KL-loss; в сравнении с указанными публичными чекпойнтами модель показывает более высокие значения на этих тестах. Для использования приведён пример конфигурации vLLM с методом eagle3. Это черновой компонент ускорения, а не самостоятельная диалоговая модель; практический выигрыш зависит от основной модели, настроек и версии среды инференса. Модель содержит 809 млн параметров, использует архитектуру, обозначенную в метаданных как LlamaForCausalLM, и распространяется в формате Safetensors. Базовая модель имеет контекст 262 144 токена. Лицензия — CC BY 4.0.

EfficientFormer L1 — компактная модель компьютерного зрения для классификации изображений и извлечения визуальных признаков. Модель разработана для семейства EfficientFormer; веса предварительно обучены с дистилляцией на ImageNet-1k. Репозиторий предоставляет веса в форматах PyTorch и safetensors для библиотеки timm. Модель содержит 12,3 млн параметров, требует около 1,3 GMACs вычислений и рассчитана на изображения размером 224 × 224 пикселя. Она подходит для распознавания объектов и получения признаковых представлений изображений при ограниченных вычислительных ресурсах. Указана лицензия Apache-2.0.

EfficientNet-B3 — свёрточная нейросеть для классификации изображений, разработанная Mingxing Tan и Quoc V. Le и обученная на ImageNet-1k. Модель принимает изображения размером 300 × 300 пикселей и относит их к одному из 1000 классов ImageNet. Архитектура EfficientNet использует совместное масштабирование глубины, ширины и разрешения сети с помощью общего коэффициента. Модель спроектирована как компактная и подходящая для мобильных устройств. Доступны веса в формате PyTorch; лицензия — Apache-2.0. Модель предназначена для классификации изображений общего назначения. Для специализированных задач можно использовать дообученные версии. Карточка не приводит оценки качества или дополнительных ограничений.

EfficientNet-EdgeTPU — сверточная модель классификации изображений из семейства EfficientNet, представленная в библиотеке timm. Вариант efficientnet_el_pruned.in1k получен методом knapsack pruning из существующих весов и рассчитан на набор ImageNet-1k; в карточке указаны 10,6 млн параметров и входное изображение размером 300 × 300 пикселей. Модель предназначена для отнесения изображений к классам ImageNet-1k. Её также можно использовать как основу для извлечения карт признаков и эмбеддингов изображений. Репозиторий содержит веса в форматах PyTorch и Safetensors; лицензия — Apache-2.0. Карточка не сообщает о поддержке языкового ввода или других задач помимо работы с изображениями.