II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейdeepvk/bert-base-uncased — предобученный двунаправленный энкодер BERT, разработанный deepvk для обработки текстов, преимущественно на русском языке. Модель обучалась стандартной задачей masked language modeling на корпусе из 250 ГБ отфильтрованных текстов, включая Википедию, книги и данные из социальных сетей. По метаданным, она содержит 140,9 млн параметров, использует архитектуру BERT с 12 слоями и 12 головами внимания и поддерживает контекст до 512 токенов. Модель предназначена для извлечения признаков из текста и может служить основой для дообучения под классификацию, анализ сходства и другие задачи понимания языка. В репозитории находятся только веса энкодера без предварительно обученной выходной головы, поэтому для конкретной задачи может потребоваться подходящая голова и дообучение. Карточка сообщает о преимущественно русском обучающем корпусе с небольшой долей других языков; метаданные указывают русский и английский. Лицензия — Apache 2.0.
Это компактная модель Sentence Transformers, разработанная Swardiantara и дообученная на базе google/bert_uncased_L-2_H-128_A-2 на парах отзывов Amazon. Она преобразует предложения и абзацы в плотные векторы размерности 128, пригодные для поиска и сопоставления текстов по косинусному сходству. Архитектура состоит из BERT с усреднением токенных представлений; модель содержит 4,4 млн параметров и принимает текстовые последовательности длиной до 512 токенов по метаданным. В README указана максимальная длина 128 токенов, поэтому при использовании следует учитывать это расхождение. Модель предназначена для семантического поиска, извлечения похожих отзывов и построения текстовых представлений для retrieval-систем. Обучающая выборка включала около 8,2 млн пар текстов с метками; примеры в README — англоязычные отзывы Amazon. Репозиторий распространяет веса в формате Safetensors. Лицензия в предоставленных данных не указана.
dfrokido/bge-large-e8-snap — англоязычная модель эмбеддингов на архитектуре BERT, разработанная в проекте LatticeMemory. Она дообучена на базе BAAI/bge-large-en-v1.5 методом RF-Snap: выходные векторы обучены привязываться к ближайшим точкам решётки E8, формируя компактный 128-байтовый адрес наряду с обычным эмбеддингом размерности 1024. Модель содержит 433,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Адрес E8 предназначен для быстрого поиска точных и близких повторов текста, дедупликации и сопоставления намерений из закрытого набора. Эмбеддинги также подходят для сходства предложений: на STSBenchmark модель показала Spearman 0,8714 против 0,8637 у базовой модели. Для перефразирований и асимметричного поиска по парам запрос–документ адрес E8 сам по себе ненадёжен; для таких сценариев README рекомендует другие режимы библиотеки LatticeMemory. Модель распространяется под лицензией Apache-2.0. Указанный размер адреса E8 не означает уменьшения общего объёма хранимых эмбеддингов: LatticeMemory сохраняет полные векторы отдельно.
buelfhood выпустил sentence-transformers-модель buelfhood/CodeBERTa-small-v1-ST, дообученную на базе huggingface/CodeBERTa-small-v1. Модель использует архитектуру RoBERTa и преобразует текстовые предложения и абзацы в плотные векторы размерности 768; близость между ними можно оценивать косинусным сходством. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Базовая CodeBERTa-small-v1 ориентирована на исходный код на шести языках программирования, поэтому эмбеддинги могут быть полезны для поиска и группировки фрагментов кода. Репозиторий содержит форматы Safetensors, ONNX и OpenVINO. В карточке не указана лицензия. Модель предоставляет векторы, а не готовые текстовые ответы; качество для конкретных задач зависит от данных и настройки поиска или классификатора.
CodeFuse-CodeLlama-34B — языковая модель для программирования, разработанная CodeFuse AI. Это плотная авторегрессионная модель семейства Llama с 33,5 млрд параметров, дообученная методом QLoRA на базе CodeLlama-34b-Python на наборах инструкций для разных задач программирования. Она предназначена для генерации кода и ответов на инструкции, связанные с кодом; в карточке приведён результат 74,4% HumanEval pass@1 при жадном декодировании. Модель принимает текстовые запросы в специальном последовательном формате диалога system/human/bot и генерирует текст, включая код. Длина контекста, использованная при дообучении, составляла 4 тыс. токенов; метаданные указывают нативный контекст 16 384 токена. В тегах карточки перечислены английский и китайский языки. Для запуска карточка описывает стек Transformers и PyTorch. Модель рассчитана на помощь при написании кода, решении задач программирования и ответах на инструкции по коду. Карточка указывает лицензию «other», поэтому конкретные условия использования следует сверить с файлами лицензии репозитория перед применением. Показатель HumanEval приведён разработчиками и сам по себе не гарантирует качество на иных задачах.
CodeGen2-16B_P — авторегрессионная языковая модель для синтеза программного кода из семейства CodeGen2, разработанного Salesforce. Это плотная модель класса CodeGenForCausalLM с 16 млрд параметров; она принимает текст и генерирует продолжение, а также поддерживает заполнение пропусков в коде по контексту до 2048 токенов. Модель предназначена прежде всего для генерации исполняемого кода по подсказкам на английском языке в виде комментариев и для завершения частично написанных программ. Обучение проводилось на permissive-подмножестве дедуплицированного Stack v1.1. В карточке перечислена поддержка языков программирования C, C++, C#, Dart, Go, Java, JavaScript, Kotlin, Lua, PHP, Python, Ruby, Rust, Scala, shell, SQL, Swift, TypeScript и Vue. Проверка включала HumanEval и HumanEval-Infill. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Авторы указывают, что выпуск предназначен для исследовательских целей; перед применением следует оценить точность и безопасность результатов. Модель лучше всего подходит для синтеза кода, а качество и уместность сгенерированных программ требуют проверки.
Code Llama 13B — базовая авторегрессионная языковая модель Meta для генерации и понимания кода. Это модель с 13 млрд параметров на оптимизированной архитектуре Transformer, представленная в формате Transformers; она принимает текст и генерирует текст. Модель поддерживает автодополнение кода и заполнение пропусков в коде, но не предназначена для следования инструкциям или диалогового использования. Модель подходит для генерации фрагментов кода и помощи при редактировании программ. Она рассчитана на английский язык и языки программирования; README не приводит отдельный перечень поддерживаемых языков программирования. Модель обучена на статическом офлайн-наборе данных, а её ответы могут быть неточными или нежелательными, поэтому перед внедрением в приложение требуется проверка и настройка под конкретный сценарий. Модель разработала Meta. Использование регулируется лицензией Meta Llama 2; README указывает, что доступна специальная коммерческая лицензия, поэтому условия следует сверять с лицензионным соглашением.
Это вариант CodeLlama-13B-Instruct, созданный путём загрузки исходной модели Meta с 4-битной квантизацией NF4 через bitsandbytes и последующего преобразования слоёв linear4bit в FP16. Модель содержит 12,9 млрд параметров, построена на архитектуре Llama и рассчитана на генерацию текста; заявленная длина контекста — 16 384 токена. Модель предназначена для генерации кода и ответов на инструкции, связанных с программированием. Upscaling слоёв в FP16 призван убрать затраты на квантование и деквантование при каждом проходе во время инференса. Исходная NF4-квантизация была с потерями, поэтому автор предупреждает о возможном снижении качества по сравнению с официальной CodeLlama-13B-Instruct. Модель распространяется по лицензии Apache-2.0.
Code Llama 34B — базовая авторегрессионная языковая модель Meta для генерации и понимания кода. Это версия на 34 млрд параметров в формате Transformers с весами PyTorch и Safetensors; архитектура основана на оптимизированном трансформере. Модель принимает текст и генерирует текст, включая завершение кода. Она предназначена для коммерческого и исследовательского использования с английским языком и языками программирования. Модель подходит для автодополнения кода и адаптации под задачи синтеза и анализа программ. Эта базовая версия не предназначена специально для диалогового следования инструкциям или для Python: для таких сценариев в семействе есть отдельные варианты Instruct и Python. Модель обучена на данных Llama 2 с изменёнными весами; её ответы могут быть неточными или нежелательными, поэтому перед внедрением требуется оценка в конкретном приложении. Использование регулируется лицензией Meta Llama 2.
CodeLlama-70b-Python-hf — разработанная Meta генеративная модель для синтеза и понимания кода, специализированная на Python. Это авторегрессионный трансформер семейства Llama с плотной архитектурой и 68,7 млрд параметров; репозиторий содержит веса в форматах PyTorch и safetensors. Модель принимает текст и генерирует текст, поддерживает контекст длиной 4096 токенов. Модель подходит для автодополнения кода, генерации фрагментов Python и помощи в разборе программного кода. Она не предназначена для диалогового режима или следования инструкциям; заявленная область использования — английский язык и языки программирования. Карточка указывает, что это неофициальный репозиторий Code Llama. Использование регулируется лицензией Meta Llama 2.
QuantFactory/CodeLlama-7b-Instruct-hf-GGUF — это квантизированная версия CodeLlama-7b-Instruct-hf, разработанная на основе модели codellama/CodeLlama-7b-Instruct-hf. Репозиторий подготовлен с использованием llama.cpp и предназначен для локального запуска модели в формате GGUF. Модель относится к семейству Llama и ориентирована на генерацию текста и работу с программным кодом, включая сценарии инструкционного взаимодействия с разработчиком. В README указано, что исходная модель имеет размер 7 миллиардов параметров. Поддерживаются варианты квантизации Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_0, Q4_K_M, Q4_K_S, Q5_0, Q5_K_M, Q5_K_S, Q6_K и Q8_0, позволяющие выбирать компромисс между качеством, скоростью и требованиями к памяти. Ключевое преимущество модели — возможность более экономичного локального запуска благодаря квантизации и совместимости с llama.cpp. README не содержит сведений о поддерживаемых языках, размере контекста, точных характеристиках отдельных вариантов квантизации, лицензии или ограничениях применения. Также в заголовке README упоминается Mistral-7B-v0.1-GGUF, однако метаданные и описание указывают на CodeLlama-7b-Instruct-hf; поэтому идентификацию модели следует основывать прежде всего на метаданных репозитория.
CodeLlama-7b-Python-hf — языковая модель Meta из семейства Code Llama, предназначенная для генерации и понимания кода с особым упором на Python. Это авторегрессионная плотная Transformer-модель класса LlamaForCausalLM с 6,6 млрд параметров и контекстом до 16 384 токенов. Репозиторий содержит версию для Transformers в форматах PyTorch и Safetensors. Модель принимает текст и генерирует текст. Она подходит для автодополнения кода, генерации фрагментов на Python и помощи при разборе кода. Это не instruct-версия: карточка отмечает поддержку автодополнения, но не диалогового режима и не выполнения инструкций. Основной язык применения — английский; модель специализирована на Python. Модель разработала Meta и выпустила в августе 2023 года. Использование регулируется лицензией Llama 2 от Meta; перед применением следует соблюдать условия лицензии и правила допустимого использования. Модель может выдавать неточный или нежелательный код, поэтому результаты требуют проверки и тестирования в целевом приложении.
ConvBERT small — компактная предобученная языковая модель на архитектуре ConvBERT, созданная Manuel Romero (@mrm8488) при поддержке Narrativa. Модель обучена на large_spanish_corpus и предназначена для получения контекстных векторных представлений испанского текста. Модель содержит 20,4 млн параметров, принимает последовательности длиной до 512 токенов и доступна в форматах PyTorch, Safetensors и TensorFlow. В README приведены метрики предобучения, включая точность masked language modeling 0,535 на наборе оценки. Её можно использовать как основу для поиска по смыслу, кластеризации текста и дообучения под задачи классификации или извлечения признаков на испанском языке. Распространяется по лицензии MIT.
convnext_base.clip_laion2b — модель семейства ConvNeXt, опубликованная командой timm. Это только визуальный энкодер из CLIP, обученного на данных LAION-2B; он преобразует изображения в векторные признаки для поиска и других задач компьютерного зрения. Модель доступна в форматах PyTorch и safetensors, лицензия — Apache-2.0. Энкодер можно использовать для извлечения признаков изображений и построения систем визуального поиска или последующей классификации. Карточка не описывает текстовый энкодер CLIP, размеры модели, поддерживаемые языки или длину контекста; модель принимает изображения и выдаёт векторы признаков.
ConvNeXt-V2 Large — свёрточная модель для классификации изображений и извлечения визуальных признаков, опубликованная в библиотеке timm. Она предварительно обучена методом FCMAE (fully convolutional masked autoencoder), а затем дообучена на ImageNet-22k и ImageNet-1k. Модель содержит около 198 млн параметров и рассчитана на изображения размером 384 × 384 пикселя. Модель предназначена для присвоения изображениям меток классов, получения карт признаков и визуальных эмбеддингов. Её можно использовать как основу для систем распознавания объектов и категоризации изображений. В README приведены результаты на ImageNet, включая точность top-1 85,8% и top-5 97,9%. Для использования весов действует лицензия CC BY-NC 4.0, которая ограничивает коммерческое применение.
Карточка модели TechxGenus/CursorCore-QW2.5-1.5B на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.
Карточка модели TechxGenus/CursorCore-QW2.5-1.5B-SR на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.
Карточка модели TechxGenus/CursorCore-QW2.5-7B на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.
Карточка модели TechxGenus/CursorCore-Yi-1.5B-SR на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.
davanstrien/dataset-rows16-task-classifier-4096 — дообученный Liquid AI энкодер для многометочной классификации текстовых строк по категориям задач, связанным с моделями машинного обучения. Модель построена на LiquidAI/LFM2.5-Encoder-350M; число параметров — 444,6 млн, нативная длина контекста — 128 000 токенов. Для предсказания используется классификационная голова с усреднением представлений энкодера, а набор меток включает 35 категорий, среди них распознавание речи, генерация текста, классификация изображений и ответы на вопросы. Модель предназначена для автоматической разметки описаний и строк датасетов по нескольким категориям задач одновременно. На оценочном разбиении F1 micro составил 0,634 при пороге 0,5 и 0,646 при индивидуально настроенных порогах. Для загрузки требуется trust_remote_code=True; README отмечает, что для обслуживания через vLLM нужна стандартная архитектура. Лицензия в предоставленных данных не указана.
Protect AI разработала эту компактную модель на базе microsoft/deberta-v3-small и дообучила её для обнаружения атак prompt injection. Она классифицирует текстовые входы как безвредные (0) или содержащие prompt injection (1), чтобы фильтровать потенциально вредоносные инструкции в приложениях на основе языковых моделей. Модель ориентирована на английские запросы и рассчитана на быстрый инференс; доступны веса в форматах Safetensors и ONNX. Лицензия — Apache License 2.0. В карточке сообщается о тестировании на 20 000 запросах из наборов данных, не использованных при обучении: точность составила 94,28%, полнота — 99,71%, F1 — 94,62%. Проект помечен как архивный и больше не поддерживается. Модель не предназначена для обнаружения jailbreak-атак и не обрабатывает запросы на других языках; результаты на сложных или новых техниках атак могут быть ограничены.
Это 4-битная версия модели DeepSeek-Coder-V2-Lite-Instruct, подготовленная сообществом mlx-community и преобразованная в формат MLX из deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct с помощью mlx-lm 0.25.2. Модель предназначена для генерации и дополнения кода, а также диалоговых ответов по программированию. В метаданных указаны архитектура DeepSeek V2, 2,5 млрд параметров и контекст до 163 840 токенов. Веса квантизованы методом AWQ с параметрами 4 бита; README также приводит параметры квантизации и отмечает использование собственного калибровочного набора. Репозиторий рассчитан на запуск в MLX. Лицензия указана как other; конкретные условия следует сверить с лицензией базовой модели и репозитория. Карточка описывает преобразование весов и квантизацию, поэтому выводы о качестве кода стоит проверять на целевых задачах.
DeepSeek-Coder-V2-Lite-Instruct-GGUF — это GGUF-квантизированная версия модели DeepSeek-Coder-V2-Lite-Instruct, разработанной DeepSeek и квантизированной пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и ассистирования в задачах программирования, включая написание и обработку кода, однако конкретный перечень поддерживаемых языков программирования и естественных языков в README не указан. Доступны варианты квантизации от Q2_K и IQ2_M до Q8_0 и экспериментального Q8_0_L, с размером файлов примерно от 6,32 до 17,09 ГБ. Более компактные варианты экономят оперативную память ценой снижения качества, тогда как Q5–Q8 описываются как высококачественные; для ряда конфигураций рекомендуются Q4–Q6. Варианты с суффиксом L используют F16 для весов embedding и output и отмечены как экспериментальные. Архитектура, число параметров, модальности, размер контекста и языки модели в предоставленном README не указаны. Модель рассчитана на локальный запуск через llama.cpp и использует специальный формат промпта с system prompt, сообщениями User и Assistant. Лицензия обозначена как deepseek-license; подробные условия в README не приведены, поэтому перед использованием следует ознакомиться с файлом LICENSE. Основные ограничения — отсутствие в README точных сведений о базовой архитектуре и характеристиках, а также неизбежная зависимость качества и требований к памяти от выбранного уровня квантизации.
unsloth/DeepSeek-R1-Distill-Qwen-14B-unsloth-bnb-4bit — 4-битная динамически квантизированная версия языковой модели DeepSeek-R1-Distill-Qwen-14B. Базовую модель разработала команда DeepSeek, а вариант с квантизацией подготовлен Unsloth. Модель относится к плотным LLM на архитектурной основе Qwen и содержит около 14 млрд параметров. Модель предназначена прежде всего для задач рассуждения, включая решение математических задач, программирование и общий анализ текста. DeepSeek-R1-Distill-Qwen-14B создана методом дистилляции из DeepSeek-R1, поэтому ориентирована на генерацию развернутых рассуждений и решение сложных задач. В README явно указан английский язык; сведения о других языках, мультимодальности и размере контекстного окна не приведены. Ключевое преимущество этой версии — динамическая 4-битная квантизация Unsloth, при которой отдельные параметры выборочно не квантизуются для сохранения большей точности по сравнению со стандартной 4-битной квантизацией. Это может снизить требования к памяти и упростить локальный запуск, однако квантизация потенциально ограничивает точность по сравнению с исходной полноразмерной моделью. Модель распространяется по лицензии Apache-2.0.
Valdemardi/DeepSeek-R1-Distill-Qwen-32B-AWQ — квантизированная версия DeepSeek-R1-Distill-Qwen-32B, разработанная на базе модели DeepSeek-R1 командой DeepSeek AI. Модель предназначена для задач рассуждения, включая решение математических задач, программирование и другие сложные текстовые задачи. По данным README, DeepSeek-R1-Distill-Qwen-32B превосходит OpenAI o1-mini на ряде бенчмарков и демонстрирует сильные возможности для плотной модели. Модель использует архитектуру базовой Qwen-модели размером 32B параметров и работает с текстом; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Данная версия сжата в 4-битный формат AWQ с использованием AutoAWQ 3.2.7.post3, группировкой q_group_size 128, zero-point quantization и режимом GEMM. Квантизация снижает требования к памяти и может упростить локальный запуск, но потенциально сопровождается потерей точности по сравнению с полной версией. В README указана лицензия Apache-2.0 для репозитория этой версии, тогда как для исходной DeepSeek-R1 приведены отдельные ссылки на Model Agreement и лицензию кода MIT; условия использования следует проверять применительно к конкретным компонентам модели.
NVIDIA DeepSeek-R1-NVFP4 — версия DeepSeek R1, квантованная NVIDIA с помощью TensorRT Model Optimizer. Это авторегрессионная трансформерная языковая модель семейства DeepSeek V3 с 37,6 млрд параметров, предназначенная для генерации текста и диалогов. По метаданным, базовая модель — deepseek-ai/DeepSeek-R1; в README указаны FP4-квантизация весов и активаций линейных операторов в блоках трансформера, формат safetensors и контекст до 128 тыс. токенов в README и 163 840 токенов в метаданных. Модель принимает текст и выдаёт текст. Для запуска предназначена связка TensorRT-LLM на Linux и оборудовании NVIDIA Blackwell; в README для приведённого сценария развёртывания указаны восемь GPU B200 и сборка TensorRT-LLM из исходников. По заявлению README, квантизация уменьшает размер весов и требования к памяти GPU примерно в 1,6 раза. Репозиторий указывает лицензию MIT и возможность коммерческого и некоммерческого использования; README уточняет, что модель разработана не NVIDIA, а построена для требований стороннего проекта.
Это пакет слоёв GGUF-модели DeepSeek-V3.2-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого запуска. Он основан на unsloth/DeepSeek-V3.2-GGUF и сохраняет её веса в отдельных артефактах по слоям; вариант квантования — UD-Q4_K_XL. Пакет предназначен для локального и приватного чат-инференса, в том числе на нескольких машинах, когда полная модель не помещается на одном узле. Через Mesh LLM он поддерживает подачу запросов на генерацию текста и совместимый с OpenAI интерфейс chat completions. В метаданных указана библиотека mesh-llm; исходная карточка модели содержит дополнительные сведения об архитектуре и условиях лицензии, которых в предоставленных данных нет.
DenseNet201.tv_in1k — сверточная модель классификации изображений из библиотеки timm, основанная на архитектуре DenseNet. Она обучена на ImageNet-1k с исходными весами torchvision и подходит для распознавания объектов на изображениях, извлечения карт признаков и получения векторных представлений изображений. Модель содержит около 20 млн параметров, требует изображения размером 224 × 224 пикселя и выполняет примерно 4,3 GMAC на изображение. Модель принимает изображения и классифицирует их по категориям ImageNet-1k; промежуточные карты признаков и эмбеддинги можно использовать как основу для других задач компьютерного зрения. Реализация предназначена для работы с timm и опубликована в форматах PyTorch и safetensors. Лицензия — Apache-2.0.
facebook/dino-vitb16 — модель Vision Transformer базового размера, обученная методом DINO исследовательской командой, представленной в статье Mathilde Caron и соавторов. Это энкодер изображений на 113,2 млн параметров: он разбивает изображение на патчи 16×16 и обрабатывает их трансформерными слоями. Предобучение выполнено без учителя на ImageNet-1k с разрешением 224×224 пикселя. Модель извлекает векторные представления изображений для последующих задач компьютерного зрения. Эти признаки можно использовать, например, для обучения классификатора на размеченных данных. Готовой тонко настроенной классификационной головы в модели нет. Доступны веса PyTorch и TensorFlow; лицензия — Apache-2.0.
Yhyu13 создал модель Dolphin 2.6 Mistral 7B DPO Laser Function Calling — объединённую модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста в диалогах и вызова функций: модель оформляет вызов в XML-тегах с именем функции и аргументами, а после получения результата может продолжить ответ пользователю. Автор описывает её как вариант для приложений, которым нужен интерфейс вызова функций, и приводит успешное прохождение примеров из OpenAI Function Calling Cookbook; это заявление автора, а не независимая оценка. Модель принимает текстовые запросы и выдаёт текст, включая структурированные вызовы функций. В метаданных указано контекстное окно 32 768 токенов. Репозиторий содержит веса Safetensors, лицензия — Apache 2.0. README не уточняет языковое покрытие; формат вызовов и приведённые примеры ориентированы на интеграцию с программными инструментами.