II.10Разработка и эксплуатация AI/ML-систем

Nondzu/Mistral-7B-Instruct-v0.2-code-ft — дообученная авторами репозитория языковая модель для помощи в программировании и работы в формате чат-ассистента. В основе лежит mistralai/Mistral-7B-Instruct-v0.2; модель дообучена методом QLoRA на диалоговом датасете ajibawa-2023/Code-74k-ShareGPT. Архитектура — плотная авторегрессионная MistralForCausalLM с 7,1 млрд параметров; метаданные указывают контекст до 32 768 токенов. Модель предназначена для генерации кода, ответов на вопросы по программированию и сценариев помощника-разработчика. Карточка приводит результат Eval Plus 0,421, но не уточняет методику и условия оценки. Для запуска доступны веса PyTorch и Safetensors; указан шаблон диалога ChatML. Лицензия CC-BY-NC-ND-4.0 запрещает коммерческое использование и распространение производных материалов на условиях лицензии.

Mistral-NeMo-Minitron-8B-Base-CODE-Python-i1-GGUF — это квантизированная версия базовой модели Agnuxo/Mistral-NeMo-Minitron-8B-Base-CODE-Python, подготовленная mradermacher в формате GGUF. Модель ориентирована на генерацию кода, прежде всего на задачи, связанные с Python, и может использоваться в локальных AI-приложениях, ассистентах программирования и сценариях научных исследований. Заявлена поддержка английского и испанского языков. Модель имеет размер 8B параметров в базовой версии; точные сведения об архитектуре, размере контекстного окна и мультимодальности в карточке не указаны. Репозиторий содержит множество вариантов квантизации i1, включая IQ- и Q-схемы с размером файлов примерно от 2,2 до 5,5 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Для создания собственных вариантов также предоставлен imatrix-файл. Сильными сторонами являются специализация на генерации кода, возможность локального запуска и широкий выбор уровней квантизации; для некоторых вариантов в карточке отмечены предпочтительное соотношение размера, скорости и качества или более низкое качество. Ограничения включают отсутствие подробных результатов тестирования, сведений о контекстном окне и гарантий корректности сгенерированного кода, поэтому результаты требуют проверки. Модель распространяется по лицензии Apache-2.0.

timm/mixnet_s.ft_in1k — модель классификации изображений из семейства MixNet, опубликованная в библиотеке timm. Это версия для PyTorch, дообученная на ImageNet-1k на основе исходных весов TensorFlow с padding типа SAME. Модель также можно использовать как сверточный backbone для извлечения карт признаков и эмбеддингов изображений. В модели около 4,1 млн параметров; для входных изображений указано разрешение 224 × 224, вычислительная сложность — 0,3 GMACs. Она предназначена для отнесения изображений к классам ImageNet-1k и извлечения визуальных признаков. Лицензия репозитория — Apache-2.0. Данные карточки не описывают ограничения точности или гарантии качества; результаты могут зависеть от соответствия входных изображений обучающим данным и параметрам предобработки.

Это размещённая Featherless AI подборка GGUF-файлов с разными вариантами квантования модели Qwen2.5-Coder-32B-Instruct. Основа — инструкционная модель на 32 млрд параметров для генерации кода и ответов на запросы разработчиков; в репозитории перечислены варианты IQ4_XS, Q2_K и Q3_K_L, а также другие файлы квантования. Модель предназначена для диалоговой генерации кода: например, для написания фрагментов программ, объяснения кода и помощи разработчикам. Репозиторий помечен как GGUF и поддерживает сценарии чата. Лицензия и сведения о длине контекста в предоставленных данных отсутствуют.

Карточка модели regolo/modernbert-capability-classifier на Hugging Face совпадает с карточкой massaindustries/modernbert-capability-classifier, поэтому описание составлено по ней. massaindustries/modernbert-capability-classifier — дообученная модель классификации текста на базе ModernBERT-base от Answer.AI. Она оценивает текст по шести измерениям возможностей: следование инструкциям, программирование, математические рассуждения, знания о мире, планирование и агентные задачи, творческий синтез. Модель предназначена для маршрутизации запросов в семантическом роутере Brick и может служить заменой классификатору предметных областей. Архитектура — ModernBERT с линейным классификационным слоем на шесть выходов; модель выдаёт оценки от 0 до 1 для каждого измерения и поддерживает многометочную классификацию. Она обучена на massaindustries/dataset-B-modernbert-train с мягкими метками. Число параметров — 394,7 млн, максимальный контекст — 8192 токена. Для применения нужна токенизация текста; выходы представляют собой оценки классов, а не готовые ответы на запросы. Лицензия — Apache-2.0.

Abiray/Muse-Glimmer-30B-GGUF — набор GGUF-квантов мультимодальной модели Muse-Glimmer-30B, разработанной meta-models и дистиллированной из Muse Spark. Репозиторий подготовлен с использованием llama.cpp и предназначен для локального запуска модели, включая сценарии на потребительском оборудовании. Модель ориентирована на автономные агентные рабочие процессы, многошаговое рассуждение с длинным горизонтом, задачи программирования, включая SWE-bench, и надёжный вызов функций. Поддерживается обработка изображений через отдельный мультимодальный vision projector в формате GGUF; базовая модель и проектор загружаются раздельно. Заявлены 30 млрд параметров, контекст до 131 072 токенов и архитектура с визуальным проектором на основе ViT размером около 1,8 млрд параметров. Сведения о поддерживаемых языках в README не указаны. Доступны варианты квантования от Q8_0 до IQ3_XXS размером примерно от 29,6 до 11,5 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Вариант Q4_K_M обозначен как оптимальный компромисс и рассчитан примерно на 20–24 ГБ памяти, а Q8_0 обеспечивает качество, близкое к BF16, но требует 32–48 ГБ. Более сильное сжатие уменьшает требования к памяти, однако может снижать точность рассуждений и восприятия. Лицензия — Apache-2.0.

Nemotron-3-Nano-30B-A3B-Base — базовая большая языковая модель, разработанная NVIDIA и опубликованная в репозитории Unsloth. Это вариант модели NVIDIA-Nemotron-3-Nano-30B-A3B-Base-BF16; заявленная архитектура — гибрид Mamba2 и Transformer с Mixture of Experts (MoE), общий размер — 30 млрд параметров. Модель предназначена как основа для дообучения под инструкции и создания специализированных ИИ-агентов, а не как готовый чат-ассистент. Модель принимает и генерирует текст, поддерживает длинные последовательности: в README указаны вход и выход до 128 тыс. токенов, а также возможность контекста до 1 млн токенов при соответствующей настройке. Она рассчитана на английский и ряд других естественных языков, включая русский, и обучалась на данных по коду, математике, естественным наукам и общим знаниям. Репозиторий содержит веса в формате safetensors; README отмечает исправления chat template для Unsloth. Модель подходит разработчикам, которые создают и дообучают языковые модели для генерации текста и агентских сценариев. README заявляет готовность к коммерческому использованию, однако в метаданных указана лицензия other, поэтому перед применением следует свериться с её условиями. Для работы рекомендуются NVIDIA GPU; указанная в README совместимость включает H100-80GB и A100.

Nemotron-Elastic-12B — языковая модель NVIDIA, полученная постобучением NVIDIA-Nemotron-Nano-12B-v2 и предназначенная для исследований и разработки. Это гибридная архитектура Mamba-2 и MLP с четырьмя слоями Attention, содержащая 12 млрд параметров и позволяющая извлекать из общего набора весов вложенные варианты на 6 и 9 млрд параметров без отдельных циклов обучения. Модель принимает текст и генерирует текст; контекст — до 128 тысяч токенов. Она предназначена для диалогов, рассуждений, математических и научных задач, а также экспериментов с адаптивным размером модели, гибридными архитектурами и сжатием. Карточка указывает поддержку английского и многоязычных возможностей; языком карточки в метаданных указан английский. Модель рассчитана на запуск с Transformers и оптимизирована для систем с GPU NVIDIA, в частности H100-80GB. Модель может давать неточные, неполные или лишние ответы, генерировать токсичный текст и проявлять социальные предубеждения; также отмечена уязвимость к атакам на выравнивание. Сгенерированный код следует проверять, а для развёртывания рекомендуется применять защитные фильтры. Лицензия указана как other; перед использованием следует проверить условия лицензирования в карточке Hugging Face.

NVIDIA Nemotron-H-56B-Base-8K — базовая большая языковая модель для продолжения заданного текста, предназначенная для разработчиков и исследователей, создающих и адаптирующих LLM. Она использует гибридную архитектуру Nemotron-H на основе Mamba-2 и MLP с десятью слоями Attention и содержит 56 млрд параметров. Модель принимает и генерирует текст, поддерживает контекст до 8 тысяч токенов и обучалась на английском, немецком, испанском, французском, итальянском, корейском, португальском, русском, японском и китайском языках; в обучающих данных также был код. Модель подходит для продолжения текста и последующей адаптации под генерацию кода, математические задачи, ответы на вопросы и другие сценарии. NVIDIA сообщает об оценках на наборах для здравого смысла, программирования и математики. Для запуска описана интеграция с NeMo и поддержка GPU NVIDIA H100-80GB и A100; карточка рекомендует инструменты NeMo для дообучения и выравнивания. Это базовая модель без обязательного формата промпта, поэтому готовое поведение чат-ассистента не гарантируется. Модель выпущена NVIDIA для исследований и разработок. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с лицензией репозитория. Известные ограничения включают возможность токсичных, предвзятых, неточных, нерелевантных или избыточных ответов, а также уязвимость к некоторым вариантам косвенной prompt injection.

Nemotron-Orchestrator-8B — языковая модель на основе decoder-only Transformer, разработанная NVIDIA и Университетом Гонконга для координации инструментов и экспертных моделей при решении сложных многошаговых задач. Она дообучена на Qwen/Qwen3-8B методом GRPO и содержит около 7,6 млрд параметров; нативный размер контекста — 40 960 токенов. Модель предназначена для агентных сценариев с несколькими ходами: выбора и вызова инструментов, включая поиск и выполнение кода, а также передачи задач другим языковым моделям. В карточке заявлены обучение с учётом точности, стоимости, задержки и предпочтений пользователя и способность работать с незнакомыми наборами инструментов. Основной указанный язык — английский. По данным карточки, на Humanity’s Last Exam модель набрала 37,1%; также заявлены результаты на FRAMES и τ²-Bench. Эти показатели приведены разработчиками и сами по себе не гарантируют аналогичное качество в конкретном приложении. Модель предназначена для исследований и разработок; распространяется по лицензии NVIDIA.

Это модель распознавания сущностей на основе BERT, разработанная авторами репозитория fef2 и дообученная поверх DeepPavlov/rubert-base-cased. Она размечает в русском тексте учётные данные (логины, пароли, токены и секретные ключи), персональные данные (ФИО, организации и локации) и номера договоров. Основной сценарий — обнаружение чувствительных фрагментов в пользовательских сообщениях и конфигурациях для их маскирования перед передачей внешней LLM. Модель использует архитектуру BertForTokenClassification с 205,1 млн параметров, контекстом до 512 токенов и 17 BIO-метками для восьми типов сущностей. Репозиторий также содержит детерминированный regex-слой; опубликованные показатели покрытия учётных данных относятся к объединению NER и regex, а сама NER предназначена дополнять регулярные выражения. Модель распространяется по лицензии Apache-2.0.

NexusRaven-13B — дообученная Nexusflow языковая модель для вызова функций и инструментов. Она принимает описания Python-функций с сигнатурами и docstring, а затем генерирует вызов подходящей функции. Модель основана на CodeLlama-13b-Instruct, использует плотную архитектуру Llama с 12,9 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для интеграции LLM с API и другими инструментами, в том числе для выбора функций по описанию и работы с незнакомыми инструментами в режиме zero-shot. В README отмечены результаты на сценариях с инструментами кибербезопасности и возможность коммерческого применения. Лицензия репозитория — Llama 2 Community License. Качество вызовов может быть нестабильным: модель способна генерировать неверные вызовы, поэтому их необходимо проверять перед исполнением. При большом числе доступных функций контекст может переполняться; авторы рекомендуют подключать retriever и использовать начальный вызов без последующего блока Reflection.

xhresko/nomic-embed-vision-v1.5-patched — локально исправленная копия модели Nomic Embed Vision v1.5, разработанной Nomic AI. Это плотная vision-модель семейства Nomic BERT для извлечения признаков изображений и построения эмбеддингов, применимых для поиска и мультимодального retrieval. В README указана совместимость патчей с Transformers 5.x; представлены веса Safetensors и экспорт ONNX. Для работы modeling-кода требуется пакет einops. README сообщает, что эмбеддинги исправленной PyTorch-модели совпадают с upstream ONNX-экспортом с косинусным сходством 1,0. Модель предназначена для прикладного использования в визуальном поиске и мультимодальных сценариях, например для поиска изображений по текстовому запросу с префиксом search_query:. Репозиторий содержит локально скопированный код модели, поэтому последующие изменения upstream-кода автоматически не подтягиваются. Лицензия — Apache-2.0.

NVIDIA-Nemotron-Nano-9B-v2-FP8-dynamic — это квантизированная FP8-версия языковой модели NVIDIA-Nemotron-Nano-9B-v2, опубликованная Red Hat на базе модели NVIDIA. Модель предназначена для генерации и преобразования текста, включая работу через совместимый с OpenAI API сервер vLLM и развёртывание в Red Hat AI Inference Server или Red Hat OpenShift AI. Модель использует архитектуру NemotronHForCausalLM, принимает текст на вход и генерирует текст. Квантизация FP8 применяется к весам и активациям линейных операторов в блоках Transformer; это уменьшает число битов на параметр с 16 до 8 и примерно на 50% сокращает требования к дисковому пространству и памяти GPU. Заявлены языки English, Spanish, French, German, Italian и Japanese. Размер исходной модели составляет 9B параметров; длина контекста в README не указана. Сильные стороны модели — сниженные требования к хранению и GPU-памяти при сохранении текстовых возможностей базовой модели, а также проверенная совместимость с vLLM 0.10.1.1, RHOAI 2.25 и RHAIIS 3.2.2. Ограничения включают отсутствие в README результатов бенчмарков и подробностей о качестве после квантизации, а также отсутствие поддержки иных модальностей: указаны только текстовые входы и выходы. Модель распространяется по NVIDIA Open Model License; лицензия обозначена как other, а её условия приведены по ссылке NVIDIA.

OctoCoder — модель для генерации кода по инструкциям, созданная BigCode дообучением StarCoder на наборах CommitPackFT и OASST. Она содержит 15,5 млрд параметров и построена на архитектуре GPT-2 с multi-query attention и целью Fill-in-the-Middle; для запуска доступны веса PyTorch и safetensors, а основная библиотека — Transformers. Модель предназначена для выполнения запросов на естественном языке: например, для написания функций и помощи в программировании. В карточке указана поддержка более 80 языков программирования; контекст составляет 8192 токена. Для работы с моделью авторы рекомендуют начинать запрос с «Question: » и завершать его «Answer:». Лицензия — BigCode OpenRAIL-M.

Карточка модели openchat/openchat_8192 на Hugging Face совпадает с карточкой openchat/opencoderplus, поэтому описание составлено по ней. OpenCoderPlus — языковая модель для генерации кода из серии OpenChat, разработанной командой OpenChat. Она дообучена на базе StarCoderPlus и предназначена для продолжения и генерации кода, а также для диалога в формате User/Assistant. Модель использует архитектуру GPTBigCodeForCausalLM, принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Карточка сообщает об оценках на Vicuna GPT-4 и AlpacaEval, однако не приводит подробностей методики для задач программирования. Для диалогов используется шаблон с маркерами User, Assistant и специальным токеном конца хода. Репозиторий содержит веса PyTorch. README рекомендует загружать модель в формате bfloat16. Лицензия в предоставленных данных не указана.

OpenCodeInterpreter-SC2-3B — модель генерации кода из семейства OpenCodeInterpreter, разработанная как система для создания, выполнения и итеративного уточнения кода. Она основана на StarCoder2-3B и использует плотную авторегрессионную архитектуру Starcoder2ForCausalLM; в метаданных указано 4,2 млрд параметров и контекст до 16 384 токенов. Модель предназначена для генерации кода и помощи в программировании. Семейство OpenCodeInterpreter исследует использование обратной связи от выполнения кода для его уточнения; README приводит результаты серии моделей на HumanEval и MBPP, но не указывает отдельные результаты именно этой версии. Карточка описывает англоязычную модель. Веса доступны в формате safetensors, лицензия — Apache-2.0.

OpenThai-SystemOne — созданная iApp модель принятия решений для классификации вариантов и оценки вероятностей на тайском и английском языках. Вместо генерации текста она принимает описание состояния в виде текста или JSON и типизированный вопрос, а затем за один проход выдаёт вероятности для выбора из вариантов, оценки по упорядоченной шкале или ответа «да/нет». Контракт запросов и ответов совместим с API TypeSafe System One. Модель основана на текстовой части Qwen/Qwen3.5-0.8B-Base с 24 слоями; визуальный энкодер удалён. Вместо языковой головы используется голова на 256 слотов, а длина контекста составляет 262 тысячи токенов. В карточке описаны маршрутизация обращений, модерация, распознавание намерений, оценка релевантности для RAG, проверка ответов LLM и выбор действий браузерного агента или инструмента. Модель дообучалась на тайских и англоязычных примерах классификации, логического вывода, вопросов и ответов, рейтингов и выбора действий; вероятности дополнительно калибровались. В репозитории указана лицензия Apache-2.0. Среди ограничений авторы отмечают ошибки в оценке вежливости формального тайского языка. При использовании через Ollama доступны только 2–26 вариантов, отсутствует режим независимости от порядка вариантов и нельзя выбрать ответ «ни один из вариантов»; эти ограничения относятся к Ollama-сборке, а не к API модели.

Ornith-1.0-35B-GGUF — открытая языковая модель семейства Ornith-1.0, разработанная командой проекта Ornith и ориентированная на агентное программирование. Модель предназначена для генерации кода, автономного выполнения задач разработки и работы в инструментах командной строки, включая сценарии, оцениваемые в Terminal-Bench и SWE-bench. Версия 35B позиционируется как облегчённый вариант семейства для эффективного развёртывания на одной GPU. Модель относится к текстовым моделям генерации; точная архитектура, размер контекстного окна и перечень поддерживаемых языков в карточке не указаны. В описании семейства упоминается обучение с подкреплением, в ходе которого оптимизируются как траектории решения, так и управляющие их scaffolds, что должно улучшать поиск решений и качество результатов. Для Ornith-1.0-35B заявлены результаты 64,2 в Terminal-Bench 2.1 (Terminus-2), 62,8 в Terminal-Bench 2.1 (Claude Code), 75,6 в SWE-bench Verified и 50,4 в SWE-bench Pro. Сильными сторонами модели являются специализация на агентных задачах программирования, открытый исходный доступ и заявленная эффективность развёртывания. Ограничения включают отсутствие в карточке подробностей о языках, контексте, точной архитектуре и возможностях за пределами текстового программирования; приведённые показатели зависят от используемого агента и методики оценки. Модель распространяется по лицензии MIT без региональных ограничений.

EryriLabs (Dwain Barnes) собрала эту мультимодальную модель как TIES-слияние Ornith-1.5-35B-A3B, BigBang-v1 и Qwen3.6-35B-A3B. Модель семейства Qwen3.5 MoE принимает текст и изображения и предназначена для диалогов, агентного программирования, следования инструкциям и анализа изображений. В репозитории указаны веса Safetensors и совместимость с Transformers; в README описана замена случайно инициализированной MTP-головы Ornith на обученную голову Qwen3.6 для спекулятивного декодирования. Авторы сообщают о приёме 55–75% черновых токенов в небольших локальных замерах с llama.cpp, но отмечают, что проверка ограничена и не является полноценным бенчмарком. Модель выпущена по лицензии MIT с указанием авторства трёх родительских моделей.

Ornith-1.5-35B-A3B-MXFP8 — модельный пакет MLX от OsaurusAI на основе Ornith-1.5-35B-A3B от Ornith AI. Это мультимодальная MoE-модель семейства Qwen3.5 с гибридной архитектурой линейного gated-delta attention и полного attention в соотношении 3:1, а также визуальным энкодером из 27 слоёв. Пакет занимает около 34,95 ГиБ и содержит веса в safetensors, подготовленные для MLX с применением калиброванной квантизации. Модель предназначена для агентного программирования, рассуждений и диалога; она принимает текст, изображения и видео. В README указаны поддержка нативного видео, включённый по умолчанию режим рассуждений, интерфейс вызова инструментов и сохранённая голова MTP для спекулятивного декодирования. Основной язык карточки — английский. Заявленные в README результаты на SWE-bench Verified и Terminal-Bench характеризуют исходную модель и не являются отдельной оценкой этого пакета. Репозиторий представляет собой квантизованный MLX-вариант дообученной базовой модели и распространяется по лицензии MIT. Он ориентирован на Apple silicon и требует совместимого окружения MLX; README отмечает, что часть тензоров визуального энкодера остаётся в fp16. В настройках рассуждений есть особенности: выключение thinking оставляет пустой закрытый блок, а уровней reasoning_effort нет.

Ornith-1.5-35B-A3B-NVFP4-W4A16 — это независимый community-артефакт, созданный r0b0tlab на основе модели Ornith-1.5-35B-A3B от Ornith AI. Модель предназначена для мультимодальных сценариев image-text-to-text, включая генерацию текста, программирование, математические задачи, выполнение инструкций и агентское кодирование. Артефакт не связан с NVIDIA или Ornith AI и не является их официальным продуктом. Модель использует архитектуру Qwen3_5MoeForConditionalGeneration с 35,1 млрд параметров, гибридным механизмом GDN linear attention и softmax attention, а также Mixture-of-Experts. Это квантизованная версия с NVFP4 W4A16 weight-only: веса Linear-слоёв представлены в 4-битном формате, активации используют BF16, KV-кэш — FP8-E4M3. Размер на диске составляет около 23 ГБ вместо 67 ГБ у BF16-версии, что даёт сжатие примерно в 2,9 раза. Заявлен контекст до 32 768 токенов, однако сведения о поддерживаемых языках в README отсутствуют. По внутреннему набору из 200 вопросов модель показала сопоставимое с BF16-базой качество на GSM8K, HumanEval и IFEval, а с MTP и спекулятивным декодированием — улучшенные результаты в отдельных тестах. Поддерживается SGLang с EAGLE/nextn speculative decoding; целевой сценарий эксплуатации — Blackwell-класс GPU NVIDIA, в частности DGX Spark GB10/SM121. Ограничения включают узкую и внутреннюю систему оценки, отсутствие проверки на других Blackwell-устройствах, возможную чувствительность к данным вне распределения и необходимость корректной настройки SGLang, включая backend marlin, прогрев JIT-кэша FlashInfer и FP8 KV-кэш. Модель распространяется по лицензии MIT.

Phind-Codefuse-34B — языковая модель для генерации кода, полученная слиянием Phind/Phind-CodeLlama-34B-v2 и codefuse-ai/CodeFuse-CodeLlama-34B методом task_arithmetic с помощью LazyMergekit. Модель построена на архитектуре Llama и содержит 33,5 млрд параметров; для генерации доступен контекст до 16 384 токенов. Модель предназначена для генерации кода и решения задач программирования в сценариях работы с текстовыми запросами. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Данные карточки не уточняют поддерживаемые языки программирования и сравнительное качество модели.

pico-type — компактная модель классификации содержимого от eulogik. Она принимает необработанные байты и за один проход определяет тип и модальность содержимого, подтип, язык кода или текста, MIME-тип и признаки риска. Токенизатор не требуется, поэтому модель рассчитана на разные языки и форматы данных. Модель использует байтовые эмбеддинги, параллельные свёртки Conv1D и двунаправленное внимание с RoPE. Доступны четыре варианта размерностью от 1,43 до 1,56 млн параметров; веса представлены в формате ONNX FP32. В README заявлены размер файла около 9 МБ и инференс примерно за 18 мс на CPU, а также варианты применения на периферийных устройствах, в браузере и серверless-средах. Модель подходит для автоматической маркировки текста и файлов, определения языков программирования и текста, MIME-типа и флагов риска. README отмечает, что точность распознавания некоторых языков кода ниже из-за малого числа обучающих примеров. Лицензия — Apache-2.0.

Qwable-9B-Claude-Fable-5-heretic — текстовая донастройка Qwen/Qwen3.5-9B, опубликованная richardyoung. Исходная модель Qwable-9B-Claude-Fable-5 разработана Empero; эта версия обработана методом abliteration с помощью Heretic v1.4.0 для снижения частоты отказов. Модель имеет плотную архитектуру Qwen3.5 и около 9 млрд параметров; обучение текста было полно-параметрическим и использовало трассы рассуждений, программирования и агентных задач от Claude Fable 5 и GPT-5.5. Базовая модель мультимодальна, однако зрительная башня осталась замороженной, а зрительные возможности этой версии не дообучались и не оценивались. Модель предназначена прежде всего для диалоговой помощи в программировании, многошаговых задачах с терминалом и агентных сценариях, а также для рассуждений и объяснений. Обучающие данные и карточка ориентированы преимущественно на английский язык. В приведённом сравнении доля отказов снизилась с 97 из 100 у исходной модели до 50 из 100; это не заменяет полноценную оценку безопасности и качества. Ответы могут содержать отдельный блок рассуждений, который при показе пользователям может потребовать обработки. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Заявленная лицензия — Apache-2.0, унаследованная от базовых весов; автор исходной модели отдельно отмечает оговорки о происхождении обучающих данных. Полные бенчмарки программирования, агентных возможностей и безопасности для исходной донастройки ещё не опубликованы.

Qwen2.5-Coder-14B-Instruct-Q5_K_M-GGUF — это квантованная версия модели Qwen2.5-Coder-14B-Instruct, преобразованная в формат GGUF пользователем apto-as с помощью llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате, включая использование через llama.cpp в CLI или серверном режиме. Модель имеет размер 14 млрд параметров, относится к текстовым моделям и ориентирована прежде всего на задачи программирования. В README указана поддержка английского языка; сведения о других языках, архитектуре, максимальном размере контекста и результатах тестирования не приведены. Квантование Q5_K_M снижает требования к памяти по сравнению с полноразмерной версией, что облегчает локальный запуск, однако может сопровождаться некоторой потерей точности. В качестве ограничений также следует учитывать отсутствие подробных данных о производительности и качестве модели в данном README. Модель распространяется по лицензии Apache-2.0. Для получения подробных характеристик, включая возможности исходной модели, рекомендуется обращаться к карточке базовой Qwen2.5-Coder-14B-Instruct.

Qwen2.5-Coder-14B-Instruct-Uncensored-Patched — модель для генерации и анализа программного кода, созданная AIOpsInSpace на базе Qwen/Qwen2.5-Coder-14B-Instruct от команды Qwen. Она ориентирована на локальные сценарии разработки, работу в качестве coding assistant и интеграцию с IDE-плагинами. Заявлена оптимизация для видеокарт с 16 ГБ VRAM и исправление проблем с обработкой токенов автодополнения и зависанием IDE-плагинов. Модель представляет собой плотную текстовую модель размером 14 млрд параметров и распространяется в формате GGUF. В карточке указана поддержка английского языка, а основная специализация — задачи программирования и текстовая генерация. Сведения о длине контекста, точной архитектуре, поддерживаемых языках программирования и мультимодальности не приведены, поэтому эти характеристики нельзя подтвердить. К сильным сторонам относятся ориентация на генерацию кода, возможность локального развертывания и заявленная совместимость с IDE-сценариями. Ограничения включают отсутствие подробных независимых бенчмарков и неполные сведения о производительности, контексте и языковой поддержке. Лицензия указана как Apache-2.0.

bartowski/Qwen2.5-Coder-3B-GGUF — это набор квантизированных версий языковой модели Qwen2.5-Coder-3B, разработанной командой Qwen и подготовленной пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель предназначена прежде всего для генерации и обработки программного кода, включая работу в локальных приложениях вроде LM Studio. В README указано, что базовая модель поддерживает английский язык. Модель имеет около 3 млрд параметров. Доступны варианты от F16 до низкобитных квантов Q2–Q8, различающиеся размером файла, требованиями к памяти и качеством генерации; наиболее рекомендуемыми названы варианты Q4–Q6. Квантизация выполнена с использованием imatrix и llama.cpp. Для взаимодействия используется шаблон сообщений с ролями system, user и assistant. Сведения об архитектуре, размере контекста и мультимодальности в README не указаны; по представленным данным модель является текстовой. Основное преимущество набора — возможность локального запуска при выборе подходящего уровня квантизации: старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти. Ограничения связаны с компромиссом между размером и качеством, особенно у вариантов Q2–Q3; отдельные форматы оптимизированы для ARM и требуют соответствующей поддержки инструкций, а варианты Q4_0_8_8 и Q4_0_4_8 не рекомендуются для Mac или Windows. Лицензия указана как qwen-research; подробности доступны по ссылке на лицензию исходной модели Qwen2.5-Coder-3B.

Карточка модели tbhrc/qwen2_5_coder_7b_instruct_4bit на Hugging Face совпадает с карточкой mlx-community/Qwen2.5-Coder-7B-Instruct-4bit, поэтому описание составлено по ней. Qwen2.5-Coder-7B-Instruct-4bit — 4-битная версия модели для генерации кода из семейства Qwen2.5-Coder, подготовленная mlx-community. README указывает, что модель преобразована в формат MLX из Qwen/Qwen2.5-Coder-7B-Instruct с помощью mlx-lm 0.18.1; в метаданных базовой моделью указана Qwen/Qwen2.5-Coder-7B. Это плотная причинная языковая модель архитектуры Qwen2 с 7,1 млрд параметров и контекстом 32 768 токенов. Модель предназначена для генерации кода в диалоговом формате и подходит для помощи при написании и анализе программ. Репозиторий распространяется по лицензии Apache-2.0. README описывает конвертацию в MLX, а метаданные указывают на дообучение базовой модели для кода; представленных сведений недостаточно, чтобы точно описать качество по языкам программирования или результаты оценок.

ShiningValiant3 — дообученная Valiant Labs модель Qwen3-1.7B для научных и общих рассуждений, проектирования систем ИИ, решения задач и диалогов. Она предназначена для исследователей и разработчиков, которым нужны ответы на научные вопросы, помощь в работе с современными технологиями ИИ, анализ и генерация идей, а также выполнение инструкций и написание кода. Модель имеет плотную архитектуру Qwen3ForCausalLM с 1,7 млрд параметров, принимает текст и генерирует текст. Контекст — до 40 960 токенов. В карточке заявлены дообучение на научных данных рассуждений, созданных с помощью DeepSeek R1 0528, и улучшения в общих и творческих рассуждениях. README рекомендует включать режим рассуждений для диалогов. Модель рассчитана на локальный запуск на настольных компьютерах и мобильных устройствах, а также на быстрый серверный инференс. Лицензия — Apache-2.0. Карточка указывает английский язык; многоязычные возможности базовой Qwen3 не означают, что для этой доработки подтверждён основной язык помимо английского. Качество отдельных ответов и фактическая точность могут зависеть от запроса; численные оценки в карточке не приведены.