II.7DevOps, облако и эксплуатация IT-систем

Это квантованная до формата MXFP4 версия мультимодальной модели Devstral-Small-2-24B-Instruct-2512. В README разработчиком исходной модели названа Mistral AI; архитектура — плотный трансформер Mistral3ForConditionalGeneration с 24 млрд параметров. Модель принимает текст и изображения, поддерживает контекст до 393 216 токенов и предназначена прежде всего для программирования, вызова инструментов и агентных сценариев. Квантование MXFP4 уменьшает размер весов: файл текстовой модели занимает 11,85 ГБ, а проектор изображения в формате F16 — 0,82 ГБ. README характеризует потерю качества как минимальную. Репозиторий распространяется по лицензии Apache 2.0. Для обработки изображений требуется vision-проектор mmproj; модель можно запускать через llama.cpp.

JackOD-9B-Coder-MTP-GGUF — текстовая модель для генерации кода, разработанная ManniX-ITA. Это GGUF-квантизации модели JackOD-9B-Coder, созданной как объединение нескольких моделей на общей базе Qwen/Qwen3.5-9B: DeltaCoder-9B, Qwopus3.5-9B-coder и Ornith-1.5-9B. Модель ориентирована на многошаговую агентную разработку, продолжение задач между несколькими ходами диалога и работу с инструментами до завершения задачи. Поддерживает английский язык и предназначена прежде всего для программирования, рассуждений и сценариев tool-calling. Модель имеет архитектуру Qwen3.5, около 9,65 млрд параметров, формат GGUF и MTP-компонент, унаследованный от базовой модели. Доступны многочисленные варианты квантизации, включая F16, Q8_0, Q6_K, Q5_K_M, Q4_K_M и более компактные IQ- и K-варианты; квантизации K и IQ откалиброваны с помощью imatrix. Несмотря на наличие унаследованных метаданных vision, модель не содержит vision tower и является текстовой. В предоставленных оценках она показывает сильные результаты на задачах генерации кода, включая LiveCodeBench v6, однако сведения о производительности в агентном harness основаны на небольшом числе запусков и не являются полноценной статистикой. Модель распространяется по лицензии Apache-2.0.

KAT-Coder V2.5 Dev 35B-A3B ABLITERATED UNCENSORED PHILADELPHIA CLASS — текстовая модель Mixture of Experts, разработанная KridgeDookie на основе Kwaipilot/KAT-Coder-V2.5-Dev, относящейся к семейству Qwen3.6-35B-A3B. Модель ориентирована на генерацию кода, агентные сценарии программирования и взаимодействие с инструментами. Она поддерживает английский и китайский языки, не имеет компонента для обработки изображений и видео и работает только с текстом. Модель содержит около 35 млрд параметров в общей сложности, из которых для каждого токена активны примерно 3 млрд. Доступна исходная версия в формате BF16, а также квантованные варианты GGUF Q4_K_M, Q5_K_M и Q8_0. Заявленная максимальная длина контекста — 32 768 токенов. Полная BF16-версия занимает примерно 65 ГиБ, поэтому, несмотря на небольшое число активных параметров, требует значительно больше памяти, чем плотная модель на 3 млрд параметров. Основное отличие версии PHILADELPHIA CLASS — целевое редактирование весов для уменьшения отказов в ответах при сохранении возможностей родительской модели для программирования. Внутренние проверки показали отсутствие жёстких отказов в двух наборах тестов и прохождение 23 из 24 проверок связности, однако эти результаты не проходили независимый аудит и не гарантируют точность, качество рассуждений или надёжность использования инструментов. Модель может генерировать ошибочный, небезопасный или потенциально вредоносный код, поэтому результаты требуют проверки. Распространяется по лицензии Apache 2.0, унаследованной от родительской модели.

Meta Llama 3 8B — авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия принимает текст и генерирует текст, в том числе код. Семейство Llama 3 включает предварительно обученные и дообученные для инструкций модели; карточка этой модели описывает базовый предварительно обученный чекпойнт, пригодный для адаптации к различным задачам генерации текста. Модель предназначена для коммерческого и исследовательского применения на английском языке. Её можно использовать как основу для генерации текста и кода, а после адаптации — для диалоговых сценариев. Выпущена в апреле 2024 года и распространяется по пользовательской коммерческой лицензии Meta Llama 3. Карточка не приводит для этого репозитория конкретную длину контекста; сама модель статична и обучена на офлайн-данных. Для развёртывания приложений разработчикам следует самостоятельно подбирать меры безопасности под свой сценарий.

Nex-N2.5-mini — разговорная модель семейства Nex-N2.5, разработанного Nex-AGI. Она предназначена для агентных задач с длительным планированием, включая управление компьютером и браузером, программирование и проверку программ, а также мультимодальное понимание визуальной среды. Модель может использовать визуальную обратную связь для проверки результатов действий и корректировки дальнейших шагов. По карточке семейство Nex-N2.5-mini опирается на мультимодальную основу Nex-N2; метаданные указывают архитектурное семейство Qwen3.5 MoE и класс Qwen3_5MoeForConditionalGeneration. Поддерживаются чат и вызов функций. Веса опубликованы в формате safetensors; лицензия — Apache-2.0. Карточка не сообщает размер именно mini-версии и длину контекста.

Ornith-1.0-35B-FP8-BLOCK — это квантизированная версия языковой модели Ornith-1.0-35B, разработанной командой DeepReinforce. Артефакт опубликован shisa-ai и изменяет только представление чекпойнта, не добавляя дополнительного дообучения. Модель относится к семейству Qwen3.5 MoE и предназначена для рассуждений, агентных сценариев и генерации кода, включая работу через совместимый с OpenAI API сервер. Квантизация выполнена методом model-free PTQ без калибровочных данных с помощью llm-compressor. Веса Linear-модулей представлены в статическом симметричном FP8 с блоками 128×128, а активации квантизуются динамически в FP8 с группами размера 128; формат хранения — compressed-tensors FP8_BLOCK. Размер исходной модели — 35B параметров, но другие характеристики, включая точный контекст и языковой охват, в карточке не указаны. Эмбеддинги, lm_head, маршрутизация MoE, линейное внимание и визуальные модули оставлены без квантизации. Модель не содержит MTP-head и не заявляет поддержку speculative decoding. Основные преимущества — уменьшенное представление весов и возможность запуска в современных средах, поддерживающих Qwen3_5MoeForConditionalGeneration и FP8_BLOCK, например vLLM. Ограничения — необходимость значительных ресурсов KV-кэша при длинном контексте и отсутствие опубликованных отдельных бенчмарков для квантизированной версии; качество и задержку рекомендуется проверять относительно исходной BF16-модели на целевой нагрузке. Артефакт распространяется по лицензии MIT.

PasteProof PII Detector — модель на базе ModernBERT, дообученная автором joneauxedgar для обнаружения и разметки персональных данных и секретов в тексте. Она выполняет NER с классификацией токенов и распознаёт 27 типов сущностей, включая платёжные данные, учётные данные и медицинские идентификаторы. Модель предназначена для предупреждений перед вставкой чувствительных данных в браузерные формы, чаты и публичные репозитории, а также для проверки кода, документов и потоков данных. В карточке заявлен F1 0,972 на отложенной выборке; обучение проводилось на 150 тысячах синтетических примеров. Метаданные указывают архитектуру ModernBERT, 149 млн параметров и контекст до 8192 токенов, тогда как README сообщает ограничение в 512 токенов — фактический рабочий предел следует проверять при использовании. Обучающие данные англоязычные; модель может пропускать обфусцированные значения, новые форматы ключей и чувствительные сущности, распознаваемые только по контексту, а также давать ложные срабатывания на случайных строках и тестовых данных. Это вспомогательный детектор, а не гарантия безопасности. Лицензия — Business Source License 1.0 (BSL-1.0).

Qwen2.5-Coder-1.5B-Instruct-GGUF — это квантизированный формат GGUF модели Qwen2.5-Coder-1.5B-Instruct, разработанной Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации и анализа программного кода, чат-взаимодействия и других задач текстовой генерации, связанных с разработкой программного обеспечения. Указан английский язык, а исходная модель доступна через библиотеку Transformers. Модель содержит 1,5 млрд параметров и распространяется в нескольких вариантах точности, включая F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-квантизации. Размер файлов составляет примерно от 0,78 до 3,09 ГБ, поэтому доступны варианты для систем с разным объёмом оперативной памяти. В README не указаны архитектурные детали, размер контекста и дополнительные модальности; по описанию это текстовая модель без заявленной поддержки изображений или других типов входных данных. Основное преимущество набора — локальный запуск через llama.cpp и совместимость с LM Studio при существенно сниженном потреблении памяти. Варианты с более высокой точностью обеспечивают лучшее качество, а низкоразрядные квантизации экономят ресурсы, но могут заметно снижать качество генерации; устаревший формат Q4_0 не рекомендуется по сравнению с альтернативами сопоставимого размера. Для общения следует использовать указанный в README шаблон сообщений ChatML. Лицензия — Apache-2.0.

duyntnet/Qwen2.5-Coder-1.5B-Instruct-imatrix-GGUF — набор GGUF-квантизаций инструкционно дообученной модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen компании Alibaba Cloud. Модель относится к причинным языковым моделям и предназначена прежде всего для генерации, анализа, исправления и объяснения программного кода, а также для задач рассуждения и диалога в прикладных сценариях, включая локальные инструменты и кодовых агентов. Модель имеет архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в механизмах внимания QKV и связанными эмбеддингами слов. Она содержит около 1,54 млрд параметров, 28 слоёв и использует GQA с 12 головами для Q и 2 головами для KV. Полная длина контекста составляет 32 768 токенов. В карточке указаны английский язык и текстовая модальность; модель поддерживается клиентами и интерфейсами llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и Jan. К сильным сторонам относятся компактный размер, специализация на программном коде и поддержка GGUF-квантизаций, что делает модель подходящей для локального запуска на ограниченных ресурсах. К ограничениям относятся меньший масштаб по сравнению с более крупными моделями семейства и отсутствие в карточке подробных результатов оценки качества для конкретных квантизаций. Лицензия обозначена как other, без дополнительных условий в представленном README.

bartowski/Qwen2.5-Coder-3B-GGUF — это набор квантизированных версий языковой модели Qwen2.5-Coder-3B, разработанной командой Qwen и подготовленной пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель предназначена прежде всего для генерации и обработки программного кода, включая работу в локальных приложениях вроде LM Studio. В README указано, что базовая модель поддерживает английский язык. Модель имеет около 3 млрд параметров. Доступны варианты от F16 до низкобитных квантов Q2–Q8, различающиеся размером файла, требованиями к памяти и качеством генерации; наиболее рекомендуемыми названы варианты Q4–Q6. Квантизация выполнена с использованием imatrix и llama.cpp. Для взаимодействия используется шаблон сообщений с ролями system, user и assistant. Сведения об архитектуре, размере контекста и мультимодальности в README не указаны; по представленным данным модель является текстовой. Основное преимущество набора — возможность локального запуска при выборе подходящего уровня квантизации: старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти. Ограничения связаны с компромиссом между размером и качеством, особенно у вариантов Q2–Q3; отдельные форматы оптимизированы для ARM и требуют соответствующей поддержки инструкций, а варианты Q4_0_8_8 и Q4_0_4_8 не рекомендуются для Mac или Windows. Лицензия указана как qwen-research; подробности доступны по ссылке на лицензию исходной модели Qwen2.5-Coder-3B.

Qwen2.5-Coder-7B-Instruct-Q8_0-GGUF — это конвертированная в формат GGUF и квантизованная версия модели Qwen/Qwen2.5-Coder-7B-Instruct. Конвертацию выполнила организация ggml-org с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и прежде всего для задач, связанных с программным кодом, включая диалоговое взаимодействие и работу с кодом через llama.cpp. Модель имеет размер 7B параметров и представлена в варианте квантизации Q8_0, что позволяет запускать её локально с помощью llama.cpp в режиме CLI или сервера. В карточке указано, что поддерживаемый язык — английский. Для примера серверного запуска задан контекст 2048 токенов, однако максимальный размер контекста в README не указан. Архитектура и перечень поддерживаемых модальностей не описаны; из назначения и типа pipeline следует, что это текстовая авторегрессионная модель. К сильным сторонам относятся специализация на программном коде, инструкция-ориентированный режим и совместимость с локальным инференсом через llama.cpp. Ограничения связаны с отсутствием в карточке подробных сведений о качестве, бенчмарках, точном размере контекста и поддерживаемых языках помимо английского, а также с потерями точности, возможными при квантизации. Указана лицензия Apache 2.0.

andyman5002/Qwen3.8-27B-OBLITERATED — текстовая генеративная модель на базе Qwen/Qwen3.8-27B с архитектурой Qwen3 и размером 27B параметров. Модель создана как модифицированная версия базовой Qwen3.8-27B с применением abliteration — удаления направлений, связанных с отказами и защитными ответами, посредством операций в пространстве весов. Доступны форматы GGUF, safetensors и MLX; лицензия Apache-2.0. Модель предназначена для генерации текста, программного кода и работы в агентных сценариях, включая задачи кибербезопасности и red-team-исследований. Заявлена совместимость с режимом рассуждений, однако рекомендуется отключать thinking для получения более прямых ответов. В документации указаны результаты MMLU 82,3% в режиме 0-shot, а также 20 из 20 успешных тестов на задачах генерации кода; эти показатели приведены разработчиком и могут зависеть от методики оценки. К сильным сторонам относятся снижение числа жёстких отказов и защитных лекций, сохранение значительной части возможностей базовой модели и пригодность для локального использования. Ограничения включают снижение результата MMLU примерно на 2,1 процентного пункта относительно базовой модели, склонность к зацикливанию без repetition_penalty и потенциальные риски применения в задачах, связанных с вредоносным или опасным содержанием. Для рекомендуемой генерации используются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов; системный промпт разработчик советует не задавать.

Yi-Coder-9B-Chat-GGUF — это квантизированная версия чат-модели Yi-Coder-9B-Chat, разработанной 01.AI и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена прежде всего для генерации и обсуждения программного кода в диалоговом режиме; запуск поддерживается через llama.cpp и приложения, совместимые с GGUF, включая LM Studio. Модель содержит около 9 миллиардов параметров и доступна в вариантах от F16 до низкобитных квантований Q2–Q8 и IQ. Квантизация с imatrix позволяет выбирать баланс между качеством, размером файла и требованиями к памяти: рекомендуются, в частности, варианты Q4–Q6, а версии Q3 и ниже рассчитаны на системы с ограниченным объёмом RAM, но обеспечивают более низкое качество. Для работы используется специальный шаблон чата с ролями system, user и assistant; в README также указано исправление токенизатора. В карточке не приведены точные сведения о поддерживаемых языках, длине контекста, архитектуре трансформера, мультимодальности и сравнительных результатах. Модель является текстовой и ориентирована на сценарии программирования, однако конкретные возможности зависят от выбранного варианта квантования. Лицензия — Apache-2.0.

ZynDwarf-1.1 — компактная текстовая языковая модель общего назначения, разработанная Zyn Models / itsZyn на основе Liquid AI LFM2.5-350M. Модель содержит около 354,5 млн параметров и предназначена прежде всего для локального запуска на CPU-ориентированном оборудовании, встраивания в локальные инструменты и использования в агентских системах. Модель ориентирована на повседневный диалог на испанском и английском языках, объяснение и генерацию кода, отладку, преобразование программ, лёгкое планирование, структурированный вывод, выбор инструментов и обработку результатов их работы. Она поддерживает сценарии с function calling и многошаговыми агентскими циклами, при этом выполнение инструментов и проверка их результатов остаются ответственностью внешнего приложения. Доступны форматы Transformers Safetensors, GGUF F16 и GGUF Q4_K_M, совместимые с Transformers, llama.cpp и Ollama. Архитектура модели — Lfm2ForCausalLM, тип lfm2. Архитектурный максимум контекста составляет 128 000 токенов, однако рекомендуемый рабочий контекст — 32 768 токенов, а максимальная длина обучающих последовательностей — 768 токенов. Модель поддерживает только текст и не имеет возможностей работы с изображениями или аудио. Её сильные стороны — малый размер, низкие требования к ресурсам, поддержка испанского и английского языков, программирования и структурированных агентских взаимодействий. Ограничения связаны с компактным масштабом: модель не позиционируется как крупная система рассуждений, исследовательская модель или замена значительно более мощным моделям; для надёжной работы агентов необходимы внешний runtime, валидация и контроль выполнения инструментов. Распространяется по лицензии Apache-2.0.

Blitzar-Coder-4B-F.1-GGUF — модель для генерации кода, разработанная prithivMLmods. Это GGUF-версия Blitzar-Coder-4B-F.1, дообученной на базе Qwen3-4B с использованием расширенных наборов трассировок программирования. Модель предназначена для генерации и отладки кода, а также решения задач, требующих рассуждений, особенно при ограниченных вычислительных ресурсах. Модель ориентирована на работу более чем с десятью языками программирования, включая Python, Java, C#, C++, C, Go, JavaScript, TypeScript и Rust. Точные сведения об архитектуре, размере контекста и поддерживаемых естественных языках, кроме английского, в карточке не указаны. Доступны варианты от Q2_K до Q8_0, а также F16, BF16 и F32; размер файлов составляет примерно от 1,67 до 16,1 ГБ. Q4_K_M и Q5_K_M рекомендуются как сбалансированные варианты, а Q6_K, Q8_0 и версии с плавающей точностью обеспечивают более высокое качество ценой большего потребления ресурсов. Сильными сторонами модели являются специализация на программировании, поддержка нескольких языков программирования и широкий выбор вариантов квантования для запуска на оборудовании с разными ограничениями. Более компактные варианты обеспечивают более быструю инференцию, но могут уступать в качестве; для F16, BF16 и особенно F32 требуется больше видеопамяти. Модель распространяется по лицензии Apache-2.0.

Con0 — мультимодальная модель для анализа кибербезопасности, разработанная Arcanic AI совместно с NextZero. Она предназначена для проверки кода и конфигураций, выявления уязвимостей, анализа инцидентов и подготовки рекомендаций по устранению проблем, включая угрозы безопасности ИИ-агентов. Модель дообучена на Qwen/Qwen3.8-27B и содержит 27 млрд параметров. Она принимает текст и изображения, поддерживает анализ видео и OCR; контекстное окно составляет 262 144 токена. Архитектура сочетает Gated DeltaNet с полным вниманием; также заявлена поддержка диалогов и вызова инструментов. Con0 ориентирована на выявление SQL-инъекций, XSS, SSRF, проблем контроля доступа, prompt injection и других угроз веб-приложений и ИИ-агентов, а также на анализ журналов, трассировок и скриншотов. Результаты бенчмарков пока не опубликованы, поэтому качество заявленных возможностей независимо не подтверждено. Лицензия — Apache-2.0.

Fabliq-8B-Agent-Reasoning — англоязычная модель-ассистент семейства Fabliq от LLM-OS-Models, дообученная на базе Fabliq-8B-Agent. Это причинная языковая модель архитектуры Lfm2MoeForCausalLM с MoE: около 8 млрд параметров всего и примерно 1 млрд активных на токен. Модель рассчитана на генерацию ответов, многошаговые рассуждения и агентные сценарии с вызовом инструментов, включая терминальные задачи. Модель расширяет возможности базовой агентной версии экспертными ответами на общие вопросы, задачами по математике, научному анализу, программированию, планированию и кибербезопасности. В README описаны двухэтапное обучение и использование дистиллированных данных; обучение включало 281 пример на втором этапе. Репозиторий указывает нативный контекст 128 000 токенов, однако обучение проводилось на последовательностях до 8 192 токенов, поэтому качество на длинном контексте не подтверждено. Модель ориентирована преимущественно на английский язык; поддержка других языков ограничена. Авторы отмечают риск переобучения на шаблонных данных и отсутствие выравнивания безопасности, поэтому для практического развёртывания нужны собственные защитные меры. Лицензия — Apache-2.0.

GLM-5.1-FP8 — квантованная в формате FP8 версия языковой модели GLM-5.1, разработанной командой Z.ai. Модель предназначена для генерации текста и ориентирована прежде всего на агентные инженерные задачи, включая программирование, создание репозиториев по естественно-языковому описанию, работу с терминалом и длительные многошаговые сессии с использованием инструментов. Заявлена поддержка английского и китайского языков; модель подключается через библиотеку Transformers и относится к задачам text generation. Ключевая сильная сторона GLM-5.1 — работа над сложными задачами на протяжении сотен итераций и тысяч вызовов инструментов: модель умеет декомпозировать неоднозначные проблемы, проводить эксперименты, анализировать результаты, находить блокирующие факторы и пересматривать стратегию. В README приведены высокие результаты на SWE-Bench Pro, NL2Repo, Terminal-Bench 2.0, CyberGym и BrowseComp. При этом размер модели, базовая архитектура, длина контекста, точные характеристики FP8-квантизации и поддерживаемые модальности не указаны. Ограничения также связаны с тем, что приведённые показатели зависят от используемых инструментов и условий тестирования, а таблица бенчмарков в представленном README обрывается. Модель распространяется по лицензии MIT. README также указывает на доступность API-сервисов GLM-5.1 на платформе Z.ai, однако конкретные требования к аппаратному обеспечению и инструкции по локальному запуску для этой версии не приведены.

Laguna XS 2.1 — текстовая модель семейства Laguna от Poolside, предназначенная прежде всего для агентного программирования и длительных задач разработки ПО. Это архитектура Mixture-of-Experts с 33 млрд параметров в общей сложности и примерно 3 млрд активируемых на токен; в репозитории Hugging Face указано 2,6 млрд параметров. Модель состоит из 40 слоёв, использует смесь скользящего и глобального внимания, поддерживает контекст до 262 144 токенов и интерфейс вызова инструментов. Модель подходит для работы с кодом, выполнения терминальных задач и взаимодействия с инструментами в агентных сценариях. README сообщает об улучшении результатов относительно Laguna XS.2 на SWE-bench Multilingual и терминальных задачах, однако бенчмарки не гарантируют аналогичного качества на конкретных проектах. Модель принимает и выдаёт текст; карточка не указывает поддерживаемые естественные языки. Веса доступны под лицензией OpenMDW-1.1, которую разработчик описывает как разрешающую коммерческое и некоммерческое использование и модификацию. Для применения следует учитывать условия лицензии и политики допустимого использования Poolside. Для локального запуска заявлена поддержка Transformers, vLLM, SGLang, Llama.cpp, Ollama и других перечисленных в карточке средств.

Llama 2 Coder 7B — языковая модель для генерации и помощи в написании программного кода, созданная mrm8488 на базе Llama 2 Coder 7B и дообученная с использованием набора данных HuggingFaceH4/CodeAlpaca_20K. TheBloke подготовил её квантованные файлы в формате GGUF. Модель предназначена для сценариев, в которых требуется coding assistant: интерпретации инструкций пользователя и формирования решений в виде программного кода. Она относится к архитектуре Llama, имеет размер 7B параметров и поддерживает текстовую генерацию. README не указывает точный перечень языков программирования, естественных языков или размер контекстного окна. Формат GGUF подходит для локального запуска через llama.cpp и совместимые инструменты, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие решения с поддержкой CPU и GPU. Ключевое преимущество версии — доступность квантований с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения включают возможные ошибки и неполные решения в генерируемом коде, а также отсутствие в README опубликованных результатов оценки. Модель заявлена под лицензией Apache-2.0, но поскольку основана на Llama 2, также подпадает под условия лицензии Meta Llama 2; взаимодействие этих лицензий требует отдельной проверки перед использованием.

cyankiwi/Ornith-1.0-9B-AWQ-FP8 — квантизированная версия модели Ornith-1.0-9B, разработанной deepreinforce-ai и опубликованной cyankiwi. Модель предназначена прежде всего для агентного программирования, генерации кода и решения задач разработки в средах с терминалом и инструментами. Это наиболее компактная модель семейства Ornith, рассчитанная на эффективный запуск на одной GPU. Базовая модель относится к текстовым генеративным моделям и работает с языками EN, ZH, HI, AR, RU, JA, KO, NL, FR и ES. Ornith-1.0 использует обучение с подкреплением для совместной оптимизации решений и scaffolding, управляющего поиском и выполнением этих решений. Среди заявленных преимуществ — результаты на бенчмарках агентного программирования Terminal-Bench 2.1, SWE-Bench, NL2Repo и OpenClaw; для версии 9B приведены показатели 43,1 и 40,6 на вариантах Terminal-Bench 2.1. Ключевое ограничение — меньший размер по сравнению с версиями 31B и MoE, поэтому модель может уступать им в сложных задачах. Размер опубликованного файла составляет 11,91 ГБ; максимальная длина контекста и точные сведения об архитектуре в карточке не указаны. Модель распространяется по лицензии MIT без региональных ограничений.

Hob-forge/Qwen3.5-4B-Instruct-GGUF — это текстовая GGUF-квантизованная версия Qwen3.5-4B, разработанной командой Qwen. Издатель Hob Forge не обучал модель, а подготовил собственную редакцию: выполнил конвертацию и квантизацию, проверил шаблон чата и вызов инструментов, а также измерил скорость, потребление памяти и потери качества. Базовая модель распространяется по лицензии Apache-2.0. Модель предназначена для диалогов, генерации текста, помощи в программировании и использования инструментов на компьютерах с ограниченными ресурсами. Она поддерживает режим рассуждений, включённый по умолчанию, и может работать через llama.cpp, Ollama и совместимые приложения. Доступны варианты Q4_K_M, Q5_K_M, Q6_K, Q8_0 и IQ4_XS; рекомендуемым вариантом назван Q4_K_M размером около 2,58 GiB. Указана архитектура с гибридным вниманием: 8 слоёв полного внимания, линейное внимание DeltaNet и однослойный блок MTP. Благодаря этому KV-кэш заметно меньше, чем у плотной модели сопоставимого размера: около 256 MiB при контексте 8K и 1 GiB при 32K. Сильные стороны модели — небольшие требования к памяти, поддержка длинного контекста, высокая скорость на совместимом оборудовании и проверенная работа инструментов. Вариант Q4_K_M, по приведённым измерениям, помещается примерно в 4 GB памяти даже при контексте 32K, хотя такой режим может быть ограничен по запасу ресурсов. Ограничения связаны с размером 4B: модель не относится к передовым и уступает более крупным моделям в сложных задачах. IQ4_XS экономит место, но существенно медленнее на RTX-картах. GGUF-файлы являются текстовыми: визуальные компоненты исходной мультимодальной модели не включены. Для работы требуется современная версия llama.cpp с поддержкой данной архитектуры.

Qwen3.8-27B-Uncensored-Cyber — GGUF — это квантизированная версия модели philbert440/Qwen3.8-27B-Uncensored-Cyber, опубликованная paubau. Репозиторий содержит только GGUF-квантизацию и калибровочную матрицу imatrix, построенную на реальном трафике агентного программирования; дообучение, слияние моделей и изменение поведения не выполнялись. Модель ориентирована на агентные сценарии, связанные с написанием кода, вызовом инструментов и задачами в области кибербезопасности, включая offensive security. Это de-refusal-модель без стандартных ограничений на отказы, унаследованных от базовой модели. Модель имеет размер 27B параметров и распространяется в формате GGUF с квантизацией IQ4_XS. Доступны вариант без MTP-тензоров размером около 14,96 ГиБ и вариант с совместимой MTP speculative-decoding head размером около 15,38 ГиБ; последний требует поддержки со стороны используемого runtime. В базовой модели сохранены vision tower и MTP-голова, поэтому поддерживаются мультимодальный путь и ускоренное декодирование при совместимом загрузчике. Заявлен контекст до 262K токенов. Калибровка специально учитывает tool-call JSON, специальные токены шаблона чата, длинные точные литералы, пути, имена пакетов, хэши и смешанный китайско-английский текст, что должно быть полезно для агентного кодинга и точного воспроизведения строк. Ограничения модели связаны с потерями, неизбежными при квантизации, причём веса были получены повторной квантизацией из Q8_0, а не напрямую из BF16. Показатели сравнения в README имеют узкую область применимости и основаны на агентном корпусе. Для обычной загрузки рекомендуется файл без MTP, если поддержка MTP не проверена. Модель лицензирована по Apache-2.0; исходный корпус калибровки не опубликован и содержит приватные данные рабочих сессий.

Qwen3.8-27B-Uncensored-YMQ-MTP-GGUF-12GB — квантизированная GGUF-версия модели Qwen3.8-27B-Uncensored, подготовленная 0xSojalSec на основе модели JonathanColetti/Qwen3.8-27B-Uncensored. Модель предназначена для локальной генерации текста, диалогов и прежде всего для задач программирования, включая работу с API и агентские сценарии в инструментах вроде RooCode и Aider. Модель имеет 27 миллиардов параметров и использует архитектурно-ориентированную смешанную квантизацию, созданную с применением YMQ-Compiler v2.0 и подходов, вдохновлённых AutoRound. Сборки поддерживают параллельное multi-token prediction (MTP) для speculative decoding. В README заявлена оптимизация под большой контекст, однако точный размер контекстного окна, список языков и мультимодальные возможности не указаны. Версия с ориентиром на 12 ГБ предназначена для запуска на видеокартах с ограниченным объёмом памяти; конкретные характеристики зависят от выбранного пресета. Сильными сторонами заявлены сохранение логической устойчивости и качества форматирования при работе с кодом и длинными многошаговыми агентскими сценариями, а также возможность запуска 27B-модели в компактном объёме памяти. Ограничения связаны с потерями качества из-за квантизации: README предупреждает о структурном шуме, возможной амнезии контекста и циклах форматирования у наиболее компактных вариантов. Распространение указано по лицензии Apache-2.0.

Qwenseek-3.8-27B-CyberLite-BF16 — разработанная trjxter специализированная дообученная версия Qwen3.8-27B для технических задач и кибербезопасности. Это плотная модель с архитектурой Qwen3.5ForConditionalGeneration и 27,781,427,952 параметрами; репозиторий содержит объединённые BF16-веса в формате Safetensors. Обучение проводилось методом SFT с QLoRA на двух корпусах синтетических примеров, включая задачи кибербезопасности, программирования, работы с инструментами и рассуждений. Модель предназначена для анализа уязвимостей и защищённости, проверки и исправления кода, планирования обнаружения и устранения инцидентов, а также технического программирования и структурированного вызова инструментов. Для red-team сценариев заявлено контролируемое применение в авторизованной локальной или изолированной среде. Vision-компоненты базовой архитектуры были заморожены при дообучении, поэтому выпуск следует считать текстовым; улучшения обработки изображений не заявлены. Метаданные указывают английский язык. Для запуска требуется актуальная версия Transformers или Unsloth с поддержкой Qwen3.8/qwen3_5. Лицензия — Apache-2.0.

Qwopus3.5-9B-Coder-GGUF — мультимодальная языковая модель от Jackrong, созданная на базе Qwopus3.5-9B-v3.5 и представленная в формате GGUF для использования с llama.cpp и совместимыми инструментами. Это плотная модель размером 9 млрд параметров, ориентированная на агентное программирование, сложные вызовы инструментов и логическое рассуждение. Модель предназначена для генерации и отладки кода, решения задач на уровне репозитория, работы с терминальными командами, файловыми операциями, браузерами и function calling. Она поддерживает текстовые и визуальные входные данные; для включения зрения требуется отдельный файл mmproj.gguf. Заявлены языки English, Chinese, Spanish, Russian и Japanese, однако размер контекста в README не указан. При дообучении использовались Trace Inversion, агентские трассировки и наборы данных для reasoning и tool use. Сильными сторонами заявлены структурированное рассуждение, работа с кодом и более стабильное использование инструментов при относительно низких требованиях к оборудованию: автор указывает возможность запуска в 8-битном режиме на устройствах с 16 ГБ оперативной памяти. Модель выпущена как экспериментальная версия сообщества; полноценная оценка общих способностей не проводилась, поэтому в непрофильных задачах возможно снижение качества. Указана лицензия Apache-2.0, но автор рекомендует использовать модель главным образом для исследований и экспериментов.

Qwopus3.8-27B-Flash-TQ3_4S — сборка в формате GGUF модели Jackrong/Qwopus3.8-27B-Flash, разработанной как скоростной вариант Qwen/Qwen3.8-27B для агентных сценариев. Это плотная мультимодальная модель с поддержкой диалога и анализа изображений и видео; в комплекте сохранена голова NextN/MTP для ускорения генерации методом self-speculative decoding. Файл модели занимает 13,6 ГБ, проектор зрения — 1,8 ГБ; README приводит тестирование на GPU RTX 3090 и контекст 32768 токенов в рекомендуемой конфигурации. Модель ориентирована на быстрые циклы работы агентов и генерацию кода. В README сообщаются результаты тестов Hard86, HumanEval и MBPP, а также ускорение декодирования на задачах с кодом при включённом MTP. Это заявление автора карточки; результаты зависят от конфигурации, а сравнение с базовой моделью проводилось при различающихся бюджетах рассуждений. Для загрузки TQ3_4S необходима специальная сборка turbo-tan/llama.cpp-tq3: стандартная llama.cpp этот тип тензоров не поддерживает. Лицензия — Apache-2.0.

Rombos-Coder-V2.5-Qwen-7b-GGUF — это GGUF-квантизованная версия кодовой языковой модели Rombos-Coder-V2.5-Qwen-7b, опубликованная и квантизованная bartowski с использованием llama.cpp и метода imatrix. Базовая модель разработана rombodawg и основана на семействе Qwen. Модель предназначена для генерации текста и программного кода, включая локальный запуск через llama.cpp или LM Studio. В репозитории представлены варианты от F16 до низкобитных квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-форматов, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер исходной модели обозначен как 7B; точные сведения об архитектуре, длине контекста, дополнительных модальностях и полном наборе поддерживаемых языков в README не указаны. Заявлен английский язык, а pipeline модели относится к text-generation. Сильной стороной является широкий выбор квантований, включая варианты, оптимизированные для ARM, а также высококачественные Q6 и Q5, рекомендованные автором. Ограничения зависят от выбранного варианта: более компактные квантования снижают качество, а ARM-специализированные файлы требуют соответствующих аппаратных инструкций и не рекомендуются для Mac или Windows. Для использования указан формат диалогового шаблона ChatML. Лицензия — Apache-2.0; ссылка на лицензию ведёт к лицензии Qwen2.5-Coder-14B.

CodeLlama 13B Python — языковая модель Meta, специализированная на генерации программного кода, представленная в формате GGUF и квантованная TheBloke. В основе лежит архитектура Llama с 13 миллиардами параметров; исходная версия доступна как CodeLlama 13B Python в формате Hugging Face. Модель предназначена для решения задач программирования по текстовому описанию: генерации кода с учётом ограничений, прохождения примеров тестов и помощи в разработке. В README приведён шаблон запроса для таких задач. Модель работает с текстом и кодом, однако конкретный набор естественных языков, максимальный размер контекста и другие параметры не указаны. Формат GGUF поддерживает метаданные и специальные токены и совместим с llama.cpp, а также рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, ctransformers и llama-cpp-python. Доступны варианты квантования от 2 до 8 бит для инференса на CPU и GPU; конкретные характеристики качества, скорости и требований к памяти зависят от выбранного варианта. Квантование может сопровождаться компромиссом между эффективностью и точностью, а README не содержит подробной оценки ограничений модели. Лицензия указана как llama2.

Gemma4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2 — дообученная модель yuxinlu1 на базе Google Gemma 4 12B Instruct для генерации кода и выполнения многошаговых технических задач с использованием инструментов. Это плотная архитектура Gemma 4 Unified, опубликованная в формате safetensors с весами bf16; README ориентирует эту версию прежде всего на разработчиков, которые хотят запускать модель в Transformers, создавать квантизованные варианты или продолжать дообучение. Модель предназначена для написания и отладки кода, работы с командами и инструментами, а также циклов «диагностика — исправление — проверка». В README приведён результат около 55% на локальном тесте tau2-bench telecom из 20 задач против примерно 15% у базовой модели при одинаковой конфигурации. Это сравнение ограничено описанным автором тестовым стендом и не сопоставимо напрямую с опубликованными результатами бенчмарка. Автор также сообщает о небольшом снижении результата на MMLU-Pro относительно базы. Модель поддерживает диалог и использует встроенный протокол вызова инструментов Gemma 4; README также описывает режим рассуждения перед ответом. Лицензия — Apache-2.0. Карточка не приводит сведений о размере контекстного окна или языках обучения, поэтому они здесь не уточняются.