II.7DevOps, облако и эксплуатация IT-систем

OpenThinker-Agent-v1-GGUF — набор GGUF-квантизаций модели OpenThinker-Agent-v1, разработанной командой open-thoughts и подготовленной пользователем bartowski с использованием llama.cpp и imatrix-калибровки. Модель ориентирована на агентские сценарии, работу с терминалом, генерацию кода и задачи software engineering. Обучение связано с датасетами OpenThoughts-Agent-v1-SFT и OpenThoughts-Agent-v1-RL. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 размером 16,39 ГБ до низкобитных квантизаций, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3_K; конкретный размер и качество зависят от выбранного файла. Для взаимодействия используется chat-шаблон с маркерами system, user и assistant. Данные о точной архитектуре, числе параметров, поддерживаемых языках и размере контекста в README не указаны. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и оптимизация вариантов imatrix для сохранения качества при уменьшении размера. Более компактные варианты подходят для систем с ограниченной памятью, но могут уступать старшим версиям по качеству. Модель распространяется по лицензии Apache-2.0.

AnkitAI/Parable-Qwen3-8B-Claude-Fable-5-GGUF — локальная текстовая модель, дообученная на базе Qwen3-8B разработчиком AnkitAI. Она создана для генерации текста, программирования, терминальных задач, рассуждений, планирования и использования инструментов в агентских сценариях. Обучение выполнено методом QLoRA на трассировках реальных сессий Claude Fable 5 и решениях терминальных задач, а не на синтетических вопросах и ответах. Заявлен английский язык. Модель имеет 8 млрд параметров и распространяется в формате GGUF для llama.cpp, Ollama и LM Studio. Доступны квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0; рекомендуемая Q4_K_M занимает около 4,8 ГБ и рассчитана примерно на 6 ГБ RAM или VRAM. Базовый контекст Qwen3 в 128K токенов сохраняется, хотя дообучение выполнялось на последовательностях длиной 1 024 токена, поэтому специализированное поведение наиболее выражено в начале длинных сессий. Ответы открываются блоком рассуждений <think>, который рекомендуется удалять перед показом пользователю. Сильные стороны модели — агентское планирование, tool use, программирование, отладка и работа с терминалом. В заявленной проверке 23 из 34 задач были полностью решены корректно, а 30 — полностью или частично. Ограничения включают слабые результаты на генерации конфигураций и состояниях shell; команды, код и конфигурационные файлы необходимо проверять. Модель распространяется по лицензии Apache-2.0.

Victoria — производная модель rmonsurate на основе Qwen/Qwen3.8-Flash-Next, предназначенная для генерации текста, программирования и агентных задач в терминале. Разработчик сократил число экспертов MoE с 512 до 288 на слой, затем переобучил модель с 4-битным представлением, чтобы восстановить качество при меньшем объёме вычислений. Активными при генерации остаются 5,9 млрд параметров на токен; доступны сборки NVFP4 для vLLM на NVIDIA Blackwell и GGUF Q4_K_M для llama.cpp. Модель показала 70,0% в среднем по трём запускам Terminal-Bench 2.1 для сборки NVFP4 и 75,28% в одном запуске для GGUF; результаты получены на разных сборках и протоколах. В README также приведены результаты HumanEval. Проверка проводилась на текстовых задачах, поэтому поддержку анализа изображений, указанную для базовой модели, карточка Victoria не подтверждает. Для NVFP4 заявлены 262144 токена контекста. Модель ориентирована на английский язык. Репозиторий указывает лицензию «other», а конкретные условия необходимо сверить с файлами лицензии в репозитории.

Qwen3.6-27B-MTPLX-Optimized-Speed-V2 — квантизированная версия модели Qwen3.6-27B, разработанная на базе Qwen/Qwen3.6-27B и адаптированная Youssofal для инференса через движок MTPLX на компьютерах Apple Silicon. Модель предназначена прежде всего для локальной генерации кода, использования инструментов и длительных агентских сессий на macOS, включая работу в OpenCode, Claude Code, Cline и других coding agents через OpenAI- и Anthropic-совместимые API. Модель использует архитектуру qwen3-next-mtp с нативной multi-token prediction глубиной до 3 токенов и гибридную квантизацию примерно до 5,8 бит на вес. Большинство весов представлены в 4-битном формате, чувствительные компоненты — в 8-битном или bf16. Размер модели составляет 19,9 ГБ. В комплект входит sidecar с весами MTP, поэтому отдельная draft-модель не требуется. Проверка проводилась на Apple M5 Max с 128 ГБ unified memory; MTPLX рекомендует модель для Mac с 32 ГБ unified memory и более. Заявлены скорость декодирования до 45,7 токена в секунду при контексте 17 тысяч токенов и пиковый speculative multiplier 2,86x, однако эти показатели зависят от оборудования и сценария. Сильные стороны модели — сниженная потеря качества квантизации относительно исходной версии, высокая эффективность speculative decoding в длинном контексте, ускоренная работа в агентских сценариях и сохранение качества обычного декодирования благодаря проверке токенов по точному соотношению вероятностей. Ограничения включают больший размер файла по сравнению с предыдущей версией, что может ухудшать скорость коротких холодных сессий и повышать требования к памяти. README не указывает максимальную длину контекста и список поддерживаемых языков. Модель и инструменты MTPLX распространяются по лицензии Apache-2.0.

Qwopus3.6-27B-Coder — плотная языковая модель с 27 млрд параметров от Jackrong, дообученная на базе Jackrong/Qwopus3.6-27B-v2 для агентного программирования и работы с инструментами. Она предназначена для генерации и исправления кода на уровне репозитория, анализа ошибок, подготовки патчей, обзора кода и многошаговых задач разработки. Модель обучалась на траекториях работы агентов и поддерживает диалог и структурированные вызовы инструментов; README приводит результат 67% на SWE-bench Verified в режиме без рассуждений для запуска GGUF Q5_K_M. В карточке заявлена поддержка длинного контекста, но для контекстов свыше 32 тысяч токенов может понадобиться масштабирование RoPE/YaRN. Формат весов в метаданных — safetensors. Основные языки в метаданных: английский, китайский, испанский, русский и японский. Модель выпущена как экспериментальная версия сообщества; она специализируется на коде, не проходила полной оценки безопасности и широкого тестирования на общих задачах. Поведение вызова инструментов зависит от формата промпта и схемы инструментов. Лицензия — Apache-2.0.

Это вариант CodeLlama-13B-Instruct, созданный путём загрузки исходной модели Meta с 4-битной квантизацией NF4 через bitsandbytes и последующего преобразования слоёв linear4bit в FP16. Модель содержит 12,9 млрд параметров, построена на архитектуре Llama и рассчитана на генерацию текста; заявленная длина контекста — 16 384 токена. Модель предназначена для генерации кода и ответов на инструкции, связанных с программированием. Upscaling слоёв в FP16 призван убрать затраты на квантование и деквантование при каждом проходе во время инференса. Исходная NF4-квантизация была с потерями, поэтому автор предупреждает о возможном снижении качества по сравнению с официальной CodeLlama-13B-Instruct. Модель распространяется по лицензии Apache-2.0.

Модель beki/flair-pii-distilbert — модель распознавания именованных сущностей для выявления персональных данных в англоязычном тексте. Разработчик обучил её в Flair на трассировках протоколов, сгенерированных набором Privy; для представлений токенов используются эмбеддинги DistilBERT. Модель размечает пять классов сущностей, включая имена людей, названия мест и организаций. Модель предназначена для поиска и разметки PII в тексте, например при проверке журналов протоколов. В README приведён показатель F1 0,9522. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT. Указанная в карточке совместимость пакета spaCy — версии от 3.4.1 до 3.5.0.

GLM-5.1-GGUF — квантованное распространение модели GLM-5.1, подготовленное Unsloth на базе zai-org/GLM-5.1. Это текстовая генеративная модель, ориентированная прежде всего на агентную разработку программного обеспечения и сложные инженерные задачи. Модель предназначена для написания и анализа кода, генерации репозиториев, работы с терминалом и многоэтапного решения задач с использованием инструментов. Согласно README, GLM-5.1 сохраняет эффективность на длинных сессиях, умеет разбивать неоднозначные задачи на этапы, проводить эксперименты, анализировать результаты, находить блокеры и пересматривать стратегию на протяжении сотен итераций и тысяч вызовов инструментов. Заявлена поддержка английского и китайского языков, режим text-generation и архитектурная маркировка GLM MoE DSA; точный размер модели и объём контекста не указаны. К сильным сторонам относятся агентное программирование, задачи SWE-Bench Pro, генерация репозиториев и реальные терминальные сценарии. Ограничения включают отсутствие в представленных данных сведений о мультимодальности, точном числе параметров, требованиях к оборудованию и качестве в других прикладных областях; приведённые результаты являются заявленными benchmark-показателями и не гарантируют аналогичную производительность в каждом сценарии. Распространение указано по лицензии MIT.

ROME — агентная языковая модель, представленная FutureLivingLab и созданная в рамках экосистемы ALE (Agentic Learning Ecosystem). Она предназначена для автономного выполнения многошаговых задач с использованием инструментов, в том числе работы в терминале и программной разработки. В карточке заявлены результаты 24,72% на Terminal-Bench 2.0 и 57,40% на SWE-bench Verified. Модель построена на архитектуре Qwen3 MoE и имеет 2,4 млрд параметров по метаданным; README описывает вариант ROME-30B-A3B с 30 млрд общих и 3 млрд активных параметров. Метаданные указывают контекст до 262 144 токенов, поддержку диалогов и интерфейс вызова инструментов. Лицензия — Apache-2.0. В README описаны обучение с подкреплением и алгоритм IPA для улучшения устойчивости и выполнения длительных задач. Заявления о безопасности и качестве приводятся разработчиком; независимая проверка этих характеристик в предоставленных данных не описана. Также есть расхождение в числе параметров между README и метаданными.

QuantFactory/Llama-3-Groq-8B-Tool-Use-GGUF — квантизированная версия модели Llama-3-Groq-8B-Tool-Use, созданная QuantFactory с использованием llama.cpp на основе модели Groq. Это авторегрессионная языковая модель с оптимизированной transformer-архитектурой и примерно 8 млрд параметров, дообученная полным fine-tuning и методом Direct Preference Optimization (DPO) на базе Llama 3 8B. Модель предназначена прежде всего для tool use и function calling: взаимодействия с API, обработки структурированных данных и выполнения сложных последовательностей вызовов инструментов. Она принимает текст и генерирует текст с поддержкой вызовов функций в структурированном формате. Заявленный язык — английский; сведения о размере контекста и мультимодальных возможностях отсутствуют. На Berkeley Function Calling Leaderboard модель получила 89,06% общей точности, что в карточке указано как лучший результат среди открытых 8B-моделей. Для общих вопросов и открытой генерации может быть предпочтительнее универсальная языковая модель. Модель способна генерировать неточный или предвзятый контент и требует дополнительных мер безопасности. Результаты чувствительны к параметрам sampling; в качестве отправной точки рекомендованы temperature 0,5 и top_p 0,65. Указана лицензия Meta Llama 3 Community License.

Карточка модели open-thoughts/OpenThinker-Agent-v1-SFT на Hugging Face совпадает с карточкой baerquants/OpenThinker-Agent-v1-SFT, поэтому описание составлено по ней. OpenThinker-Agent-v1-SFT — модель baerquants, созданная в рамках открытого проекта OpenThoughts-Agent для выполнения агентных задач. Это этап supervised fine-tuning модели Qwen/Qwen3-8B: обучение проводилось на трассах OpenThoughts-Agent-v1-SFT, а последующее RL-дообучение есть в отдельной версии OpenThinker-Agent-v1. Модель с плотной архитектурой Qwen3ForCausalLM содержит 7,6 млрд параметров, принимает текст и генерирует текст; максимальная длина контекста — 40 960 токенов. Модель ориентирована на агентные сценарии разработки и работы в терминале: формирование shell-команд, выполнение задач Terminal-Bench и исправление программных ошибок, включая задачи по C# и Java из набора InferredBugs. В карточке проекта сообщаются результаты бенчмарков для версии после SFT и RL, а не этой SFT-версии отдельно. Репозиторий использует формат Safetensors, библиотеку Transformers и лицензию Apache-2.0.

StarCoder2-15B-GGUF — квантизированная версия модели StarCoder2 15B, разработанной командой BigCode и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для генерации и обработки программного кода, включая сценарии локального запуска и использования с совместимыми инструментами на базе llama.cpp. В README указан тег text-generation, однако конкретный перечень поддерживаемых языков программирования и естественных языков не приведён. Модель содержит 15 млрд параметров и поддерживает контекст размером 6144 токена. Доступны варианты квантизации от 2 до 8 бит размером примерно от 6,19 до 17 ГБ. Вариант Q4_K_M обозначен как рекомендуемый для сбалансированного сочетания размера и качества, а Q5_K_M и Q5_K_S — как варианты с низкой потерей качества. Более агрессивная квантизация уменьшает требования к памяти, но может существенно ухудшать качество; точные архитектурные характеристики и модальности в README не указаны. Модель ориентирована на задачи, связанные с кодом, но README не содержит подробных результатов тестирования или описания ограничений качества. Лицензия указана как bigcode-openrail-m. Оригинальная модель размещена под идентификатором bigcode/starcoder2-15b.

Карточка модели CollectionStudio/chronos-bolt-base на Hugging Face совпадает с карточкой amazon/chronos-bolt-base, поэтому описание составлено по ней. Chronos-Bolt Base — предварительно обученная модель прогнозирования временных рядов от Amazon. Она построена на архитектуре T5 encoder-decoder, содержит 99,1 млн параметров и принимает исторические значения ряда, разбивая их на патчи. Модель напрямую строит многокроковый вероятностный прогноз в виде квантилей; длина контекста — до 512 наблюдений. Модель предназначена для zero-shot прогнозирования без дообучения на целевых рядах. Её можно применять для прогнозирования спроса, нагрузки и других числовых показателей; README также указывает поддержку ковариат при развертывании через SageMaker. По заявлению разработчиков, Chronos-Bolt быстрее и экономнее по памяти исходных Chronos сопоставимого размера и показывает высокое качество на наборе из 27 датасетов. Модель распространяется в формате safetensors под лицензией Apache-2.0.

Codestral-22B-v0.1-abliterated-v3-GGUF — это GGUF-квантизованная версия модели Codestral-22B-v0.1-abliterated-v3. Исходная модель размещена пользователем failspy, а квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. В карточке не указано, кто разработал исходную архитектуру Codestral. Модель предназначена прежде всего для генерации и обработки программного кода, поскольку имеет тег code и относится к задаче text-generation. Она доступна в нескольких вариантах квантизации GGUF с размером файлов примерно от 6,64 до 23,64 ГБ, что позволяет выбирать баланс между качеством и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми названы варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; версии с более низкой разрядностью экономят память, но могут заметно терять в качестве. В README не указаны точная архитектура, размер контекстного окна, поддерживаемые естественные языки и дополнительные модальности, поэтому эти характеристики нельзя достоверно определить по имеющимся данным. Также предупреждается, что формат prompt не задан в исходной карточке и предложенный шаблон может быть некорректным. Модель распространяется по лицензии MNPL-0.1; в карточке приведена ссылка на её текст.

Это англоязычная модель Sentence Transformers, дообученная thanhpham1 на базе sentence-transformers/all-mpnet-base-v2 на 5 146 парах технических текстов. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска и сравнения текстов; близость оценивается косинусным сходством. Архитектура включает MPNet, усреднение токенных представлений и нормализацию векторов. Обучение Matryoshka позволяет использовать укороченные представления размерностью 512, 256, 128 или 64 с компромиссом между размером вектора и качеством поиска. Модель подходит для поиска ответов и фрагментов в технической документации, сопоставления технических вопросов с релевантными пояснениями, поиска перефразировок и кластеризации технических текстов. README приводит метрики поиска на нескольких размерностях, однако подробности тестового набора ограничены. Максимальная длина последовательности в README указана как 384 токена, а метаданные указывают контекст до 514 токенов. Лицензия Apache-2.0.

Laguna-S-2.1-Uncensored-APEX-GGUF — квантизированная GGUF-версия модели Laguna S 2.1, опубликованная SC117 на основе официальной модели poolside. Это модель Mixture-of-Experts для агентного программирования, долгосрочных задач и сценариев с использованием инструментов. Версия дополнительно обработана с помощью abliterix Trial 16 для существенного снижения частоты отказов и затем квантизирована в смешанной точности APEX с использованием imatrix. Модель имеет около 118 млрд параметров в общей сложности и около 8 млрд активных параметров на токен. Архитектура включает 256 маршрутизируемых экспертов и одного общего эксперта с выбором top-10, GQA, а также чередование глобального и скользящего оконного внимания: 48 слоёв, из которых 12 используют глобальное внимание, а 36 — локальное с окном 512 токенов. Заявлена поддержка контекста примерно до 1 млн токенов и опционального встроенного рассуждения с использованием инструментов. В README явно указан английский язык; сведения о других языках и мультимодальности не приведены. К сильным сторонам относятся высокая ёмкость MoE при сравнительно небольшом числе активных параметров, ориентация на программирование и длинные рабочие процессы, а также уменьшенная склонность к отказам. Ограничения связаны с тем, что это uncensored-редакция: её поведение может существенно отличаться от официальной Laguna-S-2.1, поэтому необходимы оценка безопасности, контроль доступа и аудит. Модель распространяется по лицензии OpenMDW-1.1; также следует учитывать условия poolside.

Ornith-1.5-35B-A3B — среднеразмерная модель семейства Ornith-1.5, разработанная командой Ornith. Это модель типа mixture-of-experts, ориентированная прежде всего на программирование и агентные сценарии. Она предназначена для решения задач в терминале, разработки и исправления программного кода, а также для автономных многошаговых рабочих процессов, где требуется выбирать стратегии, взаимодействовать с инструментами и выполнять rollouts. Модель содержит 35 млрд параметров, но активирует около 3 млрд параметров на токен, что снижает вычислительную нагрузку по сравнению с плотными моделями сопоставимого общего размера. Ornith-1.5 развивает подход Ornith-1.0: модель совместно оптимизирует генерацию задач, построение scaffold и rollouts решений с использованием reinforcement learning и самоулучшения. В README указано, что она превосходит сопоставимую Qwen3.6-35B-A3B и ряд плотных моделей на бенчмарках агентного программирования и кодинга, включая Terminal-Bench 2.1 и SWE-bench Verified. Модель опубликована для библиотеки MLX и относится к задачам генерации текста. README не указывает поддерживаемые языки, размер контекстного окна, мультимодальные возможности, точные требования к оборудованию или лицензию, поэтому эти характеристики нельзя определить по представленным данным. Также заявленные результаты зависят от конкретных бенчмарков и конфигураций, а пригодность модели для других задач требует отдельной проверки.

Ornith-1.5-397B — флагманская модель семейства Ornith-1.5 от ornith-ai, созданная как модель с открытыми весами для агентных задач и самоулучшения. Это смесь экспертов (MoE) на 397 млрд параметров, реализованная в архитектуре Qwen3.5 MoE; репозиторий содержит веса SafeTensors, а лицензия — MIT. Модель предназначена прежде всего для агентного программирования: выполнения задач в терминале, исправления ошибок и работы с репозиториями кода. Она поддерживает диалог и вызов инструментов через совместимый с OpenAI интерфейс. Заявленное окно контекста — до 262 144 токенов; README сообщает о высоких результатах на Terminal-Bench 2.1 и DeepSWE. Для запуска требуется многокарточная система: в формате bf16 веса занимают около 800 ГБ; в README приведён пример с восемью GPU H200. Для уменьшения требований авторы предлагают использовать отдельные квантизованные сборки FP8 или INT4. Модель также можно запускать с расширением контекста YaRN, но оно может немного снижать качество на обычной длине запросов.

Fastiraz/Ornith-1.5-9B-GGUF — квантованное представление модели Ornith-1.5-9B, разработанной командой Ornith AI. Это плотная языковая модель с 9 млрд параметров, предназначенная для эффективного развёртывания на одной GPU; мобильная квантованная версия также ориентирована на запуск на периферийных устройствах и смартфонах. Модель относится к классу генеративных текстовых моделей и предназначена прежде всего для программирования, решения инженерных задач и работы с инструментами командной строки. Ornith-1.5 развивает Ornith-1.0, созданную на основе Qwen3.5 и Gemma4 с дополнительным непрерывным предварительным обучением, промежуточным обучением и постобучением. В новой версии совместно оптимизируются генерация задач, построение scaffolding и rollouts решений с применением reinforcement learning и цикла самоулучшения. По заявленным результатам модель показывает сильные показатели в задачах разработки программного обеспечения: 70,6 на SWE-bench Verified, 47,5 на SWE-bench Pro и 46,2–47 на Terminal-Bench 2.1 в зависимости от используемого агента. Ключевыми преимуществами являются компактный размер, возможность локального запуска и специализация на агентных сценариях программирования. README не содержит сведений о поддерживаемых языках, длине контекста, точных параметрах квантования, мультимодальности, устойчивости к ошибкам или ограничениях качества вне приведённых тестов, поэтому эти характеристики требуют дополнительной проверки. Модель распространяется по лицензии MIT; карточка указывает pipeline для генерации текста.

Qwen2.5-Coder-32B-GGUF — квантованная в формате GGUF версия базовой модели Qwen2.5-Coder-32B, разработанной командой Qwen. Квантование подготовил bartowski на основе llama.cpp. Модель предназначена прежде всего для генерации и автодополнения исходного кода, а также других сценариев текстовой генерации, связанных с программированием; это базовая модель, поэтому она не ориентирована на диалоговый режим и instruct-задачи. Модель имеет 32 миллиарда параметров и обучена на 5,5 триллиона токенов. Заявлена поддержка контекста до 128 тысяч токенов с настройками RoPE и коэффициентом YaRN 4.0 при исходной длине контекста 32 тысячи токенов. В метаданных указан английский язык. Формат GGUF и использование llama.cpp упрощают применение совместимых локальных средств инференса, однако конкретные требования к памяти и производительность зависят от выбранного уровня квантования и оборудования. К сильным сторонам относятся специализация на коде, большой размер модели и расширенный контекст. Ограничения включают базовый, а не инструкционно настроенный характер, возможное снижение точности из-за квантования и риск генерации ошибочного или небезопасного кода. Модель распространяется по лицензии Apache 2.0.

Ornith-1.0-35B-GGUF — открытая языковая модель семейства Ornith-1.0, разработанная командой проекта Ornith и ориентированная на агентное программирование. Модель предназначена для генерации кода, автономного выполнения задач разработки и работы в инструментах командной строки, включая сценарии, оцениваемые в Terminal-Bench и SWE-bench. Версия 35B позиционируется как облегчённый вариант семейства для эффективного развёртывания на одной GPU. Модель относится к текстовым моделям генерации; точная архитектура, размер контекстного окна и перечень поддерживаемых языков в карточке не указаны. В описании семейства упоминается обучение с подкреплением, в ходе которого оптимизируются как траектории решения, так и управляющие их scaffolds, что должно улучшать поиск решений и качество результатов. Для Ornith-1.0-35B заявлены результаты 64,2 в Terminal-Bench 2.1 (Terminus-2), 62,8 в Terminal-Bench 2.1 (Claude Code), 75,6 в SWE-bench Verified и 50,4 в SWE-bench Pro. Сильными сторонами модели являются специализация на агентных задачах программирования, открытый исходный доступ и заявленная эффективность развёртывания. Ограничения включают отсутствие в карточке подробностей о языках, контексте, точной архитектуре и возможностях за пределами текстового программирования; приведённые показатели зависят от используемого агента и методики оценки. Модель распространяется по лицензии MIT без региональных ограничений.

Ornith-1.0-397B-GGUF — открытая языковая модель из семейства Ornith-1.0, разработанная deepreinforce-ai и представленная в формате GGUF командой Unsloth. Модель предназначена прежде всего для агентного программирования и задач, связанных с автономной разработкой ПО, включая работу с терминалом, решение инженерных задач и генерацию кода. В README заявлено, что семейство ориентировано на высокую производительность в Terminal-Bench 2.1, SWE-Bench, NL2Repo и OpenClaw. Модель относится к архитектуре Qwen 3.5 MoE и имеет заявленный размер 397B параметров; при этом она описывается как вариант, рассчитанный на эффективное развертывание на одной GPU. Ornith-1.0 использует обучение с подкреплением, оптимизируя не только итоговые решения, но и scaffolding — структуру поиска и выполнения шагов, которая приводит к этим решениям. Это может быть сильной стороной в многошаговых агентных сценариях и программировании, однако конкретные характеристики контекстного окна, языков, поддерживаемых модальностей, требований к памяти и особенностей квантования GGUF в предоставленных данных не указаны. Модель распространяется по лицензии MIT, без региональных ограничений, что допускает свободное использование при соблюдении условий лицензии. Заявленные результаты бенчмарков следует интерпретировать с учетом конкретного раннера и конфигурации оценки: для Terminal-Bench 2.1 указаны результаты 77,5 с Terminus-2 и 78,2 с Claude Code.

Qwopus3.5-4B-Coder-GGUF — компактная модель для программирования и агентных сценариев, разработанная Jackrong на основе Qwen3.5-4B. Она дообучена для отладки кода, локализации ошибок, подготовки минимальных исправлений, структурированного использования инструментов, function calling и задач, в которых требуется пошаговое рассуждение с обратной связью от среды. В обучении заявлены Trace Inversion, траектории взаимодействия с инструментами и curriculum SFT, направленные на устойчивое форматирование и работу с длинными контекстами. Модель представляет собой плотную модель примерно на 4 млрд параметров и распространяется в формате GGUF для локального запуска, в том числе через llama.cpp. В метаданных указана поддержка текстово-изобразительных задач и мультимодальности, однако конкретные ограничения визуального ввода и размер контекстного окна не приведены. Заявлены языки English, Chinese, Spanish, Russian и Japanese. Также модель тестировалась с Multi-Token Prediction при n=2 относительно эталона Qwen3.5-4B-MTP. Сильные стороны модели — небольшой размер, ориентация на локальное выполнение, отладку, агентные циклы и инструментальные вызовы; автор позиционирует её как подходящую для ноутбуков с 16 ГБ памяти, простых повторяющихся задач и мониторинга сервисов. При этом README не содержит подробных результатов бенчмарков, требований к оборудованию, точного контекстного окна или оценки качества мультимодальных возможностей, поэтому модель не следует считать универсальной заменой более крупным системам. Лицензия — Apache-2.0.

Это квантованная сборка NVFP4 модели MiMo-V2.6-Distill-Qwen-9B, разработанной Xiaomi MiMo и подготовленной для llama.cpp в формате GGUF. Исходная модель — мультимодальная модель на 9 млрд параметров, дообученная методом SFT на базе Qwen3.5-9B на данных, созданных более крупной моделью MiMo-V2.6. В репозитории также есть отдельный файл mmproj с визуальным энкодером для обработки изображений и видео. Модель предназначена для агентного программирования, работы с инструментами и терминалом, автоматизации, анализа интерфейсов и экранов, а также задач кибербезопасности. Гибридная архитектура сочетает 24 слоя линейного внимания Mamba-2 и 8 слоёв полного внимания; контекстное окно составляет 262 144 токена. Шаблон чата по умолчанию включает режим рассуждений. NVFP4-сборка занимает около 5,18 ГиБ, а ускорение NVFP4 требует видеокарты NVIDIA Blackwell; на более старых GPU используются более медленные пути. Это исследовательская отправная точка для экспериментов с агентным обучением с подкреплением, а не отполированный продукт. Разработчик приводит результаты бенчмарков, но они не были независимо воспроизведены для этой сборки. У модели нет доступной головы multi-token prediction, а KV-кэш при контексте 256K требует значительной памяти. Лицензия — MIT.

Orchestrator-8B GGUF — модель оркестрации инструментов и экспертных моделей, разработанная NVIDIA и University of Hong Kong. Эта версия распространяется пользователем Mungert в формате GGUF и создана с использованием llama.cpp. В основе лежит 8-миллиардная decoder-only Transformer-модель Qwen3-8B, обученная на GeneralThought-430K и ToolScale. Заявленный язык модели — английский; поддерживается генерация текста. Модель предназначена для сложных многошаговых и многоходовых агентских задач, в которых требуется координировать неоднородные инструменты, включая поиск, выполнение кода, а также специализированные и универсальные LLM. При обучении применялось многоцелевое обучение с подкреплением GRPO, оптимизирующее точность, задержку, стоимость и соответствие пользовательским предпочтениям. Разработчики заявляют об обобщении на ранее не встречавшиеся инструменты и конфигурации ценообразования. Согласно README, на Humanity’s Last Exam модель получила 37,1% и демонстрировала более высокую эффективность по сравнению с рядом крупных монолитных моделей, включая GPT-5, Claude Opus 4.1 и Qwen3-235B-A22B; также приводятся результаты на FRAMES и τ²-Bench. Конкретный размер контекста и характеристики модальностей не указаны. GGUF-файл подвергнут квантованию с выборочным повышением точности отдельных слоёв, что может улучшать качество при ограниченной разрядности ценой увеличения размера файла. Модель предназначена только для исследований и разработок и распространяется по лицензии Apache 2.0.

Карточка модели Deepdive404-3/Ornith-1.5-397B на Hugging Face совпадает с карточкой ornith-ai/Ornith-1.5-397B, поэтому описание составлено по ней. Ornith-1.5-397B — флагманская модель семейства Ornith-1.5 от ornith-ai, созданная как модель с открытыми весами для агентных задач и самоулучшения. Это смесь экспертов (MoE) на 397 млрд параметров, реализованная в архитектуре Qwen3.5 MoE; репозиторий содержит веса SafeTensors, а лицензия — MIT. Модель предназначена прежде всего для агентного программирования: выполнения задач в терминале, исправления ошибок и работы с репозиториями кода. Она поддерживает диалог и вызов инструментов через совместимый с OpenAI интерфейс. Заявленное окно контекста — до 262 144 токенов; README сообщает о высоких результатах на Terminal-Bench 2.1 и DeepSWE. Для запуска требуется многокарточная система: в формате bf16 веса занимают около 800 ГБ; в README приведён пример с восемью GPU H200. Для уменьшения требований авторы предлагают использовать отдельные квантизованные сборки FP8 или INT4. Модель также можно запускать с расширением контекста YaRN, но оно может немного снижать качество на обычной длине запросов.

second-state/StarCoder2-3B-GGUF — это квантованная в формате GGUF версия языковой модели StarCoder2 3B, разработанной командой BigCode и подготовленной к распространению компанией Second State Inc. Модель предназначена для генерации и дополнения программного кода, а также других сценариев работы с текстом, связанных с программированием. В карточке указана интеграция с библиотекой Transformers и назначение text-generation. Модель основана на bigcode/starcoder2-3b и имеет размер 3 миллиарда параметров. Доступны варианты квантования от 2 до 8 бит с размером файлов примерно от 1,15 до 3,22 ГБ. Заявленный размер контекста — 3072 токена. Представлены различные уровни компромисса между размером файла и качеством: Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые, тогда как варианты с более низкой разрядностью могут заметно терять в качестве. Основное преимущество модели — возможность локального запуска при относительно небольшом объёме памяти, особенно в низкоразрядных вариантах. Ограничения включают потерю качества из-за квантования, наиболее выраженную у Q2 и Q3, а также отсутствие в README сведений о поддерживаемых языках программирования и естественных языках, точной архитектуре, мультимодальности и результатах оценки. Указана лицензия bigcode-openrail-m.

Tinfield 1 — разработанная badtheorylabs дообученная агентная модель на базе Qwen3.8-Flash-Next для работы в терминале и длительных задач по разработке программного обеспечения. Она принимает текст и изображения и выдаёт текст; в метаданных указаны возможности диалога, работы с кодом, вызова инструментов и анализа изображений. Заявлены контекст 256 тыс. токенов и архитектура Qwen4ExpForConditionalGeneration; в README для основной версии указаны веса BF16 и 177 млрд параметров всего, из которых активно 6,6 млрд на токен. В README приведены результаты BF16-версии: 33,0 на Terminal-Bench 4.0 и 62 на DeepSWE v1.1. Также описаны компактные квантованные сборки для запуска на машине с 64 ГБ памяти, однако эти сборки не оценивались на указанных бенчмарках. Лицензия обозначена как other, поэтому конкретные условия следует сверить с карточкой модели.

zen4-coder-pro-i1-GGUF — набор квантованных GGUF-версий модели zenlm/zen4-coder-pro. Базовая модель разработана zenlm, а квантование выполнено mradermacher. Модель предназначена прежде всего для генерации и обработки программного кода, включая локальный запуск в совместимых инструментах для GGUF. Доступны варианты квантования i1-IQ и i1-Q с размерами примерно от 16,3 до 65,6 ГБ. README указывает английский язык, библиотеку Transformers и текстовую модальность; сведения об архитектуре, количестве параметров и размере контекста не приведены. Варианты различаются компромиссом между размером, скоростью и качеством: Q4_K_M отмечен как быстрый и рекомендуемый, Q4_K_S — как оптимальный по размеру, скорости и качеству, а некоторые низкобитные варианты характеризуются сниженным качеством. Основное преимущество модели — возможность выбрать подходящий уровень квантования для локального использования и ограниченных аппаратных ресурсов. Ограничения связаны с потерями качества у наиболее агрессивно квантованных вариантов, а также с отсутствием в README подробных результатов оценки и технических характеристик базовой модели. Модель распространяется по лицензии Apache-2.0.

Myric/Laguna-S-2.1-APEX-GGUF — неофициальная общественная GGUF-квантизация модели poolside/Laguna-S-2.1, разработанная сообществом Myric. Базовая модель представляет собой open-weight агентную MoE-модель для программирования с общим объёмом 118 млрд параметров и примерно 8 млрд активных параметров. Она предназначена для генерации кода, решения задач разработки и агентных сценариев. Доступны варианты с разной степенью сжатия: от APEX-i-quality размером около 73,9 ГБ до экспериментального APEX-i-mini размером около 43,6 ГБ. Для ускорения генерации предусмотрена совместная работа с draft-моделью DFlash в режиме speculative decoding. Архитектура включает 48 слоёв, 256 маршрутизируемых и один общий эксперт, top-10 маршрутизацию, GQA с softplus-гейтингом на уровне голов, а также смешанное sliding-window/global attention. Заявленный контекст составляет 1 млн токенов. APEX распределяет точность квантизации с учётом роли тензора и слоя, сохраняя более высокую точность для общих экспертов и краевых слоёв и сильнее сжимая разреженные маршрутизируемые эксперты. Языки модели в README не указаны. Сильной стороной является существенное уменьшение размера по сравнению с BF16-версией при сохранении потенциально близкого качества, а также возможность локального запуска. DFlash Q4_K_M имеет размер около 652 МБ и в приведённых тестах ускорял генерацию до 1,20 раза для варианта APEX-i-quality; на специализированных задачах разработчики базовой модели заявляют более высокие ускорения, однако эти результаты относятся к отдельной карточке DFlash. Показатели perplexity для APEX-вариантов ещё не измерены, поэтому качество квантизации не подтверждено. Вариант APEX-i-mini обозначен как экспериментальный и может заметно уступать более крупным вариантам. Для DFlash требуется форк llama.cpp от Poolside. Лицензия указана как openmdw-1.1. Квантизация не связана с Poolside или unsloth, предоставляется без гарантий и должна быть проверена перед использованием в критически важных сценариях.