II.7DevOps, облако и эксплуатация IT-систем

Kwaipilot_KAT-Coder-V2.5-Dev-GGUF — это квантизированная версия модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot. Сборка выполнена bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации кода, задач программирования и агентных сценариев, включая agentic coding. В карточке указано, что модель относится к архитектурам MoE и поддерживает английский и китайский языки. Точный размер исходной модели, максимальная длина контекста, набор поддерживаемых языков сверх указанных и сведения о дополнительных модальностях не приведены. Доступны варианты от BF16 до различных уровней квантизации, поэтому можно выбирать между качеством генерации, размером файла и требованиями к памяти; размер файлов составляет примерно от 16,9 до 69,38 ГБ. Сильной стороной являются специализированная направленность на программирование и широкий выбор квантизированных вариантов, пригодных для запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Ограничения связаны с потерями качества в более компактных вариантах квантизации, высокими требованиями к памяти и отсутствием в карточке подробных результатов тестирования. Модель распространяется по лицензии Apache-2.0.

Laguna-XS-2.1-bf16 — версия текстовой модели Poolside Laguna-XS-2.1, подготовленная mlx-community для запуска в формате MLX с точностью bfloat16. Это причинная MoE-модель с 2,6 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; базовая модель ориентирована на агентное программирование, работу в терминале и длительные задачи с кодом. Заявленная длина контекста — 262 144 токена. Репозиторий рассчитан на запуск на компьютерах Apple через mlx-vlm или oMLX с принудительным режимом VLM. mlx-lm пока не поддерживает архитектуру Laguna. В README приведены замеры производительности на MacBook Pro M5 Max с 128 ГБ памяти, однако они не характеризуют скорость на другом оборудовании. Лицензия — OpenMDW 1.1.

Это модель распознавания сущностей на основе BERT, разработанная авторами репозитория fef2 и дообученная поверх DeepPavlov/rubert-base-cased. Она размечает в русском тексте учётные данные (логины, пароли, токены и секретные ключи), персональные данные (ФИО, организации и локации) и номера договоров. Основной сценарий — обнаружение чувствительных фрагментов в пользовательских сообщениях и конфигурациях для их маскирования перед передачей внешней LLM. Модель использует архитектуру BertForTokenClassification с 205,1 млн параметров, контекстом до 512 токенов и 17 BIO-метками для восьми типов сущностей. Репозиторий также содержит детерминированный regex-слой; опубликованные показатели покрытия учётных данных относятся к объединению NER и regex, а сама NER предназначена дополнять регулярные выражения. Модель распространяется по лицензии Apache-2.0.

Ornith-1.0-35B-A3B-MXFP4_MOE_Hybrid-Imatrix-GGUF — это квантизированная GGUF-версия языковой модели Ornith-1.0-35B, разработанной Ornith AI; данные модели опубликованы пользователем jashepp. Согласно README, базовая модель создана на основе Gemma 4 и Qwen 3.5 и ориентирована прежде всего на агентные задачи программирования. Модель предназначена для генерации текста и кода, планирования и выполнения многошаговых правок в проектах, использования инструментов и других сценариев, где важны рассуждение и автономное решение задач. Модель использует архитектуру Mixture of Experts с заявленным общим размером 35B параметров и активными 3B параметрами (A3B). Репозиторий содержит варианты с ручной настройкой точности, включая MXFP4 для MoE-слоёв, Q8_0 и F16 для отдельных компонентов, а также калибровочную importance matrix (imatrix), оптимизированную для сохранения качества рассуждений при снижении требований к памяти. Указан английский язык; поддерживаются текстовые запросы и ответы. Размер контекста в README для самой модели не указан. К сильным сторонам относятся ориентация на agentic coding, планирование перед внесением изменений, поддержка reasoning, tool-use и chained distillation, а также уменьшенный по сравнению с полноразмерным вариантом объём памяти благодаря квантизации. Ограничения связаны с тем, что это квантизированная сборка, поэтому качество и скорость зависят от выбранного файла, совместимого движка GGUF и доступной видеопамяти; точные требования к оборудованию, бенчмарки и возможности работы на других языках в README не приведены. Модель распространяется по лицензии MIT.

AnkitAI/Parable-Qwen3-4B-Claude-Fable-5-GGUF — компактная локальная языковая модель для генерации текста, программирования и агентских сценариев. Она дообучена на базе Qwen/Qwen3-4B автором Ankit Aglawe с использованием QLoRA и данных о реальных многошаговых сессиях Claude Fable 5, а также транскриптов gpt5.5-terminal. Модель распространяется в формате GGUF и предназначена для запуска через llama.cpp, Ollama и LM Studio. Модель имеет около 4 млрд параметров и ориентирована на планирование, выбор инструментов, терминальные рабочие процессы и решение задач программирования. Рекомендуемая квантизация Q4_K_M занимает около 2,5 ГБ, доступны также варианты Q5_K_M, Q6_K, Q8_0 и F16. По приведённым оценкам, версия v3.1 сопоставима или превосходит базовую Qwen3-4B на тестах HumanEval, MBPP и их расширенных вариантах, а также чаще выдаёт содержательные ответы без чрезмерного скрытого рассуждения. Сильные стороны модели — небольшой размер, возможность офлайн-запуска, выраженная специализация на агентском поведении и структурированных задачах разработки. Ограничения включают меньшую точность в некоторых сценариях вызова функций по сравнению с базовой Qwen3-4B и отсутствие в README сведений о поддерживаемых языках, размере контекста и мультимодальности; заявлена только текстовая генерация. Базовая модель распространяется по лицензии Apache-2.0, однако при использовании производной модели необходимо учитывать условия лицензий обучающих наборов: AGPL-3.0 для Fable-5-traces и MIT для gpt5.5-terminal, а также возможные ограничения поставщиков исходных трасс.

Qwen2.5-Coder-7B-Instruct-abliterated-GGUF — GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-7B-Instruct-abliterated, разработанной huihui-ai и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и диалогового взаимодействия, прежде всего для задач программирования и запуска локально через llama.cpp или LM Studio. Модель содержит 7 миллиардов параметров и доступна в вариантах от F16 до различных квантований Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Размер файлов составляет примерно от 4,09 до 15,24 ГБ в зависимости от варианта. В README указан английский язык; сведения о других языках, длине контекста и мультимодальности отсутствуют. Для взаимодействия используется формат сообщений ChatML с ролями system, user и assistant. К сильным сторонам относятся специализация базовой модели на коде, широкий выбор квантований и возможность локального запуска на совместимом оборудовании. К ограничениям относятся возможная потеря качества при более сильном квантовании, отсутствие данных о бенчмарках и точной длине контекста, а также неопределённость характеристик варианта abliterated. Модель распространяется по лицензии Apache 2.0.

Qwen3.5-9B Uncensored Coder — текстовая LoRA-дообученная версия Qwen3.5-9B от mshodiqul на базе DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED. Модель предназначена для генерации кода, агентных сценариев, вызова инструментов и функций в диалоговом формате. Дообучение выполнено методом SFT на синтетических трассах вызова функций и агентного кодирования; тесты карточки отмечают успешную работу с одиночным и множественным выбором инструментов, а также в сценарии агента-программиста. Модель использует архитектуру Qwen3.5-9B и принимает текст, включая запросы с инструкциями для инструментов. Контекстное окно составляет 262 144 токена; практическая длина ответа обычно ограничена несколькими тысячами токенов. Зрительная часть базовой модели сохранена, но в этом дообучении не участвовала. Лицензия — Apache-2.0. Среди известных ограничений — уход в посторонние шаблоны при длинных запросах на bash или скрипты, когда включён блок рассуждений; для таких задач в карточке рекомендуются соответствующий reasoning parser или отключение рассуждений. При вопросе о собственной идентичности модель может воспроизводить имя из обучающих данных. Поведение без цензурных ограничений унаследовано от базовой модели.

Youssofal/Qwen3.8-27B-MTPLX-Bare-Speed — это 4-битная quantized-версия Qwen/Qwen3.8-27B, подготовленная разработчиками MTPLX для быстрого локального запуска на компьютерах Mac с Apple Silicon. Модель предназначена для диалогов, генерации текста и кода, а также сценариев локального использования через MTPLX Mac app или командный интерфейс. Сохранённая встроенная голова multi-token prediction позволяет применять speculative decoding и ускорять генерацию примерно в два-три раза по сравнению с обычным декодированием. Модель использует MLX-пакет с 4-битными матрицами весов и группами по 64 значения; свёрточные ядра GDN, параметры рекуррентного состояния, нормализации и MTP-head хранятся в 16-битном формате. Глубина MTP составляет 3, контекстное окно — 262 144 токена, размер загрузки — 16 ГБ, пиковое потребление unified memory — около 17 ГБ. Указанные настройки sampling: temperature 1.0, top-p 0.95 и top-k 20; поддерживаются уровни reasoning effort xhigh, medium и low. Модель рассчитана на MacBook Pro, MacBook Air, Mac mini и Mac Studio с чипами M1–M5 и минимум 32 ГБ unified memory. Главное преимущество — высокая скорость генерации, особенно в коротких чат-сценариях: на MacBook Pro с M5 Max заявлено до 65,2 токена в секунду для coding-задачи и 32,4 токена в секунду при длинной генерации. Компромисс — более грубая 4-битная quantization: авторы README прямо указывают на более низкое качество и меньшую скорость на длинных задачах программирования по сравнению с вариантом Optimized Speed. Для M1 и M2 рекомендуется отдельная FP16-сборка. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-OBLITERATED — языковая модель для генерации текста на базе Qwen/Qwen3.8-27B, разработанная сообществом OBLITERATUS. Модель модифицирована методом abliteration: из весового пространства удалены направления, связанные с отказами и защитными отступлениями. Она предназначена для локального текстового и кодового взаимодействия, исследовательских задач, red-team-тестирования, агентных сценариев и генерации ответов без типичных отказов на ограниченные запросы. Модель относится к семейству Qwen3, имеет размер 27B параметров и поддерживает текстовую генерацию. Заявлены режимы с рассуждением и без него, а также совместимость с форматами GGUF, Safetensors и MLX. Для версии V3 указана оценка MMLU 82,3% против 84,5% у исходной модели; по данным автора, она сохраняет близкие к базовой модели возможности, но теряет около 2,1 процентного пункта качества. Для стабильной работы рекомендуются температура 0, repetition_penalty 1,15 и не менее 2048 новых токенов; системный промпт лучше не задавать. Сильная сторона модели — снижение числа жёстких отказов и безопасностных отступлений при сохранении высокой способности к генерации кода и работе в агентных сценариях. Ограничения включают некоторое снижение качества относительно исходной Qwen3.8-27B, склонность к зацикливанию без repetition_penalty и возможное увеличение длины ответов в режиме рассуждения. Длина контекста и перечень поддерживаемых языков в README не указаны. Модель распространяется по лицензии Apache-2.0.

zerodigest/Qwen3.8-27B-YMQ-MTP-GGUF — это набор GGUF-квантизированных вариантов модели Qwen3.8-27B, подготовленный проектом ZeroDigest на основе официальных исходных файлов BF16. Релиз использует архитектурно-ориентированную смешанную точность, подходы, вдохновлённые AutoRound, и компилятор YMQ-Compiler v2.0. В описании также заявлена поддержка параллельного multi-token prediction (MTP) для спекулятивной генерации. Модель предназначена прежде всего для локального запуска и задач генерации кода, включая разработку, работу с API и многофайловыми проектами в инструментах вроде RooCode и Aider. Доступно несколько пресетов размером примерно от 9,8 до 19 ГБ, рассчитанных на видеокарты с 12–20 ГБ памяти и различные компромиссы между качеством, контекстом и требованиями к VRAM. Для вариантов приведены результаты измерений на WikiText-2 при контексте 4096 токенов; наилучшее указанное значение perplexity составляет 6,8413 у пресета M. Сильной стороной является распределение точности по компонентам модели с приоритетом сохранения логики и качества рассуждений при ограниченной памяти. Ограничения зависят от пресета: наиболее компактные варианты имеют заметный шум квантизации и рекомендуются для коротких или простых сценариев, а более качественные требуют больше видеопамяти. В README не указаны языки, точное максимальное окно контекста и полный перечень поддерживаемых модальностей; по доступным данным модель ориентирована на текстовую генерацию. Лицензия — Apache-2.0.

RedHatAI/Qwen3-Coder-Next-NVFP4 — языковая causal-модель для генерации текста, разработанная Red Hat на основе Qwen/Qwen3-Coder-Next от Alibaba Cloud. Модель принимает текст и генерирует текст; по назначению относится к моделям для задач программирования и работы с кодом. Архитектура указана как Qwen3NextForCausalLM, поддерживается интеграция с vLLM и вызов инструментов через совместимый с OpenAI API интерфейс. Модель представляет собой квантизированную версию исходной Qwen3-Coder-Next: веса и активации линейных операторов в блоках трансформера переведены в формат FP4. Это сокращает число битов на параметр с 16 до 4, а заявленный объём хранения на диске и требования к памяти GPU — примерно на 75%. Размер модели, максимальная длина контекста и набор поддерживаемых языков в представленном README не указаны. Модель валидирована с vLLM 0.14.1, RHAIIS 3.4 EA1 и RHOAI 3.4 EA1; для развёртывания в примере используется tensor parallelism на двух устройствах. Ключевое преимущество — существенное снижение требований к дисковой и GPU-памяти по сравнению с неквантизированной версией. При этом README не содержит результатов бенчмарков и количественной оценки влияния FP4-квантизации на качество, поэтому точные сильные стороны и возможные потери качества нельзя подтвердить по имеющимся данным. Модель распространяется по лицензии Apache 2.0.

Rombos-Coder-V2.5-Qwen-14b-GGUF — это квантизированная версия модели Rombos-Coder-V2.5-Qwen-14b, подготовленная bartowski в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Исходная модель размещена автором rombodawg и основана на Qwen2.5-Coder-14B. Модель предназначена прежде всего для генерации и обработки программного кода, включая написание, дополнение и преобразование кода в сценариях локального инференса. Модель относится к классу текстовых генеративных моделей, имеет около 14 млрд параметров и поддерживает английский язык. README не содержит сведений о точной архитектуре, размере контекстного окна, дополнительных языках или мультимодальных возможностях. Доступны варианты от F16 до Q3 и IQ-квантизаций с размером файлов примерно от 6,92 до 29,55 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а варианты Q4 и ниже требуют меньше оперативной памяти; отдельные варианты оптимизированы для ARM и имеют специальные требования к аппаратной поддержке. К сильным сторонам относятся специализация на задачах программирования, широкий выбор уровней квантизации и возможность локального запуска. Ограничения связаны с потерей качества в низкоразрядных вариантах, значительными требованиями к памяти для старших вариантов и отсутствием в README подробных данных о качестве на бенчмарках, контекстном окне и поддерживаемых языках программирования. Распространение указано по лицензии Apache-2.0.

Snowflake Arctic-Base — базовая языковая модель, разработанная командой Snowflake AI Research Team и предварительно обученная с нуля. Это гибридный трансформер с архитектурой dense-MoE: плотный блок на 10 млрд параметров сочетается с остаточным MoE-блоком из 128 экспертов; по README активно выбираются 17 млрд параметров на токен с помощью top-2 gating. В метаданных репозитория указано 11,1 млрд параметров, а нативное окно контекста составляет 4096 токенов. Модель принимает текст и генерирует текст, включая код. Она предназначена как базовая модель для генерации и продолжения текста, а также для создания собственных прикладных решений и последующего дообучения; версия Base не является instruct-вариантом. Для запуска README рекомендует Transformers версии 4.39 или выше с `trust_remote_code=True`; для инференса предлагается сервер с 8 ускорителями H100. Лицензия Apache-2.0 допускает использование в исследованиях, прототипах и продуктах.

Chronos-Bolt Base — предварительно обученная модель прогнозирования временных рядов от Amazon. Она построена на архитектуре T5 encoder-decoder, содержит 99,1 млн параметров и принимает исторические значения ряда, разбивая их на патчи. Модель напрямую строит многокроковый вероятностный прогноз в виде квантилей; длина контекста — до 512 наблюдений. Модель предназначена для zero-shot прогнозирования без дообучения на целевых рядах. Её можно применять для прогнозирования спроса, нагрузки и других числовых показателей; README также указывает поддержку ковариат при развертывании через SageMaker. По заявлению разработчиков, Chronos-Bolt быстрее и экономнее по памяти исходных Chronos сопоставимого размера и показывает высокое качество на наборе из 27 датасетов. Модель распространяется в формате safetensors под лицензией Apache-2.0.

bartowski/huihui-ai_Qwen3-Coder-Next-abliterated-GGUF — набор GGUF-квантизаций модели Huihui-Qwen3-Coder-Next-abliterated, разработанной huihui-ai. Квантизации выполнены bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу text-generation и предназначена для локального запуска генеративных сценариев, включая работу с кодом и текстом. Модель доступна в различных вариантах квантования от Q3 до Q8, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0. Размер файлов варьируется примерно от 42,67 до 84,81 ГБ; некоторые варианты разделены на несколько файлов. Для запуска указаны llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и LoLLMs. Используется шаблон диалога ChatML с маркерами system, user и assistant. README не сообщает точные архитектурные характеристики исходной модели, число параметров, контекстное окно, поддерживаемые языки или модальности, поэтому эти сведения нельзя достоверно определить. Более низкие уровни квантования экономят память, но могут снижать качество; варианты Q5 и выше обозначены как высококачественные, а Q4_K_M — как стандартный вариант для большинства сценариев. Модель имеет статус abliterated и uncensored, что может означать изменённые ограничения поведения по сравнению с исходной моделью. Лицензия — Apache-2.0.

KAT-Coder-V2.5-Dev-MTP-APEX-GGUF — это GGUF-квантизированная версия модели Kwaipilot/KAT-Coder-V2.5-Dev, опубликованная пользователем ursb01. Модель предназначена для генерации кода и агентских сценариев программирования. В её основе лежит MoE-модель Qwen3.6-35B-A3B с 40 слоями, 256 маршрутизируемыми и одним общим экспертом, гибридной архитектурой GatedDeltaNet с периодическими слоями полного внимания. Для исходной KAT-Coder заявлен результат 69,40 на SWE-bench Verified против 64,40 у базовой Qwen3.6-35B-A3B. Главное отличие сборки — добавленная MTP-голова для speculative decoding. Она перенесена из исходной Qwen3.6-35B-A3B без дополнительного дообучения на распределении скрытых состояний KAT-Coder. В README указано ускорение до 2,03 раза на наборе агентских задач программирования без изменения корректности; рекомендуемая глубина чернового предсказания — n-max 3. При слишком большой глубине эффективность снижается, и на n-max 8 модель может работать медленнее базового режима. Доступны варианты с разным размером и распределением точности, включая рекомендуемый MTP-APEX-i-quality-v2 размером 19,24 GiB и более компактный APEX-dynamic-v2 размером 11,91 GiB. Для запуска требуется совместимое программное обеспечение, например llama.cpp. Модель распространяется по лицензии Apache-2.0. Языки, размер контекста и точный перечень поддерживаемых модальностей в предоставленных данных не указаны; по описанию это текстовая модель генерации кода.

KAT-Coder-V2.5-Dev-OptiQ-4bit — это квантованная версия модели KAT-Coder-V2.5-Dev, разработанная сообществом mlx-community на базе модели Kwaipilot. Модель предназначена для генерации и анализа программного кода, а также для сценариев, где требуется рассуждение перед формированием ответа. Она реализована для MLX и ориентирована на локальный запуск на компьютерах Apple Silicon без PyTorch и облачных сервисов. Архитектура модели — qwen3_5_moe: разреженная MoE-система с 256 маршрутизируемыми экспертами, сочетающая гибридные линейные слои и полное внимание. Используется смешанная статическая квантизация 4/8 бит с целевым показателем около 4,5 бит на параметр: 400 проекций представлены в 4-битном формате, 111 — в 8-битном. Размер модели на диске составляет около 20 ГБ. В README указан английский язык; другие языки, размер контекста и поддерживаемые модальности не заявлены. Сильными сторонами модели являются локальная работа на Apple Silicon, сниженный объём хранения благодаря квантизации и совместимость с MLX-инструментами, включая mlx-lm и optiq. Для запуска рекомендуется пакет optiq; он также предоставляет OpenAI-совместимый локальный API и квантизацию KV-кэша. Ограничения включают ориентацию прежде всего на задачи программирования, требования к совместимому оборудованию и отсутствие в README данных о точности, производительности, языковой поддержке за пределами английского и контекстном окне. Модель распространяется по лицензии Apache-2.0.

Llama-3-Groq-70B-Tool-Use-GGUF — это GGUF-квантизированная версия дообученной языковой модели Llama 3 с 70 млрд параметров, разработанной Groq. Квантизацию подготовил bartowski на основе llama.cpp. Модель работает с текстом, поддерживает английский язык и предназначена для генерации текста, вызова функций и взаимодействия с инструментами. Основные сценарии применения — интеграция с API, обработка структурированных данных, автоматизация рабочих процессов и сложные последовательности вызовов инструментов. Модель обучена формировать вызовы функций в структурированном формате, включая имя функции и аргументы, а также обрабатывать ответы инструментов. В Berkeley Function Calling Leaderboard она показывает общую точность 90,76%. Сильной стороной модели является специализация на tool use и function calling, что делает её подходящей для агентных приложений и систем, подключённых к внешним сервисам. Ограничения включают работу только с текстом, заявленную поддержку английского языка и возможные ошибки, неточности или небезопасные результаты генерации. Для использования в LM Studio рекомендуется выбрать шаблон Llama 3. Модель распространяется по лицензии Llama 3; условия применения следует проверять в лицензии исходной модели.

lmstudio-community/Llama-3-Groq-8B-Tool-Use-GGUF — это GGUF-квантизация дообученной модели Llama 3 8B, разработанной Groq для использования инструментов и вызова функций. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста, взаимодействия с API, работы со структурированными данными и выполнения сложных сценариев, в которых требуется выбирать и вызывать внешние инструменты. Модель поддерживает английский язык и использует текстовую модальность. В README указано 8 млрд параметров; размер контекста не указан. Для работы в LM Studio рекомендуется выбрать шаблон Llama 3. Ответы на вызовы функций оформляются в JSON внутри тегов tool_call, а доступные инструменты и их параметры передаются в системном запросе. Заявленная точность на Berkeley Function Calling Leaderboard составляет 89,06%. Сильная сторона модели — специализация на function calling, API-интеграциях и структурированном взаимодействии с инструментами. Ограничения включают отсутствие сведений о размере контекста и конкретных вариантах квантизации, а также ориентацию на английский язык; корректность вызовов зависит от качества описаний инструментов и используемого шаблона запроса. В метаданных указана лицензия llama3.

MOMENT-1-Large — крупная модель семейства MOMENT, разработанная Auton Lab при Университете Карнеги — Меллона для универсального анализа временных рядов. Она предназначена для прогнозирования, классификации, обнаружения аномалий, восстановления пропусков и получения представлений временных рядов; может применяться без дообучения или с небольшим числом примеров, а также настраиваться на специализированных данных. Модель относится к семейству foundation-моделей для временных рядов. В README указаны варианты Small, Base и Large, но точное число параметров и длина контекста для этого репозитория не приведены. Веса доступны в форматах PyTorch и safetensors. Лицензия — MIT.

North-Mini-Code-1.0 — модель с открытыми весами от Cohere и Cohere Labs для генерации кода, агентной разработки программного обеспечения и выполнения задач в терминале. Это decoder-only Transformer с разреженной архитектурой Mixture-of-Experts: всего 30 млрд параметров, из которых активны 3 млрд; применяются 128 экспертов, 8 из которых выбираются для каждого токена. Модель дообучена в два этапа: supervised fine-tuning и обучение с подкреплением на проверяемых наградах. Контекст модели рассчитан на 256 тысяч токенов, максимальная длина генерации — 64 тысячи токенов. Модель принимает текст и генерирует текст. Она обучена использовать инструменты в агентных сценариях программирования и поддерживает соответствующий интерфейс через шаблоны чата Transformers. В карточке также описана чередующаяся схема внимания: скользящее окно с RoPE и глобальное внимание. Для запуска README рекомендует актуальные исходные версии Transformers либо vLLM и приводит параметры генерации temperature=1.0 и top_p=0.95. Модель предназначена для программирования и работы с терминалом; её оценивали на бенчмарках агентного кодирования и генерации кода. Лицензия — Apache 2.0. Метаданные каталога указывают размер 1,2 млрд параметров, однако README указывает 30 млрд параметров всего и 3 млрд активных; эти сведения о размере расходятся.

Ornith-1.0-35B-FP8 — открытая языковая модель семейства Ornith-1.0, разработанная командой Deep Reinforce AI. Модель предназначена прежде всего для агентного программирования и автоматизации задач разработки ПО, включая работу с терминалом, исправление ошибок и решение задач из репозиториев. Она позиционируется как облегчённый вариант семейства для эффективного развёртывания на одной GPU. Модель относится к классу текстогенерации и имеет размер 35 млрд параметров; доступна в формате FP8. В материалах семейство Ornith описывается как включающее плотные и MoE-варианты, обученные поверх Gemma 4 и Qwen 3.5, однако точная архитектура именно Ornith-1.0-35B-FP8, поддерживаемые языки и размер контекста в README не указаны. Обучение включает reinforcement learning, при котором оптимизируются как итоговые решения, так и scaffolding для поиска траекторий решения. Сильной стороной модели заявлена высокая эффективность в агентном программировании: в приведённых результатах она показывает 64,2 на Terminal-Bench 2.1 с Terminus-2, 62,8 с Claude Code, 75,6 на SWE-bench Verified и 50,4 на SWE-bench Pro. Ограничения включают узкую специализацию на задачах разработки, отсутствие подробных сведений о мультимодальности, языковой поддержке и контексте, а также возможную потребность в мощной GPU для локального запуска. Модель распространяется по лицензии MIT, без региональных ограничений.

Qwen2.5-Coder-1.5B-Instruct-Q8_0-GGUF — это преобразованная в формат GGUF версия инструкционной модели Qwen2.5-Coder-1.5B-Instruct. Модель опубликована ggml-org и создана на основе модели Qwen, разработанной командой Qwen. Квантование Q8_0 выполнено с использованием llama.cpp через сервис GGUF-my-repo. Модель предназначена для генерации текста и работы с программным кодом в диалоговых и других сценариях, поддерживаемых llama.cpp. В README указаны языки с поддержкой английского языка, а также теги, связанные с кодом, чатом и семейством Qwen Coder. Известен размер базовой модели — 1,5 млрд параметров; формат GGUF оптимизирован для локального запуска через llama.cpp. В качестве примера указан контекст длиной 2048 токенов, однако это значение относится к рекомендуемой команде запуска, а не обязательно к максимальному контексту модели. К сильным сторонам относятся небольшой размер, инструкционная настройка, специализация на задачах программирования и удобство локального использования на совместимом оборудовании. Ограничения включают неизвестные из этого README качество на конкретных языках программирования, бенчмарках и задачах, а также отсутствие информации о мультимодальности; по имеющимся данным модель является текстовой. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next REAP-288 (GGUF) — это текстовая генеративная модель класса примерно 180B с архитектурой MoE, созданная sh0wie на основе Qwen/Qwen3.8-Flash-Next. В каждой MoE-слойной структуре число экспертов сокращено с 512 до 288 методом REAP. Модель преобразована непосредственно из полноточного источника bf16 в формат GGUF за один этап квантования и предназначена для запуска через llama.cpp, Ollama, LM Studio и совместимые инструменты. Модель ориентирована прежде всего на агентное программирование и задачи генерации, анализа и рефакторинга кода. В тесте HumanEval вариант после pruning показал результат 91,5% (149 из 164) против 93,9% у полной модели, однако измерение выполнено на ветке MLX 4-bit, а для GGUF указано только совпадение выбора сохранённых экспертов и общего bf16-источника. Доступны варианты Q4_K_M размером 78 ГБ, Q5_K_M размером 87 ГБ и Q8_0 размером 116 ГБ: увеличение размера обычно повышает точность, но требует больше памяти и снижает скорость. К сильным сторонам относятся высокая производительность в задачах программирования, выбор нескольких уровней квантования и совместимость с распространёнными локальными рантаймами. Ограничения включают возможное ухудшение качества за пределами распределения агентных задач программирования, отсутствие доверительных интервалов в оценках и отсутствие проверки работы с изображениями после pruning. Языки и размер контекста в README не указаны. Используется Qwen Community License 1.0, унаследованная от базовой модели.

Карточка модели ArchiveStudio/Qwen3-Coder-Next на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

RedHatAI/Qwen3-Coder-Next-FP8-dynamic — это квантизированная версия языковой модели Qwen/Qwen3-Coder-Next, разработанная Red Hat. Модель построена на архитектуре Qwen3NextForCausalLM, принимает текст и генерирует текст и предназначена прежде всего для задач генерации и обработки программного кода. Поддержка инструментов и вызовов функций предусмотрена при развертывании через vLLM. В модели используется квантизация весов и активаций в формат FP8 для линейных операторов внутри трансформерных блоков. Это снижает число битов на параметр с 16 до 8 и примерно на 50% уменьшает требования к дисковому пространству и памяти GPU. Размер модели, языки и максимальная длина контекста в README не указаны. Для работы рекомендуется vLLM; формат хранения — compressed-tensors. В представленном тестировании на SWE-Bench Lite модель получила результат 53 против 49,33 у исходной Qwen3-Coder-Next. Ограничение заключается в том, что приведена только оценка на задаче SWE-Bench Lite, поэтому по этим данным нельзя полноценно судить о качестве на других сценариях и о влиянии квантизации на все типы запросов. Модель распространяется по лицензии Apache-2.0.

Tiel-Coder-35B-A3B-GGUF — это локальная GGUF-квантизованная версия модели Ornith-1.5-35B-A3B, опубликованная npario и основанная на разработке ornith-ai. Модель предназначена прежде всего для агентного программирования, исправления задач в существующих кодовых базах и длительных многошаговых диалогов. Она использует MoE-архитектуру с 35 млрд параметров и примерно 3 млрд активных параметров, а также гибридную структуру SSM/attention с двумя KV-головами. Модель поддерживает текстовые и визуальные сценарии: она может анализировать скриншоты, трассировки ошибок и дизайн-макеты. Заявлены английский и китайский языки. Vision tower унаследован от Ornith-1.5; для него требуется отдельный файл mmproj-BF16.gguf размером около 903 МБ. Доступны варианты квантизации от 2 до 8 бит, размером примерно от 12,3 до 38,5 ГБ. Точный размер контекстного окна в README не указан, но благодаря гибридной архитектуре и двум KV-головам кэш контекста занимает меньше памяти, чем у плотной модели сопоставимого размера. Сильные стороны модели — скорость, эффективность на задачах программирования, стабильность в многоходовых диалогах и поддержка локального запуска через llama.cpp. По приведённым тестам, 4-битная версия решила 12 из 25 задач SWE-bench-Live и показала результат 67,2 в Claw-Eval. Ограничения — заметно более слабые результаты в знаниях и сложном рассуждении: результат MMLU-Pro составляет 73,7, а авторы отдельно отмечают слабость в trivia-задачах. Модель распространяется по лицензии MIT.

crane-30b-i1-GGUF — это квантованная версия модели crane-30b, разработанной пользователем или организацией zmzfpc и опубликованной в формате GGUF пользователем mradermacher. По метаданным, модель связана с объединением моделей, семейством Qwen3, архитектурой MoE и задачами генерации кода и рассуждений. Указан английский язык. Точное число активных и общих параметров, размер контекста, поддерживаемые модальности и подробности исходного обучения в README не приведены. Модель предназначена для локального запуска через совместимые инструменты, поддерживающие формат GGUF, включая различные варианты квантования с разным компромиссом между размером, скоростью и качеством. Доступны файлы размером примерно от 6,5 до 25,2 ГБ; среди рекомендуемых вариантов отмечен i1-Q4_K_M как быстрый, а i1-Q4_K_S — как сбалансированный по размеру, скорости и качеству. Низкобитные варианты могут заметно уступать в качестве, тогда как i1-Q6_K заявлен как практически сопоставимый со статическим Q6_K. В репозитории также доступен imatrix-файл для самостоятельного создания квантованных версий. Лицензия модели указана как Apache-2.0. README не содержит результатов бенчмарков, подробной документации по применению, системного промпта или ограничений исходной модели, поэтому качество на конкретных задачах и точные требования к аппаратным ресурсам следует оценивать отдельно.

noctrex/Laguna-XS-2.1-MXFP4_MOE-GGUF — квантизированная в MXFP4 сборка текстовой MoE-модели Poolside Laguna-XS-2.1 в формате GGUF. Модель предназначена для генерации текста и диалогового взаимодействия; базовая Laguna-XS-2.1 ориентирована на агентное программирование, терминальные задачи и длительную работу с кодом. Для запуска требуется llama.cpp. Репозиторий также содержит вариант GGUF BF16. Модель создана на основе poolside/Laguna-XS-2.1; лицензия и подробные сведения о размере, контексте и языках в предоставленных данных отсутствуют.

Groq Llama-3-Groq-70B-Tool-Use — языковая модель Groq на архитектуре Llama 3, дообученная с помощью полного fine-tuning и Direct Preference Optimization на базе Meta Llama 3 70B. Модель содержит 69,5 млрд параметров, принимает и генерирует текст, поддерживает контекст до 8192 токенов и рассчитана прежде всего на английский язык. Модель предназначена для вызова функций и инструментов: взаимодействия с API, манипуляций со структурированными данными и выполнения сложных последовательностей действий через инструменты. В README указан результат 90,76% на Berkeley Function Calling Leaderboard. Для общих знаний и свободного диалога специализированная настройка может быть менее подходящей; ответы могут быть неточными или предвзятыми, а результат чувствителен к настройкам temperature и top_p. Модель распространяется по лицензии Meta Llama 3 Community License. README описывает её применение в исследованиях и разработке сценариев использования инструментов.