II.7DevOps, облако и эксплуатация IT-систем
В разделе собраны самостоятельные задачи, где AI помогает развёртывать, наблюдать и оптимизировать цифровые системы и облачную инфраструктуру. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 196 моделейQwen3-Coder-Next-Base — базовая языковая модель для кодирующих агентов и локальной разработки, опубликованная Unsloth. Это причинная модель семейства Qwen3-Next с гибридным вниманием и разреженной архитектурой MoE; карточка Unsloth указывает 80 млрд параметров всего и 3 млрд активируемых, тогда как метаданные Hugging Face указывают 2,3 млрд параметров. Нативная длина контекста — 262 144 токена. Модель предназначена для генерации кода, адаптации шаблонов и каркасов проектов, вызова инструментов, а также обнаружения и исправления ошибок; её можно использовать как основу для дальнейшего дообучения агентных систем. README заявляет поддержку более 370 языков, но не уточняет, какие именно из них являются естественными, а какие — языками программирования. Модель текстовая и рассчитана на режим без рассуждений в формате thinking. Модель поставляется в формате safetensors и распространяется по лицензии Apache-2.0. README описывает её как базовую модель этапа предобучения; сведения о конкретных ограничениях качества или оценки на бенчмарках в предоставленных данных отсутствуют.
Qwopus3.5-4B-v3 — модель от Jackrong, дообученная на базе unsloth/Qwen3.5-4B. Она позиционируется как reasoning-модель с оптимизацией структуры рассуждений, ориентированная на повышение стабильности, корректности и эффективности вывода, особенно в задачах программирования и многошаговых агентных сценариях. Модель предназначена для задач, где требуется рассуждение, выполнение действий через инструменты и последовательное уточнение поведения по результатам взаимодействия со средой. В ней заявлена поддержка tool calling для агентных фреймворков, включая OpenClaw, а также подход «act-then-refine»: раннее выполнение действия с последующей коррекцией на основе обратной связи вместо чрезмерного предварительного обдумывания. В README указаны английский, китайский и корейский языки. Размер модели — 4B параметров; модель помечена как image-text-to-text, однако подробные сведения о мультимодальной архитектуре и поддерживаемых типах входных данных не приведены. К сильным сторонам относятся компактный размер, акцент на более коротких и устойчивых цепочках рассуждений, специализация на программировании и сценариях с инструментами. Ограничения связаны с отсутствием в представленном README данных о длине контекста, результатах стандартизированных тестов, требованиях к ресурсам и фактическом качестве работы с изображениями. Модель распространяется по лицензии Apache-2.0.
Карточка модели hflog/RESMPDEV-Wukong-0.1-Mistral-7B-v0.2 на Hugging Face совпадает с карточкой RESMPDEV/Wukong-0.1-Mistral-7B-v0.2, поэтому описание составлено по ней. Wukong-0.1-Mistral-7B-v0.2 — чат-модель, созданная RESMPDEV путём дообучения Mistral-7B-v0.2 от Mistral. Она предназначена для диалогов и генерации ответов по инструкциям; обучение проводилось на OpenHermes-2.5, наборах данных для кода от Multimodal Art Projection и наборе Dolphin от Cognitive Computations. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. Репозиторий содержит веса в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Автор описывает настройку как «dealigned», но не уточняет её практический эффект; примеры выходов в карточке не приведены.
Rombos-Coder-V2.5-Qwen-14b — дообученная автором Rombodawg модель для генерации кода на основе Qwen/Qwen2.5-Coder-14B-Instruct. В README также описано слияние instruct- и base-моделей методом TIES в рамках подхода Continuous Finetuning; метаданные классифицируют происхождение как дообучение. Модель построена на плотной архитектуре Qwen2 и содержит 14 млрд параметров. Модель предназначена для диалоговой генерации и анализа кода, а также для сценариев вызова инструментов. Она принимает текст и выдаёт текст; заявленный родительский чекпойнт — инструкционная модель Qwen2.5-Coder-14B-Instruct. Контекст составляет 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0.
Seed-Coder-8B-Instruct-GGUF — GGUF-квантизированная версия инструкционной модели Seed-Coder-8B-Instruct, разработанной ByteDance Seed и опубликованной в формате Unsloth. Это открытая модель для генерации и обработки программного кода, включая генерацию, рассуждение по коду, редактирование и задачи программной инженерии. Версия Instruct дообучена для лучшего следования пользовательским инструкциям. Модель представляет собой каузальную языковую модель примерно на 8 млрд параметров, прошедшую предобучение и постобучение на публичных и синтетических данных. Она поддерживает контекст длиной до 32 768 токенов и работает в текстовой модальности; конкретные языки программирования и перечень естественных языков в README не указаны. GGUF-формат предназначен для более удобного локального запуска с совместимыми средствами инференса, однако точные параметры квантования для этой карточки не приведены. К сильным сторонам относятся высокая эффективность среди открытых моделей сопоставимого размера, ориентация на широкий спектр задач программирования и подход к подготовке данных, основанный преимущественно на использовании LLM вместо большого числа ручных правил. Ограничения — отсутствие в предоставленных данных подробностей о поддерживаемых языках, требованиях к оборудованию, конкретном варианте квантования и результатах полной таблицы оценки. Лицензия MIT.
jambroz/sixtyoneeighty-4x7B-v1 — слитая модель семейства Mixtral, созданная jambroz с помощью LazyMergekit на основе четырёх моделей Mistral: jambroz/sixtyoneeighty-7b-chat, NeuralNovel/Mistral-7B-Instruct-v0.2-Neural-Story, S-miguel/The-Trinity-Coder-7B и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Она предназначена для диалоговой генерации текста, дополнения кода, логических рассуждений и решения задач по программированию. Модель использует архитектуру Mixtral с механизмом mixture-of-experts (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель лицензирована по Apache-2.0. Карточка не уточняет поддерживаемые естественные языки и конкретные ограничения качества.
MaziyarPanahi/speechless-code-mistral-7b-v2.0-Mistral-7B-Instruct-v0.1 — слитая модель на архитектуре Mistral для генерации текста в ответ на инструкции и диалоговые запросы, включая задачи программирования. Она объединяет Mistral-7B-Instruct-v0.1 и uukuguy/speechless-code-mistral-7b-v2.0 методом SLERP; размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. Модель рассчитана прежде всего на английский язык и код. Модель может помогать писать и объяснять код, отвечать на вопросы и следовать текстовым инструкциям. В репозитории доступны веса Safetensors. Лицензия — Apache-2.0.
Tiel-Coder-35B-A3B-Genesis-Hermes-GGUF — языково-кодовая модель в формате GGUF, разработанная LuffyTheFox на основе Ornith-1.5-35B-A3B, с использованием компонентов Tiel-Coder и Hermes-файнтюнинга. Модель дополнительно обработана методом Genesis, который автор описывает как численную коррекцию шумов и дефектов в весах без переобучения. Указана лицензия MIT. Модель предназначена для программирования, агентных сценариев, вызова функций и задач, требующих следования инструкциям. Поддерживаются текстовые и визуальные сценарии, однако для работы с изображениями требуется отдельный файл mmproj. В README заявлена поддержка английского, китайского и многоязычного ввода. Архитектура гибридная: Gated DeltaNet с линейным вниманием сочетается с полным softmax-вниманием в соотношении 3:1. Всего модель содержит около 35 млрд параметров, из которых примерно 3 млрд активируются за один проход; используется MoE-схема с 256 экспертами, 8 маршрутизируемыми и 1 общим экспертом на токен, а также 40 слоями. Для сохранения возможностей рассуждения рекомендуется контекст не менее 128K токенов и запуск через llama.cpp с флагом --jinja. Модель ориентирована на эффективный инференс, но требует значительных вычислительных ресурсов, особенно при использовании длинного контекста и визуального режима. README не содержит независимых результатов бенчмарков, поэтому заявленные улучшения стабильности, качества и снижения галлюцинаций следует считать утверждениями автора, а не подтверждёнными измерениями.
Z1-7B — дообученная языковая модель семейства Qwen2, разработанная проектом EfficientScaling для генерации и рассуждений при решении задач с кодом. Она основана на Qwen/Qwen2.5-Coder-7B-Instruct и содержит 7,1 млрд параметров. Модель рассчитана на диалоговое использование и поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная задача Hugging Face — text-generation. Контекст составляет 32 768 токенов. Репозиторий использует Transformers и формат safetensors, лицензия — MIT. README упоминает режим shifted thinking и тестовое масштабирование вычислений во время вывода, но не содержит подробностей о качестве и конкретных сценариях применения.
Claude Sonnet 4.5 — модель Anthropic, оптимизированная для автономных агентов и рабочих процессов программирования. В карточке она описана как наиболее продвинутая на момент выпуска модель семейства Sonnet и как модель с высокими результатами на тесте SWE-bench Verified. Каталог классифицирует модель как image-text-to-text. Доступные сведения не подтверждают детали архитектуры, размер, контекстное окно, языки, лицензию или конкретные возможности работы с изображениями, поэтому эти характеристики не приводятся.
Fireplace-13b версии 1.1 — языковая модель Valiant Labs для генерации кода и вызова функций. Она дообучена на CodeLlama-13b-Instruct-hf, построенной на архитектуре Llama 2, с использованием набора glaive-function-calling-v2. Модель содержит 12,9 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 16 384 токена. Карточка рекомендует передавать описания функций в системном сообщении, а ответы вызова функций обрабатывать в формате, описанном в руководстве. Модель предназначена для интеграции с инструментами и API, а также для задач программирования и чата по инструкциям. Она рассчитана прежде всего на английский язык. Веса опубликованы в формате Safetensors под лицензией Apache-2.0. Качество и корректность результатов не гарантируются; модель может наследовать ошибки базовой модели и обучающих данных.
Cyber-Tiel-Coder-35B-A3B-GGUF-MTP — квантованная GGUF-модель, разработанная peculiar-ragdoll на базе Huihui-Ornith-1.5-35B-A3B-abliterated, которая, в свою очередь, основана на Ornith-1.5. Модель предназначена прежде всего для программирования, агентной разработки, автономного исправления ошибок в больших кодовых базах и задач offensive security. Она ориентирована на запуск через llama.cpp и рассчитана на локальное использование, в том числе на оборудовании с ограниченным объёмом VRAM. Модель использует архитектуру MoE класса 35B-A3B, динамическое повторное квантование с собственной cyber-weighted imatrix, шаблон чата Sharp и встроенную multi-token prediction head для speculative decoding. Доступна версия Q4 размером около 22 ГБ. В метаданных указаны английский и китайский языки, а также поддержка image-text-to-text и vision, однако подробности о мультимодальном вводе и максимальном контексте в README не приведены. К сильным сторонам относятся высокая скорость и специализация на агентном программировании: автор заявляет примерно в 3–4 раза более высокую скорость по сравнению с плотными моделями 3.8–27B, а также существенные результаты на SWE-bench-Live и Cybench. Abliteration удаляет стандартные отказы модели, поэтому она способна выполнять запросы, связанные с вредоносными или опасными сценариями, без ограничений. Это одновременно является существенным ограничением: модель требует изолированного, контролируемого и законного использования. Она хуже подходит для общих знаний, викторин и экзаменационных задач, поскольку специализация на кодировании достигается за счёт снижения соответствующих способностей. Модель распространяется по лицензии MIT.
usermma/Darwin-28B-Coder-mlx-fp16 — версия модели Darwin-28B-Coder в формате MLX, подготовленная для запуска на устройствах Apple с MLX. Исходная модель FINAL-Bench/Darwin-28B-Coder относится к семейству Qwen 3.5 и предназначена для генерации кода и диалогового взаимодействия; в каталожных метаданных также указана поддержка работы с кодом. Модель принимает текст и генерирует текст, в частности программный код и ответы в диалоге. В карточке указана конвертация с помощью mlx-lm 0.31.2; репозиторий использует формат safetensors, а лицензия — Apache-2.0. Сведений о числе параметров и длине контекста в предоставленных данных нет.
Это 4-битная версия модели DeepSeek-Coder-V2-Lite-Instruct, подготовленная сообществом mlx-community и преобразованная в формат MLX из deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct с помощью mlx-lm 0.25.2. Модель предназначена для генерации и дополнения кода, а также диалоговых ответов по программированию. В метаданных указаны архитектура DeepSeek V2, 2,5 млрд параметров и контекст до 163 840 токенов. Веса квантизованы методом AWQ с параметрами 4 бита; README также приводит параметры квантизации и отмечает использование собственного калибровочного набора. Репозиторий рассчитан на запуск в MLX. Лицензия указана как other; конкретные условия следует сверить с лицензией базовой модели и репозитория. Карточка описывает преобразование весов и квантизацию, поэтому выводы о качестве кода стоит проверять на целевых задачах.
Dolphin 2.5 Mixtral 8x7B GGUF — это набор квантованных файлов модели cognitivecomputations/dolphin-2.5-mixtral-8x7b, подготовленный MaziyarPanahi в формате GGUF. Модель предназначена для генерации текста и может использоваться локально через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. В основе лежит архитектура Mixtral с конфигурацией 8x7B; точный размер контекста и полный набор поддерживаемых языков в README не указаны, хотя модель помечена как предназначенная для английского языка. Доступны варианты квантования от 2 до 8 бит, включая форматы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать между меньшим потреблением памяти и сохранением качества. Квантование упрощает запуск на локальном оборудовании, но варианты с меньшей разрядностью могут иметь более низкое качество генерации. Модель обучалась на наборах данных Dolphin, Airoboros, Dolphin Coder, Synthia, OpenHermes, Magicoder и других, перечисленных в карточке. Сценарии применения включают локальную генерацию текста и, судя по составу данных и тегам, задачи общего назначения и программирования, однако специализированные возможности и ограничения отдельно не описаны. Распространяется по лицензии Apache-2.0.
mlx-community/dolphin-2.9-llama3-70b-4bit — квантизированная 4-битная версия модели Dolphin 2.9 на базе Llama 3, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.11.0. Исходная модель разработана cognitivecomputations. Модель содержит около 69,5 млрд параметров и предназначена для запуска и генерации текста в экосистеме MLX на совместимом оборудовании Apple. Модель ориентирована на англоязычные диалоговые и инструкционные сценарии, включая ответы на вопросы, помощь с программированием, математическими задачами, работу с инструкциями и вызовами функций. Максимальная длина контекста составляет 8192 токена. В метаданных указана лицензия Llama 3.
G9v3-39A5B-Q3Q4-GGUF — квантованная GGUF-версия причинной языковой модели с архитектурой Mixture-of-Experts от команды AI9Stars. Базовая модель G9v3-39A5B содержит около 39 млрд параметров, из которых при генерации активируется около 5 млрд на токен. Контекст составляет до 131 072 токенов; модель ориентирована на английский и китайский языки. Модель предназначена для диалогового помощника, программирования, работы с инструментами и задач рассуждения. В одном чекпойнте доступны режимы Think и No Think. Карточка описывает запуск локально и на одной видеокарте с 24 ГБ памяти; для GGUF-квантизации авторы отмечают, что варианту требуется уровень Q3 для полноценной работы, а сама модель не особенно хорошо поддаётся квантизации. Модель выпущена как предварительная версия. Ответы могут быть неточными, предвзятыми или небезопасными и требуют проверки, особенно в важных сценариях; поведение может меняться между версиями. Лицензия — Apache-2.0.
Ginckl/HashBlitz-1-7B-Max — языковая модель для генерации текста и кода, разработанная Ginckl на базе unsloth/Qwen2.5-Coder-7B-Instruct. По описанию, модель создана как оптимизированная версия с 7 миллиардами параметров и ориентирована на локальное развёртывание, разработчиков и сценарии «vibe coding». Она предназначена для программирования, решения сложных задач разработки, повседневного диалога и аналитических сценариев, включая работу с актуальной информацией, если такая информация предоставляется через внешние инструменты или контекст. Заявлено, что при создании авторы синтезировали особенности нескольких передовых моделей: Claude Opus 5 — для программирования и логического рассуждения, Groq 4.5 — для характера и настройки безопасности, GPT-5.4 — для естественного диалога, а Gemini 3.1 Pro (Extended Thinking) — для анализа сложных реальных задач. Эти утверждения приведены в README разработчика и не сопровождаются подробностями о методике обучения или результатами независимой оценки. Модель поддерживает текстовую генерацию, заявленные языки — английский, испанский и французский. Архитектура основана на семействе Qwen 2.5 Coder; сведения о размере контекста, дополнительных модальностях, точных параметрах дообучения и ограничениях производительности не указаны. Лицензия — Apache-2.0, что допускает широкое использование на условиях этой лицензии.
Это полноточная сборка в формате GGUF BF16 модели KAT-Coder V2.5 Dev 35B-A3B от moeshawky: к базовой модели добавлена встроенная MTP-голова для спекулятивного декодирования. Архитектура — Qwen3.6-35B-A3B-класса, гибрид SSM и полного внимания; всего 35 млрд параметров, около 3 млрд активных на токен, 256 экспертов, из которых активны 8. Модель принимает текст и предназначена для генерации текста в диалоговом режиме, в том числе для задач программирования; MTP-голова может ускорять декодирование при поддержке со стороны сборки llama.cpp. В карточке указаны английский и китайский языки. Репозиторий содержит один файл GGUF v3 размером около 66,2 ГиБ; для размещения весов требуется ориентировочно 75 ГБ или более свободной оперативной памяти или видеопамяти. Для использования нужна совместимая сборка llama.cpp с поддержкой MTP. Лицензия — Apache-2.0.
Карточка модели SissyTrixie/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.
Карточка модели SmartManoj/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.
Карточка модели yijuchen/Kimi-K3-RoutedMXFP4-FP8PTPC на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.
Laguna M.1 — языковая модель Poolside для агентного программирования и выполнения длительных задач с помощью инструментов. Это текстовая модель типа Mixture-of-Experts: по карточке README, в ней 225 млрд параметров, из которых активируются 23 млрд на токен; архитектура включает 70 слоёв, 256 экспертов и глобальное внимание. Метаданные Hugging Face указывают 17,1 млрд параметров, поэтому сведения о размере расходятся; контекстное окно составляет 262 144 токена. Модель предназначена для работы в цикле агента: анализа кода и репозиториев, внесения изменений и выполнения задач в терминале. README сообщает о поддержке рассуждений между вызовами инструментов и приводит результаты на SWE-bench Verified, SWE-bench Multilingual, SWE-bench Pro и Terminal-Bench 2.0. Она принимает и выдаёт текст; сведения о конкретных поддерживаемых естественных языках не приведены. Для запуска указана поддержка vLLM, SGLang и Transformers. Лицензия — Apache 2.0, допускающая коммерческое и некоммерческое использование и модификацию.
Laguna-XS 2.1 JANG2L CRACK — текстовая модель для генерации кода и агентных сценариев, выпущенная dealignai на основе poolside/Laguna-XS-2.1. По карточке модели, это MoE-модель с 33 млрд параметров и примерно 3 млрд активных параметров; в метаданных размер указан как 2,6 млрд параметров. Версия JANG2L использует смешанную низкоразрядную квантизацию MLX для Apple Silicon, а CRACK удаляет поведение отказа на уровне весов. Репозиторий содержит веса safetensors, модель рассчитана на запуск через MLX, прежде всего с vMLX. Модель предназначена для агентного программирования, рассуждений и вызова инструментов; поддерживает текстовый ввод и генерацию текста, а также контекст до 262 144 токенов. Карточка заявляет сохранение возможностей кодирования, рассуждений и вызова инструментов после преобразований и приводит результаты MMLU и HarmBench, полученные в vMLX. Английский указан среди языков модели. Для генерации рекомендуется явно задавать temperature=1.0, top_p=1.0 и top_k=20: среды инференса могут игнорировать настройки в файлах конфигурации, что, по карточке, ухудшает качество вывода. Модель настроена следовать инструкциям без отказа, включая потенциально опасные запросы. Лицензия обозначена как other; подробные условия в предоставленных данных не раскрыты.
JANGQ-AI/Laguna-XS-2.1-JANG_6M — квантованный вариант модели Poolside Laguna-XS-2.1, подготовленный Jinho Jang для запуска на Apple Silicon через vMLX. Это текстовая MoE-модель для генерации кода и работы агентных систем; метаданные указывают 2,6 млрд параметров, а карточка описывает исходную архитектуру как MoE с 33 млрд параметров и примерно 3 млрд активных параметров. В карточке также заявлены 40 слоёв, 256 маршрутизируемых экспертов, выбор восьми экспертов и общий эксперт, а длина контекста составляет 262 144 токена. Веса маршрутизируемых экспертов квантованы до 6 бит с AWQ-калибровкой; внимание, общий эксперт, маршрутизатор и нормализации оставлены в высокой точности. Модель поддерживает чат, вызовы инструментов и переключаемый режим рассуждений. Основной указанный язык — английский. Лицензия — OpenMDW-1.1, унаследованная от исходной модели. Карточка приводит скорость декодирования 68,6 токена в секунду на M5 Max и высокое совпадение предсказаний при проверке длинного контекста; эти результаты относятся к указанной конфигурации и оборудованию. Для корректного семплирования следует использовать top_k=20; поддержка шаблона чата, специальных стоп-токенов и параметров квантования зависит от загрузчика.
MergekitCloud/mergekit-78 — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом Model Stock. В основу слияния вошла Qwen/Qwen2.5-14B, вместе с Qwen2.5-Coder-14B, Qwen2.5-Coder-14B-Instruct и Rombos-Coder-V2.5-Qwen-14b. Модель содержит 14 млрд параметров, использует формат safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, с акцентом на задачи программирования: написание, анализ и исправление кода. Может применяться в чат-сценариях и интерфейсах вызова инструментов. Метаданные указывают поддержку conversational-возможностей, но отдельные языки в доступных сведениях не перечислены. В карточке указана лицензия? Условия использования в предоставленных данных не приведены. Качество и поведение слияния зависят от исходных моделей и конкретной задачи; результаты для этой сборки отдельно не описаны.
WhiskyAKM подготовил GGUF-квантизацию MiniCPM5-2B от OpenBMB для локального запуска на устройстве и в средах с ограниченными ресурсами. Это плотный трансформер LlamaForCausalLM примерно на 2,52 млрд параметров, представленный в формате NVFP4; файл весит около 1,4 ГБ. Модель предназначена для локальных ассистентов, программирования, сценариев с вызовом инструментов и рассуждений. Она поддерживает контекст до 131 072 токенов, режим рассуждений в шаблоне чата и вызовы инструментов в XML-формате. Квантизация выполнена из исходных весов BF16: большинство тензоров представлены в NVFP4, а эмбеддинги, выходные и нормализационные тензоры сохранены в более высокой точности. Репозиторий предназначен для использования с llama.cpp, Ollama и LM Studio; лицензия — Apache-2.0. Качество NVFP4 может отличаться от исходной версии BF16, а для обработки XML-вызовов инструментов может понадобиться совместимый парсер или обвязка.
SirSahOl подготовил 16-битную конверсию диалоговой модели TokenRhythm/NeoHorse-1-9B для локального запуска на Apple Silicon через MLX. Это плотная авторегрессионная модель семейства Qwen3.5 с 7,2 млрд параметров по метаданным и контекстом до 262 144 токенов; README указывает 9 млрд параметров. Репозиторий содержит веса safetensors в формате MLX и распространяется по лицензии Apache-2.0. Модель предназначена для многоходового чата, генерации текста и кода, следования инструкциям, рассуждений и работы с инструментами в агентных сценариях. Конверсия сохраняет bf16-точность исходных весов и рассчитана на GPU Apple Silicon; README оценивает занимаемую память примерно в 20 ГБ и рекомендует не менее 32 ГБ объединённой памяти. Для длинных контекстов требуется достаточный запас объединённой памяти, а фактическая скорость зависит от устройства и длины контекста. В карточке нет подтверждённых сведений о поддерживаемых естественных языках; характеристики задач и качества унаследованы от базовой модели.
Soulfate24/Ornith-1.5-9B-MTP-ASHQ1-Remix-GGUF — квантованная в формате GGUF версия Ornith-1.5-9B от Ornith AI. Репозиторий описывает вариант ASHQ1-Remix: активационно-ориентированную квантовку, параметры которой основаны на измерениях; указана поддержка линии AutoRound с ограничениями насыщения. Модель предназначена для генерации текста и диалогового использования. Базовая модель рассчитана на программирование, агентные задачи и работу с инструментами в длинном контексте. Ключевая характеристика этой версии — квантованное представление весов GGUF. В метаданных указаны задача text-generation, библиотека Transformers и лицензия MIT. README не приводит размер квантованных файлов или оценки качества именно этой сборки; результат может зависеть от выбранного файла и среды запуска.
BlossomsAI/Qwen2.5-Coder-14B-Instruct-Uncensored — модифицированная инструкционная модель для генерации кода, созданная на основе Qwen/Qwen2.5-Coder-14B-Instruct с применением направленного вмешательства для изменения поведения отказа. Это плотная причинная языковая модель семейства Qwen2 с 14 млрд параметров, рассчитанная на диалоговое использование и контекст до 32 768 токенов. В метаданных указаны библиотека Transformers и формат safetensors; README также упоминает предварительно квантованные варианты в формате GGFU. Модель предназначена для генерации, анализа и исправления кода в диалоге. README описывает удаление поведения отказа, поэтому модель может отвечать на запросы, от которых исходная модель отказалась бы; это повышает риск небезопасных ответов. Указана лицензия MIT. Подробные результаты оценки качества модифицированной модели в карточке не приведены.