II.7DevOps, облако и эксплуатация IT-систем
В разделе собраны самостоятельные задачи, где AI помогает развёртывать, наблюдать и оптимизировать цифровые системы и облачную инфраструктуру. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 196 моделейYOYO-AI/QwQ-coder-32B — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом SCE из Qwen/Qwen2.5-Coder-32B, Qwen/QwQ-32B и Qwen/Qwen2.5-Coder-32B-Instruct. Модель содержит 32 млрд параметров и принимает текстовые запросы, генерируя текст, включая программный код; доступны интерфейсы чата и вызова инструментов. Модель предназначена для генерации и анализа кода, помощи в программировании и создания кодовых агентов. Заявленная длина контекста — 131 072 токена. Веса опубликованы в формате Safetensors и используются через Transformers. В метаданных не перечислены поддерживаемые естественные языки. Модель распространяется по лицензии, сведения о которой в предоставленных данных отсутствуют.
Ba2han/QwQenSeek-coder — объединённая 32-миллиардная языковая модель на архитектуре Qwen2, созданная методом Model Stock с помощью mergekit. В объединение вошли Qwen2.5-32B-Instruct, Qwen2.5-Coder-32B-Instruct, DeepSeek-R1-Distill-Qwen-32B и QwQ-32B-Preview; базой указана Qwen/Qwen2.5-32B. Модель рассчитана на генерацию текста и диалог, включая задачи программирования и рассуждений. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. В метаданных указаны интерфейсы чата и вызова инструментов. Карточка не уточняет набор поддерживаемых естественных языков. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана. Поскольку это слияние нескольких моделей, поведение и качество на конкретных задачах могут зависеть от используемых промптов и требовать проверки в целевом сценарии.
Rewnozom — разговорная языковая модель для рассуждений и оркестрации, разработанная на основе Qwen/Qwen2.5-7B-Instruct-1M. Это дообученная плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM, 7,1 млрд параметров и контекстом до 1 010 000 токенов. Основной формат весов — safetensors; модель совместима с токенизатором и архитектурой Qwen2 и рассчитана на использование через chat template в Transformers. Модель предназначена для генерации ответов в сценариях, где важны логика, явные ограничения и структурированное выполнение задач: помощи в разработке ПО и проверке кода, планирования реализации и декомпозиции задач, а также поддержки агентных процессов, включая поиск, управление памятью и проверку разрешений. Обучающие данные ориентированы на формальное рассуждение и оркестрацию; для разрешений, переходов состояния и фактического исполнения предполагается детерминированный контроллер. Карточка указывает английский язык. Лицензия — Apache 2.0, как у базовой модели. Модель может выдавать ошибочные или неподтверждённые утверждения; сгенерированный код следует проверять и тестировать, а системный промпт не заменяет валидацию.
Viper-Coder-Hybrid-v1.3 — дообученная модель для генерации кода и технических текстов, созданная на базе Viper-Coder-v1.1. В карточке указано, что она использует архитектуру Qwen 2.5 с 14 млрд параметров; метаданные относят её к семейству Qwen2 и указывают контекст до 131 072 токенов. Модель работает с текстом и поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Модель предназначена для написания, анализа и отладки кода, решения алгоритмических и логических задач, математических рассуждений, обработки структурированных данных и подготовки технической документации. README заявляет поддержку программирования на Python, JavaScript, C++, Java, SQL и других языках, а также документации на более чем 29 естественных языках; метаданные карточки указывают английский и китайский. Заявленная длина генерации — до 8 000 токенов. Модель может требовать мощных вычислительных ресурсов. README предупреждает о возможных ошибках в длинных ответах, разнице качества между языками программирования, зависимости результата от формулировки запроса и отсутствии доступа к актуальной информации из интернета. Лицензия — Apache-2.0.
Viper-Coder-v1.6-r999 — языковая модель PrithivMLmods на архитектуре Qwen2, дообученная на синтетических данных для программирования, рассуждений и выполнения инструкций. Это плотная модель на 14 млрд параметров с контекстом до 32 768 токенов и форматом весов Safetensors; поддерживает чат и интерфейс вызова инструментов. Модель предназначена для генерации и анализа кода, отладки, решения алгоритмических и математических задач, подготовки технической документации и работы со структурированными данными, включая JSON, YAML и SQL. В карточке заявлена поддержка кода на нескольких языках программирования и документации на 29 языках; метаданные указывают английский язык. README также заявляет контекст до 128K токенов, но метаданные каталога подтверждают 32 768 токенов. Лицензия — Apache-2.0.
WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B-GGUF — это набор GGUF-квантизаций модели WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B, разработанной WhiteRabbitNeo и подготовленной пользователем bartowski. Модель предназначена для генерации текста и решения задач, связанных с программированием; в карточке указаны английский язык, библиотека Transformers и тег code. Доступны варианты для локального запуска через llama.cpp и LM Studio. Модель относится к семейству Qwen-2.5-Coder и имеет размер 7B параметров. В репозитории представлены версии от F16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ4_XS, включая варианты, оптимизированные для ARM. Квантизация выполнена с использованием imatrix на базе llama.cpp; размеры файлов составляют примерно от 4,09 до 15,24 ГБ. Рекомендуемые варианты обеспечивают компромисс между качеством и требованиями к памяти, а Q6_K_L и Q6_K описаны как близкие к исходному качеству. Сильная сторона модели — широкий выбор квантизаций для локального запуска на оборудовании с разным объёмом памяти. Ограничения включают возможное снижение качества в низкобитных вариантах, отсутствие сведений о размере контекста, точной архитектуре, дополнительных языках и мультимодальных возможностях. Лицензия — Apache-2.0.
AlchemistCoder-DS-6.7B-GGUF — квантованная в формате GGUF версия модели AlchemistCoder DS 6.7B, разработанной InternLM и основанной на DeepSeek-Coder-Base. Квантование выполнено bartowski с использованием llama.cpp. Модель предназначена прежде всего для генерации, понимания, анализа и ревью программного кода, а также других задач, связанных с разработкой программного обеспечения. Модель содержит 6,7 млрд параметров и работает с текстовыми входными и выходными данными. Она дообучалась на 200 млн токенов гармонизированных данных шести типов, включавших развитие инструкций, фильтрацию данных и задачи проверки кода. Для работы в LM Studio рекомендуется пресет Alpaca с шаблоном запроса «### Instruction» и «### Response». Согласно README, модель показывает высокие результаты на шести бенчмарках программирования, превосходит открытые модели сопоставимого размера и может конкурировать с более крупными моделями; также отмечены улучшения на MMLU, BBH и GSM8K. При этом конкретные поддерживаемые языки программирования, размер контекстного окна и характеристики отдельных вариантов квантования не указаны, а результаты зависят от выбранного варианта GGUF и условий запуска. Модель распространяется по лицензии Apache-2.0.
Claude Opus 4.7 — модель семейства Opus, разработанная Anthropic для длительно работающих асинхронных агентов. Она развивает возможности Claude Opus 4.6 в программировании и агентных сценариях. Доступный фрагмент карточки обрывается до описания характеристик и конкретных задач, поэтому размер, архитектуру, модальности, языки и контекст модели установить по нему нельзя.
CodeLlama-13B-Instruct-fp16 — версия весов Code Llama 13B-Instruct от Meta в формате Transformers/Hugging Face, подготовленная TheBloke конвертацией исходных весов Meta в формат HF. Это авторегрессионная плотная трансформерная языковая модель семейства Llama с 12,9 млрд параметров, обученная следовать инструкциям и предназначенная для более безопасного использования в помощниках по программированию и генерации кода. Модель принимает и выдаёт текст. Она подходит для генерации и объяснения кода, ответов на вопросы о программировании и выполнения инструкций на английском языке и языках программирования. Для этой версии в метаданных указан контекст 16 384 токена; README отмечает, что варианты Code Llama обучались на последовательностях до 16K токенов и допускают более длинный контекст при инференсе. Для корректной работы этих весов fp16 README требует загрузки с trust_remote_code=True. Модель может выдавать неточный или нежелательный код и ответы, поэтому результаты требуют проверки и настройки под конкретное применение. Лицензия — специальная лицензия Llama 2; коммерческое использование регулируется её условиями.
CodeLlama 13B Instruct — языковая модель для генерации и объяснения программного кода, разработанная Meta. В данном репозитории опубликованы её квантизированные файлы в формате GGUF, подготовленные TheBloke на основе оригинальной модели codellama/CodeLlama-13b-Instruct-hf. Модель предназначена для решения задач программирования по текстовому описанию, включая написание кода с учетом ограничений и примеров тестов. Она относится к семейству Llama, имеет размер 13 млрд параметров и работает в режиме text-generation. Указана модальность работы с текстом и кодом; конкретные языки программирования и максимальная длина контекста в README не перечислены. Для запросов рекомендуется шаблон CodeLlama с инструкцией в формате [INST]...[/INST]. Формат GGUF обеспечивает совместимость с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие. Доступны варианты квантизации от 2 до 8 бит для запуска с использованием CPU и GPU, что позволяет выбирать баланс между требованиями к памяти, скоростью и качеством. Ограничениями являются возможная потеря качества из-за квантизации и специализация прежде всего на задачах, связанных с кодом; сведения о результатах тестирования и производительности отсутствуют. Лицензия указана как Llama 2.
CodeLlama-34b-Instruct-hf — языковая модель Meta из семейства Code Llama, представленная в формате Transformers. Это авторегрессионная плотная модель на архитектуре Transformer с 33,5 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для генерации и понимания кода, завершения фрагментов кода и выполнения инструкций в формате чат-ассистента. Она принимает текст и генерирует текст; README указывает английский как целевой естественный язык, а также работу с языками программирования. Модель не заявлена как специализированная на Python. Модель обучена на данных семейства Llama 2 с дополнительными весами и настройкой для следования инструкциям. Она может выдавать неточные или нежелательные ответы; перед внедрением рекомендуется проверять её поведение для конкретных сценариев. Использование регулируется лицензией Meta Llama 2.
Codestral-22B-v0.1 — плотная авторегрессионная модель семейства Mistral на 22 млрд параметров, разработанная командой Mistral AI и обученная на разнообразном наборе данных, включающем более 80 языков программирования. Она предназначена для генерации и анализа кода: модель отвечает на вопросы о фрагментах программ, пишет документацию, объясняет и рефакторит код, а также создаёт программы по инструкциям. Режим Fill in the Middle позволяет дополнять код между заданными префиксом и суффиксом, в том числе в инструментах разработки. Поддерживается контекст длиной до 32 768 токенов. Модель принимает текстовые запросы и выдаёт текст, включая программный код. README приводит Python, Java, C, C++, JavaScript и Bash как примеры языков обучения; полный перечень заявлен в сопутствующей публикации. Контроль модерации в модели отсутствует, поэтому её ответы могут требовать проверки и внешних ограничений. Репозиторий использует формат safetensors; лицензия в метаданных указана как other, конкретные условия следует сверять с карточкой модели.
Dolphin3.0-R1-Mistral-24B-GGUF — это квантизированная версия языковой модели Dolphin3.0-R1-Mistral-24B, разработанной cognitivecomputations и подготовленной в формате GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста на английском языке и запуска локально через llama.cpp, LM Studio и другие совместимые приложения. Модель основана на архитектуре Mistral и содержит 24 миллиарда параметров. Она обучалась на смесях данных для инструкционного следования, рассуждений, математики, программирования, function calling и агентных сценариев, включая наборы Dolphin, OpenCoder, Orca, Hermes, NuminaMath, Tulu и CodeFeedback. Доступны варианты квантизации от Q4 до Q8 и полноточный вариант f32; размер файлов варьируется примерно от 13,5 до 94,3 ГБ. Квантизация уменьшает требования к памяти, сохраняя приемлемое качество, однако более компактные варианты могут уступать исходной модели по точности. Сильными сторонами являются поддержка локального запуска, широкий выбор уровней квантизации и ориентация на рассуждения, математические задачи, код и выполнение инструкций. README не содержит данных о длине контекста, мультимодальности, подробных результатах оценки, системных требованиях или лицензии, поэтому эти характеристики нельзя достоверно определить.
DeepSeek-Coder-V2-Instruct-0724-IMat-GGUF — это GGUF-квантизированная версия инструкционной модели DeepSeek-Coder-V2-Instruct-0724, разработанной deepseek-ai. Репозиторий подготовлен legraphista с использованием llama.cpp и предназначен для локального запуска и генерации текста, прежде всего для задач программирования и взаимодействия в формате чата, поддерживаемых исходной моделью. Модель распространяется в форматах GGUF с различными уровнями квантизации: от Q8_0 до Q2_K, включая варианты Q5, Q4, Q3 и IQ. Доступны файлы размером примерно от 85,95 до 250,62 ГБ, все варианты разделены на несколько частей. Для ряда конфигураций Q4 и ниже применена IMatrix-квантизация, призванная повысить качество при уменьшении размера. Исходный тип данных модели — BF16. Сведения об архитектуре, количестве параметров, длине контекста, языках и поддерживаемых модальностях в README не указаны. Сильная сторона репозитория — широкий выбор квантизаций и готовность к использованию с экосистемой llama.cpp, что позволяет подбирать компромисс между размером файлов и качеством. Ограничениями являются очень большой объём моделей, необходимость объединения или корректной работы с разделёнными файлами, а также возможное снижение качества на низких уровнях квантизации. Модель распространяется по лицензии deepseek-license; указана категория лицензии other и ссылка на файл LICENSE.
ChuckMcSneed/dolphin-2.9.1-dbrx-llamacppfixed — исправленная копия Dolphin 2.9.1 DBRX от Cognitive Computations с исправлениями для конвертации в GGUF через llama.cpp. Базовая модель — databricks/dbrx-base; Dolphin дообучена полным fine-tuning на последовательностях длиной 4 тыс. токенов, хотя базовая модель поддерживает контекст 32 тыс. токенов. Используется архитектура DBRX и шаблон диалога ChatML. Модель предназначена для диалогов с ассистентом, следования инструкциям, программирования, решения математических задач, вызова функций и первоначальных агентных сценариев. README отмечает её высокую готовность отвечать на запросы, в том числе вредоносные, а также посредственное качество письма и возможное снижение качества при квантовании. Для применения в сервисах автор рекомендует добавить собственный слой выравнивания. В README указаны лицензия databricks-open-model-license для базовой модели и разрешение на использование Dolphin, включая коммерческое, в рамках лицензии Meta Llama 3; точные условия для этой исправленной копии следует сверять с лицензией репозитория.
FlashModel-Qwen3.5-9B-GGUF — набор GGUF-квантизаций модели FlashModel-Qwen3.5-9B, подготовленный flashback2k на базе Qwen/Qwen3.5-9B. Исходная модель дообучена методом LoRA с RSLoRA на проекциях внимания и MLP, затем объединена с базовой моделью. Дообучение выполнено на 9 638 примерах и примерно 45 млн токенов, включая математические задачи, соревновательное программирование, агентные сценарии, следование инструкциям и научные данные. Модель ориентирована на рассуждения, генерацию и анализ кода, диалоги и вызовы инструментов. В карточке указан английский язык; поддержка других языков не заявлена. Модель имеет около 9 млрд параметров и распространяется в нескольких вариантах GGUF с разным уровнем квантизации и размером файлов примерно от 4,42 до 6,74 ГБ. Для квантизации использована собственная importance matrix, рассчитанная на этой дообученной модели. Варианты предназначены для локального запуска через llama.cpp, Ollama и LM Studio; заявлена совместимость с инструментальными вызовами и контекстом до 32 768 токенов при использовании рекомендованной конфигурации. Модель текстовая: vision tower отсутствует, поэтому мультимодальный ввод изображений не поддерживается. Сильными сторонами являются специализация на reasoning, coding и tool-calling, выбор вариантов под разные объёмы VRAM или RAM, а также оптимизация GGUF для локального запуска. Ограничения включают неизбежную потерю качества при низкой квантизации, необходимость оставлять память под KV-кэш, отсутствие заявленной поддержки изображений и ограниченность опубликованных сведений об оценках качества. Рекомендуемые параметры генерации взяты из карточки базовой модели и не перенастраивались специально для этого fine-tune; влияние тегов reasoning budget отмечено как экспериментальное. Модель распространяется по лицензии Apache-2.0.
GLM-4.6-REAP-252B-A32B — сжатая версия диалоговой языковой модели GLM-4.6, созданная командой Cerebras методом REAP (Router-weighted Expert Activation Pruning). Это причинная разреженная MoE-модель: из 160 экспертов удалены 30%, осталось 112; на токен активируются 8 экспертов. README указывает 252 млрд параметров всего и 32 млрд активных на токен, тогда как метаданные Hugging Face указывают 23,4 млрд параметров. Контекст — до 202 752 токенов. Модель предназначена для генерации текста и кода, агентных рабочих процессов, понимания больших репозиториев и вызова функций. Карточка заявляет производительность, близкую к исходной GLM-4.6, и снижение требований к памяти примерно на 30%; после однократного прореживания дополнительное дообучение не требуется. Указаны поддержка запуска через vLLM и английский язык. README предупреждает, что для BF16-версии оценки не приведены; результаты доступны для FP8-варианта. Лицензия — MIT.
GRM-2.6-Plus — дообученная OrionLLM мультимодальная модель на 27 млрд параметров на архитектуре Qwen3.6. Она предназначена для сложных задач общего назначения: рассуждений, программирования, диалога и агентных сценариев с использованием инструментов. Модель принимает текст и изображения и генерирует текст; метаданные указывают на поддержку чата и интерфейса вызова инструментов. Разработчик позиционирует модель как вариант для локального применения, ориентированный на структурированные рассуждения и практическую работу на подходящем потребительском или рабочем оборудовании. В README заявлены сильные стороны в решении сложных задач и генерации кода, однако приведённые бенчмарки опущены, поэтому эти заявления нельзя оценить по карточке. Модель распространяется в формате safetensors по лицензии Apache 2.0.
IQuest-Q1 — языковая модель от IQuest для агентного программирования, рассуждений и многошагового использования инструментов. В репозитории Hugging Face указана версия на 3,7 млрд параметров с архитектурой MoE семейства IQuest-Q1; README описывает вариант примерно на 320 млрд параметров, из которых около 15 млрд активируются на каждом токене. Это расхождение означает, что параметры конкретного загруженного чекпойнта не вполне согласуются с описанием карточки. Модель предназначена для генерации текста в диалоговом режиме и может использоваться в агентных сценариях, включая работу с кодом и инструментами через совместимые интерфейсы. Заявлено контекстное окно до 524 288 токенов; поддерживаются английский и китайский языки. По README модель не обладает мультимодальными возможностями. Весовой формат репозитория — safetensors, библиотека — Transformers. Лицензия указана как other, поэтому условия использования следует проверить в самой карточке модели.
Kimi K2-Instruct-0905 — языковая модель, разработанная Moonshot AI. Это обновлённая версия Kimi K2, ориентированная на агентное программирование, выполнение длительных задач и работу с инструментами. Модель особенно предназначена для разработки и анализа кода, задач coding agent, а также создания frontend-приложений с улучшенным вниманием к эстетике и практичности интерфейсов. Модель использует архитектуру Mixture-of-Experts (MoE) с 1 трлн общих параметров и 32 млрд активируемых параметров. Она содержит 61 слой, 384 эксперта, из которых для каждого токена выбираются 8, 64 attention head, механизм внимания MLA и функцию активации SwiGLU. Размер словаря составляет 160 тысяч токенов, а контекстное окно — 256 тысяч токенов, что подходит для анализа больших репозиториев и продолжительных многошаговых сценариев. README не указывает полный перечень поддерживаемых языков и модальностей; по представленным данным это языковая, а не мультимодальная модель. Сильные стороны модели — улучшенные результаты в задачах агентного программирования и поддержка очень длинного контекста. В README приведены результаты на SWE-Bench, SWE-Bench Multilingual, Multi-SWE-Bench, Terminal-Bench и SWE-Dev, однако они зависят от условий тестирования и не гарантируют аналогичную эффективность в каждом проекте. К ограничениям относятся высокая вычислительная сложность полной модели и необходимость специализированных inference-движков; рекомендованы vLLM, SGLang, KTransformers и TensorRT-LLM. Доступны checkpoint в формате block-fp8 и API с OpenAI- и Anthropic-совместимыми интерфейсами. Лицензия указана как modified MIT.
Laguna XS 2.1-FP8 — текстовая Mixture-of-Experts модель, разработанная poolside для агентного программирования и длительных рабочих процессов на локальном компьютере. Она предназначена для генерации и анализа кода, выполнения многошаговых задач с инструментами и работы в сценариях, требующих продолжительного контекста и межшагового рассуждения. Модель содержит 33 млрд параметров, из которых 3 млрд активируются для каждого токена, и включает 256 экспертов с одним общим экспертом. Архитектура состоит из 40 слоёв: 30 используют Sliding Window Attention с окном 512 токенов, а 10 — глобальное внимание; применяется смешанное соотношение SWA и глобального внимания 3:1, а также per-head gating и rotary scales. Контекстное окно составляет 262 144 токена. Модель работает в режиме text-to-text, поддерживает interleaved thinking между вызовами инструментов и позволяет включать или отключать режим рассуждений для отдельных запросов. Вариант FP8 использует FP8-квантизацию KV-кэша, что снижает требования к памяти. К сильным сторонам относятся компактность для модели такого класса, низкие требования к KV-кэшу, пригодность для локального запуска и специализация на агентных задачах разработки ПО. В README не указаны поддерживаемые языки программирования или естественные языки. Приведённые результаты зависят от конкретной методики оценки и параметров запуска; заявлены показатели 70,9% на SWE-bench Verified, 63,1% на SWE-bench Multilingual, 47,6% на SWE-Bench Pro и 37,5% на Terminal-Bench 2.0. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и модификацию для коммерческих и некоммерческих целей.
Карточка модели 404devnotfound/LongCat-2.0 на Hugging Face совпадает с карточкой bh890/LongCat-2.0, поэтому описание составлено по ней. LongCat-2.0 — большая языковая модель семейства LongCat, представленная разработчиками проекта LongCat. Это модель архитектуры MoE с классом LongcatCausalLM; в метаданных репозитория указано 42,1 млрд параметров, тогда как README описывает полную версию с 1,6 трлн параметров и примерно 48 млрд активируемых на токен. Репозиторий содержит веса в формате safetensors и использует лицензию MIT. Модель предназначена для диалоговой генерации текста, программирования, понимания кода и репозиториев, выполнения задач агентами и работы с инструментальными сценариями. README сообщает об обучении на данных с контекстом до 1 млн токенов и об архитектурном механизме LongCat Sparse Attention для длинных последовательностей; метаданные указывают нативный контекст 262 144 токена. В карточке также заявлены чат и интерфейс вызова инструментов. README особо выделяет задачи с длинным горизонтом, редактирование кода на уровне репозитория и автоматизацию действий; развёртывание описано для GPU и NPU. Модель не оценивалась всесторонне для всех возможных прикладных сценариев. Условия лицензии — MIT.
mergekit-community/mergekit-slerp-fecxcxs — слитая языковая модель, созданная сообществом с помощью mergekit методом SLERP из budecosystem/code-millenials-34b и oobabooga/CodeBooga-34B-v0.1. Модель относится к семейству Llama, использует плотную архитектуру LlamaForCausalLM и содержит 22,4 млрд параметров. Она предназначена для генерации текста, включая код и ответы на инструкции по программированию. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 16 384 токена. Веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.
Карточка модели 43nikolayvladimirovich/MiniCPM5-1B-SFT на Hugging Face совпадает с карточкой openbmb/MiniCPM5-1B-SFT, поэтому описание составлено по ней. MiniCPM5-1B-SFT — контрольная точка модели серии MiniCPM5 от OpenBMB, предназначенная для локального запуска на устройствах с ограниченными ресурсами. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM: в метаданных указано 837,6 млн параметров, а карточка сообщает о 24 слоях и 16 головах запросов и 2 головах ключей и значений. Модель принимает текст и выдаёт текст; контекст — до 131 072 токенов. Карточка модели указывает английский и китайский языки. SFT-чекпойнт предназначен для локальных помощников, генерации кода, агентных сценариев с вызовом инструментов и сложных рассуждений. В серии предусмотрены режимы ответа с рассуждением и без него; этот вариант обучен только методом SFT и предшествует этапам RL и OPD. Поддерживаются запуск через Transformers, vLLM и SGLang, а также дообучение с помощью ресурсов проекта. Заявления карточки о сравнительных результатах относятся к указанному в ней набору моделей и бенчмарков. Модель распространяется под лицензией Apache-2.0. Она может выдавать неточные, предвзятые или небезопасные ответы; результаты следует проверять, особенно перед применением в ответственных сценариях.
unsloth/MiniMax-M3-GGUF — это экспериментальная GGUF-версия мультимодальной модели MiniMax-M3, разработанной MiniMax и подготовленной в формате GGUF проектом Unsloth. Модель предназначена для работы с текстом, изображениями и видео, включая диалоговые сценарии, генерацию и анализ кода, агентские задачи и длительное взаимодействие с пользователем. Архитектура модели сочетает Mixture of Experts (MoE) и механизм разреженного внимания MiniMax Sparse Attention (MSA). Всего модель содержит около 428 млрд параметров, из которых на каждый токен активируется примерно 23 млрд; используется 128 экспертов, четыре из которых активны для каждого токена, и 60 слоёв. Заявлена длина контекста до 1 млн токенов. Поддерживаются режимы thinking для сложного рассуждения, агентских задач и долгого сотрудничества и non-thinking для сценариев, чувствительных к задержке, например чата и автодополнения кода. К сильным сторонам относятся нативная мультимодальность, заявленная эффективность на длинном контексте и высокие результаты в задачах программирования и агентского взаимодействия. Ограничения этой версии связаны с экспериментальным статусом: поддержка MiniMax-M3 в llama.cpp предварительная, а MiniMax Sparse Attention пока не поддерживается, поэтому используется плотное внимание. Модель очень велика и требует значительных ресурсов, включая распределение вычислений между несколькими GPU или размещение весов в оперативной памяти CPU. Для использования указана MiniMax Community License.
Карточка модели charleshyella/MISS_V0 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.
Карточка модели zendxx/NeoHorse-1-4B на Hugging Face совпадает с карточкой TokenRhythm/NeoHorse-1-4B, поэтому описание составлено по ней. NeoHorse-1-4B — плотная причинно-языковая модель примерно на 3,4 млрд параметров, разработанная TokenRhythm дообучением Qwen/Qwen3.5-4B. Это прототип для текстовых агентных сценариев: диалогов, вызова инструментов, программирования, рассуждений и следования инструкциям. Модель распространяется в формате Safetensors; карточка указывает контекст до 262 144 токенов и совместимость с Transformers, а README описывает локальный запуск через SGLang и vLLM с OpenAI-совместимым API. В README заявлен прирост среднего результата на десяти бенчмарках относительно исходной Qwen3.5-4B. Выпуск содержит только языковые веса: визуальные веса отсутствуют, поэтому этот репозиторий предназначен для текстового вывода, даже несмотря на мультимодальные возможности базовой модели. Фактическая длина контекста при обслуживании зависит от памяти GPU и настроек сервера. Лицензия — Apache-2.0.
NeoHorse-1-4B-GGUF — GGUF-версии примерно 4-миллиардной причинной языковой модели NeoHorse-1-4B, разработанной TokenRhythm на базе Qwen3.5-4B. Модель дообучалась для текстовых агентных сценариев, использования инструментов, программирования, рассуждений и следования инструкциям. Это текстовая модель без заявленной поддержки изображений или других мультимодальных данных. Репозиторий предназначен для локального запуска через llama.cpp, Ollama и LM Studio. Доступны веса в формате BF16, а также 8-, 5- и 4-битные квантизованные варианты, которые требуют меньше дискового пространства и оперативной памяти. Архитектура описана как агентно-ориентированная причинная языковая модель; размер контекста и поддерживаемые языки в README не указаны. К сильным сторонам относятся ориентация на агентное взаимодействие и tool use, задачи программирования и instruction following, а также заявленное улучшение среднего результата на десяти бенчмарках по сравнению с Qwen3.5-4B: 64,87 против 58,94. Ограничения включают отсутствие подробных сведений о языках, контексте и характеристиках отдельных квантизаций; заявленные результаты могут зависеть от условий оценки. Модель распространяется по лицензии Apache-2.0.
Карточка модели liskasYR/NeoHorse-1-9B на Hugging Face совпадает с карточкой TokenRhythm/NeoHorse-1-9B, поэтому описание составлено по ней. NeoHorse-1-9B — текстовая причинно-следственная языковая модель TokenRhythm, дообученная на базе Qwen3.5-9B для работы с агентными системами. Модель имеет 7,2 млрд параметров, использует архитектуру Qwen3.5 и принимает только текст; визуальные веса в этом выпуске отсутствуют. Заявленная длина контекста — 262 144 токена. Модель предназначена для диалогов, следования инструкциям, вызова инструментов, программирования и рассуждений в текстовых агентных сценариях. В техническом отчёте авторы сообщают о среднем результате 69,04 по десяти тестам против 65,60 у базовой Qwen3.5-9B; это результаты авторской оценки, а не гарантия качества в конкретном применении. Доступны веса в формате safetensors и интерфейс для вызова инструментов. Лицензия — Apache-2.0.
Mungert/NextCoder-7B-GGUF — GGUF-квантизированная версия модели NextCoder-7B, разработанной Microsoft на базе Qwen2.5-Coder-7B-Instruct. Модель предназначена прежде всего для генерации и редактирования программного кода, исправления ошибок, работы с разнообразными правками кода и диалоговых сценариев для разработчиков. Постобучение выполнено с использованием методики Selective Knowledge Transfer (SeleKT), ориентированной на улучшение code editing без потери общей применимости. Это авторегрессионная causal language model с архитектурой на базе Transformers, RoPE, SwiGLU, RMSNorm и attention QKV bias. Модель содержит 7,61 млрд параметров, из них 6,53 млрд — без учёта embedding, имеет 28 слоёв, 28 Q-heads и 4 KV-heads с GQA. Заявлена поддержка контекста до 32K токенов. В карточке указано English как язык модели; поддерживается текстовая модальность. GGUF-файлы созданы с помощью llama.cpp, при этом автор применяет выборочное повышение точности отдельных слоёв сверх стандартной конфигурации IMatrix, что может улучшать качество при заданном уровне квантизации, но увеличивает размер файлов. Сильными сторонами являются специализация на редактировании кода, длинный контекст и улучшенные результаты NextCoder-7B по сравнению с базовой Qwen2.5-Coder-7B на приведённых тестах HumanEvalFix, CanItEdit и Aider. Ограничения включают зависимость качества и требований к ресурсам от конкретного GGUF-варианта квантизации, а также отсутствие подробных характеристик отдельных файлов в представленном README. Лицензия — MIT.