II.7DevOps, облако и эксплуатация IT-систем

Qwen2.5-14B-Coder-Merge — объединённая языковая модель на архитектуре Qwen2, созданная сообществом mergekit-community методом Model Stock на базе Qwen/Qwen2.5-14B. В объединение вошли Qwen2.5-Coder-14B, Qwen2.5-Coder-14B-Instruct и Rombos-Coder-V2.5-Qwen-14b. Модель содержит 14 млрд параметров, работает через Transformers и распространяется в формате safetensors с весами bfloat16; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации кода и диалогового взаимодействия по задачам программирования. Её можно использовать для написания, анализа и исправления кода, а также для общения с инструментами через соответствующий интерфейс. Вход и выход представлены текстом; конкретный набор поддерживаемых естественных языков в предоставленных данных не описан. Лицензия в предоставленных источниках не указана. Поскольку модель получена слиянием нескольких чекпойнтов, её поведение и качество могут отличаться от исходных моделей; README не приводит результатов оценки или подробных ограничений.

Qwen2.5-Coder-14B-Instruct-Q5_K_M-GGUF — это квантованная версия модели Qwen2.5-Coder-14B-Instruct, преобразованная в формат GGUF пользователем apto-as с помощью llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате, включая использование через llama.cpp в CLI или серверном режиме. Модель имеет размер 14 млрд параметров, относится к текстовым моделям и ориентирована прежде всего на задачи программирования. В README указана поддержка английского языка; сведения о других языках, архитектуре, максимальном размере контекста и результатах тестирования не приведены. Квантование Q5_K_M снижает требования к памяти по сравнению с полноразмерной версией, что облегчает локальный запуск, однако может сопровождаться некоторой потерей точности. В качестве ограничений также следует учитывать отсутствие подробных данных о производительности и качестве модели в данном README. Модель распространяется по лицензии Apache-2.0. Для получения подробных характеристик, включая возможности исходной модели, рекомендуется обращаться к карточке базовой Qwen2.5-Coder-14B-Instruct.

mbetixz/Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для программирования из семейства Qwen2.5-Coder. Она предназначена для генерации и объяснения кода, рассуждений о коде, исправления ошибок и создания кодовых агентов; также сохраняет математические и общие языковые возможности. Модель разработана на архитектуре Qwen2 с причинным декодированием и 32 млрд параметров по метаданным. Карточка описывает архитектуру с RoPE, SwiGLU, RMSNorm и групповым запросным вниманием, а также контекст до 131 072 токенов; конфигурация репозитория рассчитана на 32 768 токенов, а для более длинных входов требуется настройка YaRN. Модель принимает текстовые инструкции и выдаёт текст, включая код. Карточка описывает обучение на коде, текстово-кодовом сопоставлении и синтетических данных; языковая поддержка в метаданных отмечена как английская. Для работы рекомендуется актуальная версия Transformers; для развёртывания README рекомендует vLLM. Лицензия — Apache-2.0. Заявления карточки о сравнительной производительности являются утверждениями разработчика, а результат на конкретных задачах зависит от сценария и настройки.

Qwen2.5-Coder-3B — базовая кодовая языковая модель, разработанная командой Qwen. Это предварительно обученная причинная трансформерная модель семейства Qwen2 с 3,09 млрд параметров, предназначенная для генерации и анализа кода, рассуждений о коде и исправления ошибок. Она также сохраняет общие языковые и математические способности базовой Qwen2.5. Модель обучалась на корпусе из исходного кода, текстово-кодовых данных и синтетических данных. Архитектура использует RoPE, SwiGLU, RMSNorm, смещение в проекциях QKV и связанные эмбеддинги слов; в ней 36 слоёв, 16 голов Q и 2 головы KV. Контекст составляет 32 768 токенов. Модель предназначена для задач продолжения кода и заполнения пропусков в коде; авторы не рекомендуют использовать базовую версию для диалогов без дополнительного постобучения. Для работы с Transformers требуется версия 4.37.0 или новее. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

saidutta69/Qwen2.5-Coder-3B-Instruct-heretic — декензурированная версия Qwen2.5-Coder-3B-Instruct, созданная с помощью Heretic v1.2.0 методом направленной абляции. Изменения внесены непосредственно в веса attention и MLP без дообучения, поэтому базовые знания и следование инструкциям в основном сохранены. Модель предназначена для локального запуска разработчиками, генерации и анализа кода, работы в роли программного копилота и локальных coding agents. Модель является текстовой causal language model размером около 3,1 млрд параметров, поддерживает английский язык и распространяется в форматах GGUF, включая F16 и различные варианты квантования. Она совместима с llama.cpp, Ollama, LM Studio, Jan, Transformers, vLLM и SGLang, а благодаря небольшому размеру подходит для потребительских GPU, CPU и Apple Silicon. Контекст модели в README не указан. Доступны варианты весов примерно от 1,19 до 5,75 ГБ, при этом для контекста требуется дополнительная память. Главная особенность — подавление отказов от выполнения запросов: согласно приведённому сравнению, модель отказала в 3 из 100 тестов против 100 из 100 у исходной версии, при этом KL-дивергенция составила 0,0163. Это делает её более прямолинейной для локального использования, но одновременно снижает встроенные защитные ограничения. Модель не добавляет новых возможностей или механизмов проверки фактов, наследует ограничения и предвзятость базовой модели и не рекомендуется для неотмодерированных публичных сервисов. Лицензия унаследована от базовой модели и указана как qwen-research; для коммерческого использования необходимо ознакомиться с условиями лицензии Qwen по указанной ссылке.

BenevolenceMessiah/Qwen2.5-Coder-7B-3x-Instruct-TIES-v1.1 — объединённая модель на основе Qwen2.5-Coder-7B, созданная методом TIES с помощью mergekit. В состав объединения входят Etherll/Qwen2.5-Coder-7B-Instruct-Ties, huihui-ai/Qwen2.5-Coder-7B-Instruct-abliterated и MadeAgents/Hammer2.0-7b. Это плотная причинная языковая модель архитектуры Qwen2 с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Модель предназначена для генерации, анализа и исправления программного кода, а также для диалоговых сценариев и вызова инструментов через соответствующий интерфейс. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Карточка не сообщает отдельный перечень поддерживаемых естественных языков или лицензию, поэтому языковую специализацию и условия использования по доступным сведениям определить нельзя.

Kondara/Qwen2.5-Coder-7B-Instruct-Q4_K_M-GGUF — это квантованная версия модели Qwen/Qwen2.5-Coder-7B-Instruct, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и прежде всего для работы с программным кодом, включая задачи программирования и чат-взаимодействия. Модель имеет размер 7B параметров, относится к семейству Qwen2.5-Coder и представлена в формате квантования Q4_K_M, что позволяет запускать её локально с llama.cpp через CLI или сервер. В карточке указана поддержка английского языка; другие языки и мультимодальные возможности не заявлены. В качестве примера запуска используется контекст длиной 2048 токенов, но максимальный размер контекста в README не указан. К сильным сторонам относятся специализация на коде, инструкционное обучение и возможность локального запуска в компактном квантованном формате. Ограничения связаны с размером 7B, возможным снижением точности из-за квантования и отсутствием подробных данных о качестве, поддерживаемых языках программирования и максимальном контексте. Лицензия — Apache-2.0, унаследованная от исходной модели.

Etherll/Qwen2.5-Coder-7B-Instruct-Ties — объединённая инструкционная языковая модель, созданная автором репозитория методом TIES с помощью mergekit. В качестве базовой использована Qwen/Qwen2.5-Coder-7B, а в объединение включена Qwen/Qwen2.5-Coder-7B-Instruct. Модель предназначена для диалоговой генерации текста и помощи с программным кодом: она может генерировать, анализировать и исправлять код, а также отвечать на запросы в формате чата. Архитектура — плотная Qwen2, 7,1 млрд параметров; нативный контекст — 32 768 токенов. Репозиторий содержит веса safetensors, а метаданные указывают библиотеку Transformers и интерфейс для вызова инструментов. Карточка не приводит результаты оценки качества или перечень поддерживаемых языков программирования. Лицензия в предоставленных данных не указана; сведения о ней следует проверить на странице репозитория.

AnonimousA/Qwen3.8-Flash-Next-REAP-320-GGUF — неофициальная общественная производная модели Qwen3.8-Flash-Next, не связанная с Alibaba или командой Qwen. Это текстовая генеративная MoE-модель с прореживанием: число экспертов на слой уменьшено с 512 до 320. Доступны GGUF-квантизации семейства UD-Q3_K_XL объёмом около 64,2 GiB и Q2-вариант объёмом около 57,3 GiB. Отбор экспертов выполнен по много-доменному корпусу, включавшему агентские сценарии, код, диалоги, математику и тексты. Сведения о языках, размере контекстного окна и точной общей архитектуре в карточке не указаны. Модель ориентирована на генерацию текста, программирование и использование в условиях ограниченной видеопамяти, где важны размер, скорость предварительного заполнения и возможность размещения вычислений на GPU. Для основной версии заявлены результаты HumanEval 96,3%, 9 из 10 успешных генераций в тесте редких имён и ускорение prefill примерно на 23% относительно указанного базового варианта; Q2-версия может полностью размещаться на видеокарте с 32 ГБ. Ограничение — потеря части мировых знаний из-за прореживания: в тесте из 12 вопросов доля фабрикаций составила 25%, поэтому модель менее предпочтительна для универсального ассистента, ориентированного на фактическую осведомлённость. Лицензия указана как qwen-community-license-1.0.

mlx-community/Qwen3-Coder-480B-A35B-Instruct-4bit — модель для генерации текста, созданная на основе Qwen3-Coder-480B-A35B-Instruct от Qwen и преобразованная сообществом mlx-community в формат MLX. Модель предназначена прежде всего для задач программирования и обработки инструкций, включая генерацию ответов на текстовые запросы в совместимых приложениях на базе MLX. Модель имеет обозначение 480B-A35B и использует 4-битное квантование, что уменьшает требования к памяти по сравнению с полноразмерной версией. Она поддерживает текстовую модальность и относится к классу instruction-tuned моделей для text generation. README не содержит сведений о конкретной архитектуре, максимальном контексте, поддерживаемых языках, производительности и результатах тестирования. Сильной стороной является адаптация к MLX и возможность запуска через библиотеку mlx-lm с использованием чат-шаблона токенизатора. Ограничения включают высокую заявленную размерность модели и отсутствие в README подробностей о требованиях к оборудованию, качестве на конкретных задачах и языковой поддержке. Распространение осуществляется по лицензии Apache-2.0.

MLX-версия модели Qwen3-Coder-Next, разработанная сообществом mlx-community и конвертированная из Qwen/Qwen3-Coder-Next с использованием mlx-lm 0.30.5. Модель предназначена для генерации текста, в первую очередь в сценариях, связанных с программированием и работой с кодом, и рассчитана на запуск через экосистему MLX. Модель представлена в 5-битном формате квантования, что уменьшает требования к памяти по сравнению с полноразмерным представлением и может быть удобно для локального запуска на совместимом оборудовании Apple. В README не указаны точные архитектурные параметры, количество параметров, поддерживаемые языки, размер контекста или дополнительные модальности; заявлена только текстовая генерация. Для использования требуется библиотека mlx-lm и совместимое с MLX окружение. Сильными сторонами являются оптимизация под формат MLX и уменьшенный размер представления, однако 5-битное квантование может влиять на точность по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-Next-Base — базовая языковая модель компании Qwen, предназначенная для разработки кодовых агентов и локальной работы с кодом. Это предварительно обученная авторегрессионная модель семейства Qwen3-Next с гибридной архитектурой: чередует Gated DeltaNet, Gated Attention и разреженные Mixture of Experts. В README указано 80 млрд параметров всего и 3 млрд активируемых; метаданные Hugging Face указывают 2,3 млрд параметров, поэтому размерные сведения источников расходятся. Модель рассчитана на генерацию кода и использование как основы для последующего обучения и создания агентных систем. Заявлены возможности вызова инструментов, адаптации шаблонов и каркасов проектов, а также поиска и восстановления после ошибок. Нативная длина контекста — 262 144 токена; README заявляет поддержку более 370 языков, в том числе языков программирования. Модель работает только в режиме без рассуждений (non-thinking) и не генерирует блоки разметки рассуждений. Репозиторий содержит веса Safetensors, библиотека — Transformers. Лицензия Apache-2.0.

mlx-community/Qwen3-Coder-Next-bf16 — конвертированная в формат MLX версия Qwen/Qwen3-Coder-Next, подготовленная сообществом mlx-community. Это языковая модель с архитектурой Qwen3 Next и причинным декодером, предназначенная для генерации кода и работы в кодирующих агентах, включая многошаговую разработку и взаимодействие с инструментами. Модель поддерживает диалоговый режим, принимает текст и генерирует текст; заявленная длина контекста составляет 262144 токена, общее число параметров — 2,3 млрд. Репозиторий содержит веса в формате safetensors и предназначен для запуска с MLX, в частности через mlx-lm. Лицензия — Apache-2.0. README указывает на конвертацию исходной модели в формат MLX; метаданные также связывают её с Qwen/Qwen3-Coder-Next.

inferencerlabs/Qwen3-Coder-Next-MLX-Q9 — это текстовая генеративная модель для задач программирования, основанная на Qwen/Qwen3-Coder-Next и адаптированная для запуска с использованием MLX. Репозиторий inferencerlabs предоставляет её в формате квантования q9, созданного модифицированной версией MLX. README не содержит точных сведений о разработчике базовой модели, размере, архитектуре, поддерживаемых языках и длине контекста. Модель предназначена для генерации текста и, прежде всего, для сценариев, связанных с написанием и обработкой кода. По приведённым результатам тестирования, на системе с M3 Ultra и 512 ГБ оперативной памяти она достигала примерно 68 токенов в секунду при одиночном запросе и 159 токенов в секунду суммарно при пакетной обработке шести запросов, используя около 83,5 ГиБ памяти. Ключевая особенность модели — высокоточное q9-квантование с заявленным близким к исходному качеством в тестах программирования. Для q9 указаны perplexity 1,21093, точность токенов 97,55% и показатель пропущенной дивергенции 10,50%; эти значения совпадают с приведёнными для q8.5 и немного уступают базовой модели. Ограничения включают высокие требования к памяти, зависимость производительности от оборудования и отсутствие в README сведений о лицензии. Условия использования базовой модели также необходимо уточнять отдельно.

Qwen3-Coder-REAP-246B-A35B — сжатая модель Cerebras на архитектуре Sparse Mixture-of-Experts, созданная из Qwen3-Coder-480B-A35B-Instruct методом REAP (Router-weighted Expert Activation Pruning). Из 160 экспертов удалена половина; в модели осталось 246 млрд параметров, из которых 35 млрд активируются на каждом токене. Веса представлены в FP8, контекст составляет 262 144 токена, а лицензия — Apache 2.0. Модель предназначена для генерации кода, агентного программирования, работы с большими репозиториями и вызова функций. Карточка заявляет почти такое же качество, как у исходной модели, и совместимость с vLLM; калибровка включала примеры генерации кода, вызова функций и многошаговые агентные сценарии. Результаты оценки указаны только для варианта FP8, а результаты для BF16 ещё не приведены.

Карточка модели 01-ai/Yi-Coder-1.5B на Hugging Face совпадает с карточкой 01-ai/Yi-Coder-9B-Chat, поэтому описание составлено по ней. Yi-Coder-9B-Chat — диалоговая модель для генерации кода, выпущенная командой 01.AI как часть серии Yi-Coder. Она дообучена на базе 01-ai/Yi-Coder-9B и построена на плотной архитектуре семейства Llama с 8,6 млрд параметров. Модель предназначена для программирования в формате чата: она может писать код по запросу и работать с длинным контекстом до 131 072 токенов. Серия Yi-Coder заявляет поддержку 52 распространённых языков программирования и сильные результаты в задачах кодирования при размере менее 10 млрд параметров. Модель загружается через Transformers и использует формат safetensors. Лицензия — Apache-2.0. Карточка не приводит ограничений на качество или конкретных рекомендаций по использованию, поэтому ответы сгенерированного кода следует проверять перед применением.

AlchemistCoder-CL-7B — языковая модель для генерации кода из серии AlchemistCoder, разработанной авторами исследования о настройке кодовых моделей на данных из нескольких источников. Модель основана на архитектуре Llama и содержит 6,6 млрд параметров; максимальная длина контекста — 16 384 токена. Доступны веса в формате PyTorch, лицензия — Apache-2.0. Модель дообучена на 200 млн токенов разнотипных данных с помощью AlchemistPrompts, предназначенных для согласования стилей и качества источников. Помимо генерации кода, обучение включало задачи понимания кода: развитие инструкций, фильтрацию данных и ревью кода. Авторы также сообщают об улучшениях в общих задачах рассуждения и знаний, но основное назначение модели — работа с кодом.

AlchemistCoder-L-7B — языковая модель для генерации и понимания программного кода, разработанная командой InternLM на основе Llama 2. Представленная версия распространяется в формате GGUF и подготовлена bartowski для запуска через llama.cpp и совместимые приложения, включая LM Studio. Рекомендуемый сценарий использования — программирование: написание, объяснение, анализ и проверка кода, а также выполнение инструкций, связанных с разработкой. Для работы в LM Studio указан шаблон запросов Alpaca и пресет MetaAI Llama 2 Chat. Модель содержит около 7 миллиардов параметров и обучалась на 200 миллионах токенов гармонизированных данных из нескольких источников, включая материалы для задач понимания кода, эволюции инструкций, фильтрации данных и code review. По данным README, AlchemistCoder-L-7B показывает высокие результаты среди открытых моделей сопоставимого размера на шести бенчмарках для кода, а также улучшенные общие способности на MMLU, BBH и GSM8K. Поддерживаемые языки программирования, естественные языки, размер контекстного окна и конкретные варианты квантизации в README не указаны. Сильными сторонами модели являются специализация на задачах программирования, относительно компактный размер и возможность локального запуска в формате GGUF. Ограничения включают возможные ошибки, неточности и небезопасные рекомендации в сгенерированном коде; результаты требуют проверки и тестирования. Модель распространяется по лицензии Apache-2.0, однако условия для исходной базовой модели и отдельных компонентов данных следует проверять дополнительно.

TheBloke опубликовал эту версию весов CodeLlama 13B-Python от Meta в формате Transformers/Hugging Face fp16. Это плотная авторегрессионная трансформерная модель семейства Llama с 12,9 млрд параметров, ориентированная на генерацию и понимание кода на Python. Репозиторий содержит конвертированные из исходной модели Meta веса в формате safetensors. Модель предназначена для написания, дополнения и анализа кода Python. Она принимает текст и генерирует текст; семейство поддерживает контекст до 16 384 токенов согласно метаданным. Для корректной загрузки этой версии README требует использовать trust_remote_code=True. Это не Instruct-вариант, поэтому карточка не заявляет о специальной настройке для диалогового следования инструкциям. Модель может выдавать неточный или нежелательный результат; перед использованием в приложениях рекомендуется проверять её поведение и настраивать под конкретный сценарий. Лицензия указана как llama2; README сообщает о доступности специальной коммерческой лицензии Code Llama, поэтому условия использования следует сверять с применимым соглашением Meta.

DeepSeek-Coder-7B-Instruct-v1.5 — языковая модель для генерации кода и ответов на инструкции, разработанная DeepSeek. Она построена на архитектуре Llama и содержит 6,5 млрд параметров. Модель продолжительно обучали на 2 трлн токенов, используя контекстное окно 4K, а затем дообучили на 2 млрд токенов инструкционных данных. Модель предназначена для диалогового взаимодействия с задачами программирования: например, генерации и объяснения кода по запросу. Доступна в формате Safetensors; заявленная лицензия — other, поэтому условия использования следует уточнять по карточке модели и связанным документам.

DeepSeek-Coder-V2-Instruct-AQ4_1 — преобразованная сообществом mlx-community в формат MLX версия модели deepseek-ai/DeepSeek-Coder-V2-Instruct. Она предназначена для генерации текста в диалоговом формате, прежде всего для задач программирования. Архитектура — DeepSeek V2; в метаданных указано 18,1 млрд параметров и контекст до 163 840 токенов. Модель подходит для генерации и объяснения кода, ответов на вопросы о программировании и помощи при работе с длинными фрагментами текста или кода. Карточка указывает преобразование с помощью mlx-lm 0.16.0; репозиторий содержит веса safetensors и помечен тегом MLX. Лицензия указана как other, без дополнительных условий в предоставленных данных.

Dracarys-Llama-3.1-70B-Instruct — дообученная Abacus.AI версия Meta-Llama-3.1-70B-Instruct для генерации кода и диалогового общения. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, рассчитанная на контекст до 131 072 токенов. Она использует формат запросов Llama 3 70B Instruct и распространяется в формате safetensors по лицензии Llama 3. Модель предназначена для генерации кода, предсказания результатов выполнения кода и решения общих задач в чате. В приведённых в карточке оценках Dracarys показывает улучшение относительно базовой модели в отдельных тестах LiveCodeBench, включая генерацию кода и предсказание тестового вывода; результаты LiveBench указывают на близкий общий уровень с улучшениями в некоторых категориях. Тестовые показатели не гарантируют качество на конкретных задачах, а карточка не приводит подробных сведений о данных дообучения или ограничениях безопасности.

FluentlyQwen3 Coder 4B — языковая модель от Project Fluently, дообученная для генерации кода. Это плотный causal language model на архитектуре Qwen3ForCausalLM с примерно 3,7 млрд параметров; в карточке указаны 36 слоёв и grouped-query attention с 32 головами Q и 8 головами KV. Модель обучали с помощью SFT и GRPO, а затем последовательно объединяли версии. Она поддерживает контекст до 40 960 токенов по метаданным; README также указывает 32 768 токенов нативно и до 131 072 с YaRN. Модель предназначена для написания и дополнения кода в диалоговом режиме. README также сообщает об улучшениях в общении, переводе и математике. Есть режим с рассуждением и возможность его отключить; для генерации и общения используются текстовые входы и выходы. Карточка указывает английский и русский языки, а также код. Модель распространяется по лицензии Apache-2.0. Рекомендации README по параметрам генерации различаются для режимов с рассуждением и без него; для первого не рекомендуется жадное декодирование из-за возможного ухудшения качества и повторов.

QuantFactory/granite-3b-code-base-2k-GGUF — квантованная версия модели IBM Granite-3B-Code-Base-2K, созданная с использованием llama.cpp. Это авторегрессионная decoder-only модель для генерации программного кода и работы с задачами, связанными с кодом. Модель предназначена для генерации, объяснения и исправления кода. Исходная Granite-3B-Code-Base-2K обучалась с нуля в два этапа: на первом использовались 4 триллиона токенов из 116 языков программирования, а на втором — 500 миллиардов токенов из тщательно отобранных наборов данных с кодом и естественным языком. В README также указаны наборы данных CodeParrot, StarCoder, Open-Web-Math и StackMathQA. Размер исходной модели составляет около 3 миллиардов параметров, а контекст обозначен как 2K токенов. Модель ориентирована прежде всего на программный код; поддерживаемые языки включают широкий набор из 116 языков программирования, однако конкретный перечень в карточке не приведён. Квантование в формате GGUF может снизить требования к памяти и упростить локальный запуск, но точные параметры квантования и возможное влияние на качество не указаны. Для модели приведены результаты на тестах генерации, объяснения и исправления кода, однако они помечены как непроверенные. Лицензия — Apache 2.0.

h2oai/h2ogpt-32k-codellama-34b-instruct — версия модели h2ogpt от H2O.ai для генерации текста, созданная на архитектуре Llama и ориентированная на работу с кодом. В README указано, что конфигурацию изменили относительно h2oai/h2ogpt-16k-codellama-34b-instruct: значение контекста выставлено на 32K для работы с эмбеддингами и использования через vLLM; автор отмечает, что модель также работает как 16K-модель. Метаданные указывают 33,5 млрд параметров и контекст 32 768 токенов. Модель подходит для генерации и продолжения кода, а также для работы с длинными текстовыми запросами в сценариях разработки. Это плотная авторегрессионная LlamaForCausalLM с весами PyTorch/Safetensors. Лицензия — Llama 2; условия её использования определяются лицензией Llama 2.

Hy3-GGUF — набор GGUF-квантизаций модели Tencent Hy3, подготовленный пользователем vcruz305. Это MoE-модель для генерации текста, диалогов, программного кода и задач рассуждения. Базовая модель имеет 295 млрд параметров, из которых 21 млрд активируются на токен, использует 192 эксперта с выбором top-8, включает 80 основных слоёв и дополнительный MTP/NextN-слой объёмом 3,8 млрд параметров. Заявлена длина контекста до 256K токенов. Модель работает с текстом; сведения о поддерживаемых языках в README не указаны. Репозиторий содержит варианты от IQ1_M и IQ2_M до Q8_0 размером примерно от 92 до 318 ГБ, рассчитанные на системы с большим объёмом памяти и, для некоторых вариантов, на конфигурации из двух узлов. Квантизации используют importance matrix, рассчитанную на корпусе с примерами программирования, рассуждений и диалогов. Для части вариантов проверена генерация кода и диалогов на реальном оборудовании; также поддерживается speculative decoding через MTP, которое в приведённых измерениях заметно повышало скорость генерации. Для запуска требуется llama.cpp с поддержкой архитектуры Hy3: до включения соответствующих изменений в основную ветку необходима специальная ветка с PR #25364. Для корректного применения шаблона чата требуется параметр --jinja. Ограничениями являются значительные требования к памяти, необходимость совместимого оборудования и специальной сборки llama.cpp; часть квантов не проходила индивидуальное нагрузочное тестирование. Модель распространяется по лицензии Apache-2.0.

KAT-Coder-V2.5-Dev-REAP-205E-MTP-GGUF — это квантизированная и структурно обрезанная GGUF-версия модели Kwaipilot/KAT-Coder-V2.5-Dev, опубликованная автором gbuzhf. Модель предназначена для генерации и обработки программного кода, включая code-instruct, исправление ошибок, использование инструментов и задачи рассуждения. Заявлена поддержка английского и китайского языков; модель мультимодальность не заявлена. Это Mixture-of-Experts-модель с 205 экспертами на слой вместо исходных 256, при этом для каждого токена активируются 8 экспертов. Число параметров уменьшено примерно с 34,7 до 28,3 млрд, сохранены исходная архитектура, словарь размером 262 тысячи токенов и контекстное окно базовой модели, точный размер которого в README не указан. Обрезка выполнена методом REAP на 2,6 млн токенов собственных ответов KAT-Coder-V2.5-Dev. Дополнительно встроена MTP-голова, заимствованная из Qwen/Qwen3.6-35B-A3B; её обрезка выполнена по величине весов без калибровочных данных, поэтому является приближённой. По измерениям относительно исходной BF16-модели совпадение наиболее вероятного токена составляет около 94,6%, а рост perplexity — 3,62%; автор оценивает потерю качества как сопоставимую с хорошей 4-битной квантизацией. Эти результаты получены на текстах, близких к калибровочным данным, и могут быть оптимистичными; downstream-бенчмарки для программирования не проводились, поэтому сохранение качества на HumanEval, MBPP или SWE-bench не подтверждено. Доступны мастер-версия BF16 и несколько GGUF-вариантов квантизации, включая IQ4_XS, Q4_K_XL, Q5_K_S и Q6_K. В README указана лицензия other, без дополнительных условий.

Kimi-Dev-72B-4bit-DWQ — языковая модель для генерации текста и работы с программным кодом, разработанная на базе moonshotai/Kimi-Dev-72B. Модель преобразована сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.26.0 и предназначена для запуска на устройствах, поддерживающих экосистему MLX. Модель ориентирована на задачи программирования, разрешения software issues и сценарии, связанные с разработкой и исправлением кода, включая задачи класса SWE-bench. Она имеет размер 72B параметров и использует 4-битное квантование DWQ, что снижает требования к памяти по сравнению с полноразмерной версией, но может влиять на точность и качество генерации. Поддерживается текстовая модальность; сведения о языках, максимальном размере контекста и конкретной архитектуре в README не указаны. Для использования требуется библиотека mlx-lm и совместимое окружение MLX. Модель распространяется по лицензии MIT.

Карточка модели anything098/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Карточка модели bearzi/Kimi-K2.7-Code-JANGTQ1 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.