II.3Рефакторинг, миграция и модернизация

Qwimi-3.6-27B-Coder-MTP-BF16 — модель для программирования, созданная trjxter на основе Qwen3.6-27B и дообученная методом supervised fine-tuning на корпусе с примерами кода, вызова инструментов и агентных сценариев. Это плотная модель на 27,8 млрд параметров с гибридной архитектурой: слои стандартного внимания чередуются со слоями линейного внимания GatedDeltaNet. Репозиторий содержит веса BF16 в формате safetensors; модель использует библиотеку Transformers и лицензию Apache-2.0. Модель предназначена для генерации и объяснения кода, отладки, рефакторинга, вызова функций и многошаговой работы с репозиторием в стиле SWE-agent. Обучение было текстовым, с преобладанием кода; заявленные авторами сценарии включают выдачу рассуждений и работу с инструментами. Хотя базовая архитектура мультимодальна и поддерживает изображения, зрительная часть при дообучении была заморожена, а понимание изображений не проверялось. Основной подтверждённый язык карточки — английский. Автор сообщает, что контекст проверялся до 16 384 токенов; поведение на большей длине не проверено в этом обучении. Агентных данных было сравнительно мало, а длинные траектории свыше примерно 16 тысяч токенов исключались. В отдельных тестах модель улучшила результат на HumanEval и задачах вызова инструментов, но уступила базовой модели на MBPP; общие результаты ограничены размером и составом тестовых наборов. Лицензия — Apache-2.0.

Seed-Coder-8B-Instruct-GGUF — GGUF-квантизированная версия инструкционной модели Seed-Coder-8B-Instruct, разработанной ByteDance Seed и опубликованной в формате Unsloth. Это открытая модель для генерации и обработки программного кода, включая генерацию, рассуждение по коду, редактирование и задачи программной инженерии. Версия Instruct дообучена для лучшего следования пользовательским инструкциям. Модель представляет собой каузальную языковую модель примерно на 8 млрд параметров, прошедшую предобучение и постобучение на публичных и синтетических данных. Она поддерживает контекст длиной до 32 768 токенов и работает в текстовой модальности; конкретные языки программирования и перечень естественных языков в README не указаны. GGUF-формат предназначен для более удобного локального запуска с совместимыми средствами инференса, однако точные параметры квантования для этой карточки не приведены. К сильным сторонам относятся высокая эффективность среди открытых моделей сопоставимого размера, ориентация на широкий спектр задач программирования и подход к подготовке данных, основанный преимущественно на использовании LLM вместо большого числа ручных правил. Ограничения — отсутствие в предоставленных данных подробностей о поддерживаемых языках, требованиях к оборудованию, конкретном варианте квантования и результатах полной таблицы оценки. Лицензия MIT.

SteloCoder — модель генерации текста для перевода кода на C++, C#, Java, JavaScript и PHP в Python. Её разработчик обучил на основе StarCoder, добавив параметры с помощью LoRA и методов Mixture of Experts (MoE). Данные для обучения, проверки и тестирования подготовлены на основе набора XLCoST. Модель предназначена для машинного перевода кода между указанными языками программирования. Она построена на архитектуре GPTBigCode и принимает текстовый ввод, выдавая текст; длина контекста составляет 8192 токена. Репозиторий содержит веса PyTorch, лицензия — BigCode OpenRAIL-M. README не приводит результаты оценки качества и подробности реализации MoE. Поэтому пригодность для конкретных языков, проектов и производственного применения следует проверять отдельно; лицензия может устанавливать ограничения на использование и распространение.

Tiel-Coder-35B-A3B-GGUF-MTP — локальная модель для агентного программирования, разработанная peculiar-ragdoll на основе Ornith-1.5-35B-A3B. Это динамически переквантованная версия с собственной imatrix и шаблоном диалогов Sharp, встроенными в формат GGUF. Модель предназначена для запуска через llama.cpp и поддерживает MTP для speculative decoding. Основной сценарий применения — исправление реальных проблем в кодовых базах и поддержание длительных многошаговых диалогов. По данным README, модель особенно сильна в SWE-задачах и многоходовом взаимодействии, но заметно слабее подходит для викторин, экзаменационных вопросов и задач, требующих широких знаний или сложного рассуждения. В SWE-bench-Live она решила 12 из 25 задач, а в Claw-Eval получила результат 67,2; на MMLU-Pro показала 73,7. Модель имеет архитектуру MoE и обозначение 35B-A3B; доступны GGUF-квантизации от 2 до 8 бит размером примерно от 12,7 до 38,8 ГБ. Заявлена поддержка английского и китайского языков, а также контекста до 262 тысяч токенов. Благодаря MoE она рассчитана на высокую скорость, включая запуск с частичным offload на небольших GPU. Для агентного программирования рекомендуется использовать контекст 131–262 тысячи токенов и KV-кэш не ниже q8_0, если хватает совокупной RAM и VRAM. README также указывает теги vision и image-text-to-text, однако подробности мультимодальных возможностей не приведены. Модель распространяется по лицензии MIT. Ограничения включают существенное падение качества на самых низких уровнях квантизации, а также более слабые результаты в знаниях и рассуждении по сравнению с рядом альтернатив. Для запуска требуется подобрать вариант GGUF с учётом доступной совокупной памяти и желаемого размера контекста.

Shuu12121 разработала эту модель SentenceTransformer, дообученную на BigCloneBench для поиска семантически похожих фрагментов кода и обнаружения клонов. Она основана на ModernBERT и преобразует код в плотные векторы размерностью 768; для сравнения векторов используется косинусное сходство, а представление строится с помощью CLS-пулинга. Модель рассчитана на сравнение пар фрагментов кода, поиск дубликатов и группировку похожего кода. Максимальная длина последовательности составляет 2048 токенов. В README приведены результаты на тестовой выборке BigCloneBench: accuracy 0,9902 и F1 0,9637; эти показатели относятся к указанному набору данных и не гарантируют аналогичное качество на другом коде. Модель распространяется по лицензии Apache-2.0.

CodeLlama 13B GGUF — это квантизированная версия языковой модели CodeLlama 13B, разработанной Meta и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена для генерации текста и программного кода, а также для локального запуска через llama.cpp и совместимые интерфейсы и библиотеки. Модель построена на архитектуре Llama и содержит около 13 миллиардов параметров. Она ориентирована на работу с кодом; в README язык указан как code. Доступны варианты GGUFv2 с квантованием от 2 до 8 бит, что позволяет выбирать компромисс между размером модели, требованиями к памяти, скоростью и качеством. Формат поддерживает метаданные, специальные токены и улучшенную токенизацию. Длина контекста и перечень поддерживаемых естественных языков в предоставленных данных не указаны. К сильным сторонам относятся возможность запуска на CPU и GPU, широкий выбор уровней квантования и совместимость с llama.cpp, text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другими инструментами. Ограничения включают потенциальное снижение качества у более агрессивно квантизированных вариантов, а также отсутствие в README подробных результатов оценки, сведений о контекстном окне и мультимодальных возможностях. Модель распространяется по лицензии Llama 2; условия лицензии следует учитывать при использовании.

TheBloke/CodeLlama-34B-GGUF — это набор квантованных файлов модели CodeLlama 34B, разработанной Meta. Репозиторий подготовил TheBloke, преобразовав исходную модель codellama/CodeLlama-34b-hf в формат GGUFv2 для локального запуска и инференса. Модель предназначена прежде всего для генерации и работы с программным кодом. Она относится к семейству Llama и имеет размер 34 млрд параметров. В README указано, что модель поддерживает текстовую генерацию и ориентирована на код; конкретные языки программирования, контекстное окно и дополнительные модальности не указаны. Файлы доступны в вариантах квантования от 2 до 8 бит, что позволяет выбирать баланс между требованиями к памяти, скоростью и качеством. Формат GGUF поддерживает метаданные, специальные токены и улучшенную токенизацию. Модель совместима с llama.cpp начиная с указанной версии, а также с рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие. К сильным сторонам относятся возможность локального запуска на CPU и GPU и наличие нескольких уровней квантования. Ограничения связаны с потерями качества при сильном квантовании и высокими требованиями к ресурсам для 34-миллиардной модели; точные показатели производительности в README не приведены. Модель распространяется по лицензии llama2. Условия использования исходной модели и квантованных файлов следует рассматривать с учетом этой лицензии.

CodeLlama-34b-Instruct-hf — языковая модель Meta из семейства Code Llama, представленная в формате Transformers. Это авторегрессионная плотная модель на архитектуре Transformer с 33,5 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для генерации и понимания кода, завершения фрагментов кода и выполнения инструкций в формате чат-ассистента. Она принимает текст и генерирует текст; README указывает английский как целевой естественный язык, а также работу с языками программирования. Модель не заявлена как специализированная на Python. Модель обучена на данных семейства Llama 2 с дополнительными весами и настройкой для следования инструкциям. Она может выдавать неточные или нежелательные ответы; перед внедрением рекомендуется проверять её поведение для конкретных сценариев. Использование регулируется лицензией Meta Llama 2.

TheBloke/CodeLlama-7B-fp16 — публикация TheBloke весов Code Llama 7B, разработанной Meta. Это авторегрессионная плотная Transformer-модель семейства Llama для генерации и понимания кода; репозиторий содержит веса FP16 в формате Transformers/Hugging Face, полученные конвертацией исходных весов Meta в формат HF. Для загрузки этой версии README требует trust_remote_code=True из-за изменения параметра RoPE Theta. Модель принимает и выдаёт текст, рассчитана на синтез и анализ кода и поддерживает заполнение пропусков в тексте. Контекст модели — до 16 384 токенов по метаданным; в README также заявлена поддержка до 100 000 токенов при инференсе. Назначение описано для английского языка и языков программирования. Лицензия — llama2; перед использованием следует учитывать её условия. Модель может выдавать неточный или нежелательный результат, поэтому её поведение следует проверять в целевом приложении.

TheBloke/CodeLlama-7B-Instruct-fp16 — версия Code Llama 7B Instruct от Meta AI, опубликованная TheBloke в формате Transformers/Hugging Face с весами fp16. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с 6,6 млрд параметров и контекстом 16 384 токена; она принимает и генерирует текст. Вариант Instruct предназначен для следования инструкциям и создания помощников для программирования. Модель подходит для генерации и объяснения кода, ответов на вопросы по программированию и помощи при разработке. В README заявлена ориентация на английский язык и языки программирования; инструкции по загрузке требуют trust_remote_code=True для корректной работы с изменённым значением RoPE Theta. Модель является конвертацией исходных весов CodeLlama 7B Instruct в формат Hugging Face, а не отдельным дообучением TheBloke. Лицензия указана как Llama 2; README описывает пользовательское коммерческое лицензионное соглашение Code Llama. Перед применением следует учитывать, что ответы могут быть неточными или нежелательными.

CodeLlama 7B Instruct — языковая модель для генерации и объяснения программного кода, разработанная Meta. Данный репозиторий TheBloke содержит её файлы в формате GGUF, предназначенные для локального запуска и инференса через llama.cpp и совместимые интерфейсы. Модель относится к семейству Llama и имеет около 7 миллиардов параметров. Модель ориентирована на решение задач программирования по текстовому описанию, включая генерацию кода с учётом ограничений и примеров тестов. Указана модальность работы с кодом; конкретный перечень поддерживаемых языков программирования и размер контекстного окна в README не приведены. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать баланс между требованиями к памяти, скоростью и сохранением качества, однако более агрессивное квантование может снижать точность результатов. Файлы совместимы с llama.cpp и рядом сторонних приложений и библиотек, включая text-generation-webui, LM Studio, KoboldCpp, ctransformers и llama-cpp-python. Модель распространяется по лицензии Llama 2. Для использования требуется программное окружение, поддерживающее GGUF; характеристики конкретного запуска зависят от выбранного варианта квантования и аппаратной конфигурации.

Codestral-22B-v0.1-abliterated-v3-GGUF — это GGUF-квантизованная версия модели Codestral-22B-v0.1-abliterated-v3. Исходная модель размещена пользователем failspy, а квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. В карточке не указано, кто разработал исходную архитектуру Codestral. Модель предназначена прежде всего для генерации и обработки программного кода, поскольку имеет тег code и относится к задаче text-generation. Она доступна в нескольких вариантах квантизации GGUF с размером файлов примерно от 6,64 до 23,64 ГБ, что позволяет выбирать баланс между качеством и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми названы варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; версии с более низкой разрядностью экономят память, но могут заметно терять в качестве. В README не указаны точная архитектура, размер контекстного окна, поддерживаемые естественные языки и дополнительные модальности, поэтому эти характеристики нельзя достоверно определить по имеющимся данным. Также предупреждается, что формат prompt не задан в исходной карточке и предложенный шаблон может быть некорректным. Модель распространяется по лицензии MNPL-0.1; в карточке приведена ссылка на её текст.

Cyber-Tiel-Coder-35B-A3B-GGUF-MTP — квантованная GGUF-модель, разработанная peculiar-ragdoll на базе Huihui-Ornith-1.5-35B-A3B-abliterated, которая, в свою очередь, основана на Ornith-1.5. Модель предназначена прежде всего для программирования, агентной разработки, автономного исправления ошибок в больших кодовых базах и задач offensive security. Она ориентирована на запуск через llama.cpp и рассчитана на локальное использование, в том числе на оборудовании с ограниченным объёмом VRAM. Модель использует архитектуру MoE класса 35B-A3B, динамическое повторное квантование с собственной cyber-weighted imatrix, шаблон чата Sharp и встроенную multi-token prediction head для speculative decoding. Доступна версия Q4 размером около 22 ГБ. В метаданных указаны английский и китайский языки, а также поддержка image-text-to-text и vision, однако подробности о мультимодальном вводе и максимальном контексте в README не приведены. К сильным сторонам относятся высокая скорость и специализация на агентном программировании: автор заявляет примерно в 3–4 раза более высокую скорость по сравнению с плотными моделями 3.8–27B, а также существенные результаты на SWE-bench-Live и Cybench. Abliteration удаляет стандартные отказы модели, поэтому она способна выполнять запросы, связанные с вредоносными или опасными сценариями, без ограничений. Это одновременно является существенным ограничением: модель требует изолированного, контролируемого и законного использования. Она хуже подходит для общих знаний, викторин и экзаменационных задач, поскольку специализация на кодировании достигается за счёт снижения соответствующих способностей. Модель распространяется по лицензии MIT.

DeepSeek Coder 6.7B Instruct — языковая модель для программирования, разработанная DeepSeek. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров, представленная в форматах PyTorch и safetensors. Она дообучена на 2 млрд токенов инструкционных данных на основе deepseek-ai/deepseek-coder-6.7b-base. Модель предназначена для генерации и дополнения кода, заполнения пропусков в коде, а также ответов на инструкции и вопросы по программированию в диалоговом формате. Обучение семейства DeepSeek Coder включало корпус, состоящий преимущественно из кода, и данные на английском и китайском языках; README заявляет поддержку проектного дополнения кода и контекста 16 тысяч токенов. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели. Модель ориентирована на задачи программирования; ответы могут содержать ошибки и требуют проверки, а качество за пределами программирования не подтверждено приведёнными данными.

DeepSeek-Coder-V2-Instruct-0724-IMat-GGUF — это GGUF-квантизированная версия инструкционной модели DeepSeek-Coder-V2-Instruct-0724, разработанной deepseek-ai. Репозиторий подготовлен legraphista с использованием llama.cpp и предназначен для локального запуска и генерации текста, прежде всего для задач программирования и взаимодействия в формате чата, поддерживаемых исходной моделью. Модель распространяется в форматах GGUF с различными уровнями квантизации: от Q8_0 до Q2_K, включая варианты Q5, Q4, Q3 и IQ. Доступны файлы размером примерно от 85,95 до 250,62 ГБ, все варианты разделены на несколько частей. Для ряда конфигураций Q4 и ниже применена IMatrix-квантизация, призванная повысить качество при уменьшении размера. Исходный тип данных модели — BF16. Сведения об архитектуре, количестве параметров, длине контекста, языках и поддерживаемых модальностях в README не указаны. Сильная сторона репозитория — широкий выбор квантизаций и готовность к использованию с экосистемой llama.cpp, что позволяет подбирать компромисс между размером файлов и качеством. Ограничениями являются очень большой объём моделей, необходимость объединения или корректной работы с разделёнными файлами, а также возможное снижение качества на низких уровнях квантизации. Модель распространяется по лицензии deepseek-license; указана категория лицензии other и ссылка на файл LICENSE.

QuantFactory/DeepSeek-Coder-V2-Lite-Base-GGUF — квантизированная версия базовой модели DeepSeek-Coder-V2-Lite-Base, разработанной DeepSeek-AI и преобразованной QuantFactory с использованием llama.cpp. Модель предназначена прежде всего для генерации и автодополнения кода, вставки фрагментов кода, решения задач программирования и математического рассуждения. Это базовая модель, а не специализированная instruct-версия для диалогов. Модель построена на архитектуре Mixture-of-Experts (MoE) семейства DeepSeekMoE и содержит 16 млрд общих параметров, из которых при обработке активируется около 2,4 млрд. Она поддерживает контекст длиной до 128 тысяч токенов и 338 языков программирования. Квантизация в формате GGUF должна снижать требования к памяти по сравнению с исходной версией, однако конкретный тип квантизации и системные требования в предоставленных данных не указаны. Сильные стороны модели — специализация на коде, поддержка большого числа языков программирования и длинного контекста; ограничения включают отсутствие подробностей о конкретном варианте квантизации, качестве на отдельных языках и поведении в обычных диалоговых сценариях. Модель распространяется по лицензии deepseek-license; в карточке также указано обозначение лицензии other и ссылка на файл LICENSE. Условия использования следует уточнять по тексту этой лицензии.

DolphinCoder StarCoder2 7B — дообученная разработчиком модель для программирования на основе StarCoder2-7b. Она предназначена для генерации и объяснения кода, а также для диалоговой помощи с задачами разработки. Модель использует архитектуру StarCoder2 с 9,9 млрд параметров, поддерживает контекст до 16 384 токенов и формат диалога ChatML. При обучении применялись qLoRA и Axolotl; в карточке перечислены наборы данных по программированию, инструкциям и математическим задачам. Основной заявленный язык — английский. Автор характеризует модель как сильную в задачах кодирования и отмечает, что она обучена без фильтрации, связанной с выравниванием и смещениями, поэтому может охотно выполнять небезопасные запросы. Перед предоставлением модели пользователям автор рекомендует добавить собственный слой ограничений. Веса опубликованы под лицензией bigcode-openrail-m.

FluentlyQwen3 Coder 4B — языковая модель от Project Fluently, дообученная для генерации кода. Это плотный causal language model на архитектуре Qwen3ForCausalLM с примерно 3,7 млрд параметров; в карточке указаны 36 слоёв и grouped-query attention с 32 головами Q и 8 головами KV. Модель обучали с помощью SFT и GRPO, а затем последовательно объединяли версии. Она поддерживает контекст до 40 960 токенов по метаданным; README также указывает 32 768 токенов нативно и до 131 072 с YaRN. Модель предназначена для написания и дополнения кода в диалоговом режиме. README также сообщает об улучшениях в общении, переводе и математике. Есть режим с рассуждением и возможность его отключить; для генерации и общения используются текстовые входы и выходы. Карточка указывает английский и русский языки, а также код. Модель распространяется по лицензии Apache-2.0. Рекомендации README по параметрам генерации различаются для режимов с рассуждением и без него; для первого не рекомендуется жадное декодирование из-за возможного ухудшения качества и повторов.

granite-20b-code-instruct-IMat-GGUF — это GGUF-квантизированная версия модели granite-20b-code-instruct, разработанной IBM (ibm-granite) и подготовленной пользователем legraphista. Модель предназначена для генерации и объяснения программного кода, исправления ошибок, работы с инструкциями, математическими задачами, SQL и сценариями function calling. Указаны варианты квантования от 1 до 16 бит, включая конфигурации с IMatrix, оптимизированные для запуска через llama.cpp. Модель содержит около 20 млрд параметров и основана на исходном формате BF16. В README не указаны точная архитектура, максимальная длина контекста и полный перечень поддерживаемых языков, однако результаты оценки приведены для Python, JavaScript, Java, Go, C++, Rust и демонстрируют применимость к генерации, объяснению и исправлению кода. В тестах HumanEvalSynthesis показатель pass@1 составил от 42,1 до 60,4% в зависимости от языка; значения не верифицированы. Ключевое преимущество версии — возможность выбирать баланс между качеством, размером файла и требованиями к памяти благодаря множеству вариантов квантования и применению IMatrix. Ограничения связаны с потерями качества при низкой разрядности, отсутствием подробных сведений о контексте и мультимодальности, а также с тем, что приведённые метрики не подтверждены. Модель распространяется по лицензии Apache 2.0.

Карточка модели IQuestLab/IQuest-Coder-V1-7B-Base на Hugging Face совпадает с карточкой IQuestLab/IQuest-Coder-V1-7B-Instruct, поэтому описание составлено по ней. IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

Карточка модели IQuestLab/IQuest-Coder-V1-7B-Thinking на Hugging Face совпадает с карточкой IQuestLab/IQuest-Coder-V1-7B-Instruct, поэтому описание составлено по ней. IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

JackOD-9B-Coder-MTP-GGUF — текстовая модель для генерации кода, разработанная ManniX-ITA. Это GGUF-квантизации модели JackOD-9B-Coder, созданной как объединение нескольких моделей на общей базе Qwen/Qwen3.5-9B: DeltaCoder-9B, Qwopus3.5-9B-coder и Ornith-1.5-9B. Модель ориентирована на многошаговую агентную разработку, продолжение задач между несколькими ходами диалога и работу с инструментами до завершения задачи. Поддерживает английский язык и предназначена прежде всего для программирования, рассуждений и сценариев tool-calling. Модель имеет архитектуру Qwen3.5, около 9,65 млрд параметров, формат GGUF и MTP-компонент, унаследованный от базовой модели. Доступны многочисленные варианты квантизации, включая F16, Q8_0, Q6_K, Q5_K_M, Q4_K_M и более компактные IQ- и K-варианты; квантизации K и IQ откалиброваны с помощью imatrix. Несмотря на наличие унаследованных метаданных vision, модель не содержит vision tower и является текстовой. В предоставленных оценках она показывает сильные результаты на задачах генерации кода, включая LiveCodeBench v6, однако сведения о производительности в агентном harness основаны на небольшом числе запусков и не являются полноценной статистикой. Модель распространяется по лицензии Apache-2.0.

IsValorum публикует эту сборку KAT-Coder-V2.5-Dev в формате GGUF с пользовательской квантизацией APEX-I-MiniPlus V2. Это MoE-модель для генерации кода и агентных сценариев программирования, основанная на Kwaipilot/KAT-Coder-V2.5-Dev. Сборка рассчитана на запуск через llama.cpp, в том числе с полным или частичным размещением весов в системной памяти; автор приводит ориентиры производительности и использования длинного контекста, но они зависят от оборудования. Модель поддерживает чат и программирование, а метаданные указывают многоязычные теги, включая русский, английский и китайский. README описывает выборочную квантизацию тензоров с сохранением повышенной точности для отдельных компонентов. Указанный в карточке контекст 256K относится к заявленным сценариям запуска, а не подтвержденному здесь параметру модели. Репозиторий лицензирован по Apache-2.0.

Ttimms/KAT-Coder-V2.5-Dev-REAP-50-NVFP4A16 — локальная квантованная версия Kwaipilot/KAT-Coder-V2.5-Dev, подготовленная разработчиком Ttimms. Модель предназначена для агентного программирования, генерации и исправления кода, а также решения задач из SWE-bench в условиях ограниченной видеопамяти. Она рассчитана на запуск в 16 ГБ потребительской VRAM, в частности на RTX 5070 Ti, через vLLM. В основе лежит MoE-архитектура с 256 экспертами; после REAP-прунинга оставлено 128 экспертов, то есть удалено 50% экспертных блоков. Модель использует квантование NVFP4A16 с 4-битными весами, весовое квантование без калибровочных данных и занимает около 12,45 GiB. Из состава удалена башня компьютерного зрения с необученными весами, поэтому README не подтверждает поддержку мультимодальных сценариев. Указан контекст до 49 тысяч токенов в использованной конфигурации; языки явно не перечислены, но модель ориентирована прежде всего на задачи программирования. Заявленные результаты включают 89,0% на HumanEval+, 90,5% на MBPP+ и 52,0% на SWE-bench Verified — 26 из 50 задач при использовании mini-swe-agent, bash-only scaffold и потолка контекста 49 тысяч токенов. SWE-bench показатель существенно зависит от лимита контекста и числа ходов агента: 17 задач завершились из-за превышения контекстного лимита, поэтому результат нельзя считать безусловной оценкой возможностей. К сильным сторонам относятся высокая компактность, возможность локального запуска, производительность около 149,5 токена в секунду в указанной конфигурации и исправление маршрутизации экспертов для этой архитектуры. Ограничения включают потерю части экспертов из-за прунинга, отсутствие подтверждённой работы со зрением, зависимость производительности от совместимого оборудования и серверного ПО, а также контекстные ограничения в агентных задачах. Модель распространяется по лицензии Apache-2.0.

OsaurusAI/Laguna-M.1-JANG_2L — сборка модели Poolside Laguna-M.1, квантованная Osaurus в профиль JANG_2L. Это MoE-модель для генерации текста и агентного программирования; в карточке указаны 225 млрд параметров и 23 млрд активных параметров, тогда как метаданные каталога приводят 17,1 млрд. Контекст — до 262 144 токенов. Модель поддерживает диалог и интерфейс вызова инструментов. Профиль JANG_2L использует 2-битное affine-квантование gate/up, 3-битное down, 6-битные shared/dense слои и 8-битные attention и embedding/head; размер сборки около 81 ГБ. Для запуска требуется Laguna-совместимая среда, например Osaurus или vMLX, поскольку архитектура не поддерживается стандартными загрузчиками. Базовая модель предназначена для работы с кодом и длительных задач с инструментами. Лицензия — Apache-2.0.

Llama-3-8B-Instruct-Coder-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Llama-3-8B-Instruct-Coder, предназначенной прежде всего для генерации и анализа программного кода, а также для диалоговых задач по текстовым инструкциям. Квантизации подготовлены пользователем bartowski на основе модели rombodawg/Llama-3-8B-Instruct-Coder, которая, в свою очередь, связана с базовой моделью unsloth/llama-3-8b-Instruct-bnb-4bit. Для квантизации использован llama.cpp с imatrix и датасетом Kalomaze. Модель имеет текстовую модальность, архитектуру семейства Llama 3 и размер 8 миллиардов параметров. В README явно указан английский язык; сведения о других языках и размере контекстного окна отсутствуют. Доступны варианты от Q8_0 до IQ1_M размером примерно от 2,16 до 8,54 ГБ. Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые IQ-варианты отмечены как рекомендуемые: более высокие уровни обычно обеспечивают лучшее качество, а низкие позволяют экономить оперативную память ценой заметной деградации. Сильные стороны модели — возможность локального запуска через llama.cpp, широкий выбор компромиссов между качеством и требованиями к памяти и специализация на задачах программирования. Ограничения включают потери качества при агрессивной квантизации, особенно у вариантов IQ1_M и Q2–Q3, а также отсутствие в README подробных данных о бенчмарках, контекстном окне и фактическом языковом покрытии. Модель распространяется по лицензии Apache-2.0.

NousCoder-14B-GGUF — это квантизированные версии языковой модели NousCoder-14B, разработанной NousResearch и подготовленные bartowski в формате GGUF с использованием llama.cpp. Модель предназначена прежде всего для генерации и анализа программного кода, решения задач программирования и работы в локальных средах запуска, включая llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты. В README также указаны наборы данных, связанные с генерацией кода и задачами LiveCodeBench, использованные для базовой модели или её подготовки. Модель имеет размер 14 миллиардов параметров; точные сведения об архитектуре, поддерживаемых языках программирования и длине контекста в README не указаны. Доступны варианты от BF16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы многие варианты Q4–Q6; Q4_K_M обозначен как стандартный вариант для большинства сценариев, а менее точные Q3 и Q2 подходят главным образом при ограниченных ресурсах. Сильными сторонами являются возможность локального запуска, широкий выбор квантований и совместимость с популярными инструментами инференса. Ограничения связаны с компромиссом между размером и качеством при использовании квантованных версий, а также с тем, что некоторые форматы могут требовать обновления программного обеспечения. Модель и представленные квантизации распространяются по лицензии Apache-2.0.

LLMWildling/NVIDIA-Nemotron-3-Super-135B-A13B-Coder-NVFP4 — созданная сообществом специализация NVIDIA Nemotron 3 Super 120B-A12B NVFP4 для программирования; это не официальный выпуск NVIDIA. Модель использует архитектуру семейства Nemotron с разреженной активацией: при общем размере 135,21 млрд параметров активны 13,22 млрд параметров на токен. Веса представлены в смешанном формате NVFP4; модель загружается через Transformers и предназначена для диалогового взаимодействия. Модель рассчитана на генерацию кода, анализ репозиториев, работу в программных агентах и сценарии с использованием инструментов. В карточке приведён пример создания работающей SVG-игры Flappy Bird менее чем за 60 тысяч токенов, но это результат внутренней оценки, а не независимая гарантия качества. Для базовой модели каталог указывает поддержку длинного контекста и рассуждений; конкретная длина контекста этой версии не приведена. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой репозитория. Автор README заявляет о готовности к производственному применению.

Ornith-1.5-35B-A3B REAP-50 NVFP4A16 — локальная текстовая модель для генерации кода, созданная Ttimms на основе Ornith-1.5-35B-A3B от ornith-ai. Модель предназначена для программирования, генерации и исправления кода, а также агентских сценариев разработки. Она рассчитана на запуск в пределах 16 ГБ видеопамяти, в частности на RTX 5070 Ti, и может обслуживаться через vLLM. Это разреженная Mixture-of-Experts-модель с архитектурой Qwen3_5MoeForCausalLM. В результате pruning число экспертов сокращено с 256 до 128, а эффективный размер — примерно с 35,95 до 19 млрд параметров; маршрутизация 8 из 128 экспертов сохранена. Веса квантизованы методом GPTQ-NVFP4A16 в 4-битный формат с использованием compressed-tensors. Модель работает только с текстом: vision tower и MTP draft head удалены, поэтому визуальные задачи и функции MTP недоступны. Заявленный контекст — до 49 тыс. токенов в описанном сценарии SWE-bench. На опубликованном checkpoint модель показала 84,15% на HumanEval+, 90,24% на HumanEval и 89,15% на MBPP+ при жадной генерации; в SWE-bench Verified результат составил 22 из 50 задач, или 44%, при ограничении контекста и использовании mini-swe-agent. Эти показатели получены в конкретной конфигурации и могут изменяться из-за особенностей FP4-квантизации и пакетирования. Модель ориентирована прежде всего на код и локальный запуск, а сокращение экспертов, удаление визуальной башни и MTP-компонента являются основными ограничениями. Лицензия MIT унаследована от базовой модели.