II.3Рефакторинг, миграция и модернизация

Gemma-4-12B-Coder-fable5-composer2.5-4bit — 4-битная MLX-квантизированная версия модели yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1, созданная на базе google/gemma-4-12B-it. Конвертацию и публикацию выполнило сообщество MLX. Модель предназначена для генерации текста, программного кода и решения задач, требующих рассуждений, включая локальное использование в чат-режиме через библиотеку mlx-lm. Указана текстовая специализация; поддерживаемые языки, контекстное окно и дополнительные модальности в README не раскрыты. Архитектура описана как Gemma-4 с размером 12 млрд параметров, а 4-битная квантизация снижает требования к памяти при заявленном сохранении почти исходных возможностей рассуждения и программирования. Основное преимущество — оптимизация для локального запуска на компьютерах Apple Silicon с использованием MLX и возможность свободного использования, изменения и распространения. Ограничения включают зависимость от экосистемы MLX и Apple Silicon для целевого сценария, а также потенциальные потери качества, связанные с квантизацией; фактические показатели производительности и качества в README не приведены. Лицензия — Apache 2.0.

Granite-3B-Code-Instruct-128K — языковая модель с 3,5 млрд параметров, разработанная IBM Research. Это плотная авторегрессионная модель семейства Llama, дообученная на основе ibm-granite/granite-3b-code-base-128k для выполнения инструкций по программированию и работы с длинным контекстом до 128 000 токенов. Модель предназначена для создания кодовых помощников: она может генерировать код и отвечать на инструкции по программированию, в том числе с учётом длинных входных материалов, например содержимого репозитория. Обучение включало короткие и длинные примеры, задачи по математике, SQL и вызову функций. Карточка не перечисляет поддерживаемые естественные языки; модель ориентирована на программный код. IBM не рекомендует применять эту версию в новых проектах и предоставляет её для исторических и научных целей, поскольку более новые модели Granite превосходят её в задачах программирования. Для языков программирования вне обучающего распределения качество может быть ниже; перед использованием в критических приложениях нужны проверка безопасности и целевая настройка. Лицензия — Apache 2.0.

Granite-8B-Code-Instruct-4K — языковая модель IBM Research с 8,1 млрд параметров, дообученная на базе ibm-granite/granite-8b-code-base-4k. Она предназначена для выполнения инструкций по программированию и создания помощников для разработчиков. Модель также обучалась на данных с математическими задачами и примерами вызова функций. Архитектура — плотная LlamaForCausalLM; модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и распространяется в формате Safetensors. Модель обучалась на инструкциях по коду и ряду распространённых языков программирования, а также на математических и общих инструкционных данных. Для языков программирования вне обучающего охвата качество может быть ниже; в таких случаях README рекомендует использовать примеры в контексте. Перед применением в критически важных системах необходимы проверки безопасности и настройка под целевую задачу. IBM не рекомендует выбирать эту модель для новых проектов и указывает, что она предоставлена для исторических и научных целей. Лицензия — Apache 2.0.

bartowski/huihui-ai_Qwen3-Coder-Next-abliterated-GGUF — набор GGUF-квантизаций модели Huihui-Qwen3-Coder-Next-abliterated, разработанной huihui-ai. Квантизации выполнены bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу text-generation и предназначена для локального запуска генеративных сценариев, включая работу с кодом и текстом. Модель доступна в различных вариантах квантования от Q3 до Q8, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0. Размер файлов варьируется примерно от 42,67 до 84,81 ГБ; некоторые варианты разделены на несколько файлов. Для запуска указаны llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и LoLLMs. Используется шаблон диалога ChatML с маркерами system, user и assistant. README не сообщает точные архитектурные характеристики исходной модели, число параметров, контекстное окно, поддерживаемые языки или модальности, поэтому эти сведения нельзя достоверно определить. Более низкие уровни квантования экономят память, но могут снижать качество; варианты Q5 и выше обозначены как высококачественные, а Q4_K_M — как стандартный вариант для большинства сценариев. Модель имеет статус abliterated и uncensored, что может означать изменённые ограничения поведения по сравнению с исходной моделью. Лицензия — Apache-2.0.

InCoder 6B — авторегрессионная модель семейства XGLM, разработанная командой исследователей во главе с Дэниелом Фридом и Арменом Агажаняном. Это декодерный Transformer с 7,7 млрд параметров, обученный на исходном коде с причинно-маскированной целью. Она поддерживает обычную генерацию продолжения слева направо и заполнение пропусков внутри кода. Модель предназначена для генерации и редактирования программного кода, включая дописывание фрагментов и заполнение пропущенных участков. Обучающие данные включали открытые репозитории GitHub и GitLab с разрешительными лицензиями, а также Stack Overflow; основные языки — Python и JavaScript, всего в данных представлены 28 языков программирования. Контекст модели составляет 2049 токенов. Для запуска доступны веса float32 и float16; README указывает, что версия float16 подходит для инференса на GPU с 16 ГБ памяти при небольшом размере пакета и последовательностях не менее 256 токенов. Репозиторий предоставляет веса PyTorch. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и ограничивающая коммерческое применение.

OsaurusAI/Laguna-XS.2-JANGTQ — квантизированная версия языковой MoE-модели Laguna-XS.2 от Poolside, подготовленная Jinho Jang для запуска на компьютерах Apple Silicon через MLX. Модель предназначена для агентного программирования и продолжительных задач разработки ПО; поддерживает генерацию текста и диалоговый режим. Архитектура включает 40 слоёв, 256 маршрутизируемых экспертов с выбором восьми экспертов на токен и один общий эксперт. Используется гибридное внимание с полным и скользящим окном, групповое внимание запросов и контекст до 131 072 токенов. Веса экспертов квантизированы TurboQuant до 2 бит, ряд других линейных слоёв — до 8 бит; нормы и некоторые компоненты маршрутизатора сохранены в FP16. Репозиторий содержит веса в формате safetensors и предназначен для MLX. Для работы требуется совместимый JANGTQ runtime sidecar jangtq_runtime.safetensors, соответствующий параметрам квантизации модели. Базовая модель — poolside/Laguna-XS.2; лицензия — Apache-2.0. Квантизация может снижать точность относительно исходной модели, а запуск описан для Apple Silicon.

Esper 2 — языковая модель Valiant Labs для задач DevOps, облачной архитектуры и программирования. Она дообучена на базе Meta Llama 3.2 3B Instruct и содержит 3,2 млрд параметров; для генерации текста использует архитектуру Llama и формат safetensors. Обучающие данные включают синтетические инструкции по DevOps и коду, а также примеры общего диалога. Модель предназначена для ответов на вопросы и генерации кода и конфигураций для AWS, Azure, GCP, Terraform, Docker, CI/CD-пайплайнов и shell-скриптов. Она следует формату инструкций Llama 3.2 Instruct и поддерживает английский язык. Указанное окно контекста — 131 072 токена. Распространяется по лицензии Llama 3.2; перед использованием следует учитывать её условия.

Sakana AI разработала Llama-3-8B-Instruct-Coding-Expert — экспериментальную авторегрессионную языковую модель семейства Llama на 7,5 млрд параметров, основанную на Llama-3-8B-Instruct. Модель предназначена для генерации текста в диалоговом режиме и ориентирована на задачи программирования; в README указаны обучающие данные Magicoder-Evol-Instruct-110K и Magicoder-OSS-Instruct-75K. Модель принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 8192 токенов. В README модель представлена как один из экспертных компонентов набора Llama-3-CycleQD. Это экспериментальный прототип для исследований и разработки: авторы не рекомендуют коммерческое использование и развертывание в критически важных средах, а качество результатов не гарантируется. Лицензия — Meta Llama 3 Community License.

makeitwork-1 v13 — дообученная модель Akahsizrr для поиска информации в кодовых базах. Это декодерный трансформер Retriever500M в стиле LLaMA примерно с 497 млн параметров, обученный выполнять многошаговый поиск по запросам на естественном языке и работать с интерфейсом вызова инструментов поиска. Модель разбивает запрос на подзапросы, анализирует результаты поиска и при необходимости уточняет поиск, затем возвращает найденный фрагмент кода, путь к файлу и имя символа. Она рассчитана на точечный поиск определений, типов и функций, а также на расплывчатые и косвенные запросы, связанные с вызовами или поведением кода. В README приведена оценка точности поиска 92% на тестовом наборе из 50 запросов по 20 репозиториям; описаны отдельные случаи, когда модель пропускает дополнительный шаг поиска или ошибается в похожем имени символа. Для работы требуется внешняя система поиска по кодовой базе, которая предоставляет результаты модели через специальный формат взаимодействия. Метаданные указывают формат safetensors и язык en; лицензия в предоставленных данных не указана.

MathCoder2-Llama-3-8B-GGUF — это квантованные GGUF-версии модели MathCoder2-Llama-3-8B, разработанной MathGenie и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и ориентирована прежде всего на математические и программные задачи, включая решение задач, написание и анализ кода. В качестве источника данных указан набор MathGenie/MathCode-Pile. Модель основана на семействе Llama 3 и содержит 8 миллиардов параметров. Она работает с текстом и заявлена для английского языка. Доступны варианты от исходных весов F16 до квантований Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Файлы подготовлены с использованием llama.cpp и imatrix; предусмотрено локальное использование, в том числе через LM Studio. Сильной стороной является специализация на математике и коде, а также широкий выбор квантованных вариантов: высококачественные сборки занимают около 6–9 ГБ, а более компактные — примерно 3,7–5 ГБ. Ограничения включают снижение качества на низких уровнях квантования, неизвестные в представленном README размер контекста и подробные результаты оценки, а также отсутствие заявленной поддержки языков кроме английского. Указана лицензия Apache-2.0.

Это квантованная сборка NVFP4 модели MiMo-V2.6-Distill-Qwen-9B, разработанной Xiaomi MiMo и подготовленной для llama.cpp в формате GGUF. Исходная модель — мультимодальная модель на 9 млрд параметров, дообученная методом SFT на базе Qwen3.5-9B на данных, созданных более крупной моделью MiMo-V2.6. В репозитории также есть отдельный файл mmproj с визуальным энкодером для обработки изображений и видео. Модель предназначена для агентного программирования, работы с инструментами и терминалом, автоматизации, анализа интерфейсов и экранов, а также задач кибербезопасности. Гибридная архитектура сочетает 24 слоя линейного внимания Mamba-2 и 8 слоёв полного внимания; контекстное окно составляет 262 144 токена. Шаблон чата по умолчанию включает режим рассуждений. NVFP4-сборка занимает около 5,18 ГиБ, а ускорение NVFP4 требует видеокарты NVIDIA Blackwell; на более старых GPU используются более медленные пути. Это исследовательская отправная точка для экспериментов с агентным обучением с подкреплением, а не отполированный продукт. Разработчик приводит результаты бенчмарков, но они не были независимо воспроизведены для этой сборки. У модели нет доступной головы multi-token prediction, а KV-кэш при контексте 256K требует значительной памяти. Лицензия — MIT.

OASIS-code-embedding-1.5B — модель эмбеддингов кода, разработанная Kwaipilot для семантического поиска и извлечения фрагментов кода. Она предназначена для разработчиков и исследователей, создающих системы поиска по репозиториям и коду с учётом контекста программирования. Модель использует плотную архитектуру Qwen2 с 1,5 млрд параметров и обрабатывает последовательности длиной до 32 768 токенов. По описанию авторов, при обучении применялись анализ программ на уровне репозитория, синтез данных OASIS-instruct и специализированная функция потерь; заявлена высокая точность на тестах поиска кода. Модель принимает текст и выдаёт векторные представления для сравнения семантической близости. В README перечислены тесты для Python, Java, JavaScript, PHP, Go и Ruby. Для загрузки доступны веса в формате safetensors; указаны библиотека Sentence Transformers и лицензия MIT. В README отмечена проблема совместимости PyTorch 2.5.0 при загрузке с bfloat16: авторы рекомендуют версии 2.4.1 или ниже либо 2.5.1 и выше. Заявления о качестве приведены авторами; подробные значения таблицы бенчмарков в доступной карточке представлены не полностью.

Карточка модели openchat/openchat_8192 на Hugging Face совпадает с карточкой openchat/opencoderplus, поэтому описание составлено по ней. OpenCoderPlus — языковая модель для генерации кода из серии OpenChat, разработанной командой OpenChat. Она дообучена на базе StarCoderPlus и предназначена для продолжения и генерации кода, а также для диалога в формате User/Assistant. Модель использует архитектуру GPTBigCodeForCausalLM, принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Карточка сообщает об оценках на Vicuna GPT-4 и AlpacaEval, однако не приводит подробностей методики для задач программирования. Для диалогов используется шаблон с маркерами User, Assistant и специальным токеном конца хода. Репозиторий содержит веса PyTorch. README рекомендует загружать модель в формате bfloat16. Лицензия в предоставленных данных не указана.

OpenCodeInterpreter-DS-6.7B-imatrix-GGUF — это квантизированные GGUF-версии языковой модели OpenCodeInterpreter-DS-6.7B, опубликованные пользователем duyntnet. Исходная модель разработана организацией m-a-p и размещена на базе deepseek-ai. Модель предназначена для генерации текста и прежде всего для задач программирования, включая написание функций и обработку запросов на естественном языке, связанных с кодом. В доступных данных указано, что модель имеет размер 6,7 млрд параметров, поддерживает текстовый ввод и вывод, а заявленным языком является английский. Для запуска исходной версии используются AutoTokenizer и AutoModelForCausalLM из Transformers, а взаимодействие может выполняться через chat template. Данный репозиторий содержит квантизации с использованием GGUF и imatrix; конкретные варианты квантизации, размер контекста и требования к оборудованию не указаны. Сильной стороной модели является специализация на генерации программного кода и наличие формата GGUF, удобного для совместимого локального инференса. Ограничения включают отсутствие подробных данных о качестве, поддерживаемых языках программирования, мультимодальности и производительности. Лицензия обозначена как other, без уточнения конкретных условий использования.

Mungert/OpenCodeReasoning-Nemotron-7B-GGUF — квантизированная версия модели на базе Qwen/Qwen2.5-7B-Instruct, связанная с датасетом NVIDIA OpenCodeReasoning. Модель предназначена для генерации текста и решения задач, связанных с программированием и рассуждениями по коду; формат GGUF ориентирован на запуск через llama.cpp и совместимые инструменты. Модель относится к классу 7B и поддерживает английский язык. Доступны варианты с различной точностью квантизации, включая низкобитные форматы IQ и стандартные варианты GGUF. Низкобитные конфигурации уменьшают требования к памяти и подходят для CPU, устройств с ограниченной VRAM и edge-сценариев, однако могут снижать точность. В README приведены результаты для DynamicGate-квантизации на Llama-3-8B, но они не являются прямым бенчмарком данной модели. Размер контекста для этой модели явно не указан. Сильными сторонами являются компактность, возможность локального запуска и выбор между точностью и эффективностью благодаря нескольким вариантам квантизации. Ограничения включают потенциальную потерю качества в низкобитных версиях, зависимость производительности от аппаратного ускорения и отсутствие подробных характеристик целевой модели, включая точный контекст и результаты профильного тестирования. Указанная лицензия — Apache 2.0.

OpenCoderPlus — языковая модель для генерации кода из серии OpenChat, разработанной командой OpenChat. Она дообучена на базе StarCoderPlus и предназначена для продолжения и генерации кода, а также для диалога в формате User/Assistant. Модель использует архитектуру GPTBigCodeForCausalLM, принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Карточка сообщает об оценках на Vicuna GPT-4 и AlpacaEval, однако не приводит подробностей методики для задач программирования. Для диалогов используется шаблон с маркерами User, Assistant и специальным токеном конца хода. Репозиторий содержит веса PyTorch. README рекомендует загружать модель в формате bfloat16. Лицензия в предоставленных данных не указана.

OpenThinker-Agent-v1 — открытая агентная языковая модель проекта OpenThoughts-Agent, разработанная для выполнения задач с использованием терминала и решения задач программной инженерии. Модель построена на Qwen/Qwen3-8B и последовательно дообучена методом supervised fine-tuning на OpenThoughts-Agent-v1-SFT, а затем методом reinforcement learning на OpenThoughts-Agent-v1-RL. Архитектура — плотная Qwen3ForCausalLM, размер — 7,6 млрд параметров, формат весов — safetensors, контекст — до 40 960 токенов. Модель предназначена для агентных сценариев, включая формирование команд оболочки и исправление ошибок в коде; в README приведены результаты на Terminal-Bench 2.0 и SWE-Bench Verified. Метаданные также отмечают поддержку диалога, кода и интерфейса вызова инструментов. Это текстовая модель генерации, обученная на английских кодовых и инженерных данных; заявлена лицензия Apache-2.0. Показатели в README относятся к бенчмаркам и сами по себе не гарантируют успешное выполнение произвольных задач.

Ornith-1.5-35B-A3B-REAP-50-GGUF — квантизированная GGUF-версия модели Ornith-1.5-35B-A3B, подготовленная пользователем Ttimms на основе модели от ornith-ai. Это гибридная архитектура Gated-DeltaNet и Mixture-of-Experts (MoE): после 50%-порогового pruning методом REAP число экспертов сокращено с 256 до 128, удалена MTP-голова, а итоговый объём составляет примерно 19 млрд параметров. Модель предназначена для генерации текста и ориентирована прежде всего на англоязычные сценарии. Модель подходит для локального запуска и задач программирования: для исходной модели до квантизации заявлены результаты HumanEval+ 84,2%, MBPP+ 89,2% и SWE-bench Verified 44,0%. Благодаря примерно 3 млрд активных параметров она может обеспечивать быструю инференс-работу на CPU и Apple Silicon. Доступны варианты Q4_K_M, Q5_K_M, Q6_K и Q8_0; рекомендуемый Q4_K_M занимает около 11,4 ГБ, тогда как Q8_0 требует более 16 ГБ памяти или выгрузки части вычислений на CPU. Для запуска требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; также подходят LM Studio, KoboldCpp, Jan и text-generation-webui. Поддержка Ollama на момент публикации ожидала обновления встроенного llama.cpp. В README не указаны размер контекста и мультиязычные возможности; заявлен только английский язык. Из ограничений также следует учитывать удаление vision tower и MTP-головы, зависимость от совместимого рантайма и компромисс между качеством и объёмом памяти при выборе квантизации. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

mlx-community/Qwen2.5-Coder-1.5B-Instruct-bf16 — конвертированная в формат MLX инструктивная модель для генерации кода. Она основана на Qwen/Qwen2.5-Coder-1.5B-Instruct; архитектура — плотная Qwen2 с причинной языковой моделью Qwen2ForCausalLM и 1,5 млрд параметров. Модель предназначена для диалогового взаимодействия и задач с кодом, включая создание фрагментов по запросу и помощь при работе с программным кодом. Контекст модели составляет 32 768 токенов. В метаданных указан английский язык; README описывает конвертацию с помощью mlx-lm 0.18.1 и использование через эту библиотеку. Репозиторий распространяется по лицензии Apache-2.0. Практические результаты зависят от качества инструкций и сложности задачи; карточка не приводит отдельных оценок качества.

Qwen2.5-Coder-1.5B-Instruct-MLX-4bit — это 4-битная MLX-квантизация инструкционной модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen. Квантизацию выполнил bartowski на основе инструментов mlx-examples; модель предназначена для запуска на компьютерах Mac с Apple Silicon. Модель ориентирована на генерацию и обработку кода, чат-взаимодействие и использование в составе Code Agents. Она обучалась на объёме до 5,5 триллиона токенов, включая исходный код, данные для связывания текста и кода и синтетические данные. Заявлена поддержка контекста до 32 тысяч токенов и английского языка. Формат MLX и 4-битная квантизация снижают требования к памяти, однако README не содержит количественных данных о качестве, скорости, поддерживаемых модальностях или конкретных ограничениях кода модели. Модель распространяется по лицензии Apache-2.0.

Qwen3-32B-R2EGYM-256-3epochs — плотная языковая модель на 29,7 млрд параметров, созданная командой LAION дообучением Qwen/Qwen3-32B методом обучения с подкреплением. Обучение проводилось с асинхронным PPO в SkyRL на задачах программирования и рассуждений из бенчмарка R2EGYM; использовалось 256 задач и агент Terminus-2, работающий в терминальной среде с песочницей Docker. Контекст модели — 40 960 токенов. Модель предназначена для генерации кода, решения задач программирования и многошагового рассуждения в диалоговом формате. Авторы позиционируют её как замену Qwen3-32B с улучшенными возможностями в программировании и рассуждениях. Карточка указывает лицензию Apache-2.0. Результаты могут зависеть от задачи и условий запуска; обучение на ограниченном наборе из 256 задач не гарантирует улучшения на других задачах.

Qwen3.8-27B-Uncensored-Cyber — GGUF — это квантизированная версия модели philbert440/Qwen3.8-27B-Uncensored-Cyber, опубликованная paubau. Репозиторий содержит только GGUF-квантизацию и калибровочную матрицу imatrix, построенную на реальном трафике агентного программирования; дообучение, слияние моделей и изменение поведения не выполнялись. Модель ориентирована на агентные сценарии, связанные с написанием кода, вызовом инструментов и задачами в области кибербезопасности, включая offensive security. Это de-refusal-модель без стандартных ограничений на отказы, унаследованных от базовой модели. Модель имеет размер 27B параметров и распространяется в формате GGUF с квантизацией IQ4_XS. Доступны вариант без MTP-тензоров размером около 14,96 ГиБ и вариант с совместимой MTP speculative-decoding head размером около 15,38 ГиБ; последний требует поддержки со стороны используемого runtime. В базовой модели сохранены vision tower и MTP-голова, поэтому поддерживаются мультимодальный путь и ускоренное декодирование при совместимом загрузчике. Заявлен контекст до 262K токенов. Калибровка специально учитывает tool-call JSON, специальные токены шаблона чата, длинные точные литералы, пути, имена пакетов, хэши и смешанный китайско-английский текст, что должно быть полезно для агентного кодинга и точного воспроизведения строк. Ограничения модели связаны с потерями, неизбежными при квантизации, причём веса были получены повторной квантизацией из Q8_0, а не напрямую из BF16. Показатели сравнения в README имеют узкую область применимости и основаны на агентном корпусе. Для обычной загрузки рекомендуется файл без MTP, если поддержка MTP не проверена. Модель лицензирована по Apache-2.0; исходный корпус калибровки не опубликован и содержит приватные данные рабочих сессий.

Qwen3.8-Flash-Next-ik-llama-GGUF — это текстовая GGUF-конверсия модели Qwen3.8-Flash-Next, опубликованная пользователем ji-farthing. Файлы собраны непосредственно из BF16-релиза Qwen и предназначены для локального запуска через ik_llama.cpp, прежде всего для генерации текста и агентских задач, включая программирование. Модель использует архитектуру с маршрутизируемыми экспертами, а также поддерживает собственную MTP-head для speculative decoding. Доступны варианты квантизации IQ3_KT и IQ4_KT объёмом соответственно 80,22 и 88,42 ГиБ. Отдельно поставляется MTP-head IQ4_KT объёмом 2,21 ГиБ; она не является самостоятельной моделью и должна загружаться вместе с основной моделью. Указан контекст до 131 072 токенов. Модель текстовая, сведения о поддерживаемых языках в README не приведены. Для работы требуются ik_llama.cpp и сборка с поддержкой qwen4exp MTP; маршрутизируемые эксперты требуют примерно 50,4 ГиБ RAM или VRAM для IQ3_KT и 58,6 ГиБ для IQ4_KT. Ключевые сильные стороны — квантизация с importance matrix, настроенная для агентского программирования, сохранение собственного механизма MTP и высокая эффективность использования памяти за счёт размещения PLE-таблицы на диске. По приведённым измерениям на коде IQ4_KT показывает perplexity 1,8209 против 1,7218 у BF16-версии, а IQ3_KT — 1,8273. Ограничения включают очень большой размер файлов, высокие требования к оперативной памяти и необходимость специализированного runtime; MTP увеличивает объём вычислительного буфера. Лицензия указана как qwen-community-license-1.0.

MaziyarPanahi/Qwen3-Coder-Next-GGUF — это набор файлов модели в формате GGUF для Qwen3-Coder-Next, исходно разработанной командой Qwen. Квантованные версии подготовил MaziyarPanahi. Модель предназначена для генерации текста и, исходя из названия исходной модели, ориентирована на задачи, связанные с программированием, однако подробные сведения о специализации и результатах оценки в README не приведены. Главная характеристика этой версии — распространение в формате GGUF с вариантами квантования 2-, 3-, 4-, 5-, 6- и 8-бит. Формат поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие, что позволяет запускать модель локально с использованием CPU или GPU в зависимости от конкретного инструмента. Размер исходной модели, архитектура, поддерживаемые языки, модальности и размер контекста в README не указаны. Лицензия также не указана, поэтому условия использования следует уточнять в материалах исходной модели Qwen3-Coder-Next и репозитории квантованной версии.

Qwopus3.6-27B-Coder-AutoRound-W4A16-RTN — квантизированная версия языковой модели Jackrong/Qwopus3.6-27B-Coder. Модель предназначена для генерации текста и, прежде всего, для задач программирования, включая написание исходного кода и алгоритмов. Разработчик базовой модели — Jackrong; квантизация выполнена с помощью инструмента AutoRound от Intel. Модель использует 4-битное симметричное квантование только весов с group_size 128 по схеме W4A16, при которой веса представлены в формате int4, а активации сохраняются в 16-битном формате. Размер квантизированной модели составляет около 18 117 МБ. В README не указаны точное число параметров базовой модели, поддерживаемые языки, размер контекстного окна или дополнительные модальности, поэтому модель следует рассматривать как текстовую. К преимуществам относятся существенно уменьшенный размер по сравнению с полноточной версией и возможность запуска через Transformers и vLLM. Результаты оценки показывают, в частности, accuracy 0,8503 на MMLU и 0,8215 на PIQA, однако качество зависит от задачи, а приведённые метрики не гарантируют корректность ответов в практических сценариях. Модель может выдавать фактически неверные, предвзятые, оскорбительные или непристойные ответы и требует предварительного тестирования безопасности. Лицензия в README не указана: необходимо соблюдать лицензию оригинальной модели Jackrong/Qwopus3.6-27B-Coder. Для использования рекомендуется установить AutoRound; также приведены инструкции для запуска через Transformers и vLLM.

Buelfhood/SOCO-Java-CODEBERTA-MNRL-TRIPLETS-E1-B32-LR1e-05-Split0.1 — модель Sentence Transformers, дообученная на наборе SOCO_TRAIN_java на основе huggingface/CodeBERTa-small-v1. Она преобразует текст в плотные векторы размерностью 768 и предназначена для сравнения семантической близости, семантического поиска и других задач сопоставления текстов, особенно связанных с Java-кодом. Архитектура основана на RoBERTa и использует усреднение токенных представлений; сходство векторов можно оценивать косинусной мерой. Модель содержит 96,6 млн параметров, поддерживает последовательности до 514 токенов по метаданным (в README указан предел 512) и распространяется в формате safetensors. Также её можно применять для поиска парафраз, кластеризации и классификации текста. Данные не уточняют лицензию; модель рассчитана на текстовые входы и векторные представления на выходе.

Stable-DiffCoder-8B-Base — базовая модель для генерации кода, разработанная ByteDance на архитектуре Seed-Coder. Это языковая модель с диффузионным обучением по блокам, представленная в формате safetensors и рассчитанная на запуск через Transformers. По карточке, при обучении использовано 1,3 трлн токенов кода из GitHub и веб-источников; размер модели — 7,6 млрд параметров, длина контекста — 8192 токена. Модель предназначена для генерации и дополнения кода, включая заполнение пропусков между заданными префиксом и суффиксом (Fill-in-the-Middle), а также для рассуждений о коде. Обучение с диффузионным предсказанием в произвольном порядке ориентировано на структурированные задачи редактирования; авторы также отмечают преимущества для языков программирования с малым объёмом обучающих данных. В README сообщается о результатах на тестах генерации кода, дополнения и рассуждений, но они не гарантируют качества в конкретном проекте. Это предварительно обученная базовая модель, а не версия, настроенная на выполнение пользовательских инструкций; для такого сценария авторы отдельно предлагают Stable-DiffCoder-8B-Instruct. Лицензия репозитория — MIT. Модель может выдавать ошибочный или небезопасный код, поэтому результат нужно проверять перед использованием.

Trinity-33B-v1.0 — языковая модель общего назначения для генерации кода от WhiteRabbitNeo. В карточке заявлен результат 70 баллов на HumanEval. По метаданным это плотная decoder-only модель семейства Llama с архитектурой LlamaForCausalLM и 33,1 млрд параметров; она принимает текст и генерирует текст. Нативная длина контекста — 16 384 токена. Модель предназначена прежде всего для генерации кода и помощи в задачах программирования. Лицензия в метаданных обозначена как other; README содержит условия использования, отказ от гарантий и требование к пользователю нести ответственность за результаты применения модели. Карточка не уточняет поддерживаемые языки программирования и ограничения качества за пределами заявленного результата HumanEval.

laion/tt-x1_lr-lr8e6-60-30B — чекпойнт шага 60, созданный LAION в рамках эксперимента TaskTrove X1 по подбору скорости обучения. Это дообучение инструктивной модели Qwen/Qwen3-Coder-30B-A3B-Instruct с архитектурой Qwen3 MoE, выполненное методом GRPO на наборе DCAgent/exp_rpt_multifile с использованием SkyRL и Terminus-2. Модель предназначена для генерации текста в диалоговом формате, в частности для задач программирования и работы с несколькими файлами. Для выбора чекпойнта использовали скользящую экспоненциальную среднюю награды за последние пять шагов; шаг 60 показал наивысшее значение среди сохранённых вариантов. Обучение остановили на шаге 71 из 80 из-за роста энтропии, поэтому результат не отражает завершённый цикл обучения. Контекст модели составляет 262 144 токена; в метаданных указано 2,6 млрд параметров. Лицензия — Apache-2.0.

CrowQwen3.5 4B Agent Heretic GGUF — компактная локальная агентная сборка от dawncr0w на базе Qwen/Qwen3.5-4B. Модель предназначена для текстовой генерации в llama.cpp-совместимых средах и ориентирована на заметки по программированию, планы рефакторинга, разбор ошибок, рабочие процессы с shell-командами и двуязычные технические запросы на корейском и английском языках. Модель содержит около 4 млрд параметров и распространяется в формате GGUF с 31 вариантом квантования — от Q1_0 до F16. В шаблоне чата заявлена поддержка форматирования вызовов инструментов, что делает сборку подходящей для локальных агентных сценариев. Рекомендуемый сбалансированный вариант — Q4_K_M; более высокие уровни квантования сохраняют больше точности, а низкие требуют меньше памяти. Размеры файлов варьируются примерно от 0,97 до 7,85 GiB. Сильными сторонами являются компактность, возможность локального запуска, ориентация на задачи разработки и поддержка корейских, английских и программных запросов. Ограничения включают отсутствие заявленных benchmark-результатов: приведённые smoke-проверки подтверждают только локальную загрузку и короткую генерацию. Качество и требования к памяти зависят от выбранного варианта квантования. Модель распространяется по лицензии Apache 2.0.