II.2Создание и понимание программного кода

Модель q25sftrphardlam1 — готовый для инференса чекпойнт дообучения Qwen2.5-3B, подготовленный проектом RL-Forgetting-Experiments-3 для генерации кода. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, основанная на Qwen/Qwen2.5-3B и обученная на данных qwen3b_code_sft_data_s300. В README указаны упорядоченная подача данных, стратегия replay hard и коэффициент replay 1,0; чекпойнт зафиксирован на шаге оптимизатора 102. Модель подходит для генерации кода и диалоговых сценариев с программированием. Она принимает текст и выдаёт текст; максимальная длина контекста составляет 32 768 токенов. Репозиторий использует Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.

bunnycore/Qwen2.5-7B-Matrix-v2 — это объединённая модель генерации текста на архитектуре Qwen2, созданная с помощью mergekit методом DARE TIES. В объединение вошли Qwen2.5-Coder-7B-Instruct, Qwen2.5-Math-7B-Instruct и huihui-ai/Qwen2.5-7B-Instruct-abliterated; последняя использована как базовая модель. Чекпойнт содержит 7,1 млрд параметров, построен для Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста, в том числе для задач программирования и математики, сочетая возможности включённых инструкционных моделей. В метаданных также отмечен интерфейс вызова инструментов. Языки, на которых модель рассчитана, и отдельные ограничения её качества не описаны. Лицензия в предоставленных сведениях не указана.

Qwen2.5-Coder-0.5B — базовая предварительно обученная языковая модель для работы с кодом, разработанная командой Qwen. Это причинная языковая модель семейства Qwen2: плотная архитектура Qwen2ForCausalLM с 494 млн параметров и контекстом до 32 768 токенов. В README указаны RoPE, SwiGLU, RMSNorm, смещение в QKV-внимании и связанные эмбеддинги слов; модель содержит 24 слоя и использует GQA. Модель предназначена для генерации и анализа кода, рассуждений о коде, исправления ошибок и задач заполнения фрагментов кода. Она также сохраняет общие языковые и математические возможности базовой Qwen2.5 и может служить основой для дальнейшего дообучения и создания кодовых агентов. Разработчик не рекомендует использовать базовую версию для диалога без постобучения. Модель распространяется по лицензии Apache-2.0.

Карточка модели Wjwiiwi/Qwen2.5-Coder-0.5B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-0.5B, поэтому описание составлено по ней. Qwen2.5-Coder-0.5B — базовая предварительно обученная языковая модель для работы с кодом, разработанная командой Qwen. Это причинная языковая модель семейства Qwen2: плотная архитектура Qwen2ForCausalLM с 494 млн параметров и контекстом до 32 768 токенов. В README указаны RoPE, SwiGLU, RMSNorm, смещение в QKV-внимании и связанные эмбеддинги слов; модель содержит 24 слоя и использует GQA. Модель предназначена для генерации и анализа кода, рассуждений о коде, исправления ошибок и задач заполнения фрагментов кода. Она также сохраняет общие языковые и математические возможности базовой Qwen2.5 и может служить основой для дальнейшего дообучения и создания кодовых агентов. Разработчик не рекомендует использовать базовую версию для диалога без постобучения. Модель распространяется по лицензии Apache-2.0.

Карточка модели Chanithu/Qwen2.5-Coder-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-0.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-0.5B-Instruct — инструктивно дообученная языковая модель для кода от команды Qwen. Она предназначена для генерации и исправления кода, рассуждений о коде и диалоговых сценариев для разработчиков, включая использование в кодовых агентах. Модель также сохраняет общие языковые и математические способности семейства Qwen2.5. Это плотная авторегрессионная модель архитектуры Qwen2 с 494 млн параметров и контекстом до 32 768 токенов. В архитектуре используются RoPE, SwiGLU, RMSNorm и группированное внимание; модель работает с текстом и выдаёт текст, в том числе код. Репозиторий содержит веса Safetensors, загрузка поддерживается библиотекой Transformers. Модель компактна для локальных экспериментов и интеграции в инструменты разработчика, но её малый размер может ограничивать качество сложной генерации и рассуждений по сравнению с более крупными моделями. Лицензия — Apache-2.0.

Qwen2.5-Coder-0.5B-Instruct — инструктивно дообученная языковая модель для кода от команды Qwen. Она предназначена для генерации и исправления кода, рассуждений о коде и диалоговых сценариев для разработчиков, включая использование в кодовых агентах. Модель также сохраняет общие языковые и математические способности семейства Qwen2.5. Это плотная авторегрессионная модель архитектуры Qwen2 с 494 млн параметров и контекстом до 32 768 токенов. В архитектуре используются RoPE, SwiGLU, RMSNorm и группированное внимание; модель работает с текстом и выдаёт текст, в том числе код. Репозиторий содержит веса Safetensors, загрузка поддерживается библиотекой Transformers. Модель компактна для локальных экспериментов и интеграции в инструменты разработчика, но её малый размер может ограничивать качество сложной генерации и рассуждений по сравнению с более крупными моделями. Лицензия — Apache-2.0.

Карточка модели vy22215/Qwen2.5-Coder-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-0.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-0.5B-Instruct — инструктивно дообученная языковая модель для кода от команды Qwen. Она предназначена для генерации и исправления кода, рассуждений о коде и диалоговых сценариев для разработчиков, включая использование в кодовых агентах. Модель также сохраняет общие языковые и математические способности семейства Qwen2.5. Это плотная авторегрессионная модель архитектуры Qwen2 с 494 млн параметров и контекстом до 32 768 токенов. В архитектуре используются RoPE, SwiGLU, RMSNorm и группированное внимание; модель работает с текстом и выдаёт текст, в том числе код. Репозиторий содержит веса Safetensors, загрузка поддерживается библиотекой Transformers. Модель компактна для локальных экспериментов и интеграции в инструменты разработчика, но её малый размер может ограничивать качество сложной генерации и рассуждений по сравнению с более крупными моделями. Лицензия — Apache-2.0.

sci4ai/Qwen2.5-Coder-14B-Abliterated — доработанная sci4ai версия Qwen/Qwen2.5-Coder-14B-Instruct, созданная удалением поведения отказа с помощью направленной на активации модификации весов. Это плотная авторегрессионная модель семейства Qwen2 с 14 млрд параметров, доступная в формате Safetensors; она принимает текст и поддерживает диалоговую генерацию кода на английском языке. Контекст — до 32 768 токенов. Модель предназначена для написания, анализа и исправления кода в диалогах. Изменение затрагивает 47 из 48 слоёв и ослабляет отказы, в том числе на запросы о разработке эксплойтов, вредоносного ПО и сетевых атаках; это не отдельная специализация, гарантирующая качество или безопасность таких ответов. Лицензия — Apache-2.0.

Qwen2.5-Coder-14B-GGUF — квантизированная в формате GGUF версия базовой модели Qwen2.5-Coder-14B, разработанной командой Qwen. Квантизация выполнена bartowski на основе llama.cpp версии b4058. Модель предназначена для генерации и автодополнения исходного кода и других задач программирования; в карточке указаны английский язык и текстогенерация как основной сценарий применения. Модель содержит 14 млрд параметров, обучена на 5,5 трлн токенов и поддерживает контекст до 128 тыс. токенов с настройками RoPE YaRN и коэффициентом 4,0; исходная длина контекста составляет 32 тыс. токенов. Это именно базовая модель, поэтому она рассчитана на completion и generation, а не на диалоговый или instruct-режим, что ограничивает её готовность к общению по инструкциям без дополнительного форматирования или дообучения. Модель распространяется по лицензии Apache-2.0.

3MPER0RR/Qwen2.5-Coder-14B-Instruct-3MPER0RR-abliterated — доработанная 3MPER0RR версия инструкционной модели Qwen2.5-Coder-14B-Instruct, основанная на архитектуре Qwen2 и содержащая 14 млрд параметров. Модель предназначена для генерации кода в диалоговом формате; базовая модель также рассчитана на анализ и исправление кода. Модель принимает текст и выдаёт текст. Контекст составляет 32 768 токенов. В репозитории указаны веса в формате safetensors, лицензия — Apache 2.0. Карточка сообщает, что модель была протестирована и сохранена после 200 проб, но не описывает изменения, критерии тестирования или конкретные преимущества версии abliterated.

ggml-org/Qwen2.5-Coder-14B-Instruct-Q8_0-GGUF — это квантизированная версия модели Qwen2.5-Coder-14B-Instruct, преобразованная в формат GGUF командой ggml-org с использованием llama.cpp и проекта GGUF-my-repo. Базовая модель разработана командой Qwen; в предоставленных данных точное название разработчика базовой модели не уточняется. Модель предназначена для генерации текста и работы с исходным кодом, включая сценарии программирования и диалогового взаимодействия. Она ориентирована на запуск через llama.cpp в локальной среде, как в режиме командной строки, так и в виде сервера. Указана поддержка английского языка. Модель является текстовой, имеет 14 миллиардов параметров и использует квантование Q8_0. Архитектура, максимальная длина контекста и полный перечень поддерживаемых языков в README не указаны; пример запуска использует контекст 2048 токенов, но это не подтверждает максимальный размер контекста. К сильным сторонам относятся специализация на задачах программирования, совместимость с экосистемой llama.cpp и возможность локального развертывания в GGUF-формате. Ограничения связаны с необходимостью подходящего оборудования и программной среды для запуска, а также с отсутствием в предоставленных данных подробностей о качестве на бенчмарках, производительности и фактическом языковом охвате. Модель распространяется по лицензии Apache-2.0.

Это инструкционно дообученная модель Qwen2.5-Coder-1.5B, опубликованная Unsloth на основе Qwen/Qwen2.5-Coder-1.5B-Instruct. Она предназначена для генерации, анализа и исправления кода в диалоговом формате, а также может применяться для задач математики и общего общения. Модель содержит около 1,5 млрд параметров, использует архитектуру Qwen2 с причинной языковой моделью и работает через библиотеку Transformers. Метаданные указывают контекст до 32 768 токенов; в README описана поддержка длинного контекста до 131 072 токенов с настройкой YaRN. Модель принимает текст и генерирует текст. Её компактный размер подходит для локального прототипирования и кодовых помощников с ограниченными ресурсами, при этом она сохраняет навыки генерации и рассуждения о коде. Карточка описывает семейство Qwen2.5-Coder, но не приводит подробный перечень поддерживаемых языков программирования или языков общения; метаданные отмечают английский язык. Лицензия — Apache-2.0.

unsloth/Qwen2.5-Coder-1.5B-Instruct-bnb-4bit — это 4-битно квантованная instruction-tuned версия языковой модели Qwen2.5-Coder-1.5B, разработанной командой Qwen от Alibaba Cloud и опубликованной в формате, подготовленном Unsloth. Модель предназначена для генерации, анализа и исправления программного кода, кодового рассуждения, создания code agents, а также задач общего назначения и математики. Модель является авторегрессионной causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Она содержит 1,54 млрд параметров, из которых 1,31 млрд не относятся к эмбеддингам, 28 слоёв и использует GQA с 12 головами для Q и 2 для KV. Заявлена поддержка контекста до 131 072 токенов. В README указан английский язык; модальность — текстовая. Квантование bnb-4bit снижает требования к памяти и облегчает локальный запуск, но может ограничивать точность по сравнению с полноразмерной версией. Сильными сторонами модели являются специализация на программировании, улучшенные возможности генерации, рассуждения и исправления кода, большой контекст и компактный размер. Ограничения включают небольшой объём модели по сравнению с более крупными системами, возможное снижение качества из-за 4-битного квантования и отсутствие в предоставленных данных подробных результатов бенчмарков, списка поддерживаемых языков программирования и оценки надёжности ответов. Модель распространяется по лицензии Apache-2.0; для работы рекомендуется использовать актуальную версию библиотеки transformers.

Это квантованная версия Qwen2.5-Coder-1.5B-Instruct, подготовленная для запуска в формате GGUF с помощью llama.cpp. Компактная инструкционная модель на 1,5 млрд параметров предназначена для генерации и анализа кода в диалоговом формате; веса Q4_K_M занимают около 0,94 ГиБ и рассчитаны на запуск на оборудовании с ограниченной видеопамятью. Заявленная длина контекста — 32 768 токенов. Модель подходит для написания функций, отладки, объяснения алгоритмов и простого рефакторинга. Она отвечает без обязательного пошагового рассуждения, что удобно для интерактивных помощников. Небольшой размер ограничивает её возможности при работе со сложными задачами и крупными кодовыми базами. Лицензия — Apache-2.0.

Qwen2.5-Coder-1.5B-Instruct-GGUF — это квантизированный формат GGUF модели Qwen2.5-Coder-1.5B-Instruct, разработанной Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации и анализа программного кода, чат-взаимодействия и других задач текстовой генерации, связанных с разработкой программного обеспечения. Указан английский язык, а исходная модель доступна через библиотеку Transformers. Модель содержит 1,5 млрд параметров и распространяется в нескольких вариантах точности, включая F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-квантизации. Размер файлов составляет примерно от 0,78 до 3,09 ГБ, поэтому доступны варианты для систем с разным объёмом оперативной памяти. В README не указаны архитектурные детали, размер контекста и дополнительные модальности; по описанию это текстовая модель без заявленной поддержки изображений или других типов входных данных. Основное преимущество набора — локальный запуск через llama.cpp и совместимость с LM Studio при существенно сниженном потреблении памяти. Варианты с более высокой точностью обеспечивают лучшее качество, а низкоразрядные квантизации экономят ресурсы, но могут заметно снижать качество генерации; устаревший формат Q4_0 не рекомендуется по сравнению с альтернативами сопоставимого размера. Для общения следует использовать указанный в README шаблон сообщений ChatML. Лицензия — Apache-2.0.

legraphista/Qwen2.5-Coder-1.5B-Instruct-IMat-GGUF — это GGUF-квантизированная версия инструкционно дообученной модели Qwen/Qwen2.5-Coder-1.5B-Instruct. Квантование выполнено legraphista с использованием llama.cpp и метода IMatrix; исходный формат модели — BF16. README не уточняет команду или организацию, разработавшую базовую модель Qwen2.5-Coder. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате: написания, дополнения и объяснения кода, а также выполнения инструкций, связанных с разработкой. Указан английский язык. Это текстовая модель без заявленной поддержки изображений или других модальностей. Размер базовой модели — 1,5 млрд параметров, однако сведения об архитектуре и размере контекстного окна в README отсутствуют. Доступны варианты GGUF от BF16 и FP16 до квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; для ряда вариантов применена IMatrix. Квантированные файлы занимают примерно от 676 МБ до 1,65 ГБ, что делает модель пригодной для локального запуска при ограниченных ресурсах. Более агрессивное квантование уменьшает требования к памяти, но может снижать точность и качество генерации. Модель распространяется по лицензии Apache-2.0.

duyntnet/Qwen2.5-Coder-1.5B-Instruct-imatrix-GGUF — набор GGUF-квантизаций инструкционно дообученной модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen компании Alibaba Cloud. Модель относится к причинным языковым моделям и предназначена прежде всего для генерации, анализа, исправления и объяснения программного кода, а также для задач рассуждения и диалога в прикладных сценариях, включая локальные инструменты и кодовых агентов. Модель имеет архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в механизмах внимания QKV и связанными эмбеддингами слов. Она содержит около 1,54 млрд параметров, 28 слоёв и использует GQA с 12 головами для Q и 2 головами для KV. Полная длина контекста составляет 32 768 токенов. В карточке указаны английский язык и текстовая модальность; модель поддерживается клиентами и интерфейсами llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и Jan. К сильным сторонам относятся компактный размер, специализация на программном коде и поддержка GGUF-квантизаций, что делает модель подходящей для локального запуска на ограниченных ресурсах. К ограничениям относятся меньший масштаб по сравнению с более крупными моделями семейства и отсутствие в карточке подробных результатов оценки качества для конкретных квантизаций. Лицензия обозначена как other, без дополнительных условий в представленном README.

Qwen2.5-Coder-32B-abliterated-i1-GGUF — квантизированная GGUF-версия модели TobiasLogic/Qwen2.5-Coder-32B-abliterated, подготовленная mradermacher. Модель предназначена для генерации текста и решения задач, связанных с программированием, включая написание и обработку кода. В метаданных указан английский язык; поддержка других языков, мультимодальность и точный размер контекстного окна не заявлены. Модель основана на варианте Qwen2.5-Coder с 32 миллиардами параметров и распространяется в нескольких форматах квантизации, включая IQ1–IQ4, Q2–Q6 и другие варианты. Это позволяет выбирать между размером файла, скоростью работы и качеством: более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству, тогда как Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как сбалансированный по размеру, скорости и качеству. Для использования требуются инструменты, поддерживающие формат GGUF. К сильным сторонам относятся специализация на коде, большое число параметров и широкий выбор квантизаций для локального запуска. Ограничения связаны с потерями качества при низкой квантизации, отсутствием заявленных характеристик контекстного окна и неполной информацией о производительности. Модель описана как abliterated и uncensored, однако конкретные свойства безопасности в README не приведены. Лицензия — Apache-2.0.

Qwen2.5-Coder-32B-Instruct-4bit — это 4-битная версия модели Qwen2.5-Coder-32B-Instruct, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.19.3. Модель предназначена для генерации текста и работы с программным кодом в инструкционном и чат-сценариях: она может использоваться для написания, дополнения и объяснения кода, а также для диалога по техническим задачам. Указанный язык — английский. Модель содержит 32 миллиарда параметров и распространяется в 4-битном представлении. Она ориентирована на запуск через библиотеку mlx-lm; README не указывает поддерживаемые модальности, размер контекстного окна или перечень языков программирования. Модель предоставляется по лицензии Apache 2.0. Сведения о конкретных ограничениях качества, требованиях к оборудованию и результатах тестирования в README отсутствуют.

unsloth/Qwen2.5-Coder-3B-bnb-4bit — квантованная 4-битная версия модели Qwen2.5-Coder, разработанной командой Qwen и опубликованной в формате Unsloth. Модель относится к семейству специализированных языковых моделей для программирования и предназначена для генерации, анализа и исправления кода, а также для задач code completion и fill-in-the-middle. Это базовая модель без дообучения для диалогов, поэтому для чат-сценариев рекомендуется дополнительное обучение или использование подходящего шаблона постобработки. Архитектура основана на causal language model с RoPE, SwiGLU, RMSNorm, смещениями в QKV-проекциях внимания и связанными эмбеддингами слов. В README для данного репозитория приведены характеристики версии 0.5B: около 0,49 млрд параметров, 24 слоя, GQA с 14 головами для Q и 2 для KV, контекст до 32 768 токенов. При этом идентификатор и базовая модель указывают на вариант 3B, а точные архитектурные параметры именно 3B-версии в предоставленных данных не подтверждены. Указан английский язык; мультимодальность не заявлена. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, а также сниженные требования к памяти благодаря 4-битному представлению. Модель может применяться локально и интегрироваться в инструменты разработки, но её базовый, а не диалоговый характер ограничивает использование в роли готового чат-ассистента. Лицензия — Apache-2.0.

Meohan/Qwen2.5-Coder-3B-Instruct — языковая модель семейства Qwen2, ориентированная на генерацию текста и выполнение инструкций в сценариях, связанных с программированием. Модель опубликована пользователем Meohan на Hugging Face; сведения о разработчике и происхождении в README не приведены. Модель содержит около 3,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Она распространяется для использования через библиотеку Transformers; в метаданных также отмечены форматы safetensors и GGUF. Основной pipeline-тег — text-generation. Модель может применяться для генерации фрагментов программного кода, объяснения кода, помощи при рефакторинге и ответов на технические запросы в диалоговом формате. README не содержит результатов оценки, описания обучающих данных, сведений о языках, лицензии или подтверждённых характеристиках качества, поэтому перед использованием в продуктивных системах необходима самостоятельная проверка.

saidutta69/Qwen2.5-Coder-3B-Instruct-heretic — декензурированная версия Qwen2.5-Coder-3B-Instruct, созданная с помощью Heretic v1.2.0 методом направленной абляции. Изменения внесены непосредственно в веса attention и MLP без дообучения, поэтому базовые знания и следование инструкциям в основном сохранены. Модель предназначена для локального запуска разработчиками, генерации и анализа кода, работы в роли программного копилота и локальных coding agents. Модель является текстовой causal language model размером около 3,1 млрд параметров, поддерживает английский язык и распространяется в форматах GGUF, включая F16 и различные варианты квантования. Она совместима с llama.cpp, Ollama, LM Studio, Jan, Transformers, vLLM и SGLang, а благодаря небольшому размеру подходит для потребительских GPU, CPU и Apple Silicon. Контекст модели в README не указан. Доступны варианты весов примерно от 1,19 до 5,75 ГБ, при этом для контекста требуется дополнительная память. Главная особенность — подавление отказов от выполнения запросов: согласно приведённому сравнению, модель отказала в 3 из 100 тестов против 100 из 100 у исходной версии, при этом KL-дивергенция составила 0,0163. Это делает её более прямолинейной для локального использования, но одновременно снижает встроенные защитные ограничения. Модель не добавляет новых возможностей или механизмов проверки фактов, наследует ограничения и предвзятость базовой модели и не рекомендуется для неотмодерированных публичных сервисов. Лицензия унаследована от базовой модели и указана как qwen-research; для коммерческого использования необходимо ознакомиться с условиями лицензии Qwen по указанной ссылке.

Qwen2.5-Coder-3B-Instruct-MLX-4bit — это 4-битная MLX-квантизация инструкционной модели Qwen2.5-Coder-3B-Instruct, разработанной Qwen. Квантизацию подготовил bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon и ориентирована на задачи генерации и обработки текста и исходного кода, включая использование в Code Agents. Модель имеет около 3 миллиардов параметров, поддерживает контекст до 32 тысяч токенов и обучалась на объёме до 5,5 триллиона токенов, включая исходный код, пары «текст—код» и синтетические данные. Указана текстовая модальность; сведения о дополнительных языках и модальностях в README отсутствуют. 4-битное представление снижает требования к памяти и делает модель более подходящей для локального запуска, однако может ограничивать качество по сравнению с полноразмерной версией. Как и другие языковые модели, она способна генерировать неточный, вредный или неподходящий контент. В README лицензия модели не указана, поэтому условия использования необходимо уточнять в документации оригинальной модели Qwen2.5-Coder-3B-Instruct и материалах к данной квантизации.

bocalan/Qwen2.5-Coder-3B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen2.5-Coder-3B-Instruct, преобразованная пользователем bocalan в формат GGUF с помощью llama.cpp через сервис GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и работы с программным кодом в диалоговых сценариях, включая написание, дополнение и объяснение кода. В метаданных указаны английский язык, базовая модель Qwen/Qwen2.5-Coder-3B-Instruct и библиотека transformers. Модель содержит 3 миллиарда параметров и использует квантизацию Q4_K_M, что снижает требования к памяти по сравнению с полной версией и делает запуск возможным через llama.cpp на совместимом локальном оборудовании. GGUF-версия поддерживает запуск в CLI и серверном режиме llama.cpp; в README приведён пример контекста 2048 токенов, однако это значение относится к примеру запуска и не подтверждает максимальный размер контекста модели. К сильным сторонам относятся специализация на программном коде, инструкционное обучение и удобство локального запуска в оптимизированном GGUF-формате. Ограничения включают меньший размер по сравнению с более крупными моделями и отсутствие в предоставленных данных подробностей об архитектуре, полном наборе языков, точной производительности и мультимодальных возможностях; указана только текстовая генерация. Модель распространяется по лицензии qwen-research; дополнительные условия следует уточнять в лицензии базовой модели Qwen2.5-Coder-3B-Instruct.

Qwen2.5-Coder-3B-Q8_0-GGUF — это квантизированная модель для генерации кода и другого текста, преобразованная в формат GGUF проектом ggml-org из базовой модели Qwen/Qwen2.5-Coder-3B. Модель относится к семейству Qwen2.5-Coder и предназначена для запуска с помощью llama.cpp, в том числе локально через командную строку или сервер. Модель имеет размер 3B параметров и представлена в формате Q8_0. Она поддерживает текстовый ввод и вывод; в карточке указан английский язык. Основные сценарии использования — генерация программного кода, помощь в задачах разработки и текстовая генерация. В примере запуска используется контекст длиной 2048 токенов, однако максимальный размер контекста в предоставленных данных не указан. Преимуществами являются специализированная направленность на программирование, компактный размер по сравнению с более крупными моделями и совместимость с llama.cpp. Ограничения связаны с отсутствием подробных сведений о качестве, поддерживаемых языках программирования, мультимодальности и максимальном контексте; модель следует оценивать с учётом ресурсов локального запуска и особенностей квантизации. Лицензия указана как qwen-research; подробные условия приведены в лицензии исходной модели Qwen/Qwen2.5-Coder-3B.

Qwen2.5-Coder-7B-Instruct-4bit — 4-битная версия модели для генерации кода из семейства Qwen2.5-Coder, подготовленная mlx-community. README указывает, что модель преобразована в формат MLX из Qwen/Qwen2.5-Coder-7B-Instruct с помощью mlx-lm 0.18.1; в метаданных базовой моделью указана Qwen/Qwen2.5-Coder-7B. Это плотная причинная языковая модель архитектуры Qwen2 с 7,1 млрд параметров и контекстом 32 768 токенов. Модель предназначена для генерации кода в диалоговом формате и подходит для помощи при написании и анализе программ. Репозиторий распространяется по лицензии Apache-2.0. README описывает конвертацию в MLX, а метаданные указывают на дообучение базовой модели для кода; представленных сведений недостаточно, чтобы точно описать качество по языкам программирования или результаты оценок.

Qwen2.5-Coder-7B-Instruct-abliterated-GGUF — набор GGUF-квантизаций модели Qwen2.5-Coder-7B-Instruct-abliterated. Базовая модель опубликована huihui-ai, а квантизации подготовлены bartowski с использованием llama.cpp и imatrix. Это текстовая модель генерации с поддержкой диалогового формата prompt и специализацией на задачах программирования и следовании инструкциям. Модель предназначена для локального запуска в приложениях и средах, совместимых с GGUF, включая LM Studio. Доступны варианты от F16 до Q3 и различных Q4–Q8-квантизаций размером примерно от 4,09 до 15,24 ГБ. Более крупные варианты обычно сохраняют лучшее качество, а компактные требуют меньше оперативной памяти; для ARM предусмотрены отдельные варианты, некоторые из которых требуют поддержки sve или i8mm и не рекомендуются для Mac или Windows. В README указана поддержка английского языка и текстовая модальность; сведения о размере контекста и точной архитектуре не приведены. К ключевым ограничениям относятся возможная потеря качества при сильной квантизации и зависимость совместимости от аппаратной платформы. Модель имеет статус abliterated/uncensored, поэтому поведение в отношении ограничений безопасности может отличаться от исходной instruct-модели. Указана лицензия Apache-2.0.

BenevolenceMessiah/Qwen2.5-Coder-7B-Instruct-abliterated-TIES-v2.0 — объединённая языковая модель на архитектуре Qwen2, созданная методом TIES с помощью mergekit. В качестве основы использована huihui-ai/Qwen2.5-Coder-7B-Instruct-abliterated; также объединены Rombos-Coder-V2.5-Qwen-7b, CursorCore-QW2.5-7B и Hammer2.0-7b. Модель содержит 7,1 млрд параметров, работает через Transformers и принимает текст для генерации текста; заявленная длина контекста — 32 768 токенов. Модель предназначена для диалоговой генерации и задач программирования, включая создание и обсуждение кода. Метаданные также указывают поддержку интерфейса вызова инструментов, подходящего для агентных сценариев. Карточка не содержит оценок качества или перечня поддерживаемых языков. Модель опубликована в формате safetensors; лицензия в предоставленных данных не указана.

Qwen2.5-Coder-7B-Instruct-Q4_K_M-GGUF — это квантизированная версия Qwen2.5-Coder-7B-Instruct, преобразованная в формат GGUF пользователем или организацией matrixportal с помощью llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и прежде всего для задач, связанных с программированием, включая работу с кодом и чат-сценарии. В README указано, что базовая модель разработана Qwen, однако подробные сведения о её обучении и возможностях вынесены в исходную карточку модели. Модель содержит 7B параметров и использует квантизацию Q4_K_M, что уменьшает требования к памяти по сравнению с полноразмерной версией. Она распространяется в формате GGUF и рассчитана на запуск через llama.cpp, включая локальный CLI и серверный режим. В карточке указано, что заявленный язык — английский; поддержка других языков, архитектура, точный размер контекста и перечень модальностей не уточняются. Пример запуска использует контекст длиной 2048 токенов, но это не подтверждает максимальный размер контекста модели. Сильными сторонами являются специализация на коде, возможность локального запуска и совместимость с llama.cpp. Ограничения связаны с квантизацией, которая может снижать точность по сравнению с исходной моделью, а также с отсутствием в карточке подробных оценок качества и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

thirdeyeai/Qwen2.5-Coder-7B-Instruct-Uncensored — разговорная модель для генерации текста, разработанная thirdeyeai. По названию она относится к семейству Qwen2.5-Coder и предназначена для инструкционного диалога, в том числе с запросами по программированию; карточка описывает её как uncensored. Архитектура — плотная причинная языковая модель Qwen2 с классом Qwen2ForCausalLM, объёмом 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors; модель также доступна через Ollama. README не сообщает лицензию и не описывает конкретные оценки качества или ограничения. Разработчик снимает с себя ответственность за действия пользователей модели.