II.2Создание и понимание программного кода

Qwen2.5-32B-Instruct-AWQ — инструкционно дообученная языковая модель из семейства Qwen, разработанная командой Qwen. Это причинная языковая модель для генерации текста, диалоговых ассистентов, следования инструкциям, написания и анализа кода, решения математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит 32,5 млрд параметров, из них 31 млрд — без учёта эмбеддингов, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-внимании и GQA с 40 головами для Q и 8 для KV. Репозиторий содержит 4-битную AWQ-квантизированную версию, что может снизить требования к памяти по сравнению с полноточной моделью. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, немецкий, испанский, японский и корейский. Полная длина контекста указана до 131 072 токенов, а генерация — до 8192 токенов; при этом текущая конфигурация рассчитана на 32 768 токенов, а для более длинных входов требуется включение YaRN. Сильными сторонами модели являются улучшенные возможности в программировании и математике, следование инструкциям, обработка длинных текстов, понимание таблиц и генерация структурированных данных. При использовании статического YaRN производительность на коротких текстах может снижаться, поэтому его рекомендуется включать только при работе с длинным контекстом. Для загрузки и развёртывания требуются совместимые версии Transformers и поддержка AWQ; в документации рекомендуется vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-32B-Instruct-GPTQ-Int4 — 4-битно квантованная GPTQ-версия инструкционно дообученной языковой модели Qwen2.5, разработанной командой Qwen. Это авторегрессионная causal language model для диалогов, генерации и преобразования текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит 32,5 млрд параметров, из которых 31 млрд относятся к неэмбеддинговым, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в attention QKV и GQA с 40 головами для Q и 8 для KV. Поддерживаются более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Заявленная длина контекста — до 131 072 токенов, а максимальная длина генерации — 8192 токена; в текущей конфигурации без дополнительной настройки доступно до 32 768 токенов, а для более длинных входов требуется YaRN. К преимуществам относятся улучшенные способности к программированию и математике, соблюдение инструкций, генерация длинных текстов, обработка таблиц и других структурированных данных, а также меньшие требования к памяти благодаря 4-битной квантованию. К ограничениям относятся возможное снижение качества по сравнению с исходной моделью в формате bfloat16 и потенциальное ухудшение производительности на коротких текстах при включении статического масштабирования YaRN. Модель распространяется по лицензии Apache-2.0 и предназначена для использования с библиотекой Transformers и совместимыми средствами инференса.

Модель RL-Forgetting-Experiments-3/qwen2.5-3b-code-sft-replay-uniform-lam1-step102 — готовый к инференсу чекпойнт для генерации кода, созданный в ходе экспериментов RL-Forgetting-Experiments-3. Это дообучение Qwen/Qwen2.5-3B методом supervised fine-tuning; модель имеет плотную архитектуру Qwen2, около 3,1 млрд параметров и принимает текст, выдавая текст. Чекпойнт обучен на данных qwen3b_code_sft_data_s300 с упорядоченной последовательностью примеров и равномерным воспроизведением данных (uniform replay, lambda 1.0). Он предназначен для генерации кода и связанных диалоговых сценариев; контекстное окно составляет 32 768 токенов. Карточка не сообщает о специальной лицензии, поэтому условия использования следует сверять с лицензией базовой модели и репозитория.

Это инструкционно настроенная плотная языковая модель Qwen2.5-72B, представленная в репозитории Unsloth и основанная на Qwen/Qwen2.5-72B-Instruct. Она предназначена для диалогов, генерации текстов и структурированных ответов, следования инструкциям, программирования и математических задач. Модель построена на архитектуре Qwen2 с причинным языковым моделированием; в метаданных указано 71,5 млрд параметров и контекст до 32 768 токенов. README описывает архитектуру с RoPE, SwiGLU, RMSNorm и смещениями в QKV-слоях, а также расширение контекста до 131 072 токенов с YaRN при дополнительной настройке. Модель поддерживает многоязычные сценарии, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Метаданные указывают поддержку чата и интерфейс вызова инструментов. Репозиторий содержит веса safetensors для Transformers; README рекомендует актуальную версию Transformers, а для развёртывания — vLLM. Лицензия указана как other, поэтому конкретные условия следует проверять в карточке модели. Для обработки контекста свыше 32 768 токенов требуется настройка YaRN; постоянный коэффициент масштабирования в vLLM может ухудшить работу на коротких текстах.

Qwen2.5-72B-Instruct-GGUF — большая инструкционная языковая модель из серии Qwen2.5, разработанная командой Qwen. Репозиторий содержит 72-миллиардную версию модели Qwen2.5-72B-Instruct в формате GGUF, предназначенном для локального запуска, в том числе с использованием llama.cpp. Модель относится к авторегрессионным causal language models и предназначена для диалоговых систем, генерации и продолжения текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Поддерживается более 29 языков, среди которых английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель рассчитана на текстовую модальность. Архитектура включает transformers, RoPE, SwiGLU, RMSNorm и bias в Attention QKV; модель содержит 72,7 млрд параметров, из них 70 млрд без учёта embedding, 80 слоёв и механизм GQA с 64 головами для Q и 8 для KV. Для GGUF указана длина контекста 32 768 токенов и генерация до 8192 токенов. Поддерживаются варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Преимуществами являются улучшенные возможности в программировании и математике, следование инструкциям, генерация длинных текстов и устойчивость к разнообразным системным промптам. Ограничение GGUF-версии — отсутствие штатной поддержки контекста до 131 072 токенов; для такого расширения README рекомендует использовать неквантизованные модели и отмечает поддержку YARN только в vLLM. Модель распространяется по лицензии Qwen, обозначенной как other; точные условия приведены в файле лицензии репозитория.

Qwen2.5-72B-Instruct-GPTQ-Int4 — инструкционно дообученная большая языковая модель семейства Qwen2.5, разработанная командой Qwen при Alibaba Cloud. Это каузальная текстовая модель для диалогов, генерации текста, следования инструкциям, работы с кодом и математическими задачами, понимания таблиц и других структурированных данных, а также формирования структурированных ответов, включая JSON. Модель поддерживает более 29 языков, среди которых английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. Модель содержит 72,7 млрд параметров, из которых 70,0 млрд приходятся на неэмбеддинговую часть, и включает 80 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV attention; применяется GQA с 64 головами для Q и 8 для KV. Это GPTQ-квантизированная версия с точностью 4 бита, предназначенная для более экономичного развёртывания по сравнению с полноразмерной моделью. Заявлена длина контекста до 131 072 токенов и генерация до 8192 токенов, однако текущая конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN. Сильные стороны модели — развитые возможности в кодировании и математике, улучшенное следование инструкциям, генерация длинных текстов, устойчивость к разнообразным системным промптам и работа со структурированными данными. Ограничения включают высокие требования к вычислительным ресурсам из-за размера модели, возможное снижение качества из-за 4-битного квантования и потенциальное ухудшение производительности на коротких текстах при статическом масштабировании YaRN. Модель распространяется по лицензии Qwen; точные условия определяются файлом лицензии в репозитории.

Карточка модели Gensyn/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой unsloth/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. unsloth/Qwen2.5-7B-Instruct — инструктивная языковая модель семейства Qwen2.5, опубликованная Unsloth как производная от Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель с 7,1 млрд параметров; карточка указывает архитектуру Qwen2 и поддержку Transformers, а README описывает 28 слоёв, RoPE, SwiGLU, RMSNorm и механизм группового внимания GQA. Метаданные указывают контекст 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Она подходит для ответов на вопросы, написания и анализа кода, математических задач, создания длинных текстов и выдачи структурированных ответов, включая JSON. Поддерживает английский, русский, китайский и ряд других языков; заявлена поддержка более 29 языков. Метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. README описывает возможность работы с более длинным контекстом через YaRN, но отмечает, что статическое масштабирование может ухудшить качество или производительность на коротких запросах. Модель выпущена под лицензией Apache-2.0.

Etherll/Qwen2.5-CodeFIM-1.5B-v2 — дообученная модель семейства Qwen2 для генерации кода в режиме Fill-in-the-Middle (FIM): она дополняет пропущенный фрагмент, учитывая код до и после него. Модель содержит 1,5 млрд параметров, построена на архитектуре Qwen2ForCausalLM и принимает текстовый контекст длиной до 32 768 токенов. Модель предназначена для автодополнения и редактирования кода, в том числе в редакторе Continue. Для запроса используется шаблон с именем файла, префиксом и суффиксом кода. В карточке указан датасет Etherll/code-fim-v2. Лицензия в предоставленных данных не указана.

win10/Qwen2.5-Coder-12.3b-Instruct — объединённая инструкционная языковая модель на архитектуре Qwen2, созданная методом passthrough с помощью mergekit на основе Qwen/Qwen2.5-Coder-7B-Instruct. Репозиторий содержит веса в формате safetensors; метаданные указывают 11,7 млрд параметров и контекст длиной до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и ориентирована на задачи программирования: написание, анализ и исправление кода. Поддерживает интерфейс вызова инструментов. В карточке указана лицензия Apache-2.0. Ограничения качества и перечень поддерживаемых языков программирования в предоставленных данных не описаны.

Qwen2.5-Coder-14B-GGUF — набор GGUF-квантизаций модели Qwen2.5-Coder-14B, разработанной Qwen и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации и работы с исходным кодом, включая локальные сценарии программирования и текстовой генерации. В README указан английский язык, однако подробные сведения о языковом покрытии отсутствуют. Это текстовая autoregressive-модель на 14 млрд параметров, представленная в форматах от F16 до различных вариантов 2–8-битной квантизации. Размер файлов составляет примерно от 6,38 до 29,55 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а варианты с меньшим размером подходят для систем с ограниченной оперативной памятью; для большинства сценариев автор рекомендует варианты Q4_K_M, Q5 и Q6. Поддерживается запуск через llama.cpp и LM Studio. Формат prompt использует шаблон с маркерами ролей system, user и assistant. К сильным сторонам относятся специализация на коде, широкий выбор квантизаций и возможность локального запуска. Ограничения связаны с компромиссом между размером и качеством: низкоразрядные варианты дают более низкое качество, а некоторые ARM-оптимизированные файлы требуют поддержки sve или i8mm и не рекомендуются для Mac и Windows. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen2.5-Coder-14B-Instruct-4bit — это 4-битная версия языковой модели Qwen2.5-Coder-14B-Instruct, разработанной Qwen и преобразованной сообществом mlx-community в формат MLX с помощью mlx-lm 0.19.3. Модель предназначена для генерации текста и работы в диалоговом режиме. Основная специализация модели — задачи, связанные с программным кодом: написание, продолжение и обсуждение кода, а также взаимодействие с пользователем в формате инструкций и ответов. Модель содержит 14 миллиардов параметров и использует 4-битное квантование, что снижает требования к памяти по сравнению с полноразмерной версией. Формат MLX ориентирован на запуск с библиотекой mlx-lm. В метаданных указан английский язык. README не содержит сведений о длине контекста, поддерживаемых модальностях, результатах тестирования и конкретных ограничениях качества, поэтому эти характеристики нельзя определить по представленным данным. Модель распространяется по лицензии Apache 2.0.

Qwen2.5-Coder-14B-Instruct-bnb-4bit — 4-битная квантизированная версия инструкционной языковой модели Qwen2.5-Coder-14B-Instruct, разработанной командой Qwen. Модель предназначена для генерации, анализа и исправления программного кода, задач кодового рассуждения, текстово-кодового взаимодействия и создания приложений на основе code agents. Она также сохраняет возможности для математических и общих языковых задач. Модель относится к causal language models и использует архитектуру Qwen2.5-Coder с RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. В названии указано 14 млрд параметров и 4-битное представление bnb, однако README не приводит подробные характеристики именно этой версии, включая точную длину контекста, число слоёв, модальности и список поддерживаемых языков. Указан английский язык. К сильным сторонам относятся специализация на программировании, улучшения в генерации, рассуждении и исправлении кода, а также сниженные требования к памяти благодаря квантизации. Ограничения и результаты конкретной версии в README подробно не описаны. Модель распространяется по лицензии Apache-2.0. Для работы рекомендуется использовать актуальную версию библиотеки transformers; версии ниже 4.37.0 могут вызывать ошибку, связанную с архитектурой qwen2.

Qwen2.5-Coder-14B-Instruct-GGUF — GGUF-квантизированные варианты инструкционной модели Qwen2.5-Coder-14B-Instruct, разработанной Qwen и опубликованной в формате квантований пользователем bartowski. Модель предназначена прежде всего для генерации, понимания и редактирования программного кода, а также для диалогового взаимодействия с инструкциями. Указан английский язык; поддержка других языков и мультимодальность в README не описаны. Базовая модель имеет размер 14B параметров, а опубликованные варианты используют форматы F16 и различные методы квантования llama.cpp: от Q8_0 и Q6 до Q3 и IQ-вариантов. Размер файлов составляет примерно от 7,34 до 29,55 ГБ. Квантования с более высокой точностью обеспечивают лучшее сохранение качества, а компактные варианты требуют меньше памяти, но могут заметно уступать в качестве. README не содержит сведений о размере контекстного окна и архитектурных деталях базовой модели. Модель подходит для локального запуска, в том числе через LM Studio и совместимые инструменты на базе llama.cpp. Для работы рекомендуется использовать шаблон сообщений Qwen с ролями system, user и assistant. Лицензия базовой модели — Apache 2.0; отдельные условия для квантованных файлов в README не указаны.

Qwen2.5-Coder-14B-Instruct-MLX-8bit — 8-битная MLX-квантизация модели Qwen2.5-Coder-14B-Instruct, разработанной Qwen. Квантизацию предоставил bartowski на основе инструментов mlx-examples; модель распространяется в рамках программы Community Models LM Studio, но LM Studio не является её создателем или владельцем. Модель предназначена для генерации и обработки текста и программного кода, прежде всего для сценариев с code agents. Она обучалась на объёме до 5,5 триллиона токенов, включая исходный код, текстово-кодовые связи и синтетические данные. Заявлена поддержка длинного контекста до 128K токенов с масштабированием RoPE через YaRN с коэффициентом 4,0. Указан английский язык; README также отмечает совместимость с компьютерами Mac на Apple Silicon. Ключевые сильные стороны модели — специализация на задачах программирования, поддержка длинного контекста и локальный запуск через MLX на совместимых устройствах. Ограничения включают зависимость от Apple Silicon для заявленной совместимости, а также возможные неточные, вредные или неподходящие ответы, характерные для генеративных моделей; конкретные результаты зависят от сценария использования. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-1.5B-Instruct-GGUF — инструкционно дообученная языковая модель для работы с программным кодом из серии Qwen2.5-Coder, разработанной командой Qwen. Модель предназначена для генерации, анализа, рассуждений и исправления кода, а также для использования в чат-ботах и кодовых агентах. Она сохраняет базовые способности Qwen2.5 в математике и общих задачах. Модель представляет собой каузальную языковую модель в формате GGUF с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в QKV-внимании и связанными эмбеддингами слов. Она содержит 1,54 млрд параметров, из которых 1,31 млрд не относятся к эмбеддингам, 28 слоёв и механизм GQA с 12 головами для Q и 2 для KV. Заявленная длина контекста — 32 768 токенов. Поддерживаются варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. В метаданных указан английский язык; мультимодальность не заявлена. К сильным сторонам относятся специализация на генерации, понимании и исправлении кода, компактный размер и наличие нескольких вариантов квантования для запуска с разными требованиями к памяти. Ограничения включают меньший масштаб по сравнению со старшими моделями серии и отсутствие заявленной поддержки контекста до 131 072 токенов в GGUF-версии; для такого расширения README рекомендует не-GGUF-модели и указывает поддержку YARN для этой задачи в vLLM. Модель распространяется по лицензии Apache-2.0.

bartowski/Qwen2.5-Coder-32B-GGUF — это набор квантизованных версий модели Qwen2.5-Coder-32B, разработанной командой Qwen. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации и обработки программного кода, включая локальный запуск через llama.cpp и LM Studio. Модель содержит около 32 млрд параметров и распространяется в формате GGUF с различными уровнями квантизации от Q8_0 до более компактных вариантов Q2_K_L. Доступны версии размером примерно от 13 до 35 ГБ; варианты Q5 и Q6 обеспечивают очень высокое качество, а Q4_K_M предлагается как сбалансированный вариант для большинства сценариев. README указывает английский язык, текстовую модальность и формат prompt-шаблона для диалоговой генерации, но размер контекста и полный набор поддерживаемых языков не указаны. Сильной стороной является широкий выбор квантизаций, позволяющий подобрать компромисс между качеством, размером файла и требованиями к памяти. Некоторые варианты оптимизированы для ARM-инференса, однако требуют соответствующих аппаратных инструкций; отдельные ARM-варианты не рекомендуются для Mac и Windows. Низкобитные версии экономят память, но обладают более низким качеством, а Q4_0 отмечен как устаревший формат. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-Coder-32B-Instruct-bnb-4bit — 4-битная версия модели Qwen2.5-Coder-32B-Instruct, разработанной командой Qwen и подготовленной с использованием Unsloth. Это каузальная языковая модель, ориентированная прежде всего на работу с программным кодом. Модель предназначена для генерации, анализа и исправления кода, решения задач программирования, кодового рассуждения и создания приложений с использованием code agents. Она также сохраняет возможности базовой серии Qwen2.5 в математике и общих текстовых задачах. В README заявлена поддержка английского языка. Суффикс bnb-4bit указывает на 4-битное квантованное представление, рассчитанное на более экономичное использование памяти. Заявлено 32 миллиарда параметров, однако приведённые в README подробности об архитектуре, числе слоёв и контекстном окне относятся к другой конфигурации Qwen2.5-Coder объёмом 0,5 миллиарда параметров и не подтверждают характеристики именно этой версии. Поэтому точные параметры архитектуры и размер контекста данной сборки следует уточнять отдельно. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-32B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной модели Qwen2.5-Coder-32B-Instruct. Исходную модель разработала команда Qwen, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации, анализа и обработки программного кода, а также для диалогового взаимодействия с применением формата системных и пользовательских сообщений. Доступны варианты с разными уровнями квантизации — от Q8_0 до Q3 и IQ-серий — размером примерно от 14,8 до 34,8 ГБ. Более качественные варианты требуют больше памяти, а компактные позволяют экономить ресурсы с некоторым снижением качества. Формат GGUF поддерживает локальный запуск через совместимые инструменты, включая llama.cpp и LM Studio. В README явно указан английский язык; сведения о других языках, архитектуре, размере контекста и мультимодальности отсутствуют. Некоторые варианты оптимизированы для ARM и требуют соответствующей аппаратной поддержки, поэтому совместимость следует проверять отдельно. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-32B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели Qwen2.5-Coder-32B-Instruct, разработанной Qwen и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и работы с программным кодом, включая сценарии чат-взаимодействия и задачи, где требуется понимание или создание кода. В README указан английский язык, а для общения используется шаблон ChatML. Модель имеет размер 32 млрд параметров и поддерживает контекст до 128 000 токенов при запуске через LlamaEdge. Доступны варианты с разной степенью квантизации — от Q2_K до Q8_0, а также F16; размер файлов составляет примерно от 12,3 до 34,8 ГБ, причём варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые благодаря балансу между качеством и размером. Более сильная квантизация уменьшает требования к ресурсам, но может заметно снижать качество. Модель подходит для локального развёртывания и использования через LlamaEdge версии 0.14.14 или новее, включая запуск как сервиса или командного приложения. README не указывает мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Распространение осуществляется по лицензии Apache 2.0.

Qwen2.5-Coder-32B-Instruct-MLX-4bit — 4-битная MLX-квантизация модели Qwen2.5-Coder-32B-Instruct, разработанной командой Qwen. Квантизацию предоставил bartowski на основе инструментов mlx-examples; модель распространяется в рамках сообщества LM Studio и предназначена для работы на Mac с Apple Silicon. Модель ориентирована на генерацию и обработку кода, чат-взаимодействие и сценарии с code agents. Она обучалась на объёме до 5,5 триллиона токенов, включая исходный код, текстово-кодовые соответствия и синтетические данные. Поддерживается длинный контекст до 128K токенов с масштабированием RoPE через YaRN с коэффициентом 4,0. В метаданных указан английский язык. Формат MLX 4-bit снижает требования к памяти по сравнению с полноразмерной версией, однако квантизация может влиять на качество и точность результатов; модель также способна генерировать неточный, вредный или неподходящий контент. Лицензия — Apache-2.0.

Qwen2.5-Coder-32B-Instruct-MLX-8bit — это 8-битная MLX-квантизация инструкционной модели Qwen2.5-Coder-32B-Instruct, разработанной Qwen. Квантизацию подготовил bartowski на основе инструментов mlx-examples; модель распространяется в рамках программы Community Models для LM Studio и предназначена для запуска на компьютерах Mac с Apple Silicon. Модель ориентирована на генерацию и анализ исходного кода, работу с текстом и кодом, диалоговые сценарии и использование в code agents. В README указана поддержка длинного контекста до 128K токенов с масштабированием RoPE через YaRN с коэффициентом 4.0. Объём исходной модели составляет 32B параметров, а обучение проводилось максимум на 5,5 триллиона токенов, включая исходный код, текстово-кодовые соответствия и синтетические данные. Заявленный язык — английский. К сильным сторонам относятся специализация на программировании, поддержка длинного контекста и возможность локального запуска на совместимых Mac благодаря MLX-квантизации. Ограничения включают зависимость от Apple Silicon и потенциальные ошибки, неточности или небезопасные ответы, характерные для генеративных моделей. В README также указано, что модель предоставляется третьими сторонами, а LM Studio не гарантирует её точность, надёжность или соответствие требованиям пользователя. Лицензия модели — Apache-2.0.

drawais/Qwen2.5-Coder-32B-Instruct-NVFP4 — квантизированная версия Qwen2.5-Coder-32B-Instruct, разработанная на основе модели Qwen/Qwen2.5-Coder-32B-Instruct. Модель предназначена для генерации текста и задач, связанных с программированием, включая работу с кодом и использование в сценариях, поддерживаемых библиотекой Transformers и сервером инференса vLLM. Модель использует INT4-квантизацию весов в формате NVFP4 W4A4 и поддерживает нативный compressed-tensors в vLLM. Размер базовой модели составляет 32B параметров, объём артефакта на диске — примерно 20,7 ГБ; для работы требуется GPU с дополнительным запасом видеопамяти под KV-кэш. Указан английский язык, максимальная длина контекста в примере запуска через vLLM — 32 768 токенов. Ключевое преимущество модели — существенно уменьшенный объём хранения и потенциально более экономичный инференс по сравнению с полноразмерной версией благодаря 4-битной квантизации. Ограничения связаны с поддержкой только английского языка в заявленных данных, зависимостью от совместимой конфигурации vLLM и возможными потерями качества, характерными для квантизированных моделей. Артефакт является производной работой Qwen/Qwen2.5-Coder-32B-Instruct и распространяется по лицензии Apache License 2.0 с обязательной атрибуцией.

CISCai/Qwen2.5-Coder-32B-Instruct-SOTA-GGUF — это квантизированная версия Qwen2.5-Coder-32B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и кода в диалоговом формате, включая написание, дополнение и исправление программ. Она поддерживает сценарий Fill-in-the-Middle и использует шаблон запросов ChatML. Модель основана на архитектуре Qwen2 и содержит 32 млрд параметров. Поставляется в формате GGUFv3 с вариантами квантизации от 1 до 4 бит, включая IQ1_S, IQ1_M, IQ2, IQ3 и IQ4 с importance matrix. Размер файлов составляет примерно от 6,8 ГБ, а требуемый объём оперативной памяти — от 7,8 ГБ, в зависимости от варианта. Базовая длина контекста составляет 32 768 токенов; для отдельных файлов доступны варианты с YaRN и контекстом до 131 072 токенов. Основные преимущества — возможность локального запуска через llama.cpp и совместимые интерфейсы, а также снижение требований к памяти благодаря квантизации. При этом наиболее компактные варианты сопровождаются существенной или высокой потерей качества, поэтому выбор файла требует компромисса между размером и точностью. В README язык указан как английский; сведения о поддержке других языков отсутствуют. Файлы совместимы с llama.cpp начиная с версии от 27 февраля 2024 года. Модель распространяется по лицензии Apache-2.0.

Карточка модели FiREDragoN35769/Qwen2.5-Coder-3B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-3B, поэтому описание составлено по ней. Qwen2.5-Coder-3B — базовая кодовая языковая модель, разработанная командой Qwen. Это предварительно обученная причинная трансформерная модель семейства Qwen2 с 3,09 млрд параметров, предназначенная для генерации и анализа кода, рассуждений о коде и исправления ошибок. Она также сохраняет общие языковые и математические способности базовой Qwen2.5. Модель обучалась на корпусе из исходного кода, текстово-кодовых данных и синтетических данных. Архитектура использует RoPE, SwiGLU, RMSNorm, смещение в проекциях QKV и связанные эмбеддинги слов; в ней 36 слоёв, 16 голов Q и 2 головы KV. Контекст составляет 32 768 токенов. Модель предназначена для задач продолжения кода и заполнения пропусков в коде; авторы не рекомендуют использовать базовую версию для диалогов без дополнительного постобучения. Для работы с Transformers требуется версия 4.37.0 или новее. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

unsloth/Qwen2.5-Coder-3B — дообученная Unsloth версия базовой модели Qwen/Qwen2.5-Coder-3B, предназначенная для генерации кода и работы с ним. Это плотная причинно-языковая модель семейства Qwen2 с 3,1 млрд параметров; она использует библиотеку Transformers и распространяется в формате Safetensors. Контекст составляет до 32 768 токенов. Модель подходит для генерации кода по текстовому запросу, анализа и исправления кода, а также для задач заполнения фрагментов кода. Семейство Qwen2.5-Coder обучалось на коде и тексто-кодовых данных и сохраняет общие способности Qwen2.5, включая математику. Карточка репозитория содержит противоречивые сведения о размере и варианте: описание модели относится к 3B, а README также содержит общий текст и характеристики версии 0.5B; поэтому характеристики конкретно этой версии опираются на метаданные. Поддерживаемый язык в метаданных карточки — английский. Лицензия Apache-2.0 разрешает использование на её условиях. Базовые языковые модели не предназначены для диалогового применения без дополнительного постобучения; качество конкретной версии зависит от задачи и не гарантируется приведёнными в README общими заявлениями семейства.

duyntnet/Qwen2.5-Coder-3B-Instruct-imatrix-GGUF — набор imatrix-квантизированных версий инструкционно дообученной языковой модели Qwen2.5-Coder-3B-Instruct, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для генерации, анализа и исправления программного кода, а также для создания code agents и решения задач, связанных с математикой и общими текстовыми сценариями. Она работает как causal language model и поддерживает запуск через llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и другие совместимые интерфейсы. Исходная модель содержит 3,09 млрд параметров, 36 слоёв и поддерживает контекст до 32 768 токенов. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-проекциях внимания, связанные эмбеддинги слов и grouped-query attention: 16 голов для Q и 2 для KV. В карточке указана английская локализация; заявленная модальность — текст, формат репозитория — GGUF. Обучение включало предварительное и последующее дообучение на данных с исходным кодом, связями между текстом и кодом и синтетическими примерами. К сильным сторонам относятся специализация на программировании, генерации, рассуждении и исправлении кода, а также возможность локального запуска благодаря GGUF-квантизации. Ограничения включают отсутствие заявленной поддержки других модальностей и языков, кроме английского, а качество и требования к ресурсам зависят от выбранного варианта квантизации. Лицензия указана как other, без подробных условий в README.

BenevolenceMessiah/Qwen2.5-Coder-7B-3x-Instruct-TIES-v1.1 — объединённая модель на основе Qwen2.5-Coder-7B, созданная методом TIES с помощью mergekit. В состав объединения входят Etherll/Qwen2.5-Coder-7B-Instruct-Ties, huihui-ai/Qwen2.5-Coder-7B-Instruct-abliterated и MadeAgents/Hammer2.0-7b. Это плотная причинная языковая модель архитектуры Qwen2 с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Модель предназначена для генерации, анализа и исправления программного кода, а также для диалоговых сценариев и вызова инструментов через соответствующий интерфейс. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Карточка не сообщает отдельный перечень поддерживаемых естественных языков или лицензию, поэтому языковую специализацию и условия использования по доступным сведениям определить нельзя.

Qwen2.5-Coder-7B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-Coder, разработанной командой Qwen и опубликованной в репозитории Unsloth. Модель предназначена прежде всего для работы с исходным кодом: генерации, рассуждений по коду, исправления ошибок, задач code completion и создания основы для code agents. Она также сохраняет способности к математике и общим текстовым задачам. Модель является авторегрессионной causal language model на 7,61 млрд параметров, из которых 6,53 млрд не относятся к эмбеддингам. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV-проекциях; предусмотрены 28 слоёв и Grouped Query Attention с 28 головами Q и 4 головами KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов, а для более длинных входов требуется настройка YaRN. Указанный язык — английский. Сильными сторонами модели являются специализация на программировании, улучшенные возможности генерации, анализа и исправления кода, большой контекст и сниженные требования к памяти благодаря 4-битному представлению. Это базовая, а не instruction-tuned модель, поэтому её не рекомендуют использовать непосредственно для диалогов без дополнительного обучения или постобработки. Для запуска рекомендуется актуальная версия transformers и, при необходимости, vLLM; статическое масштабирование YaRN может снижать качество или производительность на коротких текстах. Лицензия — Apache 2.0.

duyntnet/Qwen2.5-Coder-7B-imatrix-GGUF — репозиторий с imatrix-квантизациями базовой языковой модели Qwen2.5-Coder-7B, разработанной командой Qwen. Модель предназначена прежде всего для генерации, анализа и исправления программного кода, задач code reasoning, text-code grounding, заполнения пропусков в коде и создания основы для code agents. Базовая модель не рекомендуется для обычного диалогового использования без дополнительного дообучения или постобработки. Это каузальная текстовая модель на архитектуре Transformers с RoPE, SwiGLU, RMSNorm и bias в QKV-проекциях внимания. Она содержит 7,61 млрд параметров, 28 слоёв и использует Grouped-Query Attention: 28 голов для Q и 4 для KV. Заявлена поддержка контекста до 131 072 токенов, при этом для обработки входов длиннее 32 768 токенов требуется настройка YaRN. Модель обучалась на 5,5 трлн токенов, включая исходный код, текстово-кодовые данные и синтетические данные; также сохраняет возможности в математике и общих задачах. В README явно указан только английский язык. Репозиторий поддерживает использование через llama.cpp, KoboldCPP, text-generation-webui и Ollama. Лицензия обозначена как other, без дополнительных условий в представленном README, поэтому точные права и ограничения использования требуют проверки исходной лицензии Qwen2.5-Coder.

Orion-zhen/Qwen2.5-Coder-7B-Instruct-AWQ — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-Coder-7B, разработанной командой Qwen. Это каузальная текстовая модель для генерации, анализа, исправления и рассуждений о программном коде, а также для задач кодовых агентов и общих математических и текстовых сценариев. Модель обучалась с использованием корпуса alvarobartt/openhermes-preferences-coding; для калибровки AWQ применялся этот же датасет. Модель содержит 7,61 млрд параметров, из которых 6,53 млрд не относятся к embedding, и включает 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в attention QKV; применяется GQA с 28 головами для Q и 4 для KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов, а для более длинных входов требуется включение YaRN. Основные заявленные языки — английский и китайский. Модель работает в режиме text generation и поддерживается Transformers. Сильные стороны — специализация на программировании, улучшенные генерация, исправление и понимание кода, большой контекст и сниженные требования к памяти благодаря AWQ-квантизации. При использовании YaRN на коротких текстах возможное падение производительности связано со статическим коэффициентом масштабирования. README не содержит отдельных результатов тестирования именно этой AWQ-версии, поэтому её фактическую точность и скорость следует проверять отдельно. Модель распространяется по лицензии Apache-2.0.