II.6Документация и сопровождение разработки

FreedomAISVR публикует Qwable-v1 в формате GGUF с квантизацией NVFP4. Это разговорная MoE-модель семейства Qwen, созданная для генерации текста и агентного программирования: в карточке описаны поведение Claude Fable-5 для использования инструментов и дистилляция рассуждений Claude Opus 4.7. Метаданные связывают модель с Qwen/Qwable-v1 как с дообученной базой. В README указаны 40 слоёв, 256 экспертов (8 активных на токен), около 3 млрд активных параметров и контекст 262 144 токена. Модель поддерживает зрение через SigLIP ViT; для работы с изображениями в llama.cpp нужен отдельный проектор mmproj в F16. Основной сценарий применения — диалоговая генерация и помощь с кодом; агентное использование требует соответствующего системного промпта. Весовой файл квантизирован в NVFP4, а README приводит размер около 18,81 ГБ для модели и 0,88 ГБ для проектора. Лицензия — AGPL-3.0.

Qwen1.5-110B-Chat-GGUF — это квантизированная GGUF-версия диалоговой языковой модели Qwen1.5-110B-Chat, разработанной командой Qwen при Alibaba Cloud; конкретные файлы квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и ведения диалогов, включая локальный запуск совместимых чат-приложений и сценарии, где требуется крупная языковая модель с различным балансом между качеством и потреблением памяти. Модель содержит 110 млрд параметров и работает в текстовой модальности. В метаданных указано английское языковое направление, однако сведения о полном наборе поддерживаемых языков, архитектуре, максимальном контексте и результатах специализированных тестов в README отсутствуют. Доступны варианты квантизации от Q8_0 до IQ1_S с размером файлов примерно от 118,17 до 23,63 ГБ: более высокие разрядности обычно обеспечивают лучшее качество, а низкие позволяют запускать модель при меньшем объёме RAM или VRAM, но заметно снижают качество. Сильной стороной является выбор из множества вариантов квантизации, включая рекомендуемые Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS, что позволяет адаптировать модель к доступному оборудованию. Ограничения связаны с очень большим размером даже у компактных вариантов и с неизбежной потерей качества при агрессивной квантизации; варианты IQ1 и некоторые Q2/Q3 имеют низкое или крайне низкое качество. Для работы следует использовать формат GGUF и соответствующий шаблон чата с маркерами system, user и assistant. Лицензия указана как tongyi-qianwen; подробные условия доступны по ссылке на лицензию исходной модели.

Minami-su/Qwen1.5-7B-Chat_llamafy — версия модели Qwen1.5-7B-Chat от Alibaba Cloud, адаптированная автором репозитория для совместимости с архитектурой LLaMA и загрузки через соответствующие инструменты. Это плотная авторегрессионная языковая модель на 7,1 млрд параметров с возможностью диалогового общения. Она предназначена для генерации текста и ответов в чате; в карточке приведены результаты отдельных тестов модели, загруженной в 4-битном режиме. Модель принимает текст и генерирует текст. В метаданных указаны английский и китайский языки, контекст — 4096 токенов, библиотека Transformers и формат PyTorch. Лицензия обозначена как other, поэтому конкретные условия использования следует уточнить в репозитории и у правообладателя базовой модели.

Qwen2-1.5B-Instruct-GGUF — инструкционная языковая модель из семейства Qwen2, разработанного командой Qwen. Она предназначена для диалоговых приложений, генерации и понимания текста, а также может применяться в задачах, связанных с многоязычностью, программированием, математикой и рассуждениями. Модель представлена в формате GGUF и подходит для локального запуска с помощью llama.cpp, включая развёртывание сервера с совместимым с OpenAI API интерфейсом. Модель содержит 1,5 млрд параметров и построена на архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях внимания и Group Query Attention. Токенизатор адаптирован к нескольким естественным языкам и языкам программирования. В репозитории доступны варианты fp16 и квантованные варианты q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0. Обучение включало предварительное обучение, supervised fine-tuning и direct preference optimization. К сильным сторонам относятся небольшой размер, возможность локального запуска и наличие нескольких уровней квантования с различным компромиссом между качеством и требованиями к ресурсам. Ограничения связаны с размером 1,5 млрд параметров: по сравнению с более крупными моделями она может уступать в сложных задачах понимания, генерации, кодирования и рассуждений; конкретные языки и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-0.5B-Instruct-GGUF — инструкционно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это компактная версия для генерации текста и диалоговых сценариев, включая чат-ботов, следование инструкциям, работу с кодом и математическими задачами, обработку структурированных данных и генерацию структурированных ответов, в том числе JSON. Модель является каузальной трансформерной языковой моделью с архитектурой на основе RoPE, SwiGLU и RMSNorm, с GQA: 14 головами для Q и 2 для KV. Она содержит около 0,49 млрд параметров, 24 слоя и поддерживает контекст до 32 768 токенов с генерацией до 8192 токенов. Доступна в GGUF-вариантах квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, японский и корейский; модальность — текстовая. Сильными сторонами являются малый размер, возможность локального запуска, улучшенное следование инструкциям, поддержка длинного контекста, многоязычность и работа со структурированным выводом. Ограничения связаны с компактным масштабом: по возможностям и качеству ответов модель может уступать более крупным моделям, а квантование способно снижать точность по сравнению с исходной версией. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/Qwen2.5-14B-Instruct-GGUF — это квантованные файлы модели Qwen2.5-14B-Instruct в формате GGUF. Исходную модель разработала команда Qwen, а набор GGUF-файлов подготовил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и локальных сценариях инференса. Формат GGUF поддерживается llama.cpp и совместимыми инструментами, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, candle и рядом других решений. Это позволяет запускать модель локально, в том числе с ускорением на GPU и через OpenAI-совместимые серверные интерфейсы, в зависимости от выбранного инструмента. Размер исходной модели составляет 14B параметров. В репозитории доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти, скоростью и качеством генерации. Модель относится к текстовым; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Конкретные требования к оборудованию зависят от выбранного варианта квантования. Лицензия в предоставленных данных не указана.

Hasnonname/Qwen2.5-14B-Wheatear-v0 — дообученная модель семейства Qwen2.5 на 14 млрд параметров, основанная на Qwen/Qwen2.5-14B-Instruct. Она предназначена для диалогов и генерации текста; метаданные также указывают интерфейс для вызова инструментов. Модель имеет плотную архитектуру Qwen2ForCausalLM, принимает текст и поддерживает контекст до 32 768 токенов. В репозитории README перечислены отдельные варианты квантования GGUF, но сведения о назначении дообучения, его данных и результатах не приведены. Основная модель опубликована в формате safetensors. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.

Карточка модели ArchiveStudio/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Карточка модели Davedav/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Карточка модели Itchymaroo/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Карточка модели xuanguan5525/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Это набор GGUF-квантизаций модели Qwen2.5-1.5B-Instruct, опубликованный пользователем duyntnet и основанный на модели Qwen от Alibaba Cloud. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, создание длинных текстов, работу со структурированными данными и JSON, программирование и математические задачи. Запуск поддерживается через llama.cpp, KoboldCPP, text-generation-webui и Ollama. Модель представляет собой causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Она содержит 1,54 млрд параметров, 28 слоёв, 12 attention heads для Q и 2 для KV с GQA. Заявлена длина контекста до 32 768 токенов и генерация до 8192 токенов. Поддерживается более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся небольшой размер, возможность локального запуска в формате GGUF, улучшенное следование инструкциям, работа с длинными текстами и структурированными ответами, а также многоязычность. Ограничения связаны с относительно небольшим масштабом в 1,5 млрд параметров и с тем, что README не содержит результатов бенчмарков или подробностей конкретных квантизаций. Лицензия указана как other, без уточнения условий использования, поэтому их следует проверять в исходной карточке и связанных материалах Qwen.

Phantomcloak19/qwen2.5-3b-dpo-grpo — плотная языковая модель семейства Qwen2, дообученная на базе Qwen/Qwen2.5-3B-Instruct в рамках последовательного конвейера LLMPR: после этапа SFT модель прошла DPO и Safety-GRPO, а опубликованный чекпойнт объединяет полные веса. Она предназначена для диалогов, выполнения инструкций и генерации текста. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и принимает контекст длиной до 32 768 токенов. Карточка указывает формат Safetensors и библиотеку Transformers. Базовая модель — компактная многоязычная чат-модель Qwen2.5-3B-Instruct; конкретный набор поддерживаемых языков, лицензия и отдельные показатели качества этой производной модели в предоставленных данных не раскрыты.

Firemedic15/qwen2.5-3b-ft-matched-merged — языковая модель для генерации текста, опубликованная пользователем Firemedic15 на Hugging Face. По метаданным, она работает через Transformers, имеет около 3,1 млрд параметров, поддерживает контекст до 32 768 токенов и связана с обучением методом supervised fine-tuning (SFT) с использованием TRL. Теги также указывают на разговорный сценарий применения и семейство Qwen2; название репозитория дополнительно содержит обозначение Qwen2.5 и merged-финетюнинга.

bunnycore/Qwen2.5-3B-Smart — объединённая языковая модель, созданная автором с помощью mergekit методом passthrough из bunnycore/Qwen2.5-3B-RP-Mix и bunnycore/Qwen2.5-3b-Smart-lora_model. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров; она предназначена для генерации текста и диалогового использования, включая следование инструкциям и интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, работает через Transformers и распространяется в формате safetensors; нативный контекст — 32 768 токенов. Карточка не описывает отдельные специализированные области или конкретные языки. Условия лицензии в предоставленных данных не приведены. Качество, безопасность и фактическая совместимость вызова инструментов не оценены в карточке.

Модель zetasepic/Qwen2.5-72B-Instruct-abliterated — версия Qwen2.5-72B-Instruct, обработанная методом Abliterated с использованием кода из проекта refusal_direction. Это плотная языковая модель с 71,5 млрд параметров, предназначенная для диалогов и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык и имеет контекст длиной до 32 768 токенов. Модель создана на основе Qwen/Qwen2.5-72B-Instruct. В README упоминается техника Abliterated, но не приводится её подробное описание или оценка качества. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория и базовой модели.

Это GGUF-квантизированная версия языковой модели Qwen2.5-72B-Instruct, подготовленная пользователем bartowski с использованием llama.cpp и метода imatrix. Исходную модель разработала команда Qwen; карточка указывает текстовую специализацию и поддержку английского языка. Модель предназначена для диалогов и генерации текста, включая запуск локально через llama.cpp или LM Studio, с использованием специального chat-шаблона Qwen. Модель имеет 72 млрд параметров, а репозиторий предлагает несколько вариантов квантизации GGUF — от IQ1_M и Q2 до Q8_0. Размеры файлов составляют примерно от 23,74 до 77,26 ГБ; варианты с более высокой точностью обычно требуют больше памяти, но лучше сохраняют качество исходной модели. Рекомендуемыми названы Q6_K, Q5_K_M, Q4_K_M и IQ4_XS. Для некоторых вариантов доступны раздельные файлы, а отдельные квантизации используют Q8_0 для embedding- и output-весов. Сильная сторона репозитория — широкий выбор компромиссов между качеством и требованиями к памяти, а также совместимость с распространёнными локальными инструментами. Ограничения включают значительный объём памяти, необходимый для запуска 72-миллиардной модели, и снижение качества при сильной квантизации; конкретная длина контекста в README не указана. Модель распространяется по лицензии Qwen, обозначенной как other; дополнительные условия следует уточнять в файле лицензии исходной модели.

Qwen2.5-7B-CySecButler-v0.1 — объединённая языковая модель, созданная с помощью mergekit на основе Qwen/Qwen2.5-7B и четырёх других моделей: Vapor_v2_7B, Qwen-2.5-7b-TitanFusion-v5-Exp, Qwen2.5-7B-HyperMix и WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B. Разработчик позиционирует её для задач программирования и кибербезопасности. Модель имеет архитектуру Qwen2 dense с 7,1 млрд параметров и контекстом до 131 072 токенов; работает с текстом и поддерживает диалоговый интерфейс. Карточка не приводит отдельного описания измеренных возможностей или качества для конкретных задач. Модель может использоваться для генерации кода, ответов на вопросы по кибербезопасности и диалогового взаимодействия по техническим темам. Метаданные перечисляют поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Доступна по лицензии Apache-2.0.

Это версия Qwen2.5-7B-Instruct, подготовленная сообществом mlx-community для использования в формате MLX. Модель основана на плотной авторегрессионной архитектуре Qwen2 с 7,1 млрд параметров и предназначена для генерации текста в диалоговом формате, включая ответы на запросы и работу с интерфейсом вызова инструментов. Длина контекста составляет 32 768 токенов; в метаданных указан английский язык. Модель подходит для диалоговых ассистентов, генерации и продолжения текста, а также сценариев, где приложению требуется передавать вызовы инструментов через поддерживаемый интерфейс. Репозиторий содержит веса safetensors и преобразован в формат MLX с помощью mlx-lm версии 0.18.1. Базовая модель Qwen2.5-7B дообучена в варианте Instruct; для исходной модели указана лицензия Apache-2.0.

bartowski/Qwen2.5-7B-Instruct-GGUF — это набор GGUF-квантизаций чат-модели Qwen2.5-7B-Instruct, разработанной командой Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск в LM Studio и других совместимых приложениях. Для общения используется шаблон сообщений с ролями system, user и assistant. Модель содержит около 7 миллиардов параметров, работает в текстовой модальности и, согласно README, заявлена для английского языка. В репозитории доступны варианты от F16 до низкобитных Q2–Q8-квантизаций размером примерно от 3,5 до 15,2 ГБ. Более высокие разрядности обычно обеспечивают лучшее качество, а низкие требуют меньше оперативной памяти; отдельные варианты оптимизированы для ARM-процессоров и требуют поддержки SVE или i8mm. README также сообщает об обновлении настроек длины контекста и токенизатора, но точное значение контекстного окна не указано. Сильной стороной является широкий выбор квантизаций для запуска на оборудовании с различными ограничениями по памяти, при этом варианты Q4–Q6 отмечены как рекомендуемые по соотношению качества и размера. Ограничения связаны с компромиссом между качеством и размером низкоразрядных вариантов, а также с необходимостью совместимого программного обеспечения и аппаратных инструкций для некоторых ARM-версий. Указана лицензия Apache-2.0.

akcit-motion/qwen2.5-7b-instruct-motion — языковая модель для генерации текста и диалогового взаимодействия, размещённая на Hugging Face. README модели автоматически сгенерирован и не содержит сведений о разработчике, обучающих данных, результатах оценки или лицензии. Модель содержит 7,1 млрд параметров, относится к семейству Qwen2.5 по идентификатору и предназначена для использования через библиотеку Transformers. Заявленная длина контекста составляет 32 768 токенов. Поддерживается задача text-generation; тег conversational указывает на сценарии диалоговой генерации. Модель может применяться для генерации ответов, продолжения текста и построения диалоговых интерфейсов. Из-за отсутствия подробной документации нельзя подтвердить поддерживаемые языки, качество на конкретных наборах данных, специализацию, безопасность и условия лицензирования.

bunnycore/Qwen2.5-7B-Matrix — текстовая модель, созданная слиянием нескольких предварительно обученных моделей семейства Qwen2.5 с помощью mergekit и метода Model Stock. В качестве базовой использована Qwen/Qwen2.5-7B; в слияние также вошли Qwen2.5-Math-7B и несколько вариантов Qwen2.5, настроенных для диалогов. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и формат safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на вопросы, написания и продолжения текста, а также задач, где полезны способности исходных моделей к математическим рассуждениям и инструкционному диалогу. Карточка не сообщает результаты оценок качества или конкретные рекомендации по использованию. Модель распространяется под лицензией Qwen/Qwen2.5-7B; условия использования следует сверить с лицензией базовой модели. Слияние объединяет поведение нескольких моделей, поэтому отдельные способности и качество на конкретных задачах могут отличаться от исходных моделей.

Qwen-2.5-7b-TitanFusion-v4 — объединённая языковая модель, созданная bunnycore с помощью mergekit и метода TIES на базе Qwen/Qwen2.5-7B. В объединение вошли TitanFusion-v3, rp-lora, Arch-Function-7B, Humanish-Qwen2.5-7B-Instruct и mergekit-ties-uqhfast. Модель построена на плотной архитектуре Qwen2ForCausalLM, содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Заявленная длина контекста — до 131 072 токенов. Репозиторий содержит веса в формате safetensors; метаданные указывают интерфейс для вызова инструментов. Модель подходит для диалоговых сценариев и генерации текста, а объединение с Arch-Function-7B предполагает поддержку сценариев с вызовом инструментов. Карточка не приводит результатов оценки качества или подробностей о языковом покрытии. Лицензия в предоставленных данных не указана.

ehristoforu/qwen2.5-7b-upscaled — языковая модель для генерации текста и диалогов, созданная слиянием весов через mergekit методом passthrough на основе Qwen/Qwen2.5-7B-Instruct. Она предназначена для общения, генерации текста и использования интерфейса вызова инструментов. Модель построена на плотной архитектуре Qwen2 и содержит 11,3 млрд параметров; максимальный контекст — 32 768 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. README не сообщает оценок качества или конкретных улучшений относительно базовой модели. Лицензия в доступных данных не указана.

Qwen2.5-Coder-14B-Instruct-abliterated-GGUF — это GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-14B-Instruct-abliterated. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель опубликована huihui-ai. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования, включая работу с кодом и запросами в формате инструкций. Модель содержит 14 миллиардов параметров и работает с текстовыми данными. README указывает английский язык, но сведения о полном наборе поддерживаемых языков, архитектуре и размере контекстного окна отсутствуют. Доступны варианты от F16 до Q3 и различные форматы квантизации; версии Q4_K_M, Q5, Q6 и другие позволяют выбирать компромисс между качеством, размером файла и требованиями к памяти. Файлы предназначены для запуска через llama.cpp, в частности в LM Studio. Сильной стороной является широкий выбор квантизированных вариантов: от почти исходного качества до более компактных сборок для систем с ограниченными ресурсами. Ограничения включают зависимость характеристик от выбранного типа квантизации и отсутствие в README подробных данных о производительности, контекстном окне и поддерживаемых языках. Для ARM доступны специальные варианты, часть которых требует поддержки SVE или i8mm и не предназначена для Mac или Windows. Лицензия модели указана как Apache-2.0.

Qwen2.5-Coder-32B-Instruct-8bit — это 8-битная версия модели Qwen2.5-Coder-32B-Instruct, конвертированная в формат MLX сообществом mlx-community с использованием mlx-lm 0.19.3. Исходную модель разработала команда Qwen. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате. Модель ориентирована на задачи кодирования и чат-сценарии, включая генерацию ответов на запросы пользователя с применением chat template. В README указано, что она поддерживает английский язык и относится к классу text-generation. Размер исходной модели составляет 32B параметров, а представление использует 8-битную квантизацию. Архитектура и размер контекстного окна в предоставленных данных не указаны. Ключевое преимущество этой версии — формат MLX, предназначенный для использования через mlx-lm; README содержит пример загрузки и генерации. Ограничения, точные показатели качества, перечень поддерживаемых языков помимо английского и требования к аппаратному обеспечению не приведены. Модель распространяется по лицензии Apache-2.0.

BenevolenceMessiah/Qwen2.5-Coder-7B-Instruct-abliterated-TIES-v2.0 — объединённая языковая модель на архитектуре Qwen2, созданная методом TIES с помощью mergekit. В качестве основы использована huihui-ai/Qwen2.5-Coder-7B-Instruct-abliterated; также объединены Rombos-Coder-V2.5-Qwen-7b, CursorCore-QW2.5-7B и Hammer2.0-7b. Модель содержит 7,1 млрд параметров, работает через Transformers и принимает текст для генерации текста; заявленная длина контекста — 32 768 токенов. Модель предназначена для диалоговой генерации и задач программирования, включая создание и обсуждение кода. Метаданные также указывают поддержку интерфейса вызова инструментов, подходящего для агентных сценариев. Карточка не содержит оценок качества или перечня поддерживаемых языков. Модель опубликована в формате safetensors; лицензия в предоставленных данных не указана.

Это дообученная модель Jongbin-kr на основе Jongbin-kr/qwen2.5-coder-7b-verireason-official-settings-reasoning-jongbin. Модель семейства Qwen2 с плотной архитектурой Qwen2ForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста в диалоговом формате. В карточке приведён пример генерации ответа на вопрос пользователя. Модель можно применять для диалоговых ответов и задач генерации текста; в названии и базовой модели заявлена специализация на коде и рассуждениях. Используется библиотека Transformers, веса представлены в формате safetensors, заявленная длина контекста — 32 768 токенов. Языки и лицензия в предоставленных данных не обозначены.

Theros/Qwen2.5-ColdBrew-R1-test — объединённая диалоговая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом Model Stock. В объединении использованы SvalTek/Qwen2.5-ColdBrew, bunnycore/Qwen-2.5-7B-R1-Stock и fblgit/cybertron-v4-qw7B-UNAMGS; базовой моделью и источником токенизатора указана SvalTek/Qwen2.5-ColdBrew. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, поддерживает диалоговый сценарий и имеет контекст до 131072 токенов. Она предназначена для генерации ответов и ведения текстовых диалогов. В карточке не приведены результаты сравнительных оценок качества, поэтому пригодность для конкретных задач следует проверять отдельно. Файлы представлены в формате safetensors, библиотека — Transformers; лицензия в доступных данных не указана.

Qwen2-7B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Qwen2-7B-Instruct, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях, чат-интерфейсах и других системах, поддерживающих формат GGUF и llama.cpp. В набор входят варианты с разной точностью и размером — от Q8_0 (8,09 ГБ) до IQ2_XS (2,46 ГБ). Более крупные квантизации обеспечивают более высокое качество, а компактные позволяют запускать модель при ограниченных ресурсах, но могут заметно снижать качество ответов. Исходная модель имеет около 7 миллиардов параметров; в README указана поддержка английского языка, текстовая модальность и формат text-generation. Размер контекста и точная архитектура в карточке не указаны. Сильной стороной является широкий выбор квантизаций, позволяющий подобрать баланс между качеством, скоростью и требованиями к RAM или VRAM; рекомендуемыми названы варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Ограничения включают снижение качества у низкобитных вариантов и проблему с CUDA offloading без включённого flash attention. Для работы следует использовать указанный chat-шаблон с токенами im_start и im_end. Модель распространяется по лицензии Apache-2.0.