II.2Создание и понимание программного кода

Phi-3-Medium-128K-Instruct — языковая модель Microsoft из семейства Phi-3 с плотной архитектурой Phi3ForCausalLM и 13,8 млрд параметров. Это версия с настройкой для следования инструкциям и диалогового формата; постобучение включало supervised fine-tuning и direct preference optimization. Модель предназначена для генерации текста, ответов на вопросы и задач, требующих рассуждений, в частности программирования, математики и логики. Вариант рассчитан на контекст до 128 тысяч токенов согласно карточке модели. Он ориентирован прежде всего на английский язык; карточка также отмечает многоязычность, но качество на языках помимо английского может быть ниже. Модель поддерживает сценарии генерации кода, однако её обучающие данные для кода в основном охватывают Python и распространённые библиотеки. Модель может генерировать недостоверные ответы, воспроизводить стереотипы и выдавать оскорбительный или неподходящий контент даже после настройки безопасности. Результаты, особенно код и ответы для чувствительных областей, следует проверять. Лицензия — MIT.

hermes42/Phi-3-medium-128k-instruct-imatrix-GGUF — это набор GGUF-квантизированных версий модели Phi-3-Medium-128K-Instruct, опубликованный пользователем или организацией hermes42. Исходная модель разработана Microsoft и содержит около 14 миллиардов параметров. Для квантования использована библиотека llama.cpp, а importance matrix рассчитана на наборе group_10_merged.txt для улучшения perplexity. Модель предназначена для генерации текста и работы в формате инструкций: ответов на вопросы, рассуждений, задач по математике, программированию, логике и обработки длинного контекста. Поддерживаемый контекст исходной модели составляет до 128 тысяч токенов. В метаданных указана многоязычность, однако основное назначение и оценивание описаны прежде всего для английского языка. Формат GGUF удобен для локального запуска и сценариев с ограниченными ресурсами, а квантизация может снизить требования к памяти и задержку по сравнению с полноразмерной моделью. К сильным сторонам относятся большой контекст, ориентация на рассуждения, код и математику, а также оптимизация квантов с помощью importance matrix. Ограничения включают возможное снижение точности из-за квантизации, типичные для языковых моделей ошибки и необходимость самостоятельно проверять корректность, безопасность и справедливость результатов, особенно в высокорисковых применениях. Модель выпущена по лицензии MIT.

Это конвертированная в ONNX модель Phi-3 Medium-128K-Instruct, подготовленная Microsoft для ускоренного инференса через ONNX Runtime на видеокартах NVIDIA с CUDA. В основе — плотная авторегрессионная архитектура Phi-3 с 13,8 млрд параметров; исходная модель обучена на синтетических данных и отфильтрованных общедоступных веб-данных, а затем прошла дообучение с учителем и оптимизацию предпочтений DPO для следования инструкциям и мер безопасности. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, рассуждения, математические задачи и код. Карточка исходной модели описывает варианты контекста 4K и 128K токенов, однако метаданные этого репозитория указывают native_context_tokens=4096, поэтому для данной версии подтверждён контекст до 4096 токенов. Репозиторий содержит варианты FP16 и INT4; INT4 использует квантизацию RTN. В README приведены замеры скорости на NVIDIA A100 и указано требование CUDA GPU с Compute Capability не ниже 7.0. Модель разработана Microsoft и распространяется по лицензии MIT. Это конверсия исходных весов для ONNX Runtime, а не самостоятельное дообучение; использование CUDA-варианта требует совместимой NVIDIA GPU, а характеристики и скорость зависят от конфигурации инференса.

Microsoft Phi-3 Medium-4K-Instruct в этом репозитории представлен в формате ONNX и оптимизирован для инференса через ONNX Runtime на NVIDIA GPU с CUDA. Это конверсия инструкционной модели семейства Phi-3 с плотной архитектурой Phi3ForCausalLM и примерно 13,8 млрд параметров; исходная модель прошла дообучение с учителем и оптимизацию по предпочтениям для следования инструкциям и повышения безопасности. Модель принимает текст и генерирует текстовые ответы в диалоговом формате; поддерживает контекст до 4096 токенов. В README описаны варианты FP16 и INT4, причём INT4 получен квантованием RTN; метаданные указывают формат ONNX. Модель подходит для диалоговых ассистентов, ответов на вопросы, рассуждений, математики и генерации кода. README сообщает о тестировании на NVIDIA A100 и минимальном требовании CUDA GPU с Compute Capability 7.0 или выше; приведённые замеры производительности относятся к A100 и не гарантируют таких же результатов на другом оборудовании. Лицензия — MIT.

microsoft/phi-4-gguf — GGUF-версия модели phi-4, разработанной Microsoft Research. Это открытая языковая модель для генерации текста, ориентированная преимущественно на английский язык. Она предназначена для исследовательских задач, создания генеративных функций и универсальных AI-систем, особенно в средах с ограниченными ресурсами и требованиями к низкой задержке, а также для задач рассуждения, логики, математики, программирования, диалогового взаимодействия и следования инструкциям. Модель построена как плотный decoder-only Transformer с 14 млрд параметров и поддерживает текстовые входы и выходы. Контекстное окно составляет 16K токенов; рекомендуемый формат взаимодействия — chat-промпты. Обучение проводилось на 9,8 трлн токенов в период с октября по ноябрь 2024 года, а выпуск состоялся 12 декабря 2024 года. Данные включали синтетические учебные материалы, отфильтрованные общедоступные документы, код, академические книги, наборы вопросов и ответов и данные для supervised fine-tuning и direct preference optimization. Мультиязычные данные составляли около 8% корпуса, поэтому основной акцент сделан на английском языке. К сильным сторонам относятся компактный для своих возможностей размер, ориентация на рассуждение и логические задачи, а также дополнительное выравнивание для соблюдения инструкций и повышения безопасности. Ограничения включают статичность модели и отсечение общедоступных данных июнем 2024 года, преимущественную ориентацию на английский язык и необходимость самостоятельной проверки точности, безопасности, справедливости и соответствия требованиям законодательства в конкретных сценариях, особенно в высокорисковых областях. Модель распространяется по лицензии MIT.

Pink Elephant 48B — языковая модель с архитектурой Mixture-of-Experts от Pink Elephant Limited, дообученная на инструкциях по программированию и математическим рассуждениям. В карточке указаны 47,7 млрд параметров общей ёмкости и около 14,7 млрд активных на токен; метаданные Hugging Face указывают 8,6 млрд параметров. Модель использует восемь экспертов на слой и маршрутизацию к двум из них для каждого токена. Контекст — 16 384 токена. Модель предназначена для генерации кода, следования инструкциям по разработке ПО и решения математических задач с пошаговыми рассуждениями. Это объединённая версия с уже встроенными адаптерами экспертов и обученным маршрутизатором; для инференса не требуется отдельно подключать адаптеры. Поддерживаются текстовый ввод и генерация текста, заявлен английский язык. Модель основана на MoE-базе Pink Elephant 48B, созданной путём расширения плотной модели Pink Elephant 14B. Обучение включало около 100 тысяч примеров по коду и математике. По заявлению карточки, специализация на этих задачах ограничивает широту общих знаний; длинные агентные сценарии могут требовать дополнительного обучения использованию инструментов. Результаты следует проверять перед применением в регулируемых и критически важных областях. Лицензия — MIT.

Pink Elephant 48B-S — разреженная языковая модель с архитектурой Mixture-of-Experts, разработанная Pink Elephant. В ней 47,7 млрд параметров, из которых на каждом токене активны около 14,66 млрд; используются 8 экспертов с маршрутизацией top-2. Модель создана на основе Pink Elephant 14B: плотную модель преобразовали в MoE, затем дообучили на примерах по программированию и математике и объединили обученные адаптеры с основными весами. Репозиторий содержит веса в формате safetensors; заявленная длина контекста — 16 384 токена. Модель предназначена для генерации текста, диалогов, написания и анализа кода, а также решения математических задач. В README приведены результаты HumanEval 70,12%, MATH-500 38,40%, GSM8K 68,5% и MMLU 60,0%; выборки GSM8K и MMLU для проверки были небольшими. Модель поддерживает английский язык. По данным карточки, лицензия — MIT. Для загрузки автор рекомендует Transformers и указывает trust_remote_code=True.

PINQWEN-3.5-9B-1M-GGUF — компактная reasoning-модель, разработанная Blackfrost AI на базе архитектуры Qwen 3.5 9B. Модель предназначена для генерации текста, задач программирования, рассуждений и работы с большими объёмами контекста. Она распространяется в формате GGUF для локального запуска через llama.cpp и поддерживает режим пошагового рассуждения с блоками <think> и последующим ответом. Заявленное контекстное окно составляет до 1 000 000 токенов благодаря расширению YaRN, что подходит для анализа целых кодовых баз, книг и других объёмных документов. Доступны варианты квантования от 2 до 8 бит, а также f16; рекомендованным балансом размера и качества назван Q4_K_M. В комплект входят MTP-голова для speculative decoding и отдельный vision projector для обработки изображений в совместимых средах, однако конкретные поддерживаемые языки в README не указаны. К сильным сторонам относятся очень длинный контекст, локальное развертывание, открытое рассуждение, широкий выбор квантований и возможность мультимодального ввода при использовании совместимого runtime. Ограничения включают компромисс между размером, скоростью и качеством при квантовании, зависимость мультимодальных и MTP-возможностей от поддержки со стороны runtime, а также заявленную модель поведения без встроенных отказов, что требует ответственного применения. Лицензия — Apache-2.0; базовая архитектура указана как Qwen 3.5 9B.

PLaMo 3 NICT 2604 31B Base — базовая авторегрессионная языковая модель с 31 млрд параметров, разработанная Preferred Networks совместно с Национальным институтом информационных и коммуникационных технологий Японии (NICT). Модель дистиллирована из модели на 120 млрд параметров и использует гибридную архитектуру с оконным вниманием SWA и традиционными слоями внимания. Для запуска поддерживается библиотека Transformers и vLLM. Модель предназначена для генерации текста на английском и японском языках, включая работу с кодом. Она обучена на 1,5 трлн токенов; контекстное окно в карточке не приведено. Это базовая модель, поэтому для диалоговых и прикладных сценариев может потребоваться дополнительная настройка. Ответы могут быть неточными, предвзятыми или нежелательными, поэтому перед внедрением нужны тестирование и настройка безопасности под конкретное применение. Распространяется по лицензии PLaMo Community License. Для коммерческого использования разработчик просит ознакомиться с лицензией и связаться с ним.

Polaris-V1 — открытая 4-миллиардная dense causal language model, разработанная NitrAI Research и представленная как NitrAI Lab. Это дообученная версия Qwen/Qwen3.5-4B, выровненная с помощью reinforcement learning с наградами за многофайловый синтез кода и проверку теорем. Модель предназначена для генерации и анализа программного кода, сложного рассуждения, автономных агентных сценариев и задач, связанных с исправлением программных проектов. Модель поддерживает английский и китайский языки, работает в режиме text generation и имеет контекстное окно до 1 592 638 токенов с масштабированием RoPE через YaRN. Заявлены требования от 3,2 ГБ VRAM для Q4_K_M до 8,4 ГБ для FP16, что позволяет запускать её на потребительских GPU и Apple Silicon. Поддерживаются Transformers, Ollama и llama.cpp/GGUF; также заявлено спекулятивное декодирование со скоростью 540–720 токенов в секунду при использовании Qwen3.5-0.8B-Draft. Сильные стороны Polaris-V1 — сочетание компактного размера, локального запуска, большого контекстного окна и специализации на программировании и агентном рассуждении. В README указаны результаты: 31,4% Pass@1 на SWE-bench Verified, 38,5% Task Completion Rate на WildClawBench и 26,8% Pass@1 на DeepSWE. Ограничения включают сравнительно небольшой размер и узкую специализацию по сравнению с более крупными моделями, а также отсутствие подробных сведений о качестве на других задачах, фактической эффективности длинного контекста и ограничениях аппаратной совместимости. Модель распространяется по лицензии Apache 2.0.

Prox 7B DPO — языковая модель OpenVoid AI на архитектуре Mistral, дообученная на базе Mistral-7b-v0.2. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; в репозитории доступны веса Safetensors. Карточка указывает английский язык и лицензию Apache-2.0. Модель предназначена для генерации и объяснения кода, документирования, вопросов о кибербезопасности и методах взлома, а также помощи в проектах по программированию. Она дообучалась на материалах по кодированию и кибербезопасности, включая наборы данных для DPO; README также упоминает собственный набор OpenVoid AI. Ответы модели могут содержать ошибки и требуют проверки специалистом. Разработчик предостерегает от использования её для критически важных задач безопасности и незаконной деятельности. Лицензия репозитория — Apache-2.0.

Prox-Llama-3-8B — дообученная OpenVoid модель на архитектуре Llama 3, основанная на Meta-Llama-3-8B-Instruct. Это плотная языковая модель примерно на 7,5 млрд параметров с контекстом 8192 токена, предназначенная для генерации кода и ответов на вопросы по кибербезопасности и техникам взлома. Модель подходит для написания, объяснения и документирования кода, анализа задач программных проектов и диалоговых консультаций по кибербезопасности. По заявлению автора, она обучена на проприетарном текстовом наборе OpenVoid и ориентирована на английский язык. В README приведены результаты оценки на HumanEval, EvalPlus и нескольких общих бенчмарках. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Автор рекомендует проверять результаты, поскольку они могут быть предвзятыми или непоследовательными; для критически важных применений нужна экспертная проверка.

Prox-Llama-3-8B-abliterated — дообученная OpenVoid версия Meta-Llama-3-8B-Instruct, ориентированная на генерацию кода и задачи кибербезопасности. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для диалогового взаимодействия и работы с текстом; заявленная длина контекста — 8192 токена. Модель подходит для написания и объяснения кода, подготовки документации, ответов на вопросы о методах взлома и кибербезопасности, а также анализа программных проектов. Карточка описывает её как uncensored-модель, поэтому ответы на темы атак и взлома требуют особенно внимательной проверки. Разработчик рекомендует проверять результаты и соблюдать применимые законы. Лицензия — Apache-2.0.

Карточка модели Daoguang/PyCodeGPT на Hugging Face совпадает с карточкой GuillenLuis03/PyCodeGPT, поэтому описание составлено по ней. PyCodeGPT — предварительно обученная модель для генерации и автодополнения кода на Python, основанная на GPT-Neo. Разработчики обучали её на корпусе из примерно 13 миллионов очищенных файлов Python, собранных из репозиториев GitHub. В README описан вариант PyCodeGPT-110M, производный от GPT-Neo 125M; в метаданных репозитория указаны 123,7 млн параметров, архитектура GPTNeoForCausalLM и формат PyTorch. Модель предназначена для продолжения фрагментов кода и генерации решений на Python по текстовому запросу или началу программы. В README приведена оценка на HumanEval: pass@1 — 8,32%, pass@10 — 13,53%, pass@100 — 18,3%; результаты зависят от методики генерации и не гарантируют корректность кода. Модель принимает и выдаёт текст, имеет контекстное окно 2048 токенов. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

PyCodeGPT — предварительно обученная модель для генерации и автодополнения кода на Python, основанная на GPT-Neo. Разработчики обучали её на корпусе из примерно 13 миллионов очищенных файлов Python, собранных из репозиториев GitHub. В README описан вариант PyCodeGPT-110M, производный от GPT-Neo 125M; в метаданных репозитория указаны 123,7 млн параметров, архитектура GPTNeoForCausalLM и формат PyTorch. Модель предназначена для продолжения фрагментов кода и генерации решений на Python по текстовому запросу или началу программы. В README приведена оценка на HumanEval: pass@1 — 8,32%, pass@10 — 13,53%, pass@100 — 18,3%; результаты зависят от методики генерации и не гарантируют корректность кода. Модель принимает и выдаёт текст, имеет контекстное окно 2048 токенов. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

Карточка модели tmickleydoyle/Question-To-Code на Hugging Face совпадает с карточкой tmickleydoyle/Python-Code-Completer, поэтому описание составлено по ней. tmickleydoyle/Python-Code-Completer — дообученная модель для генерации и дополнения кода Python. Она создана разработчиком tmickleydoyle на основе unsloth/qwen2.5-coder-1.5b-bnb-4bit и обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель построена на плотной архитектуре Qwen2 и содержит 1,5 млрд параметров; заявленный контекст — до 32 768 токенов. Модель подходит для продолжения фрагментов Python-кода и помощи при написании кода по текстовым запросам. В карточке указаны английский язык и лицензия Apache-2.0. README не приводит результатов оценки качества или подробностей обучающих данных, поэтому надёжность генерации и охват конкретных библиотек по доступным сведениям оценить нельзя.

FreedomAISVR публикует Qwable-v1 в формате GGUF с квантизацией NVFP4. Это разговорная MoE-модель семейства Qwen, созданная для генерации текста и агентного программирования: в карточке описаны поведение Claude Fable-5 для использования инструментов и дистилляция рассуждений Claude Opus 4.7. Метаданные связывают модель с Qwen/Qwable-v1 как с дообученной базой. В README указаны 40 слоёв, 256 экспертов (8 активных на токен), около 3 млрд активных параметров и контекст 262 144 токена. Модель поддерживает зрение через SigLIP ViT; для работы с изображениями в llama.cpp нужен отдельный проектор mmproj в F16. Основной сценарий применения — диалоговая генерация и помощь с кодом; агентное использование требует соответствующего системного промпта. Весовой файл квантизирован в NVFP4, а README приводит размер около 18,81 ГБ для модели и 0,88 ГБ для проектора. Лицензия — AGPL-3.0.

Qwen2.5-14B-YOYO-V4 — объединённая языковая модель от YOYO-AI на архитектуре Qwen2, с плотной авторегрессионной моделью Qwen2ForCausalLM и 14 млрд параметров. По описанию автора, в состав объединения входят модели Qwen2.5, кодовая модель и дистиллят DeepSeek-R1; заявлены улучшенное следование инструкциям, генерация кода и рассуждения. Модель предназначена для диалогов, генерации текста и структурированных ответов, а также для работы с длинным контекстом до 1 010 000 токенов. Модель принимает текст и выдаёт текст. Карточка указывает английский и китайский языки. Файлы опубликованы в формате safetensors, лицензия — Apache-2.0. Указанный в карточке этап объединения описан частично, поэтому подробности итоговой процедуры и её влияние на качество оценить нельзя.

Qwen2.5-7B — базовая языковая модель серии Qwen2.5, разработанной командой Qwen. Это предобученная плотная авторегрессионная модель на 7,1 млрд параметров; в карточке указаны архитектура Qwen2ForCausalLM, RoPE, SwiGLU, RMSNorm и контекст до 131 072 токенов. Модель распространяется в формате Safetensors и под лицензией Apache-2.0. Модель предназначена для дальнейшей адаптации и использования как основа для генерации текста, кода и структурированных ответов. Серия поддерживает более 29 языков, включая русский и английский, и заявляет улучшения в математике, программировании, следовании инструкциям и работе с таблицами и JSON. У этой версии базовые веса предобучения: разработчик не рекомендует использовать её непосредственно для диалогов; для чат-сценариев требуется постобучение, например SFT или RLHF.

Qwen2.5-7B-Instruct-1M-heretic — это модифицированная версия Qwen2.5-7B-Instruct-1M, разработанная автором репозитория saidutta69 с использованием Heretic v1.4.0. Модель предназначена для генерации текста, диалогов, ролевых сценариев, программирования, анализа длинных документов и рассуждений по большим контекстам, включая анализ целых кодовых баз. Она ориентирована на локальный запуск разработчиками и пользователями потребительских GPU. Модель относится к семейству Qwen 2.5, имеет около 7 млрд параметров и поддерживает контекст до 1 млн токенов. Это instruction-tuned текстовая авторегрессионная модель; заявленный язык — английский. Доступны веса BF16 и квантованные варианты GGUF Q4_K_M, Q5_K_M, Q6_K и Q8_0, что позволяет запускать её на GPU с 8–24 ГБ памяти, а также на CPU и Apple Silicon при наличии достаточного объёма оперативной памяти. Модификация выполнена методом directional ablation, или abliteration: целевые изменения весов attention output и MLP down-projections подавляют поведение, связанное с отказами, без дообучения. Сильной стороной модели являются большой контекст, возможность локального запуска и сохранение большей части знаний и возможностей базовой модели после модификации. При этом подавление отказов является осознанным ограничением безопасности: модель может выполнять запросы, которые исходная версия отклоняла, в том числе потенциально опасные, и не содержит дополнительной фильтрации. Поэтому её не рекомендуется использовать за незащищённым публичным интерфейсом без собственной модерации. Модель распространяется по лицензии other, унаследованной от базовой Qwen2.5-7B-Instruct-1M.

unsloth/Qwen2.5-7B-unsloth-bnb-4bit — четырёхбитная версия базовой языковой модели Qwen2.5-7B, подготовленная Unsloth с использованием динамического 4-bit-квантования. Разработчик исходной модели — команда Qwen; Unsloth предоставляет оптимизированный формат для запуска и дообучения с меньшими требованиями к памяти. Модель предназначена для генерации и понимания текста, программирования, математических задач, следования инструкциям, работы со структурированными данными и формирования структурированных ответов, включая JSON. Она поддерживает китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие языки. Для серии Qwen2.5 заявлена поддержка контекста до 128 тысяч токенов и генерация до 8 тысяч токенов. Ключевые преимущества — размер около 7 миллиардов параметров, экономичное 4-bit-представление и заявленное Unsloth улучшение точности по сравнению со стандартным 4-bit-квантованием. Модель является текстовой causal language model и не предназначена для работы с изображениями или другими модальностями. Как базовая, а не instruction-tuned модель, она не рекомендуется для диалогового использования без дополнительного дообучения или подходящего шаблона запросов. Лицензия — Apache 2.0.

mlx-community/Qwen2.5-Coder-1.5B-bf16 — версия Qwen2.5-Coder-1.5B, преобразованная сообществом mlx-community в формат MLX с помощью mlx-lm 0.18.1. Это плотная авторегрессионная модель семейства Qwen2 для генерации текста и кода; она содержит 1,5 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель подходит для генерации и продолжения кода, а также для диалогового взаимодействия на английском языке. Лицензия — Apache 2.0. Карточка описывает преобразование формата, а метаданные связывают модель с Qwen/Qwen2.5-1.5B; README указывает исходный Qwen/Qwen2.5-Coder-1.5B. Поэтому точную базовую модель для преобразованных весов установить по этим данным нельзя.

Qwen2.5-Coder-1.5B-Instruct-GGUF — это квантованная в формате GGUF версия модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen. Квантование выполнено bartowski на основе llama.cpp. Модель предназначена для генерации текста и ориентирована прежде всего на программирование. Модель подходит для решения задач разработки программного обеспечения, генерации и исправления кода, рассуждений о коде, а также создания coding agents. Указан английский язык. Размер базовой модели составляет 1,5 млрд параметров, поддерживается контекст до 128 тысяч токенов с конфигурацией YaRN RoPE. В обучении заявлено использование 5,5 трлн токенов для улучшения генерации, рассуждений и исправления ошибок. К сильным сторонам относятся специализация на программировании, поддержка длинного контекста и возможность запуска через экосистему llama.cpp и совместимые приложения, включая LM Studio. README не содержит результатов бенчмарков, требований к оборудованию или подробностей о вариантах квантования, поэтому производительность и качество для конкретных задач требуют самостоятельной проверки. Модель распространяется по лицензии Apache 2.0.

QuantFactory/Qwen2.5-Coder-1.5B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-Coder-1.5B-Instruct, созданная QuantFactory на основе обновлённых весов от 6 ноября 2024 года с использованием llama.cpp. Исходная модель относится к серии специализированных кодовых моделей Qwen, разработанных командой Qwen; в README конкретная организация-разработчик не указана, однако модель основана на репозитории Qwen/Qwen2.5-Coder-1.5B-Instruct. Модель предназначена для генерации, анализа и исправления программного кода, рассуждений о коде, создания code agents, а также задач общего назначения и математики. Это авторегрессионная causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. Модель содержит 1,54 млрд параметров, из них 1,31 млрд без учёта эмбеддингов, имеет 28 слоёв и Grouped-Query Attention с 12 головами для Q и 2 для KV. Поддерживается текстовая модальность и заявлен английский язык. Заявленная максимальная длина контекста составляет 131 072 токена, но исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, причём статическое масштабирование может ухудшать производительность на коротких текстах. Квантизация и небольшой размер делают модель подходящей для более экономичного локального развёртывания, однако README не содержит сведений о конкретном формате квантизации, требованиях к памяти, производительности или сравнительных результатах. Модель распространяется по лицензии Apache-2.0.

BenevolenceMessiah/Qwen2.5-Coder-32B-Instruct-abliterated-Q5_K_M-GGUF — это квантизированная версия в формате GGUF модели Qwen2.5-Coder-32B-Instruct-abliterated. Репозиторий содержит конвертацию исходной модели, выполненную с помощью llama.cpp через сервис GGUF-my-repo. В метаданных указана лицензия Apache-2.0, а базовой моделью названа huihui-ai/Qwen2.5-Coder-32B-Instruct-abliterated. Модель предназначена для генерации текста и диалогового использования, прежде всего для задач, связанных с программированием: написания, объяснения и обработки кода. Она рассчитана на запуск через llama.cpp в командной строке или в режиме сервера и может применяться локально при наличии совместимого оборудования. В README также отмечена поддержка английского языка. Ключевые характеристики — архитектура семейства Qwen2.5-Coder, размер 32B параметров и квантизация Q5_K_M в формате GGUF. README не содержит сведений о точном размере контекста, поддерживаемых модальностях помимо текста, результатах тестирования, требованиях к памяти и производительности. Вариант abliterated позиционируется как менее ограниченный, однако подробности метода его создания и практические ограничения не описаны. Для использования требуется совместимая сборка llama.cpp; условия лицензии указаны как Apache-2.0.

Qwen2.5-Coder-3B-GGUF — базовая языковая модель для работы с исходным кодом, созданная командой Qwen. Это GGUF-квантизация оригинальной модели Qwen2.5-Coder-3B, подготовленная bartowski на основе llama.cpp. Модель предназначена прежде всего для генерации и автодополнения текста и кода, а не для диалогового использования в формате instruct или chat. Модель имеет около 3 миллиардов параметров и поддерживает контекст длиной до 32 000 токенов. При обучении использовано 5,5 триллиона токенов. В метаданных указана поддержка английского языка и сценарии, связанные с программированием. Формат GGUF и совместимость с llama.cpp делают модель подходящей для локального запуска в приложениях и инструментах, поддерживающих этот формат. К сильным сторонам относятся специализация на коде, большой контекст и возможность локального использования в компактном размере. Ограничение состоит в том, что это базовая модель: она не оптимизирована для обычного общения и выполнения инструкций в диалоговом режиме, поэтому для таких задач может потребоваться дополнительное форматирование запросов или другая модель. Указанная лицензия — qwen-research; перед использованием следует ознакомиться с условиями лицензии по ссылке на оригинальную модель.

Qwen2.5-Coder-3B-Instruct-4bit — языковая модель для генерации текста и работы с программным кодом, разработанная командой Qwen. Версия преобразована сообществом mlx-community из исходной модели Qwen/Qwen2.5-Coder-3B-Instruct в формат MLX с использованием mlx-lm 0.19.3. Модель имеет размер 3B параметров и предназначена для сценариев инструкционного диалога и генерации кода. В карточке указана поддержка английского языка, текстовая модальность и применение через библиотеку mlx-lm; доступна 4-битная версия, что уменьшает требования к памяти по сравнению с полноразмерным представлением, но может ограничивать точность по сравнению с исходной моделью. Архитектура и размер контекста в README не указаны. Для использования требуется установить пакет mlx-lm и загрузить модель через функции load и generate. Лицензия обозначена как qwen-research; подробные условия доступны по ссылке на лицензию исходной модели. README не содержит данных о результатах тестирования, конкретных ограничениях качества или поддерживаемых языках помимо английского.

Это изменённая версия Qwen2.5-Coder-3B-Instruct, созданная автором skilledu методом abliteration — удалением отказов модели. Она предназначена для диалоговой генерации кода и ответов на текстовые запросы о программировании. Модель построена на плотной архитектуре Qwen2 и содержит 3,1 млрд параметров; контекст составляет до 32 768 токенов. В карточке указана поддержка английского языка, а для загрузки в приложениях предлагается библиотека Transformers. Модель может помогать писать, анализировать и исправлять код в разговорном формате. Изменение, направленное на снижение отказов, не гарантирует корректность или безопасность результатов. Лицензия указана как other, поэтому условия использования следует сверить с карточкой модели и лицензией базовой модели.

ThomasBaruzier/Qwen2.5-Coder-3B-Instruct-GGUF — набор GGUF-квантизаций инструкционно дообученной модели Qwen2.5-Coder-3B-Instruct. Исходную модель разработала команда Qwen, а данный репозиторий содержит варианты, подготовленные с использованием llama.cpp и метода imatrix с калибровочным файлом Bartowski. Модель предназначена для генерации и обработки текста, прежде всего для задач программирования и чат-сценариев. Это текстовая модель с архитектурой и характеристиками базовой Qwen2.5-Coder-3B; в README указано около 3 миллиардов параметров, поддерживается английский язык, а заявленный тип конвейера — text-generation. Модель ориентирована на локальный запуск в формате GGUF, причём доступны варианты квантизации от IQ1_S до Q5_K_M с размером примерно от 754 МБ до 2121 МБ. Разные варианты позволяют выбирать компромисс между требованиями к памяти и качеством; в приведённых измерениях более крупные квантизации обычно показывают меньшую perplexity и более высокую точность. Сильными сторонами являются компактный размер, возможность локального использования через llama.cpp и наличие большого выбора квантизаций для устройств с разными ресурсами. Ограничения включают потери качества, зависящие от степени квантизации, неизвестные в README размер контекста и набор поддерживаемых языков помимо английского, а также отсутствие сведений о мультимодальности. Модель распространяется по лицензии qwen-research; точные условия следует уточнять в лицензии исходной Qwen/Qwen2.5-Coder-3B-Instruct.

czlll/Qwen2.5-Coder-7B-CL — языковая модель для локализации кода, разработанная на основе Qwen и предназначенная для поиска файлов, классов и функций, относящихся к описанию задачи на естественном языке. README описывает подход LocAgent: модель анализирует графовое представление кодовой базы и связи между её компонентами; её можно встроить в IDE и инструменты разработки. Метаданные указывают на архитектуру Qwen2 dense с 7,1 млрд параметров, контекст до 131 072 токенов, поддержку чата и интерфейса вызова инструментов. Модель принимает текст и выдаёт текст; README указывает английский как основной естественный язык, а также ориентированность на код. Модель заявлена как дообученная версия Qwen-2.5-Coder-Instruct-32B, хотя это расходится с идентификатором репозитория и метаданными архитектуры и размера. Основание для связи с этой базовой моделью — только README. Лицензия по метаданным — MIT. Точность локализации зависит от полноты и корректности графа кодовой базы, сложности проекта и ясности описания задачи; возможны унаследованные смещения обучающих данных.