II.11Кибербезопасность и приватность

Terminus-Qwen3-8b-i1-GGUF — это квантизированная версия языковой модели Terminus-Qwen3-8b, разработанной OrionLLM и преобразованной в формат GGUF пользователем mradermacher. Модель обучалась на наборе данных OrionLLM/OpenAgentInstruct и ориентирована на генерацию текста, агентские сценарии, рассуждения, работу с терминалом и задачи, связанные с разработкой программного обеспечения, включая SWE-bench. Модель относится к текстовым Transformer-моделям и содержит около 8 млрд параметров. В README указан английский язык, поддержка мультимодальности и размер контекстного окна не заявлены. Репозиторий предоставляет варианты квантизации i1 от IQ1_S до Q6_K с размером файлов примерно от 2,2 до 6,8 ГБ. Квантизация позволяет запускать модель с меньшими требованиями к памяти; при этом низкие уровни квантизации могут заметно снижать качество. В качестве компромисса между размером, скоростью и качеством рекомендован вариант i1-Q4_K_M. Модель подходит для локального запуска в совместимых инструментах, поддерживающих GGUF, особенно для текстовых ассистентов и агентских рабочих процессов. Ограничениями являются заявленная ориентация на английский язык, отсутствие сведений о контекстном окне и неравномерное качество разных вариантов квантизации. Указанная лицензия — Apache-2.0.

WaveCoder ultra 6.7B — языковая модель для работы с программным кодом, разработанная Microsoft. Представлена в формате GGUF и квантована сообществом bartowski на основе llama.cpp. Модель создана путем WAVE-инструкционного дообучения и предназначена исключительно для выполнения запросов, связанных с кодированием. Модель ориентирована на генерацию, рефакторинг и исправление кода, его суммаризацию и перевод между языками программирования. В основе указана модель DeepseekCoder, размер — 6,7 млрд параметров. Для обучения использовался набор CodeOcean из 20 000 инструкций по четырем задачам, подготовленный на базе кода из GitHub CodeSearchNet с применением LLM-генерации и проверки данных. Поддерживаемые языки программирования и размер контекстного окна в README не указаны. К сильным сторонам относятся заявленные обобщающая способность на разных задачах работы с кодом и высокая эффективность генерации. Ограничение модели — специализация на программировании, поэтому она не предназначена для универсального общения. Точный уровень квантования и связанные с ним характеристики качества и требований к ресурсам не указаны. Лицензия обозначена как other, с указанием license_name deepseek; подробные условия использования в README не приведены.

WizardCoder-Python-13B-V1.0 — языковая модель семейства Llama, предназначенная для генерации кода Python по инструкциям. Модель содержит 12,9 млрд параметров, имеет контекст до 16 384 токенов и представлена в формате PyTorch для Transformers. Карточка описывает семейство WizardCoder, обученное с использованием Evol-Instruct, но не приводит отдельные сведения о тренировочных данных и результатах именно этой версии 13B. Модель подходит для написания фрагментов Python-кода по текстовым запросам, помощи с программированием и генерации ответов на инструкции о коде. Она принимает текст и генерирует текст; языки естественного общения не заявлены, поскольку в метаданных указан только код. Лицензия — Llama 2; условия её применения определяются этой лицензией.

Yi-9B-Coder-IMat-GGUF — квантизированная версия модели TechxGenus/Yi-9B-Coder, подготовленная пользователем legraphista. Модель предназначена прежде всего для генерации и обработки программного кода и распространяется в формате GGUF для запуска с совместимыми инструментами, включая llama.cpp. Архитектурная основа относится к семейству Llama; размер исходной модели составляет около 9 млрд параметров, исходный формат — BF16. Репозиторий содержит варианты от BF16 и F16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантов. Для ряда вариантов применена IMatrix-квантизация, призванная лучше сохранять качество при уменьшении размера модели. Доступны файлы размером примерно от 3,1 до 17,66 ГБ, что позволяет выбирать между качеством и требованиями к памяти. Данные о поддерживаемых языках программирования, размере контекста и мультимодальности в README не указаны; модель описана как текстовая и ориентированная на код. Сильной стороной модели является широкий выбор вариантов квантования и возможность локального запуска при существенно меньших требованиях к памяти. При этом низкобитные варианты могут терять качество по сравнению с BF16 или F16, а конкретная производительность и точность зависят от выбранного файла и оборудования. Лицензия — Apache-2.0.

Athena-codegemma-2-9b — дообученная компанией EpistemeAI языковая модель семейства Gemma 2 с плотной архитектурой и 9 млрд параметров. Она создана на основе EpistemeAI/EpistemeAI-codegemma-2-9b и предназначена для генерации кода и текста по запросу. Модель принимает текст и генерирует текст; её контекстное окно составляет 8192 токена. В карточке указан английский язык. Для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель распространяется по лицензии Apache-2.0.

AxeronAI/axeron-forge-9fe917b4 — языковая модель, созданная методом слияния TIES из Qwen/Qwen2.5-3B и Qwen/Qwen2.5-Coder-3B-Instruct с помощью forgelm. Модель семейства Qwen2 имеет плотную архитектуру Qwen2ForCausalLM, около 3,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Модель предназначена для генерации текста в диалоге, включая задачи генерации, анализа и исправления кода по текстовым запросам. Метаданные отмечают поддержку чата и интерфейса вызова инструментов. Карточка не приводит результаты оценивания, поэтому качество для конкретных языков и задач следует проверять отдельно. Сведения о лицензии в предоставленных источниках отсутствуют.

SegeeMak/bert-finetuned-ner — модель BERT для классификации токенов, дообученная разработчиком SegeeMak на неизвестном наборе данных. Она предназначена для задач разметки последовательностей, в частности для распознавания именованных сущностей. Модель содержит 135,5 млн параметров, использует архитектуру BertForTokenClassification и принимает текст с контекстом до 512 токенов. В карточке приведены результаты на оценочном наборе: F1 0,9398, точность 0,9301, полнота 0,9497 и accuracy 0,9858. Язык данных, типы распознаваемых сущностей и состав обучающего набора не раскрыты, поэтому применимость к конкретному языку или схеме разметки требует проверки. Лицензия — Apache-2.0.

Vixez/bert-finetuned-ner — модель на архитектуре BERT, дообученная для распознавания именованных сущностей в тексте. Она предназначена для разметки токенов и может использоваться в конвейерах извлечения сущностей из текстов. Модель содержит 12,1 млн параметров, принимает текст с контекстом до 512 токенов и доступна в формате safetensors. В карточке приведены результаты оценки: precision 1,0, recall 0,9967, F1 0,9983 и accuracy 0,9999. Датасет, набор меток и языки не описаны, поэтому результаты нельзя уверенно переносить на другие данные и сценарии. Лицензия в доступных сведениях не указана.

Code-290k-6.7B-Instruct — языковая модель для генерации кода и пояснений, созданная ajibawa-2023 полным дообучением DeepSeek-Coder-6.7B-Instruct. Модель основана на плотной архитектуре Llama и содержит около 6,6 млрд параметров; репозиторий предоставляет веса в формате safetensors. Для общения используется шаблон Alpaca. Модель обучалась на наборе Code-290k-ShareGPT примерно из 290 тысяч примеров кода с подробными объяснениями. Она предназначена для генерации и объяснения кода на Python, Java, JavaScript, Go, C++, Rust, Ruby, SQL, MySQL, R, Julia, Haskell и других языках программирования. Контекст составляет до 16 384 токенов. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и у базовой модели. Оценки в карточке охватывают лишь часть общих бенчмарков и не гарантируют корректность сгенерированного кода; результаты следует проверять, особенно перед запуском или использованием в критичных системах.

legraphista/codegeex4-all-9b-IMat-GGUF — это набор GGUF-версий модели THUDM/codegeex4-all-9b, подготовленный пользователем legraphista. Модель предназначена для генерации текста, включая задачи, связанные с программированием; в метаданных указаны китайский и английский языки. Исходная модель использует формат BF16, а опубликованные файлы представлены в вариантах BF16, F16 и разных уровнях квантования. Модель содержит около 9 миллиардов параметров. Доступны квантизации Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K, IQ4 и IQ3, что позволяет выбирать между качеством, размером файла и требованиями к ресурсам. Для ряда вариантов применена IMatrix-квантизация, предназначенная для снижения потерь качества при уменьшении точности. Файлы рассчитаны на использование с инструментами, поддерживающими формат GGUF, включая llama.cpp; также опубликован файл imatrix.dat. Преимуществами являются широкий выбор уровней квантования и наличие вариантов размером примерно от 4 до 10 ГБ, что облегчает локальный запуск на системах с разными ресурсами. Ограничения включают отсутствие в предоставленных данных сведений об архитектуре, размере контекста, мультимодальности, точных возможностях модели и результатах оценки качества; поэтому её следует рассматривать как текстовую модель без подтверждённой поддержки других модальностей. Лицензия обозначена как codegeex4; подробные условия доступны по ссылке на лицензию исходной модели THUDM/codegeex4-all-9b.

TheBloke/CodeLlama-7B-fp16 — публикация TheBloke весов Code Llama 7B, разработанной Meta. Это авторегрессионная плотная Transformer-модель семейства Llama для генерации и понимания кода; репозиторий содержит веса FP16 в формате Transformers/Hugging Face, полученные конвертацией исходных весов Meta в формат HF. Для загрузки этой версии README требует trust_remote_code=True из-за изменения параметра RoPE Theta. Модель принимает и выдаёт текст, рассчитана на синтез и анализ кода и поддерживает заполнение пропусков в тексте. Контекст модели — до 16 384 токенов по метаданным; в README также заявлена поддержка до 100 000 токенов при инференсе. Назначение описано для английского языка и языков программирования. Лицензия — llama2; перед использованием следует учитывать её условия. Модель может выдавать неточный или нежелательный результат, поэтому её поведение следует проверять в целевом приложении.

GLiNER-large-v2 — англоязычная модель для распознавания именованных сущностей, разработанная Уршаде Заратианой, Нади Томе, Пьером Ола и Тьерри Шарнуа. Она использует двунаправленный BERT-подобный трансформер и библиотеку GLiNER для извлечения сущностей из текста по заданным пользователем типам, поэтому подходит для гибкой разметки без ограничения фиксированным набором классов. Модель обучена на датасете NuNER и содержит 459 млн параметров. Её можно применять для извлечения сущностей из документов и текстовых коллекций, когда требуются настраиваемые типы сущностей и более компактный вариант по сравнению с крупными языковыми моделями. Репозиторий распространяется по лицензии Apache-2.0.

Cerebras GLM-4.6-REAP-218B-A32B — сжатая разреженная языковая модель семейства GLM-4.6, полученная методом REAP из zai-org/GLM-4.6-FP8. Она предназначена для генерации текста и диалогов, включая написание кода, работу с агентными сценариями и вызов функций. Модель совместима с Transformers и, согласно карточке, разворачивается в vLLM. Архитектура — причинная языковая модель Mixture-of-Experts: в README указаны 218 млрд параметров и 32 млрд активируемых на токен; метаданные каталога указывают 23,4 млрд параметров. Контекст составляет 202 752 токена. Карточка сообщает об удалении 40% экспертов и почти сохранённой производительности относительно полной модели, но для этой BF16-версии результаты оценки не приведены. Метаданные указывают английский язык. Лицензия — MIT.

Akicou/GLM-4.7-Flash-REAP-19 — сжатая версия GLM-4.7-Flash, созданная с помощью метода REAP (Router-weighted Expert Activation Pruning) компании Cerebras. В модели удалено 50% экспертов; README указывает, что сжатие выполнено без дополнительного дообучения. Архитектура GLM-4 MoE Lite, размер — 4,1 млрд параметров, контекст — до 202 752 токенов. Модель предназначена для генерации текста, кода, вызова функций и агентных сценариев; поддерживает запуск через vLLM, Transformers и SGLang. Карточка описывает калибровку для задач кода и инструментов, сохранившую возможности базовой модели в этих сценариях. Репозиторий предоставляет веса Safetensors и заявляет лицензию MIT. В README отмечена проблема совместимости GGUF с llama.cpp: файлы GGUF пересоздаются после исправления ошибки, вызывавшей зацикливание и низкое качество ответов; в метаданных GGUF не указан.

KAT-Coder V2.5 Dev 35B-A3B ABLITERATED UNCENSORED PHILADELPHIA CLASS — текстовая модель Mixture of Experts, разработанная KridgeDookie на основе Kwaipilot/KAT-Coder-V2.5-Dev, относящейся к семейству Qwen3.6-35B-A3B. Модель ориентирована на генерацию кода, агентные сценарии программирования и взаимодействие с инструментами. Она поддерживает английский и китайский языки, не имеет компонента для обработки изображений и видео и работает только с текстом. Модель содержит около 35 млрд параметров в общей сложности, из которых для каждого токена активны примерно 3 млрд. Доступна исходная версия в формате BF16, а также квантованные варианты GGUF Q4_K_M, Q5_K_M и Q8_0. Заявленная максимальная длина контекста — 32 768 токенов. Полная BF16-версия занимает примерно 65 ГиБ, поэтому, несмотря на небольшое число активных параметров, требует значительно больше памяти, чем плотная модель на 3 млрд параметров. Основное отличие версии PHILADELPHIA CLASS — целевое редактирование весов для уменьшения отказов в ответах при сохранении возможностей родительской модели для программирования. Внутренние проверки показали отсутствие жёстких отказов в двух наборах тестов и прохождение 23 из 24 проверок связности, однако эти результаты не проходили независимый аудит и не гарантируют точность, качество рассуждений или надёжность использования инструментов. Модель может генерировать ошибочный, небезопасный или потенциально вредоносный код, поэтому результаты требуют проверки. Распространяется по лицензии Apache 2.0, унаследованной от родительской модели.

Lumma-Fev-0.6B — компактная модель решений компании FrontiersMind, дообученная на базе Lumma-0.6B-Base. Она принимает документ-состояние (текст, JSON-объект или массив) и набор типизированных вопросов, а за один проход вычисляет распределение вероятностей для каждого ответа. Модель не генерирует текст: для вопросов типа yes/no возвращает вероятность ответа «да», для выбора — наиболее вероятный вариант и вероятности вариантов, для шкалы — ожидаемый уровень и распределение по уровням. Архитектура — плотный причинный трансформер с обработкой только префикса и отдельным считыванием указателя по вариантам ответа. Вопросы обрабатываются независимо: каждый видит состояние и собственные инструкции с вариантами, но не ответы на другие вопросы. Модель предназначена для структурированной классификации и принятия типизированных решений; карточка приводит результаты на тестах Typed-decisions, AG News и DAIR Emotion. Для работы доступны Transformers и пакет lumma-fev, в том числе сервер API с контрактом TypeSafe. Модель не генерирует свободные объяснения, а её оценки уверенности и вероятности требуют проверки калибровки на размеченных данных перед использованием для автоматических решений. Лицензия — Apache-2.0.

Mistral-NeMo-Minitron-8B-Base-CODE-Python-i1-GGUF — это квантизированная версия базовой модели Agnuxo/Mistral-NeMo-Minitron-8B-Base-CODE-Python, подготовленная mradermacher в формате GGUF. Модель ориентирована на генерацию кода, прежде всего на задачи, связанные с Python, и может использоваться в локальных AI-приложениях, ассистентах программирования и сценариях научных исследований. Заявлена поддержка английского и испанского языков. Модель имеет размер 8B параметров в базовой версии; точные сведения об архитектуре, размере контекстного окна и мультимодальности в карточке не указаны. Репозиторий содержит множество вариантов квантизации i1, включая IQ- и Q-схемы с размером файлов примерно от 2,2 до 5,5 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Для создания собственных вариантов также предоставлен imatrix-файл. Сильными сторонами являются специализация на генерации кода, возможность локального запуска и широкий выбор уровней квантизации; для некоторых вариантов в карточке отмечены предпочтительное соотношение размера, скорости и качества или более низкое качество. Ограничения включают отсутствие подробных результатов тестирования, сведений о контекстном окне и гарантий корректности сгенерированного кода, поэтому результаты требуют проверки. Модель распространяется по лицензии Apache-2.0.

OpenCodeInterpreter-CL-34B — модель генерации кода из семейства OpenCodeInterpreter, основанная на CodeLlama-34b-Python-hf. Она объединяет генерацию кода с выполнением и итеративным уточнением по обратной связи; в этой карточке описана сама модель, а не отдельная среда выполнения. Модель разработана для помощи в написании и интерпретации кода. Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 33,5 млрд параметров и контекстом 16 384 токена. Метаданные указывают английский язык и поддержку генерации текста; для задач с кодом модель отмечена тегом code. Опубликована под лицензией Apache-2.0. Карточка приводит результаты семейства на HumanEval и MBPP, но не содержит отдельных оценок именно этой версии на этих тестах.

cyankiwi/Ornith-1.0-9B-AWQ-FP8 — квантизированная версия модели Ornith-1.0-9B, разработанной deepreinforce-ai и опубликованной cyankiwi. Модель предназначена прежде всего для агентного программирования, генерации кода и решения задач разработки в средах с терминалом и инструментами. Это наиболее компактная модель семейства Ornith, рассчитанная на эффективный запуск на одной GPU. Базовая модель относится к текстовым генеративным моделям и работает с языками EN, ZH, HI, AR, RU, JA, KO, NL, FR и ES. Ornith-1.0 использует обучение с подкреплением для совместной оптимизации решений и scaffolding, управляющего поиском и выполнением этих решений. Среди заявленных преимуществ — результаты на бенчмарках агентного программирования Terminal-Bench 2.1, SWE-Bench, NL2Repo и OpenClaw; для версии 9B приведены показатели 43,1 и 40,6 на вариантах Terminal-Bench 2.1. Ключевое ограничение — меньший размер по сравнению с версиями 31B и MoE, поэтому модель может уступать им в сложных задачах. Размер опубликованного файла составляет 11,91 ГБ; максимальная длина контекста и точные сведения об архитектуре в карточке не указаны. Модель распространяется по лицензии MIT без региональных ограничений.

Soulfate24/Ornith-1.5-9B-MTP-ASHQ1-Remix-GGUF — квантованная в формате GGUF версия Ornith-1.5-9B от Ornith AI. Репозиторий описывает вариант ASHQ1-Remix: активационно-ориентированную квантовку, параметры которой основаны на измерениях; указана поддержка линии AutoRound с ограничениями насыщения. Модель предназначена для генерации текста и диалогового использования. Базовая модель рассчитана на программирование, агентные задачи и работу с инструментами в длинном контексте. Ключевая характеристика этой версии — квантованное представление весов GGUF. В метаданных указаны задача text-generation, библиотека Transformers и лицензия MIT. README не приводит размер квантованных файлов или оценки качества именно этой сборки; результат может зависеть от выбранного файла и среды запуска.

PentaCoder-9B — текстовая причинная языковая модель семейства Qwen 3.5, собранная разработчиком pragmaticcs слиянием пяти специализированных чекпойнтов через GeoDELLA. Она предназначена для генерации и анализа кода, решения алгоритмических задач, планирования многошаговых действий в SWE-bench-подобных сценариях, работы с терминалом и восстановления после ошибок. Модель поддерживает диалог и интерфейс вызова инструментов; в README заявлено контекстное окно 256 тысяч токенов. Метаданные указывают 7,2 млрд параметров, архитектуру Qwen3_5ForCausalLM и формат safetensors. README описывает модель как ориентированную на агентное программирование и работу с инструментами, с акцентом на декомпозицию задач, корректность синтаксиса и устойчивость к циклам повторения при ошибках. Указаны английский и китайский языки. Лицензия — Apache-2.0. Это слитая модель, основанная на Qwen/Qwen3.5-9B и нескольких производных чекпойнтах; заявленные в README 8,8 млрд параметров расходятся с метаданными, поэтому использовано значение из метаданных каталога.

Phind-CodeLlama-34B-v2-Codefuse-CodeLlama-34B-dare-ties — объединённая языковая модель на архитектуре Llama, созданная с помощью LazyMergekit из Phind/Phind-CodeLlama-34B-v2 и codefuse-ai/CodeFuse-CodeLlama-34B. Модель содержит 33,5 млрд параметров, использует формат safetensors и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации кода и решения задач программирования по текстовым запросам. Она принимает текст и выдаёт текст, включая код; в каталоге для неё подтверждена задача text-generation. README описывает объединение методом dare_ties с параметрами density 0,5, весами 0,6 и 0,4 и типом bfloat16. В карточке не указаны лицензия и конкретные ограничения качества или применения, поэтому условия лицензирования и специальные ограничения по этим источникам определить нельзя.

QaptaanLM-0.75B-Instruct — компактная текстовая причинно-следственная языковая модель для программирования и технических задач, разработанная kaptaan45 на базе QaptaanLM-0.75B. Это плотная архитектура Qaptaan с числом параметров 581,4 млн по метаданным; README приводит другое значение — 752 млн. Модель дообучена на KapInstruct-100M с форматом Qwen ChatML и маскированием функции потерь только на ответах ассистента. Указана длина контекста 262 144 токена. Модель предназначена для генерации кода на разных языках программирования, алгоритмических рассуждений, отладки, исправления ошибок и следования инструкциям с ограничениями. В обучающих данных также представлены математика, общий диалог, STEM и научные вопросы. Поддерживает текстовый диалог и интерфейс вызова инструментов; карточка указывает поддержку английского языка. Репозиторий использует формат Safetensors, лицензия — Apache-2.0. Компактный размер удобен для локального применения, однако качество и надёжность ответов на сложных задачах требуют проверки.

Qwen2.5-Coder-0.5B — базовая предварительно обученная языковая модель для работы с кодом, разработанная командой Qwen. Это причинная языковая модель семейства Qwen2: плотная архитектура Qwen2ForCausalLM с 494 млн параметров и контекстом до 32 768 токенов. В README указаны RoPE, SwiGLU, RMSNorm, смещение в QKV-внимании и связанные эмбеддинги слов; модель содержит 24 слоя и использует GQA. Модель предназначена для генерации и анализа кода, рассуждений о коде, исправления ошибок и задач заполнения фрагментов кода. Она также сохраняет общие языковые и математические возможности базовой Qwen2.5 и может служить основой для дальнейшего дообучения и создания кодовых агентов. Разработчик не рекомендует использовать базовую версию для диалога без постобучения. Модель распространяется по лицензии Apache-2.0.

QuantFactory/Qwen2.5-Coder-0.5B-Instruct-GGUF — квантованная версия инструкционно дообученной модели Qwen2.5-Coder-0.5B-Instruct, созданная QuantFactory на основе модели Qwen и преобразованная с использованием llama.cpp. Это причинная языковая модель для генерации текста и кода, предназначенная для помощи разработчикам в написании, анализе, исправлении и рассуждении о программном коде, а также для чат-сценариев и задач, связанных с code agents. Модель сохраняет общие способности в математике и работе с текстом. Архитектура построена на transformers с RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Модель содержит около 0,49 млрд параметров, из которых 0,36 млрд не являются эмбеддингами, 24 слоя и Grouped-Query Attention с 14 головами для Q и 2 для KV. Максимальная длина контекста составляет 32 768 токенов. В README явно указан английский язык; сведения о мультимодальности отсутствуют, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся специализация на программном коде, улучшенные возможности генерации, исправления и анализа кода, а также небольшой размер, удобный для локального запуска в квантованном формате. Ограничениями являются существенно меньший масштаб по сравнению с крупными моделями серии Qwen2.5-Coder и отсутствие в карточке подробных результатов оценки, требований к памяти и данных о производительности. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-1.5B-Instruct — инструкционно дообученная языковая модель для генерации и анализа кода, разработанная командой Qwen. Это причинная трансформерная модель семейства Qwen2 с 1,5 млрд параметров, обученная на коде, текстово-кодовом сопоставлении и синтетических данных. Архитектура использует RoPE, SwiGLU, RMSNorm и групповое запросное внимание; контекст — до 32 768 токенов. Модель предназначена для генерации, объяснения и исправления кода, а также для диалоговых сценариев и создания кодовых агентов. По карточке семейства, обучение также сохраняло способности к математике и общим задачам, однако основной профиль этой версии — программирование. Доступна через библиотеку Transformers и поддерживает формат safetensors. Модель распространяется по лицензии Apache-2.0. Компактный размер облегчает её запуск по сравнению с крупными моделями, но качество и надёжность ответов могут быть ниже, чем у более крупных кодовых моделей; сгенерированный код следует проверять.

Qwen2.5-Coder-3B-GGUF — базовая языковая модель для работы с исходным кодом, созданная командой Qwen. Это GGUF-квантизация оригинальной модели Qwen2.5-Coder-3B, подготовленная bartowski на основе llama.cpp. Модель предназначена прежде всего для генерации и автодополнения текста и кода, а не для диалогового использования в формате instruct или chat. Модель имеет около 3 миллиардов параметров и поддерживает контекст длиной до 32 000 токенов. При обучении использовано 5,5 триллиона токенов. В метаданных указана поддержка английского языка и сценарии, связанные с программированием. Формат GGUF и совместимость с llama.cpp делают модель подходящей для локального запуска в приложениях и инструментах, поддерживающих этот формат. К сильным сторонам относятся специализация на коде, большой контекст и возможность локального использования в компактном размере. Ограничение состоит в том, что это базовая модель: она не оптимизирована для обычного общения и выполнения инструкций в диалоговом режиме, поэтому для таких задач может потребоваться дополнительное форматирование запросов или другая модель. Указанная лицензия — qwen-research; перед использованием следует ознакомиться с условиями лицензии по ссылке на оригинальную модель.

Это 8-битная версия Qwen2.5-Coder-7B-Instruct, подготовленная mlx-community и конвертированная в формат MLX для запуска на устройствах Apple Silicon. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и имеет контекст длиной до 32 768 токенов. Модель предназначена для диалоговой генерации кода: она помогает писать, объяснять, анализировать и исправлять программы по текстовым запросам. Поддерживает английский язык и интерфейс вызова инструментов. Репозиторий лицензирован по Apache-2.0; README указывает на конвертацию с помощью mlx-lm версии 0.18.1.

Qwen2.5-Coder-7B-Instruct-abliterated-GGUF — GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-7B-Instruct-abliterated, разработанной huihui-ai и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и диалогового взаимодействия, прежде всего для задач программирования и запуска локально через llama.cpp или LM Studio. Модель содержит 7 миллиардов параметров и доступна в вариантах от F16 до различных квантований Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Размер файлов составляет примерно от 4,09 до 15,24 ГБ в зависимости от варианта. В README указан английский язык; сведения о других языках, длине контекста и мультимодальности отсутствуют. Для взаимодействия используется формат сообщений ChatML с ролями system, user и assistant. К сильным сторонам относятся специализация базовой модели на коде, широкий выбор квантований и возможность локального запуска на совместимом оборудовании. К ограничениям относятся возможная потеря качества при более сильном квантовании, отсутствие данных о бенчмарках и точной длине контекста, а также неопределённость характеристик варианта abliterated. Модель распространяется по лицензии Apache 2.0.

netcat420 создал эту объединённую модель на основе двух вариантов Qwen2.5-Coder-7B-Instruct: Qwen2.5-Coder-Scholar-7B-Abliterated-MFANN и huihui-ai/Qwen2.5-Coder-7B-Instruct-abliterated. Веса объединены методом SLERP с помощью mergekit; модель представляет собой плотную авторегрессионную архитектуру Qwen2 на 7,1 млрд параметров и распространяется в формате safetensors для Transformers. Модель предназначена для генерации текста в диалоговом режиме, включая задачи, связанные с кодом. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и имеет интерфейс для вызова инструментов. В карточке не приведены сведения о языковом охвате и результаты сравнительных оценок качества. Лицензия в доступных данных не указана. Поскольку модель объединяет варианты с пометкой abliterated, поведение защитных ограничений может отличаться от исходных моделей; применимость для конкретных сценариев следует оценивать отдельно.