II.11Кибербезопасность и приватность

Карточка модели tiaguin/qwen на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-7B, поэтому описание составлено по ней. Qwen2.5-Coder-7B — плотная причинная языковая модель семейства Qwen2, разработанная командой Qwen. Это базовая предварительно обученная модель на 7,1 млрд параметров, дообученная на основе Qwen/Qwen2.5-7B с упором на программный код. Она предназначена для генерации кода, рассуждений о коде и исправления ошибок, а также может служить основой для кодовых агентов и дальнейшей адаптации под прикладные задачи. Модель принимает текст и генерирует текст. Архитектура использует RoPE, SwiGLU, RMSNorm и смещение в проекциях внимания QKV; заявленная длина контекста в метаданных — 32 768 токенов. Карточка описывает возможности обработки контекста до 131 072 токенов с YaRN, но для этого нужна дополнительная настройка; постоянный коэффициент масштабирования YaRN может снижать качество на коротких входах. Разработчик не рекомендует использовать базовую модель для диалогов без постобучения. Репозиторий распространяется под лицензией Apache-2.0.

mlx-community/Qwen2.5-Coder-14B-Instruct-bf16 — конверсия в формат MLX инструкционной модели Qwen2.5-Coder-14B-Instruct, выполненная сообществом mlx-community с помощью mlx-lm версии 0.19.3. Это плотная авторегрессионная модель на 14 млрд параметров для генерации кода и диалоговой работы с запросами о коде; она также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Контекст составляет 32 768 токенов, в метаданных указан английский язык. Модель подходит для написания, анализа и исправления кода в интерактивных сценариях. Репозиторий содержит веса safetensors и предназначен для использования с MLX. Лицензия — Apache-2.0. README описывает конверсию из базовой модели, поэтому её характеристики и возможности основаны на Qwen2.5-Coder-14B-Instruct.

unsloth/Qwen2.5-Coder-1.5B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-Coder, разработанной командой Qwen. Модель предназначена прежде всего для генерации, анализа и исправления исходного кода, задач code completion и fill-in-the-middle, а также для построения кодовых агентов. Это базовая модель после предварительного обучения, поэтому она не рекомендуется для непосредственного использования в диалогах без дополнительного дообучения или постобучения. Модель относится к causal language models и использует архитектуру на базе transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV-слоях внимания и связанными эмбеддингами слов. Она содержит около 1,54 млрд параметров, включая 1,31 млрд параметров без учёта эмбеддингов, 28 слоёв и групповое запросное внимание с 12 головами Q и 2 головами KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN. В README указан английский язык и библиотека Transformers. К сильным сторонам относятся компактный размер, сниженные требования к памяти благодаря 4-битному представлению и специализация на программном коде при сохранении математических и общих языковых способностей базовой серии Qwen2.5-Coder. Ограничения включают отсутствие instruction tuning, потенциально менее стабильное диалоговое поведение и возможное ухудшение производительности на коротких текстах при включении статического масштабирования YaRN. Модель распространяется по лицензии Apache-2.0.

QuantFactory/Qwen2.5-Coder-1.5B-GGUF — квантизированная версия модели Qwen2.5-Coder-1.5B, подготовленная QuantFactory с использованием llama.cpp. Базовая модель разработана командой Qwen. Это авторегрессионная языковая модель для генерации, анализа и исправления программного кода, а также для задач рассуждений, математики и общих текстовых сценариев. Модель относится к типу causal language model и предназначена прежде всего для программирования; базовая версия не рекомендуется для обычного диалогового использования без дополнительного дообучения. Модель содержит 1,54 млрд параметров, из которых 1,31 млрд не относятся к эмбеддингам, и включает 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-внимании, связанные эмбеддинги слов и GQA с 12 головами для Q и 2 для KV. Заявлена поддержка контекста до 131 072 токенов; для входов свыше 32 768 токенов требуется настройка YaRN. В карточке указан английский язык, модальность — текст, формат применения — text generation. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, компактный размер и возможность локального запуска в квантизированном формате GGUF. При этом небольшое число параметров может ограничивать качество по сравнению с более крупными моделями, а статическое масштабирование YaRN способно ухудшать производительность на коротких текстах. Модель распространяется по лицензии Apache-2.0.

duyntnet/Qwen2.5-Coder-1.5B-Instruct-imatrix-GGUF — набор GGUF-квантизаций инструкционно дообученной модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen компании Alibaba Cloud. Модель относится к причинным языковым моделям и предназначена прежде всего для генерации, анализа, исправления и объяснения программного кода, а также для задач рассуждения и диалога в прикладных сценариях, включая локальные инструменты и кодовых агентов. Модель имеет архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в механизмах внимания QKV и связанными эмбеддингами слов. Она содержит около 1,54 млрд параметров, 28 слоёв и использует GQA с 12 головами для Q и 2 головами для KV. Полная длина контекста составляет 32 768 токенов. В карточке указаны английский язык и текстовая модальность; модель поддерживается клиентами и интерфейсами llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и Jan. К сильным сторонам относятся компактный размер, специализация на программном коде и поддержка GGUF-квантизаций, что делает модель подходящей для локального запуска на ограниченных ресурсах. К ограничениям относятся меньший масштаб по сравнению с более крупными моделями семейства и отсутствие в карточке подробных результатов оценки качества для конкретных квантизаций. Лицензия обозначена как other, без дополнительных условий в представленном README.

Qwen2.5-Coder-32B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой Qwen и дообученная на основе Qwen/Qwen2.5-32B для задач программирования. Это базовая модель на стадии предварительного обучения, рассчитанная на генерацию и анализ кода, его исправление, а также применение в кодовых агентах; разработчики отдельно отмечают сохранение математических и общих языковых способностей. Веса содержат около 32 млрд параметров, архитектура использует RoPE, SwiGLU, RMSNorm и grouped-query attention. Модель принимает текст и генерирует текст. В карточке указана поддержка английского языка; обучающие данные включают исходный код и текстово-кодовые данные. Метаданные задают контекст 32 768 токенов. README описывает расширение обработки длинных последовательностей до 131 072 токенов с помощью YaRN; для этого требуется соответствующая настройка, а статическое масштабирование YaRN в vLLM может ухудшать работу на коротких текстах. Модель предназначена для разработчиков, которым нужны продолжение кода, рассуждение о коде и поиск исправлений. README не рекомендует использовать базовую версию для диалогов без последующего обучения или настройки. Лицензия — Apache-2.0.

Qwen2.5-Coder-3B — базовая кодовая языковая модель, разработанная командой Qwen. Это предварительно обученная причинная трансформерная модель семейства Qwen2 с 3,09 млрд параметров, предназначенная для генерации и анализа кода, рассуждений о коде и исправления ошибок. Она также сохраняет общие языковые и математические способности базовой Qwen2.5. Модель обучалась на корпусе из исходного кода, текстово-кодовых данных и синтетических данных. Архитектура использует RoPE, SwiGLU, RMSNorm, смещение в проекциях QKV и связанные эмбеддинги слов; в ней 36 слоёв, 16 голов Q и 2 головы KV. Контекст составляет 32 768 токенов. Модель предназначена для задач продолжения кода и заполнения пропусков в коде; авторы не рекомендуют использовать базовую версию для диалогов без дополнительного постобучения. Для работы с Transformers требуется версия 4.37.0 или новее. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

Etherll/Qwen2.5-Coder-7B-Instruct-Ties — объединённая инструкционная языковая модель, созданная автором репозитория методом TIES с помощью mergekit. В качестве базовой использована Qwen/Qwen2.5-Coder-7B, а в объединение включена Qwen/Qwen2.5-Coder-7B-Instruct. Модель предназначена для диалоговой генерации текста и помощи с программным кодом: она может генерировать, анализировать и исправлять код, а также отвечать на запросы в формате чата. Архитектура — плотная Qwen2, 7,1 млрд параметров; нативный контекст — 32 768 токенов. Репозиторий содержит веса safetensors, а метаданные указывают библиотеку Transformers и интерфейс для вызова инструментов. Карточка не приводит результаты оценки качества или перечень поддерживаемых языков программирования. Лицензия в предоставленных данных не указана; сведения о ней следует проверить на странице репозитория.

Qwen2.5-Coder-7B-Q4_K_M-GGUF — это квантизированная версия базовой модели Qwen/Qwen2.5-Coder-7B, преобразованная в формат GGUF с использованием llama.cpp и сервиса GGUF-my-repo. Модель опубликована в репозитории AIronMind и предназначена для локального запуска через llama.cpp. Модель ориентирована на генерацию текста и работу с программным кодом: её можно использовать для написания, дополнения и объяснения кода, а также для интерактивного применения через командную строку или серверный API llama.cpp. Указанный размер базовой модели — 7B параметров. Формат квантизации — Q4_K_M, что рассчитано на более экономичное использование памяти по сравнению с полной версией модели. В метаданных указан английский язык; другие языки и мультимодальные возможности не заявлены. Для запуска поддерживаются macOS и Linux при наличии установленного llama.cpp; возможна аппаратная настройка, включая CUDA для Nvidia GPU. В примере сервера используется контекст 2048 токенов, однако максимальный размер контекста в карточке явно не указан. Модель распространяется по лицензии Apache-2.0. Ограничения и подробные характеристики унаследованной базовой модели в этой карточке не описаны; для них рекомендуется обращаться к оригинальной документации Qwen/Qwen2.5-Coder-7B.

Qwen3.5-4B-Safety-Thinking — языковая модель для генерации текста, разработанная Merlin Research на основе Qwen/Qwen3.5-4B. Она предназначена для безопасных ассистентов и чат-ботов, задач со строгим соблюдением инструкций, исследований в области AI alignment и безопасности, тестирования устойчивости, а также агентских сценариев, где важны предсказуемость и контролируемость поведения. Модель содержит около 4 млрд параметров и обучена методом LoRA-based supervised fine-tuning (SFT) с последующим объединением в BF16-чекпойнт. Она поддерживает формат рассуждений <think>...</think>, предназначенный для отделения процесса рассуждения от финального ответа. Заявлена возможность работы с контекстом до 1 млн токенов, однако подробности реализации этого режима не приведены. Указан английский язык. Обучение проводилось на закрытых наборах данных Merlin Research с применением подходов для повышения надёжности рассуждений, следования инструкциям, безопасности и снижения misalignment, включая framework Bloom&Petri. К сильным сторонам относятся структурированное рассуждение, следование ограничениям, безопасность, устойчивость к распространённым adversarial inputs и согласованность ответов. Ограничения включают отсутствие опубликованных подробных результатов оценки, неполную информацию о поддерживаемых языках и активную разработку и валидацию GGUF-артефактов; для стабильной работы рекомендуется BF16 Transformers checkpoint. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Omnimerge-v4 — мультимодальная модель для диалога, программирования, рассуждений и работы с изображениями, созданная ManniX-ITA. Это слияние базовой Qwen/Qwen3.6-27B и трёх её дообученных вариантов методом DARE-TIES Omnimerge v2; в архитектуре Qwen3.5 используется плотная модель с условной генерацией. В репозитории указаны веса safetensors, библиотека Transformers и лицензия Apache-2.0. Модель принимает текст и изображения и генерирует текст; README также описывает отдельную MLX-VL-сборку для работы с изображениями и видео. В карточке приведены результаты тестов на генерации кода и вопросах научного уровня, но они зависят от конфигурации оценки. Автор сообщает о 27 млрд параметров для базовой модели; параметры контекста этой версии в предоставленных данных не приведены. README описывает уязвимость исходного слияния к небольшим изменениям MLP, влияющим на выдачу reasoning-тегов; в этой версии MLP сохранены от базовой модели. Указано, что это ограничивает часть улучшений в задачах программирования. Для запуска с поддержкой зрения в GGUF требуется совместимый mmproj-проектор; лицензия репозитория — Apache-2.0.

Qwen3.8-27B-Uncensored-W4A16-AutoRound — квантизированная версия модели Qwen3.8-27B-Uncensored от orcarouter, созданная с использованием Intel AutoRound. Она основана на Qwen/Qwen3.8-27B и представляет собой abliterated-производную с существенно удалённым защитным выравниванием. Модель предназначена для исследовательских задач, включая интерпретируемость, исследования безопасности ИИ, red teaming, оценку моделей и интеграцию в собственные защищённые системы. Модель поддерживает работу с текстом и изображениями, языки English и Chinese, а также контекст до 262 144 токенов. Используется архитектура Qwen3.8 с сохранённой vision tower и MTP-головой для speculative decoding. Квантизация W4A16 выполнена методом AutoRound: основные линейные слои используют 4-битные веса и 16-битные активации, а vision tower, lm_head, embed_tokens и отдельные проекции GatedDeltaNet сохранены в bf16. Для запуска рекомендуется vLLM; заявлены показатели 0,9052 на GSM8K, 0,761 на MMLU-Pro и 0,880 на MMLU. Сильными сторонами являются большой контекст, поддержка изображений, сниженные требования к памяти по сравнению с полноразмерной моделью и сохранение значительной части исходных возможностей после квантизации. Ограничения включают возможное снижение качества из-за квантизации и abliteration, а также отсутствие эффективных встроенных защитных механизмов: модель может выполнять вредоносные, незаконные или неэтичные запросы. Её не следует предоставлять конечным пользователям без собственной системы безопасности. Лицензия — Apache-2.0; ответственность за использование и последствия вывода несёт пользователь.

Qwen3-Coder-30B-A3B-Instruct-AWQ — квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанная сообществом dark-side-of-the-code. Модель предназначена прежде всего для генерации и редактирования программного кода, агентных сценариев с вызовом инструментов и других задач text generation. Указана поддержка английского языка и библиотеки Transformers. Это Mixture-of-Experts-модель с 128 экспертами, из которых для каждого токена активируются 8. Она использует внимание GQA и имеет 30B параметров при обозначении активной части как A3B. Данная версия сжата методом AWQ в формате W4A16 с 4-битными весами, размером группы 128 и занимает около 15,5 ГБ, что позволяет запускать её на одной видеокарте с 24 ГБ памяти. Базовая модель поддерживает контекст до 262K токенов, однако для 24 ГБ GPU практическим ограничением указано 64K токенов. Сильные стороны модели — эффективный запуск на потребительских GPU, корректная генерация кода, работа с tool calls через parser qwen3_coder в vLLM и пригодность для локальных агентных циклов чтения, редактирования и тестирования. Ограничения связаны с потерями и компромиссами квантизации, практическим ограничением контекста при запуске на 24 ГБ GPU и заявленной языковой поддержкой только английского. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-NVFP4 — это квантизированная в формате NVFP4 версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанная на базе модели Qwen. Квантизация выполнена с использованием llm-compressor версии 0.8.1 по официальному примеру для Qwen3-30B-A3B. Модель предназначена прежде всего для генерации и обработки программного кода, а также выполнения инструкций общего назначения. Для калибровки квантизации использованы 512 примеров: 336 образцов кода из CodeSearchNet на Python, JavaScript, Java, Go, PHP и Ruby и 176 инструкционных примеров из UltraChat. Длина последовательности при калибровке увеличена до 4096 токенов. Архитектура указана как MoE, общий размер модели — 30B параметров, из которых активируется около 3B параметров. Ключевое преимущество модели — сниженное потребление памяти и потенциально высокая скорость инференса благодаря NVFP4-квантизации, с настройками калибровки, адаптированными для задач программирования. Ограничения включают возможные сложности запуска в vLLM, необходимость совместимого GPU с архитектурами SM100 или SM120 и компиляции FP4-ядер; для RTX 5090 также возможны высокие требования к оперативной памяти при компиляции. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-GGUF — инструкция-ориентированная текстовая модель для генерации кода и работы с запросами на естественном языке. Базовую модель Qwen3-Coder-30B-A3B-Instruct разработала команда Qwen, а представленные файлы в формате GGUF подготовлены и квантизированы TensorBlock. Модель предназначена для локального запуска и совместима с llama.cpp начиная с указанного коммита. Доступны варианты квантизации от Q2_K до Q5_0 с размером файлов примерно от 11,3 до 21,1 ГБ. В README указано обозначение 30B-A3B, однако подробности архитектуры, число активных параметров, поддерживаемые языки, контекстное окно и мультимодальные возможности не описаны. Варианты квантизации позволяют выбирать между меньшим потреблением памяти и качеством; рекомендуемым назван Q4_K_M как сбалансированный по размеру и качеству, тогда как Q2_K и некоторые Q3-варианты имеют существенные потери качества. Модель подходит для программирования, генерации и редактирования кода, а также для локальных приложений, использующих текстовую генерацию. Ограничения связаны с потерями качества при низкой квантизации и отсутствием в предоставленных данных сведений о производительности, языковом покрытии и максимальной длине контекста. Распространение заявлено по лицензии Apache-2.0.

Это GGUF-квантизованная версия языковой модели OmniCoder-9B, разработанной Tesslate и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и кода, включая агентские сценарии и задачи программирования. Доступна для запуска через llama.cpp и совместимые приложения, в том числе LM Studio, koboldcpp, Jan AI и Text Generation Web UI. Модель содержит около 9 млрд параметров и распространяется в вариантах от BF16 до различных форматов квантизации Q2–Q8 и IQ. Квантизация выполнена с использованием imatrix; варианты различаются размером файла, требованиями к памяти и качеством, при этом в README рекомендуются некоторые форматы Q4–Q6 как баланс качества и ресурсоёмкости. Заявлен английский язык, однако сведения о контекстном окне, точной архитектуре и поддерживаемых модальностях отсутствуют. В качестве ориентира приведены результаты на AIME 2025: pass@1 — 83,8%, pass@3 — 86,4% и pass@5 — 90,0%, но методика оценки подробно не описана. Сильными сторонами являются широкий выбор уровней квантизации и возможность локального запуска на различном оборудовании. Ограничения включают потенциальное снижение качества в младших вариантах квантизации, зависимость совместимости от обновлений используемых инструментов и отсутствие подробных данных о контекстной длине и языковых возможностях сверх заявленного английского. Лицензия модели — Apache-2.0.

WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B-GGUF — это набор GGUF-квантизаций модели WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B, разработанной WhiteRabbitNeo и подготовленной пользователем bartowski. Модель предназначена для генерации текста и решения задач, связанных с программированием; в карточке указаны английский язык, библиотека Transformers и тег code. Доступны варианты для локального запуска через llama.cpp и LM Studio. Модель относится к семейству Qwen-2.5-Coder и имеет размер 7B параметров. В репозитории представлены версии от F16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ4_XS, включая варианты, оптимизированные для ARM. Квантизация выполнена с использованием imatrix на базе llama.cpp; размеры файлов составляют примерно от 4,09 до 15,24 ГБ. Рекомендуемые варианты обеспечивают компромисс между качеством и требованиями к памяти, а Q6_K_L и Q6_K описаны как близкие к исходному качеству. Сильная сторона модели — широкий выбор квантизаций для локального запуска на оборудовании с разным объёмом памяти. Ограничения включают возможное снижение качества в низкобитных вариантах, отсутствие сведений о размере контекста, точной архитектуре, дополнительных языках и мультимодальных возможностях. Лицензия — Apache-2.0.

Moritz Laurer разработал эту компактную модель для классификации текста без заранее заданного набора классов: пользователь передаёт текст и варианты меток, а модель оценивает их соответствие. Это дообученная на задачах естественного языкового вывода (NLI) модель на базе Microsoft XTREME-Distil, с архитектурой BERT и 14,1 млн параметров по метаданным. Модель принимает текст и выдаёт оценки классов; максимальная длина контекста — 512 токенов. Модель рассчитана на быстрый запуск на устройствах с ограниченными ресурсами и в браузере, в том числе через Transformers.js. Карточка приводит точность на наборах данных, использованных при обучении, но не содержит отдельной оценки zero-shot качества; автор отмечает, что модель работает менее точно, чем более крупные варианты. Лицензия — MIT.

Yi-Coder-9B-Chat-GGUF — это квантизированная версия чат-модели Yi-Coder-9B-Chat, разработанной 01.AI и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена прежде всего для генерации и обсуждения программного кода в диалоговом режиме; запуск поддерживается через llama.cpp и приложения, совместимые с GGUF, включая LM Studio. Модель содержит около 9 миллиардов параметров и доступна в вариантах от F16 до низкобитных квантований Q2–Q8 и IQ. Квантизация с imatrix позволяет выбирать баланс между качеством, размером файла и требованиями к памяти: рекомендуются, в частности, варианты Q4–Q6, а версии Q3 и ниже рассчитаны на системы с ограниченным объёмом RAM, но обеспечивают более низкое качество. Для работы используется специальный шаблон чата с ролями system, user и assistant; в README также указано исправление токенизатора. В карточке не приведены точные сведения о поддерживаемых языках, длине контекста, архитектуре трансформера, мультимодальности и сравнительных результатах. Модель является текстовой и ориентирована на сценарии программирования, однако конкретные возможности зависят от выбранного варианта квантования. Лицензия — Apache-2.0.

QuantFactory/Codestral-22B-v0.1-GGUF — квантизированная версия Codestral-22B-v0.1, разработанной Mistral AI и преобразованной с использованием llama.cpp. Модель предназначена для генерации и анализа программного кода, включая ответы на вопросы по фрагментам кода, написание документации, объяснение, рефакторинг и создание кода по заданным требованиям. Также она поддерживает режим Fill-in-the-Middle (FIM), предсказывающий пропущенные токены между префиксом и суффиксом, что подходит для интеграции в редакторы кода и инструменты разработки. Модель обучена на данных, охватывающих более 80 языков программирования, включая Python, Java, C, C++, JavaScript и Bash. Она относится к классу text-generation, имеет размер 22B параметров и распространяется в формате GGUF; конкретные варианты квантования и размер контекста в README не указаны. Модель ориентирована на текстовые задачи программирования и не описана как мультимодальная. Ключевые преимущества — широкий охват языков программирования, поддержка как инструктивного режима, так и FIM, а также пригодность для локального использования через совместимый стек llama.cpp. Ограничение заключается в отсутствии встроенных механизмов модерации, поэтому при применении в продуктивных или публичных системах необходимы собственные меры контроля вывода. Указана лицензия MNPL-0.1; условия следует уточнять в тексте лицензии Mistral AI.

mlx-community/conikeec-deepseek-coder-6.7b-instruct — конвертированная в формат MLX версия модели DeepSeek Coder 6.7B Instruct, созданная сообществом mlx-community на основе deepseek-ai/deepseek-coder-6.7b-instruct. Это плотная авторегрессионная языковая модель семейства Llama с 6,6 млрд параметров и контекстом до 16 384 токенов, предназначенная для генерации текста в диалоговом формате и задач программирования. Репозиторий содержит веса safetensors; для запуска через MLX README указывает библиотеку mlx-lm. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с карточкой исходной модели.

DeepSeek-Coder-V2-Instruct-FP8 — квантизированная версия DeepSeek-Coder-V2-Instruct, разработанная Neural Magic. Это текстовая causal language model с текстовым вводом и выводом, предназначенная для коммерческого и исследовательского использования, прежде всего в сценариях ассистентского чата на английском языке. Модель ориентирована на задачи генерации и обработки кода; в README также приведён результат 88,98 на бенчмарке HumanEval+. В модели применена FP8-квантизация весов и активаций линейных операторов внутри transformer-блоков. Используется симметричная поканальная для всего тензора квантизация с единым линейным масштабированием; экспертные gate-модули сохранены в исходной точности. Переход с 16 на 8 бит примерно вдвое уменьшает размер на диске и требования к памяти GPU: модель может загружаться на 4 GPU H100 вместо 8. Версия подготовлена для инференса через vLLM версии 0.5.2 и новее; в примере конфигурации указана максимальная длина контекста 4096 токенов. К сильным сторонам относятся снижение потребления памяти и возможность более доступного развертывания при сохранении сопоставимого качества с исходной моделью. Ограничения включают заявленную поддержку только английского языка, необходимость совместимого окружения vLLM и GPU-инфраструктуры, а также отсутствие в README сведений о точном числе параметров и полной мультиязычной поддержке. Модель распространяется по лицензии deepseek-license; условия следует уточнять в тексте лицензии DeepSeek.

GPT-5.1-Codex Mini — языковая модель OpenAI, облегчённая и более экономичная версия GPT-5.1-Codex с меньшими возможностями. Она предназначена для задач программирования и длительных агентных рабочих процессов, например написания и изменения кода с использованием инструментов. Модель поддерживает текст на входе и выходе, а также изображения на входе; контекстное окно составляет 400 000 токенов, максимальный объём ответа — 128 000 токенов. Поддерживаются рассуждения, вызов функций и структурированный вывод. Данные о конкретной архитектуре и списке поддерживаемых языков в использованных источниках не приводятся. Модель доступна через API OpenAI; условия доступа и использования определяются условиями сервиса OpenAI.

cyankiwi/KAT-Coder-V2.5-Dev-AWQ-INT4 — квантованная версия модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot и опубликованной cyankiwi. Модель предназначена для генерации кода и агентного программирования, включая сценарии с использованием инструментов. Открытые веса совместимы с Hugging Face Transformers, vLLM, SGLang и KTransformers. Это текстовая MOE-модель с общим числом параметров 35 млрд и примерно 3 млрд активируемых параметров. Визуальные и мультимодальные компоненты в открытой версии отсутствуют. В README указана поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Размер файлов модели составляет 24,43 ГБ; вариант AWQ-INT4 ориентирован на более экономичное размещение и запуск по сравнению с полноразмерными весами. К сильным сторонам относятся заявленная высокая производительность в задачах Agentic Coding среди моделей сопоставимого масштаба, а также снижение ряда аномальных поведений после SFT- и RL-обучения, включая некорректные метки инструментов и повторения в одном диалоге. Ограничения включают текстовый характер модели и отсутствие мультимодальности; конкретное максимальное окно контекста в предоставленных данных не указано. Лицензия — Apache-2.0.

Magic-Dolphin-7b — языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная автором репозитория методом линейного слияния Dolphin 2.6 Mistral 7B DPO Laser, Hyperion 1.5 Mistral 7B и Merlinite 7B. Модель предназначена для генерации текста и ответов на технические вопросы; README сообщает о проверке нескольких весовых соотношений и приводит результаты бенчмарков рассуждения, знаний и решения задач. Для общения используется шаблон Alpaca, контекст составляет 32 768 токенов. Модель принимает текст и выдаёт текст. В метаданных отмечена поддержка генерации кода, однако сведения о конкретных языках программирования или естественных языках не приведены. Репозиторий содержит веса Safetensors, а README указывает на отдельные GGUF-квантизации. Лицензия — Apache-2.0. Автор описывает релиз как эксперимент по объединению моделей; следующая версия, Excalibur-7b, уже выпущена.

OpenCodeReasoning-Nemotron-32B-GGUF — это GGUF-квантизированная версия текстовой генеративной модели OpenCodeReasoning-Nemotron-32B, разработанной NVIDIA и подготовленной квантизатором bartowski. Модель ориентирована на задачи генерации и анализа кода, а также на другие сценарии текстовой генерации на английском языке. В README указана принадлежность к семейству моделей NVIDIA OpenCodeReasoning и датасету nvidia/OpenCodeReasoning. Модель содержит 32 миллиарда параметров и распространяется в форматах GGUF, совместимых с llama.cpp и проектами на его основе, включая LM Studio. Доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ-квантизаций. Версии Q6_K_L, Q6_K, Q5 и Q4 отмечены как обеспечивающие высокое или хорошее качество при меньшем размере, тогда как варианты Q3 экономят оперативную память ценой снижения качества. Размер файлов зависит от варианта и составляет примерно от 15,94 до 65,54 ГБ. К сильным сторонам относятся специализированная направленность на код, широкий выбор степеней квантизации и возможность локального запуска через llama.cpp или LM Studio. Ограничения включают значительные требования к памяти даже для компактных вариантов, снижение качества при сильной квантизации и отсутствие в представленном README сведений о размере контекста, архитектурных деталях, поддержке мультимодальности и производительности. Модель распространяется по лицензии Apache-2.0.

Ornith-1.5-9B-OBLITERATED — модифицированная версия модели Ornith-1.5-9B, разработанной DeepReinforce. Модель подготовлена проектом OBLITERATUS и создана с применением abliteration — хирургического удаления направлений, связанных с отказами модели. Она предназначена для генерации текста, программирования, рассуждений, агентских задач, исследований выравнивания и red teaming, где требуется менее фильтруемое поведение. Заявлена поддержка английского языка. Модель построена на гибридной архитектуре Qwen3.5 с Gated DeltaNet и полноразмерными механизмами внимания и содержит около 9 млрд параметров. Доступны веса bf16 и варианты GGUF от Q2_K до Q8_0; также указан vision encoder, однако возможности мультимодального применения в описании подробно не раскрыты. Поддерживается режим рассуждений, но для общего использования рекомендуется отключать его. Для запуска доступны Transformers и llama.cpp, рекомендуемый размер контекста в примере llama.cpp — 8192 токена. Сильной стороной является существенно сниженная склонность к отказам: в приведённых тестах модель показала высокую готовность отвечать на ограниченные запросы, сохранив результаты в генерации кода и агентских сценариях. Ограничения включают снижение MMLU примерно на 4 процентных пункта относительно базовой модели, частично ухудшенную поддержку function calling, возможные дополнительные отказы в низкобитных квантизациях и риск галлюцинаций в сложных химических и синтетических задачах. Удаление защитных механизмов повышает риски небезопасного использования, поэтому результаты требуют независимой проверки. Лицензия — MIT.

sci4ai/Qwen2.5-Coder-14B-Abliterated — доработанная sci4ai версия Qwen/Qwen2.5-Coder-14B-Instruct, созданная удалением поведения отказа с помощью направленной на активации модификации весов. Это плотная авторегрессионная модель семейства Qwen2 с 14 млрд параметров, доступная в формате Safetensors; она принимает текст и поддерживает диалоговую генерацию кода на английском языке. Контекст — до 32 768 токенов. Модель предназначена для написания, анализа и исправления кода в диалогах. Изменение затрагивает 47 из 48 слоёв и ослабляет отказы, в том числе на запросы о разработке эксплойтов, вредоносного ПО и сетевых атаках; это не отдельная специализация, гарантирующая качество или безопасность таких ответов. Лицензия — Apache-2.0.

Карточка модели chetan272006/Qwen2.5-Coder-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-3B-Instruct — инструктивно дообученная языковая модель для программирования от команды Qwen. Она предназначена для генерации, объяснения и исправления кода, рассуждений о коде и создания кодовых агентов; также сохраняет общие способности и навыки решения математических задач. Модель построена на архитектуре Qwen2 с причинным декодированием и содержит около 3,1 млрд параметров. Модель принимает текстовые инструкции и выдаёт текст, включая код. Контекстное окно составляет 32 768 токенов. В карточке указано, что обучение охватывало исходный код, связку текста и кода и синтетические данные; метаданные указывают английский язык. Для загрузки рекомендуется актуальная версия библиотеки Transformers. Репозиторий использует формат safetensors и лицензию с обозначением «other»; конкретные условия следует проверять в файлах лицензии репозитория.

Qwen2.5-Coder-7B — плотная причинная языковая модель семейства Qwen2, разработанная командой Qwen. Это базовая предварительно обученная модель на 7,1 млрд параметров, дообученная на основе Qwen/Qwen2.5-7B с упором на программный код. Она предназначена для генерации кода, рассуждений о коде и исправления ошибок, а также может служить основой для кодовых агентов и дальнейшей адаптации под прикладные задачи. Модель принимает текст и генерирует текст. Архитектура использует RoPE, SwiGLU, RMSNorm и смещение в проекциях внимания QKV; заявленная длина контекста в метаданных — 32 768 токенов. Карточка описывает возможности обработки контекста до 131 072 токенов с YaRN, но для этого нужна дополнительная настройка; постоянный коэффициент масштабирования YaRN может снижать качество на коротких входах. Разработчик не рекомендует использовать базовую модель для диалогов без постобучения. Репозиторий распространяется под лицензией Apache-2.0.