II.5Безопасность программного кода и цепочки поставок

GLM-5.3-MLX — это MLX-сборка официальной модели GLM-5.3 от Z.AI, подготовленная OrcaRouter для Apple Silicon и MLX CUDA backend. Модель предназначена для генерации текста, программирования, задач рассуждения и длительных агентских инженерных сценариев, включая анализ кода и проверку pull request. Поддерживаются английский и китайский языки. Модель использует разреженную MoE-архитектуру glm_moe_dsa с MLA и механизмом sparse attention в стиле DeepSeek с общим индексатором. Заявленный объём составляет 753 млрд параметров, из которых около 39 млрд активны одновременно; контекстное окно — до 1 млн токенов. Модель поставляется в вариантах 2-, 3-, 4- и 6-битной квантизации OrcaSAQ, причём 4-битная версия является рекомендуемой и размещена также в корне репозитория. В методе OrcaSAQ чувствительные компоненты получают повышенную точность, attention сохраняется в 8-битном формате, а индексатор DSA — в BF16. Главное преимущество сборки — существенное снижение требований к памяти при сохранении качества по сравнению с исходной FP8-версией, а также оптимизация для экосистемы MLX. Ограничением остаются чрезвычайно высокие требования к оперативной памяти: размер файлов составляет примерно 322–671 ГБ в зависимости от варианта, поэтому даже 4-битная версия требует около 480 ГБ RAM, а 6-битная не помещается на одном современном Apple Silicon компьютере. Модель распространяется по лицензии GLM-5.3; точные условия определяются файлом лицензии по указанной ссылке.

Laguna S 2.1 — языковая модель Poolside для программной инженерии и агентного выполнения длительных задач. Это текстовая модель семейства Laguna с архитектурой Mixture-of-Experts: 118 млрд параметров всего, около 8 млрд активируются на токен. В ней 48 слоёв, 256 маршрутизируемых экспертов и один общий; используются grouped-query attention и сочетание глобального внимания со скользящим окном. Контекст составляет 1 048 576 токенов. Модель предназначена для генерации и анализа кода, работы с инструментами и решения многошаговых задач разработки. Она поддерживает диалог и вызов инструментов, а также встроенный режим рассуждений, управляемый параметром enable_thinking. Для ускорения вывода доступна спекулятивная декодировка с отдельной черновой моделью DFlash. Модель принимает и выдаёт текст. В README приведены результаты на бенчмарках программирования и агентных задач, однако они не гарантируют качество в конкретном проекте. Полная BF16-версия требует нескольких GPU; квантизированные варианты снижают требования к памяти. Модель распространяется по лицензии OpenMDW-1.1, разрешающей коммерческое и некоммерческое использование и модификацию; также следует соблюдать Acceptable Use Policy Poolside.

unsloth/Qwen2.5-Coder-14B — это 14-миллиардная плотная причинно-языковая модель семейства Qwen2, дообученная на основе Qwen/Qwen2.5-Coder-14B и опубликованная Unsloth. Она предназначена для генерации кода, рассуждений о коде и исправления ошибок; также подходит для сценариев с кодовыми агентами и задач с заполнением пропусков в коде. Модель принимает текст и генерирует текст, включая программный код. Контекст составляет до 32 768 токенов; репозиторий содержит веса в формате Safetensors для Transformers. Модель специализирована на программировании и сохраняет общие языковые и математические способности базовой серии Qwen2.5-Coder. README предупреждает, что базовые модели не рекомендуются для диалогового использования без дополнительного постобучения. Модель доступна по лицензии Apache 2.0.

unsloth/Qwen2.5-Coder-3B-bnb-4bit — квантованная 4-битная версия модели Qwen2.5-Coder, разработанной командой Qwen и опубликованной в формате Unsloth. Модель относится к семейству специализированных языковых моделей для программирования и предназначена для генерации, анализа и исправления кода, а также для задач code completion и fill-in-the-middle. Это базовая модель без дообучения для диалогов, поэтому для чат-сценариев рекомендуется дополнительное обучение или использование подходящего шаблона постобработки. Архитектура основана на causal language model с RoPE, SwiGLU, RMSNorm, смещениями в QKV-проекциях внимания и связанными эмбеддингами слов. В README для данного репозитория приведены характеристики версии 0.5B: около 0,49 млрд параметров, 24 слоя, GQA с 14 головами для Q и 2 для KV, контекст до 32 768 токенов. При этом идентификатор и базовая модель указывают на вариант 3B, а точные архитектурные параметры именно 3B-версии в предоставленных данных не подтверждены. Указан английский язык; мультимодальность не заявлена. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, а также сниженные требования к памяти благодаря 4-битному представлению. Модель может применяться локально и интегрироваться в инструменты разработки, но её базовый, а не диалоговый характер ограничивает использование в роли готового чат-ассистента. Лицензия — Apache-2.0.

Qwen2.5-Coder-32B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой Qwen и дообученная на основе Qwen/Qwen2.5-32B для задач программирования. Это базовая модель на стадии предварительного обучения, рассчитанная на генерацию и анализ кода, его исправление, а также применение в кодовых агентах; разработчики отдельно отмечают сохранение математических и общих языковых способностей. Веса содержат около 32 млрд параметров, архитектура использует RoPE, SwiGLU, RMSNorm и grouped-query attention. Модель принимает текст и генерирует текст. В карточке указана поддержка английского языка; обучающие данные включают исходный код и текстово-кодовые данные. Метаданные задают контекст 32 768 токенов. README описывает расширение обработки длинных последовательностей до 131 072 токенов с помощью YaRN; для этого требуется соответствующая настройка, а статическое масштабирование YaRN в vLLM может ухудшать работу на коротких текстах. Модель предназначена для разработчиков, которым нужны продолжение кода, рассуждение о коде и поиск исправлений. README не рекомендует использовать базовую версию для диалогов без последующего обучения или настройки. Лицензия — Apache-2.0.

Jab1718/qwen3.8-flash-coder-26gb-gguf — это набор квантованных форматов GGUF модели, разработанный Jab1718 на основе Jab1718/qwen3.8-flash-coder-85gb-bf16. Модель представляет собой подсеть Mixture of Experts со 160 экспертами, выделенную из Qwen3.8-Flash-Next, и предназначена прежде всего для генерации кода, программирования, ревью, поиска ошибок, рефакторинга и работы в сценариях coding agent. Поддерживаются английский, вьетнамский и китайский языки, а запуск предусмотрен через llama.cpp и Ollama. Основной вариант Q4_K_M занимает около 26,43 ГБ и ориентирован на одну видеокарту с 24 ГБ памяти, ускорители с 32 ГБ или Mac с 32 ГБ памяти. Также доступен вариант Q8_0 размером около 42,25 ГБ, рассчитанный на две видеокарты по 24 ГБ, одну карту с 48 ГБ или Mac с 64 ГБ и более; заявлено сохранение примерно 99,5% точности BF16. Для Apple Silicon указана поддержка контекста до 64K, однако требуется актуальная версия llama.cpp с поддержкой произвольного числа экспертов. Сильные стороны модели — специализация на системном программировании, алгоритмах, многоязычной разработке и задачах исправления кода, а также существенно сниженные требования к памяти по сравнению с исходной моделью. Ограничение состоит в целевой специализации: общая математическая грамотность и задачи уровня GSM8K были намеренно сокращены. В README приведены результаты на Rust, C++20, TypeScript, coding agent и Python Algorithms, но они не заменяют независимую оценку качества. Модель распространяется по лицензии Apache 2.0.

AEON-7 Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 — дообученная версия мультимодальной модели Qwen3.6-27B с архитектурой Qwen3_5ForConditionalGeneration и 27 млрд параметров. Разработчик применил abliteration: удалил направление отказа, чтобы модель реже отказывалась и продолжала рассуждение на темах, ограничиваемых обычным выравниванием. Карточка также сообщает о восстановлении исходной MTP-головы для спекулятивного декодирования в vLLM. Модель предназначена для диалогов, генерации текста, программирования, рассуждений, агентных сценариев и задач с изображениями. В метаданных указана мультиязычная поддержка, включая английский и китайский; контекст описан как длинный, но его точная длина не приведена. Весы доступны в BF16 в формате safetensors, лицензия — Apache-2.0. Отключение отказов может привести к выдаче вредоносного или небезопасного контента, а заявления о сохранении возможностей и сравнительных преимуществах основаны на данных карточки и не являются независимой оценкой. Автор указывает, что модель устарела и рекомендует более новую линейку Qwen3.8.

Qwen3-Coder-480B-A35B-Instruct-1M — версия модели для генерации кода от команды Qwen, размещённая Unsloth. Это каузальная языковая модель с архитектурой MoE: в исходной конфигурации 480 млрд параметров, из которых активируются 35 млрд. Модель предназначена для агентного программирования, работы с инструментами и анализа больших репозиториев. По карточке, длина контекста расширена с 256 тысяч до 1 миллиона токенов. Модель принимает текстовые запросы и выдаёт текст, в том числе код; поддерживает интерфейс вызова функций и рассчитана на работу с Qwen Code и CLINE. В README указано, что доступен только режим без рассуждений (non-thinking). Модель распространяется по лицензии Apache-2.0. Метаданные указывают дообучение на Qwen/Qwen3-Coder-480B-A35B-Instruct.

Deepseek Coder 33B Instruct GPTQ — квантизированная версия языковой модели DeepSeek Coder 33B Instruct, разработанная DeepSeek и подготовленная TheBloke. Модель ориентирована на задачи программирования и компьютерных наук: генерацию, объяснение и обсуждение программного кода в формате инструкций. Согласно шаблону запросов, она предназначена прежде всего для ответов на вопросы, связанные с computer science, и может отказываться от политически чувствительных, связанных с безопасностью и конфиденциальностью, а также других вопросов вне этой области. Модель содержит 33 млрд параметров и использует архитектуру DeepSeek; README не уточняет поддерживаемые языки программирования, естественные языки, максимальный контекст и набор доступных модальностей. Репозиторий включает GPTQ-файлы с несколькими вариантами квантования, отличающимися разрядностью и параметрами group size, act order и другими настройками. Квантование позволяет адаптировать модель к различным аппаратным ограничениям, но может снижать точность по сравнению с исходной неквантизированной fp16-версией. Модель предназначена для локального GPU-инференса и совместима, в частности, с text-generation-webui, KoboldAI United, LoLLMS Web UI и Hugging Face Text Generation Inference. Указана лицензия DeepSeek с типом other и ссылкой на файл LICENSE; конкретные условия README не раскрывает, поэтому перед использованием необходимо ознакомиться с лицензией репозитория.

unsloth/Qwen2.5-Coder-1.5B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-Coder, разработанной командой Qwen. Модель предназначена прежде всего для генерации, анализа и исправления исходного кода, задач code completion и fill-in-the-middle, а также для построения кодовых агентов. Это базовая модель после предварительного обучения, поэтому она не рекомендуется для непосредственного использования в диалогах без дополнительного дообучения или постобучения. Модель относится к causal language models и использует архитектуру на базе transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV-слоях внимания и связанными эмбеддингами слов. Она содержит около 1,54 млрд параметров, включая 1,31 млрд параметров без учёта эмбеддингов, 28 слоёв и групповое запросное внимание с 12 головами Q и 2 головами KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN. В README указан английский язык и библиотека Transformers. К сильным сторонам относятся компактный размер, сниженные требования к памяти благодаря 4-битному представлению и специализация на программном коде при сохранении математических и общих языковых способностей базовой серии Qwen2.5-Coder. Ограничения включают отсутствие instruction tuning, потенциально менее стабильное диалоговое поведение и возможное ухудшение производительности на коротких текстах при включении статического масштабирования YaRN. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-Coder-32B — 32-миллиардная языковая модель семейства Qwen2, опубликованная Unsloth и основанная на Qwen/Qwen2.5-Coder-32B. Это плотная авторегрессионная модель для генерации кода и работы с текстом; карточка README описывает серию Qwen2.5-Coder, ориентированную на генерацию, анализ и исправление кода, а также задачи кодовых агентов. Модель может быть полезна разработчикам для дополнения кода, объяснения фрагментов и помощи в исправлении ошибок. Метаданные указывают контекст до 32 768 токенов, поддержку Transformers и формат весов safetensors. README предупреждает, что базовые языковые модели не рекомендуются для диалога без дополнительного постобучения. Репозиторий лицензирован по Apache-2.0.

VeriLoop E2 — открытая модель с 27 млрд параметров, разработанная Tsinghua SIGS Robot Lab и Libo Wang на основе Qwen3.8-27B и дообученная для программирования, математики и физики. Это плотная модель семейства Qwen3.5 с поддержкой диалогов и интерфейса вызова инструментов; она принимает текст и, согласно характеристикам базовой модели и тегам, изображения. Нативное окно контекста составляет 262 144 токена. Для запуска доступны веса safetensors и библиотека Transformers; README также описывает совместимый с OpenAI способ обслуживания через vLLM. Модель предназначена для инженерных задач с кодом, математического и научного рассуждения, а также сценариев с инструментами и проверкой промежуточных результатов. Подход VeriLoop-Governed Recurrence предполагает, что модель предлагает варианты решения, а внешний Harness проверяет и принимает их; рабочая реализация производственного Harness в репозитории не опубликована. В README приведены результаты на кодовых, математических и научных бенчмарках, однако они относятся к конкретной конфигурации оценки и не гарантируют аналогичных результатов в другом окружении. Модель может выдавать ошибочный код, доказательства или научные рассуждения, поэтому результаты требуют проверки. Работа с длинным контекстом зависит от конфигурации сервера и доступной памяти. Лицензия — Apache 2.0.

Winged-Lagomorph-2x13B — языковая модель для генерации текста, созданная слиянием WhiteRabbitNeo-13B-v1 и NexusRaven-V2-13B с помощью mergekit. Для обычных задач с кодом в карточке рекомендуется шаблон WhiteRabbitNeo, а для вызова функций — шаблон NR. Модель имеет архитектуру MixtralForCausalLM типа MoE, содержит 12,9 млрд параметров и поддерживает контекст до 16 384 токенов. В карточке приведён пример генерации скрипта на pwntools для переполнения буфера. Модель предназначена для генерации текста и кода, а метаданные также указывают поддержку классификации текста. Используется лицензия Llama 2.

Это квантованная версия MiMo-V2.6-Distill-Qwen-9B от Xiaomi MiMo, подготовленная FreedomAISVR в формате GGUF MXFP4 для запуска через llama.cpp. Исходная модель — дообученная методом SFT мультимодальная модель на 9 млрд параметров на основе Qwen3.5-9B; репозиторий распространяет её веса в более компактном формате. Модель сочетает слои Mamba-2 и полного внимания, включает визуальный энкодер и поддерживает контекст до 262 144 токенов. Для обработки изображений и видео требуется отдельный файл mmproj. Модель предназначена для агентного программирования и инженерии ПО, работы с инструментами и автоматизацией, анализа интерфейсов и изображений, связанных с кодом, а также задач кибербезопасности. README приводит результаты Xiaomi на кодовых бенчмарках, но они не были независимо проверены для этой сборки. Это исследовательская SFT-модель, представленная как отправная точка для дальнейшего обучения агентному поведению, а не как готовое производственное решение. Лицензия — MIT. К известным ограничениям относятся отсутствие весов MTP, включённый по умолчанию режим рассуждения и высокая потребность в памяти KV-кэша при длинном контексте. MXFP4 снижает точность представления весов; на GPU, отличных от NVIDIA Blackwell, производительность может быть ниже. Данных о поддерживаемых естественных языках в использованных источниках нет.

sillykiwi опубликовал слитую с помощью merge-lora модель на основе RevEng-24-25/Qwen2.5-Coder-7B-Instruct-Ghidra-v2 и семейства Qwen2.5-Coder. Это причинная языковая модель с архитектурой Qwen2ForCausalLM, предназначенная для генерации кода и диалоговой работы с запросами о коде; README также указывает на возможности рассуждения и исправления ошибок в коде. Модель содержит около 7,1 млрд параметров по метаданным, использует формат safetensors и рассчитана на контекст 32 768 токенов. README описывает базовую серию Qwen2.5-Coder-7B-Instruct как модель с RoPE, SwiGLU, RMSNorm и групповым вниманием; для базовой модели приведена длина контекста 131 072 токена с настройкой YaRN для длинных входов. Эти характеристики относятся к описанию базовой модели и не подтверждают, что у данной публикации контекст превышает 32 768 токенов. Модель подходит для помощи при написании, анализе и отладке кода. Лицензия — Apache-2.0; README отмечает, что для базового семейства рекомендуются актуальные версии Transformers, а масштабирование контекста может ухудшить работу на коротких входах.

Aazhi-Coder-1.5B — компактная модель для генерации и анализа кода в диалоговом формате, разработанная Prannesshkva на основе Qwen2.5-Coder-1.5B-Instruct с архитектурой памяти ISOM-R2. В карточке заявлена обработка длинных контекстов до 1 048 576 токенов с потоковой подачей фрагментов и ограниченным использованием памяти; метаданные указывают нативный контекст 131 072 токена. Модель содержит 1,5 млрд параметров, принимает текст и выдаёт текст. Модель предназначена для вопросов по большим репозиториям, поиска межфайловых зависимостей, анализа и исправления кода, а также генерации кода. README приводит бенчмарк на корпусе исходников Transformers, однако заявленные показатели скорости и использования видеопамяти относятся к описанному сценарию и не гарантируют такую же производительность на других данных и оборудовании. Модель распространяется под лицензией CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных версий.

Blue-Rose-Coder-12.3B-Instruct — объединённая инструкционная языковая модель для работы с программным кодом. Она создана с помощью LazyMergekit на основе Qwen/Qwen2.5-Coder-7B-Instruct и WhiteRabbitNeo/WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B; в README исходные модели перечислены повторно. Архитектура — плотная Qwen2ForCausalLM, объём — 11,7 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации кода и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors. Лицензия модели в предоставленных данных не указана. Базовая Qwen-модель описана как пригодная для генерации, анализа и исправления кода; отдельные результаты оценки Blue-Rose-Coder в карточке не приведены.

Devstral 2 2512 — инструкция-настроенная языковая модель Mistral для агентной разработки программного обеспечения. Она предназначена для помощников программиста и инженерных агентов, которым нужно разбираться в кодовой базе, использовать инструменты и редактировать несколько файлов. В README заявлены результаты на SWE-bench и улучшенное обобщение на разные запросы и среды разработки. Модель имеет плотную архитектуру Ministral 3, около 123,4 млрд параметров и контекст до 262 144 токенов. Она принимает текстовые запросы и генерирует текст, включая ответы и вызовы инструментов. Для запуска README рекомендует vLLM, также упоминаются SGLang и Transformers; метаданные указывают библиотеку vLLM и формат safetensors FP8. Модель подходит для интеграции в кодовые помощники и CLI-агенты, а также для анализа длинных контекстов проекта. README советует использовать API Mistral, если локальный запуск работает неудовлетворительно. Лицензия в метаданных обозначена как other; конкретные условия использования в предоставленных данных не раскрыты.

Qwen2.5-Coder-0.5B — базовая предварительно обученная языковая модель для работы с кодом, разработанная командой Qwen. Это причинная языковая модель семейства Qwen2: плотная архитектура Qwen2ForCausalLM с 494 млн параметров и контекстом до 32 768 токенов. В README указаны RoPE, SwiGLU, RMSNorm, смещение в QKV-внимании и связанные эмбеддинги слов; модель содержит 24 слоя и использует GQA. Модель предназначена для генерации и анализа кода, рассуждений о коде, исправления ошибок и задач заполнения фрагментов кода. Она также сохраняет общие языковые и математические возможности базовой Qwen2.5 и может служить основой для дальнейшего дообучения и создания кодовых агентов. Разработчик не рекомендует использовать базовую версию для диалога без постобучения. Модель распространяется по лицензии Apache-2.0.

SWE-Dev-32B-GGUF — это GGUF-квантизированная версия модели SWE-Dev-32B, основанной на Qwen2.5-Coder-32B-Instruct. Модель разработана командой THUDM для задач программной инженерии и создания открытых агентных систем, а GGUF-файлы подготовлены Mungert с использованием llama.cpp. Она предназначена для генерации и анализа кода, локализации ошибок, работы с GitHub-репозиториями, создания тестов и решения задач, связанных с разработкой программного обеспечения. Модель относится к текстовым autoregressive-моделям для генерации текста и кода; её размер базовой модели — 32 миллиарда параметров. Формат GGUF ориентирован на запуск через llama.cpp и совместимые инструменты, в том числе на локальных системах. В README не указаны поддерживаемые языки, размер контекстного окна и конкретные варианты квантования. Автор применяет дополнительное повышение точности отдельных важных слоёв, что, по его утверждению, может улучшать качество при низкой разрядности ценой увеличения размера файла. В исходной карточке SWE-Dev-32B заявлен результат 36,6% на SWE-bench-Verified при масштабировании вывода до 75 раундов; это указывает на пригодность модели для агентных сценариев разработки, но не гарантирует аналогичные результаты в каждом окружении. Ограничениями являются возможная потеря качества из-за квантования, повышенные требования к ресурсам по сравнению с меньшими моделями и отсутствие в README подробных сведений о производительности, языках и контексте. Указанная лицензия — MIT.

CodeShell-7B — базовая языковая модель для программирования, разработанная Лабораторией знаний и вычислений Пекинского университета совместно с командой ИИ Сычуаньского Тяньфу Банка. Модель содержит 7 млрд параметров и обучена с нуля на 500 млрд токенов. В основе — архитектура GPT-2 с Grouped-Query Attention и позиционным кодированием RoPE; окно контекста составляет около 8 тыс. токенов. Репозиторий содержит веса в формате Safetensors. Модель предназначена для генерации и продолжения кода, в том числе с заполнением пропусков в середине фрагмента (Fill-in-the-Middle). Она ориентирована на помощь при разработке ПО: карточка также описывает сценарии поиска дефектов, их исправления и генерации тестов. Авторы сообщают о результатах на HumanEval и MBPP и указывают поддержку многоязычного кода; сопутствующие плагины для VS Code и IntelliJ доступны отдельно. Карточка не содержит сведений о лицензии, поэтому условия использования по ней определить нельзя. Авторы предупреждают о необходимости соблюдать требования безопасности и законодательства и не применять модель в интернет-сервисах без надлежащей проверки и регистрации. Как и другие генеративные модели кода, она может выдавать неверный или небезопасный код; результаты следует проверять.

Dark-Pane-i1-GGUF — набор квантованных файлов модели Dark-Pane, базовая модель которой разработана mars2titan. Квантизацию выполнил mradermacher в формате GGUF с использованием imatrix-квантов. Модель относится к семейству Gemma и помечена как экспериментальный исследовательский проект. Модель предназначена для генерации текста, а также для задач анализа отказов, red teaming, исследований безопасности и alignment. README указывает, что это vision-модель, поэтому для работы с изображениями могут потребоваться дополнительные файлы mmproj из статического репозитория. Заявленный язык — английский. Размер модели и контекстное окно не указаны. Доступны варианты квантизации от крайне компактных IQ1 и IQ2 до IQ6_K; объём файлов составляет примерно от 3,1 до 9,9 ГБ. Компромисс между размером, скоростью и качеством зависит от выбранного варианта: README рекомендует Q4_K_M как быстрый вариант, а Q4_K_S называет оптимальным по размеру, скорости и качеству. Низкобитные варианты могут заметно уступать по качеству, а сама модель имеет экспериментальный статус. Лицензия указана как Gemma.

Gemma-4-12B-OBLITERATED-GGUF — набор квантованных GGUF-файлов модели Gemma-4-12B-OBLITERATED, разработанной OBLITERATUS и подготовленной к квантованию пользователем mradermacher. Модель предназначена для генерации текста, а также сценариев исследования безопасности, выравнивания, анализа отказов и red teaming. В метаданных указан английский язык. Размер базовой модели — 12B параметров; сведения об архитектуре, максимальном контексте и поддерживаемых модальностях не предоставлены. Репозиторий предлагает варианты квантования Q2_K, Q3_K, IQ4_XS, Q4_K, Q5_K, Q6_K и Q8_0 размером примерно от 4,9 до 12,8 ГБ, что позволяет выбирать между требованиями к памяти, скоростью и качеством генерации. Для Q4_K_S и Q4_K_M заявлена высокая скорость, для Q6_K — очень хорошее качество, а Q8_0 обозначен как вариант с лучшим качеством. Ограничениями являются возможная потеря качества в низкобитных вариантах, отсутствие опубликованных результатов тестирования и неполные сведения о контексте и возможностях модели. Использование регулируется лицензией Gemma.

Granite-3B-Code-Base-2K — авторегрессионная языковая модель для работы с кодом, разработанная IBM Research и обученная с нуля. Модель семейства Granite использует плотную decoder-only архитектуру LlamaForCausalLM, содержит 3,5 млрд параметров и поддерживает контекст до 2048 токенов. Модель предназначена для генерации и объяснения кода, исправления ошибок, создания модульных тестов и документации, поиска уязвимостей, устранения технического долга и перевода кода. При обучении использовались данные на 116 языках программирования, а также текстовые и математические данные для улучшения рассуждений и следования инструкциям. IBM указывает, что модель не рекомендуется для новых проектов и доступна для исторических и научных целей; для новых приложений предлагаются более свежие модели Granite. Модель не проходила выравнивание безопасности, а сгенерированный код может быть ошибочным или небезопасным. Лицензия — Apache 2.0.

Tyr-4B-v0.1 — языковая модель, созданная автором trollek путём обучения LoRA-адаптеров и их объединения методом DELLA. Модель основана на trollek/LittleInstructionMaker-4B-v0.2; её плотная архитектура Llama содержит 3,8 млрд параметров, а контекст составляет 8192 токена. В репозитории представлены веса safetensors. Модель предназначена для диалоговой генерации текста, в том числе для задач, связанных с кодом и данными WhiteRabbitNeo. Она обучена с шаблоном ChatML и может использоваться с системным сообщением или без него. В карточке заявлено, что модель может выдавать контент без цензурных ограничений; отдельные показатели качества не приведены. Модель распространяется по лицензии Apache-2.0. Это ранняя версия v0.1; возможности и качество для конкретных задач следует проверять на собственных примерах.

AlchemistCoder-L-7B — языковая модель для генерации кода из семейства Llama, представленная авторами исследования AlchemistCoder. Модель дообучена на разнородных источниках данных: авторы описывают 200 млн токенов шести типов данных, согласование инструкций с ответами с помощью AlchemistPrompts и включение задач на понимание кода, фильтрацию данных и ревью кода. Модель предназначена для генерации кода по инструкциям и улучшения работы с задачами программирования. Также авторы сообщают об оценке общих возможностей на MMLU, BBH и GSM8K. Размер по метаданным — 6,6 млрд параметров, контекст — до 16 384 токенов; архитектура — плотная LlamaForCausalLM. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией Apache-2.0. README сообщает о результатах на кодовых бенчмарках, но не приводит подробностей по поддерживаемым языкам программирования, отдельным языкам общения или практическим ограничениям качества.

OpenGCM-v2 — модель с 9 млрд параметров от NitrAI, дообученная на базе Qwen/Qwen3.5-9B для рассуждений, программирования и агентных сценариев. В карточке заявлено окно контекста базовой модели до 262 тыс. токенов; модель представлена в формате safetensors, поддерживает чат и интерфейс вызова инструментов. Для обучения использовался DoRA, а данные включали 597 примеров с трассами работы кодовых агентов, математическими рассуждениями и системным анализом, дистиллированными из ответов нескольких крупных моделей. Модель предназначена для пошагового решения математических задач, анализа кода и проверки исправлений, а также выполнения многошаговых инструкций и агентных задач с инструментами. В README приведены результаты на небольших наборах задач, поэтому они не дают надёжной оценки обобщающего качества. Автор отмечает возможный сдвиг контекста и нестабильность при очень длинной генерации; рекомендуются низкая температура и структурированные системные подсказки. Модель помечена как устаревшая, автор рекомендует перейти на Polaris. Лицензия — Apache-2.0.

OS-Software/Gemma-4-26B-A4B-it-qat-q4_0-unquantized-uncensored-heretic-v2 — экспериментальная производная Gemma 4, предназначенная для исследований безопасности, выравнивания и red teaming. Модель основана на google/gemma-4-26B-A4B-it и дообучена; по метаданным, она использует архитектуру Gemma 4, библиотеку Transformers и формат safetensors. Лицензия — Apache-2.0. Модель принимает изображения вместе с текстом и выдаёт текст: она подходит для диалога, анализа изображений и документов, распознавания текста на изображениях, понимания графиков и интерфейсов, а также программирования и агентных сценариев. Базовая карточка Gemma 4 указывает поддержку более 35 языков и контекст до 256 тысяч токенов для варианта 26B A4B; эти характеристики относятся к семейству и не подтверждены отдельно для этой производной модели. Карточка рекомендует использовать модель только для исследований и экспериментов, избегая публичного и пользовательского развёртывания. Возможны предвзятость, ошибки фактов и трудности с неоднозначными или сложными запросами; языковые нюансы могут быть поняты неверно.

JanusCoder-14B-GGUF — это набор квантизированных версий языковой модели JanusCoder-14B, разработанной internlm и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена прежде всего для генерации и работы с исходным кодом, а также для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 до 2-битных и 8-битных квантований, размер файлов составляет примерно от 6,5 до 29,5 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, тогда как компактные варианты требуют меньше оперативной памяти, но заметно уступают по качеству. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M, Q6_K или близкие к ним. В README не указаны архитектура, поддерживаемые языки, длина контекста, дополнительные модальности и точные характеристики исходной модели. Модель удобна для локального инференса на совместимом оборудовании и выбора компромисса между качеством, скоростью и потреблением памяти. Ограничения включают возможное снижение качества при сильном квантовании, отсутствие явно указанного chat template и необходимость проверить настройки исходной модели. Лицензия в предоставленных данных не указана.

DeepSeek-V4-Pro-0813 — официальная версия модели DeepSeek-V4-Pro, разработанная DeepSeek AI. Она заменяет предварительный выпуск и ориентирована на задачи с агентами, включая использование инструментов, автоматизацию, разработку программного обеспечения, работу в терминале, кибербезопасность и полнофункциональную разработку. По данным README, модель особенно улучшена для производственных сценариев и демонстрирует высокие результаты в тестах агентских и coding-agent задач. Модель построена на архитектуре DeepSeek-V4-Pro (Preview) с подключённым модулем спекулятивного декодирования DSpark. Точные сведения о размере, числе параметров, поддерживаемых языках, модальностях и длине контекста в README не указаны. Для взаимодействия используется OpenAI-совместимый формат сообщений; Jinja-шаблон чата отсутствует, вместо него предоставлены отдельные скрипты кодирования и разбора ответов. Параметр reasoning_effort поддерживает уровни low, high и max. Сильными сторонами модели являются улучшенные агентские возможности, производительность в задачах программирования, автоматизации и работы с инструментами, а также возможность ускорения инференса через DSpark в vLLM и SGLang. Ограничения включают необходимость специального кодирования сообщений и потенциально сложные требования к инфраструктуре: README описывает запуск на узлах с GPU GB300 и рекомендуемые настройки для vLLM, но не приводит полный диапазон совместимого оборудования. Модель распространяется по лицензии MIT.