II.5Безопасность программного кода и цепочки поставок

Focus Red — перепакованная текстовая версия Qwen3.8-27B от Jaidchen. Из модели удалены компоненты обработки изображений и видео, а архитектура упрощена; заявленные автором преимущества — меньшие требования к памяти и хранилищу, более быстрая загрузка и инференс. Модель использует плотную архитектуру Qwen3_5ForCausalLM, содержит 22,3 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации текста в диалогах и сценариях с инструментами; метаданные также отмечают применение для программирования и агентных задач. Шаблон чата сохраняет настройки рассуждений Qwen и обработку вызовов инструментов. Изображения и видеокадры могут присутствовать в контексте, но модель не интерпретирует их. Генерация со случайной выборкой по умолчанию отключена, поэтому модель менее подходит для длинных творческих текстов и непринуждённого общения. Лицензия — Apache-2.0.

gemma-4-A4B-98e-v7-coderx-it-GGUF — квантованная версия модели ManniX-ITA/gemma-4-A4B-98e-v7-coderx-it, разработанная автором ManniX-ITA и распространяемая в формате GGUF. Модель предназначена прежде всего для генерации и анализа кода, задач рассуждения и мультимодальных сценариев с обработкой текста и изображений. Заявлена поддержка английского языка. Модель построена на архитектуре Gemma4 с разреженной MoE-структурой: общий размер составляет около 20,45 млрд параметров, из которых активно используется около 4 млрд. Для мультимодальной работы доступна общая vision-башня Gemma 4 SigLIP в файле mmproj-gemma4.gguf; она не подвергалась pruning. В репозитории представлены варианты квантования от CD-Q2_K до F16, с размерами файлов примерно от 8,82 до 21,16 ГБ. Квантования созданы с использованием imatrix и калибровочных данных v5. По приведённым тестам HumanEval+ и MultiPL-E-100 варианты модели показывают высокое качество генерации кода: лучшие результаты достигают 93,29% на HumanEval+ и 91,33% на MultiPL-E-100. Q4_K_S рекомендуется как наиболее эффективный K-вариант, IQ4_NL — как компактный вариант, а CD-Q2_K — как минимальный по размеру вариант с сохранением приемлемого качества. Ограничения включают значительные требования к дисковому пространству, отсутствие данных о длине контекста и неполную информацию о поддерживаемых языках и производительности вне указанных тестов. Модель распространяется по лицензии Apache-2.0.

HyperNova 60B 2605 — открытая по весам instruction-tuned модель, разработанная Multiverse Computing и представленная как решение на базе CompactifAI. Она предназначена для общего рассуждения, генерации кода и разработческих сценариев, включая RAG, агентские приложения и задачи с инструментами. Модель построена на decoder-only Transformer и содержит 60B общих параметров, из которых 4,8B являются активными. Она поддерживает native tool calling с OpenAI-style схемами, function calling, структурированный вывод и агентские рабочие процессы. Основной язык — английский; другие языки формально не оценивались. Размер контекста в предоставленных данных не указан. К сильным сторонам относятся оптимизация эффективного вывода, уменьшенный объём памяти, улучшения по сравнению с HyperNova 60B 2602 в задачах кодирования и общих бенчмарках, а также поддержка настраиваемого уровня reasoning effort. Ограничения включают отсутствие формальной оценки других языков и отсутствие гарантии полной совместимости поведения tool calling с базовой или другими моделями. Модель распространяется по лицензии Apache 2.0.

Карточка модели yusasufhin/Jarvis_Experts на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-480B-A35B-Instruct, поэтому описание составлено по ней. Qwen3-Coder-480B-A35B-Instruct — большая языковая модель для программирования от команды Qwen. Это причинная языковая модель с архитектурой MoE: всего 480 млрд параметров, из которых при генерации активируются 35 млрд; в метаданных каталога размер указан как 15,4 млрд параметров. Модель обучалась в несколько этапов, включая предобучение и последующее обучение, и распространяется в формате Safetensors под лицензией Apache 2.0. Модель предназначена для генерации и понимания кода, работы с большими репозиториями и агентных сценариев, включая управление браузером. Она поддерживает диалог и интерфейс вызова функций, а карточка рекомендует интеграции с Qwen Code и CLINE. Контекстное окно составляет 262 144 токена; README указывает на возможность расширения до 1 млн токенов с помощью Yarn. Режим рассуждений с включённым thinking модель не поддерживает. Заявленные разработчиком сильные стороны — результаты на агентном программировании и работе с браузером, сопоставимые с Claude Sonnet, и обработка контекста масштаба репозитория. Для развёртывания модели такого общего размера требуются значительные вычислительные ресурсы; точные требования зависят от конфигурации инференса.

Карточка модели SmartManoj/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

cyankiwi/Laguna-S-2.1-AWQ-INT4 — квантизированная версия Laguna S 2.1 от poolside, подготовленная cyankiwi в формате AWQ INT4. Это текстовая модель text-to-text для агентного программирования, работы с инструментами и долгих многошаговых задач. Модель поддерживает интерleaved reasoning между вызовами инструментов и рассчитана на использование в vLLM, SGLang, Transformers, TRT-LLM и llama.cpp. Базовая модель содержит 118 млрд параметров, из которых около 8 млрд активируются на каждом токене, и использует Mixture-of-Experts с 256 маршрутизируемыми экспертами и одним общим экспертом. Архитектура включает 48 слоёв, grouped-query attention, 12 слоёв глобального внимания и 36 слоёв sliding-window attention с окном 512 токенов. Контекстное окно составляет 1 048 576 токенов, словарь — 100 352 токена. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки; модальность — текстовая. Ключевые преимущества — большое контекстное окно, эффективная MoE-архитектура, поддержка рассуждений и сценариев с инструментами, а также снижение требований к хранению и инференсу благодаря INT4-квантизации; размер файла указан как 76,83 ГБ. Ограничения включают высокие требования к вычислительным ресурсам даже в квантизированном виде и возможные потери качества из-за квантизации по сравнению с исходной точностью. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и изменение для коммерческих и некоммерческих целей.

Карточка модели tandrey/Ornith-1.5-9B на Hugging Face совпадает с карточкой ornith-ai/Ornith-1.5-9B, поэтому описание составлено по ней. Ornith-1.5-9B — плотная языковая модель примерно на 9 млрд параметров семейства Qwen3.5, разработанная командой Ornith AI. Она развивает Ornith-1.0 за счёт цикла самоулучшения с генерацией обучающих задач, поиском стратегий решения и обучением с подкреплением. Модель предназначена для агентных сценариев, программирования и выполнения многошаговых задач с использованием инструментов; поддерживает диалог и вызовы функций через совместимый с OpenAI API интерфейс. Модель принимает и генерирует текст. Заявленное базовое окно контекста составляет 262 144 токена; с масштабированием YaRN в README описано расширение примерно до миллиона токенов, которое может немного снижать качество на обычных запросах. Версия на 9B рассчитана на эффективное развёртывание, включая обслуживание на одной 80-гигабайтной GPU; веса в bf16 занимают около 19 ГБ. Карточка описывает бенчмарки для программных и агентных задач, но сами численные результаты здесь не приведены. Лицензия — MIT.

Qwen2.5.1-Coder-7B-Instruct-GGUF — это квантизированная версия инструкционной модели Qwen2.5-Coder-7B-Instruct, разработанной командой Qwen и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и работы с программным кодом: она подходит для написания, объяснения и исправления кода, а также для диалоговых сценариев с использованием системных и пользовательских инструкций. В README заявлена поддержка английского языка. Модель имеет размер 7 миллиардов параметров. Доступны варианты от F16 до различных уровней квантизации Q8_0, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Квантизации выполнены с помощью llama.cpp и imatrix; отдельные варианты оптимизированы для ARM-процессоров. Более компактные версии удобны для локального запуска, в том числе через LM Studio, однако снижение разрядности может уменьшать качество генерации. Длина контекста, полный список поддерживаемых языков и результаты бенчмарков в README не указаны. Модель распространяется по лицензии Apache-2.0.

lmstudio-community/Qwen2.5-Coder-3B-Instruct-GGUF — это квантованная в формате GGUF версия Qwen2.5-Coder-3B-Instruct, разработанной командой Qwen. Квантование выполнено bartowski на основе llama.cpp, релиз b4014. Модель предназначена для генерации текста и кода, диалогового взаимодействия и использования в Code Agents. Модель имеет размер 3B параметров и поддерживает контекст до 32K токенов. При обучении использовалось до 5,5 триллиона токенов, включая исходный код, данные для выравнивания текста и кода, а также синтетические данные. В метаданных указано английское языкoвое направление. Формат GGUF и совместимость с llama.cpp делают модель подходящей для локального запуска в приложениях, поддерживающих этот формат. К сильным сторонам относятся специализация на программировании, большой контекст и адаптация к сценариям с агентами для работы с кодом. Ограничениями являются относительно небольшой размер по сравнению с крупными моделями, возможные потери качества из-за квантования и стандартный риск генерации неточного, небезопасного или ошибочного кода. В README указана лицензия qwen-research; точные условия следует проверять в оригинальной лицензии Qwen.

Qwen2.5-Coder-7B-Instruct-GGUF — квантизированная GGUF-версия языковой модели Qwen2.5-Coder-7B-Instruct, разработанной Qwen и подготовленной компанией Second State Inc. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате: написания, объяснения и редактирования кода, а также других сценариев, где требуется ассистент для разработки. Указанный язык — английский. Модель содержит 7 миллиардов параметров и использует шаблон запросов ChatML. Для запуска через LlamaEdge заявлен контекст до 128 000 токенов и поддержка LlamaEdge версии 0.14.3. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, с размером файлов примерно от 3,02 до 15,2 ГБ. Вариант Q4_K_M рекомендован как сбалансированный по качеству и размеру, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Основные преимущества — специализация на программном коде, инструктивный режим, большой заявленный контекст и возможность локального запуска в разных вариантах квантизации. Более агрессивная квантизация уменьшает требования к памяти, но приводит к заметной потере качества; точные сведения о производительности и поддерживаемых языках программирования в README не приведены. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.6-27B-GGUF — это квантизированное распространение открытой модели Qwen3.6-27B, разработанной командой Qwen и подготовленной Unsloth в формате GGUF. Модель предназначена для локального запуска и интеграции через совместимые инструменты инференса, а также для задач агентного программирования, работы с репозиториями, frontend-разработки, рассуждений и использования инструментов. Это причинная языковая модель с vision-энкодером, то есть мультимодальная модель, способная обрабатывать текст и изображения. Она содержит около 27 млрд параметров, 64 слоя и имеет нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; заявлена поддержка сохранения контекста рассуждений между сообщениями и улучшенный разбор вложенных объектов при вызове инструментов. Языки в README не указаны. К сильным сторонам относятся большой контекст, возможности работы с изображениями, улучшенная производительность в сценариях агентного кодирования и совместимость с экосистемой Transformers, vLLM, SGLang и KTransformers. Ограничения включают высокие требования к вычислительным ресурсам, особенно при длинном контексте, а конкретные характеристики квантизации и результаты бенчмарков для данного GGUF-варианта в README не приведены. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-OBLITERATED — языковая модель для генерации текста на базе Qwen/Qwen3.8-27B, разработанная сообществом OBLITERATUS. Модель модифицирована методом abliteration: из весового пространства удалены направления, связанные с отказами и защитными отступлениями. Она предназначена для локального текстового и кодового взаимодействия, исследовательских задач, red-team-тестирования, агентных сценариев и генерации ответов без типичных отказов на ограниченные запросы. Модель относится к семейству Qwen3, имеет размер 27B параметров и поддерживает текстовую генерацию. Заявлены режимы с рассуждением и без него, а также совместимость с форматами GGUF, Safetensors и MLX. Для версии V3 указана оценка MMLU 82,3% против 84,5% у исходной модели; по данным автора, она сохраняет близкие к базовой модели возможности, но теряет около 2,1 процентного пункта качества. Для стабильной работы рекомендуются температура 0, repetition_penalty 1,15 и не менее 2048 новых токенов; системный промпт лучше не задавать. Сильная сторона модели — снижение числа жёстких отказов и безопасностных отступлений при сохранении высокой способности к генерации кода и работе в агентных сценариях. Ограничения включают некоторое снижение качества относительно исходной Qwen3.8-27B, склонность к зацикливанию без repetition_penalty и возможное увеличение длины ответов в режиме рассуждения. Длина контекста и перечень поддерживаемых языков в README не указаны. Модель распространяется по лицензии Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-NVFP4-1M — модель семейства Qwen3.8 с 27 млрд параметров, созданная на основе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion. Объединение весов и исходная модель относятся к DavidAU, а расширение контекста, квантизация и упаковка для NVIDIA Blackwell выполнены Solstice-AI. Модель предназначена для диалогов, программирования, агентной разработки ПО, решения задач с длинным контекстом и визуального анализа. Модель использует формат NVIDIA NVFP4 с 4-битным microscaling, гибридную архитектуру с блоками Gated Delta Recurrent Network и Grouped-Query Attention, а также Multi-Token Prediction для ускорения генерации. Заявлена поддержка текстово-визуального ввода, включая анализ схем, интерфейсов кода и видеокадров; для визуального режима поставляется компонент mmproj-BF16.gguf. Контекст расширен с 262 144 до 1 048 576 токенов с помощью YaRN. В карточке указаны английский и китайский языки, а также совместимость с инфраструктурой vLLM и SGLang на оборудовании NVIDIA Blackwell, включая B200, GB200 и RTX 5090. Среди заявленных сильных сторон — высокая скорость и эффективность на поддерживаемом оборудовании, большой контекст, возможности рассуждения, программирования и компьютерного управления. README приводит результаты внутренних или заявленных оценок, включая 61,7% на SWE-bench Pro, 90,3% на LiveCodeBench v6 и показатели ARC-C 735 и ARC-E 882; эти результаты следует интерпретировать с учетом условий тестирования и не считать независимой гарантией качества. Ограничения включают зависимость от NVFP4-совместимого оборудования и специализированной инфраструктуры, а также возможные потери качества из-за 4-битной квантизации и расширения контекста. Лицензия модели указана как Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-W8A8 — это 8-битная версия модели Qwen3-Coder-30B-A3B-Instruct, опубликованная ramblingpolymath и основанная на исходной модели Qwen. Квантизация весов и активаций по схеме W8A8 выполнена с использованием LLM-Compressor. Модель предназначена для генерации текста и прежде всего для программирования, агентного написания кода, работы с браузером и понимания репозиториев большого размера. Модель является каузальной языковой моделью с архитектурой mixture-of-experts: всего 30,5 млрд параметров, из которых при обработке активируется около 3,3 млрд; используется 48 слоёв, 128 экспертов и 8 активируемых экспертов, а также GQA с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 млн токенов с помощью YaRN. Поддерживается только режим без рассуждений, без блоков <think></think>. Ключевые преимущества версии W8A8 — примерно вдвое меньшее потребление памяти по сравнению с FP16 и потенциально более высокая скорость инференса на совместимом оборудовании. Ограничения включают зависимость производительности от аппаратной поддержки 8-битного инференса, рекомендуемую архитектуру Ampere и более старые поколения, а также отсутствие в README подробностей о поддерживаемых языках и количественной оценке потери качества после квантизации. Лицензия — Apache-2.0.

Qwen3-Coder-480B-A35B-Instruct — большая языковая модель для программирования от команды Qwen. Это причинная языковая модель с архитектурой MoE: всего 480 млрд параметров, из которых при генерации активируются 35 млрд; в метаданных каталога размер указан как 15,4 млрд параметров. Модель обучалась в несколько этапов, включая предобучение и последующее обучение, и распространяется в формате Safetensors под лицензией Apache 2.0. Модель предназначена для генерации и понимания кода, работы с большими репозиториями и агентных сценариев, включая управление браузером. Она поддерживает диалог и интерфейс вызова функций, а карточка рекомендует интеграции с Qwen Code и CLINE. Контекстное окно составляет 262 144 токена; README указывает на возможность расширения до 1 млн токенов с помощью Yarn. Режим рассуждений с включённым thinking модель не поддерживает. Заявленные разработчиком сильные стороны — результаты на агентном программировании и работе с браузером, сопоставимые с Claude Sonnet, и обработка контекста масштаба репозитория. Для развёртывания модели такого общего размера требуются значительные вычислительные ресурсы; точные требования зависят от конфигурации инференса.

FlashModel-Qwen3.5-9B-GGUF — набор GGUF-квантизаций модели FlashModel-Qwen3.5-9B, подготовленный flashback2k на базе Qwen/Qwen3.5-9B. Исходная модель дообучена методом LoRA с RSLoRA на проекциях внимания и MLP, затем объединена с базовой моделью. Дообучение выполнено на 9 638 примерах и примерно 45 млн токенов, включая математические задачи, соревновательное программирование, агентные сценарии, следование инструкциям и научные данные. Модель ориентирована на рассуждения, генерацию и анализ кода, диалоги и вызовы инструментов. В карточке указан английский язык; поддержка других языков не заявлена. Модель имеет около 9 млрд параметров и распространяется в нескольких вариантах GGUF с разным уровнем квантизации и размером файлов примерно от 4,42 до 6,74 ГБ. Для квантизации использована собственная importance matrix, рассчитанная на этой дообученной модели. Варианты предназначены для локального запуска через llama.cpp, Ollama и LM Studio; заявлена совместимость с инструментальными вызовами и контекстом до 32 768 токенов при использовании рекомендованной конфигурации. Модель текстовая: vision tower отсутствует, поэтому мультимодальный ввод изображений не поддерживается. Сильными сторонами являются специализация на reasoning, coding и tool-calling, выбор вариантов под разные объёмы VRAM или RAM, а также оптимизация GGUF для локального запуска. Ограничения включают неизбежную потерю качества при низкой квантизации, необходимость оставлять память под KV-кэш, отсутствие заявленной поддержки изображений и ограниченность опубликованных сведений об оценках качества. Рекомендуемые параметры генерации взяты из карточки базовой модели и не перенастраивались специально для этого fine-tune; влияние тегов reasoning budget отмечено как экспериментальное. Модель распространяется по лицензии Apache-2.0.

GLM-4-9B-0414-GGUF — это квантизированная в формате GGUF версия языковой модели GLM-4-9B-0414, разработанной командой THUDM. Квантизация выполнена bartowski на основе llama.cpp, релиз b5228. LM Studio распространяет модель в рамках Community Model Program, но не является её разработчиком. Модель предназначена для генерации текста и ориентирована на продвинутое программирование, создание артефактов, function calling и агентские сценарии. Заявлена сопоставимая с существенно более крупными моделями производительность. Поддерживается контекст до 32 тысяч токенов. В метаданных указаны китайский и английский языки. Архитектура исходной модели и точный размер файлов не описаны подробнее; конкретный вариант квантизации также не указан. Модель может быть полезна для локального запуска задач кодирования, автоматизации и построения LLM-агентов при наличии совместимого ПО для GGUF. Ограничения включают возможные неточности, вредный или неподходящий контент, а также зависимость качества и требований к ресурсам от выбранного варианта квантизации. Лицензия модели — MIT.

GLM-5.2-Demolition-q4a4-soul-MLX — локальная MLX-версия модели GLM-5.2 от zai-org, подготовленная Philip John Basile. Это экспериментальная разреженная и квантованная сборка Mixture-of-Experts: исходная модель имеет 744 млрд параметров при 39 млрд активных, а в данном варианте сохранено около 23% экспертов. Корневые веса занимают примерно 104,89 ГБ и используют 4-битное квантование; модель рассчитана на запуск на одном Apple M5 Max с 128 ГБ памяти через MLX. Основное назначение — генерация и анализ кода в Python, TypeScript, JavaScript, Rust, Go, HTML, CSS, SQL и Postgres без привязки к фреймворкам. Поддерживаются дополнительные LoRA-адаптеры («souls») для искусства, музыки, дизайна, парфюмерии, науки, безопасности, разработки игр, full-stack-разработки, математики, визуализации данных, прозы, архитектуры и исследований. Заявленный язык модели — английский; размер контекста в карточке не указан. Сильные стороны модели — специализированная работа с ванильным кодом, возможность подключать предметные адаптеры и относительно компактный для исходной архитектуры запуск на одном Apple Silicon-компьютере. На HumanEval-164 заявлен результат pass@1 69,5% (114 из 164) в однократном запуске с проверкой скрытыми тестами. Ограничения включают намеренное ухудшение способностей к общим знаниям и trivia из-за pruning, экспериментальный характер рецепта, отсутствие доказательств превосходства над полноразмерной моделью и скорость около 11–14 токенов в секунду. Лицензия — MIT.

Карточка модели devix1/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Карточка модели ahmed-amedo-1/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Карточка модели yijuchen/Kimi-K3-RoutedMXFP4-FP8PTPC на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Laguna M.1 GGUF — независимая общественная конверсия и набор квантизированных GGUF-версий модели Laguna M.1, разработанной Poolside. Модель предназначена для генерации кода, задач программирования с длинным контекстом и агентских сценариев локального запуска. Данный репозиторий содержит производные артефакты, созданные на основе исходных BF16 safetensors Poolside, а не официальный релиз разработчика. Исходная Laguna M.1 — разреженная MoE-модель с 225 млрд общих параметров и 23 млрд активируемых параметров на токен. Она использует 70 слоёв с глобальным вниманием, 256 разреженных экспертов после первых трёх плотных слоёв, маршрутизацию top-k=16, RoPE с YaRN и механизм softplus attention output gating. Заявленное контекстное окно составляет 262 144 токена. Доступны варианты квантизации от наиболее компактных IQ1_S_R4 размером 43,54 GiB до BF16 размером 420,71 GiB; качество и требования к памяти зависят от выбранного варианта. Сильными сторонами модели являются специализированная направленность на программирование, поддержка сверхдлинного контекста и возможность локального использования через GGUF. Для запуска требуется совместимый runtime: подтверждена поддержка ik_llama.cpp начиная с версии, включающей соответствующие изменения, тогда как другие средства могут потребовать отдельной реализации поддержки Laguna. Модель и представленные GGUF-артефакты распространяются с метаданными лицензии Apache License 2.0; конверсия является независимой, а торговые названия и брендинг Poolside остаются собственностью Poolside.

M31Genesis — экспериментальная исследовательская модель для агентного программирования, представленная в проекте eshanized/M31Genesis. Это decoder-only causal language model на собственной архитектуре M31, предназначенная для генерации и продолжения текста, прежде всего в задачах разработки программного обеспечения, написания и редактирования кода, отладки, анализа репозиториев, repository-aware reasoning и исследований взаимодействия агентов с инструментами. Модель относится к классу примерно 425M параметров и использует словарь ByteLevel BPE на 65 536 токенов. Архитектура включает 24 слоя, размер скрытого состояния 1024, 16 attention heads и 8 KV heads, RMSNorm, RoPE и связанные входные и выходные эмбеддинги. В карточке указана поддержка английского языка и текстовая модальность; максимальный размер контекста не указан. Сильными сторонами являются специализация на программировании и сценариях агентного использования, однако модель имеет экспериментальный статус, поэтому её качество и надёжность следует оценивать перед применением в production. Лицензия — MIT.

occamy-ai_occamy-1.0-GGUF — GGUF-квантизированная версия модели occamy-1.0, разработанной occamy-ai и подготовленной bartowski с использованием llama.cpp. Модель ориентирована на агентные сценарии, использование инструментов и задачи программирования, а также заявлена как модель для работы с длинным контекстом. Модель содержит около 35 млрд параметров и поддерживает текстовый и визуальный ввод; для обработки изображений требуется отдельный файл mmproj. В карточке указана поддержка английского языка. Доступны варианты от BF16 до различных уровней квантизации, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы; рекомендуемым универсальным вариантом назван Q4_K_M размером 21,39 ГБ, а более качественными — Q5 и Q6. Спекулятивное декодирование не поддерживается, при этом применена imatrix-квантизация. Сильными сторонами модели являются сочетание большого размера, мультимодального ввода, возможностей для tool use и агентных рабочих процессов, а также широкий выбор форматов GGUF. Ограничениями выступают значительные требования к памяти даже для квантизированных вариантов, необходимость отдельного mmproj для изображений и отсутствие в README точного размера контекстного окна, подробных результатов оценки и информации о поддерживаемых языках помимо английского. Лицензия в карточке не указана.

Orca-2-4B-hight — текстовая модель генерации на архитектуре Qwen3ForCausalLM, опубликованная roskosmos19. Это производная от Qwen3-4B модель с фокусом на программирование и агентные сценарии: она может вести диалог, рассуждать и формировать вызовы инструментов. По описанию автора, переход к генерации за один проход вместо обязательной трёхэтапной схемы сокращает задержку и стоимость работы; длинный ответ генерируется по необходимости. Модель содержит 3,7 млрд параметров и поддерживает контекст до 32 768 токенов. Для развёртывания указана библиотека Transformers; файлы репозитория представлены в формате safetensors. Автор рекомендует квантованные варианты Q4_K_M или AWQ для ускорения, но они не заявлены как формат файлов этой модели. Модель предназначена для генерации и анализа кода, решения задач с использованием инструментов и диалоговой помощи при разработке. В README нет сведений о поддерживаемых естественных языках. Лицензия — Apache 2.0.

Карточка модели damfle/ornith-1.5-35b-a3b-custom на Hugging Face совпадает с карточкой ornith-ai/Ornith-1.5-35B-A3B, поэтому описание составлено по ней. Ornith-1.5-35B-A3B — разработанная Ornith AI диалоговая модель семейства Ornith-1.5 с архитектурой Qwen3.5 MoE. В модели около 35 млрд параметров, из которых примерно 3 млрд активируются на каждом токене. Она создана для генерации текста, агентного программирования и выполнения задач с помощью инструментов; README сообщает о результатах на бенчмарках кодирования и агентных задач. Модель принимает текст и выдаёт текст, включая структурированные вызовы инструментов. Поддерживает контекст до 262 144 токенов; README описывает расширение окна примерно до миллиона токенов с помощью YaRN, с возможным небольшим ухудшением качества на обычной длине контекста. Для запуска в bf16 требуется около 70 ГБ памяти модели; в примере обслуживания используются две GPU по 80 ГБ. Репозиторий распространяется по лицензии MIT.

Qwen2.5-Coder-14B-Instruct-abliterated-GGUF — это GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-14B-Instruct-abliterated. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель опубликована huihui-ai. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования, включая работу с кодом и запросами в формате инструкций. Модель содержит 14 миллиардов параметров и работает с текстовыми данными. README указывает английский язык, но сведения о полном наборе поддерживаемых языков, архитектуре и размере контекстного окна отсутствуют. Доступны варианты от F16 до Q3 и различные форматы квантизации; версии Q4_K_M, Q5, Q6 и другие позволяют выбирать компромисс между качеством, размером файла и требованиями к памяти. Файлы предназначены для запуска через llama.cpp, в частности в LM Studio. Сильной стороной является широкий выбор квантизированных вариантов: от почти исходного качества до более компактных сборок для систем с ограниченными ресурсами. Ограничения включают зависимость характеристик от выбранного типа квантизации и отсутствие в README подробных данных о производительности, контекстном окне и поддерживаемых языках. Для ARM доступны специальные варианты, часть которых требует поддержки SVE или i8mm и не предназначена для Mac или Windows. Лицензия модели указана как Apache-2.0.

Qwen3.8-27B-Uncensored-YMQ-MTP-GGUF-12GB — квантизированная GGUF-версия модели Qwen3.8-27B-Uncensored, подготовленная 0xSojalSec на основе модели JonathanColetti/Qwen3.8-27B-Uncensored. Модель предназначена для локальной генерации текста, диалогов и прежде всего для задач программирования, включая работу с API и агентские сценарии в инструментах вроде RooCode и Aider. Модель имеет 27 миллиардов параметров и использует архитектурно-ориентированную смешанную квантизацию, созданную с применением YMQ-Compiler v2.0 и подходов, вдохновлённых AutoRound. Сборки поддерживают параллельное multi-token prediction (MTP) для speculative decoding. В README заявлена оптимизация под большой контекст, однако точный размер контекстного окна, список языков и мультимодальные возможности не указаны. Версия с ориентиром на 12 ГБ предназначена для запуска на видеокартах с ограниченным объёмом памяти; конкретные характеристики зависят от выбранного пресета. Сильными сторонами заявлены сохранение логической устойчивости и качества форматирования при работе с кодом и длинными многошаговыми агентскими сценариями, а также возможность запуска 27B-модели в компактном объёме памяти. Ограничения связаны с потерями качества из-за квантизации: README предупреждает о структурном шуме, возможной амнезии контекста и циклах форматирования у наиболее компактных вариантов. Распространение указано по лицензии Apache-2.0.

Это конверсия модели Qwen3-Coder-30B-A3B-Instruct в формат GGUF F16, подготовленная Geoff Munn для локального запуска через llama.cpp и совместимые приложения, включая LM Studio, OpenWebUI и GPT4All. В основе — инструктивная MoE-модель Qwen, предназначенная для программирования, диалога и агентных сценариев. Модель подходит для генерации и объяснения кода, решения задач по программированию и математике, работы с RAG и интеграции с инструментами. В метаданных перечислена поддержка английского, китайского, испанского, французского, немецкого, русского, арабского, японского, корейского и хинди. Базовая модель поддерживает контекст до 262 144 токенов. Репозиторий содержит вариант GGUF F16; README также описывает доступные квантизованные варианты и компромиссы между размером, скоростью и качеством. Это конверсия сообщества, не связанная с Alibaba Cloud или командой Qwen. Лицензия — Apache-2.0.

starcoder2-15b-instruct-v0.1-GGUF — это квантизированная в формате GGUF версия StarCoder2-15B-Instruct, разработанной командой BigCode и опубликованной в вариантах квантования пользователем bartowski. Модель предназначена для генерации кода и работы в формате инструкций, включая написание, исправление и анализ программ, предсказание результатов выполнения и решение задач программирования. Модель основана на bigcode/starcoder2-15b и содержит около 15 млрд параметров. Доступны варианты квантования Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3_K и IQ3 объёмом примерно от 7 до 17 ГБ, что позволяет выбирать между качеством и требованиями к памяти. README не указывает поддерживаемые языки программирования и размер контекста. Модель использует специальный формат инструкций и не поддерживает системный промпт. Сильными сторонами являются специализация на задачах программирования и несколько вариантов квантования для локального запуска с разным балансом качества и потребления памяти. В бенчмарках указаны результаты HumanEval pass@1 72,6%, MBPP 75,2% и другие показатели LiveCodeBench и DS-1000, однако фактическое качество зависит от выбранного уровня квантования и сценария использования. Модель предназначена для текстовой генерации и не заявлена как мультимодальная. Лицензия — BigCode OpenRAIL-M.