II.5Безопасность программного кода и цепочки поставок

lmstudio-community/Qwen2.5-Coder-7B-Instruct-GGUF — это квантованная в формате GGUF версия модели Qwen2.5-Coder-7B-Instruct, разработанной командой Qwen. Квантование выполнено bartowski на основе llama.cpp release b3772; LM Studio распространяет модель в рамках Community Model Program, но не является её разработчиком. Модель предназначена для генерации и анализа программного кода, решения задач программирования, рассуждений, исправления ошибок и создания coding agents. Это текстовая модель с архитектурой и точными параметрами, не раскрытыми в README; размер исходной модели составляет 7B параметров. Указан английский язык. Поддерживается контекст до 128K токенов с настройками YaRN RoPE, что подходит для работы с крупными файлами и длинными описаниями проектов. Обучение основано на данных объёмом 5,5 триллиона токенов. Сильными сторонами модели являются специализация на коде, возможности генерации, рассуждений и поиска ошибок, а также длинный контекст. К ограничениям относятся зависимость качества и скорости от выбранного уровня GGUF-квантования и оборудования, отсутствие в README подробностей о конкретном варианте квантования, поддерживаемых языках программирования и результатах оценивания. Как и другие языковые модели, она может выдавать неточный, небезопасный или неподходящий код и требует проверки человеком. Лицензия модели указана как Apache 2.0. Условия использования квантованной версии следует сопоставлять с лицензией оригинальной Qwen2.5-Coder-7B-Instruct и условиями распространения конкретного файла GGUF.

OBLITERATUS/Qwen3.8-27B-OBLITERATED — текстовая генеративная модель, разработанная OBLITERATUS на базе Qwen/Qwen3.8-27B. Модель предназначена для диалогов, генерации текста и кода, агентных сценариев, а также исследований безопасности ИИ и red-team-тестирования. Основной заявленный профиль — ответы на запросы, которые исходная модель может отклонять, включая кибербезопасность и программирование. Модель использует архитектуру Qwen3 с 27 млрд параметров и поддерживает режимы с рассуждением и без него. Доступны форматы GGUF, Safetensors и MLX; заявлена совместимость с текстовым pipeline для генерации текста. В README не указаны точное максимальное контекстное окно и полный перечень поддерживаемых языков. Для версии V3 приводится результат 82,3% на MMLU в режиме 0-shot, что на 2,1 процентного пункта ниже базовой модели; также заявлены рабочие ответы во всех 20 проверенных задачах генерации кода. К сильным сторонам относятся снижение частоты отказов и защитных отговорок, близкая к базовой общая производительность и пригодность для генерации кода. Ограничениями являются некоторое ухудшение результата MMLU, склонность к зацикливанию без repetition_penalty и возможная чувствительность к настройкам генерации. В README рекомендуются temperature 0, repetition_penalty 1.15 и не менее 2048 новых токенов; для агентных сценариев предлагаются более низкая длина ответа и периодическое сокращение контекста. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-asym-2bitexp-GGUF — это асимметрично квантованная GGUF-версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen. Модель предназначена прежде всего для генерации и анализа программного кода, а также решения текстовых задач в формате instruction-following. Это вариант без режима reasoning и без блоков <think>, ориентированный на запуск через llama.cpp. В основе используется MoE-архитектура qwen3moe с 128 маршрутизируемыми экспертами, из которых активны 8 на каждом токене; эффективный объём активных параметров составляет около 3 млрд при общем размере модели 30 млрд параметров. Экспертные FFN-слои квантованы преимущественно в 2–3 бита, а attention, эмбеддинги и выходной слой сохранены с более высокой точностью. Эффективная скорость квантования — 2,99 BPW, размер файла — 11,4 ГБ (10,64 GiB). Модель рассчитана на текстовый ввод и вывод; язык и максимальный размер контекста в README явно не указаны, однако приведён пример запуска с контекстом 16 384 токена. Главное преимущество — существенная экономия памяти: модель рассчитана на размещение в 16 ГБ VRAM вместе с KV-кэшем для контекста около 16K токенов, тогда как стандартная версия Q4_K_M занимает около 18,6 ГБ. По данным измерений на wikitext-2, perplexity составляет 9,93 против 9,60 у Q4_K_M, то есть снижение качества относительно базовой 4-битной версии умеренное. Ограничения связаны с потерями квантования, меньшей точностью по сравнению с более крупными форматами и зависимостью от совместимого runtime. В README указана лицензия Apache-2.0.

Salience-27B-R6 — мультимодальная плотная модель на 27,8 млрд параметров от Vection Labs, созданная на базе Qwen/Qwen3.8-27B и дообученная для инженерных задач. Она принимает текст, изображения и видео и выдаёт текст; поддерживает контекст до 1 048 576 токенов. Гибридный стек линейного и полного внимания, MTP-голова и режим рассуждений, встроенный в веса, рассчитаны на эффективную генерацию и решение сложных задач. Модель предназначена прежде всего для генерации, объяснения, отладки и проверки кода, изменений в масштабах репозитория, работы через терминальные инструменты, проектирования систем и количественных рассуждений. Она также анализирует схемы, скриншоты, документы и видео в инженерных сценариях; предусмотрен интерфейс вызова инструментов. Лицензия — Apache-2.0. Модель может выдумывать API и факты при недостатке контекста, а длинный вложенный Python-код может содержать ошибки отступов; сгенерированный код следует проверять перед запуском. Умеренный уровень рассуждений по умолчанию может давать более короткие цепочки на сложных задачах, а сниженное число отказов требует собственных ограничений на уровне приложения. Для работы с инструментами README указывает на необходимость актуального Transformers и применения шаблона чата модели.

Step-3.5-Flash-GGUF-Q4_K_S — это квантизированная версия Step 3.5 Flash от команды StepFun, созданная на базе stepfun-ai/step-3.5-flash и распространяемая в формате GGUF с квантизацией Q4_K_S. Модель предназначена для локального развёртывания и ориентирована на задачи рассуждения, программирования, агентного взаимодействия и обработки длинных документов или больших кодовых баз. В основе модели лежит разреженная архитектура Mixture of Experts (MoE): всего модель содержит 196 млрд параметров, из которых при генерации каждого токена активируется около 11 млрд. Используется 3-way Multi-Token Prediction (MTP-3), обеспечивающий заявленную скорость генерации примерно 100–300 токенов в секунду в типичных сценариях и до 350 токенов в секунду в однопоточном программировании. Контекстное окно составляет до 256 тысяч токенов благодаря сочетанию Sliding Window Attention и полноразмерного внимания. Для локального запуска модель адаптирована под llama.cpp; на NVIDIA DGX Spark заявлена скорость около 20 токенов в секунду, а INT8-квантизация KV-кэша позволяет использовать контекст до 256 тысяч токенов. Сильные стороны модели — сочетание высокой эффективности, поддержки длинного контекста, задач программирования и многошаговых агентных сценариев, а также возможность обработки данных локально с сохранением приватности. В качестве ограничений следует учитывать значительный общий размер модели и высокие требования к оборудованию, несмотря на разреженную архитектуру и квантизацию. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому их нельзя подтвердить. Модель распространяется по лицензии Apache 2.0.

bartowski/DeepSeek-Coder-V2-Instruct-0724-GGUF — набор GGUF-квантизаций модели DeepSeek-Coder-V2-Instruct-0724, разработанной deepseek-ai и квантизированной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу генеративных text-generation-моделей и предназначена прежде всего для работы с программным кодом и инструкциями, включая локальный запуск через llama.cpp или LM Studio. Доступны варианты квантизации от Q8_0 до IQ1_M, размером примерно от 52,68 до 250,62 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше оперативной или видеопамяти; в README рекомендуются Q6_K, Q5_K_M, Q4_K_M и IQ4_XS. Для отдельных вариантов эмбеддинги и выходные веса сохраняются в формате Q8_0, что может влиять на качество. Указаны специальный формат prompt и необходимость учитывать его при интеграции. В README не приведены точные сведения об архитектуре исходной модели, числе параметров, максимальном контексте, поддерживаемых языках и мультимодальности. Модель распространяется по лицензии deepseek-license; подробные условия находятся в файле LICENSE.

DeepSeek-V4.1-Flash — мультимодальная модель DeepSeek для диалогов, рассуждений и агентных задач. Она принимает изображения и текст и авторегрессионно генерирует текст. По README, модель обучена с нуля и использует архитектуру Causal Encoder-Decoder с 40 слоями и Mixture-of-Experts; в ней 552 млрд параметров backbone, а при обработке токенов активируется 8 млрд параметров на этапе prefill и 16 млрд при генерации. Модель поддерживает контекст до одного миллиона токенов и управляемый уровень усилий рассуждения от 1 до 100. Среди заявленных архитектурных решений — сжатие KV-кэша, разреженное внимание, условная память Engram и спекулятивное декодирование. Модель ориентирована на сценарии с длинным контекстом и агентным выполнением задач, включая работу с кодом и визуальными данными. Метаданные указывают форматы safetensors FP8 и библиотеку Transformers; лицензия — MIT. README отмечает, что для релиза не предоставлен Jinja-шаблон чата, а для запуска локально предлагается обратиться к инструкциям в папке inference.

gemma-4-A4B-98e-v7-coder-it-GGUF — это набор GGUF-квантизаций модели ManniX-ITA/gemma-4-A4B-98e-v7-coder-it, разработанный автором ManniX-ITA на основе Gemma 4 26B-A4B. Модель предназначена прежде всего для генерации, анализа и исправления программного кода, а также для задач, требующих рассуждений. Доступны варианты от CD-Q2_K и IQ4_XS до Q8_0 и F16 с различным размером файлов и компромиссом между качеством и требованиями к памяти. Архитектура — Gemma4 с разреженной смесью экспертов (MoE): около 20,45 млрд параметров всего и примерно 4 млрд активных параметров. Это результат pruning-кода с сокращением числа экспертов со 128 до 98 на слой. Для мультимодальных сценариев предусмотрена совместимая башня компьютерного зрения SigLIP, поставляемая отдельным файлом и не затронутая pruning; в метаданных указана поддержка image-text-to-text. В README заявлен английский язык, а контекст использования в примере llama.cpp настроен на 32 768 токенов, что не обязательно означает максимальный размер контекста модели. Сильная сторона модели — сочетание MoE-архитектуры, оптимизированной для кода, и широкого набора квантизаций, включая рекомендуемые Q4_K_M и Q4_K_S, а также компактный CD-Q2_K. По приведённым автором результатам, на HumanEval+ варианты достигают 92,68%, а на MultiPL-E — до 91%, однако эти показатели относятся к конкретным настройкам и сравнительному тестированию квантов. Ограничения включают потерю качества и возможные артефакты на низких уровнях квантизации, значительный размер старших вариантов и необходимость корректной настройки инференса. При использовании llama.cpp для режима рассуждений требуется параметр reasoning-budget; без него модель может выдавать некорректные специальные токены. Распространяется по лицензии Apache-2.0.

Grok 4.7 — флагманская модель SpaceXAI, представленная как преемник Grok 4.6. Она предназначена для программирования, агентных задач и работы со знаниями, в том числе для длительных задач разработки ПО и проверки собственного результата. Доступный фрагмент карточки не раскрывает архитектуру, размер, модальности, языки, длину контекста и лицензию, поэтому эти характеристики здесь не уточняются.

OpenIntelligenceNet заявляет, что это плотная инструктивная языковая модель семейства LFM2 примерно с 2,4 млрд параметров. Она дообучена на базе huihui-ai/Huihui-LFM2-2.6B-Exp-abliterated на синтетических диалоговых данных; в карточке указаны направления обучения: программирование и системные задачи, рассуждения и кибербезопасность. Модель предназначена для генерации текста и диалогов, в том числе для технических вопросов и работы на устройствах с ограниченными ресурсами. Метаданные указывают контекст до 128 000 токенов, формат весов safetensors и интерфейс чата с поддержкой вызова инструментов. README приводит иное значение контекста — 2 048 токенов — и описывает обучение на 200 000 примерах, но не раскрывает данные полностью. В тегах указан английский язык. Модель распространяется по лицензии Apache-2.0. README сообщает об удалении отказов и защитных шаблонов, поэтому модель может отвечать на запросы, от которых другие модели отказываются; это также означает, что она не подходит для сценариев, требующих надёжных встроенных ограничений безопасности.

MiniMax-M1-80k-hf — открытая модель весов от MiniMax для генерации текста и пошагового рассуждения. Это вариант MiniMax-M1 с бюджетом рассуждения до 80K токенов; репозиторий предназначен прежде всего для Transformers. Архитектура сочетает Mixture-of-Experts и гибридное внимание с механизмом lightning attention. В карточке указано 21,6 млрд параметров, а заявленный нативный контекст составляет 10 240 000 токенов; README описывает семейство M1 как модель с контекстом до 1 млн токенов и обучением с подкреплением на математических задачах, программировании и задачах с инструментами. Модель рассчитана на сложные задачи с длинными входами и развёрнутым рассуждением: решение математических задач, программную инженерию, генерацию и анализ кода, ответы на вопросы по большому контексту и сценарии с вызовом функций. README отмечает результаты на бенчмарках математики, кодирования, агентного использования инструментов и длинного контекста. Модель принимает текст и генерирует текст; интерфейс вызова инструментов поддерживается в структурированном формате. Лицензия — Apache-2.0. Веса в репозитории представлены в формате safetensors. Указанное в метаданных значение контекста расходится с описанием семейства в README, поэтому фактический предел может зависеть от конкретной конфигурации и программного окружения. Заявленные оценки получены на отдельных бенчмарках и не гарантируют качество на произвольных задачах.

Ornith-1.5-27B-A3B-CoderX-MTP-GGUF — квантизированная GGUF-версия модели Ornith-1.5-27B-A3B-CoderX, разработанная ManniX-ITA. Модель предназначена прежде всего для генерации и анализа кода, рассуждений и текстовых задач; в метаданных также заявлена поддержка vision-сценариев. Указанный язык — английский. Модель использует архитектуру Qwen3.5-MoE с 25,6 млрд параметров, из которых активно используется около 3 млрд. В составе 184 эксперта, из них выбираются 8; конфигурация включает 40 основных блоков и один слой MTP (Multi-Token Prediction). Доступны веса F16 и многочисленные варианты квантизации от Q8_0 до IQ2_XS, а также отдельный vision projector. Заявлен контекст до 262 144 токенов в примере запуска через llama.cpp. Сильные стороны модели — MoE-архитектура с небольшим числом активных параметров, поддержка рассуждений, кода, MTP и vision, а также квантизация с importance matrix, рассчитанной специально для этой версии. Ограничения зависят от выбранного уровня квантизации: компактные варианты могут заметно терять качество, а F16 и старшие кванты требуют значительного объёма памяти. Модель распространяется по лицензии Apache-2.0 и предназначена для запуска в совместимом окружении, включая llama.cpp.

Карточка модели raychan0713/Qwen2.5-Coder-32B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для кода из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, а также для создания кодовых агентов; сохраняет способности к математике и общим задачам. Модель может применяться в диалоговых сценариях и интерфейсах вызова инструментов. Это плотная причинная трансформерная модель Qwen2 с 32 млрд параметров по метаданным (в README указано 32,5 млрд), доступная в формате safetensors и рассчитанная на работу через Transformers. README описывает RoPE, SwiGLU, RMSNorm и GQA. Метаданные указывают контекст 32 768 токенов; README сообщает о поддержке до 131 072 токенов с настройкой YaRN для длинных входов. Карточка относит модель к английскому языку; модель специализируется на программировании. Лицензия Apache-2.0 допускает широкое использование с соблюдением её условий. При обработке контекстов длиннее 32 768 токенов требуется настройка YaRN; статический YaRN в vLLM может снижать качество на коротких текстах. Заявления README о сравнительной производительности являются оценкой авторов.

Qwen2.5-Coder-32B-Instruct-MLX-8bit — это 8-битная MLX-квантизация инструкционной модели Qwen2.5-Coder-32B-Instruct, разработанной Qwen. Квантизацию подготовил bartowski на основе инструментов mlx-examples; модель распространяется в рамках программы Community Models для LM Studio и предназначена для запуска на компьютерах Mac с Apple Silicon. Модель ориентирована на генерацию и анализ исходного кода, работу с текстом и кодом, диалоговые сценарии и использование в code agents. В README указана поддержка длинного контекста до 128K токенов с масштабированием RoPE через YaRN с коэффициентом 4.0. Объём исходной модели составляет 32B параметров, а обучение проводилось максимум на 5,5 триллиона токенов, включая исходный код, текстово-кодовые соответствия и синтетические данные. Заявленный язык — английский. К сильным сторонам относятся специализация на программировании, поддержка длинного контекста и возможность локального запуска на совместимых Mac благодаря MLX-квантизации. Ограничения включают зависимость от Apple Silicon и потенциальные ошибки, неточности или небезопасные ответы, характерные для генеративных моделей. В README также указано, что модель предоставляется третьими сторонами, а LM Studio не гарантирует её точность, надёжность или соответствие требованиям пользователя. Лицензия модели — Apache-2.0.

Qwen2.5-Coder-3B-Instruct-AWQ — языковая модель для генерации текста и программного кода, разработанная командой Qwen. Она предназначена для генерации, анализа, рассуждений и исправления кода, а также для создания кодовых агентов и решения задач, где требуются математические и общие языковые способности. Модель является instruction-tuned версией Qwen2.5-Coder-3B и поддерживает диалоговый формат взаимодействия. Модель представляет собой causal language model на архитектуре Transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. Она содержит 3,09 млрд параметров, из которых 2,77 млрд не относятся к эмбеддингам, 36 слоёв и механизм GQA с 16 головами для Q и 2 для KV. Максимальная длина контекста составляет 32 768 токенов. Данная версия использует 4-битную AWQ-квантизацию, что снижает требования к памяти, но может повлиять на точность по сравнению с полноразмерной версией. В README явно указан английский язык; модальность — текстовая. Сильными сторонами модели являются специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также сочетание кодовых, математических и общих языковых возможностей. Для работы рекомендуется актуальная версия библиотеки Transformers; версия ниже 4.37.0 может быть несовместима. Модель распространяется по лицензии Qwen Research, точные условия которой приведены в указанном файле лицензии.

Qwen3-Coder-Next-FP8 — открытая FP8-квантизированная версия языковой модели Qwen3-Coder-Next, разработанная командой Qwen и подготовленная Unsloth. Это каузальная языковая модель для генерации текста, ориентированная прежде всего на кодинг-агентов и локальную разработку. Модель предназначена для написания и анализа кода, длительных многошаговых задач, использования инструментов и восстановления после ошибок выполнения. Она поддерживает интеграцию с CLI- и IDE-средами, включая Claude Code, Qwen Code, Qoder, Kilo, Trae и Cline. Модель работает только в режиме без пошагового рассуждения и не генерирует блоки <think></think>. Архитектура сочетает Gated DeltaNet, Gated Attention и Mixture of Experts: всего 80 млрд параметров, из которых активируются 3 млрд; 48 слоёв, 512 экспертов и 10 активируемых экспертов. Нативная длина контекста составляет 262 144 токена. Используется fine-grained FP8-квантизация с размером блока 128. Такая конфигурация обеспечивает высокую вычислительную эффективность при сохранении возможностей крупной модели, однако для локального запуска требуются значительные аппаратные ресурсы, особенно при использовании длинного контекста; при нехватке памяти рекомендуется уменьшать его размер. Языки и мультимодальные возможности в карточке явно не указаны. Модель распространяется по лицензии Apache-2.0.

Zero Gemma 4 E4B OpenZero — компактная локальная модель для генерации текста, созданная на базе unsloth/gemma-4-E4B-it и распространяемая автором репозитория shafire в рамках семейства OpenZero. Это самостоятельная объединённая GGUF-модель: обученные веса OpenZero уже встроены, поэтому отдельные LoRA-адаптер и базовая модель не требуются. Модель предназначена для локальных агентных сценариев, включая планирование, структурированное выполнение и проверку действий, разработку и отладку кода, ревью, проектирование тестов, исследовательский анализ с проверкой свидетельств, работу с инструментами и автономные процессы. Она совместима с llama.cpp и OpenZero, может использоваться через Ollama и OpenAI-совместимый локальный API. Заявлена поддержка работы на CPU; в README приведён ориентир для Intel Core i7-2600: около 2,70 токена/с при обработке промпта и 2,37 токена/с при генерации. Модель относится к классу Gemma 4 E4B, имеет размер файла 5,46 GiB и рассчитана на контекст до 8192 токенов в рекомендованных командах запуска. Указан английский язык. Квантование сочетает тензоры базовой модели Q5_K_M с 66 обученными attention-тензорами в F16. Сильные стороны — автономность поставки, компактность, возможность локального и потенциально более приватного развёртывания, а также ориентация на агентные и инструментальные рабочие процессы. Производительность зависит от оборудования, а приведённый CPU-бенчмарк не является универсальной гарантией скорости. Лицензия указана как other, с названием openzero-community-source-v1; дополнительные условия в предоставленном README не раскрыты.

Claude Opus 4.6 — модель Anthropic, предназначенная для программирования и длительных профессиональных задач. Карточка описывает её как особенно подходящую для агентов, которые выполняют целые рабочие процессы, а не отвечают на отдельные запросы. Данных о размере, архитектуре, модальностях, языках, длине контекста и лицензии в предоставленных источниках нет. Описание не уточняет конкретные возможности и ограничения модели.

ManniX-ITA/gemma-4-A4B-98e-v6-coder-it-GGUF — это набор GGUF-квантизаций модели ManniX-ITA/gemma-4-A4B-98e-v6-coder-it, созданной на основе Gemma 4 26B-A4B. Модель ориентирована прежде всего на генерацию и анализ кода, рассуждения, агентные сценарии с вызовом инструментов и задачи с изображениями. В карточке указаны английский язык и поддержка визуальных входных данных; тип конвейера — image-text-to-text. Архитектура — MoE с примерно 20,45 млрд параметров, из которых около 4 млрд активны при обработке токена; в слоях используется 98 экспертов. Модель поставляется в различных вариантах квантизации от 2 до 8 бит, а также в F16, с применением imatrix для большинства низкоразрядных вариантов. Для llama.cpp в примере использования задан контекст 32 768 токенов, а для режима рассуждений требуется параметр reasoning-budget. Сильные стороны модели — высокая эффективность в задачах программирования при существенно меньшем объёме активных параметров и широкий выбор вариантов по балансу качества, размера и требований к памяти. По приведённым тестам HumanEval+ лучшие результаты показывают Q6_K и Q8_0 — 93,29%, а рекомендуемым компромиссом названа IQ4_XS размером 11,01 ГБ; вариант IQ2_XS заметно теряет качество. Для многошаговых агентных сценариев в репозитории исправлен дефект шаблона чата, вызывавший повторение рассуждений. Модель распространяется по лицензии Gemma. Для запуска необходим совместимый движок, например llama.cpp, и корректно настроенный шаблон чата; без reasoning-budget Gemma 4 может генерировать некорректные служебные токены. Выбор конкретной квантизации определяет требования к дисковому пространству, памяти и степень сохранения исходного качества.

GLM-4.5-Air-FP8 — языковая foundation-модель для интеллектуальных агентов, разработанная организацией zai-org, связанной с Zhipu AI. Она предназначена для агентных приложений, требующих рассуждений, генерации и анализа кода, использования инструментов и выполнения сложных многошаговых задач. Модель поддерживает английский и китайский языки и относится к классу text-generation-моделей на базе Transformers. Модель имеет гибридный режим рассуждений: thinking mode предназначен для сложного анализа и работы с инструментами, а non-thinking mode — для быстрых ответов. Архитектура использует разреженную активацию параметров: всего 106 млрд параметров, из которых активно 12 млрд. Данная версия использует формат FP8, ориентированный на более эффективное хранение и инференс по сравнению с полноразмерными представлениями. Размер контекстного окна в README не указан. Сильными сторонами модели являются сочетание рассуждений, программирования и агентных возможностей, а также более компактная конфигурация по сравнению с GLM-4.5 при сохранении конкурентных результатов на заявленных бенчмарках. Ограничения связаны с высокими требованиями к инфраструктуре: для полнофункционального запуска указана серверная память свыше 1 ТБ и GPU-конфигурации с несколькими H100 или H200; точные требования зависят от режима и фреймворка инференса. Модель распространяется по лицензии MIT, допускающей коммерческое использование и вторичную разработку.

Laguna S 2.1-INT4 — модель компании poolside для агентного программирования и длительных многошаговых задач на локальной машине. Это текстовая text-to-text модель с поддержкой рассуждений, включая чередование размышлений и вызовов инструментов, а также возможность включать и отключать рассуждения для отдельных запросов. Модель использует архитектуру Mixture-of-Experts: 117,6 млрд параметров всего, из которых 8,5 млрд активируются на каждом токене. Она содержит 48 слоёв, 256 экспертов и один общий эксперт; в 36 слоях применяется Sliding Window Attention с окном 512 токенов, а 12 слоёв используют глобальное внимание. Per-head gating, rotary scales для отдельных слоёв и смешанное соотношение локального и глобального внимания рассчитаны на ускорение инференса и снижение требований к KV-кэшу. Контекстное окно составляет 1 048 576 токенов, KV-кэш квантизируется в FP8. Поддерживается только текстовая модальность; языки в README не указаны. К сильным сторонам относятся специализация на разработке ПО, агентных сценариях, работе с инструментами и длинном контексте, а также возможность локального запуска. Квантизированные INT4-веса занимают примерно 72 ГБ; модель поддерживается vLLM, Transformers, Ollama и llama.cpp с оговорёнными ограничениями по форматам и версиям. При использовании контекста максимальной длины возможно снижение качества. Модель распространяется по лицензии OpenMDW-1.1, разрешающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.

Карточка модели Viva00007363/MiMo-V2.6-Pro-RL на Hugging Face совпадает с карточкой shaikat2007/MiMo-V2.6-Pro, поэтому описание составлено по ней. MiMo-V2.6-Pro-RL — флагманская модель серии MiMo-V2.6, разработанная Xiaomi и обученная с масштабированием обучения с подкреплением для агентных сценариев и самоулучшения. Она предназначена для генерации текста, программирования, работы с инструментами и задач, где агент взаимодействует со средой и оценивает результаты своих действий. Модель построена на разреженной архитектуре Mixture of Experts. В README указаны 1,02 трлн общих и 42 млрд активируемых параметров; метаданные репозитория указывают 27,7 млрд параметров и класс MiMoV2ForCausalLM. Контекст составляет до 1 млн токенов. Модель поддерживает текст, изображения, видео и аудио, а также интерфейс вызова инструментов. В карточке заявлены английский и китайский языки. Модель подходит для длительных агентных запусков, анализа визуальных и аудиовизуальных материалов, программирования и работы с длинными документами или репозиториями. README приводит результаты бенчмарков, но они не гарантируют качество на конкретных задачах; развёртывание рассчитано на специализированные средства инференса и мощное оборудование. Лицензия репозитория — MIT.

Mistral Medium 3.5 — плотная языковая модель на 128 млрд параметров от Mistral AI, обученная следовать инструкциям. Она принимает текст и изображения и выдаёт текст. Модель предназначена для агентных сценариев, программирования и решения сложных задач. Поддержка изображений позволяет использовать модель для вопросов по визуальным материалам наряду с текстовыми запросами. В доступных сведениях нет деталей о контекстном окне, поддерживаемых языках и лицензии, поэтому эти характеристики не описываются.

Ornith-1.5-27B-A3B-Coder-MTP-GGUF — квантизированная GGUF-версия модели Ornith-1.5-27B-A3B-Coder, разработанная ManniX-ITA. Модель предназначена прежде всего для генерации и анализа программного кода, задач рассуждения и сценариев локального запуска через llama.cpp. Она построена на архитектуре Qwen3.5-MoE и использует разреженную структуру Mixture-of-Experts: около 26,66 млрд общих параметров, из которых активно используются примерно 3 млрд. В составе модели 184 эксперта, 8 из них выбираются на шаге генерации, а также один дополнительный MTP-слой для многошагового предсказания. Модель представлена в форматах от F16 до сильно сжатых вариантов IQ2 и Q2, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0; для квантов применялась индивидуальная importance matrix. Заявлена поддержка английского языка, текстового ввода и вывода, рассуждений и кода. В README также указана возможность работы с изображениями, но для этого требуется отдельно поставляемый vision projector mmproj; сами веса модели текстовые. Рекомендуемый контекст при запуске llama.cpp составляет до 262144 токенов, а использование reasoning budget считается обязательным. Сильные стороны модели — сочетание крупной общей ёмкости с низким числом активных параметров, широкий выбор уровней квантования, поддержка MoE, MTP, reasoning и локального инференса, а также наличие отдельного проектора для мультимодального режима. Ограничения включают необходимость подбирать квантование под доступную память, возможное заметное ухудшение качества в самых компактных вариантах и потенциально высокую задержку при длинных рассуждениях. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-14B-Instruct — инструкция-ориентированная языковая модель для программирования от команды Qwen. Это плотная причинная Transformer-модель семейства Qwen2 с 14 млрд параметров по метаданным; карточка указывает архитектурные компоненты RoPE, SwiGLU и RMSNorm, 48 слоёв и grouped-query attention. Модель дообучена на базе Qwen/Qwen2.5-Coder-14B и предназначена для генерации и анализа кода в диалоговом формате. Модель помогает создавать код, рассуждать о нём и исправлять ошибки, а также подходит для разработки кодовых агентов и сохраняет общие способности, включая математику. Карточка описывает контекст до 131 072 токенов с применением YaRN для обработки входов длиннее 32 768 токенов; метаданные указывают нативный контекст 32 768 токенов. Для загрузки рекомендуется актуальная версия Transformers, для развёртывания — vLLM. Лицензия Apache 2.0. Среди ограничений: при включении статического YaRN масштабирования в vLLM производительность на коротких текстах может снизиться. Подробные результаты оценки и требования к памяти в предоставленной карточке не приведены.

Qwen2.5-Coder-7B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Qwen2.5-Coder, разработанной командой Qwen при Alibaba Cloud и представленной в репозитории Unsloth. Модель предназначена для генерации, анализа и исправления программного кода, кодового рассуждения, создания code agents, а также задач математики и общего назначения. В README явно указан английский язык. Модель относится к causal language models и использует архитектуру Transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV attention. Она содержит 7,61 млрд параметров, 28 слоёв и механизм GQA с 28 головами для Q и 4 для KV; заявленная максимальная длина контекста — 131 072 токена. Базовая серия обучалась на 5,5 трлн токенов, включая исходный код, текстово-кодовые соответствия и синтетические данные. Существенные сильные стороны — специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также поддержка длинного контекста. README не приводит подробных ограничений качества, перечня языков программирования или характеристик именно 4-битного квантования. Для работы рекомендуется использовать актуальную версию библиотеки Transformers. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3.6-27B-FP8 — открытая FP8-квантизованная версия Qwen3.6-27B, разработанной Alibaba Cloud и опубликованной в формате Hugging Face Transformers. Модель предназначена для генерации текста, рассуждений, агентного программирования, работы с репозиториями и вызова инструментов. Она совместима с Transformers, vLLM, SGLang и KTransformers. Модель представляет собой каузальную языковую модель с vision encoder, содержит 27 млрд параметров и 64 слоя. Архитектура сочетает Gated DeltaNet и Gated Attention, поддерживает мультимодальный сценарий с изображениями и имеет нативный контекст 262 144 токена, расширяемый до 1 010 000 токенов. В README не указаны поддерживаемые языки. Для вызова инструментов предусмотрена поддержка tool calling с парсером qwen3_coder; включение режима reasoning выполняется через параметры совместимого сервера. К сильным сторонам относятся оптимизация для реальных задач программирования, фронтенд-разработки, репозиторного анализа и агентных рабочих процессов, а также близкая к исходной модели производительность после мелкозернистой FP8-квантизации с размером блока 128. Ограничения включают зависимость качества и функциональности от совместимого inference-стека и настроек reasoning и tool calling; конкретные требования к оборудованию и полный набор языков в README не приведены. Модель распространяется по лицензии Apache 2.0.

unsloth/Qwen3-Coder-Next-GGUF — GGUF-квантизированные версии открытой языковой модели Qwen3-Coder-Next, разработанные Unsloth на базе модели Qwen. Это каузальная текстовая модель, предназначенная прежде всего для программирования, локальной разработки и работы в кодинговых агентах, включая сценарии с CLI и IDE, длительным рассуждением, использованием инструментов и восстановлением после ошибок выполнения. Модель имеет 80 млрд параметров всего, из которых активируются 3 млрд; 79 млрд параметров приходятся на неэмбеддинговую часть. Архитектура сочетает Mixture of Experts с 512 экспертами и гибридные механизмы Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена. Модель поддерживает только режим без пошагового рассуждения и не генерирует блоки <think></think>. README описывает её как текстовую модель, но не указывает полный перечень поддерживаемых языков. Сильными сторонами являются высокая эффективность при небольшом числе активных параметров, поддержка сложных агентных сценариев, работы с инструментами и длинным контекстом. Для запуска 4-битных вариантов рекомендуется более 45 ГБ объединённой памяти RAM/VRAM, а для 2-битных XL-квантов и выше — более 30 ГБ. Для GGUF требуется совместимое локальное ПО, например llama.cpp или приложения на его основе; точные свойства зависят от выбранного варианта квантования. Модель распространяется по лицензии Apache-2.0.

Карточка модели ahmed-amedo/MiMo-V2.6-Flash-RL на Hugging Face совпадает с карточкой shaikat2007/MiMo-V2.6-Flash, поэтому описание составлено по ней. MiMo-V2.6-Flash-RL — мультимодальная модель генерации текста Xiaomi из серии MiMo-V2.6, обученная с подкреплением для агентных сценариев и самоулучшения. Карточка описывает семейство как разреженную MoE-архитектуру с обработкой текста, изображений, видео и аудио и контекстом до 1 млн токенов; указаны визуальный и аудиокодировщики, а также спекулятивный декодер. Метаданные репозитория, однако, описывают загруженную модель как плотную 12-миллиардную MiMoV2ForCausalLM в формате safetensors FP8, а pipeline_tag задаёт генерацию текста. Модель предназначена для диалогов, работы с инструментами, программирования и продолжительных агентных задач, а мультимодальные возможности семейства рассчитаны на понимание изображений, видео и аудио. В отчёте Xiaomi описаны обучение смешанным RL на задачах кодирования, общих агентов, визуального анализа и кибербезопасности, а также методы оценки траекторий и дистилляции. По карточке указана лицензия MIT. Поскольку сведения о размере и архитектуре в README относятся к серии, а метаданные конкретного репозитория расходятся с ними, характеристики репозитория следует считать более конкретными для загруженного чекпойнта.

Карточка модели ahmed-amedo/MiMo-V2.6-Pro-RL на Hugging Face совпадает с карточкой shaikat2007/MiMo-V2.6-Pro, поэтому описание составлено по ней. MiMo-V2.6-Pro-RL — флагманская модель серии MiMo-V2.6, разработанная Xiaomi и обученная с масштабированием обучения с подкреплением для агентных сценариев и самоулучшения. Она предназначена для генерации текста, программирования, работы с инструментами и задач, где агент взаимодействует со средой и оценивает результаты своих действий. Модель построена на разреженной архитектуре Mixture of Experts. В README указаны 1,02 трлн общих и 42 млрд активируемых параметров; метаданные репозитория указывают 27,7 млрд параметров и класс MiMoV2ForCausalLM. Контекст составляет до 1 млн токенов. Модель поддерживает текст, изображения, видео и аудио, а также интерфейс вызова инструментов. В карточке заявлены английский и китайский языки. Модель подходит для длительных агентных запусков, анализа визуальных и аудиовизуальных материалов, программирования и работы с длинными документами или репозиториями. README приводит результаты бенчмарков, но они не гарантируют качество на конкретных задачах; развёртывание рассчитано на специализированные средства инференса и мощное оборудование. Лицензия репозитория — MIT.