II.5Безопасность программного кода и цепочки поставок

CodeLlama-13B-fp16 — преобразованная в формат Transformers/Hugging Face версия модели Code Llama от Meta, опубликованная TheBloke. Это авторегрессионная плотная трансформерная модель семейства Llama с 12,9 млрд параметров; веса представлены в FP16 и safetensors. Модель предназначена для генерации и понимания кода, включая дополнение фрагментов внутри текста. Вход и выход — текст; модель рассчитана на английский язык и языки программирования. Контекст модели составляет 16 384 токена. Модель подходит для генерации кода по описанию, автодополнения, объяснения и преобразования программного кода. В README указана лицензия Llama 2 с пользовательскими коммерческими условиями Meta. Для корректной загрузки этой версии требуется trust_remote_code=True. Ответы могут быть неточными или нежелательными; перед внедрением в приложение рекомендуется проверка и настройка под конкретный сценарий.

CrystalMistral_7b_v.02 — языковая модель, созданная Crystalcareai объединением Crystalcareai/Mistral-Evol-Coder и Crystalcareai/mistral-InstructGPT с помощью LazyMergekit и метода SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста, в том числе для сценариев, сочетающих инструкции и задачи, связанные с кодом. В репозитории указаны веса Safetensors; конфигурация слияния использует тип данных bfloat16. Лицензия в предоставленных данных не указана.

Gemma 4 E4B Agentic Sol-Fable Reasoning GeminiCLI GGUF — дообученная версия Gemma 4, разработанная RavenX AI Labs. Модель предназначена для локального текстового общения, программирования, отладки, агентских сценариев, вызова инструментов и функционального вызова. В README она также позиционируется для работы с OpenHarness, OpenClaw и Hermes Agent. Модель поставляется в формате GGUF и доступна в вариантах Q4_K_M размером 5,07 ГБ и F16 размером 15,0 ГБ. Вариант Q4_K_M рекомендован как компромисс между качеством и размером, F16 ориентирован на максимальное качество. Обучение выполнено на 22 389 примерах, включающих трассы программирования и отладки, использования инструментов и рассуждений; заявлены встроенные reasoning-трейсы с блоками <think>. Основной язык — английский. Точная длина контекста в README не указана. Сильными сторонами модели заявлены генерация производственного кода, отладка, структурированное рассуждение, агентское программирование и корректное поведение в отдельных задачах безопасности. По приведённому локальному тестированию на Apple Silicon пять из шести задач были оценены как имеющие производственное качество, а в одной модель корректно отказалась от несанкционированной эксплуатации. Ограничения включают отсутствие данных о полноценной независимой оценке, неизвестный максимальный контекст и возможное усечение длинных ответов: в одном тесте модель достигла лимита токенов. Для использования доступны Ollama, llama.cpp и LM Studio; GGUF не требует подключения адаптера. Лицензия указана как Gemma, с отдельной ссылкой на условия лицензии Google.

IQuest-Coder-V1-40B-Loop-Instruct — вариант семейства языковых моделей для кода IQuest-Coder-V1, разработанного IQuestLab. Это плотная авторегрессионная модель с архитектурой IQuestLoopCoder и рекуррентным механизмом Loop, в котором параметры используются в двух итерациях. Вариант Instruct предназначен для следования инструкциям и общей помощи в программировании; модель также поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Модель насчитывает 39,4 млрд параметров и поддерживает контекст до 131 072 токенов. Семейство обучалось с использованием последовательностей изменений кода и репозиториев, что ориентирует его на задачи разработки ПО, понимание кода и работу с инструментами. В карточке заявлены результаты семейства на бенчмарках программирования, но отдельные оценки именно для этого варианта не приведены. Модель принимает текст и генерирует текст, включая код. Возможны ошибки и результаты могут различаться на специализированных или закрытых технологиях; сгенерированный код необходимо проверять, поскольку модель его не исполняет. Для работы с пользовательским кодом указан английский язык. Репозиторий использует Transformers и формат safetensors; лицензия обозначена как other, поэтому условия использования следует уточнить в карточке модели.

QuantFactory/Llama3.2-3B-Enigma-GGUF — квантизированная версия модели Llama3.2-3B-Enigma, созданная QuantFactory с использованием llama.cpp. Исходная модель разработана ValiantLabs на базе Meta Llama 3.2 3B Instruct и выпущена 30 сентября 2024 года. Модель предназначена для генерации текста, диалоговых сценариев и прежде всего для задач программирования: написания, объяснения и обработки кода. Она использует формат промптов Llama 3.2 Instruct, поддерживает чат-взаимодействие и обучалась на синтетических данных для code-instruct из набора Tachibana, дополненных общими диалоговыми данными из Supernova. В README указан английский язык; другие языки и размер контекстного окна не заявлены. Ключевые характеристики — архитектура Llama, около 3 млрд параметров, текстовая модальность и формат GGUF, подходящий для запуска через llama.cpp и совместимые инструменты. Сильными сторонами являются специализация на инструкциях по программированию и улучшенные общие диалоговые возможности при относительно небольшом размере. Ограничения включают отсутствие заявленных мультимодальных возможностей и недостаточно подробные сведения о конкретном варианте квантизации, контекстном окне и производительности. Модель распространяется по лицензии llama3.2.

MiMo-NeoHorse-9B-AGSI — текстовая модель для диалогов, программирования и задач рассуждения, созданная путём слияния XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B и TokenRhythm/NeoHorse-1-9B. Разработчик описывает метод объединения как AGSI Pipelined Fusion с интерполяцией параметров моделей. Модель предназначена для генерации текста в диалогах, помощи с кодом и применения в агентных сценариях, включая работу с терминалом. В метаданных указаны архитектура Qwen3.5 с плотной моделью и формат safetensors. Заявлены английский и китайский языки; лицензия — MIT.

MiniMax-M2.7-REAP-172B-A10B-NVFP4-GB10 — производная модель семейства MiniMax-M2.7, подготовленная Saricles для запуска на NVIDIA DGX Spark с GB10 и других GPU Blackwell с поддержкой NVFP4. Это причинная языковая MoE-модель MiniMaxM2ForCausalLM: после удаления 25% экспертов в базовой версии REAP и последующей посттренировочной квантизации NVFP4 в ней сохранено 192 из 256 экспертов исходной модели. Размер файлов составляет 98,9 ГБ; модель рассчитана на контекст до 196 608 токенов. Модель предназначена для диалогов и агентных сценариев, включая использование инструментов, генерацию кода, математику и задачи разработки ПО. Настройка квантования ориентирована на оборудование GB10 и уменьшает требования к памяти; README указывает, что модель помещается в единую память DGX Spark объёмом 128 ГБ. Производительность и качество этой версии на GB10 пока не подтверждены опубликованными бенчмарками. В README также отмечена ошибка подготовки данных к калибровке: SWE-smith-trajectories не попал ни в отбор экспертов, ни в калибровку квантования. Лицензия указана как other; конкретные условия следует проверять в карточке модели.

OBLITERATUS/Ornith-1.5-9B-OBLITERATED — это модифицированная версия модели Ornith-1.5-9B, разработанной DeepReinforce. Модель создана командой OBLITERATUS с применением precision abliteration surgery: из неё удалено исходное поведение отказа от потенциально вредных запросов при сохранении возможностей кодирования, рассуждений и агентных задач. Она предназначена для генерации текста, программирования, исследовательского анализа механизмов отказа и red-teaming-сценариев, где требуется более неограниченное поведение модели. Модель имеет архитектуру Qwen3.5 hybrid, объединяющую Gated DeltaNet и полное внимание, и содержит около 9 млрд параметров. Указан английский язык, поддерживается текстовая генерация и режим рассуждений; в поставке также присутствует vision encoder, однако возможности мультимодального применения явно не описаны. Доступны веса bf16 и варианты GGUF от Q8_0 до Q2_K. Для большинства сценариев рекомендуется отключать thinking mode, а для максимального сохранения свойств abliteration — использовать Q8_0 или Q6_K. По сравнению с исходной моделью версия демонстрирует более высокую готовность отвечать на ограниченные запросы и сохраняет результаты в генерации кода, однако её показатель MMLU снизился с 78,82% до 74,82%. Частично ухудшена поддержка function calling, а на низких уровнях квантования возможны дополнительные отказы или уклончивые ответы. Как модель с 9 млрд параметров, она может галлюцинировать в сложных химических и синтетических задачах, поэтому технические сведения требуют независимой проверки. Лицензия — MIT.

bunnycore/Qwen2.5-7B-Matrix-v2 — это объединённая модель генерации текста на архитектуре Qwen2, созданная с помощью mergekit методом DARE TIES. В объединение вошли Qwen2.5-Coder-7B-Instruct, Qwen2.5-Math-7B-Instruct и huihui-ai/Qwen2.5-7B-Instruct-abliterated; последняя использована как базовая модель. Чекпойнт содержит 7,1 млрд параметров, построен для Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста, в том числе для задач программирования и математики, сочетая возможности включённых инструкционных моделей. В метаданных также отмечен интерфейс вызова инструментов. Языки, на которых модель рассчитана, и отдельные ограничения её качества не описаны. Лицензия в предоставленных сведениях не указана.

ThomasBaruzier/Qwen2.5-Coder-3B-Instruct-GGUF — набор GGUF-квантизаций инструкционно дообученной модели Qwen2.5-Coder-3B-Instruct. Исходную модель разработала команда Qwen, а данный репозиторий содержит варианты, подготовленные с использованием llama.cpp и метода imatrix с калибровочным файлом Bartowski. Модель предназначена для генерации и обработки текста, прежде всего для задач программирования и чат-сценариев. Это текстовая модель с архитектурой и характеристиками базовой Qwen2.5-Coder-3B; в README указано около 3 миллиардов параметров, поддерживается английский язык, а заявленный тип конвейера — text-generation. Модель ориентирована на локальный запуск в формате GGUF, причём доступны варианты квантизации от IQ1_S до Q5_K_M с размером примерно от 754 МБ до 2121 МБ. Разные варианты позволяют выбирать компромисс между требованиями к памяти и качеством; в приведённых измерениях более крупные квантизации обычно показывают меньшую perplexity и более высокую точность. Сильными сторонами являются компактный размер, возможность локального использования через llama.cpp и наличие большого выбора квантизаций для устройств с разными ресурсами. Ограничения включают потери качества, зависящие от степени квантизации, неизвестные в README размер контекста и набор поддерживаемых языков помимо английского, а также отсутствие сведений о мультимодальности. Модель распространяется по лицензии qwen-research; точные условия следует уточнять в лицензии исходной Qwen/Qwen2.5-Coder-3B-Instruct.

Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled — мультимодальная плотная модель на 27 млрд параметров, созданная Jackrong дообучением Qwen/Qwen3.5-27B. По карточке, обучение методом SFT было направлено на структурированные рассуждения с использованием примеров, связанных с Claude-4.6 Opus; среди датасетов указаны наборы для reasoning. Модель принимает текст и изображения и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для сложных аналитических запросов, программирования, математики и сценариев coding-агентов. В README заявлены поддержка роли developer, сохранение режима рассуждений и более продолжительная автономная работа; эти характеристики представлены как результаты автора и сообщества. Модель может ошибаться в фактах, а карточка предупреждает о возможных проблемах совместимости интеграций и шаблонов, поскольку выпуск обозначен как preview. Репозиторий содержит веса safetensors; лицензия — Apache-2.0.

unsloth/Qwen3.6-27B-UD-MLX-NVFP4 — это MLX-версия открытой модели Qwen3.6-27B, подготовленная Unsloth на базе Qwen/Qwen3.6-27B. Модель ориентирована прежде всего на агентное программирование, работу с frontend-задачами, рассуждение на уровне репозитория и итеративную разработку с сохранением контекста рассуждений. Она поддерживает текстовые и визуальные входы благодаря архитектуре с vision encoder. Модель содержит около 27 млрд параметров и построена как causal language model с гибридной архитектурой Gated DeltaNet и Gated Attention: 64 слоя, скрытое измерение 5120 и многошаговое обучение MTP. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Данный репозиторий представляет квантованный вариант Unsloth в формате MLX с обозначением NVFP4; README не указывает поддерживаемые языки и точные требования к оборудованию. Сильными сторонами являются специализация на coding-agent сценариях, обработка изображений и очень длинный контекст. К ограничениям относятся зависимость от MLX-совместимого программного окружения и возможные компромиссы квантования по сравнению с полной точностью; конкретные потери качества для этой версии в README не приведены. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-ED-4.87bpw-GGUF — квантованная в формате GGUF версия Qwen3.8-27B, подготовленная автором репозитория bakhtin на основе BF16-файла ggml-org. Это мультимодальная чат-модель для диалога с текстом и изображениями; в метаданных указаны задачи image-text-to-text и возможности vision и chat. При квантовании до 4,87 бит на вес использована Importance Matrix, откалиброванная на русской технической речи, формальной логике и примерах кода. README сообщает о встроенном слое MTP и приводит результаты сравнения perplexity и скорости генерации с другой GGUF-квантовкой. Модель рассчитана на запуск на современной потребительской видеокарте с 16 ГБ видеопамяти; автор приводит ориентир 20–30 токенов в секунду в зависимости от заполнения KV-кэша. Автор указывает, что постобучение и абляции не проводились. Контекст свыше 128 тысяч токенов существенно снижает скорость, примерно до 5 токенов в секунду. Лицензия — Apache-2.0.

Youssofal/Qwen3.8-27B-MTPLX-Optimized-Speed — квантованная версия Qwen3.8-27B, адаптированная для запуска через MTPLX на компьютерах Apple Silicon. Модель предназначена прежде всего для локального программирования, генерации текста и работы с инструментами вроде OpenCode, Claude Code и совместимых с OpenAI или Anthropic API приложений. Разработчик базовой модели — Qwen; данный MLX-пакет подготовлен Youssofal для MTPLX. Модель использует динамическое 4-битное квантование с группами по 32 веса: наиболее чувствительные компоненты частично сохранены в 8- или 16-битном формате, включая MTP-голову. Архитектура сохраняет native multi-token prediction с глубиной MTP 3, что позволяет MTPLX применять спекулятивное декодирование на Apple Silicon. Размер загрузки составляет 20,4 ГБ, пиковое потребление unified memory — около 23,6 ГБ, контекстное окно — 262 144 токена. Указанные в README языки не перечислены, но приведённая проверка включает многоязычный текст. Главное преимущество — высокая скорость локальной генерации при близости к исходной модели: заявлены показатели до 87,6 токена в секунду в отдельных сценариях и около 58,7 токена в секунду на средней задаче программирования на M5 Max. По данным автора, точность согласования с bf16-чекпойнтом составляет 96% top-1, а спекулятивная генерация сохраняет исходное распределение выборки. Ограничения включают зависимость от MTPLX и Apple Silicon, требование не менее 32 ГБ unified memory, а также неизбежные потери качества из-за 4-битного квантования. Модель распространяется по лицензии Apache-2.0.

zerodigest/Qwen3.8-27B-YMQ-MTP-GGUF — это набор GGUF-квантизированных вариантов модели Qwen3.8-27B, подготовленный проектом ZeroDigest на основе официальных исходных файлов BF16. Релиз использует архитектурно-ориентированную смешанную точность, подходы, вдохновлённые AutoRound, и компилятор YMQ-Compiler v2.0. В описании также заявлена поддержка параллельного multi-token prediction (MTP) для спекулятивной генерации. Модель предназначена прежде всего для локального запуска и задач генерации кода, включая разработку, работу с API и многофайловыми проектами в инструментах вроде RooCode и Aider. Доступно несколько пресетов размером примерно от 9,8 до 19 ГБ, рассчитанных на видеокарты с 12–20 ГБ памяти и различные компромиссы между качеством, контекстом и требованиями к VRAM. Для вариантов приведены результаты измерений на WikiText-2 при контексте 4096 токенов; наилучшее указанное значение perplexity составляет 6,8413 у пресета M. Сильной стороной является распределение точности по компонентам модели с приоритетом сохранения логики и качества рассуждений при ограниченной памяти. Ограничения зависят от пресета: наиболее компактные варианты имеют заметный шум квантизации и рекомендуются для коротких или простых сценариев, а более качественные требуют больше видеопамяти. В README не указаны языки, точное максимальное окно контекста и полный перечень поддерживаемых модальностей; по доступным данным модель ориентирована на текстовую генерацию. Лицензия — Apache-2.0.

AnonimousA/Qwen3.8-Flash-Next-REAP-256-duo-GGUF — общественная производная модели Qwen3.8-Flash-Next, неофициально созданная сообществом и не связанная с Alibaba/Qwen. Это GGUF-квантизированная модель с pruning-экспертов REAP: число экспертов в каждом слое сокращено с 512 до 256, при этом сохранённые веса скопированы без деквантизации и повторного квантования. Базовый формат — Unsloth UD-Q3_K_XL, общий размер составляет около 57,69 GiB в двух файлах вместо 83,8 GiB у исходной версии. Модель предназначена прежде всего для генерации кода и агентского взаимодействия, включая оркестрацию инструментов и tool calling. Она использует архитектуру qwen4exp с гибридом Gated DeltaNet, Qwen Sparse Attention и блоком n-gram embedding. Активируются 10 экспертов и один общий эксперт; число активных параметров не изменено. Веса vision-компонентов сохранены, но файл mmproj распространяется отдельно. Калибровка pruning выполнена на корпусах кода и агентской оркестрации. Главное преимущество — уменьшенный размер, благодаря которому модель может размещаться преимущественно в VRAM: на RTX 5090 объёмом 32 GB заявлены 68,4 токена/с при декодировании и 934 токена/с при prefill с частичным размещением MoE на CPU. При полном выполнении на CPU прирост декодирования практически отсутствует, зато prefill был примерно в 1,58 раза быстрее исходной модели. К ограничениям относятся возможное снижение качества из-за глубокого pruning, более низкий заявленный результат HumanEval по сравнению с последующей версией REAP-320 и необходимость использовать llama.cpp mainline с поддержкой архитектуры, добавленной 27 августа 2026 года. Лицензия указана как qwen-community-1.0; ссылка ведёт на лицензию исходной модели Qwen3.8-Flash-Next. Перед использованием следует учитывать, что это community derivative, а не официальный релиз Qwen.

Rombos-Coder-V2.5-Qwen-32b-GGUF — квантизированная версия модели Rombos-Coder-V2.5-Qwen-32b, разработанной rombodawg и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации и обработки кода, а также связанных с программированием текстовых запросов. В карточке указана поддержка английского языка и размер базовой модели 32B параметров. Модель квантизирована с использованием llama.cpp и imatrix; доступны варианты от Q3 до Q8 с размером файлов примерно от 15 до 35 ГБ. Версии с более высокой точностью сохраняют лучшее качество, тогда как младшие варианты требуют меньше оперативной памяти, но могут заметнее терять в качестве. Для запуска рекомендуются llama.cpp и LM Studio; в README также приведён шаблон чата с ролями system, user и assistant. Архитектура, размер контекстного окна, дополнительные модальности и результаты оценивания в карточке не указаны. Для отдельных вариантов существуют ограничения по аппаратной платформе: некоторые сборки оптимизированы для ARM и требуют соответствующих инструкций, а их использование на macOS и Windows не рекомендуется. Модель распространяется по лицензии Apache-2.0.

Tiel-Coder-35B-A3B-GGUF-MTP — локальная GGUF-версия модели Ornith-1.5-35B-A3B, подготовленная с динамической квантизацией, собственной imatrix и шаблоном диалогов Sharp. Модель ориентирована прежде всего на агентное программирование, исправление реальных проблем в кодовых базах и длительные многоходовые диалоги. В метаданных указаны поддержка английского и китайского языков, а также сценарий image-text-to-text и возможность работы с визуальными данными; подробности о реализации мультимодальности в README не приведены. Модель использует разреженную MoE-архитектуру с заявленным размером 35B и активной частью 3B параметров. Доступны варианты квантизации от 2 до 8 бит в формате GGUF, совместимые с llama.cpp; размер наиболее рекомендуемого варианта UD-Q4_K_XL составляет 23,3 ГБ. Заявлена поддержка контекста до 262 тысяч токенов, при этом KV-кэш в формате 16-bit занимает менее 5 ГБ оперативной памяти для такого контекста. Архитектура позволяет использовать частичную выгрузку на GPU и запускать модель на системах с ограниченными ресурсами. Сильными сторонами являются скорость, эффективность в задачах программирования и качество многоходового общения. В приведённых автором тестах модель решила 12 из 25 задач SWE-bench-Live и получила 67,2 балла в Claw-Eval, однако уступила специализированным моделям в MMLU-Pro и задачах на знания и сложное рассуждение. README прямо предупреждает, что модель слаба в викторинах и экзаменационных сценариях, а более низкие уровни квантизации заметно ухудшают способность к агентному программированию. Модель распространяется по лицензии MIT.

Brello Thinking — языковая модель Epic Systems из семейства Brello AI, предназначенная для генерации текста с акцентом на рассуждения, математику, программирование и творческие задачи. В README указана база Tencent Hunyuan; архитектура в метаданных обозначена как плотная причинная EpicBrelloV1ForCausalLM, размер модели — 1,8 млрд параметров. Модель принимает текст и генерирует текст. Заявлена поддержка контекста до 262 144 токенов, режимов быстрого и углублённого рассуждения, а также интерфейса вызова инструментов. README заявляет поддержку английского и китайского языков. Репозиторий содержит веса safetensors и помечен лицензией MIT в метаданных, однако README указывает проприетарную лицензию Epic Systems и запрет на распространение и крупномасштабный хостинг; условия лицензирования противоречат друг другу, их следует проверить перед использованием.

CodeLlama-34b-Instruct-hf — языковая модель Meta из семейства Code Llama, представленная в формате Transformers. Это авторегрессионная плотная модель на архитектуре Transformer с 33,5 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для генерации и понимания кода, завершения фрагментов кода и выполнения инструкций в формате чат-ассистента. Она принимает текст и генерирует текст; README указывает английский как целевой естественный язык, а также работу с языками программирования. Модель не заявлена как специализированная на Python. Модель обучена на данных семейства Llama 2 с дополнительными весами и настройкой для следования инструкциям. Она может выдавать неточные или нежелательные ответы; перед внедрением рекомендуется проверять её поведение для конкретных сценариев. Использование регулируется лицензией Meta Llama 2.

duyntnet/deepseek-coder-6.7b-instruct-imatrix-GGUF — набор квантованных версий модели deepseek-ai/deepseek-coder-6.7b-instruct, опубликованный пользователем или организацией duyntnet. Это инструкционно настроенная генеративная языковая модель для работы с текстом и программным кодом, включая сценарии создания и объяснения кода. В README приведён пример генерации алгоритма быстрой сортировки на Python в формате диалога. Модель имеет размер 6,7 млрд параметров и распространяется в формате GGUF с использованием imatrix-квантизации. Указан английский язык, однако дополнительные языковые возможности, длина контекста, конкретные варианты квантизации и требования к оборудованию в README не описаны. Формат предназначен для запуска совместимыми средствами инференса, но точные поддерживаемые инструменты также не указаны. К сильным сторонам относятся специализация исходной модели на задачах программирования, инструкционное обучение и наличие квантованных вариантов, потенциально уменьшающих требования к памяти. Ограничения связаны с отсутствием подробных результатов оценки, сведений о качестве на конкретных языках и задачах, контекстном окне и характеристиках отдельных файлов. Лицензия обозначена как other; её конкретные условия в README не приведены.

DeepSeek-R1-Distill-Qwen-32B — плотная языковая модель с 32 млрд параметров, разработанная DeepSeek путём дообучения Qwen2.5 на примерах рассуждений, сгенерированных DeepSeek-R1. Она предназначена для генерации текста в диалогах и решения задач, требующих многошаговых рассуждений, в частности по математике и программированию. Модель построена на архитектуре Qwen2 и поддерживает контекст до 131 072 токенов. В README сообщается о сильных результатах на бенчмарках рассуждений, математики и кода; эти результаты не гарантируют аналогичного качества на других задачах. Для модели указана лицензия MIT.

Gemma 4 E4B Agentic Opus Reasoning GeminiCLI MLX 4bit — дообученная и объединённая с весами модель на базе deadbydawn101/gemma-4-E4B-mlx-4bit, разработанная RavenX AI Labs. Модель предназначена для агентских сценариев, программирования, отладки, структурированного диалога и работы с инструментами через tool calling и function calling, включая интеграцию с OpenHarness, OpenClaw, Hermes Agent и Gemini CLI. Модель поддерживает текст и изображения, ориентирована на английский язык и использует архитектуру Gemma 4 E4B. Веса содержат встроенное рассуждение в стиле Opus и Claude Code с поддержкой тегов <think>, поэтому отдельный адаптер не требуется. Заявлены контекст до 131K токенов, размер около 10,5 ГБ и 4-битная MLX-квантизация для Apple Silicon, однако в README также указано, что объединённые веса имеют формат bfloat16, что может влиять на фактический размер файлов. Сильные стороны модели — встроенные паттерны рассуждения, агентское поведение, вызов инструментов, поддержка vision и совместимость с экосистемой MLX. Ограничения включают заявленную ориентацию на английский язык, зависимость от MLX и Apple Silicon для описанного сценария использования, а также отсутствие подробных независимых оценок качества. Модель распространяется по лицензии Gemma; условия приведены по ссылке на документацию Google.

Kalki 1.5 — плотная по маршрутизации экспертная модель семейства Kalki от Upmarking, предназначенная для многошаговой разработки программного обеспечения и агентных сценариев с использованием инструментов. В README заявлены архитектура Mixture-of-Experts с MLA, 1 трлн параметров и активация 32 млрд параметров на токен. Для анализа интерфейсов и визуальной отладки предусмотрен визуальный энкодер UpmarkViT; заявлена поддержка контекста до 262 144 токенов. Модель рассчитана на автономную навигацию по инструментам, редактирование файлов, запросы к PostgreSQL, отладку и другие длительные инженерные задачи. README также заявляет примерно на 30% меньше токенов рассуждения по сравнению с Kalki-0.6 и поддержку нативной квантизации INT4. Метаданные указывают задачи image-text-to-text и text-generation; в каталоге есть чат-возможность. Модель распространяется по лицензии Apache-2.0, а README предлагает доступ через API Upmarking с совместимостью с SDK OpenAI и Anthropic.

MiniCPM5-1B — компактная плотная языковая модель серии MiniCPM5, разработанная OpenBMB. Она построена на архитектуре Transformer с причинной языковой моделью LlamaForCausalLM; метаданные указывают 837,6 млн параметров, а карточка модели — около 1,08 млрд. Модель поддерживает контекст до 131 072 токенов и распространяется в формате safetensors через Transformers. Модель предназначена для локальных помощников, программирования, агентных сценариев с вызовом инструментов и сложных рассуждений на устройствах с ограниченными ресурсами. Один чекпойнт предлагает быстрый режим без рассуждений и режим Thinking. В карточке заявлены сильные результаты для своего размерного класса, особенно в использовании инструментов, генерации кода и трудных рассуждениях; это оценка авторов в сравнении с выбранными моделями, а не гарантия качества для любого сценария. Модель рассчитана прежде всего на английский и китайский языки. Лицензия Apache-2.0. Как и другие языковые модели, она может выдавать неточные, предвзятые или небезопасные ответы; результаты следует проверять, особенно при использовании в важных решениях.

Myric/Ornith-1.5-35B-A3B-APEX-GGUF — это набор квантизированных GGUF-вариантов модели Ornith-1.5-35B-A3B, разработанной ornith-ai. Модель предназначена для генерации текста, агентного программирования и работы с изображениями через отдельный vision projector; запуск ориентирован на llama.cpp. Лицензия — MIT. Архитектура представляет собой MoE-модель с 35,5 млрд общих параметров и примерно 3 млрд активных параметров: используется 256 маршрутизируемых экспертов с выбором top-8, гибридная gated-delta-net с полным attention в каждом четвёртом слое, 40 основных слоёв и контекст до 262 144 токенов. Также сохранён однос layer MTP-блок для speculative decoding. Доступны варианты i-quality размером 21,67 ГБ, i-compact размером 16,58 ГБ и i-mini размером 12,55 ГБ; они используют разные уровни квантизации и рассчитаны соответственно на качество или экономию памяти. Сильные стороны модели — большой контекст, низкая нагрузка KV-кэша благодаря преобладанию рекуррентных слоёв, поддержка vision через проектор издателя и возможность ускорения генерации с помощью MTP. В заявленном тесте agentic coding вариант i-quality решил 9 из 9 задач и прошёл 154 из 154 проверок, а в пяти perception-задачах с изображениями дал 5 успешных ответов из 5. Эти результаты получены на DGX Spark с llama.cpp в одном прогоне и не являются универсальным сравнительным бенчмарком. Для запуска требуется совместимый llama.cpp, значительный объём памяти и отдельный файл vision projector; README не указывает языковой охват модели и не приводит систематических данных о качестве на разных языках.

Ornith-1.5-9B-MLX-6bit — компактная языковая модель семейства Ornith-1.5, представленная проектом Ornith. Это плотная модель на 9 млрд параметров, адаптированная для запуска с использованием MLX и 6-битного квантования. Модель предназначена прежде всего для генерации текста и эффективного локального развертывания на одной GPU; семейство также ориентировано на запуск на периферийных и мобильных устройствах в квантованном варианте Ornith-1.5-9B-Mobile. Ornith-1.5 развивает Ornith-1.0, созданную на основе Qwen3.5 и Gemma4 с дополнительным continued pretraining, mid-training и post-training. Ключевая особенность новой версии — цикл самоулучшения, в котором совместно оптимизируются генерация задач, построение scaffold и rollout решений с применением reinforcement learning. Такой подход рассчитан на задачи программирования, работу с терминалом и автономное решение инженерных задач. В README приведены результаты на Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro и других тестах; для Ornith-1.5-9B указаны результаты 46,2 и 47 на двух конфигурациях Terminal-Bench 2.1, 70,6 на SWE-bench Verified и 47,5 на SWE-bench Pro. Сильными сторонами модели являются небольшой для современных reasoning- и coding-моделей размер, возможность эффективного single-GPU deployment и ориентация на программирование и агентные сценарии. Ограничения заключаются в том, что предоставленные данные не содержат сведений о размере контекстного окна, поддерживаемых языках, мультимодальности, точной базовой архитектуре и лицензии; эти характеристики нельзя достоверно определить по карточке.

Ornith-1.5-9B-OBLITERATED — модифицированная версия модели Ornith-1.5-9B, разработанной DeepReinforce. Модель подготовлена проектом OBLITERATUS и создана с применением abliteration — хирургического удаления направлений, связанных с отказами модели. Она предназначена для генерации текста, программирования, рассуждений, агентских задач, исследований выравнивания и red teaming, где требуется менее фильтруемое поведение. Заявлена поддержка английского языка. Модель построена на гибридной архитектуре Qwen3.5 с Gated DeltaNet и полноразмерными механизмами внимания и содержит около 9 млрд параметров. Доступны веса bf16 и варианты GGUF от Q2_K до Q8_0; также указан vision encoder, однако возможности мультимодального применения в описании подробно не раскрыты. Поддерживается режим рассуждений, но для общего использования рекомендуется отключать его. Для запуска доступны Transformers и llama.cpp, рекомендуемый размер контекста в примере llama.cpp — 8192 токена. Сильной стороной является существенно сниженная склонность к отказам: в приведённых тестах модель показала высокую готовность отвечать на ограниченные запросы, сохранив результаты в генерации кода и агентских сценариях. Ограничения включают снижение MMLU примерно на 4 процентных пункта относительно базовой модели, частично ухудшенную поддержку function calling, возможные дополнительные отказы в низкобитных квантизациях и риск галлюцинаций в сложных химических и синтетических задачах. Удаление защитных механизмов повышает риски небезопасного использования, поэтому результаты требуют независимой проверки. Лицензия — MIT.

Ornith-1.5-Cyclos-1M-Uncensored — это мультимодальная модель для диалогов, разработанная на основе семейства Ornith и изменённая автором репозитория с помощью LoRA дообучения. Веса LoRA объединены с базовой моделью; архитектура — Qwen3.5 MoE для условной генерации текста и изображений. Модель принимает текст и изображения и выдаёт текст. Дообучение было сосредоточено на программировании, агентных сценариях, анализе рынков и торговли, классификации содержимого и вызове инструментов. Размер базовой модели — 35 млрд параметров; репозиторий содержит веса BF16 в формате safetensors. Контекст расширен с исходных 262 144 до 1 048 576 токенов с помощью YaRN. Это расширение выполнено для инференса, а не обучено на последовательностях такой длины: качество за пределами исходного контекста не проверялось и может снижаться. В README указана поддержка vLLM и SGLang; для BF16-весов объёмом около 67 ГБ требуется значительная видеопамять, а на описанной системе с 32 ГБ VRAM использовалась выгрузка части весов в оперативную память через vLLM. Аудио модель не поддерживает, заявленных бенчмарков нет. Лицензия — Apache-2.0.

Qwen2.5-Coder-1.5B-Instruct-Q8_0-GGUF — это преобразованная в формат GGUF версия инструкционной модели Qwen2.5-Coder-1.5B-Instruct. Модель опубликована ggml-org и создана на основе модели Qwen, разработанной командой Qwen. Квантование Q8_0 выполнено с использованием llama.cpp через сервис GGUF-my-repo. Модель предназначена для генерации текста и работы с программным кодом в диалоговых и других сценариях, поддерживаемых llama.cpp. В README указаны языки с поддержкой английского языка, а также теги, связанные с кодом, чатом и семейством Qwen Coder. Известен размер базовой модели — 1,5 млрд параметров; формат GGUF оптимизирован для локального запуска через llama.cpp. В качестве примера указан контекст длиной 2048 токенов, однако это значение относится к рекомендуемой команде запуска, а не обязательно к максимальному контексту модели. К сильным сторонам относятся небольшой размер, инструкционная настройка, специализация на задачах программирования и удобство локального использования на совместимом оборудовании. Ограничения включают неизвестные из этого README качество на конкретных языках программирования, бенчмарках и задачах, а также отсутствие информации о мультимодальности; по имеющимся данным модель является текстовой. Модель распространяется по лицензии Apache-2.0.