II.5Безопасность программного кода и цепочки поставок

Gemma-4-E4B-text-base — текстовая версия Gemma-4-E4B-it, подготовленная wyattearp удалением мультимодальных проекций зрения и аудио. Параметры языкового трансформера сохранены побитно относительно базовой модели; это плотная авторегрессионная модель Gemma 4 примерно на 4,2 млрд параметров с контекстом до 131 072 токенов и словарём из 256 000 токенов. Модель предназначена для генерации текста, диалогов, рассуждений, программирования и агентных сценариев с вызовом инструментов. Текстовая конфигурация сокращает расход памяти на мультимодальные компоненты и упрощает обслуживание через Transformers и совместимые движки, включая vLLM. Карточка описывает англоязычное применение; удаление аудио- и визуальных компонентов исключает обработку изображений и аудио. Модель распространяется в формате safetensors; для использования действует лицензия Gemma. README отмечает необходимость исправления парсера вызовов инструментов в vLLM для корректной обработки некоторых переходов формата Gemma 4.

openbmb/MiniCPM5-1B-MLX — компактная языковая модель из серии MiniCPM5, разработанная OpenBMB. Это causal language model на архитектуре LlamaForCausalLM, адаптированная в формате MLX с 4-битным представлением для локального запуска на устройствах Apple Silicon и в условиях ограниченных ресурсов. Модель предназначена для локальных ассистентов, coding agents, генерации кода, сценариев tool use, агентских рабочих процессов и задач, требующих рассуждений. Она поддерживает английский и китайский языки, контекст до 131 072 токенов и два режима работы в одном чекпойнте: быстрый режим без рассуждений и режим с пошаговым рассуждением через параметр enable_thinking. Заявлены сильные результаты среди открытых моделей класса около 1B параметров, особенно в использовании инструментов, генерации кода и сложных рассуждениях. Модель содержит 1 080 632 832 параметра, 24 слоя, 16 attention heads для Q и 2 KV-heads в конфигурации GQA. К преимуществам относятся небольшой размер, поддержка длинного контекста и пригодность для on-device и edge-сценариев. Ограничениями являются компактный масштаб модели по сравнению с крупными LLM и ориентация MLX-версии прежде всего на устройства Apple Silicon. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3.8-2.4T-A95B-NVFP4-REAP-25 — квантизированная версия модели Qwen/Qwen3.8-2.4T-A95B, разработанная RedHatAI. Это текстовая модель для генерации текста на основе архитектуры Qwen3_5MoeForCausalLM с разреженной смесью экспертов (MoE). Модель принимает текст и генерирует текст; сведения о поддерживаемых языках и размере контекста в README не указаны. Модель предназначена для задач рассуждения, программирования и общего текстового вывода, включая развёртывание через vLLM с OpenAI-совместимым API. В слоях экспертов MoE применена смешанная квантизация NVFP4: веса и активации линейных операторов представлены в формате FP4, тогда как attention и другие неквантизированные слои сохраняют исходную точность. Дополнительно выполнено 25-процентное REAP-прореживание экспертов. Это снижает требования к дисковому пространству и GPU-памяти квантизированных слоёв примерно на 75 процентов с учётом дополнительного выигрыша от разреженности. По данным оценки, модель сохранила высокое качество относительно неквантизированной версии: результат на GPQA Diamond составил 91,5 против 92,6 у исходной модели, а на DeepSWE v1.1 — 56,6, что соответствует заявленному восстановлению 98,81 и 100 процентов соответственно. Ограничения включают потенциальное влияние квантизации и прореживания на качество за пределами указанных тестов, а также высокие требования к инфраструктуре: рекомендован запуск с vLLM, tensor parallelism на 8 GPU и expert parallelism. Лицензия в README не указана.

TeichAI разработала Gemma 4 26B A4B IT Claude Opus Distill — мультимодальную диалоговую модель на базе unsloth/gemma-4-26B-A4B-it, дообученную методом SFT на примерах рассуждений Claude Opus и Sonnet. Модель ориентирована на сложные многошаговые задачи, где полезны структурированный анализ и подробное следование инструкциям. Модель предназначена для генерации и отладки кода, научных рассуждений, анализа сложных вопросов и исследовательского синтеза. Она принимает текст и изображения и формирует текстовые ответы; доступна в формате safetensors и поддерживает чат и работу с изображениями. В README отдельно описан режим рассуждений и приведены рекомендации для многоходовых диалогов и мультимодальных запросов. Качество и устойчивость исходной версии ограничены: автор рекомендует перейти на v2 из-за улучшенного качества данных и исправлений шаблона чата; окончательные результаты сравнительных тестов не приведены. Лицензия — Apache-2.0.

TeichAI/Gemma-4-31B-Fable-5-Agent-Distill — дообученная на трассах Claude Code и пользовательских диалогах модель Gemma 4 на 31 млрд параметров. Она предназначена для работы в агентных оболочках, включая Claude Code и pi, и помогает генерировать и отлаживать код, планировать архитектуру программ, выполнять многошаговые исследования и решать аналитические задачи. Модель поддерживает диалоговый формат, интерфейс вызова инструментов и анализ изображений; в метаданных указан английский язык. Для запуска README рекомендует актуальную версию Transformers. Разработчик сообщает, что способность к рассуждению оставлена без изменений и что модель оптимизирована дистилляцией трасс Claude Code. Бенчмарки пока не опубликованы, поэтому заявленные возможности не сопровождаются количественной оценкой. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0.

GRM-3.2-Cliff — модель OrionLLM для длительных агентных сценариев и сложных задач рассуждения. Она основана на Ornith-1.0-9B и, согласно README, содержит 9 млрд параметров; метаданные указывают архитектуру семейства Qwen 3.5 и поддержку диалогов и изображений. Модель предназначена для многошагового планирования и выполнения локальных рабочих процессов, сложного программирования, отладки и рефакторинга, продвинутой математики и логических задач. Разработчик заявляет, что модель рассчитана на продолжительные взаимодействия с сохранением цели и может работать на оборудовании с ограниченными ресурсами GPU. В качестве входа поддерживаются текст и изображения, выход — текст. В README не указаны поддерживаемые естественные языки и длина контекста. Модель распространяется по лицензии Apache 2.0; заявленные характеристики качества и эффективности представлены разработчиком, поэтому их следует оценивать с учётом конкретного сценария.

Kimi-K2-Base — базовая языковая модель, разработанная Moonshot AI. Это фундаментальная версия семейства Kimi K2, предназначенная для исследователей и разработчиков, которым нужен контроль над дообучением и созданием специализированных решений. Модель ориентирована на задачи работы с текстом, рассуждения, программирования, использования инструментов и построения автономных агентных систем. Модель использует архитектуру Mixture-of-Experts (MoE) с 1 трлн общих параметров и 32 млрд активируемых параметров. Она содержит 61 слой, включая один плотный слой, 384 эксперта, из которых для каждого токена выбираются 8, один общий эксперт, 64 attention-головы, скрытую размерность внимания 7168, размерность MoE-эксперта 2048 и словарь из 160 тысяч токенов. Используются механизм внимания MLA и функция активации SwiGLU; длина контекста составляет 128K токенов. Модель предварительно обучена на 15,5 трлн токенов с использованием оптимизатора MuonClip. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому модель следует рассматривать как текстовую без подтверждённой мультимодальности. В отличие от готовой инструкционной версии, Base требует дополнительной настройки под конкретные сценарии и не предназначена прежде всего для непосредственного использования в чат-интерфейсе. Лицензия указана как modified MIT.

Nemotron-Cascade-14B-Thinking — универсальная языковая модель NVIDIA на 14 млрд параметров, построенная на архитектуре Qwen3 и дообученная от Qwen3-14B Base. Модель проходит многоэтапное SFT и последовательное обучение с подкреплением по отдельным областям; она предназначена исключительно для режима рассуждений и поддерживает диалоговый шаблон Qwen3 ChatML. Модель подходит для рассуждений на общие темы, математики, программирования, разработки ПО, следования инструкциям и использования инструментов. В метаданных указан контекст 32 768 токенов; README рекомендует YaRN для поддержки более длинного контекста и приводит параметры генерации temperature 0,6 и top_p 0,95. По данным карточки, доступны веса Safetensors и библиотека Transformers. Карточка сообщает о высоких результатах на широком наборе бенчмарков, но эти заявления относятся к оценкам авторов. Модель текстовая и ориентирована на английский язык; README не описывает поддержку других языков. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.

Ornith-1.5-9B-MLX-4bit — 4-битная MLX-квантованная версия Ornith-1.5-9B, разработанная командой Ornith AI. Это плотная языковая модель примерно на 9 млрд параметров, ориентированная на эффективное развертывание на одной GPU; семейство также включает вариант для мобильных устройств. Модель предназначена для генерации текста и особенно хорошо подходит для программирования, работы с терминалом и решения задач по исправлению кода. В основе Ornith-1.5 лежит подход непрерывного самоулучшения: модель обучалась с совместной оптимизацией генерации задач, построения scaffold и rollouts решений с применением reinforcement learning. По заявленным результатам она показывает сильные показатели в Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro и SWE-bench Multilingual, превосходя Ornith-1.0-9B и Qwen3.5-9B в приведённых тестах. Ключевое преимущество данной версии — сниженные требования к памяти благодаря 4-битному квантованию и совместимость с MLX. В карточке указано, что основной язык модели — английский. Сведения о размере контекста, поддерживаемых модальностях помимо текста, точной базовой архитектуре, лицензии и ограничениях применения не приведены, поэтому их следует уточнять отдельно. Количественные результаты зависят от используемого окружения и конфигурации оценки.

Qwen3-Coder-30B-A3B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen/Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Модель преобразована в формат GGUF с квантизацией Q4_K_M, поэтому предназначена для запуска через llama.cpp, включая локальный inference и серверный режим. Модель ориентирована прежде всего на генерацию текста и задачи, связанные с программированием, однако README не содержит подробностей о поддерживаемых языках, модальностях, архитектуре, фактическом размере активной части модели и максимальной длине контекста. Ключевое преимущество этой версии — совместимость с экосистемой llama.cpp и возможность более экономичного запуска благодаря 4-битной квантизации; ограничениями могут быть потери качества по сравнению с исходной моделью и зависимость от подходящей аппаратной конфигурации. Указана лицензия Apache-2.0.

Qwopus3.6-27B-v2-MTP — мультимодальная модель для работы с текстом и изображениями, разработанная Jackrong на основе Qwen3.6-27B. Модель дообучена на наборах данных Claude Opus TraceInversion и ориентирована на реконструированное пошаговое рассуждение, программирование, DevOps, математику, научные задачи, работу с инструментами и генерацию текста в заданном формате. Модель содержит около 27 миллиардов параметров и использует Multi-Token Prediction (MTP), предназначенный для ускорения генерации и speculative decoding, особенно в длинных рассуждениях, программном коде и математических запросах. Заявлена поддержка текстово-изобразительных сценариев; среди языков указаны английский, китайский, корейский, русский, японский и испанский. Точная длина контекста в README не указана. К сильным сторонам относятся акцент на структурированном рассуждении, кодировании, DevOps и математических выводах, а также потенциально более высокая скорость генерации благодаря MTP. Модель тестировалась на локальном наборе из 30 вопросов по логике, программированию, DevOps, математике и пограничным сценариям, однако широкие независимые бенчмарки и подробные числовые результаты не представлены. Для использования могут потребоваться совместимые реализации MTP и speculative decoding; формат GGUF ориентирован, в частности, на llama.cpp. Лицензия — Apache-2.0.

Rnj-1 — открытая плотная языковая модель примерно на 8,3 млрд параметров, обученная с нуля командой Essential AI. Она предназначена прежде всего для генерации и понимания кода, задач STEM и диалогового использования с вызовом инструментов. Модель поддерживает контекст до 32 768 токенов и загружается через Transformers; веса доступны в формате safetensors. В README заявлены генерация и дополнение кода, решение математических и научно-технических задач, а также агентные сценарии разработки: исправление ошибок, анализ производительности и работа с инструментами. Модель относится к семейству Gemma 3 Text и поддерживает интерфейс вызова инструментов. Описанные в карточке результаты бенчмарков относятся также к варианту rnj-1-instruct и не должны автоматически считаться результатами именно этой базовой модели. Лицензия — Apache-2.0. README рекомендует для запуска на ноутбуке llama.cpp и ссылается на предварительно квантованный вариант, однако указанные в метаданных веса этой модели представлены в safetensors.

cyankiwi/Laguna-XS-2.1-AWQ-INT4 — это INT4-квантизированная версия модели Laguna XS 2.1, разработанной poolside и подготовленной cyankiwi с использованием метода AWQ. Модель предназначена для генерации текста, прежде всего для агентного программирования, работы с терминалом и длительных многошаговых задач на локальном компьютере. В основе лежит Mixture-of-Experts с 33 млрд параметров, из которых 3 млрд активируются для каждого токена. Архитектура включает 40 слоёв, 256 экспертов и одного общего эксперта, сочетает глобальное внимание со Sliding Window Attention в соотношении 1:3 и использует окно скользящего внимания размером 512 токенов. Контекстное окно составляет 262 144 токена, поддерживается текстовый ввод и вывод, а также интерleaved reasoning между вызовами инструментов с возможностью включать и отключать рассуждения для конкретного запроса. Заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Кэш ключей и значений хранится в формате FP8, что снижает расход памяти на токены; заявлена возможность запуска на Mac с 36 ГБ оперативной памяти. Сильными сторонами модели являются компактное число активных параметров, поддержка длинного контекста, локальный запуск и ориентация на программирование и агентные сценарии. В опубликованных результатах она показала 70,9% на SWE-bench Verified, 63,1% на SWE-bench Multilingual, 47,6% на SWE-bench Pro и 37,5% на Terminal-Bench 2.0. Показатели относятся к Laguna XS 2.1 в целом и не обязательно непосредственно к данной INT4-квантизации; квантизация также может влиять на качество и точность. Модель распространяется по лицензии OpenMDW-1.1, разрешающей использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.

duyntnet/Phi-3-mini-128k-instruct-imatrix-GGUF — это набор пере-квантизированных GGUF-файлов модели Phi-3 Mini-128K-Instruct, разработанной Microsoft и повторно опубликованной пользователем duyntnet. Модель предназначена для генерации текста в диалоговом формате, следования инструкциям, многошагового общения, решения задач и работы с длинным контекстом. Указана поддержка английского языка и текстовой модальности. Версия ориентирована на улучшенное понимание кода на Python, C++, Rust и TypeScript, более структурированные ответы, многоэтапное следование инструкциям, рассуждения и обработку длинного контекста. В README заявлена длина контекста 128K токенов; также указано, что модель поддерживает системный тег <|system|>. Формат GGUF позволяет запускать её через llama.cpp, JanAI, KoboldCPP, text-generation-webui и Ollama. Данные о точной архитектуре, количестве параметров и конкретных вариантах квантизации не приведены, поэтому характеристики производительности и требования к ресурсам определить нельзя. Модель подходит для локального запуска, чат-ассистентов, генерации и анализа текста, программирования и сценариев, требующих обработки больших документов или продолжительного диалога. Ограничения включают отсутствие заявленной поддержки других языков, а также возможные потери качества, связанные с квантизацией. Лицензия обозначена как other, но её условия в README не раскрыты; перед использованием необходимо ознакомиться с лицензией исходной модели и опубликованного набора файлов.

Qwen2.5-Coder-3B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели Qwen2.5-Coder-3B-Instruct, разработанной командой Qwen и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и работы с программным кодом в диалоговом режиме: написания, объяснения и преобразования кода, а также выполнения других задач, связанных с программированием. В карточке указана поддержка английского языка. Модель содержит 3 миллиарда параметров и рассчитана на локальный запуск через llama.cpp, в том числе в LM Studio. Доступны варианты от F16 до компактных квантизаций Q3–Q8, что позволяет выбирать между качеством ответов и требованиями к памяти; наиболее качественными названы варианты Q6_K_L и Q6_K, а Q4_K_M описан как вариант по умолчанию для большинства случаев. Квантизация уменьшает размер файлов и требования к ресурсам, но более агрессивные варианты могут снижать качество. Архитектура, максимальная длина контекста и дополнительные модальности в README не указаны. Модель распространяется с лицензией Qwen Research License; применимость лицензии следует уточнять по исходному тексту LICENSE.

Sentie 1.0-3B UltraCode — языковая модель компании SentieAI для генерации текста, программирования, рассуждений и агентных сценариев. Модель основана на Nanbeige/Nanbeige-4.1-3B и дообучена на 18 354 многоходовых образцах с рассуждениями и использованием инструментов, включая синтетические русско- и англоязычные данные, задачи разработки, DevOps, терминального управления и корпоративного программирования. Модель содержит около 3 миллиардов параметров и распространяется в формате GGUF с вариантами квантования от F16 до 3-битных IQ3_M и Q3_K_M. Заявлена поддержка русского и английского языков. Основные сценарии включают написание и анализ кода, многошаговое решение задач, работу в роли программного агента и tool-calling. Наличие нескольких вариантов квантования позволяет запускать модель локально, в том числе на устройствах с ограниченной памятью, однако более сильное квантование может снижать точность. К сильным сторонам относятся компактный размер, ориентация на код и агентные задачи, а также широкий выбор квантованных сборок для разных требований к памяти и скорости. Ограничения — относительно небольшой размер модели по сравнению с крупными LLM, потенциальные потери качества при низком уровне квантования и отсутствие в README сведений о размере контекстного окна и мультимодальных возможностях. Модель распространяется по лицензии Apache-2.0.

DASD-4B-Thinking — плотная языковая модель примерно на 3,7 млрд параметров от Alibaba Apsara, построенная на архитектуре Qwen3 и предназначенная для длинных цепочек рассуждений. Она дообучена на базе Qwen3-4B-Instruct-2507 с помощью дистилляции от gpt-oss-120b; в обучении использовалось 448 тыс. примеров из наборов Superior-Reasoning-SFT-gpt-oss-120b и Superior-Reasoning-SFT-gpt-oss-120b-Logprob. Модель подходит для рассуждений по математике и естественным наукам, генерации и анализа кода, а также диалоговых задач, требующих пошагового ответа. Размер контекста — до 262 144 токенов. Модель принимает и выдаёт текст; README рекомендует передавать системный промпт, использовавшийся при обучении, и указывает настройки Temperature=1.0 и TopP=1.0. В README заявлены хорошие результаты на математических, научных и кодовых бенчмарках при компактном размере и относительно небольшом объёме обучающих данных. Модель не подключается к внешним инструментам и не поддерживает их вызов, поэтому не может самостоятельно запускать код или обращаться к API. Лицензия — Apache-2.0.

Карточка модели manaladan6/GLM-4.5-Air на Hugging Face совпадает с карточкой zai-org/GLM-4.5-Air, поэтому описание составлено по ней. GLM-4.5-Air — компактная гибридная модель серии GLM-4.5 от Zhipu AI, разработанная для интеллектуальных агентов. Она объединяет генерацию текста, рассуждение, программирование и работу с инструментами; поддерживает режим обдумывания для сложных запросов и вызовов инструментов, а также режим быстрого ответа. По карточке модели, у GLM-4.5-Air 106 млрд параметров, из которых активны 12 млрд. Метаданные Hugging Face указывают архитектуру GLM4 MoE, класс Glm4MoeForCausalLM, 8,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалоговых приложений, задач программирования и агентных сценариев с использованием инструментов. Она поддерживает английский и китайский языки и распространяется в формате Safetensors; библиотека Transformers указана как основная. Лицензия MIT разрешает коммерческое использование и дальнейшую разработку. Значения общего и активного числа параметров из README расходятся с числом параметров в метаданных, поэтому размер следует считать противоречивым.

OpenCodeReasoning-Nemotron-14B-GGUF — это набор GGUF-квантизированных версий модели OpenCodeReasoning-Nemotron-14B, разработанной NVIDIA и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix. Модель предназначена для генерации текста и решения задач, связанных с программированием и рассуждениями по коду; в метаданных указаны английский язык и обучающий датасет NVIDIA OpenCodeReasoning. Модель имеет размер 14 миллиардов параметров и поставляется в форматах от BF16 до различных вариантов 8-, 6-, 5-, 4- и 3-битного квантования. Размер файлов варьируется примерно от 7,34 до 29,55 ГБ. В README не указаны точная архитектура и размер контекстного окна. Модели можно запускать через LM Studio, llama.cpp и другие совместимые проекты; для взаимодействия предусмотрен специальный chat-шаблон с ролями system, user и assistant. Сильной стороной набора является широкий выбор квантизаций, позволяющий выбирать баланс между качеством, скоростью и требованиями к памяти; варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые, а Q4_K_M описан как подходящий вариант стандартного размера. Более компактные варианты экономят память, но могут заметно уступать по качеству. Условия использования определяются лицензией Apache-2.0.

Ornith-1.5-9B — плотная языковая модель примерно на 9 млрд параметров, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и распространяется в формате MLX для задач генерации текста. Модель создана с применением подхода непрерывного самоулучшения: она совместно оптимизирует генерацию учебных задач, построение scaffolds и rollouts решений с использованием reinforcement learning, вместо опоры только на фиксированный набор вручную подготовленных задач. Модель предназначена для программирования, работы с терминалом, решения инженерных задач и других сценариев генерации текста. По заявленным результатам она показывает сильные показатели в Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro и SWE-bench Multilingual; например, результаты составляют 46,2 и 47 баллов в двух конфигурациях Terminal-Bench 2.1, 70,6 в SWE-bench Verified и 47,5 в SWE-bench Pro. Разработчик позиционирует её как наиболее лёгкую модель семейства, рассчитанную на эффективное развёртывание на одной GPU. Ключевые ограничения связаны с неполнотой доступной карточки: в README не указаны размер контекста, точный набор поддерживаемых языков, дополнительные модальности, конкретная базовая архитектура и лицензия. Для мобильных устройств упомянут отдельный квантизованный вариант Ornith-1.5-9B-Mobile, однако описываемая модель предназначена прежде всего для развёртывания на одной GPU.

BTL-4 — 35-миллиардная мультимодальная модель, разработанная badtheorylabs и представленная в формате GGUF с квантованиями от bartowski. Модель предназначена для работы с текстом и изображениями; для обработки изображений требуется отдельный файл mmproj. В описании также заявлены сценарии агентной работы, использования инструментов, программирования и решения задач, требующих рассуждений. Модель запускается через llama.cpp и доступна в вариантах от BF16 до низкобитных квантований Q8, Q6, Q5, Q4 и Q3, включая форматы IQ. Размер файлов составляет примерно от 14,87 до 69,38 ГБ, поэтому выбор варианта позволяет балансировать между качеством, скоростью и требованиями к памяти. Для большинства сценариев рекомендуется Q4_K_M размером 21,39 ГБ, а для более высокого качества — Q5 или Q6. В README не указаны архитектура, поддерживаемые языки и размер контекста; также отсутствуют результаты бенчмарков. К сильным сторонам относятся поддержка текста и изображений, ориентация на код, tool use и reasoning, а также широкий выбор квантований. Ограничениями являются значительные требования к памяти, возможное снижение качества в низкобитных вариантах и необходимость совместимого рантайма llama.cpp, а для мультимодальной работы — файла mmproj. Распространение указано по лицензии Apache-2.0.

GigaChat 3.5 Ultra Base — базовая языковая модель семейства GigaChat, опубликованная ai-sage. Это предварительно обученный чекпойнт для продолжения обучения и генерации текста; для диалогового использования с выполнением инструкций в README рекомендуется отдельная instruct-версия. Модель предназначена для многоязычных сценариев, рассуждений, программирования и агентных систем с использованием инструментов. По README, архитектура — MoE с 432 млрд параметров всего и 28 млрд активных параметров, гибридным вниманием MLA и GatedDeltaNet и двумя головами Multi-Token Prediction. Указаны поддержка контекста до 131 072 токенов и языки русский и английский. Метаданные указывают 25 млрд параметров, поэтому размер модели в источниках расходится. Репозиторий содержит веса Safetensors; лицензия — MIT. Большой контекст, MoE и гибридное внимание рассчитаны на эффективную генерацию при длинных запросах, а README сообщает о сильных результатах на тестах кода, математики и рассуждений. Для запуска такой крупной модели требуется кластерная инфраструктура. Это базовая, а не выровненная instruct-модель: её поведение в диалоге и следование инструкциям может быть ограничено.

JiRack Ultra 14B — 14-миллиардная языковая модель CMSManhattan для генерации текста и диалогов, рассчитанная на запуск на CPU. В карточке она описана как модель на архитектуре DeepSeek R1-14B с поддержкой BitNet-подобных тернарных весов и токенизатором JiRack, в который добавлены специальные маркеры для маршрутизации, мультимедиа, зрения, звука, вызова инструментов и робототехники. Метаданные указывают архитектуру Qwen2 и контекст до 131 072 токенов; доступны веса safetensors и варианты GGUF с разными уровнями квантования. Модель предназначена для диалоговых приложений, локального CPU-инференса, использования в RAG-системах, кодирования и сценариев с вызовом инструментов. Карточка также описывает её как основу для агентных и робототехнических сценариев, однако наличие специальных токенов само по себе не подтверждает полноценную работу с изображениями, аудио или управлением роботами. Заявленное преимущество — возможность запускать 14B-модель с меньшими требованиями к памяти в квантованных вариантах; производительность и качество зависят от выбранного формата и оборудования. Основные веса опубликованы под лицензией MIT, допускающей коммерческое использование, изменение и распространение. При этом Docker-образ, пользовательский интерфейс и готовые сборки для Ollama могут распространяться на отдельных коммерческих условиях.

Jupiter-G-8B — дообученная мультимодальная модель Locai Labs на базе Google Gemma 4 E4B Instruct. Это плотная модель условной генерации, опубликованная в формате safetensors и распространяемая по лицензии Apache-2.0. Она предназначена для следования инструкциям, генерации кода и агентных сценариев, включая работу с терминалом; дообучение также направлено на сохранение исходных знаний и навыков рассуждения. В карточке сообщается об улучшениях относительно базовой Gemma 4 E4B Instruct на IFEval, IFBench и LiveCodeBench, а также о снижении показателя вредных ответов AgentHarm. Для сохранения исходных возможностей применялась техника Forget-Me-Not с синтетическими ответами базовой модели; обучение включало данные UltraChat, терминальные траектории Nemotron и задачи программирования. Метаданные указывают поддержку задачи any-to-any, а описание базовой модели — обработку текста, изображений и аудио. Число параметров и длина контекста для самой Jupiter-G-8B в предоставленных данных не указаны.

Llama-3-8B-Instruct-Coder-v2-GGUF — набор GGUF-квантизаций модели Llama-3-8B-Instruct-Coder-v2. Базовая модель указана как NousResearch/Meta-Llama-3-8B-Instruct, оригинальная модель разработана rombodawg, а квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель относится к текстовым генеративным моделям и ориентирована на работу с инструкциями и задачами программирования, включая генерацию и обработку кода. Заявленный язык — английский. Доступны варианты с разными уровнями квантизации: от Q8_0 размером 8,54 ГБ до IQ2_XXS размером 2,39 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS отмечены как рекомендуемые; более компактные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Файлы предназначены для запуска через llama.cpp и используют специальный шаблон запросов Llama 3. В README не указаны точный размер контекстного окна, архитектурные детали сверх принадлежности к семейству Llama 3, результаты тестирования и поддержка других языков. Лицензия — Apache-2.0.

NeoHorse-1-9B-GGUF — это набор GGUF-квантизованных файлов модели NeoHorse-1-9B, разработанной TokenRhythm и распространяемой в этой сборке сообществом ngquocvinh. Модель представляет собой причинную языковую модель примерно на 9 млрд параметров, созданную на основе Qwen3.5-9B и предназначенную для текстовых агентских систем, использования инструментов, программирования, рассуждений и выполнения инструкций. В сборке применена библиотека llama.cpp и поддерживается текстовая генерация. Модель рассчитана на локальный запуск с разными уровнями квантизации. Размер файлов варьируется примерно от 1,97 до 9,53 ГБ; Q4_K_M указан как сбалансированный вариант, а Q5_K_M, Q6_K и Q8_0 обеспечивают большую точность при наличии достаточного объёма памяти. Согласно данным исходной карточки, базовая модель поддерживает контекст до 262 144 токенов с возможностью расширения до 1 010 000 токенов, однако эти характеристики относятся к upstream-модели и могут зависеть от используемой конфигурации запуска. Сильными сторонами являются поддержка агентских сценариев, tool use, программирования и рассуждений, а также возможность локального запуска на совместимом оборудовании. Ограничения включают отсутствие vision-весов и поддержку только текста, а также потенциальное снижение качества на низких уровнях квантизации. Приведённые результаты оценки качества относятся к совпадению следующего токена с BF16-версией, а не напрямую к качеству решения задач; показатели исходной модели не являются результатами тестирования этих GGUF-файлов. Лицензия — Apache-2.0.

Parable-Granite-4.1-8B-Claude-Fable-5-GGUF — языковая модель AnkitAI, дообученная на базе IBM Granite 4.1 8B. Модель создана для многошаговых агентных сценариев: планирования, использования инструментов, работы с терминалом, программирования, отладки и рассуждений. Обучение проводилось на трассировках реальных сессий Claude Fable 5 и GPT-5.5, включая блоки рассуждений и взаимодействие с инструментами, а не на синтетических вопросах и ответах. Модель предназначена для генерации текста на английском языке и распространяется в формате GGUF для запуска через llama.cpp, Ollama и LM Studio; также доступна полноточная версия для vLLM, Transformers и дальнейшего дообучения. Выпуск содержит 8 миллиардов параметров и варианты квантования от Q4_K_M до Q8_0. Рекомендуемая версия Q4_K_M занимает около 4,8 ГБ и требует примерно 6 ГБ RAM или VRAM. В README указан контекст оценки 1 024 токена, а в примере llama-cpp-python используется контекст 8 192 токена. Ответы модель начинает с блока <think>, который рекомендуется удалять перед показом пользователю. К сильным сторонам относятся специализация на агентных задачах, программировании и терминальных сценариях, локальный офлайн-запуск и небольшой объём памяти для 8B-модели. На опубликованном тестовом разбиении дообученная модель показала test loss 0,617 против 2,030 у базовой Granite 4.1 8B; при строгой качественной проверке 20 из 34 ответов были полностью корректными, а 32 — корректными или частично корректными. Ограничения включают англоязычную специализацию, необходимость самостоятельно обрабатывать блоки рассуждений и отсутствие завершённого результата оценки function calling BFCL V3 из-за ограничения GPU-бюджета. Модель распространяется по лицензии Apache-2.0.

pico-type — компактная модель классификации содержимого от eulogik. Она принимает необработанные байты и за один проход определяет тип и модальность содержимого, подтип, язык кода или текста, MIME-тип и признаки риска. Токенизатор не требуется, поэтому модель рассчитана на разные языки и форматы данных. Модель использует байтовые эмбеддинги, параллельные свёртки Conv1D и двунаправленное внимание с RoPE. Доступны четыре варианта размерностью от 1,43 до 1,56 млн параметров; веса представлены в формате ONNX FP32. В README заявлены размер файла около 9 МБ и инференс примерно за 18 мс на CPU, а также варианты применения на периферийных устройствах, в браузере и серверless-средах. Модель подходит для автоматической маркировки текста и файлов, определения языков программирования и текста, MIME-типа и флагов риска. README отмечает, что точность распознавания некоторых языков кода ниже из-за малого числа обучающих примеров. Лицензия — Apache-2.0.

Qwen2.5-Coder-14B-Instruct-8bit — это 14-миллиардная инструкционная языковая модель для генерации текста и работы с программным кодом. Она основана на Qwen2.5-Coder-14B-Instruct, разработанной командой Qwen, и преобразована сообществом mlx-community в формат MLX с использованием mlx-lm 0.19.3. Модель предназначена для запуска через библиотеку mlx-lm. Модель ориентирована на задачи программирования, включая генерацию и обработку кода, а также диалоговые сценарии. В карточке указана поддержка английского языка; другие языки, размер контекстного окна и дополнительные модальности не заявлены. Ключевая особенность версии — 8-битное представление, адаптированное для экосистемы MLX. Модель распространяется по лицензии Apache 2.0. README не содержит сведений о результатах тестирования, конкретных ограничениях качества или рекомендуемых аппаратных требованиях, поэтому эти характеристики нельзя оценить по имеющимся данным.

Qwen3.6-35B-unsloth-code-reasoning-deepseek-v4-pro-destilled-Mlx-4bit — это общественная 4-битная конверсия в формат MLX модели Qwen3.5 MoE с примерно 35 млрд параметров. Модель основана на архитектуре Qwen3_5MoeForConditionalGeneration, дообучена с использованием Unsloth для генерации кода и пошагового рассуждения и дистиллирована на трассировках рассуждений DeepSeek v4 Pro. Конверсию подготовил пользователь 10Hen10; базовые компоненты связаны с Qwen и Unsloth, а инференс рассчитан на фреймворк Apple MLX. Модель предназначена для генерации, дополнения и объяснения кода, задач по математике и логике, отладки, агентских сценариев с вызовом инструментов и локального конфиденциального запуска на macOS. Она поддерживает текст, изображения и видео, а также встроенный function/tool calling в шаблоне чата. Основной язык — английский; поддержка других языков не является целевой. Контекстное окно в README не указано. Используется разреженная Mixture-of-Experts-архитектура, поэтому на каждом токене активна только часть параметров. Веса имеют 4-битное affine-квантование с размером группы 64, а чувствительные router/gate-слои сохранены в 8-битном формате. Для Apple Silicon M1–M4 рекомендуется не менее 32 ГБ unified memory; сами веса занимают примерно 20–22 ГБ, ещё около 2–4 ГБ требуется для KV-кэша и служебных данных. К сильным сторонам относятся сочетание кодогенерации и рассуждений, мультимодальность, поддержка инструментов и возможность локального запуска на совместимых устройствах Apple. Ограничения включают отсутствие официальных результатов бенчмарков, возможное снижение качества из-за 4-битного квантования, галлюцинации и ошибки в коде, а также зависимость качества рассуждений от учительской модели и данных дистилляции. Модель распространяется по лицензии Apache-2.0.