II.11Кибербезопасность и приватность

Qwen3.5-9B-Claude-Deckard-Agent-Coder-Heretic-qx86-hi-mlx — языковая модель, опубликованная nightmedia. Это merge-модель на базе семейства Qwen3.5-9B, созданная методом NuSLERP с использованием компонентов Qwen3.5-9B-Agent от armand0e и Qwopus3.5-9B-Coder от Jackrong, а также нескольких промежуточных моделей nightmedia и DavidAU. В описании также указана интеграция с MLX и квантизация qx86-hi. Модель предназначена для программирования, агентских сценариев, рассуждений, генерации и продолжения текстов, включая художественную прозу, ролевые диалоги и различные жанры письма. Поддерживаются английский и китайский языки. Заявленный размер — 9 млрд параметров; точная длина контекста и полный перечень поддерживаемых модальностей не указаны. В шаблоне чата предусмотрено переключение режимов рассуждения с помощью тегов <|think_on|> и <|think_off|>, а также управление сохранением рассуждений через <|think_remember|> и <|think_forget|>. Для варианта qx86-hi приведены perplexity 4,155, пиковое потребление памяти около 15,47 ГБ и скорость около 672 токенов в секунду; эти показатели зависят от оборудования и реализации. К сильным сторонам относятся сочетание агентских и кодовых навыков, поддержка глубокого рассуждения и творческой генерации, а также относительно умеренные требования к памяти благодаря квантизации. Ограничения включают отсутствие подробных независимых оценок качества, неизвестную длину контекста и потенциально менее предсказуемое поведение merge- и uncensored-модели. Лицензия указана как Apache-2.0.

DJLougen/Qwen3.5-9B-Harmonic-GGUF — набор GGUF-квантизаций модели Qwen3.5-9B-Harmonic, разработанной DJLougen на базе unsloth/Qwen3.5-9B. Модель дообучена с использованием Unsloth и Hugging Face TRL примерно на 800 синтетических примерах с ответами Claude; доступные файлы созданы с помощью llama.cpp, включая варианты с importance matrix на основе WikiText-2. Лицензия — Apache 2.0. Модель предназначена прежде всего для генерации кода, рассуждений и использования в агентных сценариях, например в Hermes Agent, а также для локального запуска через совместимые инструменты вроде LM Studio и Ollama. Заявлена поддержка английского языка, текстовой генерации и мультимодального ввода изображений и видео благодаря vision encoder Qwen3.5. Контекстное окно составляет 262 144 токена, размер модели — около 9 млрд параметров. Архитектура гибридная: 32 слоя, сочетающие линейное внимание с компонентами Mamba SSM и полное внимание; используется GQA. По приведённым оценкам модель показывает pass@1 87,2% на HumanEval, 81,7% на HumanEval+ и accuracy 80,36% на MMLU-Pro, с особенно высокими результатами в математике, биологии, химии и физике. Конкретное качество зависит от выбранного уровня квантизации; представлены варианты от F16 до более компактных форматов. Важное ограничение — автор предупреждает, что модель оптимизирована для работы внутри структурированного агентного harness и может вести себя непредсказуемо при обычном запуске без подходящего системного промпта; надёжность разговорного поведения вне такого окружения не гарантируется.

Qwen3.8-27B Code Analysis Preview (v2) — модель для анализа кода и проверки его на ошибки, созданная hotdogs дообучением hotdogs/Qwen3.8-27B-abliterated с помощью LoRA. Она принимает фрагмент кода и формирует структурированный обзор с найденными дефектами, объяснением на уровне строк, оценкой серьёзности и конкретным исправлением. По карточке, версия v2 обучена на 21 009 примерах кода с ошибками и ответами на пяти языках; она исправляет проблему предыдущей версии, которая воспроизводила шаблонные ответы вместо поиска ошибок. Модель основана на плотной архитектуре семейства Qwen3.5 с 27 млрд параметров и поддерживает диалоговый режим. Веса опубликованы в формате safetensors в bf16; лицензия — MIT. Карточка сообщает о сохранённых тензорах multi-token prediction и раздельной выдаче рассуждений и ответа при соответствующем обслуживании модели. Модель предназначена для поиска ошибок, проверки чистого кода и подготовки исправлений. В README приведены успешные примеры обнаружения ошибок на единицу смещения, пропущенного пути попадания в кэш, необработанного статуса ответа fetch и асинхронных гонок, а также распознавания кода без ошибок. Результаты ограничены заявленными в карточке тестами и не гарантируют обнаружение всех дефектов; для использования нужна базовая модель и совместимый способ загрузки адаптера.

Youssofal/Qwen3.8-27B-MTPLX-Optimized-Speed — квантованная версия Qwen3.8-27B, адаптированная для запуска через MTPLX на компьютерах Apple Silicon. Модель предназначена прежде всего для локального программирования, генерации текста и работы с инструментами вроде OpenCode, Claude Code и совместимых с OpenAI или Anthropic API приложений. Разработчик базовой модели — Qwen; данный MLX-пакет подготовлен Youssofal для MTPLX. Модель использует динамическое 4-битное квантование с группами по 32 веса: наиболее чувствительные компоненты частично сохранены в 8- или 16-битном формате, включая MTP-голову. Архитектура сохраняет native multi-token prediction с глубиной MTP 3, что позволяет MTPLX применять спекулятивное декодирование на Apple Silicon. Размер загрузки составляет 20,4 ГБ, пиковое потребление unified memory — около 23,6 ГБ, контекстное окно — 262 144 токена. Указанные в README языки не перечислены, но приведённая проверка включает многоязычный текст. Главное преимущество — высокая скорость локальной генерации при близости к исходной модели: заявлены показатели до 87,6 токена в секунду в отдельных сценариях и около 58,7 токена в секунду на средней задаче программирования на M5 Max. По данным автора, точность согласования с bf16-чекпойнтом составляет 96% top-1, а спекулятивная генерация сохраняет исходное распределение выборки. Ограничения включают зависимость от MTPLX и Apple Silicon, требование не менее 32 ГБ unified memory, а также неизбежные потери качества из-за 4-битного квантования. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-Q8_0-GGUF — это GGUF-конверсия дообученной модели orcarouter/Qwen3.8-27B-Uncensored. Конверсию выполнили с помощью llama.cpp через сервис GGUF-my-repo; исходная модель основана на Qwen3.8-27B и связана с ней как fine-tune. Модель распространяется в формате GGUF и предназначена для запуска с llama.cpp на совместимом оборудовании. Заявленные сценарии включают обработку текста и изображений, reasoning, function calling, red-teaming и AI safety research. В карточке указаны английский и китайский языки, а также тег vision-language, однако подробности об архитектуре, поддерживаемых типах изображений, максимальном контексте и фактических возможностях function calling не приведены. Размер модели составляет 27B параметров, используется квантование Q8_0, что может снизить требования к памяти по сравнению с полноразмерной версией, сохраняя близкое к исходному качество, но конкретные требования к ресурсам не указаны. Модель может быть удобна для локального инференса через llama.cpp и серверного развёртывания. Ограничения включают отсутствие в README результатов тестирования, подробного описания датасета и дообучения, а также сведений о производительности и безопасности; заявленное «uncensored» позиционирование также означает необходимость самостоятельной оценки рисков и фильтрации ответов. Указана лицензия Apache-2.0.

zerodigest/Qwen3.8-27B-YMQ-MTP-GGUF — это набор GGUF-квантизированных вариантов модели Qwen3.8-27B, подготовленный проектом ZeroDigest на основе официальных исходных файлов BF16. Релиз использует архитектурно-ориентированную смешанную точность, подходы, вдохновлённые AutoRound, и компилятор YMQ-Compiler v2.0. В описании также заявлена поддержка параллельного multi-token prediction (MTP) для спекулятивной генерации. Модель предназначена прежде всего для локального запуска и задач генерации кода, включая разработку, работу с API и многофайловыми проектами в инструментах вроде RooCode и Aider. Доступно несколько пресетов размером примерно от 9,8 до 19 ГБ, рассчитанных на видеокарты с 12–20 ГБ памяти и различные компромиссы между качеством, контекстом и требованиями к VRAM. Для вариантов приведены результаты измерений на WikiText-2 при контексте 4096 токенов; наилучшее указанное значение perplexity составляет 6,8413 у пресета M. Сильной стороной является распределение точности по компонентам модели с приоритетом сохранения логики и качества рассуждений при ограниченной памяти. Ограничения зависят от пресета: наиболее компактные варианты имеют заметный шум квантизации и рекомендуются для коротких или простых сценариев, а более качественные требуют больше видеопамяти. В README не указаны языки, точное максимальное окно контекста и полный перечень поддерживаемых модальностей; по доступным данным модель ориентирована на текстовую генерацию. Лицензия — Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-FP8 — кодовая версия серии Qwen3-Coder, разработанная Qwen и адаптированная FuriosaAI для запуска на аппаратной платформе FuriosaAI RNGD с использованием Furiosa-LLM. Модель предназначена для генерации кода, понимания репозиториев масштабом до проекта, агентских сценариев программирования и вызова инструментов. Она работает в режиме без рассуждений и принимает текстовые данные, возвращая текст. Это авторегрессионный трансформер архитектуры Qwen3-MoE с 30,5 млрд общих параметров, из которых около 3,3 млрд активируются для каждого токена. Веса используют статическое квантование FP8, активации динамически квантуются в FP8 во время выполнения, а KV-кэш сохраняется в 16-битной точности. Поддерживается вызов функций через парсер hermes. Для запуска на RNGD используется тензорный параллелизм на 32 PE, соответствующий четырём картам RNGD. Языки и размер контекста в README не указаны. Сильными сторонами модели являются специализация на задачах программирования, поддержка понимания репозиториев, инструментов и эффективного MoE-инференса в формате FP8. Ограничения включают работу только в режиме без рассуждений, зависимость описанной оптимизированной конфигурации от FuriosaAI RNGD и Furiosa-LLM, а также отсутствие в предоставленных данных сведений о языковом охвате, контексте и результатах бенчмарков. Модель распространяется по лицензии Apache 2.0.

lainlives/Qwen3-Coder-30B-A3B-IT-Heretic-Q5_K_M-GGUF — это квантизированная версия в формате GGUF модели TitleOS/Qwen3-Coder-30B-A3B-IT-Heretic, созданная на основе Qwen3-Coder-30B-A3B-Instruct. Конвертация выполнена с использованием llama.cpp и сервиса GGUF-my-repo. Модель относится к классу текстовых генеративных моделей и ориентирована прежде всего на задачи программирования и работы с кодом. Модель предназначена для локального запуска через llama.cpp, включая режим командной строки и серверный режим. Ключевые характеристики, указанные в названии, — конфигурация Qwen3 Coder с 30B параметров и компонентом A3B, инструкционное обучение, а также квантизация Q5_K_M, которая снижает требования к памяти по сравнению с полноразмерной версией. Поддерживаются текстовые запросы; сведения о точном размере контекста, языках программирования и естественных языках в карточке не приведены. Сильными сторонами являются специализированная направленность на код, возможность локального развертывания и совместимость с экосистемой llama.cpp. К ограничениям относятся возможные потери качества из-за квантизации, необходимость подходящего аппаратного обеспечения и отсутствие в карточке подробных результатов тестирования, перечня поддерживаемых языков и точных требований к ресурсам. В метаданных указана лицензия Apache-2.0; для дополнительных условий и характеристик рекомендуется обращаться к карточке исходной модели.

Qwen3-Coder-53B-A3B-Instruct-TOTAL-RECALL-v2-MASTER-CODER-L — дообученная разработчиком DavidAU инструктивная MoE-модель для программирования, основанная на Qwen/Qwen3-Coder-30B-A3B-Instruct и адаптере Brainstorm. Модель предназначена для генерации и анализа кода, решения задач программирования и агентных сценариев с использованием инструментов. Репозиторий содержит веса в safetensors, пригодные для прямого запуска и преобразования в другие форматы. Заявлены 53 млрд параметров, 84 слоя и контекст до 262 144 токенов; метаданные указывают 3,9 млрд параметров. Архитектура — Qwen3 MoE с 128 экспертами; автор изменил число активируемых экспертов по умолчанию с 8 до 10. Основная специализация — код на распространённых и менее распространённых языках программирования; карточка также указывает поддержку английского, французского, китайского и немецкого языков. Режим рассуждений по умолчанию отключён, автор предлагает опциональный системный запрос для его включения. Модель рассчитана на кодирование, понимание больших репозиториев и многошаговую работу с кодом; возможен интерфейс вызова инструментов. Качество и скорость зависят от числа активных экспертов, параметров генерации и доступных вычислительных ресурсов. Лицензия — Apache 2.0.

StarCoder2-15B-Instruct-v0.1 — языковая модель для генерации кода по инструкциям, созданная командой BigCode. Её дообучили на StarCoder2-15B на синтетических парах «инструкция — ответ», которые исходная модель сгенерировала и отфильтровала выполнением кода; человеческая разметка и данные дистилляции от крупных закрытых моделей не использовались. Модель предназначена для одношаговых ответов на запросы, связанные с программированием: например, генерации функций, исправления и объяснения кода. Это плотная causal language model семейства StarCoder2 с 21,7 млрд параметров и контекстом 16 384 токена. Она принимает текстовые инструкции и генерирует текст, в том числе код; языковые коды естественных языков в метаданных не указаны. Модель распространяется в формате Safetensors и рассчитана на использование через Transformers. Лицензия — BigCode OpenRAIL-M; перед использованием следует учитывать её условия и ограничения. В карточке отмечено, что инструкции не связанные с программированием могут давать менее точные ответы; заявленный сценарий — один ход, поэтому диалоговые возможности не следует считать подтверждёнными.

Theta-Crucis-0.6B-Turbo1 — компактная языковая модель prithivMLmods на архитектуре Qwen3, дообученная на базе prithivMLmods/Qwen3-0.6B-ft-bf16 с использованием набора Mixture of Thoughts и акцентом на программирование. Модель содержит 507,9 млн параметров, принимает текст и генерирует текст; заявленная длина контекста — 40 960 токенов. Репозиторий использует формат safetensors, библиотеку Transformers и лицензию Apache-2.0. Модель предназначена для генерации и объяснения кода, поиска ошибок, технических рассуждений и формирования структурированных результатов в форматах вроде JSON и YAML. Карточка заявляет поддержку кода на Python, JavaScript, C++ и других языках, а также технических запросов более чем на 20 естественных языках; метаданные карточки указывают английский язык. Компактный размер делает модель подходящей для локального запуска на ноутбуках и устройствах с ограниченными ресурсами. Среди ограничений указаны более слабые результаты в длинных диалогах и абстрактных языковых задачах, а также ограниченная способность рассуждать о больших проектах с множеством файлов. Модель ориентирована на технические запросы, поэтому её общая языковая беглость и пригодность для творческого письма могут быть ограничены.

Code Llama 13B — базовая генеративная модель Meta для синтеза и понимания кода. Это авторегрессионный трансформер семейства Llama с плотной архитектурой, содержащий 12,9 млрд параметров. Данная версия представлена в формате Transformers и принимает текст, выдавая текст; она поддерживает контекст до 16 384 токенов. Модель предназначена для продолжения и дополнения кода, включая infilling, а также для адаптации к разным задачам генерации и анализа кода. Она рассчитана на английский язык и языки программирования; это базовая версия, а не вариант для следования инструкциям или специализированная Python-модель. Модель может генерировать неточный или нежелательный код, поэтому результаты требуют проверки и тестирования в целевом приложении. Использование регулируется лицензией Meta Llama 2; карточка указывает на наличие коммерческой лицензии Meta.

CodeLlama-13B-Instruct-GGUF — квантизированная GGUF-версия CodeLlama 13B Instruct, разработанная Meta и подготовленная для квантизации компанией Second State Inc. Модель основана на codellama/CodeLlama-13b-Instruct-hf и предназначена для генерации кода по инструкциям. Модель ориентирована на решение задач программирования: написание кода с учётом заданных ограничений, подготовку решений, соответствующих примерам тестов, и работу через текстовый интерфейс генерации. Указан контекст размером 5120 токенов. Это текстовая модель для работы с кодом; сведения о поддерживаемых естественных языках и мультимодальности в README отсутствуют. Модель доступна в нескольких вариантах GGUF с квантизацией от Q2_K до Q8_0 и размером файлов примерно от 5,43 до 13,8 ГБ. Варианты с более высокой точностью обычно обеспечивают меньшее снижение качества, но требуют больше дискового пространства и ресурсов; для большинства сценариев в README рекомендуются Q4_K_M, Q5_K_M и Q5_K_S. Ограничения включают возможную потерю качества при низкобитной квантизации, а также отсутствие в README данных о производительности, аппаратных требованиях и качестве на конкретных языках программирования. Лицензия указана как Llama 2.

CodeLlama-34b-Instruct-hf — языковая модель Meta из семейства Code Llama, представленная в формате Transformers. Это авторегрессионная плотная модель на архитектуре Transformer с 33,5 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для генерации и понимания кода, завершения фрагментов кода и выполнения инструкций в формате чат-ассистента. Она принимает текст и генерирует текст; README указывает английский как целевой естественный язык, а также работу с языками программирования. Модель не заявлена как специализированная на Python. Модель обучена на данных семейства Llama 2 с дополнительными весами и настройкой для следования инструкциям. Она может выдавать неточные или нежелательные ответы; перед внедрением рекомендуется проверять её поведение для конкретных сценариев. Использование регулируется лицензией Meta Llama 2.

CodeLlama-7b-hf — базовая генеративная модель Meta для синтеза и понимания программного кода. Это версия семейства Code Llama с 7 млрд параметров в формате Transformers; архитектура — авторегрессионный оптимизированный трансформер семейства Llama. Модель принимает текст и генерирует текст, поддерживает контекст до 16 384 токенов. Модель предназначена для автодополнения кода и infilling — заполнения пропусков в коде. README отмечает, что эта базовая версия не предназначена для инструкционного диалога; для следования инструкциям в семействе есть отдельный вариант Instruct. Модель рассчитана на английский язык и языки программирования. Лицензия — пользовательская лицензия Meta для Llama 2, условия которой следует учитывать при использовании.

NousResearch/CodeLlama-7b-hf — версия базовой модели Code Llama, разработанной Meta и опубликованной NousResearch в формате Hugging Face. Это авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer с 6,6 млрд параметров, предназначенная для генерации и понимания программного кода. Модель принимает текст и генерирует текст, поддерживает контекст до 16 384 токенов и используется через Transformers и PyTorch. Модель предназначена для синтеза, дополнения, объяснения и анализа кода, а также может адаптироваться к различным задачам программирования. Она ориентирована на английский язык и релевантные языки программирования; версия является базовой, а не специализированной instruct-моделью. Доступна по лицензии Llama 2 с условиями Meta и ограничениями Acceptable Use Policy. Модель статична и обучена на офлайн-данных. Она может генерировать неточный, небезопасный или нежелательный код, поэтому результаты требуют проверки, тестирования и настройки под конкретное приложение. Использование в языках, отличных от английского, ограничено условиями модели.

Code Llama 7B Instruct — авторегрессионная языковая модель семейства Code Llama, разработанная Meta и настроенная на выполнение инструкций. Эта версия содержит 7 млрд параметров и распространяется в формате Transformers с весами PyTorch и Safetensors. Модель предназначена для генерации и понимания кода: она поддерживает продолжение кода, заполнение пропусков и диалоговое выполнение инструкций, в том числе сценарии кодового помощника. На вход принимает текст и выдаёт текст; предназначена для работы с английским языком и языками программирования. Архитектура — оптимизированный авторегрессионный трансформер. Модель может выдавать неточный или нежелательный код и ответы; перед внедрением в приложения рекомендуется проверять её поведение и настраивать защитные меры под конкретный сценарий. Использование регулируется лицензией Meta Llama 2; условия лицензии следует соблюдать.

DeepSeek-Coder-V2-Lite-Base — базовая модель для генерации кода от DeepSeek. Она создана продолжением предобучения промежуточного чекпойнта DeepSeek-V2 на дополнительных 6 триллионах токенов. Модель использует архитектуру Mixture-of-Experts семейства DeepSeek-V2: в репозитории каталога указано 2,5 млрд параметров, а карточка семейства указывает для Lite-версии 16 млрд общих и 2,4 млрд активных параметров. Контекст модели по метаданным — 163 840 токенов. Модель предназначена для генерации и продолжения кода, вставки фрагментов кода, а также задач программирования и математических рассуждений. Семейство поддерживает 338 языков программирования; естественные языки в карточке не перечислены. К сильным сторонам относятся большой контекст и специализация на коде при сравнительно небольшом числе активных параметров. Это базовая, а не instruct-версия, поэтому её поведение в диалоге и следование инструкциям могут быть ограничены. Для локального инференса в BF16 README приводит требование 8 GPU по 80 ГБ. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с лицензией в репозитории.

DeepSeek-R1-Distill-Llama-8B-Enkrypt-Aligned — дообученная компанией Enkrypt AI версия DeepSeek-R1-Distill-Llama-8B, дополнительно выровненная по набору данных безопасности Enkrypt AI, созданному с использованием процесса SAGE. Это плотная языковая модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов; она принимает и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Модель предназначена для диалоговых ассистентов, генерации текста с учетом требований безопасности, модерации контента, а также образовательных и исследовательских сценариев. Разработчик заявляет о снижении токсичности, вредных ответов и уязвимости к jailbreak-запросам при сохранении качества; в карточке приведен результат 46,43 на MMLU-Pro. Лицензия в предоставленных данных не указана.

urchade/gliner_large-v2.1 — модель распознавания именованных сущностей из семейства GLiNER, разработанного Urchade Zaratiana, Nadi Tomeh, Pierre Holat и Thierry Charnois. Она использует двунаправленный трансформерный энкодер типа BERT и позволяет извлекать из текста сущности типов, заданных пользователем, в том числе за пределами фиксированного набора меток обычных NER-моделей. Модель предназначена для извлечения имен и других сущностей из текста с помощью библиотеки GLiNER. Версия large-v2.1 содержит 459 млн параметров; карточка указывает английский язык, а версия multilingual-v2.1 представлена отдельно. Модель распространяется под лицензией Apache-2.0.

gliner-community/gliner_small-v2.5 — мультиязычная модель распознавания именованных сущностей GLiNER от сообщества GLiNER. Она использует двунаправленный трансформерный энкодер BERT-типа и позволяет задавать типы сущностей для извлечения, поэтому подходит для сценариев, где заранее заданный фиксированный набор меток неудобен. Модель работает с текстом через библиотеку GLiNER и возвращает найденные сущности с их типами и позициями. Модель предназначена для извлечения имен, организаций, мест и других заданных пользователем сущностей из документов и текстовых потоков. В README приведены результаты оценки на нескольких наборах данных NER, включая ACE 2004, ACE 2005 и AnatEM. Репозиторий содержит веса PyTorch и safetensors; лицензия Apache-2.0 разрешает использование в соответствии с её условиями. По сравнению с более крупными LLM, GLiNER ориентирована на практичное распознавание сущностей при ограниченных вычислительных ресурсах.

bartowski/huihui-ai_Qwen3-Coder-Next-abliterated-GGUF — набор GGUF-квантизаций модели Huihui-Qwen3-Coder-Next-abliterated, разработанной huihui-ai. Квантизации выполнены bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу text-generation и предназначена для локального запуска генеративных сценариев, включая работу с кодом и текстом. Модель доступна в различных вариантах квантования от Q3 до Q8, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0. Размер файлов варьируется примерно от 42,67 до 84,81 ГБ; некоторые варианты разделены на несколько файлов. Для запуска указаны llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и LoLLMs. Используется шаблон диалога ChatML с маркерами system, user и assistant. README не сообщает точные архитектурные характеристики исходной модели, число параметров, контекстное окно, поддерживаемые языки или модальности, поэтому эти сведения нельзя достоверно определить. Более низкие уровни квантования экономят память, но могут снижать качество; варианты Q5 и выше обозначены как высококачественные, а Q4_K_M — как стандартный вариант для большинства сценариев. Модель имеет статус abliterated и uncensored, что может означать изменённые ограничения поведения по сравнению с исходной моделью. Лицензия — Apache-2.0.

MiniCPM5-1B — компактная плотная языковая модель серии MiniCPM5, разработанная OpenBMB. Она построена на архитектуре Transformer с причинной языковой моделью LlamaForCausalLM; метаданные указывают 837,6 млн параметров, а карточка модели — около 1,08 млрд. Модель поддерживает контекст до 131 072 токенов и распространяется в формате safetensors через Transformers. Модель предназначена для локальных помощников, программирования, агентных сценариев с вызовом инструментов и сложных рассуждений на устройствах с ограниченными ресурсами. Один чекпойнт предлагает быстрый режим без рассуждений и режим Thinking. В карточке заявлены сильные результаты для своего размерного класса, особенно в использовании инструментов, генерации кода и трудных рассуждениях; это оценка авторов в сравнении с выбранными моделями, а не гарантия качества для любого сценария. Модель рассчитана прежде всего на английский и китайский языки. Лицензия Apache-2.0. Как и другие языковые модели, она может выдавать неточные, предвзятые или небезопасные ответы; результаты следует проверять, особенно при использовании в важных решениях.

Ornith-1.5-9B-MLX-6bit — компактная языковая модель семейства Ornith-1.5, представленная проектом Ornith. Это плотная модель на 9 млрд параметров, адаптированная для запуска с использованием MLX и 6-битного квантования. Модель предназначена прежде всего для генерации текста и эффективного локального развертывания на одной GPU; семейство также ориентировано на запуск на периферийных и мобильных устройствах в квантованном варианте Ornith-1.5-9B-Mobile. Ornith-1.5 развивает Ornith-1.0, созданную на основе Qwen3.5 и Gemma4 с дополнительным continued pretraining, mid-training и post-training. Ключевая особенность новой версии — цикл самоулучшения, в котором совместно оптимизируются генерация задач, построение scaffold и rollout решений с применением reinforcement learning. Такой подход рассчитан на задачи программирования, работу с терминалом и автономное решение инженерных задач. В README приведены результаты на Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro и других тестах; для Ornith-1.5-9B указаны результаты 46,2 и 47 на двух конфигурациях Terminal-Bench 2.1, 70,6 на SWE-bench Verified и 47,5 на SWE-bench Pro. Сильными сторонами модели являются небольшой для современных reasoning- и coding-моделей размер, возможность эффективного single-GPU deployment и ориентация на программирование и агентные сценарии. Ограничения заключаются в том, что предоставленные данные не содержат сведений о размере контекстного окна, поддерживаемых языках, мультимодальности, точной базовой архитектуре и лицензии; эти характеристики нельзя достоверно определить по карточке.

BlossomsAI Qwen2.5-Coder-14B-Instruct-Uncensored-GGUF — набор оптимизированных квантованных моделей в формате GGUF, созданных на основе Qwen/Qwen2.5-Coder-14B-Instruct. Разработчиком указана BlossomAI. Модель предназначена для генерации текста и задач, связанных с программированием, включая базовое текстовое дополнение и создание ответов с различным соотношением качества и эффективности инференса. Доступны варианты квантования Q2_K, Q3_K_M, Q4_K_S, Q4_K_M, Q5_K_S, Q5_K_M, Q6_K и Q8_0. Они ориентированы на разные сценарии: от экономии памяти до получения результатов максимального качества; Q4-варианты обозначены как сбалансированные, а Q8_0 — как вариант для производственных результатов. Архитектура, размер контекста, поддерживаемые языки и модальности в README не указаны. Ограничения включают возможное снижение качества у более сильной степени квантования и отсутствие подробных сведений о характеристиках и тестировании. Распространяется по лицензии MIT.

Qwen2.5-Coder-1.5B-Instruct-GGUF — это квантованная в формате GGUF версия модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen. Квантование выполнено bartowski на основе llama.cpp. Модель предназначена для генерации текста и ориентирована прежде всего на программирование. Модель подходит для решения задач разработки программного обеспечения, генерации и исправления кода, рассуждений о коде, а также создания coding agents. Указан английский язык. Размер базовой модели составляет 1,5 млрд параметров, поддерживается контекст до 128 тысяч токенов с конфигурацией YaRN RoPE. В обучении заявлено использование 5,5 трлн токенов для улучшения генерации, рассуждений и исправления ошибок. К сильным сторонам относятся специализация на программировании, поддержка длинного контекста и возможность запуска через экосистему llama.cpp и совместимые приложения, включая LM Studio. README не содержит результатов бенчмарков, требований к оборудованию или подробностей о вариантах квантования, поэтому производительность и качество для конкретных задач требуют самостоятельной проверки. Модель распространяется по лицензии Apache 2.0.

unsloth/Qwen2.5-Coder-3B-Instruct — это инструктивная текстовая модель для генерации и работы с кодом, основанная на Qwen2.5-Coder-3B-Instruct от Qwen и представленная Unsloth. Модель использует плотную архитектуру Qwen2 с причинным языковым моделированием и содержит 3,1 млрд параметров; максимальная длина контекста составляет 32 768 токенов. Модель предназначена для генерации, анализа и исправления кода по текстовым запросам, а также для диалоговых сценариев и работы с инструментами. Она подходит разработчикам для помощи при написании кода и создания кодовых агентов. Карточка README описывает семейство Qwen2.5-Coder, но содержит противоречивые сведения о размере и варианте модели; описание размера и контекста здесь опирается на метаданные репозитория. Репозиторий содержит веса в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0 допускает использование на её условиях. Языковая метка карточки — английский; другие поддерживаемые естественные языки достоверно не установлены.

qwen3.5-4B-super-coder — 4-битная квантованная модель в формате GGUF, опубликованная под идентификатором thunquant/qwen3.5-4B-super-coder и основанная на Qwen/Qwen3.5-4B. Модель объединяет базовую архитектуру Qwen с чередованием трёх слоёв Gated-DeltaNet и одного слоя Full Attention; всего 8 из 32 слоёв используют полный KV-кэш. Размер файла составляет около 2,6 ГБ, заявленное окно контекста — 32K токенов, при этом базовая модель поддерживает расширение до 262K/1M через YaRN. Модель предназначена прежде всего для программирования, агентских сценариев и структурированного вызова инструментов на потребительских и мобильных устройствах. Она специализировалась на Python, JavaScript, Shell и других языках, обучалась следовать схемам JSON, различать случаи необходимости вызова инструмента и поддерживает режим видимого рассуждения с блоками <think>. Обучение включало дистилляцию данных в стиле Claude, этапы специализации на коде и tool-calling, а также дообучение на трассах Fable reasoning и агентского программирования. К сильным сторонам относятся небольшой размер, низкая нагрузка на KV-кэш, пригодность для устройств с 8 ГБ и более оперативной памяти, генерация кода и точный структурированный tool-calling. Ограничения связаны с малым размером модели, 4-битной потерей точности и тем, что заявленные характеристики и качество основаны на описании карточки; независимые бенчмарки не приведены. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next-ik-llama-GGUF — это текстовая GGUF-конверсия модели Qwen3.8-Flash-Next, опубликованная пользователем ji-farthing. Файлы собраны непосредственно из BF16-релиза Qwen и предназначены для локального запуска через ik_llama.cpp, прежде всего для генерации текста и агентских задач, включая программирование. Модель использует архитектуру с маршрутизируемыми экспертами, а также поддерживает собственную MTP-head для speculative decoding. Доступны варианты квантизации IQ3_KT и IQ4_KT объёмом соответственно 80,22 и 88,42 ГиБ. Отдельно поставляется MTP-head IQ4_KT объёмом 2,21 ГиБ; она не является самостоятельной моделью и должна загружаться вместе с основной моделью. Указан контекст до 131 072 токенов. Модель текстовая, сведения о поддерживаемых языках в README не приведены. Для работы требуются ik_llama.cpp и сборка с поддержкой qwen4exp MTP; маршрутизируемые эксперты требуют примерно 50,4 ГиБ RAM или VRAM для IQ3_KT и 58,6 ГиБ для IQ4_KT. Ключевые сильные стороны — квантизация с importance matrix, настроенная для агентского программирования, сохранение собственного механизма MTP и высокая эффективность использования памяти за счёт размещения PLE-таблицы на диске. По приведённым измерениям на коде IQ4_KT показывает perplexity 1,8209 против 1,7218 у BF16-версии, а IQ3_KT — 1,8273. Ограничения включают очень большой размер файлов, высокие требования к оперативной памяти и необходимость специализированного runtime; MTP увеличивает объём вычислительного буфера. Лицензия указана как qwen-community-license-1.0.

Qwen3-Coder-Next-Base — базовая языковая модель компании Qwen, предназначенная для разработки кодовых агентов и локальной работы с кодом. Это предварительно обученная авторегрессионная модель семейства Qwen3-Next с гибридной архитектурой: чередует Gated DeltaNet, Gated Attention и разреженные Mixture of Experts. В README указано 80 млрд параметров всего и 3 млрд активируемых; метаданные Hugging Face указывают 2,3 млрд параметров, поэтому размерные сведения источников расходятся. Модель рассчитана на генерацию кода и использование как основы для последующего обучения и создания агентных систем. Заявлены возможности вызова инструментов, адаптации шаблонов и каркасов проектов, а также поиска и восстановления после ошибок. Нативная длина контекста — 262 144 токена; README заявляет поддержку более 370 языков, в том числе языков программирования. Модель работает только в режиме без рассуждений (non-thinking) и не генерирует блоки разметки рассуждений. Репозиторий содержит веса Safetensors, библиотека — Transformers. Лицензия Apache-2.0.