II.11Кибербезопасность и приватность

Yi-Coder-1.5B-Chat — диалоговая модель для генерации кода и помощи в программировании, выпущенная 01.AI. Она основана на плотной архитектуре Llama и содержит 1,3 млрд параметров; модель доступна в формате Safetensors и рассчитана на работу через Transformers. Модель принимает текстовые запросы в формате чата и генерирует текст, включая программный код. Семейство Yi-Coder предназначено для понимания длинного контекста до 128K токенов и поддерживает 52 основных языка программирования. Это позволяет использовать модель для написания и объяснения кода, а также работы с большими фрагментами программ. Лицензия — Apache-2.0.

ZynDwarf-1.1 — компактная текстовая языковая модель общего назначения, разработанная Zyn Models / itsZyn на основе Liquid AI LFM2.5-350M. Модель содержит около 354,5 млн параметров и предназначена прежде всего для локального запуска на CPU-ориентированном оборудовании, встраивания в локальные инструменты и использования в агентских системах. Модель ориентирована на повседневный диалог на испанском и английском языках, объяснение и генерацию кода, отладку, преобразование программ, лёгкое планирование, структурированный вывод, выбор инструментов и обработку результатов их работы. Она поддерживает сценарии с function calling и многошаговыми агентскими циклами, при этом выполнение инструментов и проверка их результатов остаются ответственностью внешнего приложения. Доступны форматы Transformers Safetensors, GGUF F16 и GGUF Q4_K_M, совместимые с Transformers, llama.cpp и Ollama. Архитектура модели — Lfm2ForCausalLM, тип lfm2. Архитектурный максимум контекста составляет 128 000 токенов, однако рекомендуемый рабочий контекст — 32 768 токенов, а максимальная длина обучающих последовательностей — 768 токенов. Модель поддерживает только текст и не имеет возможностей работы с изображениями или аудио. Её сильные стороны — малый размер, низкие требования к ресурсам, поддержка испанского и английского языков, программирования и структурированных агентских взаимодействий. Ограничения связаны с компактным масштабом: модель не позиционируется как крупная система рассуждений, исследовательская модель или замена значительно более мощным моделям; для надёжной работы агентов необходимы внешний runtime, валидация и контроль выполнения инструментов. Распространяется по лицензии Apache-2.0.

BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели godsyy/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели LDCC/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели StephenViven/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

KimChen/bge-m3-GGUF — это конвертированная в формат GGUF версия модели BAAI/bge-m3. Конвертацию выполнили с помощью llama.cpp; автором репозитория и сборки указан KimChen, а исходная модель разработана командой BAAI. Модель предназначена для задач семантического сходства предложений и извлечения признаков, включая использование в системах сопоставления текстов и других сценариях sentence-transformers. Формат GGUF позволяет запускать её через llama.cpp в командной строке или в режиме сервера. В README не указаны точные архитектурные параметры, размер модели, поддерживаемые языки, модальности и исходная длина контекста; для этих характеристик предлагается обращаться к карточке BAAI/bge-m3. К сильным сторонам относятся совместимость с llama.cpp и возможность локального запуска на поддерживаемом оборудовании. Ограничения и требования к ресурсам в README подробно не описаны, а приведённый пример сервера использует контекст размером 2048 токенов. Модель распространяется по лицензии MIT.

ggml-org/bge-m3-Q8_0-GGUF — это модель для извлечения признаков и вычисления семантического сходства предложений, преобразованная в формат GGUF из базовой модели BAAI/bge-m3. Конвертацию выполнили с использованием llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для задач поиска по смыслу, ранжирования, сопоставления текстов и построения векторных представлений, в том числе при локальном запуске через совместимые инструменты llama.cpp. Ключевая характеристика этой версии — квантование Q8_0 в формате GGUF, которое обычно позволяет сократить требования к памяти по сравнению с полноразмерными весами при сохранении большей части качества исходной модели. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, размере контекста и точных модальностях; по назначению и указанной базовой модели речь идет о текстовой embedding-модели. Ограничения качества и совместимости зависят от исходной BAAI/bge-m3 и используемого программного окружения. Лицензия — MIT.

Bootes-Qwen3_Coder-Reasoning — дообученная модель PrithivMLmods на базе Qwen3-4B-ft-bf16, предназначенная для генерации кода и рассуждений над техническими задачами. Это плотная причинная языковая модель на 3,7 млрд параметров, работающая через Transformers; заявленная длина контекста — 40 960 токенов. Модель принимает текст и формирует текстовые ответы, включая код и структурированные данные. Модель подходит для генерации, дополнения, объяснения и отладки кода, пошагового решения алгоритмических задач, рефакторинга и подготовки технических материалов. В README заявлена поддержка Python, JavaScript, C++ и других языков программирования, а также технического общения более чем на 20 естественных языках; в метаданных карточки указан английский язык. Обучение включает CodeAlpaca_20K и дополнительные наборы для кода и рассуждений. Среди заявленных особенностей — следование инструкциям и выдача Markdown, JSON и YAML. Карточка предупреждает, что модель может хуже справляться с творческими задачами вне программирования, чувствительна к формулировке неоднозначных запросов и иногда даёт излишне подробные объяснения. Лицензия — Apache-2.0.

CodeGemma 7b Instruct — инструкционная языковая модель для генерации и анализа программного кода, разработанная Google. В каталоге указана её GGUF-версия для локального запуска; квантизация выполнена bartowski на основе llama.cpp. Модель предназначена прежде всего для ответов на вопросы по программированию, генерации кода и работы в инструментах наподобие Copilot, включая сценарии autocomplete и fill-in-the-middle. Модель относится к семейству Gemma, имеет заявленный размер 7B параметров; в метаданных LM Studio указано 8B. Она работает в текстовой модальности, поддерживает инструкционный формат Google Gemma Instruct и не использует системный prompt. В README не указаны контекстное окно и полный перечень языков, однако приведены примеры генерации кода на C++, Java и React. Сильная сторона модели — специализация на задачах программирования и возможность локального использования в формате GGUF. Ограничения включают отсутствие поддержки системного prompt и недостаток сведений о контекстном окне, языковом покрытии и качестве на конкретных тестах. Для доступа к исходной модели на Hugging Face требуется принять лицензию Google Gemma; применимая лицензия — Gemma, условия опубликованы Google.

DeepSeek-Coder-V2-Lite-Base-IMat-GGUF — это GGUF-квантизованная версия базовой модели deepseek-ai/DeepSeek-Coder-V2-Lite-Base, подготовленная legraphista с использованием llama.cpp. Модель предназначена прежде всего для генерации текста и задач, связанных с программированием; в README она представлена как базовая, а не специализированная диалоговая модель. Доступны варианты в форматах BF16, F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и других типах квантизации размером примерно от 6,43 до 31,42 ГБ. Для ряда компактных вариантов применена IMatrix-квантизация, призванная повысить качество по сравнению с обычным квантованием; доступны файлы IMatrix и версии для llama.cpp. Сведения об архитектуре, количестве параметров, поддерживаемых языках, модальностях и размере контекста в README не указаны. Основные преимущества — широкий выбор уровней квантизации, возможность локального запуска через совместимый стек GGUF/llama.cpp и компромисс между качеством, размером файла и требованиями к памяти. Более агрессивное квантование может снижать качество, а для работы требуются ресурсы, соответствующие выбранному варианту. Модель распространяется по лицензии deepseek-license; в карточке указано обозначение лицензии other и ссылка на файл LICENSE.

Gemini 3.8 Flash — модель Google из семейства Gemini Flash. В карточке указаны улучшения по сравнению с Gemini 3.7 Flash в задачах разработки программного обеспечения, агентных сценариях и многошаговых рассуждениях. Метаданные каталога классифицируют модель как image-text-to-text. Имеющихся сведений недостаточно, чтобы описать её размер, контекст, языковую поддержку, условия лицензии или ограничения; эти характеристики здесь не предполагаются.

principled-intelligence выпустила текстовый вариант Gemma 4 E2B-it: из исходного мультимодального чекпойнта удалены веса энкодеров изображений и аудио, а языковая модель сохранена. Это плотная модель семейства Gemma 4 с 1,6 млрд параметров по метаданным и контекстом до 131 072 токенов. Модель предназначена для извлечения признаков из текста и может использоваться как текстовая часть исходной модели для генерации. По README, удаление энкодеров уменьшает размер чекпойнта и пиковое потребление видеопамяти примерно на 9% по сравнению с исходным Gemma 4 E2B-it; сохранены исходные токенизатор и шаблон чата. Для загрузки автор проверял Transformers, а другие движки инференса пока не поддерживаются. Лицензия — Apache-2.0.

ChristianAzinn/gte-large-gguf — это квантизированная GGUF-версия модели gte-large, разработанной Alibaba DAMO Academy и опубликованной thenlper. Репозиторий подготовил ChristianAzinn; исходная модель построена преимущественно на архитектуре BERT и распространяется как модель для создания текстовых эмбеддингов. Модель предназначена для информационного поиска, оценки семантического сходства текстов, reranking и других задач, где требуется сопоставление текстовых представлений. Она обучалась на крупном корпусе релевантных пар текстов из различных предметных областей. Указан английский язык, максимальная длина контекста — 512 токенов. GGUF-файлы поддерживаются llama.cpp и LM Studio; доступны варианты квантизации от 2 до 8 бит, а также FP16 и FP32. Квантизация уменьшает размер и требования к памяти, но низкобитные варианты могут заметно снижать качество; README рекомендует сбалансированные варианты Q4_K_M, Q5_K_S, Q5_K_M и Q8_0. Модель не предназначена для генерации текста: её основная функция — получение эмбеддингов для последующего сравнения или поиска. Варианты с высокой степенью квантизации удобны для локального запуска на ограниченных ресурсах, однако требуют оценки влияния потери точности на конкретную задачу. Исходная модель и материалы репозитория распространяются по лицензии MIT.

Hermit Code 7B i1 GGUF — квантизированная версия модели Soloman2002/hermit-code-7b, подготовленная mradermacher. Модель ориентирована на генерацию текста и работу с программным кодом, включая сценарии coding-agent и instruction-tuned взаимодействия. В метаданных указаны английский язык и поддержка задач, связанных с Python, JavaScript, Rust и Go; модель работает только с текстом. Это модель класса 7B, распространяемая в формате GGUF с imatrix-квантизациями. Доступны варианты с разным соотношением размера, скорости и качества — от IQ1 и IQ2 до Q6_K; среди рекомендуемых README выделяет i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как оптимальный по размеру, скорости и качеству. Ключевые ограничения — неизбежная потеря качества у низкобитных вариантов, причём некоторые из них прямо обозначены как имеющие очень низкое качество. Размер контекста и точная архитектура в README не указаны. Модель распространяется по лицензии Apache-2.0.

Xenova/jina-embeddings-v2-small-en — версия модели jinaai/jina-embeddings-v2-small-en с весами в формате ONNX, подготовленная для использования в JavaScript через библиотеку Transformers.js. Модель предназначена для извлечения векторных представлений английских текстов и совместима с конвейером feature-extraction. Модель подходит для семантического сравнения текстов, поиска похожих документов и построения приложений, использующих текстовые эмбеддинги. В README показан сценарий генерации эмбеддингов с mean pooling и расчёта косинусного сходства. Поддерживаются варианты точности fp32, fp16, q8 и q4, что позволяет выбирать между качеством, размером и производительностью. Сведения об архитектуре, размере, максимальной длине контекста и точной размерности эмбеддингов в README не указаны. Сильной стороной модели является возможность запуска ONNX-весов в JavaScript-окружении через Transformers.js, включая потенциальное использование в веб-приложениях. Ограничения связаны с тем, что заявлена поддержка английского языка, а влияние квантования на качество может зависеть от выбранного формата. Лицензия в предоставленном README не указана.

jina-embeddings-v5-text-small — мультиязычная плотная модель эмбеддингов пятого поколения от Jina AI, предназначенная для преобразования текста в векторы. Она дообучена на базе Qwen/Qwen3-0.6B-Base с дистилляцией эмбеддингов Qwen3-Embedding-4B и контрастивным обучением для отдельных задач. В README указано 677 млн параметров, а в метаданных — 507,9 млн; максимальная длина последовательности составляет 32 768 токенов. Модель подходит для семантического поиска и извлечения документов, сопоставления текстов, кластеризации и классификации. По карточке она поддерживает более 119 языков, а в бенчмарках показывает 71,7 на MTEB English v2 и 67,7 на MMTEB. Эмбеддинги рассчитаны на устойчивую работу при усечении текста и бинарном квантовании. Для ускорения инференса рекомендуется flash-attention, но она не обязательна; доступно использование через Transformers, Sentence Transformers и Elastic Inference Service. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

KAT-Coder-V2.5-Dev-OptiQ-4bit — это квантованная версия модели KAT-Coder-V2.5-Dev, разработанная сообществом mlx-community на базе модели Kwaipilot. Модель предназначена для генерации и анализа программного кода, а также для сценариев, где требуется рассуждение перед формированием ответа. Она реализована для MLX и ориентирована на локальный запуск на компьютерах Apple Silicon без PyTorch и облачных сервисов. Архитектура модели — qwen3_5_moe: разреженная MoE-система с 256 маршрутизируемыми экспертами, сочетающая гибридные линейные слои и полное внимание. Используется смешанная статическая квантизация 4/8 бит с целевым показателем около 4,5 бит на параметр: 400 проекций представлены в 4-битном формате, 111 — в 8-битном. Размер модели на диске составляет около 20 ГБ. В README указан английский язык; другие языки, размер контекста и поддерживаемые модальности не заявлены. Сильными сторонами модели являются локальная работа на Apple Silicon, сниженный объём хранения благодаря квантизации и совместимость с MLX-инструментами, включая mlx-lm и optiq. Для запуска рекомендуется пакет optiq; он также предоставляет OpenAI-совместимый локальный API и квантизацию KV-кэша. Ограничения включают ориентацию прежде всего на задачи программирования, требования к совместимому оборудованию и отсутствие в README данных о точности, производительности, языковой поддержке за пределами английского и контекстном окне. Модель распространяется по лицензии Apache-2.0.

Kimi-Dev-72B-4bit-DWQ — языковая модель для генерации текста и работы с программным кодом, разработанная на базе moonshotai/Kimi-Dev-72B. Модель преобразована сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.26.0 и предназначена для запуска на устройствах, поддерживающих экосистему MLX. Модель ориентирована на задачи программирования, разрешения software issues и сценарии, связанные с разработкой и исправлением кода, включая задачи класса SWE-bench. Она имеет размер 72B параметров и использует 4-битное квантование DWQ, что снижает требования к памяти по сравнению с полноразмерной версией, но может влиять на точность и качество генерации. Поддерживается текстовая модальность; сведения о языках, максимальном размере контекста и конкретной архитектуре в README не указаны. Для использования требуется библиотека mlx-lm и совместимое окружение MLX. Модель распространяется по лицензии MIT.

Карточка модели indigoskyai/Kimi-K2.6 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

Карточка модели wucjik/Kimi-K2.6 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

Карточка модели ckoh04/Kimi-K2.6-pruned-8experts на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

eleldar/language-detection — модель классификации текста, разработанная на базе XLM-RoBERTa и дообученная на датасете Language Identification. Она определяет язык текстовой последовательности, выбирая один из 20 классов: арабский, болгарский, немецкий, греческий, английский, испанский, французский, хинди, итальянский, японский, нидерландский, польский, португальский, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский. Модель использует XLM-RoBERTa с классификационной головой, содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. В тестировании на сбалансированном наборе из 20 языков автор сообщает среднюю точность 99,6%; это значение относится к указанному набору и не гарантирует такую же точность на коротких, смешанных или нестандартных текстах. Модель распространяется по лицензии MIT.

Millie 35B-A3B 7GB — модель смешанных экспертов для программирования и агентных сценариев, опубликованная llmsforall. Она создана на основе Agents-A1 и архитектуры Qwen3.5-35B-A3B: всего 35 млрд параметров, из которых активно около 3 млрд на токен. Весовые коэффициенты экспертов сжаты примерно до 1,2 бита на параметр; модель поставляется в формате GGUF, а отдельный файл проектора изображений обеспечивает приём изображений. Заявленная длина контекста — 262 тысячи токенов. Модель предназначена для генерации кода, диалогов и выполнения агентных задач на обычном оборудовании. Для запуска нужны оба файла GGUF и специальная версия llama.cpp от llmsforall с поддержкой формата весов; upstream llama.cpp их загрузить не может. В метаданных указана лицензия Apache-2.0. README также сообщает о варианте размером 11 ГБ.

MyAwesomeModel — модель, размещённая пользователем liuf12123456 и доступная через библиотеку Transformers. Согласно метаданным Hugging Face, она относится к архитектурному семейству BERT, использует PyTorch и предназначена для извлечения признаков из текста, то есть преобразования текстовых входов в векторные представления для последующего анализа.

Mungert/OpenCodeReasoning-Nemotron-7B-GGUF — квантизированная версия модели на базе Qwen/Qwen2.5-7B-Instruct, связанная с датасетом NVIDIA OpenCodeReasoning. Модель предназначена для генерации текста и решения задач, связанных с программированием и рассуждениями по коду; формат GGUF ориентирован на запуск через llama.cpp и совместимые инструменты. Модель относится к классу 7B и поддерживает английский язык. Доступны варианты с различной точностью квантизации, включая низкобитные форматы IQ и стандартные варианты GGUF. Низкобитные конфигурации уменьшают требования к памяти и подходят для CPU, устройств с ограниченной VRAM и edge-сценариев, однако могут снижать точность. В README приведены результаты для DynamicGate-квантизации на Llama-3-8B, но они не являются прямым бенчмарком данной модели. Размер контекста для этой модели явно не указан. Сильными сторонами являются компактность, возможность локального запуска и выбор между точностью и эффективностью благодаря нескольким вариантам квантизации. Ограничения включают потенциальную потерю качества в низкобитных версиях, зависимость производительности от аппаратного ускорения и отсутствие подробных характеристик целевой модели, включая точный контекст и результаты профильного тестирования. Указанная лицензия — Apache 2.0.

OPENER-ZS — модель эмбеддингов для распознавания и типизации именованных сущностей в режиме zero-shot open-world NER. Её разработчик дообучил Nomic Embed Text v1.5 контрастивным обучением: сначала на фрагментах CoNLL-2003, затем с подбором сложных отрицательных примеров для типов сущностей, которые модель часто путает. Модель использует архитектуру NomicBert и создаёт векторы упоминаний в контексте, выделенных маркерами [ENT] и [/ENT], и названий типов с префиксом classification:. Контекст — до 2048 токенов. В составе конвейера OPENER детектор GLiNER-L находит упоминания, после чего OPENER-ZS сопоставляет их с прототипами названий типов по косинусному сходству. Система не требует целевых размеченных примеров: пользователь задаёт текст и возможные типы сущностей. Предусмотрены уточнение результатов по неразмеченным входным данным и объединение оценок с предсказаниями детектора. В карточке сообщается результат 39,4 end-to-end AMI на бенчмарке из 13 наборов данных и скорость около 180 мс на предложение. Модель предназначена для zero-shot извлечения и типизации сущностей с пользовательскими категориями. Это дообучение nomic-ai/nomic-embed-text-v1.5; для запуска полного конвейера требуется GLiNER-L, а для удобного использования автор предлагает пакет opener-ner. Репозиторий распространяется по лицензии MIT; базовая модель указана в README как Apache-2.0.

Qwen2.5-Coder-0.5B-Instruct-GGUF — инструкционная языковая модель для работы с исходным кодом из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, задач кодового рассуждения, чат-сценариев и создания приложений на базе кодовых агентов. Модель сохраняет возможности для математических и общих языковых задач. Указанный репозиторий содержит версию в формате GGUF, ориентированную на локальный запуск, в том числе через llama.cpp. Модель является авторегрессионной causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. Она содержит около 0,49 млрд параметров, из которых 0,36 млрд — без учёта эмбеддингов, 24 слоя и GQA с 14 головами для Q и 2 для KV. Полная длина контекста составляет 32 768 токенов. Поддерживаются варианты квантизации q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. В карточке явно указан английский язык; другие языки не заявлены. К сильным сторонам относятся небольшой размер, возможность локального запуска и специализация на программном коде. Ограничениями являются существенно меньшая мощность по сравнению с крупными моделями семейства и отсутствие подтверждённых в карточке характеристик мультимодальности или поддержки дополнительных языков. Для расширения контекста до 131 072 токенов рекомендуется использовать не GGUF-версии, поскольку для GGUF заявлена длина до 32 768 токенов, а поддержку YARN для экстраполяции указывает только vLLM. Модель распространяется по лицензии Apache-2.0.

richardyoung/Qwen2.5-Coder-14B-Instruct-heretic — модифицированная версия Qwen/Qwen2.5-Coder-14B-Instruct, созданная с помощью Heretic v1.4.0. Это причинная языковая модель семейства Qwen2 для генерации кода и диалогового взаимодействия; размер по метаданным — 14 млрд параметров, веса сохранены в safetensors. Карточка указывает на изменение поведения отказов: в приведённой оценке модель отказала в 3 из 100 случаев против 100 из 100 у исходной модели. Модель подходит для генерации, анализа и исправления кода, а также для диалоговых сценариев разработки. Метаданные указывают контекст до 32 768 токенов; README базовой модели описывает возможность расширения до 131 072 токенов с YaRN, но это требует настройки и может ухудшить работу на коротких запросах. Карточка модели не приводит отдельной оценки качества именно этой версии. Модель основана на Qwen/Qwen2.5-Coder-14B-Instruct и распространяется по лицензии Apache-2.0. В README разработчиком модификации указан владелец репозитория richardyoung; модель снижает частоту отказов, поэтому её ответы требуют соответствующей проверки при использовании.

Qwen3.6-27B — открытая модель с весами от команды Qwen, представленная как постобученная модель в формате Hugging Face Transformers. Это причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров; она поддерживает чат и интерфейс вызова инструментов. Модель предназначена для программирования, агентных сценариев и работы с изображениями, а README также описывает ввод видео. Указанная длина контекста — 262 144 токена с возможностью расширения до 1 010 000 токенов. В README отмечены задачи на уровне репозитория, разработка интерфейсов и сохранение контекста рассуждений между сообщениями. Модель можно запускать через Transformers и использовать с vLLM, SGLang и KTransformers; для высоких нагрузок авторы рекомендуют специализированные серверы инференса. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.