II.11Кибербезопасность и приватность

Helion-V1.5 — диалоговая языковая модель, разработанная DeepXR и дообученная методом QLoRA на базе Meta Llama 2. Архитектура — плотная LlamaForCausalLM; базовая модель содержит около 7 млрд параметров, а адаптер LoRA — 67 млн. Модель принимает текст и генерирует текст, поддерживает диалоги и структурированные вызовы функций. Контекстное окно — 4096 токенов. Модель предназначена для следования инструкциям, многошаговых диалогов, генерации и объяснения кода, а также задач письма и анализа. В README приведены результаты тестов на диалог, следование инструкциям и генерацию кода; эти показатели зависят от тестового набора и условий оценки. Основной язык — английский, поддержка других языков ограничена. Модель распространяется по лицензии Apache 2.0. Известные ограничения: возможны фактические ошибки и галлюцинации, слабые результаты в сложных математических рассуждениях и временно-зависимых запросах; ответы на критичные вопросы следует проверять.

Kimi K2-Instruct-0905 — языковая модель, разработанная Moonshot AI. Это обновлённая версия Kimi K2, ориентированная на агентное программирование, выполнение длительных задач и работу с инструментами. Модель особенно предназначена для разработки и анализа кода, задач coding agent, а также создания frontend-приложений с улучшенным вниманием к эстетике и практичности интерфейсов. Модель использует архитектуру Mixture-of-Experts (MoE) с 1 трлн общих параметров и 32 млрд активируемых параметров. Она содержит 61 слой, 384 эксперта, из которых для каждого токена выбираются 8, 64 attention head, механизм внимания MLA и функцию активации SwiGLU. Размер словаря составляет 160 тысяч токенов, а контекстное окно — 256 тысяч токенов, что подходит для анализа больших репозиториев и продолжительных многошаговых сценариев. README не указывает полный перечень поддерживаемых языков и модальностей; по представленным данным это языковая, а не мультимодальная модель. Сильные стороны модели — улучшенные результаты в задачах агентного программирования и поддержка очень длинного контекста. В README приведены результаты на SWE-Bench, SWE-Bench Multilingual, Multi-SWE-Bench, Terminal-Bench и SWE-Dev, однако они зависят от условий тестирования и не гарантируют аналогичную эффективность в каждом проекте. К ограничениям относятся высокая вычислительная сложность полной модели и необходимость специализированных inference-движков; рекомендованы vLLM, SGLang, KTransformers и TensorRT-LLM. Доступны checkpoint в формате block-fp8 и API с OpenAI- и Anthropic-совместимыми интерфейсами. Лицензия указана как modified MIT.

Laguna XS 2.1-INT4 — текстовая модель класса Mixture-of-Experts, разработанная poolside для агентного программирования и длительных рабочих сценариев на локальном компьютере. Она предназначена для генерации и анализа кода, взаимодействия с инструментами и выполнения многошаговых задач разработки, включая работу в терминале и репозиториях. Модель содержит 33 млрд параметров, из которых 3 млрд активируются на каждом токене, и включает 40 слоёв с 256 экспертами и одним общим экспертом. Архитектура сочетает глобальное внимание в 10 слоях и Sliding Window Attention с окном 512 токенов в 30 слоях; используется per-head gating и rotary scales. Контекстное окно составляет 262 144 токена. Модель работает в режиме text-to-text, поддерживает interleaved thinking между вызовами инструментов и сохранение рассуждений. Это вариант INT4 с KV-кэшем, квантованным в FP8. К сильным сторонам относятся сравнительно компактный объём активных параметров, сниженные требования к памяти благодаря архитектуре внимания и FP8 KV-кэшу, а также ориентация на локальный запуск; в README указана возможность запуска на Mac с 36 ГБ оперативной памяти. Ограничения включают специализацию прежде всего на агентном программировании, отсутствие заявленных мультимодальных возможностей и отсутствие сведений о конкретных поддерживаемых языках. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.

MiniCPM5-2B-etheroi — компактная языковая модель из серии MiniCPM5, представленная в карточке MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров. Она предназначена для локальных помощников, программных агентов и сценариев, где важны небольшие требования к ресурсам и длинный контекст. Модель генерирует текст и поддерживает контекст до 131 072 токенов. В карточке отмечены навыки программирования, математики, понимания длинного контекста, следования инструкциям и работы с инструментами; метаданные также указывают разговорный сценарий. Модель рассчитана на английский и китайский языки и доступна в формате safetensors для Transformers; README описывает локальный запуск на GPU и CPU и серверный запуск через vLLM и SGLang. Модель выпущена под лицензией Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не проверены экспертами и не являются профессиональной консультацией. README не указывает отдельную базовую модель для этой версии.

nreimers/MiniLM-L3-H384-uncased — компактная текстовая модель семейства MiniLM, созданная Нильсом Реймерсом на основе microsoft/MiniLM-L12-H384-uncased. Это версия с тремя слоями: в ней сохранены слои 3, 7 и 11 исходной 12-слойной модели. Модель имеет архитектуру BERT и содержит 18,8 млн параметров. Модель предназначена для извлечения признаковых представлений текста, которые можно использовать в прикладных системах поиска и анализа текста. Она принимает текст, выдаёт векторные представления и рассчитана на контекст до 512 токенов. Веса доступны в формате PyTorch; лицензия — MIT.

multilingual-e5-small-GGUF — это GGUF-версия мультиязычной модели для создания текстовых эмбеддингов, разработанная на основе intfloat/multilingual-e5-small. Репозиторий cstr/multilingual-e5-small-GGUF выполняет только конвертацию и квантование весов; обучение, дообучение, слияние и изменение архитектуры не проводились. Модель предназначена для получения векторных представлений текста, семантического поиска, сравнения текстов и других задач, использующих эмбеддинги. Работает через CrispEmbed и Ollama, включая совместимые с OpenAI и Ollama API. Модель построена на архитектуре BERT, содержит около 118 млн параметров, 12 слоёв, использует mean pooling и токенизатор SentencePiece, а размерность эмбеддингов составляет 384. Поддерживается широкий набор языков, включая английский, русский, китайский, японский, корейский, арабский, хинди и многие другие. Доступны варианты F32, Q8_0, Q4_K, Q4_K с imatrix и IQ4_XS. Рекомендуется Q8_0: его близость к версии F32 составляет 0,9999 по cosine similarity при существенно меньшем размере файла. Четырёхбитные варианты экономят память, но могут немного снижать точность. Модель удобна для локального и ресурсоограниченного инференса благодаря компактным квантованным версиям и совместимости с несколькими API. Ограничения включают зависимость качества от выбранного уровня квантования и отсутствие в README подробностей о максимальной длине контекста, обучающих данных и результатах прикладных бенчмарков. Указана лицензия MIT; репозиторий распространяется на тех же условиях, что и исходная модель.

Карточка модели LimitlessMindd/Muse-Glimmer-30B на Hugging Face совпадает с карточкой meta-models/Muse-Glimmer-30B, поэтому описание составлено по ней. Muse Glimmer — модель Meta Superintelligence Lab с плотным причинным трансформером и отдельным энкодером восприятия. Это мультимодальная модель на 29,6 млрд параметров, дистиллированная из Muse Spark и опубликованная по лицензии Apache 2.0. Она предназначена для локального запуска на потребительском оборудовании и поддерживает диалог с изображениями. Модель рассчитана на многошаговые агентные сценарии: планирование, вызов инструментов, восстановление после ошибок и выполнение длительных задач. Её также можно применять для разработки кода, анализа скриншотов, диаграмм и документов, генерации синтетических данных и оценки ответов других моделей. В README заявлены результаты на бенчмарках агентного выполнения, включая SWE-Bench, DeepSearch QA и MCP-Atlas. Модель может ошибаться в рассуждениях, особенно в новых сценариях, и выдавать неточные, предвзятые или нежелательные ответы. Поддержки аудио нет; видео явно не оптимизировано и обрабатывается как отдельные кадры. Качество может снижаться для языков, на которых модель недостаточно оценивалась. Для агентных приложений разработчик рекомендует дополнительные меры защиты и проверки.

North Mini Code 1.0 — открытая по весам исследовательская модель, разработанная Cohere и Cohere Labs. Она предназначена для генерации кода, агентной разработки программного обеспечения и выполнения задач через терминал, включая работу с инструментами и решение сложных задач программирования. Модель принимает только текст и генерирует текст. Это decoder-only Transformer со sparse Mixture-of-Experts: всего 30 млрд параметров, из которых 3 млрд активируются для каждого токена. Архитектура использует 128 экспертов, 8 из них выбираются на токен, активацию SwiGLU, а также чередование sliding-window attention с RoPE и глобального attention без позиционных embedding в соотношении 3:1. Перед sparse-слоями используется один dense-слой. Модель дообучалась в два этапа с помощью supervised fine-tuning и reinforcement learning with verifiable rewards, ориентированных на агентное программирование. Контекст составляет до 256K токенов, максимальная длина вывода — до 64K токенов. Сильные стороны модели — специализация на коде, агентных сценариях разработки и терминальных задачах, большой контекст и сравнительно небольшое число активных параметров на токен. Ограничения включают текстовую модальность и исследовательский статус; README не приводит конкретные результаты бенчмарков и не описывает поддерживаемые естественные языки. FP8-чекпойнт предназначен для запуска с vLLM и несовместим с Transformers из-за используемого алгоритма квантования; для Transformers рекомендуется BF16-версия. Модель распространяется по лицензии Apache 2.0.

Ornith-1.5-35B-A3B-REAP50-GGUF — квантизированная GGUF-версия модели Ornith-1.5-35B-A3B, разработанной ornith-ai и подготовленной Ttimms. Модель предназначена для генерации текста, включая программирование и работу в локальных средах через llama.cpp и совместимые приложения. Она создана методом REAP с 50%-ным сокращением экспертных блоков: число экспертов в гибридной архитектуре Gated-DeltaNet и Mixture-of-Experts уменьшено с 256 до 128, удалена MTP-голова, а также визуальная башня; заявленный объём составляет около 19 млрд параметров, из которых примерно 3 млрд активны при обработке токена. Указан английский язык и текстовая модальность. Доступны варианты квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером от 11,4 до 19,7 ГБ. Рекомендуемый Q4_K_M рассчитан на видеопамять 16 ГБ с запасом под контекст; Q8_0 требует более 16 ГБ или выгрузки части вычислений на CPU. MoE-архитектура обеспечивает относительно быструю работу на CPU и Apple Silicon для модели такого размера. Для запуска требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; поддержка Ollama на момент публикации ожидала обновления встроенной llama.cpp. Контекст модели в README не указан. До квантизации заявлены результаты HumanEval+ 84,2%, MBPP+ 89,2% и SWE-bench Verified 44,0%, однако эти показатели относятся к варианту NVFP4A16 и могут не отражать качество GGUF-версий. Ограничениями являются потеря части экспертов и удаление MTP- и визуальной компонентов, а также необходимость достаточно нового программного окружения. Модель распространяется по лицензии MIT, унаследованной от базовой модели; pruning выполнен методом REAP с исправлением перенормировки маршрутизатора.

unsloth/Qwen2.5-Coder-3B-bnb-4bit — квантованная 4-битная версия модели Qwen2.5-Coder, разработанной командой Qwen и опубликованной в формате Unsloth. Модель относится к семейству специализированных языковых моделей для программирования и предназначена для генерации, анализа и исправления кода, а также для задач code completion и fill-in-the-middle. Это базовая модель без дообучения для диалогов, поэтому для чат-сценариев рекомендуется дополнительное обучение или использование подходящего шаблона постобработки. Архитектура основана на causal language model с RoPE, SwiGLU, RMSNorm, смещениями в QKV-проекциях внимания и связанными эмбеддингами слов. В README для данного репозитория приведены характеристики версии 0.5B: около 0,49 млрд параметров, 24 слоя, GQA с 14 головами для Q и 2 для KV, контекст до 32 768 токенов. При этом идентификатор и базовая модель указывают на вариант 3B, а точные архитектурные параметры именно 3B-версии в предоставленных данных не подтверждены. Указан английский язык; мультимодальность не заявлена. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, а также сниженные требования к памяти благодаря 4-битному представлению. Модель может применяться локально и интегрироваться в инструменты разработки, но её базовый, а не диалоговый характер ограничивает использование в роли готового чат-ассистента. Лицензия — Apache-2.0.

bartowski/Qwen2.5-Coder-3B-GGUF — это набор квантизированных версий языковой модели Qwen2.5-Coder-3B, разработанной командой Qwen и подготовленной пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель предназначена прежде всего для генерации и обработки программного кода, включая работу в локальных приложениях вроде LM Studio. В README указано, что базовая модель поддерживает английский язык. Модель имеет около 3 млрд параметров. Доступны варианты от F16 до низкобитных квантов Q2–Q8, различающиеся размером файла, требованиями к памяти и качеством генерации; наиболее рекомендуемыми названы варианты Q4–Q6. Квантизация выполнена с использованием imatrix и llama.cpp. Для взаимодействия используется шаблон сообщений с ролями system, user и assistant. Сведения об архитектуре, размере контекста и мультимодальности в README не указаны; по представленным данным модель является текстовой. Основное преимущество набора — возможность локального запуска при выборе подходящего уровня квантизации: старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти. Ограничения связаны с компромиссом между размером и качеством, особенно у вариантов Q2–Q3; отдельные форматы оптимизированы для ARM и требуют соответствующей поддержки инструкций, а варианты Q4_0_8_8 и Q4_0_4_8 не рекомендуются для Mac или Windows. Лицензия указана как qwen-research; подробности доступны по ссылке на лицензию исходной модели Qwen2.5-Coder-3B.

Qwen2.5-Coder-3B-Instruct — инструктивно дообученная языковая модель для программирования от команды Qwen. Она предназначена для генерации, объяснения и исправления кода, рассуждений о коде и создания кодовых агентов; также сохраняет общие способности и навыки решения математических задач. Модель построена на архитектуре Qwen2 с причинным декодированием и содержит около 3,1 млрд параметров. Модель принимает текстовые инструкции и выдаёт текст, включая код. Контекстное окно составляет 32 768 токенов. В карточке указано, что обучение охватывало исходный код, связку текста и кода и синтетические данные; метаданные указывают английский язык. Для загрузки рекомендуется актуальная версия библиотеки Transformers. Репозиторий использует формат safetensors и лицензию с обозначением «other»; конкретные условия следует проверять в файлах лицензии репозитория.

YOYO-AI выпустила YOYO-AI/Qwen3-30B-A3B-CoderThinking-YOYO-linear — объединённую методом linear модель на основе Qwen3-30B-A3B-Thinking-2507 и Qwen3-Coder-30B-A3B-Instruct. Это разговорная MoE-модель для генерации текста с интерфейсом вызова инструментов. В README указаны контекст до 262 144 токенов, смешивание весов в пропорции 0,9 и 0,1 и выходной формат bfloat16. Модель предназначена для диалога, рассуждений и задач программирования, включая сценарии с длинным контекстом и использованием инструментов. Метаданные указывают английский и китайский языки. Модель распространяется по лицензии Apache-2.0. Параметры генерации, рекомендуемые в README: температура 0,6, top-p 0,95 и top-k 20.

DavidAU/Qwen3-42B-A3B-2507-Thinking-Abliterated-uncensored-TOTAL-RECALL-v2-Medium-MASTER-CODER — текстовая генеративная модель для программирования, рассуждений, диалога и творческих задач. Она основана на дообученной модели huihui-ai/Huihui-Qwen3-30B-A3B-Thinking-2507-abliterated и включает адаптер Brainstorm 20x; в README заявлена архитектура MoE с 42 млрд параметров, 67 слоями и 8 активируемыми экспертами. Метаданные относят её к семейству Qwen3 MoE, указывают 3,5 млрд параметров и контекст до 262 144 токенов. Модель предназначена прежде всего для генерации и анализа кода на популярных и менее распространённых языках программирования, а также для диалогов, задач на рассуждение и творческого письма. README характеризует её как abliterated и uncensored: модель реже отказывает в запросах на откровенный контент, но для желаемого уровня подробности может потребоваться явное направление в промпте. Указаны английский, французский, китайский и немецкий языки; README также заявляет широкий охват языков программирования. Репозиторий содержит веса Safetensors для использования с Transformers и последующей конвертации. Лицензия — Apache-2.0.

CrowdMind / Dustin Loring разработали CrowdMind/Qwen3.5-9b-pro — мультимодальную плотную модель семейства Qwen3.5 на 9 млрд параметров, полученную supervised fine-tuning модели Qwen/Qwen3.5-9B. Она предназначена для агентных сценариев, генерации и редактирования кода, работы с инструментами и терминалом, автоматизации и общих рассуждений. Модель принимает текст, изображения и видео через процессор и специальный шаблон чата; шаблон также позволяет настраивать уровень рассуждений или отключать их. Для инференса в карточке приведены инструкции по использованию Transformers и SGLang. В опубликованных авторами результатах SFT-чекпойнт превосходит исходную Qwen3.5-9B в приведённых метриках SWE Pro, AutomationBench и Terminal Bench. Эти результаты не гарантируют качество на конкретных задачах: модель может ошибаться или давать чрезмерно уверенные ответы, неверно интерпретировать изображения и пропускать детали видео. Вызовы инструментов и сгенерированный код требуют проверки; длинные диалоги ограничены доступным контекстом. Лицензия — MIT.

Red Hat AI публикует открытые веса Qwen3.6-35B-A3B — постобученную причинную языковую модель с MoE-архитектурой и визуальным энкодером. Она предназначена для диалогов, программирования и агентных сценариев с вызовом инструментов, включая работу с изображениями и видео. Модель содержит 35 млрд параметров, из которых активируются 3 млрд; в языковой части 40 слоёв и 256 экспертов, из которых на токен задействуются 8 маршрутизируемых и один общий. Нативный контекст составляет 262 144 токена и может расширяться до 1 010 000. Среди заявленных сильных сторон — программирование на уровне репозитория, создание интерфейсов и сохранение контекста рассуждений между сообщениями. Модель поддерживает обработку изображений и видео, а примеры оценивания программирования включают английский и китайский; README не позволяет надёжно определить полный список поддерживаемых языков. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM и другими указанными средами. Лицензия — Apache-2.0. Для запуска на длинном контексте нужны значительные вычислительные ресурсы; README советует уменьшать контекст при нехватке памяти, сохраняя по возможности не менее 128K токенов.

FastFlowLM/Qwen3.6-35B-A3B-NPU2 — открытая модель семейства Qwen3.6, разработанная командой Qwen и основанная на Qwen/Qwen3.6-35B-A3B. Это авторегрессионная языковая модель с vision encoder, предназначенная прежде всего для программирования, агентских сценариев, работы с интерфейсами и репозиториями, а также для задач, требующих анализа длинного контекста. Модель поддерживает формат Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Модель имеет 35 млрд параметров, из которых при генерации активируются 3 млрд. Архитектура сочетает Gated DeltaNet, Gated Attention и Mixture of Experts: используется 40 слоёв, 256 экспертов, 8 маршрутизируемых и 1 общий активный эксперт. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Указана поддержка визуального ввода через vision encoder, однако точный перечень языков и параметры визуальной части в README не приведены. Сильными сторонами модели заявлены улучшенная работа с frontend-задачами, рассуждением на уровне репозитория и сохранением контекста рассуждений между сообщениями. Ограничения, включая качество на конкретных языках, требования к аппаратному обеспечению и особенности версии NPU2, в README не описаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-unsloth-code-reasoning-deepseek-v4-pro-destilled-Mlx-4bit — это общественная 4-битная конверсия в формат MLX модели Qwen3.5 MoE с примерно 35 млрд параметров. Модель основана на архитектуре Qwen3_5MoeForConditionalGeneration, дообучена с использованием Unsloth для генерации кода и пошагового рассуждения и дистиллирована на трассировках рассуждений DeepSeek v4 Pro. Конверсию подготовил пользователь 10Hen10; базовые компоненты связаны с Qwen и Unsloth, а инференс рассчитан на фреймворк Apple MLX. Модель предназначена для генерации, дополнения и объяснения кода, задач по математике и логике, отладки, агентских сценариев с вызовом инструментов и локального конфиденциального запуска на macOS. Она поддерживает текст, изображения и видео, а также встроенный function/tool calling в шаблоне чата. Основной язык — английский; поддержка других языков не является целевой. Контекстное окно в README не указано. Используется разреженная Mixture-of-Experts-архитектура, поэтому на каждом токене активна только часть параметров. Веса имеют 4-битное affine-квантование с размером группы 64, а чувствительные router/gate-слои сохранены в 8-битном формате. Для Apple Silicon M1–M4 рекомендуется не менее 32 ГБ unified memory; сами веса занимают примерно 20–22 ГБ, ещё около 2–4 ГБ требуется для KV-кэша и служебных данных. К сильным сторонам относятся сочетание кодогенерации и рассуждений, мультимодальность, поддержка инструментов и возможность локального запуска на совместимых устройствах Apple. Ограничения включают отсутствие официальных результатов бенчмарков, возможное снижение качества из-за 4-битного квантования, галлюцинации и ошибки в коде, а также зависимость качества рассуждений от учительской модели и данных дистилляции. Модель распространяется по лицензии Apache-2.0.

Модель Qwen3.8-27B-ED-5bpw-GGUF опубликована пользователем bakhtin и представляет собой квантованный вариант Qwen3.8-27B в формате GGUF. Автор указывает, что дополнительного дообучения и посттренировки не проводилось; для калибровки квантования использовалась матрица важности, собранная на русскоязычных технических текстах, программировании и формальной логике. Веса основаны на BF16-файле ggml-org/Qwen3.8-27B-GGUF. Модель поддерживает диалог и работу с изображениями: принимает текст и изображения, выдаёт текст. Квантование 5 BPW занимает около 15,92 ГиБ; автор ориентирует запуск на потребительскую видеокарту с 16 ГБ видеопамяти. По README, контекст свыше 90 тысяч токенов практически нецелесообразен из-за падения скорости. Указана лицензия Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ8e-1M — это версия модели Qwen3.8-27B Cold Fusion, разработанной DavidAU, с последующей квантизацией, масштабированием контекста и упаковкой от Solstice-AI. Модель предназначена для локального запуска на устройствах Apple Silicon через Apple MLX, Anvil Runtime и MLX-LM, включая задачи рассуждений, программирования, агентной разработки ПО, отладки репозиториев и длительных рабочих процессов с большим контекстом. В README также заявлена поддержка сценариев управления операционными системами и мобильными устройствами. Модель имеет размер 27 млрд параметров и поставляется в смешанной 8-битной точности Apple MLX oQ8e, оптимизированной с помощью importance matrix. Заявлена гибридная архитектура с Gated Delta Recurrent Network и Grouped-Query Attention, а также аппаратная Multi-Token Prediction. Максимальный контекст составляет 1 048 576 токенов благодаря YaRN RoPE scaling. Указаны английский и китайский языки; в метаданных модель обозначена как image-text-to-text, однако подробности поддержки изображений в README не приведены. К заявленным сильным сторонам относятся большой контекст, оптимизация для unified memory и Metal на Apple Silicon, сохранение качества при квантизации и высокая производительность с заявленным ускорением 1,72–2,20 раза благодаря MTP. README приводит результаты внутренних или заявленных разработчиками сравнений, включая 61,7% на SWE-bench Pro и 735 на ARC-C, но их независимая проверка не представлена. Ограничения включают зависимость от совместимого Apple Silicon окружения, возможные потери качества из-за квантизации и отсутствие подробных данных о требованиях к памяти и воспроизводимости оценок. Лицензия указана как Apache 2.0.

Jab1718/qwen3.8-flash-coder-26gb-gguf — это набор квантованных форматов GGUF модели, разработанный Jab1718 на основе Jab1718/qwen3.8-flash-coder-85gb-bf16. Модель представляет собой подсеть Mixture of Experts со 160 экспертами, выделенную из Qwen3.8-Flash-Next, и предназначена прежде всего для генерации кода, программирования, ревью, поиска ошибок, рефакторинга и работы в сценариях coding agent. Поддерживаются английский, вьетнамский и китайский языки, а запуск предусмотрен через llama.cpp и Ollama. Основной вариант Q4_K_M занимает около 26,43 ГБ и ориентирован на одну видеокарту с 24 ГБ памяти, ускорители с 32 ГБ или Mac с 32 ГБ памяти. Также доступен вариант Q8_0 размером около 42,25 ГБ, рассчитанный на две видеокарты по 24 ГБ, одну карту с 48 ГБ или Mac с 64 ГБ и более; заявлено сохранение примерно 99,5% точности BF16. Для Apple Silicon указана поддержка контекста до 64K, однако требуется актуальная версия llama.cpp с поддержкой произвольного числа экспертов. Сильные стороны модели — специализация на системном программировании, алгоритмах, многоязычной разработке и задачах исправления кода, а также существенно сниженные требования к памяти по сравнению с исходной моделью. Ограничение состоит в целевой специализации: общая математическая грамотность и задачи уровня GSM8K были намеренно сокращены. В README приведены результаты на Rust, C++20, TypeScript, coding agent и Python Algorithms, но они не заменяют независимую оценку качества. Модель распространяется по лицензии Apache 2.0.

Qwen3-Coder-30B-A3B-Instruct — инструктивная языковая модель для программирования от команды Qwen. Это причинная модель семейства Qwen3 MoE: всего 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; в архитектуре 48 слоёв и 128 экспертов, из которых задействуются 8. Модель принимает текст и выдаёт текст, поддерживает контекст до 262 144 токенов и интерфейс вызова инструментов. Модель предназначена для генерации и анализа кода, агентного программирования и использования в браузерных сценариях. Большое окно контекста помогает разбирать целые репозитории; модель также поддерживает специальный формат вызова функций. Выпускается только в режиме без рассуждений (non-thinking) и не генерирует блоки ``` в ответах. Доступна по лицензии Apache-2.0.

Это сообщественная конверсия модели Qwen/Qwen3-Coder-30B-A3B-Instruct в формат GGUF, подготовленная Geoff Munn для локального запуска через llama.cpp и совместимые приложения. В основе — инструктивная языковая MoE-модель Qwen для программирования, агентных сценариев и работы с длинным контекстом до 262 144 токенов; в этой версии используется точность FP32. Модель можно применять для генерации кода и ответов в чат-интерфейсах, а также в сценариях с RAG и инструментами. Репозиторий предлагает производные квантизации от FP32; README отмечает, что FP32 требует примерно вдвое больше памяти, чем FP16, и обычно не даёт преимуществ при инференсе, поэтому его позиционируют преимущественно для отладки, исследований и сравнения результатов. Поддерживаются английский, китайский, испанский, французский, немецкий, русский, арабский, японский, корейский и хинди. Лицензия — Apache-2.0; автор указывает, что это сторонняя конверсия, не связанная с Alibaba Cloud или командой Qwen.

Qwopus3.6-27B-Coder-Compat-MTP-GGUF — GGUF-версия модели Jackrong/Qwopus3.6-27B-Coder, разработанная Jackrong. Это мультимодальная модель для генерации текста и работы с изображениями, ориентированная на программирование, рассуждения, агентские сценарии, использование инструментов и function calling. Заявлена совместимость с llama.cpp, minja и шаблонами Hugging Face Jinja, а также с OpenAI-совместимыми историями агентов. Ключевая особенность этой редакции — обновлённый chat template, который принимает аргументы вызовов инструментов как предварительно сериализованные JSON-строки, структурированные отображения или списки, сохраняя исходную структуру payload. В комплект включены MTP-тензоры для speculative decoding; заявленный показатель принятия черновых токенов составляет 76,81% (944 из 1229). Проверки совместимости шаблона дали 10 из 10 успешных случаев в Hugging Face и llama.cpp/minja, без зафиксированных некорректных циклов tool call. Модель поддерживает английский, китайский, испанский, русский и японский языки. Точный размер контекста, детали архитектуры и требования к ресурсам в README не указаны. Обновление относится к уровню шаблона совместимости: веса модели и встроенные MTP-тензоры, согласно README, не изменены. Модель распространяется по лицензии Apache-2.0.

Solstice-AI/Qwopus3.6-27B-Coder-mlx-6Bit — это 6-битно квантованная версия Qwopus 3.6 27B Coder для Apple Silicon. Модель создана Solstice-AI на базе Qwen 3.6 27B и проекта Qwopus, разработанного Jackrong и сообществом open-weights; её дистилляционная основа связана с Claude Opus 4.6 и 4.7. Квантование выполнено в формате Apple MLX 6-Bit Affine с group_size 64, размер модели составляет около 21,85 ГБ. Модель предназначена прежде всего для агентного программирования: навигации по целым репозиториям, генерации и отладки кода, многофайлового рефакторинга, системной отладки, вызова Bash-инструментов и работы в средах Claude Code, Cursor, Aider и SWE-bench. Она поддерживает многошаговое взаимодействие, вызов инструментов и структурированные трассы рассуждений. Заявлены языки English и Chinese, текстовая генерация и нативное контекстное окно до 262 144 токенов. Ключевое преимущество модели — локальное выполнение с ускорением Metal через MLX и Anvil на компьютерах Apple Silicon с unified memory от 24 до 64 ГБ и выше. По данным README, квантование сохраняет около 99,3% результатов неквантованной BF16-версии на кодовых бенчмарках, однако фактические ограничения по длине контекста и производительности зависят от объёма памяти устройства. Для моделей с 24 ГБ рекомендуется контекст примерно 4–8 тысяч токенов, а полный заявленный контекст требует существенно большего объёма памяти. Лицензия — Apache 2.0.

maci0/Qwopus3.6-27B-Coder-NVFP4 — это квантованная версия модели Jackrong/Qwopus3.6-27B-Coder, опубликованная в формате NVFP4. Модель предназначена для агентского программирования, генерации и анализа кода, работы с инструментами и задач, требующих рассуждений в thinking mode. Заявлена поддержка сценариев vision-language, однако подробности о возможностях обработки изображений в README не приведены. Модель имеет плотную архитектуру с 27 млрд параметров, занимает около 18 ГБ и поддерживает контекст до 256K токенов. Она рассчитана на английский и китайский языки. Квантование выполнено по схеме W4A4 с использованием GPTQ, error-compensated rounding и MSE observer; веса упакованы в формат compressed-tensors nvfp4-pack-quantized. Основной целевой стек запуска — vLLM на GPU NVIDIA Blackwell. Для набора wikitext-2 указана perplexity 6.63. К сильным сторонам относятся существенное уменьшение размера модели, ориентация на задачи программирования и совместимость с оптимизированным запуском в vLLM. Ограничения связаны с потерями, возможными при 4-битном квантовании, зависимостью от совместимого оборудования и неполным описанием мультимодальных возможностей. Лицензия — Apache-2.0.

Swift 1.5 Qwen3.8-27B — дообученная UkisAI мультимодальная модель рассуждений на базе Qwen/Qwen3.8-27B. Она предназначена для диалогов, программирования и многошаговых задач, включая работу с агентами и терминалом; заявленная цель дообучения — сократить лишние рассуждения и ускорить решение задач при сохранении качества. Модель имеет плотную архитектуру Qwen3.5, содержит 27 млрд параметров и принимает текст и изображения; в метаданных также указаны интерфейс вызова инструментов и поддержка vision. В README описаны оценки на задачах кодирования и агентного взаимодействия, а также тестирование с контекстом до 262 144 токенов. По данным разработчика, Swift 1.5 использует меньше токенов рассуждений и быстрее базовой модели на ряде задач; приведённые результаты зависят от задачи и режима оценки. Для использования доступны контрольная точка BF16 и отдельные квантованные экспорты. Лицензия указана как other; README ссылается на отдельные условия enterprise-лицензирования, поэтому перед применением следует проверить условия в карточке модели.

BAAI/bge-base-en — англоязычная плотная модель эмбеддингов семейства BGE, разработанная BAAI. Она преобразует текст в векторы для семантического поиска, извлечения документов, кластеризации и классификации, а также для использования в векторных базах данных и системах RAG. Модель основана на BERT, содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Эмбеддинги можно применять для поиска близких по смыслу фрагментов и ранжирования кандидатов по относительной близости векторов. README рекомендует использовать более новую BAAI/bge-base-en-v1.5: у исходной версии распределение оценок сходства менее удобно, поэтому абсолютный порог сходства следует выбирать на данных конкретной задачи. Для коротких поисковых запросов к длинным документам инструкция к запросу может улучшить поиск. Модель предназначена для английского языка. Доступны веса в форматах PyTorch, safetensors и ONNX. Лицензия — MIT.

Карточка модели the-sk/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

optimum-intel-internal-testing/bge-small-en-v1.5 — это англоязычная модель векторного представления текста из семейства BGE, разработанного Beijing Academy of Artificial Intelligence (BAAI); репозиторий с указанным идентификатором является зеркалом BAAI/bge-small-en-v1.5. Модель предназначена для feature extraction и dense retrieval: построения эмбеддингов предложений и документов, семантического поиска, сравнения сходства текстов, кластеризации и использования в системах retrieval-augmented generation. Модель основана на BERT-подобной архитектуре, содержит около 33,4 млн параметров, формирует эмбеддинги размерности 384 и поддерживает последовательности длиной до 512 токенов. Она работает с английским текстом, поддерживает PyTorch, Transformers, Sentence-Transformers и ONNX. Версия v1.5 улучшает распределение оценок сходства и сохраняет эффективную работу без обязательной инструкции для запроса; для поиска коротких запросов по длинным документам разработчик рекомендует добавлять инструкцию к запросу, но не к документам. Сильные стороны модели — небольшой размер, сравнительно низкие требования к вычислительным ресурсам, удобство локального развертывания и конкурентные результаты для модели малого масштаба на MTEB. Ограничения — поддержка только английского языка, ограничение контекста 512 токенами и то, что модель создаёт эмбеддинги, а не генерирует текст; для наиболее точного переранжирования результатов разработчик рекомендует отдельную cross-encoder-модель BGE Reranker. Указана лицензия MIT, допускающая коммерческое использование без платы.