II.5Безопасность программного кода и цепочки поставок

Карточка модели ansulev/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой denyzhirkov/Qwen3.8-27B-AEON-ULTIMATE-U-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-U-BF16 — экспериментальная ранняя версия модели Qwen3.8-27B, подготовленная denyzhirkov. Это дообученная и аблитерированная BF16-версия с уменьшенным числом отказов; базовая модель — Qwen/Qwen3.8-27B. Плотная мультимодальная архитектура поддерживает диалог, следование инструкциям, вызов инструментов и работу с изображениями. В README описана проверка на NVIDIA H200 через vLLM; при тестировании использовалось окно 16 384 токена, а автор указывает, что базовая модель поддерживает контекст до 262 000 токенов. Модель рассчитана на прямые ответы, творческое письмо, исследования безопасности, red-team-тестирование и работу с запросами, которые базовая модель могла бы отклонить. Снятие части отказов может сделать ответы более доступными, но не гарантирует точности или безопасности. README предупреждает о повторениях и потере связности на очень длинных запросах; модель может выдавать опасный или незаконный контент. Лицензия — Apache-2.0.

unsloth/GLM-4.7 — вариант GLM-4.7, опубликованный Unsloth с исправлениями шаблона чата. Это англо-китайская языковая модель для генерации текста и диалогов, рассчитанная в том числе на программирование, агентные сценарии с вызовом инструментов и сложные рассуждения. Модель имеет архитектуру GLM4 MoE и 23,4 млрд параметров; заявленная длина контекста — 202 752 токена. Поддерживаются английский и китайский языки. Модель подходит для многошаговой работы с кодом и терминалом, генерации интерфейсов и слайдов, диалогов и задач, где нужно вызывать инструменты. README описывает чередование рассуждений и действий, сохранение контекста рассуждений между ходами и управление режимом рассуждения на уровне хода. Репозиторий содержит веса safetensors и предназначен для использования с Transformers, vLLM и SGLang; для llama.cpp указано использовать шаблон Jinja. Лицензия — MIT. Заявленные сильные стороны — программирование, агентное использование инструментов и математические рассуждения. Качество ответов и результатов на конкретных задачах может различаться; для агентных сценариев README рекомендует включать сохранение рассуждений. Показатели в карточке приведены на бенчмарках и не гарантируют результат в прикладном сценарии.

Helion-V1.5 — диалоговая языковая модель, разработанная DeepXR и дообученная методом QLoRA на базе Meta Llama 2. Архитектура — плотная LlamaForCausalLM; базовая модель содержит около 7 млрд параметров, а адаптер LoRA — 67 млн. Модель принимает текст и генерирует текст, поддерживает диалоги и структурированные вызовы функций. Контекстное окно — 4096 токенов. Модель предназначена для следования инструкциям, многошаговых диалогов, генерации и объяснения кода, а также задач письма и анализа. В README приведены результаты тестов на диалог, следование инструкциям и генерацию кода; эти показатели зависят от тестового набора и условий оценки. Основной язык — английский, поддержка других языков ограничена. Модель распространяется по лицензии Apache 2.0. Известные ограничения: возможны фактические ошибки и галлюцинации, слабые результаты в сложных математических рассуждениях и временно-зависимых запросах; ответы на критичные вопросы следует проверять.

Это конвертированная в MLX 6-битную форму версия NVIDIA Nemotron 3 Nano 30B A3B от mlx-community, подготовленная из nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 с помощью mlx-lm 0.29.1. Базовая модель NVIDIA — гибридная языковая модель с 30B параметров и активируемыми 3B параметров; она предназначена для диалогов, рассуждений, программирования и агентных приложений. Модель принимает текст и генерирует текст в разговорном формате. В карточке указана поддержка английского, испанского, французского, немецкого, японского и итальянского языков. Репозиторий предназначен для запуска через mlx-lm на устройствах Apple Silicon. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует сверять с лицензией базовой модели и файлами репозитория.

Ornith-1.5-35B-A3B-REAP50-GGUF — квантизированная GGUF-версия модели Ornith-1.5-35B-A3B, разработанной ornith-ai и подготовленной Ttimms. Модель предназначена для генерации текста, включая программирование и работу в локальных средах через llama.cpp и совместимые приложения. Она создана методом REAP с 50%-ным сокращением экспертных блоков: число экспертов в гибридной архитектуре Gated-DeltaNet и Mixture-of-Experts уменьшено с 256 до 128, удалена MTP-голова, а также визуальная башня; заявленный объём составляет около 19 млрд параметров, из которых примерно 3 млрд активны при обработке токена. Указан английский язык и текстовая модальность. Доступны варианты квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером от 11,4 до 19,7 ГБ. Рекомендуемый Q4_K_M рассчитан на видеопамять 16 ГБ с запасом под контекст; Q8_0 требует более 16 ГБ или выгрузки части вычислений на CPU. MoE-архитектура обеспечивает относительно быструю работу на CPU и Apple Silicon для модели такого размера. Для запуска требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; поддержка Ollama на момент публикации ожидала обновления встроенной llama.cpp. Контекст модели в README не указан. До квантизации заявлены результаты HumanEval+ 84,2%, MBPP+ 89,2% и SWE-bench Verified 44,0%, однако эти показатели относятся к варианту NVFP4A16 и могут не отражать качество GGUF-версий. Ограничениями являются потеря части экспертов и удаление MTP- и визуальной компонентов, а также необходимость достаточно нового программного окружения. Модель распространяется по лицензии MIT, унаследованной от базовой модели; pruning выполнен методом REAP с исправлением перенормировки маршрутизатора.

continuum-ai/qwen3-coder-30b-a3b-compacted-19b-256k — компактная версия Qwen3-Coder-30B-A3B-Instruct, разработанная на основе модели Qwen. При создании удалено 35% MoE-экспертов с использованием калибровочного ранжирования по частоте активаций. Модель предназначена прежде всего для генерации, дополнения и инфиллинга кода, агентного программирования и вызова функций, включая локальный и периферийный запуск на потребительских GPU, компьютерах Apple и мобильных устройствах. Это разреженная Mixture-of-Experts-модель с заявленным классом 30B и компактированной эффективной конфигурацией 19B. Сохраняет контекст до 256K токенов и работает с текстом; в README заявлена поддержка английского, китайского и широкого набора языков программирования, включая Python, JavaScript, TypeScript, C, C++, Java, Kotlin, Go, Rust, Swift, PHP, Ruby, SQL, HTML и CSS. Доступны квантованные форматы GGUF Q4_K_M, Q5_K_M и Q8_0 для llama.cpp, Ollama и LM Studio, а также варианты для локального запуска через Transformers и MLX. На HumanEval модель получила 88,4 балла против 92,1 у исходной версии, а на HumanEval+ — 85,4 против 88,4. К сильным сторонам относятся сочетание кодировочных возможностей 30B-класса с меньшими требованиями к памяти, длинный контекст и варианты для локального выполнения. Ограничения включают неполное восстановление качества исходной модели, отсутствие отдельного измерения обобщения на языки, отличные от Python, отсутствие тестирования генерации длиннее 32K токенов и пока не измеренные результаты на MBPP+ и LiveCodeBench. Калибровка выполнялась на 300 примерах Python. Модель распространяется по лицензии Apache-2.0. В README также заявлена криптографически проверяемая цепочка происхождения через ForgeAlloy, однако доверие к аттестации обозначено как self-attested.

Ring-1T — большая языковая модель для диалога и сложных рассуждений, разработанная командой Bailing и опубликованная под лицензией MIT. Она использует архитектуру Ling 2.0 с механизмом Mixture of Experts: в карточке Hugging Face указано 49,6 млрд параметров, а README описывает исходную основу как модель с 1 трлн параметров и 50 млрд активируемых параметров. Модель принимает текст, поддерживает контекст до 65 536 токенов по метаданным и предоставляет интерфейс для вызова инструментов. Ring-1T предназначена для математических и логических задач, генерации кода, ответов на вопросы и творческого письма. Разработчики сообщают о результатах на олимпиадных задачах по математике и программированию, но эти оценки основаны на собственных тестах и не гарантируют качество в других сценариях. README также предупреждает о возможной предвзятости при распознавании собственной идентичности, смешивании языков и повторениях; эффективность вывода на длинном контексте ограничена архитектурой внимания GQA.

Synthia-S1-27b — диалоговая мультимодальная модель Tesslate AI, дообученная на базе Gemma 3 27B IT. Она предназначена для рассуждений, программирования, творческого письма и ролевых сценариев; принимает текст и изображения и формирует текстовые ответы. В карточке заявлен контекст до 128 тысяч токенов и максимальная длина ответа 8192 токена. Архитектура — плотный decoder-only Transformer с 27 млрд параметров; указаны bf16 и int8-квантизация, а в репозитории доступен формат safetensors. Модель обучали на веб-документах, примерах отладки и решения задач по программированию, а также на математических решениях. Автор приводит результаты ограниченных проверок GPQA Diamond и части MMLU Pro и отмечает, что оценки требуют более полного бенчмаркинга. Лицензия — Gemma. Модель может требовать подробных инструкций для узких задач и иногда галлюцинирует в малоизученных областях.

Ternary-Bonsai-27B-GGUF — набор GGUF-квантизаций модели Ternary-Bonsai-27B, подготовленный пользователем vcruz305 на основе официального F16-релиза prism-ml. В основе лежит backbone Qwen3.6-27B с гибридным вниманием, контекстом до 262 тысяч токенов и поддержкой vision. Модель предназначена для генерации текста и кода, диалоговых сценариев, программирования, рассуждений и отладки через llama.cpp. Репозиторий включает варианты Q3_K_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 13,3 до 28,6 ГБ. Для большинства вариантов использована importance matrix, полученная на корпусе объёмом 63 КБ с примерами программирования, отладки и рассуждений; Q8_0 создан без неё. Доступны два файла mmproj для работы с изображениями. Производительность зависит от пропускной способности памяти и оборудования: на GB10 заявлены скорости примерно от 7,8 до 14 токенов в секунду. Сильная сторона модели — широкий диапазон квантизаций для систем с 12–32 ГБ памяти, а также сочетание генерации кода, рассуждений и визуального ввода. При объёме памяти до 8 ГБ автор рекомендует использовать официальные QAT-кванты prism-ml, поскольку они сохраняют более высокое качество. Совместное использование с DSpark drafter протестировано, но для этих квантизаций не рекомендуется: коэффициент принятия черновых токенов составил около 54%, поэтому прирост производительности может отсутствовать. Модель распространяется по лицензии Apache-2.0 и рассчитана на использование с llama.cpp.

mlx-community/conikeec-deepseek-coder-6.7b-instruct — конвертированная в формат MLX версия модели DeepSeek Coder 6.7B Instruct, созданная сообществом mlx-community на основе deepseek-ai/deepseek-coder-6.7b-instruct. Это плотная авторегрессионная языковая модель семейства Llama с 6,6 млрд параметров и контекстом до 16 384 токенов, предназначенная для генерации текста в диалоговом формате и задач программирования. Репозиторий содержит веса safetensors; для запуска через MLX README указывает библиотеку mlx-lm. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с карточкой исходной модели.

GRM-2.6-Plus — дообученная OrionLLM мультимодальная модель на 27 млрд параметров на архитектуре Qwen3.6. Она предназначена для сложных задач общего назначения: рассуждений, программирования, диалога и агентных сценариев с использованием инструментов. Модель принимает текст и изображения и генерирует текст; метаданные указывают на поддержку чата и интерфейса вызова инструментов. Разработчик позиционирует модель как вариант для локального применения, ориентированный на структурированные рассуждения и практическую работу на подходящем потребительском или рабочем оборудовании. В README заявлены сильные стороны в решении сложных задач и генерации кода, однако приведённые бенчмарки опущены, поэтому эти заявления нельзя оценить по карточке. Модель распространяется в формате safetensors по лицензии Apache 2.0.

NeoHorse-1-4B-GGUF — GGUF-версии примерно 4-миллиардной причинной языковой модели NeoHorse-1-4B, разработанной TokenRhythm на базе Qwen3.5-4B. Модель дообучалась для текстовых агентных сценариев, использования инструментов, программирования, рассуждений и следования инструкциям. Это текстовая модель без заявленной поддержки изображений или других мультимодальных данных. Репозиторий предназначен для локального запуска через llama.cpp, Ollama и LM Studio. Доступны веса в формате BF16, а также 8-, 5- и 4-битные квантизованные варианты, которые требуют меньше дискового пространства и оперативной памяти. Архитектура описана как агентно-ориентированная причинная языковая модель; размер контекста и поддерживаемые языки в README не указаны. К сильным сторонам относятся ориентация на агентное взаимодействие и tool use, задачи программирования и instruction following, а также заявленное улучшение среднего результата на десяти бенчмарках по сравнению с Qwen3.5-4B: 64,87 против 58,94. Ограничения включают отсутствие подробных сведений о языках, контексте и характеристиках отдельных квантизаций; заявленные результаты могут зависеть от условий оценки. Модель распространяется по лицензии Apache-2.0.

Ornith-1.5-35B-A3B — среднеразмерная Mixture-of-Experts модель семейства Ornith-1.5, разработанная командой Ornith. Она создана как развитие Ornith-1.0, обучавшейся на основе Qwen3.5 и Gemma4 с дополнительным продолженным предварительным обучением, mid-training и post-training. В Ornith-1.5 применяется цикл самоулучшения, в котором совместно оптимизируются генерация задач, построение scaffold и rollouts решений с использованием reinforcement learning. Модель предназначена прежде всего для генерации текста, программирования и агентных сценариев, включая работу с терминалом и автономное решение задач в репозиториях. При общем размере около 35 млрд параметров на каждый токен активируется примерно 3 млрд параметров, что снижает вычислительную нагрузку по сравнению с полноразмерной плотной моделью. В README указана интеграция с библиотекой MLX и pipeline text-generation; сведения о модальностях, размере контекста и поддерживаемых языках не приведены. Сильной стороной модели заявлена производительность в coding- и agentic-бенчмарках: она превосходит сопоставимую Qwen 3.6-35B-A3B, а также плотные Gemma 4-31B и Muse Glimmer-30B в ряде агентных задач. В частности, приведены результаты 79 на SWE-bench Verified и 67,8–68,5 на Terminal-Bench 2.1 в зависимости от используемого окружения. Ограничения включают отсутствие в карточке подробных сведений о качестве вне программирования, контекстном окне, языках, требованиях к оборудованию и лицензии; лицензия в README не указана.

Ornith-1.5-397B — крупная языковая модель от команды Ornith AI, представленная как флагман семейства Ornith-1.5. Модель развивает Ornith-1.0, созданную на базе Qwen3.5 и Gemma4 с дополнительным продолжением предобучения, промежуточным обучением и постобучением. В Ornith-1.5 применяется цикл самоулучшения с совместной оптимизацией генерации задач, построения scaffolding и последовательностей решений с использованием reinforcement learning. Модель предназначена прежде всего для сложных задач программирования и работы с инструментами, включая разработку, исправление ошибок и выполнение задач в терминале. Ornith-1.5-397B имеет архитектуру mixture-of-experts с 397 миллиардами параметров. В карточке указано текстовое поколение, однако сведения о поддерживаемых языках, длине контекста и других модальностях не приведены. Согласно заявленным результатам, модель набрала 86,1 на Terminal-Bench 2.1 с Terminus-2, 85,2 с Claude Code, 86 на SWE-bench Verified и 56 на DeepSWE. Это указывает на сильные стороны в агентном программировании и решении инженерных задач; при этом приведённые показатели зависят от конкретных инструментов и протоколов оценки и не гарантируют аналогичные результаты в других сценариях. Модель распространяется по лицензии MIT.

unsloth/Qwen3.6-35B-A3B-NVFP4 — открытая NVFP4-квантизированная версия модели Qwen3.6-35B-A3B, разработанная Unsloth на базе модели Qwen. Это каузальная языковая модель с визуальным энкодером, предназначенная для диалоговых и мультимодальных сценариев, агентного программирования, работы с frontend-задачами и рассуждений на уровне репозитория. Модель распространяется в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Модель содержит 35 млрд параметров, из которых 3 млрд активируются при обработке токена. Архитектура включает 40 слоёв, сочетает Gated DeltaNet, Gated Attention и Mixture of Experts с 256 экспертами, из которых используются 8 маршрутизируемых и 1 общий. Размер скрытого представления составляет 2048, размер словаря — 248 320 токенов. Поддержка изображений заявлена через vision encoder, однако список языков и максимальная длина контекста в README не указаны. Ключевые преимущества версии — сниженное потребление памяти, возможность работы на GPU с 32 ГБ VRAM, встроенный модуль Multi-Token Prediction для speculative decoding и заявленная скорость до 1,56 раза выше других NVFP4-квантизаций. К ограничениям относятся возможные потери точности из-за квантизации, зависимость производительности от аппаратного обеспечения и backend vLLM, а также отсутствие в предоставленных данных подробностей о языковой поддержке и контексте. Лицензия — Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-4bit-dwq-v2 — это инструкционная языковая модель для генерации текста и работы с программным кодом, разработанная Qwen и преобразованная сообществом mlx-community в формат MLX. Модель создана на основе Qwen/Qwen3-Coder-30B-A3B-Instruct и предназначена для запуска с библиотекой mlx-lm на совместимом оборудовании Apple MLX. Модель имеет конфигурацию 30B-A3B и использует 4-битное квантование, что снижает требования к памяти по сравнению с полноразмерной версией. Она поддерживает текстовую генерацию и диалоговый режим через chat template. README не содержит достоверных сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре, мультимодальности, результатах тестирования или конкретных сценариях применения. Преимуществами модели являются специализация семейства Qwen3-Coder на задачах программирования, инструкционный режим и оптимизация для экосистемы MLX. Ограничения включают зависимость от совместимого окружения MLX и возможные потери качества из-за 4-битного квантования. Модель распространяется по лицензии Apache-2.0.

Supertron2-24B — плотная языковая модель на 24 млрд параметров, разработанная Surpem на основе mistralai/Devstral-Small-2-24B-Instruct-2512 и дообученная для следования инструкциям. Это причинный Transformer для генерации текста; модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия — Apache 2.0. Модель предназначена для помощи в программировании, структурированных рассуждений, математических и научных объяснений, общего диалога и повседневного выполнения инструкций. Она может помогать писать, объяснять и отлаживать код, разбирать ошибки, планировать реализацию, сравнивать варианты, решать арифметические и алгебраические задачи, писать и кратко пересказывать тексты. Карточка указывает английский язык; длина контекста не приведена. Модель может выдавать ошибочный код, неполные рассуждения и устаревшие сведения. Важные результаты следует проверять; модель не подходит как единственный источник для медицинских, юридических, финансовых решений и задач, связанных с безопасностью.

DeepSeek-R1-Distill-Qwen-7B-imatrix-GGUF — это квантизированные в формате GGUF варианты модели DeepSeek-R1-Distill-Qwen-7B, разработанной командой DeepSeek на базе Qwen2.5. Репозиторий предназначен для локального запуска языковой модели в задачах генерации текста, рассуждений, решения математических задач и программирования. Модель относится к плотным моделям примерно на 7 млрд параметров и работает с текстом; в README указан английский язык. Она создана посредством дообучения Qwen2.5 на данных рассуждений, сгенерированных DeepSeek-R1, что позволяет переносить способности крупной reasoning-модели в более компактную модель. Формат GGUF и imatrix-квантизации ориентированы на эффективный запуск через llama.cpp и совместимые приложения, включая KoboldCPP, Ollama, LM Studio и другие клиенты. Сильными сторонами являются компактный размер, возможность локального использования и специализация на сложных рассуждениях, математике и коде. Ограничения конкретных вариантов квантизации, требования к ресурсам, размер контекстного окна и точные характеристики производительности в README не указаны; квантизация может влиять на качество по сравнению с исходной моделью. Лицензия обозначена как other, без подробного описания условий в предоставленных данных.

Карточка модели zendxx/NeoHorse-1-4B на Hugging Face совпадает с карточкой TokenRhythm/NeoHorse-1-4B, поэтому описание составлено по ней. NeoHorse-1-4B — плотная причинно-языковая модель примерно на 3,4 млрд параметров, разработанная TokenRhythm дообучением Qwen/Qwen3.5-4B. Это прототип для текстовых агентных сценариев: диалогов, вызова инструментов, программирования, рассуждений и следования инструкциям. Модель распространяется в формате Safetensors; карточка указывает контекст до 262 144 токенов и совместимость с Transformers, а README описывает локальный запуск через SGLang и vLLM с OpenAI-совместимым API. В README заявлен прирост среднего результата на десяти бенчмарках относительно исходной Qwen3.5-4B. Выпуск содержит только языковые веса: визуальные веса отсутствуют, поэтому этот репозиторий предназначен для текстового вывода, даже несмотря на мультимодальные возможности базовой модели. Фактическая длина контекста при обслуживании зависит от памяти GPU и настроек сервера. Лицензия — Apache-2.0.

DJLougen/Qwen3.5-9B-Harmonic-GGUF — набор GGUF-квантизаций модели Qwen3.5-9B-Harmonic, разработанной DJLougen на базе unsloth/Qwen3.5-9B. Модель дообучена с использованием Unsloth и Hugging Face TRL примерно на 800 синтетических примерах с ответами Claude; доступные файлы созданы с помощью llama.cpp, включая варианты с importance matrix на основе WikiText-2. Лицензия — Apache 2.0. Модель предназначена прежде всего для генерации кода, рассуждений и использования в агентных сценариях, например в Hermes Agent, а также для локального запуска через совместимые инструменты вроде LM Studio и Ollama. Заявлена поддержка английского языка, текстовой генерации и мультимодального ввода изображений и видео благодаря vision encoder Qwen3.5. Контекстное окно составляет 262 144 токена, размер модели — около 9 млрд параметров. Архитектура гибридная: 32 слоя, сочетающие линейное внимание с компонентами Mamba SSM и полное внимание; используется GQA. По приведённым оценкам модель показывает pass@1 87,2% на HumanEval, 81,7% на HumanEval+ и accuracy 80,36% на MMLU-Pro, с особенно высокими результатами в математике, биологии, химии и физике. Конкретное качество зависит от выбранного уровня квантизации; представлены варианты от F16 до более компактных форматов. Важное ограничение — автор предупреждает, что модель оптимизирована для работы внутри структурированного агентного harness и может вести себя непредсказуемо при обычном запуске без подходящего системного промпта; надёжность разговорного поведения вне такого окружения не гарантируется.

Puffyn/Qwen3.8-27B-OBLITERATED — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, разработанная для локального запуска и исследовательских сценариев, где требуется минимизация встроенных отказов и защитных ограничений. Согласно README, модель ориентирована на генерацию текста, программного кода, ответы на сложные и потенциально ограниченные запросы, а также на использование в агентских системах, coding agent и фреймворках для тестирования безопасности. Разработчик и точное происхождение производной модели в README явно не раскрыты; указано имя базовой модели Qwen и идентификаторы вариантов OBLITERATED/OBLITERATUS. Модель относится к семейству Qwen3 и имеет размер 27B параметров. Поддерживается текстовая модальность; сведения о языках и максимальной длине контекста в предоставленных данных отсутствуют. Доступны форматы GGUF, Safetensors и MLX. В версии V3 заявлены итеративная модификация весов и метод abliteration, удаляющий направления, связанные с отказами; авторы сообщают о сохранении близкой к исходной производительности, но с потерей 2,1 процентного пункта по MMLU относительно базовой модели. README также заявляет работоспособную генерацию кода в 20 из 20 проверенных сценариев и совместимость с режимом рассуждений. Сильной стороной модели считается снижение жёстких отказов и защитных отговорок при сохранении значительной части возможностей базовой Qwen3.8-27B. Ограничения включают возможное снижение качества по сравнению с исходной моделью, склонность к зацикливанию без правильно настроенного repetition_penalty и потенциальные риски использования модели без встроенных защитных механизмов. Для запуска рекомендуются temperature 0, repetition_penalty 1.15, не менее 2048 новых токенов и пустой системный промпт; для агентских сценариев предлагаются более короткие ответы и периодическое суммирование контекста. Лицензия — Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-FP8-Q4_K_M-GGUF — это квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct-FP8, преобразованная в формат GGUF. Модель разработана командой Qwen, а данный вариант опубликован пользователем ijohn07 и создан с помощью llama.cpp через сервис GGUF-my-repo от ggml.ai. Она предназначена для генерации текста и может использоваться в локальных приложениях на базе llama.cpp, включая командную строку и серверный режим. Из доступных данных известно, что исходная модель имеет обозначение 30B-A3B и ориентирована на задачи, связанные с кодом, однако подробности об архитектуре, поддерживаемых языках, модальностях и размере контекста в представленном README не указаны. Суффикс Q4_K_M указывает на вариант квантизации GGUF, рассчитанный на более компактное локальное выполнение, но README не содержит конкретных требований к памяти или производительности. В качестве ограничения следует учитывать отсутствие подробной информации о возможностях и качестве исходной модели. Модель распространяется по лицензии Apache-2.0. Для запуска рекомендуется использовать llama.cpp; в README приведены примеры работы через llama-cli и llama-server, включая настройку контекста размером 2048 токенов.

MaziyarPanahi/speechless-code-mistral-7b-v2.0-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная методом SLERP из Mistral-7B-Instruct-v0.2 и speechless-code-mistral-7b-v2.0. Она предназначена для генерации текста и ответов на инструкции, с акцентом на задачи программирования благодаря одной из исходных моделей. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; метаданные отмечают поддержку чата. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Карточка не описывает специальные языковые ограничения или результаты оценки качества, поэтому пригодность для конкретного языка и точность ответов о коде могут различаться.

ZynDwarf-1.1 — компактная текстовая языковая модель общего назначения, разработанная Zyn Models / itsZyn на основе Liquid AI LFM2.5-350M. Модель содержит около 354,5 млн параметров и предназначена прежде всего для локального запуска на CPU-ориентированном оборудовании, встраивания в локальные инструменты и использования в агентских системах. Модель ориентирована на повседневный диалог на испанском и английском языках, объяснение и генерацию кода, отладку, преобразование программ, лёгкое планирование, структурированный вывод, выбор инструментов и обработку результатов их работы. Она поддерживает сценарии с function calling и многошаговыми агентскими циклами, при этом выполнение инструментов и проверка их результатов остаются ответственностью внешнего приложения. Доступны форматы Transformers Safetensors, GGUF F16 и GGUF Q4_K_M, совместимые с Transformers, llama.cpp и Ollama. Архитектура модели — Lfm2ForCausalLM, тип lfm2. Архитектурный максимум контекста составляет 128 000 токенов, однако рекомендуемый рабочий контекст — 32 768 токенов, а максимальная длина обучающих последовательностей — 768 токенов. Модель поддерживает только текст и не имеет возможностей работы с изображениями или аудио. Её сильные стороны — малый размер, низкие требования к ресурсам, поддержка испанского и английского языков, программирования и структурированных агентских взаимодействий. Ограничения связаны с компактным масштабом: модель не позиционируется как крупная система рассуждений, исследовательская модель или замена значительно более мощным моделям; для надёжной работы агентов необходимы внешний runtime, валидация и контроль выполнения инструментов. Распространяется по лицензии Apache-2.0.

Occamy-35B — модель с открытыми весами, разработанная командой Occamy AI. Она дообучена на базе Qwen3.6-35B-A3B и предназначена для агентных сценариев: принятия решений на длинном горизонте, координации нескольких инструментов, многошаговых бизнес-процессов, Claw-style рабочих процессов, агентного программирования и задач электронной коммерции. Модель относится к семейству text-generation и ориентирована на английский язык. Заявлены поддержка tool use, coding и long-context; для развёртывания рекомендуется контекст до 262 144 токенов, а в тестах SWE-bench Pro использовался контекст 200K. В README не указаны точные сведения о внутренней архитектуре, числе активных параметров, количестве параметров всего и перечне поддерживаемых модальностей, поэтому модель следует рассматривать как текстовую. Ключевая особенность — методика Data RSI (Data Recursive Self-Improvement), при которой результаты выполнения динамически сформированных задач используются для последующей адаптации данных. По представленным оценкам, Occamy-35B особенно сильна в агентных задачах, многоходовом использовании инструментов и программировании, хотя в отдельных бенчмарках уступает более крупным моделям. Для промышленного использования рекомендуются SGLang или vLLM с OpenAI-совместимым API. Лицензия в README не указана.

BlossomsAI Qwen2.5-Coder-14B-Instruct-Uncensored-GGUF — набор оптимизированных квантованных моделей в формате GGUF, созданных на основе Qwen/Qwen2.5-Coder-14B-Instruct. Разработчиком указана BlossomAI. Модель предназначена для генерации текста и задач, связанных с программированием, включая базовое текстовое дополнение и создание ответов с различным соотношением качества и эффективности инференса. Доступны варианты квантования Q2_K, Q3_K_M, Q4_K_S, Q4_K_M, Q5_K_S, Q5_K_M, Q6_K и Q8_0. Они ориентированы на разные сценарии: от экономии памяти до получения результатов максимального качества; Q4-варианты обозначены как сбалансированные, а Q8_0 — как вариант для производственных результатов. Архитектура, размер контекста, поддерживаемые языки и модальности в README не указаны. Ограничения включают возможное снижение качества у более сильной степени квантования и отсутствие подробных сведений о характеристиках и тестировании. Распространяется по лицензии MIT.

khazarai разработала экспериментальную языковую модель Qwen3-4B-Qwen3.6-plus-Reasoning-Slerp с плотной архитектурой Qwen3ForCausalLM и 3,7 млрд параметров. Это слияние методом SLERP двух моделей на базе Qwen3-4B: khazarai/Qwen3-4B-Kimi2.5-Reasoning-Distilled и khazarai/Qwen3-4B-Qwen3.6-plus-Reasoning-Distilled. Модель принимает текст и генерирует текст; заявленная длина контекста — 262 144 токена. В карточке указаны английский язык, поддержка чата и интерфейс вызова инструментов. Модель предназначена для сложных логических выводов, математических задач, отладки кода на Python и ответов в сценариях RAG. Автор описывает настройку слияния, которая сохраняет словарь Qwen и плавно смешивает веса слоёв внимания и MLP. README приводит результат 77,18 на авторском бенчмарке из 100 вопросов, однако методика и независимое подтверждение результата не представлены. Автор также отмечает ожидаемое снижение качества творческого письма и не рекомендует модель для стихов и образного повествования. Лицензия — Apache-2.0.

Qwen3.6-VL-REAP-26B-A3B — мультимодальная модель семейства Qwen от atbender, полученная структурной обрезкой Qwen/Qwen3.6-35B-A3B методом REAP. Из каждого слоя удалено 25% маршрутизируемых экспертов: осталось 192 вместо 256, при этом сохранены все 40 MoE-слоёв, общий эксперт и энкодер изображений. Карточка указывает около 27 млрд параметров, примерно 3 млрд активных на токен; в метаданных каталога указано 2,9 млрд параметров. Модель распространяется в BF16 без квантизации, лицензия Apache-2.0. Модель предназначена для диалогов, агентного программирования и вызова инструментов, а сохранённый vision-language энкодер позволяет работать с изображениями. Это промежуточный чекпойнт для развёртывания с последующей квантизацией, дообучения или оценки влияния обрезки; README также описывает запуск в Transformers и vLLM. Контекстное окно по метаданным — 262 144 токена. Обрезка выполнена без последующего дообучения, поэтому возможная потеря качества не была компенсирована. Калибровочные данные преимущественно англоязычные и ориентированы на код и инструменты, что может ухудшить качество на малоресурсных языках; сохранённый энкодер изображений не проверялся на VL-бенчмарках. Для BF16-весов требуется около 50 ГБ памяти, а для работы с длинным контекстом — ещё больше.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-YMQ-GGUF — это GGUF-квантизированная версия модели Qwen3.8-27B Cold-Fusion GAIN V1.1, исходно разработанной DavidAU. Квантизация выполнена проектом ZeroDigest с использованием собственного YMQ-Compiler v2.0 и архитектурно-ориентированного подхода к смешанной точности на основе исходных файлов BF16. Модель предназначена прежде всего для генерации текста и задач программирования, включая работу с API и агентскими инструментами вроде RooCode и Aider. В репозитории заявлена поддержка параллельного multi-token prediction (MTP) для спекулятивной генерации, а также оптимизация для сценариев с большим контекстом. Архитектура описана тегами как включающая Mamba/SSM и multi-token prediction; размер исходной модели — 27B параметров. Языки и точный размер контекстного окна в README не указаны. Доступно несколько пресетов смешанной точности размером примерно от 9,1 до 14,5 ГБ, рассчитанных на видеокарты с 12, 16 и 24 ГБ VRAM. Варианты различаются балансом качества, объёма памяти и запаса под контекст; среди рекомендуемых указаны M-TI и S-Pro для 16 ГБ VRAM, а M и L-TI — для 24 ГБ. Заявленные преимущества включают сохранение логики при квантизации и пригодность для длительных агентских циклов, однако приведённые оценки качества ограничены отдельными тестами perplexity и не заменяют независимой проверки в прикладных задачах. Лицензия — Apache-2.0.

BenevolenceMessiah/QwQ-32B-Coder-Fusion-9010-1x-TIES-v1.0 — слияние языковых моделей, созданное с помощью mergekit методом TIES. В качестве базовой модели использована huihui-ai/QwQ-32B-Coder-Fusion-9010, также в слияние включена rombodawg/Rombos-Coder-V2.5-Qwen-32b; веса объединены с нормализацией и сохранены в формате bfloat16. Модель предназначена для диалоговой генерации текста, рассуждений и помощи с программированием. Она построена на архитектуре Qwen2, содержит 32 млрд параметров и рассчитана на контекст до 32 768 токенов. Карточка указывает интерфейс чата и вызова инструментов. Модель опубликована в формате safetensors и использует библиотеку Transformers. README не содержит сведений о лицензии, поэтому условия использования по имеющимся данным определить нельзя. Поскольку это слияние QwQ- и Qwen2.5-Coder-производных моделей, качество ответов и кода может зависеть от задачи; отдельные результаты оценки в карточке не приведены.