II.3Рефакторинг, миграция и модернизация

Magicoder-S-CL-7B — языковая модель для генерации кода, разработанная Юсяном Вэем, Чжэ Ваном, Цзявэем Лю, Ифэном Дином и Линмином Чжаном. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 6,6 млрд параметров и контекстом до 16 384 токенов; она дообучена на базе CodeLlama-7b-Python-hf. Модель предназначена прежде всего для задач программирования: генерации кода по инструкциям и решения других кодовых задач. При обучении использованы наборы Magicoder-OSS-Instruct-75K и Magicoder-Evol-Instruct-110K. Она может ошибаться и хуже справляться с задачами, не связанными с кодом. Лицензия — Llama 2.

Mellum2-12B-A2.5B-Thinking-GGUF — GGUF-квантизированная версия модели Mellum2-12B-A2.5B-Thinking, разработанной JetBrains. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, решения задач с пошаговым рассуждением, программирования, математического анализа и работы с инструментами. В README указано, что поддерживается английский язык. Модель имеет обозначение 12B-A2.5B-Thinking; точная архитектура, длина контекста и распределение параметров в README не раскрыты. Доступны варианты от BF16 до различных уровней квантизации GGUF, включая Q8_0, Q6_K, Q5_K и Q4_K; размеры файлов составляют примерно от 8 до 24 ГБ для перечисленных вариантов. Для запуска поддерживаются llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Используется специальный chat-шаблон с маркерами im_start и im_end. Среди сильных сторон заявлены высокие результаты на задачах программирования, математики, общих знаний и следования инструкциям: например, 69,9% pass@1 на LiveCodeBench v6, 87,0% exact match на GSM-Plus и 86,2% accuracy на MMLU-Redux. Эти результаты помечены как непроверенные. Ограничения включают зависимость качества и требований к памяти от выбранной квантизации, неизвестную длину контекста и отсутствие данных о мультимодальности; README описывает модель как текстовую. Лицензия — Apache-2.0.

MiniCPM5-2B-GPTQ — GPTQ-квантованная версия MiniCPM5-2B, разработанная OpenBMB. Это плотная Transformer-модель на 2 млрд параметров для генерации текста, локального и on-device-развертывания, а также сценариев с ограниченными ресурсами. Модель ориентирована на английский и китайский языки и интегрируется с библиотекой Transformers. Модель предназначена для следования инструкциям, программирования, математических рассуждений, работы с длинным контекстом, использования инструментов и агентских задач. Заявлена конкурентоспособность с моделями класса 4B, а среди моделей сопоставимого размера отмечаются сильные результаты в коде, математике, long-context, tool use и agentic-сценариях. Поддерживаемая модальность — текст; максимальный размер контекста в предоставленных данных не указан. Ключевое преимущество — сочетание компактного размера, возможностей для локального запуска и высокой производительности в ряде прикладных задач. Ограничения включают меньший размер по сравнению с крупными моделями и отсутствие сведений о точных требованиях к памяти, форматах квантования и результатах независимого тестирования. Модель распространяется по лицензии Apache-2.0.

MiniMax-M2.7-GGUF — это GGUF-квантизация модели MiniMax-M2.7, разработанной MiniMaxAI и подготовленной пользователем dennny123 на основе исходных BF16-весов. Модель предназначена для генерации текста, диалоговых сценариев, программирования и агентских рабочих процессов. Она может запускаться через llama.cpp, LM Studio или Ollama. Модель использует архитектуру Mixture-of-Experts с 229 млрд параметров, из которых около 10 млрд активны для каждого токена. Доступны варианты от BF16 до Q2_K; размеры файлов составляют примерно от 83 до 427 ГБ. В метаданных указан английский язык, однако сведения о размере контекста и дополнительных модальностях отсутствуют. Квантизации Q6_K и Q5_K_M заявлены как обеспечивающие высокое качество, а Q4_K_M — как компромиссный вариант для большинства сценариев. Сильные стороны модели — специализация на кодировании и агентских задачах, высокая заявленная производительность в SWE-Pro, VIBE-Pro, Terminal Bench 2, GDPval-AA и MLE Bench Lite, а также возможность локального запуска в экосистеме GGUF. Основные ограничения — чрезвычайно высокие требования к памяти: несмотря на активацию лишь части параметров, при инференсе необходимо загрузить весь набор из 229 млрд параметров. Более агрессивная квантизация уменьшает требования к ресурсам, но может снижать качество. Лицензия указана как modified-MIT; подробные условия следует уточнять в официальной лицензии MiniMaxAI.

Agnuxo публикует локальную GGUF-модель для генерации кода и помощи с Python. В README указана поддержка Python, JavaScript, TypeScript, Rust, Go и C++, а также научных вычислений с NumPy, SciPy и Pandas и задач машинного обучения с PyTorch, TensorFlow и JAX. Модель основана на плотной архитектуре семейства Mistral и доступна в формате GGUF F16; карточка предлагает запуск через Ollama и Transformers. Модель предназначена для генерации и сопровождения кода, в том числе для научных вычислений и машинного обучения. README также упоминает координацию агентских задач через MCP и A2A, но не приводит результатов оценки качества или параметров модели. Репозиторий лицензирован по Apache-2.0.

Карточка модели zendxx/NeoHorse-1-4B на Hugging Face совпадает с карточкой TokenRhythm/NeoHorse-1-4B, поэтому описание составлено по ней. NeoHorse-1-4B — плотная причинно-языковая модель примерно на 3,4 млрд параметров, разработанная TokenRhythm дообучением Qwen/Qwen3.5-4B. Это прототип для текстовых агентных сценариев: диалогов, вызова инструментов, программирования, рассуждений и следования инструкциям. Модель распространяется в формате Safetensors; карточка указывает контекст до 262 144 токенов и совместимость с Transformers, а README описывает локальный запуск через SGLang и vLLM с OpenAI-совместимым API. В README заявлен прирост среднего результата на десяти бенчмарках относительно исходной Qwen3.5-4B. Выпуск содержит только языковые веса: визуальные веса отсутствуют, поэтому этот репозиторий предназначен для текстового вывода, даже несмотря на мультимодальные возможности базовой модели. Фактическая длина контекста при обслуживании зависит от памяти GPU и настроек сервера. Лицензия — Apache-2.0.

Norns-Qwen2.5-Coder-7B-v0.1 — модель генерации текста на архитектуре Qwen2, созданная разработчиком win10 слиянием моделей методом TIES с помощью mergekit. В слиянии использованы Qwen/Qwen2.5-Coder-7B и win10/Urdandi-Qwen2.5-7B; модель содержит 7,1 млрд параметров и работает с контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и может применяться для задач с кодом, поскольку одной из базовых моделей является Qwen2.5-Coder-7B, ориентированная на генерацию, анализ и исправление программного кода. Репозиторий содержит веса в формате safetensors; библиотека для работы — Transformers. Лицензия в предоставленных данных не указана. Карточка описывает способ слияния, но не сообщает о результатах оценки качества или конкретных ограничениях модели.

Это конвертированная в MLX 6-битную форму версия NVIDIA Nemotron 3 Nano 30B A3B от mlx-community, подготовленная из nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 с помощью mlx-lm 0.29.1. Базовая модель NVIDIA — гибридная языковая модель с 30B параметров и активируемыми 3B параметров; она предназначена для диалогов, рассуждений, программирования и агентных приложений. Модель принимает текст и генерирует текст в разговорном формате. В карточке указана поддержка английского, испанского, французского, немецкого, японского и итальянского языков. Репозиторий предназначен для запуска через mlx-lm на устройствах Apple Silicon. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует сверять с лицензией базовой модели и файлами репозитория.

Карточка модели biennequants/OpenThinker-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker-7B, поэтому описание составлено по ней. OpenThinker-7B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts-114k, созданном с использованием дистилляции DeepSeek-R1. Модель содержит 7,1 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов с упором на рассуждения, решение математических задач, вопросы по естественным наукам и программирование. В README приведены оценки на AIME24, MATH500, GPQA-Diamond и задачах LiveCodeBench; результаты показывают сильные стороны в математике и коде, но не гарантируют точность каждого ответа. Веса, данные и код проекта опубликованы; лицензия модели — Apache 2.0. Это текстовая модель, поэтому она не принимает изображения или аудио. Как и другие языковые модели, она может выдавать неверные ответы и требует проверки результатов, особенно в задачах, где ошибка критична.

Ornith-1.0-35B-NVFP4-GGUF — 35-миллиардная модель семейства Ornith, разработанная DeepReinforce AI и представленная в квантизированном формате GGUF. Она предназначена для генерации кода и работы в роли coding-агента. В основе — дообученная архитектура Qwen3.5 MoE с 40 слоями, 256 экспертами и 8 активными экспертами на токен; модель использует 8 млрд активных параметров на токен и поддерживает контекст до 262 тыс. токенов. Веса BF16 преобразованы в NVFP4-квантизацию с помощью llama.cpp; формат оптимизирован для GPU NVIDIA Blackwell. В README заявлены обучение с подкреплением, нацеленное на генерацию решений и каркаса для их выполнения, и высокая эффективность при развёртывании на одной GPU. Для полного размещения на GPU требуется не менее 20 ГБ видеопамяти, рекомендуется 24 ГБ или больше. Лицензия MIT.

cyankiwi/Ornith-1.5-35B-A3B-AWQ-INT4 — квантованная версия модели Ornith-1.5-35B-A3B, разработанной командой Ornith AI. Это языковая модель для генерации текста, ориентированная прежде всего на программирование, агентские сценарии и работу с инструментами. Модель создана с применением цикла самоулучшения, включающего автоматическую генерацию задач, поиск эффективных стратегий и обучение с подкреплением. Модель относится к архитектуре mixture-of-experts: при общем размере 35B параметров на каждый токен активируется примерно 3B параметров. Данная версия использует квантование AWQ INT4 и занимает около 26,12 ГБ. В README заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Контекстное окно и мультимодальные возможности не указаны. Сильными сторонами заявлены результаты в задачах программирования и агентного кодинга: модель превосходит сопоставимую Qwen3.6-35B-A3B на приведённых бенчмарках и показывает преимущество над некоторыми плотными моделями близкого размера. Ограничения включают отсутствие данных о контекстном окне, качестве на широком спектре задач и характеристиках инференса; INT4-квантование также может влиять на точность по сравнению с полной версией. Модель распространяется по лицензии MIT.

Phind-Codefuse-34B — языковая модель для генерации кода, полученная слиянием Phind/Phind-CodeLlama-34B-v2 и codefuse-ai/CodeFuse-CodeLlama-34B методом task_arithmetic с помощью LazyMergekit. Модель построена на архитектуре Llama и содержит 33,5 млрд параметров; для генерации доступен контекст до 16 384 токенов. Модель предназначена для генерации кода и решения задач программирования в сценариях работы с текстовыми запросами. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Данные карточки не уточняют поддерживаемые языки программирования и сравнительное качество модели.

Polaris-V1 — открытая 4-миллиардная dense causal language model, разработанная NitrAI Research и представленная как NitrAI Lab. Это дообученная версия Qwen/Qwen3.5-4B, выровненная с помощью reinforcement learning с наградами за многофайловый синтез кода и проверку теорем. Модель предназначена для генерации и анализа программного кода, сложного рассуждения, автономных агентных сценариев и задач, связанных с исправлением программных проектов. Модель поддерживает английский и китайский языки, работает в режиме text generation и имеет контекстное окно до 1 592 638 токенов с масштабированием RoPE через YaRN. Заявлены требования от 3,2 ГБ VRAM для Q4_K_M до 8,4 ГБ для FP16, что позволяет запускать её на потребительских GPU и Apple Silicon. Поддерживаются Transformers, Ollama и llama.cpp/GGUF; также заявлено спекулятивное декодирование со скоростью 540–720 токенов в секунду при использовании Qwen3.5-0.8B-Draft. Сильные стороны Polaris-V1 — сочетание компактного размера, локального запуска, большого контекстного окна и специализации на программировании и агентном рассуждении. В README указаны результаты: 31,4% Pass@1 на SWE-bench Verified, 38,5% Task Completion Rate на WildClawBench и 26,8% Pass@1 на DeepSWE. Ограничения включают сравнительно небольшой размер и узкую специализацию по сравнению с более крупными моделями, а также отсутствие подробных сведений о качестве на других задачах, фактической эффективности длинного контекста и ограничениях аппаратной совместимости. Модель распространяется по лицензии Apache 2.0.

Prox-Llama-3-8B-abliterated-orpo — языковая модель OpenVoid на архитектуре Llama 3 с 7,5 млрд параметров. Это дообученная версия Meta-Llama-3-8B-Instruct, рассчитанная на генерацию и объяснение кода, а также вопросы по кибербезопасности и техникам взлома. Модель поддерживает диалог и работу с кодом, принимает текст и генерирует текст; для английского указана поддержка в карточке. Контекст составляет 8192 токена. В README приведены результаты HumanEval v1.0 pass@1 0,537 и EvalPlus v1.1 pass@1 0,482. Модель описана как uncensored; ответы могут быть предвзятыми или непоследовательными, поэтому их следует проверять, особенно в критически важных сценариях. Доступна по лицензии Apache-2.0.

Qwen2.5-Coder-0.5B — базовая предварительно обученная языковая модель для работы с кодом, разработанная командой Qwen. Это причинная языковая модель семейства Qwen2: плотная архитектура Qwen2ForCausalLM с 494 млн параметров и контекстом до 32 768 токенов. В README указаны RoPE, SwiGLU, RMSNorm, смещение в QKV-внимании и связанные эмбеддинги слов; модель содержит 24 слоя и использует GQA. Модель предназначена для генерации и анализа кода, рассуждений о коде, исправления ошибок и задач заполнения фрагментов кода. Она также сохраняет общие языковые и математические возможности базовой Qwen2.5 и может служить основой для дальнейшего дообучения и создания кодовых агентов. Разработчик не рекомендует использовать базовую версию для диалога без постобучения. Модель распространяется по лицензии Apache-2.0.

Модель goofyk/qwen2.5-coder-1c-7b — дообученная разработчиком goofyk версия Qwen2.5-Coder-7B. Это плотная авторегрессионная языковая модель архитектуры Qwen2, предназначенная для генерации текста; базовая модель ориентирована на задачи программирования. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Дообучение выполнено с использованием Unsloth и библиотеки Hugging Face TRL. Модель можно применять для генерации кода и текстовых ответов в сценариях программирования. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-32B-Instruct-8bit — это 8-битная версия модели Qwen2.5-Coder-32B-Instruct, конвертированная в формат MLX сообществом mlx-community с использованием mlx-lm 0.19.3. Исходную модель разработала команда Qwen. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате. Модель ориентирована на задачи кодирования и чат-сценарии, включая генерацию ответов на запросы пользователя с применением chat template. В README указано, что она поддерживает английский язык и относится к классу text-generation. Размер исходной модели составляет 32B параметров, а представление использует 8-битную квантизацию. Архитектура и размер контекстного окна в предоставленных данных не указаны. Ключевое преимущество этой версии — формат MLX, предназначенный для использования через mlx-lm; README содержит пример загрузки и генерации. Ограничения, точные показатели качества, перечень поддерживаемых языков помимо английского и требования к аппаратному обеспечению не приведены. Модель распространяется по лицензии Apache-2.0.

bocalan/Qwen2.5-Coder-3B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen2.5-Coder-3B-Instruct, преобразованная пользователем bocalan в формат GGUF с помощью llama.cpp через сервис GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и работы с программным кодом в диалоговых сценариях, включая написание, дополнение и объяснение кода. В метаданных указаны английский язык, базовая модель Qwen/Qwen2.5-Coder-3B-Instruct и библиотека transformers. Модель содержит 3 миллиарда параметров и использует квантизацию Q4_K_M, что снижает требования к памяти по сравнению с полной версией и делает запуск возможным через llama.cpp на совместимом локальном оборудовании. GGUF-версия поддерживает запуск в CLI и серверном режиме llama.cpp; в README приведён пример контекста 2048 токенов, однако это значение относится к примеру запуска и не подтверждает максимальный размер контекста модели. К сильным сторонам относятся специализация на программном коде, инструкционное обучение и удобство локального запуска в оптимизированном GGUF-формате. Ограничения включают меньший размер по сравнению с более крупными моделями и отсутствие в предоставленных данных подробностей об архитектуре, полном наборе языков, точной производительности и мультимодальных возможностях; указана только текстовая генерация. Модель распространяется по лицензии qwen-research; дополнительные условия следует уточнять в лицензии базовой модели Qwen2.5-Coder-3B-Instruct.

FlagRelease/Qwen3.6-27B-metax-FlagOS-Express — вариант открытой модели Qwen3.6, опубликованный FlagRelease для запуска через стек FlagOS на ускорителях Metax. Модель относится к плотной архитектуре Qwen3.5 и предназначена для диалогов и программирования: README отмечает агентное создание интерфейсов, рассуждение на уровне репозитория и сохранение контекста рассуждений между сообщениями. В метаданных указаны возможности чата и интерфейс вызова инструментов, а также поддержка китайского и английского языков. Карточка приводит результаты оценки GPQA Diamond и ERQA, а также сравнение производительности FlagOS с H100 при нескольких размерах контекста и 64 параллельных запросах. В README описано развёртывание в контейнере FlagOS-Metax и взаимодействие через AnythingLLM. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0. Число параметров и максимальная длина контекста в доступных сведениях не приведены.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-YMQ-GGUF — это GGUF-квантизированная версия модели Qwen3.8-27B Cold-Fusion GAIN V1.1, исходно разработанной DavidAU. Квантизация выполнена проектом ZeroDigest с использованием собственного YMQ-Compiler v2.0 и архитектурно-ориентированного подхода к смешанной точности на основе исходных файлов BF16. Модель предназначена прежде всего для генерации текста и задач программирования, включая работу с API и агентскими инструментами вроде RooCode и Aider. В репозитории заявлена поддержка параллельного multi-token prediction (MTP) для спекулятивной генерации, а также оптимизация для сценариев с большим контекстом. Архитектура описана тегами как включающая Mamba/SSM и multi-token prediction; размер исходной модели — 27B параметров. Языки и точный размер контекстного окна в README не указаны. Доступно несколько пресетов смешанной точности размером примерно от 9,1 до 14,5 ГБ, рассчитанных на видеокарты с 12, 16 и 24 ГБ VRAM. Варианты различаются балансом качества, объёма памяти и запаса под контекст; среди рекомендуемых указаны M-TI и S-Pro для 16 ГБ VRAM, а M и L-TI — для 24 ГБ. Заявленные преимущества включают сохранение логики при квантизации и пригодность для длительных агентских циклов, однако приведённые оценки качества ограничены отдельными тестами perplexity и не заменяют независимой проверки в прикладных задачах. Лицензия — Apache-2.0.

Qwen3.8-27B-PaoAI-ROCmFP4-STRIX-BALANCED-GGUF — это квантованная GGUF-версия модели Qwen3.8-27B, подготовленная сообществом PaoAI и предназначенная для запуска через llama.cpp. Разработчики подчёркивают, что проект не связан с Alibaba или командой Qwen. Модель ориентирована на генерацию текста, включая программирование, анализ кода и выполнение задач с длинным контекстом. Модель использует гибридную архитектуру с 48 слоями линейного внимания gated-delta и 16 слоями полного внимания. Размер файла составляет около 15,01 ГБ. Веса сжаты преимущественно в ROCmFP4 примерно до 4,5 бит на параметр, а отдельные чувствительные компоненты, включая нормы, draft head и некоторые представления, сохранены в более высокой точности. Поддерживается контекст до 256K токенов по заявлению авторов, при этом модель оптимизирована для AMD Strix Halo, включая Ryzen AI Max+ 395 с графикой gfx1151, и рассчитана на работу на iGPU без offload-флагов. В карточке указан английский язык. К сильным сторонам относятся небольшие требования к памяти для модели такого размера, встроенное speculative decoding, сохранение качества после квантования и высокая производительность на совместимом оборудовании. Измерения авторов показывают близкие к исходной F16-версии результаты на стандартном тексте и успешное выполнение представленных задач по анализу и написанию кода. Ограничения связаны с узкой аппаратной специализацией ROCmFP4 и Strix Halo, зависимостью от совместимого движка и тем, что заявленные показатели производительности и качества получены авторами сборки на ограниченном наборе тестов; математически квантование является lossy. Распространяется по лицензии Apache-2.0.

Qwen3.8-27B-UD-Q3_K_XL-DFlash2-MLX — это MLX-квантизация базовой модели Qwen/Qwen3.8-27B, подготовленная для локального запуска на компьютерах Apple Silicon. Модель разработана автором репозитория nathansutton и предназначена прежде всего для генерации текста, написания и анализа кода, а также работы в локальном coding-агенте chad, стилизованном под Claude Code. Модель поддерживает текстовый ввод и вывод; язык базовой модели и точный перечень поддерживаемых языков в README не указаны. Модель имеет плотную гибридную архитектуру Qwen3.8-27B с 27 млрд параметров, 64 слоями, включая 48 слоёв GatedDeltaNet и 16 слоёв полноформатного attention. Основная часть весов квантизирована до 3 бит с группами размера 64, эмбеддинги также имеют 3-битную квантизацию, а lm_head — 5-битную. Нативное контекстное окно составляет 262 тысячи токенов. Размер весов — около 12,1 ГБ, вместе с дополнительным drafter-модулем — около 13,3 ГБ; модель рассчитана на Apple Silicon с 24 ГБ памяти, но в таком режиме фактический доступный контекст обычно составляет десятки тысяч токенов. В комплект входит 1,9-миллиардный DFlash2 block drafter, который ускоряет авторегрессионную генерацию за счёт спекулятивного декодирования. Он квантизирован до 4 бит и предлагает блоки токенов, проверяемые целевой моделью с сохранением её распределения при семплировании. На M4 Pro с 24 ГБ памяти README сообщает ускорение примерно с 17,5 до 60,1 токена в секунду для жадной генерации и с 22,4 до 49–51 токена в секунду для режима с sampling; на длинных агентских контекстах прирост ниже. Ограничения включают зависимость от Apple Silicon и памяти, снижение эффективного контекста на устройствах с 24 ГБ, а также возможные расхождения жадной генерации с последовательным декодированием из-за различий вычислительных ядер. Целевые веса наследуют лицензию базовой модели Qwen3.8-27B, а содержимое каталога dflash — лицензию исходного релиза DFlash2. Перед использованием или распространением необходимо проверить условия обеих лицензий.

Qwen3-Coder-30B-A3B-Instruct-GGUF — это набор квантизированных версий языковой модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen и подготовленной в формате GGUF пользователем или организацией Dhptl с использованием quant-kit. Модель предназначена для текстовой генерации и диалогового взаимодействия, включая локальное использование через llama.cpp, Ollama, LM Studio, Open WebUI и Jan. Основной профиль модели — задачи программирования и работы с текстом, однако конкретные результаты исходной модели следует уточнять в её оригинальной карточке. Модель имеет архитектуру Qwen3 MoE и обозначение 30B-A3B, что указывает на общий размер около 30 миллиардов параметров и примерно 3 миллиарда активных параметров на токен. Доступны варианты квантизации Q2_K, Q3_K, Q4_K, Q5_K, Q6_K и Q8_0 размером примерно от 10,49 до 30,25 ГБ. Рекомендуемым вариантом назван Q4_K_M как компромисс между размером и качеством; более высокие варианты требуют больше оперативной памяти, но ближе к качеству исходной модели. В README указан английский язык, поддержка других языков не описана. К сильным сторонам относятся возможность локального запуска, широкий выбор уровней квантизации и снижение требований к памяти по сравнению с полноточной версией. Ограничения связаны с потерей качества при сильной компрессии, особенно в вариантах Q2 и Q3, а также с отсутствием в README фактических результатов бенчмарков, сведений о размере контекста и подробного описания мультимодальности. Модель распространяется по лицензии Apache-2.0.

Qwopus3.5-9B-Coder-GGUF — экспериментальная community-модель, основанная на Jackrong/Qwopus3.5-9B-v3.5 и предназначенная для локального запуска в формате GGUF. Она дообучена с использованием Trace Inversion, агентских трасс и данных для reasoning, включая наборы lambda/hermes-agent-reasoning-traces и материалы TraceInversion от Jackrong. Модель ориентирована прежде всего на agentic coding, логическое рассуждение, сложный tool calling и function calling. Модель имеет плотную архитектуру размером 9B параметров и поддерживает текстовые и визуальные сценарии. Заявлены возможности работы с изображениями, программированием, отладкой, задачами на уровне репозитория, терминальными командами, файловыми операциями и браузерами. Поддерживаемые языки включают английский, китайский, испанский, русский и японский. Для включения vision требуется отдельный файл mmproj.gguf из репозитория GGUF. README не указывает размер контекстного окна. К сильным сторонам относятся компактность, пригодность для запуска на устройствах с 16 ГБ RAM при 8-битной точности, улучшенная структурированность рассуждений и ориентация на агентские рабочие процессы. При этом модель выпущена как экспериментальная версия для исследований и изучения, не проходила комплексную оценку общих возможностей, поэтому в непрофильных и не связанных с программированием задачах возможна деградация качества. Модель распространяется по лицензии Apache-2.0.

Qwopus3.6-27B-Coder-Compat-MTP-GGUF — GGUF-версия модели Jackrong/Qwopus3.6-27B-Coder, разработанная Jackrong. Это мультимодальная модель для генерации текста и работы с изображениями, ориентированная на программирование, рассуждения, агентские сценарии, использование инструментов и function calling. Заявлена совместимость с llama.cpp, minja и шаблонами Hugging Face Jinja, а также с OpenAI-совместимыми историями агентов. Ключевая особенность этой редакции — обновлённый chat template, который принимает аргументы вызовов инструментов как предварительно сериализованные JSON-строки, структурированные отображения или списки, сохраняя исходную структуру payload. В комплект включены MTP-тензоры для speculative decoding; заявленный показатель принятия черновых токенов составляет 76,81% (944 из 1229). Проверки совместимости шаблона дали 10 из 10 успешных случаев в Hugging Face и llama.cpp/minja, без зафиксированных некорректных циклов tool call. Модель поддерживает английский, китайский, испанский, русский и японский языки. Точный размер контекста, детали архитектуры и требования к ресурсам в README не указаны. Обновление относится к уровню шаблона совместимости: веса модели и встроенные MTP-тензоры, согласно README, не изменены. Модель распространяется по лицензии Apache-2.0.

Replete-Coder-Llama3-8B-GGUF — это квантизированная версия модели Replete-Coder-Llama3-8B, разработанной Replete-AI и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель основана на архитектуре Llama 3 с 8 млрд параметров и предназначена для генерации текста и работы с программным кодом. Модель ориентирована на задачи программирования, генерации и дополнения кода, обработки инструкций, функционального вызова, математических рассуждений и общего диалогового применения. Обучение проводилось на наборах данных с примерами кода, инструкций, диалогов, математических задач и данных по поиску уязвимостей. В README указан шаблон запросов с секциями System, Instruction и Response. Поддерживается только текстовый ввод и вывод; сведения о языках, максимальной длине контекста и точных результатах тестов не приведены. Доступно несколько уровней квантизации GGUF: от Q5 до Q8, с размером файлов примерно от 5,73 до 9,52 ГБ. В README варианты Q5_K_M, Q6_K и Q6_K_L отмечены как рекомендуемые благодаря сочетанию качества и размера, а Q8 ориентированы на максимально высокое качество. Квантизация снижает требования к памяти, но может незначительно влиять на точность по сравнению с исходной моделью; числовые результаты бенчмарков отсутствуют. Использование регулируется лицензией Llama 3 от Meta, обозначенной как license_name: llama-3.

jambroz/sixtyoneeighty-4x7B-v1 — слитая модель семейства Mixtral, созданная jambroz с помощью LazyMergekit на основе четырёх моделей Mistral: jambroz/sixtyoneeighty-7b-chat, NeuralNovel/Mistral-7B-Instruct-v0.2-Neural-Story, S-miguel/The-Trinity-Coder-7B и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Она предназначена для диалоговой генерации текста, дополнения кода, логических рассуждений и решения задач по программированию. Модель использует архитектуру Mixtral с механизмом mixture-of-experts (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель лицензирована по Apache-2.0. Карточка не уточняет поддерживаемые естественные языки и конкретные ограничения качества.

speechless-codellama-34b-v2.0 — дообученная модель для генерации кода, созданная на базе CodeLlama-34B. В README указано, что авторы использовали 153 013 примеров из наборов Airoboros, OpenOrca, Open-Platypus и WizardLM, отобранных для задач программирования, рассуждений и планирования. Модель построена на авторегрессионной архитектуре Llama и содержит 33,5 млрд параметров; контекст — до 16 384 токенов. Модель предназначена для генерации и дополнения кода, заполнения пропусков в коде, а также задач по SQL и программированию по инструкциям в формате Alpaca. README приводит результаты HumanEval pass@1 75,61% и SQL-EVAL 125 из 175. Репозиторий содержит веса PyTorch; в карточке также описаны варианты квантизации AWQ, GPTQ и GGUF для инференса на GPU или CPU+GPU. Разработчик исходного семейства Code Llama — Meta; конкретное дообучение опубликовано под именем uukuguy. Основной язык карточки — английский. Указана лицензия llama2. Как и другие языковые модели, модель может выдавать неточный или нежелательный код; перед использованием в приложениях её следует проверять и адаптировать к сценарию.

Swarm Scout 12B — мультимодальная модель для программирования и агентных технических задач, созданная LiamVisionary на основе объединения Gemma 4 12B Instruct и производной модели с настройкой для агентных сценариев. Модель рассчитана на помощь с написанием и отладкой кода, работой в терминале, использованием инструментов и многошаговым рассуждением. Поддерживает диалог и обработку изображений; вариант на Hugging Face распространяется в формате safetensors и использует архитектуру Gemma4UnifiedForConditionalGeneration. Для работы требуется свежая версия библиотеки Transformers с поддержкой Gemma 4 unified. Модель ориентирована прежде всего на англоязычные сценарии. Для распознавания изображений есть подтверждённый пример анализа чека; поддержку аудио и видео унаследованная конфигурация описывает, однако качество этих режимов для данного выпуска отдельно не проверяли. Низкий уровень отказов является намеренной особенностью, поэтому для практического развёртывания нужны прикладные ограничения и защита от злоупотреблений; общие знания следует перепроверять. Модель распространяется по лицензии Apache 2.0 без гарантии качества.

Synthia-S1-27b — диалоговая мультимодальная модель Tesslate AI, дообученная на базе Gemma 3 27B IT. Она предназначена для рассуждений, программирования, творческого письма и ролевых сценариев; принимает текст и изображения и формирует текстовые ответы. В карточке заявлен контекст до 128 тысяч токенов и максимальная длина ответа 8192 токена. Архитектура — плотный decoder-only Transformer с 27 млрд параметров; указаны bf16 и int8-квантизация, а в репозитории доступен формат safetensors. Модель обучали на веб-документах, примерах отладки и решения задач по программированию, а также на математических решениях. Автор приводит результаты ограниченных проверок GPQA Diamond и части MMLU Pro и отмечает, что оценки требуют более полного бенчмаркинга. Лицензия — Gemma. Модель может требовать подробных инструкций для узких задач и иногда галлюцинирует в малоизученных областях.