II.3Рефакторинг, миграция и модернизация

CIRU DualView Ornith 1.0 35B — мультимодальная модель для диалогов, рассуждений, работы с инструментами, программирования и анализа изображений. Она основана на объединении Ornith-1.0-35B и Qwen3.6-35B-A3B; архитектура включает 256 экспертов, из которых активны 8. Модель поставляется в формате GGUF с квантованием FPX7 и отдельными участками Q8, а также с проектором изображений и дополнительным слоем MTP. Заявленная длина контекста — 262 144 токена. DualView использует компактное представление весов для генерации и точное представление INT8 для обработки входного контекста. Модель предназначена для локального запуска на системах AMD с унифицированной памятью и ROCm. Для загрузки требуется совместимая сборка ROCmFPX; стандартный llama.cpp не поддерживает этот формат. Проверки производительности проведены для Linux ROCm на Strix Halo, а совместный режим vision и MTP ещё проходит валидацию качества изображений и повторяемости. В метаданных указана лицензия other; конкретные условия следует сверить с карточкой модели и её лицензией.

Qwen3.6-27B-uncensored-heretic-v1 — мультимодальная модель на 27 млрд параметров, созданная независимым автором llmfan46 на основе Qwen/Qwen3.6-27B. Автор применил abliteration: изменил компоненты проекций внимания в слоях 24–57, чтобы снизить частоту отказов. По приведённому в карточке тесту модель отказала в 10 случаях из 100 против 92 у исходной модели; KL-дивергенция относительно оригинала составила 0,0286. Модель принимает текст и изображения и предназначена для диалога, анализа изображений, агентных сценариев и задач программирования, включая работу с репозиториями и инструментами. Архитектура — плотная Qwen3.5 с визуальным энкодером; заявленная длина контекста — 262 144 токена с возможностью расширения до 1 010 000. Карточка содержит результаты отдельных тестов, но они не гарантируют качество на других задачах. Основа доступна по лицензии Apache 2.0; условия карточки производной модели также указывают Apache 2.0.

Qwen3.6-35B-unsloth-code-reasoning-deepseek-v4-pro-destilled-Mlx-4bit — это общественная 4-битная конверсия в формат MLX модели Qwen3.5 MoE с примерно 35 млрд параметров. Модель основана на архитектуре Qwen3_5MoeForConditionalGeneration, дообучена с использованием Unsloth для генерации кода и пошагового рассуждения и дистиллирована на трассировках рассуждений DeepSeek v4 Pro. Конверсию подготовил пользователь 10Hen10; базовые компоненты связаны с Qwen и Unsloth, а инференс рассчитан на фреймворк Apple MLX. Модель предназначена для генерации, дополнения и объяснения кода, задач по математике и логике, отладки, агентских сценариев с вызовом инструментов и локального конфиденциального запуска на macOS. Она поддерживает текст, изображения и видео, а также встроенный function/tool calling в шаблоне чата. Основной язык — английский; поддержка других языков не является целевой. Контекстное окно в README не указано. Используется разреженная Mixture-of-Experts-архитектура, поэтому на каждом токене активна только часть параметров. Веса имеют 4-битное affine-квантование с размером группы 64, а чувствительные router/gate-слои сохранены в 8-битном формате. Для Apple Silicon M1–M4 рекомендуется не менее 32 ГБ unified memory; сами веса занимают примерно 20–22 ГБ, ещё около 2–4 ГБ требуется для KV-кэша и служебных данных. К сильным сторонам относятся сочетание кодогенерации и рассуждений, мультимодальность, поддержка инструментов и возможность локального запуска на совместимых устройствах Apple. Ограничения включают отсутствие официальных результатов бенчмарков, возможное снижение качества из-за 4-битного квантования, галлюцинации и ошибки в коде, а также зависимость качества рассуждений от учительской модели и данных дистилляции. Модель распространяется по лицензии Apache-2.0.

Terathox-Coder/Qwen3.8-27B-MTP-GGUF — это общественная GGUF-конверсия и квантованная версия базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Дополнительное обучение или дообучение не выполнялось. Модель содержит 27 млрд параметров, представлена в формате GGUF и использует квантование Q4_K_M; исходные MTP/NextN-тензоры сохранены. Модель предназначена для локальной генерации текста, программирования, задач software engineering, агентных сценариев, технического рассуждения и работы с длинным контекстом. Она совместима с llama.cpp и совместимыми GGUF-рантаймами, включая Ollama. Сохранение MTP/NextN позволяет экспериментировать со спекулятивным декодированием, однако наличие соответствующих тензоров само по себе не гарантирует их фактическое использование: это зависит от версии и настроек рантайма. В README заявлена поддержка языков English, Spanish и Chinese, а локальное тестирование проводилось с контекстом до 204800 токенов. Ключевые преимущества — существенно сниженные требования к памяти по сравнению с исходной BF16-моделью, поддержка локального запуска и сохранённые компоненты MTP/NextN. Размер файла составляет около 16,8 ГБ. Ограничения включают возможное снижение качества из-за квантования Q4_K_M, отсутствие стандартизированных тестов качества для этой сборки и риск неточных, предвзятых или галлюцинированных ответов. Хотя исходная модель обладает мультимодальными возможностями, данный репозиторий содержит только языковой GGUF-артефакт без проверенного мультимодального проектора, поэтому сборку следует считать текстовой. Модель распространяется по лицензии Apache-2.0. Конкретные показатели скорости в README относятся к локальной конфигурации на трёх GPU и не являются стандартизированными бенчмарками качества или производительности.

Ring-lite — лёгкая открытая языковая модель с архитектурой Mixture of Experts (MoE), разработанная командой inclusionAI на основе inclusionAI/Ling-lite-base-1.5. Модель предназначена для сложных задач рассуждения и генерирует текст в формате чата. В метаданных указаны 794,8 млн параметров, библиотека Transformers и контекст 32 768 токенов; README описывает вариант Ring-lite с 16,8 млрд общих и 2,75 млрд активных параметров и контекстом 128 тыс. токенов, поэтому эти характеристики могут относиться к разным версиям или представлениям модели. Модель обучалась с использованием дистилляции знаний и обучения с подкреплением. Она предлагает режимы с выводом рассуждений и без него; в README приведены результаты оценок по математике и программированию, включая AIME и LiveCodeBench. Указанные языки — китайский и английский. Модель распространяется по лицензии MIT.

WizardCoder-Python-34B-V1.0 — большая языковая модель для генерации и редактирования программного кода, разработанная командой WizardLM. Это плотная авторегрессионная модель семейства Llama с 33,5 млрд параметров; она принимает текстовые инструкции и генерирует текстовый код. В карточке указан контекст до 16 384 токенов и формат PyTorch для библиотеки Transformers. Модель предназначена для выполнения инструкций по программированию: генерации функций и скриптов на Python, дополнения и исправления кода, а также решения задач по программированию. README приводит результат 73,2 на упомянутом бенчмарке, но не уточняет здесь методику оценки. Модель основана на Llama 2 и выпущена по лицензии Llama 2, условия которой следует учитывать при использовании.

ATX-Swift-Qwen3.8-27B-Uncensored-IQ4_XS-M-GGUF — это квантизированная GGUF-модель, разработанная JakeATX на основе d0xin/Swift-Qwen3.8-27B-Uncensored-BF16. Исходная модель является uncensored, abliterated-производной Swift-Qwen3.8-27B от UkisAI: из неё намеренно удалено исходное поведение отказа от ответов. Модель предназначена для генерации текста, включая программирование, агентские сценарии, работу с длинным контекстом и локальный запуск через llama.cpp. Модель содержит около 27,32 млрд параметров, 866 текстовых и MTP-тензоров и поддерживает только текстовую модальность, без vision tower. Используется смешанная квантизация ATX-IQ4_XS-M: основная часть весов представлена в IQ4_XS, отдельные важные тензоры повышены до Q5_0, Q6_K или Q8_0. Размер файла — около 14,5 GiB, эффективная точность — 4,56 бит на вес. Включена MTP speculative head, рассчитанная на спекулятивное декодирование. Рецепт ориентирован на видеокарты RTX 3090/3090 Ti с 24 ГБ памяти и позволяет работать с контекстом до 200 тыс. токенов при 8-битном key cache, однако точный лимит зависит от runtime и конфигурации. Сильными сторонами являются высокая эффективность по памяти, оптимизация под SM86 и длинный контекст, а также заявленный результат pass@1 89,25 на выбранной 100-задачной подвыборке LiveCodeBench v6. Модель не имеет встроенных ограничений на отказ и может генерировать контент, который исходная версия отклоняла, поэтому её ответы требуют проверки. В README не указаны точные языки и полный набор оценок качества. Для запуска рекомендуется llamAmpere; модель также совместима со stock TurboQuant+ и основной веткой llama.cpp, но с меньшим запасом по контексту. Лицензия указана как swift-open-license-1.0.

DASD-4B-Thinking — плотная языковая модель примерно на 3,7 млрд параметров от Alibaba Apsara, построенная на архитектуре Qwen3 и предназначенная для длинных цепочек рассуждений. Она дообучена на базе Qwen3-4B-Instruct-2507 с помощью дистилляции от gpt-oss-120b; в обучении использовалось 448 тыс. примеров из наборов Superior-Reasoning-SFT-gpt-oss-120b и Superior-Reasoning-SFT-gpt-oss-120b-Logprob. Модель подходит для рассуждений по математике и естественным наукам, генерации и анализа кода, а также диалоговых задач, требующих пошагового ответа. Размер контекста — до 262 144 токенов. Модель принимает и выдаёт текст; README рекомендует передавать системный промпт, использовавшийся при обучении, и указывает настройки Temperature=1.0 и TopP=1.0. В README заявлены хорошие результаты на математических, научных и кодовых бенчмарках при компактном размере и относительно небольшом объёме обучающих данных. Модель не подключается к внешним инструментам и не поддерживает их вызов, поэтому не может самостоятельно запускать код или обращаться к API. Лицензия — Apache-2.0.

DeepSeek-R1-0528-Qwen3-8B — плотная языковая модель семейства Qwen3, разработанная DeepSeek. Это версия Qwen3 8B, дообученная на цепочках рассуждений DeepSeek-R1-0528; число параметров составляет 7,6 млрд. Модель предназначена для диалогов и генерации текста с акцентом на многошаговые рассуждения, математику, программирование и логические задачи. В метаданных указаны интерфейс для вызова инструментов и контекст до 131 072 токенов. По описанию разработчика, модель улучшает результаты Qwen3 8B на AIME 2024 и сопоставима с Qwen3-235B-thinking в этой оценке. README также отмечает пригодность для академических исследований рассуждающих моделей и разработки компактных моделей. Модель принимает и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Лицензия — MIT, допускающая широкое использование в соответствии с её условиями.

DeepSeek-R1-0528-Qwen3-8B — плотная языковая модель с 7,6 млрд параметров, размещённая Unsloth и основанная на Qwen3 8B Base. По README, модель получена дообучением на цепочках рассуждений DeepSeek-R1-0528; метаданные указывают базовую модель deepseek-ai/DeepSeek-R1-0528-Qwen3-8B и архитектуру Qwen3ForCausalLM. Репозиторий содержит веса safetensors и поддерживает диалоги и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалогов с многоэтапными рассуждениями, в частности для решения математических и логических задач, программирования и помощи при написании кода. Её контекст составляет до 131 072 токенов. README сообщает об улучшении результатов на отдельных математических и общих бенчмарках, но эти результаты не гарантируют качество на других задачах. Лицензия — MIT.

DeepSeek-R1-0528-Qwen3-8B-GGUF — это GGUF-версия языковой модели DeepSeek-R1-0528-Qwen3-8B, подготовленная Unsloth на базе модели DeepSeek AI. Модель ориентирована на задачи, требующие рассуждений, включая математику, программирование, общую логику и работу с функциями, а также на сценарии локального запуска через совместимые инструменты, например Ollama и llama.cpp. Модель содержит 8 миллиардов параметров и распространяется в формате GGUF. В README указаны улучшения глубины рассуждений, качества вывода на математических и логических тестах, снижение частоты галлюцинаций, расширенная поддержка function calling и улучшенный опыт vibe coding. Рекомендуется использовать температуру 0,5–0,7, оптимально 0,6, и Top_P 0,95. Сведения о точной архитектуре, поддерживаемых языках, модальностях и размере контекста в карточке отсутствуют. Формат GGUF удобен для локального вывода и позволяет выбирать варианты квантования, однако конкретный уровень квантования зависит от используемого файла и в данной карточке не указан. Для корректной работы требуется соблюдать рекомендованный chat template и настройки инференса. Модель распространяется по лицензии MIT.

DeepSeek-R1-Distill-Qwen-32B — плотная языковая модель с 32 млрд параметров, разработанная DeepSeek путём дообучения Qwen2.5 на примерах рассуждений, сгенерированных DeepSeek-R1. Она предназначена для генерации текста в диалогах и решения задач, требующих многошаговых рассуждений, в частности по математике и программированию. Модель построена на архитектуре Qwen2 и поддерживает контекст до 131 072 токенов. В README сообщается о сильных результатах на бенчмарках рассуждений, математики и кода; эти результаты не гарантируют аналогичного качества на других задачах. Для модели указана лицензия MIT.

Vontra/DeepSeek-V4-Flash-0731-MXFP4-MLX — это MLX-конверсия модели DeepSeek-V4-Flash-0731 от DeepSeek, распространяемая Vontra. Модель предназначена для генерации текста и запуска локальных LLM-приложений на устройствах Apple с MLX, включая диалоги, программирование и работу с длинным контекстом. Исходная модель имеет 305 млрд параметров, из которых около 13 млрд активируются для одного токена, и использует архитектуру Mixture-of-Experts. В данной версии эксперты представлены в формате MXFP4, attention — в MXFP8, а выходная голова сохраняется в формате bfloat16. Поддерживается текстовая модальность; сведения о полном наборе языков и максимальной длине контекста в README не указаны, однако приведены измерения на контексте 23 тысячи токенов. Конверсия заявлена как побитово идентичная исходному checkpoint: значения весов после деквантизации совпадают с оригиналом, а размер составляет около 167,1 ГБ. Модель сохраняет DSpark MTP-головы, что позволяет использовать нативное speculative decoding в oMLX 0.5.4rc2 и повысить скорость генерации примерно до 41,7 токена в секунду на Mac Studio с M3 Ultra против 26,1 токена в секунду без спекуляции. Для работы требуется значительный объём памяти и совместимое окружение MLX/oMLX; заявленные показатели зависят от оборудования, настроек и кэширования промптов. Лицензия — MIT.

GaelicThunder/DeepSeek-V4-Flash-Vision-Exp-ablit-EXL3-Kalibrated — квантизированная версия DeepSeek-V4-Flash-Vision-Exp от DeepSeek, подготовленная GaelicThunder на основе MixedK-пака vcruz305 и abliterated-варианта drowzeys. Модель предназначена для мультимодальных задач «текст плюс изображение», включая анализ изображений и генерацию текста, а также для обычных сценариев работы с текстом, математикой и кодом. Это MoE-модель с 256 маршрутизируемыми экспертами в каждом слое, представленная в формате EXL3 с mixed-precision-квантизацией: экспертные веса распределены между 2- и 3-битным представлением, при этом 22 слоя дополнительно переквантизированы в калиброванный 3-битный формат. Остальные тензоры используют BF16 или FP8 в зависимости от компонента. Пакет занимает около 106 GB и рассчитан на запуск на одной NVIDIA DGX Spark с GB10 и 128 GB памяти. Поддерживаются контекст до 245 760 токенов, speculative decoding, CUDA graphs и обработка от одного до трёх изображений на запрос. Языки явно не указаны. По приведённым измерениям модель сохраняет около 90% вероятности токенов оригинальной модели в среднем, с особенно сильными результатами на математике; заявлены также показатели для прозы и кода. Ограничения включают высокие требования к памяти и специализированному стеку запуска, длительную первичную компиляцию ядер и известную ошибку декодирования, из-за которой иногда появляется токен «)Skip»; в рекомендуемом сценарии она подавляется прокси. Модель распространяется по лицензии MIT.

DuoNeural разработала Gemma-4-26B-A4B-Abliterated — изменённую версию диалоговой Gemma 4 от Google DeepMind. Это модель генерации текста на архитектуре MoE с 26 млрд параметров, из которых около 3,8 млрд активны при обработке токена; в README указано 128 маршрутизируемых экспертов и один общий, из которых одновременно задействуются восемь. Модель принимает текстовые запросы и предназначена для диалога, следования инструкциям, рассуждений, генерации кода, работы с инструментами и структурированного вывода. От базовой Gemma-4-26B-A4B-it она отличается удалением отказов с помощью изменения весов методом representation engineering. README заявляет сохранение общих возможностей и многоязычной генерации, но не приводит конкретного перечня поддерживаемых языков; метаданные отмечают английский и многоязычность. В карточке также приведён пример запуска GGUF через llama.cpp с контекстом 16 384 токена, однако метаданные этого репозитория указывают формат safetensors и библиотеку Transformers. Модель рассчитана на пользователей, которым нужна инструкция-следующая языковая модель с менее ограничительным поведением. Удаление отказов означает, что она может отвечать на запросы, которые базовая модель отклонила бы; качество и безопасность таких ответов требуют проверки. README указывает исследовательское и образовательное применение и отсылает к условиям Google Gemma Terms of Use; метаданные обозначают лицензию как gemma.

GRM-2.6-Plus — дообученная OrionLLM мультимодальная модель на 27 млрд параметров на архитектуре Qwen3.6. Она предназначена для сложных задач общего назначения: рассуждений, программирования, диалога и агентных сценариев с использованием инструментов. Модель принимает текст и изображения и генерирует текст; метаданные указывают на поддержку чата и интерфейса вызова инструментов. Разработчик позиционирует модель как вариант для локального применения, ориентированный на структурированные рассуждения и практическую работу на подходящем потребительском или рабочем оборудовании. В README заявлены сильные стороны в решении сложных задач и генерации кода, однако приведённые бенчмарки опущены, поэтому эти заявления нельзя оценить по карточке. Модель распространяется в формате safetensors по лицензии Apache 2.0.

lunahr/Hermes-3-Llama-3.2-3B-abliterated — это изменённая версия Hermes 3 3B, диалоговой языковой модели Nous Research на архитектуре Llama с 3,2 млрд параметров. В основе лежит NousResearch/Hermes-3-Llama-3.2-3B, дообученная на базе Llama-3.2 3B; этот вариант описан как abliterated. Модель использует формат диалога ChatML и рассчитана на контекст до 131 072 токенов. Модель предназначена для многоходового общения и следования инструкциям, а также для генерации кода, ролевых диалогов, структурированных JSON-ответов и вызова функций. Метаданные указывают поддержку английского языка; модель работает с текстом на входе и генерирует текст. В README для Hermes 3 заявлены улучшения в рассуждениях, согласовании с запросами пользователя, связности на длинном контексте и агентных сценариях. При работе с вызовом функций нужно учитывать описанное автором отклонение в формате: ответы инструмента передаются в роли user, что требует адаптации кода интеграции. Модель распространяется по лицензии Llama 3.

Hypernova-14B — объединённая языковая модель на 14 млрд параметров, созданная сообществом mergekit-community из предварительно обученных моделей notmebug/Qwen2.5-14B-Merge и notmebug/Qwen2.5-14B-Coder-Merge. Для слияния применён метод SLERP; архитектура — плотная Qwen2 с причинной языковой моделью Qwen2ForCausalLM. Модель предназначена для генерации текста и диалогов, включая задачи, связанные с кодом. Поддерживает контекст до 131 072 токенов и представлена в формате safetensors для Transformers. Метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. В карточке не описаны конкретные языки или результаты оценки качества. Лицензия в предоставленных данных не указана.

Llama-3.1-Nemotron-Nano-8B-v1 — языковая модель NVIDIA, опубликованная в репозитории Unsloth в формате Safetensors. Это плотный декодерный Transformer на архитектуре Llama 3.1, дообученный для рассуждений, диалогов, следования инструкциям, математики, программирования, RAG и вызова инструментов. В метаданных указано 7,5 млрд параметров, а контекстное окно составляет до 131 072 токенов. Модель принимает и генерирует текст. Она рассчитана прежде всего на английский язык и также поддерживает немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Режим рассуждений включается системным промптом; для локального запуска карточка указывает, что модель помещается на одну RTX GPU. Поддерживаются диалоговый режим и интерфейс вызова инструментов. Модель предназначена для чат-ботов, агентных систем, RAG-приложений и типовых задач по инструкциям. README заявляет коммерческую готовность, однако метаданные указывают лицензию «other» без конкретных условий в предоставленных сведениях; перед использованием следует сверить лицензионные условия исходной карточки. Результаты оценки зависят от режима рассуждений и формата промпта, а русская поддержка не заявлена.

casperhansen/llama-3-70b-instruct-awq — это 4-битно квантованная методом AWQ версия Llama 3 70B Instruct, опубликованная пользователем casperhansen на Hugging Face. Базовую модель разработала Meta. Это авторегрессионная языковая модель с оптимизированной архитектурой Transformer и Grouped-Query Attention; она принимает текст и генерирует текст или код, поддерживая диалоговый формат и задачи ассистента. Модель содержит около 70 млрд параметров, использует контекст до 8192 токенов и рассчитана прежде всего на англоязычные коммерческие и исследовательские сценарии: диалог, генерацию текста, ответы на вопросы, программирование и рассуждения. Квантование AWQ уменьшает требования к памяти и делает локальное развертывание более практичным, однако может сопровождаться потерей точности по сравнению с полноразмерной версией. Модель не является мультимодальной и не предназначена для языков, отличных от английского, без дополнительной адаптации. Как и другие LLM, она может выдавать неточные, предвзятые или небезопасные ответы, поэтому требует проверки и дополнительных защитных механизмов. Для использования применяются Transformers, vLLM или SGLang; репозиторий содержит веса в формате Safetensors. Для базовой Llama 3 указана пользовательская коммерческая лицензия Meta Llama 3 Community License и Acceptable Use Policy; использование производной версии следует согласовывать с этими условиями.

Open-Instruct Human-mix 65B — языковая модель AllenAI на архитектуре LLaMA с 65 млрд параметров, дообученная на смеси созданных людьми наборов инструкций FLAN V2, CoT, Dolly и OpenAssistant 1. Она предназначена для генерации ответов на инструкции и запросы, включая задачи общего знания, рассуждения, математики и программирования. Модель принимает текст и генерирует текст. Для работы требуется исходная модель LLaMA в формате Hugging Face и применение diff-весов; рекомендуемый формат запросов описан в карточке модели. Контекст составляет 2048 токенов. В метаданных указан английский язык. Карточка приводит результаты оценки на MMLU, GSM, BBH, TyDiQA, Codex-Eval и AlpacaFarm. Использование регулируется лицензией AI-модели из репозитория и исходной лицензией LLaMA; перед применением необходимо учитывать условия обеих лицензий.

Parable-Qwen3-8B-Claude-Fable-5 — плотная языковая модель Qwen3-8B с 7,6 млрд параметров, дообученная AnkitAI на трассах многошаговой работы агентов Claude Fable 5 и GPT-5.5. Она предназначена для генерации текста, рассуждений, планирования, написания и отладки кода, решения задач в терминале и работы с инструментами. Модель принимает текст и выдаёт текст, в том числе структурированные вызовы инструментов. Основной язык в карточке — английский; заявлена работа с контекстом до 40 960 токенов. В README сообщаются снижение тестовой функции потерь на 67% относительно базовой модели и 23 полностью правильных ответа из 34 в качественной оценке задач по коду и терминалу. В тесте BFCL V3 качество вызова функций оказалось немного ниже, чем у исходной Qwen3-8B. Модель обучалась на последовательностях длиной 1 024 токена, поэтому усиленное поведение агента может быть заметнее в начале длинного диалога; в некоторых операционных сценариях она выдаёт JSON вызова инструмента вместо обычного текста. Веса распространяются по Apache-2.0, но обучающие наборы имеют лицензии AGPL-3.0 и MIT, а для их происхождения из сторонних ассистентов могут действовать дополнительные условия.

Q36-35B-A3B-Opus4.7-Ablit-Heretic-OBLITERATUS-Hermes-MTP-Vision-Llama — мультимодальная модель семейства Qwen3.6-35B-A3B, опубликованная пользователем oktayd. Это производный вариант, собранный на основе Qwen3.6-35B-A3B с использованием нескольких этапов reasoning-дистилляции, ablation, Heretic и OBLITERATUS Nuclear, а также дообучения Hermes для function calling, агентских сценариев, работы с кодом, терминалом, файлами и репозиториями. Указанная в названии связь с Opus 4.7 относится только к унаследованной линии дистилляции и не означает включение проприетарной модели Claude. Модель предназначена для генерации текста, анализа изображений и текста, рассуждений, программирования, использования инструментов и агентских задач. Архитектура — mixture-of-experts Qwen3.6, представленная в GGUF как qwen35 или qwen3_5_moe: всего около 35 млрд параметров, из которых активируется около 3 млрд. Поддерживаются контекст до 262 144 токенов, английский язык и мультимодальный ввод через отдельный F16 vision projector. Доступны варианты квантования MXFP4_MOE и Q4_K_M для запуска в llama.cpp. По приведённым тестам модель особенно сильна в соблюдении сложных инструкций: в IFEval она получила 9/10 по строгим промптам и 17/18 по строгим инструкциям. На небольших выборках она показала сопоставимые с базовым сравнением результаты в HumanEval+, MMLU-Pro, GSM8K и BBH, однако уступила в MBPP+ и продемонстрировала проблемы с зацикливанием или усечением вывода в отдельных задачах MuSR. Поддержка одновременного использования Vision и MTP, финальная проверка FreeToken-сервинга и комбинированные мультимодальные сценарии ещё не подтверждены. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями требуется основной GGUF-файл вместе с соответствующим vision projector; заявленная поддержка относится к llama.cpp.

FreedomAISVR публикует Qwable-v1 в формате GGUF с квантизацией NVFP4. Это разговорная MoE-модель семейства Qwen, созданная для генерации текста и агентного программирования: в карточке описаны поведение Claude Fable-5 для использования инструментов и дистилляция рассуждений Claude Opus 4.7. Метаданные связывают модель с Qwen/Qwable-v1 как с дообученной базой. В README указаны 40 слоёв, 256 экспертов (8 активных на токен), около 3 млрд активных параметров и контекст 262 144 токена. Модель поддерживает зрение через SigLIP ViT; для работы с изображениями в llama.cpp нужен отдельный проектор mmproj в F16. Основной сценарий применения — диалоговая генерация и помощь с кодом; агентное использование требует соответствующего системного промпта. Весовой файл квантизирован в NVFP4, а README приводит размер около 18,81 ГБ для модели и 0,88 ГБ для проектора. Лицензия — AGPL-3.0.

Qwen3.8-27B-Brainwaves-1M-qx86-hi-mlx — экспериментальная объединённая модель, разработанная независимой AI-лабораторией NightmediaAI (Монтана, США). Она создана на основе нескольких моделей семейств Qwen3.6 и Qwen3.8, включая Wichtel-Qwen3.6-27B, Qwen3.8-27B-heretic-ara и варианты Cold Fusion и GAIN. Модель содержит около 27 миллиардов параметров и распространяется в формате MLX с квантизацией qx86-hi. Модель предназначена для генерации текста, диалогов, рассуждений, программирования, исследовательских и математических задач, а также творческого письма, сюжетной генерации и ролевых сценариев. В метаданных указаны английский, китайский, японский и испанский языки. Заявлена поддержка контекстных окон до 1 миллиона токенов; конфигурацию RoPE можно изменить на 512 тысяч, 1 миллион или вернуть к стандартным 256 тысячам токенов. Вариант qx64-hi также предоставлен для экспериментальной работы с контекстом до 2 миллионов токенов. По приведённым тестам модель показывает лучшие результаты по ряду бенчмарков и меньшую perplexity по сравнению с базовой Qwen3.8-27B. Для конфигурации qx86-hi указаны пиковое потребление памяти около 33 ГБ и скорость около 171 токена в секунду, однако фактические показатели зависят от оборудования и настроек. Это экспериментальный merge, поэтому поведение различных квантизаций может отличаться, а заявленные сверхдлинные контексты требуют дополнительной проверки. Лицензия — Apache-2.0.

Theta-Crucis-0.6B-Turbo1 — компактная языковая модель prithivMLmods на архитектуре Qwen3, дообученная на базе prithivMLmods/Qwen3-0.6B-ft-bf16 с использованием набора Mixture of Thoughts и акцентом на программирование. Модель содержит 507,9 млн параметров, принимает текст и генерирует текст; заявленная длина контекста — 40 960 токенов. Репозиторий использует формат safetensors, библиотеку Transformers и лицензию Apache-2.0. Модель предназначена для генерации и объяснения кода, поиска ошибок, технических рассуждений и формирования структурированных результатов в форматах вроде JSON и YAML. Карточка заявляет поддержку кода на Python, JavaScript, C++ и других языках, а также технических запросов более чем на 20 естественных языках; метаданные карточки указывают английский язык. Компактный размер делает модель подходящей для локального запуска на ноутбуках и устройствах с ограниченными ресурсами. Среди ограничений указаны более слабые результаты в длинных диалогах и абстрактных языковых задачах, а также ограниченная способность рассуждать о больших проектах с множеством файлов. Модель ориентирована на технические запросы, поэтому её общая языковая беглость и пригодность для творческого письма могут быть ограничены.

Tulu 65B — языковая модель AllenAI на архитектуре LLaMA с 65 млрд параметров, дообученная на смеси наборов инструкций FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT. Модель предназначена для ответов на инструкции и запросы, решения задач с рассуждением, ответов на вопросы, а также генерации кода. Для работы используется формат ввода Tulu, описанный в карточке; модельный репозиторий содержит diff и требует доступа к исходной модели LLaMA в формате Hugging Face. Контекст составляет 2048 токенов. В карточке авторы называют её сильнейшей моделью проекта по совокупности исследованных бенчмарков; приведены результаты по языковым знаниям, математике, рассуждениям, вопросам и генерации кода. Модель работает с текстом и ориентирована прежде всего на английский язык. Лицензирование регулируется лицензией модели Tulu и исходной лицензией LLaMA; перед использованием необходимо учитывать условия обеих лицензий.

XORTRON.CriminalComputing.LARGE.2026.3 — разговорная языковая модель на архитектуре Mistral, опубликованная heretic-org. По карточке это версия Mistral-Large-Instruct-2411 с abliteration: модель изменена для существенного снижения частоты отказов, а не для отдельной предметной области. Она предназначена для генерации ответов в диалоге, рассуждений, помощи с кодом и работы с длинным контекстом; исходная карточка также описывает поддержку вызова функций. Метаданные указывают 122,2 млрд параметров, плотную архитектуру MistralForCausalLM, контекст до 131 072 токенов и форматы Safetensors. Указаны английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. В приведённом сравнении частота отказов составляет 2 из 100 против 87 из 100 у исходной модели, при KL-дивергенции 0,0578; это показывает снижение отказов, но не подтверждает качество или безопасность ответов. Лицензия обозначена как other; README описывает исследовательскую лицензию Mistral для исходной модели, но условия лицензии этой производной модели однозначно не установлены.

Zrald/Zrald-qwen3.8-27b-v2 — выпуск GGUF модели Qwen3.8-27B от Zrald, предназначенный для локального запуска через llama.cpp. Это плотная модель с 27,2 млрд параметров; в репозитории представлены три варианта с разным соотношением размера и точности: accuracy, balance и compressed. README сообщает о сравнительных испытаниях на AMD Instinct MI300X и CPU, однако эти результаты относятся к оценке автора и не гарантируют аналогичное качество на других задачах и системах. Модель рассчитана на генерацию текста в диалогах, программирование, анализ документов, ответы на вопросы и многошаговые рассуждения. README описывает локальное обслуживание через OpenAI-совместимый API и приводит рекомендации по памяти и видеопамяти. В метаданных базовая модель указана как Qwen/Qwen3.8-27B, а формат файлов — GGUF; лицензия — Apache-2.0. Карточка не сообщает длину контекста или языковой охват, поэтому эти характеристики здесь не уточняются.

CodeGemma 1.1 7B IT — инструкция-дообученная языковая модель Google из семейства Gemma, предназначенная для программирования. Это декодерная модель с 7 млрд параметров; она принимает текстовые запросы и генерирует код или ответы на естественном языке. Модель рассчитана на диалог о коде, выполнение инструкций и генерацию программ по текстовому описанию. Модель подходит для ответов на вопросы по фрагментам кода, генерации кода по описанию, обсуждения технических задач и интерактивного обучения программированию. Для использования в диалоге следует применять встроенный шаблон чата токенизатора. В README указано, что для автодополнения кода в IDE рекомендуются предварительно обученные варианты CodeGemma. Модель обучена на базе Gemma и дополнительно на данных из открытых репозиториев кода, математических наборов данных и синтетически созданного кода; обучающие данные преимущественно англоязычные. Лицензия — Gemma. Как и другие большие языковые модели, она может ошибаться; подробности ограничений отсылаются к карточке Gemma.