II.7DevOps, облако и эксплуатация IT-систем

mlx-community/DeepSeek-R1-Distill-Qwen-1.5B — конвертированная в формат MLX версия компактной языковой модели DeepSeek-R1-Distill-Qwen-1.5B, подготовленная сообществом mlx-community из модели deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B с помощью mlx-lm 0.20.2. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров, предназначенная для диалоговой генерации текста и решения задач рассуждения, математики и программирования. Модель принимает текст и генерирует текст; метаданные указывают контекстное окно 131072 токена и интерфейс для вызова инструментов. Формат MLX ориентирован на запуск с mlx-lm. В карточке приведена лицензия базовой модели только косвенно, поэтому условия лицензирования здесь не уточняются. Возможности и качество унаследованы от базовой модели.

DeepSeek-R1-ReDistill-Qwen-1.5B-v1.0 — версия DeepSeek-R1-Distill-Qwen-1.5B, повторно дистиллированная Mobius Labs для повышения качества. Это плотная авторегрессионная языковая модель семейства Qwen2 с 1,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста и диалогового применения; исходная модель ориентирована на рассуждения и решение задач, включая математику и программирование. В карточке приведены сравнительные результаты на ARC, HellaSwag, MMLU, GPQA, MMLU PRO и MUSR, где версия ReDistill показывает улучшения относительно исходной на перечисленных тестах. Репозиторий содержит веса SafeTensors. Лицензия — MIT.

Eurux-8x22B-KTO — языковая модель семейства Mixtral, разработанная OpenBMB. Это дообученная версия Mixtral-8x22B: сначала выполнено SFT, затем KTO на многоходовых траекториях UltraInteract и парах предпочтений UltraFeedback. Модель предназначена для генерации текста, рассуждений, диалогов и следования инструкциям; в карточке заявлены сильные результаты в задачах программирования, математики, знаний и рассуждений. Модель использует архитектуру Mixtral MoE, распространяется в формате safetensors, содержит 22 млрд параметров и поддерживает контекст до 65 536 токенов. Для запуска в README приведён пример использования через Transformers и PyTorch. Лицензия — Apache-2.0. Оценочные результаты приведены для набора бенчмарков по коду, математике, рассуждениям, знаниям, следованию инструкциям и диалогу; они не гарантируют качество на конкретных пользовательских данных. Языки обучения или поддерживаемые языки в предоставленных сведениях не перечислены.

Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP — мультимодальная модель семейства Gemma 4, разработанная HauhauCS на основе Gemma 4 26B-A4B-it от Google DeepMind. Это версия с минимизированными отказами, ориентированная на агентный кодинг, рассуждения, творческое письмо, ролевые и разговорные сценарии, а также задачи, где важны надёжность и следование инструкциям. Модель построена по архитектуре MoE с 128 экспертами, из которых 8 активируются для каждого токена, и имеет заявленный контекст 256K токенов. Используется официальная QAT-квантизация примерно до 4 бит в формате GGUF Q4_K_M; основной файл занимает около 16,8 ГБ. Поддерживается ввод изображений через отдельный vision-проектор mmproj размером около 1,2 ГБ. Заявлен английский язык. В комплект входит MTP-драфтер для speculative decoding, который, по данным автора, ускоряет генерацию примерно на 35% без изменения проверенного моделью результата. Сильными сторонами являются сочетание большого контекста, MoE-архитектуры, поддержки изображений, 4-битной QAT-квантизации и оптимизации под llama.cpp, LM Studio, Jan, koboldcpp и другие GGUF-совместимые среды. Ограничения включают зависимость мультимодального режима от отдельного mmproj, необходимость совместимого MTP-драфтера для заявленного ускорения и возможные сбои Gemma 4 в LM Studio при использовании tensor-split на нескольких GPU. Несмотря на позиционирование как uncensored, автор отмечает отдельные пограничные случаи с отказом при первом запросе. Модель распространяется по лицензии Gemma; дополнительные условия лицензии в README не указаны.

GLM-4-9B — плотная языковая модель с архитектурой ChatGLM, разработанная Zhipu AI и выпущенная как открытая базовая версия семейства GLM-4. Модель содержит 10,7 млрд параметров и принимает текст, формируя текстовые ответы; базовая версия поддерживает контекст до 8 192 токенов. Модель предназначена для генерации текста и решения задач на понимание языка, знания, математику, рассуждение и программирование. Семейство GLM-4 поддерживает 26 языков, включая японский, корейский и немецкий; карточка также указывает китайский и английский. Упомянутые в README возможности многоходового диалога, вызова инструментов и контекста до 128K относятся к версии GLM-4-9B-Chat, а не к этому базовому чекпойнту. Весы распространяются в формате safetensors. Лицензия указана как other; README отсылает к LICENSE репозитория для условий использования. Заявленные в карточке сравнительные результаты не гарантируют качество на конкретных данных и сценариях.

GLM-5.2-JANGTQ_K — квантованный вариант GLM-5.2 от Z.ai, подготовленный bearzi для запуска через MLX на компьютерах Apple с Apple silicon. Это языковая модель семейства GLM с архитектурой MoE и поддержкой чата; метаданные указывают 30,4 млрд параметров и контекст до 1 048 576 токенов. Профиль JANGTQ_K использует смешанную квантовку TurboQuant: routed-эксперты сжаты до 2 или 4 бит, а блоки внимания и индексатор DSA сохранены в FP16. Голова MTP удалена, поскольку она не используется в описанном режиме генерации MLX. Модель предназначена для генерации текста в диалоге, написания кода и длительных задач с большим контекстом. Для загрузки требуются около 260 ГБ объединённой памяти, пакет jang-tools и runtime MLX с патчем IndexShare; обычные MLX, LM Studio и Ollama этот набор не поддерживают без соответствующей доработки. В метаданных указана лицензия MIT.

Hyperion Medium Preview — языковая модель M4-ai, дообученная на базе mistralai/Mistral-7B-v0.1 на наборе Hyperion. Это плотная модель Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста и контекст до 32 768 токенов. Она предназначена для диалогов и ответов на сложные вопросы, в том числе по научным темам, а также для генерации кода, математических и логических рассуждений и понимания медицинских текстов. В карточке заявлена поддержка английского языка. Модель может применяться в обучающих помощниках по науке, медицине, математике и информатике, в технических диалоговых системах и для помощи с программированием. Карточка отмечает, что разнообразие данных, форматирование и качество разметки могут приводить к непоследовательным ответам. Модель распространяется по лицензии Apache-2.0.

JiRack DeltaNet 180B — текстовая диалоговая модель CMSManhattan на основе Qwen3.8-Flash-Next. Она предназначена для генерации текста, работы с инструментами и агентных сценариев, включая маршрутизацию, программирование и использование в RAG-системах. Модель содержит около 180 млрд параметров общей ёмкости, из которых примерно 6 млрд активны на каждом токене; в карточке описана архитектура Mixture-of-Experts с Gated DeltaNet, разреженным вниманием Qwen и маршрутизацией между экспертами. Указаны форматы GGUF и Safetensors, а также варианты GGUF Q3_K_M и Q4_K_M. Сборка JiRack пока текстовая, хотя базовая Qwen3.8-Flash-Next поддерживает изображения и видео. README сообщает, что текущие веса численно совпадают с базовой моделью: QAT ещё не завершён, поэтому заявленные преимущества троичных весов пока не реализованы. Карточка описывает многоязычное применение, включая русский, английский, китайский, японский и другие языки. Лицензия указана как other; конкретные условия следует проверять в репозитории модели.

MLX-версия модели K2-Horizon-3.7B от IFM, подготовленная сообществом mlx-community для компьютеров Apple с Apple Silicon. Это плотная авторегрессионная языковая модель с 3,7 млрд параметров и контекстом 524 288 токенов, предназначенная для генерации текста и диалогов. Сборка использует веса bf16 без квантизации и формат safetensors; размер на диске — около 10,1 ГБ. Модель подходит для ответов на вопросы, рассуждений, программирования и агентных сценариев в приложениях на базе MLX. Реализация архитектуры K2-Horizon поставляется вместе с репозиторием, поскольку поддержка этой архитектуры в mlx-lm может зависеть от версии библиотеки. Для запуска требуется mlx-lm; в некоторых версиях необходимо разрешить загрузку удалённого кода. Длинный контекст требует значительной дополнительной памяти для KV-кэша. Конвертация сверялась с реализацией IFM на PyTorch. Лицензия — Apache-2.0.

Это версия IFM/K2-Horizon-3.7B с уменьшенным числом отказов, созданная разработчиком darkc0de методом Heretic v1.4.0. В основе — плотная авторегрессионная модель K2-Horizon с 3,7 млрд параметров ядра и контекстом до 524 288 токенов; метаданные указывают 4,1 млрд параметров всего. Модель предназначена для диалоговой генерации текста, включая рассуждения, задачи по коду и агентные сценарии. По сравнению с исходной моделью в приведённом README тесте частота отказов снизилась с 98 до 11 из 100, а расхождение по KL-дивергенции составило 0,0088. Модель доступна в формате Safetensors и использует библиотеку Transformers. README приводит настройки запуска через vLLM и SGLang. Заявлена лицензия Apache-2.0; уменьшение отказов может повлиять на поведение защитных механизмов.

mlx-community/K2-Horizon-7B-bf16 — конверсия модели IFM/K2-Horizon-7B в формат MLX с точностью bf16, подготовленная сообществом mlx-community для компьютеров Apple silicon. Это плотная авторегрессионная модель семейства K2-Horizon с 7B параметров по README и 8B по метаданным; она поддерживает контекст до 524 288 токенов и предназначена для диалогов и генерации текста, включая работу с длинными запросами. В карточке описаны проверки соответствия реализации PyTorch и тестовые примеры генерации. Модель подходит для ответов на вопросы, рассуждений, помощи с кодом и обработки длинных текстов. Конверсия выполнена без квантизации, поэтому веса занимают около 18 ГБ; с учётом памяти для KV-кэша длинный контекст требует существенно больше оперативной памяти. Для запуска указана библиотека mlx-lm и необходимость доверенной загрузки кода модели в некоторых версиях. Лицензия — Apache-2.0.

abenzerps/K2-Horizon-7B-MLX-4bit — это 4-битная конверсия модели IFM/K2-Horizon-7B для MLX. Исходная модель представляет собой плотную decoder-only модель примерно на 7 миллиардов параметров, разработанную IFM, а данный вариант подготовлен для использования в экосистеме MLX и MLX-LM. Модель предназначена для генерации текста, рассуждений, программирования, работы с длинным контекстом и использования инструментов. Она поддерживает только текстовую модальность, без vision-проектора и файлов MTP. Заявленный нативный размер контекста исходной модели составляет 524 288 токенов (512K), язык в карточке указан как английский. Вес модели представлен в формате MLX safetensors с аффинным 4-битным квантованием и размером группы 64; общий размер файлов составляет около 5,06 ГБ. Квантование уменьшает требования к памяти и делает модель более удобной для локального запуска на совместимом оборудовании, однако README не приводит сравнений качества именно квантованной версии с исходной моделью. Для загрузки требуется MLX-LM и доверенный удалённый код, поскольку используется специальный загрузчик, сохраняющий grouped RMSNorm. Модель распространяется по лицензии Apache-2.0. README не содержит подробных сведений о результатах бенчмарков, аппаратных требованиях, скорости работы или ограничениях исходной модели, поэтому эти характеристики нельзя оценить точнее.

Kanana 1.5 2.1B Instruct — языковая модель компании Kakao, выпущенная в мае 2025 года. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 1,9 млрд параметров и контекстом до 32 768 токенов. Веса доступны в формате Safetensors, лицензия — Apache 2.0. Модель предназначена для диалогов и генерации текста, включая задачи программирования, математики и вызова функций. Она подходит для ответов на вопросы, помощи с кодом, решения математических задач и продолжительных бесед; README отмечает улучшения в этих возможностях по сравнению с предыдущей версией семейства. Модель поддерживает английский и корейский языки; интерфейс вызова функций указан среди её возможностей. Для контекста длиннее 32K токенов README описывает расширение до 128K с помощью YaRN. Качество на конкретных задачах зависит от запроса и сценария; количественные результаты оценки в предоставленной карточке опущены. Kakao указывает, что пользовательские данные Kakao не использовались для предобучения или последующего обучения.

Hutgaecha дообучил диалоговую модель Kakao kanana-1.5-8b-instruct-2505 и объединил результат в отдельную модель. Это плотная авторегрессионная языковая модель семейства Llama с 7,5 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста в диалоге; базовая модель также поддерживает программирование, математические задачи и интерфейс вызова инструментов. Модель принимает текстовые запросы и генерирует текстовые ответы. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0, допускающей коммерческое использование при соблюдении её условий.

MiMo-V2.6-Distill-Qwen-9B-OptiQ-4bit — квантованная MLX-версия модели XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B, разработанная сообществом mlx-community. Базовая модель представляет собой дистилляцию архитектуры Qwen3.5 9B и предназначена для генерации текста, рассуждений, программирования, агентных сценариев и работы с инструментами. Модель рассчитана на локальный запуск на устройствах с Apple Silicon через MLX, без PyTorch и облачных сервисов. Используется смешанная точность: большинство слоёв имеют 4-битное представление, а чувствительные слои — 8-битное. Всего 134 слоя хранятся в 8-битном формате и 116 — в 4-битном; средняя разрядность веса составляет 6,34 бита, размер модели на диске — около 6,77 ГБ вместо примерно 18 ГБ в формате bfloat16. Архитектура включает 32 слоя, 8 слоёв с полной attention и 24 слоя с linear attention, 16 голов, 4 KV-головы, head_dim 256, hidden size 4096 и словарь из 248 320 токенов. Языки и размер контекстного окна в README не указаны. К сильным сторонам относятся существенное уменьшение размера и заявленное ускорение генерации в 2,4–7 раз относительно родительской модели bfloat16 при проверке на нескольких типах запросов. Распределение разрядности перенесено из квантования Qwen3.5-9B и не измерялось непосредственно на этой модели, поэтому опубликованные оценки качества для Qwen3.5-9B к ней не относятся; Capability Score для данной модели не рассчитывался. Модель распространяется по лицензии MIT.

openbmb/MiniCPM5-2B-GGUF — компактная языковая модель MiniCPM5-2B от OpenBMB, представленная в формате GGUF для локального запуска. Это плотная Transformer-модель примерно на 2 млрд параметров, предназначенная для генерации текста и работы в условиях ограниченных вычислительных ресурсов, включая развёртывание на устройствах и edge-системах. Модель ориентирована на английский и китайский языки и поддерживает сценарии программирования, математического рассуждения, понимания длинного контекста, использования инструментов и агентских задач. Разработчики заявляют конкурентоспособность с моделями класса 4B и лучшие результаты среди сопоставимых открытых моделей класса 2B в ряде перечисленных направлений. Точная максимальная длина контекста, параметры квантования GGUF и сведения о мультимодальности в представленном README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или аудио. К сильным сторонам относятся небольшой размер, пригодность для локального и on-device использования, а также заявленные возможности в коде, математике, работе с длинным контекстом и инструментами. Ограничениями являются меньшая ёмкость по сравнению с крупными языковыми моделями и отсутствие подробных количественных результатов и характеристик конкретной GGUF-сборки в предоставленных данных. Модель распространяется по лицензии Apache-2.0.

AceReason-Nemotron-1.1-7B-GGUF — это GGUF-квантизированная версия языковой модели AceReason-Nemotron-1.1-7B, разработанной NVIDIA и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста, задач рассуждения, математики и программирования; в метаданных указаны supervised fine-tuning и reinforcement learning. Заявленный язык — английский. Модель содержит 7 миллиардов параметров и поставляется в нескольких вариантах точности, включая BF16, Q8_0, Q6_K, Q5_K, Q4_K и более компактные форматы. Квантизация выполнена с использованием imatrix и llama.cpp, поэтому модель рассчитана на локальный запуск через llama.cpp, LM Studio и совместимые проекты. Для работы используется формат запросов ChatML с ролями system, user и assistant. Размер контекста и точная архитектура в README не указаны. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и компромисс между качеством, требованиями к памяти и скоростью инференса; наиболее качественными в README названы варианты Q6_K_L, Q6_K, Q5_K и Q4_K_L, а Q4_K_M обозначен как типовой вариант для большинства сценариев. Более сильное сжатие уменьшает требования к памяти, но может снижать качество. Лицензия — NVIDIA Open Model License; исходная модель доступна как nvidia/AceReason-Nemotron-1.1-7B.

Карточка модели biennequants/OpenThinker-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker-7B, поэтому описание составлено по ней. OpenThinker-7B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts-114k, созданном с использованием дистилляции DeepSeek-R1. Модель содержит 7,1 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов с упором на рассуждения, решение математических задач, вопросы по естественным наукам и программирование. В README приведены оценки на AIME24, MATH500, GPQA-Diamond и задачах LiveCodeBench; результаты показывают сильные стороны в математике и коде, но не гарантируют точность каждого ответа. Веса, данные и код проекта опубликованы; лицензия модели — Apache 2.0. Это текстовая модель, поэтому она не принимает изображения или аудио. Как и другие языковые модели, она может выдавать неверные ответы и требует проверки результатов, особенно в задачах, где ошибка критична.

OpenThinker-7B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts-114k, созданном с использованием дистилляции DeepSeek-R1. Модель содержит 7,1 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов с упором на рассуждения, решение математических задач, вопросы по естественным наукам и программирование. В README приведены оценки на AIME24, MATH500, GPQA-Diamond и задачах LiveCodeBench; результаты показывают сильные стороны в математике и коде, но не гарантируют точность каждого ответа. Веса, данные и код проекта опубликованы; лицензия модели — Apache 2.0. Это текстовая модель, поэтому она не принимает изображения или аудио. Как и другие языковые модели, она может выдавать неверные ответы и требует проверки результатов, особенно в задачах, где ошибка критична.

Это конвертированная в ONNX модель Phi-3 Medium-128K-Instruct, подготовленная Microsoft для ускоренного инференса через ONNX Runtime на видеокартах NVIDIA с CUDA. В основе — плотная авторегрессионная архитектура Phi-3 с 13,8 млрд параметров; исходная модель обучена на синтетических данных и отфильтрованных общедоступных веб-данных, а затем прошла дообучение с учителем и оптимизацию предпочтений DPO для следования инструкциям и мер безопасности. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, рассуждения, математические задачи и код. Карточка исходной модели описывает варианты контекста 4K и 128K токенов, однако метаданные этого репозитория указывают native_context_tokens=4096, поэтому для данной версии подтверждён контекст до 4096 токенов. Репозиторий содержит варианты FP16 и INT4; INT4 использует квантизацию RTN. В README приведены замеры скорости на NVIDIA A100 и указано требование CUDA GPU с Compute Capability не ниже 7.0. Модель разработана Microsoft и распространяется по лицензии MIT. Это конверсия исходных весов для ONNX Runtime, а не самостоятельное дообучение; использование CUDA-варианта требует совместимой NVIDIA GPU, а характеристики и скорость зависят от конфигурации инференса.

YFC-112358 создал двухэтапную композиционную модель на основе Qwen3.6-27B. На первом этапе с помощью DELLA объединены модели разных происхождений, а на втором к полученному результату линейно добавлено приращение весов Qwopus3.6-27B-Fusion относительно общего предка Qwen/Qwen3.6-27B. Это плотная мультимодальная архитектура семейства Qwen3.5 с интерфейсом чата и вызова инструментов; в репозитории веса представлены в safetensors, а модель использует библиотеку Transformers. Модель предназначена для диалоговой генерации текста и может использоваться для программирования, агентных сценариев и работы с изображениями — такие возможности указаны для базовой Qwen3.6-27B. В README описаны способ слияния и рекомендации по сэмплированию, но нет отдельных результатов оценки качества именно этой версии. Лицензия — Apache-2.0.

Карточка модели claymorecrystal/Qwen3.6-27B-PRISM-PRO-DQ на Hugging Face совпадает с карточкой Ex0bit/Qwen3.6-27B-PRISM-PRO-DQ, поэтому описание составлено по ней. Ex0bit/Qwen3.6-27B-PRISM-PRO-DQ — квантованная версия PRISM-PRO на базе Qwen3.6-27B, подготовленная проектом PRISM в формате GGUF для llama.cpp с применением динамического квантования. Она сохраняет встроенную MTP-голову для черновой генерации и полную башню обработки изображений; размер файла составляет около 13,7 ГБ вместо 55 ГБ у BF16-версии. Модель предназначена для диалоговой генерации текста и может использоваться в сценариях, где нужны возможности базовой Qwen3.6-27B, включая программирование, агентные задачи и работу с изображениями. Для ускорения вывода README описывает спекулятивное декодирование с MTP или отдельной EAGLE-3-моделью; заявлено совпадение результата с обычным жадным декодированием с оговоркой о вычислительных различиях при пакетной проверке. Базовая архитектура сочетает 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания; в карточке не приведены общее число параметров и длина контекста. Модель распространяется по лицензии Apache-2.0. Квантование уменьшает размер по сравнению с BF16, однако README не сообщает точные потери качества или требования к видеопамяти.

Qwen3.8-35B-A3B-Distill-GGUF — это набор GGUF-квантизаций дистиллированной модели Qwen3.8-35B-A3B, разработанный и выпущенный Empero. Модель предназначена для генерации текста и локального запуска через llama.cpp, Ollama, LM Studio, Jan, KoboldCpp и другие совместимые среды. Указанный базовый вариант создан на основе архитектуры Qwen3.6-35B-A3B и доступен для задач рассуждения и общего текстового вывода; заявленный язык — английский. Модель использует разреженную Mixture-of-Experts-архитектуру: всего около 35 млрд параметров, из которых примерно 3 млрд активны для каждого токена. Архитектура включает 30 слоёв Gated DeltaNet и 10 слоёв полной attention, а также 256 экспертов с маршрутизацией 8 экспертов на токен. Доступны варианты квантизации от 2-битных до BF16 размером примерно от 12,6 до 71,1 ГБ. Контекстный размер в карточке не указан. Для работы требуется свежая версия llama.cpp с поддержкой Qwen3.6, Gated DeltaNet и MoE. Разреженность архитектуры делает инференс заметно быстрее плотной модели аналогичного общего размера и повышает практичность запуска на CPU или при частичном переносе на GPU. При этом весь файл весов должен помещаться в оперативную или видеопамять, а при длинном контексте дополнительные затраты на KV-кэш могут существенно увеличить требования к памяти. Поддерживается ввод изображений через отдельный vision projector, однако поведение визуальной части не оценивалось. Модель выводит рассуждения в блоках <think>, которые при необходимости следует удалять перед показом ответа пользователю. Весовые файлы распространяются по лицензии Apache-2.0, унаследованной от базовой модели Qwen. Для квантизаций рекомендуется выбирать вариант с учётом доступной памяти и требуемого качества; в карточке наиболее сбалансированным указан Q4_K_M.

Qwen3.8-3.6-27B-blend-GGUF — неофициальная производная модель JetBrains на основе моделей Qwen, разработанных Alibaba Cloud. Это GGUF-квантизированная версия базовой модели JetBrains/Qwen3.8-3.6-27B-blend, предназначенная для локального запуска через llama.cpp, включая сценарии программирования, рассуждений и работы с изображениями. Базовая модель представляет собой равное смешение параметров Qwen3.6-27B и Qwen3.8-27B; конфигурация, токенизатор, процессор и шаблон диалога унаследованы от Qwen3.8-27B. Модель имеет размер 27B параметров, поддерживает текстовый и визуальный ввод, встроенную MTP-голову для speculative decoding и отдельный vision encoder с проектором. Доступны квантизации IQ3_S, Q4_K_M и Q5_K_M размером примерно от 12,60 до 19,54 ГБ; для изображений требуется дополнительный файл vision GGUF объёмом 0,93 ГБ. В README языки и размер контекстного окна самой модели не указаны; в проверенной конфигурации использовался контекст 8192 токенов. Сильные стороны модели — локальный запуск, поддержка изображений, режима рассуждений и ускорения через native MTP, а также успешные функциональные проверки текста, изображений, потоковой выдачи и конкурентных запросов. Приведённые показатели принятия черновых токенов являются отдельными результатами smoke-тестов и не подтверждают качество или реальное ускорение. Модель тестировалась на llama.cpp с поддержкой Qwen3.5 native MTP; для работы рекомендуется сохранять указанные в README параметры семплирования. Распространение заявлено по Apache License 2.0 с сохранением исходной лицензии Qwen и атрибуции JetBrains.

jakeatx выпустил экспериментальный компактный чекпойнт семейства Qwen3.8 Perian на архитектуре Qwen4ExpTextForCausalLM типа MoE. Модель предназначена для генерации текста в диалогах и многошаговых сценариях, включая рассуждения, код, работу с инструментами и поиск по контексту. Она содержит 3,6 млрд параметров и поддерживает контекст до 262 144 токенов. Это производный чекпойнт с упаковкой routed-expert весов в NVFP4 E2M1; таблица PLE n-грамм сохранена в BF16, остальные тензоры оставлены в исходной точности. По README, логический размер тензоров уменьшен на 43,26% относительно исходного чекпойнта. Карточка сообщает о проверках структуры, приближённого сохранения весов и генерации. Модель опубликована под лицензией Apache-2.0. В README указано требование установить включённый компактный runtime patch перед загрузкой; результаты проверки ограничены описанными в карточке тестами. Языковая специализация не заявлена.

SmolLM3-3B-trellis-3inst-4bpw-kernel — это квантованная версия языковой модели SmolLM3-3B, разработанной HuggingFaceTB. Модель предназначена для генерации текста, диалоговых приложений, локального инференса и интеграции с vLLM или Transformers, включая использование в coding agents через OpenAI-совместимый API. Поддерживаются английский, французский, испанский, итальянский, португальский, китайский, арабский и русский языки. Модель работает в текстовой модальности; базовая архитектура и точный размер контекста в README не раскрыты, однако в примере конфигурации указано ограничение контекста 4096 токенов. Веса сжаты до 4,0 бит на параметр методом GLQ: используются trellis-coded quantization QTIP TCQ в варианте 3inst, randomized Hadamard transform и LDLQ. Сжатые веса хранятся в памяти и декодируются на лету объединённым CUDA-ядром, что снижает требования к VRAM. Указаны средний SQNR весов 22,06 дБ и близкая к базовой perplexity на WikiText-2: 9,23 против 9,12 у bf16-версии. Для экономии памяти под длинный контекст доступна E8-квантизация KV-кэша, уменьшающая его размер примерно в четыре раза при 4-битном режиме. Ограничения включают необходимость CUDA-совместимой среды и glq версии не ниже 0.7.0; приведённые результаты AIME являются единичными оценками с заметной погрешностью. Модель распространяется по лицензии Apache-2.0.

Virtuoso-Small — компактная генеративная языковая модель Arcee.ai с 14 млрд параметров, созданная на базе Qwen2.5-14B. Она предназначена для выполнения инструкций, рассуждений и бизнес-задач, включая поддержку клиентов, создание контента и техническую помощь. Модель использует плотную архитектуру Qwen2 и поддерживает контекст до 131 072 токенов, а также интерфейс чата и вызова инструментов. Доступны локальное развертывание и доступ через API; в карточке также указана возможность получить версию GGUF. Модель распространяется по лицензии Apache-2.0.

Карточка модели DIYIN/Youtu-LLM-2B-Base на Hugging Face совпадает с карточкой tencent/Youtu-LLM-2B-Base, поэтому описание составлено по ней. Youtu-LLM-2B-Base — базовая авторегрессионная языковая модель Tencent из семейства Youtu-LLM. Она содержит около 1,96 млрд параметров, использует плотную архитектуру с Multi-head Latent Attention (MLA) и предназначена для генерации текста и дальнейшей адаптации под конкретные задачи. Модель принимает текст и генерирует продолжение; карточка описывает её возможности в рассуждениях, STEM, программировании, работе с длинным контекстом и агентных сценариях. Контекст модели составляет 131 072 токена. В README приведены результаты сравнительных тестов, в том числе по общим знаниям и агентным задачам; заявленные результаты не гарантируют аналогичного качества в каждом применении. Указана лицензия `other`, поэтому перед использованием следует проверить её условия в карточке модели. README не уточняет поддерживаемые естественные языки.

AbuYahya2/deepseek-marsad — объединённая текстовая модель, созданная автором репозитория с помощью mergekit и метода TIES на основе deepseek-ai/DeepSeek-R1-Distill-Llama-8B с включением NousResearch/Meta-Llama-3-8B-Instruct. Это плотная авторегрессионная архитектура LlamaForCausalLM примерно на 7,5 млрд параметров; файлы представлены в формате safetensors, библиотека для работы — Transformers. Модель предназначена для диалоговой генерации текста и поддерживает контекст до 131 072 токенов. Модель подходит для чат-ответов, математических задач, программирования и многошаговых рассуждений — эти возможности связаны с базовой моделью DeepSeek-R1-Distill-Llama-8B. В метаданных также отмечен интерфейс вызова инструментов. README описывает способ слияния, но не приводит оценки качества или отдельные результаты тестирования именно этой объединённой версии. Условия использования определяются лицензиями базовых моделей; сведения о лицензии в предоставленных данных отсутствуют.

AbuYahya2/deepseek-marsad-v2 — объединённая языковая модель, созданная с помощью mergekit методом TIES. В качестве базовой использована deepseek-ai/DeepSeek-R1-Distill-Llama-8B; в слияние также вошли arcee-ai/Llama-3.1-SuperNova-Lite, FuseAI/FuseChat-Llama-3.1-8B-Instruct и richardyoung/Llama-3.1-8B-Instruct-abliterated-obliteratus. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Среди возможных сценариев — ответы на вопросы, помощь с задачами на рассуждение и программирование, а также вызов инструментов через предусмотренный интерфейс. Заявленная длина контекста — 131 072 токена. Модель принимает текст и генерирует текст; в карточке указана библиотека Transformers и формат весов safetensors. Карточка не приводит результатов оценки качества или подробного описания ограничений. Лицензия в предоставленных данных не указана.