II.7DevOps, облако и эксплуатация IT-систем

NeoHorse-1-9B — текстовая причинно-следственная языковая модель TokenRhythm, дообученная на базе Qwen3.5-9B для работы с агентными системами. Модель имеет 7,2 млрд параметров, использует архитектуру Qwen3.5 и принимает только текст; визуальные веса в этом выпуске отсутствуют. Заявленная длина контекста — 262 144 токена. Модель предназначена для диалогов, следования инструкциям, вызова инструментов, программирования и рассуждений в текстовых агентных сценариях. В техническом отчёте авторы сообщают о среднем результате 69,04 по десяти тестам против 65,60 у базовой Qwen3.5-9B; это результаты авторской оценки, а не гарантия качества в конкретном применении. Доступны веса в формате safetensors и интерфейс для вызова инструментов. Лицензия — Apache-2.0.

Ornith 1.5 35B-A3B Uncensored — мультимодальная модель для диалогов, программирования и агентных задач, созданная на основе Ornith 1.5 35B-A3B. Разработчик применил к весам Ornith task-vector с модели Qwen3.6-35B-A3B-abliterated: изменены 102 совместимых тензора, а vision- и MTP-компоненты Ornith сохранены. Модель использует архитектуру Qwen3.5 MoE и файлы Safetensors; базовая модель содержит 35 млрд параметров. Контекст настроен на 262 тыс. токенов. Модель предназначена для текстовых диалогов, программирования, агентных сценариев и анализа изображений. В README заявлено, что дообучение Ornith для программирования и агентных задач сохранено, а склонность к отказам намеренно снижена. Локальная проверка на квантованной сборке Q4_K_M охватывала 20 промптов; её эвристические результаты не являются общим бенчмарком этой модели. Лицензия — Apache-2.0. Для запуска требуются актуальные версии Transformers, vLLM или SGLang; README указывает Transformers 5.8.1+, vLLM 0.19.1+ и SGLang 0.5.9+.

Pareto 26.10 Preview — мультимодальная составная модель компании Unbiased для исследовательских задач, программирования, агентных сценариев и задач общего назначения. По данным страницы модели в OpenRouter, она принимает текст и изображения и генерирует текст; поддерживает вызов инструментов и контекст до 1 048 576 токенов с выводом до 131 072 токенов. Это предварительная версия, поведение которой может измениться без предупреждения; для стабильного поведения разработчик рекомендует Pareto 26.9. Подробности об архитектуре, размере, поддерживаемых языках и лицензии в использованных источниках не подтверждены.

qwp4w3hyb/Phi-3-mini-4k-instruct-iMat-GGUF — это GGUF-квантизированная версия Phi-3-Mini-4K-Instruct, разработанной Microsoft. Модель содержит около 3,8 млрд параметров и предназначена для генерации текста на основе инструкций. Она обучалась на синтетических данных и отфильтрованных общедоступных веб-данных с акцентом на качество и задачи, требующие рассуждений, а также прошла supervised fine-tuning и direct preference optimization для улучшения следования инструкциям и безопасности. Модель рассчитана прежде всего на коммерческое и исследовательское использование на английском языке, включая среды с ограниченными ресурсами памяти и вычислений, сценарии с требованиями к низкой задержке, а также задачи программирования, математики, логики, понимания языка и здравого смысла. Поддерживается текстовая модальность и контекст до 4096 токенов. Версия представлена в формате GGUF для запуска с llama.cpp; квантизация выполнена с использованием importance matrix, доступны варианты K- и IQ-квантизации с уровнями от Q6_K до IQ1_S. Сильными сторонами являются компактный размер, пригодность для локального запуска и высокая производительность среди моделей с менее чем 13 млрд параметров, особенно в задачах кода, математики и логического рассуждения. Ограничениями остаются английская специализация, контекст в 4K токенов и общие риски языковых моделей: возможные ошибки, проблемы безопасности и предвзятость. Для критически важных сценариев требуется отдельная проверка качества и безопасности. Модель распространяется по лицензии MIT.

Qwen2.5-Coder-14B-Instruct — инструкция-ориентированная языковая модель для программирования от команды Qwen. Это плотная причинная Transformer-модель семейства Qwen2 с 14 млрд параметров по метаданным; карточка указывает архитектурные компоненты RoPE, SwiGLU и RMSNorm, 48 слоёв и grouped-query attention. Модель дообучена на базе Qwen/Qwen2.5-Coder-14B и предназначена для генерации и анализа кода в диалоговом формате. Модель помогает создавать код, рассуждать о нём и исправлять ошибки, а также подходит для разработки кодовых агентов и сохраняет общие способности, включая математику. Карточка описывает контекст до 131 072 токенов с применением YaRN для обработки входов длиннее 32 768 токенов; метаданные указывают нативный контекст 32 768 токенов. Для загрузки рекомендуется актуальная версия Transformers, для развёртывания — vLLM. Лицензия Apache 2.0. Среди ограничений: при включении статического YaRN масштабирования в vLLM производительность на коротких текстах может снизиться. Подробные результаты оценки и требования к памяти в предоставленной карточке не приведены.

Карточка модели xieloser/Qwen2.5-Coder-14B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-14B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-14B-Instruct — инструкция-ориентированная языковая модель для программирования от команды Qwen. Это плотная причинная Transformer-модель семейства Qwen2 с 14 млрд параметров по метаданным; карточка указывает архитектурные компоненты RoPE, SwiGLU и RMSNorm, 48 слоёв и grouped-query attention. Модель дообучена на базе Qwen/Qwen2.5-Coder-14B и предназначена для генерации и анализа кода в диалоговом формате. Модель помогает создавать код, рассуждать о нём и исправлять ошибки, а также подходит для разработки кодовых агентов и сохраняет общие способности, включая математику. Карточка описывает контекст до 131 072 токенов с применением YaRN для обработки входов длиннее 32 768 токенов; метаданные указывают нативный контекст 32 768 токенов. Для загрузки рекомендуется актуальная версия Transformers, для развёртывания — vLLM. Лицензия Apache 2.0. Среди ограничений: при включении статического YaRN масштабирования в vLLM производительность на коротких текстах может снизиться. Подробные результаты оценки и требования к памяти в предоставленной карточке не приведены.

Qwen2.5-Coder-14B-Instruct-GGUF — GGUF-квантизированные варианты инструкционной модели Qwen2.5-Coder-14B-Instruct, разработанной Qwen и опубликованной в формате квантований пользователем bartowski. Модель предназначена прежде всего для генерации, понимания и редактирования программного кода, а также для диалогового взаимодействия с инструкциями. Указан английский язык; поддержка других языков и мультимодальность в README не описаны. Базовая модель имеет размер 14B параметров, а опубликованные варианты используют форматы F16 и различные методы квантования llama.cpp: от Q8_0 и Q6 до Q3 и IQ-вариантов. Размер файлов составляет примерно от 7,34 до 29,55 ГБ. Квантования с более высокой точностью обеспечивают лучшее сохранение качества, а компактные варианты требуют меньше памяти, но могут заметно уступать в качестве. README не содержит сведений о размере контекстного окна и архитектурных деталях базовой модели. Модель подходит для локального запуска, в том числе через LM Studio и совместимые инструменты на базе llama.cpp. Для работы рекомендуется использовать шаблон сообщений Qwen с ролями system, user и assistant. Лицензия базовой модели — Apache 2.0; отдельные условия для квантованных файлов в README не указаны.

Qwen3.6-27B-Uncensored-Heretic-DSV4Pro-GLM52-SFT-GPT55-RL-Coding-VL-MTP-GGUF — экспериментальная модель в формате GGUF, опубликованная nerkyor на основе Merkyor/Qwen3.6-27B-DSV4Pro-Thinking-Distill и производной от Qwen3.6-27B DSV4Pro / GLM-5.2 SFT / GPT-5.5 RL Coding. Это плотная модель с 27 млрд параметров, ориентированная прежде всего на программирование, рассуждения, диалог и исследование снижения склонности к отказам. Заявлены поддержка английского и китайского языков, а также мультимодальный сценарий image-text-to-text через отдельный vision-language projector. Основной GGUF-файл предназначен для генерации текста и является единственным обязательным артефактом. Дополнительный mmproj подключает обработку изображений, а MTP draft GGUF может использоваться как боковая модель для speculative decoding. Доступны варианты квантования от Q3 до Q8 и исходный BF16; конкретный контекст в предоставленных данных не указан, однако для некоторых тестов упоминается режим 32K. Модель демонстрирует сильные результаты на MMLU, GPQA и LiveCodeBench: для варианта Q8 указаны 91,2% на MMLU500, 85,35% на GPQA198 и 81/100 на LCB100. Все заявленные GGUF-варианты показали нулевой показатель жёстких отказов на 140 тестовых запросах, но это исследовательский прокси, а не подтверждение безопасности или универсальной корректности. Ограничениями являются экспериментальный характер, возможные ошибки и зависимость качества от уровня квантования; модель не предназначена для неконтролируемой высокорисковой автоматизации. Лицензия указана как other, без дополнительных условий в предоставленной карточке.

Red Hat AI публикует открытые веса Qwen3.6-35B-A3B — постобученную причинную языковую модель с MoE-архитектурой и визуальным энкодером. Она предназначена для диалогов, программирования и агентных сценариев с вызовом инструментов, включая работу с изображениями и видео. Модель содержит 35 млрд параметров, из которых активируются 3 млрд; в языковой части 40 слоёв и 256 экспертов, из которых на токен задействуются 8 маршрутизируемых и один общий. Нативный контекст составляет 262 144 токена и может расширяться до 1 010 000. Среди заявленных сильных сторон — программирование на уровне репозитория, создание интерфейсов и сохранение контекста рассуждений между сообщениями. Модель поддерживает обработку изображений и видео, а примеры оценивания программирования включают английский и китайский; README не позволяет надёжно определить полный список поддерживаемых языков. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM и другими указанными средами. Лицензия — Apache-2.0. Для запуска на длинном контексте нужны значительные вычислительные ресурсы; README советует уменьшать контекст при нехватке памяти, сохраняя по возможности не менее 128K токенов.

OptimizeLLM/Qwen3.8-27B-heretic-MTP-FP8 — мультимодальная языковая модель, разработанная OptimizeLLM на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации и анализа текста, технических и диалоговых сценариев, работы с инструментами, а также обработки изображений и видео. Она ориентирована на использование через vLLM и поддерживает спекулятивное декодирование MTP. В основе лежит плотная модель размером 27,8 млрд параметров с 64 слоями и гибридной архитектурой, объединяющей линейное и полное внимание. Веса квантизированы в FP8 E4M3 с блочным масштабированием 128×128, при этом vision tower, MTP-головы, lm_head, embed_tokens и некоторые проекции сохранены в BF16. Размер модели составляет около 30 ГБ; используются официальный токенизатор Qwen3.8-27B и мультимодальные входы изображений и видео. Длина контекста в README не указана. Ключевая особенность — abliteration с помощью HERETIC, удаляющая склонность базовой модели отказывать в ответах. Поэтому модель подходит для сценариев, где требуется отвечать на технические вопросы, включая темы информационной безопасности, которые исходная модель могла бы отклонять. При этом abliteration не делает модель нейтральной: она может сохранять исходные мировоззренческие и политические склонности, а отсутствие отказов повышает требования к контролю применения. Для запуска рекомендуется GPU с достаточным объёмом памяти; заявлено размещение на одной карте 96 ГБ, а в vLLM требуется ограничить max-num-seqs до 32. Производительность измерялась на RTX PRO 6000 Blackwell и составляла около 122 токенов в секунду при MTP=4, но зависит от нагрузки. Модель распространяется по лицензии Apache-2.0. README не содержит полного перечня поддерживаемых языков и точного размера контекста.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-6Bit — это 6-битная версия модели семейства Qwen3.8 с 27 млрд параметров, основанная на модели DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion. Оригинальную модель и объединение весов GAIN разработал DavidAU, а квантование, интеграцию MTP и упаковку для Apple MLX выполнила Solstice-AI. В карточке заявлена поддержка английского и китайского языков, а также формат image-text-to-text, однако подробности о фактических мультимодальных возможностях не приведены. Модель предназначена для рассуждений, программирования, агентных задач, отладки репозиториев, следования сложным инструкциям и длительных рабочих процессов. Она использует гибридную архитектуру Qwen 3.8: около 75% слоёв составляют блоки Gated Delta Recurrent Network с линейным вниманием, а около 25% — блоки Grouped-Query Attention. Заявлен контекст до 262 144 токенов. Квантование выполнено в 6 бит с affine scaling и group_size 64; заявленный объём памяти составляет около 21,85 ГБ, что ориентирует модель на Mac с Apple Silicon и унифицированной памятью от 32 ГБ. К сильным сторонам относятся встроенный 15-тензорный модуль Multi-Token Prediction, совместимость с DSpark speculative decoding и заявленное ускорение генерации до 22–52 токенов в секунду на Apple Silicon. README также сообщает о высоких результатах в SWE-bench Pro, LiveCodeBench, OSWorld, AndroidWorld, ARC и других тестах, включая превосходство над Claude Opus 4.6 Max, но эти утверждения следует воспринимать как результаты, заявленные авторами карточки. Возможные ограничения — высокая потребность в памяти, привязка оптимизаций к Apple MLX и отсутствие независимой верификации приведённых сравнений. Указанная лицензия — Apache 2.0.

continuum-ai/qwen3-coder-30b-a3b-compacted-19b-256k — компактная версия Qwen3-Coder-30B-A3B-Instruct, разработанная на основе модели Qwen. При создании удалено 35% MoE-экспертов с использованием калибровочного ранжирования по частоте активаций. Модель предназначена прежде всего для генерации, дополнения и инфиллинга кода, агентного программирования и вызова функций, включая локальный и периферийный запуск на потребительских GPU, компьютерах Apple и мобильных устройствах. Это разреженная Mixture-of-Experts-модель с заявленным классом 30B и компактированной эффективной конфигурацией 19B. Сохраняет контекст до 256K токенов и работает с текстом; в README заявлена поддержка английского, китайского и широкого набора языков программирования, включая Python, JavaScript, TypeScript, C, C++, Java, Kotlin, Go, Rust, Swift, PHP, Ruby, SQL, HTML и CSS. Доступны квантованные форматы GGUF Q4_K_M, Q5_K_M и Q8_0 для llama.cpp, Ollama и LM Studio, а также варианты для локального запуска через Transformers и MLX. На HumanEval модель получила 88,4 балла против 92,1 у исходной версии, а на HumanEval+ — 85,4 против 88,4. К сильным сторонам относятся сочетание кодировочных возможностей 30B-класса с меньшими требованиями к памяти, длинный контекст и варианты для локального выполнения. Ограничения включают неполное восстановление качества исходной модели, отсутствие отдельного измерения обобщения на языки, отличные от Python, отсутствие тестирования генерации длиннее 32K токенов и пока не измеренные результаты на MBPP+ и LiveCodeBench. Калибровка выполнялась на 300 примерах Python. Модель распространяется по лицензии Apache-2.0. В README также заявлена криптографически проверяемая цепочка происхождения через ForgeAlloy, однако доверие к аттестации обозначено как self-attested.

Signal-3.8-27B-NVFP4-Blackwell-DFlash2-Ultra-V1.0 — квантованная NVFP4-версия модели Signal-3.8-27B от agentionai, созданной на базе Qwen3.8-27B от Qwen. Это GGUF-сборка для запуска через llama.cpp CUDA на одной видеокарте RTX 5090 с 32 ГБ памяти и поддержкой спекулятивного декодирования DFlash2. Модель предназначена для рассуждений, программирования, агентских задач, структурированной генерации и диалогов; заявлена также поддержка изображений через отдельный vision-проектор. Основная модель занимает около 16,9 ГБ, включает NVFP4-квантованный корпус, высокоточные Q8_0-головы и MTP-голову. Доступен контекст до 262 144 токенов, а языковая поддержка обозначена как multilingual, без уточнения конкретного набора языков. Минимально изменённая тонкая настройка отличается от базовой модели только lm_head.weight, что позволяет использовать согласованный DFlash2-драфтер без изменения результатов декодирования. На заявленном оборудовании сборка показывает высокую точность в тестах GSM8K, хорошие результаты в кодовых агентских задачах и ускорение декодирования благодаря speculative decoding. Сильные стороны модели — эффективность на задачах рассуждения и программирования, большой контекст, совместимость с одной RTX 5090 и ускоренное декодирование. Ограничение — повышенная многословность в открытом диалоге по сравнению с альтернативной сборкой GAIN; для длинных генераций не рекомендуется жадное декодирование, а для сложных задач требуется не менее 4096 токенов вывода. Для обработки изображений необходим отдельный проектор mmproj-BF16, при этом повторное использование кэша промпта отключается. Распространяется по лицензии Apache-2.0.

Tess-4-27B — мультимодальная модель на 27 млрд параметров, разработанная Migel Tissera на основе Qwen/Qwen3.6-27B. Это дообученная плотная модель семейства Qwen3.5 для диалогов, рассуждений и агентной работы с инструментами; она принимает текст и изображения и генерирует текст. Модель рассчитана на программирование, анализ больших кодовых баз и документов, планирование и решение многошаговых технических задач. В README указано обучение на трассах агентной работы с контекстом 64 тыс. токенов; это не подтверждает максимальную длину контекста при инференсе. Разработчик описывает стиль модели как сдержанные ответы на простые запросы и более подробное обдумывание сложных задач. Она поддерживает интерфейс вызова инструментов и унаследовала визуальную часть базовой модели Qwen. Модель доступна в формате BF16 safetensors для Transformers, vLLM и SGLang; README также указывает отдельные репозитории GGUF-квантований. Лицензия — Apache 2.0.

Tess-4-9B — мультимодальная модель с 9,65 млрд параметров, созданная Мигелем Тиссера на базе Qwen/Qwen3.5-9B-Base. Это плотная архитектура Qwen3.5 для генерации текста по текстовым и визуальным входам; веса доступны в формате BF16 Safetensors и лицензированы по Apache 2.0. Модель предназначена для агентного программирования, анализа больших кодовых баз и документов, сложных задач по математике и естественным наукам, отладки и технических рассуждений. Она дообучена на 64K-токенных агентных трассах и поддерживает вызов инструментов, чат и обработку изображений. В карточке приведены результаты тестов, в том числе 88% на GSM8K и 62% на GPQA Diamond при лимите генерации 24K токенов; отдельные сложные примеры выигрывали от увеличения лимита до 48K. Для корректной работы следует сохранять встроенный шаблон чата Qwen3.5 и разрешать большой бюджет генерации на трудных задачах. Полные веса BF16 занимают около 19,3 ГБ; совместимость требует актуальной версии Transformers с поддержкой Qwen3.5. Упомянутые в README сборки GGUF содержат только текстовую модель и не поддерживают унаследованный путь обработки изображений.

CodeLlama-13B-fp16 — преобразованная в формат Transformers/Hugging Face версия модели Code Llama от Meta, опубликованная TheBloke. Это авторегрессионная плотная трансформерная модель семейства Llama с 12,9 млрд параметров; веса представлены в FP16 и safetensors. Модель предназначена для генерации и понимания кода, включая дополнение фрагментов внутри текста. Вход и выход — текст; модель рассчитана на английский язык и языки программирования. Контекст модели составляет 16 384 токена. Модель подходит для генерации кода по описанию, автодополнения, объяснения и преобразования программного кода. В README указана лицензия Llama 2 с пользовательскими коммерческими условиями Meta. Для корректной загрузки этой версии требуется trust_remote_code=True. Ответы могут быть неточными или нежелательными; перед внедрением в приложение рекомендуется проверка и настройка под конкретный сценарий.

CrystalMistral_7b_v.02 — языковая модель, созданная Crystalcareai объединением Crystalcareai/Mistral-Evol-Coder и Crystalcareai/mistral-InstructGPT с помощью LazyMergekit и метода SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста, в том числе для сценариев, сочетающих инструкции и задачи, связанные с кодом. В репозитории указаны веса Safetensors; конфигурация слияния использует тип данных bfloat16. Лицензия в предоставленных данных не указана.

Focus — производная текстовая модель Jaidchen на базе Qwen/Qwen3.6-27B, представленная в архитектуре Qwen3_5ForCausalLM и содержащая 22,3 млрд параметров. Она предназначена для генерации текста, программирования и агентных сценариев с чатом и интерфейсом вызова инструментов. Контекст составляет до 262 144 токенов. Из модели удалены компоненты обработки изображений и видео: соответствующие данные могут оставаться в контексте, но модель не интерпретирует их. Автор заявляет о снижении требований к хранению, памяти и времени вывода без потери качества; независимые результаты сравнения в доступной карточке не приведены. Шаблон чата поддерживает роли developer и system, сохранение исторических рассуждений и разные формы вызовов инструментов. Совместимость зависит от движка: карточка указывает поддержку в SGLang версии 0.5.17 и новее и vLLM версии 0.26.0 и новее; другие движки могут требовать адаптации и вести себя непредсказуемо. По умолчанию случайная выборка отключена, что ограничивает пригодность для длинного творческого письма и развлекательного чата. Лицензия — Apache-2.0.

Карточка модели manaladan6/GLM-4.5-Air на Hugging Face совпадает с карточкой zai-org/GLM-4.5-Air, поэтому описание составлено по ней. GLM-4.5-Air — компактная гибридная модель серии GLM-4.5 от Zhipu AI, разработанная для интеллектуальных агентов. Она объединяет генерацию текста, рассуждение, программирование и работу с инструментами; поддерживает режим обдумывания для сложных запросов и вызовов инструментов, а также режим быстрого ответа. По карточке модели, у GLM-4.5-Air 106 млрд параметров, из которых активны 12 млрд. Метаданные Hugging Face указывают архитектуру GLM4 MoE, класс Glm4MoeForCausalLM, 8,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалоговых приложений, задач программирования и агентных сценариев с использованием инструментов. Она поддерживает английский и китайский языки и распространяется в формате Safetensors; библиотека Transformers указана как основная. Лицензия MIT разрешает коммерческое использование и дальнейшую разработку. Значения общего и активного числа параметров из README расходятся с числом параметров в метаданных, поэтому размер следует считать противоречивым.

GLM-4.5-GGUF — это GGUF-версия фундаментальной языковой модели GLM-4.5, разработанной Z.ai. Модель предназначена для создания интеллектуальных агентов и объединяет возможности рассуждения, программирования и взаимодействия с инструментами. Она поддерживает генерацию текста и рассчитана прежде всего на англоязычные и китайскоязычные сценарии. GLM-4.5 — гибридная reasoning-модель с двумя режимами работы: thinking mode для сложных рассуждений и использования инструментов и non-thinking mode для быстрых ответов. В модели 355 млрд общих параметров, из которых активно используется 32 млрд; архитектура построена с применением mixture-of-experts. Контекстное окно, дополнительные модальности и точные характеристики GGUF-квантизации в README не указаны. К сильным сторонам относятся сочетание рассуждений, программирования и агентных функций, а также возможность коммерческого использования и доработки. Ограничения включают высокие требования к вычислительным ресурсам исходной модели и отсутствие в предоставленных данных подробностей о конкретной GGUF-квантизации и совместимости с оборудованием. Модель распространяется под лицензией MIT.

Карточка модели ahmed-amedo-1/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели ANGELOSEGRETO/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели Ishowbackup/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели LiveUK/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели wepsitesi/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

GLM-5.3-Flash-GGUF — это GGUF-версия модели GLM-5.3-Flash, разработанной командой GLM-5 компании Z.ai; представленный репозиторий основан на модели zai-org/GLM-5.3-Flash и подготовлен с использованием методов Unsloth Dynamic 3.0. Модель предназначена для генерации текста, программирования, агентских сценариев и задач, требующих работы с длинным контекстом. Она поддерживает английский и китайский языки и относится к мультимодальным моделям, однако README не уточняет полный набор поддерживаемых модальностей и особенности их использования именно в данной GGUF-сборке. Архитектура сочетает разреженное и линейное внимание, а также использует Manifold-Constrained Hyper-Connections. Модель содержит 320 млрд параметров, из которых 18 млрд активируются при обработке запроса. Обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. Заявлены повышенная эффективность, снижение стоимости обработки длинного контекста и сильные результаты в задачах программирования и использования инструментов; в README также указано контекстное окно до 300 000 токенов в отдельных оценках и до 1 млн токенов в NL2Repo. К ограничениям относятся высокие требования к ресурсам исходной модели, возможные потери качества из-за квантования и необходимость совместимого программного обеспечения: для запуска рекомендуется использовать llama.cpp с указанными изменениями или Unsloth Desktop. Конкретный формат квантования и требования к оперативной памяти в README не указаны. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-TQ3_4S — текстовая GGUF-квантизация модели zai-org/GLM-5.3-Flash, подготовленная автором репозитория для запуска через llama.cpp с поддержкой TurboQuant. Используется архитектура Mixture of Experts: активны 8 из 288 маршрутизируемых экспертов на токен. Формат TQ3_4S имеет номинальную точность около 4 бит на вес; маршрутизируемые эксперты хранятся в 2-битном формате, внимание и общие эксперты — в 6-битном, а нормализации и смещения — в FP32. Веса занимают около 101,6 ГиБ и распределены по четырём GGUF-файлам. Модель предназначена для диалоговой генерации текста, программирования и вызова инструментов. Сохранённая MTP (NextN) голова позволяет использовать спекулятивное декодирование без отдельной черновой модели. README приводит результаты тестов на NVIDIA GB10/DGX Spark и рекомендует контекст 40 960 токенов в поставляемой конфигурации; заявлена проверенная работа до 512 тыс. токенов на этом оборудовании. Поддерживаются английский и китайский языки. Эта сборка не содержит vision tower, поэтому не принимает изображения, хотя базовая модель поддерживает обработку изображений. Для работы необходима публичная ветка TurboQuant runtime: основной llama.cpp не поддерживает тип тензора TQ3_4S. README отмечает необходимость пользовательского шаблона чата. Квантизация сокращает размер весов, но её влияние на качество может зависеть от задачи и оборудования; приведённые оценки получены на одной конфигурации и не гарантируют аналогичных результатов в других условиях. Лицензия — MIT.

granite-34b-code-instruct-GGUF — это квантизированная GGUF-версия Granite-34B-Code-Instruct, разработанной IBM на базе ibm-granite/granite-34b-code-base. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и прежде всего для задач программирования: написания, объяснения и исправления кода, решения математических задач, работы с SQL и сценариев, связанных с function calling и ассистентами разработчика. Модель имеет 34 миллиарда параметров и работает с текстовыми данными. В README приведён шаблон диалога с системным сообщением, вопросом и ответом. Заявлены результаты на HumanEvalPack для Python, JavaScript, Java, Go, C++, Rust; показатели pass@1 для генерации кода составляют от 41,5% до 62,8%, однако указано, что эти результаты не подтверждены. Для локального запуска доступны варианты Q8_0, Q6_K, Q5_K_M и Q5_K_S размером примерно от 23,40 до 35,99 ГБ; Q6_K и Q5_K_M отмечены как рекомендуемые по соотношению качества и размера. Сильными сторонами являются специализация на программировании, поддержка нескольких языков программирования и возможность локального использования в формате GGUF. Ограничения включают высокие требования к дисковому пространству и вычислительным ресурсам, зависимость качества от выбранного уровня квантизации, а также отсутствие в предоставленных данных сведений о размере контекстного окна, полном наборе поддерживаемых естественных языков и системных требованиях. Модель распространяется по лицензии Apache 2.0.

Hy3 preview — диалоговая модель Tencent Hy Team на архитектуре Mixture-of-Experts с поддержкой вызова инструментов. Она предназначена для сложных рассуждений, следования инструкциям, анализа длинного контекста, программирования и агентных сценариев, включая поиск и работу в среде разработки. В README указано 295 млрд параметров, из которых активны 21 млрд, а также дополнительные 3,8 млрд параметров MTP-слоя. Модель работает с текстом; заявленная длина контекста в метаданных — 262 144 токена. Для развёртывания README рекомендует vLLM или SGLang и серверное оборудование с большим объёмом памяти. Репозиторий содержит веса Safetensors, библиотека — Transformers. Tencent сообщает о результатах на тестах STEM и математики, следования инструкциям, кодирования и агентного поиска. Это предварительная версия, поэтому результаты бенчмарков не гарантируют качество в конкретных задачах. Лицензия обозначена как other; условия использования следует сверить с лицензией в репозитории модели.