II.3Рефакторинг, миграция и модернизация

Misted v2 7B — языковая модель на архитектуре Mistral, созданная автором репозитория hflog слиянием нескольких моделей Mistral и misted-7b методом SLERP. Модель предназначена для генерации текста, написания кода, выполнения инструкций, решения загадок и диалогового общения. Модель содержит 7,1 млрд параметров, работает с контекстом до 32 768 токенов и распространяется в формате safetensors для Transformers. В метаданных указаны английский и испанский языки. Модель доступна по лицензии Apache 2.0.

HarimxChoi/WarpQuant-Qwen3.8-27B-R16E4H4-Text — текстовая версия Qwen3.8-27B, подготовленная с применением WarpQuant. Репозиторий содержит причинную языковую модель, токенизатор и шаблон чата; по метаданным это плотная архитектура семейства Qwen, предназначенная для генерации текста и диалогов. Указано 22,3 млрд параметров в метаданных и около 26,9 млрд текстовых параметров в README. Контекст — до 262 144 токенов. Ключи проекций квантованы до 3 бит с вращением Адамара и восстановлением отдельных слабых столбцов; эмбеддинги токенов и выходная голова используют групповой INT4. В первой публикации восстановленные тензоры хранятся в BF16 для запуска через Transformers, поэтому фактический размер файлов больше аналитического упакованного представления. README приводит результаты сравнений на языковых и тестовых наборах и сообщает о совпадении последних токенных логитов с исходной моделью на проверенном промпте. Модель рассчитана на текстовую генерацию, чат, рассуждения и задачи вроде ответов на вопросы и программирования. В отличие от исходной мультимодальной версии, в этой сборке отсутствуют модуль обработки изображений и слой MTP. Лицензия — Apache-2.0.

Yi-1.5-9B-32K — плотная авторегрессионная языковая модель семейства Llama, разработанная компанией 01.AI. Это базовая версия модели Yi-1.5 с 8,6 млрд параметров и контекстным окном до 32 768 токенов. Семейство Yi-1.5 прошло дополнительное предобучение на высококачественном корпусе объёмом 500 млрд токенов и настройку на 3 млн разнообразных примеров. Модель предназначена для генерации текста и может служить основой для задач понимания языка, чтения и ответов по тексту, рассуждений, математики, программирования и следования инструкциям. Карточка семейства отмечает улучшения в этих задачах относительно Yi; конкретные сценарии зависят от приложения и настроек генерации. Доступна в формате safetensors и выпущена под лицензией Apache 2.0. Карточка не приводит отдельной оценки качества именно версии с контекстом 32K; как базовая модель, она может требовать дополнительной настройки для диалогового или специализированного применения.

LordNeel/Agents-A1-GGUF — набор высококачественных квантованных GGUF-версий модели InternScience/Agents-A1, агентской модели на архитектуре Qwen3.5-MoE с примерно 35 млрд параметров. Модель предназначена для генерации текста, выполнения инструкций, программирования и чат-сценариев в среде llama.cpp. Для обработки изображений доступны совместимые квантизации с отдельным BF16-модулем mmproj на базе Qwen3VL, поэтому модель поддерживает мультимодальные сценарии с визуальным вводом. В набор входят варианты Q3_K_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K, Q8_0 и NVFP4 размером примерно от 16,76 до 36,90 ГБ, а также варианты с интегрированным блоком MTP для speculative decoding. IQ4_XS ориентирован на компактность и совместимость, Q6_K обеспечивает наиболее близкое к BF16 качество среди протестированных вариантов, а NVFP4 предназначен для ускоренной работы на видеокартах NVIDIA Blackwell при наличии поддержки соответствующего типа данных. В опубликованных тестах на RTX PRO 6000 Blackwell скорость генерации составляла примерно 222,7–269 токенов в секунду в зависимости от квантизации; результаты приведены для конкретной конфигурации и не гарантируют аналогичную производительность на другом оборудовании. Для запуска требуется llama.cpp с поддержкой архитектуры qwen35moe; некоторые варианты требуют поддержки GGML_TYPE_NVFP4, а мультимодальные версии — соответствующего mmproj. MTP-варианты могут ускорять генерацию, но их эффективность зависит от настроек speculative decoding и оборудования. README не содержит сведений о языках обучения и максимальном размере контекста, поэтому эти характеристики нельзя достоверно указать. Модель распространяется по лицензии Apache 2.0.

Atom-80B — диалоговая языковая модель VANTA Research, дообученная на базе Qwen3-Next-80B-A3B-Instruct для совместной работы с человеком. Это пятая модель проекта Atom, ориентированного на модели с дружелюбным и ориентированным на сотрудничество стилем общения. Модель использует архитектуру Qwen3 Next с разреженной схемой Mixture of Experts (MoE); в метаданных указано 2,3 млрд параметров и контекст до 262 144 токенов. Работает с текстом и предназначена для генерации ответов в формате диалога. Модель подходит для совместного мозгового штурма, синтеза исследовательских материалов, объяснения технических тем, обсуждения кода и творческого решения задач. Разработчик заявляет о сильных сторонах в многошаговых рассуждениях, совместном выполнении задач и устойчивом стиле общения. README не приводит результаты независимых оценок качества, поэтому фактические утверждения следует проверять; модель не предназначена для принятия решений с высокими ставками без контроля человека и не должна заменять медицинскую, юридическую или финансовую консультацию. Лицензия — Apache-2.0.

Statuo выпустил Deepseeker-Kunou-Qwen2.5-14b — объединение языковых моделей, созданное с помощью mergekit и линейного слияния. В него вошли Sao10K/14B-Qwen2.5-Kunou-v1 и deepseek-ai/DeepSeek-R1-Distill-Qwen-14B; итоговая модель имеет архитектуру Qwen2ForCausalLM и содержит 14 млрд параметров. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения, математики и программирования. Разработчик отмечает, что она кажется достаточно интеллектуальной, но может уступать в творческом письме; оценка улучшения относительно Kunou субъективна. Поддерживается контекст до 131 072 токенов, файлы представлены в формате safetensors. Лицензия в метаданных — Apache-2.0; README также упоминает Qwen License, поэтому условия лицензирования стоит сверить с файлами репозитория.

zumalabs/DeepSeek-R1-Distill-Llama-70B-FP8 — это вариант модели DeepSeek-R1-Distill-Llama-70B, опубликованный Zuma Labs на Hugging Face. Исходную модель разработала DeepSeek; она создана методом дообучения открытой Llama 3.3 70B Instruct на данных, сгенерированных DeepSeek-R1, для усиления способностей к рассуждению. Модель предназначена для генерации текста, решения математических и логических задач, программирования, анализа и диалоговых сценариев. Архитектура — LlamaForCausalLM с примерно 71 млрд параметров, 80 слоями, 64 attention heads и 8 key-value heads. Базовая версия поддерживает контекст до 131 072 токенов. Модель текстовая; конкретный набор языков и отдельные характеристики качества для репозитория Zuma Labs не документированы. Данный вариант распространяется в формате Safetensors с представлением FP8 E4M3 при заявленном размере около 71B параметров, что может снизить требования к памяти по сравнению с полноразмерными форматами, но требует совместимого программного и аппаратного стека. Сильные стороны — развитое пошаговое рассуждение и возможности базовой Llama 3.3 70B Instruct. Ограничения включают высокие требования к вычислительным ресурсам, возможные ошибки и нестабильность ответов, а также отсутствие отдельной подробной карточки, тестов и описания ограничений именно для FP8-конверсии Zuma Labs. Для серии DeepSeek-R1 разработчик рекомендует температуру 0,5–0,7 и предупреждает о возможных повторениях или несвязном выводе при неподходящих настройках. Код и веса серии DeepSeek-R1 заявлены под лицензией MIT, однако модель основана на Llama 3.3 70B Instruct, для которой действует исходная лицензия Llama 3.3; коммерческое использование и производные работы следует проверять с учётом условий обеих лицензий.

PiehSoft подготовил квантованную версию DeepSeek-R1-Distill-Llama-70B в формате GGUF для запуска на видеокартах NVIDIA Blackwell. Это текстовая диалоговая модель на основе дистиллированной модели DeepSeek с архитектурой Llama; веса квантованы в NVFP4, что снижает требования к памяти и рассчитано на ускорение генерации на совместимом оборудовании. В README указана длина контекста 131072 токена. Модель подходит для диалогов, математических рассуждений, программирования и ответов на сложные вопросы. Она принимает текст и генерирует текст. По данным карточки, квантование выполнено с использованием 128 калибровочных примеров, после чего веса преобразованы в GGUF; лицензия — MIT. Это неофициальная конверсия сообщества. В README отмечены незрелость поддержки NVFP4 в экосистеме GGUF и возможные изменения производительности по мере развития реализации; результаты также зависят от совместимого оборудования и программного обеспечения.

DeepSeek-V3-Base — базовая языковая модель семейства DeepSeek-V3, разработанная командой DeepSeek AI. Это Mixture-of-Experts (MoE) модель с 671 млрд общих параметров, из которых 37 млрд активируются для каждого токена. Модель предварительно обучена на 14,8 трлн разнообразных токенов и предназначена для использования в качестве основы для генерации и понимания текста, а также последующей адаптации под прикладные задачи. В архитектуре применяются Multi-head Latent Attention (MLA) и DeepSeekMoE. Для балансировки нагрузки используется стратегия без вспомогательной функции потерь, а обучение дополнено целью Multi-Token Prediction, которая может применяться и для ускорения вывода посредством speculative decoding. Обучение проводилось с использованием смешанной точности FP8; заявлены высокая эффективность обучения и стабильность процесса. Длина контекста в предоставленных данных не указана, как и точный перечень поддерживаемых языков и сведения о мультимодальности. Сильными сторонами модели являются крупный общий объём параметров, высокая вычислительная эффективность за счёт разреженной активации экспертов и заявленная конкурентоспособность среди открытых базовых моделей. Ограничения включают значительные требования к инфраструктуре для запуска и отсутствие в предоставленном описании подробных характеристик инференса, языкового покрытия и результатов по отдельным прикладным сценариям. Код распространяется по лицензии MIT, а сама модель — по Model Agreement.

Dirk-Qwen3.8-27B-GGUF — это GGUF-квантизированная версия базовой модели Qwen/Qwen3.8-27B, подготовленная разработчиком peculiar-ragdoll. Модель представляет собой плотную vision-language модель с 27 млрд параметров, поддерживающую работу с текстом и изображениями. В карточке заявлены английский и китайский языки, а также совместимость с llama.cpp. Модель предназначена для диалогов, анализа изображений, генерации кода и агентских сценариев. Она использует модифицированный Sharp chat template с настройкой краткости ответов и поддерживает Multi-Token Prediction (MTP) для ускорения генерации средствами speculative decoding. По умолчанию используется умеренный уровень рассуждений; его можно изменить через chat_template_kwargs, выбрав low, medium или xhigh. Поддерживается отключение рассуждений. Основное отличие от исходной модели заключается в шаблоне чата: веса и MTP-компоненты сохранены без изменений. Доступны варианты квантования от примерно 2 до 4 бит, включая GSQ-RCO и Unsloth Dynamic 3.0, с размерами файлов примерно от 8,8 до 17,6 ГБ. Это позволяет запускать модель на видеокартах с 12, 16 и 24 ГБ памяти, хотя более сильное квантование может снижать качество, а доступный объём памяти также зависит от длины контекста. Точный максимальный размер контекста в карточке не указан. Лицензия — Apache 2.0.

QuantFactory/dolphin-2.9.1-yi-1.5-9b-GGUF — это квантизированная с помощью llama.cpp версия модели cognitivecomputations/dolphin-2.9.1-yi-1.5-9b, разработанной и обученной Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на базе Yi-1.5-9B. Модель предназначена для генерации текста, диалогов, выполнения инструкций, программирования, математических задач, начальных агентских сценариев и function calling. Модель относится к классу авторегрессионных текстовых моделей с архитектурой LlamaForCausalLM и использует формат промптов ChatML. Указан размер базовой модели — 9 миллиардов параметров; исходная модель имеет контекст 4K, а дообучение выполнялось на последовательностях длиной 12K с использованием RoPE theta 1000000.0. README не указывает поддерживаемые языки и точный вариант квантизации GGUF. Сильными сторонами заявлены широкий набор инструкционных, разговорных и кодовых навыков, поддержка function calling и результат 70,9 на MMLU для версии 9B. Модель описывается как uncensored: из обучающих данных удалялись alignment и bias, поэтому она может быть чрезмерно послушной и генерировать небезопасный или неэтичный контент. Перед использованием в сервисах рекомендуется добавить собственный слой выравнивания и фильтрации. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование.

FuseChat-Llama-3.1-8B-SFT — чат-модель FuseAI на архитектуре Llama 3.1 с плотной причинной языковой моделью примерно на 7,5 млрд параметров. Это SFT-этап FuseChat-3.0: модель Llama-3.1-8B-Instruct дообучена в рамках подхода неявного объединения возможностей нескольких более крупных языковых моделей. В метаданных указан контекст до 131 072 токенов и поддержка чата. Модель предназначена для диалога и выполнения инструкций, а также для общих задач, математики, программирования и китайского языка. В README описано, что итоговый подход FuseChat-3.0 сочетает SFT и оптимизацию предпочтений DPO; при этом данная карточка относится именно к варианту SFT. Модель опубликована в формате safetensors и создана на основе датасета FuseAI/FuseChat-3.0-SFT-Data. Лицензия в предоставленных данных не указана.

GLM-4.7-Flash-NVFP4-GGUF — квантизированная версия языковой модели GLM-4.7-Flash, разработанной Zhipu AI и представленной в формате GGUF. Это модель архитектуры Mixture-of-Experts на базе DeepSeek2 с Multi-head Latent Attention: около 30 млрд параметров всего, из которых примерно 3,2 млрд активны на токен; используются 64 маршрутизируемых эксперта и один общий. Контекст составляет 200 000 токенов. Модель предназначена для генерации текста в диалоге, рассуждений и программирования на английском и китайском языках. Квантизация NVFP4 до примерно 4,53 бит на вес уменьшает размер файла до 15,79 ГБ и рассчитана на эффективный запуск на GPU NVIDIA Blackwell. Режим рассуждений включён по умолчанию; модель не имеет визуального энкодера. Это преобразование базовой модели в формат GGUF с квантизацией NVFP4. Репозиторий распространяется по лицензии MIT. Качество после квантизации может отличаться от исходной модели; для работы с NVFP4 требуется совместимое программное и аппаратное обеспечение.

Hagwell/GLM-5.3-Flash-GGUF — GGUF-версия модели GLM-5.3-Flash, разработанной командой GLM-5 и распространяемой в экосистеме Z.ai; репозиторий также связан с инструментами Unsloth. Модель предназначена для генерации текста, программирования, агентских сценариев и задач, требующих работы с длинным контекстом и мультимодальными данными. GLM-5.3-Flash — первая нативно мультимодальная модель серии GLM-5. Она содержит 320 млрд общих параметров, из которых 18 млрд активируются при обработке запроса. Архитектура сочетает разреженное и линейное внимание для снижения стоимости обслуживания длинного контекста и использует Manifold-Constrained Hyper-Connections для повышения эффективности масштабирования. Модель обучалась на мультимодальном корпусе объёмом 30 трлн токенов и поддерживает английский и китайский языки. В README заявлены улучшения относительно GLM-5.2, особенно в программировании и агентских задачах. Ключевые ограничения связаны с форматом и совместимостью: для запуска рекомендуется использовать llama.cpp с указанными изменениями или приложение Unsloth Desktop. README не содержит подробных сведений о конкретных вариантах квантизации, требованиях к памяти, максимальном контексте для данного GGUF-файла или ограничениях качества. Модель распространяется по лицензии MIT.

MLX-версия модели K2-Horizon-3.7B от IFM, подготовленная сообществом mlx-community для компьютеров Apple с Apple Silicon. Это плотная авторегрессионная языковая модель с 3,7 млрд параметров и контекстом 524 288 токенов, предназначенная для генерации текста и диалогов. Сборка использует веса bf16 без квантизации и формат safetensors; размер на диске — около 10,1 ГБ. Модель подходит для ответов на вопросы, рассуждений, программирования и агентных сценариев в приложениях на базе MLX. Реализация архитектуры K2-Horizon поставляется вместе с репозиторием, поскольку поддержка этой архитектуры в mlx-lm может зависеть от версии библиотеки. Для запуска требуется mlx-lm; в некоторых версиях необходимо разрешить загрузку удалённого кода. Длинный контекст требует значительной дополнительной памяти для KV-кэша. Конвертация сверялась с реализацией IFM на PyTorch. Лицензия — Apache-2.0.

HERETIC — модель на базе Mistral-Nemo 2407 с 12 млрд параметров, представленная в формате GGUF. Она разработана Andycurrent как reasoning-ориентированный вариант базовой архитектуры Mistral-Nemo и предназначена для локального запуска через llama.cpp и совместимые инструменты. Модель распространяется в виде квантованных сборок, оптимизированных для эффективного вывода на локальном оборудовании. Модель ориентирована на диалоговые сценарии, выполнение инструкций, пошаговое аналитическое рассуждение, подготовку развёрнутых объяснений, помощь в программировании и технических вопросах, мозговой штурм, творческое письмо, prompt engineering и эксперименты с LLM. Указан английский язык. Поддерживаются текстовые запросы и ответы; сведения о размере контекстного окна и точных параметрах квантования не приведены. Для получения лучших результатов рекомендуется использовать структурированные system/user/assistant-промпты. К сильным сторонам относятся локальная и потенциально приватная работа, гибкость применения, поддержка развёрнутых ответов и совместимость с экосистемой GGUF и llama.cpp. Ограничения включают возможные фактические ошибки, галлюцинации, предвзятость и зависимость качества от формулировки запроса; модель не предназначена для юридических или медицинских рекомендаций, критически важных решений и автоматической модерации без проверки человеком. Лицензия указана как other, при этом конкретные условия не раскрыты; пользователю необходимо учитывать лицензию базовой модели и применимое законодательство.

Nex-N2.5-mini-GGUF — это квантизированное представление модели Nex-N2.5-mini, разработанной Nex-AGI и преобразованной в формат GGUF с использованием llama.cpp. Модель предназначена для генерации текста, программирования, агентских сценариев, вызова инструментов, работы с компьютером и мультимодальных задач. Поддерживаются английский и китайский языки. Исходная модель заявлена с контекстным окном до 262 144 токенов и может использоваться в текстовом режиме или с дополнительным vision-проектором mmproj-Nex-N2.5-mini-F16.gguf для мультимодальной обработки. Репозиторий содержит варианты квантизации от Q8_0 до IQ1_S и TQ1_0, поэтому можно выбирать между качеством, размером файлов и требованиями к памяти. Размеры файлов составляют примерно от 7,48 до 36,90 ГБ, а проектор занимает 899 МБ. Сильными сторонами являются поддержка длинного контекста, инструментов и мультимодальных сценариев, а также возможность локального запуска через llama.cpp и OpenAI-совместимый сервер. Ограничения связаны с необходимостью значительного объёма памяти, возможной потерей качества при агрессивной квантизации и зависимостью корректной работы вызова инструментов от возможностей конкретного runtime и его интеграции. Приведённые в README результаты тестов относятся к исходному семейству Nex-N2.5, а не непосредственно к этой GGUF-конверсии. Модель распространяется по лицензии Apache-2.0.

OpenCerebrum-1.0-7B-SFT — языковая модель Locutusque, дообученная на базе alpindale/Mistral-7B-v0.2-hf. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате Safetensors. Модель предназначена для генерации текста и ответов на вопросы, включая задачи программирования, математики, естественных наук, рассуждений и общего следования инструкциям. Для дообучения использована смесь примерно из 1,2 млн примеров из 14 открытых наборов данных; заявленный основной язык — английский. Модель задумана как открытая реплика возможностей Cerebrum, но её качество может уступать оригиналу. Ответы могут наследовать предвзятость и ограничения обучающих данных, а размер 7B требует учитывать доступные вычислительные ресурсы. Лицензия — Apache 2.0.

Phi-3-medium-128k-instruct-GGUF — квантизированная версия инструкционной языковой модели Phi-3-medium-128k-instruct, разработанной Microsoft и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, работу с длинными документами и программным кодом. В README указана поддержка multilingual, однако конкретный перечень языков не приведён. Архитектура и точное число параметров не указаны; модель относится к типу phi-msft и поддерживает контекст до 128 000 токенов. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, размером примерно от 5,14 до 27,9 ГБ. Варианты с более сильной квантизацией требуют меньше памяти, но могут заметно терять в качестве; Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые для баланса между размером и качеством. Модель рассчитана на запуск через совместимые инструменты, включая LlamaEdge, с использованием шаблона phi-3-chat. Лицензия — MIT; дополнительные ограничения или сведения о мультимодальности в README не указаны.

Qwen3-30B-A3B-FP8-block — квантизированная версия языковой модели Qwen3-30B-A3B, разработанная Red Hat. Это текстовая модель для генерации текста, диалоговых сценариев, решения задач общего характера и программирования. Модель построена на архитектуре Qwen3MoeForCausalLM и работает с текстом на входе и выходе; сведения о поддерживаемых языках и максимальной длине контекста в карточке не указаны. В модели применена FP8-квантизация весов и активаций линейных операторов внутри трансформерных блоков с пок блочной квантизацией весов и динамической токен-ориентированной квантизацией активаций. Квантизация снижает представление параметров с 16 до 8 бит и примерно на 50% уменьшает размер модели на диске и требования к видеопамяти. Исходная модель имеет обозначение 30B-A3B; более подробные сведения о числе активных параметров и конфигурации MoE в README не приведены. По результатам оценки на OpenLLM и наборах для генерации кода FP8-версия сохраняет близкую к исходной точность: средний результат OpenLLM V1 составил 73,52 против 73,75 у исходной модели. Основные преимущества — снижение требований к памяти и возможность развертывания через vLLM, включая использование tensor parallelism. Ограничения — возможная потеря точности из-за квантизации, отсутствие данных о языковом покрытии и контексте, а также необходимость совместимой инфраструктуры для эффективного запуска. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen3-32B-bf16 — конверсия модели Qwen/Qwen3-32B в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm версии 0.24.0. Это плотная авторегрессионная языковая модель семейства Qwen3 с 29,7 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Для неё указан контекст длиной до 40 960 токенов. Базовая Qwen3 — многоязычная модель для диалога, рассуждений, программирования и работы с инструментами; конкретный перечень поддерживаемых языков в карточке этой конверсии не приведён. Репозиторий содержит веса safetensors и предназначен для использования с библиотекой MLX, в частности через mlx-lm. Модель доступна по лицензии Apache-2.0. Качество и скорость могут зависеть от оборудования и программной среды MLX; приведённые сведения не описывают отдельную проверку этой конверсии.

Карточка модели luxuansang/Qwythos-9B-v2 на Hugging Face совпадает с карточкой empero-ai/Qwythos-9B-v2, поэтому описание составлено по ней. Qwythos-9B-v2 — модель генерации текста и рассуждений от Empero AI, дообученная на базе empero-ai/Qwythos-9B-Claude-Mythos-5-1M методом FTPO. Она предназначена для диалогов, многошаговых рассуждений, решения задач и генерации кода; разработчик сообщает, что в этой версии устранено зацикливание при генерации, восстановлена голова MTP и сохранены возможности предыдущей версии. Модель построена на гибридной архитектуре Qwen3.5-9B с чередованием линейного внимания Gated-DeltaNet и полного внимания. Контекст заявлен до 1 млн токенов с YaRN. Хотя базовый стек поддерживает мультимодальность, README описывает практическое использование как текстовое. Основной язык карточки — английский. Модель подходит для исследовательских и технических сценариев, включая программирование, кибербезопасность и анализ научных вопросов. По внутренним оценкам разработчика, знания и рассуждения в целом сохранены относительно предыдущей версии; это обновление направлено прежде всего на устойчивость генерации, а не на рост возможностей. Известное ограничение — результат HumanEval ниже, чем у исходной Qwen3.5-9B; показатели бенчмарков получены на внутреннем тестовом наборе. Модель намеренно не ограничивает ответы на чувствительные темы. Лицензия — Apache-2.0.

Ring-flash-linear-2.0 — открытая языковая модель от InclusionAI, полученная дальнейшим обучением inclusionAI/Ling-flash-base-2.0 на дополнительном триллионе токенов. Она предназначена для диалога и генерации текста, включая задачи рассуждения, математики, программирования, науки и творческого письма; также поддерживает интерфейс вызова инструментов. Модель на 5,5 млрд параметров построена на разреженной MoE-архитектуре Bailing с гибридным вниманием: линейное внимание сочетается со стандартным, а для ускорения генерации используются MTP-слои. По данным разработчика, активируется 6,1 млрд параметров, заявлена производительность на уровне плотной модели 40B и контекст до 128 тысяч токенов. Метаданные указывают английский язык; в README заявлены высокая эффективность инференса и результаты на уровне сопоставимых моделей в выбранных тестах. Для запуска README приводит варианты на Transformers, SGLang и vLLM с дополнительными пакетами и версиями зависимостей. Модель распространяется по лицензии MIT. Заявления о скорости и качестве основаны на оценках разработчика; README не приводит в представленном тексте подробностей о наборах данных и ограничениях ответов.

NoxNotreve/Ternary-Bonsai-2-27B-gguf — компактная GGUF-версия Bonsai 2 27B, разработанная проектом Prism ML на основе Qwen3.8-27B. Это авторегрессионная языковая модель для генерации текста, рассуждений, программирования и агентских сценариев с вызовом инструментов. Она предназначена для локального запуска через llama.cpp на CPU, GPU с CUDA или устройствах Apple с Metal, включая стандартные ноутбуки и одноплатформенные конфигурации. Модель содержит около 27,36 млрд параметров и использует гибридную архитектуру с примерно 75% линейного и 25% полного внимания, SwiGLU, RoPE и RMSNorm. Заявленная длина контекста составляет 262 тысячи токенов. Языковая часть, включая эмбеддинги, проекции внимания, MLP и выходную голову, представлена в троичном формате со значениями −1, 0 и +1, групповым масштабированием FP16 и эффективной плотностью около 1,72 бита на параметр. Доступны упаковки PTQ1_0 размером около 5,95 ГБ и PQ2_0 размером около 7,21 ГБ. Для обработки изображений предусмотрена отдельная vision tower в формате Q8_0, поэтому модель поддерживает текстовый режим и опциональный мультимодальный ввод при наличии соответствующего пакета. Сильные стороны модели — существенно меньший размер по сравнению с FP16, сохранение возможностей рассуждения, математики, программирования и агентского поведения в сверхнизкой разрядности, а также пригодность для локального использования. Согласно README, она сохраняет 98,2% показателей FP16 на наборе из 14 тестов, однако эти результаты зависят от методики оценки и совместимых низкоразрядных ядер. Для работы требуются версии llama.cpp с поддержкой кастомных троичных ядер; стандартные реализации могут не загрузить файл или не обеспечить заявленную производительность. Модель распространяется по лицензии Apache 2.0.

Карточка модели gdorane01/XORTRON.CriminalComputing.larger на Hugging Face совпадает с карточкой darkc0de/XORTRON.CriminalComputing.LARGE.2026.3, поэтому описание составлено по ней. XORTRON.CriminalComputing.LARGE.2026.3 — диалоговая языковая модель, опубликованная darkc0de и созданная дообучением Mistral-Large-Instruct-2411. Это плотная архитектура Mistral с 122,2 млрд параметров и контекстом до 131 072 токенов; модель работает через Transformers и распространяется в формате safetensors. Карточка сообщает о многоязычной поддержке, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Модель предназначена для генерации текста в диалоге, ответов на вопросы, рассуждений, программирования и сценариев с длинным контекстом. В README указана abliteration: в приведённом сравнении частота отказов составляет 2 из 100 против 87 из 100 у исходной модели, а KL-дивергенция — 0,0578. Это означает, что модель настроена на существенно меньшее число отказов; результаты таблицы не гарантируют поведение на всех запросах. По метаданным лицензия — WTFPL; значительный размер требует мощного оборудования для запуска.

XVERSE-13B-Chat — диалоговая версия языковой модели XVERSE-13B, разработанной компанией Shenzhen Yuanxiang Technology. Это плотная авторегрессионная модель с архитектурой Decoder-only Transformer и 13,2 млрд параметров, предназначенная для генерации ответов и ведения многоходовых бесед. Она поддерживает контекст до 8192 токенов. Модель подходит для вопросов и ответов, суммаризации, рассуждений и помощи с программированием. В README заявлена поддержка более 40 языков, включая китайский, английский, русский и испанский; особенно сильные результаты разработчик отмечает для китайского и английского. Модель использует токенизатор BPE с размером словаря 100 534 токена. Модель может выдавать неточные, предвзятые или оскорбительные ответы, поэтому результаты следует проверять, а перед внедрением проводить тестирование безопасности для конкретного сценария. Лицензия Apache-2.0.

ZYR3.1MoE (ZV1.1MeO) — текстовая генеративная модель с многоагентной архитектурой и маршрутизацией Mixture-of-Experts. В README разработчик явно не указан; модель опубликована под идентификатором zyr-AGENT/ZYR3.1MoE. Это объединённая самостоятельная версия с весами, токенизатором и chat template, без необходимости загружать отдельные адаптеры или компоненты. Размер весов составляет около 18 ГБ в пяти safetensors-фрагментах. Модель предназначена для сложных рабочих запросов: планирования, декомпозиции задач, программирования, математических рассуждений, исследования, проверки фактов, критики, обзора, оптимизации и координации компьютерных операций. Её поведение имитирует работу оркестрационной команды из 11 специализированных агентов, которыми управляют уровни ATP, ACN и MeO. Простые вопросы обрабатываются напрямую, а практические запросы могут запускать цикл планирования, распределения ролей и проверки результата. Ключевая особенность — обученное многоагентное поведение поверх одной объединённой модели; ATP и ACN являются внешними runtime-компонентами, а не отдельными нейронными весами. README не указывает точный размер базовой модели, максимальную длину контекста, поддерживаемые языки или мультимодальные возможности, поэтому подтверждённой является только работа с текстовой генерацией. Сгенерированные моделью отчёты о тестах могут быть симулированными и не заменяют реальные внешние результаты выполнения. Для надёжной работы рекомендуется GPU с объёмом памяти от 24 ГБ; поддержка 4-битной квантизации для гибридной архитектуры не гарантируется. Лицензия обозначена как other, но её конкретные условия в README не приведены.

Карточка модели RichardHuu/gemma-4-12B-it-assistant на Hugging Face совпадает с карточкой google/gemma-4-12B-it-assistant, поэтому описание составлено по ней. Gemma 4 12B IT Assistant — мультимодальная модель с открытыми весами от Google DeepMind, предназначенная для диалогов и генерации текста. Эта карточка описывает вариант Multi-Token Prediction (MTP): компактная черновая модель для speculative decoding, которая предлагает несколько токенов заранее, а целевая модель проверяет их параллельно. Такой режим может ускорять декодирование до 3 раз без изменения качества относительно обычной генерации. Модель семейства Gemma 4 использует плотную архитектуру и поддерживает ввод текста, изображений и аудио; на выходе генерирует текст. Она предназначена для рассуждений, программирования, распознавания и понимания речи, работы с изображениями и агентных сценариев с вызовом инструментов. Семейство поддерживает длинный контекст до 256 тысяч токенов и многоязычную работу; в карточке указана поддержка более 140 языков при обучении. MTP-вариант рассчитан на использование в speculative decoding с соответствующей целевой моделью, а не как самостоятельная замена обычному checkpoint для всех сценариев. Лицензия — Apache 2.0.

noctrex/GLM-4.5-Air-Derestricted-MXFP4_MOE-GGUF — это GGUF-квантизация MXFP4_MOE модели GLM-4.5-Air-Derestricted, созданной Arli AI на основе GLM-4.5-Air. Вариант Derestricted модифицирован методом Norm-Preserving Biprojected Abliteration для уменьшения отказов при сохранении рассуждений исходной модели; заявления о качестве в карточке основаны на бенчмарках автора. Модель предназначена для генерации текста в диалогах, решения задач с рассуждениями, программирования и сценариев интеллектуальных агентов. Базовая GLM-4.5-Air — гибридная MoE-модель с 106 млрд параметров, из которых активны 12 млрд, и режимами рассуждения и быстрого ответа. README описывает семейство GLM-4.5-Air, но не приводит отдельных параметров контекста или списка языков для этого GGUF-репозитория. Исходная карточка указывает лицензию MIT для моделей GLM-4.5 и GLM-4.5-Air; отдельные условия распространения производного варианта и GGUF-квантизации в предоставленных данных не описаны.

GLM-5.3-Flash — мультимодальная языковая модель, размещённая и поддерживаемая AMAImedia в составе платформы автоматизации профессионального мультиязычного дубляжа NOESIS. В README также указано имя основателя AMAImedia Ильи Болотникова. Модель относится к серии GLM-5 и выпущена 27 августа 2026 года. Модель предназначена для задач генерации текста, программирования, работы с агентами, обработки длинного контекста и мультимодальных сценариев с изображениями. Заявлена поддержка английского и китайского языков. GLM-5.3-Flash имеет 320 млрд общих параметров, из которых 18 млрд активируются при обработке запроса, что ориентировано на повышение эффективности. Архитектура сочетает разреженное и линейное внимание, Manifold-Constrained Hyper-Connections (mHC), а обучение проводилось на мультимодальном корпусе. Модель можно запускать локально через Transformers, vLLM, SGLang, TokenSpeed и KTransformers; для развёртывания рекомендуются bfloat16 или поддерживаемые фреймворком квантованные варианты. В README указана лицензия MIT. К ограничениям относятся высокая вычислительная требовательность из-за общего размера модели, необходимость уточнять совместимость версий библиотек, требования к видеопамяти, конфигурацию tensor parallelism и фактически поддерживаемую длину контекста. Заявлены контекстные режимы до 131 072 токенов в примере развёртывания, а в отдельных оценках использовались контексты до 300 000 и 1 000 000 токенов, но это не следует считать гарантированной рабочей конфигурацией для всех сценариев.