II.1Анализ требований и архитектура ПО

Ornith-1.5-35B-A3B-Abliterated-ROCmFP4-GGUF — это квантизированная GGUF-версия аблитерированной языковой модели Ornith-1.5-35B-A3B. Базовую модель разработала ornith-ai, аблитерацию выполнила huihui-ai, а BF16 GGUF-исходник предоставила PocketAiHub. Автор данного репозитория добавил варианты квантизации ROCmFP4/ROCmFPX, сборку с поддержкой HIP/ROCm и Vulkan, а также тесты производительности. Модель распространяется по лицензии Apache-2.0. Модель предназначена для генерации текста, включая диалоги, программный код, рассуждения, выдачу JSON, агентские сценарии и работу с инструментами. Это MoE-модель с заявленным общим размером 35B параметров и активной частью около 3B параметров. Доступны варианты квантизации от 4 до 8 бит; размеры файлов составляют примерно от 17,4 до 33,9 ГиБ. В репозитории также указан отдельный vision tower в формате F16 GGUF, позволяющий подавать изображения через параметр mmproj. Языки модели в README не указаны. В приведённых конфигурациях использовался контекст 32768 токенов, однако максимальный размер контекста явно не заявлен. Основное преимущество модели — оптимизация для AMD Ryzen AI Max+ 395 и Radeon 8060S с архитектурой gfx1151: один файл можно запускать через HIP/ROCm или Vulkan, выбирая backend во время запуска. Vulkan показывает более высокую скорость генерации, а ROCm — более высокую скорость обработки длинных входных запросов; 4-битные варианты демонстрируют близкую производительность. Модель прошла заявленные тесты стабильности без усечённых генераций. Для работы требуется специальная сборка ROCmFPX с поддержкой обоих backend; стандартная сборка llama.cpp эти файлы не загружает. Приведённые показатели относятся к конкретной аппаратной конфигурации и могут отличаться на других системах.

Phi-3-medium-4k-instruct-GGUF — это квантизированная GGUF-версия языковой модели Phi-3-medium-4k-instruct, разработанной Microsoft и подготовленной к квантизации компанией Second State Inc. Модель предназначена для генерации текста и диалогового взаимодействия, включая задачи обработки естественного языка и работы с кодом. Указана поддержка нескольких языков, но их точный перечень в карточке не приведён. Модель использует архитектуру Phi, имеет контекст до 4000 токенов и поддерживает формат GGUF с вариантами квантизации от 2 до 8 бит, а также f16. Размер файлов составляет примерно от 5,14 до 27,9 ГБ. Вариант Q4_K_M обозначен как рекомендуемый баланс размера и качества, а Q5_K_M и Q5_K_S — как варианты с очень низкой потерей качества. Модель совместима с LlamaEdge версии 0.11.2 и выше и использует шаблон запросов phi-3-chat. Основное преимущество этой версии — возможность локального запуска с выбором компромисса между потреблением памяти, размером файла и качеством ответов. Низкобитные варианты экономичнее, но могут заметно терять в качестве; для большинства практических сценариев рекомендуется избегать Q2_K и ряда более агрессивных квантизаций. Карточка не содержит данных о точном числе параметров, обучающих данных, результатах оценки, аппаратных требованиях или ограничениях безопасности. Модель распространяется по лицензии MIT.

duyntnet/Phi-4-mini-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-4-mini-instruct, разработанной Microsoft. Модель предназначена для генерации текста, диалогов, выполнения инструкций, рассуждений и сценариев с вызовом инструментов. Она ориентирована на локальный запуск через llama.cpp и совместимые клиенты, включая KoboldCPP, Ollama, text-generation-webui, Jan и GPT4All. Модель является лёгкой и поддерживает контекст длиной до 128K токенов. Она обучалась на синтетических данных и отфильтрованных общедоступных веб-материалах с акцентом на плотные по рассуждениям данные; для улучшения следования инструкциям и безопасности применялись supervised fine-tuning и direct preference optimization. Указан английский язык, модальность — текстовая. Размер модели, конкретные параметры квантизации и архитектурные детали в README не приведены. Для запуска требуется llama.cpp версии b4792 или новее либо совместимое программное обеспечение. Квантизация может снизить требования к ресурсам, но потенциально уступать исходной модели в точности; конкретные компромиссы зависят от варианта GGUF и не описаны. Лицензия указана как other, без дополнительных условий в представленном README.

MaziyarPanahi/Qwen2.5-14B-Instruct-GGUF — это квантованные файлы модели Qwen2.5-14B-Instruct в формате GGUF. Исходную модель разработала команда Qwen, а набор GGUF-файлов подготовил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и локальных сценариях инференса. Формат GGUF поддерживается llama.cpp и совместимыми инструментами, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, candle и рядом других решений. Это позволяет запускать модель локально, в том числе с ускорением на GPU и через OpenAI-совместимые серверные интерфейсы, в зависимости от выбранного инструмента. Размер исходной модели составляет 14B параметров. В репозитории доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти, скоростью и качеством генерации. Модель относится к текстовым; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Конкретные требования к оборудованию зависят от выбранного варианта квантования. Лицензия в предоставленных данных не указана.

DavidAU/Qwen3-42B-A3B-2507-Thinking-Abliterated-uncensored-TOTAL-RECALL-v2-Medium-MASTER-CODER — текстовая генеративная модель для программирования, рассуждений, диалога и творческих задач. Она основана на дообученной модели huihui-ai/Huihui-Qwen3-30B-A3B-Thinking-2507-abliterated и включает адаптер Brainstorm 20x; в README заявлена архитектура MoE с 42 млрд параметров, 67 слоями и 8 активируемыми экспертами. Метаданные относят её к семейству Qwen3 MoE, указывают 3,5 млрд параметров и контекст до 262 144 токенов. Модель предназначена прежде всего для генерации и анализа кода на популярных и менее распространённых языках программирования, а также для диалогов, задач на рассуждение и творческого письма. README характеризует её как abliterated и uncensored: модель реже отказывает в запросах на откровенный контент, но для желаемого уровня подробности может потребоваться явное направление в промпте. Указаны английский, французский, китайский и немецкий языки; README также заявляет широкий охват языков программирования. Репозиторий содержит веса Safetensors для использования с Transformers и последующей конвертации. Лицензия — Apache-2.0.

ZeroXClem/Qwen3-4B-Valiant-Polaris — объединённая методом Model Stock с помощью MergeKit языковая модель на архитектуре Qwen3, разработанная ZeroXClem. В объединении использованы Qwen/Qwen3-4B, Polaris-4B-Preview, Qwen3-4B-ShiningValiant3, Qwen3-4B-Dot-Goat и Qwen3-4B-RP-V3; размер модели — около 3,7 млрд параметров, формат весов — safetensors, лицензия — Apache 2.0 с учётом лицензий базовых моделей. Модель предназначена для диалогов, рассуждений, решения математических и логических задач, научных вопросов, творческого письма и ролевых сценариев. README также заявляет поддержку агентных сценариев с инструментами; входной модальностью в каталоге указана только текстовая. Контекстное окно составляет 40 960 токенов. В метаданных указан английский язык. Возможные ограничения включают неконтролируемые или недостаточно отфильтрованные ответы, унаследованные от некоторых компонентов слияния, а также риск ошибок и предвзятости; результаты для важных решений следует проверять. Заявления README о превосходстве на бенчмарках не подтверждены приведёнными метаданными.

QuantTrio Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-AWQ — это AWQ-квантизированная версия модели Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2, разработанной на базе Qwen3.5-27B. Исходную дообученную модель создал Jackrong, а репозиторий квантизации поддерживается QuantTrio. Квантизация выполнена методом data-free, без калибровочного датасета, что позволяет уменьшить размер модели примерно до 21 GiB и снизить требования к памяти при инференсе. Модель ориентирована на задачи рассуждения, математику, текстовые задачи, логическую дедукцию, инструкции и программирование. По заявленным результатам, она сохраняет показатель 96,91% pass@1 на HumanEval, сокращает длину цепочки рассуждений примерно на 24% и обеспечивает на 31,6% больше корректных решений на токен по сравнению с базовой моделью. Для запуска рекомендуется vLLM с поддержкой AWQ, tool calls и reasoning parser; в README приведена конфигурация с контекстом до 32768 токенов и тензорным параллелизмом на двух GPU. Сильными сторонами являются экономичное рассуждение, высокая эффективность на задачах программирования и возможность использования в оптимизированном режиме инференса. Ограничения включают снижение результатов на HumanEval+ на 1,24% и на MMLU-Pro на 7,2%, а также возможное ухудшение качества на задачах, требующих длинного контекста или сложного многошагового рассуждения. Языки и точный набор поддерживаемых модальностей в README не указаны; pipeline обозначен как image-text-to-text, но подробностей о мультимодальных возможностях нет. Модель распространяется по лицензии Apache-2.0.

Это GGUF-сборка модели Qwen3.6-27B-AEON-Ultimate-Uncensored от AEON-7, подготовленная theLittleStone для запуска через llama.cpp или LM Studio. В репозитории заявлена поддержка MTP (Multi-Token Prediction); по назначению это диалоговая языковая модель для генерации текста, рассуждений, решения математических задач и программирования. В метаданных указаны 27B в названии базовой модели, поддержка английского и китайского, формат GGUF и лицензия Apache-2.0. Модель происходит от дообученной AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 и содержит восстановленную MTP-голову. README описывает её как uncensored-вариант с ослабленными отказами и приводит собственные заявления о сохранении способностей; это заявления автора карточки, а не независимая оценка. Доступна стандартная K-Quant сборка; автор рекомендует вместо неё iMatrix-квантование для лучшего качества при том же уровне квантования. README предлагает использовать llama.cpp или LM Studio. Условия лицензии — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP — мультимодальная модель с 27 млрд параметров на архитектуре Qwen3.5, дообученная DavidAU совместно с участниками проекта на базе Qwen/Qwen3.6-27B. Она предназначена для диалогов общего назначения, следования инструкциям, решения задач, рассуждений, программирования и работы с изображениями. В карточке также заявлены возможности творческого письма и ролевого общения. Модель принимает текст и изображения и генерирует текст; в метаданных отмечены интерфейс вызова инструментов и поддержка зрения. Обучение включало несколько этапов дообучения и слияния, а также данные для рассуждений и письма. Указаны английский и китайский языки. Репозиторий использует Transformers и формат safetensors; лицензия — Apache 2.0. Автор сообщает об улучшениях следования инструкциям и рассуждений, однако приведённые сравнительные результаты являются заявлениями карточки и не гарантируют качество на конкретных задачах. Упомянуты также варианты GGUF-квантования с отдельными рекомендациями по настройкам MTP, но в текущих метаданных форматом репозитория указан safetensors.

Qwen3.6-27B-GPTQ-Pro-4bit — это 4-битная GPTQ-квантизация модели Qwen/Qwen3.6-27B, опубликованная пользователем groxaxo. Модель предназначена для эффективного запуска на GPU в локальных и размещённых средах, открытой оценки и воспроизводимых экспериментов. В метаданных указана задача image-text-to-text и поддержка английского языка. Модель содержит около 27 млрд параметров и использует формат GPTQ с оптимизацией под Marlin и сервер vLLM. Для сжатия применялись GPTQ-Pro, FOEM и настройки GPTAQ-style; заявленная цель — сохранить качество исходной модели при уменьшении потребления памяти. Репозиторий включает веса в формате safetensors, конфигурации, токенизатор, процессор и шаблон диалога. В документации приведена конфигурация с контекстом до 132144 токенов, однако практические ограничения зависят от оборудования, длины контекста, размера KV-кэша и числа параллельных запросов. Модель ориентирована на генерацию текста, задачи рассуждения и программирования, а также на сценарии инференса через vLLM или Transformers. В качестве проверенной конфигурации указаны две NVIDIA RTX 3090; для наиболее надёжного запуска рекомендуются float16 и gptq_marlin. К ограничениям относятся возможные изменения качества, памяти и скорости из-за квантизации, необходимость совместимого runtime и сохранения согласованности всех файлов одной версии. На протестированной конфигурации speculative decoding не дал прироста скорости, а запуск с контекстом 262144 токенов привёл к нехватке памяти. Лицензия — Apache 2.0.

trymirai/Qwen3.6-27B-M — это 4-битная квантованная версия языковой модели Qwen3.6-27B, подготовленная Mirai Labs для эффективного локального запуска на устройствах Apple с Apple silicon. Модель предназначена для генерации текста и локальных сценариев использования большой языковой модели, включая агентские задачи, диалоги и работу с длинным контекстом; подробные сведения о возможностях и ограничениях унаследованы от исходной модели Qwen3.6-27B. Ключевая особенность модели — 4-битное асимметричное целочисленное квантование с 4-битными zero points, масштабами bfloat16 и размером группы 64. Для снижения влияния выбросов активаций и весов применяются блочно-диагональные Random Hadamard Transforms. Квантование выполнено после обучения и дополнительно улучшено дистилляцией с учётом квантования. По размеру и уровню квантования модель сопоставима с вариантом Unsloth Q4_K_M GGUF. В README не указаны точный размер контекста, поддерживаемые языки, архитектурные детали исходной модели и результаты конкретных оценок. Сильной стороной является компромисс между размером и качеством: по заявлению разработчиков, checkpoint находится на границе Парето по размеру и KL-дивергенции, а также оптимизирован для эффективного локального вывода на Apple silicon. Ограничение — заявлена поддержка инференса только на Apple silicon; инструкции для запуска ориентированы на macOS и пакет mirai. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Omnimerge-v4 — мультимодальная модель для диалога, программирования, рассуждений и работы с изображениями, созданная ManniX-ITA. Это слияние базовой Qwen/Qwen3.6-27B и трёх её дообученных вариантов методом DARE-TIES Omnimerge v2; в архитектуре Qwen3.5 используется плотная модель с условной генерацией. В репозитории указаны веса safetensors, библиотека Transformers и лицензия Apache-2.0. Модель принимает текст и изображения и генерирует текст; README также описывает отдельную MLX-VL-сборку для работы с изображениями и видео. В карточке приведены результаты тестов на генерации кода и вопросах научного уровня, но они зависят от конфигурации оценки. Автор сообщает о 27 млрд параметров для базовой модели; параметры контекста этой версии в предоставленных данных не приведены. README описывает уязвимость исходного слияния к небольшим изменениям MLP, влияющим на выдачу reasoning-тегов; в этой версии MLP сохранены от базовой модели. Указано, что это ограничивает часть улучшений в задачах программирования. Для запуска с поддержкой зрения в GGUF требуется совместимый mmproj-проектор; лицензия репозитория — Apache-2.0.

Qwen3.6-35B-A3B-MTP-Holo3-Qwopus-BF16 — мультимодальная модель семейства Qwen, опубликованная Nightmedia. Это объединение нескольких моделей, включая Hcompany/Holo3-35B-A3B, Qwen3.6-35B-A3B и варианты Qwopus; в карточке также упоминается MTP. Модель предназначена для диалогов и следования инструкциям, рассуждений, программирования и анализа изображений. Архитектура — Qwen3.5 MoE; в названии указан вариант BF16, а среди файловых форматов метаданные указывают safetensors. Карточка описывает шаблон управления режимом рассуждений, но не приводит длину контекста или независимую оценку качества. Метаданные указывают поддержку английского, китайского, японского и испанского языков. Лицензия — Apache-2.0. README содержит отдельные результаты для квантизованного варианта qx86-hi, которые не следует считать характеристиками этого BF16-репозитория. Модель может ошибаться, а приведённые в карточке оценки и хвалебный отзыв не являются независимой проверкой качества.

mmangkad/Qwen3.6-35B-A3B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.6-35B-A3B, разработанной Alibaba и подготовленной с использованием NVIDIA Model Optimizer. Модель предназначена для генерации текста и может применяться в AI-агентах, чат-ботах, RAG-системах и других приложениях на базе ИИ. Модель построена на архитектуре Transformers и имеет 35 млрд параметров, из которых 3 млрд активируются при работе. Она принимает и генерирует текст, поддерживает контекст длиной до 262 тысяч токенов. Веса и активации линейных операторов в MoE-компонентах transformer-блоков квантизированы в формат NVFP4, что ориентировано на эффективный инференс на GPU NVIDIA. Указана совместимость с NVIDIA Blackwell, Linux и SGLang; тестирование проводилось на B300. Данные о поддерживаемых языках и полном составе обучающего набора не раскрыты. Сильные стороны модели — предварительная NVFP4-квантизация, большой контекст и оптимизация для развертывания на совместимом оборудовании NVIDIA. Для запуска требуется SGLang, по README рекомендуется актуальная версия из основной ветки. Модель может воспроизводить токсичные формулировки и общественные предубеждения из исходных данных, а также генерировать неточные, неполные или нерелевантные ответы. Распространение и использование разрешены по лицензии Apache 2.0 с учетом требований и ограничений базовой модели.

Qwen3.6-35B-A3B-OptiQ-4bit-REAP-19B — это квантизированная и подвергнутая экспертному прунингу языковая модель для генерации текста, разработанная сообществом mlx-community на базе mlx-community/Qwen3.6-35B-A3B-OptiQ-4bit. Модель использует архитектуру Mixture-of-Experts: в каждом слое сохранено 128 из 256 экспертов, при этом для каждого токена активируются 8 экспертов. Число параметров уменьшено с 35,1 до 18,8 млрд, размер на диске составляет 13,8 ГБ, а пиковое потребление памяти — около 11,6 ГБ. Данные о поддерживаемых языках и размере контекста в README не указаны. Модель предназначена для локального запуска и генерации текста на устройствах Apple Silicon через MLX, а также для задач следования инструкциям, математических рассуждений, вызова функций и генерации кода. Прунинг выполнен методом REAP без деквантизации, повторной квантизации или дообучения; активные параметры на токен и скорость декодирования сохраняются, а скорость в указанном сравнении выросла с 47,0 до 54,7. По сравнению с исходной моделью Capability Score снизился с 80,03 до 76,57; особенно заметно падение на MMLU, тогда как результаты GSM8K и IFEval улучшились. Модель распространяется по лицензии Apache-2.0.

Карточка модели bzannah/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой lactroiii/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 — дообученная методом abliteration версия мультимодальной модели Qwen3.8-27B от Alibaba, опубликованная lactroiii. Это плотная модель на 27 млрд параметров в формате BF16 на базе архитектуры Qwen3.5; она принимает текст и изображения и генерирует текст. В README описана проверка на NVIDIA H200 через vLLM, включая работу с изображениями, режим рассуждений и вызов инструментов. Для обслуживания автор проверял контекст 16 384 токена и указывает, что базовое окно модели достигает 262 144 токенов. Модель предназначена для диалогов и инструкций, рассуждений, программирования, анализа изображений, вызова инструментов, творческого письма и исследований безопасности и выравнивания. Abliteration уменьшает склонность модели отказывать и делает ответы более прямыми; автор сообщает о сохранении связности ответов, но это не является независимой оценкой качества. Модель может выдавать опасный, незаконный или откровенный контент и не должна использоваться в сценариях высокого риска без внешних мер безопасности. Лицензия — Apache-2.0.

aquaduck/Qwen3.8-27B-GGUF — это квантизированная GGUF-версия причинной языковой модели Qwen3.8-27B, разработанной командой Qwen и Alibaba Cloud. Репозиторий Aquaduck предоставляет полную модель в формате Q4_K_M, полученную из unsloth/Qwen3.8-27B-GGUF, а также дополнительные шардированные файлы для поэтапной или многосетевой загрузки. Aquaduck отвечает за хостинг и упаковку, а не за обучение или отдельную тонкую настройку модели. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые с GGUF инструменты, такие как llama.cpp, а также использование в приложении Aquaduck. Она поддерживает мультиязычную работу в соответствии с возможностями базовой Qwen3.8-27B и рассчитана на контекст до 262 144 токенов. Архитектура включает около 27,8 млрд параметров, 64 слоя, GQA с 24 Q- и 4 KV-головами и размер скрытого состояния 5120. Ключевые преимущества — существенно меньший размер по сравнению с полноточными вариантами, совместимость с экосистемой GGUF и возможность staged loading с помощью двух шардов, разделённых после слоя 32. Полный файл подходит для обычного одноузлового запуска, тогда как отдельные шардированные файлы не являются самостоятельными моделями и предназначены только для Aquaduck Arc. Квантизация Q4_K_M может снижать качество по сравнению с версиями в более высокой точности; отдельные оценки для этого размещённого варианта не проводились, поэтому его ограничения, риски и смещения соответствуют базовой модели Qwen3.8-27B. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели. При использовании необходимо соблюдать требования лицензии и рекомендации базовой карточки модели, включая корректный chat template и режимы thinking или instruct.

NikiKrutan/Qwen3.8-27B-MTP-GGUF — набор GGUF-квантований базовой модели Qwen/Qwen3.8-27B, подготовленный разработчиком NikiKrutan с использованием собственного инструмента niki-allocator. Метод распределяет тип квантования отдельно для каждого тензора и выбирает варианты на основе оценок и измерений KLD. Модель предназначена для локального запуска через llama.cpp и совместимых инструментов. Согласно README, модель ориентирована на диалоговые сценарии, программирование, reasoning, сложную логику и агентные задачи. Указаны поддержка английского и русского языков, а также мультиязычные сценарии для отдельных тестовых корпусов. В карточке присутствует тег image-text-to-text, однако конкретные сведения о визуальной архитектуре и фактических возможностях работы с изображениями не приведены. Размер базовой модели — 27B параметров; используется MTP, но точные варианты квантования, требования к памяти и размер контекста не указаны. К сильным сторонам относятся ориентированная на качество покомпонентная квантование, сравнение с несколькими альтернативными GGUF-сборками и оценка по KLD, RMS Δp, вероятности совпадения наиболее вероятного токена и perplexity на корпусах для кода, reasoning, агентных задач, мультиязычных текстов, научных и юридических материалов. Ограничения — отсутствие детальных численных результатов непосредственно в тексте README, неизвестные требования к ресурсам и отсутствие независимой оценки качества исходной модели. Лицензия Apache-2.0.

ChrisandErin86/Qwen3.8-27B-OBLITERATED — текстовая авторегрессионная модель генерации на базе Qwen/Qwen3.8-27B, модифицированная с применением метода abliteration для удаления или ослабления поведения, связанного с отказами и защитными ответами. В README также упоминаются подходы complementary abliteration blending, итеративное уточнение и целевая обработка корпусов. Модель ориентирована на диалоговые сценарии, генерацию текста и кода, включая задачи, в которых исходная модель могла отказываться отвечать; отдельно заявлена пригодность для агентных систем и исследований AI safety. Разработчик базовой модели — Qwen, автор производной модели указан как ChrisandErin86. Из известных характеристик указаны архитектура Qwen3, размер 27B параметров, текстовая модальность и поддержка форматов GGUF, Safetensors и MLX. Заявлена совместимость с thinking mode и чат-шаблоном; точный размер контекста и перечень поддерживаемых языков в предоставленном фрагменте README не указаны. Для инференса рекомендуются температура 0, repetition_penalty 1.15, не менее 2048 новых токенов и отсутствие системного промпта; для агентных сценариев предложены более короткие ответы и периодическое суммирование контекста. Сильная сторона модели — сниженное количество отказов при сохранении большей части возможностей исходной Qwen3.8-27B: в README приведён результат MMLU 82,3% против 84,5% у базовой модели, а также заявлены успешные результаты на тестах генерации кода и некоторых расширенных практических задачах. Ограничениями являются небольшая потеря качества относительно базовой модели, риск циклической генерации без настройки repetition_penalty и потенциальные риски применения менее ограниченной модели. Лицензия — Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-mlx-oQ4e-1M — релиз модели на базе Qwen3.8-27B TURBO Fable Cold Fusion, разработанной DavidAU, с последующей квантизацией, масштабированием контекста и упаковкой от Solstice-AI. Модель предназначена для программирования, рассуждений, агентной разработки, отладки репозиториев и работы с длинными документами и проектами. В README также указана совместимость с задачами image-text-to-text, однако подробности о поддерживаемых визуальных входах не приведены. Модель содержит 27 млрд параметров и поставляется в формате Apple MLX oQ4e mixed precision с размером около 17,02 ГБ. Заявлены гибридная архитектура с блоками Gated Delta Recurrent Network и Grouped-Query Attention, механизм Multi-Token Prediction для ускорения генерации, а также YaRN-масштабирование RoPE до 1 048 576 токенов. Указаны языки English и Chinese. Основная среда применения — компьютеры Apple Silicon с unified memory, включая MacBook с 16 или 24 ГБ памяти, через Anvil и MLX-LM. Сильными сторонами заявлены высокая эффективность на Apple Silicon, большой контекст, поддержка задач кодирования и рассуждений, а также хорошие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench, CoWorkBench и ARC. Эти показатели приведены в README и не подтверждены независимой проверкой. Ограничениями являются зависимость от MLX и Apple Metal, требования к объёму unified memory, возможные потери качества из-за 4-битной квантизации и неполная информация о фактической мультимодальности и поведении на длинном контексте. Лицензия — Apache 2.0.

nvidia/Qwen3-8B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3-8B, разработанной Alibaba и подготовленной с использованием NVIDIA TensorRT Model Optimizer. Модель предназначена для генерации текста и может применяться в AI-агентах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Модель построена на архитектуре Transformers и содержит около 8,2 млрд параметров. Она работает с текстовыми входами и генерирует текстовые последовательности, поддерживает контекст длиной до 131K токенов. Веса и активации линейных операторов внутри transformer-блоков квантизированы в формат FP4, что ориентировано на эффективный инференс. Поддерживается TensorRT-LLM; модель оптимизирована для систем с GPU NVIDIA, включая микроархитектуру Blackwell, и предпочтительно используется в Linux. Сильной стороной модели является готовая предварительная квантизация для развертывания и потенциально более эффективный инференс на совместимом оборудовании по сравнению с CPU-сценариями. Ограничения включают зависимость от экосистемы NVIDIA и TensorRT-LLM, а также отсутствие в README подробных сведений о языках, результатах оценки качества и характеристиках исходного обучения. Для калибровки использовался датасет cnn_dailymail; наборы данных обучения и тестирования не раскрыты. Модель распространяется по лицензии Apache 2.0 и заявлена как пригодная для коммерческого и некоммерческого использования.

lmstudio-community/Qwen3-Next-80B-A3B-Instruct-MLX-5bit — это 5-битная квантованная версия инструкционной языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm; модель оптимизирована для запуска на устройствах Apple Silicon через MLX. Она относится к классу моделей генерации текста и предназначена для диалогов, следования инструкциям и других задач, где требуется создание текстового ответа. В основе лежит модель с заявленным размером 80B и обозначением A3B; README не содержит дополнительных сведений об архитектуре, фактическом числе активируемых параметров, максимальном контексте, поддерживаемых языках или мультимодальных возможностях. Ключевое преимущество этой версии — снижение требований к памяти по сравнению с полной точностью и адаптация к экосистеме Apple Silicon. Ограничения включают возможные потери качества из-за 5-битного квантования, зависимость производительности от оборудования Apple Silicon и стандартные риски генеративных моделей: ответы могут быть неточными, вредными или неуместными. Модель распространяется по лицензии Apache-2.0.

OpenYourMind/Qwopus3.5-122B-A10B-Kimi-K2.6-destill-healed-abliterated-MTPLX-4bit — это 4-битная сборка модели OpenYourMind Qwopus3.5 на базе архитектуры Qwen3.5 MoE с компонентами Qwen3-VL. Модель разработана OpenYourMind и предназначена для запуска на Apple Silicon через MLX и MTPLX. Она поддерживает обработку текста и содержит vision tower для работы с изображениями, однако данная сборка ориентирована на текстовый путь; для мультимодального ввода рекомендуется использовать связанную сборку MLX-4bit с mlx-vlm. Модель имеет около 122 млрд параметров в общей сложности, из которых примерно 10 млрд активируются при обработке токена. Языковые веса квантизованы в 4 бита с размером группы 64, а маршрутизирующие компоненты сохранены в более высокой точности. В комплект включена BF16 MTP-голова на базе MoE с 256 экспертами, из которых активны 8, и общим экспертом. Она предназначена для ускоренного speculative decoding: на M5 Max зафиксировано около 52 токенов в секунду и примерно 70% принятия черновых токенов в указанном тесте. К сильным сторонам относятся существенно уменьшенный объём по сравнению с полной моделью, поддержка мультимодальной архитектуры базовой модели и ускорение генерации при использовании совместимой версии MTPLX. Для запуска требуется около 80 ГБ объединённой памяти, а комфортная работа заявлена на компьютерах Mac с 96 ГБ и более. MTPLX должен поддерживать MoE MTP-голову; старые версии могут быть несовместимы. Из-за особенностей маршрутизации MoE при температуре 0 возможны редкие отличия отдельных токенов по сравнению с обычной авторегрессионной генерацией, поэтому строгая побитовая идентичность не гарантируется. Лицензия указана как Other; README сообщает, что применяются условия лицензии базовой модели Qwen3.5.

Salamandra-7B-Instruct-Aina-Hack — разговорная языковая модель, разработанная подразделением языковых технологий Barcelona Supercomputing Center для мероприятия AinaHack, посвящённого созданию ИИ-инструментов для администрации Каталонии. Это инструкция-настроенная версия Salamandra-7B: decoder-only трансформер семейства Llama с 32 слоями и примерно 7 млрд параметров. Модель принимает текст и генерирует текст, использует шаблон ChatML и поддерживает контекст до 8192 токенов. Модель предназначена для диалоговых помощников и генерации текста на европейских языках, а также может служить основой для прикладной донастройки. Семейство Salamandra обучалось с нуля на многоязычном корпусе из 35 европейских языков и программного кода; карточка этой версии описывает её как proof of concept с предварительной настройкой следования инструкциям. Модель распространяется под лицензией Apache 2.0. У модели выявлены социальные и когнитивные смещения, а анализ охватывает не все поддерживаемые языки. Карточка предупреждает, что модель не прошла RLHF-выравнивание для фильтрации чувствительных тем и может создавать вредный или неподходящий контент; перед применением в продуктах необходимы оценка рисков и дополнительная настройка безопасности.

Myric/Spark-X2.5-4B-GGUF — это GGUF-конверсия модели XHToken/Spark-X2.5-4B, предназначенная для генерации текста и работы в сценариях рассуждений, включая агентное программирование. Модель выпускается в нескольких вариантах точности и квантования для запуска через llama.cpp. Модель имеет плотную архитектуру примерно на 4,11 млрд параметров, 36 слоёв, скрытое пространство размером 2560, 16 query-heads и 4 KV-heads. Она использует чередующееся sliding-window attention: 27 слоёв с окном 512 токенов и 9 слоёв с полным вниманием. Заявлен максимальный контекст до 1 048 576 токенов, однако качество на таком контексте в README не измерялось. Модель поддерживает текстовую модальность, имеет словарь на 131 072 токена и выдаёт блок рассуждений. Сильными сторонами являются сравнительно низкие требования к памяти при длинном контексте, наличие вариантов от BF16 до Q4_K_M и оптимизация квантований с importance matrix. Для запуска требуется специально пропатченная ветка llama.cpp с поддержкой архитектуры spark2_5; стандартная upstream-версия не загрузит модель. Необходимо явно задавать размер контекста, иначе может быть предпринята попытка выделить память под полный контекст в 1 млн токенов. Производительность и результаты в README измерены на ограниченном наборе задач, поэтому их нельзя считать универсальными оценками. Модель и конверсия распространяются по лицензии Apache-2.0.

StrangeMerges_18-7B-dare_ties — объединённая языковая модель, созданная Gille с помощью LazyMergekit на основе Gille/StrangeMerges_17-7B-dare_ties и teknium/OpenHermes-2.5-Mistral-7B. В ней используется архитектура Mistral с плотной сетью и 7,1 млрд параметров; модель распространяется в формате Safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на вопросы, написания текстов и помощи с кодом; README приводит результаты оценки на бенчмарках рассуждений и понимания текста. Указана лицензия Apache-2.0. README не уточняет языковой охват и отдельные гарантии качества, поэтому результаты на бенчмарках не следует считать обещанием качества для любых сценариев.

SuperQwen3.8-27b-abliterated-GGUF — это квантованные версии мультимодальной модели SuperQwen3.8-27b-abliterated, разработанной Jiunsong и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста по текстовым и визуальным входным данным, рассуждений, вызова инструментов и работы с длинным контекстом. Заявлена поддержка английского и корейского языков, а также контекста до 262 тысяч токенов. Модель имеет размер 27 млрд параметров; архитектура в README подробно не описана. Для обработки изображений требуется дополнительный мультимодальный компонент mmproj. Доступны варианты квантования от Q2_K до Q8_0 и IQ4_XS с размером файлов примерно от 11 до 29,1 ГБ, а также версии с плавающей точностью F16. Более лёгкие варианты экономят память, но могут снижать качество; Q6_K отмечен как вариант очень хорошего качества, а Q4_K_S и Q4_K_M — как быстрые рекомендуемые варианты. К сильным сторонам относятся мультимодальность, поддержка длинного контекста, рассуждений и вызова инструментов, а также широкий выбор уровней квантования для локального запуска. Ограничения включают зависимость визуальных сценариев от отдельного mmproj-компонента и возможное ухудшение качества при агрессивном квантовании. Модель распространяется по лицензии Apache-2.0.

Synesthesia-3.1-task_arithmetic — объединённая языковая модель, созданная bunnycore с помощью mergekit методом task arithmetic на базе unsloth/Meta-Llama-3.1-8B. В слияние вошли Replete-LLM-V2, Reflection, HyperLlama и Replete-Coder на базе Llama 3.1. Модель предназначена для генерации текста и диалогов; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель может применяться для универсального общения и генерации текста, включая задачи с кодом. В метаданных указана библиотека Transformers, а веса представлены в формате safetensors. README и метаданные не сообщают отдельные оценки качества или специальные ограничения. Лицензия в предоставленных данных не указана.

Trinity Nano Preview — экспериментальная чат-модель семейства Trinity от Arcee AI, созданная дообучением Trinity-Nano-Base. В README она описана как разреженная MoE-модель с архитектурой AfmoeForCausalLM, 6 млрд параметров и примерно 1 млрд активных параметров; метаданные указывают 880,3 млн параметров. Поддерживает контекст до 131 072 токенов и работает с текстом на нескольких языках. Модель предназначена для диалогов и генерации текста. Разработчики описывают её как открытую по весам модель для предприятий и энтузиастов, обученную на 10 трлн токенов с дополнительным акцентом на математике и коде. README предупреждает, что в этой предварительной экспериментальной версии возможна нестабильность в отдельных сценариях. Указанная в README лицензия — OpenMDW-1.1; метаданные Hugging Face обозначают её как other.

Trismal-HyperAmocles-7B-Base-Ties — объединённая модель на базе Mistral, созданная JoPmt методом TIES с помощью LazyMergekit из JoPmt/Trismal-Amocles-7B-Base-Ties и Locutusque/Hyperion-2.0-Mistral-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста.