II.2Создание и понимание программного кода

precommitEU — набор весов для локального сканера исходного кода на соответствие отдельным нормативным актам ЕС. Разработчики проекта дообучили Qwen2.5-Coder-7B-Instruct с помощью отдельных LoRA-адаптеров для разных регулирований; общая базовая модель и адаптеры поставляются в формате GGUF. Сканер работает через llama.cpp, принимает код и формирует структурированные результаты с кандидатами на нарушения и подтверждёнными находками. Модель предназначена для поиска потенциальных проблем, связанных с GDPR, EU AI Act, Data Act, CRA, DMA и NIS2, а также другими актами из набора. Для подтверждения находки сканер проверяет, что процитированное свидетельство дословно присутствует в файле; неподтверждённые кандидаты выводятся как рекомендации. Поддерживаются запуск на CPU, Apple Silicon через Metal и NVIDIA GPU через CUDA. README не указывает длину контекста. Набор подходит для локального предварительного анализа репозиториев и интеграции проверок в процесс разработки. Результаты являются сигналом о возможном несоответствии, а не юридической консультацией; покрытие ограничено статьями, включёнными в соответствующие адаптеры, и вне их предметной области выводы ненадёжны. Указана лицензия Apache-2.0.

Модель dishants0605/qwen2.5-cobol-python-translator — дообученная Dishant S. компактная языковая модель для преобразования кода COBOL в читаемый Python с сохранением исходной бизнес-логики. Она основана на Qwen2.5-Coder-1.5B и обучена методом QLoRA с использованием Unsloth; содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для первичного переноса унаследованных систем, в том числе банковских, страховых и государственных приложений. Она принимает текст с кодом COBOL и генерирует код Python. Карточка отмечает, что небольшого обучающего набора может быть недостаточно для сложных конструкций, таких как REDEFINES и OCCURS; формальных бенчмарков нет, а результат требует проверки специалистом и не предназначен для прямой замены производственной системы. Лицензия — Apache-2.0.

RedHatAI/Qwen3-14B-NVFP4 — квантизированная версия языковой модели Qwen3-14B, разработанная RedHatAI на базе Qwen/Qwen3-14B. Модель принимает текст и генерирует текст, предназначена для задач text generation и развёртывания в среде vLLM версии 0.9.1 и выше. В модели применена FP4-квантизация весов и активаций линейных операторов в блоках Transformer. По сравнению с представлением FP16 это сокращает число битов на параметр с 16 до 4, а размер на диске и требования к памяти GPU примерно на 75%. Квантизация выполнена с использованием LLM Compressor, с калибровкой на данных UltraChat; параметры включают групповой размер 16. Модель имеет размерность 14B, работает с текстовой модальностью, однако размер контекста в представленном README не указан. В метаданных заявлены языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai, при этом отдельно указано ограничение на использование в языках, отличных от английского. Основное преимущество модели — снижение требований к дисковой и GPU-памяти при сохранении совместимости с эффективным инференсом через vLLM и OpenAI-compatible serving. Ограничения включают возможное снижение качества из-за квантизации, зависимость от подходящей аппаратной и программной поддержки FP4, а также языковое ограничение на использование только английского языка согласно README. Модель распространяется по лицензии Apache-2.0; также указано ограничение на использование с нарушением применимых законов и нормативных требований.

Aldaris/Qwen3-14B-Q4_K_M-GGUF — это квантизированная версия базовой модели Qwen/Qwen3-14B, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и запуска локально через llama.cpp, включая режим командной строки и серверный режим. Модель содержит 14 миллиардов параметров и использует квантизацию Q4_K_M, что уменьшает требования к памяти по сравнению с полной версией модели, но может снижать точность и качество генерации. В README указана текстовая модальность и поддержка запуска на Mac, Linux и оборудовании с аппаратным ускорением, включая Nvidia GPU; сведения о языках, архитектурных особенностях и максимальной длине контекста не приведены. В качестве примера запуска указан контекст размером 2048 токенов, однако это не обязательно максимальное значение модели. Модель подходит для локальных чат-сценариев, генерации текста и интеграции в приложения через llama.cpp. Лицензия указана как Apache 2.0; подробные характеристики и ограничения следует уточнять в карточке исходной модели Qwen/Qwen3-14B.

Это пакет слоёв GGUF для модели Qwen3-235B-A22B-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого запуска на локальном кластере. Он получен из unsloth/Qwen3-235B-A22B-GGUF и сохраняет исходное распределение весов, разбитое на артефакты по слоям. Вариант UD-Q4_K_XL использует квантизованный формат GGUF; исходная модель относится к семейству Qwen3 и содержит 235 млрд параметров общей ёмкости с архитектурой MoE на 22 млрд активных параметров. Пакет предназначен для локального приватного чата и генерации текста, когда веса нужно распределить между несколькими машинами. Mesh LLM предоставляет OpenAI-совместимый интерфейс для запросов chat/completions. В метаданных указана библиотека mesh-llm и лицензия Apache-2.0. Языки и длина контекста в предоставленных данных не установлены; подробности архитектуры и поведения следует сверять с карточкой исходной модели.

Azizbek8189/Qwen3.5-0.8B-GGUF — модель семейства Qwen3.5 на базе Qwen/Qwen3.5-0.8B, представленная в формате, подготовленном с использованием инструментов Unsloth. Это каузальная языковая модель с vision encoder, предназначенная для прототипирования, исследовательских и разработческих задач, а также специализированного дообучения. Модель поддерживает текстовые и визуальные входы и может применяться для рассуждений, программирования, визуального понимания и агентских сценариев. Модель содержит 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. В архитектуре сочетаются Gated Delta Networks, Gated Attention и разреженная Mixture-of-Experts; заявлена длина контекста 262 144 токена. Указана поддержка 201 языка и диалекта. Артефакты совместимы с Hugging Face Transformers, vLLM, SGLang и KTransformers. К сильным сторонам относятся компактный размер, мультимодальность, большой контекст и эффективность гибридной архитектуры, что делает модель подходящей для локального запуска и экспериментов с ограниченными ресурсами. Ограничениями являются небольшой по современным меркам объём параметров и заявленная ориентация на прототипирование и исследования, поэтому качество на сложных задачах может уступать более крупным моделям. Лицензия — Apache-2.0.

Qwen3.5-122B-A10B-Uncensored-HauhauCS-Aggressive — GGUF-квантизированная версия базовой модели Qwen/Qwen3.5-122B-A10B, опубликованная HauhauCS под идентификатором botp. Это мультимодальная MoE-модель для генерации и анализа текста, изображений и видео, включая диалоговые, аналитические, творческие и программные сценарии. Вариант Aggressive отличается минимизированными отказами и существенно ослабленными защитными ограничениями, поэтому требует особенно осторожного применения. Модель содержит 122 млрд параметров, из которых около 10 млрд активируются на каждом проходе. Архитектура включает 256 экспертов, 8 маршрутизируемых и 1 общего эксперта на токен, 48 слоёв с гибридным сочетанием линейного внимания Gated DeltaNet и полного softmax-внимания в соотношении 3:1. Заявлены контекст до 262 тысяч токенов, словарь размером 248 тысяч токенов и поддержка 201 языка. Для работы с изображениями требуется отдельный файл mmproj; модель совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими GGUF-совместимыми средами. Доступны варианты квантизации от IQ2_M до Q8_K_P размером примерно от 40 до 145 ГБ, однако README не приводит независимых оценок качества, производительности или фактического покрытия языков. Распространяется по лицензии Apache-2.0.

amd/Qwen3.5-35B-A3B-MXFP4 — квантизированная версия модели Qwen3.5-35B-A3B-FP8, разработанная Advanced Micro Devices, Inc. с использованием AMD-Quark. Модель построена на архитектуре Qwen3_5MoeForConditionalGeneration, принимает текст и генерирует текст. В README указано обозначение 35B-A3B, однако точные параметры архитектуры, число активируемых параметров, размер контекста и перечень поддерживаемых языков не приведены. Модель предназначена для задач генерации текста и инференса в средах SGLang или vLLM на Linux с оборудованием AMD MI300 и MI350/MI355, ROCm 7.0.0, PyTorch 2.9.1 и Transformers 5.3.0. Веса статически квантизированы в формат OCP MXFP4, а активации динамически квантизированы в OCP MXFP4, что ориентировано на эффективное выполнение на совместимых ускорителях. В тесте GSM8K модель получила результат 93,25 против 89,39 у исходной FP8-версии, но приведённая оценка охватывает только один бенчмарк и не характеризует все сценарии применения. Лицензия — Apache-2.0; изменения защищены авторским правом Advanced Micro Devices, Inc.

Bloodwingv2/qwen3.5-4b-super-coder-sas-v2 — модель на архитектуре Qwen3.5, созданная дообучением jica98/qwen3.5-4B-super-coder на наборе SAS2Py из 278 примеров. Она предназначена для преобразования кода SAS в Python: на вход подаются инструкция и фрагмент SAS-кода, а модель продолжает ответ кодом Python. Модель содержит 3,4 млрд параметров, работает через Transformers и принимает контекст длиной до 262 144 токенов. Модель подходит для переноса аналитических скриптов SAS в Python и помощи при миграции кода. README описывает узкую настройку на небольшом наборе примеров; качество на других задачах программирования или сложных и нестандартных сценариях не подтверждено. Файлы опубликованы в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

Qwen3.5-9B-Cold-Fusion-GAIN-v1.0-Uncensored-Heretic-NEO-MAX-Imatrix-GGUF — языковая модель семейства Qwen3.5, разработанная DavidAU. Модель представлена в формате GGUF с вариантами обычного и MTP-квантования, включая 4- и 8-битные версии, а также оптимизацию NEO Imatrix. Заявлены поддержка английского и китайского языков и лицензия Apache-2.0. В карточке также указана мультимодальная классификация image-text-to-text, однако подробности о фактической поддержке изображений не приведены. Модель предназначена для диалогов, следования инструкциям, рассуждений, программирования, творческого письма, художественной прозы и ролевых сценариев. По заявлению автора, она создана с использованием многоэтапной настройки, методов Cold Fusion и GAIN, причём GAIN динамически адаптирует обучение для отдельных примеров. Среди заявленных преимуществ — более ясные и подробные ответы, улучшенная работа с контекстом, таблицами, графиками и текстовыми визуализациями, а также сохранение близкой к BF16 производительности в 4- и 8-битных вариантах. Модель содержит около 9 миллиардов параметров. В приведённых тестах она показывает результаты, сопоставимые или превосходящие базовые Qwen3.5-9B и Qwen3.5-27B на части задач ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и Winogrande, однако полнота тестовых данных ограничена, а заявления о превосходстве над 27B не подтверждены независимыми измерениями. Ограничения включают возможную нецензурированность, отсутствие подробных сведений о контекстном окне и требованиях к оборудованию, а также неполные данные по некоторым бенчмаркам.

Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-Tess — плотная мультимодальная модель семейства Qwen3, созданная независимой лабораторией Nightmedia. Это слияние NuSLERP нескольких моделей, включая Tess-4-27B и варианты Qwen3.5/3.6 с диалоговой, творческой и инструкционной настройкой. Модель предназначена для диалогов, рассуждений, программирования и творческого письма, а также принимает изображения для визуальных запросов. В карточке заявлен переключатель режима рассуждений через шаблон чата; опубликованные результаты включают тесты на понимание и оценки скорости и потребления памяти для нескольких вариантов квантования. В метаданных указаны 27B в имени семейства и поддержка английского, китайского, японского и испанского языков. Модель распространяется в формате safetensors под лицензией Apache-2.0. Длина контекста в предоставленных данных не подтверждена. Это экспериментальная сборка-слияние; результаты тестов из карточки не гарантируют качество в конкретных сценариях.

bernquant/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — это 27-миллиардная модель семейства Qwen3.6 в формате GGUF, созданная на базе DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. Модель разработана в рамках совместной работы автора, Nightmedia, TeichAI, armand0e и trohrbaugh с использованием Unsloth, многоэтапного fine-tuning и merge нескольких обученных версий. Указаны языки English и Chinese; заявлена поддержка vision, однако подробности о мультимодальной архитектуре и формате входных данных не приведены. Модель предназначена для широкого круга задач: следования инструкциям, решения проблем, reasoning, программирования, творческого письма, fiction и roleplaying. Авторы заявляют об улучшении общего интеллекта, instruction following и reasoning по сравнению с базовой моделью, а также о высоких результатах на ряде бенчмарков. Доступны обычные и MTP-варианты GGUF, включая NEO IMATRIX-квантизации; часть выходного тензора хранится в 16-битной точности. Для MTP-вариантов рекомендуется температура не выше 1 и отключённый repetition penalty; при низком уровне token acceptance рекомендуется использовать обычную квантизацию. К ограничениям относятся отсутствие подробных спецификаций контекстного окна, точного перечня поддерживаемых модальностей, требований к памяти и результатов независимой оценки. Модель позиционируется как uncensored и heretic, поэтому её поведение и фильтрация могут отличаться от стандартных версий Qwen. Заявления о превосходстве над другими моделями основаны на описании авторов и не подтверждены приведёнными в README полными методиками тестирования. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая fine-tune-модель на базе Qwen3.6-27B, разработанная в коллаборации автора модели, Nightmedia, TeichAI, armand0e и trohrbaugh при использовании Unsloth. Модель ориентирована на универсальные сценарии: следование инструкциям, решение задач, рассуждения, программирование, творческое письмо, ролевые сценарии и работу с визуальными данными. Заявлена поддержка английского и китайского языков, а также vision-возможностей; другие параметры контекста в README не указаны. Модель создана как многоэтапная fine-tune-модель с несколькими дообучениями и merge-операциями. В обучении использовались наборы DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также собственные и сторонние датасеты и обучающие трассы. Доступны обычные и MTP GGUF-квантизации, включая NEO IMATRIX; для части выходного тензора заявлена точность 16 бит, а MTP-тензоры имеют Q8_0. По утверждению авторов, модель улучшает следование инструкциям, общий интеллект, решение задач и рассуждения, однако приведённые в README результаты не подтверждены независимыми измерениями и не должны рассматриваться как гарантированные. Для MTP-вариантов рекомендуется температура не выше 1 и отключённая репетиционная штрафная функция; при низком уровне принятия токенов следует использовать обычные кванты. Модель описана как uncensored и heretic, поэтому её поведение и фильтрация контента могут отличаться от базовой модели. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая мультимодальная fine-tune-модель на базе Qwen3.6-27B, опубликованная nostrbuild при участии нескольких разработчиков и команд, включая DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh. Модель распространяется в формате GGUF, включая обычные и MTP-варианты с NEO IMATRIX-квантованием, и предназначена для запуска на потребительском оборудовании. В описании заявлены улучшенное следование инструкциям, решение задач, рассуждение и общее повышение интеллектуальных возможностей. Модель рассчитана на широкий круг сценариев, включая программирование, диалоги, анализ, творческое письмо и roleplaying, хотя специально не оптимизировалась только под творчество. Также заявлена поддержка vision. Указанные языки — английский и китайский. Размер базовой модели — 27B параметров; точное архитектурное устройство и размер контекстного окна в README не приведены. Доступны кванты с разрядностью 4 и 8 бит, а также варианты MTP для многотокенного предсказания. Для MTP рекомендуется температура не выше 1 и отключённая repetition penalty; при низкой доле принятия токенов следует использовать обычный квант. Автор заявляет превосходство над базовой Qwen3.6-27B в шести из семи тестов и сопоставимый результат в седьмом, однако эти результаты приведены без независимой проверки. Сильными сторонами заявлены instruction following, reasoning, problem solving, сохранение возможностей базовой модели, поддержка vision и хорошее качество даже у низкоразрядных квантов. Ограничения включают зависимость качества и производительности от выбранного кванта и настроек MTP, а также заявленный uncensored/heretic-профиль, который может означать ослабленные ограничения безопасности. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — модель, опубликованная phrodigy и основанная на Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP от DavidAU. Это результат многоэтапного дообучения и слияния моделей, выполненных совместно DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh с использованием наборов DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. В README также упоминаются Fable-трейсы, материалы для reasoning и данные Polaris. Модель предназначена для широкого круга задач: следования инструкциям, решения задач, рассуждений, общего диалога, программирования, творческого письма, художественных текстов, ролевых сценариев и других применений. Заявлены мультимодальные возможности с поддержкой изображений; в метаданных указана задача image-text-to-text. Поддерживаются английский и китайский языки. Размер базовой модели — 27B параметров, а репозиторий содержит квантизованные GGUF-варианты, включая обычные и MTP-варианты с multi-token prediction. К ключевым особенностям относятся акцент на instruction following, общее решение задач и reasoning, режим uncensored/heretic, NEO IMATRIX-квантизация и частично сохранённая точность выходного тензора. Автор заявляет превосходство базовой Qwen3.6-27B по большинству приведённых тестов, однако эти результаты представлены создателями модели и требуют независимой проверки. Для MTP-вариантов рекомендуется температура не выше 1, поскольку более высокие значения могут ухудшать работу multi-token prediction; качество также зависит от выбранного уровня квантизации и доступного оборудования. В метаданных указана лицензия Apache-2.0. README не содержит точных сведений о размере контекстного окна. Фактическая пригодность модели для чувствительных или специализированных задач, а также заявленные характеристики производительности должны проверяться отдельно.

LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-Final-GGUF — мультимодальная модель в формате GGUF, разработанная LuffyTheFox на основе HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive с переносом данных дообучения на наборе Hermes для агентских сценариев и function calling. Модель относится к архитектуре Mixture of Experts и предназначена для генерации текста, диалогов, программирования, агентских задач и обработки изображений с текстом. Заявлены поддержка английского, китайского и других языков, однако точный список языков и максимальный размер контекста в README не указаны. Ключевая особенность проекта Genesis — числовая коррекция весов GGUF-модели без полноценного переобучения: автор заявляет снижение шума в тензорах, исправление нулевых блоков и дисбалансов распределений с использованием методов на основе сингулярного разложения и закона Марченко—Пастура. Для запуска рекомендуются F16-квантизация K/V-кэша, максимальная выгрузка слоёв на GPU и настройка активных экспертов; конкретные требования к памяти зависят от выбранной квантизации. Модель ориентирована на пользователей, которым нужны менее ограниченные ответы и функции Hermes-агента, но заявленные улучшения и устойчивость требуют самостоятельной проверки. В README не приведены систематические бенчмарки, подробные ограничения, точные параметры контекста или гарантии качества мультимодальной обработки. Указанная лицензия — Apache 2.0.

Qwen3.8-27B-Brainwaves — экспериментальная объединённая модель от независимой лаборатории NightmediaAI. В README указано слияние нескольких моделей семейств Qwen3.6 и Qwen3.8; метаданные подтверждают архитектуру Qwen3.5/Qwen3_5ForConditionalGeneration, 27 млрд параметров в названии и поддержку изображений. Модель предназначена для диалогов, следования инструкциям, рассуждений и анализа изображений; в карточке также заявлены творческое письмо, математика, STEM и программирование. Модель опубликована в формате Safetensors и работает через Transformers. Карточка приводит результаты тестов для одного из компонентов слияния, но не даёт сопоставимой оценки итоговой модели. Метаданные указывают английский, китайский, японский и испанский языки. Лицензия — Apache-2.0.

Max73333/Qwen3.8-27B-GPTQ-Int4-V100 — это 4-битная GPTQ-квантизированная версия базовой модели Qwen/Qwen3.8-27B, подготовленная для текстовой генерации и запуска на видеокартах NVIDIA Tesla V100 с compute capability 7.0 (sm_70). Веса используют 4-битное представление, group size 128, симметричное квантование и параметры desc_act=false. Модель предназначена прежде всего для инференса через Transformers или совместимую сборку vLLM; мультимодальные возможности для этой версии не заявлены и не проверялись. Языки и точный размер контекста в README не указаны, однако конфигурация тестировалась с максимальной длиной контекста 4096 токенов. Архитектура текстового режима внутри vLLM связана с классами семейства Qwen3.5. Главное преимущество сборки — возможность практического запуска крупной модели на Volta, где некоторые AWQ и compressed-tensors ядра требуют более новой архитектуры GPU. На одной NVIDIA Tesla V100-SXM2 32 ГБ в протестированной конфигурации заявлена установившаяся скорость около 37–40 токенов в секунду после прогрева. При этом первый запуск контейнера и первый запрос могут занимать значительно больше времени, а производительность зависит от версий CUDA, PyTorch, Triton и vLLM. Для vLLM использовалась пропатченная сборка из исходников с поддержкой sm_70; совместимость со стандартными релизами не гарантируется. Более длинный контекст, конкурентная генерация и режимы 8192–32768 токенов требуют отдельной проверки из-за ограничений памяти KV-кэша. Лицензия модели — Apache-2.0.

timteh673/Qwen3.8-27B-Opus-Reasoning-Control-BF16 — мультимодальная модель для диалога и рассуждений, созданная timteh673 на основе Qwen/Qwen3.8-27B. Это дообученный QLoRA-чекпойнт, объединённый с базовой моделью и опубликованный в формате BF16 для Transformers; архитектура Qwen3_5ForConditionalGeneration объединяет текстовую часть на 27 млрд параметров и визуальный энкодер. Модель принимает текст и изображения и выдаёт текст; заявленный предел контекста — 262 144 токена. Вариант служит контрольным чекпойнтом для сравнения с версией Abliterix и резервной моделью семейства, а не официальной базовой моделью Qwen. Он предназначен для многошаговых рассуждений, диалога и анализа изображений. В локальных тестах проекта контрольная версия чаще отказывала на вредоносных запросах и уступила выбранной версии семейства по ряду метрик, но была сильнее на полном наборе задач по коду. Эти результаты не являются официальными бенчмарками и могут не переноситься на другие условия. Модель распространяется по лицензии Apache-2.0; BF16-чекпойнт велик и требует значительной памяти ускорителя.

Qwen 3.8 27B ROCmFP4 FAST — это квантизированная GGUF-версия модели Qwen 3.8 27B, разработанной командой Qwen и адаптированной пользователем julianmb. Модель предназначена для генерации текста и оптимизирована прежде всего для AMD Strix Halo с графикой Radeon 8060S, а также дискретных AMD Radeon GPU, использующих ROCm или Vulkan. Модель имеет плотную архитектуру с 27 млрд параметров и представлена в формате ROCmFP4 с эффективной точностью 4,26 бит на вес и размером файла около 13,55 GiB. Заявлены поддерживаемые языки английский и китайский. Версия ориентирована на ускоренное авторегрессионное декодирование и может использовать speculative decoding с MTP; на Ryzen AI Max+ 395 указана скорость до 36,04 токена в секунду, при устойчивом MTP-декодировании K=4 — 33,80 токена в секунду. Без спекулятивного декодирования измеренная скорость составляет 14,02 токена в секунду. Сильные стороны модели — сниженное потребление памяти, оптимизация под оборудование AMD и высокая скорость генерации при сохранении заявленного качества, близкого к исходной модели. Дополнительно описана экспериментальная гибридная NPU-акселерация AMD XDNA 2 для уменьшения задержки выдачи первого токена на длинных запросах, но она не повышает устойчивую скорость декодирования. Реальная производительность зависит от GPU, драйверов, конфигурации MTP и программного окружения, поэтому приведённые показатели нельзя считать универсальными. Модель распространяется по лицензии Apache 2.0.

Atomic-Germ/Qwen3.8-Flash-Next-APEX-GGUF — набор оптимизированных GGUF-квантизаций модели Qwen3.8-Flash-Next, разработанный Atomic-Germ на базе mudler/Qwen3.8-Flash-Next-APEX-GGUF. Модель описана как Mixture-of-Experts архитектура объёмом 125B/177B параметров с технологиями GDN и Qwen Sparse Attention. Репозиторий ориентирован на локальный запуск и совместное использование с Guanaco, включая потоковую загрузку с диска на потребительском оборудовании. Основные варианты включают Q6_K с высококачественной квантизацией весов, Q8_0 для скрытых состояний и F32 для нормализаций, а также более компактный Q4_0 с меньшими требованиями к памяти. В комплект также входит importance matrix imatrix.dat, предназначенная для настройки квантизации и оптимизации динамической выгрузки экспертов. В репозитории заявлен улучшенный шаблон чата с поддержкой многошагового диалога, строгих JSON-схем и параллельных вызовов инструментов. Для запуска через Guanaco указана возможность работы примерно в 24 ГБ памяти; конкретная скорость зависит от оборудования, типа квантизации и используемых ядер. Сильными сторонами являются высокая степень сжатия при заявленном небольшом ухудшении perplexity относительно BF16, оптимизация размещения чувствительных слоёв и поддержка потокового запуска крупных MoE-моделей на ограниченных ресурсах. Ограничения включают зависимость производительности от конкретного оборудования и режима загрузки, отсутствие измерений пропускной способности в README, а также неполную оценку на отложенных данных. Языки, точная максимальная длина контекста и полноценные мультимодальные возможности явно не указаны; в примере запуска используется контекст 128000 токенов. Лицензия — Apache-2.0.

primitive-ai/Qwen3.8-Flash-Next-NVFP4 — квантизированная сборка базовой модели Qwen/Qwen3.8-Flash-Next, подготовленная Primitive AI. Модель предназначена для генерации текста и обработки запросов с изображениями в формате image-text-to-text, а также поддерживает рассуждения, структурированные вызовы инструментов и speculative decoding через MTP. Объём исходной модели составляет около 180 млрд параметров; сборка использует NVFP4 для экспертных компонентов и BF16 для части весов, занимая около 186 ГБ на диске. Главное преимущество — запуск крупной модели на одной 96 ГБ GPU Blackwell благодаря выгрузке 51-миллиардной n-gram-таблицы в оперативную память хоста; требуется примерно 100 ГБ свободной RAM. Заявлены скорость до 74,4 токена/с в однопоточном режиме и до 483,8 токена/с при 32 параллельных запросах. Модель сохраняет поддержку MTP, имеет проверенные парсеры рассуждений и tool calling в vLLM, а также показывает высокие результаты на приведённых наборах знаний и вызова инструментов. Ограничения связаны с жёсткими требованиями к оборудованию, объёму RAM и настройкам vLLM. Для запуска рекомендуется опубликованный образ vllm/vllm-openai:qwen38-flash-next и специальные параметры offload; без них сервер может зависать или не пройти инициализацию. Данные о поддерживаемых языках и точной архитектуре в README не приведены. Распространение осуществляется по лицензии Qwen Community 1.0.

Qwen3.8-Flash-Next-NVFP4-SSD-Stream — подготовленная для инференса версия RadixArk/Qwen3.8-Flash-Next-NVFP4, созданная garnermccloud для работы с SGLang и расширением sglang-ssd-stream. Модель предназначена для мультимодальных задач image-text-to-text, включая обработку изображений, reasoning, retrieval, работу с инструментами и генерацию текста или кода. Подготовка не включает дообучение, тонкую настройку или повторную квантизацию: изменена только организация хранения данных для обслуживания модели. В основе используется архитектура Qwen/Qwen3.8-Flash-Next. Routed experts применяют ModelOpt NVFP4 W4A4, а attention, shared experts, embeddings, LM head, vision-компоненты и MTP-веса сохранены в BF16; predictive lookup table хранится в FP8. 48-гигабайтная таблица вынесена из оперативной памяти в локальный read-only SSD sidecar объёмом около 51,2 GB, что снижает требования к RAM при загрузке. Заявленный контекст по умолчанию составляет 131 072 токена; в исторических измерениях использовался пул на 262 144 токена. Подготовленный набор данных занимает около 140 GiB. Главное преимущество — возможность запускать модель с существенно меньшим потреблением системной памяти, загружая необходимые данные с SSD во время работы GPU. Производительность зависит от оборудования, профиля и типа нагрузки: измерения на RTX PRO 6000 Blackwell показывают смешанные результаты, поэтому заявленные ускорения нельзя считать универсальными; качество модели отдельно не оценивалось. Решение ориентировано на SGLang и требует совместимого runtime, локального SSD sidecar и соответствующей GPU-конфигурации. Лицензия указана как other; дополнительных условий использования в README не приведено.

DavidAU представил эту модель как универсальную разговорную модель на архитектуре Qwen3 MoE, объединяющую шесть моделей размером 1,7 млрд параметров каждая. В README заявлены около 10,2 млрд суммарных параметров, сжатие до 7 млрд параметров и контекст до 40 960 токенов; метаданные указывают архитектуру Qwen3MoeForCausalLM и формат safetensors. Модель предназначена для диалогов, творческой генерации и написания кода, а автор отдельно отмечает сценарии ролевого общения и генерацию контента для взрослых. Автор указывает, что обычно модель активирует режим рассуждения, и приводит необязательные настройки для его вызова. По README, запуск возможен напрямую или с последующей конвертацией исходных весов в различные форматы квантования. Метаданные описывают модель как слияние нескольких моделей Qwen3; среди указанных баз — Josiefied-Qwen3-1.7B-abliterated-v1, Menlo/Lucy, Polaris-1.7B-Preview и другие. Заявленная лицензия — Apache-2.0. Качество и скорость зависят от выбранного формата, точности и настроек генерации; README рекомендует менять число активных экспертов и параметры сэмплирования под задачу. Модель помечена как uncensored и ориентирована в том числе на NSFW-контент, поэтому её ответы могут включать откровенные или небезопасные материалы.

RaceBench-MiniCPM5-heretic — языковая модель, разработанная RACER IS OP на основе saidutta69/RaceBench-MiniCPM5 и MiniCPM5-1B. Это decensored-вариант, созданный с помощью Heretic 1.4.0 методом directional ablation (abliteration): целевые изменения весов подавляют поведение, связанное с отказами, без дополнительного дообучения. Модель предназначена для генерации текста и диалогов на английском и китайском языках. Модель ориентирована на многошаговое рассуждение, код, агентское использование инструментов, ролевые сценарии и локальные приложения. Заявлены режимы Think и No-Think, контекст до 128K токенов, поддержка llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang, а также GGUF-квантизации для запуска на потребительских GPU, CPU и устройствах edge-класса. Размер исходной модели составляет около 1,1 млрд параметров; доступны варианты от Q2_K до Q8_0 и F16. К сильным сторонам относятся компактность, длинный контекст, низкие требования к памяти, поддержка локального запуска и снижение частоты отказов с 39 до 2 на 100 проверочных adversarial-запросов по данным карточки. При этом отсутствие защитных ограничений является существенным риском для безопасного применения, а изменения весов могут влиять на поведение и качество модели. Также заявлен компромисс между улучшением результатов на BBH и ухудшением показателей на математических задачах; подробные результаты в этой карточке не приведены. Модель распространяется по лицензии Apache 2.0.

RWKV/RWKV7-1.5B-20260805 — официальная базовая языковая модель BlinkDL семейства RWKV-7 «Goose», выпущенная в формате Transformers. Это плотная причинная модель с архитектурой RWKV-7 без attention: она поддерживает постоянный размер рекуррентного состояния и постоянную вычислительную работу на генерируемый токен, а обучение можно распараллеливать. Размер модели — 1,5 млрд параметров; веса представлены в формате safetensors. Модель предварительно обучена на веб-текстах, коде, синтетических, инструкционных, диалоговых и рассуждающих данных. Она предназначена для генерации текста, оценки, последующего обучения и дообучения; шаблон чата задаёт формат запросов, но сам по себе не означает, что модель выровнена как безопасный ассистент. Метаданные и карточка указывают поддержку английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Лицензия — Apache-2.0. Постоянное рекуррентное состояние не накапливает KV-кэш как attention-модели, а собственный токенизатор включён в репозиторий. Качество генерации, следование инструкциям и языковое поведение зависят от контрольной точки, запроса и последующего обучения. Откат рекуррентного кэша для некоторых режимов speculative decoding не поддерживается без снимков состояния; оптимизированный TileLang-инференс зависит от GPU, типа данных и формы входа. Карточка не сообщает о проверках безопасности, предвзятости, токсичности, фактической точности или пригодности для высокорисковых сценариев.

QuantFactory/Skywork-o1-Open-Llama-3.1-8B-GGUF — квантизированная версия модели Skywork o1 Open-Llama-3.1-8B, созданная с использованием llama.cpp. Исходную модель разработала команда Skywork компании Kunlun Inc.; она основана на Meta-Llama-3.1-8B-Instruct и дообучена на данных в стиле «медленного мышления». Версия в этом репозитории предназначена для запуска в формате GGUF с использованием совместимых инструментов llama.cpp. Модель ориентирована на диалоги, генерацию текста и решение задач, требующих рассуждений: математики, программирования, логики, здравого смысла, этических решений и распознавания логических ловушек. Заявленные особенности включают планирование, пошаговое рассуждение, саморефлексию и самопроверку. В разработке применялись многоагентная генерация данных, непрерывное предварительное обучение, supervised fine-tuning, обучение с подкреплением с использованием process reward model и алгоритмы поиска рассуждений. Известный размер исходной модели — 8B параметров; архитектура и набор поддерживаемых языков в предоставленных данных отдельно не указаны. Квантизация может снизить требования к ресурсам и упростить локальный запуск, но конкретные варианты квантизации и их влияние на качество зависят от файлов, доступных в репозитории. Модель ориентирована прежде всего на задачи рассуждений, однако заявленные преимущества основаны на описании разработчиков, а ограничения и результаты независимых проверок не приведены. Лицензия указана как other, поэтому точные условия использования необходимо уточнять в исходном репозитории и сопутствующих материалах.

UIGEN-T1.1-Qwen-14B-GGUF — это GGUF-квантизированная версия модели UIGEN-T1.1-Qwen-14B, разработанной smirki и подготовленной для распространения пользователем bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты с разным балансом между размером файла и качеством, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3_K. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Основные сценарии применения — генерация текста, кода и пользовательских интерфейсов, а также задачи, связанные с UI generation и UI reasoning. В метаданных указаны английский язык и датасет UI_REASONING_v1.01. Модель имеет размер 14B параметров; сведения о точной архитектуре, длине контекста и поддержке дополнительных модальностей в README отсутствуют. Для работы используется формат промптов ChatML с ролями system, user и assistant. Сильной стороной является выбор из большого числа вариантов квантизации: Q6_K_L и Q6_K заявлены как варианты очень высокого качества, а Q4_K_M — как рекомендуемый компромисс по размеру и качеству. Более компактные варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут заметно уступать по качеству; версии Q3 и Q2 характеризуются как низкокачественные или очень низкокачественные. Модель распространяется по лицензии Apache-2.0.

Terminal-debugging — дообученная модель Qwen/Qwen3-8B, созданная автором cuong1692001 на наборах nemotron_easy_debugging, nemotron_medium_debugging и nemotron_mixed_debugging. Это плотная причинно-языковая модель семейства Qwen3 с 7,6 млрд параметров, предназначенная для генерации текста в диалоговом формате. Модель ориентирована на отладку терминальных сценариев: может применяться для анализа описаний проблем и подготовки текстовых рекомендаций по их диагностике. Репозиторий использует Transformers и содержит веса в формате safetensors; контекстное окно — 40 960 токенов. Поддерживаемые языки, оценка качества и конкретные ограничения в доступных материалах не описаны. Указана лицензия other; конкретные условия использования следует проверять в карточке репозитория и у правообладателей базовой модели и обучающих данных.

XMAiNframe-instruct-7b — диалоговая языковая модель Fsoft-AIC, предназначенная для работы с унаследованными мейнфрейм-системами и кодовыми базами COBOL. Она создана на основе DeepSeek-Coder 7B; карточка описывает семейство XMAiNframe с базовой и instruct-версиями, но сведений о конкретной процедуре дообучения этой версии не приводит. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 6,5 млрд параметров и работает с контекстом до 4096 токенов. Она принимает текст и генерирует текст, поддерживая диалоговый сценарий. Заявленные задачи семейства включают ответы на вопросы о мейнфреймах, вопросы с выбором ответа и суммаризацию кода COBOL. В README сообщается о результатах сравнительных оценок, однако подробности методики и воспроизводимости здесь не приведены. Лицензия модели — MIT. Карточка не описывает поддерживаемые естественные языки, поэтому языки не перечислены; COBOL относится к языкам программирования, а не к языкам общения.