II.10Разработка и эксплуатация AI/ML-систем

gpt-oss-20b-Derestricted — производная модель Arli AI на основе openai/gpt-oss-20b. Авторы применили Norm-Preserving Biprojected Abliteration, чтобы ослабить поведение отказа, сохранив исходные нормы весов. В каталоге указано 1,6 млрд параметров, архитектура MoE для авторегрессионной генерации текста и контекст до 131 072 токенов. Модель предназначена для диалогов, рассуждений, агентных сценариев и других задач генерации текста, где требуется меньше отказов на запросы. Исходная модель поддерживает настраиваемый уровень рассуждений и формат Harmony; для корректной работы следует использовать шаблон Harmony. Карточка утверждает, что метод помогает сохранить качество рассуждений, но приводит это как результат авторских оценок, а не как независимую гарантию. Модель распространяется по лицензии Apache-2.0. Она может по-прежнему иногда пытаться подавлять запросы; языки в предоставленных данных явно не перечислены.

Heretic-Scalpel-TriTier-E2B — экспериментальная разговорная языковая модель, опубликованная пользователем feifei. По карточке, она построена на Gemma 4 E2B и использует архитектуру Hierarchical Tri-Tier Mixture-of-Adapters: плотный адаптер для STEM-задач и разреженно активируемые микроадаптеры для тематического управления генерацией. Метаданные классифицируют её как дообучение модели aifeifei798/Heretic-Scalpel-E2B; репозиторий содержит веса SafeTensors, а заявленная лицензия — Apache-2.0. Модель предназначена для диалоговой генерации текста, включая рассуждения по STEM и алгоритмам, программирование, а также литературные, гуманитарные и творческие задачи. Карточка описывает базовую модель как Gemma 4 E2B, но не приводит надёжных сведений о контекстном окне и поддержке мультимодального ввода; текстовые задачи и английский язык подтверждаются метаданными. Заявленный размер артефакта — 121,6 МБ. README заявляет 32 специализированных микроадаптера и 50 шагов обучения, однако не предоставляет достаточных независимых оценок качества или подробных воспроизводимых результатов. Поэтому пригодность для конкретных задач следует проверять отдельно; совместимость с пользовательским кодом требует загрузки с trust_remote_code=True.

ISOM-R1-Reasoning-1.5B-Instruct — текстовая генеративная модель на 1,5 млрд параметров, разработанная Prannessh K.V.A. на основе Qwen2.5-1.5B-Instruct. Она предназначена для многошаговых рассуждений и диалогов с длинным контекстом; заявленный размер контекста составляет 32 768 токенов. В README описан механизм recurrent state manifold projection, призванный ограничивать рост памяти KV-кэша при длинной обработке. Модель ориентирована на сценарии, где важны продолжительные рассуждения при ограниченной видеопамяти; приведённое в карточке сравнение на Tesla T4 сообщает об успешной обработке 8 192 токенов. Модель принимает текст и генерирует текст. Метаданные также указывают на поддержку чата и интерфейса вызова инструментов. Язык карточки и языковой тег — английский. Базовая модель в README упоминается как использованная под Apache 2.0, однако сама эта производная модель распространяется по CC BY-NC-ND 4.0, что ограничивает коммерческое использование и распространение производных материалов. Результаты производительности и заявления об архитектуре приведены автором в README; они не подтверждены независимыми данными в предоставленных источниках.

Jan-v2-VL-f32-AIO-GGUF — GGUF-сборка 8-миллиардной vision-language модели Jan-v2-VL, разработанной командой JanHQ. Модель предназначена для взаимодействия с визуальными и текстовыми данными, а также для выполнения многошаговых задач в реальных программных средах, включая браузеры и настольные приложения. Модель сочетает языковое рассуждение с визуальным восприятием, поддерживает анализ скриншотов, заземление элементов интерфейса и вызов инструментов. Она рассчитана на агентную автоматизацию, управление пользовательским интерфейсом, следование сложным инструкциям, сохранение промежуточного состояния и восстановление после незначительных ошибок. Заявлен английский язык, однако сведения о размере контекста и точной архитектуре в README не указаны. Доступны варианты low, med и high: low ориентирован на эффективность и меньшую задержку, med предлагает баланс качества и скорости, а high использует более глубокое рассуждение и требует больше времени на обработку. Сильными сторонами являются работа с визуально-текстовыми сценариями, устойчивое пошаговое выполнение длинных последовательностей и возможность локального запуска через vLLM и llama.cpp. Ограничениями являются отсутствие в README подробных метрик, данных о контекстном окне и гарантий качества за пределами заявленных сценариев, а также повышенные требования к ресурсам для полноразмерных F32-файлов. Модель распространяется по лицензии Apache-2.0.

Kepler-8B-Instruct-v2 — разговорная языковая модель intellectlabs, представленная в репозитории в формате GGUF для запуска через llama.cpp и совместимые приложения. Согласно карточке, исходная модель получена слиянием Qwen/Qwen2.5-7B-Instruct (85%) и DeepSeek-R1-Distill-Qwen-7B (15%); доступны варианты квантования от Q2_K до F16. Модель содержит около 7,1 млрд параметров, использует плотную архитектуру Qwen2 и поддерживает контекст до 32 768 токенов. Модель предназначена для диалога и следования инструкциям: её можно применять для ответов на вопросы, объяснений и других текстовых задач в чат-интерфейсах, включая LM Studio, Ollama и llama.cpp. Карточка заявляет поддержку ChatML и ответы на разных языках, а метаданные указывают английский. Лицензия — Apache 2.0. Это слияние моделей, а опубликованные GGUF-файлы включают квантованные варианты. README сообщает, что модель не оценивалась на стандартных бенчмарках; сжатие до низкой разрядности снижает качество и повышает нестабильность ответов. Как и другие языковые модели, она может выдавать неточные сведения и унаследовать особенности или смещения исходных моделей.

SteelStorage/L3.1-MS-Hytroblated-70B — экспериментальная слитая языковая модель, созданная SteelStorage методом Model Stock с помощью mergekit на основе mlabonne/Llama-3.1-70B-Instruct-lorablated и с включением моделей Hermes 3, Llama 3.1 Nemotron и Dracarys2. Это плотная авторегрессионная модель семейства Llama 3.1 с 69,5 млрд параметров и контекстом до 131 072 токенов; репозиторий содержит веса safetensors для Transformers. Модель предназначена для генерации текста и диалогов общего назначения, включая ролевые сценарии. Метаданные также отмечают интерфейс вызова инструментов. README называет её экспериментальной базовой моделью для возможной Nevoria v1.1, поэтому качество и готовность к практическому применению могут зависеть от сценария. В метаданных и README не приведены отдельные языковые ограничения или результаты оценки. Лицензия в предоставленных данных не указана.

LFM2.5-1.2B-Thinking-ToMoE-GGUF — набор GGUF-квантизаций модели, опубликованный Nichonauta. Основа — LiquidAI/LFM2.5-1.2B-Thinking, преобразованная в ToMoE Mixture-of-Experts. Модель предназначена для генерации текста и задач, требующих рассуждений; поддерживает нативное поведение с блоком <think>. Указаны языки: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Модель рассчитана на локальный запуск через llama.cpp, включая сценарии on-device с объёмом хранения менее 1 ГБ. Доступны варианты BF16 размером 2343 МБ, Q8_0 размером 1186 МБ и Q4_K_M размером 695 МБ. Рекомендуемый контекст — до 32768 токенов. В README не указаны точные параметры архитектуры и число активных экспертов; размер модели обозначен как 1.2B в названии базовой модели. Для Q4_K_M заявлена скорость около 302 токенов в секунду на RTX 3060, для Q8_0 — около 212, для BF16 — около 125. Важное ограничение GGUF-версии заключается в том, что llama.cpp не поддерживает нативные ToMoE-эксперты и динамические V-маски. Поэтому модель восстановлена как плотный эквивалент и по поведению соответствует плотной базовой модели, а не исходной MoE-версии. Для использования настоящего MoE требуется версия safetensors с параметром trust_remote_code. Производительностью и компактностью особенно выделяется Q4_K_M, однако квантизация может снижать точность по сравнению с BF16. Производная распространяется по лицензии LFM Open License v1.0; ссылка на лицензию указана в карточке модели.

LFM2.5-350M — компактная языковая модель Liquid AI для локального запуска на устройствах и instruction-following сценариев. Это дообученная на основе LiquidAI/LFM2.5-350M-Base плотная гибридная модель семейства LFM2 с 350 млн параметров по README и 444,6 млн параметров по метаданным. Архитектура сочетает 10 блоков double-gated convolution и 6 блоков GQA; модель принимает текст и генерирует текст, поддерживает контекст до 128 000 токенов по метаданным, тогда как README указывает 32 768 токенов. Модель общего назначения рассчитана на извлечение данных, структурированные ответы и вызов инструментов. Она поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, португальский и испанский языки. Разработчик заявляет скорость до 313 токенов/с на CPU AMD и 188 токенов/с на Snapdragon Gen 4, а также возможность работы менее чем с 1 ГБ памяти. README не рекомендует использовать её для задач, требующих обширных знаний, и программирования. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с карточкой модели.

Это версия llm-jp/llm-jp-4.1-8b-thinking, преобразованная для запуска через движок onw на Intel NPU. Модель разработана проектом LLM-jp при Национальном институте информатики Японии; в репозитории размещены веса и файлы конфигурации для onw, а сам движок устанавливается отдельно. Архитектура — плотная Llama-подобная авторегрессионная модель примерно на 7,8 млрд параметров с контекстом до 65 536 токенов. Модель предназначена для диалога и генерации текста, в первую очередь на японском языке: она следует инструкциям, рассуждает и поддерживает вызов инструментов через OpenAI-совместимый API. README описывает формат harmony, англоязычное внутреннее рассуждение в режиме thinking и проверенные примеры японских ответов и параллельных вызовов инструментов. Текстовый ввод и текстовый вывод; метаданные также указывают японский и английский языки. Для работы требуется совместимый Intel Core Ultra с NPU и установленный onw; скорость зависит от NPU и объёма памяти. Веса переразбиты для исполнения на NPU: слои используют INT4, выходной слой — INT8; README сообщает о близком совпадении результатов с исходной bf16-моделью на описанных проверках. Это преобразование и квантование без дополнительного обучения. Лицензия — Apache 2.0.

llm-jp-4-32b-a3b-thinking — языковая модель семейства LLM-jp-4, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это Transformer-модель с архитектурой Qwen3 MoE: 32 слоя, 128 экспертов, из которых активируются 8; общий размер составляет около 32,1 млрд параметров, а число активных параметров — около 3,8 млрд. Модель предназначена для генерации текста и диалогового общения, в том числе для задач, требующих рассуждений. Контекстное окно составляет 65 536 токенов. Модель обучалась на 11,7 трлн токенов, а постобучение включало SFT и DPO без обучения с подкреплением. Карточка указывает японский и английский языки. Для корректного использования следует применять прилагаемый токенизатор: хотя шаблон чата совместим с форматом OpenAI Harmony, токенизация библиотекой openai-harmony напрямую не поддерживается. Разработчики предупреждают, что модель находится на ранней стадии исследований и разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

Maverick Llama 3 8B — диалоговая языковая модель на архитектуре Llama, созданная feeltheAGI на базе Meta Llama 3 8B и дообученная на наборе feeltheAGI/maverick-sharegpt. Модель содержит около 7,5 млрд параметров, принимает текст и предназначена для генерации ответов в формате чата с шаблоном ChatML; заявленная длина контекста — 8192 токена. Модель подходит для диалогового ассистента, ответов на вопросы, рассуждений и решения задач по математике. В карточке приведены результаты тестов EQ-Bench, WinoGrande, GSM8K и MathQA, но они не гарантируют качество в конкретных сценариях. Репозиторий предоставляет веса в формате Safetensors. Метаданные указывают лицензию Apache 2.0, тогда как README ссылается на Meta Llama 3 Community License Agreement; условия использования следует сверять с лицензией базовой модели.

Mistral_solar-slerp — диалоговая языковая модель, созданная автором Pierre-obi слиянием NousResearch/Nous-Hermes-2-SOLAR-10.7B и mistralai/Mistral-7B-Instruct-v0.2 методом slerp с помощью LazyMergekit. Модель использует плотную архитектуру Mistral и содержит 7,1 млрд параметров. Она предназначена для генерации текста и ответов на инструкции в диалоговом формате. Модель принимает текст и выдаёт текст; заявленная длина контекста — до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Модель подходит для чат-ботов, ответов на вопросы и других задач генерации текста. Публичные сведения не дают отдельных результатов оценки качества или подробных ограничений, поэтому производительность в конкретных сценариях следует проверять самостоятельно.

MobileLLM-Pro-base — базовая предварительно обученная языковая модель семейства MobileLLM, разработанная Meta Reality Labs для эффективного запуска на устройствах. Модель содержит 1,08 млрд параметров и предназначена для генерации текста и общих языковых задач; README сообщает о результатах на тестах рассуждений, знаний и извлечения информации. Архитектура использует 30 слоёв и чередует локальное и глобальное внимание в соотношении 3:1, что снижает затраты на обработку длинного контекста. Заявленная длина контекста — до 128 тыс. токенов. Модель принимает и выдаёт текст и рассчитана на английский язык. Веса доступны в формате safetensors; README описывает базовый чекпойнт в 16-битной точности и отдельные int4-варианты для CPU и ускорителей, размещённые в других репозиториях. Модель можно применять для генерации текста, работы с длинными документами, суммаризации и поиска информации; для диалога, ответов на вопросы и вызова инструментов разработчики отдельно предлагают инструктивно дообученную версию. Модель создана с дистилляцией знаний от Llama 4-Scout. Лицензия FAIR NC ограничивает использование некоммерческими исследовательскими целями.

NoromaidxOpenGPT4-2 — текстовая генеративная модель, созданная NeverSleep слиянием моделей Noromaid-8x7b-Instruct и Open_Gpt4_8x7B_v0.2 методом TIES. В карточке указано, что при слиянии Open_Gpt4_8x7B_v0.2 использовалась как базовая модель; в метаданных также перечислены Mixtral-8x7B-Instruct-v0.1 и Noromaid-v0.1-mixtral-8x7b-Instruct-v3 как компоненты слияния. Модель основана на архитектуре Mixtral с разреженной смесью экспертов (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста по инструкциям и диалоговых сценариев; README показывает шаблоны Alpaca и Mistral. Доступны веса в формате safetensors, а для использования требуется учитывать совместимую библиотеку Transformers. Лицензия — CC-BY-NC-4.0, поэтому коммерческое использование ограничено условиями лицензии. Метка NSFW в метаданных указывает на возможность взрослого контента; перед применением следует учитывать требования к модерации и аудитории.

OpenBuddy — это мультиязычная чат-модель, разработанная проектом OpenBuddy на базе семейства Meta LLaMA. В репозитории представлена плотная авторегрессионная архитектура LlamaForCausalLM размером 12,9 млрд параметров, с контекстом до 65 536 токенов; веса сохранены в формате Safetensors. Модель предназначена для диалогов и генерации текста на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Модель подходит для чат-ботов, ответов на вопросы и генерации текста с длинным контекстом. Она может выдавать ошибочные, вредные или оскорбительные ответы, поэтому не подходит для критически важных решений, медицинских рекомендаций и управления системами, где ошибка может причинить ущерб. Использование регулируется лицензией Llama 2: требуется соблюдать условия Meta и иметь право на доступ к исходной модели; модель предоставляется без гарантий.

Phi-3-Vision-128K-Instruct — компактная мультимодальная модель Microsoft из семейства Phi-3 с плотной архитектурой Phi3VForCausalLM и 3,7 млрд параметров. Она принимает текст и изображения и предназначена для диалоговых сценариев с визуальным вводом, включая понимание изображений, OCR, а также разбор графиков и таблиц. Модель дообучена с помощью supervised fine-tuning и direct preference optimization; в карточке заявлен контекст до 128 тысяч токенов, хотя метаданные указывают native context в 4096 токенов. Модель рассчитана на применение в условиях ограниченных вычислительных ресурсов и низкой задержки, а также на создание генеративных функций с визуальным вводом. Основной язык — английский; карточка предупреждает о снижении качества для других языков. Возможны фактические ошибки, стереотипные или оскорбительные ответы, поэтому результаты следует проверять, особенно в чувствительных и высокорисковых сценариях. Лицензия — MIT.

EnlistedGhost/Pixtral-12B-Ollama-GGUF — это мультимодальная модель Pixtral-12B в формате GGUF, адаптированная автором EnlistedGhost для нативной работы с Ollama. Модель основана на mistral-community/pixtral-12b, который, в свою очередь, относится к семейству Pixtral от Mistral. Релиз включает рабочие файлы vision projector (mmproj), поэтому поддерживает обработку текста и изображений. Модель предназначена для диалогового взаимодействия, генерации текста и задач image-text-to-text, включая анализ изображений по текстовым запросам. Заявлена поддержка английского и русского языков. Доступны варианты с разными уровнями квантования GGUF — от наиболее компактных IQ2 и Q2 до Q8_0 и F16, что позволяет выбирать между требованиями к памяти и качеством вывода. Указанный размер модели — 12B параметров; максимальный размер контекста в карточке не приведён. К сильным сторонам относятся готовность к использованию в Ollama без дополнительной настройки и наличие мультимодальной поддержки. Ограничения связаны с использованием квантованных вариантов: качество и требования к ресурсам зависят от выбранного типа квантования. Сведения о точных результатах оценки, аппаратных требованиях и ограничениях применения отсутствуют. Модель распространяется по лицензии Apache-2.0.

Prometheus-Mistral-Nemo-12B — разговорная текстовая модель на архитектуре Mistral, созданная ApolloRaines на основе Mistral-Nemo-Instruct-2407. Авторы применили к весам модели автоматическую оптимизацию через систему jBlaze: модель оценивала свои поведенческие слабые стороны, предлагала изменения, а функциональные тесты определяли, сохранять ли их. Это дообученная версия размером 12,1 млрд параметров с контекстом до 131 072 токенов; доступны веса Safetensors. Модель поддерживает английский язык и интерфейс вызова инструментов. Модель предназначена для диалога и генерации текста с акцентом на проверку предположений, обозначение неопределённости, самокоррекцию, анализ альтернатив и распознавание вводящих в заблуждение формулировок. В README приведён результат 43 из 50 на наборе вопросов-ловушек; качество длинных ответов, по утверждению авторов, сопоставимо с базовой моделью. Эти результаты основаны на описанных авторами тестах и не гарантируют точность в других сценариях. Модель распространяется по лицензии Apache-2.0; система jBlaze, использованная для модификации весов, является проприетарной.

QVikhr-2.5-1.5B-Instruct-SMPO — русско-английская инструктивная языковая модель команды Vikhr, разработанная на основе Vikhr-Qwen-2.5-1.5B-Instruct. Модель дообучена на русскоязычном датасете GrandMaster-PRO-MAX с применением SMPO (Simple Margin Preference Optimization) для улучшения ответов на инструкции и диалоговых ответов. Модель использует плотную архитектуру Qwen2 с 1,5 млрд параметров и контекстом до 32 768 токенов. Она принимает текст и генерирует текст, поддерживает русский и английский языки; карточка также указывает интерфейс вызова инструментов. Подходит для диалогов, ответов на вопросы и генерации текста, особенно на русском языке. Доступна по лицензии Apache-2.0. README перечисляет квантованные варианты GGUF и MLX с разрядностью 4 и 8 бит.

Карточка модели DdaanZzubb/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Карточка модели tayaee/Qwen2.5-1.5B-Korean-GRPO-smoke на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Qwen2-72B-Instruct-IMat-GGUF — это набор GGUF-версий инструкционной языковой модели Qwen2-72B-Instruct, опубликованный legraphista и основанный на модели Qwen/Qwen2-72B-Instruct. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в чат-приложениях и локальном inference через совместимые инструменты, в частности llama.cpp. В метаданных указан английский язык; сведения о поддержке других языков, мультимодальности и максимальном размере контекста не приведены. В репозитории доступны варианты от BF16 и FP16 до квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-серий. Часть вариантов создана с использованием IMatrix-калибровки, предназначенной для более эффективного квантования, а некоторые представлены в виде разделённых файлов. Размеры файлов варьируются примерно от 29,81 до 145,42 ГБ, поэтому модель требует значительных ресурсов хранения и вычислений. Ключевая характеристика — 72 миллиарда параметров; точная архитектура и контекстное окно в README не указаны. Сильной стороной является широкий выбор уровней квантования и формат GGUF, удобный для локального запуска, а IMatrix может помогать сохранять качество при уменьшении размера модели. Ограничениями остаются высокая требовательность к памяти и производительности, а также возможная потеря качества в более агрессивных вариантах квантования. Модель распространяется по лицензии tongyi-qianwen; указана лицензия типа other со ссылкой на лицензию исходной модели Qwen2-72B-Instruct.

Qwen3-4B-Instruct-2507-MLX-8bit — 8-битная квантованная версия языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX — фреймворка Apple Machine Learning Research, ориентированного на эффективное выполнение моделей на устройствах Apple Silicon. Модель предназначена для генерации текста в инструкционном формате и локального использования на совместимых компьютерах Apple Silicon. Она подходит для диалоговых приложений, обработки инструкций и других задач текстовой генерации. Модель имеет размер 4B параметров, относится к текстовым моделям и доступна в 8-битном формате MLX. Другие характеристики, включая поддерживаемые языки, длину контекста и точные параметры архитектуры, в README не указаны. Ключевое преимущество модели — сочетание компактного размера, 8-битной квантования и оптимизации под Apple Silicon, что делает её более подходящей для локального запуска с ограниченными ресурсами. Ограничения включают возможное снижение точности по сравнению с исходной моделью и типичные для языковых моделей риски генерации неточной, вредной или неподходящей информации. Модель распространяется по лицензии Apache-2.0.

Модель dealignai/Qwen3.6-27B-MXFP8-CRACK-MTP — модифицированная версия Qwen 3.6 27B от dealignai. Это плотная мультимодальная модель с гибридной архитектурой GatedDeltaNet SSM и полным вниманием, 64 слоями и поддержкой изображений и видео. Репозиторий содержит веса SafeTensors в формате MXFP8 для запуска через MLX на компьютерах Apple Silicon; размер указан как 27 ГБ. Сохранена голова multi-token prediction для спекулятивного декодирования d3, для которого автор заявляет ускорение генерации примерно в 1,74 раза в совместимой среде vMLX. Модель предназначена для диалогов, рассуждений, ответов по изображениям и видео, а также сценариев с вызовом инструментов. Автор сообщает об удалении поведения отказа на уровне весов и приводит результаты HarmBench и MMLU, полученные через vMLX. README не описывает методику тестирования подробно, поэтому заявленные оценки и ускорение следует считать результатами автора, а не независимой проверкой. Лицензия — Apache-2.0. Модель рассчитана на использование с vMLX или совместимой средой MLX с поддержкой Qwen 3.6; формат MLX и ускорение MTP ориентированы на Apple Silicon. После изменения поведения отказа модель может выполнять запросы без обычных отказов по безопасности, поэтому необходим контроль её применения.

Qwen3.6-35B-A3B-Abliterix-EGA-abliterated-i1-GGUF — набор квантованных GGUF-файлов модели, созданный mradermacher на основе jenerallee78/Qwen3.6-35B-A3B-Abliterix-EGA-abliterated. Модель относится к семейству Qwen и использует MoE-архитектуру с заявленным размером 35B параметров и 3B активных параметров; в описании также указаны Expert-Granular Abliteration и мультимодальная поддержка. Модель предназначена для диалоговых сценариев, генерации и обработки текста, а также задач image-text-to-text с анализом изображений. Заявлены английский и китайский языки. Распространяется в формате GGUF с множеством вариантов квантования от очень компактных IQ1 до более качественных Q6_K; доступны imatrix-кванты, а для баланса размера, скорости и качества автор рекомендует i1-Q4_K_M, тогда как i1-Q4_K_S обозначен как оптимальный по соотношению характеристик. К сильным сторонам относятся локальный запуск через совместимые с GGUF инструменты, широкий выбор вариантов квантования и мультимодальные возможности исходной модели. Ограничения включают возможное снижение качества на низких уровнях квантования, отсутствие в предоставленных данных сведений о размере контекста, производительности и результатах бенчмарков, а также особенности abliterated-версии, которые могут влиять на поведение модели и безопасность ответов. Лицензия — AGPL-3.0.

Nickyang выпустил производную модель Qwen3.6-35B-A3B, сокращённую методом RAZOR без дообучения. В каждом MoE-слое оставлено 128 из 256 маршрутизируемых экспертов; размер составляет 19,4 млрд параметров, или 19,0 млрд без модуля MTP, при этом на токен активно около 4 млрд параметров. Веса представлены в формате bfloat16 и safetensors; для запуска требуется сборка Transformers с поддержкой qwen3_5_moe. Модель предназначена для генерации текста и диалогов. Карточка описывает сокращение хранения экспертов при примерно неизменных вычислениях на токен; заявлена поддержка интерфейса вызова инструментов. Основа — Qwen/Qwen3.6-35B-A3B, лицензия Apache-2.0. Обрезка экспертов с потерями: ответы могут отличаться разнообразием, форматированием и поведением при завершении, даже если точность задач в основном сохраняется. Поведение на областях, далёких от калибровочного корпуса, не охарактеризовано; перед применением модель следует оценить на целевой нагрузке.

LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V13-GGUF — мультимодальная модель в формате GGUF, созданная LuffyTheFox на основе HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. В ней также использованы данные и элементы дообучения DJLougen/hermes-qwen3.5-35b-a3b-GGUF на наборе NousResearch/hermes-function-calling-v1. Модель относится к семейству Qwen и предназначена для локального запуска, диалогов, генерации текста, агентских сценариев и function calling; в метаданных заявлена поддержка обработки изображений и текста. Архитектура — MoE с заявленным общим размером 35B параметров и примерно 3B активных параметров, однако точные сведения о числе слоёв, размере контекста и используемых визуальных компонентах в README не приведены. Заявлены английский, китайский и другие языки. Автор описывает Genesis как постобработку GGUF-файла, включающую статистический анализ и коррекцию тензоров без переобучения, с целью повысить стабильность, ясность контекста и следование инструкциям. К сильным сторонам относятся uncensored-поведение, MoE-эффективность, мультимодальность и ориентация на Hermes-агентские задачи. Ограничения — отсутствие в README независимых бенчмарков, подробной оценки качества, точного контекстного окна и гарантии заявленных улучшений; результаты могут зависеть от квантования и настроек запуска. Для работы рекомендуются F16-кэш K/V, максимальная выгрузка на GPU и использование подходящего chat template. Лицензия — Apache-2.0.

Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored — дообученная плотная мультимодальная модель семейства Qwen3.5 от DavidAU с 40 млрд параметров и архитектурой Qwen3_5ForConditionalGeneration. Она предназначена для диалогов, рассуждений, программирования, творческого письма и ролевых сценариев; метаданные также указывают поддержку изображений и интерфейс вызова инструментов. В карточке заявлены подробные ответы и адаптивное использование токенов рассуждения, однако приведённые заявления о превосходстве в тестах не сопровождаются проверяемыми результатами. Модель использует формат safetensors, библиотеку Transformers и распространяется по лицензии Apache-2.0. Указаны английский и китайский языки. README описывает вариант GGUF как отдельный ресурс; представленные здесь метаданные относятся к safetensors-модели.

DhruvalLabs/Qwen3.8-27B-GGUF — это набор квантованных версий мультимодальной Vision-Language Model Qwen3.8-27B, разработанной Qwen и подготовленной DhruvalLabs. Модель предназначена для диалогов, генерации и понимания текста, а также анализа изображений с текстовыми запросами. Она поддерживает английский язык и может запускаться через llama.cpp, LM Studio, Jan и Ollama. Архитектура состоит из двух компонентов: квантованной текстовой основы GGUF размером 27B параметров и отдельного vision encoder в файле mmproj, который всегда поставляется в формате F16. Для работы с изображениями необходимы оба файла. Доступны варианты квантования от Q4_K_M до Q8_0: Q4_K_M рекомендован как баланс качества и требований к памяти, а Q8_0 обеспечивает наиболее близкое к исходной модели качество, но требует около 28,6 ГБ RAM; для Q4_K_M требуется около 17,2 ГБ RAM. Указанный пример использования задаёт контекст 4096 токенов, однако общий максимальный контекст модели в README не указан. Сильной стороной модели является сочетание языковых возможностей и анализа изображений при существенно меньших требованиях к памяти по сравнению с полной версией, а также совместимость с популярными локальными инструментами запуска. Ограничения связаны с необходимостью скачивать и хранить два файла, компромиссами качества и размера при квантовании и отсутствием опубликованных результатов бенчмарков в README. Лицензия — Apache-2.0.

DavidAU опубликовал полноточную версию модели на базе дообученной Goekdeniz-Guelmez/Josiefied-Qwen3-8B-abliterated-v1. Это плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров, предназначенная для диалога и генерации текста; в карточке также заявлен интерфейс вызова инструментов. Контекст модели расширен с 32 768 до 196 608 токенов с помощью YARN. README рекомендует задавать контекст для рассуждений и генерации от 8 000 до 16 000 токенов; упоминается генерация длинных ответов. Модель принимает текст и выдаёт текст. В карточке не заявлена специализация на конкретных языках или прикладных областях. Это дообученная и модифицированная модель, а не самостоятельная базовая разработка. README описывает исходные веса в формате safetensors и возможность использовать их напрямую или конвертировать в другие форматы. Лицензия в предоставленных сведениях не указана.