I.14Автоматизация процессов и AI-агенты

Multilingual-MiniLM-L12-H384 — предобученная компактная языковая модель Microsoft для понимания текста на нескольких языках. Она использует 12-слойный трансформер с архитектурой BERT, скрытым размером 384 и 12 головами внимания; карточка указывает 124,3 млн параметров, включая около 21 млн параметров трансформера и 96 млн параметров эмбеддингов. Для токенизации применяется токенизатор XLM-R. Модель рассчитана на последовательности длиной до 512 токенов. Модель предназначена для задач классификации текста и может дообучаться для межъязыкового переноса, распознавания текстового следствия и ответов на вопросы. В README приведены оценки на XNLI и MLQA. Поддерживаются английский, арабский, болгарский, немецкий, греческий, испанский, французский, хинди, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский языки. Доступны веса в форматах PyTorch, TensorFlow и Flax. Модель основана на дистилляции MiniLM и рассчитана на компактное и быстрое применение в задачах понимания языка. Для этого чекпойнта используется BertModel с XLMRobertaTokenizer, поэтому AutoTokenizer не работает согласно README. Лицензия — MIT.

NanoVDR-Q-DistilBERT-Qwen3VL2B-2048-ML — разработанная командой NanoVDR компактная модель-энкодер запросов для поиска по визуальным документам. Это текстовая модель на базе DistilBERT с проектором из двух слоёв; она содержит 69 млн параметров и формирует векторы размерности 2048, совместимые с эмбеддингами документов от Qwen3-VL-Embedding-2B. По данным карточки, модель сохраняет 95,1% качества учителя в оценке на 22 наборах ViDoRe. Модель предназначена для кодирования текстовых запросов на английском, немецком, французском, испанском, итальянском и португальском языках и поиска по заранее индексированным изображениям страниц документов. Индексацию выполняет учитель Qwen3-VL-Embedding-2B, а NanoVDR кодирует запросы; поиск затем можно проводить по косинусному сходству или скалярному произведению, например, с FAISS. В карточке указаны максимальная длина последовательности 512 токенов и возможность обслуживать запросы на CPU. Это специализированный энкодер запросов, а не самостоятельная система индексации документов: для построения индекса требуется отдельная модель-учитель, а карточка указывает, что индексация требует GPU. Модель дообучена на базе distilbert/distilbert-base-uncased методом дистилляции; заявленная лицензия — Apache-2.0.

NerdySamantha — экспериментальная объединённая модель на архитектуре Mistral, созданная для помощи с программированием и диалогового общения. Автор описывает её как coding assistant с дружелюбной, живой манерой общения; характер можно задавать контекстной карточкой. Модель с 7,1 млрд параметров получена линейным слиянием cognitivecomputations/samantha-1.2-mistral-7b и Nondzu/Mistral-7B-Instruct-v0.2-code-ft. Она поддерживает генерацию текста и чаты, а заявленная длина контекста составляет 32 768 токенов. Подходит для вопросов по коду, помощи в разработке и обычных бесед. Результаты таблицы оценивания в README приведены лишь частично, поэтому по ним нельзя надёжно судить о качестве модели. Лицензия в предоставленных данных не указана.

NeuralsirkrishnaM7-7B — объединённая языковая модель, созданная Maxime Labonne автоматическим слиянием Kukedlc/NeuralSirKrishna-7b и liminerity/M7-7b. Модель построена на архитектуре Mistral с 7,1 млрд параметров и предназначена для генерации текста и диалогов; максимальный контекст составляет 32 768 токенов. Для слияния применён метод SLERP с настройками, зависящими от слоёв self-attention и MLP. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает специализацию по языкам или предметным областям и не приводит конкретных оценок качества.

NeuralsirkrishnaShadow_Experiment26Pastiche — языковая модель семейства Mistral, созданная слиянием чекпойнтов automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment26Pastiche-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста; поддерживает контекст до 32 768 токенов. Модель подходит для диалогов, написания и продолжения текстов, а также генерации ответов по длинным запросам. Данные карточки не описывают её специализацию или языковой охват, поэтому применение следует считать общим. Модель распространяется в формате safetensors по лицензии Apache-2.0.

NeuralsirkrishnaShadow_Experiment28Inex12 — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment28Inex12-7B. Она предназначена для генерации текста и может использоваться в диалоговых и текстовых приложениях. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специальные предметные области или подтверждённые ограничения качества, поэтому её возможности следует оценивать на целевых задачах.

Neural-Zephyr — языковая модель для диалогов и генерации текста, опубликованная ai-agi. По карточке, это гибридная модель на основе весов Neural-Chat и моделей семейства Zephyr, объединённых суммированием параметров в соответствующих слоях. Карточка указывает размер 14 млрд параметров, тогда как метаданные каталога содержат оценку 7,1 млрд; архитектура в метаданных — плотная MistralForCausalLM, а контекст составляет 32 768 токенов. Модель предназначена прежде всего для англоязычных диалогов с ассистентом и генерации текста. В карточке указаны дообучение на открытых и синтетических наборах данных и связь Zephyr-7B-β с mistralai/Mistral-7B-v0.1; метаданные подтверждают поддержку чата. Карточка сообщает лицензию MIT, а метаданные — Apache-2.0, поэтому сведения о лицензии расходятся. По карточке модель может выдавать проблемный текст при соответствующих запросах.

Карточка модели llm-wizard/NousWizard на Hugging Face совпадает с карточкой mergekit-community/dolphin-mistral-instruct-7b, поэтому описание составлено по ней. Это объединённая языковая модель mergekit-community, созданная методом SLERP на основе arcee-ai/sec-mistral-7b-instruct-1.6-epoch и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель построена на архитектуре MistralForCausalLM с плотной архитектурой и содержит 7,1 млрд параметров; опубликованные веса представлены в формате Safetensors, а библиотека запуска — Transformers. Модель предназначена для генерации текста в диалоговых сценариях: она принимает текстовый запрос и формирует текстовый ответ. Контекст составляет до 32 768 токенов. Карточка не описывает отдельные прикладные области или языковые характеристики, поэтому их нельзя уточнить по имеющимся данным. Лицензия в предоставленных данных не указана.

Nue ASR — модель для сквозного распознавания японской речи, первоначально выпущенная компанией rinna Co., Ltd.; этот репозиторий является её зеркалом. Архитектура объединяет аудиоэнкодер HuBERT, мостовую сеть и декодер GPT-NeoX. Веса энкодера и декодера инициализированы из japanese-hubert-base и japanese-gpt-neox-3.6b соответственно. Модель обучали примерно на 19 000 часах японской речи из ReazonSpeech v1; из обучения исключали аудиозаписи длиннее 16 секунд. Она предназначена для транскрибирования японской речи и, по данным карточки, может распознавать речь быстрее реального времени при использовании GPU. Для работы с аудио поддерживаются файлы, массивы NumPy и тензоры PyTorch; входные файлы автоматически приводятся к частоте 16 кГц. Лицензия — Apache 2.0.

Это пакет слоёв модели NVIDIA Nemotron 3 Super 120B-A12B, подготовленный Mesh LLM для распределённого инференса на локальном кластере. Веса основаны на unsloth/NVIDIA-Nemotron-3-Super-120B-A12B-GGUF и разделены на артефакты по слоям; вариант UD-Q4_K_XL поставляется в формате GGUF с квантизацией Q4_K_XL. Пакет предназначен для генерации текста и диалогов, когда модель нужно запускать на нескольких машинах или обслуживать через локальный API, совместимый с OpenAI Chat Completions. Для работы требуется Mesh LLM и набор машин, предоставляющих память и вычислительные ресурсы; README указывает запуск в режиме разделения слоёв. Пакет сохраняет свойства исходной модели, но сам README не приводит подробностей об архитектуре, числе параметров, контекстном окне, поддерживаемых языках и рекомендациях по использованию. Лицензия указана как other, поэтому перед использованием следует свериться с условиями исходной модели.

omniASR-CTC-300M-v2-Zulu-Baseline — модель распознавания речи на базе Wav2Vec2 CTC, преобразованная командой uctnlp из чекпойнта fairseq2 OmniLingual omniASR_CTC_300M_v2. Модель принимает аудио и выдаёт текстовую транскрипцию через CTC-логиты по словарю SentencePiece. В метаданных указано 413,2 млн параметров; архитектура включает 24 слоя энкодера с размером скрытого состояния 1024. Модель предназначена для автоматической транскрибации речи, включая зулу; README также указывает на поддержку нескольких языков. Численная эквивалентность исходному чекпойнту fairseq2 проверена на одном отложенном аудиопримере с допуском atol=1e-4. Сведения о лицензии и ограничениях точности в предоставленных данных отсутствуют.

Ops-MM-embedding-v1-7B — плотная мультимодальная модель эмбеддингов, разработанная командой Alibaba Cloud OpenSearch-AI и дообученная на базе Qwen2-VL-7B-Instruct. Она кодирует текст, изображения, пары «текст—изображение», визуальные документы и видео в единое пространство эмбеддингов; видео обрабатывается через отдельные кадры как изображения. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2-VL и поддерживает контекст до 32 768 токенов. Модель предназначена для межмодального поиска и извлечения информации, включая поиск по визуальным документам и видео. В README заявлены высокие результаты на бенчмарках MMEB-V2, MMEB-Image и ViDoRe-v2, а также многоязычное обобщение. Эти результаты характеризуют оценку на указанных наборах и сами по себе не гарантируют качество для конкретных данных или сценария. Распространяется в формате Safetensors по лицензии Apache-2.0. README не уточняет точный набор поддерживаемых языков и не приводит детальных рекомендаций по извлечению эмбеддингов или требованиям к вычислительным ресурсам.

Orca Mini v9.4 — диалоговая языковая модель Pankaj Mathur, дообученная на базе Meta Llama 3.3 70B Instruct. Она предназначена для генерации текста в формате диалога с ассистентом и может использоваться для ответов на вопросы, написания текстов и создания чат-ботов. Модель имеет плотную архитектуру LlamaForCausalLM, около 69,5 млрд параметров и контекстное окно до 131 072 токенов. В карточке указаны английский язык и датасеты Orca Mini; базовая Llama 3.3 поддерживает также французский, немецкий, хинди, итальянский, португальский, испанский и тайский, однако качество этих языков именно у Orca Mini отдельно не подтверждено. Весовые файлы представлены в форматах PyTorch и safetensors. Модель может генерировать неточные, предвзятые или нежелательные ответы, поэтому её поведение и безопасность следует проверять для конкретного применения. Использование регулируется лицензией Llama 3.3 (llama3.3).

Ornith-1.0-9B-bf16 — конвертированная в формат MLX версия модели deepreinforce-ai/Ornith-1.0-9B, подготовленная сообществом mlx-community. В метаданных указаны архитектура Qwen3.5 с плотной структурой и класс Qwen3_5ForConditionalGeneration; модель предназначена для генерации текста и диалогового взаимодействия. Карточка этой версии отсылает за сведениями о назначении и характеристиках к исходной модели. Для запуска в экосистеме MLX README рекомендует библиотеку mlx-vlm. Репозиторий распространяется по лицензии MIT.

nvidia/parakeet-tdt-0.6b-v3 — модель автоматического распознавания речи, разработанная NVIDIA. Она преобразует аудиозаписи в текст и предназначена для транскрибации речи в приложениях, работающих с аудио, включая записи встреч, выступлений и других разговорных сценариев. Модель интегрируется с Transformers и обучалась с использованием наборов данных NVIDIA Granary и nemo/asr-set-3.0. Модель содержит около 0,6 млрд параметров и использует архитектуру FastConformer/Conformer с компонентами Transformer и TDT (Token-and-Duration Transducer). Поддерживается широкий набор языков, включая английский, испанский, французский, немецкий, русский, украинский и другие европейские языки. В README не указана длина контекста. На тестах заявлены значения WER от 1,93% на LibriSpeech clean до 20,7% на греческом варианте FLEURS; качество зависит от языка и акустических условий. Ограничения по шуму, качеству записи и доменной адаптации отдельно не описаны. Лицензия — CC BY 4.0.

Модель legalvn/paraphrase-multilingual-MiniLM-L12-v2-vn-171000 — дообученная на вьетнамских парах текстов модель Sentence Transformer на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска семантически близких текстов, сравнения сходства, поиска перефразирований, кластеризации и классификации текста. Архитектура включает BERT с усреднением токенных представлений; карточка указывает максимум 128 токенов на последовательность, а метаданные — контекст до 512 токенов. Для сравнения векторов применяется косинусное сходство. Модель содержит 124,3 млн параметров и распространяется в формате safetensors. Примеры обучающих данных и название модели указывают на специализацию на вьетнамском языке, в том числе на текстах юридической тематики; README также описывает её как многоязычную. Лицензия в предоставленных данных не указана. Качество для конкретной области или языка следует оценивать на собственных данных; длина последовательности в карточке ограничена 128 токенами.

Карточка модели facebook/PE-Core-T16-384 на Hugging Face совпадает с карточкой facebook/PE-Core-L14-336, поэтому описание составлено по ней. Perception Encoder PE-Core-L14-336 — модель Meta для визуального понимания, обученная с помощью контрастивного обучения изображений и текста и дообученная на синтетически согласованных видео. Это вариант размера L: визуальный энкодер с архитектурой ViT-L/14 содержит 0,32 млрд параметров и обрабатывает изображения с разрешением 336 пикселей. Для извлечения глобальных признаков используются attention pooling и class token. Модель предназначена для классификации изображений по текстовым описаниям без дополнительного обучения, поиска изображений и видео по тексту, а также извлечения визуальных признаков для последующих задач. В README указаны результаты на наборах ImageNet, ObjectNet и Kinetics-400; версия L/14 показывает сильные результаты, в том числе на сложных наборах ObjectNet и ImageNet-A. Репозиторий содержит веса PyTorch и код загрузки через библиотеку perception-encoder. Лицензия — Apache-2.0. README описывает семейство PE Core как включающее визуальную и текстовую башни, но таблица именно для L/14 приводит характеристики только визуальной башни; отдельные размер и длина контекста текстовой части этого чекпойнта не установлены приведёнными данными. Для работы с видео требуется декодирование в тензоры PyTorch.

MaziyarPanahi/Phi-3-Context-Obedient-RAG-GGUF — это квантизированная версия языковой модели TroyDoesAI/Phi-3-Context-Obedient-RAG, подготовленная MaziyarPanahi в формате GGUF. Модель предназначена для генерации текста и диалоговых сценариев, в том числе задач retrieval-augmented generation (RAG), где требуется работать с предоставленным контекстом и следовать ему. Модель относится к семейству Phi-3; README не указывает точный размер, архитектурные параметры, длину контекста, поддерживаемые языки или мультимодальные возможности. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством. Формат GGUF поддерживается llama.cpp и совместимыми инструментами, включая llama-cpp-python, LM Studio и text-generation-webui, поэтому модель подходит для локального запуска и интеграции в приложения. Сильными сторонами являются локальное использование, широкий выбор уровней квантизации и специализация исходной модели на контекстно-ориентированной генерации для RAG. Ограничения включают отсутствие в README подробных результатов оценки, характеристик производительности и гарантии качества для конкретных языков или прикладных сценариев. Для модели указана лицензия CC BY-SA 4.0.

Agnuxo/Qwen2-1.5B-Instruct_MOE_CODE_assistant-GGUF_16bit — локальная чат-модель для генерации и помощи с программным кодом, опубликованная независимым исследователем Francisco Angulo de Lafuente. Это конверсия Qwen2-1.5B-Instruct в формат GGUF с точностью F16; в карточке заявлено 1,5 млрд параметров. Модель предназначена для работы через Ollama или Transformers и ориентирована на написание кода на Python, JavaScript, TypeScript, Rust, Go и C++, а также на задачи научных вычислений и машинного обучения. Модель принимает текст и генерирует текст; метаданные указывают архитектуру Qwen2, чат-возможности и английский и испанский языки карточки. README также заявляет навыки координации агентов и интеграции MCP и A2A. Репозиторий распространяется под лицензией Apache-2.0. Заявления README о наградах и результатах связанных проектов не подтверждают качество этой модели и не использованы как гарантии её возможностей.

Qwen2.5-3B — базовая предобученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная причинная трансформерная модель с 3,1 млрд параметров, архитектурой Qwen2 и контекстом до 32 768 токенов. В архитектуре используются RoPE, SwiGLU, RMSNorm, смещение в QKV-внимании и связанные эмбеддинги; модель содержит 36 слоёв и применяет GQA с 16 головами Q и 2 головами KV. Модель предназначена для дальнейшего обучения и адаптации, включая SFT, RLHF и продолжение предобучения. Она может служить основой для генерации и продолжения текста, а семейство Qwen2.5 отмечено улучшениями в программировании, математике, следовании инструкциям, работе с длинным текстом, таблицами и структурированными, в том числе JSON, ответами. Эта версия является базовой, поэтому разработчики не рекомендуют использовать её непосредственно для диалогов. Семейство поддерживает более 29 языков, в том числе русский и английский. Репозиторий содержит веса в формате safetensors, а для работы рекомендуется актуальная версия Transformers. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с карточкой модели.

Phantomcloak19/qwen2.5-3b-dpo-grpo — плотная языковая модель семейства Qwen2, дообученная на базе Qwen/Qwen2.5-3B-Instruct в рамках последовательного конвейера LLMPR: после этапа SFT модель прошла DPO и Safety-GRPO, а опубликованный чекпойнт объединяет полные веса. Она предназначена для диалогов, выполнения инструкций и генерации текста. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и принимает контекст длиной до 32 768 токенов. Карточка указывает формат Safetensors и библиотеку Transformers. Базовая модель — компактная многоязычная чат-модель Qwen2.5-3B-Instruct; конкретный набор поддерживаемых языков, лицензия и отдельные показатели качества этой производной модели в предоставленных данных не раскрыты.

88plug/Qwen2.5-Omni-7B-W4A16 — это INT4-квантованная версия базовой модели Qwen/Qwen2.5-Omni-7B, подготовленная 88plug методом посттренировочной квантализации. Модель предназначена для генерации текста и диалоговых сценариев с мультимодальным вводом: поддерживает обработку текста, изображений и аудио, а исходная архитектура также включает генерацию речи в реальном времени. Модель имеет архитектуру Thinker с языковой моделью, аудиобашней, визуальным модулем и компонентами синтеза речи Talker и Token2Wav. Квантованы линейные слои 28 трансформерных блоков языкового ядра в формате W4A16 с INT4-весами, BF16-активациями и размером группы 128. Аудио-, визуальные и речевые компоненты, эмбеддинги, LM head и нормализации сохранены в BF16. Размер весов составляет около 3,5 ГБ; заявлена работа на одной видеокарте с 8 ГБ памяти, например RTX 3080 с 10 ГБ. В конфигурациях запуска указан контекст до 32768 токенов, а заявленным языком является English. Главное преимущество модели — существенное снижение требований к памяти при сохранении мультимодальных возможностей базовой 7B-модели. Она подходит для локального развертывания через vLLM, включая обработку аудио и изображений; для полноценного вывода речи рекомендуется vLLM-Omni. Основные ограничения связаны с поддержкой окружений: TGI не поддерживает используемый формат compressed-tensors, обычный vLLM возвращает только текст, SGLang не поддерживает этот формат нативно, а интеграция с Hugging Face Inference Widget может работать нестабильно. Модель распространяется по лицензии Apache-2.0.

DavidAU выпустил эту диалоговую модель на основе Huihui-Qwen3-30B-A3B-Thinking-2507-abliterated, дообучив её с помощью Unsloth на наборе TeichAI/claude-4.5-opus-high-reasoning-250x. Это генеративная языковая модель семейства Qwen3 MoE: всего около 30 млрд параметров, из которых активны примерно 3 млрд; метаданные каталога указывают 2,6 млрд параметров. Архитектура использует 128 экспертов, обычно активируя 8 за раз. Модель предназначена для диалогов, следования инструкциям и генерации ответов с рассуждениями. Автор отмечает, что блоки рассуждений обычно короче, чем у исходной Qwen, и что модель стремится реже отказывать, в том числе при запросах на взрослый или откровенный контент. Для таких ответов может потребоваться явно задать желаемый стиль и лексику. Заявленные автором результаты на бенчмарках не сопровождаются полными данными в карточке, поэтому их нельзя считать независимой оценкой качества. Модель принимает и генерирует текст, рассчитана прежде всего на английский язык и поддерживает контекст до 262 144 токенов. Файлы репозитория представлены в формате safetensors; указана лицензия Apache-2.0.

Это пакет распределённого вывода модели Qwen3-30B-A3B в формате GGUF Q4_K_M, подготовленный проектом Mesh LLM на основе unsloth/Qwen3-30B-A3B-GGUF. Веса разделены на артефакты по слоям, чтобы запускать модель на локальном кластере из нескольких машин, когда целый файл не помещается на одном узле. Пакет предназначен для локального и приватного чата и генерации текста через Mesh LLM. Сервис поддерживает совместимый с OpenAI интерфейс `/v1/chat/completions`; для работы требуется Mesh LLM и машины, объединённые в кластер. Модель относится к семейству Qwen3, а квантование Q4_K_M уменьшает требования к ресурсам по сравнению с полноточными весами. Карточка пакета отсылает к исходной модели за сведениями об архитектуре, шаблоне чата, рекомендациях по генерации и лицензии, поэтому эти условия следует сверять с карточкой источника. Сведения о размере модели, контекстном окне и поддерживаемых языках в предоставленных данных отсутствуют.

DavidAU представил Qwen3-30B-A3B-YOYO-V2-Claude-4.6-Opus-High-INSTRUCT как instruct-модель для диалогов и задач, требующих рассуждений. Это дообученная на базе YOYO-AI/Qwen3-30B-A3B-YOYO-V2 модель семейства Qwen3 MoE; в репозитории указаны Transformers и формат safetensors. В метаданных указан размер 2,6 млрд параметров, а карточка описывает исходную архитектуру как модель на 30 млрд параметров с 3 млрд активных параметров, 128 экспертами и контекстом 256 тыс. токенов. При этом метаданные указывают нативный контекст 1 010 000 токенов, поэтому фактическую поддерживаемую длину следует проверять для используемой конфигурации. Модель предназначена для генерации ответов в чате и выдачи рассуждений; автор сообщает о настройке на датасете TeichAI/claude-4.5-opus-high-reasoning-250x и приводит результаты нескольких бенчмарков. README называет её гибридом instruct и reasoning и отмечает, что короткие следы рассуждений могут появляться в тексте генерации. Заявления о превосходстве в бенчмарках принадлежат автору и приведённые в карточке данные не позволяют независимо их подтвердить. Язык карточки — английский; подтверждена лицензия Apache-2.0.

Карточка модели histakes/Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored на Hugging Face совпадает с карточкой DavidAU/Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored, поэтому описание составлено по ней. DavidAU/Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored — текстовая MoE-модель для генерации ответов и творческого письма. По карточке автора, это объединение 12 дистиллированных моделей Qwen3 по 4 млрд параметров, включая модели с рассуждением; пользователь может выбирать экспертов, указывая их имена в запросе. В метаданных указаны архитектура Qwen3 MoE, 3,7 млрд параметров, библиотека Transformers и контекст до 262 144 токенов; автор заявляет об активации двух экспертов по умолчанию и возможности задействовать до 12. Модель предназначена для диалогов, рассуждений, математики, программирования и создания художественных текстов, в том числе хоррора и романтики. Сильная сторона — переключение между экспертами для разных запросов; результат и скорость зависят от выбранных экспертов и их числа. Автор предупреждает, что модели нужно явно задавать желаемый стиль и уровень откровенности, а чрезмерное квантование может заметно ухудшить работу. По README, модель аблитерирована для уменьшения отказов и рассчитана на генерацию откровенного, в том числе NSFW-контента. Лицензия в метаданных — Apache-2.0.

insraq публикует версию EmperoAI Qwen3.8-4B с ослабленным отказом от ответов, созданную инструментом Heretic v1.4.0. В основе — объединение моделей empero-ai/Qwen3.8-4B и Qwen/Qwen3.5-9B; карточка описывает исходную Qwen3.8-4B как дистиллированную модель для рассуждений, математики и следования инструкциям. Репозиторий содержит веса в формате Safetensors для Transformers; метаданные указывают архитектуру Qwen3.5 с плотной моделью и диалоговые возможности. Модель предназначена для диалоговой генерации текста, ответов на инструкции и задач рассуждения. В README указано, что версия рассчитана на текст; визуальные возможности базовой архитектуры не оценивались. Исходная Qwen3.8-4B описана как модель на 4 млрд параметров с контекстом 262 144 токена, однако для данного репозитория эти характеристики прямо не подтверждены. README приводит результаты сравнения отказов: 6 из 100 против 99 из 100 у исходной модели, а также отмечает риск повторяющихся циклов при жадной генерации. Лицензия — Apache-2.0. Модель может выдавать ответы на запросы, от которых исходная версия отказывалась; качество и поведение на визуальных задачах не оценивались в README.

Qwen3.6-27B NVFP4 GGUF — версия модели Qwen3.6-27B, подготовленная mudler в формате GGUF для запуска через llama.cpp и LocalAI. В репозитории размещён единый файл весом около 25,5 ГБ; тензоры NVFP4 сохранены без повторной квантизации в целочисленный формат. Базовая модель указана как unsloth/Qwen3.6-27B-NVFP4. Модель предназначена для генерации текста и диалогового использования в локально развёрнутых системах. В README описан запуск с paged attention на Blackwell GPU, включая GB10 и DGX Spark; на другом оборудовании возможна деквантизация NVFP4 с более низкой скоростью. Формат GGUF и конфигурация LocalAI упрощают развёртывание, а заявленные показатели скорости и памяти измерены на Blackwell-системах. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с лицензией исходной модели и файлами репозитория. В карточке нет сведений о поддерживаемых естественных языках или длине контекста.

Qwen3-8B-heretic — языковая модель для генерации текста, разработанная пользователем saidutta69 на основе Qwen/Qwen3-8B. Модель предназначена для локальных агентов, диалоговых приложений, ролевых сценариев и изучения механизмов отказа в моделях, поддерживающих рассуждения. Она сохраняет архитектуру Qwen3 с двумя режимами работы: режимом рассуждений с маркерами <think> и режимом прямого ответа. Модель имеет нативный размер около 8,2 млрд параметров, работает с текстом и заявлена для английского языка. Доступны веса BF16 и квантованные версии GGUF Q4_K_M, Q5_K_M, Q6_K и Q8_0; модель ориентирована на запуск через llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Размер контекста в README не указан. Для версии Q4_K_M рекомендуется около 5,4 ГБ памяти под веса, а для Q8_0 — около 8,8 ГБ, дополнительно требуется память под контекст. Ключевая особенность — подавление отказов методом abliteration с использованием Heretic v1.4.0: целевые изменения весов применены к проекциям внимания и MLP без дообучения. По приведённому сравнению, модель отказалась выполнить 10 из 100 опасных запросов против 100 из 100 у базовой версии, а KL-дивергенция относительно базы составила 0,0366. Это снижает защитные ограничения, но также означает отсутствие встроенной фильтрации и повышенную ответственность пользователя при развертывании, особенно в публичных сервисах. Модель наследует ограничения и смещения Qwen3-8B. Лицензия указана как Apache 2.0, унаследованная от базовой модели.

dealignai/Qwen3.8-Flash-Next-CRACK-JANG_4M — это экспериментальная CRACK-abliterated сборка модели JANGQ-AI/Qwen3.8-Flash-Next-JANG_4M, подготовленная для запуска на Apple Silicon через MLX и vMLX. Модель относится к предварительной линейке qwen4_exp и предназначена для мультимодальных сценариев, включая работу с текстом, изображениями и видео, рассуждения, агентное взаимодействие и использование инструментов. Архитектура описана как смесь экспертов примерно на 176 млрд параметров с 512 экспертами и около 6 млрд активных параметров. Используется гибрид Gated DeltaNet и Qwen Sparse Attention, hashed n-gram embedding и встроенная multi-token-prediction head. Доступны режимы рассуждения off, low и xhigh; заявлена поддержка английского и китайского языков. Сборка использует смешанную точность JANG_4M и занимает около 96 ГБ на диске, при этом требует примерно 70 ГБ активной оперативной памяти; около 26 ГБ таблицы n-грамм хранится на диске и подгружается по требованию. К сильным сторонам относятся сохранённые мультимодальные возможности, рассуждение, работа с инструментами и отсутствие встроенного отказного поведения. По приведённому тесту MMLU результат CRACK составляет 85,92% против 86,89% у базовой версии, то есть наблюдается небольшое снижение качества, а по отдельным предметам падение заметнее. Модель является исследовательским артефактом, требует значительных ресурсов и рассчитана прежде всего на совместимый runtime vMLX. Лицензия указана как qwen-community-1.0; условия следует уточнять в файле LICENSE.