I.2Синтез, понимание и проверка знаний

VictorDCh/Llama-3-8B-Instruct-MoE-3 — разговорная языковая модель для генерации текста, размещённая пользователем VictorDCh на Hugging Face. Это модель типа Mixture of Experts на базе четырёх копий meta-llama/Meta-Llama-3-8B-Instruct; для каждого токена выбираются два эксперта, а режим маршрутизации указан как случайный. В метаданных заявлены 7,5 млрд параметров, контекст 8192 токена, архитектура MixtralForCausalLM и формат safetensors. Модель предназначена для диалоговой генерации текста и работы в чат-сценариях. Карточка не описывает специализированные области применения, обучающие данные или результаты оценивания. Лицензия в доступных данных не указана, поэтому условия использования определить нельзя.

Fischerboot создал объединённую методом SLERP модель на основе TheDrummer/Llama-3SOME-8B-v1 и ResplendentAI/Aura_Uncensored_l3_8B с помощью mergekit. Это плотная авторегрессионная Llama-модель с архитектурой LlamaForCausalLM, предназначенная для генерации текста и диалогов, включая ролевые сценарии. Веса представлены в формате safetensors; размер модели — 7,5 млрд параметров, длина контекста — 24 576 токенов. Модель рассчитана на англоязычные текстовые запросы и выдаёт текст. Ограничения и условия лицензии в предоставленных данных не описаны.

llama-3-bophades-v1-8B — слитая разговорная языковая модель от nbeerbower на архитектуре Llama 3. Она создана методом Model Stock с помощью mergekit на основе vicgalle/Configurable-Llama-3-8B-v0.2 и объединяет веса нескольких моделей Llama 3, включая инструктивные и диалоговые варианты. В репозитории указано 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для диалога и генерации текста по запросу: она может отвечать на вопросы и продолжать беседу. В составе слияния есть вариант, настроенный для корейского языка; метаданные также описывают базовую модель как англоязычную инструктивную LLM. Данные не подтверждают отдельную специализацию или гарантированное качество для конкретных задач. Модель распространяется в формате safetensors. README указывает на Meta Llama 3 Community License Agreement; перед использованием следует проверить условия этой лицензии.

sungjineeee/Llama-3-Open-Ko-8B-Instruct-kookmin5 — разговорная плотная модель семейства Llama, дообученная автором sungjineeee на базе sungjineeee/Llama-3-Open-Ko-8B-Instruct-kookmin3. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст; контекст составляет до 8192 токенов. Модель предназначена для диалоговой генерации текста. При обучении использовались Unsloth и библиотека Hugging Face TRL. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает конкретные датасеты и специальные предметные области.

LongformerZH — разработанная ValkyriaLenneth предобученная китайская языковая модель на архитектуре Longformer с 129,5 млн параметров. Она использует локальное оконное и глобальное внимание, чтобы обрабатывать длинные последовательности с контекстом до 4096 токенов при линейной сложности по длине последовательности. Модель построена на основе Roberta_zh_mid и обучена с Whole-Word Masking на смеси китайских корпусов; для работы с ней автор рекомендует PyTorch и библиотеку Transformers. Модель предназначена для извлечения признаков из длинных китайских текстов и как основа для дообучения под задачи обработки длинных документов. В карточке приведены результаты оценки на китайском анализе тональности и машинном чтении: для CMRC указаны F1 86,15 и EM 66,84. Модель выпущена в формате PyTorch; сведения о лицензии в предоставленных данных отсутствуют.

mBART-large-cc25 — предварительно обученная, не дообученная мультиязычная модель перевода, разработанная Facebook. Она основана на архитектуре mBART и содержит 457,4 млн параметров; принимает текст и генерирует текст, поддерживая перевод между 25 языками. Доступны веса в форматах PyTorch и TensorFlow, длина контекста составляет 1024 токена. Модель предназначена для перевода текста между поддерживаемыми языками и может служить базой для дальнейшего дообучения, в том числе для суммаризации. Карточка не сообщает результатов оценки качества или особенностей применения в конкретных областях. Лицензия в предоставленных данных не указана.

underwoods/medius-erebus-magnum-14b — разговорная модель генерации текста на базе Qwen2.5-14B, дообученная с помощью Axolotl. Репозиторий содержит веса в формате safetensors; размер модели — 14 млрд параметров. Метаданные указывают контекст до 131 072 токенов и поддержку диалогового режима. Модель предназначена для генерации текста и диалоговых сценариев. README сообщает об использовании конфигурации Axolotl версии 0.4.1, но не раскрывает состав данных, конкретную специализацию или результаты оценки. Лицензия в предоставленных сведениях не указана.

DanDev/Mistral-7B-LexisGen — дообученная DanDev языковая модель семейства Mistral для генерации текста в диалоговом формате. Она основана на unsloth/mistral-7b-instruct-v0.2-bnb-4bit и обучена с использованием Unsloth и библиотеки TRL. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Модель предназначена для диалоговой генерации текста на английском языке. Репозиторий содержит веса в формате safetensors; заявлена лицензия Apache-2.0. Карточка не описывает специализированную предметную область или конкретные преимущества и ограничения качества.

Monlam Melong — языковая модель Monlam AI для работы с тибетским языком. Она основана на Gemma 2 9B и дообучена на базе buddhist-nlp/gemma2-mitra-base; модель с архитектурой Gemma2ForCausalLM содержит 9 млрд параметров, использует формат safetensors и поддерживает контекст до 8192 токенов. Модель предназначена для генерации тибетского текста и диалога, перевода между тибетским и более чем 200 языками, ответов на вопросы, распознавания именованных сущностей и сегментации предложений. Среди сценариев применения — подготовка учебных материалов, создание текстов и анализ тибетских цифровых архивов. В карточке указана открытая лицензия, но её точное название не приведено. Среди ограничений — возможные ошибки перевода, более слабая работа с нетибетскими задачами и смещения в данных; результаты в историческом, культурном и образовательном контексте следует проверять.

MrBERT-science — многоязычная энкодерная модель для научного текста, разработанная лабораторией Language Technologies Lab Барселонского суперкомпьютерного центра. Она получена доменной адаптацией MrBERT: веса исходной модели дообучены на научном корпусе объёмом 3,6 млрд токенов, из которых 38,1% испанские и 61,9% английские. Модель построена на архитектуре ModernBERT и содержит около 307 млн параметров. Она обучена по задаче Masked Language Modeling и поддерживает заполнение пропусков в тексте; в метаданных указан контекст до 8192 токенов. Карточка приводит результаты на научной классификации, поиске и тематических бенчмарках, поэтому модель может служить основой для прикладных систем анализа научных публикаций на английском и испанском языках. Лицензия Apache-2.0. Авторы предупреждают о возможных смещениях и непреднамеренных искажениях; при использовании в сторонних системах ответственность за снижение рисков и соблюдение применимых требований лежит на пользователе.

cservan/multilingual-albert-base-cased-128k — предварительно обученная многоязычная модель ALBERT с архитектурой AlbertForMaskedLM, предназначенная для восстановления замаскированных токенов и получения контекстных представлений текста. Разработчик карточки описывает её как вторую версию базовой модели mALBERT; обучение проводилось на многоязычной Википедии с задачами masked language modeling и предсказания порядка предложений. Модель различает регистр букв и имеет словарь SentencePiece размером 128 тысяч токенов. В метаданных указаны 211,6 млн параметров и контекст до 512 токенов. Модель рассчитана прежде всего на дообучение для классификации последовательностей и токенов, заполнения пропусков и ответов на вопросы, а также на извлечение признаков для таких задач. Метаданные перечисляют поддержку множества языков, включая русский, английский, французский, немецкий, испанский и китайский; карточка подчёркивает многоязычную предобученность. ALBERT использует общие веса повторяющихся слоёв, что снижает объём параметров относительно обычного BERT-подобного стека, хотя вычислительная нагрузка остаётся сопоставимой. Модель распространяется по лицензии Apache-2.0. Она не предназначена для свободной генерации связного текста; для прикладных задач обычно требуется дообучение.

Карточка модели ArchSpace-Collection/NCP_ArchPreview_dolma3_8.9B_Stage2_v2 на Hugging Face совпадает с карточкой ArchSpace-Collection/NCP_ArchPreview_dolma3_8.9B_Stage2_v3, поэтому описание составлено по ней. NCP-ArchPreview 8.9B Stage 2 V3 — базовая авторегрессионная языковая модель, разработанная командой NCP в Shanghai AI Lab и LUMIA Lab Шанхайского университета Цзяо Тун. Это продолженное предобучение Stage 1 на Dolma 3 Dolmino в рамках второго этапа учебного курса OLMo-3. Модель объединяет предсказание следующего токена (NTP) и следующего концепта (NCP); архитектура сохраняет 16-слойный энкодер, 8-слойный модуль концептов и 16-слойный декодер. В репозитории указаны около 9 млрд параметров, контекст 8192 токена, формат Safetensors и использование Transformers. Модель предназначена для генерации продолжений текста, оценки языковых моделей, исследований латентных концептов и дальнейшей адаптации. В отчёте приведены результаты по математике, общим знаниям, программированию и рассуждениям, однако точные показатели зависят от варианта Stage 2 и протокола оценки; таблицы рецептов показывают, что V3 уступает V1 на нескольких задачах, включая HumanEval, MBPP и MATH-500. Это базовая модель без диалогового выравнивания: она может выдавать неточные, предвзятые или вредоносные ответы, а возможности за пределами контекста 8192 токена отдельно не подтверждены. Лицензия — Apache 2.0.

NVIDIA Nemotron-H-47B-Base-8K — базовая языковая модель для продолжения заданного текста, предназначенная для разработчиков и исследователей, создающих и настраивающих LLM. Она использует гибридную архитектуру Mamba-2 и Transformer с преимущественно слоями Mamba-2 и MLP и пятью слоями Attention. Модель содержит 47 млрд параметров, обучена с использованием 63 млрд токенов и поддерживает контекст до 8 тысяч токенов. Модель принимает и генерирует текст. В README заявлена поддержка английского, немецкого, испанского, французского, итальянского, корейского, португальского, русского, японского и китайского языков. Обучающие данные включают текст и код; оценки представлены для задач здравого смысла, программирования и математики. Для адаптации к конкретным задачам NVIDIA рекомендует инструменты NeMo для дообучения и выравнивания. Модель оптимизирована для GPU NVIDIA, а в README указана совместимость с H100-80GB и A100. Это базовая модель без рекомендуемого формата промпта, поэтому она рассчитана прежде всего на продолжение текста и может требовать адаптации для целевых сценариев. Она унаследовала от обучающих данных токсичный контент и социальные предубеждения, может выдавать неточные или нежелательные ответы и уязвима к некоторым вариантам косвенных prompt injection. Лицензия обозначена в метаданных как other; README ограничивает применение исследованиями и разработкой.

NeuBeagle-7B — объединённая модель генерации текста на базе архитектуры Mistral, созданная mlabonne с помощью LazyMergekit. В состав слияния вошли dpo-binarized-NeutrixOmnibe-7B и dpo-binarized-NeuralTrix-7B; использован метод dare_ties. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации и продолжения текста, в том числе диалоговых ответов. В метаданных указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование. Данных о конкретных языках и специализированных областях применения нет.

NeuralsirkrishnaShadow_ShadowMeliodas — объединённая модель генерации текста на архитектуре Mistral, созданная слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/ShadowMeliodas-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. В карточке не описаны специализация, поддерживаемые естественные языки или результаты оценки качества. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache 2.0.

NeuralSynthesis-7B-v0.1 — слитая модель для генерации текста, опубликованная пользователем Kukedlc. Она объединяет четыре модели на базе Mistral с помощью LazyMergekit и метода model_stock; в конфигурации указана точность bfloat16. Архитектура — плотная MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалогов на английском и испанском языках. В карточке приведены результаты оценивания на Open LLM Leaderboard, включая средний балл 76,80, однако конкретные сценарии и качество на отдельных прикладных задачах README не описывает. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.

gwonny/nox-solar-10.7b-v4-kolon-all-5 — разговорная языковая модель на архитектуре Llama, созданная для Kolon на основе davidkim205/nox-solar-10.7b-v4. Разработчик дообучил базовую модель на собственных закрытых данных в течение пяти эпох, применив QLoRA с параметрами 64 и 16 и NEFTune. Модель предназначена для диалогового взаимодействия и генерации текста. Она содержит 10,6 млрд параметров, принимает текст и рассчитана на контекст до 4096 токенов. В карточке указаны корейский и английский языки. Репозиторий распространяется в формате PyTorch по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование.

blackmlengineer/occucoder-en-demi-v0 — текстовая Sentence Transformer-модель на архитектуре BERT, разработанная автором репозитория и обученная на наборе данных train. Она преобразует предложения и абзацы в плотные векторы размерности 64; сходство между ними оценивается косинусной мерой. Модель предназначена для поиска и сопоставления текстов по смыслу. Модель принимает текст, использует среднее pooling-представление и поддерживает последовательности длиной до 32 токенов. В README приведены примеры коротких англоязычных названий профессий и описана обучающая выборка из 991 580 примеров с anchor, positive и negative. Метаданные указывают Sentence Transformers, BERT и 681 тыс. параметров. Подходит для семантического поиска и извлечения признаков из коротких текстов. Очень короткое контекстное окно ограничивает работу с длинными фразами и документами; сведения о лицензии в предоставленных источниках отсутствуют.

GestaltLabs/Ornstein-Hermes-3.6-27B-GGUF — набор GGUF-квантизаций модели GestaltLabs/Ornstein-hermes-3.6-27b, представляющей собой дообученную в формате Hermes версию Ornstein-3.6-27B на базе мультимодальной Qwen 3.6 с 27 млрд параметров. Квантизации подготовлены с помощью llama.cpp; для калибровки K- и I-квантизаций использован imatrix на 800 диалогах с применением инструментов из датасета Acta-Synthetic. Модель предназначена для мультимодальных задач image-text-to-text, диалогового взаимодействия, агентских сценариев, вызова функций и использования внешних инструментов. Она обучена работать с Hermes-форматом function calling и поддерживает tool use; заявлен английский язык. В репозитории доступны варианты от IQ2_M размером около 9,3 ГБ до Q8_0 размером около 26,6 ГБ, что позволяет выбирать баланс между требованиями к памяти и качеством. Более высокие разрядности обеспечивают большую точность, а агрессивные 3- и 2-битные варианты требуют меньше памяти, но заметно снижают качество. Модель распространяется в формате GGUF и совместима с llama.cpp, Ollama и LM Studio. Квантизация ориентирована на распределения данных, характерные для вызова инструментов, что может быть сильной стороной в агентских задачах, однако README не содержит независимых результатов оценки качества, максимального размера контекста и подробностей о поддерживаемых языках помимо английского. Лицензия — Apache 2.0, унаследованная от базовой модели Qwen 3.6.

Модель alfatih1234/pgabl-qwen25-1.5b-sft — дообученная разговорная языковая модель семейства Qwen2.5, созданная alfatih1234 на базе unsloth/qwen2.5-1.5b-instruct-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL. Это плотная авторегрессионная модель с 1,5 млрд параметров, принимающая текст и генерирующая текст; заявленная длина контекста составляет 32 768 токенов. Подходит для диалогов и генерации текста на английском языке, а также для интерфейсов с вызовом инструментов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает специализированную предметную область или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять на собственных примерах.

Phi-3.5-Hyper-Mix — объединённая языковая модель семейства Phi-3.5, созданная bunnycore с помощью mergekit и метода TIES. В качестве базовой модели использована ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1; в объединение также вошли модели для инструктивного программирования, ролевых диалогов, творческого письма и системных инструкций. Модель предназначена для генерации текста и диалоговых сценариев, включая ролевое общение, творческое письмо и ответы на инструкции. Это плотная причинно-языковая архитектура Phi3ForCausalLM примерно на 3,7 млрд параметров с контекстом до 4096 токенов. Для загрузки используются Transformers и формат safetensors. Карточка не сообщает о специальной мультимодальности или лицензии. Качество и поведение модели могут различаться по задачам, поскольку она объединяет несколько источников; отдельные ограничения и результаты оценки не приведены.

google/pix2struct-infographics-vqa-large — модель Google семейства Pix2Struct для визуальных вопросов и ответов по инфографике. Это плотная модель архитектуры Pix2StructForConditionalGeneration: визуальный кодировщик преобразует изображение, а текстовый декодер формирует ответ. Pix2Struct предварительно обучалась на парах изображение–текст, в том числе на разборе замаскированных снимков веб-страниц в упрощённый HTML, и рассчитана на адаптацию к задачам понимания визуально представленного языка. Модель принимает изображение и текстовый вопрос и выдаёт текстовый ответ. Её можно применять для извлечения сведений из инфографики, чтения подписей и сопоставления визуальных элементов с вопросом. В карточке указана поддержка английского, французского, румынского и немецкого языков; README также описывает широкие области применения семейства, включая документы, иллюстрации, интерфейсы и обычные изображения. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Возможные ошибки распознавания мелкого текста, сложных диаграмм и визуально неоднозначных данных следует учитывать при использовании ответов; отдельные показатели качества для этой версии в карточке не приведены.

radlab/pLLama3.2-3B — плотная языковая модель семейства Llama, дообученная radlab на базе meta-llama/Llama-3.2-3B-Instruct. Модель содержит 3,2 млрд параметров и рассчитана на контекст до 131 072 токенов; репозиторий предоставляет веса в формате safetensors. Модель дообучена для общения на польском языке и выполнения инструкций: она предназначена для диалогов, ответов на вопросы и генерации польского текста. В README описан этап дообучения на корпусе примерно из 650 тысяч польских инструкций; эта версия не обозначена как прошедшая отдельный этап DPO. Метаданные также отмечают интерфейс вызова инструментов. Лицензия — Llama 3.2, условия которой следует учитывать при использовании и распространении модели. Описанные данные и сравнительное утверждение об улучшении точности общения приведены разработчиком; независимые оценки качества в карточке не представлены.

NeuML подготовила PubMedBERT Embeddings Matryoshka — модель эмбеддингов на архитектуре BERT для сравнения сходства предложений и семантического поиска по биомедицинским текстам. Модель содержит 136,7 млн параметров, принимает текст и поддерживает контекст до 512 токенов; основной язык — английский. Обучение с Matryoshka Representation Learning позволяет получать эмбеддинги размером 64, 128, 256, 384, 512 или 768 измерений. Меньшие размерности экономят место при хранении векторной базе, но, согласно README, не уменьшают вычислительные затраты. Модель подходит для семантического поиска, построения источников для RAG и сопоставления вопросов, статей, аннотаций и других биомедицинских текстов. В приведённой оценке на наборах PubMed она сохраняет конкурентное качество при сокращённых размерностях. Модель распространяется по лицензии Apache-2.0. Контекст ограничен 512 токенами; область оценки в README ограничена несколькими биомедицинскими наборами, поэтому результаты не гарантируют такое же качество на иных текстах и языках.

Ronnied1588 публикует GGUF-сборку Qwen2.5-7B-Instruct-heretic — версии Qwen2.5-7B-Instruct, обработанной методом abliteration для снижения склонности к отказам. Исходную обработку выполнил LeadFootThrottleCock с помощью Heretic v1.2.0; каталог указывает базовую модель Qwen/Qwen2.5-7B-Instruct и 7,1 млрд параметров. Архитектура — плотная причинная языковая модель Qwen2 с поддержкой диалогов и контекстом до 32 768 токенов. Модель предназначена для диалоговой генерации текста, творческого письма, ответов на вопросы, обсуждения спорных тем и программирования. В README описаны варианты GGUF от BF16 до нескольких уровней квантования, запуск через llama.cpp, LM Studio и Ollama, а также интерактивные проверки творческих, научных и кодовых задач. Карточка сообщает о низком значении KL-дивергенции относительно исходной модели и результатах проверки отказов, но это не является независимой оценкой качества. Модель ориентирована на английский язык; возможности других языков в карточке не подтверждены. Abliteration снижает поведение отказа, поэтому ответы на потенциально опасные запросы могут быть менее ограничены. Лицензия — Apache-2.0.

Это 7,1-миллиардная мультимодальная модель семейства Qwen2.5-VL, подготовленная сообществом mlx-community из Qwen/Qwen2.5-VL-7B-Instruct и преобразованная в формат MLX с точностью 6 бит. Она принимает текст и изображения и генерирует текст; предназначена для диалога, ответов на вопросы по изображениям и других задач визуального анализа. Архитектура — плотная Qwen2_5_VLForConditionalGeneration, поддерживается контекст до 128 000 токенов и интерфейс вызова инструментов. Карточка указывает библиотеку Transformers и преобразование с помощью mlx-vlm 0.1.11. Лицензия — Apache-2.0.

OP12138/qwen3-4b-advchain — дообученная модель Qwen3-4B, созданная на наборе данных advchain_train. Это плотная авторегрессионная языковая модель семейства Qwen3 с 3,7 млрд параметров, предназначенная для диалоговой генерации текста. Репозиторий использует библиотеку Transformers и формат safetensors; заявленная длина контекста — 40 960 токенов. Карточка не описывает конкретные сценарии обучения и оценки, поэтому назначение модели можно определить только как генерацию текста в формате диалога. В метаданных указана лицензия other, без дополнительных условий в доступных сведениях.

Карточка модели taskmaster141/qwen3_4b_simplyparse-clean на Hugging Face совпадает с карточкой taskmaster141/SimplyParse-qwen3txt-3rdepoch, поэтому описание составлено по ней. SimplyParse-qwen3txt-3rdepoch — дообученная языковая модель, разработанная taskmaster141 на основе unsloth/qwen3-4b-instruct-2507-unsloth-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная модель семейства Qwen3 с архитектурой Qwen3ForCausalLM, предназначенная для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Размер модели составляет 3,7 млрд параметров, длина контекста — до 262 144 токенов. Указан английский язык. Модель подходит для создания ответов и ведения диалога, а также для сценариев, где требуется использовать интерфейс вызова инструментов. Данных о специализации дообучения и его результатах карточка не содержит. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-0.8B-H128-Q4-G32-DOT4 — квантизированная текстовая модель на базе Qwen/Qwen3.5-0.8B, подготовленная Danmoreng для CPU-движка Qwen3.5 CPU. Она предназначена для локальной генерации текста и работы через серверный API совместимых CPU-систем. Артефакт хранится в специальном формате H128/Q4-G32-DOT4 .q35h и не является GGUF-файлом или checkpoint, загружаемым через Transformers. Модель содержит только веса текстового вывода, без vision- и MTP-компонентов. В крупных проекциях используются знаковые Hadamard-преобразования по 128 каналам, группы из 32 четырёхбитных кодов с FP16-масштабами и упаковка под CPU DOT4; KV-кэш работает в FP16, рекуррентное состояние — в FP32. Размер тензорного payload составляет около 424,9 МБ. Квантизация выполнена методом activation-weighted MSE16 с компенсацией ошибок и калибровкой на 256 документах объёмом 262 144 токена, включавших немецкий и английский языки, Python-код, диалоги и математику. Сильные стороны модели — небольшой размер, готовность к CPU-инференсу, отсутствие необходимости в CUDA, Python и BF16-весах во время запуска, а также высокая скорость на поддерживаемом оборудовании. Ограничения включают зависимость от специального Qwen3.5 CPU engine, отсутствие встроенных потокового режима и chat completions endpoint, необходимость предварительно формировать chat-промпты и отсутствие мультимодальных возможностей. Модель распространяется по лицензии Apache-2.0.

lukey03/Qwen3.5-9B-abliterated-GGUF — это GGUF-квантизированные версии модели Qwen3.5-9B, разработанные пользователем lukey03 на основе официальной Qwen/Qwen3.5-9B. Модель предназначена для локального запуска через Ollama, llama.cpp и другие совместимые движки. Доступны текстовые варианты, а также мультимодальная версия для анализа изображений и текста. Архитектура Qwen3.5 нативно поддерживает мультимодальность благодаря встроенному vision-энкодеру. В vision-варианте сохранены компоненты обработки изображений и MTP-тензоры официальной модели, а текстовые веса заменены на abliterated-версию. Доступны варианты Q4_K_M размером около 5,2 ГБ для текста и 6,1 ГБ для текста и изображений, а также текстовая версия F16 размером около 17 ГБ. Поддерживаются английский, китайский, японский, корейский, французский, немецкий и испанский языки. Для vision-варианта требуется Ollama версии 0.17.1 или новее. Ключевая особенность — удаление поведения отказа с помощью ортогональной проекции весов и последующей QLoRA-донастройки; автор заявляет успешные ответы на 18 из 18 тестовых запросов, на которые базовая модель не отвечала. Это может быть полезно для исследовательских и образовательных сценариев, требующих более прямых ответов, однако одновременно снижает встроенные защитные ограничения и повышает риски небезопасного применения. Контекстное окно в README не указано, поэтому его характеристики нельзя оценить по предоставленным данным. Модель распространяется по лицензии Apache-2.0. Автор также указывает, что пользователи самостоятельно отвечают за соблюдение законодательства и этических норм.