II.3Рефакторинг, миграция и модернизация

Olmo-3-1025-7B — базовая авторегрессионная языковая модель семейства OLMo 3, разработанная Allen Institute for AI (Ai2). Она предназначена для генерации текста и служит основой для дальнейшей настройки под диалоговые и специализированные задачи. Модель имеет плотную Transformer-архитектуру для причинного языкового моделирования, около 6,9 млрд параметров и контекстное окно 65 536 токенов. Она обучена преимущественно на английском языке на данных Dolma 3; обучение включало текст, код, математику, вопросы и ответы, инструкции и PDF-документы. Репозиторий содержит веса в формате safetensors и поддерживается библиотекой Transformers версии 4.57.0 и выше. Длинный контекст и широкая обучающая выборка подходят для генерации продолжений, черновиков и кода, а также для адаптации модели к прикладным сценариям. Это базовая модель, поэтому её ответы не обязательно следуют инструкциям как у чат-модели; возможны фактические ошибки, предвзятые или вредоносные ответы без дополнительной настройки и фильтрации. Лицензия модели и кода — Apache 2.0.

Карточка модели open-thoughts/OpenThinker-Agent-v1-SFT на Hugging Face совпадает с карточкой baerquants/OpenThinker-Agent-v1-SFT, поэтому описание составлено по ней. OpenThinker-Agent-v1-SFT — модель baerquants, созданная в рамках открытого проекта OpenThoughts-Agent для выполнения агентных задач. Это этап supervised fine-tuning модели Qwen/Qwen3-8B: обучение проводилось на трассах OpenThoughts-Agent-v1-SFT, а последующее RL-дообучение есть в отдельной версии OpenThinker-Agent-v1. Модель с плотной архитектурой Qwen3ForCausalLM содержит 7,6 млрд параметров, принимает текст и генерирует текст; максимальная длина контекста — 40 960 токенов. Модель ориентирована на агентные сценарии разработки и работы в терминале: формирование shell-команд, выполнение задач Terminal-Bench и исправление программных ошибок, включая задачи по C# и Java из набора InferredBugs. В карточке проекта сообщаются результаты бенчмарков для версии после SFT и RL, а не этой SFT-версии отдельно. Репозиторий использует формат Safetensors, библиотеку Transformers и лицензию Apache-2.0.

Pearl-3x7B — языковая модель Louis Brulé Naudet для диалогов, программирования и математических задач. Это объединение трёх моделей в архитектуре Mixture of Experts на основе Mixtral, примерно 7,1 млрд параметров; репозиторий содержит веса Safetensors, модель рассчитана на контекст до 32 768 токенов и использует библиотеку Transformers. Модель предназначена для ответов в чате, генерации и объяснения кода, а также решения математических задач. В карточке указан английский язык. Модель выпущена под лицензией Apache-2.0. README заявляет специализацию на анализе данных, однако не приводит результатов оценки, поэтому качество на конкретных задачах не подтверждено.

Prox-Phi-3-mini-128k — языковая модель OpenVoid, дообученная на базе архитектуры Microsoft Phi-3-mini-128k для генерации кода и задач кибербезопасности. Это плотная авторегрессионная модель класса Phi3ForCausalLM примерно с 3,7 млрд параметров; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации, объяснения и документирования кода, ответов на вопросы о кибербезопасности и техниках взлома, а также анализа уязвимостей и учебных симуляций. Карточка приводит результаты HumanEval, EvalPlus и MBPP, но они не гарантируют качество на практических задачах. Модель может выдавать ошибочные или непоследовательные ответы, поэтому результаты следует проверять, особенно в критичных сценариях. Метаданные указывают английский язык и контекст 4096 токенов; название модели и README заявляют 128k, что расходится с указанной длиной контекста. Лицензия — Apache-2.0.

RobinsonLabs Qwen3.6-35B-A3B-abliterated-GGUF — набор квантованных моделей в формате GGUF, созданный Robinson Labs на базе Qwen/Qwen3.6-35B-A3B. Это разреженная Mixture-of-Experts-модель архитектуры qwen35moe с 35 млрд параметров и бюджетом около 3 млрд активных параметров на токен, предназначенная для генерации текста и запуска в совместимых локальных inference-движках. В модели сохранён Multi-Token Prediction (MTP/NextN), благодаря чему поддерживается спекулятивное декодирование в runtime, которые умеют с ним работать. Сведения о длине контекста и языках в README не указаны. Модель подвергнута abliteration — ортогонализации весов для снижения жёстких отказов на запросы о взрослом и творческом контенте. Согласно описанию, базовые защитные механизмы от реального вреда намеренно сохранены; на внутренних тестах модель получила 5/5 по набору задач на рассуждение, код, математику, фактические ответы и следование инструкциям, а также 10/10 по проверенному набору детской безопасности. При этом авторы подчёркивают, что наборы тестов невелики и не гарантируют сохранность всех защитных механизмов. Модель помечена как предназначенная не для всех аудиторий и требует ответственного использования. Основные ограничения связаны с квантованием: доступные варианты отличаются размером и потенциальным компромиссом между качеством и требованиями к памяти, однако конкретные параметры каждого варианта следует уточнять по выбранному файлу. Лицензия унаследована от базовой модели и указана как Apache-2.0.

Qwen3.8-27B Uncensored Heretic T10 BF16 — экспериментальная производная модели Qwen3.8-27B, размещённая пользователем nerkyor. Модель создана на основе официальной Qwen3.8-27B с применением метода C0/T10, направленного на снижение склонности к отказам. В репозитории доступны полные веса BF16, а также варианты Q8_0 для llama.cpp, черновая MTP-модель и vision projector. Модель предназначена для локального запуска в текстовых и мультимодальных сценариях, включая ответы на вопросы, рассуждения, программирование и обработку изображений. Указана поддержка мультимодальности и vision projector; конкретные языки не перечислены. Архитектура основана на Qwen3.8-27B, однако точные параметры контекста в README не указаны. Для работы рекомендуется использовать официальный chat template Qwen3.8 и актуальную сборку llama.cpp; thinking включён по умолчанию. Для ускорения вывода доступен MTP-вариант. В опубликованных тестах версия Q8_0 получила 87,0% на MMLU500, 85,35% на GPQA198 и 76/100 на LCB100. Главная особенность модели — крайне низкая частота жёстких отказов, но это одновременно означает сниженные защитные ограничения. Известное ограничение мультимодальной версии — неполное качество OCR: строгий синтетический тест не воспроизвёл заданную строку точно. Релиз носит исследовательский характер, требует самостоятельной проверки результатов и ответственного использования. Лицензия — Apache License 2.0; дополнительно необходимо соблюдать условия официальной Qwen3.8-27B и применимое законодательство.

Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

gangwayhaste/qwen38-fcf-gguf — это набор GGUF-квантов мног stages fine-tune модели Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX, разработанной на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README указано, что обучение и сборка выполнялись с использованием Unsloth, методов COLD FUSION и Fable Fusion, а также датасетов DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Лицензия — Apache-2.0; заявленные языки — английский и китайский. Модель предназначена для общего решения задач, рассуждений, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Основной акцент сделан на подробность ответов, сокращение избыточного внутреннего рассуждения и ускорение генерации, включая режимы MTP. Доступны обычные и MTP-кванты, в том числе варианты с точностью 4 и 8 бит и использованием imatrix. Размер базовой модели — 27B параметров. README также обозначает поддержку сценария image-text-to-text, однако подробности о фактических мультимодальных возможностях и максимальном размере контекста не приведены. К заявленным сильным сторонам относятся улучшенные по сравнению с базовой Qwen3.8-27B показатели на ряде бенчмарков, высокая детализация, способности к рассуждению, кодированию и художественной генерации, а также возможность запуска квантованных вариантов на потребительском оборудовании. Ограничения включают отсутствие независимой верификации заявленных результатов в предоставленных данных, неопределённость характеристик отдельных квантов и отсутствие точных требований к аппаратному обеспечению. Модель помечена как uncensored и abliterated, поэтому её поведение и уровень защитных ограничений могут отличаться от исходной модели.

Qwen3.8-Flash-Next-MLX-mixed-4_8bit — сборка модели Qwen3.8-Flash-Next, преобразованная в формат MLX разработчиком PipeNetwork для запуска на Apple Silicon. Это текстовая модель генерации, основанная на гибридной архитектуре Gated-DeltaNet и sparse attention с разреженной Mixture-of-Experts на 125 млрд параметров, из которых около 6 млрд активируются на токен. В исходной архитектуре также используется хешированное n-граммное embedding-пространство на 51 млрд параметров. Мультитокенный prediction head на 4 млрд параметров исключён, а vision tower присутствует в файлах, но не используется данным текстовым runtime. Модель предназначена для локальной генерации текста и решения задач вроде программирования, продолжения текста и других сценариев text-generation. Она рассчитана на работу через библиотеку MLX и требует специального runtime qwen4_exp, поставляемого вместе с репозиторием; для загрузки может потребоваться trust_remote_code. Размер сборки составляет 106,2 ГБ. Маршрутизируемые эксперты и n-граммные таблицы квантизированы в 4 бита, большинство остальных весов — в 8 бит, отдельные компоненты и vision tower сохранены в bfloat16. Заявленная конфигурация заметно лучше равномерной 4-битной версии по качеству: perplexity на wikitext-2 составляет 4,5286 против 5,3914 у полной 4-битной сборки и 4,4708 у исходной bfloat16-модели. Сильная сторона сборки — существенное уменьшение размера при небольшом ухудшении качества относительно bfloat16; по приведённому тесту она является предпочтительным вариантом среди сборок такого размера. Ограничения включают большой объём файлов, зависимость от Apple Silicon и нестандартного runtime, отсутствие поддержки vision в текущем режиме, а также возможные потери качества из-за квантизации. Лицензия указана как qwen-community-1.0 с типом other; конкретные условия следует проверить в файле LICENSE.

mergekit-community/qwenben — языковая модель на архитектуре Qwen2, созданная сообществом методом SLERP с помощью mergekit. В слиянии участвовали Qwen/Qwen2.5-Coder-1.5B-Instruct и deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B. Модель содержит 1,5 млрд параметров, работает через Transformers и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста в диалоговом формате и может быть полезна для задач программирования и рассуждений, унаследованных от объединённых моделей. Метаданные также отмечают интерфейс вызова инструментов. Карточка не приводит результатов сравнительных оценок качества, поэтому пригодность для конкретных задач следует проверять на собственных примерах. Репозиторий содержит веса safetensors; сведения о лицензии в предоставленных источниках отсутствуют.

Yi-Coder-9B-Chat-IMat-GGUF — это GGUF-квантизированная версия чат-модели Yi-Coder-9B-Chat, разработанной 01.AI. Квантизацию выполнил legraphista с использованием llama.cpp, исходная модель имела формат BF16. Модель предназначена для генерации текста и диалогового взаимодействия, включая сценарии локального запуска через совместимые с GGUF инструменты, такие как llama.cpp. Модель содержит около 9 миллиардов параметров и доступна в форматах BF16, F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и других вариантах квантизации. Для ряда низкоразрядных вариантов применена IMatrix, призванная сохранить качество при уменьшении размера модели. Размер файлов варьируется примерно от 3,35 ГБ для Q2_K до 17,66 ГБ для BF16/F16. README не сообщает архитектуру, поддерживаемые языки, размер контекста или наличие мультимодальных возможностей; по указанным данным модель является текстовой. Основные преимущества — широкий выбор уровней квантизации, возможность подбора баланса между размером, требованиями к памяти и качеством, а также наличие IMatrix для некоторых вариантов. Ограничения включают возможное снижение качества у наиболее сильных вариантов квантизации и отсутствие в README подробных оценок производительности, языковой поддержки и требований к оборудованию. Модель распространяется по лицензии Apache-2.0.

AutoCoder — языковая модель для генерации кода, построенная на архитектуре Llama и содержащая 33,1 млрд параметров. По README, её разработчики заявляют результат 90,9% на базовом наборе HumanEval против 90,2% у GPT-4 Turbo (апрель 2024 года). Карточка также описывает возможность по запросу устанавливать необходимые пакеты и запускать сгенерированный код с повторными попытками до обнаружения ошибок. Модель предназначена для генерации кода и диалогового взаимодействия. Она принимает текст и выдаёт текст; заявленная базовая модель — deepseeker-coder. Контекст составляет 16 384 токена, файлы весов опубликованы в формате Safetensors. Лицензия — Apache-2.0. README не раскрывает подробности проверки результата HumanEval и реализации запуска кода.

DASD-4B-Thinking GGUF — компактная плотная языковая модель примерно на 4 млрд параметров, опубликованная в формате GGUF пользователем Mungert. Исходная модель разработана командой Alibaba-Apsara и создана на основе Qwen3-4B-Instruct-2507 с дистилляцией знаний от gpt-oss-120b методом distribution-aligned sequence distillation. Модель ориентирована на рассуждения с длинной цепочкой мыслей, включая решение математических задач, генерацию кода и научное рассуждение. Для обучения использовалось 448 тысяч примеров из наборов Superior-Reasoning-SFT-gpt-oss-120b и Superior-Reasoning-SFT-gpt-oss-120b-Logprob. Это текстовая autoregressive-модель для генерации текста; сведения о поддерживаемых языках и размере контекста в карточке не указаны. Версия GGUF создана с использованием llama.cpp. Автор сборки применяет модифицированный подход к квантованию: отдельные важные слои переводятся в более высокую точность с помощью опции --tensor-type, что должно повышать точность при малой разрядности, особенно для MoE-моделей, но увеличивает размер файла. Заявленные результаты DASD-4B-Thinking включают 88,5 на AIME24, 83,3 на AIME25, 69,3 и 67,5 на LiveCodeBench v5 и v6 соответственно, а также 68,4 на GPQA-D. Сильными сторонами являются компактный размер, ориентация на сложное рассуждение, высокая эффективность дистилляции и возможность локального запуска на потребительском оборудовании. Ограничения включают отсутствие в предоставленных данных подробностей о языковом покрытии, контекстном окне, конкретных требованиях к памяти и характеристиках отдельных квантованных вариантов; приведённые бенчмарки не гарантируют аналогичную производительность в любых прикладных сценариях. Лицензия — Apache-2.0.

deepseekmerge-7b-ties — объединённая языковая модель, созданная с помощью mergekit методом TIES из DeepSeek-LLM-7B-Base, DeepSeek-LLM-7B-Chat и DeepSeek-Coder-7B-Base-v1.5. Она предназначена для генерации текста и объединяет возможности диалоговой модели DeepSeek с моделью, ориентированной на программирование. Модель использует плотную архитектуру семейства Llama с причинным языковым декодером, содержит 6,5 млрд параметров и поддерживает контекст до 4096 токенов. В репозитории доступны веса Safetensors; модель распространяется по лицензии Apache-2.0. Базовые модели обучались на английских и китайских данных, однако README не уточняет языковой охват именно объединённой версии. Модель можно использовать для диалоговых ответов и генерации кода. Карточка не приводит оценок качества или подробных результатов тестирования, поэтому пригодность для конкретных задач следует проверять отдельно.

granite-4.1-8b-heretic — это децензурированная версия IBM Granite 4.1 8B Instruct, созданная пользователем RACER IS OP на основе модели ibm-granite/granite-4.1-8b-instruct. Модель предназначена для генерации текста, диалоговых сценариев, написания кода, задач на рассуждение и других случаев, где требуется прямое следование инструкциям без типичных отказов базовой модели. Она ориентирована на локальный запуск на потребительских GPU, CPU и Apple Silicon, а также может использоваться через Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Модель имеет нативный размер около 8,4 млрд параметров; доступны веса BF16 и варианты GGUF с квантованием Q4_K_M, Q5_K_M, Q6_K и Q8_0. В README указана поддержка английского языка, архитектурные детали и размер контекста не приведены. Децензурирование выполнено с помощью Heretic 1.4.0 методом directional ablation («abliteration»): целевые изменения весов внесены в выходные проекции attention и down-projections MLP без дообучения. Заявляется, что знания и основные возможности базовой модели в значительной степени сохранены. Сильной стороной модели является сочетание возможностей 8B-модели, доступности различных уровней квантования и подавления отказов, что делает её удобной для локального использования. Ограничение состоит в намеренном отсутствии дополнительной фильтрации безопасности: модель может выполнять запросы, от которых отказалась бы базовая версия, в том числе нежелательные. Поэтому разработчик рекомендует не использовать её за незащищёнными публичными интерфейсами без собственного контроля и модерации. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

unsloth/JanusCoder-8B-GGUF — GGUF-квантизированная версия JanusCoder-8B, подготовленная Unsloth на основе модели internlm/JanusCoder-8B. JanusCoder разработан командой InternLM как открытая фундаментальная модель для единого визуально-программного интерфейса в задачах работы с кодом. Данная версия является текстовой моделью на базе Qwen3-8B и предназначена для генерации кода по текстовым инструкциям, включая построение визуализаций данных, интерактивных веб-интерфейсов, программных анимаций и других программно создаваемых визуальных материалов. Модель обучалась на мультимодальном корпусе JANUSCODE-800K, однако для JanusCoder-8B в README указано текстовое исполнение; отдельные визуально-языковые варианты представлены в семействе JanusCoderV. Среди сильных сторон — универсальность в задачах кодового интеллекта и визуально-программной генерации, а также результаты на PandasPlotBench, ArtifactsBench и DTVBench, где модель превосходит ряд сопоставимых открытых моделей. Размер модели — 8B параметров; конкретные языки программирования и размер контекстного окна не указаны. Для запуска через llama.cpp требуется режим --jinja, а для Transformers рекомендуется версия не ниже 4.55.0. Модель распространяется по лицензии Apache-2.0.

Goekdeniz-Guelmez/Josiefied-Qwen2.5-14B-Instruct-abliterated-v4-gguf — текстовая инструкционная языковая модель, разработанная и профинансированная Gökdeniz Gülmez. Она основана на Qwen/Qwen2.5-14B-Instruct, дополнительно дообучена на пользовательском наборе данных и модифицирована для снижения склонности к отказам. Модель предназначена для диалогов, ответов на вопросы, программирования и выполнения широкого круга пользовательских задач. Модель относится к архитектуре qwen2 и имеет размер 14 млрд параметров. Указаны английский и немецкий языки, а также другие языки без уточнения. Репозиторий содержит GGUF-вариант, включая файл с квантованием Q4_K_M; в примере конфигурации Ollama задан контекст до 32 768 токенов. Это текстовая модель без заявленной поддержки изображений, аудио или других модальностей. К сильным сторонам относятся инструкционная настройка, поддержка диалогового шаблона, интеграция с Ollama и OpenWebUI, а также ориентация на менее ограниченные ответы. При этом README не содержит результатов тестирования, точных сведений о качестве, аппаратных требованиях или подробной оценки безопасности. Разработчик предупреждает об использовании на собственный риск; поведение модели может быть менее безопасным и предсказуемым из-за удаления отказов. Лицензия указана как Apache 2.0.

Lemur 70B Chat v1 GGUF — это квантизированная версия диалоговой языковой модели Lemur 70B Chat v1, разработанной OpenLemur и опубликованной в формате GGUF командой TheBloke. Модель основана на архитектуре Llama и предназначена для генерации текста в формате text-generation, включая диалоговое взаимодействие и задачи, связанные с программированием. Модель имеет размер 70B параметров, поддерживает английский язык и использует шаблон запросов ChatML с ролями system, user и assistant. Формат GGUF рассчитан на запуск через llama.cpp и совместимые инструменты, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие решения для CPU- и GPU-инференса. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации. К сильным сторонам относятся диалоговая настройка, возможности генерации кода и широкий выбор вариантов квантизации для локального запуска. Ограничения включают отсутствие в предоставленных данных сведений о контексте, точных языковых возможностях за пределами английского, результатах тестирования и конкретных требованиях к оборудованию; крупный размер модели также может затруднять запуск на системах с ограниченными ресурсами. В карточке указана лицензия CC BY-NC 4.0. Поскольку модель основана на Llama 2, дополнительно применяются условия лицензии Meta Llama 2; репозиторий указывает на возможное двойное лицензирование, поэтому условия коммерческого и иного использования следует проверять в исходном репозитории OpenLemur.

LiteCoder-Terminal-30b-a3b-sft — модель команды LiteCoder для кодовых агентов, дообученная на базе Qwen3-30B-A3B-Instruct-2507 на наборе LiteCoder-Terminal-SFT. Она предназначена для решения задач через терминал в агентных сценариях и показала результаты на бенчмарках Terminal Bench при работе с агентом Terminus 2. Модель использует архитектуру Qwen3 MoE с генерацией текста; метаданные указывают 2,6 млрд параметров и контекст до 262 144 токенов. README сообщает об обучении на 11 255 траекториях и приводит показатели pass@1 и pass@4 для нескольких версий Terminal Bench. Поддерживается диалоговый режим. Лицензия — MIT.

Carsen Klock создал эту модель как дообученную версию Meta Llama 3.2 1B. Это плотная авторегрессионная языковая модель на 1,2 млрд параметров для генерации текста и диалогов; в метаданных указан контекст до 131 072 токенов. Модель дообучена на объединённых наборах инструкций, математических задач и примеров работы с кодом, а также настроена на ответы без фильтрации тем. Модель подходит для решения математических задач, генерации и анализа кода, выполнения инструкций и диалогового общения. Доступны веса в safetensors, а в README также перечислены объединённая 16-битная версия и варианты GGUF. Заявленный основной язык — английский. Используется лицензия Llama 3.2; её условия следует учитывать при распространении и применении модели.

Это GGUF-квантизированная версия языковой модели AceReason-Nemotron-7B, разработанной NVIDIA и подготовленной квантизатором bartowski на базе llama.cpp. Модель предназначена для генерации текста с акцентом на рассуждения, математические задачи и программирование; заявленный язык — английский. Формат GGUF позволяет запускать её локально через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к классу примерно 7-миллиардных текстовых моделей, однако точные сведения об архитектуре, размере контекста и поддерживаемых модальностях в README не указаны. Доступны варианты от BF16 до различных уровней квантования, включая рекомендуемые Q4_K_M, Q5 и Q6, что позволяет выбирать между качеством и требованиями к памяти. Более сильные варианты сохраняют качество ближе к исходной модели, а компактные подходят для систем с ограниченными ресурсами, но могут заметнее терять в качестве. Использование регулируется NVIDIA Open Model License; для конкретных условий следует ознакомиться с текстом лицензии NVIDIA.

PeppX/Ornith-1.0-9B-Uncensored-GGUF — GGUF-квантизированная версия модели PeppX/Ornith-1.0-9B-Uncensored, разработанная PeppX. Это текстовая генеративная модель для локального запуска, ориентированная на программирование, рассуждения, агентские сценарии, генерацию текста, кибербезопасность и red-team-задачи. Модель позиционируется как uncensored и abliterated: из базовой модели удалено направление, связанное с отказами, без дополнительного обучения и тонкой настройки. Модель имеет плотную архитектуру Qwen 3.5 с 32 слоями и примерно 9 млрд параметров, поддерживает контекст до 262 144 токенов и английский язык. Доступны варианты квантования Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 5,6 до 9,5 ГБ; они рассчитаны на локальный запуск с помощью llama.cpp, LM Studio или Ollama. Заявлены сохранение исходных возможностей в кодировании, математике, рассуждениях и следовании инструкциям, а также низкое расхождение с базовой моделью по KL-дивергенции 0,0827, однако приведённые показатели зависят от методики оценки. Ключевая особенность модели — заявленный авторами нулевой уровень отказов, что может быть полезно для исследовательских, тестовых и red-team-сценариев, но одновременно повышает риск генерации небезопасного или вредоносного контента. Ограничения включают зависимость качества и скорости от выбранной квантизации и оборудования, а также отсутствие в README подробных данных о мультимодальности, обучающем наборе и результатах независимых бенчмарков. Модель распространяется по лицензии MIT.

Mungert/phi-4-GGUF — это набор GGUF-файлов с моделями Phi-4, предназначенными для локального запуска и инференса в формате GGUF. Репозиторий содержит варианты весов в BF16 и F16, а также квантованные версии Q8_0, Q6_K, Q4_K, Q4_0 и IQ3. Модель относится к классу текстовых генеративных моделей и ориентирована на диалоги, ответы на вопросы, работу с математическими задачами, программным кодом и другими текстовыми запросами. В метаданных указан английский язык и задача text-generation; поддержка других языков не заявлена. Главное преимущество набора — выбор между точностью и требованиями к памяти. Полноформатные BF16 и F16 подходят для оборудования с соответствующим ускорением, а квантованные варианты позволяют запускать модель на CPU и устройствах с ограниченной оперативной памятью или VRAM. Более агрессивное квантование уменьшает размер и потребление памяти, но может снижать точность. Сведения об архитектуре, количестве параметров, размере контекста, мультимодальности и результатах тестирования в README не приведены. Лицензия — MIT. README указывает связь с моделью Microsoft Phi-4 через ссылку на её лицензию; Mungert предоставляет варианты Phi-4 в формате GGUF. Для использования необходимо выбрать файл, совместимый с возможностями оборудования и требуемым уровнем качества.

kepom/Qwen2.5-Coder-1.5B-Instruct-abliterated — версия Qwen2.5-Coder-1.5B-Instruct, обработанная методом abliteration для снижения отказов на запросы. Модель основана на Qwen2.5-Coder-1.5B-Instruct и предназначена для генерации кода и диалогового взаимодействия. Она имеет плотную архитектуру Qwen2ForCausalLM, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов; для работы с ней можно использовать Transformers. В README приведены результаты повторной оценки на IF_Eval, MMLU Pro и TruthfulQA: показатели отличаются от исходной модели и меняются в зависимости от теста. Репозиторий распространяется по лицензии Apache-2.0. Снижение отказов может ослаблять защитное поведение модели; результаты тестов не гарантируют качество для конкретных задач.

Qwen2.5-Coder-1.5B-Instruct-GGUF — квантованные модели семейства Qwen2.5-Coder-1.5B-Instruct, разработанного Qwen и подготовленного в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и работы с программным кодом в диалоговом режиме, включая задачи программирования и использования в чат-приложениях. Указан английский язык, применяется шаблон запросов ChatML. Модель имеет размер 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Доступны варианты квантования от 2 до 8 бит, f16, с размером файлов примерно от 676 МБ до 3,09 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень небольшой потерей качества. Более агрессивное квантование уменьшает требования к памяти, но может заметно снижать качество ответов. Модель рассчитана на локальный запуск через LlamaEdge и совместима с llama.cpp. README не содержит подробностей об архитектуре, полном наборе поддерживаемых языков, результатах оценки или специфических ограничениях качества. Распространяется по лицензии Apache 2.0.

Qwen3.5-9B-Theseus-i1-GGUF — квантизированная версия модели Qwen3.5-9B-Theseus, подготовленная mradermacher на основе модели nightmedia. Распространяется в формате GGUF и предназначена для локального запуска и инференса в совместимых инструментах. В репозитории представлены imatrix-квантизации различных типов и размеров, включая варианты от i1-Q2_K до i1-Q6_K, что позволяет выбирать баланс между требованиями к памяти, скоростью и качеством. Модель ориентирована на генерацию текста, диалоги, программирование, математические и STEM-задачи, рассуждения, творческое письмо, создание историй и ролевые сценарии. Заявлена поддержка английского, китайского, японского и испанского языков. README указывает на мультимодальность и наличие vision-возможностей, однако конкретные характеристики обработки изображений не раскрыты. Также упоминается контекст до 256k или 1M токенов, но точное поддерживаемое значение для этой сборки не указано. К сильным сторонам относятся широкий выбор квантизаций, включая варианты с imatrix, возможность подбора компактной конфигурации и заявленная универсальность задач. Ограничения включают экспериментальный характер исходной модели, возможное снижение качества на низких уровнях квантизации и отсутствие подробных результатов оценки. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная fine-tune и merge-сборка модели Qwen3.8 с 27 млрд параметров, опубликованная trinityomni на основе версии DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В разработке использовались методы Cold Fusion и Fable Fusion, а также инструменты Unsloth. Репозиторий содержит обычные и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит, ориентированные на запуск на потребительском оборудовании. Модель предназначена для общих задач, рассуждений, программирования, creative writing, художественной прозы, ролевых сценариев и работы с различными жанрами текста. В карточке указаны английский и китайский языки; также заявлен pipeline image-text-to-text, однако подробности о поддерживаемых визуальных входах и мультимодальной архитектуре не приведены. Размер контекста не указан. Основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении детализации ответа, включая поддержку трёх режимов мышления и MTP. По утверждению авторов карточки, модель превосходит базовую Qwen3.8-27B и ряд других моделей в семи ключевых бенчмарках, а результаты ARC-C и ARC-E составляют соответственно до 735 и 880 для 8-битной версии; эти показатели являются заявленными разработчиками и не сопровождаются независимой верификацией в README. Сильными сторонами считаются скорость, сниженное избыточное рассуждение, навыки программирования и генерации творческого текста. Ограничения включают отсутствие данных о контекстном окне, системных требованиях, точных характеристиках мультимодальности и независимых тестах; из-за uncensored и abliterated-настройки модель может чаще выдавать небезопасный или нежелательный контент. Указанная лицензия — Apache-2.0.

Карточка модели willhx/Qwen3-8B-Base-TauSFT на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

RoguePlanet-DeepSeek-R1-Qwen-32B — объединённая плотная языковая модель на архитектуре Qwen2, созданная автором nitky методом Model Stock с помощью mergekit. В состав вошли модели японского языка, модели для рассуждений, программирования и инструкционного диалога; размер модели — 32 млрд параметров, контекст — 131 072 токена. Модель принимает текст и генерирует текст в формате диалога. Модель предназначена для генерации ответов с длинными рассуждениями, включая задачи на японском языке. В приведённом автором тесте рассуждений она прошла уровни LV1 и LV2, но не прошла LV3; базовая модель cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japanese не прошла ни один из этих уровней. Для использования рекомендован шаблон {SYSTEM_PROMPT}{USER_MESSAGE}. Модель распространяется по лицензии Apache-2.0. Результаты тестирования ограничены одним набором проверок и указанными параметрами генерации; они не гарантируют качество на других задачах.

huihui-ai выпустила uncensored-версию DeepSeek-R1-Distill-Qwen-14B, созданную методом abliteration для удаления отказов модели. Это экспериментальная версия с грубой реализацией концепции; архитектура — плотная Qwen2ForCausalLM на 14 млрд параметров, формат весов — safetensors. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения, математики и программирования; поддерживает контекст до 131072 токенов. Модель основана на deepseek-ai/DeepSeek-R1-Distill-Qwen-14B. Автор указывает, что доступна более новая версия v2. Условия лицензии в предоставленных данных не указаны.