II.3Рефакторинг, миграция и модернизация

Qwen3.8-27B-ASCII-Condensed — текстовая GGUF-модель, созданная bsaleh03 на основе Qwen/Qwen3.8-27B и квантованной сборки unsloth/Qwen3.8-27B-GGUF. Это не дообучение, дистилляция или повторное квантование: из квантованной модели удалены строки словаря для не-ASCII-токенов, а токенизатор адаптирован к сокращённому словарю. Модель предназначена для генерации текста и работы с длинным контекстом через llama.cpp, прежде всего на одной видеокарте с 16 ГБ памяти. Словарь уменьшен с 248 320 до 129 006 строк, при этом остальные 864 из 866 тензоров побитово идентичны базовой квантованной модели. На RTX 5070 Ti с 16 ГБ заявлена поддержка до 135 168 токенов контекста при использовании q4_0 для KV-кэша; максимальная длина зависит от типов KV-кэша и доступной видеопамяти. Модель сохраняет MTP-голову для спекулятивного декодирования, а на ASCII-тексте токенизация совпадает с базовой моделью. Основное преимущество — экономия видеопамяти и увеличение доступного контекста без изменения большинства весов. Ограничение — ASCII-ориентированный словарь: английский язык, код и ASCII-пунктуация обрабатываются без дополнительных затрат, но символы с диакритикой, кириллица, CJK и другие не-ASCII-тексты требуют больше токенов; для работы преимущественно на неанглийских языках сборка не рекомендуется. Модель поддерживает только текстовый режим, файл mmproj отсутствует, а смешанные типы KV-кэша требуют пропатченной версии llama.cpp. Распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Qwen3Loop-0.6B-SFT-Deep-Supervision — языковая модель для диалоговой генерации текста, разработанная Lordnyx на базе архитектуры Qwen3Loop. В ней 507,9 млн физических параметров и рекуррентная схема повторного вычисления среднего блока слоёв; автор описывает её как модель с логической глубиной 56 слоёв. В карточке заявлены контекст до 40 960 токенов и обучение на 6 324 отобранных примерах с многоэтапными агентными и пошаговыми рассуждениями, включая задачи программирования. Модель предназначена для чата, рассуждений и генерации ответов на математические и программные запросы. В репозитории доступны веса Safetensors и варианты GGUF в форматах F16 и Q8_0; также приложен лёгкий зонд для выбора глубины вычислений. README приводит метрики и отдельные результаты тестов автора, которые не следует считать независимой оценкой качества. Модель распространяется по лицензии Apache-2.0. Ограничения: заявленные результаты основаны на ограниченном наборе обучения и тестировании автора; надёжность ответов и преимущество рекуррентной архитектуры могут зависеть от задачи и используемого движка.

Qwen3-Swallow-8B-SFT-v0.2 — диалоговая языковая модель на архитектуре Qwen3, разработанная проектом Swallow LLM Токийского технологического института. Это версия размером 7,6 млрд параметров, полученная supervised fine-tuning модели tokyotech-llm/Qwen3-Swallow-8B-CPT-v0.2. Она предназначена для генерации ответов и диалогов на японском и английском языках, а также для задач перевода, математики и программирования с рассуждениями. Модель принимает текст и генерирует текст, поддерживает контекст до 40 960 токенов по метаданным; разработчики рекомендуют ограничивать длину контекста 32 768 токенами. Для запуска рекомендуют vLLM. Инструментальное использование явно не обучалось, а переключатель режима рассуждений не поддерживается. Разработчики отмечают, что модель находится на ранней стадии разработки и не настроена для надёжного следования человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

RaceBench-MiniCPM5-heretic — языковая модель, разработанная RACER IS OP на основе saidutta69/RaceBench-MiniCPM5 и MiniCPM5-1B. Это decensored-вариант, созданный с помощью Heretic 1.4.0 методом directional ablation (abliteration): целевые изменения весов подавляют поведение, связанное с отказами, без дополнительного дообучения. Модель предназначена для генерации текста и диалогов на английском и китайском языках. Модель ориентирована на многошаговое рассуждение, код, агентское использование инструментов, ролевые сценарии и локальные приложения. Заявлены режимы Think и No-Think, контекст до 128K токенов, поддержка llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang, а также GGUF-квантизации для запуска на потребительских GPU, CPU и устройствах edge-класса. Размер исходной модели составляет около 1,1 млрд параметров; доступны варианты от Q2_K до Q8_0 и F16. К сильным сторонам относятся компактность, длинный контекст, низкие требования к памяти, поддержка локального запуска и снижение частоты отказов с 39 до 2 на 100 проверочных adversarial-запросов по данным карточки. При этом отсутствие защитных ограничений является существенным риском для безопасного применения, а изменения весов могут влиять на поведение и качество модели. Также заявлен компромисс между улучшением результатов на BBH и ухудшением показателей на математических задачах; подробные результаты в этой карточке не приведены. Модель распространяется по лицензии Apache 2.0.

RWKV/RWKV7-7.2B-20260805 — официальная базовая языковая модель BlinkDL из семейства RWKV-7 «Goose», выпущенная в формате Transformers. Это плотная причинная языковая модель класса Rwkv7ForCausalLM с 7,8 млрд параметров; веса представлены в safetensors. Архитектура работает без attention: она поддерживает рекуррентное состояние постоянного размера и постоянные вычисления на генерируемый токен, при этом обучение можно распараллеливать. Модель предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и материалах для рассуждений. Она предназначена для генерации текста, оценки, последующего обучения и тонкой настройки. Шаблон чата задаёт формат диалога, но сам по себе не означает, что модель прошла выравнивание безопасности. Карточка содержит языковые теги для английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского. Рекуррентное состояние постоянного размера позволяет не наращивать KV-кэш по мере генерации; доступны интеграция с Transformers, продолжение генерации с рекуррентным кэшем и рабочие процессы LoRA. Для нативной регистрации класса RWKV-7 требуется Transformers 5.15 или актуальная версия из исходного кода. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения снимков состояния; производительность TileLang зависит от оборудования и конфигурации. Заявлений об оценке безопасности, фактической точности или пригодности для критически важных решений нет. Лицензия — Apache-2.0.

Devlin Alpha 22B A3B — экспериментальная текстовая языковая модель от Devlin-AI, основанная на Qwen3.6-35B-A3B и распространяемая в формате GGUF. Модель ориентирована на агентские сценарии и задачи, требующие рассуждений; в метаданных также указаны MoE-архитектура и pruning экспертов. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты, включая Ollama, LM Studio, KoboldCpp и text-generation-webui с бэкендом llama.cpp. Указан размер 22B с конфигурацией A3B, поддерживаются режимы с рассуждениями и без них. Это текстовая модель без MTP-головы; для корректного применения шаблона чата Qwen3.6 при использовании llama.cpp требуется включать параметр jinja. В примере запуска указан контекст до 262144 токенов. К сильным сторонам относятся специализация на агентских задачах, поддержка локального инференса и возможность использования в режимах с рассуждениями. При этом модель является версией для разработки и тестирования, не рекомендуется для production, а результаты бенчмарков в README отсутствуют. Языки, точные характеристики модальностей помимо текстовой генерации и дополнительные ограничения производительности не указаны. Модель распространяется по лицензии Apache 2.0 как производная работа Qwen3.6-35B-A3B.

Elio2151/Gemma-2-9B-Instruct-TechnicalAgentFineTuned-Merged_5 — дообученная чат-модель Elio2151 на архитектуре Gemma 2. В качестве основы использована unsloth/gemma-2-9b-it-bnb-4bit; модель обучали с использованием Unsloth и библиотеки TRL от Hugging Face. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на вопросы, составления текстов и помощи в технических задачах. Она содержит около 9 млрд параметров, принимает текст и генерирует текст, поддерживает английский язык и имеет контекстное окно 8192 токена. В репозитории указаны веса safetensors. Модель распространяется по лицензии Apache 2.0. README не описывает конкретный набор обучающих данных, результаты оценки качества или специальные ограничения применения.

GLM-5.3-DERISKED-Int4-Int8Mix — языковая модель для генерации текста, разработанная Blackfrost на основе полной GLM-5.3 от Z.AI и квантизированной версии Tech2wild. Модель предназначена для исследовательского и локального использования, включая запуск и обслуживание через vLLM на совместимой многографической инфраструктуре. Она поддерживает английский и китайский языки и относится к классу causal language models. Архитектура модели — GlmMoeDsaForCausalLM с mixture-of-experts: около 743 млрд параметров всего, примерно 40 млрд активных на токен, 78 основных слоёв и дополнительный MTP-слой. Используются 256 маршрутизируемых экспертов с выбором top-8 на токен и один общий эксперт, скрытый размер составляет 6144. Веса представлены в формате compressed-tensors pack-quantized: маршрутизируемые эксперты квантизированы в Int4, плотные и attention-слои — в Int8, с group size 128. Контекст может достигать 131 072 токенов согласно настройкам запуска. Сильной стороной модели является сочетание полной MoE-архитектуры GLM-5.3 с компактным смешанным квантизированным представлением, рассчитанным на работу в ограниченной по памяти инфраструктуре. Blackfrost применил к весам собственную модификацию DWM, изменяющую профиль отказов модели. Чекпойнт не проходил оценочную серию тестов на отказы, поэтому показатели безопасности от других вариантов GLM-5.3 к нему неприменимы. Выводы могут быть неточными, оскорбительными или небезопасными; модель не является механизмом обеспечения безопасности и требует внешних ограничений. Модель публична и не требует специального доступа. Для запуска заявлен путь vLLM с compressed-tensors и tensor parallelism; это не GGUF-модель. Лицензия наследуется от GLM-5.3 и указана как glm-5.3; необходимо сохранять исходные уведомления об авторских правах и условиях лицензии.

Hy3-heretic — разговорная модель генерации текста на архитектуре HY-V3 с mixture-of-experts, представленная пользователем trohrbaugh. По метаданным, модель содержит 16,6 млрд параметров и поддерживает контекст до 262 144 токенов; формат весов — safetensors, лицензия — Apache-2.0. Она предназначена для диалогов и генерации ответов с ослабленным отказом: в README приведено сравнение, где вариант Hy3-heretic отказал в 1 из 100 запросов против 99 из 100 у исходной модели. Модель можно применять для общения, ответов на запросы и других сценариев генерации текста. Карточка описывает метод abliteration и сообщает о KL divergence 0,2398 относительно исходной модели. README также содержит общие сведения о Hy3 от команды Tencent Hy, включая заявленные возможности для рассуждений, работы с длинным контекстом, программирования и агентных сценариев; эти характеристики относятся к семейству Hy3 и не подтверждены отдельно для данного варианта. В карточке указана лицензия Apache-2.0.

L3.3-70B-Euryale-v2.3-GGUF — это квантизированная версия языковой модели L3.3-70B-Euryale-v2.3, разработанной Sao10K и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp или совместимые приложения, включая LM Studio. Доступно множество вариантов квантизации с разным балансом между качеством и размером — от Q8_0 размером около 75 ГБ до более компактных вариантов Q2 и IQ3. Модель относится к классу text-generation и содержит 70B параметров согласно идентификатору базовой модели. Квантизация выполнена с использованием imatrix и специального набора данных; для некоторых вариантов предусмотрена оптимизация под ARM, AVX или определённые аппаратные возможности. В README не указаны точная архитектура, максимальная длина контекста, поддерживаемые языки, мультимодальность и результаты бенчмарков. Сильной стороной модели является широкий выбор квантизаций: Q6_K и Q5 считаются высококачественными, а Q4-варианты предлагают более доступный размер для большинства сценариев локального запуска. Ограничениями являются значительные требования к памяти даже у компактных вариантов, а также возможное снижение качества при агрессивной квантизации. Для отдельных ARM-оптимизированных файлов требуются конкретные аппаратные инструкции; некоторые варианты не рекомендуется использовать на Mac. Указанная лицензия — Llama 3.

MegaBeam-Mistral-7B-512k-GGUF — набор GGUF-квантизаций модели MegaBeam-Mistral-7B-512k, разработанной aws-prototyping и подготовленной для llama.cpp пользователем bartowski. Модель предназначена для генерации текста и локального запуска, в частности через llama.cpp и LM Studio. Она относится к семейству Mistral и имеет размер 7B параметров; поддерживает контекст до 512 тысяч токенов. Данные о языках и мультимодальности не указаны, поэтому модель следует рассматривать как текстовую. Доступны варианты от F16 до низкобитных Q2 и IQ-квантизаций, размером примерно от 2,50 до 14,48 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а низкие снижают требования к памяти ценой качества; в README рекомендуются, среди прочих, варианты Q4_K_M, Q5 и Q6. Квантизации созданы с использованием imatrix и llama.cpp b3600. Модель не поддерживает системный промпт и требует формата приглашения «<s> [INST] {prompt} [/INST]». В обновлённой версии заявлены улучшения пользовательского опыта и исправление проблем с повторениями. Распространяется по лицензии Apache-2.0. README не содержит результатов бенчмарков или подробного описания качества, поэтому фактические возможности модели в конкретных задачах требуют самостоятельной проверки.

Mistral-Nemo-Instruct-2407-imatrix-GGUF — набор GGUF-квантизаций инструкционной языковой модели Mistral Nemo, опубликованный пользователем duyntnet на Hugging Face. Квантизации основаны на исходной модели mistralai/Mistral-Nemo-Instruct-2407 и предназначены для локального запуска и генерации текста. Модель относится к задачам text-generation и поддерживает диалоговое взаимодействие, следование инструкциям и function calling. Для работы указаны llama.cpp, JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All; исходная модель также может использоваться через mistral_inference, Transformers и NVIDIA NeMo. В README явно указан английский язык, однако дополнительные языковые возможности не описаны. Архитектура, точный размер, длина контекста, перечень модальностей и параметры квантизаций не приведены. Ключевое преимущество этого репозитория — возможность запускать квантизированные варианты модели в совместимых локальных инструментах, потенциально снижая требования к ресурсам по сравнению с полноразмерной версией. Ограничения связаны с отсутствием подробностей о конкретных уровнях квантизации и их качестве, а также с тем, что README не содержит результатов тестирования или оценки производительности. Лицензия указана как other; её конкретные условия в предоставленных данных не раскрыты.

bartowski/Mistral-NeMo-Minitron-8B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Mistral-NeMo-Minitron-8B-Instruct, разработанной NVIDIA и преобразованной в GGUF с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через LM Studio и другие совместимые среды локального вывода. Для взаимодействия используется специальный шаблон с ролями System, User и Assistant. Доступны варианты от полноразмерных весов F16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 4,2 до 16,8 ГБ, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Квантизации выполнены с использованием imatrix; версии Q6 и Q5 заявлены как близкие к исходному качеству, а Q4 — как хороший компромисс для ограниченных ресурсов. Отдельные варианты оптимизированы для ARM и требуют соответствующих аппаратных возможностей. README не указывает поддерживаемые языки, размер контекстного окна, точные архитектурные характеристики исходной модели или результаты бенчмарков. Для ARM-оптимизированных вариантов имеются ограничения совместимости: их не рекомендуется использовать на Mac и Windows. Условия лицензирования в предоставленных данных не указаны.

Phi-4-MedIT-10B-o1 — языковая модель для генерации текста и решения задач, требующих рассуждений. По карточке, модель создана на основе Phi-4: её сократили с 14 млрд до примерно 10 млрд параметров методом прореживания MKA2G и дообучили за одну эпоху на данных для рассуждений. В метаданных указаны плотная архитектура семейства Llama, реализация LlamaForCausalLM и контекст до 16 384 токенов. Модель предназначена для диалогового применения, задач на рассуждения и интеграции с ReasonFlow. Основной язык обучения — английский; карточка предупреждает о снижении качества на других языках. Репозиторий содержит веса в форматах Safetensors и GGUF, а лицензия — MIT. Ответы могут быть неточными или выдуманными, а также содержать предвзятость или нежелательный контент; для чувствительных сценариев нужна дополнительная проверка.

SirSahOl преобразовал Phi-4-mini-instruct от Microsoft в формат MLX с 16-битными весами для запуска на компьютерах Apple Silicon. Это плотная авторегрессионная языковая модель семейства Phi-4 с 3,8 млрд параметров, рассчитанная на диалоговую генерацию текста. Модель подходит для ответов на вопросы, написания и редактирования текстов, генерации кода и рассуждений в приложениях с ограниченными ресурсами. Репозиторий содержит веса в формате safetensors и использует библиотеку MLX. В метаданных указан контекст 4096 токенов; автор README предупреждает о возможном ухудшении качества при очень длинном контексте и указывает, что для запуска с MLX требуется Apple Silicon M1 или новее. Бенчмарки для этой версии пока не приведены. Лицензия — MIT.

Phi-4 o1 — дообученная модель prithivMLmods на базе Microsoft Phi-4, предназначенная для генерации текста и решения задач, требующих рассуждений. По описанию автора, при дообучении использовались синтетические данные с примерами пошагового решения; модель ориентирована на математику, логику, научные вопросы и разбор сложных задач. В метаданных указаны 14,1 млрд параметров, плотная архитектура LlamaForCausalLM, контекст до 16 384 токенов и формат safetensors. Модель поддерживает диалог и задачи программирования; README также заявляет многоязычные сценарии, но метаданные подтверждают только английский язык. Модель подходит для образовательных объяснений, ответов на вопросы, создания текстов и вспомогательной работы с кодом. Возможны ошибки в неоднозначных задачах, предвзятость и устаревшие сведения; для чувствительных решений необходима проверка человеком. Для запуска требуются значительные вычислительные ресурсы. Лицензия — MIT.

Qwen2.5-14B_Uncensored_Instruct-GGUF — это набор квантизированных GGUF-версий инструкционной текстовой модели Qwen2.5-14B_Uncensored_Instruct, разработанной SicariusSicariiStuff и преобразованной в квантизации пользователем bartowski с помощью llama.cpp и imatrix. Модель предназначена для генерации текста и диалогового взаимодействия, а также для локального запуска через совместимые инструменты, включая LM Studio. В README указан английский язык модели и формат чата с ролями system, user и assistant. Модель имеет 14 миллиардов параметров. Доступны версии от F16 до Q3 и IQ3 с разными компромиссами между качеством, размером файлов и требованиями к оперативной памяти; размеры указанных вариантов составляют примерно от 6,92 до 29,55 ГБ. Некоторые версии оптимизированы для ARM-инференса и требуют поддержки sve или i8mm. Более высокие разрядности обычно обеспечивают лучшее сохранение качества, тогда как варианты с меньшим размером подходят для систем с ограниченной памятью. Это текстовая модель без заявленной поддержки изображений или других модальностей. Контекстное окно, точная архитектура, производительность и дополнительные языки в README не указаны, поэтому их нельзя достоверно оценить. Условия использования указаны как лицензия Apache-2.0.

Qwen2.5-7B-Instruct-Q4_K_M-GGUF — это квантизированная версия инструкционной языковой модели Qwen2.5-7B-Instruct, преобразованная пользователем paultimothymooney в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp в командной строке или в режиме сервера. Модель имеет размер 7B параметров и использует квантизацию Q4_K_M, что рассчитано на более экономичное использование памяти по сравнению с полноразмерной версией. Указана поддержка английского языка и текстовая модальность. В примере запуска серверу передаётся контекст размером 2048 токенов, однако максимальный размер контекста в карточке отдельно не указан. К сильным сторонам относятся совместимость с экосистемой llama.cpp, возможность локального развёртывания и сниженные требования к ресурсам благодаря квантизации. Ограничения связаны с тем, что карточка не содержит подробных сведений о качестве, бенчмарках, аппаратных требованиях и полном наборе поддерживаемых языков. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Akka — мультимодальная модель на архитектуре Qwen3.5, опубликованная независимой лабораторией Nightmedia. Это слияние NuSLERP нескольких моделей семейства Qwen3.6 и Qwen3.5, ориентированное на диалог, следование инструкциям, рассуждения и творческую генерацию, включая художественные тексты. Модель также принимает изображения и может отвечать по их содержимому. В карточке описан переключатель режима рассуждений в шаблоне чата. Для модели указана лицензия Apache-2.0; веса размещены в формате safetensors. Опубликованные замеры скорости и памяти относятся к вариантам mxfp8 и mxfp4, однако репозиторий помечен форматом safetensors, поэтому эти показатели не следует считать характеристиками доступных здесь файлов. Контекстное окно и число параметров в предоставленных данных не указаны. Модель имеет экспериментальные признаки и может выдавать нежелательные результаты; качество для конкретных задач следует проверять самостоятельно.

Bolsjay24/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая языковая модель на базе Qwen3.6-27B, разработанная в сотрудничестве автора модели, Nightmedia, TeichAI, armand0e и trohrbaugh; сборка и тонкая настройка выполнялись с использованием Unsloth. Модель создана как многоэтапная fine-tune и merge-модель с применением наборов DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также Fable-, Claude Opus-, GPT5- и других обучающих материалов. Заявлены версии в форматах GGUF с обычным и MTP-квантованием, включая 4- и 8-битные варианты, а также NEO IMATRIX-кванты с частично сохранённой точностью выходного тензора. Модель предназначена для широкого спектра задач: следования инструкциям, решения проблем, рассуждений, программирования, творческого письма, ролевых сценариев и работы с изображениями. Среди заявленных характеристик — улучшенные instruction following, общее понимание и reasoning, поддержка vision, а также языки English и Chinese. В README утверждается, что модель превосходит базовую Qwen3.6-27B в шести из семи тестов и сопоставима с ней в седьмом, однако конкретные значения тестов и независимая методика подтверждения не приведены. Сильными сторонами заявлены высокая производительность на потребительском оборудовании, сохранение возможностей исходной модели, развитое рассуждение и хорошее качество даже у низкоразрядных квантов. Ограничения включают отсутствие подробных сведений о размере контекста, точной архитектуре, системных требованиях и фактических результатах бенчмарков; заявления о «нецензурируемом» поведении также указывают на возможное отсутствие стандартных ограничений безопасности. Лицензия — Apache-2.0.

Moemajor3/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — это модель на базе Qwen3.6-27B, разработанная в рамках совместной работы авторов DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh. Она представляет собой многоэтапную fine-tune и merge-модель, подготовленную для запуска на потребительском оборудовании в форматах GGUF, включая обычные и MTP-варианты. В обучении и слиянии использовались датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также дополнительные наборы и трассы, упомянутые в README. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, сторителлинга и ролевых сценариев. Заявлена поддержка английского и китайского языков. В карточке также указана мультимодальная специализация image-text-to-text и наличие vision, однако подробности о поддерживаемых форматах изображений и контекстном окне не приведены. Архитектурные характеристики ограничиваются размером базовой модели — 27B параметров. К заявленным сильным сторонам относятся улучшенное следование инструкциям, рассуждение и общее решение задач, а также высокая эффективность квантованных версий. По утверждению авторов, модель превосходит базовую Qwen3.6-27B в шести из семи внутренних бенчмарков и сопоставима с ней в седьмом; эти результаты не подтверждены независимыми данными в README. Модель позиционируется как uncensored и heretic, поэтому её ответы могут требовать дополнительной фильтрации и проверки. Для MTP-квантов рекомендуется температура не выше 1 и repetition penalty, равный 1; при низком уровне token acceptance следует использовать обычные кванты. Лицензия — Apache-2.0.

Карточка модели ansulev/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой denyzhirkov/Qwen3.8-27B-AEON-ULTIMATE-U-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-U-BF16 — экспериментальная ранняя версия модели Qwen3.8-27B, подготовленная denyzhirkov. Это дообученная и аблитерированная BF16-версия с уменьшенным числом отказов; базовая модель — Qwen/Qwen3.8-27B. Плотная мультимодальная архитектура поддерживает диалог, следование инструкциям, вызов инструментов и работу с изображениями. В README описана проверка на NVIDIA H200 через vLLM; при тестировании использовалось окно 16 384 токена, а автор указывает, что базовая модель поддерживает контекст до 262 000 токенов. Модель рассчитана на прямые ответы, творческое письмо, исследования безопасности, red-team-тестирование и работу с запросами, которые базовая модель могла бы отклонить. Снятие части отказов может сделать ответы более доступными, но не гарантирует точности или безопасности. README предупреждает о повторениях и потере связности на очень длинных запросах; модель может выдавать опасный или незаконный контент. Лицензия — Apache-2.0.

jungler9/vuse — текстовая разговорная модель для генерации ответов и рассуждений. В README она представлена как Ling-3.0-tiny, компактная гибридная MoE-модель для локального запуска и ресурсоограниченных сред. Однако карточка противоречит метаданным: README заявляет 7,9 млрд параметров, из которых активны 1,3 млрд на токен, а метаданные указывают 977,5 млн параметров и архитектуру Bailing MoE V3. Поэтому эти характеристики нельзя однозначно отнести к опубликованному репозиторию. README описывает чередование слоёв KDA и MLA и разреженную MoE-сеть с 128 экспертами, а также режимы быстрого ответа и пошагового рассуждения. Среди целевых сценариев названы агентные задачи, программирование, математика, научные рассуждения и следование инструкциям. Метаданные указывают контекст 131 072 токена, формат safetensors и возможность чата; заявленная в README поддержка FP8 и INT4 расходится с форматом репозитория. Модель опубликована под лицензией MIT. Из-за несоответствия README и метаданных размер, архитектуру и форматы весов следует считать неподтверждёнными; README также не перечисляет языки модели.

DevQuasar/deepseek-ai.DeepSeek-V3.2-GGUF — это квантизированная версия модели DeepSeek-V3.2, разработанной командой deepseek-ai и опубликованной в формате GGUF сообществом DevQuasar. Модель предназначена для генерации текста и совместима со сценариями, поддерживающими этот формат. Ключевые характеристики архитектуры, размер, набор поддерживаемых языков, длина контекста и конкретные варианты квантизации в предоставленном README не указаны. Поэтому нельзя достоверно оценить её производительность, требования к ресурсам, сильные стороны и ограничения по сравнению с исходной моделью. Условия лицензирования также не приведены; перед использованием необходимо проверить лицензию базовой модели DeepSeek-V3.2 и условия распространения данной квантизированной версии.

DeepSeek-V4-Flash-4bit — модель для генерации текста в формате MLX, опубликованная сообществом mlx-community при поддержке Lambda.ai. Она предназначена для использования с библиотекой mlx-lm и поддерживает сценарии диалоговой генерации через chat template, если такой шаблон доступен в токенизаторе. Из доступных данных известно, что модель представлена в 4-битном варианте, что указывает на применение 4-битного квантования. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, размере контекста, дополнительных модальностях, сильных сторонах, ограничениях или лицензии. Для работы требуется библиотека mlx-lm; конкретные требования к оборудованию в карточке не указаны.

Gemma-2-9B-It-SPPO-Iter3-GGUF — квантизированная версия языковой модели Gemma-2-9B-It-SPPO-Iter3, опубликованная UCLA-AGI и подготовленная в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, включая диалоговые и другие сценарии применения текстовых LLM. Обучение или дообучение связано с датасетом openbmb/UltraFeedback. Модель содержит около 9 миллиардов параметров и поддерживает английский язык. Доступны варианты от F32 до низкобитных квантований Q2 и IQ2, размером примерно от 3,43 до 36,97 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp b3389; варианты Q6 и Q5 позиционируются как обеспечивающие очень высокое качество, а Q4 — как компромисс между качеством и требованиями к памяти. README не указывает размер контекста и модальности, поэтому эти характеристики неизвестны. Для работы требуется соблюдать формат prompt, основанный на специальной разметке ролей Gemma. Модель не поддерживает system prompt. Качество и требования к памяти зависят от выбранного варианта квантования: более компактные файлы экономят ресурсы, но могут заметно снижать качество. Лицензия указана как gemma; конкретные условия её применения следует уточнять в документации Gemma.

Olafangensan/GLM-4.7-Flash-heretic — разговорная текстовая модель семейства GLM-4.7-Flash, созданная удалением части отказов методом ablation (abliteration). В README приведено сравнение с исходной моделью zai-org/GLM-4.7-Flash: частота отказов в указанной оценке снизилась с 50 до 15 из 100, а KL-дивергенция составила 0,0039. Метаданные указывают архитектуру GLM-4 MoE Lite, 4,1 млрд параметров и контекст до 202 752 токенов; README описывает исходную GLM-4.7-Flash как модель MoE 30B-A3B. Модель предназначена для генерации текста в диалоге и локального развертывания; среди возможных сценариев — ответы на вопросы, написание текстов и помощь в программировании. Исходная карточка приводит результаты на математических, научных и кодовых бенчмарках, однако они относятся к GLM-4.7-Flash и не подтверждают напрямую качество heretic-версии. В метаданных указаны английский и китайский языки, формат safetensors и библиотека Transformers; README также упоминает запуск через vLLM и SGLang. Лицензия — MIT. Уменьшение числа отказов не означает отсутствия отказов или гарантии безопасности и качества; опубликованные сравнительные замеры ограничены приведённой оценкой и не заменяют независимую проверку модели.

gpt-oss-120b-MLX-8bit — это 8-битная квантованная версия языковой модели gpt-oss-120b, разработанной OpenAI. Квантование выполнено командой LM Studio с использованием MLX — фреймворка Apple Machine Learning Research для работы с моделями на устройствах Apple Silicon. Модель предназначена для генерации текста и локального использования в сценариях, поддерживаемых базовой моделью gpt-oss-120b. Она опубликована в формате, оптимизированном для Apple Silicon, и относится к моделям text-generation. В доступных данных не указаны архитектура, точный размер в параметрах исходной модели, поддерживаемые языки, длина контекста или мультимодальные возможности. Ключевая особенность модели — 8-битное квантование, которое может снизить требования к памяти и повысить удобство локального запуска по сравнению с полноразмерной версией, однако потенциально связано с компромиссом между эффективностью и точностью. Качество и поведение модели наследуют ограничения исходной gpt-oss-120b; README также предупреждает о возможных неточных, вредных или неподходящих результатах. Лицензия модели — Apache 2.0.

AlexWortega/instruct_rugptMedium — русскоязычная модель ruGPTMedium, дообученная в формате инструктивного обучения с примерами zero-shot и few-shot. Она предназначена для генерации текста по запросу, включая ответы на вопросы и помощь с кодом. Модель построена на архитектуре GPT-2, работает с текстом и имеет контекстное окно 2048 токенов. В карточке заявлено, что модель лучше справляется с русским языком, чем XGLM 1.7B и mGPT; независимые оценки этого сравнения не приведены. Репозиторий содержит веса PyTorch и использует библиотеку Transformers. Лицензия — Apache-2.0.

INTELLECT-1-step-28600 — промежуточный чекпойнт языковой модели INTELLECT-1, созданной Prime Intellect совместно с Arcee AI и независимыми участниками сообщества. Это плотная авторегрессионная модель семейства Llama с 9,7 млрд параметров; в карточке указаны 42 слоя и 32 головы внимания. Чекпойнт получен на шаге 28 600 обучения модели с нуля на корпусах английского текста и кода, включая образовательные материалы, веб-текст, код и математические данные. Модель предназначена для генерации текста и кода на английском языке. Контекст составляет 8192 токена. Обучение INTELLECT-1 проводилось распределённо на вычислительных узлах в нескольких регионах с применением отказоустойчивой инфраструктуры; этот репозиторий содержит именно промежуточную точку обучения, а не финальную или instruct-версию. Лицензия — Apache 2.0.