II.4Отладка, тестирование и качество ПО

GLM-5.2-EXL3-TR3-3.0bpw — квантизированная версия модели GLM-5.2, опубликованная brandonmusic на основе zai-org/GLM-5.2 и malaiwah/GLM-5.2-EXL3-TR3-MTP78. Это текстовая генеративная модель с архитектурой mixture-of-experts, предназначенная для генерации текста, включая общие, юридические, программные, агентские и рассуждательные сценарии. Заявлена поддержка английского и китайского языков. Модель использует формат EXL3 Trellis с целевой точностью 3,0 bits per weight для маршрутизируемых MoE-экспертов в слоях 3–77; чувствительные к точности компоненты, включая attention, embeddings, LM head, shared experts и часть MLP, сохранены в BF16 или исходной точности. Сборка rank-sliced TP4 оптимизирована для четырёх GPU NVIDIA Blackwell, занимает около 332,19 GB и включает MTP-слой 78 для speculative decoding. README не указывает размер контекста. Сильными сторонами являются существенное снижение требований к хранению весов при сохранении точности критических компонентов, поддержка MTP speculative decoding, sparse MLA и KV-кэша NVFP4, а также проверенная работа на четырёх RTX PRO 6000 Blackwell 96 GB. Ограничения включают очень высокие аппаратные требования и необходимость специального runtime custom vLLM + Sparkinfer; модель не является готовой для непосредственного использования в Transformers. Для запуска требуется совместимый Docker-образ и NVIDIA-инфраструктура. Распространение указано по лицензии MIT.

Granite Switch 4.1 8B Preview — модульная языковая модель IBM, построенная на IBM Granite 4.1 8B и объединяющая в одном чекпойнте 12 активируемых LoRA-адаптеров из библиотек Granite. Выбор адаптера выполняется управляющими токенами в шаблоне чата; модель содержит 8,6 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации и специализированных этапов RAG: переписывания и уточнения запросов, проверки их разрешимости по найденным фрагментам и подготовки ответов. Адаптеры также умеют проверять выполнение требований, указывать контекстные основания ответа, оценивать неопределённость, выявлять риски безопасности и оценивать или исправлять фактические ошибки. Для работы доступны Transformers и vLLM; README рекомендует использовать модель с Mellea для вызова адаптеров. В карточке описаны возможности семейства адаптеров, но конкретные языки и сравнительные показатели качества этой версии не приводятся. Базовая модель доступна в режиме без адаптера. Лицензия — Apache 2.0.

Llama-3-11.5B — плотная авторегрессионная языковая модель семейства Llama, опубликованная beratcmn. Она собрана методом passthrough с помощью LazyMergekit из двух диапазонов слоёв одной и той же Meta-Llama-3-8B; в метаданных указано около 11 млрд параметров. Модель предназначена для генерации текста, а карточка также указывает обученную на её основе версию beratcmn/Llama-3-11.5B-v0.1. Модель принимает текст и выдаёт текст. Указанная длина контекста — 8192 токена. Базовая Meta-Llama-3-8B описана как модель для английского текста и кода, но отдельные языковые возможности производной модели в карточке не уточняются. Файлы модели представлены в формате safetensors. Для использования применяются условия лицензии базовой Meta-Llama-3-8B; сведения о лицензии в предоставленных данных отсутствуют.

MeaningBERT — модель оценки сохранения смысла между двумя предложениями, представленная автором статьи MeaningBERT: Assessing Meaning Preservation Between Sentences. Она выдаёт оценку смыслового сходства, которую можно использовать как обучаемую метрику при сравнении перефразирований и других пар предложений. В репозитории доступны исходный чекпойнт v1 и рекомендуемый чекпойнт v2 large; карточка указывает архитектуру BERT с 136,7 млн параметров, контекст до 512 токенов и формат safetensors. Для v2 large используется энкодер DeBERTa-v3-large, а результат преобразуется в шкалу от 0 до 100; по данным README, на тесте из 1536 пар он показал корреляцию Пирсона 0,704 ± 0,009. Модель принимает пару текстов и относится к классификации текста, хотя практически её используют как регрессионную метрику сохранения смысла. Она предназначена для оценки результатов перефразирования, упрощения и других преобразований текста. README описывает английские энкодеры bert-base-uncased и deberta-v3-large; основная версия v1 слабее обобщает на некоторые внешние наборы данных, а v2 требует корректного преобразования логита в оценку 0–100. Лицензия в предоставленных данных не указана.

zelk12/MT4-Gen5-IBMUMM-gemma-2-9B — объединённая модель на основе Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT4-Gen5-IB-gemma-2-9B и zelk12/MT4-Gen5-MUMM-gemma-2-9B. Это плотная авторегрессионная языковая модель с 9 млрд параметров для генерации текста и диалогового взаимодействия; она принимает текст и выдаёт текст. Контекст составляет до 8192 токенов, файлы модели представлены в формате safetensors. Модель подходит для диалогов и генерации ответов или другого текста в пределах поддерживаемого контекста. README описывает способ слияния, но не приводит сравнительных оценок качества или подробностей специализации исходных моделей, поэтому конкретные преимущества слияния установить нельзя. В метаданных указана лицензия Gemma; используйте модель в соответствии с условиями лицензии базового семейства Gemma 2.

OLMoE-1B-7B-0125-Instruct — англоязычная диалоговая модель Allen Institute for AI, выпущенная в январе 2025 года. Это модель генерации текста с архитектурой MoE и классом OlmoeForCausalLM; в метаданных указано 472,1 млн параметров и контекст до 4096 токенов. Она принимает диалоговые текстовые запросы и генерирует ответы. Модель дообучена на базе allenai/OLMoE-1B-7B-0125-DPO: обучение включало supervised fine-tuning на варианте набора Tülu 3 для OLMo, DPO и RLVR. Предназначена для чата, ответов на вопросы и решения разнообразных задач, включая математику и следование инструкциям. README приводит результаты на нескольких бенчмарках, но не гарантирует качество для каждого сценария. Модель рассчитана преимущественно на английский язык и распространяется по лицензии Apache 2.0. В README отмечено, что модель прошла ограниченное обучение безопасности и может выдавать проблемные ответы, особенно при соответствующих запросах.

duyntnet/Phi-3-medium-4k-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-3-Medium-4K-Instruct, разработанной Microsoft. Модель предназначена для генерации текста и диалоговых сценариев с инструкциями, включая ответы на вопросы, объяснения и решение задач. Она рассчитана прежде всего на использование в формате чата и поддерживает английский язык. Исходная модель относится к семейству Phi-3 и имеет контекст до 4K токенов; README также указывает размер словаря токенизатора до 32 064 токенов. В данном репозитории представлены квантизированные варианты с использованием imatrix в формате GGUF, совместимые с llama.cpp после указанного в README коммита. Конкретные уровни квантования и размер параметров в предоставленных данных не указаны. Сильными сторонами являются инструкционно-ориентированное поведение, поддержка многоходовых диалогов и возможность локального запуска через совместимые инструменты для GGUF. Ограничения включают англоязычную специализацию, контекст в 4K токенов и возможное снижение качества, зависящее от выбранного уровня квантования. Для работы могут потребоваться актуальные версии поддерживающего ПО и корректный chat format. Лицензия указана как other; дополнительные условия лицензирования в README не приведены.

unsloth/Qwen2.5-1.5B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-1.5B, подготовленная Unsloth на основе Qwen/Qwen2.5-1.5B, разработанной командой Qwen. Модель предназначена для генерации и продолжения текста, а также для последующего дообучения под прикладные задачи. Для диалогового использования базовая версия не рекомендуется без дополнительного post-training, например SFT, RLHF или продолжения предобучения. Модель относится к causal language models и содержит около 1,54 млрд параметров, из которых 1,31 млрд не являются параметрами эмбеддингов. Архитектура включает RoPE, SwiGLU, RMSNorm, bias в attention QKV и связанные эмбеддинги слов; используется 28 слоёв и Grouped Query Attention с 12 головами Q и 2 головами KV. Полная длина контекста составляет 32 768 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся небольшой размер, поддержка нескольких языков и пригодность для эффективного дообучения и развёртывания при ограниченных ресурсах благодаря 4-битному представлению. Модель также наследует заявленные для Qwen2.5 улучшения в кодировании, математике, следовании инструкциям и работе со структурированными данными, однако конкретные результаты для этой версии в README не приведены. Ограничения включают базовый, а не instruction-tuned характер модели, контекст до 32 768 токенов и возможные потери качества, связанные с 4-битной квантизацией. Лицензия — Apache-2.0.

Qwen3.5-21B-GLM-4.7-Flash-Heretic-Uncensored-Thinking — плотная мультимодальная модель на 21 млрд параметров от DavidAU, основанная на Qwen3.5-27B-Deckard-PKD-Heretic-Uncensored-Thinking. По карточке, исходную модель сначала освободили от ограничений безопасности, затем сократили с 27 до 21 млрд параметров и дообучили на наборе GLM 4.7 Flash Distill с помощью Unsloth. Заявлены 48 слоёв и контекст до 256 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и продолжения прозы, ролевых сценариев, написания кода, а также анализа изображений. Карточка сообщает о вариативной длине рассуждений, поддержке обработки изображений и исправлениях шаблона диалога; модель по умолчанию использует режим Thinking. В описании представлены примеры работы, но независимые подтверждения заявлений о производительности не приведены. Репозиторий содержит веса Safetensors, библиотека — Transformers; лицензия — Apache-2.0. Модель явно ориентирована на генерацию контента без ограничений и может выдавать откровенные или графические материалы. Автор предупреждает о возможных повторах и зацикливании, особенно при низкой квантизации или недостаточно подробных запросах; качество и скорость могут зависеть от квантизации и настроек.

Qwen3.6-40B-DeckardUncensored-OpusDistilled-W4A16-AWQ — мультимодальная vision-language модель на базе DavidAU/Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking, разработанная philbert440. Она предназначена для генерации и анализа текста и изображений, прежде всего для творческого письма и программирования. По описанию, модель относится к серии Deckard-40B Uncensored и ориентирована на сценарии, где требуется высокая производительность и отсутствие встроенных отказов по соображениям безопасности. Модель содержит около 40 миллиардов параметров и использует квантизацию W4A16-AWQ: 4-битные веса при активациях FP16. Формат основан на weight-only квантизации AWQ и compressed-tensors. Модель совместима с 1Cat-vLLM на видеокартах Tesla V100 с архитектурой SM70, а также со стандартным vLLM на системах с Ampere и новее. README не указывает максимальный размер контекста и полный перечень поддерживаемых языков. К сильным сторонам относятся мультимодальность, ориентация на творческие и кодовые задачи, уменьшенное потребление памяти благодаря квантизации и возможность запуска на Tesla V100. Ограничения включают потерю точности, возможную для 4-битной квантизации, зависимость от совместимого программного стека и отсутствие защитных отказов: разработчик прямо возлагает на пользователя ответственность за законное и этичное применение. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-Q4_0-ROCmFP4-STRIX — квантованная GGUF-версия модели Qwen3.8-27B, разработанной Qwen, с уменьшенным отказом от выполнения запросов. Данный релиз опубликован nydemeth и оптимизирован для систем AMD Strix Halo с использованием ROCmFPX. Модель предназначена для генерации текста, контролируемых исследований, red-teaming, анализа интерпретируемости и оценки защитных механизмов. Основной файл использует нестандартный формат GGUF Q4_0_ROCMFP4_STRIX и занимает около 13,75 GiB; отдельно доступен необязательный MTP-ассистент Q4_0 размером около 1,89 GiB для speculative decoding. Пакет рассчитан на текстовые задачи и не содержит vision projector, поэтому визуальные входы не поддерживаются. Точные сведения о языках, размере контекста и полном устройстве архитектуры в README не указаны. Для работы требуется совместимая сборка ROCmFPX с поддержкой hybrid architecture и MTP; совместимость с другими версиями не гарантируется. Сильной стороной является оптимизация под AMD Strix Halo и возможность ускорения генерации через speculative decoding. Существенное ограничение — нестандартный формат квантования и зависимость от конкретной программной среды. Из-за значительно сниженного отказа модель не рекомендуется для немодерируемого публичного или производственного использования. Базовая модель распространяется по Apache License 2.0; при распространении необходимо соблюдать условия upstream-лицензии и требования по атрибуции.

jonatasgrosman/wav2vec2-large-xlsr-53-french — модель распознавания французской речи от Jonatas Grosman, дообученная на базе facebook/wav2vec2-large-xlsr-53 на обучающей и валидационной выборках Common Voice 6.1. Она использует архитектуру Wav2Vec2ForCTC и содержит 402,7 млн параметров. Модель преобразует аудиозаписи французской речи в текст и рассчитана на распознавание речи с частотой дискретизации 16 кГц. В карточке описана прямая расшифровка без языковой модели; также приведены сценарии оценки на тестовой выборке Common Voice 6.0 и наборе speech-recognition-community-v2. Модель распространяется по лицензии Apache-2.0. Точность может зависеть от качества записи и отличий речи от данных Common Voice, на которых модель дообучалась.

Camel-Platypus2-70B — объединённая авторегрессионная языковая модель на архитектуре LLaMA 2, созданная на основе garage-bAInd/Platypus2-70B и augtoma/qCammel-70-x. В README указаны Platypus2-70B от Cole Hunter и Ariel Lee и qCammel-70-x от augtoma; автор самого объединения отдельно не назван. Модель содержит 68,7 млрд параметров, принимает текст и генерирует текст, поддерживает английский язык и имеет контекст 4096 токенов. Модель предназначена для генерации ответов на инструкции и задач на рассуждение, включая вопросы по STEM-дисциплинам и логике. В README приведены результаты оценивания на ARC, HellaSwag, MMLU и TruthfulQA. Модель распространяется по лицензии CC BY-NC-4.0, которая ограничивает коммерческое использование. Ответы могут быть неточными, предвзятыми или нежелательными; тестирование проводилось на английском языке и не охватывает все сценарии.

QuantFactory/Cotype-Nano-GGUF — это квантизированная версия легковесной языковой модели Cotype-Nano, разработанной MTSAIR. Квантизация выполнена с использованием llama.cpp. Модель предназначена для генерации текста и диалогового взаимодействия, включая ответы на вопросы, объяснение технических тем и помощь в написании кода, при ограниченных вычислительных ресурсах. Заявлена поддержка русского и английского языков. По данным карточки, исходная модель обучалась в два этапа: сначала MLP-слои обучались на математических и программных данных, затем вся модель — на внутренних и открытых синтетических наборах инструкций. Архитектура, количество параметров, размер контекста и точный формат квантизации для этой версии не указаны. Среди сильных сторон заявлены лёгкость, высокая скорость и эффективность при ограниченных ресурсах; к ограничениям относятся отсутствие подробных характеристик и независимой оценки качества за пределами приведённого локального теста ru-llm-arena, где исходная Cotype-Nano получила 30,2 балла, а версия Cotype-Nano-4bit — 22,5. В метаданных указана лицензия Apache-2.0, при этом ссылка ведёт на отдельный файл лицензии MTSAIR. Модель предназначена для использования с инструментами экосистемы llama.cpp и совместимыми средствами запуска GGUF.

csg-wukong-1B-chat-v0.1 — разработанная OpenCSG чат-модель, полученная дообучением csg-wukong-1B. Она предназначена для диалоговой генерации текста и может применяться в чат-ботах и других сценариях, где требуется генерировать ответы на текстовые запросы. Модель построена на плотной архитектуре Llama и содержит около 1 млрд параметров; заявленная длина контекста — 32 768 токенов. В карточке также отмечена возможность работы с кодом. Модель представлена в формате safetensors и распространяется по лицензии Apache-2.0. В README приведены сведения об обучении и оценке исходной csg-wukong-1B на open_llm_leaderboard, но отдельные результаты оценки чат-версии не указаны.

DeepSeek-R1-Distill-Qwen-32B Uncensored — 32-миллиардная плотная языковая модель, подготовленная Richard Young на основе deepseek-ai/DeepSeek-R1-Distill-Qwen-32B. Это декодерный трансформер семейства Qwen2 для генерации текста и диалогов с пошаговыми рассуждениями. В карточке заявлена техника abliteration — удаление направления отказа модели; автор описывает вариант как uncensored. Модель предназначена для задач, где нужны развёрнутые рассуждения, в том числе для исследований рассуждений и выравнивания, обучения и творческих сценариев. Метаданные указывают контекст до 131 072 токенов; README заявляет 32 768 токенов. Поддерживаемый язык по карточке — английский. Модель принимает текст и выдаёт текст. Англоязычные метаданные указывают лицензию «other», без уточнения конкретных условий, поэтому перед использованием следует проверить лицензию репозитория и базовой модели. Заявленное удаление отказов означает, что модель может выдавать ответы без защитных ограничений исходной модели; качество и поведение в отдельных задачах отдельно не подтверждены.

gemma-4-26B-A4B-it-Uncensored-MAX — мультимодальная модель prithivMLmods на архитектуре Gemma 4 с механизмом Mixture of Experts. Она основана на huihui-ai/Huihui-gemma-4-26B-A4B-it-abliterated и связана с google/gemma-4-26B-A4B-it; карточка описывает обновлённую упаковку и совместимость с актуальными версиями Transformers. Репозиторий содержит веса safetensors в формате bf16, а лицензия указана как Apache-2.0. Модель принимает текст и изображения и генерирует текст; её можно применять для диалогов, рассуждений, анализа изображений, исследований мультимодальных моделей и red-teaming. В карточке заявлены 26 млрд параметров и MoE-конфигурация A4B. Метаданные указывают английский язык. Модифицированная версия обозначена как uncensored и refusal-ablated, поэтому её ответы могут включать содержание, отказываемое базовой моделью. Ответы могут быть ошибочными, неполными или непоследовательными и зависят от промпта и параметров генерации. Для запуска требуются значительные вычислительные ресурсы; производительность зависит от оборудования и среды инференса. Авторы рекомендуют учитывать риски и ответственность при использовании модели.

Карточка модели ibm-granite/granite-7b-instruct на Hugging Face совпадает с карточкой instructlab/granite-7b-lab, поэтому описание составлено по ней. Granite-7b-lab — языковая модель IBM Research, дообученная на базе ibm/granite-7b-base методом LAB (Large-scale Alignment for chatBots) с использованием Mixtral-8x7B-Instruct как модели-учителя. Это плотная модель архитектуры Llama с 6,6 млрд параметров, поддержкой диалогового режима и контекстом до 4096 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке. LAB использует таксономию задач для отбора примеров, генерацию синтетических данных и двухэтапное обучение с буферами повторения; это позволяет добавлять знания и навыки, сохраняя ранее усвоенное. Подход охватывает ответы на вопросы, рассуждение и творческое письмо. Модель распространяется в формате Safetensors по лицензии Apache 2.0. В README отмечено, что чекпойнт не прошёл safety alignment и может выдавать вредные или недостоверные ответы; его не следует использовать как единственный источник для важных решений.

Gryphe_Codex-24B-Small-3.2-GGUF — это квантизированная GGUF-версия модели Codex-24B-Small-3.2, разработанной Gryphe и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев и задач, где требуется instruct- или chat-модель; заявлены также сценарии roleplay и дальнейшей донастройки. Поддерживаемый язык — английский. Модель имеет размер 24 млрд параметров и поставляется в вариантах от BF16 до различных квантизаций Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Файлы предназначены для запуска через llama.cpp, LM Studio и другие совместимые проекты. Для общения предлагается формат ChatML, однако в README отмечено, что шаблон чата явно не задан и используемый шаблон по умолчанию может быть неточным. Сведения о контекстном окне, точной архитектуре, дополнительных модальностях и результатах бенчмарков отсутствуют. Сильной стороной модели является широкий выбор квантизаций: варианты Q6 и Q5 описаны как обеспечивающие очень высокое или высокое качество, а Q4 — как компромисс для большинства сценариев; более компактные варианты подходят системам с ограниченным объёмом оперативной памяти, но могут заметно уступать по качеству. Модель распространяется по лицензии Apache-2.0. Условия использования, связанные с исходной моделью Gryphe/Codex-24B-Small-3.2, следует дополнительно проверять в её оригинальной карточке.

Карточка модели Kailune-AI/mamba-gpt-3b-v3 на Hugging Face совпадает с карточкой CobraMamba/mamba-gpt-3b-v3, поэтому описание составлено по ней. mamba-gpt-3b-v3 — языковая модель на 3,3 млрд параметров от CobraMamba, дообученная на основе openlm-research/open_llama_3b_v2. Она предназначена для генерации текста, диалогов и ответов на инструкции; в обучающих данных использованы Stanford Alpaca, Open Assistant, LIMA и CodeAlpaca 20k. Модель построена на архитектуре LlamaForCausalLM и запускается через библиотеку Transformers. Контекст составляет 2048 токенов; карточка указывает английский и многоязычные данные Open Assistant. В README приведены результаты тестов MMLU, ARC и HellaSwag, однако их следует считать заявлениями авторов. Модель подходит для экспериментов и приложений с генерацией текста, включая ответы на вопросы и помощь с кодом. Она может выдавать неточные, нерелевантные или предвзятые ответы, а небольшой контекст ограничивает работу с длинными запросами. Лицензия репозитория — Apache-2.0.

CreitinGameplays/Mistral-Nemo-12B-R1-v0.1 — дообученная автором CreitinGameplays модель Mistral Nemo для генерации ответов в диалоге с упором на систематические рассуждения. Она основана на mistralai/Mistral-Nemo-Instruct-2407 и обучалась один проход на датасете Magpie-Reasoning-V2-250K-CoT-Deepseek-R1-Llama-70Bmistral; автор сообщает, что обучение заняло 96 часов на двух NVIDIA RTX A6000. Модель имеет плотную архитектуру MistralForCausalLM и 12,1 млрд параметров. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов, а в интерфейсе модели заявлены чат и вызов инструментов. Основной язык обучения — английский, поэтому качество на других языках может быть ниже. Модель опубликована под лицензией MIT. Автор предупреждает, что после этапа рассуждений модель может зациклиться в бесконечной генерации; это следует учитывать при настройке лимита токенов и проверке ответов.

MuXodious/Nanbeige4.2-3B-ARA-heresy — дообученная версия Nanbeige4.2-3B, созданная с помощью Heretic и Arbitrary-Rank Ablation с нормализацией строк весов. Проект разработал MuXodious на основе модели Nanbeige; README сообщает, что финальный вариант выбрали по результатам PiQA. В эксперименте число отказов снизилось с 535 из 540 до 9 из 540, при этом измеренная KL-дивергенция составила 0,0824. Модель предназначена для генерации текста в диалогах и может использоваться как менее склонный к отказам вариант базовой модели для общих запросов, рассуждений, программирования и агентных сценариев. Базовое семейство Nanbeige4.2-3B рассчитано на вызов инструментов и многошаговые рабочие процессы; сама карточка этой версии не приводит отдельных оценок её агентных возможностей. Это плотная причинная языковая модель архитектуры NanbeigeForCausalLM на 3,2 млрд параметров с контекстом до 262 144 токенов. В метаданных указаны английский и китайский языки. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Снижение числа отказов может ослабить защитное поведение; результаты, приведённые в карточке, не гарантируют качество на произвольных задачах.

Nemotron-4-340B-Instruct-SafeTensors — текстовая языковая модель NVIDIA, опубликованная пользователем failspy. Это веса Nemotron-4-340B-Instruct, перенесённые из архитектуры NVIDIA NeMo в формат SafeTensors; автор репозитория предупреждает, что на момент публикации запуск инференса не поддерживается. Исходная модель дообучена на базе Nemotron-4-340B-Base с помощью SFT, DPO и RPO и предназначена для англоязычного чата и генерации синтетических данных для обучения и настройки языковых моделей. Модель использует авторегрессионный decoder-only Transformer с Grouped-Query Attention и RoPE, содержит 466,8 млрд параметров и рассчитана на контекст до 4096 токенов. В карточке описаны способности к следованию инструкциям, математическим рассуждениям и программированию; исходная модель обучалась на английских текстах, более чем 50 естественных языках и коде, но её основное назначение — английский язык. Для инференса в BF16 исходная карточка указывает на необходимость нескольких ускорителей H100, H200 или A100. Для репозитория указана лицензия other; README называет лицензию исходной модели NVIDIA Open Model License и сообщает о возможности коммерческого использования и создания производных моделей. Следует учитывать предупреждение автора о неподдерживаемом инференсе, а также риск неточных ответов, токсичных высказываний и усиления смещений из обучающих данных.

Карточка модели perplexity-ai/pplx-pii-masking-vllm на Hugging Face совпадает с карточкой perplexity-ai/pplx-pii-masking-vllm-tmp, поэтому описание составлено по ней. Это преобразованная для обслуживания через vLLM версия модели Perplexity AI pplx-pii-masking. Она использует плотную архитектуру Qwen3ForTokenClassification с 507,9 млн параметров и принимает текст, присваивая токенам BIOES-метки для обнаружения имён людей, адресов электронной почты и телефонов, адресов, URL, дат, номеров счетов, секретов и других персональных данных. Дополнительный выход оценивает чувствительность последовательности. Модель поддерживает английский и демонстрирует работу на немецком; контекст по метаданным — 32 768 токенов. Веса перенесены без переобучения и квантизации: изменены формат упаковки и структура голов для совместимости с vLLM. Проверки в карточке показывают совпадение меток с исходной моделью на приведённых примерах. Для декодирования меток и оценки чувствительности нужны сырые логиты без активации. Токенизатор обрезает входы длиннее 4096 токенов, поэтому длинный текст следует обрабатывать частями; границы найденных фрагментов могут не точно совпадать с границами символов, а оценку чувствительности рекомендуется калибровать перед использованием как порога. У репозитория указана лицензия other; карточка сообщает, что модель приватна и ожидает синхронизации с официальным выпуском.

Карточка модели prompt-agnostic-language-models/Qwen-1B_coin на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.

Карточка модели prompt-agnostic-language-models/Qwen-1B_ties на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.

Это версия Qwen3-0.6B в формате GGUF с точностью FP32, опубликованная huggit0000. Веса получены преобразованием исходной модели Qwen3-0.6B из формата safetensors; слои в файле упорядочены последовательно по числовому индексу. Модель представляет собой причинную языковую модель с 0,6 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, а также математических и программных задач. Она поддерживает переключение между режимом рассуждений и обычным режимом диалога и, согласно карточке Qwen3, рассчитана на более чем 100 языков и диалектов. Компактный размер позволяет запускать её локально; README также описывает исполнение через llama.cpp и одnofайловые реализации на C и CUDA C. Вариант FP32 сохраняет полную точность весов и предназначен для случаев, когда нужна версия GGUF без квантизации, однако он требует больше памяти, чем квантованные варианты. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными моделями. Лицензия — Apache-2.0.

DavidAU/Qwen3-4B-Gemini-TripleX-High-Reasoning-Thinking-Heretic-Uncensored-GGUF — текстовая генеративная модель для задач диалога, ролевого взаимодействия, написания художественных текстов, программирования, математики, обучения и ответов на вопросы. Она создана DavidAU на основе объединения трёх дистиллированных моделей TeichAI, производных от Qwen3-4B-Thinking-2507 и ориентированных на reasoning-возможности Gemini 3 Pro Preview, Gemini 2.5 Flash и Gemini 2.5 Flash Lite Preview. Модель предназначена для генерации текста, включая связную прозу, развитие сюжетов и сцен, научную фантастику, романтические произведения, хоррор и другие жанры. В README заявлены сжатое рассуждение, контекст до 256K токенов и поддержка английского языка. Модель распространяется в формате GGUF; для работы с некоторыми интерфейсами требуется совместимая конфигурация, а автор рекомендует использовать smoothing factor 1.5 или альтернативно repetition penalty в диапазоне 1.1–1.15. К заявленным особенностям относятся сниженный уровень отказов и отсутствие обычных ограничений на содержание, включая NSFW-материалы, однако эти характеристики основаны на описании автора и могут зависеть от конкретной задачи и настроек. README не содержит подробных сведений о точной архитектуре объединения, количестве параметров сверх обозначения 4B, доступных квантизациях и объективных результатах тестирования. Лицензия модели — Apache 2.0.

Карточка модели 0xSojalSec/Qwen3.5-9B-abliterated на Hugging Face совпадает с карточкой lukey03/Qwen3.5-9B-abliterated, поэтому описание составлено по ней. Qwen3.5-9B-abliterated — текстовая диалоговая модель на архитектуре Qwen3.5, созданная lukey03 на основе Qwen/Qwen3.5-9B. Автор удалил часть поведения отказа ортогональной проекцией весов, затем применил QLoRA-дообучение и объединил адаптер с основными весами. В репозитории указано 7,2 млрд параметров, архитектура dense и контекст длиной 262 144 токена; модель распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для генерации ответов в диалоге, включая запросы, на которые исходная модель отказывалась отвечать. В README также приведены примеры рассуждений, математики и программирования, но основная задача в каталоге — генерация текста. Карточка сообщает о тестировании на 18 запросах, однако это небольшой набор и результаты не гарантируют качество на других задачах. Удаление отказов означает, что модель может выдавать вредоносный, опасный или откровенный контент. Лицензия — Apache-2.0.

Карточка модели arammoostafaye/Qwen3.5-9B-abliterated на Hugging Face совпадает с карточкой lukey03/Qwen3.5-9B-abliterated, поэтому описание составлено по ней. Qwen3.5-9B-abliterated — текстовая диалоговая модель на архитектуре Qwen3.5, созданная lukey03 на основе Qwen/Qwen3.5-9B. Автор удалил часть поведения отказа ортогональной проекцией весов, затем применил QLoRA-дообучение и объединил адаптер с основными весами. В репозитории указано 7,2 млрд параметров, архитектура dense и контекст длиной 262 144 токена; модель распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для генерации ответов в диалоге, включая запросы, на которые исходная модель отказывалась отвечать. В README также приведены примеры рассуждений, математики и программирования, но основная задача в каталоге — генерация текста. Карточка сообщает о тестировании на 18 запросах, однако это небольшой набор и результаты не гарантируют качество на других задачах. Удаление отказов означает, что модель может выдавать вредоносный, опасный или откровенный контент. Лицензия — Apache-2.0.