I.2Синтез, понимание и проверка знаний

atasoglu/mbert-base-cased-nli-stsb-tr — модель Sentence Transformers на основе многоязычного BERT, дообученная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель основана на google-bert/bert-base-multilingual-cased и обучена на наборах данных nli_tr и emrecan/stsb-mt-turkish. Она предназначена прежде всего для работы с турецким языком. Архитектура — BERT, число параметров — 205,1 млн, максимальный контекст — 512 токенов. Модель подходит для поиска смыслово близких текстов и группировки предложений. В карточке приведены результаты оценки на тестовой части STS-b, но конкретные значения здесь не представлены. Распространяется по лицензии Apache-2.0.

Memgpt-slerp-7b-4 — диалоговая языковая модель, созданная объединением методом SLERP моделей starsnatched/MemGPT и liminerity/Memgpt-slerp-7b-3 с помощью LazyMergekit. В основе лежит архитектура Mistral; модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и может использоваться в чат-ботах и сценариях, где требуется вести беседу с учётом длинного контекста. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Карточка модели mergekit-community/mergekit-slerp-bjlsrkr на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-jlrpbqb, поэтому описание составлено по ней. Это объединённая модель генерации текста на архитектуре Mistral, созданная сообществом mergekit-community методом SLERP из arcee-ai/sec-mistral-7b-instruct-1.6-epoch и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель содержит около 7,1 млрд параметров, рассчитана на диалоговое применение и использует контекст до 32 768 токенов. Модель предназначена для генерации ответов в диалоге и других сценариев генерации текста. Веса доступны в формате Safetensors и имеют тип bfloat16. В метаданных указана библиотека Transformers. Сведения о лицензии и конкретных ограничениях поведения в предоставленных данных отсутствуют.

RedHatAI/Meta-Llama-3-8B-Instruct-FP8-KV — это квантованный вариант Meta-Llama-3-8B-Instruct, разработанной Meta. Модель предназначена для генерации текста и диалоговых сценариев с использованием vLLM; чекпойнт подготовлен с помощью AutoFP8 и калибровочных примеров из ultrachat. Модель содержит 8B параметров и использует FP8-квантизацию весов и активаций с покомпонентным масштабированием на уровне тензоров. Дополнительно в чекпойнт включены масштабы для FP8-квантизации KV-кэша, что позволяет включать этот режим через параметр kv_cache_dtype="fp8" в vLLM. Для работы требуется vLLM версии 0.5.0 или новее. Данные о поддерживаемых языках, размере контекста и мультимодальности не указаны. К преимуществам относятся снижение требований к памяти и возможность эффективного инференса с FP8 KV-кэшем. По результатам Open LLM Leaderboard показатель gsm8k в режиме 5-shot составляет 74,98 против 75,44 у исходной модели и 74,37 у варианта FP8 без квантованного KV-кэша, что указывает на близкое качество в этом тесте. Ограничения включают возможную потерю точности из-за квантизации и зависимость от совместимой версии vLLM. Лицензия в README не указана.

MiniCPM-2B-sft-fp32 — версия языковой модели MiniCPM-2B после instruction fine-tuning (SFT), представленная в формате FP32. Её разработали ModelBest и лаборатория обработки естественного языка Университета Цинхуа. Модель построена на архитектуре MiniCPMForCausalLM, содержит 2,7 млрд параметров и предназначена для генерации текста и диалоговых ответов на английском и китайском языках. Максимальная длина контекста — 4096 токенов. Модель подходит для диалоговых систем, ответов на вопросы, а также генерации текстов, кода и решений математических задач. Разработчики отмечают её компактный размер и возможность развёртывания на устройствах с ограниченными ресурсами после квантизации; этот репозиторий содержит веса FP32. В карточке указана лицензия other, а README сообщает об открытых весах для академических исследований и ограниченного коммерческого использования. Известные ограничения — склонность к галлюцинациям, зависимость ответов от формулировки запроса и вариативность результатов при повторных попытках; знания модели могут быть неточными. Качество генерации в Transformers, по сообщению авторов, может быть ниже, чем при использовании vLLM.

AlSamCur123/mistral-7b2ContinuedFine — дообученная AlSamCur123 разговорная языковая модель на архитектуре Mistral. Она предназначена для генерации текста в диалоге и интерфейса вызова инструментов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; в карточке указан английский язык. Для обучения использовались Unsloth и библиотека TRL. Модель основана на unsloth/mistral-7b-instruct-v0.3-bnb-4bit и опубликована в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специализированную предметную область или конкретные преимущества и ограничения качества.

Ralriki/multilingual-e5-large-instruct-GGUF — это GGUF-версия мультиязычной embedding-модели multilingual-e5-large-instruct, разработанной командой intfloat и адаптированной для использования в llama.cpp после добавления поддержки XLM-RoBERTa. Модель предназначена для создания векторных представлений текста, включая мультиязычный поиск, семантическое сходство и другие задачи, где требуется сопоставление текстов по смыслу. Для разных сценариев рекомендуется использовать соответствующие prompt-шаблоны из исходной модели. Доступны варианты квантования q4_k_m, q6_k, q8_0 и f16. Автор README рекомендует q6_k или q8_0: переход к 8-битному квантованию обычно почти не снижает качество относительно базовой модели, тогда как при переходе от q6 к q4 возможно небольшое заметное ухудшение, а при использовании уровней около q3 и ниже — существенная потеря качества. Модель ориентирована на мультиязычные тексты, однако конкретный список поддерживаемых языков и размер контекста в README не указаны. Модель распространяется по лицензии MIT. Для работы требуется совместимая поддержка GGUF и llama.cpp с поддержкой XLM-RoBERTa.

multi-QA_v1-mpnet-asymmetric-Q — модель для создания векторных представлений вопросов, разработанная flax-sentence-embeddings в рамках проекта Hugging Face Community Week «Train the Best Sentence Embedding Model Ever with 1B Training Pairs». Это MPNet с 136,7 млн параметров, дообученный контрастивным методом на парах вопросов и ответов из Stack Exchange, MSMARCO, NQ и других наборов данных. Модель принимает текст и выдаёт вектор размерности смысла предложения; длина контекста — до 514 токенов по метаданным. Модель предназначена для кодирования вопросов в системе семантического поиска и сопоставления с векторами ответов, полученными парной моделью multi-QA_v1-mpnet-asymmetric-A. Векторы также подходят для поиска по смыслу, кластеризации и оценки сходства предложений. Для поиска вопросов и ответов рекомендуется использовать пару Q/A-моделей. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Nanbeige4-3B-Base — базовая языковая модель из семейства Nanbeige четвёртого поколения, разработанная командой Nanbeige. Модель содержит 3,5 млрд параметров, построена на плотной архитектуре Llama и предназначена для генерации текста и дальнейшей адаптации под прикладные задачи, например через supervised fine-tuning. В обучении использовался корпус из веб-текстов, книг, кода и научных статей, дополненный синтетическими данными для вопросов и ответов и рассуждений. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. В карточке указаны английский и китайский языки. Разработчики сообщают о сильных результатах после дообучения на математических задачах и тестах на научные знания, в отдельных сравнениях превосходящих модели большего размера. Это базовый чекпойнт, поэтому для диалогового использования может потребоваться дополнительная настройка. Модель распространяется по лицензии Apache-2.0. Как и другие вероятностные языковые модели, она может выдавать ошибочную или неожиданную информацию, а также предвзятые или дискриминационные ответы. Разработчики не гарантируют отсутствие такого контента.

Accio-Lab/occamy-1.0-NVFP4 — это версия модели Occamy 1.0 со смешанными NVFP4-квантованными весами, разработанная Accio-Lab. Модель основана на Qwen3.6-35B-A3B и использует архитектуру mixture-of-experts (MoE). Она относится к мультимодальным моделям image-text-to-text и предназначена для работы с текстовыми и визуальными запросами. Квантованию подвергнуты маршрутизируемые эксперты: для их весов и активаций используются NVFP4. Механизмы внимания, маршрутизаторы, общие эксперты, эмбеддинги, выходная голова и vision-компоненты сохранены в формате BF16. Сохранены исходные токенизатор и chat template Occamy; отдельная MTP-голова в этот checkpoint не включена. Модель подходит для генерации текста и кода, структурированных ответов в JSON, tool calling и базового распознавания изображений. Проверки показали сопоставимое с BF16-версией поведение на небольшом наборе тестов для текста, кода, JSON, вызова инструментов и изображений. При этом заявленные проверки не являются общими бенчмарками и не подтверждают качество на широком спектре задач, аудио, видео, длинном контексте или производительность. Набор калибровки был ограниченным, а нативное выполнение NVFP4 требует совместимого оборудования и ядер; совместимость с vLLM проверялась через Marlin W4A16, а не через нативные FP4-вычисления. Валидация проводилась с контекстом 2048 токенов. Модель распространяется по лицензии Apache-2.0.

blackmlengineer/occucoder-en-small-v0 — компактная модель Sentence Transformers на архитектуре BERT, обученная разработчиком blackmlengineer для сопоставления коротких текстов. Она преобразует предложения и абзацы в плотные векторы размерности 128; сходство оценивается косинусной мерой. Модель предназначена для извлечения признаков, поиска и ранжирования текстов по смысловому соответствию. Обучение проводилось на 991 580 примерах с парами и отрицательными примерами, с функцией потерь MultipleNegativesRankingLoss. Максимальная длина входа — 32 токена. Карточка показывает англоязычные примеры профессиональных названий и сообщает о поддержке текстовой модальности; лицензия в предоставленных данных не указана.

Olmo-3-1025-7B — базовая авторегрессионная языковая модель семейства OLMo 3, разработанная Allen Institute for AI (Ai2). Она предназначена для генерации текста и служит основой для дальнейшей настройки под диалоговые и специализированные задачи. Модель имеет плотную Transformer-архитектуру для причинного языкового моделирования, около 6,9 млрд параметров и контекстное окно 65 536 токенов. Она обучена преимущественно на английском языке на данных Dolma 3; обучение включало текст, код, математику, вопросы и ответы, инструкции и PDF-документы. Репозиторий содержит веса в формате safetensors и поддерживается библиотекой Transformers версии 4.57.0 и выше. Длинный контекст и широкая обучающая выборка подходят для генерации продолжений, черновиков и кода, а также для адаптации модели к прикладным сценариям. Это базовая модель, поэтому её ответы не обязательно следуют инструкциям как у чат-модели; возможны фактические ошибки, предвзятые или вредоносные ответы без дополнительной настройки и фильтрации. Лицензия модели и кода — Apache 2.0.

OpenAi-GPT-oss-36B-BrainStorm20x-uncensored — текстовая генеративная модель DavidAU на базе huizimao/gpt-oss-20b-uncensored-bf16 с добавленным адаптером Brainstorm 20x. Автор заявляет улучшения в общих ответах, нестандартном рассуждении и программировании. Архитектура — GPT-OSS с механизмом Mixture of Experts; карточка указывает 36 млрд параметров после добавления адаптера, тогда как метаданные каталога приводят 2,5 млрд параметров. Модель работает с контекстом до 131 072 токенов и рассчитана на генерацию текста, диалог, решение задач, мозговой штурм и написание кода. Модель ориентирована на пользователей, которым нужны свободная генерация и ответы с меньшим числом отказов, включая творческие и взрослые сценарии. По описанию автора, для получения желаемого уровня откровенности иногда требуются подробные инструкции; качество генерации может быть неровным, а повторные запуски и настройка параметров влияют на результат. Указана лицензия Apache-2.0.

OpenBuddy/openbuddy-yi1.5-34b-v21.3-32k — многоязычная чат-модель OpenBuddy, дообученная на базе 01-ai/Yi-1.5-34B-32K. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров, предназначенная для диалоговой генерации текста. Метаданные указывают нативный контекст до 131 072 токенов и поддержку китайского, английского, французского, немецкого, японского, корейского, итальянского, русского и финского языков. Модель рассчитана на создание чат-ботов и развёртывание через Transformers или vLLM с API в стиле OpenAI. Репозиторий содержит веса safetensors; для корректной работы автор рекомендует быстрый токенизатор Transformers, поскольку другие реализации могут некорректно обрабатывать специальные токены. Лицензия — Apache 2.0. Модель может выдавать ошибочные, вредные или нежелательные ответы. Авторы предостерегают от использования в критически важных и высокорисковых сценариях, включая медицину, управление потенциально опасными системами и принятие важных финансовых или юридических решений.

OrakzaiX — это общественный GGUF-релиз модели семейства Llama, поддерживаемый и квантизированный Faisal Orakzai. В метаданных указан upstream-моделью meta-llama/Llama-3-8B-Instruct, однако README позиционирует OrakzaiX именно как квантизированный релиз, а не как самостоятельно обученную базовую модель. Модель предназначена для генерации текста и диалогов с локальным запуском через llama.cpp на пользовательском оборудовании, рабочих станциях, периферийных устройствах или частных серверах. Основные сценарии включают локальных ассистентов, офлайн-прототипирование, разработку инструментов, суммирование и извлечение технической информации, помощь с кодом и документацией, автоматизацию, планирование рабочих процессов и эксперименты с multi-agent orchestration. Доступны варианты GGUF с квантизацией от Q2_K до Q8_0; рекомендуемым начальным вариантом называется Q4_K_M, обеспечивающий компромисс между качеством, скоростью и потреблением памяти. Файлы занимают примерно от 3,18 до 8,54 ГБ, но фактические требования выше из-за контекста, KV-кэша, буферов вычислений и накладных расходов runtime. Сильными сторонами являются локальное и потенциально более приватное выполнение, широкий выбор уровней квантизации и совместимость с экосистемой llama.cpp. При этом README не содержит результатов бенчмарков, данных о точности в конкретных областях, надежности использования инструментов, производительности, поддерживаемых языках или размере контекстного окна. Не подтверждена также пригодность для автономных производственных сценариев; качество следует проверять на собственных задачах и выбранной квантизации. Лицензия указана как other, поэтому перед распространением или коммерческим использованием необходимо изучить условия лицензии OrakzaiX и upstream-модели.

Percival_01-7b-slerp — объединённая текстовая модель на архитектуре Mistral, созданная AurelPx методом SLERP с помощью LazyMergekit из liminerity/M7-7b и Gille/StrangeMerges_32-7B-slerp. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. В карточке автор заявляет второе место среди моделей 7B на OPENLLM Leaderboard, однако подробности оценки и результаты по отдельным задачам не приведены. Модель распространяется в формате safetensors под лицензией Apache-2.0.

Карточка модели ThomasComics/Phi-3-mini-128k-instruct-LLaMAfied на Hugging Face совпадает с карточкой vonjack/Phi-3-mini-4k-instruct-LLaMAfied, поэтому описание составлено по ней. vonjack/Phi-3-mini-4k-instruct-LLaMAfied — текстовая генеративная модель на 3,7 млрд параметров, опубликованная vonjack. В метаданных указана архитектура LlamaForCausalLM; карточка описывает исходную модель Phi-3 Mini-4K-Instruct и её настройку для следования инструкциям. Контекст составляет 4096 токенов, формат весов — safetensors. Модель предназначена для диалогов и генерации текста, включая задачи на логику, математику и программирование. Компактный размер подходит для сред с ограниченными ресурсами и сценариев, где важна задержка; заявленная ориентация — коммерческое и исследовательское применение на английском языке. Лицензия — MIT. README указывает, что качество на языках кроме английского ниже; ответы могут быть неточными, устаревшими, предвзятыми или оскорбительными. Сгенерированный код и API следует проверять, особенно вне Python. Для чувствительных и высокорисковых сценариев необходимы дополнительные проверки и меры защиты.

Phi-3-mini-4k-instruct-4bit — это 4-битная версия модели Phi-3-mini-4k-instruct, преобразованная сообществом mlx-community в формат MLX из исходной модели Microsoft. Конвертацию выполнил Prince Canuma с использованием mlx-lm 0.10.0; модель предназначена для запуска и генерации текста через экосистему MLX. Модель решает задачи генерации текста и диалогового взаимодействия на английском языке, включая ответы на вопросы, составление текстов и помощь с кодом. Она содержит около 3,7 млрд параметров и поддерживает контекст длиной до 4096 токенов. 4-битное представление снижает требования к памяти по сравнению с полноразмерной версией, что удобно для локального запуска на совместимом оборудовании Apple Silicon и других средах MLX. Модель распространяется по лицензии MIT. Ограничения исходной Phi-3-mini-4k-instruct, включая возможные ошибки, галлюцинации, чувствительность к формулировкам запросов и риски при использовании с непроверенным кодом или фактическими сведениями, сохраняются; результаты требуют проверки человеком.

QuantFactory/Qwen2-1.5B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Qwen2-1.5B-Instruct, созданная QuantFactory с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, понимание естественного языка, программирование, математику и рассуждения. Формат GGUF ориентирован на локальный запуск с совместимыми инструментами. Модель содержит около 1,5 млрд параметров и построена на декодерной архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях и group query attention. Токенизатор адаптирован для нескольких естественных языков и языков программирования, однако в карточке явно указан только английский язык. Обучение включало предварительное обучение, supervised fine-tuning и direct preference optimization. Размер контекста, точные параметры квантизации и перечень поддерживаемых языков не указаны. К сильным сторонам относятся компактный размер, возможность локального использования и заявленная конкурентоспособность в задачах понимания языка, генерации, программирования и математики. В опубликованном сравнении Qwen2-1.5B-Instruct получил 52,4 на MMLU, 37,8 на HumanEval, 61,6 на GSM8K, 63,8 на C-Eval и 29,0 на IFEval Prompt Strict-Acc. Ограничениями являются меньший объём модели по сравнению с крупными LLM, возможное снижение качества из-за квантизации и отсутствие данных о конкретном формате квантизации. Лицензия — Apache-2.0.

RedHatAI/Qwen2.5-VL-7B-Instruct-FP8-Dynamic — квантованная версия мультимодальной модели Qwen2.5-VL-7B-Instruct, разработанная Neural Magic. Модель принимает изображения и текстовые запросы, а генерирует текстовые ответы. Она предназначена для визуально-текстовых задач: визуального вопросно-ответного взаимодействия, анализа документов, диаграмм и графиков, решения математических задач по изображениям, а также для ряда общих текстовых бенчмарков. Модель имеет архитектуру Qwen2.5-VL-7B-Instruct с заявленным размером 7B параметров. Для весов и активаций используется динамическая квантование FP8; при этом визуальная башня, мультимодальный проектор и lm_head не квантовались. Модель рассчитана на эффективный инференс через vLLM версии 0.5.2 и новее, поддерживает OpenAI-совместимое предоставление сервиса. В README явно указан английский язык, а максимальная длина контекста в примере развертывания составляет 4096 токенов. К сильным сторонам относятся снижение вычислительных и memory-затрат при сохранении качества исходной модели: на приведённых тестах средний результат на vision-задачах составил 76,50 против 75,95 у базовой модели. Ограничения включают зависимость от совместимого стека vLLM, необходимость мультимодальной инфраструктуры для работы с изображениями и отсутствие подробных сведений о поддерживаемых языках, фактическом размере контекста и результатах вне указанных оценок. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3-14B-NVFP4 — квантизированная версия языковой модели Qwen3-14B, разработанная RedHatAI на базе Qwen/Qwen3-14B. Модель принимает текст и генерирует текст, предназначена для задач text generation и развёртывания в среде vLLM версии 0.9.1 и выше. В модели применена FP4-квантизация весов и активаций линейных операторов в блоках Transformer. По сравнению с представлением FP16 это сокращает число битов на параметр с 16 до 4, а размер на диске и требования к памяти GPU примерно на 75%. Квантизация выполнена с использованием LLM Compressor, с калибровкой на данных UltraChat; параметры включают групповой размер 16. Модель имеет размерность 14B, работает с текстовой модальностью, однако размер контекста в представленном README не указан. В метаданных заявлены языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai, при этом отдельно указано ограничение на использование в языках, отличных от английского. Основное преимущество модели — снижение требований к дисковой и GPU-памяти при сохранении совместимости с эффективным инференсом через vLLM и OpenAI-compatible serving. Ограничения включают возможное снижение качества из-за квантизации, зависимость от подходящей аппаратной и программной поддержки FP4, а также языковое ограничение на использование только английского языка согласно README. Модель распространяется по лицензии Apache-2.0; также указано ограничение на использование с нарушением применимых законов и нормативных требований.

pearl-ai/Qwen3-30B-A3B-Instruct-2507-pearl — сертифицированный вариант Qwen3-30B-A3B-Instruct-2507, разработанный Pearl Research Labs на базе модели Qwen от Alibaba. Это каузальная instruction-tuned языковая модель для генерации текста и диалоговых сценариев, прежде всего предназначенная для работы в связке с Pearl vLLM mining plugin и стеком Pearl miner. В карточке указана поддержка английского языка. Модель использует архитектуру Qwen3MoeForCausalLM и подход Mixture-of-Experts: всего 30 млрд параметров, из которых около 3 млрд активируются для каждого токена; на токен маршрутизируются 8 экспертов. Архитектура включает 48 скрытых слоёв. Применяется смешанная квантизация W7A7 и FP8, выполненная средствами Pearl, что ориентировано на эффективное развёртывание. В примере запуска через vLLM используется максимальная длина контекста 8192 токена, однако это значение относится к конфигурации запуска. Основное преимущество модели — совместимость с инфраструктурой Pearl для майнинга при сохранении близких к исходной модели результатов: на полном тесте MMLU-Pro Pearl-версия получила 77,33% против 77,88% у оригинала. Для работы рекомендуются CUDA и NVIDIA GPU класса sm90, например H100 или H200, а также компоненты Pearl, включая запущенный узел pearld с RPC-доступом. Модель можно использовать через Pearl vLLM plugin, vLLM или Transformers, но совместимость зависит от программного стека и поддерживаемой GPU-архитектуры. Возможны некорректные, небезопасные или предвзятые ответы, поэтому необходимы контроль развёртывания и проверка результатов. Модель распространяется по лицензии Apache 2.0.

Qwen3.5-0.8B — компактная мультимодальная модель семейства Qwen, представленная в репозитории ensu-app/Qwen3.5-0.8B-GGUF и основанная на Qwen/Qwen3.5-0.8B. README не указывает отдельного разработчика репозитория; модель относится к линейке Qwen. Она предназначена для прототипирования, исследовательских и разработческих задач, а также для дообучения под конкретные сценарии. Поддерживает работу с текстом и изображениями благодаря архитектуре языковой модели с vision encoder, включая задачи рассуждения, программирования, визуального понимания и агентных сценариев. Модель содержит 0,8 млрд параметров, 24 слоя, скрытое измерение 1024 и нативный контекст до 262 144 токенов. В архитектуре сочетаются Gated Delta Networks, Gated Attention и sparse Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Модель обучалась в режимах pre-training и post-training, а веса и конфигурации совместимы с Transformers, vLLM, SGLang и KTransformers. Для локального запуска и дообучения рекомендуется использовать инструменты Unsloth. К сильным сторонам относятся малый размер, потенциально высокая скорость и низкая стоимость инференса, мультимодальность, большой контекст и широкое языковое покрытие. Ограничение — относительно небольшой масштаб в 0,8 млрд параметров, поэтому модель ориентирована прежде всего на прототипы, специализированное дообучение и исследования, а не на универсальные задачи максимальной сложности. В README указана лицензия Apache-2.0.

Qwen3.5-9B Triple-Loop Phase 1 Step 2100 — экспериментальная дообученная языковая модель Lordnyx на основе Qwen/Qwen3.5-9B. Она предназначена для диалоговой генерации текста, рассуждений, решения математических задач, программирования и логических задач. Модель использует гибридную архитектуру Gated-DeltaNet и полного внимания; средние 16 слоёв трижды выполняются с общими весами, что даёт заявленную виртуальную глубину в 64 слоя при обычном объёме параметров. Обучение включало дистилляцию по логитам учителя Qwen/Qwen3.8-27B и глубокий надзор. В карточке заявлены контекст до 262 144 токенов и 7,2 млрд параметров по метаданным. Доступны веса Safetensors и GGUF, включая квантованный вариант Q5_K_M; указаны Apache-2.0. Автор сообщает о результатах на собственном наборе из 97 задач, включая 100% на математической подвыборке из 10 заданий, но эти результаты не гарантируют качество на других данных. Модель обозначена как экспериментальная ранняя фаза обучения; заявлена совместимость со стандартными средствами запуска Qwen3.5.

Модель stavh2001/qwen3.6-27b-merged_28_05 — дообученная мультимодальная модель семейства Qwen3.5, разработанная stavh2001 на базе unsloth/Qwen3.6-27B с использованием Unsloth и библиотеки TRL. Она предназначена для диалогов с текстом и изображениями; поддерживает интерфейс вызова инструментов. Архитектура — плотная, Qwen3_5ForConditionalGeneration, веса представлены в формате safetensors. Базовая модель насчитывает 27 млрд параметров и рассчитана на анализ изображений, диалоги, программирование и агентные задачи. Модель выпущена под лицензией Apache-2.0. Карточка не описывает отдельную специализацию дообучения или результаты оценки качества, поэтому пригодность для конкретных сценариев следует проверять на собственных данных.

Qwen3.6-35B-A3B-RAZOR-28B-A3B-E192of256 — производная диалоговая модель семейства Qwen, созданная методом RAZOR: из 256 маршрутизируемых экспертов в каждом MoE-слое оставлены 192. По README, это обучение-не-затрагивающее прореживание экспертов без градиентных обновлений и восстановительного дообучения; сохранены исходные веса оставшихся экспертов. В карточке указано 27,7 млрд параметров (27,0 млрд без модуля MTP) и около 3 млрд активных параметров на токен. Архитектура — Qwen3.5 MoE для Transformers; веса представлены в safetensors и bfloat16. Модель предназначена для генерации текста в диалогах и работы с интерфейсом вызова инструментов. Метаданные связывают её с Qwen/Qwen3.6-35B-A3B, краткое описание которого указывает на мультимодальный анализ изображений, однако README этой производной версии описывает только прореживание экспертов и не подтверждает сохранение или проверку обработки изображений. Лицензия — Apache-2.0. Прореживание уменьшает объём хранения экспертов, сохраняя примерно прежнее число активных параметров на токен, но является потерным: могут измениться разнообразие, форматирование и поведение завершения ответов; качество вне конечного калибровочного корпуса отдельно не охарактеризовано.

LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V12-GGUF — мультимодальная модель в формате GGUF, основанная на HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. В модель также перенесены данные дообучения DJLougen/hermes-qwen3.5-35b-a3b-GGUF на наборе NousResearch/hermes-function-calling-v1, что ориентирует её на агентские сценарии и вызов функций. В README указаны поддержка текста и изображений, языки English, Chinese и multilingual, а также архитектура MoE с 35B общих параметров и 3B активных параметров. Размер контекста не указан. Модель предназначена для диалогов, генерации текста, мультимодального анализа, программирования и задач, где требуется следование инструкциям, использование инструментов и функция вызова. Заявлена как uncensored-модель с отсутствием отказов в приведённом автором тесте 0/465; это может быть преимуществом для менее ограниченных сценариев, но одновременно повышает риски генерации небезопасного или нежелательного контента. Для работы рекомендуется использовать соответствующий chat template, включить thinking, применять F16 для K/V-cache, максимально задействовать GPU и настроить CPU offload MoE-слоёв. Автор заявляет, что применил собственный метод Genesis — численную обработку весов GGUF на основе статистического анализа и закона Марченко—Пастура, без обычного обучения или дообучения. Эти заявления и описанные улучшения стабильности, ясности контекста и следования инструкциям не сопровождаются независимыми бенчмарками в представленном README, поэтому их следует воспринимать как авторскую характеристику. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-AWQ-MTP — 4-битная AWQ-квантизованная версия модели HauhauCS/Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF. Это мультимодальная модель формата image-text-to-text для работы с текстом и изображениями; в карточке указан английский язык. Сборка предназначена для локального запуска и инференса через Transformers и vLLM, включая speculative decoding благодаря сохранённой NextN/MTP draft head. Модель содержит около 27 млрд параметров и использует гибридную архитектуру Qwen3.5: 64 декодерных слоя, из которых 48 используют линейное внимание Qwen3_5GatedDeltaNet, а 16 — полноценное внимание. В состав также входит 27-слойная vision tower, оставленная без квантизации. Применена схема W4A16 с размером группы 128 и асимметричным квантованием; итоговый размер файлов составляет около 19 ГБ. На конфигурации из двух RTX 3090 с vLLM и FP8 KV-cache модель успешно обрабатывала контексты до 229 200 токенов в тесте извлечения данных, однако это не является заявленным максимальным размером контекста. Сильные стороны — сохранённые мультимодальность, tool calling и MTP-ускорение: в тестовой конфигурации измерялась скорость до 96,3 токена в секунду, а коэффициент принятия MTP-токенов составил 64,9%. Модель описана как uncensored, а в двух проверочных запросах отказов не было. Ограничение — квантизация выполнена не из исходных BF16-весов, а через восстановление из Q8_K_P GGUF и последующее 4-битное квантование, поэтому возможны накопленные ошибки. Стандартизированные тесты качества не проводились. Лицензия — Apache 2.0.

Qwen3.8-9B-Distill-uncensored-heretic-GGUF — GGUF-квантизированная версия модели Qwen3.8-9B-Distill, подготовленная пользователем petruhonk на базе empero-ai/Qwen3.8-9B-Distill. Модель подвергнута «abliteration» с помощью Heretic v1.4.0 для снижения числа отказов при ответах на запросы, которые исходная модель отклоняет. Она предназначена для генерации текста, диалоговых приложений, агентских сценариев и функционального вызова инструментов через llama.cpp. Модель содержит 9 млрд параметров, 33 блока и сохранённую MTP-голову для speculative decoding с режимом draft-mtp. В репозитории опубликованы только текстовые веса в формате GGUF, предположительно с квантизацией Q8_0; для запуска с мультимодальными возможностями необходим отдельный файл mmproj. Исходная архитектура поддерживает изображения и видео, однако данный репозиторий не содержит соответствующих компонентов. Встроенный шаблон чата поддерживает tools и <tool_call>, а пример запуска рассчитан на контекст до 32768 токенов. К сильным сторонам относятся сохранённая MTP-голова, совместимость со speculative decoding и существенно меньшее число отказов по сравнению с исходной моделью: 6 из 100 против 100 из 100 в указанном тесте. Ограничения включают неполную мультимодальную поставку, зависимость качества и потребления памяти от выбранной квантизации, а также возможные изменения поведения из-за abliteration; показатель KL-дивергенции относительно исходной модели составляет 0,0306. Модель распространяется по лицензии Apache-2.0.

Карточка модели willhx/Qwen3-8B-Base-TauSFT на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.