I.11Классификация, ранжирование и сопоставление

MInAlA/Llama-3.2-3B-DPO-merged — диалоговая языковая модель на архитектуре Llama, полученная выравниванием Llama-3.2-3B-Instruct методом DPO на наборе предпочтений argilla/ultrafeedback-binarized-preferences. Модель содержит 3,2 млрд параметров, принимает текст и генерирует текст; поддерживает контекст до 131072 токенов и предназначена для использования через библиотеку Transformers. Модель подходит для диалогов, генерации ответов и других текстовых задач общего назначения. В метаданных указаны мультиязычные возможности базовой модели, но конкретный перечень языков для этой производной модели не приведён. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Llama-3-Giraffe-70B — экспериментальная длинноконтекстная версия Llama 3 70B, представленная Abacus.AI. Это плотная авторегрессионная языковая модель на архитектуре LlamaForCausalLM с 69,5 млрд параметров; README сообщает об эффективном контексте около 128 тыс. токенов, тогда как в метаданных указан native context 8192 токена. Для расширения контекста применялись PoSE и динамическая NTK-интерполяция: обучение включало около 1 млрд токенов и длинные образцы из RedPajama. Модель предназначена для генерации текста и экспериментов с извлечением информации из длинных последовательностей, например поиска фрагмента в большом документе. В README приведена оценка Needle-in-a-Haystack на контекстах до 128 тыс. токенов, но это начальный выпуск, и авторы отмечают, что планируют улучшать результаты по мере дальнейшего обучения. Модель принимает и генерирует текст; в метаданных указан английский язык. Лицензия — Llama 3 license (llama3).

TheBloke/LLaMA-7b-GGUF — это квантизированная версия языковой модели LLaMA 7B, разработанной Meta. Репозиторий подготовлен TheBloke и содержит файлы в формате GGUF для запуска модели через llama.cpp и совместимые приложения. Модель предназначена для генерации и продолжения текста, диалоговых и других сценариев инференса с использованием произвольного текстового запроса. Доступны варианты квантизации от 2 до 8 бит, рассчитанные на запуск с использованием CPU и GPU; конкретные требования к памяти зависят от выбранного файла. Формат GGUF поддерживается llama.cpp, text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и рядом других инструментов. Ключевые характеристики — архитектура LLaMA, размер 7 миллиардов параметров и текстовая модальность. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Квантизация снижает требования к памяти и упрощает локальный запуск, однако низкобитные варианты могут заметно ухудшать качество, особенно самые компактные версии. Модель не является мультимодальной, а её точные ограничения по качеству и применению зависят от выбранного метода квантизации. В метаданных указана лицензия other; конкретные условия лицензии в README не приведены, поэтому перед использованием необходимо проверить лицензионные условия оригинальной модели Meta.

Luminum-v0.1-123B — объединённая языковая модель FluffyKaeloky на архитектуре MistralForCausalLM, созданная с помощью метода della_linear на основе Mistral Large Instruct 2407 с добавлением Lumimaid-v0.2-123B и Magnum-v2-123B. Модель содержит 122,2 млрд параметров и поддерживает контекст до 131 072 токенов; автор сообщает об успешном тестировании длинных запросов свыше 32 тысяч токенов, обычно до 40–50 тысяч. Модель предназначена для диалогов, генерации текста и творческих описаний. По оценке автора, она сочетает возможности базовой Mistral Large, характерную лексику Lumimaid и описательность Magnum, сохраняя ответы менее многословными, чем Magnum. Используется шаблон Mistral [INST] ... [/INST]; заявлены интерфейс вызова инструментов и варианты файлов GGUF и EXL2. Модель может выдавать чрезмерно длинные ответы, если не ограничивать их длину. README не сообщает лицензию; условия использования следует сверить с карточкой и лицензиями компонентов слияния.

mergekit-community/LWM-14b-Text-Chat-1M — текстовая чат-модель семейства LLaMA, созданная сообществом с помощью mergekit. В README указано слияние методом DARE linear на основе LargeWorldModel/LWM-Text-Chat-1M; в конфигурации одна и та же базовая модель перечислена дважды с весом 1.0. Метаданные указывают 6,6 млрд параметров и контекст до 1 048 576 токенов. Модель предназначена для генерации текста и диалоговых сценариев с длинным контекстом. Она принимает текст и выдаёт текст; в метаданных указаны Transformers и формат safetensors. Язык и специализированная предметная область не обозначены. Лицензия в предоставленных данных не указана.

LYRAMOON — разговорная языковая модель, разработанная и сопровождаемая Muhammad Taqi. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалога, рассуждений, оценки сложной логики и генерации кода. Карточка позиционирует её как движок для многоходового общения; метаданные также отмечают чат и интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В метаданных указан контекст до 32 768 токенов и поддержка английского языка; модель рассчитана на запуск через Transformers. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0. Заявленные возможности рассуждения, скорости и качества генерации кода не подкреплены в карточке оценками или результатами тестирования. Поэтому качество на конкретных задачах следует проверять отдельно; подтверждена поддержка английского, но не иных языков.

MegaHyperLlama3.1 — объединённая плотная языковая модель семейства Llama, созданная с помощью mergekit методом TIES на основе unsloth/Meta-Llama-3.1-8B и моделей bunnycore/HyperLlama-3.1-8B и bunnycore/HyperLLama3.1-Mix-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; поддерживает контекст до 131 072 токенов. Модель подходит для диалоговых приложений и генерации текста с длинным контекстом. Карточка не приводит сведения о поддерживаемых языках, специальных областях применения или результатах оценки качества. Весовые файлы доступны в формате safetensors; лицензия в предоставленных данных не указана.

Mergerix-7b-v0.3 — объединённая текстовая модель семейства Mistral, опубликованная MiniMoog. Она создана методом слияния model_stock с помощью LazyMergekit на основе Gille/StrangeMerges_32-7B-slerp, yam-peleg/Experiment26-7B и liminerity/M7-7b; в конфигурации последняя указана как базовая. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста, в том числе диалоговых ответов. Контекст составляет до 32 768 токенов; веса доступны в формате Safetensors. Модель подходит для генерации текста и ведения диалога. Для неё указана лицензия Apache-2.0. README описывает состав и метод слияния, но не приводит оценки качества или конкретных ограничений; результаты могут зависеть от сценария применения.

MRAIRR/minillama3_8b_all — диалоговая языковая модель семейства Llama, основанная на allganize/Llama-3-Alpha-Ko-8B-Instruct. Это плотная авторегрессионная модель для генерации текста и чата с 7,5 млрд параметров и контекстом до 8192 токенов. Репозиторий содержит веса PyTorch; модель создана на основе базовой модели Allganize, однако способ её получения в карточке не уточнён. Она предназначена для диалогов и генерации текста. Лицензия — Apache 2.0.

NickyNicky/Mistral-7B-OpenOrca-oasst_top1_2023-08-25-v2 — разговорная языковая модель на архитектуре Mistral, созданная на основе Open-Orca/Mistral-7B-OpenOrca. В карточке указано обучение на данных OpenAssistant/oasst_top1_2023-08-25; метаданные также связывают модель с Open-Orca/OpenOrca. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалогах: она может отвечать на вопросы, поддерживать беседу и формулировать текстовые ответы. В карточке и метаданных перечислены болгарский, каталанский, чешский, датский, немецкий, английский, испанский, французский, хорватский, венгерский, итальянский, нидерландский, польский, португальский, румынский, русский, словенский, сербский, шведский и украинский языки. Лицензия — Apache-2.0. Оценки качества и подробные ограничения в доступных сведениях не приведены.

Mistral-Small-2501-SCE-Mashup-24B — объединённая текстовая модель, созданная сообществом mergekit-community методом SCE на основе unsloth/Mistral-Small-24B-Base-2501 и нескольких дообученных моделей семейства Mistral и других текстовых моделей. Она предназначена для генерации текста и диалогового общения. Модель использует плотную архитектуру MistralForCausalLM, содержит 23,4 млрд параметров и поддерживает контекст до 32 768 токенов. В состав слияния вошли модели ArliAI, ReadyArt, TheDrummer, arcee-ai, PocketDoc и trashpanda-org. Репозиторий содержит веса в формате safetensors и рассчитан на использование через Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

Модель vicky4s4s/Mixtral-instruct-56B — разговорная языковая модель на архитектуре Mixtral, опубликованная Vignesh. Карточка описывает её как instruct-версию Mixtral-8x7B: разреженную Mixture of Experts для генерации текста и диалога. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов; доступны веса в safetensors и интерфейс чата. Модель предназначена для диалоговых ответов и генерации текста по инструкциям. В карточке приведён пример использования через Transformers и шаблон диалога Mixtral. Языковые метки охватывают английский, французский, итальянский, немецкий и испанский; датасеты карточки включают UltraChat 200K и LLaVA-Instruct-150K. Лицензия — Apache-2.0. В README отмечено, что веса происходят из оригинального релиза Mixtral, но формат и имена параметров изменены; также указана несовместимость с прямой инициализацией через Hugging Face Transformers. Модель не имеет встроенных механизмов модерации, поэтому её ответы могут требовать внешних ограничителей. Название репозитория заявляет 56B, однако метаданные указывают 7,1 млрд параметров, поэтому размер описан по метаданным.

Это GGUF-квантизированная версия текстовой генеративной модели Qwen3-14B-ft-limo, разработанной mrm8488 и дополнительно подготовленной в различных вариантах точности пользователем bartowski. Базовая модель связана с датасетом GAIR/LIMO и предназначена для генерации текста, включая запуск локально через llama.cpp, LM Studio и совместимые проекты. Модель имеет размер 14 млрд параметров и поддерживает наборы весов от BF16 до низкоразрядных вариантов Q2–Q8, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью работы. Рекомендуемыми указаны варианты Q4_K_M, Q5 и Q6; более компактные версии подходят для систем с ограниченной оперативной памятью, но обеспечивают более низкое качество. Используется шаблон запросов в формате ChatML. Сведения о поддерживаемых языках, максимальном контексте и дополнительных модальностях в README не приведены, поэтому модель следует рассматривать как текстовую. Сильной стороной являются разнообразные варианты квантизации, включая imatrix-квантизацию, позволяющие запускать модель на локальном оборудовании. Ограничения зависят от выбранного формата: уменьшение размера весов может снижать качество генерации, а для запуска требуются совместимые llama.cpp-инструменты и достаточный объём памяти. Указанная лицензия — Apache-2.0.

NeuralsirkrishnaShadow_M7Alloyingotneoy — объединённая модель для генерации текста, созданная на основе automerger/NeuralsirkrishnaShadow-7B и automerger/M7Alloyingotneoy-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; длина контекста составляет до 32 768 токенов. Модель подходит для генерации продолжений текста и диалоговых ответов в приложениях на базе языковых моделей. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Карточка модели OpenBuddy/openbuddy-llama3.1-8b-v22.3-131k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-llama3.1-8b-v22.2-131k, поэтому описание составлено по ней. OpenBuddy — мультиязычная разговорная модель, созданная на базе Meta Llama 3.1 8B Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов, предназначенная для диалога и генерации текста. Её можно запускать локально через Ollama, а для развёртывания API README рекомендует Transformers или vLLM и соответствующий формат токенизатора. Модель предназначена прежде всего для общения на английском и китайском языках; метаданные также перечисляют французский, немецкий, японский, корейский, итальянский и финский. OpenBuddy указывает лицензию как other, а README отсылает к условиям использования и предупреждает, что ответы могут быть ошибочными или вредными. Модель не рекомендуется для медицинских, финансовых, юридических и других критически важных решений.

Ornith-9B Custom — Damien FLETY (damfle) выполнил дообучение модели Ornith-1.0-9B. Это плотная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration; метаданные указывают 7,5 млрд параметров. Модель поддерживает диалог и работу с изображениями, а её основное назначение по карточке — интеграция в RAG-сценарии и эффективный инференс. Модель можно применять для вопросов по документам с контекстом из поиска и для диалога с визуальными входными данными. В README упомянуты планы оптимизации для 4-битной квантизации и FP8, однако они обозначены как будущие; среди форматов репозитория указаны safetensors. Метаданные задают языки карточки как французский и английский. Лицензия указана как ISC, хотя README говорит, что модель наследует лицензию базовой модели и предлагает свериться с её условиями.

PaddleOCR-VL — мультимодальная модель Baidu для разбора документов по изображениям. Вариант в этом репозитории дообучен на основе baidu/ERNIE-4.5-0.3B-Paddle; метаданные указывают 318,2 млн параметров, архитектуру PaddleOCRVLForConditionalGeneration и контекст 131 072 токена. Карточка описывает семейство PaddleOCR-VL-0.9B с визуальным энкодером динамического разрешения в стиле NaViT и языковой моделью ERNIE-4.5-0.3B. Модель извлекает текст и распознаёт структурные элементы документов, включая таблицы, формулы и диаграммы. Она рассчитана на многоязычные документы, в том числе с рукописным текстом и историческими материалами; README заявляет поддержку 109 языков. В метаданных указаны английский и китайский языки. Такая модель подходит для систем оцифровки и анализа документов; карточка заявляет высокую точность и быструю работу, но не приводит здесь подробных количественных результатов. Для полной обработки документов README описывает PaddleOCR, а поддержку вывода через Transformers характеризует как ограниченную распознаванием отдельных элементов. Лицензия — Apache-2.0.

Это компактная языковая модель Qwen3-1.7B на 1,7 млрд параметров, подготовленная для запуска на RK1820 и работы через LlamaPi. В основе — плотная архитектура Qwen3ForCausalLM; репозиторий содержит веса в формате GGUF. Модель разработала команда Qwen, а данная версия основана на Qwen/Qwen3-1.7B. Модель генерирует текст и подходит для диалогов, следования инструкциям, рассуждений и написания кода. Поддерживает режимы с рассуждением и без него, а также более 100 языков и диалектов. Контекстное окно — до 40 960 токенов. Метаданные указывают интерфейс для вызова инструментов. Модель распространяется по лицензии Apache-2.0. Это компактная модель для локального и периферийного запуска; качество ответов и скорость могут зависеть от устройства и конфигурации. README не приводит отдельной оценки качества этой сборки.

Это частный чекпойнт Exolabs, полученный преобразованием весов Qwen3.5-9B Q4_K_M из GGUF в формат Hugging Face/vLLM BF16. Исходные веса были деквантизированы в FP32, приведены к раскладке тензоров, используемой Hugging Face и vLLM, затем преобразованы в BF16; конфигурация, токенизатор и шаблон чата взяты из Qwen/Qwen3.5-9B. Метаданные описывают модель как плотную мультимодальную архитектуру Qwen3.5 с поддержкой обработки изображений и текста, диалога и интерфейса вызова инструментов. Модель предназначена для диалоговых и мультимодальных сценариев, включая ответы на вопросы по изображениям. В README приведена проверка запуска на vLLM 0.23.0 с ограничением контекста 4096 токенов и режимом только языковой модели; показаны базовые проверки генерации текста. Исходная модель содержит 9 млрд параметров. Указанная лицензия — Apache-2.0. Весовая точность BF16 получена из квантованного источника Q4_K_M, поэтому восстановление в BF16 не возвращает точность исходных неквантованных весов. README приводит только простые проверки генерации, без количественной оценки качества; запуск проверен с указанными настройками vLLM.

MLX-версия языковой модели Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16, разработанная на основе модели AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 и конвертированная в формат MLX с помощью mlx-lm 0.31.2. Модель предназначена для генерации и продолжения текста, диалоговых приложений и локального запуска на устройствах, поддерживающих MLX. Модель имеет около 27 млрд параметров и представлена в 8-битном формате MLX; исходная модель использует BF16. В метаданных указаны архитектурные компоненты hybrid attention, Mamba и gated-deltanet, а также поддержка английского, китайского и мультиязычного текста. Длина контекста в README не указана. Для работы требуется библиотека mlx-lm и совместимое с MLX окружение. К сильным сторонам относятся крупный размер, оптимизация для экосистемы MLX и возможность локального использования. Ограничения включают отсутствие данных о качестве на конкретных тестах, производительности, точном наборе поддерживаемых языков и размере контекста. Модель помечена как abliterated и uncensored, поэтому её ответы могут иметь меньше встроенных ограничений безопасности; это следует учитывать при практическом применении. Лицензия — Apache 2.0.

LuffyTheFox/Qwen3.6-27B-Uncensored-Genesis-MTP-GGUF — мультимодальная локальная модель семейства Qwen3.6, созданная LuffyTheFox на основе HauhauCS/Qwen3.6-27B-Uncensored-HauhauCS-Aggressive. Автор применяет собственный метод Genesis для численной коррекции весов GGUF без дополнительного обучения или дообучения, стремясь уменьшить шум в тензорах и повысить стабильность генерации. Базовая модель связана с Tongyi Lab команды Alibaba Group, однако сведения о точном авторстве исходной архитектуры в README ограничены. Модель предназначена прежде всего для локального использования, включая программирование и работу в LM Studio с агентом Bionic. Она поддерживает текст, изображения и видео; для работы с изображениями требуется отдельный файл mmproj. Заявлены языки English, Chinese и многоязычная поддержка. Модель содержит 27 млрд плотных параметров, 64 слоя, 48 слоёв линейного внимания и 16 слоёв полноформатного gated attention. Нативный контекст составляет 262 тысячи токенов и может быть расширен примерно до 1 млн с помощью YaRN. К сильным сторонам относятся большой контекст, мультимодальность, ориентация на локальный запуск и заявленная автором коррекция деградации весов. При этом README не содержит независимых результатов тестирования, поэтому преимущества Genesis над исходной моделью нельзя считать подтверждёнными. Для запуска рекомендуется квантование Q3_K_M при наличии около 16 ГБ VRAM или Q4_K_M при 24 ГБ VRAM, максимальная выгрузка на GPU и F16 для K/V cache. Модель обозначена как uncensored, поэтому её поведение и защитные ограничения могут отличаться от стандартных версий Qwen. Указана лицензия Apache-2.0.

Это производная мультимодальная модель семейства Qwen, созданная Nickyang на основе Qwen/Qwen3.6-35B-A3B методом RAZOR — прореживанием экспертов без градиентного дообучения. В каждом MoE-слое оставлено 128 из 256 маршрутизируемых экспертов. Размер модели составляет 19,4 млрд параметров (19 млрд без модуля многотокенного предсказания), при этом на токен активируется около 3 млрд параметров. Веса представлены в bfloat16 и формате safetensors; для запуска нужна сборка Transformers со встроенной реализацией qwen3_5_moe. Модель предназначена для генерации текста и диалогов, а также может использовать интерфейс вызова инструментов. Базовая модель Qwen поддерживает анализ изображений, однако README этой производной описывает прореживание экспертных весов и не уточняет сохранение мультимодальных возможностей. Лицензия — Apache 2.0. Прореживание уменьшает объём хранимых экспертных весов, сохраняя почти неизменной вычислительную нагрузку на токен. Оно является потерным: ответы могут отличаться по разнообразию, форматированию и поведению при завершении, даже если точность на отдельных задачах в основном сохраняется. Поведение на областях, слабо представленных в конечном калибровочном наборе, не охарактеризовано; перед развёртыванием следует оценить модель на целевых данных.

Это текстовая языковая модель семейства Qwen3.8 от RVN, опубликованная пользователем 0bserverx как полный набор весов в формате safetensors для запуска через Transformers, vLLM и SGLang. Репозиторий представляет собой реконструкцию FP16-весов из существующего GGUF-чекпойнта; это не новая тренировка и не точное восстановление недоступного исходного чекпойнта RVN. Архитектура — плотная Qwen3_5ForCausalLM, в метаданных указано 22,3 млрд параметров, контекст — до 262 144 токенов. Модель предназначена для генерации текста в диалогах и развёртывания как локальный или серверный чат-интерфейс. Карточка подтверждает короткие проверки генерации текста, перевода на турецкий, JSON-ответа и формирования вызова инструмента; вызов инструмента проверял генерацию запроса, а не исполнение внешней функции. Модель текстовая: визуальный энкодер и MTP-голова в опубликованных весах отсутствуют. В README модель названа abliterated и uncensored, поэтому она рассчитана на генерацию с ослабленными ограничениями отказа. Представлены 13 шардов весов: 498 тензоров хранятся в F16, 353 — в F32. Проверки запуска на vLLM и SGLang прошли на одной конфигурации GPU с контекстом 4096 токенов; авторы подчёркивают, что это дымовые тесты, а не широкая оценка качества, производительности или длинного контекста. Лицензия — Apache-2.0.

Это семейство GGUF-квантизированных вариантов модели Qwen3.8-27B, опубликованное разработчиком MagicQuant и основанное на базовой модели Qwen/Qwen3.8-27B. Релиз предназначен для генерации текста и диалоговых сценариев, а также для локального запуска моделей через совместимое с GGUF программное обеспечение, включая инструменты llama.cpp. В набор входят гибридные конфигурации MagicQuant и варианты Unsloth с разными уровнями квантования — от MQ-Q6_K_1 и MQ-Q6_K_2 до MQ-IQ2_XXS_1. Размер файлов составляет примерно от 8,27 до 29,03 ГБ. README описывает сравнительное тестирование по метрике KLD и отбор конфигураций, показавших лучшие компромиссы между размером и сохранением характеристик исходной модели. Точные сведения об архитектуре, длине контекста, поддерживаемых языках и модальностях кроме текстовой генерации не указаны. Основные преимущества — широкий выбор размеров, возможность подобрать вариант под доступную память и сохранение качества при использовании более крупных квантов; однако степень потери качества зависит от выбранной конфигурации, а наиболее компактные варианты имеют существенно более высокий KLD. Условия распространения указаны как Apache-2.0.

Это текстовая сборка модели Qwen3.8-27B, подготовленная YaiLabs из Qwen/Qwen3.8-27B и опубликованная в формате GGUF v3 с весами BF16. В неё включены 851 тензор текстового декодера, эмбеддингов и выходного слоя; это не полная мультимодальная модель на 27 млрд параметров, поэтому обработка изображений и видео в этой сборке не поддерживается. Сборка предназначена для генерации текста и диалогов. README подтверждает успешную загрузку, короткий чат-ответ и выгрузку модели в YVEX на NVIDIA DGX Spark с контекстом 4096 токенов. Это ограниченная проверка совместимости конкретных файлов и конфигурации, а не оценка качества или производительности и не гарантия работы в любом GGUF-совместимом движке. Файл занимает около 53,8 ГБ. Лицензия — Apache 2.0.

Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored-NVFP4 — это квантованный чекпойнт модели, опубликованный esatapedico. Он создан на основе DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, которая, в свою очередь, происходит от Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и диалоговых сценариев; настройка TWIN-TURBO ориентирована на сокращение числа токенов рассуждений при сохранении качества ответов. Заявлена поддержка английского и мультиязычных сценариев. Модель использует архитектуру Qwen3_5ForCausalLM с 64 слоями, гибридным GatedDeltaNet, 16 полными слоями attention и контекстом до 262144 токенов. Присутствует MTP head, а токенизатор и chat template сохранены. Квантование выполнено в формате compressed-tensors NVFP4: W4A16, веса с группами размера 16 и FP8 E4M3 scales. MLP-слои, а также Q, K, V и O в слоях полного attention представлены в NVFP4, тогда как vision tower, linear attention path, lm_head, embeddings и MTP head сохранены в BF16. Калибровочные данные не использовались. К сильным сторонам относятся существенно сжатое представление весов, большой контекст и сохранение ряда чувствительных компонентов в BF16; работоспособность проверялась с помощью smoke-теста vLLM на двух устройствах с tensor parallel. Ограничениями являются зависимость от поддержки NVFP4 и compressed-tensors, отсутствие калибровки, а также то, что README не приводит подробных результатов оценки качества или перечень поддерживаемых языков. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-Uncensored-Q4_0-ROCmFP4-STRIX — квантованная GGUF-версия модели Qwen3.8-27B, разработанной Qwen, с уменьшенным отказом от выполнения запросов. Данный релиз опубликован nydemeth и оптимизирован для систем AMD Strix Halo с использованием ROCmFPX. Модель предназначена для генерации текста, контролируемых исследований, red-teaming, анализа интерпретируемости и оценки защитных механизмов. Основной файл использует нестандартный формат GGUF Q4_0_ROCMFP4_STRIX и занимает около 13,75 GiB; отдельно доступен необязательный MTP-ассистент Q4_0 размером около 1,89 GiB для speculative decoding. Пакет рассчитан на текстовые задачи и не содержит vision projector, поэтому визуальные входы не поддерживаются. Точные сведения о языках, размере контекста и полном устройстве архитектуры в README не указаны. Для работы требуется совместимая сборка ROCmFPX с поддержкой hybrid architecture и MTP; совместимость с другими версиями не гарантируется. Сильной стороной является оптимизация под AMD Strix Halo и возможность ускорения генерации через speculative decoding. Существенное ограничение — нестандартный формат квантования и зависимость от конкретной программной среды. Из-за значительно сниженного отказа модель не рекомендуется для немодерируемого публичного или производственного использования. Базовая модель распространяется по Apache License 2.0; при распространении необходимо соблюдать условия upstream-лицензии и требования по атрибуции.

Карточка модели etiennebamas/qwen3-lr-1-e-5-neat на Hugging Face совпадает с карточкой etiennebamas/qwen3-step32k-1e5, поэтому описание составлено по ней. Qwen3-step32k-1e5 — диалоговая модель генерации текста на базе Qwen3 с 7,6 млрд параметров, дообученная Etienne Bamas на датасете SFT от formalmathatepfl/qwen3-cpt. Она предназначена для текстовых запросов и диалоговых сценариев; использует плотную архитектуру Qwen3 и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors и рассчитана на работу через Transformers. Карточка не описывает конкретные специализации, результаты оценки или известные ограничения качества. Лицензия указана как other, поэтому условия использования следует сверять с лицензией в репозитории модели и базовой модели.

Модель thao-uyen1508/qwen3_MT_epoch1_16bit — дообученная автором thao-uyen1508 плотная языковая модель Qwen3 с 14 млрд параметров. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель обучалась с Unsloth и библиотекой TRL и распространяется в формате safetensors. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 40 960 токенов. Она основана на unsloth/qwen3-14b-unsloth-bnb-4bit и выпущена по лицензии Apache-2.0.

Qwermes3.8 — это дообученная модель Qwen3.8-27B, опубликованная в формате GGUF с квантизацией NVFP4. Автор карточки описывает гибридную плотную архитектуру из 64 слоёв: 48 слоёв Gated DeltaNet с линейным вниманием и 16 слоёв полного внимания. Модель предназначена для генерации текста и диалогов; визуальная оболочка исходной модели удалена, поэтому этот вариант работает только с текстом. Репозиторий рассчитан на запуск через llama.cpp или Ollama, в том числе на рабочих станциях с GPU Blackwell. Заявлен контекст до 262 тыс. токенов, но KV-кэш требует около 117 КБ на токен: для контекста 128 тыс. токенов потребуется примерно 14,7 ГБ видеопамяти, а для 262 тыс. — около 30 ГБ. README приводит замеры скорости и perplexity, но качество проверялось лишь на небольшом наборе ручных запросов без формальной оценки. Лицензия — Apache-2.0.