II.8Инженерия данных и аналитика

Карточка модели 1024m/Llama-3.2-3B-Base на Hugging Face совпадает с карточкой alpindale/Llama-3.2-3B, поэтому описание составлено по ней. alpindale/Llama-3.2-3B — текстовая модель семейства Llama 3.2, разработанного Meta. Это авторегрессионная плотная трансформерная модель с 3,2 млрд параметров и архитектурой LlamaForCausalLM; репозиторий содержит веса Safetensors для Transformers. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана на многоязычную генерацию. Модель подходит для диалогового помощника, суммаризации, поиска знаний и приложений с агентными сценариями, а также для мобильных помощников по написанию текста и переформулирования запросов. В README описаны применение и возможности семейства Llama 3.2; отдельное дообучение alpindale/Llama-3.2-3B не подтверждено, поэтому характеристики поведения конкретного чекпойнта могут отличаться от описания семейства. Заявленные языки поддержки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия llama3.2 — пользовательская лицензия сообщества Meta с собственными условиями коммерческого использования и политикой допустимого использования. Модель обучена на статическом офлайн-наборе данных; как компактная модель, она может уступать более крупным системам по качеству и требует проверки безопасности и пригодности для конкретного применения.

Llama-3-SauerkrautLM-8b-Instruct-GGUF — это инструкционная языковая модель семейства Llama 3 в формате GGUF, опубликованная пользователем или организацией bartowski. По названию и указанным метаданным модель имеет размер 8 миллиардов параметров и ориентирована на диалоговое взаимодействие и выполнение инструкций. В карточке заявлена поддержка немецкого и английского языков, а также указано обучение методом DPO в два этапа. Модель предназначена для генерации текста, ответов на инструкции и других сценариев использования локальной LLM, совместимой с инструментами инференса, поддерживающими формат GGUF. Ключевыми особенностями являются принадлежность к семейству Llama 3, инструкционная настройка и оптимизация предпочтений методом DPO. Сведения о точной архитектуре, длине контекста, модальностях, конкретных вариантах квантования, производительности и ограничениях в README не приведены, поэтому их необходимо уточнять отдельно. Использование регулируется Meta Llama 3 Community License. Лицензия разрешает использование, воспроизведение, распространение и создание производных работ на установленных условиях, включая соблюдение Acceptable Use Policy, сохранение уведомления об атрибуции и отображение фразы «Built with Meta Llama 3» при распространении материалов или продуктов на их основе. Для производных моделей также требуется включать «Llama 3» в начало названия; для организаций с более чем 700 миллионами ежемесячных активных пользователей предусмотрены дополнительные лицензионные условия.

unsloth/Meta-Llama-3.1-70B-bnb-4bit — это 4-битно квантованная версия базовой модели Meta Llama 3.1 70B, подготовленная Unsloth для эффективного использования и дообучения. Модель предназначена прежде всего для генерации и обработки текста, включая диалоговые сценарии, продолжение текста и адаптацию под специализированные наборы данных с помощью fine-tuning или DPO. Указан английский язык и поддержка библиотеки Transformers; мультимодальность не заявлена. Ключевая характеристика модели — размер 70 млрд параметров и представление в формате bnb-4bit, снижающее требования к памяти по сравнению с полной точностью. README не содержит сведений о длине контекста, точной архитектуре, вычислительной производительности именно этой версии или результатах оценки качества. К сильным сторонам относятся крупный размер базовой модели и возможность более доступного запуска и дообучения; ограничениями являются повышенные требования к вычислительным ресурсам по сравнению с меньшими моделями и возможные потери качества из-за 4-битной квантизации. Модель распространяется по лицензии llama3.1.

mlx-community/Meta-Llama-3.1-70B-Instruct-8bit — 8-битная версия инструкционно дообученной большой языковой модели Meta Llama 3.1 с 70 миллиардами параметров, подготовленная сообществом mlx-community для использования в экосистеме MLX. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на вопросы, написание и преобразование текста. В карточке указаны поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель относится к классу text-generation и использует библиотеку Transformers; модальность — текстовая. Ключевая особенность варианта — 8-битное представление весов, которое может снизить требования к памяти по сравнению с полноразмерной моделью, сохраняя принадлежность к крупной 70B-модели. При этом для запуска всё равно требуются значительные вычислительные ресурсы, а конкретные показатели качества, производительности и максимального контекста в README не указаны. Как и другие языковые модели, она может генерировать неточные или нежелательные ответы, поэтому результаты требуют проверки. Модель распространяется по Llama 3.1 Community License от Meta. Лицензия разрешает использование, воспроизведение, распространение и создание производных работ при соблюдении её условий, включая передачу текста лицензии, указание «Built with Llama», атрибуцию и соблюдение Acceptable Use Policy. Для продуктов и сервисов с более чем 700 миллионами активных пользователей в месяц предусмотрено требование запросить отдельную лицензию у Meta.

Meta-Llama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, опубликованная Meta и представленная в репозитории Unsloth в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев; карточка также описывает её как основу для дообучения с помощью ноутбуков Unsloth. Модель содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Для использования действует лицензия Llama 3.1. README не приводит результатов оценки качества или подробных ограничений применения.

Meta-Llama-3.1-8B-Instruct-abliterated-IMat-GGUF — это GGUF-сборка инструкционной языковой модели mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated, подготовленная и квантованная пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и диалогового использования в локальных приложениях, поддерживающих формат GGUF и llama.cpp. Доступны варианты от BF16 и FP16 до квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ4. Для ряда вариантов применена IMatrix-квантизация, призванная сохранить качество при уменьшении размера модели. Размер базовой модели составляет 8B параметров, исходный тип данных — BF16. В README не указаны точный размер контекста, перечень поддерживаемых языков и мультимодальные возможности; по представленным данным это текстовая модель без заявленной поддержки изображений или других модальностей. Сильными сторонами сборки являются широкий выбор уровней квантования, возможность локального запуска и наличие вариантов, оптимизированных по соотношению качества и потребления памяти. Ограничения включают потенциальную потерю качества в низкобитных вариантах, зависимость производительности от оборудования и совместимость с llama.cpp или другим ПО, поддерживающим GGUF. Основа модели обозначена как abliterated и uncensored, поэтому встроенные ограничения безопасности могут быть ослаблены; это следует учитывать при использовании. Указанная лицензия — Llama 3.1.

NoelJacob/Meta-Llama-3-8B-Instruct-Q4_K_M-GGUF — это квантизированная версия инструкционно дообученной языковой модели Meta Llama 3 с приблизительно 8 млрд параметров, подготовленная NoelJacob в формате GGUF для использования с llama.cpp и совместимыми инструментами. Модель предназначена для генерации и обработки текста, включая диалоговые сценарии и выполнение инструкций. В метаданных указан английский язык; другие языки и поддержка дополнительных модальностей не заявлены. Обозначение Q4_K_M указывает на 4-битную квантизацию варианта K_M, которая обычно уменьшает требования к памяти и упрощает локальный запуск по сравнению с полноразмерными весами, но может снижать точность относительно исходной модели. В предоставленных данных не указаны размер файла, максимальная длина контекста, конкретные требования к оборудованию, результаты тестирования или дополнительные ограничения качества. Модель распространяется на условиях Meta Llama 3 Community License. При использовании и распространении необходимо соблюдать условия этой лицензии, включая требования к атрибуции, отображению обозначения «Built with Meta Llama 3», соблюдению Acceptable Use Policy и специальные коммерческие условия для продуктов с более чем 700 млн ежемесячных активных пользователей.

MiMo-V2.5 — мультимодальная модель Xiaomi для диалогов, понимания изображений, видео и аудио, а также агентных сценариев. Она построена на разреженной MoE-архитектуре MiMo-V2-Flash с гибридным вниманием и отдельными визуальным и аудиокодировщиками. Метаданные репозитория указывают 12 млрд параметров и формат safetensors FP8; README описывает семейство MiMo-V2.5 как модель на 310 млрд параметров, из которых активируются 15 млрд. Эти сведения расходятся, поэтому размер конкретного чекпойнта неоднозначен. Модель рассчитана на генерацию текста, мультимодальное понимание и работу с длинным контекстом до 1 048 576 токенов. README заявляет поддержку текста, изображений, видео и аудио, а также обучение для агентных задач; метаданные отмечают чат и интерфейс вызова инструментов. В карточке указаны английский и китайский языки. Репозиторий распространяется по лицензии MIT. Для корректного поведения следует использовать обновлённые config.json и tokenizer_config.json, поскольку устаревшие версии, по сообщению разработчика, могут ухудшить качество.

amd/MiniMax-M2.7-MXFP4 — текстовая языковая модель MiniMax M2.7, разработанная MiniMax и оптимизированная AMD. Модель принимает текст и генерирует текст, предназначена для задач генерации и обработки естественного языка, включая сценарии с рассуждениями и вызовом инструментов. Указан английский язык; дополнительные языки в карточке не заявлены. Модель реализована на архитектуре MiniMaxM2ForCausalLM и представляет собой статически квантизованную версию amd/MiniMax-M2.7-BF16. Веса и активации квантизованы в формате OCP MXFP4 с использованием AMD-Quark: для весов применяется статическая, а для активаций — динамическая квантизация. Поддерживаются аппаратные платформы AMD MI350 и MI355, ROCm 7.2.1, PyTorch 2.10.0 и Linux. Для инференса указаны SGLang и vLLM; конфигурация также поддерживает tensor parallelism, выбор инструментов и парсеры MiniMax для вызова инструментов и рассуждений. Размер модели и длина контекста не указаны. Сильной стороной является существенное снижение точности представления при сохранении качества: на GSM8K модель получила 91,89 против 91,81 у исходной MiniMaxAI/MiniMax-M2.7, что соответствует восстановлению 100,09% результата. Ограничения включают зависимость от совместимого оборудования AMD и программного стека, а также отсутствие данных о качестве на других задачах, полном наборе языков и контекстном окне. Лицензия модифицированная MIT с некоммерческим использованием; коммерческое использование требует предварительного письменного разрешения MiniMax и соблюдения дополнительных условий.

MaziyarPanahi/Mistral-7B-Instruct-v0.1-GGUF — это набор файлов модели в формате GGUF для Mistral-7B-Instruct-v0.1, разработанной Mistral AI (mistralai) и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и инструкционного диалога, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Основа модели — Mistral с 7 миллиардами параметров; точные архитектурные характеристики, поддерживаемые языки и размер контекста в README не указаны. Доступны варианты квантизации от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файла, требованиями к памяти, скоростью и качеством. Формат GGUF ориентирован на эффективный запуск, в том числе с GPU-ускорением, в локальных интерфейсах и серверных решениях. Сильными сторонами являются широкий выбор уровней квантизации и совместимость с популярными инструментами локального инференса. Ограничения включают возможное снижение качества на агрессивно квантизированных вариантах, а также отсутствие в README подробных данных о результатах оценки, языковых возможностях и контекстном окне. Модель распространяется по лицензии Apache-2.0.

Mistral-7B-Instruct-v0.3-GGUF — набор квантизированных GGUF-версий модели Mistral-7B-Instruct-v0.3 от Mistral AI, подготовленный и опубликованный bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты от IQ1 и IQ2 до Q8_0, различающиеся размером файла, требованиями к памяти и качеством генерации. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях на базе llama.cpp и совместимых инструментов. Модель подходит для диалоговых сценариев, ответов на запросы и других задач текстовой генерации. Для работы используется формат запроса <s>[INST] {prompt} [/INST]</s>; системные сообщения не поддерживаются. В README не указаны контекстное окно, поддерживаемые языки и точная архитектура базовой модели, поэтому эти характеристики нельзя достоверно определить по имеющимся данным. Более высокие уровни квантизации обычно обеспечивают лучшее качество, а низкие позволяют снизить потребление памяти, но сопровождаются заметным ухудшением качества. Распространение указано под лицензией Apache-2.0.

Mixtral-8x7B-Instruct-v0.1-AWQ — это 4-битная AWQ-квантизованная версия инструкционной языковой модели Mixtral 8X7B Instruct v0.1, разработанной Mistral AI и подготовленной для публикации TheBloke. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, работу в чат-ботах и локальный запуск через совместимые инструменты инференса. Для форматирования запросов используется шаблон [INST] {prompt} [/INST]. Модель основана на архитектуре Mixtral и имеет максимальную длину последовательности 8192 токена. Доступна в формате AWQ с 4-битными весами, группой 128 и размером файлов около 24,65 ГБ; файлы поставляются в формате sharded safetensors. Заявлена поддержка английского, французского, итальянского, немецкого и испанского языков. Квантизация снижает требования к памяти и обеспечивает быстрый инференс на совместимых NVIDIA GPU, однако README не содержит точных требований к видеопамяти, результатов бенчмарков или подробных характеристик базовой архитектуры. Для работы рекомендуются Linux или Windows с NVIDIA GPU и совместимые версии Transformers, vLLM, Text Generation Inference, AutoAWQ или text-generation-webui. На macOS данный формат не рекомендуется; для этой платформы предлагаются GGUF-версии. Модель распространяется по лицензии Apache-2.0.

Это квантованная сборка NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16, подготовленная FreedomAISVR в формате GGUF для запуска через llama.cpp. Модель имеет гибридную архитектуру Mamba2 и Transformer с MoE: 30 млрд параметров, около 3 млрд активных, 52 слоя, включая 23 слоя Mamba2, 23 MoE-блока и 6 слоёв внимания; в MoE используются 128 экспертов и маршрутизация к шести из них. Для Mamba2-тензоров применяется F16, остальные веса хранятся в NVFP4; для обработки изображений README также описывает отдельный файл SigLIP-проектора. Модель предназначена для генерации текста и диалоговых сценариев с рассуждением. Заявленный контекст — 262 тыс. токенов. Поддержка изображений упоминается в комплекте файлов, однако метаданные классифицируют репозиторий только как text-generation. README сообщает, что CUDA-ядра Mamba2 требуют F32 и при работе с квантованными тензорами могут переводить соответствующие слои на CPU, что снижает производительность. Лицензия указана как other, без дополнительных условий в предоставленных данных.

Это GGUF-квантизация модели Nemotron-Cascade-2-30B-A3B, разработанной NVIDIA, подготовленная пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста общего назначения и задач, где важны рассуждения; в метаданных также указано обучение с применением SFT и RL. Доступны варианты от BF16 до различных уровней квантования GGUF, что позволяет выбирать между качеством, размером файлов и требованиями к памяти. Известно, что модель относится к семейству Nemotron-Cascade-2 и имеет обозначение 30B-A3B, однако подробности архитектуры, фактическое число активируемых параметров, размер контекста и поддерживаемые модальности в README не указаны. Заявлен английский язык. Модель можно запускать через llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты; для работы может потребоваться их обновлённая версия с поддержкой этой архитектуры. Более сильные варианты квантования обеспечивают лучшее сохранение качества, а компактные варианты снижают требования к оперативной памяти, но могут заметнее ухудшать результаты. Использование регулируется NVIDIA Open Model License; в карточке указана лицензия other и приведена ссылка на условия NVIDIA. Конкретные ограничения лицензии, результаты benchmark-тестов и подробные сведения о сильных и слабых сторонах исходной модели в README не приведены.

OPT-IML-Max — инструкционно дообученная языковая модель семейства OPT, разработанная Meta. Она обучена на примерно 2000 задачах обработки естественного языка из восьми бенчмарков, включая Super-NaturalInstructions, FLAN и PromptSource, и предназначена для выполнения разнообразных инструкций и генерации текста. Модель использует плотную причинную архитектуру OPTForCausalLM, содержит около 1,7 млрд параметров и поддерживает контекст до 2048 токенов. Модель подходит для ответов на вопросы, суммаризации, перефразирования и других текстовых задач, сформулированных в виде инструкций. Карточка не уточняет список поддерживаемых естественных языков. Возможны фактические ошибки, токсичные высказывания и воспроизведение стереотипов; ответы требуют проверки. Лицензия указана как other, поэтому условия использования следует сверять с лицензией репозитория.

TheBloke/Orca-2-13B-GGUF — это квантизированная версия языковой модели Orca 2 13B, разработанной Microsoft и преобразованной TheBloke в формат GGUF. Модель предназначена для генерации текста и диалогового взаимодействия, включая работу через llama.cpp и совместимые графические интерфейсы и библиотеки. Для форматирования запросов используется шаблон ChatML с системным сообщением, запросом пользователя и ответом ассистента. Модель относится к архитектуре Llama и содержит около 13 миллиардов параметров. Она работает только с текстом; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. GGUF-файлы доступны с различными уровнями квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером модели, требованиями к памяти и качеством генерации, а также запускать её на CPU и GPU. К сильным сторонам относятся поддержка широкого набора локальных инструментов, возможность GPU-ускорения и выбор вариантов квантизации. Ограничения связаны с возможной потерей качества при низкой разрядности и с тем, что точные характеристики производительности и контекстного окна не приведены. В метаданных указана лицензия other, без уточнения конкретных условий использования.

bunsenfeng/parti_15_full — генеративная языковая модель, опубликованная на Hugging Face в формате Transformers. По метаданным она относится к семейству Qwen2 и предназначена для генерации текста в диалоговых и других сценариях, поддерживаемых задачей text-generation. Модель содержит около 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Её можно применять для ведения диалогов, составления текстов, продолжения фрагментов и интеграции в приложения на базе библиотеки Transformers. README не содержит сведений о разработчике, языках, лицензии, данных обучения, результатах оценки или специальных ограничениях использования. Поэтому перед применением в критически важных сценариях необходимы самостоятельное тестирование, проверка фактической точности и уточнение условий лицензирования.

Qwen1.5-MoE-A2.7B-Chat — диалоговая языковая модель на архитектуре Transformer с декодером и смесью экспертов (MoE), разработанная командой Qwen. Она создана на основе Qwen-1.8B и предназначена для генерации текста в чате и ответов на запросы. По карточке модели, всего в ней 14,3 млрд параметров, из которых при генерации активируются 2,7 млрд; каталог Hugging Face указывает 1,5 млрд параметров. Контекст модели — до 32 768 токенов. Разработчики сообщают о сопоставимой с Qwen1.5-7B производительности при меньших затратах на обучение и о более высокой скорости инференса. Карточка советует использовать параметры генерации из generation_config.json при проблемах с переключением языков или других нежелательных результатах. Модель рассчитана на текстовый ввод и выдачу текста; в метаданных указан английский язык. Лицензия обозначена как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

mergekit-community выпустил объединённую языковую модель Qwen2.5-14B, созданную методом Model Stock на основе Qwen/Qwen2.5-14B и пяти других моделей: SauerkrautLM-v2-14b-SFT, Rombos-LLM-V2.6-Qwen-14b, Qwen2.5-14B-Instruct-abliterated-v2, SuperNova-Medius и Virtuoso-Small. Это плотная авторегрессионная модель семейства Qwen2 с 14 млрд параметров, предназначенная для генерации текста и диалогов; заявленный размер контекста — до 131 072 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель подходит для генерации ответов в чате и других текстовых сценариев; метаданные также указывают интерфейс вызова инструментов. В README приведены метод объединения, состав моделей и конфигурация с типом данных bfloat16, но нет отдельных результатов оценки качества. Лицензия в предоставленных данных не указана.

MaziyarPanahi/Qwen2-7B-Instruct-GGUF — это набор файлов модели в формате GGUF для Qwen2-7B-Instruct, разработанной командой Qwen. Квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, где требуется инструкционно настроенная языковая модель. Модель основана на Qwen2-7B-Instruct и содержит около 7 миллиардов параметров. Доступны варианты квантизации с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui и другие инструменты для локального запуска с возможным ускорением на GPU. Сильными сторонами являются широкий выбор уровней квантизации и совместимость с экосистемой GGUF для локального вывода. Ограничения включают потенциальную потерю качества в более агрессивно квантованных вариантах, а также отсутствие в README сведений о языках, размере контекста, точной архитектуре, исходных данных и результатах тестирования. Лицензия в предоставленных материалах не указана.

mlx-community/Qwen3-30B-A3B-8bit — версия модели Qwen/Qwen3-30B-A3B, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и может использоваться через библиотеку mlx-lm. Из доступных данных известно, что модель относится к семейству Qwen, имеет обозначение 30B-A3B и 8-bit представление. Она поддерживает текстовый pipeline, токенизатор с chat template при его наличии и диалоговый формат сообщений. Конкретные сведения об архитектуре, языках, размере контекста, модальностях, производительности и ограничениях в README не указаны. Модель распространяется по лицензии Apache-2.0. Для использования требуется установить mlx-lm и загружать модель через API MLX.

MLX-версия инструкционной языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen и конвертированной сообществом mlx-community в формат MLX с использованием mlx-lm 0.26.3. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение пользовательских инструкций в приложениях на базе mlx-lm. Из README известно, что модель представлена в 4-битном формате квантования и распространяется как text-generation-модель. Архитектура, общее число параметров, число активных параметров, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Преимущество версии заключается в адаптации для экосистемы MLX; ограничением является отсутствие подробных сведений о характеристиках, качестве и производительности. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; приведённый пример ориентирован на запуск через Python и применение chat template токенизатора.

OnlyTextLLMs/Qwen3.5-2B-OnlyText — текстовая причинно-следственная языковая модель на базе Qwen/Qwen3.5-2B. Разработчик репозитория удалил из исходной модели компоненты обработки изображений и аудио и мультимодальные специальные токены, сохранив текстовую основу, языковую голову и черновую MTP-голову; дополнительного обучения не проводилось. Модель имеет плотную архитектуру Qwen3_5ForCausalLM, около 1,7 млрд параметров по метаданным и контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленный интерфейс также поддерживает вызов инструментов. Репозиторий использует Transformers и формат safetensors. Лицензия — Apache-2.0. Удалённые аудио- и визуальные компоненты исключают обработку изображений и аудио; сведения о языках в предоставленных данных не приведены.

Qwen3.8-27B-Opus-Distill-GGUF — квантованная мультимодальная модель, разработанная barozp на базе Qwen3.8-27B. Исходная модель дообучена с помощью LoRA на 14 250 трассах рассуждений Claude Opus; адаптеры объединены с базовыми весами. Модель распространяется в формате GGUF для запуска через llama.cpp и предназначена для текстовых и визуально-текстовых задач, включая ответы на вопросы, анализ изображений и задачи, требующие рассуждений. Модель содержит 27 млрд параметров, встроенную vision tower и обученную MTP-голову для self-speculative decoding. Vision tower поставляется отдельно в виде файла mmproj размером около 0,9 ГБ. Доступны варианты от BF16 и Q8_0 до крайне низкоразрядных IQ-квантов; Q4_K_M рекомендован как сбалансированный вариант. Для IQ-квантов используется importance matrix, рассчитанная на данных рассуждений. Точные сведения о поддерживаемых языках и размере контекста в README не указаны. Сильной стороной является улучшение показателей на задачах рассуждений: в описанном тестировании прирост относительно базовой модели составил 4,2 процентного пункта на ARC-Challenge и 26 пунктов на GPQA Diamond, при почти неизменных показателях общих знаний и языкового моделирования. Производительность MTP для этой конкретной модели не измерялась, поэтому приведённые оценки ускорения относятся к родственному Qwen3.6 и не гарантируют такой же результат. Известна проблема с зацикливанием рассуждений при одновременном использовании ограничений «без прозы» и другого ограничения формата; рекомендуется избегать такой комбинации или увеличить лимит генерации. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями требуется отдельный файл mmproj; текстовые сценарии могут использовать модель без него.

Qwen3.8-27B-ULTIMATE-UNCENSORED-MTP-IQ4-GGUF-16GB — квантизированная GGUF-версия модели Qwen3.8-27B, подготовленная lemonyins на основе аблитерированной и «uncensored» сборки AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16. Модель предназначена для локального запуска и исследовательских или разработческих сценариев, где требуется модель класса 27B с уменьшенным потреблением памяти и без исходных контентных ограничений базовой сборки. Используется гибридная квантизация: основные attention-слои имеют формат IQ4_XS, а слои FFN — IQ3_S; применяется GGUF и поддержка TurboQuant для компактного KV-кэша. Вариант ориентирован на видеокарты с 16 ГБ VRAM. По данным README, на NVIDIA RTX 4060 Ti 16GB заявлена скорость около 20 токенов в секунду без MTP и около 30 токенов в секунду с multi-token prediction; с TurboQuant доступен контекст порядка 100–110 тысяч токенов без MTP и около 80 тысяч с MTP. Поддержка изображений возможна при подключении отдельного vision-проектора mmproj-BF16.gguf, при этом доступный контекст уменьшается примерно на 20 тысяч токенов. Сильные стороны модели — низкое потребление памяти, высокая скорость локального вывода, большой контекст и возможность speculative decoding через MTP. Ограничения связаны с потерями качества из-за квантизации FFN до IQ3_S, которые могут проявляться, например, в задачах на фактическое запоминание, а также с обязательной зависимостью заявленных показателей памяти от TurboQuant-enabled сборки llama.cpp. Приведённые показатели perplexity, VRAM и скорости требуют отдельной проверки именно для Qwen3.8. В README указана лицензия Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это модификация Qwen3.8-27B, опубликованная HauhauCS. Модель распространяется в формате GGUF и предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео через отдельный vision-проектор. Указаны языки English, Chinese и multilingual, однако точный перечень поддерживаемых языков не приведён. Модель представляет собой плотную causal language model на 27 млрд параметров с 64 слоями, скрытым размером 5120, размером FFN 17408 и словарём на 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000. Встроенная поддержка MTP/NextN сохранена, а профиль HauhauCS FastMTP предназначен для ускорения генерации; заявлены преимущества в скорости для документных и reasoning-сценариев. Для изображений и видео требуется отдельный BF16 vision-проектор. Вариант Aggressive ориентирован на прямые ответы, минимальную вводную часть и отсутствие отказов, что может быть полезно для задач, где важны быстрота и непрерывность генерации. Это одновременно является ограничением: README рекомендует для надёжной работы с длинным контекстом и агентскими задачами сбалансированный вариант, если он доступен. Модель не вносит изменений в датасеты или заявленные возможности базовой Qwen3.8-27B, но применяет профиль «uncensored». Доступны различные уровни квантизации, включая пользовательские K_P и IQ-варианты, совместимые с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Лицензия — Apache-2.0.

desva0/Qwen3.8-27B-Uncensored-W4A16 — квантизированная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen. Репозиторий содержит сборку OrcaRouter с удалённым встроенным поведением отказа, дополнительно преобразованную в формат W4A16. Модель предназначена для работы с текстом и изображениями, поддерживает английский и китайский языки, рассуждения и вызов функций. Модель использует архитектуру Qwen3_5ForConditionalGeneration и содержит около 27 млрд параметров в исходной версии. Применена 4-битная симметричная квантизация весов с размером группы 128 в формате compressed-tensors pack-quantized; визуальные линейные слои сохранены в более высокой точности для поддержания возможностей анализа изображений. Размер весов составляет примерно 15 ГБ, благодаря чему модель рассчитана на запуск на одной видеокарте с 24 ГБ памяти, например RTX 3090. В README указана возможность использования контекста до 32768 токенов при настройке vLLM, причём фактическая длина зависит от доступной памяти под KV-кэш. К сильным сторонам относятся сочетание текстовых и визуальных возможностей, поддержка function calling и возможность локального запуска на потребительском GPU. Ограничения связаны с потерями точности, возможными для 4-битной квантизации, зависимостью от совместимой версии vLLM и формата compressed-tensors, а также с отсутствием встроенного поведения отказа: модель может выполнять запросы, которые согласованная модель отклонила бы, поэтому ответственность за защитные меры и корректное применение лежит на пользователе. Модель распространяется по лицензии Apache-2.0; при перераспределении необходимо сохранять лицензию и атрибуцию.

Qwen3.8-9B-Distill-Uncensored-Heretic-MTPLX-Q6G64 — мультимодальная модель семейства Qwen3.8, опубликованная xy10086. Она создана на основе petruhonk/Qwen3.8-9B-Distill-uncensored-heretic, который, в свою очередь, происходит от empero-ai/Qwen3.8-9B-Distill. Модель предназначена для обработки текста и изображений, включая понимание скриншотов и распознавание текста на изображениях, а также для генерации ответов на английском и китайском языках. Основная языковая часть содержит около 9 миллиардов параметров и сжата методом аффинной 6-битной квантизации с размером группы 64. Зрительная башня и компоненты MTP для speculative decoding сохранены в формате BF16; поддерживаются 15 MTP-тензоров и рекомендованная глубина MTP 2. Модель оптимизирована для Apple Silicon и формата MLX/MTPLX. Рекомендуемое окно контекста — 32768 токенов, максимальная длина ответа — 8192 токена. Сильными сторонами являются мультимодальность, поддержка ускоренного speculative decoding, совместимость с Apple Silicon и высокая скорость генерации в заявленных тестах. Ограничения включают зависимость от MTPLX и MLX, а также требования к памяти и соответствующему программному окружению. Модель имеет пониженный уровень отказов вследствие удаления ограничений цензуры, но это не означает большей фактической точности; результаты в медицинских, юридических, финансовых и других критически важных сценариях необходимо проверять независимо. Модель распространяется по лицензии Apache-2.0; для использования следует также учитывать требования к атрибуции и лицензированию исходных моделей.

Qwen3-8B-Base-SFT-R-64 — базовый чекпойнт размером 7,6 млрд параметров, подготовленный David6995 как общая основа для доменных экспертных моделей семейства Qwen3-8B. Это плотная авторегрессионная языковая модель архитектуры Qwen3ForCausalLM; репозиторий содержит полные веса BF16, конфигурацию и токенизатор в формате safetensors. Модель работает с текстом, поддерживает чатовый интерфейс и интерфейс вызова инструментов, а её родной контекст составляет 65 536 токенов. Чекпойнт предназначен для использования как общая база при создании или применении доменных экспертов Qwen3-8B и для генерации текста. Указана лицензия Apache-2.0. README не приводит сведений о конкретных доменах экспертов или оценках качества этой версии.

Это GGUF-квантизация модели Qwen3.8-Flash-Next, разработанной командой Qwen и дополнительно подготовленной пользователем pugant для AMD Strix Halo с унифицированной памятью. Модель предназначена для генерации текста и запуска локальных LLM-сценариев на системах с Radeon 8060S и архитектурой gfx1151; при использовании совместимого runtime также заявлена поддержка vision через отдельный mmproj-модуль. Модель использует архитектуру qwen4exp и имеет около 180 млрд параметров в общей структуре: 125 млрд базовой части, около 6 млрд активных параметров, 51 млрд параметров PLE n-gram table и 4 млрд параметров MTP. Репозиторий содержит две сборки: ROCmFP4 STRIX_LEAN для систем с 128 ГБ памяти и смешанную ROCmFP2 STRIX_LEAN с 2-битными, FP4 и Q3-компонентами для систем с 64 ГБ. Поддерживаются английский и другие языки; заявлен контекст до 131 тыс. токенов. Сильные стороны модели — высокая эффективность по памяти для крупной MoE-подобной конфигурации, оптимизация под AMD Strix Halo, поддержка внешнего speculative-драфтера и возможность дискового размещения PLE-таблицы. Сборка ROCmFP4 обеспечивает более высокое качество, тогда как ROCmFP2 позволяет уложиться примерно в 56 ГБ оперативной памяти, но имеет заметный компромисс по качеству на отдельных тестах и больший дисковый объём. Для работы требуются специализированные форки ROCmFPX и совместимый runtime; стандартный llama.cpp эту квантизацию не загружает. Лицензия указана как qwen-community-1.0.