I.2Синтез, понимание и проверка знаний

OrionStar-Yi-34B-Chat-Llama — диалоговая языковая модель OrionStarAI на основе Yi-34B, дообученная на корпусе объёмом более 15 миллионов предложений. В этой версии тензоры переименованы в соответствии с форматом LLaMA для автоматической оценки на лидерборде Hugging Face; веса доступны в формате safetensors, архитектура — плотная LlamaForCausalLM с 33,9 млрд параметров. Модель предназначена для интерактивного общения и генерации текста на китайском и английском языках, а также для общих языковых задач. В карточке приведены результаты оценки на наборах C-Eval, MMLU и CMMLU с настройкой 5-shot. Контекст составляет 4096 токенов. Указанная в метаданных лицензия — Apache-2.0, а README также просит соблюдать соглашение и лицензию Yi.

Ornith 1.5 35B A3B NVFP4 512K GGUF — конвертированная в GGUF версия чекпойнта Ornith AI Ornith-1.5-35B-A3B-NVFP4. Модель построена на архитектуре Qwen3.5 MoE: всего 35 млрд параметров, из которых около 3 млрд активны при обработке токена. Репозиторий сохраняет исходное представление NVFP4 без повторной квантизации и расширяет контекст до 524288 токенов с помощью YaRN и масштабирования RoPE 2. Модель предназначена для диалоговой генерации текста с длинным контекстом в совместимых с GGUF средах вывода, включая llama.cpp. Это позволяет использовать её для бесед и работы с большими текстовыми материалами; заявленная длина контекста подходит для анализа объёмных документов и сохранения длинной истории диалога. В метаданных указана лицензия MIT. Для запуска требуется среда, поддерживающая GGUF-тензоры NVFP4; совместимость и производительность зависят от используемого рантайма и оборудования. В README приведены испытания на RTX 5090 с llama.cpp, но результатов тестирования качества генерации в доступных сведениях нет.

pandafish-3-7B-32k — текстовая генеративная модель, созданная ichigoberry объединением нескольких моделей семейства Mistral с помощью LazyMergekit. В состав объединения входят mistralai/Mistral-7B-Instruct-v0.2, cognitivecomputations/dolphin-2.8-mistral-7b-v02 и Locutusque/Hercules-4.0-Mistral-v0.2-7B; метаданные также указывают alpindale/Mistral-7B-v0.2-hf как одну из базовых моделей. Это плотная авторегрессионная архитектура Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции в сценариях с длинным контекстом. Она принимает текст и выдаёт текст; сведения о поддерживаемых естественных языках и специализированных прикладных областях в карточке отсутствуют. Репозиторий содержит веса Safetensors, а лицензия — Apache-2.0. Карточка не приводит оценок качества или подробных ограничений, поэтому пригодность для конкретных задач следует проверять отдельно.

Карточка модели google/pegasus-billsum на Hugging Face совпадает с карточкой google/pegasus-xsum, поэтому описание составлено по ней. google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.

google/pegasus-large — англоязычная модель семейства PEGASUS, разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; репозиторий поддерживается @sshleifer. Она предназначена для абстрактивного суммирования текста. Архитектура — плотный encoder-decoder трансформер PegasusForConditionalGeneration с 366,8 млн параметров и контекстом до 1024 токенов. Вариант Mixed & Stochastic обучен на смеси C4 и HugeNews в течение 1,5 млн шагов. При предобучении случайно выбирались доля пропускаемых предложений в диапазоне 15–45% и важные предложения с шумом в оценках; токенизатор SentencePiece обновлён для кодирования символа новой строки. В README приведены результаты на нескольких датасетах суммирования, включая XSum, CNN/DailyMail и Newsroom. Модель подходит для создания кратких пересказов статей и других англоязычных текстов. Метаданные указывают доступность весов в форматах PyTorch, TensorFlow и Flax. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя.

Карточка модели google/pegasus-reddit_tifu на Hugging Face совпадает с карточкой google/pegasus-xsum, поэтому описание составлено по ней. google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.

tuner007/pegasus_summarizer — модель Arpit Rajauria на основе PEGASUS, дообученная для суммаризации текста. Она предназначена для создания краткого пересказа новостных статей и других длинных текстов; пример в карточке показывает англоязычную новостную сводку. Модель имеет архитектуру encoder-decoder PEGASUS с 366,8 млн параметров и контекстом до 1024 токенов, представлена в формате PyTorch. Модель ориентирована на англоязычные тексты и может использоваться для кратких сводок новостей и пересказа документов. Репозиторий распространяется по лицензии Apache-2.0. Для работы токенизатора требуется библиотека SentencePiece.

Карточка модели google/pegasus-wikihow на Hugging Face совпадает с карточкой google/pegasus-xsum, поэтому описание составлено по ней. google/pegasus-xsum — англоязычная модель Pegasus для генерации кратких пересказов, основанная на архитектуре кодировщика-декодировщика и разработанная Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu; карточку поддерживает @sshleifer. Модель содержит 366,8 млн параметров, принимает текст и выдаёт текст. Её основная специализация — абстрактная суммаризация, в частности создание короткого пересказа по исходному тексту; в материалах карточки приведены результаты на XSum, CNN/DailyMail и других наборах данных. При предобучении использовались C4 и HugeNews, смешанные и стохастически выбранные предложения-заполнители, а также изменённый SentencePiece-токенизатор с поддержкой символа новой строки. Заявленная длина контекста — 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Карточка не сообщает об ограничениях помимо длины контекста. Лицензия в предоставленных данных не указана.

Swicked86/phi4-mm-gguf — набор GGUF-квантизаций мультимодальной модели Phi-4-multimodal-instruct, разработанной Microsoft. Модель содержит 5,6 млрд параметров и принимает текст, изображения и аудио; репозиторий подготовлен с помощью llama.cpp build b8347 для локального запуска на CPU и GPU. Модель предназначена для диалогов, ответов на вопросы по изображениям, визуального анализа, распознавания и объяснения содержимого графиков и документов, а также для обычных текстовых задач. Заявлен английский язык. Доступны варианты F16 размером 7,17 ГБ, Q8_0 размером 3,90 ГБ и Q4_K_M размером 2,37 ГБ. Для обработки изображений требуется отдельный файл vision encoder mmproj-phi4-mm-f16.gguf размером 825 МБ, совместимый со всеми текстовыми вариантами. В текстовом режиме README указывает поддержку контекста до 65 536 токенов, а в примерах мультимодального запуска используется контекст 8 192 токена. Q8_0 обеспечивает качество, близкое к F16, тогда как Q4_K_M требует меньше памяти и подходит для CPU или систем с ограниченной VRAM, но уступает по показателю perplexity. Ориентировочные требования VRAM при полной выгрузке на GPU составляют около 10 ГБ для F16, 5,4 ГБ для Q8_0 и 3,5 ГБ для Q4_K_M. Для работы с изображениями необходимо скачивать основной GGUF-файл вместе с mmproj; без него модель работает только с текстом. Мультимодальные оценки в README на момент публикации не завершены. Распространение заявлено по лицензии MIT, как и у исходной модели Microsoft.

Diamegs/PIT-4B-FT-202312 — англоязычная instruction-tuned модель семейства Point-In-Time (PIT), разработанная Diamegs на архитектуре decoder-only Transformer для генерации текста. Она предназначена для следования инструкциям и анализа того, что было известно к декабрю 2023 года: обучение на хронологических месячных снимках FineWeb задаёт временную границу знаний модели. LoRA-адаптеры дообучения объединены с базовыми весами; модель загружается через Transformers, веса представлены в safetensors. Контекст — 2048 токенов. Распространяется по лицензии Apache-2.0. Модель подходит для временного анализа и ответов на инструкции с привязкой к состоянию информации на заданный момент. Её знания ограничены веб-текстами, доступными до декабря 2023 года; RLHF и дополнительная настройка безопасности не проводились. Она может воспроизводить смещения обучающих данных и не подходит для критически важных сценариев без дополнительного выравнивания.

PlatYi-34B-LoRA — авторегрессионная языковая модель, разработанная Kyujin Han (kyujinpy) на основе архитектуры Yi-34B от 01.AI. Это LoRA-дообучение с рангом 16 на наборе Open-Platypus, предназначенное для генерации текста и решения задач общего характера, включая рассуждения и ответы на вопросы. Модель содержит 33,9 млрд параметров, принимает текст и генерирует текст. В метаданных указан контекст длиной 4096 токенов и поддержка английского языка. В карточке приведены результаты оценивания на наборах ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; эти оценки характеризуют тестирование, но не гарантируют качество в конкретном сценарии. Для использования доступны веса в формате Safetensors через Transformers. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространяет производные работы на тех же условиях и запрещает коммерческое использование.

recogna-nlp/ptt5-base-summ — дообученная модель PTT5 на архитектуре T5 для абстрактивного суммирования текстов на бразильском португальском языке. Модель разработана авторами Recogna NLP и предназначена для создания краткого связного пересказа исходного текста. Чекпойнт дообучен на наборе RecognaSumm. Он содержит 123,8 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт текстовое резюме. В метаданных также указаны PyTorch и safetensors. Модель подходит для суммирования новостей, статей и других текстов на бразильском португальском. Лицензия — MIT. Ограничение длины контекста в 512 токенов может затруднить обработку длинных документов без предварительного разбиения.

Q2.5-Veltha-14B-0.5 — объединённая языковая модель на архитектуре Qwen2.5, созданная автором djuna с помощью mergekit. Для слияния использован метод della_linear; базой служила arcee-ai/SuperNova-Medius, также в объединение вошли четыре другие модели семейства Qwen2.5. Модель содержит 14 млрд параметров, работает через Transformers и распространяется в формате safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалогового общения. Её можно применять для ответов на запросы, ролевых диалогов и творческого письма; исходные модели в составе объединения ориентированы на инструкции и генерацию историй. Карточка приводит результаты нескольких тестов, включая IFEval и BBH, но не раскрывает полную таблицу оценок. Лицензия в предоставленных данных не указана.

Question_Generation_ComQ_12 — дообученная модель семейства T5, разработанная на основе Gayathri142214002/Question_Generation_ComQ_11. Она предназначена для генерации вопросов по текстовому контексту. Модель содержит 123,8 млн параметров, использует архитектуру T5ForConditionalGeneration и принимает контекст длиной до 512 токенов. В карточке приведён результат оценки: loss 0,2199. Данные обучения и подробности об оценке не раскрыты, поэтому этот показатель не позволяет судить о качестве на других наборах данных. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-72B-0.6x-Instruct — объединённая языковая модель, опубликованная пользователем ddh0. Она создана линейным слиянием Qwen/Qwen2.5-72B-Instruct с весом 0,6 и Qwen/Qwen2.5-72B с весом 0,4. Модель предназначена для диалогов и генерации текста; автор стремился сделать инструкционную версию более гибкой и менее жёсткой. Модель использует плотную архитектуру Qwen2 и содержит 71,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Контекст — до 32 768 токенов; заявленные языки включают китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Репозиторий использует Transformers и формат safetensors. Лицензия указана как other, поэтому перед использованием следует проверить её условия. Слияние призвано сделать поведение модели гибче, однако README сообщает лишь о первоначальном тестировании и не приводит количественных оценок качества. Возможности и надёжность вызова инструментов отдельно не описаны.

Qwen2.5-7B-Instruct-abliterated-v2-Q4_K_M-GGUF — это локальная текстовая генеративная модель в формате GGUF, созданная Lumen Models на основе huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2. Модель предназначена для запуска на обычных компьютерах с 8–16 ГБ оперативной памяти через LM Studio, Ollama, Jan или Faraday, без обязательной передачи данных во внешние сервисы. Модель ориентирована на генерацию текста, творческое письмо, ролевые сценарии, анализ сложных текстов и исследовательские задачи. Заявлена улучшенная работа на испанском языке, также указана поддержка английского. Архитектура основана на Qwen2.5 с 7 млрд параметров; конкретное значение контекстного окна и перечень поддерживаемых модальностей в README не указаны. Квантизация Q4_K_M уменьшает размер модели и требования к памяти при сохранении большей части исходных возможностей, однако может снижать точность по сравнению с полной версией. Версия описана как abliterated и uncensored, то есть с минимизированными ограничениями на содержание ответов. Это расширяет применимость для творческих и исследовательских сценариев, но одновременно повышает риск генерации нежелательного, предвзятого или небезопасного контента. Модель распространяется по лицензии Apache-2.0; README также ограничивает заявленные цели исследования, творческой литературы, тестирования кибербезопасности и локальной разработки и снимает с дистрибьютора ответственность за результаты использования.

Qwen3.5-122B-A10B-PRISM-LITE-GGUF — мультимодальная GGUF-версия Qwen3.5-122B-A10B, подготовленная Ex0bit с применением PRISM-процесса для частичного снижения чрезмерных отказов. Модель предназначена для диалогов, рассуждений и анализа изображений и видео; поддерживает режимы Thinking и Instant. В README заявлены 122 млрд параметров, из которых 10 млрд активны на токен, архитектура MoE с 256 маршрутизируемыми и одним общим экспертом на слой, а также сочетание GatedDeltaNet и пол attention. Контекст составляет 262 144 токена. Поставляется в формате GGUF с динамической поканальной квантизацией размером около 57,7 ГБ; для работы с изображениями включён файл vision encoder mmproj. Метаданные указывают лицензию Apache-2.0 и библиотеку llama.cpp. Вариант LITE снижает чрезмерные отказы лишь частично; заявления README о сохранении связности и удалении отказов не сопровождаются независимыми оценками. Базовая модель поддерживает широкий набор языков, включая русский.

JANGQ-AI/Qwen3.5-397B-A17B-JANG_2L — вариант модели Qwen3.5-397B-A17B, подготовленный Jinho Jang и проектом JANG. Это большая мультимодальная модель класса MoE с гибридной архитектурой GatedDeltaNet и полного внимания; по карточке активны 17 млрд параметров из 397 млрд. Репозиторий содержит смешанно-точное квантованное представление JANG_2L для Apple Silicon: веса с разной чувствительностью хранятся с разной разрядностью, а вычисления выполняются в bfloat16. В метаданных библиотекой указана MLX. Модель предназначена для диалогов, рассуждений и анализа изображений и видео. Режим reasoning позволяет включать пошаговое рассуждение; карточка также сообщает о поддержке vision и интерфейсе вызова инструментов. По заявлению автора, модель занимает 187 ГБ и показывает 36 токенов в секунду на M4 Ultra с 256 ГБ объединённой памяти. Для запуска автор рекомендует MLX Studio или JANG с MLX; заявлена необходимость Apple Silicon с 256 ГБ памяти. Карточка приводит результаты MMLU, но это авторские замеры на ограниченной выборке и не гарантия качества в других задачах. Доступ к изображениям и видео заявлен в README, хотя pipeline_tag и каталог классифицируют модель как text-generation. Указанная лицензия — Apache-2.0.

hpnyaggerman/Qwen3.5-4B-heretic — мультимодальная модель на базе Qwen3.5-4B, изменённая проектом Heretic с помощью abliteration для снижения частоты отказов. По сравнению с исходной моделью в приведённом тесте число отказов снизилось с 99 до 60 из 100; это не означает полного отсутствия отказов или гарантии поведения в других сценариях. Модель принимает текст и изображения и формирует текстовые ответы; поддерживает диалог и работу с визуальной информацией. Архитектура — плотная Qwen3.5 с 4 млрд параметров, языковой моделью и энкодером изображений; родительская карточка описывает гибридные блоки Gated Delta Networks и внимания. Контекст составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Модель подходит для диалогов, ответов на вопросы по изображениям, визуального анализа и других мультимодальных запросов. В README заявлена языковая поддержка Qwen3.5 для 201 языка и диалекта, но конкретный перечень языков в предоставленном фрагменте отсутствует. Это дообученная версия Qwen/Qwen3.5-4B-Base, опубликованная в формате safetensors и совместимая с Transformers и рядом движков инференса. Лицензия — Apache-2.0.

Карточка модели SYGNITOR/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED на Hugging Face совпадает с карточкой DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED, поэтому описание составлено по ней. DavidAU собрал эту мультимодальную модель на базе Qwen3.5-9B-heretic-v2: автор сообщает о дообучении через Unsloth на дистиллированном наборе рассуждений Claude 4.6. Модель принимает текст и изображения и генерирует текст; карточка заявляет поддержку vision и диалогового режима. В README указаны 9 млрд параметров, архитектура Qwen3.5 с языковой моделью и vision encoder, а также контекст 262 144 токена с возможностью расширения. Заявленная основная область применения — рассуждения, диалог и анализ изображений; автор также приводит результаты на нескольких тестах и сообщает о снижении отказов. README рекомендует квантизацию не ниже Q4_K_S или IQ3_S с imatrix. Видео не тестировалось. Указанные языки карточки — английский и китайский; более широкая языковая поддержка описана для исходной модели Qwen3.5, но отдельно для этого дообучения не подтверждена. Модель распространяется по лицензии Apache-2.0.

Карточка модели VasyaIT/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED на Hugging Face совпадает с карточкой DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED, поэтому описание составлено по ней. DavidAU собрал эту мультимодальную модель на базе Qwen3.5-9B-heretic-v2: автор сообщает о дообучении через Unsloth на дистиллированном наборе рассуждений Claude 4.6. Модель принимает текст и изображения и генерирует текст; карточка заявляет поддержку vision и диалогового режима. В README указаны 9 млрд параметров, архитектура Qwen3.5 с языковой моделью и vision encoder, а также контекст 262 144 токена с возможностью расширения. Заявленная основная область применения — рассуждения, диалог и анализ изображений; автор также приводит результаты на нескольких тестах и сообщает о снижении отказов. README рекомендует квантизацию не ниже Q4_K_S или IQ3_S с imatrix. Видео не тестировалось. Указанные языки карточки — английский и китайский; более широкая языковая поддержка описана для исходной модели Qwen3.5, но отдельно для этого дообучения не подтверждена. Модель распространяется по лицензии Apache-2.0.

Sohailhosseini/Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-AWQ-W4A16 — квантизированная версия модели Jackrong/Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled, подготовленная пользователем Sohailhosseini. Модель предназначена для генерации текста по текстовым и визуальным входным данным, включая диалоговые и инструкционные сценарии; в карточке она обозначена как image-text-to-text и заявлена как подходящая для мультиязычных моделей. Модель содержит 9,7 млрд параметров и использует квантизацию AWQ-W4A16 с 4-битными весами в формате compressed-tensors. Размер на диске составляет 8,6 ГБ, что в 2,24 раза меньше исходных 19,3 ГБ. Визуальные компоненты, включая vision tower, vision model и multi-modal projector, а также слой lm_head оставлены без квантизации, поэтому сохраняется мультимодальная функциональность. Рекомендуемая длина контекста при запуске через vLLM — до 32 768 токенов. Ключевое преимущество — уменьшенные требования к хранению и потенциально более эффективный запуск по сравнению с исходной моделью; квантизация калибровалась на 256 примерах из HuggingFaceH4/ultrachat_200k. Ограничения включают возможное снижение качества из-за 4-битного представления и совместимость с реализациями vLLM: некоторые старые ядра могут предпочитать симметричную схему W4A16, тогда как данная версия асимметричная. В README указана лицензия Apache-2.0, унаследованная от исходной модели.

Qwen3.6-27B-Omnimerge-v4-MTP-GGUF — квантизированная GGUF-версия модели ManniX-ITA/Qwen3.6-27B-Omnimerge-v4, подготовленная автором ManniX-ITA. Модель имеет 27,78 млрд параметров и заявленную архитектуру Qwen3.5; репозиторий содержит объединённые веса в форматах от F16 до низкобитных IQ- и Q/K-квантизаций. В метаданных указаны поддержка английского языка, reasoning и vision, а также pipeline image-text-to-text, однако подробные сведения о контекстном окне и точном наборе мультимодальных возможностей не приведены. Главная особенность этой версии — сохранённая MTP (Multi-Token Prediction) head, предназначенная для self-speculative decoding в llama.cpp. При использовании llama.cpp с поддержкой MTP модель может предлагать несколько токенов за шаг и ускорять генерацию; для этого требуется версия с поддержкой соответствующего PR и режим draft-mtp. Без MTP-функциональности модель работает в стандартном режиме декодирования. Доступно 19 уровней квантизации и эталонная F16-версия, что позволяет выбирать компромисс между качеством, скоростью и потреблением памяти; рекомендуемым балансом в README названа Q6_K. Модель подходит для локального текстового и, при наличии соответствующего мультимодального проектора, визуально-текстового вывода, включая задачи рассуждения. Ограничения связаны с существенными требованиями к памяти, зависящими от выбранной квантизации, необходимостью совместимой версии llama.cpp для ускорения MTP и возможной потерей качества на низких битностях. Распространяется по лицензии Apache-2.0.

Qwen3.8-27B-2bit-MLX — мультимодальная квантованная версия модели Qwen/Qwen3.8-27B, разработанная сообществом и преобразованная в формат MLX автором lukaskremla с использованием mlx-vlm 0.6.13. Модель предназначена для задач, объединяющих работу с текстом и изображениями, включая диалоговые сценарии, рассуждения, использование инструментов, анализ видео и обработку длинного контекста. Модель имеет архитектуру Qwen3.8-27B и размер 27B параметров; для весов применяется 2-битное weight-only-квантование с affine RTN и group size 64. Vision tower сохранён в формате BF16, поэтому модель поддерживает мультимодальные входы, включая изображения и видео. Заявлена поддержка нескольких языков, однако конкретный языковой перечень и размер контекстного окна в README не указаны. Квантование уменьшает требования к памяти, но может снижать точность по сравнению с исходной моделью; характеристики производительности и совместимости зависят от среды MLX. Модель распространяется по лицензии Apache-2.0.

lued/Qwen3.8-27B-huihui-abliterated-INT8-W8A16-DFlash2 — квантованная версия Huihui-Qwen3.8-27B-abliterated, разработанная на базе моделей huihui-ai и Qwen. Это мультимодальная conversational-модель с поддержкой текста и изображений, предназначенная для диалогов, генерации текста, задач рассуждения, tool calling и работы с длинным контекстом. Модель рассчитана на запуск через vLLM и потребительское оборудование, в частности две видеокарты RTX 3090. Модель содержит 27B параметров, использует формат W8A16 с весами INT8 и активациями FP16 или BF16, а также поддерживает контекст до 262 144 токенов. Для ускорения генерации применяется speculative decoding с отдельной моделью-черновиком DFlash2, которая предлагает до 7 токенов за шаг. Размер основной модели составляет около 28 GiB в шести шардах, размер drafter — около 2,02 GiB. По данным README, квантование сохраняет 98,5% совпадения следующего токена с исходной BF16-моделью при среднем KLD 0,000694. Сильные стороны модели — уменьшенный вдвое размер относительно BF16-версии, поддержка длинного контекста, vision tower, thinking controls и tool calling, а также заявленное ускорение генерации на RTX 3090. Ограничения включают необходимость двух GPU с общим объёмом памяти 48 ГБ для заявленного сценария, использование неподдерживаемого в стабильном vLLM DFlash2 с дополнительными патчами и отсутствие собственных измерений скорости именно для этой сборки; приведённые показатели производительности относятся к родственному варианту. Модель распространяется по лицензии Apache-2.0.

dealignai/Qwen3.8-27B-JANG_6D-CRACK — квантованная версия модели Qwen/Qwen3.8-27B, разработанная dealignai для запуска на Apple Silicon через MLX. Это плотная гибридная vision-language модель с 27 млрд параметров и 64 слоями, сочетающая линейное внимание GatedDeltaNet с полным gated attention. Модель поддерживает текст, изображения и видео, работает на английском и китайском языках, умеет рассуждать, вызывать инструменты через XML-схему и использовать встроенную голову Multi-Token-Prediction для speculative decoding. Модель подвергнута CRACK-обработке — удалению поведения, связанного с отказами в ответах, на уровне весов. Поэтому она ориентирована на исследовательские и прикладные сценарии, где требуется максимальная готовность выполнять запросы в различных категориях, включая потенциально опасные. Рассуждение включено по умолчанию с уровнем xhigh; доступны уровни xhigh, medium и low, а также полное отключение рассуждений. Для данной JANG_6D-квантизации заявлен размер около 24 ГБ и примерно 6-битное affine-кодирование с imatrix. В тестах README указаны 89,12% на MMLU и 100% соответствия на HarmBench-240 по критерию выполнения запросов. Сильными сторонами являются сохранение мультимодальности, видеоанализа, рассуждений, вызова инструментов и многоязычности при существенно меньшем размере, чем у полной модели. Ограничения включают требование совместимого MLX-окружения и значительного объёма памяти, а также отсутствие защитных отказов, что повышает риск генерации небезопасного или вредоносного содержания. Максимальный размер контекста в README не указан. Модель распространяется под лицензией Apache-2.0.

Qwen3.8-27B-MLX-oQ4e-mtp — квантованная MLX-версия мультимодальной модели Qwen3.8-27B, разработанной Qwen. Модель предназначена для задач генерации текста и визуального понимания, включая обработку изображений и видео, а также для локального запуска на устройствах Apple Silicon через oMLX или mlx-vlm. Модель содержит около 27 млрд параметров и занимает примерно 16 ГБ. Используется улучшенная примерно 4-битная oQ4e-квантизация с эффективной точностью около 4,9 бит на вес, размером группы 64, imatrix-калибровкой и компенсацией ошибок на основе Hessian. В состав входит vision tower для работы с изображениями и видео. Сохранён нативный MTP head с одним дополнительным скрытым слоем, что позволяет использовать Lightning-MTP для спекулятивного декодирования в oMLX. Заявлена поддержка контекстного окна до 262144 токенов при соответствующей настройке. Сильные стороны модели — сочетание мультимодальности, сниженного потребления памяти, сохранённой совместимости с MTP и высокой скорости декодирования: на M5 Max заявлены около 54 токенов в секунду и принятие черновых токенов на уровне 81%. Ограничения включают зависимость от MLX-совместимого оборудования и программного обеспечения, а также возможную потерю точности из-за квантизации; конкретные языки в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-NInfer — мультимодальный вариант модели Qwen3.8-27B, разработанной командой Qwen и преобразованной в нативный формат .ninfer для движка NInfer. Артефакт предназначен для генерации текста в режимах с рассуждением и без него, а также для обработки изображений, нескольких изображений, видео и смешанных мультимодальных сообщений. Модель содержит 27 млрд параметров базовой модели и использует groupwise-квантизацию с распределением Q4/Q5/Q6 для текстовой части, а также W8G32_F16S для эмбеддингов и выходной головы. Поддерживаются MTP-спекулятивное декодирование, BF16 и INT8 group-64 KV-кэш, CUDA Graph decode, повторное использование совместимых префиксов и небольшое параллельное пакетное обслуживание. В README указаны текстовый контекст до 262 144 токенов и мультимодальный лимит до 81 920 токенов в проведённых тестах. Сильные стороны модели — поддержка мультимодальных сценариев, высокая точность на AIME 2025 и AIME 2026 — по 96,67%, а также результаты 87,37% на GPQA-Diamond и 82,22% на RealWorldQA. Ограничения связаны с узкой средой запуска: требуется NInfer версии с ревизии 5232055, 64-битный Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a и CUDA Toolkit 13.1 или новее. Артефакт не является чекпойнтом Transformers, Safetensors или GGUF. Лицензия — Apache-2.0.

MiawTeam/Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций модели Qwen3.8-27B, разработанный MiawTeam на базе Qwen/Qwen3.8-27B и предназначенный для запуска через llama.cpp. Модель ориентирована на генерацию текста, включая диалоги, работу с английским и китайским языками, а при наличии vision tower в базовой модели — обработку изображений. Доступны варианты IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, а также конфигурации со встроенной или отдельной MTP-головой для speculative decoding. Модель использует архитектуру Qwen3_5ForConditionalGeneration с 64 слоями, словарём из 248 320 токенов, контекстом до 262 144 токенов и одной MTP-головой. Веса были обработаны методом abliteration с помощью Heretic для существенного снижения отказов без дополнительного обучения и без использования новых данных; при этом базовые возможности, обучающие данные и архитектура заявлены как сохранённые. MTP-тензоры проверены после конвертации и квантизации, а imatrix рассчитана непосредственно из F16-весов. Сильные стороны — большой контекст, поддержка текстовой и потенциально визуальной модальности, несколько уровней квантизации и возможность ускорения генерации за счёт speculative decoding. Ограничения включают зависимость производительности от оборудования и настроек draft decoding, потенциальное небольшое снижение acceptance rate для черновой головы, а также то, что снижение отказов не является полным. В сравнении с базовой моделью среднее изменение результатов на указанных 0-shot тестах составило около −0,5 и находится в пределах или около стандартной ошибки измерений. Распространение указано по лицензии Apache-2.0.

Qwen3.8-Flash-Next-GGUF — это квантизированная версия модели Qwen3.8-Flash-Next, разработанной командой Qwen и подготовленной пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель предназначена для задач генерации и анализа текста, а также обработки изображений при использовании отдельного файла mmproj, что позволяет применять её в мультимодальных сценариях. Модель содержит 180 млрд параметров и поддерживает текстовый и графический ввод. Для неё доступны варианты от BF16 и Q8_0 до более компактных Q2–Q5 и IQ-квантизаций; размер файлов варьируется примерно от 88 до 354 ГБ. Квантизация выполнена с использованием imatrix, а speculative decoding не поддерживается. Рекомендуемый компромисс между качеством и требованиями к памяти — Q4_K_M размером около 119,6 ГБ; более высокие варианты сохраняют качество, но требуют значительно больше ресурсов. К сильным сторонам относятся большой масштаб модели, поддержка мультимодального ввода, широкий выбор уровней квантизации и совместимость с llama.cpp. Ограничениями являются очень высокие требования к оперативной или видеопамяти даже у компактных вариантов, возможное снижение качества при сильной квантизации и необходимость отдельного mmproj-файла для работы с изображениями. Указана лицензия qwen-community-1.0; дополнительные условия приведены в файле LICENSE.