II.4Отладка, тестирование и качество ПО

Inferor 0.1 — текстовая генеративная модель на 12,1 млрд параметров, созданная Infermatic объединением нескольких языковых моделей методом Model Stock с помощью mergekit. В качестве основы использована mistralai/Mistral-Nemo-Instruct-2407; в объединение также вошли MN-12b-Sunrose, Magnum v4 12B и Mistral-Nemo-Gutenberg-Doppel-12B-v2. Модель построена на архитектуре Mistral для Transformers, веса доступны в формате safetensors. Модель предназначена для диалогов и генерации текста по запросу. Заявленная длина контекста — 131 072 токена; метаданные также отмечают интерфейс вызова инструментов. Карточка не уточняет языковое покрытие, сравнительные результаты или рекомендуемые настройки для этой версии. Лицензия в предоставленных данных не указана.

MotherEarth-Hermes-8B — объединённая диалоговая языковая модель, созданная с помощью mergekit методом SLERP на основе MotherEarth/MotherEarth-1.0-8B и mlabonne/Hermes-3-Llama-3.1-8B-lorablated. Она построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и ведения диалогов. В конфигурации с V-образным распределением весов вклад Hermes усилен на входе и выходе, а средние слои ориентированы на WizardMath. Сведения о лицензии в предоставленных данных отсутствуют.

Norocetacean-20b-10k — плотная языковая модель семейства Llama, опубликованная ddh0. Она создана слиянием Psyonic-Cetacean-20B и LoRA-адаптера no_robots-alpaca; контекст расширен до 10 240 токенов с помощью YaRN. Модель рассчитана на генерацию ответов по инструкциям в формате Alpaca и может применяться в диалоговых и текстовых сценариях с длинным контекстом. В модели около 19,8 млрд параметров. README указывает Llama 2 как базовую модель и сообщает о включении Orca-2-13B; для использования действуют условия Microsoft Research License. Карточка не описывает языковую специализацию или дополнительные модальности, поэтому модель следует рассматривать как текстовую.

NVIDIA Nemotron 3.5 Lightning 30B-A3B NVFP4 GGUF — это форматированный для GGUF и llama.cpp вариант модели NVIDIA Nemotron 3.5 Lightning 30B-A3B NVFP4. Это не переобучение, а побитно точная конвертация исходного контрольного пункта с сохранением NVFP4-весов экспертов; модель предназначена для генерации текста и локального запуска, особенно на GPU NVIDIA Blackwell с поддержкой FP4 tensor cores. Модель использует гибридную архитектуру Mamba-2, Mixture-of-Experts и attention: всего около 30 млрд параметров, из которых примерно 3 млрд активны для каждого токена. Она содержит 52 слоя, включая 6 слоёв с полноценным attention, 128 маршрутизируемых экспертов, из которых активны 6, и одного общего эксперта. Нативная длина контекста составляет 1 048 576 токенов; благодаря фиксированному состоянию Mamba-2 и MoE полный контекст заявлен как доступный на одной видеокарте с 24 ГБ памяти. Поддерживаются английский, испанский, французский, немецкий, итальянский и японский языки. Сильные стороны модели — очень длинный контекст, экономичное число активных параметров, сохранение исходных NVFP4-весов без повторного квантования и возможность использования дополнительной MTP-головы для speculative decoding. MTP-голова может повысить скорость примерно на 7% на быстрых GPU и на величину порядка десятков процентов на более медленном оборудовании, но требует дополнительной памяти и не улучшает качество вывода. Ограничения включают зависимость от совместимого оборудования и llama.cpp, а также потери запаса по контексту при использовании MTP-головы на GPU с 24 ГБ. В README приведены ориентировочные результаты: 79,2% на MMLU-Pro, 70,7% на IFBench и 26,7% на terminal-bench 2.0; авторы отмечают малые выборки и заметную вариативность результатов. Модель распространяется по лицензии OpenMDW License Agreement версии 1.1, унаследованной от базовой модели. Материалы модели принадлежат NVIDIA Corporation и аффилированным лицам; при использовании следует указывать NVIDIA как разработчика исходной модели и NVFP4-экспорта. Репакет не аффилирован с NVIDIA и не предоставляет прав на её товарные знаки.

OPT-IML-Max — инструкционно дообученная языковая модель семейства OPT, разработанная Meta. Она обучена на примерно 2000 задачах обработки естественного языка из восьми бенчмарков, включая Super-NaturalInstructions, FLAN и PromptSource, и предназначена для выполнения разнообразных инструкций и генерации текста. Модель использует плотную причинную архитектуру OPTForCausalLM, содержит около 1,7 млрд параметров и поддерживает контекст до 2048 токенов. Модель подходит для ответов на вопросы, суммаризации, перефразирования и других текстовых задач, сформулированных в виде инструкций. Карточка не уточняет список поддерживаемых естественных языков. Возможны фактические ошибки, токсичные высказывания и воспроизведение стереотипов; ответы требуют проверки. Лицензия указана как other, поэтому условия использования следует сверять с лицензией репозитория.

shamwowzer/prototype-128x02 — объединённая языковая модель, созданная с помощью mergekit. В README указано, что в слиянии Multi-SLERP участвовали /workspace/modeler/Behemoth и /workspace/mistral-text-only с весами 0,5; базовой моделью при сборке выбрана /workspace/modeler/Behemoth. Метаданные относят архитектуру к семейству Mistral и классу MistralForCausalLM; модель содержит 123,4 млрд параметров и принимает контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогового общения. Репозиторий содержит веса safetensors; для работы используется библиотека Transformers. Лицензия в предоставленных данных не указана.

Карточка модели ArchiveStudio/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

rbinrs/Qwen2.5-14B-Instruct-abliterated-v2 — диалоговая языковая модель на архитектуре Qwen2 с 14 млрд параметров, созданная на основе Qwen/Qwen2.5-14B-Instruct методом abliteration. Она предназначена для генерации текста и общения в формате чата; заявленная особенность версии — снижение отказов отвечать на запросы. Модель поддерживает интерфейс вызова инструментов и контекст длиной до 32 768 токенов, работает с текстом и рассчитана на многоязычные сценарии, включая русский, английский, китайский, французский, испанский, португальский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель можно применять в чат-ботах, для свободной генерации и структурированных ответов, а также в приложениях с вызовом инструментов. Разработчик сообщает, что эта версия улучшена по сравнению с предыдущей, однако оценивание ещё продолжается, поэтому опубликованных результатов качества в карточке нет. Доступна по лицензии Apache-2.0.

bartowski/Qwen2.5-7B-Instruct-GGUF — это набор GGUF-квантизаций чат-модели Qwen2.5-7B-Instruct, разработанной командой Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск в LM Studio и других совместимых приложениях. Для общения используется шаблон сообщений с ролями system, user и assistant. Модель содержит около 7 миллиардов параметров, работает в текстовой модальности и, согласно README, заявлена для английского языка. В репозитории доступны варианты от F16 до низкобитных Q2–Q8-квантизаций размером примерно от 3,5 до 15,2 ГБ. Более высокие разрядности обычно обеспечивают лучшее качество, а низкие требуют меньше оперативной памяти; отдельные варианты оптимизированы для ARM-процессоров и требуют поддержки SVE или i8mm. README также сообщает об обновлении настроек длины контекста и токенизатора, но точное значение контекстного окна не указано. Сильной стороной является широкий выбор квантизаций для запуска на оборудовании с различными ограничениями по памяти, при этом варианты Q4–Q6 отмечены как рекомендуемые по соотношению качества и размера. Ограничения связаны с компромиссом между качеством и размером низкоразрядных вариантов, а также с необходимостью совместимого программного обеспечения и аппаратных инструкций для некоторых ARM-версий. Указана лицензия Apache-2.0.

Qwen3-30B-A3B-Instruct-2507-GGUF — это набор файлов модели в формате GGUF для оригинальной модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Квантизацию и публикацию набора выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в локальных приложениях и сервисах, поддерживающих GGUF. Доступны варианты квантизации с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат совместим с llama.cpp и рядом инструментов, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, candle и другие. Архитектура, число активных параметров, модальности, языки и размер контекста в README не указаны. Сильная сторона модели — возможность локального запуска и выбора уровня квантизации в зависимости от доступного оборудования. Ограничения связаны с тем, что качество и производительность конкретного варианта зависят от выбранной разрядности и совместимого программного окружения. Лицензия в предоставленных данных не указана.

MuXodious/Qwen3.5-4B-SOMPOA-heresy-v2-MTP — мультимодальная модель на 4 млрд параметров, созданная на основе Qwen3.5-4B. По карточке, её дообучили с помощью Heretic и методов SOMA и MPOA для подавления отказов; также восстановлены веса Multi Token Prediction из базовой модели. Архитектура — плотная Qwen3.5 с языковой моделью и визуальным энкодером; заявлены диалог, понимание изображений и интерфейс вызова инструментов. Модель предназначена для диалога, рассуждений, работы с изображениями и агентных сценариев с инструментами. В карточке базовой модели указана поддержка 201 языка и диалекта, а контекстное окно составляет 262 144 токена с возможностью расширения до 1 010 000. Репозиторий содержит веса Safetensors для Transformers; карточка также называет совместимость с vLLM, SGLang и KTransformers. В README сообщается о низкой частоте отказов в использованной авторами проверке, поэтому модель может отвечать на запросы, которые базовая модель отклоняла. Это не гарантирует фактическую точность ответов и может снижать надёжность защитных отказов. Лицензия — Apache-2.0.

Это квантованная мультимодальная модель Qwen3.8-27B, разработанная на основе Qwen/Qwen3.8-27B и аблитерированной версии huihui-ai/Huihui-Qwen3.8-27B-abliterated. Релиз lued сохраняет архитектуру и возможности исходной модели, изменяя числовое представление весов. Модель предназначена для диалоговых и мультимодальных сценариев, включая работу с текстом и изображениями, а также для запуска через vLLM на видеокартах архитектуры Ampere, в частности в конфигурации с двумя RTX 3090. Используется квантование W8A16: веса основных матричных умножений представлены в INT8, а активации — в FP16 или BF16. Применена симметричная data-free RTN-квантизация с размером группы 128; квантировано 400 GEMM-операций. В BF16 сохранены vision tower, lm_head, MTP-компоненты и рекуррентные GDN-gates. Модель поддерживает vision-компоненты, native context, thinking controls и speculative decoding через MTP, однако точный размер контекста, список языков и полные архитектурные характеристики в карточке не указаны. По измерениям на коротком наборе из 467 позиций средний KLD относительно собственного BF16-учителя составил 0,000705, а совпадение top-1 предсказаний — 98,72%; эти показатели характеризуют числовое отклонение после квантизации, но не заменяют полноценную оценку качества генерации, программирования, инструментального использования или длинного контекста. Аблитерация унаследована от базовой модели и направлена на удаление отказов; исходная карточка описывает этот метод как экспериментальный и proof-of-concept. Размер файлов весов составляет 29,44 GiB. Модель распространяется по лицензии Apache-2.0.

Freaksterz/Qwen3.8-27B-SmoothQuant-W8A8-INT8 — это квантизированная версия Qwen/Qwen3.8-27B, подготовленная сообществом Freaksterz на базе оригинальной модели Qwen. Модель предназначена для генерации текста и мультимодальных сценариев image-text-to-text, включая обработку изображений и текста, а также для задач, где важны высокая скорость инференса и умеренное потребление памяти. В основе используется архитектура Qwen3.8-27B с 27 миллиардами параметров. Квантизация выполнена по схеме W8A8: веса представлены в симметричном INT8 с округлением GPTQ, а активации квантизуются динамически для каждого токена. В процессе применены офлайн-ротация QuaRot-подобного типа, SmoothQuant и GPTQ; отдельные компоненты, включая vision tower, embeddings, lm_head, нормы и модуль MTP для speculative decoding, сохранены в BF16. Модель распространяется в формате compressed-tensors и ориентирована на запуск через vLLM с нативным INT8 tensor-core kernel. Заявленная скорость prefilling составляет около 3500 токенов в секунду на двух RTX 3090 в режиме TP2, а средняя дивергенция относительно BF16-версии измерена на уровне KLD 0,0110. Сильными сторонами являются низкое отклонение от BF16-оригинала среди рассматриваемых INT8 W8A8-вариантов, высокая скорость prefilling и сохранение поддержки speculative decoding благодаря BF16 MTP. Ограничения включают неизбежную потерю точности из-за квантизации, зависимость производительности от совместимого оборудования и программного стека, а также отсутствие в предоставленных данных сведений о языковом охвате и размере контекстного окна. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованный пользователем azukivc и подготовленный для llama.cpp. Модель предназначена для генерации текста, включая локальный запуск и сценарии, где требуется сниженное количество отказов. Поведение отказа было существенно уменьшено, но не устранено полностью; дополнительное обучение и новые обучающие данные не использовались. Лицензия — Apache-2.0. Модель использует архитектуру Qwen3_5ForConditionalGeneration, содержит 64 слоя, словарь из 248 320 токенов, один MTP-слой и поддерживает контекст до 262 144 токенов. Указана поддержка vision, поэтому доступны варианты с обработкой изображений, если это поддерживается базовой моделью и используемым runtime. Заявлены языки English и Chinese. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, размер файлов — примерно от 10,6 до 29 ГБ. MTP-голова сохранена для speculative decoding; доступны как объединённые файлы со встроенной draft-моделью, так и отдельные target- и draft-файлы. Снижение отказов является преимуществом для менее ограниченных сценариев, однако поведение не полностью безотказное, а acceptance rate speculative decoding может немного снизиться.

fallentree/Qwen3.8-27B-Uncensored-GP100-GGUF — это мультимодальная GGUF-сборка модели Qwen3.8-27B с модификацией Uncensored (abliteration). В основе указаны Qwen/Qwen3.8-27B, JonathanColetti/Qwen3.8-27B-Uncensored, mradermacher/Qwen3.8-27B-Uncensored-i1-GGUF и incoai/Qwen3.8-27B-DFlash2. Сборка предназначена для запуска через llama.cpp и оптимизирована разработчиком fallentree для двух видеокарт Tesla P100 с архитектурой Pascal sm_60. Основной файл использует квантизацию Q4_1_G64 примерно на 4,5 бит на вес и занимает около 15 ГиБ; выходная голова хранится в Q8_0, эмбеддинги — в Q4_1, используется calibration imatrix. В комплект входят отдельная DFlash-модель для speculative decoding и vision projector в формате F16, поэтому сборка поддерживает обработку текста и изображений. Заявлены английский и китайский языки, а также контекст до 128K токенов. Для максимальной производительности требуется специальная ветка llama.cpp-gp100 с поддержкой sm_60, LoopSpec и связанных оптимизаций; стандартный llama.cpp не загружает тип Q4_1_G64, но может использовать поставляемый вариант Q4_1. Главное преимущество — оптимизация скорости декодирования и работы с длинными сессиями на Tesla P100: в приведённых тестах G64 быстрее Q4_1 примерно на 10% в обычном режиме и на 4,8% в сценарии с контекстом 128K и компактированием. Ограничения включают зависимость от специализированного программного стека и оборудования sm_60, несовместимость с P40 и видеокартами GTX 10-й серии, а также небольшое ухудшение perplexity и более слабые результаты на коротких запросах по сравнению с Q4_1. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — квантованная GGUF-версия модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также работы с изображениями и видео; заявлена поддержка английского, китайского и других языков. Aggressive-профиль ориентирован на прямые ответы с минимальным вступлением и без стандартного отказного поведения. Модель представляет собой плотную causal language model на 27 млрд параметров с vision encoder, 64 слоями, размером скрытого состояния 5120, FFN-размером 17408 и словарём из 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживается нативный контекст 262 144 токена с возможностью расширения до 1 000 000 токенов. Встроенный NextN/MTP сохранён, а FastMTP 32K предоставляется как отдельный профиль ускорения; заявлено ускорение генерации до 3,02 раза для документов и до 1,93 раза для рассуждений относительно режима без MTP. К сильным сторонам относятся широкий набор текстовых, визуальных и видеосценариев, длинный контекст, несколько вариантов квантования и совместимость с GGUF-совместимыми средами, включая llama.cpp и LM Studio. Aggressive-профиль может быть менее подходящим для надёжно контролируемых агентских задач, поскольку ориентирован на отсутствие отказов; README также не приводит подробностей о качестве на стандартных бенчмарках. Распространение указано по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-Q4_K_M-Vision-GGUF — это квантованная в формате GGUF версия базовой модели Qwen/Qwen3.8-27B, опубликованная пользователем qaqab и предназначенная для запуска через llama.cpp и совместимые среды. Модель ориентирована на генерацию текста, диалоговые сценарии и обработку изображений при использовании vision-варианта, если соответствующая система поддерживается базовой моделью. Заявлены языки English и Chinese. Модель использует архитектуру Qwen3_5ForConditionalGeneration, содержит 64 слоя, словарь из 248 320 токенов, один MTP-слой и поддерживает контекст до 262 144 токенов. Файл Q4_K_M имеет размер около 16,8 ГБ; в него встроена MTP-голова для speculative decoding. В README указано, что отказное поведение было существенно снижено с помощью Heretic без дообучения и дополнительных данных, но не устранено полностью. При обычном прямом проходе MTP-блок не влияет на качество вывода, а speculative decoding может ускорить генерацию, хотя коэффициент принятия черновых токенов может немного снизиться. К сильным сторонам относятся большой контекст, поддержка мультимодального ввода, сохранённая MTP-структура и относительно компактное представление Q4_K_M. Ограничения включают зависимость от поддержки vision и MTP со стороны конкретного рантайма, а также возможное ухудшение качества квантования по сравнению с f16; для Q4_K_M в README приведена perplexity 7,1814 на wikitext-2. Модель распространяется по лицензии Apache-2.0.

desva0/Qwen3.8-27B-Uncensored-W4A16 — квантизированная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen. Репозиторий содержит сборку OrcaRouter с удалённым встроенным поведением отказа, дополнительно преобразованную в формат W4A16. Модель предназначена для работы с текстом и изображениями, поддерживает английский и китайский языки, рассуждения и вызов функций. Модель использует архитектуру Qwen3_5ForConditionalGeneration и содержит около 27 млрд параметров в исходной версии. Применена 4-битная симметричная квантизация весов с размером группы 128 в формате compressed-tensors pack-quantized; визуальные линейные слои сохранены в более высокой точности для поддержания возможностей анализа изображений. Размер весов составляет примерно 15 ГБ, благодаря чему модель рассчитана на запуск на одной видеокарте с 24 ГБ памяти, например RTX 3090. В README указана возможность использования контекста до 32768 токенов при настройке vLLM, причём фактическая длина зависит от доступной памяти под KV-кэш. К сильным сторонам относятся сочетание текстовых и визуальных возможностей, поддержка function calling и возможность локального запуска на потребительском GPU. Ограничения связаны с потерями точности, возможными для 4-битной квантизации, зависимостью от совместимой версии vLLM и формата compressed-tensors, а также с отсутствием встроенного поведения отказа: модель может выполнять запросы, которые согласованная модель отклонила бы, поэтому ответственность за защитные меры и корректное применение лежит на пользователе. Модель распространяется по лицензии Apache-2.0; при перераспределении необходимо сохранять лицензию и атрибуцию.

RedHatAI/Qwen3-8B-NVFP4 — квантизированная версия языковой модели Qwen3-8B, разработанная RedHatAI на базе Qwen/Qwen3-8B. Модель предназначена для генерации текста и диалоговых сценариев, включая развёртывание чат-ботов и других приложений на основе больших языковых моделей. Она принимает текстовые данные и генерирует текст; заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский, однако документация отдельно ограничивает использование английским языком. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 с использованием LLM Compressor. Размер параметров уменьшен с 16 до 4 бит, что примерно на 75% сокращает объём хранения и требования к памяти GPU. Модель рассчитана на эффективный инференс через vLLM версии 0.9.1 и новее, включая OpenAI-совместимый режим сервинга. Для калибровки использовались образцы UltraChat; в README не указаны точный размер контекстного окна и количественные результаты бенчмарков. Ключевое преимущество модели — существенное снижение потребления дисковой и GPU-памяти при сохранении совместимости с исходной Qwen3-8B. Ограничением является возможное снижение качества из-за FP4-квантизации по сравнению с неквантизированной моделью, хотя README сообщает о проведённом сравнительном тестировании без приведения результатов. Лицензия — Apache-2.0; также указано ограничение на использование способами, нарушающими применимые законы и нормативные требования.

Qwen3.8-Flash-Next-GGUF — GGUF-квантизированная версия модели Qwen3.8-Flash-Next, разработанной Qwen и квантизированной пользователем qtum с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp; заявленные языки — английский и китайский. Модель содержит около 180 млрд параметров: MoE-ядро на 125 млрд параметров с 48 слоями, 512 экспертами, маршрутизацией top-10 и одним общим экспертом, а также 51-миллиардную PLE-таблицу n-грамм. Используется гибридное внимание: линейное внимание Gated DeltaNet чередуется с блоками Qwen Sparse Attention и гиперсвязями. Максимальная длина контекста — до 262 тысяч токенов. Слой MTP для чернового предсказания был исключён при конвертации. Доступны варианты BF16 и квантизации IQ4_XS, IQ3_XXS, IQ2_XS-layered и IQ1_M-layered размером примерно от 76,4 до 118,8 GiB; каждый вариант поставляется в восьми сегментах. Квантизация снижает требования к хранилищу, но ухудшает показатель perplexity относительно BF16, особенно у низкобитных вариантов. Для работы необходимо скачать все восемь сегментов и использовать llama.cpp; модель предъявляет очень высокие требования к ресурсам. Лицензия — Qwen Community License 1.0, унаследованная от исходной модели, а не MIT.

unsloth/Qwen3.8-Flash-Next-GGUF — GGUF-версия экспериментальной мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen и подготовленной для распространения Unsloth. Это каузальная языковая модель с vision encoder, предназначенная для обработки текста и изображений, включая мультимодальные и агентские сценарии. Для запуска рекомендуется использовать llama.cpp или Unsloth Desktop; также заявлена поддержка ускорения инференса с помощью MTP. Модель имеет 125 млрд параметров, из которых 6 млрд активируются при работе, а также 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Архитектура включает 48 слоёв, гибридную связку Gated DeltaNet и Qwen Sparse Attention, Mixture of Experts с 512 экспертами и 10 маршрутизируемыми плюс одним общим активным экспертом, Gated Residual и n-gram embedding. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 000 000 токенов. Поддерживаемые языки в README не указаны. К сильным сторонам относятся разреженное внимание на уровне блоков, рассчитанное на снижение задержки при длинном контексте, экономичное масштабирование параметров и малая доля активных параметров относительно общего размера модели. Ограничения связаны с экспериментальным статусом архитектуры, потенциально высокими требованиями к памяти и вычислительным ресурсам, а также отсутствием в предоставленном README подробных результатов бенчмарков и описания языкового покрытия. Модель распространяется по лицензии qwen-community-1.0; указанный тип лицензии — other.

Qwen3.8-Flash-Next-Uncensored — это MLX-квантованная версия модели orcarouter/Qwen3.8-Flash-Next-Uncensored, опубликованная пользователем ddark-il. Модель предназначена для локального запуска на компьютерах Apple Silicon, прежде всего на M5 Max с 128 ГБ памяти, и поддерживает сценарии генерации текста и обработки изображений с текстом. Модель использует архитектуру qwen4_exp с mixture-of-experts (MoE), vision-language возможностями и механизмом multi-token prediction (MTP). Исходный размер составляет около 180 млрд параметров; в данном варианте применяется смешанная affine-квантизация MLX со средней точностью 4,857 бит на параметр. Размер файлов — 109,29 ГБ, заявлена поддержка контекста до 262 тысяч токенов. Основная часть весов квантизирована в 4, 6 и 8 битах с различными размерами групп, причём для o_proj используется 8-битная квантизация. По измерениям авторов, версия обеспечивает меньшую ошибку относительно исходных bf16-весов, чем предыдущая ревизия, и достигает 90,7% совпадения top-1 предсказаний с bf16-версией. Сильными сторонами являются существенно меньшие требования к памяти по сравнению с bf16, высокая точность для квантизированной модели, поддержка длинного контекста и мультимодальных входов. Ограничения включают очень большой размер, зависимость от MLX и Apple Silicon, возможное влияние квантизации на качество, а также требования к пропускной способности SSD и кэшированию при работе с крупными таблицами и экспертами. Модель распространяется по лицензии Apache-2.0.

Qwen3.9-245B-A29B — текстовая генеративная модель семейства Qwen3, опубликованная аккаунтом QwennAI. Карточка показывает использование через Transformers и чат-шаблон Qwen с режимом рассуждений; также приведены примеры запуска через vLLM и SGLang. Метаданные указывают архитектуру Qwen3ForCausalLM, формат safetensors и поддержку чата. Модель предназначена для диалогов и генерации текста, включая задачи, требующие пошагового рассуждения, например объяснение математического доказательства. В README для сервинга приведён параметр контекста 65 536 токенов, тогда как метаданные указывают native context 1 024 токена; доступные сведения о размере противоречивы: имя модели содержит 245B-A29B, а total_parameters указано как 798.7K. Метаданные указывают английский и китайский языки. Лицензия — Apache-2.0.

jkrukowski/Qwen3-Embedding-0.6B-F32 — версия модели эмбеддингов Qwen3-Embedding-0.6B, подготовленная в формате Float32 из исходных весов BF16. Модель основана на Qwen/Qwen3-0.6B-Base: это плотная архитектура Qwen3ForCausalLM примерно с 508 млн параметров, дообученная для получения текстовых эмбеддингов. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Модель предназначена для семантического поиска и извлечения текстов и кода, сравнения предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 32 768 токенов и размерность эмбеддинга до 1024 с выбором выходной размерности от 32 до 1024. Входные инструкции можно настраивать под задачу; авторы отмечают, что в большинстве сценариев поиска это может повысить качество. Модель выдаёт векторные представления текста; README описывает её как модель эмбеддингов, а не как специализированный реранкер. Перед использованием с Transformers требуется версия 4.51.0 или новее, поскольку в более ранних версиях возможна ошибка распознавания архитектуры Qwen3. Качество конкретной версии F32 отдельно в карточке не оценено.

Saba1-7B — слитая модель для генерации текста и диалогов, созданная Sakalti методом TIES с помощью mergekit. В слиянии использованы AIDC-AI/Marco-o1 и базовая Sakalti/model-3; архитектура Qwen2, около 7,1 млрд параметров, веса в формате safetensors и точности bfloat16. Модель работает через библиотеку Transformers и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов в диалоге и других задач генерации текста; метаданные также отмечают интерфейс вызова инструментов. Лицензия в доступных сведениях не указана.

SuperGemma4-26b-abliterated-multimodal — производная мультимодальная модель на базе Google Gemma 4 26B IT, опубликованная Jiunsong. Это плотная модель с условной генерацией, предназначенная для диалогов, следования инструкциям и вызова инструментов. Она принимает текст и изображения и генерирует текст; в карточке заявлена поддержка английского и корейского языков. Модель поставляется в формате BF16 в формате Transformers, с шаблонами чата и вызова инструментов для настройки локального и серверного запуска. Автор README описывает обновление стабильности от 18 апреля: улучшения обработки ложных предпосылок, форматирования JSON и вызовов инструментов, извлечения из длинного контекста и устойчивости к зацикливанию. Приведены результаты внутренних проверок; в проверке сервера отмечены несоответствия в безопасных отказах и обработке текстовых запросов к мультимодальному серверу. Лицензия указана как Gemma; условия применения следует сверять с лицензией Gemma.

West-Hermes-7B — языковая модель на 7,1 млрд параметров, созданная слиянием моделей Mistral-7B-v0.1, WestLake-7B-v2 и OpenHermes-2.5-Mistral-7B с помощью метода DARE TIES и инструментария mergekit. В основе лежит плотная архитектура Mistral для авторегрессионной генерации текста. Модель предназначена для генерации текста по текстовым запросам. Контекст составляет до 32 768 токенов. В README приведены результаты оценок на бенчмарках рассуждений и понимания текста. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

yam-jom-7B — объединённая языковая модель, созданная с помощью LazyMergekit из eren23/ogno-monarch-jaskier-merge-7b-OH-PREF-DPO-v2 и yam-peleg/Experiment26-7B. В конфигурации указаны метод task_arithmetic, веса 0,35 и 0,65 и формат bfloat16; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста. В карточке приведены результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag. Контекстное окно составляет 32 768 токенов. Репозиторий содержит веса safetensors, лицензия — Apache-2.0.

airoboros-3_1-yi-34b-200k — языковая модель с открытыми весами, созданная автором репозитория на основе 01-ai/Yi-34B-200k. Модель дообучена методом QLoRA ранга 64 на наборе инструкций jondurbin/airoboros-3.1, а затем объединена с базовыми весами. Использует архитектуру LlamaForCausalLM и формат safetensors; содержит 33,9 млрд параметров и поддерживает контекст до 200 000 токенов. Модель предназначена для генерации текста и выполнения инструкций в формате чата Llama 2. Её можно применять для ответов на вопросы, диалогов, следования текстовым инструкциям и создания текстов. Автор сообщает, что проверял модель ограниченно; во время обучения промпты обрезались до 4096 токенов, поэтому качество работы с длинным контекстом отдельно не подтверждено. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты; перед использованием следует проверить лицензию базовой модели и карточку репозитория.

Alpaca-Dragon-Smaug-Slerp — 71-миллиардная плотная языковая модель семейства Llama, созданная объединением моделей ibivibiv/alpaca-dragon-72b-v1 и abacusai/Smaug-72B-v0.1 с помощью mergekit и метода SLERP. Для смешивания параметров внимания и MLP использованы разные коэффициенты; базой в конфигурации указан Smaug-72B-v0.1. Модель предназначена для генерации текста и может применяться в диалогах, ответах на вопросы и рассуждениях — задачах, связанных с базовой моделью Smaug. Поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель принимает текст и генерирует текст. В метаданных указана лицензия Apache-2.0. Карточка не приводит отдельных оценок качества или конкретных ограничений; для практического использования следует учитывать большой размер модели и требования к вычислительным ресурсам.