II.3Рефакторинг, миграция и модернизация

RDson/Llama-3-Peach-Instruct-4x8B-MoE — экспериментальная языковая модель RDson, созданная с помощью Mergekit путём объединения четырёх моделей семейства Llama 3 в архитектуру MoE. Она предназначена для диалоговой генерации текста и может применяться для ответов на вопросы, следования инструкциям и решения задач с рассуждением. В README приведены результаты GSM8K для варианта Q4_K_M; в репозитории указаны веса safetensors, а GGUF-версия доступна отдельно. Модель имеет около 7,5 млрд параметров и контекстное окно 8192 токена. В состав объединения вошли Meta-Llama-3-8B-Instruct, SFR-Iterative-DPO-LLaMA-3-8B-R, Hermes-2-Theta-Llama-3-8B и Llama-3-8B-Instruct-Coder. README называет её экспериментальной; сведения о лицензии в предоставленных данных отсутствуют.

LlamaMix-7B-slerp — языковая модель для генерации текста и диалогов, созданная MohamedAtta-AI объединением моделей через mergekit. В объединение вошли Magicoder-CL-7B и Llama-2-7b-chat-hf; применён метод SLERP. Модель использует архитектуру Llama с плотной трансформерной сетью и выдаёт текст в ответ на текстовый запрос. Метаданные указывают 3,4 млрд параметров и контекст до 4096 токенов. Модель подходит для диалогового ассистента и генерации кода благодаря включению Magicoder-CL-7B. В карточке не приведены оценки качества или подробные результаты тестирования, поэтому пригодность для конкретных задач стоит проверять на собственных примерах. Распространяется по лицензии Apache-2.0.

MJPansa/MiniMax-M2.7-REAP-172B-A10B-AutoRound-W4A16 — экспериментальная сжатая и квантизированная версия модели семейства MiniMax-M2, разработанная на основе MiniMaxAI/MiniMax-M2.7. Это текстовая генеративная модель для продолжения текста, диалогов, программирования и других задач обработки естественного языка; предусмотрена интеграция с vLLM и Hugging Face Transformers. Заявленный язык — английский. Модель использует архитектуру Mixture-of-Experts: 62 трансформерных слоя, 192 эксперта на слой после сокращения исходных 256 экспертов на 25%, top-8 маршрутизацию, скрытый размер 3072, 48 attention heads и 8 KV heads. Всего около 172 млрд параметров, из которых примерно 10 млрд активируются на токен. REAP применён для pruning экспертов, а AutoRound — для квантизации весов в формате W4A16 с 4-битными весами, 16-битными активациями и group size 128. Размер checkpoint составляет около 86 GiB; заявлена поддержка контекста до 32768 токенов при использовании соответствующей конфигурации сервера. Сильная сторона модели — существенно уменьшенный размер и возможность запуска на одной NVIDIA GB10/DGX Spark с 128 GiB unified memory, а также на CUDA GPU с kernels Marlin или GPTQ-Marlin W4A16. Ограничения связаны с экспериментальным статусом: pruning и калибровка выполнены всего на 64 последовательностях длиной 512 токенов из evol-codealpaca-v1, поэтому качество ещё оценивается и может уступать исходной модели. Для Transformers требуется trust_remote_code=True. Модель распространяется по лицензии MiniMax M2.7, обозначенной в README как minimax-m2.7-license.

Nemotron-Flash-3B Base — базовая языковая модель NVIDIA для генерации текста. Это плотная причинная трансформерная модель семейства Nemotron Flash с архитектурой NemotronFlashForCausalLM и 1,3 млрд параметров. Семейство спроектировано с учётом задержки на реальных сценариях: в нём используются гибридные операторы, найденные эволюционным поиском, оптимальное соотношение глубины и ширины и нормализация весов на этапе обучения. Модель предназначена для генерации продолжений текста и может применяться в задачах математических рассуждений, программирования и здравого смысла. В README заявлены результаты на уровне лучших моделей своего размера, а также низкая задержка при небольших пакетах и высокая пропускная способность при больших. Для запуска описана интеграция с Transformers и ускорение CUDA Graph; контекст составляет 29 000 токенов. Это базовая, а не Instruct-версия, поэтому карточка не заявляет, что она настроена для диалога по инструкциям. Модель распространяется под лицензией с типом «other»; конкретные условия следует проверять в файлах лицензии репозитория. Для загрузки указаны Transformers и формат safetensors.

win10/phi-3.5-sakura-yuzu-v3.0 — объединённая авторами модель генерации текста на архитектуре Phi-3.5, созданная с помощью mergekit и метода TIES. В качестве основы использована win10/Phi-3.5-mini-instruct-24-9-29; в слияние также вошли модели для ролевого общения, программирования, медицинских вопросов и адаптеры EvolKit и System. Размер модели — 3,7 млрд параметров, длина контекста — 4096 токенов. Модель предназначена для диалоговой генерации текста и может применяться для ролевых бесед, ответов на вопросы, помощи с кодом и медицинской тематикой. Метаданные указывают поддержку чата и нескольких языковых вариантов в моделях, вошедших в слияние, но основной язык этой модели отдельно не установлен. Модель распространяется в формате safetensors для библиотеки Transformers. Сведения о лицензии в предоставленных источниках отсутствуют.

unsloth/Qwen2.5-7B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-7B, разработанной командой Qwen. Модель предназначена для генерации и продолжения текста, а также для последующего дообучения методами SFT, RLHF или continued pretraining. Для диалоговых сценариев базовую модель использовать не рекомендуется без дополнительного постобучения. Модель относится к классу causal language models и содержит 7,61 млрд параметров, из которых 6,53 млрд не являются параметрами эмбеддингов. Архитектура включает 28 слоёв, RoPE, SwiGLU, RMSNorm и attention с GQA: 28 голов для Q и 4 для KV. Контекстное окно — до 131 072 токенов. Поддерживаются более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество версии — 4-битное представление, снижающее требования к памяти; конкретные показатели качества и производительности для этой сборки в README не приведены. Модель распространяется под лицензией Apache-2.0 и предназначена для использования с библиотекой Transformers.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — это мультимодальная модель на базе Qwen3.5-9B, разработанная DavidAU совместно с Nightmedia. Она представляет собой результат многоэтапного дообучения и слияния нескольких моделей на локальном оборудовании. Модель ориентирована на универсальные сценарии: следование инструкциям, рассуждения, программирование, творческое письмо, художественную литературу и ролевые диалоги. Заявлена как uncensored и heretic-модель, то есть с ослабленными ограничениями на ответы. Модель распространяется в формате GGUF, включая обычные и MTP-варианты для multi-token prediction. Доступны квантизации, в том числе 4- и 8-битные; для GGUF заявлен контекст до 256 тысяч токенов. Поддерживаются текст и изображения, однако для работы с изображениями требуется отдельный файл mmproj. Указаны английский и китайский языки. NEO IMATRIX-квантизация и частично сохранённая 16-битная точность выходного тензора предназначены для повышения качества, а MTP-варианты — для ускорения генерации при достаточном уровне принятия предсказанных токенов. Сильными сторонами заявлены производительность в ряде benchmark-тестов, развитое следование инструкциям, компактный размер, поддержка рассуждений и потенциально высокая скорость локального запуска. Ограничения включают зависимость скорости и эффективности MTP от оборудования, настроек и acceptance rate, а также необходимость подбирать обычный или MTP-вариант под конкретный сценарий. Приведённые результаты получены авторами модели и не гарантируют превосходство над более крупными моделями во всех задачах. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Она создана в сотрудничестве авторов DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh с использованием Unsloth, специализированных датасетов и нескольких этапов fine-tuning и merge. Модель распространяется в формате GGUF, включая обычные и MTP-варианты с NEO IMATRIX-квантованием. Модель предназначена для широкого спектра задач: следования инструкциям, решения общих и сложных задач, рассуждений, генерации кода, творческого письма, ролевых сценариев и работы с текстом различных жанров. В README заявлена поддержка vision и языков English и Chinese. Указан размер 27B параметров, однако максимальная длина контекста не приведена. MTP-варианты используют multi-token prediction, а MTP-тензоры имеют точность Q8_0; для них рекомендуется температура не выше 1. К заявленным сильным сторонам относятся улучшенное следование инструкциям, рассуждение и общая способность к решению задач, а также высокая точность низкоразрядных квантованных вариантов. README утверждает превосходство над базовой Qwen3.6-27B в большинстве указанных бенчмарков, но эти результаты являются заявлениями автора и не сопровождаются здесь полной воспроизводимой методикой. Возможные ограничения включают зависимость качества и производительности от выбранного кванта и параметров MTP, а также отсутствие подробных данных о контекстном окне и системных требованиях. Модель заявлена как uncensored/heretic, поэтому её ответы могут требовать дополнительной модерации. Лицензия — Apache-2.0. В качестве источников дообучения указаны DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets.

LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V12-GGUF — мультимодальная модель в формате GGUF, основанная на HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. В модель также перенесены данные дообучения DJLougen/hermes-qwen3.5-35b-a3b-GGUF на наборе NousResearch/hermes-function-calling-v1, что ориентирует её на агентские сценарии и вызов функций. В README указаны поддержка текста и изображений, языки English, Chinese и multilingual, а также архитектура MoE с 35B общих параметров и 3B активных параметров. Размер контекста не указан. Модель предназначена для диалогов, генерации текста, мультимодального анализа, программирования и задач, где требуется следование инструкциям, использование инструментов и функция вызова. Заявлена как uncensored-модель с отсутствием отказов в приведённом автором тесте 0/465; это может быть преимуществом для менее ограниченных сценариев, но одновременно повышает риски генерации небезопасного или нежелательного контента. Для работы рекомендуется использовать соответствующий chat template, включить thinking, применять F16 для K/V-cache, максимально задействовать GPU и настроить CPU offload MoE-слоёв. Автор заявляет, что применил собственный метод Genesis — численную обработку весов GGUF на основе статистического анализа и закона Марченко—Пастура, без обычного обучения или дообучения. Эти заявления и описанные улучшения стабильности, ясности контекста и следования инструкциям не сопровождаются независимыми бенчмарками в представленном README, поэтому их следует воспринимать как авторскую характеристику. Модель распространяется по лицензии Apache-2.0.

Atomic-Germ/Qwen3.8-27B-Heretic-MTP-GGUF — это многоэтапная дообученная и объединённая версия Qwen3.8 с 27 млрд параметров, распространяемая в формате GGUF. Модель основана на DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU и создана с использованием Unsloth, методов Cold Fusion и Fable Fusion 711. В репозитории представлены обычные и MTP-квантизации, включая варианты с 4- и 8-битной точностью и imatrix-оптимизацией. Модель предназначена для широкого круга сценариев: решения задач и рассуждений, программирования, творческого письма, генерации художественных текстов, ролевого взаимодействия и других универсальных применений. Заявлены поддержка английского и китайского языков, три режима работы с рассуждениями, а также акцент на сокращение объёма внутренних рассуждений и ускорение генерации при сохранении детализации ответов. Архитектура, точное окно контекста и наличие подтверждённой мультимодальности в README не указаны. К сильным сторонам относятся относительно высокая производительность на потребительском оборудовании, уменьшенное число токенов рассуждений, варианты для разного объёма памяти и ориентация на детализированные ответы. В README приводятся высокие результаты на ARC-C и ARC-E, однако это заявления автора и не являются независимо подтверждёнными характеристиками. Ограничения включают возможную зависимость качества от выбранной квантизации, отсутствие подробных данных о контекстном окне и неполную информацию о тестировании. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-nvfp4full-dflash2-NInfer — мультимодальная conversational-модель на базе Qwen3.8-27B, подготовленная в формате артефакта NInfer. В README разработчик базовой модели явно не указан; указаны исходные проекты Qwen/Qwen3.8-27B и unsloth/Qwen3.8-27B-NVFP4. Артефакт дополнен модулем DFlash2 для speculative decoding и предназначен прежде всего для запуска через форк gpillon/ninfer. Модель рассчитана на генерацию текста, диалоговые сценарии, обработку изображений и задачи coding-agent, особенно при большом числе параллельных запросов с общим системным промптом и схемами инструментов. Форк движка поддерживает повторное использование префиксов, двухуровневое хранение KV-кэша, защиту длительных сессий от вытеснения, streaming и разбор tool calls. Для общих префиксов заявлено повторное использование примерно 99% предварительного вычисления, однако эти показатели относятся к исходному форку движка, а не являются универсальной характеристикой модели. Размер модели — 27B параметров. Используется профиль весов NVFP4-full, включая 281 NVFP4-тензор и 9 BF16-тензоров-исключений; размер файла артефакта составляет около 18,07 GiB. Модуль DFlash2 представляет собой пятислойный sliding-window drafter с окном 2048 и скрытой размерностью 5120. Поддержка языков, точное максимальное контекстное окно базовой модели и фактические характеристики качества в README не указаны; упомянут 1M-context envelope движка NInfer. Главные ограничения — артефакт совместим только с NInfer и не является checkpoint для Transformers, Safetensors или GGUF. Для использования требуется форк gpillon/ninfer с поддержкой DFlash2. Указана лицензия Apache 2.0.

Qwen3.8-Flash-Next-ROCmFP4-STRIX-GGUF — это квантованная версия базовой модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем kingjones777. Модель предназначена для генерации текста, включая рассуждения, формирование JSON, программирование и суммирование длинных документов. Формат GGUF ориентирован на запуск через llama.cpp и совместимые среды. Модель использует архитектуру qwen4exp и типы тензоров ROCmFP4. Она оптимизирована прежде всего для AMD Ryzen AI Max+ 395, Strix Halo и GPU gfx1151 с ROCm, включая работу на интегрированной Radeon 8060S с общей памятью. В README указано, что размер модели составляет около 98 GiB, а работа с контекстом проверялась вплоть до 128K токенов. Доступна поддержка speculative decoding через дополнительную MTP-голову, однако измерения относятся к другим вариантам семейства и не гарантируют такой же прирост для этой сборки. Сильными сторонами являются возможность запуска очень крупной модели на системе с унифицированной памятью, поддержка длинного контекста и потенциальное ускорение генерации с MTP. Ограничения включают низкую пропускную способность общей памяти по сравнению с дискретными GPU, необходимость специальной ветки ROCmFPX с поддержкой qwen4exp и ROCmFP4, а также применения патчей перед сборкой; стандартный llama.cpp этот файл не загружает. Языки модели в предоставленных данных не указаны. Лицензия обозначена как other с названием qwen-community-1.0.

RLT-7B — авторегрессионная языковая модель Sakana AI с 7,1 млрд параметров, дообученная методом supervised fine-tuning на основе Qwen/Qwen2.5-7B-Instruct. Она использует подход Reinforcement-Learned Teachers: модель-учитель, оптимизированная для создания рассуждений, передаёт их навыки модели-ученику через дистилляцию. Модель предназначена для генерации текста и диалогов, включая задачи на рассуждение, математику, науку и код. Поддерживает английский и китайский языки; контекст — до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Разработчик позиционирует её как экспериментальный прототип для исследований и разработки; результаты не гарантируются, а применение в критически важных системах не рекомендуется.

Solar-Open2-250B-Mixed-Quant-GGUF — независимая конверсия модели upstage/Solar-Open2-250B в формат GGUF с рецептом смешанной точности MXQ-v1. Автор репозитория Baekpica; это не официальный выпуск Upstage. Вариант состоит из 11 файлов общим размером около 88,973 ГиБ и сохраняет исходную архитектуру Mixture-of-Experts: 48 слоёв, 320 маршрутизируемых экспертов в каждом слое и один общий эксперт. Указанный размер артефакта — около 3,05 бит на вес. Модель предназначена для генерации текста и диалогового применения, включая работу с инструкциями, рассуждениями, кодом и многоязычными запросами. В калибровке использованы английский, корейский, японский и другие многоязычные данные; карточка базовой модели указывает контекст до 1 048 576 токенов, однако автор не заявляет такую длину для работы на DGX Spark. Проверки описывают загрузку и генерации на нескольких GPU-конфигурациях, а также замеры производительности на DGX Spark с конкретным ПО и настройками. Это производный квантованный артефакт для запуска в совместимом с GGUF программном обеспечении; для него приведены контрольные суммы, рецепт квантования и результаты структурной проверки. Репозиторий указывает лицензию «other», но не приводит её условия в предоставленных данных, поэтому коммерческие и иные права использования следует сверить с карточкой Hugging Face и базовой моделью. Результаты проверок качества ограничены описанными тестами и не являются гарантией качества на произвольных задачах.

SuperGemma4-26B-Uncensored-Fast GGUF v2 — локальная GGUF-сборка, опубликованная пользователем Jiunsong и основанная на google/gemma-4-26B-A4B-it. Модель предназначена для диалогов, генерации текста, программирования и сценариев с использованием инструментов. Она позиционируется как менее ограниченная по сравнению со стандартными чат-релизами Gemma, но сохраняет естественное поведение в обычных запросах и не переводит их автоматически в режим программирования или вызова инструментов. Модель использует формат GGUF Q4_K_M и рассчитана на запуск через llama.cpp, в частности на компьютерах Apple Silicon. В README указано, что это MoE-модель, а экспорт выполнен из линии supergemma4-26b-uncensored-fast-v2 MLX. Заявлена поддержка английского и корейского языков; отдельно отмечена проверка на корейских запросах и задачах программирования. Размер контекста и точные параметры активной части модели не указаны. К сильным сторонам относятся компактный локальный формат, высокая скорость работы на Apple M4 Max, улучшения относительно исходной локальной базовой версии в коде, логике, браузерных сценариях и корейском языке, а также встроенный нейтральный шаблон чата, устраняющий известную проблему маршрутизации простых запросов в режим кода или вызова инструментов. Ограничения включают зависимость качества и скорости от оборудования и llama.cpp, квантизацию Q4_K_M и отсутствие в README подробных результатов независимого тестирования. Модель распространяется по лицензии Gemma.

hiyouga/Baichuan-7B-sft — двуязычная instruction-tuned LoRA-модель на архитектуре Baichuan, предназначенная для генерации текста в ответ на инструкции и вопросы. При дообучении использовались наборы Alpaca, Alpaca-ZH и CodeAlpaca, поэтому модель подходит для диалоговых запросов, следования инструкциям и задач по коду на китайском и английском языках. Модель содержит 6,7 млрд параметров, принимает текст и выдаёт текст; нативная длина контекста — 4096 токенов. Репозиторий содержит веса PyTorch, а для работы требуется базовая модель Baichuan-7B. Модель опубликована hiyouga в июне 2023 года и распространяется по лицензии Apache-2.0, хотя README также предписывает соблюдать лицензию Baichuan-7B; перед использованием следует проверить применимые условия обеих лицензий.

Camelidae-8x34B — языковая модель семейства Camelidae, разработанная авторами проекта Camelidae с применением метода Parameter-Efficient Sparsity Crafting. Это разреженная Mixture-of-Experts-модель с архитектурой на основе LLaMA; в репозитории указано 33,9 млрд параметров. Модель прошла инструкционное дообучение и предназначена для генерации текста и ответов на общие запросы. Модель ориентирована в том числе на задачи по математике и программированию. В описании проекта приведены результаты тестирования по общим знаниям, математике и генерации кода; модель загружается через Transformers как причинная языковая модель. Контекст составляет 4096 токенов, основной указанный язык — английский. Репозиторий распространяется в формате PyTorch по лицензии Apache-2.0. Результаты бенчмарков зависят от настройки и не гарантируют качество для конкретных запросов; карточка не описывает отдельные ограничения или защитные механизмы модели.

Gemma-2-2b-All-in-One — объединённая разговорная языковая модель семейства Gemma 2, созданная bunnycore с помощью mergekit и метода Model Stock. В основе объединения лежит IlyaGusev/gemma-2-2b-it-abliterated; также включены модели и адаптеры для смешанных задач, кода и диалогов. Модель содержит 2,7 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и работает с контекстом до 8192 токенов. Модель предназначена для генерации текста в диалоге, ответов на вопросы и помощи с кодом. В метаданных указана поддержка чата и текстовой генерации; дополнительных входных модальностей не заявлено. Карточка не перечисляет языки, поэтому нельзя определить приоритетный язык. Веса опубликованы в формате safetensors и имеют тип bfloat16. Результат слияния объединяет несколько моделей с разными настройками и возможностями, поэтому качество может различаться в зависимости от задачи. Лицензия в предоставленных данных не указана.

Hermes-3-Llama-3.1-8B-lorablated — диалоговая модель на архитектуре Llama 3.1, опубликованная mlabonne. Это версия NousResearch/Hermes-3-Llama-3.1-8B, изменённая методом abliteration: к ней применили LoRA-адаптер, полученный сравнением вариантов Llama 3.1, а затем объединили веса методом task arithmetic. Модель содержит 7,5 млрд параметров, принимает текст и предназначена для генерации ответов в диалоге; заявленный контекст — до 131 072 токенов. Вариант lorablated рассчитан на ответы на запросы, от которых исходная Hermes 3 могла отказаться, включая допустимые запросы, которые она ошибочно отклоняет. Как и базовая модель, она подходит для инструкций, рассуждений и генерации кода. README называет модель uncensored, поэтому её ответы могут включать контент, который базовая модель отфильтровала бы. Лицензия в предоставленных данных не указана.

Это независимая производная модель Huihui-Qwen3.8-27B-abliterated, подготовленная на основе исходных BF16-весов Huihui и с использованием схемы NVFP4 от Gittensor. Релиз не является официальным продуктом Huihui, Gittensor, Qwen, NVIDIA или SGLang. Модель распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста и мультимодальных сценариев image-text-to-text, включая агентские задачи, работу с инструментами и сложные задачи рассуждения и программирования. Она основана на архитектуре Qwen3.8 с 27 млрд параметров и использует квантование NVFP4 W4A4 с размером группы 16. В процессе подготовки vision-компоненты, embeddings и отдельные слои Gated-DeltaNet были исключены из NVFP4; native MTP head удалён из deployment-варианта. Поддерживается контекст до 262 144 токенов при конфигурации SGLang, указанной в карточке. Сведения о языках обучения или полном перечне поддерживаемых языков отсутствуют. К сильным сторонам относятся сниженные требования к памяти благодаря NVFP4, совместимость с layout и метаданными Gittensor, а также возможность запуска на одной NVIDIA RTX 5090 с SGLang. Для ускоренного декодирования предусмотрена отдельная совместимая модель-черновик DSpark. Ограничения включают ориентацию на конкретную GPU-конфигурацию и serving-стек, необходимость специальной настройки SGLang, отсутствие встроенного MTP head и зависимость ускоренного режима от отдельного DSpark checkpoint. Архитектурные и поведенческие последствия абляции слоёв 18–51 по описанию исходной модели и слоёв 17–51 по прямому сравнению тензоров отдельно не оценены.

InternLM2-Base-7B — базовая плотная авторегрессионная языковая модель семейства InternLM2, разработанная командой InternLM. Она содержит 7,4 млрд параметров и предназначена для генерации и продолжения текста, а также служит отправной точкой для дообучения под конкретные области и задачи. Модель принимает текст и поддерживает контекст до 32 768 токенов. Разработчики сообщают об улучшениях в рассуждениях, математике и программировании относительно предыдущего поколения, а также о результатах на длинных текстах; заявленная в README способность обрабатывать до 200 000 символов не совпадает с контекстным пределом из метаданных. Карточка приводит результаты оценок OpenCompass и предупреждает, что ответы могут содержать предвзятые или вредоносные сведения. Код распространяется по Apache-2.0. Для весов указано открытое использование в академических исследованиях; для коммерческого применения требуется получить бесплатное разрешение.

Josiefied-Qwen3-8B-abliterated-v1 — диалоговая языковая модель, разработанная Gökdeniz Gülmez на основе Qwen/Qwen3-8B и дообученная для более свободных ответов с сохранением следования инструкциям и поддержки вызова инструментов. Модель содержит 7,6 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и распространяется в формате safetensors для Transformers; заявленная длина контекста — 40 960 токенов. Модель предназначена для генерации текста в диалоге, ответов на инструкции и сценариев, где требуется менее ограниченная фильтрация ответов. Метаданные базовой модели указывают на многоязычные возможности, работу с рассуждениями и кодом. Автор перечисляет сторонние варианты в форматах GGUF и MLX, но карточка этого репозитория указывает safetensors. Модель разработал и распространяет Gökdeniz Gülmez. Лицензия в предоставленных данных не указана. Автор предупреждает о сниженной фильтрации безопасности: модель может выдавать чувствительный или спорный контент, а качество и безопасность ответов не гарантируются.

EXAONE-Deep-32B-GGUF — это квантованные версии языковой модели EXAONE-Deep-32B, разработанной LGAI-EXAONE и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на текстовые сценарии, включая диалоговое взаимодействие, написание и преобразование текста, программирование и другие задачи генерации на естественном языке. В README указаны английский и корейский языки. Базовый размер модели — 32B параметров; архитектура и размер контекстного окна не указаны. Доступны варианты от BF16 до квантований Q8_0, Q6, Q5, Q4, Q3 и IQ, размер файлов составляет примерно от 13 до 64 ГБ. Главное преимущество — возможность локального запуска при выборе подходящего уровня квантования: высокоточные варианты Q6 и Q5 обеспечивают качество, близкое к исходной модели, а более компактные Q4 и Q3 снижают требования к памяти. Ограничения связаны с существенными аппаратными требованиями 32B-модели, возможным снижением качества при сильном квантовании и отсутствием информации о мультимодальности, контекстном окне и результатах оценивания. Указана лицензия EXAONE; подробные условия следует уточнять в файле LICENSE.

Magnum-v1-72b-Qwen2.5 — слитая автором модели языковая модель на архитектуре Qwen2 для диалогов и генерации текста. Веса объединяют влияние anthracite-org/magnum-v1-72b с Qwen/Qwen2.5-72B-Instruct: автор извлёк LoRA из ранней модели Magnum и перенёс её на Qwen2.5-Instruct, после чего объединил результат в самостоятельную модель. Размер — 71,5 млрд параметров, формат — safetensors, контекст — 32 768 токенов. Модель предназначена для творческой генерации и общения; в описании также отмечены генерация кода и сохранение улучшений Qwen2.5. Заявлены английский язык и интерфейс для вызова инструментов. Автор сообщает о положительных результатах собственных проб, но не приводит формальной оценки качества. Лицензия указана как other.

Карточка модели grimjim/mistralai-Mistral-Nemo-Base-2407 на Hugging Face совпадает с карточкой mistralai/Mistral-Nemo-Base-2407, поэтому описание составлено по ней. Mistral-Nemo-Base-2407 — предварительно обученная генеративная языковая модель, совместно разработанная Mistral AI и NVIDIA. Это плотный трансформер Mistral с 12,1 млрд параметров, 40 слоями, группированным вниманием к запросам (GQA) и словарём примерно на 128 тысяч токенов. Модель выпущена в июле 2024 года и распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации под конкретные задачи. Она обучалась на многоязычных данных и коде; заявленное окно контекста составляет 128 тысяч токенов. Среди указанных языков — английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Для запуска рекомендован mistral-inference; README также описывает использование через Transformers. Карточка приводит результаты на общих и многоязычных бенчмарках и рекомендует для генерации температуру 0,3. Поскольку это базовая предварительно обученная модель, она не имеет механизмов модерации и не является специализированной инструкционной версией; поведение в прикладных сценариях может требовать дополнительной настройки. Для неё доступна также отдельная instruct-версия.

OrakzaiX — это общественный GGUF-релиз модели семейства Llama, поддерживаемый и квантизированный Faisal Orakzai. В метаданных указан upstream-моделью meta-llama/Llama-3-8B-Instruct, однако README позиционирует OrakzaiX именно как квантизированный релиз, а не как самостоятельно обученную базовую модель. Модель предназначена для генерации текста и диалогов с локальным запуском через llama.cpp на пользовательском оборудовании, рабочих станциях, периферийных устройствах или частных серверах. Основные сценарии включают локальных ассистентов, офлайн-прототипирование, разработку инструментов, суммирование и извлечение технической информации, помощь с кодом и документацией, автоматизацию, планирование рабочих процессов и эксперименты с multi-agent orchestration. Доступны варианты GGUF с квантизацией от Q2_K до Q8_0; рекомендуемым начальным вариантом называется Q4_K_M, обеспечивающий компромисс между качеством, скоростью и потреблением памяти. Файлы занимают примерно от 3,18 до 8,54 ГБ, но фактические требования выше из-за контекста, KV-кэша, буферов вычислений и накладных расходов runtime. Сильными сторонами являются локальное и потенциально более приватное выполнение, широкий выбор уровней квантизации и совместимость с экосистемой llama.cpp. При этом README не содержит результатов бенчмарков, данных о точности в конкретных областях, надежности использования инструментов, производительности, поддерживаемых языках или размере контекстного окна. Не подтверждена также пригодность для автономных производственных сценариев; качество следует проверять на собственных задачах и выбранной квантизации. Лицензия указана как other, поэтому перед распространением или коммерческим использованием необходимо изучить условия лицензии OrakzaiX и upstream-модели.

Orca-2.0-Tau-1.8B — диалоговая языковая модель M4-ai, дообученная на базе tau-1.8B как универсальный помощник. Она предназначена для генерации ответов, письма, решения математических задач и работы с кодом; также заявлены ответы на вопросы и рассуждения по шагам. Модель использует архитектуру Qwen2ForCausalLM, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Для общения применяется формат ChatML. В обучающий набор вошли данные для диалогов, программирования, математики и естественных наук. Карточка указывает английский язык и допускает поддержку китайского; метаданные подтверждают английский. Лицензия указана как tongyi-qianwen license (в метаданных — other). Оценка на Open LLM Leaderboard приведена в карточке, однако отдельная оценка качества для практических сценариев не заявлена.

Orchestrator-8B GGUF — модель оркестрации инструментов и экспертных моделей, разработанная NVIDIA и University of Hong Kong. Эта версия распространяется пользователем Mungert в формате GGUF и создана с использованием llama.cpp. В основе лежит 8-миллиардная decoder-only Transformer-модель Qwen3-8B, обученная на GeneralThought-430K и ToolScale. Заявленный язык модели — английский; поддерживается генерация текста. Модель предназначена для сложных многошаговых и многоходовых агентских задач, в которых требуется координировать неоднородные инструменты, включая поиск, выполнение кода, а также специализированные и универсальные LLM. При обучении применялось многоцелевое обучение с подкреплением GRPO, оптимизирующее точность, задержку, стоимость и соответствие пользовательским предпочтениям. Разработчики заявляют об обобщении на ранее не встречавшиеся инструменты и конфигурации ценообразования. Согласно README, на Humanity’s Last Exam модель получила 37,1% и демонстрировала более высокую эффективность по сравнению с рядом крупных монолитных моделей, включая GPT-5, Claude Opus 4.1 и Qwen3-235B-A22B; также приводятся результаты на FRAMES и τ²-Bench. Конкретный размер контекста и характеристики модальностей не указаны. GGUF-файл подвергнут квантованию с выборочным повышением точности отдельных слоёв, что может улучшать качество при ограниченной разрядности ценой увеличения размера файла. Модель предназначена только для исследований и разработок и распространяется по лицензии Apache 2.0.

QAYSER12/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — это открытая мультимодальная модель на базе Qwen3.6 27B, представленная в формате GGUF. Она создана как результат многоэтапного дообучения и слияния моделей при участии DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; использовались датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель поддерживает английский и китайский языки, а также работу с изображениями. Размер контекстного окна в README не указан. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, анализа и творческой работы, включая написание художественных текстов и ролевые сценарии. Заявлены улучшенные instruction following, общее качество рассуждений и problem solving по сравнению с базовой моделью. Доступны обычные и MTP-варианты GGUF-квантов, включая 4- и 8-битные сборки; используется NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности. Для MTP-вариантов рекомендуется temperature не выше 1 и rep penalty 1; при низком token acceptance rate следует использовать обычные кванты. К сильным сторонам относятся широкий набор сценариев применения, поддержка vision, reasoning и работы на потребительском оборудовании, а также заявленные высокие результаты внутренних бенчмарков. Ограничения включают отсутствие в README подробностей об архитектуре поверх базовой Qwen3.6 27B, точном размере контекста, системных требованиях и независимой проверке заявленных результатов. Модель описывается как uncensored и heretic, поэтому её поведение и защитные ограничения могут отличаться от официальной базовой модели. Лицензия — Apache-2.0.

Это текстовая MoE-модель семейства Qwen для диалоговой генерации. По README, репозиторий содержит полный конвертированный чекпойнт Qwen/Qwen3.8-2.4T-A95B с 4-битным представлением весов; метаданные указывают поддержку чат-сценариев и генерации текста. Модель предназначена для диалогов и генерации ответов, включая программный код. В README приведены измерения скорости на восьми GPU AMD MI325X с ROCm, в том числе с ускорением спекулятивным декодированием DSpark; эти показатели относятся к конкретным настройкам и нагрузкам. Качество модели широко не оценивалось: автор сообщает об арифметических проверках генерации, проверке чата и нескольких тестах с Python-кодом, но не приводит широких оценок точности или perplexity. Квантизация заметно отличается от исходных BF16-весов по приведённым тестам; эквивалентность качества BF16 и детерминизм для произвольных запросов не заявлены. Для размещения чекпойнта указаны значительные требования к памяти GPU. Лицензия обозначена как «other», конкретные условия в предоставленных данных не раскрыты.