I.6Перевод и языковая адаптация

Ling-3.0-Tiny-NVFP4-GGUF — квантизированная в формат GGUF версия модели inclusionAI/Ling-3.0-tiny, опубликованная WhiskyAKM. Это компактная гибридная MoE-модель с архитектурой hybrid-linear: в ней чередуются Kimi Delta Attention и Multi-Head Latent Attention, а блок FFN использует 128 маршрутизируемых экспертов. Всего модель содержит 7,9 млрд параметров, из которых на каждом токене активны 1,3 млрд; контекстное окно — 256 тысяч токенов. Модель предназначена для диалогов, рассуждений и вызова инструментов, включая локальный запуск через llama.cpp. Она поддерживает английский и китайский языки, а режим рассуждений можно включать и отключать. Представлен файл с квантизацией NVFP4, рассчитанной на ускорение на оборудовании NVIDIA с поддержкой FP4. Лицензия — MIT. Качество и скорость могут зависеть от аппаратного ускорения и используемой конфигурации llama.cpp.

Bunnycore создал эту плотную языковую модель с архитектурой Llama 3.1, объединив несколько предварительно обученных моделей методом Model Stock через mergekit. В состав объединения вошли bunnycore/LLama-3.1-8B-HyperNova-abliteration, bunnycore/LLama-3.1-8b-Ultra-Max-Pro, bunnycore/Llama-3.1-8B-OmniMatrix и leafspark/Llama-3.1-8B-MultiReflection-Instruct; базой слияния служила bunnycore/LLama-3.1-Hyper-Stock. Модель содержит 7,5 млрд параметров, использует формат safetensors и работает через библиотеку Transformers. Она предназначена для генерации текста; в составе исходных моделей есть вариант Instruct с многоэтапными рассуждениями. Заявленная длина контекста — 131 072 токена. Карточка не содержит сведений о лицензии, поэтому условия использования установить по доступным данным нельзя.

legraphista/Llama-3.2-3B-Instruct-IMat-GGUF — это GGUF-версия инструкционно дообученной языковой модели Llama 3.2 3B Instruct, разработанной Meta и опубликованной пользователем legraphista. Модель предназначена для диалоговых приложений, генерации и преобразования текста, ответов на инструкции и локального запуска через совместимые инструменты инференса. Обозначение IMat указывает на вариант упаковки или представления модели, однако точная схема квантования в предоставленных данных не указана. Модель относится к семейству Llama 3.2 и содержит около 3 миллиардов параметров. Она является текстовой, но сведения о поддерживаемых языках, размере контекстного окна, конкретной архитектуре квантования и результатах тестирования в README не приведены. Компактный размер может быть удобен для запуска на локальном оборудовании с ограниченными ресурсами, однако по возможностям и качеству генерации модель уступает более крупным системам. Использование и распространение регулируются Llama 3.2 Community License от Meta. При распространении материалов или производных продуктов требуется включать текст лицензии и обозначение «Built with Llama», сохранять предусмотренное уведомление об авторских правах и соблюдать Acceptable Use Policy. Для продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено дополнительное лицензирование Meta.

Lumimaid-Magnum-v4-12B-GGUF — это набор квантизированных файлов модели для генерации текста, подготовленный bartowski на основе Undi95/Lumimaid-Magnum-v4-12B. Модель создана в формате GGUF для запуска через llama.cpp и совместимых приложений, включая LM Studio. В README указано, что исходная модель является результатом объединения моделей, однако подробности её архитектуры, языков и контекстного окна не приведены. Доступны варианты от F16 до низкобитных Q2- и IQ-квантизаций размером примерно от 4,79 до 24,50 ГБ. Варианты Q6_K и Q6_K_L обеспечивают очень высокое качество, а Q4_K_M указан как типичный вариант по умолчанию с хорошим балансом качества и размера. Более компактные варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут заметно уступать по качеству. Для взаимодействия рекомендуется формат промпта <s>[INST]{prompt}[/INST]. Квантизация выполнена с использованием imatrix и llama.cpp release b4381. Лицензия в предоставленных данных не указана.

MeliodasPercival_01_Experiment24Shadow — объединённая разработчиком MaziyarPanahi модель для генерации текста и диалогов. Она основана на двух моделях: automerger/MeliodasPercival_01-7B и automerger/Experiment24Shadow-7B. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0.

MeliodasPercival_01_YamT3qm7xp — объединённая языковая модель на архитектуре Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/YamT3qm7xp-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Она предназначена для генерации текста и может использоваться в сценариях, где требуется создавать продолжения и ответы на основе текстового запроса. Веса доступны в формате Safetensors; лицензия — Apache 2.0.

MiniCPM-o-2_6-GGUF — квантованная в формате GGUF версия мультимодальной модели MiniCPM-o-2_6, разработанной командой OpenBMB. Квантизацию выполнил bartowski на основе llama.cpp версии b4585. Модель предназначена для мультимодального взаимодействия, включая анализ изображений, оптическое распознавание текста, работу с несколькими изображениями и видео, а также задачи, связанные с речью и аудио: распознавание речи, синтез речи, клонирование голоса и потоковые голосовые диалоги в реальном времени. Модель поддерживает изображения с произвольным соотношением сторон объёмом до 1,8 млн пикселей, например 1344×1344. Она заявлена как end-to-end omni-модальная и мультиязычная; README также указывает поддержку vision, audio и speech, но не перечисляет конкретные языки, размер модели, точную архитектуру или максимальную длину текстового контекста. Формат GGUF и совместимость с llama.cpp делают модель ориентированной на локальный запуск, включая сценарии на мобильных устройствах, однако требования к памяти и производительность зависят от варианта квантизации и оборудования. Сильными сторонами являются сочетание обработки изображений, видео, аудио и речи, поддержка потокового мультимодального взаимодействия и работа с изображениями высокого разрешения. Возможные ограничения — зависимость качества и скорости от квантизации и локальной инфраструктуры, а также риск неточных или неподходящих ответов, характерный для мультимодальных моделей. В README не указана лицензия модели, поэтому условия её использования следует уточнять в документации оригинальной модели MiniCPM-o-2_6 и соответствующего GGUF-файла.

JANGQ-AI MiniMax-M2.7-JANG_6M — квантованная версия MiniMax M2.7 от Jinho Jang (JANGQ), подготовленная для запуска через vMLX и MLX на компьютерах Apple Silicon. Это языковая модель для диалога и генерации текста с архитектурой MoE: исходная модель содержит 228,7 млрд параметров и 256 экспертов, а в метаданных репозитория указано 2,9 млрд параметров. Контекстное окно составляет 196 608 токенов. Вариант JANG_6M использует смешанную точность со средним размером около 6,03 бита: внимание и выходной слой хранятся в 8 битах, эмбеддинги и экспертные MLP — в 6 битах, а маршрутизатор экспертов — в float16. Модель предназначена для диалогов, рассуждений и сценариев с вызовом инструментов; для запуска автор рекомендует MLX Studio. Это модель с постоянным режимом рассуждений: README предупреждает, что температура 0 может приводить к бесконечным циклам рассуждений, и рекомендует температуру 1,0. Количественные результаты оценки MiniMax M2.7 для этой версии ещё не опубликованы; приведённые в карточке результаты MMLU относятся к другой модели семейства. Для запуска требуется Apple Silicon Mac с 192 ГБ объединённой памяти и MLX. Лицензия указана как other; README описывает условия как исследовательское и личное использование и требует соблюдать лицензию MiniMax.

bartowski/Mistral-NeMo-Minitron-8B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Mistral-NeMo-Minitron-8B-Instruct, разработанной NVIDIA и преобразованной в GGUF с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через LM Studio и другие совместимые среды локального вывода. Для взаимодействия используется специальный шаблон с ролями System, User и Assistant. Доступны варианты от полноразмерных весов F16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 4,2 до 16,8 ГБ, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Квантизации выполнены с использованием imatrix; версии Q6 и Q5 заявлены как близкие к исходному качеству, а Q4 — как хороший компромисс для ограниченных ресурсов. Отдельные варианты оптимизированы для ARM и требуют соответствующих аппаратных возможностей. README не указывает поддерживаемые языки, размер контекстного окна, точные архитектурные характеристики исходной модели или результаты бенчмарков. Для ARM-оптимизированных вариантов имеются ограничения совместимости: их не рекомендуется использовать на Mac и Windows. Условия лицензирования в предоставленных данных не указаны.

mistralopithecus-v1-dpo-7b-Mistral-7B-Instruct-v0.1 — чат-модель на базе архитектуры Mistral, созданная слиянием Mistral AI и DopeorNope/mistralopithecus-v1-dpo-7b методом SLERP. Модель содержит 7,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Её можно применять для создания чат-ботов и ведения диалогов на естественном языке. В README указан тип объединения и параметры смешивания слоёв внимания и MLP; модель распространяется по лицензии Apache-2.0.

Mother-of-Rhodia-12B — объединение предварительно обученных языковых моделей TheDrunkenSnail/Son-of-Rhodia и ToastyPigeon/Sto-vo-kor-12B, созданное автором репозитория с помощью mergekit методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Заявленная длина контекста — 131 072 токена; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель подходит для диалоговых приложений и других сценариев генерации текста. Карточка указывает лицензию «other», поэтому условия использования следует сверить с файлами репозитория и лицензиями исходных моделей. README не приводит оценки качества или специальные ограничения применения.

NeuralOmniBeagleMBX-v3-7B — слитая модель генерации текста, собранная автором paulml с помощью LazyMergekit из mlabonne/NeuralOmniBeagle-7B и flemmingmiguel/MBX-7B-v3. Для объединения использован метод SLERP с настройками смешивания для слоёв self-attention и MLP; модель основана на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется языковая модель с контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.

Ornith-1.5-35B-A3B-PrismaQuant-AQUA-25GB-vllm — это смешанно-квантизированная версия модели Ornith-1.5-35B-A3B, разработанной ornith-ai. Модель предназначена для генерации текста и запуска через Transformers и vLLM. К checkpoint применяется формат compressed-tensors, поэтому он поддерживается стандартным vLLM без модифицированного runtime и пользовательских CUDA-ядер. Модель имеет MoE-архитектуру с 35 млрд параметров, из которых 3 млрд активируются на токен. PrismaQuant назначает отдельным линейным слоям форматы BF16, FP8 или NVFP4: большинство маршрутизируемых экспертов используют NVFP4, тогда как важные компоненты плотного пути сохраняются в FP8 или BF16. Размер артефакта составляет 24,68 ГБ против 71,90 ГБ у исходной BF16-версии, что даёт сокращение примерно в 2,91 раза. Базовая модель поддерживает контекст до 262 144 токенов, однако полный контекст требует значительного объёма памяти под KV-кэш. На WikiText-2 квантизированная версия показала perplexity 11,7067 против 11,4181 у BF16-источника, то есть ухудшение составило 2,53%. Сильная сторона модели — существенная экономия памяти при относительно небольшом падении качества; смешанное распределение точности также снижает расхождение с BF16 по сравнению с равномерной NVFP4-квантизацией. Ограничения включают потенциальную зависимость производительности от совместимого оборудования и версии vLLM, а приведённые метрики получены на конкретном наборе данных и конфигурации. Модель распространяется по лицензии MIT.

Phi-4-mini-instruct-INT8-INT4 — квантизированная версия модели Microsoft Phi-4-mini-instruct, подготовленная командой PyTorch с использованием torchao. Это авторегрессионная текстовая модель для генерации текста, диалогов, а также задач, связанных с программированием и математикой. В карточке указана поддержка multilingual-сценариев, однако конкретный перечень языков не приведён. Модель использует 8-битные эмбеддинги и динамические 8-битные активации вместе с 4-битными весами линейных слоёв (INT8-INT4). Такой вариант ориентирован на запуск на мобильных устройствах через ExecuTorch. Для iPhone 15 Pro заявлена скорость около 17,3 токена в секунду и потребление примерно 3206 МБ памяти. Предоставленный файл model.pte экспортирован с максимальной длиной последовательности и контекста 1024 токена; изменить это значение можно повторным экспортом. Сильной стороной модели является снижение требований к памяти и возможность локального мобильного развертывания при сохранении назначения исходной instruct-модели. Ограничение текущей поставки — регрессия поддержки токенизатора Phi-4 в официальных демонстрационных мобильных приложениях ExecuTorch, поэтому в них модель пока не запускается; при использовании собственного приложения и runner загрузка файла .pte возможна. Модель распространяется по лицензии MIT.

recursal/RADRWKV7Qwen2.5-7B — модель генерации текста на 7,1 млрд параметров, полученная преобразованием Qwen2.5-7B с помощью метода RADLADS. Она использует линейное внимание и архитектуру RWKV7Qwen2 и предназначена для диалогов и генерации текста; также заявлен интерфейс вызова инструментов. По README, преобразование требует 350–700 млн токенов дистилляции, сохраняет качество, близкое к исходной модели, и ускоряет генерацию благодаря постоянным затратам на токен. Модель принимает текст, выдаёт текст и поддерживает контекст длиной 32 768 токенов. Репозиторий использует safetensors и библиотеку Transformers; для загрузки требуется trust_remote_code=True. Лицензия — Apache-2.0.

bunnycore/Qwen2.5-3B-Model-Stock-v3 — объединённая разработчиком bunnycore языковая модель семейства Qwen2 для генерации текста и диалогов. Модель создана линейным слиянием с помощью mergekit моделей PowerInfer/SmallThinker-3B-Preview и bunnycore/Qwen2.5-3B-Model-Stock-v2; веса сохранены в формате safetensors. Модель содержит 3,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Она предназначена для чат-взаимодействия и генерации текста. В карточке указана лицензия Apache-2.0.

Qwen3-4B-Instruct-2507-Hi-Fi-fraQtl — это квантизированная GGUF-версия Qwen/Qwen3-4B-Instruct-2507, подготовленная fraQtl и опубликованная в сообществе Qualcomm AI Hub. Модель предназначена для генерации текста и работы в сценариях локального запуска на CPU и GPU через llama.cpp; GGUF также совместим с GenieX без изменений. Поддержка выполнения на NPU/Hexagon в README не подтверждена. Модель содержит около 4 млрд параметров и поддерживает контекст до 262 144 токенов. Доступны варианты Hi-Fi Q4_K_M-класса размером 2,50 ГБ и Q4_0 размером 2,38 ГБ. Квантизация выполнена с учётом калибровки методом fraQtl code+math imatrix; заявлены более низкое расхождение с исходными весами по сравнению с рядом других сборок Q4_K_M и успешное извлечение контрольных данных на полном контексте. Архитектура, перечень языков и поддерживаемые модальности в README отдельно не указаны. Сильными сторонами являются компактный размер, возможность локального запуска, сохранение качества после квантизации и проверенная работа с длинным контекстом. Ограничения включают отсутствие подтверждённого ускорения на Hexagon NPU, а также отсутствие подробных данных о языковых возможностях и качестве на прикладных задачах. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Qwen3.5-122B-A10B-abliterix-NVFP4 — квантизированная версия базовой модели wangzhang/Qwen3.5-122B-A10B-abliterix, подготовленная пользователем bjk110. Это текстовая MoE-модель для генерации текста и инференса через vLLM на оборудовании NVIDIA Blackwell, включая DGX Spark GB10 с архитектурой SM121. Поведение Abliterix описывается как uncensored: заявлена частота отказов 0,5%, а KL-дивергенция относительно базовой Qwen3.5-122B-A10B составляет 0,0115. Модель содержит 122 млрд параметров при 10 млрд активных параметров и использует NVFP4-квантизацию W4A4 с группами по 16 элементов, симметричным групповым масштабированием и динамической квантизацией активаций. Формат compressed-tensors совместим с vLLM; 37 056 слоёв используют NVFP4, а 471 слой сохранён в BF16. Размер на диске составляет около 70,4 ГБ вместо примерно 230 ГБ для BF16-версии, что оставляет больше памяти для KV-кэша и позволяет запускать модель на двух узлах DGX Spark. В README указана конфигурация с tensor parallelism 2, FlashInfer-CUTLASS NVFP4 MoE backend и контекстом до 32 768 токенов. Сильные стороны модели — существенно сниженное потребление памяти, поддержка высокопроизводительного NVFP4-бэкенда на Blackwell и сохранение заявленного uncensored-поведения базовой Abliterix-модели. Ограничения включают зависимость от совместимого стека vLLM, аппаратуры NVIDIA Blackwell и распределённого запуска; в README не указаны точные языки, результаты стандартных бенчмарков и подробные характеристики контекстного окна базовой модели. Лицензия — Apache-2.0.

RobinsonLabs Qwen3.5-REAP-212B-A17B-abliterated-GGUF — набор GGUF-квантизаций текстовой MoE-модели, производной от OpenMOSE/Qwen3.5-REAP-212B-A17B. Базовая модель получена сокращением числа экспертов Qwen3.5-397B-A17B-A17B на 48% методом REAP и содержит 212 млрд параметров всего, из которых около 17 млрд активны. Публикацию подготовила RobinsonLabs. Модель предназначена для генерации текста и локального запуска через совместимое ПО, включая llama.cpp. Архитектура qwen35moe включает 60 декодерных слоёв: 45 слоёв с линейным вниманием DeltaNet и 15 слоёв с полным вниманием, 267 экспертов MoE и размер скрытого состояния 4096. Представлен только текстовый путь, без vision mmproj; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Модель подвергнута abliteration — ортогонализации весов для снижения жёстких отказов на запросы, связанные со взрослым и творческим контентом. При этом заявлено сохранение защитных механизмов против самоповреждения и содействия реальным противоправным действиям. Доступны imatrix-взвешенные варианты от Q5_K_M размером около 150 ГБ до IQ2_XXS размером около 56 ГБ, что позволяет выбирать между качеством и требованиями к памяти. Ограничения включают очень большой объём файлов, зависимость качества от выбранной квантизации и маркировку not-for-all-audiences. Лицензия Apache-2.0 унаследована от базовой модели.

Youssofal/Qwen3.6-27B-Abliterated-Heretic-Uncensored-GGUF — GGUF-версия модифицированной модели Qwen3.6-27B, разработанной на базе Qwen/Qwen3.6-27B. Релиз создан Youssofal с применением Heretic-подобного двухэтапного MPOA-процесса, ослабляющего исходное поведение отказа на уровне весов. Модель предназначена для генерации текста и мультимодальных сценариев с анализом изображений и видео, а также для локального запуска через llama.cpp. Это плотная vision-language модель с 27,8 млрд параметров, 64 слоями и гибридной архитектурой внимания: три слоя линейного внимания на один слой полноформатного внимания в каждой группе из четырёх слоёв. Размер скрытого состояния — 5120. Архитектура сохраняет возможности базовой Qwen3.6-27B, включая поддержку изображений и видео; конкретный набор языков и размер контекстного окна в README не указаны. Доступны варианты GGUF от BF16 и Q8_0 до компактного Q2_K, что позволяет выбирать между качеством и требованиями к памяти. К сильным сторонам относятся сохранение общего профиля возможностей базовой модели, мультимодальность, совместимость с llama.cpp и сниженная склонность к стандартным отказам. По приведённым проверкам, однако, модель не демонстрирует полного устранения отказов и дефлекций, а изменение поведения может влиять на безопасность и надёжность ответов. Пользователь несёт ответственность за применение модели. Релиз распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Qwen3.8-27B-abliterated-GPTQ-Pro — это опубликованный groxaxo квантизованный чекпойнт на базе huihui-ai/Huihui-Qwen3.8-27B и Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, разговорных сценариев, локального и размещённого инференса, открытых оценок и воспроизводимых экспериментов. Название указывает на lineage с изменённым или сниженным уровнем фильтрации, однако не гарантирует полностью неограниченное поведение. Модель использует формат GPTQ-Pro с симметричной 4-битной квантизацией, размером группы 64 и пресетом quality. Квантизации подвергнуты 400 линейных модулей в 64 слоях; MTP-голова сохранена без квантизации для speculative decoding. Указана архитектура с 48 слоями linear attention GDN и 16 слоями full attention, а также поддержка MTP. Для обслуживания рекомендуется vLLM с tensor parallelism; документация описывает конфигурацию на двух RTX 3090. В репозитории также заявлен контекст до 260 000 токенов, но фактические требования зависят от оборудования, размера KV-кэша и числа одновременных запросов. К сильным сторонам относятся сниженное потребление памяти по сравнению с полной точностью и ускорение генерации благодаря MTP: в тесте на двух RTX 3090 скорость одного потока выросла с 71,5 до 105,5 токена в секунду при greedy decoding. На одной RTX 3090 MTP-голова вместе с чекпойнтом не помещается; качество и производительность после квантизации необходимо проверять на собственных задачах. Модель может выдавать неточные или неподходящие результаты, а изменённое поведение и сниженная фильтрация требуют дополнительного тестирования и защитных мер. Лицензия — Apache-2.0. При использовании и распространении следует также проверить лицензионные условия исходных моделей и сохранять совместимые файлы конфигурации, токенизатора, процессора и весов одной ревизии.

mlasli/Qwen3.8-27B-Heretic-Abliterated-MLX-6bit — текстовая языковая модель, созданная mlasli на основе Qwen/Qwen3.8-27B. Это версия v2.1.0 с изменённым поведением отказов и ответов, преобразованная в формат MLX для запуска через mlx-lm на компьютерах с Apple Silicon. Модель предназначена для генерации текста, диалогов, ролевых сценариев и задач, где требуется более прямое следование запросу. Модель содержит около 27 млрд параметров и использует групповое 6-битное квантование с размером группы 64. Размер файлов составляет примерно 21,9 ГБ. Репозиторий поддерживает только текстовый ввод: при конвертации удалена vision tower, поэтому обработка изображений недоступна. Многоцелевое предсказание токенов MTP также не сохранено, из-за чего инференс выполняется одной основной головой и может быть медленнее сборок с поддержкой MTP. В карточке указаны английский язык и контекстная длина не приведена. Сильной стороной является уменьшенный объём по сравнению с BF16-версией при сохранении возможностей 27B-модели и удобная интеграция с MLX. По данным тестов, 6-битная версия немного уступает BF16 по прямоте ответов, а режим thinking может чаще приводить к уклончивым или пустым ответам; для заявленного поведения рекомендуется отключать thinking. Abliteration снижает или удаляет исходное safety-выравнивание, поэтому модель требует осторожного применения. Лицензия — Apache-2.0.

Baekpica/Qwen3.8-Flash-Next-Mixed-Quant-GGUF — это смешанно-квантизированная GGUF-конверсия базовой модели Qwen/Qwen3.8-Flash-Next, подготовленная Baekpica для запуска на оборудовании с ограниченной памятью, прежде всего NVIDIA DGX Spark с GB10. Модель предназначена для задач генерации и понимания текста, а согласно метаданным также относится к классу image-text-to-text. Репозиторий ориентирован на эксперименты с локальным инференсом, SSD-offload, оптимизацией выполнения и пользовательскими ядрами. Опубликованный вариант MQ-NG5-Q2K-Q4-SPLIT-E4 состоит из четырёх GGUF-шардов общим размером около 98,5 ГБ и содержит 1 756 тензоров. В нём применяются разные форматы точности, включая Q2_K, Q4_K, Q4_0, Q5_1, Q8_0, BF16 и F32; крупная PLE n-gram table объёмом 51,2 млрд параметров хранится в Q5_1, а внутренние routed gate/up-компоненты преимущественно квантизированы в Q2_K. Также описан более компактный калиброванный вариант с IQ2_XXS, но его сборка приостановлена. Точное общее число параметров, размер контекста, список языков и подтверждённые характеристики качества в README не указаны. Сильная сторона модели — существенное снижение требований к памяти за счёт смешанной квантизации при сохранении отдельных крупных или чувствительных компонентов в более высокой точности. При этом качество, поведение runtime и работа на DGX Spark для опубликованного варианта обозначены как предварительные. Используется пользовательская схема GGUF qwen4exp и ветка dfm проекта ds4; совместимость с upstream llama.cpp и другими GGUF-runtime не гарантируется. Лицензия указана как qwen-community-1.0; дополнительные условия следует проверять в лицензии базовой модели Qwen/Qwen3.8-Flash-Next.

Qwen3-gabliterated-image-generation — дообученная языковая модель компании goonsai-com на базе Goekdeniz-Guelmez/Qwen3-4B-Sky-High-Hermes-gabliterated. Это плотная причинная модель Qwen3 с 3,7 млрд параметров, рассчитанная на генерацию текста в диалоговом формате; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста составляет 262 144 токена. Модель обучали с использованием Unsloth и библиотеки TRL. Несмотря на название репозитория, README и метаданные описывают текстовую генеративную модель и не подтверждают создание изображений. Модель распространяется под лицензией Apache-2.0. Карточка не приводит сведений о качестве, обучающих данных или специальных ограничениях, поэтому пригодность для конкретных сценариев следует оценивать отдельно.

Aryanne/QwentileSwap — слитая автором языковая модель семейства Qwen2.5, созданная методом task_swapping с помощью mergekit на основе win10/EVA-QwQ-32B-Preview. В объединение также вошли ArliAI/Qwen2.5-32B-ArliAI-RPMax-v1.3, maldv/Qwentile2.5-32B-Instruct и Sao10K/32B-Qwen2.5-Kunou-v1. Модель содержит 32 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения; в метаданных также указана поддержка интерфейса вызова инструментов. Репозиторий содержит веса в форматах safetensors и GGUF. Автор описывает её как эксперимент с пользовательским методом слияния и не заявляет о гарантированном качестве. Лицензия — Apache-2.0.

Rombo-Org_Rombo-LLM-V3.0-Qwen-72b-GGUF — это набор GGUF-квантизаций языковой модели Rombo-LLM-V3.0-Qwen-72b, разработанной Rombo-Org и подготовленной bartowski. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. В качестве исходной модели указана Rombo-Org/Rombo-LLM-V3.0-Qwen-72b; в метаданных также отмечены датасеты Rombo-Org/Optimized_Reasoning и NovaSky-AI/Sky-T1_data_17k. Размер исходной модели составляет 72 миллиарда параметров. Архитектура, поддерживаемые языки, модальности и размер контекста в README не указаны. Доступны варианты квантизации от Q2 до Q8, преимущественно размером примерно от 32 до 77 ГБ. Более высокие варианты сохраняют лучшее качество, но требуют больше памяти; Q4_K_M, Q4_K_L, Q5_K_M, Q5_K_S и Q6_K отмечены как рекомендуемые, а низкоразрядные варианты предназначены для экономии оперативной памяти с возможным снижением качества. К сильным сторонам относятся широкий выбор уровней квантизации, поддержка локального запуска и использование imatrix-квантизации на базе llama.cpp. Ограничениями являются значительные требования к памяти даже у компактных вариантов, а также отсутствие в README подробных данных о результатах тестирования, языках и контекстном окне. Для использования указана лицензия Apache-2.0.

SmolLM3-3B-Base — базовая языковая модель HuggingFaceTB, обученная предсказывать продолжение текста. Это плотный decoder-only Transformer с GQA и NoPE, содержащий 3,1 млрд параметров; модель опубликована в форматах Safetensors и ONNX. По карточке, предобучение проводилось на 11,2 трлн токенов из веб-текстов, кода, математики и материалов для рассуждений. Это базовая версия семейства; instruct-модель опубликована отдельно. Модель предназначена для генерации и продолжения текста, а также может служить основой для адаптации под прикладные задачи. Она обучалась на английском, французском, испанском, немецком, итальянском и португальском языках; в меньшем объёме также использовались арабский, китайский и русский. Контекст конфигурации — 65 536 токенов; README описывает расширение до 128k токенов с YaRN. Карточка приводит результаты тестирования на задачах рассуждения, математики, кода и многоязычного понимания, но они не гарантируют точность ответов в практическом использовании. Разработчик предупреждает, что текст может содержать фактические ошибки, логические несоответствия и предубеждения из обучающих данных; важную информацию следует проверять. Модель распространяется по лицензии Apache-2.0.

JANGQ-AI/Spark-X2.5-4B-JANG_8M — 3,8-миллиардная плотная языковая модель Spark-X2.5-4B от XHToken, квантованная Jinho Jang для Apple Silicon и MLX. Это 8-битный вариант с точностью bfloat16 для групповых масштабов; отдельные тензоры внимания и нормализации сохранены в полной точности. Модель предназначена для диалога, рассуждений, работы с инструментами и генерации текста. Поддерживаются английский и китайский языки; исходная модель рассчитана на контекст до 1 048 576 токенов, хотя в README для этого набора также указан контекст 131 072 токена. В сравнении с исходными весами bf16 автор сообщает медианное KL-расхождение 0,0017 и совпадение top-1 в 98,72% позиций на тестовых запросах. Модель принимает и генерирует только текст. Для запуска требуется среда с поддержкой архитектуры spark2_5, например vMLX или MLX Studio; обычный mlx-lm эту архитектуру не поддерживает. Лицензия Apache-2.0 унаследована от базовой модели.

Synatra-7B-v0.3-dpo-Mistral-7B-Instruct-v0.1 — чат-модель генерации текста, созданная объединением mistralai/Mistral-7B-Instruct-v0.1 и maywell/Synatra-7B-v0.3-dpo методом slerp. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; для хранения используются веса Safetensors. Указанная длина контекста составляет 32 768 токенов. Модель предназначена для ответов на инструкции и диалоговые запросы в формате чата. Её можно применять для создания диалоговых ассистентов, генерации ответов и черновиков текста. В карточке указана лицензия Apache-2.0. Данные не описывают отдельные ограничения качества или специализированные области применения.

T3qm7xNeuralsirkrishna_Strangemerges_32Alloyingotneoy — объединённая авторами Automerger модель семейства Mistral для генерации текста и диалогов. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст; в карточке указана задача text-generation. Модель объединяет веса automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Alloyingotneoy-7B. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.