I.6Перевод и языковая адаптация

Mungert/Qwen3-VL-30B-A3B-Instruct-GGUF — квантованный формат GGUF модели Qwen3-VL-30B-A3B-Instruct из семейства Qwen. Репозиторий подготовлен пользователем Mungert с использованием llama.cpp. Модель предназначена для мультимодального понимания и генерации: работы с текстом, изображениями и видео, визуального анализа, распознавания текста, пространственного рассуждения, решения STEM- и математических задач, а также взаимодействия с графическими интерфейсами и инструментами. Модель использует архитектуру Mixture of Experts (MoE) с заявленным размером 30B и активной частью 3B параметров. Она поддерживает контекст до 256K токенов с возможностью расширения до 1M, обработку длинных документов и продолжительных видео с временной индексацией. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Улучшено распознавание объектов, документов и текста; OCR заявлен для 32 языков. Модель также может генерировать Draw.io, HTML, CSS и JavaScript по изображениям или видео. К сильным сторонам относятся сочетание текстового и визуального понимания, расширенный контекст, анализ пространственных отношений и видео, а также возможность применения в визуальных агентах и задачах визуального программирования. Ограничения связаны с использованием квантованного GGUF-представления: качество, скорость и требования к памяти зависят от выбранного уровня квантования и среды запуска. В репозитории также описан экспериментальный подход к повышению точности отдельных слоёв, увеличивающий размер файлов. Лицензия — Apache-2.0.

Solar-Open2-250B-Nota-INT4 — 4-битная квантованная версия языковой модели Solar-Open2-250B от Upstage, подготовленная компанией Nota AI. Модель предназначена для генерации текста, диалоговых приложений, рассуждений, программирования, вызова инструментов и других задач обработки естественного языка. Заявлены языки английский, корейский и японский. Модель основана на архитектуре Mixture-of-Experts (MoE) и использует квантование весов W4A16 с форматом INT4, размером группы 128 и упаковкой AutoRound, совместимой с GPTQ. Весовой объём составляет около 142,9 ГБ против 500,6 ГБ в формате BF16. Модель рассчитана на развёртывание через vLLM; в README приведена конфигурация с tensor parallelism для четырёх GPU. Размер контекста в предоставленных данных не указан. Ключевое преимущество — снижение требований к памяти при сохранении близкого к BF16 качества: средний результат на приведённых бенчмарках составляет 81,17 против 81,57 у BF16. Для квантования применены методы Nota AI, ориентированные на сохранение маршрутизации экспертов, включая DREAM-MoE и SRA-MoE. Ограничениями являются необходимость значительных вычислительных ресурсов для запуска, зависимость от совместимой версии vLLM и возможное небольшое снижение качества на отдельных задачах по сравнению с BF16. Модель распространяется по лицензии Upstage Solar License. Для производных моделей требуется использовать префикс Solar в названии, указывать формулировку Built with Solar в публичных материалах и включать копию лицензии Upstage Solar.

Calcium-Opus-14B-Elite4 — диалоговая языковая модель на архитектуре Qwen2, дообученная prithivMLmods на базе Qwen/Qwen2.5-14B-Instruct. Она предназначена для генерации текста с акцентом на многошаговые рассуждения, решение математических задач и работу с кодом. Модель поддерживает инструкции, длинные ответы, таблицы и структурированный вывод, включая JSON; заявленная длина контекста составляет 131 072 токена, а генерация — до 8 000 токенов за ответ. Карточка заявляет поддержку более 29 языков, в том числе русского и английского. Модель подходит для чат-ботов, объяснений, анализа структурированных данных, написания и отладки кода, а также создания длинных материалов. В репозитории указаны веса Safetensors и библиотека Transformers; лицензия — Apache-2.0. Качество может различаться между языками; возможны повторы и ошибки в длинных ответах, а знания о текущих событиях ограничены данными обучения. Для запуска 14-миллиардной модели с длинным контекстом требуются значительные вычислительные ресурсы. README противоречиво указывает размер модели как 20B в разделе ограничений, тогда как метаданные и название указывают 14B.

JANGQ-AI/Mistral-Small-4-119B-A6B-JANG_4M — квантованная сборка модели Mistral Small 4 от Jinho Jang и проекта JANGQ-AI, предназначенная для запуска на компьютерах Apple Silicon через MLX. Она основана на mistralai/Mistral-Small-4-119B-2603 и использует формат MLX safetensors с квантованием JANG 4.08 бит и вычислениями bfloat16. Модель содержит 119 млрд параметров, из которых активны около 6 млрд на токен. Архитектура включает 36 MoE-слоёв с 128 экспертами и выбором четырёх экспертов, MLA-внимание и визуальный энкодер Pixtral. Модель поддерживает диалог, рассуждения, генерацию кода и анализ изображений; README указывает максимальное разрешение изображений 1540 пикселей. В карточке перечислены английский, французский, немецкий, испанский, японский, корейский и китайский языки. Сборка рассчитана на запуск в MLX Studio; README также указывает поддержку oMLX. Для указанной конфигурации требуется около 68 ГБ оперативной памяти, а тест скорости приведён для M3 Ultra. Владелец публикует код квантования с открытым исходным кодом; модель распространяется по лицензии Apache-2.0. Приведённые скорости относятся к конкретному стенду и не гарантируют такие же результаты на других устройствах.

FreedomAISVR подготовил GGUF-вариант мультимодальной инструктивной модели Qwen3.5-9B с квантизацией MXFP4. Модель содержит 32 трансформерных блока с гибридной архитектурой attention, FFN и SSM, дополнительную голову Multi-Token Prediction и проектор SigLIP для обработки изображений. Размер модели — 9 млрд параметров, контекст — до 262 144 токенов; веса представлены в 4-битном формате MXFP4, а проектор — в F16. Модель предназначена для генерации ответов и диалога на нескольких языках, понимания изображений и видео, вызова инструментов, рассуждений и задач по коду. Режим рассуждений в этой сборке выключен по умолчанию и включается параметром enable_thinking=true. Для мультимодального запуска требуется подключить файл проектора mmproj; использовать сборку можно через llama.cpp и совместимые инструменты для GGUF. Модель основана на Qwen/Qwen3.5-9B и распространяется по лицензии Apache-2.0. Квантизация уменьшает требования к памяти, но может повлиять на точность по сравнению с исходными весами. В README указана поддержка английского, китайского и кода; метаданные также отмечают многоязычность.

Qwen3-VL-4B-Instruct-GGUF — мультимодальная vision-language модель, созданная командой Qwen и представленная в формате GGUF компанией Unsloth. Она предназначена для диалогов и генерации текста по текстовым и визуальным входным данным, включая изображения и видео. Модель подходит для визуального анализа, распознавания текста, пространственного рассуждения, решения STEM- и математических задач, понимания видеосцен, генерации кода и взаимодействия с графическими интерфейсами и инструментами. Модель относится к семейству Qwen3-VL и использует плотную архитектуру с 4B параметров. Заявлена поддержка контекста длиной 256K токенов с возможностью расширения до 1M. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных представлений, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа видео. OCR поддерживает 32 языка, однако полный перечень языков в README не приведён. Сильные стороны модели — сочетание текстового и визуального понимания, расширенный контекст, обработка длинных документов и продолжительных видео, распознавание текста в сложных визуальных условиях, а также возможности пространственного и агентного рассуждения. Ограничения, включая точные требования к памяти, скорость работы, результаты бенчмарков и перечень поддерживаемых языков, в предоставленных данных не раскрыты. Модель распространяется по лицензии Apache-2.0.

Qwopus3.6-35B-A3B-v1-GGUF — экспериментальная мультимодальная модель, разработанная Jackrong на базе Qwen3.6-35B-A3B от Alibaba Cloud. Она дообучена методом SFT с применением LoRA для усиления рассуждений, структурированности ответов и согласованности поведения. Модель предназначена для генерации текста, глубокого рассуждения, программирования, агентских сценариев, диалогов, работы с изображениями и вызова инструментов. В основе лежит разреженная MoE-архитектура: 35 млрд параметров всего и около 3 млрд активных параметров на токен, с маршрутизацией через 256 экспертов. Архитектура сочетает линейное внимание Gated DeltaNet со стандартными слоями gated attention и поддерживает контекст до 262 тысяч токенов. Заявлена поддержка английского, китайского, испанского, русского и японского языков. Для работы с изображениями требуется отдельный файл mmproj.gguf. Сильными сторонами заявлены качество и надёжность рассуждений, высокая эффективность инференса и поддержка длинного контекста, мультимодальности и tool calling. Модель распространяется в формате GGUF и ориентирована на запуск через совместимые инструменты, включая llama.cpp. При этом она не прошла полную оценку производительности и безопасности, поэтому подходит прежде всего для исследований и экспериментов; заявленные результаты получены в независимом тестировании квантованной версии и могут зависеть от условий. Лицензия — Apache-2.0.

Alaya-7B-Chat — разговорная языковая модель компании DataCanvas, построенная на архитектуре MPT. Модель обучали на более чем 1,5 трлн токенов многоязычных данных; версия Chat прошла supervised fine-tuning на более чем 500 тыс. примеров инструкций и диалогов. В карточке указаны китайский и английский языки, формат весов PyTorch и лицензия Apache 2.0, допускающая коммерческое использование. Модель предназначена для многоходового общения, ответов на вопросы, написания кода, извлечения информации, понимания прочитанного и творческого письма. Дополнительная настройка охватывает китайско- и англоязычные логические рассуждения, ролевые сценарии, самоописание и отказ на часть запросов с предвзятым содержанием. Разработчик предупреждает, что модель может выдавать ошибочные или непредвиденные ответы, а настройка на отказ не устраняет токсичные выходы полностью. Для практического применения следует проверять ответы; при использовании модели рекомендуется указывать DataCanvas как источник.

Calcium-Opus-14B-Elite — диалоговая языковая модель prithivMLmods, дообученная на базе Qwen/Qwen2.5-14B-Instruct. Это плотная архитектура Qwen2 с 14 млрд параметров, рассчитанная на генерацию текста, следование инструкциям и многошаговые рассуждения, включая решение математических задач и работу с кодом. Модель принимает текст и выдаёт текст; заявлена поддержка контекста до 131 072 токенов и генерации ответов длиной до 8 000 токенов. В README заявлена поддержка более 29 языков, в том числе английского, русского, китайского, французского, испанского, немецкого, японского и арабского. Карточка описывает улучшенное следование инструкциям, анализ таблиц и JSON, а также генерацию структурированных ответов. Модель доступна в формате Safetensors и использует библиотеку Transformers. Модель подходит для диалоговых помощников, объяснения решений, математических задач, генерации и отладки кода, а также обработки структурированных данных. Качество может различаться между языками; длинные ответы могут содержать ошибки или повторы, а актуальность знаний ограничена данными обучения. В README также отмечены высокие требования к вычислительным ресурсам, особенно при длинном контексте. Лицензия — Apache-2.0.

GLM-4-32B-0414-uncensored-heretic-v2-GGUF — набор GGUF-квантизаций 32-миллиардной языковой модели GLM-4-32B-0414. Модель разработана на основе zai-org/GLM-4-32B-0414 независимым автором llmfan46 с использованием Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA). Это декензурированная версия модели, ориентированная на генерацию текста на английском и китайском языках. Модель предназначена для диалогов, следования инструкциям, генерации инженерного кода, создания артефактов, function calling, поисковых вопросов и ответов, а также подготовки отчётов. Заявлены 32 млрд параметров и предварительное обучение исходной модели на 15 трлн единиц высококачественных данных, включая синтетические данные для рассуждений. README не содержит сведений о размере контекстного окна и мультимодальных возможностях; указанный pipeline относится к генерации текста. Ключевая особенность — существенно меньше отказов в сравнении с исходной моделью: 7 из 100 против 100 из 100 в приведённом тесте, при заявленном KL divergence 0,0555. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M, Q5_K_S и Q4_K_M; Q8_0 описан как близкий к исходному качеству, а Q4_K_M — как подходящий для систем с ограниченной VRAM. Квантизации совместимы с llama.cpp, LM Studio, Ollama и другими инструментами для GGUF. Снижение ограничений может сопровождаться меньшей безопасностью и не гарантирует сохранение всех характеристик исходной модели. Лицензия — MIT.

GLM-5.3-Flash-Alis-MLX-4bit — это 4-битная сборка модели GLM-5.3-Flash, разработанной Zhipu AI (zai-org), адаптированная для выполнения через MLX на устройствах Apple Silicon. Модель предназначена для генерации текста и локального инференса, включая сценарии программирования, работы с прозой, анализа табличных данных и решения математических задач. Базовая модель имеет архитектуру glm5_next: 320B параметров, из которых 18B активируются на токен (320B-A18B), mixture-of-experts с 288 экспертами, 34 слоями линейного внимания и 11 слоями DSA, а также механизмом mHC. Данная версия получена потоковой деквантизацией официального релиза FP8 и сохраняет маршрутизатор MoE и correction bias в формате FP32. В README также указана поддержка спекулятивного декодирования и двухузлового tensor parallelism, однако часть этих режимов относится к отдельным сборкам или экспериментальной инфраструктуре, а не непосредственно к опубликованному checkpoint. К сильным сторонам относятся существенно сниженный объём хранения по сравнению с полной моделью, оптимизация под MLX и высока скорость генерации на мощных системах Apple Silicon; для конфигурации M3 Ultra 512GB заявлялась скорость около 29 токенов в секунду при обычном декодировании. Ограничениями являются очень высокие требования к памяти, зависимость производительности от аппаратной конфигурации и MLX-окружения, а также экспериментальный статус некоторых режимов параллельного и спекулятивного декодирования. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-UNCENSORED-NVFP4-DFlash2 — мультимодальная модель семейства GLM-5.3 Flash. Исходную архитектуру разработала Zhipu AI (ZAI), неконтролируемые веса подготовила dealignai, а упаковку и конфигурацию NVFP4 выполнила Solstice-AI. Модель основана на 320-миллиардной MoE-архитектуре с 288 маршрутизируемыми экспертами и примерно 18 миллиардами активных параметров на токен. Модель предназначена для генерации и анализа текста, программирования, математического и общего рассуждения, а также обработки изображений и видео. Она поддерживает нативные мультимодальные возможности благодаря 24-слойному ViT и проектору размерности 10 240, рассчитана на контекст до 1 048 576 токенов и поставляется с черновой моделью DFlash 2 для спекулятивного декодирования. Ключевая особенность сборки — смешанная точность W4A16: MoE-эксперты используют 4-битный формат NVFP4, а attention, общие эксперты и активации сохраняются в 16-битной точности. Сильными сторонами являются сочетание большого контекста, мультимодальности, сниженного потребления памяти за счёт квантизации и поддержки спекулятивного ускорения. Согласно README, модель ориентирована на GPU NVIDIA Blackwell, Hopper, Ada Lovelace и Ampere. Ограничения включают крупный общий размер, высокие требования к инфраструктуре, зависимость производительности от совместимого ПО и оборудования, а также отсутствие встроенных механизмов отказа от потенциально опасных запросов: веса описаны как uncensored и abliterated. Модель распространяется по лицензии MIT. В README также указаны результаты на MMLU, SWE-bench, LiveCodeBench, MATH-500 и мультимодальных тестах, однако эти показатели приведены авторами карточки и не заменяют независимую оценку.

Quartz-R1-8B-Genesis — русско- и англоязычная диалоговая языковая модель, разработанная Vaultek на основе YandexGPT-5-Lite-8B-pretrain. Это плотная модель семейства Llama с 7,5 млрд параметров и контекстом до 32 768 токенов, предназначенная для генерации текста, рассуждений, решения математических задач и помощи с программированием. В карточке заявлены дообучение SFT и LoRA, формат ChatML и использование наборов данных для кода, математики, диалогов и русского текста. Разработчик заявляет о децензурировании и дополнительной обработке весов методом Genesis Tensor Denoising, а также приводит результаты собственных тестов. Эти заявления и показатели представлены в карточке модели и не подтверждены независимой оценкой. Веса доступны в формате safetensors; модель распространяется по лицензии YandexGPT-5-Lite-8B.

Occamy-1.0 — мультимодальная агентная модель AMAImedia для длительной совместной работы с инструментами, файлами, кодом, поиском и структурированными API. Эта версия репозитория объединяет Occamy-1.0 и Qwen3.6-35B-A3B; в карточке указаны форматы GGUF F16, Q4_K_M, Q8_0 и Safetensors. Модель сохраняет архитектуру Qwen3.6-35B-A3B с Mixture of Experts: 35 млрд параметров всего и около 3 млрд активных при обработке токена. Модель рассчитана на многошаговые рабочие процессы, требующие вызова инструментов, ведения состояния и восстановления после сбоев, а также на программирование в терминале и следование инструкциям. Она принимает текст и изображения и выдаёт текст; заявлены возможности чата и анализа изображений. Карточка отмечает поддержку множества языков, включая русский, английский и китайский. Точное ограничение контекста в предоставленных данных не приведено. Авторы позиционируют Occamy как модель для практической агентной работы с компактной активной частью MoE, но указывают, что у неё остаётся запас для задач с интенсивным поиском и симуляцией пользователя; взаимодействие с браузером или рабочим столом через визуальный интерфейс не входит в текущий обучающий интерфейс. Лицензия — Apache-2.0.

Qwen3-Next-80B-A3B-Instruct — языковая модель от команды Qwen, предназначенная для диалогов, генерации текста и сценариев с вызовом инструментов. Это причинная модель семейства Qwen3-Next с разреженной архитектурой смеси экспертов (MoE), гибридной обработкой контекста через Gated DeltaNet и Gated Attention и поддержкой ускорения вывода с помощью Multi-Token Prediction. В модели 80 млрд параметров, из которых активируются около 3 млрд на токен; при этом метаданные Hugging Face указывают размер 2,3 млрд параметров. Модель рассчитана на инструкции в обычном, нетщательном режиме и поддерживает контекст до 262 144 токенов; в README описано расширение контекста примерно до миллиона токенов с YaRN. Подходит для длинных диалогов и документов, генерации ответов и агентных сценариев с инструментами. Карточка сообщает о результатах на ряде бенчмарков, но не приводит полный набор таблиц в предоставленном тексте. Лицензия Apache-2.0.

cyankiwi/Qwen3-VL-8B-Instruct-AWQ-8bit — мультимодальная vision-language модель семейства Qwen3, разработанная командой Qwen; базовая модель — Qwen/Qwen3-VL-8B-Instruct. Вариант предназначен для генерации текста по текстовым и визуальным входным данным, включая изображения и видео, а также для задач визуального понимания, распознавания текста, анализа документов, STEM- и математического рассуждения, пространственного анализа и взаимодействия с графическими интерфейсами. Модель также заявлена для генерации Draw.io, HTML, CSS и JavaScript по изображениям или видео. Модель имеет плотную архитектуру с 8 млрд параметров и использует мультимодальные механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Заявлена нативная длина контекста 256 тысяч токенов с возможностью расширения до 1 миллиона, что подходит для длинных документов и продолжительных видеоматериалов. OCR поддерживает 32 языка, однако полный перечень языков модели в README не приведён. Идентификатор указывает на 8-битную AWQ-квантизацию, но подробности её конфигурации не указаны. К сильным сторонам относятся расширенное визуальное и пространственно-временное понимание, обработка длинного контекста, распознавание текста в сложных условиях и возможности visual agent для работы с GUI и инструментами. README не содержит количественных результатов тестирования, поэтому производительность в конкретных сценариях оценить по нему нельзя. Модель распространяется по лицензии Apache-2.0.

SuperQwen3.8-27b-abliterated-GGUF — это квантованная сборка модели SuperQwen3.8-27b-abliterated, разработанная Jiunsong для запуска через llama.cpp в формате GGUF. Модель предназначена для генерации и анализа текста, рассуждений, вызова инструментов и работы с изображениями; мультимодальность обеспечивается отдельным vision-проектором. Заявлены английский и корейский языки. Основная модель использует квантование Q4_K_M с importance matrix и занимает около 15,41 GiB; полный комплект с MTP-модулем и vision-проектором — около 17,56 GiB. Доступен native MTP draft для speculative decoding с профилем K=6, а заявленное окно контекста составляет 262 043 токена. Vision-проектор поставляется отдельно, поэтому текстовый запуск может обходиться без него. В README также указаны измеренная скорость около 40,1 токена в секунду на одном DGX Spark и успешные проверки вызова инструментов, обработки изображений, рассуждений и извлечения данных из длинного контекста. К сильным сторонам относятся большой контекст, поддержка мультимодальности, инструментов и ускоренного декодирования, а также компактность Q4-квантизации. Ограничения включают зависимость производительности и доступного контекста от аппаратуры и настроек llama.cpp; проверка на границе окна не гарантирует одинаковую точность для всех задач. Модель позиционируется как abliterated: измеренная способность отказывать на вредоносные запросы была существенно снижена, поэтому для безопасного применения необходимы дополнительные меры контроля. Лицензия — Apache-2.0.

DuoNeural разработала Gemma-4-26B-A4B-Abliterated — изменённую версию диалоговой Gemma 4 от Google DeepMind. Это модель генерации текста на архитектуре MoE с 26 млрд параметров, из которых около 3,8 млрд активны при обработке токена; в README указано 128 маршрутизируемых экспертов и один общий, из которых одновременно задействуются восемь. Модель принимает текстовые запросы и предназначена для диалога, следования инструкциям, рассуждений, генерации кода, работы с инструментами и структурированного вывода. От базовой Gemma-4-26B-A4B-it она отличается удалением отказов с помощью изменения весов методом representation engineering. README заявляет сохранение общих возможностей и многоязычной генерации, но не приводит конкретного перечня поддерживаемых языков; метаданные отмечают английский и многоязычность. В карточке также приведён пример запуска GGUF через llama.cpp с контекстом 16 384 токена, однако метаданные этого репозитория указывают формат safetensors и библиотеку Transformers. Модель рассчитана на пользователей, которым нужна инструкция-следующая языковая модель с менее ограничительным поведением. Удаление отказов означает, что она может отвечать на запросы, которые базовая модель отклонила бы; качество и безопасность таких ответов требуют проверки. README указывает исследовательское и образовательное применение и отсылает к условиям Google Gemma Terms of Use; метаданные обозначают лицензию как gemma.

Llama-TI-8B — текстовая авторегрессионная модель семейства Llama, разработанная и загруженная ehristoforu на основе Meta Llama 3.1 8B. В модели сохранена архитектура LlamaForCausalLM; README указывает на дополнительное обучение и слияние моделей. Число параметров — 7,5 млрд по метаданным, контекст — до 131 072 токенов. Распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для генерации текста, рассуждений, решения математических и физических задач, творческого письма, программирования и анализа длинных текстов. README заявляет об улучшениях в математике, биологии, рассуждениях и письме; модель ориентирована на многоязычную генерацию, однако конкретные поддерживаемые естественные языки не перечислены. Доступна базовая версия, а чат-версия вынесена в отдельный репозиторий.

Это квантованная в NVFP4 сборка NVIDIA Nemotron-3.5-Lightning-30B-A3B, подготовленная в формате GGUF для запуска через llama.cpp. Модель разработана NVIDIA и имеет гибридную архитектуру MoE с чередованием слоёв Mamba-2 и MoE, а также отдельными слоями Attention; всего в ней 30 млрд параметров, из которых активны 3 млрд. В репозитории также есть черновая модель DFlash для спекулятивного декодирования. Модель предназначена для диалоговой генерации текста, рассуждений, ответов на вопросы и задач программирования. В README заявлена длина контекста до 1 млн токенов при нативном значении по умолчанию 256 тыс. Поддерживаются английский, испанский, французский, немецкий, итальянский и японский языки. Для коммерческого использования указана лицензия OpenMDW-1.1. Квантованная сборка может отличаться по качеству от исходной BF16-версии; показатели README приведены лишь для отдельных бенчмарков.

Qwen3-VL-30B-A3B-Thinking-GGUF — мультимодальная vision-language модель из серии Qwen3-VL, разработанная командой Qwen и представленная в формате GGUF проектом Unsloth. Модель предназначена для генерации текста на основе текстовых и визуальных входных данных, включая анализ изображений и видео, визуальное рассуждение, OCR, понимание пространственных отношений, решение задач STEM и математики, а также взаимодействие с графическими интерфейсами и инструментами. Модель использует MoE-архитектуру и относится к reasoning-ориентированной версии Thinking; заявленный размер — 30B параметров при 3B активных параметрах. Поддерживаются текст, изображения и видео. Контекст составляет 256K токенов с возможностью расширения до 1M. Среди архитектурных особенностей указаны Interleaved-MRoPE для временного и пространственного позиционирования, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа событий в видео. OCR поддерживает 32 языка, однако полный список языков в README не приведён. Сильные стороны модели — мультимодальное понимание, визуальное и пространственное рассуждение, обработка длинного контекста и видео, распознавание текста в сложных условиях, а также генерация Draw.io, HTML, CSS и JavaScript по изображениям или видео. Ограничения, требования к ресурсам, точные показатели производительности и конкретные параметры GGUF-квантизации в README не указаны. Модель распространяется по лицензии Apache-2.0; в репозитории Unsloth также отмечены исправления chat template.

DeepSeek-V3.1-Base — базовая языковая модель, разработанная DeepSeek AI. Она предназначена как основа для последующего дообучения и создания прикладных версий, включая варианты с режимами рассуждения и без рассуждения, поддержкой вызова инструментов и агентскими сценариями. Модель ориентирована на обработку длинного контекста и сложных текстовых запросов. Модель построена на архитектуре Mixture-of-Experts: общий размер составляет 671 млрд параметров, из которых для одного токена активируется 37 млрд. Максимальная длина контекста — 128K токенов. В README не указаны точный набор поддерживаемых языков и мультимодальные возможности, поэтому подтверждённо описать её можно только как текстовую языковую модель. Для обучения использовалось расширение длинного контекста в два этапа, а веса и активации представлены в формате UE8M0 FP8. К сильным сторонам относятся большой контекст, высокая вычислительная ёмкость при меньшем числе активируемых параметров и пригодность в качестве базы для специализированного дообучения. Ограничения включают очень высокие требования к ресурсам для развёртывания и отсутствие в предоставленных данных подробных результатов оценки, перечня языков и описания мультимодальности. Модель распространяется по лицензии MIT.

FINAL-Bench_Darwin-28B-Opus-GGUF — GGUF-квантизации модели Darwin-28B-Opus, разработанной FINAL-Bench и подготовленной квантизатором bartowski. Модель создана как эволюционное объединение Qwen/Qwen3.6-27B и варианта Qwen3.6-27B с дистиллированным стилем рассуждений Claude Opus. Она предназначена для генерации текста, решения сложных задач и углублённого рассуждения, включая сценарии, требующие пошагового анализа и режима thinking. В основе лежит плотная архитектура поколения Qwen3.6 с гибридным сочетанием линейного и полноформатного внимания: 64 слоя, соотношение три линейных слоя к одному слою полного внимания, размер скрытого состояния 5120 и 27,6 млрд параметров в исходной BF16-версии. Заявлены поддержка английского, китайского, корейского и японского языков, а также многоязычных сценариев. Точная длина контекста в карточке не указана и унаследована от базовой модели. Для GPQA Diamond заявлена точность 88,89% по протоколу адаптивной оценки из трёх этапов, однако результат помечен как непроверенный. Сильные стороны модели — крупный объём параметров, ориентация на продвинутое рассуждение и сочетание возможностей Qwen3.6 с дистиллированным стилем Claude Opus. Ограничения включают высокие требования к ресурсам по сравнению с небольшими моделями, отсутствие точных сведений о длине контекста в данной карточке и то, что доступные GGUF-квантизации являются статическими, без imatrix. Модель распространяется по лицензии Apache 2.0.

Mungert/granite-3.0-8b-instruct-GGUF — квантованная GGUF-версия инструкционной языковой модели Granite 3.0 с 8 млрд параметров. Базовая модель — ibm-granite/granite-3.0-8b-base; модель предназначена для генерации текста и выполнения инструкций, включая рассуждения, ответы на вопросы, работу с кодом, математические задачи и задачи на понимание прочитанного. Разработчик GGUF-сборки — Mungert; исходное семейство моделей разработано IBM Granite. Модель создана с использованием llama.cpp. В README не указаны архитектурные детали, максимальная длина контекста, точный набор языков и конкретные варианты квантования. Упоминается экспериментальный подход к квантованию с повышением точности отдельных важных слоёв с помощью параметра --tensor-type; автор сообщает об улучшении точности на заданном уровне квантования ценой увеличения размера файла. Приведены результаты на англоязычных и многоязычных тестах, включая IFEval, MT-Bench, MMLU, HumanEval, GSM8K, PAWS-X и MGSM, однако их достоверность в метаданных не подтверждена. Модель подходит для локального запуска в совместимых инструментах экосистемы llama.cpp и сценариев, где важны снижение требований к памяти и возможность самостоятельного развертывания. Ограничения связаны с потерями качества, характерными для квантованных моделей, отсутствием подробных сведений о конфигурации и тем, что README не содержит инструкций по выбору конкретного файла квантования. Лицензия указана как Apache 2.0.

Qwen3.6-27B-Jormungandr-i1-GGUF — это квантизированная в формате GGUF версия модели Qwen3.6-27B-Jormungandr, разработанной nightmedia и подготовленной пользователем mradermacher. Модель основана на архитектуре Qwen3.6 с 27 млрд параметров и распространяется в виде imatrix-квантов различных уровней точности и размера. Модель предназначена для генерации текста, диалогов, программирования, математических и STEM-задач, исследовательских сценариев, рассуждений, творческого и художественного письма, а также ролевого взаимодействия. В метаданных заявлена поддержка английского, китайского, японского и испанского языков. README указывает, что это vision-модель; для работы с визуальными данными могут потребоваться mmproj-файлы из статического репозитория. Также заявлена поддержка контекста до 256 тысяч или 1 миллиона токенов, однако конкретные ограничения зависят от исходной модели и используемого программного обеспечения. Главное преимущество — широкий выбор квантов GGUF, позволяющий выбирать баланс между размером, скоростью и качеством: от вариантов примерно на 11 ГБ до 22,5 ГБ. Для части вариантов приведены рекомендации по качеству и скорости, но независимые бенчмарки в README отсутствуют. Ограничения включают возможную потерю качества из-за квантования, необходимость совместимого GGUF-движка и дополнительных mmproj-файлов для мультимодальной работы; точные возможности и производительность зависят от выбранного кванта и оборудования. Модель и квантизированные файлы распространяются по лицензии Apache-2.0.

Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored-W4A16-AutoRound — это 40-миллиардная языковая модель для генерации текста, кода, рассуждений и творческих ответов. Она основана на модели DavidAU Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored и квантизирована с помощью Intel AutoRound. Заявлены языки английский, китайский, русский, украинский, греческий и иврит; модель поддерживает текстовую генерацию и визуальную башню, однако подробности мультимодального применения в README не описаны. Используется схема W4A16: 4-битные веса и 16-битные активации, размер группы 64, симметричная квантизация. Размер модели составляет около 38 ГБ против примерно 80 ГБ в BF16. Архитектура гибридная: 72 слоя линейного внимания Gated DeltaNet с Mamba SSM и 24 слоя полного внимания; сохранены MTP-компоненты для многотокенного предсказания и speculative decoding. Для запуска рекомендуются vLLM или SGLang, при этом в примерах указан контекст до 32768 токенов. Для квантизации использовалась длина последовательности 2048. По данным README, модель ориентирована на программирование, математические и логические задачи, рассуждения, длинные ответы и творческое письмо, включая русскоязычные тексты. Заявлены скорость около 35–47 токенов в секунду, рабочий MTP=3 в vLLM и возможность запуска на нескольких GPU, например двух ускорителях по 24 ГБ. Ограничения включают высокие требования к памяти, необходимость много-GPU конфигурации для комфортной работы, зависимость производительности от контекста и принятия MTP-токенов, а также обязательный batch size 1 при квантизации из-за особенностей гибридного внимания. Для SGLang MTP не работает при pipeline parallelism с PP=3. Лицензия модели наследуется от базовой модели; для AutoRound в README указана Apache-2.0. Отдельная лицензия базовой модели явно не приведена, поэтому условия коммерческого и иного использования следует уточнять в её репозитории.

Pilcothink/Qwen3.8-27B-MixedInt4-AutoRound — это квантизированная версия мультимодальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen и подготовленной Pilcothink. Модель предназначена для инференса в сценариях обработки текста и изображений, включая рассуждения, работу с инструментами и задачи, поддерживаемые исходной моделью. Это не дообучение, слияние или дистилляция, а производная версия исходного checkpoint. Квантизация выполнена с помощью Intel AutoRound по пользовательской схеме смешанной точности INT4 с размером группы 32. Языковые слои квантизированы, а vision tower сохранён в исходной точности; точное распределение разрядности между компонентами не раскрыто. Заявлена совместимость с поддерживающими AutoRound версиями vLLM. В README указана возможность работы с контекстом до 262 144 токенов, а для специального режима обслуживания — до 1 010 000 токенов, однако такие значения зависят от конфигурации и используемой версии инфраструктуры. Основное преимущество модели — снижение требований к памяти при сохранении близкого к оригиналу качества. В приведённой оценке средний результат составил 76,97% против 77,45% у исходной модели; наиболее заметное снижение наблюдалось в BoolQ, а на GSM8K квантизированная версия показала более высокий результат. При этом результаты бенчмарков не гарантируют идентичное поведение на каждом запросе, мультимодальных или длинноконтекстных нагрузках. Лицензия в карточке не указана; для условий использования, ограничений и лицензирования рекомендуется обращаться к карточке базовой модели Qwen/Qwen3.8-27B.

Youssofal/Qwen3.8-27B-MTPLX-Optimized-Speed-FP16 — это версия языковой модели Qwen3.8-27B, подготовленная разработчиком Youssofal для запуска через MTPLX на компьютерах Mac с Apple Silicon. Модель предназначена прежде всего для локальной генерации текста, программирования, работы с кодом, JSON и диалогами. Она совместима с Mac на чипах M1–M5 и требует не менее 32 ГБ unified memory; для M1 и M2 рекомендуется именно эта сборка FP16. Модель использует 4-битное динамическое квантование части весов, а остальные тензоры, включая масштабы, смещения, нормализации, параметры GDN-свёртки и состояния, хранятся в FP16. Она поддерживает контекст до 262 144 токенов и multi-token prediction с глубиной MTP 3, а MTPLX применяет speculative decoding на Apple Silicon. Размер загрузки составляет 20,4 ГБ. Указанная модальность — работа с текстом; README не сообщает полный перечень поддерживаемых языков, но приводит проверку на многоязычном тексте. К сильным сторонам относятся высокая скорость локальной генерации, оптимизация для Apple Silicon и сохранение точности speculative decoding при различных температурах. Для сборки заявлены 96,0% совпадения top-1 и KL-дивергенция 0,012 относительно контрольной версии Qwen3.8-27B в тесте на коде, прозе, JSON и многоязычном уведомлении. Ограничения включают необходимость совместимого Mac с достаточным объёмом памяти, отсутствие опубликованных замеров скорости именно на M1 и M2, а также более низкую точность по сравнению с 8-битной сборкой Optimized Quality. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-30B-A3B-Thinking — мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Это версия с визуальным анализом и режимом Thinking для рассуждений; репозиторий содержит веса в формате Safetensors и предназначен для использования с Transformers. Архитектура указана как Qwen3 VL MoE; название модели обозначает класс 30B-A3B. Модель принимает текст и изображения, а также предназначена для понимания видео и пространственных сцен. Она поддерживает диалог, визуальный анализ, OCR, рассуждения по STEM-задачам, извлечение информации из длинных документов и взаимодействие с инструментами; заявлены сценарии управления графическими интерфейсами и генерации кода интерфейсов по изображениям и видео. В README указан контекст 256K с возможностью расширения до 1M токенов и OCR на 32 языках. Сильные стороны — объединённое текстовое и визуальное понимание, анализ временной структуры видео, распознавание текста в сложных условиях и пространственные рассуждения. Точные результаты зависят от сценария; README не содержит численных результатов тестирования. Лицензия — Apache-2.0.

cyankiwi/Qwen3-VL-32B-Instruct-AWQ-4bit — 4-битная квантованная версия мультимодальной модели Qwen3-VL-32B-Instruct. Базовую модель разработала команда Qwen, а данную сборку подготовил Ton Cao. Модель предназначена для генерации текста по изображениям и тексту, визуального анализа, распознавания текста на изображениях, понимания видео, пространственного рассуждения, мультимодального решения задач и взаимодействия с графическими интерфейсами. Она также ориентирована на визуальное программирование и может генерировать Draw.io, HTML, CSS и JavaScript по изображениям или видео. Модель имеет плотную архитектуру с 32 миллиардами параметров и поддерживает текстово-визуальные входы. Заявлены контекст длиной 256K токенов с возможностью расширения до 1M, анализ продолжительных видео, индексация событий по времени и OCR для 32 языков. Среди архитектурных особенностей указаны Interleaved-MRoPE для обработки временных и пространственных измерений, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками. Квантование выполнено методом AWQ до INT4 с размером группы 32 на основе датасета FineVision с использованием llm-compressor. Сильные стороны модели — широкий набор визуальных и текстовых возможностей, работа с длинным контекстом, видео, документами, пространственными отношениями и агентными сценариями при сниженных требованиях к памяти благодаря INT4-квантованию. Ограничения включают возможную потерю качества по сравнению с полноразмерной моделью, а также высокие вычислительные требования, связанные с исходным размером 32B и мультимодальной обработкой. В README не указаны полный перечень поддерживаемых языков для генерации, точные системные требования и результаты численных тестов. Модель распространяется по лицензии Apache-2.0.