II.8Инженерия данных и аналитика

MJPansa/MiniMax-M2.7-REAP-172B-A10B-AutoRound-W4A16 — экспериментальная сжатая и квантизированная версия модели семейства MiniMax-M2, разработанная на основе MiniMaxAI/MiniMax-M2.7. Это текстовая генеративная модель для продолжения текста, диалогов, программирования и других задач обработки естественного языка; предусмотрена интеграция с vLLM и Hugging Face Transformers. Заявленный язык — английский. Модель использует архитектуру Mixture-of-Experts: 62 трансформерных слоя, 192 эксперта на слой после сокращения исходных 256 экспертов на 25%, top-8 маршрутизацию, скрытый размер 3072, 48 attention heads и 8 KV heads. Всего около 172 млрд параметров, из которых примерно 10 млрд активируются на токен. REAP применён для pruning экспертов, а AutoRound — для квантизации весов в формате W4A16 с 4-битными весами, 16-битными активациями и group size 128. Размер checkpoint составляет около 86 GiB; заявлена поддержка контекста до 32768 токенов при использовании соответствующей конфигурации сервера. Сильная сторона модели — существенно уменьшенный размер и возможность запуска на одной NVIDIA GB10/DGX Spark с 128 GiB unified memory, а также на CUDA GPU с kernels Marlin или GPTQ-Marlin W4A16. Ограничения связаны с экспериментальным статусом: pruning и калибровка выполнены всего на 64 последовательностях длиной 512 токенов из evol-codealpaca-v1, поэтому качество ещё оценивается и может уступать исходной модели. Для Transformers требуется trust_remote_code=True. Модель распространяется по лицензии MiniMax M2.7, обозначенной в README как minimax-m2.7-license.

Mistral Large 3 2512 — крупная языковая модель, разработанная компанией Mistral. Она использует разреженную архитектуру mixture-of-experts: 41 млрд активных параметров при 675 млрд параметров всего. Модель позиционируется как наиболее производительная модель Mistral на момент выпуска и предназначена для задач, требующих возможностей большой языковой модели. Предоставленные сведения не содержат данных о поддерживаемых языках, модальностях, длине контекста или конкретных сценариях применения. Модель выпущена под лицензией Apache 2.0, что допускает её использование на условиях этой лицензии. По имеющимся данным нельзя оценить фактическое качество на отдельных задачах, требования к аппаратному обеспечению и ограничения, связанные с безопасностью или областью применения.

Mistral-Nemo-Instruct-2407-GGUF — это набор файлов модели в формате GGUF для инструкционной языковой модели Mistral-Nemo-Instruct-2407, разработанной Mistral AI. Квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и выполнения инструкций, включая локальные сценарии использования через совместимые приложения и библиотеки. В репозитории представлены варианты с 2-, 3-, 4-, 5-, 6- и 8-битной квантизацией. Формат GGUF разработан командой llama.cpp и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, Faraday.dev, candle и другими инструментами. Ключевое преимущество — возможность запуска квантизированных версий локально с использованием CPU и GPU, однако конкретные требования к ресурсам и производительность зависят от выбранного варианта квантизации и программного окружения. README не содержит сведений об архитектуре, размере, поддерживаемых языках, длине контекста, модальностях, сильных сторонах базовой модели или лицензии. Поэтому эти характеристики нельзя надежно определить по представленным данным.

Jackrong/MLX-Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-4bit — языковая модель, разработанная Jackrong и преобразованная в формат MLX из Jackrong/Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2 с использованием mlx-lm 0.30.7. Модель предназначена для генерации текста и задач, требующих рассуждений; в описании также указана специализация на chain-of-thought. Она рассчитана на использование с библиотекой mlx-lm, в том числе через chat template и интерфейс MLX. Модель имеет размер 27B параметров и представлена в 4-битном формате, что снижает требования к памяти по сравнению с полноразмерным представлением. Поддерживаются английский, китайский и корейский языки. Для обучения или дистилляции заявлены наборы данных nohurry/Opus-4.6-Reasoning-3000x-filtered, Jackrong/Qwen3.5-reasoning-700x и Roman1111111/claude-opus-4.6-10000x. Архитектура, максимальная длина контекста и мультимодальные возможности в README не указаны. Лицензия — Apache-2.0.

MN-magnum-v2.5-18.5B-kto-Instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели MN-magnum-v2.5-18.5B-kto-Instruct, разработанной DavidAU и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска через llama.cpp или совместимые приложения, включая LM Studio. Она поддерживает диалоговый формат с системными и пользовательскими сообщениями. В основе лежит модель размером 18,5 млрд параметров; точная архитектура, поддерживаемые языки, модальности и размер контекстного окна в README не указаны. Доступны варианты от F16 до низкобитных квантований Q2 и IQ, что позволяет выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Для квантования использовались llama.cpp и imatrix с указанным набором данных; варианты Q5–Q6 отмечены как высококачественные и рекомендуемые, а Q3 и Q2 предназначены для систем с ограниченными ресурсами, но могут заметно уступать по качеству. Лицензия в README не указана, поэтому условия использования необходимо уточнять в карточке исходной модели DavidAU/MN-magnum-v2.5-18.5B-kto-Instruct.

Llama2 13B Orca 8K 3319 — языковая модель для генерации текста и диалогового взаимодействия, разработанная OpenAssistant и представленная в GGUF-формате TheBloke. Модель основана на Llama 2 с архитектурой Llama и содержит около 13 миллиардов параметров. В карточке указана поддержка английского языка и контекст длиной до 8K токенов. Модель предназначена для выполнения инструкций, ответов на вопросы, информационного поиска в формате диалога, написания текстов и историй, а также общих задач генерации текста. Она использует шаблон запросов OpenAssistant-System с отдельными ролями system, prompter и assistant. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые инструменты, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие решения; возможны CPU- и GPU-сценарии, а доступные варианты квантования позволяют выбирать компромисс между качеством, скоростью и потреблением памяти. В README не приведены подробные результаты бенчмарков или явные ограничения качества, поэтому сильные стороны модели можно оценивать только по заявленным возможностям и расширенному контексту. Указанная лицензия источников обозначена как other; кроме того, поскольку модель основана на Llama 2, на неё распространяются условия лицензии Meta Llama 2. README указывает на возможное двойное лицензирование и рекомендует учитывать обе группы условий.

OpenChat 3.6 8B 20240522 — языковая модель семейства OpenChat, разработанная командой OpenChat и основанная на Meta Llama 3 8B. Данный репозиторий содержит её GGUF-квантизации, предназначенные для локального запуска и эффективного развертывания. Модель работает в режиме генерации текста и диалогов, поддерживает совместимый с OpenAI ChatCompletion API сервер и может использоваться через OpenChat Web UI. Модель имеет около 8 миллиардов параметров, относится к текстовым моделям и обучалась с применением подхода C-RLFT на данных смешанного качества. README не указывает точный размер контекстного окна и перечень поддерживаемых языков. Для работы рекомендуется шаблон подсказок на основе формата Llama 3; сервер оптимизирован для высокой пропускной способности и, согласно README, может запускаться на потребительском GPU с 24 ГБ памяти. Квантизация снижает требования к ресурсам, но конкретные варианты GGUF могут различаться по размеру и качеству. Сильными сторонами заявлены производительность на уровне открытых 8B-моделей и улучшенное следование инструкциям и few-shot-шаблонам по сравнению с некоторыми альтернативами. Ограничениями являются зависимость качества и скорости от выбранного типа квантизации, а также отсутствие в предоставленных данных подробных результатов тестирования, точного контекстного окна и языкового охвата. Репозиторий распространяется по лицензии Llama 3; условия её применения следует учитывать при использовании модели.

OpenThinker3-7B-GGUF — это квантизированная версия текстовой генеративной модели OpenThinker3-7B, разработанной проектом open-thoughts и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые приложения. Модель содержит 7 миллиардов параметров и поддерживает различные варианты представления весов: от BF16 до квантизаций Q8, Q6, Q5, Q4, Q3, Q2 и IQ. Размер файлов варьируется примерно от 3,5 до 15,2 ГБ, поэтому можно выбрать баланс между качеством, скоростью и требованиями к памяти. Для взаимодействия используется шаблон сообщений с ролями system, user и assistant. Сведения о контекстном окне, языках, мультимодальности и точной архитектуре в README не указаны; по доступным данным это текстовая, а не мультимодальная модель. Сильной стороной являются многочисленные варианты квантизации, включая версии, оптимизированные для экономии памяти и локального запуска, а также применение imatrix при квантизации на базе llama.cpp. Более компактные варианты требуют меньше ресурсов, но могут заметно уступать полноразмерной или высокоточной квантизации по качеству. Модель распространяется по лицензии Apache-2.0. Датасет, указанный для исходной модели, — open-thoughts/OpenThoughts3-1.2M.

ShayanCyan/phi4-multimodal-quantisized-gguf — это набор предварительно сконвертированных GGUF-весов модели microsoft/Phi-4-multimodal-instruct, подготовленный для локального запуска через специализированную ветку llama.cpp. Репозиторий содержит квантизированную языковую модель phi4-mm-Q4_K_M.gguf и отдельный мультимодальный проектор phi4-mm-omni.gguf с визуальным энкодером на основе SigLIP/Navit-style и аудиоэнкодером Conformer. Нового обучения или новых обучающих данных набор не добавляет. Модель предназначена для локального инференса, исследований, экспериментов и создания прототипов агентов, работающих с текстом, изображениями и аудио. Она поддерживает следование инструкциям, рассуждения, программирование и многоходовой диалог, визуальные вопросы и ответы, создание описаний изображений, анализ документов и графиков, а также автоматическое распознавание речи, перевод с английского на французский и суммаризацию аудио при наличии соответствующего Conformer-пути. Заявленные языки: английский, урду, немецкий, испанский, турецкий, французский и итальянский. Основная языковая модель использует 4-битную групповую квантизацию Q4_K_M, тогда как мультимодальный проектор хранится в F16/F32 для сохранения качества работы с изображениями и аудио. Для запуска требуются совместимые возможности llama.cpp и одновременное подключение языковой модели и mmproj-файла. К преимуществам относятся локальная работа, поддержка нескольких модальностей и снижение требований к памяти за счёт квантизации. Ограничения включают возможные галлюцинации и ошибки интерпретации; модель не следует применять для медицинских, юридических или критически важных решений без проверки человеком. Использование регулируется лицензией phi4-model-license от Microsoft; необходимо соблюдать условия исходной лицензии.

CultriX/Qwen2.5-14B-Wernickev3 — языковая модель для генерации текста, созданная CultriX путём слияния нескольких предварительно обученных моделей с помощью mergekit. В качестве базовой модели использована Qwen/Qwen2.5-14B; также в слияние вошли QwenSlerp6-14B, QwenStock3-14B, SeQwence-14B-EvolMerge, Qwen2.5-14B-Wernicke и SauerkrautLM-v2-14b-DPO. Применён метод DARE TIES. Модель основана на плотной архитектуре Qwen2 и содержит 14 млрд параметров. Она работает через Transformers, распространяется в формате safetensors и поддерживает контекст до 131 072 токенов. Подходит для диалоговой генерации и других задач продолжения текста; метаданные также отмечают интерфейс вызова инструментов. Модель использует лицензию Qwen/Qwen2.5-14B — Apache-2.0. Слияние объединяет свойства исходных моделей, но README не приводит отдельных оценок качества или сведений о специализации; качество для конкретных задач следует проверять самостоятельно.

Это GGUF-квантизированная версия языковой модели Qwen2.5-72B-Instruct, подготовленная пользователем bartowski с использованием llama.cpp и метода imatrix. Исходную модель разработала команда Qwen; карточка указывает текстовую специализацию и поддержку английского языка. Модель предназначена для диалогов и генерации текста, включая запуск локально через llama.cpp или LM Studio, с использованием специального chat-шаблона Qwen. Модель имеет 72 млрд параметров, а репозиторий предлагает несколько вариантов квантизации GGUF — от IQ1_M и Q2 до Q8_0. Размеры файлов составляют примерно от 23,74 до 77,26 ГБ; варианты с более высокой точностью обычно требуют больше памяти, но лучше сохраняют качество исходной модели. Рекомендуемыми названы Q6_K, Q5_K_M, Q4_K_M и IQ4_XS. Для некоторых вариантов доступны раздельные файлы, а отдельные квантизации используют Q8_0 для embedding- и output-весов. Сильная сторона репозитория — широкий выбор компромиссов между качеством и требованиями к памяти, а также совместимость с распространёнными локальными инструментами. Ограничения включают значительный объём памяти, необходимый для запуска 72-миллиардной модели, и снижение качества при сильной квантизации; конкретная длина контекста в README не указана. Модель распространяется по лицензии Qwen, обозначенной как other; дополнительные условия следует уточнять в файле лицензии исходной модели.

Модель nextvalueup/Qwen2.5-7B-Instruct — дообученная разговорная языковая модель семейства Qwen2.5, разработанная nextvalueup на базе unsloth/qwen2.5-7b-instruct-bnb-4bit. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и взаимодействие через интерфейс вызова инструментов. Модель имеет плотную архитектуру Qwen2ForCausalLM и содержит 7,1 млрд параметров; максимальная длина контекста составляет 32 768 токенов. Веса представлены в формате PyTorch. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0. README сообщает, что обучение проводилось с использованием Unsloth и Hugging Face TRL.

Qwen3-4B-Instruct-2507-GGUF — квантизированная версия языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, включая диалоговые сценарии, ответы на вопросы, подготовку и преобразование текстов, а также другие задачи общего назначения. Вариант распространяется в формате GGUF и создан bartowski на основе llama.cpp release b6096; LM Studio выступает площадкой распространения, а не разработчиком модели. Модель содержит 4 миллиарда параметров и относится к текстовым autoregressive-моделям для text generation. Формат GGUF и поддержка llama.cpp упрощают локальный запуск и позволяют использовать её в совместимых инструментах, однако конкретные уровни квантования, размер контекста, поддерживаемые языки и дополнительные характеристики в README не указаны. К преимуществам относятся относительно компактный размер и возможность локального использования; ограничения включают возможное снижение точности из-за квантования, меньшие возможности по сравнению с более крупными моделями и типичные риски генерации неточной или неподходящей информации. Лицензия в предоставленных данных не указана.

Qwen3-4B-Instruct-2507-MLX-4bit — это 4-битная квантованная версия языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях. Квантование выполнено с использованием MLX командой LM Studio на базе инструментов mlx_lm. Модель оптимизирована для работы на устройствах Apple Silicon, что делает её подходящей для локального запуска при ограниченных ресурсах. Известно, что она содержит около 4 миллиардов параметров и использует 4-битное представление, однако сведения о поддерживаемых языках, длине контекста и точной архитектуре в README не указаны. К сильным сторонам относятся компактный размер, сниженные требования к памяти и оптимизация под Apple Silicon. К ограничениям относятся возможное снижение качества по сравнению с полноразмерной или менее агрессивно квантованной версией, а также отсутствие в предоставленных данных подробных характеристик производительности и языкового покрытия. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.5-0.8B-MTP-GGUF — GGUF-версия мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen и подготовленной Unsloth. Это авторегрессионная языковая модель с vision-энкодером, предназначенная для локального запуска, прототипирования, исследовательских задач, специализированного дообучения, программирования, рассуждений, работы с изображениями и агентских сценариев. Модель содержит около 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. Она использует гибридную архитектуру Gated Delta Networks и разреженной Mixture-of-Experts, а также обучение с multi-step prediction (MTP), поддерживающее спекулятивное декодирование. Нативная длина контекста составляет 262 144 токена. Заявлена поддержка 201 языка и диалекта. Репозиторий ориентирован на совместное использование с llama.cpp и другими инструментами, поддерживающими GGUF; для MTP в llama.cpp требуется соответствующая ветка или актуальная версия с поддержкой draft-MTP. К сильным сторонам относятся малый размер, возможность эффективного локального запуска, мультимодальность, широкий языковой охват и потенциальное ускорение генерации примерно в 1,5–2 раза благодаря MTP. Ограничениями являются невысокий по современным меркам объём модели и, как следствие, вероятно более слабое качество сложных задач по сравнению с крупными моделями. Для MTP указаны ограничения: не поддерживаются параллельные последовательности с параметром -np больше 1 и использование mmproj. Модель распространяется по лицензии Apache 2.0.

amd/Qwen3.5-35B-A3B-MXFP4 — квантизированная версия модели Qwen3.5-35B-A3B-FP8, разработанная Advanced Micro Devices, Inc. с использованием AMD-Quark. Модель построена на архитектуре Qwen3_5MoeForConditionalGeneration, принимает текст и генерирует текст. В README указано обозначение 35B-A3B, однако точные параметры архитектуры, число активируемых параметров, размер контекста и перечень поддерживаемых языков не приведены. Модель предназначена для задач генерации текста и инференса в средах SGLang или vLLM на Linux с оборудованием AMD MI300 и MI350/MI355, ROCm 7.0.0, PyTorch 2.9.1 и Transformers 5.3.0. Веса статически квантизированы в формат OCP MXFP4, а активации динамически квантизированы в OCP MXFP4, что ориентировано на эффективное выполнение на совместимых ускорителях. В тесте GSM8K модель получила результат 93,25 против 89,39 у исходной FP8-версии, но приведённая оценка охватывает только один бенчмарк и не характеризует все сценарии применения. Лицензия — Apache-2.0; изменения защищены авторским правом Advanced Micro Devices, Inc.

Это квантованная в формат NVFP4 версия мультимодальной модели Qwen3.5-9B, подготовленная FreedomAISVR на основе Qwen/Qwen3.5-9B. Модель предназначена для диалога и генерации текста, а вместе с файлом проектора mmproj — для понимания изображений. В README заявлены гибридная архитектура Gated DeltaNet и Gated Attention, контекст до 262 144 токенов и поддержка 201 языка; в метаданных подтверждены английский, китайский и многоязычный режимы. Веса хранятся в GGUF: основной файл NVFP4 занимает 5,31 ГБ, а проектор зрения в F16 — 918 МБ. Формат оптимизирован для ускорения на видеокартах NVIDIA Blackwell; производительность и совместимость на других устройствах могут отличаться. Репозиторий распространяется по лицензии Apache-2.0.

Mercor дообучила Qwen3.6-35B-A3B методом постобучения с подкреплением на готовых наборах данных APEX-Agents. Это мультимодальная модель семейства Qwen3.5 MoE для диалогов и анализа изображений; заявленная карточка Hugging Face задача — image-text-to-text. Модель доступна в формате Safetensors и рассчитана на применение через Transformers. Постобучение ориентировано на агентные сценарии и задачи, связанные с профессиональной работой со знаниями. Базовая модель описана как модель с 35 млрд параметров для диалогов, агентного программирования и анализа изображений; данных о длине контекста и поддерживаемых языках в предоставленных источниках нет. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-NVFP4-vllm — квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем kekzle. Модель предназначена для запуска в vLLM и imp; поддерживает текстовые и визуальные входы, при этом в карточке указан английский язык. Это гибридная архитектура с компонентами GDN, vision tower и MTP draft head, однако подробные сведения о точной архитектуре и максимальном контексте не приведены. Линейные веса внимания, MLP и GDN-проекций сжаты в NVFP4 с группами размера 16 по схеме W4A16, а embeddings, lm_head, нормализации, vision tower и MTP draft head сохранены в исходной точности BF16. Размер весов уменьшен примерно с 51,75 до 19,2 ГиБ, что позволяет разместить модель на видеокарте с 32 ГиБ памяти. По приведённым измерениям на RTX 5090 модель достигла perplexity 4,6158, скорости декодирования до 87,4 токена в секунду и результата 45/45 в тестовом наборе качества. Сильные стороны модели — существенная экономия памяти, поддержка работы с текстом и изображениями, совместимость с vLLM и imp, а также возможность запуска на потребительских видеокартах Blackwell sm_120, где опубликованные варианты с FP8 attention могут не работать. Ограничения связаны с экспериментальным характером квантования без калибровки активаций, меньшей производительностью vLLM на sm_120 из-за fallback на Marlin и необходимостью настраивать число последовательностей и параметры памяти. Для многошаговых диалогов рекомендуется выделять не менее примерно 400 токенов на ответ, поскольку бюджет включает внутреннее рассуждение. Модель распространяется по лицензии Apache-2.0. Квантованная версия создана из официального релиза BF16 с помощью экспериментального квантовщика imp.

Qwen3.8-27B-OBLITERATED — производная текстовая генеративная модель, опубликованная пользователем bniler2 на базе Qwen/Qwen3.8-27B. Она относится к семейству Qwen3 и предназначена для генерации текста, программного кода и ответов на запросы, включая запросы, на которые исходная модель могла отвечать отказом или отвлечёнными предупреждениями. Модель ориентирована на исследовательские, red-team- и агентные сценарии, а также на локальный запуск в форматах GGUF, SafeTensors и MLX. Заявлены размер 27 млрд параметров и совместимость с режимом рассуждений Qwen3. В README рекомендуются температура 0, repetition_penalty 1.15 и не менее 2048 новых токенов; для агентных сценариев предлагаются более короткие ответы и периодическое суммирование контекста. Размер контекстного окна и перечень поддерживаемых языков не указаны. Для V3 заявлены показатель MMLU 82,3% в тесте lm-eval 0-shot, близкая к исходной модели производительность и полноценные ответы на тестовые задачи генерации кода, однако эти результаты приведены автором модели и не подтверждены независимой проверкой. Главная особенность модели — удаление или ослабление отказов и защитных ответов методом abliteration с последующей итеративной доработкой и смешиванием вариантов. Это может повысить полезность в задачах анализа безопасности и генерации кода, но одновременно снижает встроенные механизмы безопасного поведения и может привести к выдаче рискованного или вредоносного содержания. По сравнению с исходной моделью заявлено снижение MMLU на 2,1 процентного пункта. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Thinking r22 — экспериментальный чекпойнт на базе Qwen/Qwen3-Next-80B-A3B-Thinking. В карточке указано, что это MoE-модель с маршрутизируемыми экспертами, усреднённо хранящимися при 2,0161 бита; остальные веса — BF16. Метаданные указывают 2,3 млрд параметров, контекст до 262 144 токенов и библиотеку Transformers. Веса представлены в safetensors и загружены в деквантованном виде в BF16-тензоры; заявлена совместимость со стандартными Transformers и vLLM. Модель предназначена для генерации текста и диалогового использования, включая сложные рассуждения и вызов инструментов через соответствующий интерфейс. Русский язык карточкой не заявлен, поэтому языковая поддержка здесь не уточняется. Чекпойнт помечен как внутренний исследовательский; лицензия наследуется от базовой модели.

unsloth/Qwen3-VL-2B-Instruct — версия мультимодальной модели Qwen3-VL-2B-Instruct, подготовленная Unsloth; это плотная модель семейства Qwen3-VL с архитектурой Qwen3VLForConditionalGeneration и весами в формате safetensors. Она принимает текст и изображения, а также предназначена для анализа видео в диалоге: отвечает на вопросы по визуальным данным, распознаёт текст, рассуждает о пространственных отношениях и помогает взаимодействовать с графическими интерфейсами и инструментами. Карточка базовой модели указывает контекст 256 тысяч токенов с возможностью расширения до миллиона; README также заявляет поддержку OCR на 32 языках и обработку длинных видео. Модель подходит для описания изображений и видео, извлечения текста из документов, визуальных вопросов и ответов, генерации кода интерфейсов по визуальному примеру и сценариев с визуальными агентами. README отмечает исправления шаблона чата Unsloth; для llama.cpp требуется параметр --jinja. Заявления о качестве и производительности приведены без таблиц результатов в доступном README. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия языковой модели Qwen3-30B-A3B-Thinking-2507, разработанной Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp; формат подходит для офлайн-сценариев на оборудовании с ограниченными ресурсами по сравнению с полной версией BF16. Модель относится к семейству Qwen3 и имеет заявленный размер 30B параметров, при этом в названии указано A3B. README не содержит сведений о поддерживаемых языках, длине контекста, конкретной архитектуре, мультимодальности и результатах тестирования. Доступны варианты от BF16 до различных уровней квантизации Q8_0, Q6, Q5, Q4, Q3 и IQ; они различаются размером файлов, качеством и требованиями к оперативной памяти. Версии Q6 и Q5 отмечены как высококачественные, Q4_K_M — как стандартный вариант для большинства сценариев, а Q3 предназначены для систем с небольшим объёмом памяти, но дают более низкое качество. Сильными сторонами являются широкий выбор квантизаций, совместимость с популярными локальными инструментами и возможность подобрать баланс между качеством, скоростью и потреблением памяти. Ограничения включают неизбежное снижение качества в более компактных вариантах, значительный размер файлов даже после квантизации и отсутствие в README сведений о лицензии, языках и максимальном контексте. Для корректного диалога рекомендуется использовать указанный в README шаблон prompt format с секцией <think>.

Kaoeiri выпустил Qwenwify-32B-v1 — объединение предварительно обученных языковых моделей на архитектуре Qwen2.5, созданное с помощью mergekit методом DARE TIES. В качестве базовой модели использована unsloth/qwen2.5-32b-instruct; в объединение также вошли AiCloser/Qwen2.5-32B-AGI, crestf411/Q2.5-32B-Slush, EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2 и rombodawg/Rombos-LLM-V2.5-Qwen-32b. Модель содержит 32 млрд параметров, принимает текст и предназначена для генерации текста в диалоговом формате; доступен интерфейс вызова инструментов. Длина контекста составляет 32 768 токенов. Файлы представлены в формате safetensors. Сведения о лицензии и конкретных ограничениях использования в предоставленных данных отсутствуют.

Raptor 0.6.1 preview — компактная плотная языковая модель на архитектуре Spark 2.5, разработанная OsaurusAI как лёгкое дообучение XHToken/Spark-X2.5-4B. Модель содержит 3,8 млрд параметров и предназначена для диалога, рассуждений и работы с инструментами. Поддерживает английский и китайский языки; заявленный контекст — до 1 048 576 токенов. Это сборка JANG_6M для Apple Silicon: веса внимания и связанного эмбеддинга представлены в 8-битном формате, веса MLP используют 6-битный бюджет, а масштабы групп хранятся в bfloat16. Для запуска требуется Osaurus версии 0.25.0 или новее; README отмечает, что стандартная библиотека mlx-lm пока не поддерживает архитектуру spark2_5. Модель распространяется по лицензии Apache-2.0. Это предварительная практическая версия, которая может ошибаться, как и другие модели такого размера. Для сложных запросов цепочки рассуждений могут превышать 8 192 выходных токенов, поэтому нужно учитывать бюджет генерации вместе с входным контекстом. Метаданные также указывают интерфейс вызова инструментов.

RWKV7-G1i-13.3B-20260805 — базовая языковая модель семейства RWKV-7, разработанная Bo Peng, Yu Zhang, Songlin Yang, Ruichong Zhang и Zhiyuan Li при поддержке RWKV Project под эгидой LF AI & Data Foundation. Это плотная авторегрессионная модель с архитектурой RWKV7ForCausalLM; метаданные указывают 14,6 млрд параметров, а карточка README — 13,3 млрд. Модель обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и рассуждениях; в репозитории указаны веса safetensors и интерфейсный шаблон чата. RWKV-7 использует рекуррентное состояние постоянного размера и постоянную вычислительную работу на генерируемый токен, сохраняя возможность параллельного обучения. Модель предназначена для генерации текста, оценки, последующего обучения и дообучения; поддерживает английский, китайский, японский, корейский, французский, арабский, испанский и португальский языки. Метаданные задают контекст 2048 токенов, тогда как название файла в README содержит обозначение ctx16384, поэтому фактическую длину контекста следует сверить с используемой конфигурацией. Модель распространяется по лицензии Apache-2.0. README прямо предупреждает, что базовый чекпойнт не является выровненным по безопасности ассистентом: шаблон чата служит интерфейсом для подачи запросов и сам по себе не гарантирует безопасное поведение.

RWKV/RWKV7-G1k-2.9B-20260930 — официальная базовая языковая модель RWKV-7 Goose от BlinkDL в формате для Transformers. Это плотная авторегрессионная модель примерно на 3,1 млрд параметров, предварительно обученная на веб-текстах, коде, синтетических, инструкционных, диалоговых и reasoning-данных. Она предназначена для оценки, дальнейшего дообучения и генерации текста; шаблон чата задаёт формат промпта, но сам по себе не означает, что модель выровнена для безопасного поведения. Архитектура RWKV-7 использует рекуррентное состояние постоянного размера вместо механизма внимания и KV-кэша, поэтому объём состояния не растёт с длиной генерации, а вычисления на токен остаются постоянными; обучение можно распараллеливать. Модель принимает текст и генерирует текст. Карточка и теги указывают поддержку английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Веса доступны в safetensors, лицензия — Apache-2.0. Качество следования инструкциям и поведение на разных языках зависят от чекпойнта, промптинга и последующего обучения. Модель не заявлена как проверенная на безопасность, предвзятость, токсичность, фактическую точность или применение в критически важных сценариях. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения снимков состояния; оптимизированный запуск зависит от оборудования и конфигурации.

Sakura-SOLAR-Instruct-GGUF — квантизированная версия инструкционной языковой модели Sakura Solar Instruct, разработанной KyujinHan. Модель предназначена для генерации текста и диалогового взаимодействия по системным и пользовательским инструкциям; её можно запускать локально на CPU и GPU через llama.cpp и совместимые интерфейсы и библиотеки. Репозиторий содержит файлы в формате GGUF, включая варианты с 2-, 3-, 4-, 5-, 6- и 8-битной квантизацией. Архитектура модели — SOLAR, формат GGUFv2; точный размер, число параметров и максимальная длина контекста в README не указаны. Заявлен английский язык, поддерживается только текстовая модальность. Квантизация уменьшает требования к памяти и позволяет выбирать компромисс между размером, скоростью и качеством, однако более агрессивные варианты могут сильнее терять в качестве по сравнению с исходной моделью. Для работы используется шаблон запроса с секциями System, User и Assistant. Модель и её квантизированные файлы распространяются по лицензии CC BY-NC-SA 4.0.

TERNARY-BONSAI-2-27B-DERISKED-GGUF — мультимодальная производная модель семейства TERNARY BONSAI, выпущенная Blackfrost AI на основе prism-ml/Ternary-Bonsai-2-27B-gguf и в конечном счёте Qwen/Qwen3.8-27B. Модель предназначена для диалоговых сценариев и работы с текстом, а при загрузке соответствующего мультимодального проектора также поддерживает входные изображения. Доступна через llama.cpp и совместимый с OpenAI API интерфейс. В релиз входят две языковые версии: высокоточная BF16 и компактная нативная тернарная PQ2_0 с групповой FP16-масштабизацией. Архитектура описана как гибридная causal language model на базе Qwen3.8, примерно на 27,36 млрд параметров и с 64 трансформерными блоками. Заявленное upstream-окно контекста составляет 262 144 токена, однако для данного релиза валидировано только 32 768 токенов; также проверена работа с одним параллельным потоком генерации. Для изображений используются отдельные проекторы BF16 или Q8_0, соответствующие языковой версии. BF16-вариант ориентирован на качество и точность, тогда как PQ2_0 существенно компактнее и демонстрирует более высокую наблюдаемую скорость декодирования в заявленной конфигурации. Обе версии прошли проверку связности оператором и HITL, а PQ2_0 указан как принятый компактный кандидат без зацикливания. При этом комплексные тесты программирования, безопасности, длинного контекста и мультимодальности ещё не опубликованы, оценка отказов находится в ожидании, а приведённые скорости не являются гарантией производительности. Процесс поведенческой модификации является проприетарным и не распространяется. Лицензия Apache-2.0 унаследована от непосредственной родительской модели.

Ternary-Bonsai-8B-gguf — языковая модель для генерации текста, разработанная Prism ML на базе Qwen3-8B. Она предназначена для локального и встраиваемого запуска, включая сценарии on-device, через llama.cpp и совместимые инструменты. Модель распространяется в формате GGUF Q2_0 и ориентирована на задачи диалога, ответов на вопросы, рассуждений и программной интеграции. Модель содержит 8,19 млрд параметров, включая около 6,95 млрд параметров без учёта эмбеддингов, и использует 36 декодерных Transformer-блоков с GQA, архитектурой SwiGLU, RoPE и RMSNorm. Длина контекста составляет 65 536 токенов, размер словаря — 151 936 токенов. Веса квантизованы до троичного представления {-1, 0, +1} с групповым масштабированием FP16; размер рекомендуемого файла Q2_0 составляет около 2,03 GiB, или 2,18 GB. Главное преимущество модели — существенное снижение требований к памяти: примерно в 7,5 раза по сравнению с FP16 при заявленном сохранении информации для троичных весов. По приведённым бенчмаркам она показывает высокое качество среди моделей сопоставимого размера, но уступает исходной Qwen3-8B по среднему результату. Для работы с форматом Q2_0 требуется специальная ветка Prism ML для llama.cpp, поскольку поддержка этого формата ещё не включена в основную ветку проекта. Языки, на которых модель оптимизирована, в README не указаны. Лицензия — Apache 2.0.