I.11Классификация, ранжирование и сопоставление

Это 6-битная версия NVIDIA Nemotron Nano 9B v2, подготовленная сообществом mlx-community для запуска в формате MLX на совместимом оборудовании Apple. Репозиторий преобразован из nvidia/NVIDIA-Nemotron-Nano-9B-v2 с помощью mlx-lm 0.27.1; метаданные связывают исходную модель с дообучением и указывают поддержку чата. Модель предназначена для генерации текста и диалогового взаимодействия. Базовая модель описана как гибридная языковая модель NVIDIA для чата, следования инструкциям, программирования и управляемого рассуждения. В карточке модели перечислены английский, испанский, французский, немецкий, итальянский и японский языки. Репозиторий указывает лицензию other; условия следует сверить с лицензией исходной модели и файлами репозитория перед использованием.

Qwen3.6-35B-A3B-FP8 — открытая FP8-квантизированная версия модели Qwen3.6-35B-A3B, разработанная командой Qwen. Модель представлена в формате Hugging Face Transformers и предназначена прежде всего для программирования с использованием агентных сценариев, включая работу с фронтенд-проектами, репозиториями и итеративной разработкой. Также она поддерживает мультимодальные задачи с текстом и изображениями благодаря архитектуре с vision encoder. Это каузальная языковая модель с архитектурой Mixture of Experts: 35 млрд параметров всего, из них 3 млрд активируются при обработке запроса. Она содержит 40 слоёв, 256 экспертов, из которых используются 8 маршрутизируемых и 1 общий, а также механизмы Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. README не указывает полный перечень поддерживаемых языков. К сильным сторонам относятся улучшенная работа с кодом, репозиториями и сохранением контекста рассуждений из предыдущих сообщений. Квантизация fine-grained FP8 с размером блока 128 заявлена как обеспечивающая метрики, почти идентичные исходной модели, при совместимости с Transformers, vLLM, SGLang и KTransformers. Ограничения производительности, требования к оборудованию и подробные сведения о языках в README не приведены. Модель распространяется по лицензии Apache-2.0.

Это квантизированная в формате GGUF BF16 версия модели Qwen3.8-27B-Brainwaves-WFH-BF16 от nightmedia, подготовленная mradermacher. Репозиторий содержит взвешенные imatrix-кванты, включая варианты для разных требований к размеру и качеству; README также приводит вариант IQ1_S размером 7,2 ГБ и IQ1_M размером 7,7 ГБ. Модель предназначена для генерации текста в диалоговом и инструкционном режиме. Метаданные указывают на применение в программировании, математике, рассуждениях и творческом письме; заявлены английский, китайский, японский и испанский языки. Для использования требуются совместимый с GGUF движок и выбранный файл квантизации. Лицензия — Apache-2.0.

Qwimi3.5-9B-Kimik2.6-Opus-Distill-MTP-GGUF — экспериментальная модель, разработанная trjxter на базе unsloth/Qwen3.5-9B. Это каузальная языковая модель с GGUF-квантизацией, дообученная методом supervised fine-tuning с использованием LoRA и RS-LoRA через Unsloth и Hugging Face TRL. Обучение проводилось на смеси наборов данных с рассуждениями в стилях Kimi K2.6, Qwen и Claude Opus TraceInversion; в итоговый набор вошло 12 366 примеров, из которых 12 000 использовались для обучения. Модель ориентирована на английский язык и сохраняет формат чата Qwen, включая трассы рассуждений в формате <think>...</think>. Модель предназначена для локального запуска в llama.cpp-совместимых средах, экспериментов с рассуждениями, математикой, решением задач, программированием, техническим анализом и длинным контекстом. Заявленная длина последовательности при обучении составляет 16 384 токена. Доступны варианты Q3_K_L, Q4_K_M, Q5_K_M, Q6_K и Q8_0; Q4_K_M рекомендован как сбалансированный вариант по размеру, скорости и качеству, а более высокие уровни квантизации обеспечивают лучшее сохранение качества при увеличенных требованиях к памяти. Сильными сторонами модели являются специализация на структурированных рассуждениях, поддержка локального инференса и несколько вариантов GGUF-квантизации для разных ограничений по памяти. При этом это экспериментальный fine-tune без заявленных гарантий качества, поэтому модель следует тщательно проверять перед использованием в производственных или критически важных сценариях. Лицензия — Apache 2.0.

Карточка модели CollectionStudio/Trinity-Nano-Preview на Hugging Face совпадает с карточкой arcee-ai/Trinity-Nano-Preview, поэтому описание составлено по ней. Trinity Nano Preview — экспериментальная чат-модель семейства Trinity от Arcee AI, созданная дообучением Trinity-Nano-Base. В README она описана как разреженная MoE-модель с архитектурой AfmoeForCausalLM, 6 млрд параметров и примерно 1 млрд активных параметров; метаданные указывают 880,3 млн параметров. Поддерживает контекст до 131 072 токенов и работает с текстом на нескольких языках. Модель предназначена для диалогов и генерации текста. Разработчики описывают её как открытую по весам модель для предприятий и энтузиастов, обученную на 10 трлн токенов с дополнительным акцентом на математике и коде. README предупреждает, что в этой предварительной экспериментальной версии возможна нестабильность в отдельных сценариях. Указанная в README лицензия — OpenMDW-1.1; метаданные Hugging Face обозначают её как other.

Yi-Coder-9B-Chat-IMat-GGUF — это GGUF-квантизированная версия чат-модели Yi-Coder-9B-Chat, разработанной 01.AI. Квантизацию выполнил legraphista с использованием llama.cpp, исходная модель имела формат BF16. Модель предназначена для генерации текста и диалогового взаимодействия, включая сценарии локального запуска через совместимые с GGUF инструменты, такие как llama.cpp. Модель содержит около 9 миллиардов параметров и доступна в форматах BF16, F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и других вариантах квантизации. Для ряда низкоразрядных вариантов применена IMatrix, призванная сохранить качество при уменьшении размера модели. Размер файлов варьируется примерно от 3,35 ГБ для Q2_K до 17,66 ГБ для BF16/F16. README не сообщает архитектуру, поддерживаемые языки, размер контекста или наличие мультимодальных возможностей; по указанным данным модель является текстовой. Основные преимущества — широкий выбор уровней квантизации, возможность подбора баланса между размером, требованиями к памяти и качеством, а также наличие IMatrix для некоторых вариантов. Ограничения включают возможное снижение качества у наиболее сильных вариантов квантизации и отсутствие в README подробных оценок производительности, языковой поддержки и требований к оборудованию. Модель распространяется по лицензии Apache-2.0.

Bagel DPO 8x7B v0.2 — экспериментальная модель-ассистент, созданная jondurbin дообучением Mixtral 8x7B v0.1: сначала применялось обучение на инструкциях (SFT), затем оптимизация предпочтений DPO. Это языковая модель архитектуры Mixtral с разреженной экспертной структурой MoE, примерно 7,1 млрд параметров и контекстом до 32 768 токенов; поддерживает диалоговую генерацию текста. Для обучения использовались данные по вопросам и ответам, математике, программированию, чтению, диалогам, ролевым сценариям и другим задачам. Модель рассчитана на общие запросы к ассистенту, написание текстов, ответы на вопросы и помощь с кодом. В карточке приведены ограниченные результаты сравнительных проверок, но автор не проводил комплексную оценку. Автор отмечает, что модель унаследовала от базовой Mixtral склонность отказывать в части запросов, несмотря на использование данных для снижения цензурирования. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0.

DASD-4B-Thinking GGUF — компактная плотная языковая модель примерно на 4 млрд параметров, опубликованная в формате GGUF пользователем Mungert. Исходная модель разработана командой Alibaba-Apsara и создана на основе Qwen3-4B-Instruct-2507 с дистилляцией знаний от gpt-oss-120b методом distribution-aligned sequence distillation. Модель ориентирована на рассуждения с длинной цепочкой мыслей, включая решение математических задач, генерацию кода и научное рассуждение. Для обучения использовалось 448 тысяч примеров из наборов Superior-Reasoning-SFT-gpt-oss-120b и Superior-Reasoning-SFT-gpt-oss-120b-Logprob. Это текстовая autoregressive-модель для генерации текста; сведения о поддерживаемых языках и размере контекста в карточке не указаны. Версия GGUF создана с использованием llama.cpp. Автор сборки применяет модифицированный подход к квантованию: отдельные важные слои переводятся в более высокую точность с помощью опции --tensor-type, что должно повышать точность при малой разрядности, особенно для MoE-моделей, но увеличивает размер файла. Заявленные результаты DASD-4B-Thinking включают 88,5 на AIME24, 83,3 на AIME25, 69,3 и 67,5 на LiveCodeBench v5 и v6 соответственно, а также 68,4 на GPQA-D. Сильными сторонами являются компактный размер, ориентация на сложное рассуждение, высокая эффективность дистилляции и возможность локального запуска на потребительском оборудовании. Ограничения включают отсутствие в предоставленных данных подробностей о языковом покрытии, контекстном окне, конкретных требованиях к памяти и характеристиках отдельных квантованных вариантов; приведённые бенчмарки не гарантируют аналогичную производительность в любых прикладных сценариях. Лицензия — Apache-2.0.

Functionary Medium v3.1 — языковая модель компании MeetKai для диалогов и работы с функциями и плагинами. Она основана на meta-llama/Meta-Llama-3.1-70B-Instruct и использует плотную архитектуру Llama; в метаданных указаны 69,5 млрд параметров и контекст до 131 072 токенов. Модель принимает определения инструментов в формате JSON Schema, выбирает, когда вызывать функции, может запускать несколько вызовов параллельно или последовательно и учитывать их результаты в ответе. Она также может вести обычный диалог без вызова инструментов и поддерживает сценарии с интерпретатором кода. Модель предназначена для ассистентов, которым нужно вызывать API и плагины, оркестрировать инструменты и формулировать ответы с учётом полученных данных. README рекомендует запуск через совместимый с OpenAI сервер vLLM; для разбора сырых ответов в JSON предусмотрен специальный код. Репозиторий содержит веса Safetensors. Лицензия — MIT.

OS-Software/Gemma 4 12B IT QAT Q4_0 Unquantized Heretic JA v2 — экспериментальная производная модели Google Gemma 4 12B IT. Репозиторий описывает Gemma 4 как мультимодальную модель Google DeepMind для работы с текстом, изображениями, видео и аудио; эта версия дообучена на базе google/gemma-4-12B-it и помечена как uncensored/abliterated. Указаны гибридное внимание с локальными окнами и глобальными слоями, рассуждение, вызов инструментов, генерация и исправление кода, а также мультиязычная поддержка. Для семейства 12B заявлено контекстное окно до 256K токенов и поддержка распознавания речи и перевода аудио в текст; метаданные указывают Transformers, safetensors и лицензию Apache-2.0. Карточка позиционирует модель для исследований и экспериментов, включая исследования безопасности, выравнивания и red teaming, и просит не развёртывать её в публичных сервисах или пользовательских приложениях. Возможны предвзятые, неточные или устаревшие ответы, трудности со сложными инструкциями и языковыми нюансами; для этой версии отдельные измерения качества не приведены.

German-RAG-LLAMA-3.1-8B-MERGED-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Avemio AI при поддержке Hessian AI. Это объединённая модель семейства Llama 3.1 объёмом 7,5 млрд параметров, предназначенная для немецкоязычных RAG-систем и задач ответов на вопросы по предоставленному контексту. Она также подходит для извлечения релевантных сведений и краткого пересказа источников; в карточке заявлена поддержка немецкого и английского языков. Нативная длина контекста — 131 072 токена. Модель распространяется в формате safetensors и поддерживает чатовый режим. Метаданные Hugging Face указывают лицензию llama3.1, тогда как README заявляет Apache 2.0; лицензионные условия следует уточнить перед использованием. В оценке объединённая версия показала более низкий результат извлечения, чем варианты SFT и ORPO из той же серии. Ответы могут содержать фактические ошибки, а без фильтрации модель может генерировать вредный или чувствительный контент.

ice-AI-i1-GGUF — это набор квантованных вариантов модели ice-AI, разработанной darkps и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования; заявлена поддержка нескольких языков. Представлены файлы с различными уровнями квантования, поэтому модель можно запускать на системах с разным объёмом доступной памяти и выбирать компромисс между размером, скоростью и качеством. В репозитории доступны варианты от i1-IQ1_S размером около 2,2 ГБ до i1-Q6_K размером около 6,8 ГБ. Для некоторых вариантов указаны преимущества и ограничения: Q4_K_M обозначен как быстрый и рекомендуемый, Q4_K_S — как оптимальный по соотношению размера, скорости и качества, а отдельные низкобитные варианты характеризуются более низким качеством. Точная архитектура, число параметров, размер контекста, перечень языков и мультимодальные возможности в README не указаны; по описанию модель является текстовой и не поддерживает заявленные мультимодальные сценарии. Лицензия — Apache-2.0.

Ling-3.0-flash REAP288 — экспериментальная версия разговорной гибридной MoE-модели Ling-3.0-flash, опубликованная bloomer010 на основе inclusionAI/Ling-3.0-flash. В ней оставлено 288 из 512 маршрутизируемых экспертов на слой; README указывает 73 млрд параметров всего и 5,1 млрд активных, тогда как метаданные каталога указывают 3,5 млрд параметров. Модель предназначена для генерации текста в диалоговом формате; базовая Ling-3.0-flash также позиционируется для программирования и многошаговых агентных задач. Эксперты отбирались методом REAP по оценке, учитывающей значение маршрутизатора и норму выхода на калибровочных данных объёмом 1 млн токенов. После удаления экспертов не проводились дообучение или восстановительное обучение. Модель работает с контекстом до 262 144 токенов, распространяется в BF16 Safetensors и использует архитектуру BailingMoeV3; для загрузки требуется trust_remote_code=True и пользовательский код bailing_hybrid. README называет модель исследовательским артефактом и экспериментальной REAP-версией. Лицензия в предоставленных данных не указана. Ключевое ограничение — эксперты удалены без последующего обучения для восстановления качества, поэтому характеристики базовой модели нельзя автоматически переносить на эту версию; приведённые в README и метаданных размеры параметров также расходятся.

Llama-3-KoEn-8B — плотная авторегрессионная языковая модель Junbum Lee (Beomi), продолжающая предобучение Meta Llama 3 8B на корпусе из корейских и английских текстов. Модель принимает текст и генерирует текст, в том числе код; предназначена для адаптации к задачам генерации и для создания чат- и инструкционных моделей. Модель содержит 7,5 млрд параметров, построена на архитектуре Llama 3 и имеет контекстное окно 8192 токена. Доступна в форматах PyTorch и Safetensors. Это предварительный релиз статической модели, обученной на офлайн-данных. Лицензия указана как CC-BY-NC-SA-4.0 вместе с лицензией сообщества Llama 3; применяются их условия использования. Карточка предупреждает, что ответы могут быть неточными, предвзятыми или нежелательными, и рекомендует проверять безопасность для конкретного приложения. Хотя обучение включало корейский и английский языки, документация ограничивает предполагаемое использование английским и предостерегает от применения на других языках без соблюдения условий лицензии Llama 3.

MiMo-Negentropy-9B-AGSI — плотная модель семейства Qwen3.5 примерно на 9 млрд параметров, созданная слиянием MiMo-V2.6-Distill-Qwen-9B от Xiaomi MiMo и Negentropy-claude-opus-4.7-9B от Jackrong. В README слияние названо AGSI Pipelined Fusion и описано как адаптивная спектральная интерполяция весов с защитой от конфликтов параметров. Модель предназначена для диалоговых и агентных сценариев, включая программирование, рассуждения и работу с терминалом. Метаданные указывают поддержку английского и китайского языков; репозиторий содержит веса в формате safetensors. Лицензия — MIT. Это текстовая генеративная модель с возможностью чата. Карточка не приводит результатов сравнительной оценки и не подтверждает практические гарантии качества; мультимодальные возможности базовой модели не следует автоматически считать возможностями этой версии.

Это экспериментальный внутренний чекпойнт r19 модели NVIDIA Nemotron 3 Nano 30B A3B, подготовленный разработчиком minjaechoi на основе nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16. В README указано, что средняя точность маршрутизируемых экспертов составляет 2,0217 бита, тогда как остальные веса имеют формат BF16; веса хранятся в BF16-тензорах после деквантизации и загружаются через стандартные Transformers и vLLM. Метаданные указывают архитектуру Nemotron H, задачу генерации текста, контекст до 262 144 токенов и интерфейс для вызова инструментов. Модель подходит для диалогов и генерации текста, включая сценарии с вызовом инструментов; описание базовой модели также относит семейство к рассуждениям, программированию и агентным приложениям. Метаданные базовой модели указывают поддержку шести языков, но сами языки в предоставленных данных не перечислены. Чекпойнт обозначен как внутренний исследовательский и не содержит отдельных сведений о качестве или ограничениях его низкой точности экспертов. Лицензия наследуется от базовой модели.

Ornith-1.0-35B-MTPLX-Vision — мультимодальная модель для чата с текстом и изображениями, собранная Jonandrop на основе моделей Ornith-1.0-35B и упакованная для Apple Silicon. Она сочетает языковую часть Ornith с восстановленной башней зрения и поддерживает обработку изображений; README также заявляет поддержку видеовхода, хотя метаданные Hugging Face указывают задачу image-text-to-text. Архитектура относится к семейству Qwen 3.5 MoE; корпус модели и MTP-головы квантизированы до 4 бит, а башня зрения хранится в bf16. Модель использует MTPLX с многотокенным предсказанием для ускорения генерации и может работать как локальный OpenAI-совместимый сервер на Apple Silicon. Модель подходит для программирования, диалога и вопросов по изображениям в локальном окружении. README приводит измерения скорости на Apple M5 Pro с 64 ГБ памяти; это результаты конкретной конфигурации, а не универсальные гарантии производительности. Лицензия производной модели — MIT; для перенесённых MTP-тензоров также применяются условия Apache-2.0 и NOTICE проекта Qwen3.5-35B-A3B.

PeppX/Ornith-1.0-9B-Uncensored-GGUF — GGUF-квантизированная версия модели PeppX/Ornith-1.0-9B-Uncensored, разработанная PeppX. Это текстовая генеративная модель для локального запуска, ориентированная на программирование, рассуждения, агентские сценарии, генерацию текста, кибербезопасность и red-team-задачи. Модель позиционируется как uncensored и abliterated: из базовой модели удалено направление, связанное с отказами, без дополнительного обучения и тонкой настройки. Модель имеет плотную архитектуру Qwen 3.5 с 32 слоями и примерно 9 млрд параметров, поддерживает контекст до 262 144 токенов и английский язык. Доступны варианты квантования Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 5,6 до 9,5 ГБ; они рассчитаны на локальный запуск с помощью llama.cpp, LM Studio или Ollama. Заявлены сохранение исходных возможностей в кодировании, математике, рассуждениях и следовании инструкциям, а также низкое расхождение с базовой моделью по KL-дивергенции 0,0827, однако приведённые показатели зависят от методики оценки. Ключевая особенность модели — заявленный авторами нулевой уровень отказов, что может быть полезно для исследовательских, тестовых и red-team-сценариев, но одновременно повышает риск генерации небезопасного или вредоносного контента. Ограничения включают зависимость качества и скорости от выбранной квантизации и оборудования, а также отсутствие в README подробных данных о мультимодальности, обучающем наборе и результатах независимых бенчмарков. Модель распространяется по лицензии MIT.

Qwen3.6-35B-A3B-NVFP4-MTP-GGUF — производная сборка модели Qwen3.6-35B-A3B, подготовленная Nilay Parikh для запуска через llama.cpp на NVIDIA DGX Spark. Это мультимодальная модель с архитектурой MoE: всего 35 млрд параметров, из которых около 3,5 млрд активны на токен. Основные веса квантизованы в NVFP4, голова MTP сохранена в BF16 для спекулятивного декодирования, а мультимодальный проектор для изображений поставляется отдельным файлом BF16 GGUF. Модель предназначена для генерации кода и текста, анализа длинных репозиториев и документов, а также рассуждений по скриншотам интерфейсов и диаграммам. В README заявлен контекст до 256 тысяч токенов с масштабированием YaRN от базовых 128 тысяч; для обработки изображений требуется подключить отдельный mmproj. Карточка ориентирована на английский язык. Лицензия — Apache-2.0. В README указана скорость около 30 токенов/с при коротком контексте и настроенной спекулятивной генерации на DGX Spark; эти показатели зависят от оборудования и конфигурации.

Qwen3.8-27B-ASCII-Condensed — текстовая GGUF-модель, созданная bsaleh03 на основе Qwen/Qwen3.8-27B и квантованной сборки unsloth/Qwen3.8-27B-GGUF. Это не дообучение, дистилляция или повторное квантование: из квантованной модели удалены строки словаря для не-ASCII-токенов, а токенизатор адаптирован к сокращённому словарю. Модель предназначена для генерации текста и работы с длинным контекстом через llama.cpp, прежде всего на одной видеокарте с 16 ГБ памяти. Словарь уменьшен с 248 320 до 129 006 строк, при этом остальные 864 из 866 тензоров побитово идентичны базовой квантованной модели. На RTX 5070 Ti с 16 ГБ заявлена поддержка до 135 168 токенов контекста при использовании q4_0 для KV-кэша; максимальная длина зависит от типов KV-кэша и доступной видеопамяти. Модель сохраняет MTP-голову для спекулятивного декодирования, а на ASCII-тексте токенизация совпадает с базовой моделью. Основное преимущество — экономия видеопамяти и увеличение доступного контекста без изменения большинства весов. Ограничение — ASCII-ориентированный словарь: английский язык, код и ASCII-пунктуация обрабатываются без дополнительных затрат, но символы с диакритикой, кириллица, CJK и другие не-ASCII-тексты требуют больше токенов; для работы преимущественно на неанглийских языках сборка не рекомендуется. Модель поддерживает только текстовый режим, файл mmproj отсутствует, а смешанные типы KV-кэша требуют пропатченной версии llama.cpp. Распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Qwen3.8-27B-OBLITERATED — производная текстовая генеративная модель, опубликованная пользователем bniler2 на базе Qwen/Qwen3.8-27B. Она относится к семейству Qwen3 и предназначена для генерации текста, программного кода и ответов на запросы, включая запросы, на которые исходная модель могла отвечать отказом или отвлечёнными предупреждениями. Модель ориентирована на исследовательские, red-team- и агентные сценарии, а также на локальный запуск в форматах GGUF, SafeTensors и MLX. Заявлены размер 27 млрд параметров и совместимость с режимом рассуждений Qwen3. В README рекомендуются температура 0, repetition_penalty 1.15 и не менее 2048 новых токенов; для агентных сценариев предлагаются более короткие ответы и периодическое суммирование контекста. Размер контекстного окна и перечень поддерживаемых языков не указаны. Для V3 заявлены показатель MMLU 82,3% в тесте lm-eval 0-shot, близкая к исходной модели производительность и полноценные ответы на тестовые задачи генерации кода, однако эти результаты приведены автором модели и не подтверждены независимой проверкой. Главная особенность модели — удаление или ослабление отказов и защитных ответов методом abliteration с последующей итеративной доработкой и смешиванием вариантов. Это может повысить полезность в задачах анализа безопасности и генерации кода, но одновременно снижает встроенные механизмы безопасного поведения и может привести к выдаче рискованного или вредоносного содержания. По сравнению с исходной моделью заявлено снижение MMLU на 2,1 процентного пункта. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-OBLITERATED-AWQ-W4A16 — это 4-битная AWQ-квантизованная версия модели OBLITERATUS/Qwen3.8-27B-OBLITERATED, опубликованная пользователем MurtazaNasir. Модель предназначена для генерации текста, программного кода, агентных сценариев и исследований AI safety и red teaming, включая запросы, на которые модели с обычными защитными настройками могут отказываться отвечать. В основе используется гибридная архитектура Qwen3.8-27B с 64 слоями: 48 слоёв линейного внимания gated-DeltaNet и 16 слоёв полноценного внимания, а также vision tower и MTP-head. Квантизация выполнена в формате AWQ W4A16_ASYM с размером группы 128; часть компонентов сохранена в bf16. Размер репозитория около 19,55 ГБ. Для запуска рекомендуется две видеокарты по 24 ГБ с tensor parallel либо одна карта на 24 ГБ при небольшом контексте. Модель поддерживает текстовые и визуальные компоненты исходной архитектуры, но точные языки и максимальный размер контекста в предоставленных данных не указаны. Сильными сторонами заявлены близкая к исходной производительность, отсутствие жёстких отказов, совместимость с режимом thinking и хорошие результаты в генерации кода. Ограничения включают возможное снижение качества относительно базовой модели: в README указано падение MMLU на 2,1 процентного пункта. Для стабильной работы рекомендуются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов. Стандартный шаблон чата поддерживает вызов инструментов, тогда как исходный шаблон их определения и роль tool игнорирует; также системные промпты могут повторно вызвать отказы. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-UD-Q3_K_XL-DFlash2-MLX — это MLX-квантизация базовой модели Qwen/Qwen3.8-27B, подготовленная для локального запуска на компьютерах Apple Silicon. Модель разработана автором репозитория nathansutton и предназначена прежде всего для генерации текста, написания и анализа кода, а также работы в локальном coding-агенте chad, стилизованном под Claude Code. Модель поддерживает текстовый ввод и вывод; язык базовой модели и точный перечень поддерживаемых языков в README не указаны. Модель имеет плотную гибридную архитектуру Qwen3.8-27B с 27 млрд параметров, 64 слоями, включая 48 слоёв GatedDeltaNet и 16 слоёв полноформатного attention. Основная часть весов квантизирована до 3 бит с группами размера 64, эмбеддинги также имеют 3-битную квантизацию, а lm_head — 5-битную. Нативное контекстное окно составляет 262 тысячи токенов. Размер весов — около 12,1 ГБ, вместе с дополнительным drafter-модулем — около 13,3 ГБ; модель рассчитана на Apple Silicon с 24 ГБ памяти, но в таком режиме фактический доступный контекст обычно составляет десятки тысяч токенов. В комплект входит 1,9-миллиардный DFlash2 block drafter, который ускоряет авторегрессионную генерацию за счёт спекулятивного декодирования. Он квантизирован до 4 бит и предлагает блоки токенов, проверяемые целевой моделью с сохранением её распределения при семплировании. На M4 Pro с 24 ГБ памяти README сообщает ускорение примерно с 17,5 до 60,1 токена в секунду для жадной генерации и с 22,4 до 49–51 токена в секунду для режима с sampling; на длинных агентских контекстах прирост ниже. Ограничения включают зависимость от Apple Silicon и памяти, снижение эффективного контекста на устройствах с 24 ГБ, а также возможные расхождения жадной генерации с последовательным декодированием из-за различий вычислительных ядер. Целевые веса наследуют лицензию базовой модели Qwen3.8-27B, а содержимое каталога dflash — лицензию исходного релиза DFlash2. Перед использованием или распространением необходимо проверить условия обеих лицензий.

Qwen3-Coder-30B-A3B-Instruct-3bit — языковая instruction-модель для генерации текста и работы с программным кодом, разработанная Qwen и преобразованная сообществом mlx-community в формат MLX. Модель основана на Qwen/Qwen3-Coder-30B-A3B-Instruct и предназначена для запуска с библиотекой mlx-lm, в частности в сценариях локальной генерации на совместимом оборудовании Apple MLX. Вариант имеет 3-битное представление и относится к семейству Qwen3-Coder; точные сведения об архитектуре, количестве активных параметров, контекстном окне, поддерживаемых языках и модальностях в README не указаны. Заявленный тип задачи — text-generation, поэтому модель ориентирована на генерацию текста, включая ответы в instruction-режиме и программный код. Сжатое 3-битное представление может снизить требования к памяти, однако README не содержит результатов тестирования, сведений о качестве, ограничениях или производительности. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; конвертация выполнена с использованием версии 0.26.1.

Tiel-Coder-35B-A3B-Genesis-Hermes-GGUF — языково-кодовая модель в формате GGUF, разработанная LuffyTheFox на основе Ornith-1.5-35B-A3B, с использованием компонентов Tiel-Coder и Hermes-файнтюнинга. Модель дополнительно обработана методом Genesis, который автор описывает как численную коррекцию шумов и дефектов в весах без переобучения. Указана лицензия MIT. Модель предназначена для программирования, агентных сценариев, вызова функций и задач, требующих следования инструкциям. Поддерживаются текстовые и визуальные сценарии, однако для работы с изображениями требуется отдельный файл mmproj. В README заявлена поддержка английского, китайского и многоязычного ввода. Архитектура гибридная: Gated DeltaNet с линейным вниманием сочетается с полным softmax-вниманием в соотношении 3:1. Всего модель содержит около 35 млрд параметров, из которых примерно 3 млрд активируются за один проход; используется MoE-схема с 256 экспертами, 8 маршрутизируемыми и 1 общим экспертом на токен, а также 40 слоями. Для сохранения возможностей рассуждения рекомендуется контекст не менее 128K токенов и запуск через llama.cpp с флагом --jinja. Модель ориентирована на эффективный инференс, но требует значительных вычислительных ресурсов, особенно при использовании длинного контекста и визуального режима. README не содержит независимых результатов бенчмарков, поэтому заявленные улучшения стабильности, качества и снижения галлюцинаций следует считать утверждениями автора, а не подтверждёнными измерениями.

Wukong-0.1-Mistral-7B-v0.2-GGUF — это набор квантизированных версий текстовой генеративной модели Wukong-0.1-Mistral-7B-v0.2, опубликованный и подготовленный пользователем bartowski с использованием llama.cpp. Исходная модель разработана RESMPDEV. В README также указаны наборы данных OpenHermes-2.5, CodeFeedback-Filtered-Instruction и Code-Feedback, использованные в связанном с моделью обучении или подготовке. Модель предназначена для генерации текста, выполнения инструкций и задач, связанных с программным кодом. Доступны файлы в формате GGUF с различными уровнями квантизации — от Q8_0 до IQ1_M — что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размер исходной модели составляет 7B параметров, однако точные архитектурные характеристики, поддерживаемые языки и длина контекста в README не указаны. Модель работает через llama.cpp; формат шаблона чата явно не задан, поэтому приведённый шаблон может быть неточным. К сильным сторонам относятся широкий выбор квантизаций и возможность локального запуска на устройствах с ограниченными ресурсами. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые благодаря высокому качеству при меньшем размере, тогда как низкоразрядные варианты экономят память ценой заметного снижения качества. Лицензия — Apache-2.0.

Chandra-OCR-2-GGUF — набор квантованных файлов модели Chandra-OCR-2, разработанной Datalab и опубликованной пользователем prithivMLmods. Это мультимодальная модель для распознавания изображений и PDF-документов с преобразованием содержимого в структурированный Markdown, HTML или JSON при сохранении информации о расположении элементов. Она предназначена для обработки финансовой и научной документации, исторических сканов, многоязычных форм и других сложных документов в автоматизированных AI-конвейерах. Модель поддерживает более 90 языков и рассчитана на работу с текстом, таблицами, математическими формулами, рукописным текстом, элементами форм, включая флажки, широкими макетами документов, изображениями и диаграммами. Заявлены улучшения по сравнению с Chandra 1 в разборе формул, реконструкции сложных таблиц с объединёнными ячейками, распознавании рукописного текста, извлечении диаграмм и создании описаний изображений. В README указаны результаты 85,9% на бенчмарке olmocr и 77,8% по многоязычной оценке, однако архитектура, число параметров и размер контекста не приведены. Репозиторий содержит варианты GGUF от BF16 и F16 до квантований Q2_K–Q8_0 размером примерно от 2,12 до 9,7 ГБ, а также отдельные мультимодальные проекторы. Это позволяет выбирать компромисс между размером файлов, требованиями к ресурсам и качеством, но README не содержит подробных сравнений качества квантованных вариантов или требований к оборудованию. Модель доступна для локального запуска через HuggingFace Transformers и vLLM, а также через размещённые сервисы и playground. Лицензия обозначена как other, без уточнения условий и ограничений использования.

netcat420/DEFUNCT-EXPERIMENT2_2 — слитая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES на основе Qwen/Qwen2.5-Math-7B с добавлением весов DeepSeek-R1-Distill-Qwen-7B и Qwen2.5-Coder-Scholar-7B-Abliterated-MFANN-Slerp-Unretrained. Модель содержит 7,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации текста и диалогов; состав базовых моделей указывает на сценарии с математическими рассуждениями и программированием. В метаданных также отмечен интерфейс вызова инструментов. Языки обучения или поддерживаемые естественные языки в доступных данных не определены. Это экспериментальный merge, поэтому качество и устойчивость поведения могут отличаться от исходных моделей. Лицензия в предоставленных данных не указана.

Карточка модели dots-studio/dots.ocr.base на Hugging Face совпадает с карточкой dots-studio/dots.ocr, поэтому описание составлено по ней. dots.ocr — мультиязычная модель разбора документов от команды dots. Она объединяет распознавание текста и анализ структуры страницы в одной плотной vision-language архитектуре на 1,5 млрд параметров; метаданные указывают контекст длиной 131 072 токена. Модель принимает изображения страниц и может выдавать распознанный текст, порядок чтения и структурированные данные о расположении элементов, включая координаты и категории. В README заявлена поддержка документов на разных языках, а метаданные карточки отмечают английский и китайский. Модель предназначена для OCR и разбора страниц документов: определения макета, извлечения текста и обработки таблиц и формул. Она рассчитана на сценарии, где нужен единый этап распознавания и структурирования вместо цепочки отдельных моделей; для обработки PDF README рекомендует растрировать страницы с разрешением около 200 DPI. Указана лицензия MIT. Ограничения включают неточный разбор сложных таблиц и формул, отсутствие разбора содержимого изображений внутри документов и возможные сбои на страницах с высокой плотностью символов. Непрерывные специальные символы могут вызывать зацикливание вывода; модель также пока не оптимизирована для высокопроизводительной пакетной обработки больших объёмов PDF.

Fireball-Meta-Llama-3.1-8B-Instruct-Agent-0.003-128K-code-ds-auto-GGUF — это GGUF-квантизация инструкционной языковой модели Fireball-Meta-Llama-3.1-8B-Instruct-Agent-0.003-128K-code-ds-auto, разработанной EpistemeAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, работы с инструкциями и задач, связанных с программным кодом; запуск возможен, в частности, через LM Studio. В README указан английский язык и лицензия Apache-2.0. Модель основана на архитектуре Meta Llama 3.1 с размером 8B параметров и заявленным контекстом 128K токенов. Репозиторий содержит варианты от исходных весов F16 размером 16,07 ГБ до квантизаций Q8_0, Q6_K_L, Q6_K, Q5_K_L и других, что позволяет выбирать баланс между качеством и требованиями к памяти. Варианты Q6_K и Q6_K_L отмечены как рекомендуемые и обеспечивающие очень высокое качество. Поддерживается только текстовая модальность. Сильными сторонами являются большой контекст, инструкционная настройка, специализация исходной модели на агентских и кодовых сценариях, а также широкий выбор GGUF-квантизаций для локального запуска. Ограничения включают зависимость качества и требований к ресурсам от выбранного уровня квантизации; приведённые результаты бенчмарков показывают неоднородную производительность на задачах рассуждения, математики и общих знаний. README не содержит подробностей о методике обучения и дополнительных языках.