I.11Классификация, ранжирование и сопоставление

Edens-Gate/Qwen1.5B-Instruct-Upscale-3.5B — текстовая диалоговая модель семейства Qwen2, созданная с помощью mergekit методом passthrough на основе Qwen/Qwen2-1.5B-Instruct. Репозиторий содержит плотную архитектуру Qwen2ForCausalLM на 3,2 млрд параметров; модель работает через Transformers и принимает текстовые запросы, выдавая текст. Модель предназначена для диалогов и генерации текста по инструкциям. Подходит для ответов на вопросы, составления текстов и помощи с программированием или математическими задачами. Контекстное окно составляет 32 768 токенов. В метаданных указана лицензия Apache-2.0?

CultriX/Qwen2.5-14B-Brocav6 — объединённая языковая модель на архитектуре Qwen2 для генерации текста и диалогового общения. По README, CultriX создал её с помощью mergekit, применив метод della_linear и CultriX/Qwen2.5-14B-Wernickev3 как базу; в объединение также вошли несколько моделей семейства Qwen2.5, включая варианты для математики и диалога. Модель содержит 14 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Метаданные указывают поддержку чата и интерфейса вызова инструментов. Репозиторий содержит веса в формате safetensors; библиотека для работы — Transformers. Модель подходит для генерации ответов в диалоге, продолжения текста и других задач, решаемых текстовыми генеративными моделями. Документация не приводит специальных результатов оценки или подробных ограничений, поэтому качество на конкретных задачах следует проверять отдельно. Лицензия в предоставленных данных не указана.

bartowski/Qwen2.5-14B-Instruct-1M-GGUF — это набор GGUF-квантизированных версий языковой модели Qwen2.5-14B-Instruct-1M, разработанной командой Qwen и подготовленной bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для диалоговой генерации текста и других задач text-generation, включая локальное использование через llama.cpp и LM Studio. В README явно указан английский язык; формат взаимодействия предусматривает системные, пользовательские и ассистентские сообщения. Модель содержит 14B параметров и поддерживает контекст размером до 1M токенов согласно идентификатору и названию базовой модели. Доступны варианты от F32 и F16 до Q8_0, Q6, Q5, Q4, Q3 и Q2 с размерами файлов примерно от 6,5 до 59 ГБ. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но заметно уступают по качеству; некоторые варианты используют legacy-форматы или оптимизации для CPU и Apple Silicon. Конкретные требования к оборудованию и производительность в README не указаны. Распространение выполняется по лицензии Apache 2.0. Для использования необходимо учитывать значительный объём модели и выбрать подходящий уровень квантизации в зависимости от доступной памяти и требований к качеству.

parmanu-lcs2/Qwen3-5B — текстовая генеративная модель на архитектуре Qwen3, полученная сокращением Qwen/Qwen3-8B методом SNIPER и последующим дообучением. После pruning в модели 5,406,974,208 параметров; метаданные каталога указывают 7,6 млрд. параметров и контекст до 40 960 токенов. Для восстановления использованы LoRA и 2 000 примеров SlimOrca в течение одной эпохи, после чего адаптеры объединены с весами модели. Модель предназначена для диалоговой генерации текста и выполнения инструкций. Её можно применять для ответов на вопросы, составления текстов и помощи с кодом — в пределах возможностей базовой Qwen3. README сообщает длину контекста 1 024 токена во время дообучения; это не следует путать с заявленным в метаданных родным контекстом модели. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Описание не содержит результатов оценки качества после pruning, поэтому фактическую сохранность способностей базовой модели следует проверять на целевых задачах.

HauhauCS/Qwen3.6-27B-Uncensored-HauhauCS-Balanced — это модифицированная и квантованная версия базовой модели Qwen/Qwen3.6-27B, подготовленная HauhauCS. Модель распространяется в формате GGUF и ориентирована на мультимодальные сценарии image-text-to-text, включая работу с изображениями и текстом. Заявлена поддержка английского, китайского и других языков. По данным карточки, модель имеет 27 миллиардов плотных параметров; дополнительные сведения о полной архитектуре и размере контекстного окна не указаны. Основное отличие версии Balanced — удаление отказов при сохранении исходных датасетов и возможностей базовой модели. Она предназначена для агентного программирования, использования инструментов, рассуждений, творческого письма и ролевых сценариев. По заявлению автора, модель может подробно рассуждать перед ответом, иногда добавляя краткое предупреждение или контекст безопасности, после чего предоставляет полный ответ. Также заявлена повышенная стабильность генерации в длительных цепочках вызовов инструментов. Эти характеристики основаны на описании автора и приведённом внутреннем тесте с 0 отказов из 465 запросов, поэтому их следует интерпретировать как заявленные, а не независимые результаты. Доступны различные варианты квантования GGUF, включая пользовательские K_P-кванты, оптимизированные с помощью importance matrix; размеры файлов составляют примерно от 10 до 32 ГБ, а для мультимодальности предоставляется отдельный mmproj-файл. Модель совместима с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Рекомендуемый автором вариант Q4_K_P требует около 18 ГБ, а Q8_K_P — около 32 ГБ. Отсутствие встроенных ограничений может быть преимуществом для исследовательских, программных и творческих задач, но одновременно повышает риск небезопасных или нежелательных ответов, поэтому требуется контроль применения. Лицензия — Apache-2.0.

Это конверсия в формат MLX модели DavidAU/Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored, выполненная с помощью mlx-vlm 0.6.10. Модель основана на плотной мультимодальной архитектуре Qwen3.5 с 40 млрд параметров и принимает текст и изображения, формируя текстовые ответы. Она предназначена для диалогов, рассуждений, программирования и творческого письма; в метаданных также заявлены режимы работы с изображениями. Модель поддерживает английский и китайский языки. Репозиторий содержит веса safetensors в формате MLX и распространяется по лицензии Apache-2.0. Подробности обучения и дополнительные ограничения в карточке этой конверсии не описаны; за характеристиками исходной модели следует обращаться к её карточке.

aquaduck/Qwen3.8-27B-GGUF — это квантизированная GGUF-версия причинной языковой модели Qwen3.8-27B, разработанной командой Qwen и Alibaba Cloud. Репозиторий Aquaduck предоставляет полную модель в формате Q4_K_M, полученную из unsloth/Qwen3.8-27B-GGUF, а также дополнительные шардированные файлы для поэтапной или многосетевой загрузки. Aquaduck отвечает за хостинг и упаковку, а не за обучение или отдельную тонкую настройку модели. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые с GGUF инструменты, такие как llama.cpp, а также использование в приложении Aquaduck. Она поддерживает мультиязычную работу в соответствии с возможностями базовой Qwen3.8-27B и рассчитана на контекст до 262 144 токенов. Архитектура включает около 27,8 млрд параметров, 64 слоя, GQA с 24 Q- и 4 KV-головами и размер скрытого состояния 5120. Ключевые преимущества — существенно меньший размер по сравнению с полноточными вариантами, совместимость с экосистемой GGUF и возможность staged loading с помощью двух шардов, разделённых после слоя 32. Полный файл подходит для обычного одноузлового запуска, тогда как отдельные шардированные файлы не являются самостоятельными моделями и предназначены только для Aquaduck Arc. Квантизация Q4_K_M может снижать качество по сравнению с версиями в более высокой точности; отдельные оценки для этого размещённого варианта не проводились, поэтому его ограничения, риски и смещения соответствуют базовой модели Qwen3.8-27B. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели. При использовании необходимо соблюдать требования лицензии и рекомендации базовой карточки модели, включая корректный chat template и режимы thinking или instruct.

AtomicChat/Qwen3.8-27B-GGUF — это квантизированная версия модели Qwen3.8-27B, разработанной Qwen и подготовленной командой AtomicChat. Модель распространяется в формате GGUF для запуска через llama.cpp и предназначена для локального использования в диалоговых, текстовых и мультимодальных сценариях. Модель поддерживает работу с текстом и изображениями; для обработки изображений требуется отдельный vision-проектор mmproj-Qwen3.8-27B-F16.gguf или BF16-вариант. В репозитории доступны варианты квантизации размером примерно от 8,5 до 28,9 ГБ. AtomicChat использует собственную importance matrix и публикует измерения отклонения квантизированных версий от исходных весов. Указано наличие multi-token prediction head, совместимого с llama.cpp. Контекстная ёмкость в README явно не приведена, но указано потребление около 256 КБ attention cache на токен, что существенно влияет на требования к видеопамяти при длинном контексте. Сильные стороны модели — возможность локального запуска, широкий выбор уровней квантизации, поддержка изображений и оптимизация для llama.cpp. Качество зависит от выбранного файла: более компактные варианты требуют меньше памяти, но сильнее отклоняются от исходной модели и чаще ошибаются в предсказаниях. Для мультимодальной работы необходим дополнительный проектор, а для корректного анализа изображений рекомендуется не менее 1024 image tokens. Лицензия в предоставленных данных не указана.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная fine-tune и merge-сборка модели Qwen3.8 с 27 млрд параметров, опубликованная trinityomni на основе версии DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В разработке использовались методы Cold Fusion и Fable Fusion, а также инструменты Unsloth. Репозиторий содержит обычные и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит, ориентированные на запуск на потребительском оборудовании. Модель предназначена для общих задач, рассуждений, программирования, creative writing, художественной прозы, ролевых сценариев и работы с различными жанрами текста. В карточке указаны английский и китайский языки; также заявлен pipeline image-text-to-text, однако подробности о поддерживаемых визуальных входах и мультимодальной архитектуре не приведены. Размер контекста не указан. Основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении детализации ответа, включая поддержку трёх режимов мышления и MTP. По утверждению авторов карточки, модель превосходит базовую Qwen3.8-27B и ряд других моделей в семи ключевых бенчмарках, а результаты ARC-C и ARC-E составляют соответственно до 735 и 880 для 8-битной версии; эти показатели являются заявленными разработчиками и не сопровождаются независимой верификацией в README. Сильными сторонами считаются скорость, сниженное избыточное рассуждение, навыки программирования и генерации творческого текста. Ограничения включают отсутствие данных о контекстном окне, системных требованиях, точных характеристиках мультимодальности и независимых тестах; из-за uncensored и abliterated-настройки модель может чаще выдавать небезопасный или нежелательный контент. Указанная лицензия — Apache-2.0.

MiawTeam/Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций модели Qwen3.8-27B, разработанный MiawTeam на базе Qwen/Qwen3.8-27B и предназначенный для запуска через llama.cpp. Модель ориентирована на генерацию текста, включая диалоги, работу с английским и китайским языками, а при наличии vision tower в базовой модели — обработку изображений. Доступны варианты IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, а также конфигурации со встроенной или отдельной MTP-головой для speculative decoding. Модель использует архитектуру Qwen3_5ForConditionalGeneration с 64 слоями, словарём из 248 320 токенов, контекстом до 262 144 токенов и одной MTP-головой. Веса были обработаны методом abliteration с помощью Heretic для существенного снижения отказов без дополнительного обучения и без использования новых данных; при этом базовые возможности, обучающие данные и архитектура заявлены как сохранённые. MTP-тензоры проверены после конвертации и квантизации, а imatrix рассчитана непосредственно из F16-весов. Сильные стороны — большой контекст, поддержка текстовой и потенциально визуальной модальности, несколько уровней квантизации и возможность ускорения генерации за счёт speculative decoding. Ограничения включают зависимость производительности от оборудования и настроек draft decoding, потенциальное небольшое снижение acceptance rate для черновой головы, а также то, что снижение отказов не является полным. В сравнении с базовой моделью среднее изменение результатов на указанных 0-shot тестах составило около −0,5 и находится в пределах или около стандартной ошибки измерений. Распространение указано по лицензии Apache-2.0.

gangwayhaste/qwen38-fcf-gguf — это набор GGUF-квантов мног stages fine-tune модели Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX, разработанной на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README указано, что обучение и сборка выполнялись с использованием Unsloth, методов COLD FUSION и Fable Fusion, а также датасетов DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Лицензия — Apache-2.0; заявленные языки — английский и китайский. Модель предназначена для общего решения задач, рассуждений, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Основной акцент сделан на подробность ответов, сокращение избыточного внутреннего рассуждения и ускорение генерации, включая режимы MTP. Доступны обычные и MTP-кванты, в том числе варианты с точностью 4 и 8 бит и использованием imatrix. Размер базовой модели — 27B параметров. README также обозначает поддержку сценария image-text-to-text, однако подробности о фактических мультимодальных возможностях и максимальном размере контекста не приведены. К заявленным сильным сторонам относятся улучшенные по сравнению с базовой Qwen3.8-27B показатели на ряде бенчмарков, высокая детализация, способности к рассуждению, кодированию и художественной генерации, а также возможность запуска квантованных вариантов на потребительском оборудовании. Ограничения включают отсутствие независимой верификации заявленных результатов в предоставленных данных, неопределённость характеристик отдельных квантов и отсутствие точных требований к аппаратному обеспечению. Модель помечена как uncensored и abliterated, поэтому её поведение и уровень защитных ограничений могут отличаться от исходной модели.

Qwen3.8-Flash-CIRU-STRIX-IU4 — специализированная сборка семейства Qwen3.8-Flash-Next, разработанная проектом CIRU при участии Peonist.ai и pwilkin. Модель распространяется в формате GGUF и предназначена для локального запуска на компьютерах с AMD Strix Halo, в частности с 128 ГБ памяти и графикой Radeon на базе Ryzen AI Max 395. Она ориентирована на генерацию текста с длинным контекстом, работу через OpenAI-совместимый API, веб-интерфейс и обработку изображений. Сборка использует архитектуру mixture-of-experts, поддержку vision и image-text-to-text, а также MTP для speculative decoding. В неё включены оптимизации предварительной обработки, кэширования, внимания и GPU-исполнения под AMD ROCm; заявлена возможность работы с контекстами до 256K и отдельные измерения для предварительной обработки до 512K токенов. README не указывает точное число параметров, перечень языков и полную спецификацию модальностей. Сильные стороны модели — высокая скорость локального инференса на совместимых системах, эффективная обработка длинного контекста, поддержка изображений и интеграция с локальными серверными сценариями. Ограничения включают жёсткую зависимость от специализированного CIRU runtime и подходящей AMD-платформы: стандартные llama.cpp и размещённый inference Hugging Face не поддерживаются. Для vision и MTP требуется версия runtime с исправлением v4.4.1; приведённые в README показатели производительности относятся к конкретной тестовой конфигурации и не гарантируют такие же результаты на другом оборудовании. Лицензия указана как other с названием qwen-community-1.0; ссылка ведёт на файл LICENSE. Условия использования следует уточнять по этому файлу.

Qwen3.8-Flash-Next-ROCmFP4-STRIX-GGUF — это квантованная версия базовой модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем kingjones777. Модель предназначена для генерации текста, включая рассуждения, формирование JSON, программирование и суммирование длинных документов. Формат GGUF ориентирован на запуск через llama.cpp и совместимые среды. Модель использует архитектуру qwen4exp и типы тензоров ROCmFP4. Она оптимизирована прежде всего для AMD Ryzen AI Max+ 395, Strix Halo и GPU gfx1151 с ROCm, включая работу на интегрированной Radeon 8060S с общей памятью. В README указано, что размер модели составляет около 98 GiB, а работа с контекстом проверялась вплоть до 128K токенов. Доступна поддержка speculative decoding через дополнительную MTP-голову, однако измерения относятся к другим вариантам семейства и не гарантируют такой же прирост для этой сборки. Сильными сторонами являются возможность запуска очень крупной модели на системе с унифицированной памятью, поддержка длинного контекста и потенциальное ускорение генерации с MTP. Ограничения включают низкую пропускную способность общей памяти по сравнению с дискретными GPU, необходимость специальной ветки ROCmFPX с поддержкой qwen4exp и ROCmFP4, а также применения патчей перед сборкой; стандартный llama.cpp этот файл не загружает. Языки модели в предоставленных данных не указаны. Лицензия обозначена как other с названием qwen-community-1.0.

Sonclo/Qwen3.8-sonclo — многоэтапная fine-tune-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель создана для широкого спектра задач: решения задач и рассуждений, программирования, творческого письма, генерации художественных текстов и ролевых сценариев. В README также заявлена специализация на снижении избыточного рассуждения и расхода токенов при сохранении подробности ответов. Модель относится к семейству Qwen3.8 и имеет 27B параметров. Указаны три режима рассуждения, поддержка английского и китайского языков, а также варианты GGUF-квантизации с обычными и MTP-квантами, включая 4- и 8-битные версии. Обучение описано как multi-stage fine-tune и multi-stage merge с применением методов COLD FUSION, Fable Fusion и Unsloth. Репозиторий помечен как image-text-to-text, однако подробности о фактической поддержке изображений и максимальном размере контекста в README не приведены. К заявленным сильным сторонам относятся высокая скорость генерации, сокращение объёма рассуждений, развитые способности к программированию, решению задач и творческой генерации, а также возможность запуска на потребительском оборудовании благодаря GGUF-квантам. Ограничения включают отсутствие независимого подтверждения заявленных бенчмарков в представленном README, возможные риски и особенности uncensored/abliterated-настройки и неизвестные требования к аппаратным ресурсам для конкретных вариантов. Модель распространяется по лицензии Apache-2.0.

QuantFactory/Skywork-o1-Open-Llama-3.1-8B-GGUF — квантизированная версия модели Skywork o1 Open-Llama-3.1-8B, созданная с использованием llama.cpp. Исходную модель разработала команда Skywork компании Kunlun Inc.; она основана на Meta-Llama-3.1-8B-Instruct и дообучена на данных в стиле «медленного мышления». Версия в этом репозитории предназначена для запуска в формате GGUF с использованием совместимых инструментов llama.cpp. Модель ориентирована на диалоги, генерацию текста и решение задач, требующих рассуждений: математики, программирования, логики, здравого смысла, этических решений и распознавания логических ловушек. Заявленные особенности включают планирование, пошаговое рассуждение, саморефлексию и самопроверку. В разработке применялись многоагентная генерация данных, непрерывное предварительное обучение, supervised fine-tuning, обучение с подкреплением с использованием process reward model и алгоритмы поиска рассуждений. Известный размер исходной модели — 8B параметров; архитектура и набор поддерживаемых языков в предоставленных данных отдельно не указаны. Квантизация может снизить требования к ресурсам и упростить локальный запуск, но конкретные варианты квантизации и их влияние на качество зависят от файлов, доступных в репозитории. Модель ориентирована прежде всего на задачи рассуждений, однако заявленные преимущества основаны на описании разработчиков, а ограничения и результаты независимых проверок не приведены. Лицензия указана как other, поэтому точные условия использования необходимо уточнять в исходном репозитории и сопутствующих материалах.

XVERSE-7B-Chat — многоязычная диалоговая модель, созданная компанией Shenzhen Yuanxiang Technology как версия XVERSE-7B, согласованная для общения. Это плотная decoder-only Transformer-модель с примерно 6,9 млрд параметров; она принимает текст и генерирует текст. Заявленная длина контекста — 8192 токена. Модель предназначена для многошаговых диалогов, ответов на вопросы и составления кратких пересказов. В обучающих данных представлены более 40 языков, включая китайский, английский, русский и испанский; в README отдельно отмечены сильные результаты на китайском и английском. Используются BPE-токенизация и словарь размером 100 534 токена. Модель может выдавать неточные, предвзятые или оскорбительные ответы, поэтому результаты следует проверять, а перед внедрением — оценить безопасность для конкретного сценария. Лицензия Apache-2.0.

andreasmartin выпустил конверсию текстовой модели Apertus 1.5 8B в формате MLX с точностью FP16. Модель основана на andreasmartin/apertus-v1.5-8b-text и предназначена для генерации текста и диалогового взаимодействия; карточка базовой модели также указывает сценарии RAG, рассуждений и вызова инструментов. Архитектура — плотная причинная языковая модель ApertusForCausalLM с 10,3 млрд параметров и контекстом до 262 144 токенов. Модель рассчитана на многоязычное текстовое взаимодействие. Репозиторий распространяется по лицензии Apache-2.0. В README описана конверсия в MLX с помощью mlx-lm 0.31.2; метаданные указывают формат safetensors.

Arcle V1 — мультимодальная базовая модель на 5,84 млрд параметров, разработанная Абхинавом Анандом в ArcleIntelligence. Она объединяет языковое и математическое рассуждение, обработку изображений и документов, распознавание и синтез речи, понимание видео и генерацию изображений в одной модели с единым проходом. В основе — гибридная архитектура Mamba-2 и причинного self-attention; заявленное окно контекста составляет 2 097 152 токена, из которых проверено 131 072. Метаданные указывают языки английский, хинди, испанский и французский. Модель рассчитана на локальный офлайн-запуск; README приводит требования около 24 ГБ видеопамяти или 24 ГБ системной памяти при запуске на CPU. Модель предназначена для диалогов, математических и общеобразовательных вопросов, работы с изображениями и документами, транскрипции и синтеза речи, понимания видео, а также генерации изображений. В README приведены результаты по распознаванию английской речи и извлечению текста из документов; при этом качество на сканах и многостраничных макетах заметно ограничено, а генератор изображений создаёт абстрактные композиции вместо точного изображения заданных объектов. Репозиторий распространяется по лицензии Apache-2.0.

Breeze-7B-Instruct-v1_0 — диалоговая языковая модель MediaTek Research для ответов на вопросы, многоходового чата, суммаризации и сценариев RAG. Это дообученная версия Breeze-7B-Base-v1_0, которая, в свою очередь, основана на Mistral-7B; модель использует архитектуру Mistral с плотным декодером и содержит 7,2 млрд параметров. Модель рассчитана прежде всего на традиционный китайский язык, а также поддерживает английский. Словарь расширен с 32 тыс. до 62 тыс. токенов для лучшей поддержки традиционного китайского; в карточке заявлено ускорение инференса на этом языке. Контекст модели — 32 768 токенов по метаданным каталога; README описывает версию с контекстом 8 тыс. токенов. Эти значения различаются между источниками. Модель работает с текстом и предназначена для использования как готовый чат-ассистент. В README отмечено, что для диалогов нет специальной обработки вредоносных запросов. Модель опубликована под лицензией Apache-2.0; её качество и скорость могут зависеть от сценария и условий запуска.

Buddhi-128K-Chat — диалоговая языковая модель общего назначения от AI Planet, дообученная на базе Mistral-7B-Instruct-v0.2. Она предназначена для генерации ответов, работы с длинными документами и продолжительными диалогами: в частности, для суммаризации, генерации текста и ответов на вопросы по большому контексту. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстным окном до 131 072 токенов. Для расширения контекста применена техника YaRN; README также описывает Dynamic-YARN. Модель принимает текст и генерирует текст, поддерживает английский язык и использует шаблон инструкций Mistral с маркерами [INST] и [/INST]. Для запуска с контекстом 128K в карточке указано требование около 80 ГБ VRAM, а для 32K — около 40 ГБ; рекомендуется A100. Модель опубликована в формате safetensors под лицензией Apache-2.0. Приведённые в README результаты бенчмарков не являются независимой оценкой, а обработка максимального контекста требует значительных ресурсов.

murtsu/capnstop — чат-модель на базе Granite 4.2 с системным промптом, который задаёт ограниченный бюджет усилий для ответа. Она предназначена для диалога и генерации текста, когда важны краткость и проверяемость: модель разбивает задачу на подцели, проверяет их по критериям завершения и останавливается после подтверждения результата. Если не может проверить часть ответа, она должна сообщить об этом и оценить уверенность, а при затруднении — попробовать другой подход вместо повторения одной попытки. Подход Budgeted Reward Allocation Марко Тахванайнена реализован промптингом, а не дообучением. Модель основана на Granite 4.2 и распространяется в формате GGUF для запуска через Ollama. В README указаны параметры генерации: temperature 0.6, top_p 0.95 и repeat_penalty 1.15. Лицензия — Apache 2.0.

Citaman/command-r-35-layer — объединённая модель для генерации текста, созданная Citaman методом SLERP с помощью mergekit на основе Citaman/command-r-36-layer. В конфигурации объединены два среза слоёв одной базовой модели; метаданные относят репозиторий к семейству Cohere и архитектуре CohereForCausalLM с плотными весами. Модель содержит 30,9 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для диалоговой генерации текста и интерфейсов вызова инструментов. Веса доступны в формате safetensors для библиотеки Transformers. В README и метаданных не описаны поддерживаемые естественные языки, качество на конкретных задачах или результаты оценки. Условия лицензирования в предоставленных данных не приведены.

DeepSeek-V2-Lite-Chat-GGUF — это квантизированная GGUF-версия диалоговой модели DeepSeek-V2-Lite-Chat, разработанной DeepSeek-ai и подготовленной компанией Second State Inc. Модель предназначена для локального запуска и генерации ответов в формате чат-ассистента; в README также указана совместимость с LlamaEdge версии 0.12.3 и выше. Модель поддерживает контекст размером до 128 000 токенов и использует шаблон запросов deepseek-chat-2. В репозитории доступны варианты квантования от Q2_K до Q8_0, а также f16, с размером файлов примерно от 6,43 до 31,4 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень низкой потерей качества. Более сильное квантование уменьшает требования к памяти, но может заметно снижать качество ответов. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках и модальностях, поэтому эти характеристики нельзя уточнить. Модель распространяется по лицензии DeepSeek с обозначением other; ссылка на условия лицензии приведена в исходном описании.

Rarri/DeepSeek-V4-Flash-0731-NVFP4 — это квантизированная версия модели DeepSeek-V4-Flash-0731, разработанная на основе релиза deepseek-ai и подготовленная с помощью NVIDIA Model-Optimizer. Модель предназначена для генерации текста и высокопроизводительного инференса с использованием vLLM или TensorRT-LLM на GPU NVIDIA Blackwell с поддержкой NVFP4. Она ориентирована на сценарии, где важны высокая скорость декодирования и использование длинного контекста, включая speculative decoding с механизмом DSpark. Модель содержит 304 млрд параметров, 43 слоя MoE, 256 маршрутизируемых экспертов в каждом MoE-слое и три слоя multi-token prediction (MTP). Все маршрутизируемые экспертные веса, включая MTP-экспертов, переведены в NVFP4 W4A4; attention, роутеры, shared experts, embeddings и lm_head сохранены в исходном формате FP8. Поддерживается контекст до 131K токенов. Экспертные веса преобразованы без потери значений исходных MXFP4-весов, а speculative decoding в тестовой конфигурации примерно удваивал скорость однопоточного декодирования, достигая типичных 200–240 токенов в секунду. Ключевые ограничения — зависимость от GPU Blackwell (sm_120+), специализированных сборок инференсных фреймворков и гибридной FP8/NVFP4-MoE-разметки. Рекомендуемые параметры speculative decoding включают жадное семплирование, пять draft-токенов и bf16 draft head; вероятностное семплирование может приводить к некорректному выводу в NVFP4-пути. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

dots.ocr-1.5 — мультимодальная модель OCR и разбора документов, разработанная rednote-hilab (Xiaohongshu); эта копия загружена на Hugging Face с ModelScope. Архитектура DotsOCRForCausalLM сочетает зрительный энкодер и языковую модель. В метаданных указано 1,5 млрд параметров, а README описывает исходную версию как модель на 3 млрд параметров; эти сведения расходятся. Модель принимает изображения и текстовые запросы и выдаёт распознанный текст, структурированные данные или SVG. Заявлены контекст до 131 072 токенов и поддержка английского, китайского и ряда других языков, включая русский. Модель предназначена для распознавания текста и структуры документов, включая таблицы, формулы и блоки разметки, а также для ответов на вопросы по изображениям документов и диаграмм. Она также может разбирать снимки веб-страниц и сцены с текстом, находить объекты и считать их, преобразовывать диаграммы и другие графические материалы в SVG. README приводит результаты на тестах DocVQA, ChartQA и OCRBench и отмечает сильные результаты в многоязычном разборе документов. По README, сложные таблицы и формулы остаются трудными для компактной версии модели, преобразование изображений в SVG требует улучшения, а в отдельных случаях возникают ошибки разбора. Для запуска с Transformers требуется включить доверенную загрузку пользовательского кода; в vLLM необходимо передавать содержимое запроса в строковом формате. Лицензия в метаданных обозначена как other, поэтому конкретные условия следует сверить с исходным проектом rednote-hilab.

G9v3-39A5B-GGUF — это неофициальная конверсия предварительной языковой модели G9v3-39A5B, разработанной AI9Stars, в формат GGUF. Конверсию выполнил linuxid10t для запуска через llama.cpp. Модель предназначена для генерации текста, диалогов, задач с длинным контекстом и сценариев с вызовом инструментов; заявлена поддержка режимов Think и No-Think. Поддерживаемые языки — английский и китайский. Модель использует архитектуру G9v3ForCausalLM со sparse Mixture-of-Experts: около 39 млрд параметров всего и примерно 5 млрд активных на один токен. Она содержит 38 слоёв, включая один плотный и 37 MoE-слоёв, 320 маршрутизируемых экспертов, из которых выбираются 32, а также одного общего эксперта. Максимальный контекст составляет 131 072 токена. Доступны варианты BF16, Q8_0, Q4_K_M и IQ4_XS; квантованные версии уменьшают требования к памяти, но могут снижать точность по сравнению с BF16. Основное ограничение — модель является preview-релизом, а поддержка архитектуры G9v3 ещё не включена в стандартные сборки llama.cpp: требуется специальная ветка с поддержкой G9v3. Рекомендуемый объём оперативной памяти составляет не менее 96 ГиБ для BF16, 48 ГиБ для Q8_0 и 32 ГиБ для Q4_K_M или IQ4_XS, причём фактические требования зависят от размера контекста и настроек запуска. Репозиторий распространяется по лицензии Apache-2.0.

Gemma4-12B Uncensored-HauhauCS-1M-GGUF — GGUF-версия модели, опубликованная satgeze и основанная на HauhauCS/Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced, которая, в свою очередь, использует 12-миллиардный dense-чекпойнт Google с квантизацией QAT. Модель предназначена для генерации текста, работы с длинными документами и задач, требующих извлечения информации из больших контекстов. Также заявлена поддержка изображений благодаря vision tower и ускоренного вывода через MTP speculative decoding; запуск ориентирован на llama.cpp и Ollama. Ключевая характеристика модели — контекстное окно до 1 048 576 токенов, увеличенное в четыре раза относительно исходных 262 144 токенов. В README сообщается о сертифицированном needle-in-a-haystack извлечении на всём диапазоне от 64K до 1M токенов, а также о сохранении цепочек многошагового поиска на полном миллионном контексте. MTP ускоряет генерацию примерно на 51% в заявленных тестах, до 218,4 токена в секунду на RTX 5090. Языки явно не указаны. Сильные стороны модели — очень длинный контекст, точное позиционное извлечение и поддержка изображений. Ограничения проявляются в задачах, требующих агрегации данных по всему окну: на больших длинах качество снижается, а режим thinking, по данным README, существенно ухудшает результаты и может зацикливаться или исчерпывать лимит генерации. Для длинноконтекстного извлечения рекомендуется отключать thinking. Модель описана как uncensored и распространяется по лицензии Gemma; конкретные условия лицензии следует учитывать при использовании.

GigaChat-20B-A3B-instruct-v1.5-bf16 — диалоговая модель семейства GigaChat, основанная на ai-sage/GigaChat-20B-A3B-instruct-v1.5. В репозитории указана архитектура DeepseekForCausalLM, формат весов PyTorch bf16 и размер 3,1 млрд параметров. Модель рассчитана на диалог и генерацию текста, поддерживает контекст до 131 072 токенов и русский и английский языки. В этой версии улучшен alignment: в README сообщается о росте результатов Arena Hard RU с 20,8 до 29,6 и Arena General с 41,1 до 49,1; остальные приведённые метрики остались на прежнем уровне. Подходит для ведения диалога и генерации ответов на запросы. Для запуска README приводит пример использования с Transformers, PyTorch и Accelerate; также доступны варианты весов fp32 и int8, а отдельно — сборки GGUF и Ollama. Модель дообучена на базовой версии GigaChat-20B-A3B-instruct-v1.5 и распространяется по лицензии MIT. Результаты метрик отражают сведения из карточки модели; независимые оценки качества и ограничения в предоставленном README не описаны.

Карточка модели khaojai-it/GLM-4.6V-Flash на Hugging Face совпадает с карточкой unsloth/GLM-4.6V-Flash, поэтому описание составлено по ней. GLM-4.6V-Flash — компактная мультимодальная модель семейства GLM-V от Z.ai, представленная в карточке Unsloth с исправлениями шаблона диалога. Это версия на 9 млрд параметров, рассчитанная на локальное развёртывание и приложения с низкой задержкой; архитектура GLM4V использует условную генерацию текста по изображениям. Модель принимает изображения и текст, понимает документы, страницы с таблицами, диаграммами и иллюстрациями, а также снимки экранов. Контекстное окно семейства заявлено до 128 тысяч токенов. Модель подходит для визуальных диалогов, анализа документов, интерпретации интерфейсов и генерации кода HTML/CSS по скриншотам. Поддерживает вызов инструментов и смешанную генерацию текста и визуального контента. По README, её сильная сторона — мультимодальные сценарии; чисто текстовые ответы слабее, а на сложных запросах возможны чрезмерные рассуждения и повторы. Также отмечены ошибки при подсчёте объектов и распознавании конкретных людей. Репозиторий распространяется по лицензии MIT.

Etherll выпустила слитую диалоговую модель на архитектуре Llama 3.1 с плотной структурой и 7,5 млрд параметров. Она создана методом TIES с помощью mergekit на основе Etherll/Herplete-LLM-Llama-3.1-8b и rombodawg/Meta-Llama-3.1-8B-reuploaded. Модель предназначена для генерации текста по инструкциям, диалогов и сценариев с вызовом инструментов. Репозиторий использует Transformers и формат safetensors; заявленная длина контекста составляет 131 072 токена. Карточка не сообщает о специализированной предметной области или отдельной языковой специализации. Условия лицензии в предоставленных данных не указаны.