I.11Классификация, ранжирование и сопоставление

Bagel 7B v0.4 — текстовая диалоговая модель, созданная Джоном Дёрбином путём дообучения Mistral 7B. Это версия до DPO-обучения; автор отмечает её пригодность для ролевых диалогов. Модель рассчитана на генерацию ответов, выполнение инструкций, вопросы и ответы по контексту, творческое письмо, программирование, математику и вызов функций. В README описан широкий набор обучающих данных: от чатов и ролевых сценариев до задач по Python, SQL, естественным наукам и пониманию прочитанного. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она принимает и генерирует текст. Для диалогов предусмотрены форматы Vicuna, Llama 2, Alpaca и ChatML; автор указывает, что примеры обучения преобразовывались в несколько форматов. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии Apache 2.0. Обучающие данные охватывают несколько языков, но карточка не уточняет полный список языков, на которых качество проверено. Как и другие языковые модели, Bagel может выдавать неверные ответы; README также предупреждает о токсичных примерах в обучающих данных. Версия v0.4 не включает описанное в карточке DPO-дообучение.

DeepSeek-R1-0528-GGUF — это набор квантизированных версий языковой модели DeepSeek-R1-0528, разработанной deepseek-ai и преобразованной в формат GGUF участником bartowski с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_XS и другие, размером примерно от 215 до 713 ГБ для представленных файлов. Квантизация выполнена с применением imatrix и специального набора данных; для повышения производительности использовались изменения из соответствующего PR для llama.cpp. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста исходной модели. Сильной стороной набора является широкий выбор уровней квантизации: более высокие варианты обеспечивают качество, близкое к исходному, а более компактные позволяют экономить оперативную память. Ограничения связаны с очень большими требованиями к дисковому пространству и памяти, а также с неизбежным снижением качества у низкобитных вариантов. Для работы следует использовать указанный формат промпта с маркерами DeepSeek-R1. Модель распространяется по лицензии MIT.

meituan/DeepSeek-R1-Block-INT8 — это версия DeepSeek-R1 с блочным квантованием весов в формат INT8. Исходная модель DeepSeek-R1 разработана DeepSeek AI и предназначена для задач рассуждения, включая математику, программирование и другие сложные интеллектуальные сценарии. Она обучалась с применением крупномасштабного reinforcement learning и демонстрирует способности к самопроверке, рефлексии и построению длинных цепочек рассуждений. В данной версии веса исходного BF16-чекпойнта преобразуются в INT8 с использованием блочных масштабов для блоков размером 128×128. README не содержит точных сведений о числе параметров, архитектуре, поддерживаемых языках, размере контекста и мультимодальности. Для инференса предусмотрена интеграция с SGLang и требуется конфигурация с динамическим квантованием активаций и методом blockwise_int8. По приведённым результатам на A100 квантованная версия показала 95,8% на GSM8K и 87,1% на MMLU, а пропускная способность составила 4450,02 запросов в секунду против 3342,29 у BF16-варианта, что соответствует приросту до 33%; при этом заявлена отсутствие потери точности. Ограничения связаны с необходимостью совместимого оборудования и программного стека, а также с тем, что результаты приведены для конкретной конфигурации. Лицензия — MIT.

Это GGUF-сборка Gemma-4-26B-A4B-it, подготовленная ironbcc для запуска через llama.cpp и LM Studio. Комплект включает основную 26-миллиардную MoE-модель Gemma-4 и вспомогательную модель-драфтер gemma-4-26B-A4B-it-assistant от Google для speculative decoding. Основная модель использует 128 экспертов; доступны варианты драфтера с квантованием Q2_K, Q4_K_M, Q8_0 и F16. Указан английский язык, а модель предназначена для генерации текста, диалогов, рассуждений и программного использования через совместимые серверы и клиенты. Максимальный контекст Gemma-4 заявлен как 256K токенов, однако конкретные возможности зависят от runtime и настроек. Ключевое преимущество сборки — ускорение генерации за счёт Multi-Token Prediction и speculative decoding: в приведённом тесте на Apple M5 Max скорость достигала примерно 1,55 раза относительно режима без MTP, а при отключении reasoning — до 143,2 токена в секунду. Q2_K-драфтер рекомендован как наиболее быстрый и показал наивысшую долю принятых токенов в тесте. Ограничения включают необходимость специальной ветки llama.cpp с поддержкой Gemma-4 MTP; на момент подготовки README эта функциональность ещё не была включена в основную ветку, а LM Studio требовал соответствующего runtime. Включение thinking повышает качество рассуждений, но снижает скорость. Основной файл имеет размер около 26 ГБ, поэтому запуск требует значительного объёма памяти; для полного контекста 256K README указывает примерно 31 ГБ RSS при старте с дальнейшим ростом потребления. Распространение заявлено по лицензии Apache-2.0, при этом для доступа к Gemma на Hugging Face необходимо принять условия использования Google.

Mungert/GigaChat3-10B-A1.8B-GGUF — GGUF-квантизированная версия диалоговой модели GigaChat3-10B-A1.8B, созданная на основе ai-sage/GigaChat3-10B-A1.8B-bf16 с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с русским и английским языками, а также другими языками, добавленными в обучающий корпус. Модель использует архитектуру Mixture-of-Experts (MoE) с 10 млрд общих и 1,8 млрд активных параметров, Multi-head Latent Attention (MLA) для снижения требований к памяти и Multi-Token Prediction (MTP) для ускорения генерации. Обучение проводилось на 20 трлн токенов, включая данные по книгам, академическим материалам, программированию и математике, а также около 5,5 трлн токенов синтетических данных. Длина контекста в представленном описании не указана. GGUF-версия ориентирована на эффективный локальный инференс в экосистеме llama.cpp. В сборке применяется квантизация с выборочным повышением точности отдельных важных слоёв, что может улучшать качество при заданном уровне квантизации, но увеличивает размер файла. Ограничениями являются возможная потеря точности по сравнению с исходной bf16-версией и отсутствие в карточке подробностей о конкретных вариантах квантизации, размере файлов и измерениях качества именно этой GGUF-сборки. Лицензия — MIT.

HelixLM — плотная авторегрессионная языковая модель семейства Helix, опубликованная dusersad12 в формате PyTorch для генерации текста. В карточке заявлены улучшения рассуждений и вывода, включая задачи по математике, программированию и логике; модель также позиционируется как чат-ассистент с поддержкой вызова функций. README сообщает об улучшении результата на AIME 2026 до 89,3% и увеличении среднего расхода токенов на вопрос с 14 тыс. до 27 тыс., а также о снижении галлюцинаций. Для локального запуска и взаимодействия предлагаются отдельные кодовый репозиторий, веб-интерфейс и API; для генерации рекомендована температура 0,6. Репозиторий распространяется по лицензии Apache-2.0. Размер модели, длина контекста и поддерживаемые языки в предоставленных данных не указаны.

HyperNova-60B-2602-GGUF — GGUF-версия модели HyperNova 60B 2602 от Multiverse Computing. Модель создана на основе openai/gpt-oss-120b и сжата технологией CompactifAI: в ней 60 млрд параметров вместо 117 млрд у базовой модели, что снижает требования к памяти. Это instruction-tuned языковая модель с архитектурой MoE, предназначенная для генерации текста, рассуждений и задач разработчика. Модель поддерживает диалог, вызов инструментов по схемам в стиле OpenAI и структурированный вывод. Её можно применять для генерации и анализа кода, чат-ботов, RAG-систем и агентных сценариев, где модель вызывает внешние инструменты. В README рекомендуют формат сообщений Harmony, используемый базовой моделью. Основной язык — английский; другие языки формально не оценивались, и качество на них может различаться. Сжатие может влиять на отдельные способности, а вызов инструментов зависит от корректных схем и настройки инструментов; поведение не гарантирует полного совпадения с базовой моделью. Лицензия — Apache-2.0.

Hyper-Yi-1.5-9B — объединённая плотная авторегрессионная языковая модель семейства Yi-1.5, опубликованная bunnycore. Она создана методом Model Stock с помощью mergekit на основе 01-ai/Yi-1.5-9B и объединяет веса четырёх вариантов Yi-1.5-9B, включая модели для инструкций и чата. Модель содержит 8,6 млрд параметров, построена на архитектуре LlamaForCausalLM и рассчитана на генерацию текста с контекстом до 4096 токенов. Модель предназначена для диалогов и генерации ответов по текстовым инструкциям; базовая модель также ориентирована на рассуждения, математику и программирование. В репозитории указаны веса safetensors и библиотека Transformers. Сведения о лицензии и языках в предоставленных источниках отсутствуют.

Instruct-12B — языковая модель, созданная hakurei дообучением EleutherAI Pythia 12B deduped на наборе Open-Instruct v1. Она предназначена для следования инструкциям пользователя и задумана как открытая альтернатива моделям серии InstructGPT; автор отмечает, что формат запросов похож на GPT-3.5. Модель построена на архитектуре GPT-NeoX, содержит 15,4 млрд параметров и рассчитана на контекст до 2048 токенов. Модель принимает текст и генерирует текст. Карточка указывает на поддержку английского языка и возможностей следования инструкциям и генерации кода. Для запросов рекомендуется разделять инструкцию, ввод пользователя и ответ двойными переводами строки. Модель распространяется под лицензией Apache-2.0.

IFM/K2-Horizon-0.9B — компактная плотная авторегрессионная языковая модель семейства K2-Horizon, разработанная IFM. Модель содержит около 924,5 млн параметров и предназначена для диалоговой генерации текста и рассуждений; её оценивали на задачах математики, программирования, естественных наук и использования инструментов. В README описано обучение с дистилляцией от нескольких специализированных моделей-учителей, а также расширение контекста с помощью YaRN RoPE scaling. README указывает контекст до 131 072 токенов, тогда как метаданные каталога сообщают native context 8 192 токена; для развёртывания длинного контекста нужны соответствующие настройки RoPE. Модель ориентирована на английский и китайский языки. Веса доступны в формате Safetensors, лицензия — Apache-2.0. Карточка описывает возможность использования для инференса, оценки и последующего дообучения; для работы с инструментами требуется совместимая серверная конфигурация.

Jhjhugv/kanana-1.5-8b-instruct-2505-Persona-Merged — дообученная диалоговая модель, созданная Jhjhugv на основе kakaocorp/kanana-1.5-8b-instruct-2505. Это плотная Llama-модель с 7,5 млрд параметров, рассчитанная на генерацию текста и чат; метаданные также указывают интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов. Модель принимает текст и выдаёт текст. Базовая модель предназначена для генерации текста, программирования, математики и работы с инструментами; карточка этой производной версии не уточняет специализацию дообучения. В README указано использование Unsloth и библиотеки TRL при обучении. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или конкретных ограничений, поэтому пригодность для специализированных задач следует проверять на собственных примерах.

Apollo Raines представляет эту модель как вариант Llama 3.1 8B Instruct, изменённый инструментом jBlaze для усиления следования контексту и аналитического рассуждения. По README, изменения внесены непосредственно в веса без дополнительного обучения; метаданные каталога классифицируют происхождение как дообучение. Модель предназначена для диалоговой генерации текста и анализа предоставленных материалов с опорой на контекст. Она может отвечать на вопросы, объяснять вычисления и писать код; карточка также указывает интерфейс вызова инструментов. Модель использует плотную архитектуру LlamaForCausalLM, распространяется в формате safetensors, имеет 7,5 млрд параметров по метаданным и контекст до 131 072 токенов. В карточке указан английский язык; базовая Llama 3.1 8B Instruct описана как многоязычная. Автор предупреждает, что публичная версия намеренно ослаблена и выпущена как демонстрация возможностей jBlaze. Лицензия — llama3.1.

Neurona 8B Beta — предварительная экспериментальная языковая модель на основе Meta Llama 3, разработанная Икером Гарсией. Это плотная авторегрессионная модель с 7,5 млрд параметров, дообученная для диалоговых ответов преимущественно на испанском языке. Она принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. Модель обучалась на смешанном наборе англоязычных и испаноязычных данных, включая инструкции, диалоги, перевод, суммаризацию, вопросы и ответы, код и function calling. В README перечислены возможные сценарии применения: ответы на вопросы, суммаризация, помощь с кодом, RAG и вызов функций. Для работы используются Transformers и формат safetensors. Автор отмечает, что это первая итерация для отладки обучающих скриптов и инфраструктуры, а модель ещё разрабатывается и не является финальной версией. Лицензия — Llama 3; применимость её условий следует оценивать вместе с условиями базовой модели.

RLHFlow/LLaMA3-SFT-v2 — диалоговый чекпойнт с контролируемой тонкой настройкой (SFT) от команды RLHFlow, подготовленный для проекта Online-RLHF и описанный в работе «RLHF Workflow: From Reward Modeling to Online RLHF». Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 8192 токенов; веса представлены в safetensors и предназначены для использования через Transformers. Модель дообучена от meta-llama/Meta-Llama-3-8B на RLHFlow-SFT-Dataset-ver2 в течение двух эпох. Она предназначена для диалоговой генерации текста и может использоваться для ответов на вопросы, общих рассуждений и задач вроде математических задач и генерации кода. В README приведены результаты академических бенчмарков, включая GSM8K, MATH, HumanEval и MMLU; это результаты оценки, а не гарантия качества для конкретного применения. Карточка не описывает поддержку конкретных естественных языков и не приводит лицензию чекпойнта, поэтому такие сведения здесь не утверждаются. Как и другие языковые модели, она может выдавать фактически неверные ответы; показатели бенчмарков не заменяют проверку на целевых данных.

Llama-Deepsync-1B — дообученная PrithivMLmods модель на базе Meta Llama 3.2 1B Instruct для генерации текста и диалогов. Это авторегрессионный трансформер семейства Llama с плотной архитектурой, примерно 1,2 млрд параметров и контекстом до 131 072 токенов. Репозиторий содержит веса SafeTensors; модель можно запускать через Transformers. Модель предназначена для ответов на сложные запросы с логическим рассуждением, решения задач по математике, генерации и объяснения кода, творческого письма и создания структурированных ответов, включая JSON. В README также заявлена поддержка многоязычного общения и генерации длинных текстов. Метаданные указывают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; более широкое заявление README о 29 языках не подкреплено их перечнем в метаданных. Лицензия — CreativeML OpenRAIL-M.

FriendliAI публикует вариант Meta Llama 3 70B Instruct с весами в формате FP8 для более эффективного инференса при сохранении высокой точности. В основе — авторегрессионный трансформер Llama с плотной архитектурой и Grouped-Query Attention; модель содержит 69,5 млрд параметров и принимает текст, генерируя текст и код. Контекст — до 8192 токенов. Модель предназначена для диалоговых ассистентов и генерации текста на английском языке, в том числе для коммерческих и исследовательских сценариев. FP8 поддерживается на GPU NVIDIA Ada, Hopper и Blackwell. Модель разработана Meta, а FP8-версия опубликована FriendliAI; веса представлены в safetensors. Использование регулируется специальной коммерческой лицензией Meta Llama 3.

Meta Llama 3 70B Instruct — диалоговая большая языковая модель, разработанная Meta и настроенная для общения с пользователем. Она принимает текст и генерирует текст, включая программный код, поэтому подходит для чат-ассистентов и других сценариев генерации на естественном языке. Модель построена на авторегрессионной архитектуре Transformer с Grouped-Query Attention и содержит 70 млрд параметров. Инструктивная версия использует supervised fine-tuning и обучение с подкреплением на основе обратной связи от людей. В карточке указано назначение прежде всего для английского языка; модель статична и обучена на офлайн-данных. Модель можно применять в коммерческих и исследовательских проектах на условиях лицензии Llama 3 Community License и соответствующей политики допустимого использования. Она не предназначена для применения на языках, отличных от английского, хотя разработчики могут дообучать её для других языков при соблюдении условий лицензии. Для конкретного приложения потребуются собственные меры безопасности; ответы модели могут содержать ошибки или небезопасные сведения.

Карточка модели tuneai/Meta-Llama-3-8B на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия принимает текст и генерирует текст, в том числе код. Семейство Llama 3 включает предварительно обученные и дообученные для инструкций модели; карточка этой модели описывает базовый предварительно обученный чекпойнт, пригодный для адаптации к различным задачам генерации текста. Модель предназначена для коммерческого и исследовательского применения на английском языке. Её можно использовать как основу для генерации текста и кода, а после адаптации — для диалоговых сценариев. Выпущена в апреле 2024 года и распространяется по пользовательской коммерческой лицензии Meta Llama 3. Карточка не приводит для этого репозитория конкретную длину контекста; сама модель статична и обучена на офлайн-данных. Для развёртывания приложений разработчикам следует самостоятельно подбирать меры безопасности под свой сценарий.

Mistral-Nemo-Base-2407 — предварительно обученная генеративная языковая модель, совместно разработанная Mistral AI и NVIDIA. Это плотный трансформер Mistral с 12,1 млрд параметров, 40 слоями, группированным вниманием к запросам (GQA) и словарём примерно на 128 тысяч токенов. Модель выпущена в июле 2024 года и распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации под конкретные задачи. Она обучалась на многоязычных данных и коде; заявленное окно контекста составляет 128 тысяч токенов. Среди указанных языков — английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Для запуска рекомендован mistral-inference; README также описывает использование через Transformers. Карточка приводит результаты на общих и многоязычных бенчмарках и рекомендует для генерации температуру 0,3. Поскольку это базовая предварительно обученная модель, она не имеет механизмов модерации и не является специализированной инструкционной версией; поведение в прикладных сценариях может требовать дополнительной настройки. Для неё доступна также отдельная instruct-версия.

NeoHorse-1-4B-Max-Heretic-Uncensored-TURBO — разговорная текстовая модель от prithivMLmods на базе TokenRhythm/NeoHorse-1-4B, дообученной на Qwen3.5-4B. Вариант обработан инструментом Heretic для снижения числа отказов; модель рассчитана на диалоги, выполнение инструкций, использование инструментов, программирование и рассуждения. Модель имеет плотную архитектуру Qwen3.5 и около 3,4 млрд параметров, поддерживает контекст до 262 144 токенов и английский язык. В репозитории доступны веса Safetensors и сборки GGUF разных уровней квантования для запуска через Transformers или llama.cpp. Лицензия — Apache 2.0. Карточка помечает модель как экспериментальную: возможны артефакты, поэтому ответы следует проверять. Снижение числа отказов также означает, что модель может отвечать на запросы, которые обычно отклоняются.

Карточка модели armandosds/Olmo-3-7B-Think на Hugging Face совпадает с карточкой allenai/Olmo-3-7B-Think, поэтому описание составлено по ней. Olmo-3-7B-Think — авторегрессионная плотная Transformer-модель для генерации текста, разработанная Allen Institute for AI (Ai2). Это вариант семейства Olmo 3 с упором на пошаговое рассуждение; карточка указывает обучение на данных Dolma 3 и последующее дообучение на наборах Dolci. В метаданных базовой моделью названа allenai/Olmo-3-7B-Think-DPO, а связь указана как finetune. Модель предназначена для диалогов и задач, где полезны развёрнутые рассуждения, в частности математики, программирования, ответов на общие вопросы и следования инструкциям. Она содержит 6,9 млрд параметров, поддерживает контекст до 65 536 токенов и рассчитана прежде всего на английский язык. Для запуска используется библиотека Transformers; веса опубликованы в формате safetensors. Модель может давать неточные ответы и без дополнительной фильтрации способна генерировать вредный или чувствительный контент. Результаты следует проверять, а при практическом использовании учитывать возможную предвзятость. Лицензия — Apache 2.0; карточка также ссылается на рекомендации Ai2 по ответственному использованию.

Weyaxi/OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp — объединённая языковая модель, созданная разработчиком Weyaxi с помощью mergekit и метода slerp на основе OpenHermes-2.5-neural-chat-v3-3-Slerp и OpenChat 3.5-1210. Веса построены на архитектуре MistralForCausalLM; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Базовая модель OpenChat 3.5-1210 ориентирована на программирование, математические рассуждения и общие текстовые задачи; README не приводит отдельной оценки качества или подробных сценариев для данного слияния. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Как и другие языковые генеративные модели, она может выдавать неточные или непроверенные ответы; особые ограничения именно этой версии в карточке не описаны.

Это сборка Phi-3 Mini-128K-Instruct в формате GGUF F16, опубликованная ProfessorF (Nick V. Flor); исходную модель разработала Microsoft. Это компактная языковая модель с 3,8 млрд параметров, рассчитанная на генерацию текста и диалог по инструкциям. Файлы GGUF предназначены для локального запуска через llama.cpp и совместимые интерфейсы, в том числе в условиях ограниченных вычислительных ресурсов и требований к низкой задержке. Модель рассчитана прежде всего на английский язык. Она подходит для ответов на вопросы, генерации текста, программирования, математики и логических рассуждений; окно контекста исходной модели составляет до 128 тыс. токенов. README описывает обучение и настройку исходной модели с помощью supervised fine-tuning и direct preference optimization. Репозиторий предоставляет 16-битные GGUF-файлы; лицензия — MIT. Модель может ошибаться, а её пригодность для конкретного применения требует проверки, особенно в сценариях с высокими рисками. Заявления о сильных результатах на бенчмарках относятся к описанию исходной модели Microsoft и не являются независимой оценкой этой сборки.

Project Norn V20 — экспериментальная текстовая генеративная модель Osakra Research, построенная на базе empero-ai/Qwen3.8-9B-Distill. В карточке описана архитектура NornV20ForCausalLM: чередование причинного внимания с окном 512 токенов и рекуррентной памяти Titans-HRR; заявлены обработка контекста до 32 768 токенов и реализация на Transformers. Репозиторий содержит веса Safetensors и GGUF F16, а метаданные указывают 3,7 млрд параметров. Модель предназначена для диалогов, рассуждений, математики, программирования и агентных сценариев. Карточка заявляет показатели внутренних бенчмарков, но приведённые описания и результаты не дают независимой проверки этих утверждений. В README упоминается работа с изображениями через Ollama и внешний mmproj, однако метаданные подтверждают только текстовую генерацию, поэтому мультимодальную поддержку нельзя считать установленной. Лицензия — Apache-2.0.

bunnycore/Qwen-2.5-7B-Stock-Deep-Bespoke — языковая модель на 7,1 млрд параметров, созданная методом Model Stock с помощью mergekit. В качестве базовой использована deepseek-ai/DeepSeek-R1-Distill-Qwen-7B; в слияние также вошли Bespoke-Stratos-7B, Qwen2.5-7B-Instruct-abliterated-v3 с LoRA-адаптером bunnycore/Qwen-2.5-7b-rp-lora и Qwen2.5-7B-nerd-uncensored-v1.0. Модель использует архитектуру Qwen2ForCausalLM, работает с текстом и предназначена для диалогов и генерации текста. Контекстное окно составляет до 131 072 токенов. Базовая модель ориентирована на многошаговые рассуждения, включая математику и программирование; объединённые модели также указывают на сценарии ролевого и менее ограниченного диалога. Репозиторий содержит веса в формате Safetensors, библиотека — Transformers. Лицензионные условия в предоставленных данных не указаны.

Это квантованная публикация модели Qwen3.8-27B-Brainwaves-WFH-BF16 в формате GGUF от mradermacher. В репозитории приведены варианты квантования и дополнительные файлы mmproj для мультимодального использования; метаданные указывают размер формата BF16 и поддержку чата и следования инструкциям. Модель предназначена для генерации текста в диалогах и выполнения инструкций. Метаданные также описывают её как многоязычную и отмечают задачи программирования, математики, рассуждений и творческого письма. Для GGUF указана лицензия Apache-2.0. README не содержит сведений о точном контекстном окне или конкретных ограничениях качества.

wbydc/Qwen3.8-27B-TFCF-HU-CODER-GGUF — это GGUF-квантизированная мультиязычная fine-tune-модель на базе Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU от DavidAU. Репозиторий содержит обычные и MTP-квантизации, включая варианты с 4- и 8-битной точностью. В README указаны английский и китайский языки, а также лицензия Apache-2.0. Модель опубликована пользователем или организацией wbydc; обучение выполнялось с использованием Unsloth и многоэтапных методов Cold Fusion и Fable Fusion. Модель предназначена для широкого спектра сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов, ролевых диалогов и других универсальных применений. Основной акцент сделан на подробных ответах, сокращении объёма внутренних рассуждений и повышении скорости генерации, в том числе в режиме MTP. README заявляет о заметном снижении числа thinking-токенов по сравнению с исходной версией Qwen3.8 и о высоких результатах на ARC-C и ARC-E, однако эти показатели приведены автором модели и не сопровождаются независимой методикой проверки. Ключевое ограничение — отсутствие в README точных сведений о длине контекста, поддерживаемых режимах мультимодальности и фактической архитектуре vision-компонентов, несмотря на тег image-text-to-text. Также заявлены uncensored-поведение и возможность генерации контента разных жанров, поэтому пригодность модели для чувствительных сценариев требует самостоятельной проверки. Для использования необходимо выбрать совместимый GGUF-квант и учитывать требования к памяти, зависящие от его разрядности.

Youssofal/Qwen3.8-Flash-Next-MTPLX-Bare-Speed — это квантованная версия Qwen/Qwen3.8-Flash-Next, подготовленная для запуска через MTPLX на компьютерах Apple Silicon. Модель предназначена для локального диалога, генерации текста и программного кода, включая сценарии работы с OpenCode и другими инструментами разработки. В основе лежит архитектура поколения Qwen4 с гибридной MoE-структурой GDN, Qwen Sparse Attention, памятью n-gram на 51 млрд параметров и встроенной головой multi-token prediction. Заявлены поддержка текста и сохранённая vision tower, контекст до 262 144 токенов; языки в README не указаны. Все MoE-эксперты и плотные матрицы выполнены в плоской 4-битной квантизации с группами по 64 веса, а отдельные компоненты, включая нормализации, параметры GDN, индексатор QSA и MTP-голову, сохраняются в 16-битном формате. Размер загрузки составляет 106,3 ГБ, из которых около 32 ГБ занимает таблица n-gram, потоково читаемая с SSD; резидентные веса занимают примерно 74 ГБ плюс рабочая память. Рекомендуется Apple Silicon Mac с unified memory от 96 ГБ. Адаптивная speculative decoding с глубиной до 3 токенов, по данным README, обеспечивает ускорение до 1,6 раза относительно обычной авторегрессивной генерации, сохраняя распределение вывода при поддерживаемых настройках sampling. Сильные стороны модели — высокая скорость локального запуска, большой контекст и оптимизация под Apple Silicon. Ограничения включают значительные требования к памяти, зависимость от MTPLX и macOS на Apple Silicon, а также компромисс качества, связанный с плоской 4-битной квантизацией; README указывает, что версия Optimized Speed обеспечивает более высокое качество и работает немного медленнее. Лицензия указана как qwen-community-1.0; точные условия следует уточнять в файле LICENSE и документации базовой модели.

BennyDaBall/Qwen3.8-Uncensored-NVFP4-MTP — это квантизированная GGUF-версия модели JonathanColetti/Qwen3.8-27B-Uncensored, подготовленная BennyDaBall. Модель основана на 27B-сборке Qwen3.8 с удалёнными ограничениями фильтрации, предназначена для генерации текста и диалогов, а также поддерживает работу с изображениями и видеокадрами при подключении vision-проектора. Заявлены английский и китайский языки. Контекстное окно составляет 262 144 токена. Основная часть трансформера из 64 слоёв сжата в формат NVFP4, а lm_head, embeddings, MTP-голова и vision-проектор сохранены в BF16. Встроенная MTP-голова позволяет использовать speculative decoding без отдельной draft-модели, что может существенно ускорять генерацию, особенно на структурированных данных, коде и повторяющихся фрагментах. Модель ориентирована прежде всего на видеокарты NVIDIA Blackwell, включая RTX 5090, RTX 5080 и RTX PRO; для работы требуются свежие версии llama.cpp с поддержкой NVFP4 и архитектуры qwen35 либо LM Studio 2.29.1 и новее. Производительность и эффективность спекулятивного декодирования зависят от оборудования и характера запроса, а для мультимодального режима требуется около 1 ГиБ дополнительной видеопамяти на vision-проектор. Распространяется по лицензии Apache-2.0.

unsloth/QwQ-32B-GGUF — это GGUF-версия языковой модели QwQ-32B, разработанная Unsloth на базе Qwen/QwQ-32B. Модель предназначена для генерации текста в диалоговых сценариях и задач, требующих рассуждений, включая программирование и решение сложных инструкций. Она работает с текстом и ориентирована на английский язык. Модель содержит 32 млрд параметров и использует выборочную динамическую квантизацию Unsloth Dynamic v2.0, призванную сохранить более высокую точность по сравнению со стандартными вариантами 4-битной квантизации. Доступны форматы GGUF, включая Q4_K_M, совместимые, в частности, с llama.cpp и Ollama. README не указывает точную архитектуру, максимальный размер контекста и перечень поддерживаемых языков помимо английского. Сильными сторонами являются локальный запуск в распространённых inference-инструментах, уменьшенный объём хранения и вычислительных ресурсов благодаря квантизации, а также улучшения Unsloth и исправления, связанные с бесконечной генерацией. Для стабильной работы могут потребоваться специальные параметры семплирования; квантизированная версия потенциально уступает полной модели по точности. Модель распространяется по лицензии Apache-2.0.