II.4Отладка, тестирование и качество ПО

INTELLECT-3-GGUF — набор квантизированных версий языковой модели INTELLECT-3, разработанной Prime Intellect. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, задач рассуждения, агентских сценариев и применений, связанных с reinforcement learning и verifiers; запуск возможен через LM Studio, llama.cpp и другие проекты на базе llama.cpp. В репозитории представлены файлы в формате GGUF с уровнями квантизации от Q8_0 до вариантов Q2 и IQ. Размеры файлов составляют примерно от 44,71 до 113,61 ГБ. Более высокие уровни, включая Q6_K, Q5_K_M и Q5_K_S, обеспечивают близкое к исходному качество, тогда как низкие уровни экономят память за счёт качества. README также отмечает архитектурную принадлежность к mixture-of-experts и поддержку английского языка, однако точные размеры модели, параметры контекста и полный набор модальностей не указаны. Модель ориентирована на локальный запуск и предлагает выбор между качеством, требованиями к памяти и скоростью инференса. Ограничениями являются значительный объём файлов даже для компактных вариантов и потенциальное снижение качества при использовании низких уровней квантизации. Распространение выполняется по лицензии MIT; базовая модель указана как PrimeIntellect/INTELLECT-3.

unsloth/Qwen2.5-VL-7B-Instruct-bnb-4bit — квантизированная 4-битная версия instruction-tuned мультимодальной модели Qwen2.5-VL-7B-Instruct, разработанной командой Qwen. Модель предназначена для задач image-text-to-text: анализа изображений и видео, ответов на вопросы по визуальному содержимому, распознавания текста, документов, таблиц, графиков, схем и макетов, а также формирования структурированных данных. Она также ориентирована на визуальную локализацию объектов, работу с интерфейсами компьютеров и мобильных устройств и агентские сценарии с использованием инструментов. Модель объединяет vision encoder и языковую модель, имеет около 7 миллиардов параметров и поддерживает динамическое разрешение изображений и частоту кадров видео. Она способна анализировать длинные видео длительностью более часа и указывать релевантные временные сегменты. Архитектурные улучшения включают оконное внимание в ViT, а также использование SwiGLU и RMSNorm в vision encoder. В README явно указан английский язык; поддержка других языков для этой версии не уточняется. Сильные стороны модели — обработка документов и OCR, понимание диаграмм и таблиц, визуальное рассуждение, локализация объектов с помощью bounding boxes или точек и выдача стабильных JSON-структур. Ограничения включают высокие требования к вычислительным ресурсам по сравнению с компактными моделями, зависимость видеообработки от корректной поддержки инструментов и отсутствие в README подробных данных о точном размере контекста и системных требованиях для 4-битной сборки. Модель распространяется по лицензии Apache-2.0.

txn545/Qwen3.5-35B-A3B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.5-35B-A3B, разработанной Alibaba. Квантизация выполнена с помощью NVIDIA Model Optimizer до формата NVFP4; модель предназначена для текстового ввода и генерации текста. Модель рассчитана на разработчиков, которым нужны готовые к развертыванию решения для AI Agent-систем, чат-ботов, RAG-систем и других приложений на базе ИИ. Она использует трансформерную архитектуру Qwen3.5-35B-A3B с 35 млрд параметров, из которых активируется 3 млрд, и поддерживает контекст до 262K токенов. Указанные сценарии инференса ориентированы на NVIDIA GPU, в частности архитектуру Blackwell, Linux и движок SGLang. Ключевое преимущество модели — предварительная NVFP4-квантизация весов и активаций линейных операторов в MoE-блоках, что предназначено для эффективного инференса на совместимом оборудовании. Ограничения включают зависимость от NVIDIA GPU и совместимой версии SGLang, а также возможные неточности, токсичные ответы и усиление предубеждений, унаследованных от обучающих данных базовой модели. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование с учетом требований базовой модели.

Qwen3.6-27B-V1.1-FF711-Darker-Hero-GAIN-H2.0 — дообученная Дэвидом AU мультимодальная модель семейства Qwen3.5 с плотной архитектурой на 27 млрд параметров, основанная на Qwen/Qwen3.6-27B. Карточка описывает метод GAIN, также называемый COLD FUSION: динамическая настройка обучения на уровне отдельных примеров. Модель предназначена для диалогов, рассуждений, программирования, творческого письма и работы с изображениями; метаданные указывают поддержку vision и интерфейс вызова инструментов. Автор заявляет о сокращённых блоках рассуждений, следовании инструкциям и сохранении производительности при низкой точности, однако приведённые в README сравнения и показатели являются заявлениями автора. В примерах упоминается режим без фильтрации и контент NSFW; модель может выдавать ненормативную лексику и материалы для взрослой аудитории. Карточка также сообщает о снижении частоты отказов. Указана лицензия Apache-2.0. В метаданных перечислены английский и китайский языки; других языков карточка не подтверждает.

Youssofal/Qwen3.8-27B-MTPLX-Bare-Speed — это 4-битная quantized-версия Qwen/Qwen3.8-27B, подготовленная разработчиками MTPLX для быстрого локального запуска на компьютерах Mac с Apple Silicon. Модель предназначена для диалогов, генерации текста и кода, а также сценариев локального использования через MTPLX Mac app или командный интерфейс. Сохранённая встроенная голова multi-token prediction позволяет применять speculative decoding и ускорять генерацию примерно в два-три раза по сравнению с обычным декодированием. Модель использует MLX-пакет с 4-битными матрицами весов и группами по 64 значения; свёрточные ядра GDN, параметры рекуррентного состояния, нормализации и MTP-head хранятся в 16-битном формате. Глубина MTP составляет 3, контекстное окно — 262 144 токена, размер загрузки — 16 ГБ, пиковое потребление unified memory — около 17 ГБ. Указанные настройки sampling: temperature 1.0, top-p 0.95 и top-k 20; поддерживаются уровни reasoning effort xhigh, medium и low. Модель рассчитана на MacBook Pro, MacBook Air, Mac mini и Mac Studio с чипами M1–M5 и минимум 32 ГБ unified memory. Главное преимущество — высокая скорость генерации, особенно в коротких чат-сценариях: на MacBook Pro с M5 Max заявлено до 65,2 токена в секунду для coding-задачи и 32,4 токена в секунду при длинной генерации. Компромисс — более грубая 4-битная quantization: авторы README прямо указывают на более низкое качество и меньшую скорость на длинных задачах программирования по сравнению с вариантом Optimized Speed. Для M1 и M2 рекомендуется отдельная FP16-сборка. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это GGUF-квантизированная версия многоэтапно дообученной и объединённой модели на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель подготовлена с использованием Unsloth, методов COLD FUSION и Fable Fusion 711; репозиторий konizquants содержит обычные и MTP-варианты Neo-CODER MAX DI-MATRIX GGUF-квантов. Заявлены языки английский и китайский, а также лицензия Apache 2.0. Точные сведения о длине контекста и полном устройстве архитектуры в README не указаны. Модель предназначена для общих задач, рассуждений и решения задач, программирования, генерации творческих текстов, художественной прозы, ролевых сценариев и работы с различными жанрами. Ключевая цель дообучения — сократить объём токенов рассуждения и ускорить генерацию при сохранении подробности и качества ответов; автор заявляет сокращение от примерно половины до одной десятой по сравнению с обычной Qwen3.8. Доступны варианты с 4- и 8-битным представлением, включая MTP, что ориентировано на запуск на потребительском оборудовании. README приводит высокие результаты внутренних и заявленных бенчмарков ARC, но не содержит независимой верификации. Ограничениями являются зависимость качества и скорости от конкретного кванта и оборудования, отсутствие подробных данных о контекстном окне и модальностях, а также заявленная «uncensored» направленность, из-за которой модель может требовать дополнительного контроля безопасности.

jondurbin/spicyboros-7b-2.2 — экспериментальная текстовая модель семейства Llama, разработанная Jondurbin и дообученная преимущественно на синтетических данных Airoboros 2.2. Она предназначена для выполнения инструкций и генерации ответов: модель подходит для вопросов и ответов по заданному контексту, написания текстов, викторин, задач на выбор ответа, программирования и генерации структурированных ответов. Заявленный контекст — 4096 токенов; модель содержит 6,6 млрд параметров и распространяется в формате PyTorch. В обучении использованы данные для более свободных, в том числе ролевых и чувствительных ответов; автор предупреждает, что модель может генерировать грубый, вредный и откровенный контент. Это англоязычная по представленным примерам и карточке модель общего назначения, с акцентом на пары инструкций и ответов, а не на непринуждённый диалог. Для инференса следует учитывать формат промпта с метками USER и ASSISTANT и задавать критерии остановки, чтобы модель не продолжала ответ за пользователя. Лицензия — Llama 2; перед использованием необходимо соблюдать её условия.

0pen — экспериментальная разговорная модель от 0penAGI для совместного инженерного проектирования и решения задач. Это LoRA-дообучение Google Gemma 4 E4B с 4 млрд параметров; опубликованная версия представлена в формате GGUF Q4_K_M и рассчитана на запуск через llama.cpp или Ollama. По карточке, обучение проводилось на 4-битной MLX-конверсии базовой модели с адаптацией 12 из 34 слоёв. Модель предназначена для диалогов, в которых нужно быстро предложить практичный план, спроектировать систему или алгоритм и учитывать заданные ограничения. Разработчик отмечает естественные ответы на русском и работу на русском и английском языках; сильная сторона модели — прямой инженерный стиль в ответ на конкретные проектные запросы. Лицензия — MIT. Это исследовательский предварительный выпуск, не рекомендованный автором для использования в производстве без дополнительной проверки. В длинных цепочках рассуждений модель может отклоняться от темы или повторяться, быть излишне краткой в творческих задачах и предпочитать упрощённые инженерные решения глубокому теоретическому разбору.

mrfakename/Apriel-5B-Instruct-llamafied — приблизительная конверсия Apriel-5B-Instruct в формат Llama, опубликованная пользователем mrfakename. Это плотная языковая модель с архитектурой LlamaForCausalLM примерно на 4,6 млрд параметров, предназначенная для генерации текста и диалогов. Модель принимает текст и выдаёт текст; заявленный контекст — 16 384 токена. Формат Llama упрощает запуск и совместимость с популярными средствами дообучения; для использования в Transformers не требуется trust_remote_code. Модель подходит для ведения диалога, выполнения инструкций, рассуждений, помощи с кодом и генерации текста — эти сценарии унаследованы от исходной Apriel-5B-Instruct. В карточке базовая модель описана как англоязычная; поддержка других языков отдельно не подтверждена. Файлы представлены в формате safetensors. Лицензия — MIT, как у исходной модели.

BASH-Coder-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral-7B-Instruct-v0.2 и BASH-Coder-Mistral-7B методом SLERP. Она предназначена для генерации текста и ответов на инструкции с дополнительным уклоном в задачи программирования и работу с Bash. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; заявленная длина контекста — до 32 768 токенов. Модель принимает текст и генерирует текст. Карточка не сообщает о специальных языках программирования, наборах данных или результатах оценки качества, поэтому преимущество в кодировании нельзя считать подтверждённым для конкретных языков или сценариев. Модель распространяется под лицензией Apache-2.0.

murtsu/capnstop — чат-модель на базе Granite 4.2 с системным промптом, который задаёт ограниченный бюджет усилий для ответа. Она предназначена для диалога и генерации текста, когда важны краткость и проверяемость: модель разбивает задачу на подцели, проверяет их по критериям завершения и останавливается после подтверждения результата. Если не может проверить часть ответа, она должна сообщить об этом и оценить уверенность, а при затруднении — попробовать другой подход вместо повторения одной попытки. Подход Budgeted Reward Allocation Марко Тахванайнена реализован промптингом, а не дообучением. Модель основана на Granite 4.2 и распространяется в формате GGUF для запуска через Ollama. В README указаны параметры генерации: temperature 0.6, top_p 0.95 и repeat_penalty 1.15. Лицензия — Apache 2.0.

DeepSeek-V4-Flash-GGUF — набор GGUF-квантизаций базовой модели DeepSeek-V4-Flash, разработанной deepseek-ai и опубликованной пользователем teamblobfish. Модель предназначена для генерации текста, агентских сценариев и задач с вызовом инструментов, включая рабочие процессы наподобие Claude Code. Варианты представлены с разной степенью квантизации: от Q8_0 размером около 282 ГиБ до IQ1_S-XL размером около 57 ГиБ. Рекомендуемый вариант Q4_K_M-XL занимает около 163 ГиБ и сочетает 4-битное тело модели с хранением ряда важных тензоров в Q8_0; заявлена поддержка tool calling. GGUF-файлы используют архитектуру DeepSeek V4 с MoE-компонентами и специализированными операциями, включая compressor decode, hyperconnection, lightning indexer, FP8 KV simulation и NextN heads. Для запуска требуется форк llama.cpp с поддержкой V4; стандартный upstream llama.cpp не подходит. Поддерживаются Apple Silicon через Metal, NVIDIA CUDA на совместимых GPU и CPU. ROCm, Vulkan и Metal на AMD не поддерживают необходимые V4-ядра. В репозитории также присутствуют встроенный DSML chat template и калибровочные данные для некоторых вариантов. Проект находится в статусе WIP. Квантизации позволяют уменьшить требования к диску и памяти, однако качество и производительность зависят от выбранного варианта и оборудования; для некоторых старых GPU CUDA-путь FP8 не был проверен в работе. Модель и материалы репозитория распространяются по лицензии MIT.

Dolphin-2.6-mistral-7b-dpo-laser-GGUF — это набор квантованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser. Модель относится к семейству Mistral и предназначена для генерации текста, включая диалоговые и инструкционные сценарии. В метаданных указан размер 7B, текстовая модальность и поддержка английского языка. Обучение исходной модели связано с наборами данных Dolphin, Airoboros, Dolphin Coder, OpenHermes, Magicoder и Capybara; также указано DPO дообучение в названии модели. Главная особенность этой версии — поставка в GGUF с вариантами квантования от 2 до 8 бит, что позволяет запускать модель локально с различными компромиссами между размером файлов, требованиями к памяти и качеством генерации. Формат поддерживается llama.cpp и совместимыми приложениями и библиотеками для локального запуска. К ограничениям относятся возможная потеря качества при низкобитном квантовании, отсутствие заявленных характеристик контекстного окна и подробных результатов оценки, а также отсутствие подтверждения поддержки других языков помимо английского. Модель распространяется по лицензии Apache 2.0.

GPT-OSS-Nano — компактная языковая модель с архитектурой Mixture of Experts, опубликованная пользователем squ11z1 и дообученная на базе openai/gpt-oss-20b. Модель ориентирована на пошаговое рассуждение и решение задач, включая математические вопросы, объяснение концепций и общий текстовый диалог. Для обучения использовались QLoRA, Unsloth и TRL на наборе Superior-Reasoning с примерами цепочек рассуждений. Модель содержит около 9 млрд параметров, из которых примерно 3 млрд активируются на каждом проходе. Архитектура включает 12 экспертов, 4 активных эксперта на токен, 24 слоя, скрытое измерение 2880, 64 attention heads с 8 KV-головами и GQA. Заявлена поддержка контекста до 131 072 токенов и точности BFloat16. Основной язык — английский; качество на других языках может варьироваться. Доступны форматы GGUF для локального запуска через llama.cpp и Ollama, а также интеграция с Transformers и 4-битной загрузкой через Unsloth. Сильными сторонами модели являются относительно экономичное разреженное вычисление, большой контекст и специализация на пошаговом reasoning. Ограничения включают преимущественно англоязычную оптимизацию, риск правдоподобных ошибок и непригодность для критически важных сценариев без дополнительной проверки. Модель распространяется по лицензии Apache-2.0.

GPT-OSS-Swallow 20B SFT v0.1 — двуязычная языковая модель Tokyo Tech, созданная на основе GPT-OSS с продолжением предобучения и supervised fine-tuning. Она предназначена для диалога на японском и английском языках, перевода между ними, а также задач по математике, программированию и естественным наукам. Модель имеет MoE-архитектуру семейства GPT-OSS, около 1,6 млрд параметров по метаданным и поддерживает контекст до 131 072 токенов; карточка рекомендует ограничивать контекст 32 768 токенами или меньше, поскольку длинный контекст отдельно не обучался и не оценивался. Для инференса разработчики рекомендуют vLLM. Модель улучшает владение японским языком и перевод, сохраняя заявленные способности GPT-OSS в математике и коде. Разработчики отмечают, что модель находится на раннем этапе разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Использование инструментов и управление уровнем рассуждений не проходили специального обучения, поэтому эти сценарии не валидированы. Лицензия — Apache 2.0.

Keural-Cortex-8B — разговорная модель компании MKD Co., Ltd. из Пусана, Южная Корея, созданная на базе Qwen/Qwen3-8B-Base. Модель содержит 7,6 млрд параметров и поддерживает контекст до 65 536 токенов. Её обучали на корейских текстах, расширяли контекст с помощью YaRN и дообучали на инструкциях и диалогах; веса опубликованы в формате safetensors. Модель предназначена для общения на корейском и английском языках, ответов на вопросы, помощи с текстами и кодом, а также для сценариев с вызовом инструментов. По результатам сравнительных тестов из карточки она достигает заявленной цели по корейскому языку, а по английскому сопоставима с Qwen3-8B-Instruct. При этом у неё есть заметная слабость на тестах с выбором фиксированного ответа, включая задачи на логическое следование и ответы «да/нет»; результаты таких тестов могут недооценивать способность модели отвечать на те же вопросы в обычном диалоге. Модель может уверенно выдавать неверные сведения и не проходила оптимизацию предпочтений. Разработчик не рекомендует использовать её для медицинских, юридических и финансовых советов, сведений о самой MKD Co., Ltd., сценариев, требующих thinking mode, или цепочек зависимых вызовов инструментов без внешнего управления порядком. Лицензия — Apache-2.0.

MuXodious/Muse-Glimmer-30B-SOMPOA-heresy — дообученная версия мультимодальной Muse-Glimmer-30B, созданная автором репозитория с помощью движка Heretic и абляции SOMPOA. Это плотный трансформер для условной генерации, содержащий около 29,6 млрд параметров; принимает текст и изображения и предназначен для диалоговой работы с визуальными данными. Модель подходит для анализа изображений, документов, диаграмм и снимков экрана в диалоге, а также для многошаговых агентных задач и вызова инструментов. В README описаны результаты снижения числа отказов, однако автор отмечает, что модель всё ещё ссылается на свои правила и требует дальнейшей проверки и перенастройки; приведённые результаты не гарантируют надёжность в реальных сценариях. Языки и длина контекста этой версии отдельно не описаны. Модель распространяется по лицензии Apache 2.0. README предупреждает о возможных неточных, предвзятых или нежелательных ответах и рекомендует проводить собственную оценку безопасности для целевого применения. Аудиоввод и аудиовывод не поддерживаются.

win10/phi-3.5-Sakura-Yuzu — объединённая языковая модель, созданная автором репозитория методом TIES с помощью mergekit на основе Microsoft Phi-3.5-mini-instruct. В слияние также вошли win10/Phi-3.5-mini-instruct-24-9-29, FreedomIntelligence/Apollo2-3.8B, ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1 и AXCXEPT/Borea-Phi-3.5-mini-Instruct-Common. Модель семейства Phi-3 — плотная авторегрессионная языковая модель примерно на 3,7 млрд параметров. Она предназначена для диалогов и генерации текста; каталог указывает поддержку чата. Репозиторий использует формат safetensors, библиотеку Transformers и контекст длиной 4096 токенов. Базовая модель описана как многоязычная и рассчитанная на инструкции, рассуждения и код, однако сведения о конкретных языках и специализированной адаптации этого слияния не приведены. Лицензия в предоставленных данных не указана.

bunnycore/Qwen2.5-1.5B-Matrix — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода Model Stock. В качестве базовой использована Qwen/Qwen2.5-1.5B-Instruct; в объединение также вошли варианты Qwen2.5 для математики и программирования и Josiefied-Qwen2.5-1.5B-Instruct-abliterated-v1. Модель имеет архитектуру Qwen2ForCausalLM и 1,5 млрд параметров. Модель предназначена для генерации текста и диалогов, включая ответы на инструкции, задачи по программированию и математике. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Модель доступна в формате safetensors для библиотеки Transformers. Сочетание нескольких специализированных моделей расширяет набор задач, для которых её можно применять, но README не приводит сравнительных оценок качества или подробных результатов тестирования. Лицензия в предоставленных данных не указана.

Qwen3.5-0.8B-Claude-Opus-Distill-Heretic-UNCENSORED — компактная текстовая модель Ghost (ghost-actual), созданная дообучением Qwen/Qwen3.5-0.8B с дистилляцией рассуждений Claude Opus и последующим снижением частоты отказов методом abliteration с помощью Heretic. Она предназначена для диалогов, генерации структурированных ответов и кода, а также для работы на устройствах с ограниченными ресурсами. В метаданных указаны 581,4 млн параметров, архитектура Qwen3.5 для причинной генерации текста, поддержка чата и контекст до 262 144 токенов; README также заявляет нативную поддержку изображений и анализа видео, однако метаданные относят модель к текстовой генерации. Карточка приводит результаты тестов отказов 2 из 100 и KL-дивергенцию 0,0100, а также заявляет производительность на OCRBench 74,5. Эти показатели приведены автором модели и не являются независимой оценкой. Формат репозитория — safetensors; автор заявляет возможность запуска в BF16 примерно на 1,5 ГБ памяти и приводит настройки генерации. Лицензия в предоставленных данных не указана. Снижение числа отказов означает, что модель может отвечать на запросы, которые модели с более строгими ограничениями отклонили бы; ответы следует проверять, особенно при использовании в чувствительных сценариях.

Qwen3.5-4B-DS-v4-Flash-v1.0 — экспериментальная плотная мультимодальная модель на 4 млрд параметров от prithivMLmods, дообученная на базе Qwen/Qwen3.5-4B. Она принимает текст и изображения и предназначена для диалога и генерации текстовых ответов с улучшенными навыками многошагового рассуждения. Модель обучалась в один этап на длинных примерах рассуждений DeepSeek V4 Flash и дополнительных данных для задач математики, науки, программирования и следования инструкциям. Её сценарии применения включают исследование и оценку рассуждений, решение математических задач, научный анализ и помощь с кодом; размер модели позволяет запускать её локально. Карточка задаёт основной pipeline как image-text-to-text, а метаданные подтверждают поддержку зрения и чата. Релиз обозначен как экспериментальный: возможны артефакты в цепочках рассуждений, ошибочные промежуточные шаги и выводы, а результаты зависят от охвата обучающих данных. Распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Opus-Distill-v2 — плотная мультимодальная модель семейства Qwen, созданная barozp дообучением Qwen/Qwen3.8-27B методом LoRA с последующим объединением адаптера с базовыми весами. Дообучение выполнено на 11 716 примерах с проверенными трассами рассуждений Claude Opus; по данным карточки, набор очищен от строк с проблемным шаблоном и непроверенных источников. Модель предназначена для диалогов, анализа изображений и решения многошаговых задач с рассуждением. В README приведены результаты тестирования на логических и научных заданиях, а также проверка исправления ошибки зацикливания при совместном задании ограничений формата. Возможности зрения и MTP унаследованы от базовой модели и в этом дообучении не менялись. Модель принимает текст и изображения и генерирует текст; контекстная длина и поддерживаемые естественные языки в предоставленных данных не описаны. Модель распространяется под лицензией Apache-2.0. Карточка сообщает об исправлении конкретного случая зацикливания, но это не гарантирует его отсутствия во всех сценариях; приведённые бенчмарки ограничены режимом 0-shot, loglikelihood и QUICK с лимитом 500 примеров.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная fine-tune-модель на базе Qwen3.8-27B, опубликованная schwyzquant и созданная с использованием наработок DavidAU и инструментов Unsloth. Модель распространяется в формате GGUF, включая обычные и MTP-варианты квантования, с заявленной поддержкой 4- и 8-битных конфигураций. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, художественной прозы, ролевого взаимодействия и других сценариев генерации текста. Основные заявленные цели дообучения — повысить способность к решению задач, сократить объём рассуждений и ускорить генерацию при сохранении детализации и качества ответов. Указаны языки English и Chinese; архитектура основана на Qwen3.8 с 27 миллиардами параметров. Размер контекста в README не указан. К сильным сторонам относятся акцент на подробных ответах, программировании, творческих сценариях и сокращении избыточного «мышления», а также возможность запуска квантованных вариантов на потребительском оборудовании. Заявления о превосходстве над базовыми и другими моделями основаны на приведённых автором бенчмарках и не сопровождаются независимой проверкой в README. Ограничения включают отсутствие подробных данных о контекстном окне, точной архитектуре, системных требованиях и качестве по отдельным задачам; характеристики могут различаться между квантованными версиями. Модель описывается как uncensored, поэтому её ответы могут требовать дополнительной фильтрации и контроля. Лицензия — Apache-2.0.

Qwen3-Max-Thinking — флагманская модель рассуждений серии Qwen3 от Qwen. Она предназначена для сложных задач, требующих глубокого многошагового анализа. В карточке отмечено, что модель масштабирует вычислительные ресурсы для обучения с подкреплением. Её можно использовать для задач, где требуется последовательное рассуждение и работа со сложными запросами. Данных о размере, поддерживаемых языках, длине контекста, лицензии и конкретных ограничениях в предоставленных материалах нет.

Snowflake Arctic-Base — базовая языковая модель, разработанная командой Snowflake AI Research Team и предварительно обученная с нуля. Это гибридный трансформер с архитектурой dense-MoE: плотный блок на 10 млрд параметров сочетается с остаточным MoE-блоком из 128 экспертов; по README активно выбираются 17 млрд параметров на токен с помощью top-2 gating. В метаданных репозитория указано 11,1 млрд параметров, а нативное окно контекста составляет 4096 токенов. Модель принимает текст и генерирует текст, включая код. Она предназначена как базовая модель для генерации и продолжения текста, а также для создания собственных прикладных решений и последующего дообучения; версия Base не является instruct-вариантом. Для запуска README рекомендует Transformers версии 4.39 или выше с `trust_remote_code=True`; для инференса предлагается сервер с 8 ускорителями H100. Лицензия Apache-2.0 допускает использование в исследованиях, прототипах и продуктах.

Monero/WizardLM-30B-Uncensored-Guanaco-SuperCOT-30b — языковая модель для генерации текста на основе архитектуры LLaMA, объединяющая WizardLM 30B, Guanaco и SuperCOT. В метаданных указаны 32,3 млрд параметров, контекст до 2048 токенов и форматы PyTorch и safetensors; README описывает обучение на инструкциях, данных с цепочками рассуждений и примерах кода. Модель предназначена для диалогов по инструкциям, продолжения многоходового общения, объяснения кода и ролевых сценариев. В README заявлена поддержка английского, упрощённого и традиционного китайского, японского и немецкого языков. Модель может генерировать недостоверные фактические ответы, поэтому для задач, требующих точности, следует предоставлять проверяемые источники. Указана лицензия «other» без уточнения условий.

AAIKR 3.1 mini — компактная мультимодальная модель семейства Gemma 4, дообученная AI-исследовательской командой LOOP на базе google/gemma-4-e2b-it. Карточка указывает размер 2 млрд параметров и усиленную поддержку рассуждений на корейском языке; метаданные отмечают архитектуру Gemma4ForConditionalGeneration, чат и работу с изображениями. Модель предназначена для быстрых ответов на вопросы, рассуждений, генерации кода, поиска общих знаний и краткого пересказа документов, в том числе на устройствах с ограниченными ресурсами. К заявленным сценариям относятся системы вопросов и ответов в реальном времени, лёгкий помощник по коду, быстрое резюмирование документов и развёртывание на периферийных устройствах. Карточка предупреждает о возможных небольших смещениях в рассуждениях и сбоях памяти в очень длинных диалогах; для важных решений ответы следует проверять. Модель выпущена под лицензией Apache-2.0.

jondurbin/bagel-2.8b-v0.2 — экспериментальная чат-модель, созданная Jondurbin путём дообучения state-spaces/mamba-2.8b-slimpj с помощью Bagel. По метаданным, модель содержит 6 млрд параметров и распространяется в формате PyTorch по лицензии Apache-2.0. Модель предназначена для диалогов и широкого круга инструктивных задач: ответов на вопросы, рассуждений, решения математических задач, написания кода и SQL, чтения и понимания текста, а также ролевого общения. В README указана поддержка форматов Vicuna, Llama 2, Alpaca и ChatML-подобного формата; также можно использовать шаблон диалога токенизатора. При обучении применялись разнообразные англоязычные и многоязычные датасеты, включая Belebele, MMLU, MathInstruct, Spider и наборы диалогов. Это экспериментальное дообучение базовой архитектуры Mamba, а не модель с гарантированными производственными характеристиками. Автор отмечает, что версия с DPO работает заметно лучше; данная версия не должна считаться эквивалентной ей. README не сообщает длину контекста и отдельные результаты оценки качества.

unsloth/DeepSeek-V3-0324-GGUF-UD — это набор динамически квантованных версий DeepSeek-V3-0324, подготовленный Unsloth на базе модели deepseek-ai/DeepSeek-V3-0324 в формате GGUF. Модель предназначена для локального запуска через llama.cpp, LM Studio, Open WebUI и другие совместимые фреймворки инференса. В метаданных указано, что основной язык модели — английский. Доступны варианты с эффективной разрядностью от 1,78 до 4,5 бит и размером файлов примерно от 192 до 384 ГБ. Квантизация Dynamic v2.0 выполняется выборочно; в README заявлено, что это позволяет сохранить более высокую точность по сравнению со стандартными методами квантизации. Модель использует архитектуру MoE, что отражено в описании разрядности компонентов смеси. Версии 2,42 бит IQ2_XXS и 2,71 бит Q2_K_XL рекомендованы как наиболее удачные по соотношению производительности и размера; для запуска желательно иметь не менее 180 ГБ совокупной VRAM и RAM. Сильными сторонами являются возможность локального использования крупной модели в распространённых GGUF-фреймворках и оптимизированная динамическая квантизация. Ограничениями выступают чрезвычайно высокие требования к памяти и большой объём файлов. Варианты IQ1_S и IQ1_M обозначены как предварительные: по результатам тестирования они обычно работают нормально, но иногда хуже справляются с генерацией кода. В метаданных указана лицензия MIT.

Карточка модели jamiefutch/GLM-4.6V-Flash-MXFP4-GGUF на Hugging Face совпадает с карточкой FreedomAISVR/GLM-4.6V-Flash-MXFP4-GGUF, поэтому описание составлено по ней. GLM-4.6V-Flash-MXFP4-GGUF — квантованная до 4-битного формата MXFP4 мультимодальная модель Z.ai (Zhipu AI), основанная на zai-org/GLM-4.6V-Flash. Модель объединяет языковую часть на 9 млрд параметров с визуальным энкодером ViT и принимает текстовые запросы вместе с изображениями, чтобы вести диалог и описывать визуальное содержимое. Модель рассчитана на понимание изображений, документов и визуальных интерфейсов. Контекст составляет 128 тысяч токенов; режим рассуждений включён по умолчанию и может быть отключён параметром `enable_thinking=false`. Для работы с изображениями требуются основной файл GGUF и отдельный файл проектора mmproj в формате F16. Лицензия — MIT. Квантование уменьшает размер языковой части до 4,82 ГБ, однако MXFP4 нативно поддерживается видеокартами NVIDIA Blackwell (RTX 50); на других GPU и CPU выполняется программная деквантизация, которая может быть медленнее. Для запуска подходит совместимое ПО, например llama.cpp или LM Studio.