II.4Отладка, тестирование и качество ПО

Карточка модели antoniogalizia/Phi-3-mini-4k-instruct на Hugging Face совпадает с карточкой microsoft/Phi-3-mini-4k-instruct, поэтому описание составлено по ней. Phi-3-Mini-4K-Instruct — компактная плотная языковая модель Microsoft семейства Phi-3 с 3,7 млрд параметров. Она обучена на синтетических данных и отфильтрованных общедоступных веб-источниках, а затем дообучена методом supervised fine-tuning и оптимизирована по предпочтениям (DPO) для следования инструкциям и повышения безопасности. Для диалогов рекомендуется использовать формат чата. Модель предназначена для генерации текста общего назначения, диалоговых систем, задач рассуждения, математики и программирования. Компактный размер рассчитан на сценарии с ограниченными вычислительными ресурсами и требованиями к задержке; длина контекста составляет 4096 токенов. Модель ориентирована прежде всего на английский язык, также в карточке указана поддержка французского. Модель может ошибаться, выдавать предвзятые или оскорбительные ответы; качество на языках, отличных от английского, может быть ниже. Для критичных сценариев требуется отдельная проверка качества и безопасности. Лицензия — MIT.

kaitchup/Phi-3-mini-4k-instruct-gptq-4bit — это 4-битная GPTQ-квантизованная версия Phi-3 Mini-4K-Instruct, опубликованная пользователем kaitchup на Hugging Face и основанная на модели Microsoft. Она предназначена для генерации текста, диалогов и выполнения инструкций, включая задачи по работе с кодом, математикой, рассуждениями и общими знаниями, при локальном или серверном запуске с меньшими требованиями к памяти. Исходная Phi-3 Mini-4K-Instruct представляет собой плотную decoder-only Transformer-модель примерно на 3,8 млрд параметров, дообученную с применением supervised fine-tuning и Direct Preference Optimization. Модель работает с текстовыми входами и поддерживает контекст до 4K токенов; основной язык — английский, при этом в метаданных также указан французский. Вариант из указанного репозитория использует 4-битное GPTQ-представление, что уменьшает размер и требования к памяти, но может снижать точность и качество по сравнению с полной точностью. Сильные стороны — компактность, возможность запуска на более доступном оборудовании и хорошие для своего размера результаты в задачах следования инструкциям, рассуждений и программирования. Ограничения включают короткое окно контекста, преимущественно англоязычную ориентацию, возможные ошибки и галлюцинации, а также потери качества из-за квантизации. Для опубликованной версии в карточке модели условия лицензирования явно не указаны; исходная модель Microsoft распространяется по лицензии MIT.

duyntnet/Phi-3-mini-4k-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-3-mini-4k-instruct, разработанной Microsoft и опубликованной пользователем duytnet. Модель предназначена для генерации текста в диалоговом формате, следования инструкциям, многошагового общения, структурированного вывода, рассуждений и помощи в программировании. Заявлено улучшенное понимание Python, C++, Rust и TypeScript, а также поддержка системных инструкций через тег <|system|>. Это компактная текстовая авторегрессионная модель семейства Phi-3 Mini; конкретный размер файлов и параметры квантизаций в README не указаны. Модель работает с текстом, поддерживает английский язык и контекст до 4K токенов. Размер словаря токенизатора — до 32064 токенов. Для запуска доступны llama.cpp, JanAI, KoboldCPP, text-generation-webui и Ollama; исходная модель также интегрирована в Transformers. GGUF-квантизации удобны для локального запуска, однако README не содержит данных о точных требованиях к памяти, производительности или сравнительных результатах. Лицензия указана как other, без уточнения конкретных условий, поэтому права на использование следует проверять отдельно. К ограничениям относятся отсутствие заявленной мультимодальности, отсутствие подробных бенчмарков и неопределённость характеристик конкретной квантизации.

Phi-4-Reasoning-Vision-15B — мультимодальная модель Microsoft, дообученная на базе Phi-4-Reasoning. Она объединяет плотную языковую архитектуру Phi-4 с визуальным энкодером SigLIP-2 через промежуточное слияние признаков: изображения преобразуются в визуальные токены и передаются языковой модели. Динамическое разрешение поддерживает до 3600 визуальных токенов на изображение, а контекст составляет 32 768 токенов. Модель предназначена для понимания изображений с возможностью пошаговых рассуждений. Она решает математические и научные задачи по изображениям, анализирует диаграммы, графики, таблицы и документы, распознаёт текст, описывает сцены, локализует объекты и элементы интерфейса. В задачах, требующих рассуждений, может формировать развернутый ход решения; для задач восприятия обычно отвечает напрямую. Подходит для визуальных помощников и агентов, работающих с графическим интерфейсом. Модель обучена преимущественно на английском языке и англоязычных парах «изображение—текст», поэтому на других языках качество может снижаться. Возможны ошибки распознавания и фактические ошибки; перед применением в значимых сценариях необходима отдельная оценка. Разработчик не рекомендует использовать её для медицинской диагностики, юридических консультаций, финансового планирования и решений, влияющих на жизненные возможности людей. Лицензия — MIT.

unsloth/Qwen3.6-27B-MLX-8bit — это 8-битная версия модели Qwen3.6-27B в формате MLX, подготовленная Unsloth на основе Qwen/Qwen3.6-27B. Модель предназначена прежде всего для агентного программирования, работы с фронтенд-проектами, рассуждений на уровне репозитория и итеративной разработки. В README также указана совместимость с MLX-инструментами; исходная модель поддерживает сценарии image-text-to-text. Архитектура представляет собой авторегрессионную языковую модель с vision encoder, 27 млрд параметров и 64 слоями. В ней используются Gated DeltaNet и Gated Attention, а также multi-step training. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. В README не указаны точный перечень поддерживаемых языков, характеристики vision encoder и подробные ограничения 8-битной версии. К сильным сторонам относятся специализация на программировании, работе с кодовой базой и сохранении контекста рассуждений между сообщениями, а также существенно уменьшенный размер весов благодаря 8-битному представлению. К ограничениям относятся зависимость от совместимого MLX-окружения и потенциальные потери точности по сравнению с полноразмерной версией из-за квантования. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.6-27B-MTP-GGUF — квантованный формат модели Qwen3.6-27B, разработанной командой Qwen; сборка и GGUF-квантизация предоставлены Unsloth. Это открытая модель с лицензией Apache-2.0, предназначенная для локального запуска и интеграции через llama.cpp, Unsloth Studio и другие совместимые инструменты. Она ориентирована прежде всего на агентное программирование, работу с интерфейсами и репозиториями, итеративную разработку с сохранением контекста рассуждений, а также вызов инструментов. Модель представляет собой каузальную языковую модель с vision encoder и поддерживает текстовые и визуальные сценарии. Размер языковой части — 27 млрд параметров; архитектура включает 64 слоя, комбинацию Gated DeltaNet и Gated Attention, а также multi-token prediction (MTP), обученную на нескольких шагах. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Языки в README не указаны. Ключевое преимущество MTP — заявленное ускорение инференса примерно в 1,5–2 раза без потери точности. Модель поддерживает запуск на GPU, CPU и Metal, однако для MTP в llama.cpp пока не поддерживаются параллельные последовательности с np > 1 и мультимодальный проектор mmproj. При больших окнах контекста возможен повышенный расход памяти; README рекомендует уменьшать контекст при нехватке памяти, сохраняя по возможности не менее 262 144 токенов.

Qwen3.8-Flash-Next REAP-288 (MLX, 4-bit) — оптимизированная сборка базовой модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем sh0wie. Модель предназначена прежде всего для локального запуска на компьютерах Mac с 128 ГБ памяти и агентских сценариев в стиле Claude Code, включая генерацию и рефакторинг кода. Сборка использует библиотеку mlx-vlm и лицензию qwen-community-license-1.0. Это MoE-модель класса 180B параметров: около 125B приходится на основную модель и 51B — на таблицу n-gram-эмбеддингов. Архитектура включает 48 слоёв, чередующих Gated DeltaNet и разреженное внимание Qwen; в каждом MoE-слое используются 288 из 512 экспертов с маршрутизацией top-10. Весы мультимодальной vision tower сохранены, поэтому заявлена поддержка изображений, однако оценивалось только качество работы с текстом. Контекст и полный набор поддерживаемых языков в README не указаны. По сравнению с базовой 512-экспертной 4-битной сборкой размер на диске снижен с 98 до 68 ГБ, а результат HumanEval pass@1 составляет 91,5% против 93,9%. На Mac модель занимает около 68 ГБ оперативной памяти, либо около 39 ГБ при потоковой загрузке n-gram-таблицы с NVMe. Скорость декодирования зависит от среды и составляет примерно 28 токенов/с в стандартном mlx-vlm и 37–65 токенов/с в pmlx. Поддерживается speculative decoding с MTP, но его преимущество зависит от оборудования; на M4 прирост может отсутствовать. Ограничения включают снижение качества относительно полной сборки, недостаточно проверенную мультимодальность и высокие требования к памяти.license_name: qwen-community-license-1.0

Qwen3-Coder-30B-A3B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen/Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Модель преобразована в формат GGUF с квантизацией Q4_K_M, поэтому предназначена для запуска через llama.cpp, включая локальный inference и серверный режим. Модель ориентирована прежде всего на генерацию текста и задачи, связанные с программированием, однако README не содержит подробностей о поддерживаемых языках, модальностях, архитектуре, фактическом размере активной части модели и максимальной длине контекста. Ключевое преимущество этой версии — совместимость с экосистемой llama.cpp и возможность более экономичного запуска благодаря 4-битной квантизации; ограничениями могут быть потери качества по сравнению с исходной моделью и зависимость от подходящей аппаратной конфигурации. Указана лицензия Apache-2.0.

Карточка модели gonghao1234/Qwen3-VL-4B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-4B-Instruct, поэтому описание составлено по ней. Qwen3-VL-4B-Instruct — плотная мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Она принимает текст и изображения, а также предназначена для понимания видео и временных событий; в ответ генерирует текст. Модель доступна как репозиторий весов в формате safetensors и рассчитана на диалоговое использование через Transformers. Модель подходит для визуальных вопросов и ответов, распознавания и разбора текста на изображениях, анализа видео, пространственного рассуждения, мультимодальных STEM-задач и управления интерфейсами с вызовом инструментов. В README заявлены контекст 256 тысяч токенов с возможностью расширения до миллиона и OCR на 32 языках. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных данных и объединение многоуровневых визуальных признаков DeepStack. Лицензия Apache-2.0. Это вариант Instruct, предназначенный для применения в мультимодальных диалоговых сценариях; качество зависит от задачи и входных данных, а заявленные возможности не сопровождаются в карточке результатами бенчмарков.

Карточка модели KevinCha/Qwen3-VL-4B-Instruct-BoxSpecialToken на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-4B-Instruct, поэтому описание составлено по ней. Qwen3-VL-4B-Instruct — плотная мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Она принимает текст и изображения, а также предназначена для понимания видео и временных событий; в ответ генерирует текст. Модель доступна как репозиторий весов в формате safetensors и рассчитана на диалоговое использование через Transformers. Модель подходит для визуальных вопросов и ответов, распознавания и разбора текста на изображениях, анализа видео, пространственного рассуждения, мультимодальных STEM-задач и управления интерфейсами с вызовом инструментов. В README заявлены контекст 256 тысяч токенов с возможностью расширения до миллиона и OCR на 32 языках. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных данных и объединение многоуровневых визуальных признаков DeepStack. Лицензия Apache-2.0. Это вариант Instruct, предназначенный для применения в мультимодальных диалоговых сценариях; качество зависит от задачи и входных данных, а заявленные возможности не сопровождаются в карточке результатами бенчмарков.

BenevolenceMessiah/QwQ-32B-Preview-Self-instruct-2x-TIES-v1.0 — объединённая модель для генерации текста на основе Qwen/QwQ-32B-Preview. Автор собрал её методом TIES с помощью mergekit, объединив базовую модель с rombodawg/Rombos-LLM-V2.5-Qwen-32b и rombodawg/Rombos-Coder-V2.5-Qwen-32b. Модель относится к архитектуре Qwen2ForCausalLM, содержит 32 млрд параметров и рассчитана на контекст до 32 768 токенов. Она предназначена для диалоговой генерации текста; каталог также отмечает интерфейс вызова инструментов. В качестве сценариев подходят ответы на вопросы, рассуждения и помощь с программированием, унаследованные от указанных базовых моделей. Модель распространяется в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана; описание README не приводит оценок качества или подробных ограничений применения.

Secrets Sentinel small-v1 — англоязычная модель классификации текста от hypn05, дообученная на базе microsoft/deberta-v3-small для обнаружения секретов в строках и фрагментах кода. Она определяет, содержит ли текст секретные данные, например ключ AWS, и отличает их от безопасных примеров переменных окружения и фиктивных значений. Модель предназначена для проверок кода и конфигураций в процессах DevSecOps, включая pre-commit, pre-receive hooks и GitHub Actions. Архитектура DeBERTa V3 Small с классификационной головой содержит около 155 млн параметров по метаданным и принимает до 512 токенов. README сообщает о дообучении на 37 866 размеченных примерах и сопоставимой с базовой моделью точности в девяти тестовых сценариях, а также о скорости примерно в 3,5 раза выше базовой версии. Модель распространяется по лицензии MIT. Заявленные результаты ограничены описанными тестовыми сценариями; полный набор метрик для этой версии в карточке не приведён.

jakeatx выпустил экспериментальный компактный чекпойнт семейства Qwen3.8 Perian на архитектуре Qwen4ExpTextForCausalLM типа MoE. Модель предназначена для генерации текста в диалогах и многошаговых сценариях, включая рассуждения, код, работу с инструментами и поиск по контексту. Она содержит 3,6 млрд параметров и поддерживает контекст до 262 144 токенов. Это производный чекпойнт с упаковкой routed-expert весов в NVFP4 E2M1; таблица PLE n-грамм сохранена в BF16, остальные тензоры оставлены в исходной точности. По README, логический размер тензоров уменьшен на 43,26% относительно исходного чекпойнта. Карточка сообщает о проверках структуры, приближённого сохранения весов и генерации. Модель опубликована под лицензией Apache-2.0. В README указано требование установить включённый компактный runtime patch перед загрузкой; результаты проверки ограничены описанными в карточке тестами. Языковая специализация не заявлена.

MaziyarPanahi/speechless-code-mistral-7b-v1.0-Mistral-7B-Instruct-v0.1 — объединённая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием mistralai/Mistral-7B-Instruct-v0.1 и uukuguy/speechless-code-mistral-7b-v1.0 методом SLERP; веса представлены в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы, с акцентом на задачи программирования. Поддерживает контекст до 32 768 токенов и в первую очередь рассчитана на английский язык и код. Лицензия — Apache-2.0. Качество ответов зависит от запроса; README не приводит результатов оценивания или конкретных ограничений. Это следует учитывать при использовании сгенерированного кода и проверять его перед применением.

ThinkingCap-Qwen3.6-27B — мультимодальная модель Bottlecap AI, полученная дообучением Qwen/Qwen3.6-27B. Она предназначена для диалогов и задач рассуждения с изображениями и текстом, включая вопросы с вариантами ответа, математику, программирование и агентные сценарии. Разработчики сообщают, что модель в среднем использует примерно на 50% меньше токенов рассуждения, чем базовая Qwen3.6-27B, при сохранении качества ответов; в лучших случаях экономия превышает 90%. В тестах также отмечено меньшее число незавершённых ответов из-за ограничения генерации, а показатели отказа на вредоносные запросы статистически не отличались от базовой модели. Модель загружается через Transformers как AutoModelForImageTextToText и AutoProcessor; репозиторий содержит веса safetensors и использует архитектуру Qwen с поддержкой изображений. В README приведены оценки на наборах для рассуждения, вопросов по знаниям, повседневного диалога, безопасности, математики, кода и агентных задач. Указанная лицензия — Apache-2.0. Результаты зависят от задачи и настроек генерации; README отмечает вариативность качества рассуждений при рекомендуемой температуре Qwen и возможное загрязнение обучающих данных в тестах безопасности.

Карточка модели CollectionStudio/Trinity-Mini на Hugging Face совпадает с карточкой arcee-ai/Trinity-Mini, поэтому описание составлено по ней. Trinity Mini — открытая по весам разговорная языковая модель от Arcee AI, дообученная на базе arcee-ai/Trinity-Mini-Base. Это MoE-модель семейства AFMoE с 26 млрд параметров и 3 млрд активных параметров; в README указаны 128 экспертов, из которых активны 8 и один общий. Модель предназначена для диалогов и задач рассуждения, включая математику и программирование. Модель обучена на 10 трлн токенов. Длина контекста составляет 128 тыс. токенов. Метаданные указывают поддержку английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Для запуска заявлена совместимость с Transformers, vLLM, llama.cpp, LM Studio и API. Указанная в README лицензия — OpenMDW-1.1; метаданные классифицируют лицензию как other.

Zrald/Zrald-AI-model-quant-qwen-3.8-27b — набор GGUF-квантований Qwen3.8-27B, опубликованный Zrald для локального запуска через llama.cpp. Это плотная модель на 27 млрд параметров, дообученная на базе Qwen/Qwen3.8-27B; репозиторий предлагает три варианта с разным балансом размера, скорости и сохранения качества. README описывает применение для диалогов, программирования, рассуждений и инструктивных задач. Варианты занимают от 10,18 до 17,08 ГиБ; заявлены сценарии запуска на видеокартах с 12, 16 и 24 ГБ памяти, а для старшего варианта — контекст до 32 тысяч токенов. Автор сообщает о тестировании на AMD Instinct MI300X и совместимости с llama.cpp. Лицензия — Apache-2.0. Это текстовая модель генерации; мультимодальные функции базовой модели в карточке этого репозитория не заявлены.

Beyonder-4x7B-v2 — языковая модель в архитектуре Mixture of Experts (MoE), созданная mlabonne с помощью mergekit на основе четырёх моделей: OpenChat 3.5, CodeNinja, PiVoT и WizardMath. Она предназначена для диалогов и генерации текста, включая задачи программирования и математики. В модели около 7,1 млрд параметров, рекомендуемая длина контекста — 8 тысяч токенов; репозиторий содержит веса в формате safetensors. Автор сообщает, что модель показывает результаты, сопоставимые с Mixtral-8x7B-Instruct-v0.1 и сильными дообученными моделями большего размера на ряде бенчмарков. Эти оценки не гарантируют качество на конкретных пользовательских задачах. В метаданных указана лицензия other; точные условия использования следует проверять в карточке модели и лицензиях базовых моделей.

Chicka-Mixtral-3x7b — языковая модель класса Mixture of Experts, созданная Chickaboo путём объединения трёх моделей на базе Mistral: разговорной OpenChat 3.5, модели для кода CodeNinja и математической MetaMath. Модель имеет архитектуру MixtralForCausalLM, около 7,1 млрд параметров и контекст до 8192 токенов; файлы опубликованы в формате safetensors. Лицензия — MIT. Модель предназначена для генерации текста в диалогах, помощи с программированием и решения математических задач. В README приведены результаты нескольких бенчмарков, однако они не гарантируют качество на конкретных пользовательских запросах. Данные о поддерживаемых языках и специальные ограничения применения в карточке не описаны.

CobrIX-1.0-Coder-Flash-33B-A13B — диалоговая языковая модель CobrIX на архитектуре Qwen 3.5 MoE, собранная на основе empero-ai/Qwythos-9B-v2 и пяти дообученных экспертов Qwen 3.5. По README, в модели 33 млрд параметров, из которых активно 13 млрд на токен; метаданные указывают 7,2 млрд параметров. Заявленное нативное окно контекста — 1 048 576 токенов. Модель предназначена для генерации кода и диалогов; метаданные подтверждают задачу text-generation и возможность чата. В MoE-блоках используется маршрутизация top-2 к пяти экспертам и общий эксперт. Указана лицензия MIT. README описывает проект как ранний доступ, а размещённая модель — как экспериментальную сборку.

CodeLlama-13b-Python-hf — языковая модель Meta из семейства Code Llama, представленная в формате Transformers. Это авторегрессионный плотный трансформер на 12,9 млрд параметров, рассчитанный на генерацию и понимание кода с особым упором на Python; модель принимает текст и генерирует текст. Она поддерживает автодополнение кода, но не предназначена для диалога или выполнения инструкций. Контекст составляет 16 384 токена. README указывает английский язык и языки программирования, в частности Python; метаданные отдельно перечисляют код как язык карточки, поэтому языки программирования не включены в поле естественных языков. Модель выпущена Meta в 2023 году и является Python-специализированной производной базовой Code Llama-13B. Для использования действует лицензия Meta Llama 2 с условиями коммерческого применения, изложенными в соглашении Meta.

Code Llama 34B — базовая авторегрессионная языковая модель Meta на архитектуре Transformer, представленная в формате для Hugging Face Transformers. Она содержит 33,5 млрд параметров и предназначена для генерации и понимания кода; эта версия не является вариантом Python или Instruct и не ориентирована на диалоговые инструкции. Модель принимает текст и генерирует текст. Её можно применять для автодополнения кода и адаптировать к другим задачам синтеза и понимания программ. Для работы с длинными запросами поддерживается контекст до 16 384 токенов. Основной язык карточки — английский; модель также работает с релевантными языками программирования. Модель обучена на статическом наборе данных, поэтому её ответы могут быть неточными или нежелательными; перед внедрением требуется проверка и настройка под конкретное применение. Использование регулируется лицензией Meta Llama 2, включая её условия и ограничения.

TheBloke/CodeLlama-7B-fp16 — публикация TheBloke весов Code Llama 7B, разработанной Meta. Это авторегрессионная плотная Transformer-модель семейства Llama для генерации и понимания кода; репозиторий содержит веса FP16 в формате Transformers/Hugging Face, полученные конвертацией исходных весов Meta в формат HF. Для загрузки этой версии README требует trust_remote_code=True из-за изменения параметра RoPE Theta. Модель принимает и выдаёт текст, рассчитана на синтез и анализ кода и поддерживает заполнение пропусков в тексте. Контекст модели — до 16 384 токенов по метаданным; в README также заявлена поддержка до 100 000 токенов при инференсе. Назначение описано для английского языка и языков программирования. Лицензия — llama2; перед использованием следует учитывать её условия. Модель может выдавать неточный или нежелательный результат, поэтому её поведение следует проверять в целевом приложении.

DBRX Instruct — большая языковая модель компании Databricks для диалогов в несколько ходов, ответов на вопросы и задач с кодом. Это instruction-tuned версия DBRX, обученная с нуля на архитектуре Transformer decoder-only с тонкозернистой смесью экспертов (MoE): всего 132 млрд параметров, из которых для каждого входа активны 36 млрд. Модель использует RoPE, GLU и GQA; максимальная длина контекста — 32 768 токенов. Модель принимает и генерирует только текст. Она обучалась на данных на естественных языках и коде, но большая часть данных была на английском; Databricks не проверяла её proficiency на других языках и рекомендует считать модель англоязычной. DBRX Instruct предназначена для готового применения в коротких диалогах, общих вопросах на английском и задачах с кодом, а также для дальнейшей настройки под специализированные задачи. Модель выпущена по Databricks Open Model License; применяются также условия Databricks Open Model Acceptable Use Policy. Ответы модели могут быть неточными, неполными, предвзятыми или оскорбительными. Для сценариев, где важны точность и соответствие источникам, Databricks рекомендует использовать RAG и проверять модель в целевом контексте; встроенное выполнение кода и нативный вызов функций не поддерживаются.

DeepSeek-R1-0528-Qwen3-8B-GGUF — это версия модели DeepSeek-R1-0528-Qwen3-8B в формате GGUF, подготовленная пользователем brittlewis12. Исходную модель разработала DeepSeek AI: она создана дистилляцией цепочек рассуждений DeepSeek-R1-0528 и дообучением базовой Qwen3 8B. Модель предназначена для генерации текста и решения задач, требующих рассуждений, включая математические задачи, программирование, академические исследования и разработку компактных reasoning-моделей. Архитектура модели идентична Qwen3-8B, а конфигурация токенизатора унаследована от DeepSeek-R1-0528. Размер — 8 миллиардов параметров; указанная модальность — текст, основной язык в карточке — английский. Модель распространяется в GGUF — формате, ориентированном на локальный запуск через совместимые инструменты, включая llama.cpp. Размер контекста в README не указан. Для работы поддерживаются системные промпты; добавлять маркер <think> в начало ответа не требуется. Сильная сторона модели — качество рассуждений при относительно небольшом размере: в приведённых оценках она получила 86,0 на AIME 2024, 76,3 на AIME 2025 и сопоставлялась с более крупными моделями. При этом результаты зависят от сценария: на GPQA Diamond модель показала 61,1, а на LiveCodeBench — 60,5, поэтому приведённые показатели не гарантируют одинакового качества на всех задачах. В README не указаны конкретный уровень GGUF-квантизации, требования к памяти, максимальный контекст и подробные ограничения безопасности. Лицензия — MIT.

DeepSeek-R1-Distill-Llama-8B-abliterated — текстовая генеративная модель huihui-ai на архитектуре Llama, созданная методом abliteration на основе deepseek-ai/DeepSeek-R1-Distill-Llama-8B. Разработчик описывает её как экспериментальный вариант, в котором удалены отказы от ответов; базовая модель была дообучена на данных для рассуждений. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, ответов на вопросы и многошаговых рассуждений, включая математические задачи и программирование — эти возможности унаследованы от базовой модели. В карточке также приведён способ использования через Ollama. README предупреждает, что удаление отказов реализовано грубо и служит доказательством концепции; поэтому поведение модели может быть менее безопасным. Условия лицензии в предоставленных данных не указаны.

DeepSeek-V4-Flash-0731-dwarfstar-q2-gguf — это 2-битная квантизированная версия модели DeepSeek-V4-Flash-0731, разработанной DeepSeek. Сборка создана сообществом Rednalreden с использованием инструментов DwarfStar (ds4) и предназначена для запуска на машинах с 96 или 128 ГБ оперативной памяти, где 4-битная версия не помещается. Модель относится к задачам генерации текста и может применяться для написания кода, работы с длинным контекстом, агентских сценариев, вызовов инструментов, анализа исходного кода и подготовки связного текста. Модель использует архитектуру MoE с 43 слоями, 256 маршрутизируемыми экспертами, из которых для каждого запроса выбираются 6, а также одним общим экспертом. Файл GGUF занимает около 80,8 GiB, резидентная модель — около 80,76 GiB; при контексте 32 768 токенов требуется примерно 0,86 GiB дополнительной памяти. Маршрутизируемые эксперты квантизированы в 2 бита с использованием importance matrix, тогда как attention-проекции, общие эксперты и выходной слой используют Q8_0, а отдельные компоненты — F16. Заявлена поддержка контекста до 100 000 токенов при использовании ds4-server. Importance matrix улучшила среднюю оценку по отрицательной логарифмической правдоподобности на 1,42% относительно аналогичной Q2-сборки без importance matrix. Основное преимущество — существенная экономия памяти при сохранении большей части качества; ограничение — заметная потеря качества по сравнению с 4-битными или смешанными q2/q4-сборками. Модель требует runtime DwarfStar (ds4) и несовместима с llama.cpp. Лицензия — MIT, унаследованная от базовой модели.

Deepthought-8B — разговорная модель генерации текста от Ruliad, основанная на плотной архитектуре LLaMA 3.1 и содержащая 7,5 млрд параметров. Она предназначена для задач рассуждения, следования инструкциям, программирования и математики. Модель формирует структурированные ответы и, согласно карточке, может представлять ход решения в формате JSON с отдельными шагами; глубину рассуждений можно настраивать во время вывода без дообучения. Контекст модели составляет до 131 072 токенов. Карточка заявляет работу на GPU с 16 ГБ видеопамяти или больше и рекомендует Flash Attention 2 для повышения производительности. Модель может быть полезна для пошагового решения задач, где требуется проверяемая структура ответа, а также для интеграции генерации рассуждений в приложения. В README отмечены ограничения при сложных математических задачах, обработке длинного контекста и нестандартных случаях. Доступна по лицензии Llama 3.1; перед использованием следует учитывать её условия.

DFM Mimir v1 — языковая модель, разработанная в рамках Danish Foundation Models при сотрудничестве Университета Южной Дании, Орхусского университета, Копенгагенского университета и Alexandra Institute. Модель обучена с нуля на архитектуре HRM-Text и предназначена для генерации текста и диалогового следования инструкциям. В репозитории указано около 1 млрд параметров, а метаданные Hugging Face содержат оценку 855,6 млн; длина контекста — 4096 токенов. Модель ориентирована на датский и английский языки. Авторы сообщают о конкурентных результатах на тестах по датскому, английскому, математике и программированию, включая новый уровень результатов для датского среди сравниваемых моделей. Она может использоваться для диалога, ответов на вопросы, следования инструкциям, а также задач на рассуждение, математику и код. Лицензия — Apache 2.0. Авторы предупреждают, что модель обучалась только на датском и английском и может плохо работать на других языках. Она не проходила специальную настройку безопасности и может отражать социальные предубеждения обучающих данных.

FlashModel-Qwen3.5-9B — текстовая причинная языковая модель, дообученная flashback2k на базе Qwen/Qwen3.5-9B методом LoRA с последующим объединением весов. Модель содержит около 7,2 млрд параметров, использует архитектуру Qwen3_5ForCausalLM и формат Safetensors; заявленная длина контекста — 262 144 токена. В отличие от мультимодальной базовой модели, этот вариант предназначен только для работы с текстом и не содержит компонента зрения. Модель ориентирована на рассуждения, решение математических задач, генерацию кода, следование инструкциям и вызов инструментов в диалоговых сценариях. Обучение включало англоязычные примеры из наборов Nemotron по математике, соревновательному программированию, агентным задачам, инструкциям и науке; для получения обучающих ответов использовались несколько открытых моделей-учителей. Модель распространяется под лицензией Apache-2.0. Сравнительных бенчмарков пока нет, поэтому качество относительно исходной Qwen3.5-9B не установлено. Обучающие данные были англоязычными, и на запросах на других языках модель может рассуждать по-английски; примеры по математике и коду длиннее 16 тысяч токенов исключались из обучения. Эффект специальных тегов бюджета рассуждений не измерен.