II.4Отладка, тестирование и качество ПО

unsloth/DeepSeek-R1-BF16 — версия DeepSeek-R1, опубликованная Unsloth и представленная в формате Safetensors для Transformers. Модель основана на DeepSeek-R1 от DeepSeek и предназначена для диалоговой генерации текста с упором на рассуждения, решение математических задач и помощь с кодом. В карточке указана архитектура DeepSeek-V3; размер составляет 37,6 млрд параметров, длина контекста — до 163 840 токенов. Модель может применяться для пошагового анализа сложных вопросов, объяснения решений, генерации и разбора кода, а также ответов в диалоге. Указанная лицензия — MIT. Для практического использования учитывайте, что ответы могут содержать ошибки, а многошаговые рассуждения — быть избыточными; README не приводит оценок качества именно этой сборки.

Это версия DeepSeek-R1-Distill-Qwen-7B, опубликованная Unsloth и основанная на дистиллированной модели DeepSeek. В карточке указано, что веса представлены в формате safetensors, архитектура — плотная Qwen2, размер — 7,1 млрд параметров, библиотека для работы — Transformers, а лицензия — Apache-2.0. Модель предназначена для генерации текста и диалогов с многошаговыми рассуждениями, в том числе для решения математических задач и задач программирования. Она обучена на примерах рассуждений, созданных DeepSeek-R1; в README для семейства дистиллированных моделей указан контекст до 128K токенов. Метаданные карточки также указывают контекст 131072 токена. Модель принимает текст и выдаёт текст. Карточка указывает английский язык; README не уточняет перечень поддерживаемых языков. Как и другие языковые модели, она может ошибаться в рассуждениях и ответах. Для использования применяется лицензия Apache-2.0.

Devstral-Small-2-24B-Instruct-2512-GGUF — квантизированная в формат GGUF версия модели Devstral-Small-2-24B-Instruct-2512 от Mistral, подготовленная ByteShape с использованием ShapeLearn. Метод ShapeLearn подбирает тип данных для каждого тензора, чтобы сохранять высокое качество при малой разрядности. Модель предназначена для генерации текста и задач, связанных с программированием, включая function calling, а также поддерживает мультимодальные сценарии с обработкой изображений. Доступны варианты с эффективной разрядностью от 2,34 до 4,04 бит на вес и размером от 6,9 до 11,9 ГБ. Качество оценивалось на BFCL-V3, LiveCodeBench V6, HumanEval, GSM8K-V, Math500, GSM8K и MMLU; в README также указана оценка vision-возможностей. Модели оптимизированы для GPU NVIDIA RTX 40-й и 50-й серий при использовании llama.cpp и могут запускаться через Ollama. Для работы с изображениями в llama.cpp необходимы файл модели и соответствующий мультимодальный projector-файл; размер контекста в приведённом примере составляет 8192 токена. Основные преимущества — широкий выбор компромиссов между качеством, скоростью и потреблением памяти, а также поддержка низкобитной квантизации и мультимодального использования. Ограничения включают возможное снижение качества на наиболее компактных вариантах и необходимость совместимого окружения для запуска; конкретные языки, полная архитектура и точные характеристики контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

Dolphin 2.8 Mistral 7B v0.2 — разговорная модель с открытыми весами, разработанная Эриком Хартфордом и Cognitive Computations. Она дообучена на базе Mistral-7B-v0.2 и предназначена для выполнения инструкций, диалогов и задач программирования. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; полновесное дообучение проводилось с длиной последовательности 16 000 токенов. В карточке перечислены обучающие наборы для инструкций, диалогов и кода. Модель ориентирована на генерацию ответов в чате, помощь с кодом и выполнение текстовых инструкций на английском языке. Авторы характеризуют её как uncensored и предупреждают о высокой готовности выполнять запросы, в том числе неэтичные; перед предоставлением модели пользователям рекомендуется добавить собственный слой контроля. Модель распространяется по лицензии Apache 2.0, включая коммерческое использование.

Gemini 2.5 Pro Preview 06-05 — предварительная версия мультимодальной модели Google Gemini 2.5 Pro. Она предназначена для сложных задач рассуждения, программирования, математики и науки. В карточке указаны способности к рассуждению, но подробности об архитектуре, размере и длине контекста не приведены. Модель ориентирована на сценарии, где требуется разбирать запрос и формировать содержательный ответ, включая помощь с кодом и решение математических задач. Метаданные классифицируют её как image-text-to-text, однако README не уточняет поддерживаемые типы входных данных. Условия лицензии в доступных сведениях не описаны.

GPT-5.4 mini — компактная модель OpenAI, созданная для более быстрой и эффективной работы по сравнению с GPT-5.4 при высокой нагрузке. Она принимает текстовые и графические входные данные и предназначена для задач рассуждения и программирования. Модель подходит для приложений, которым нужны быстрые ответы при большом потоке запросов, включая задачи с изображениями. В предоставленных данных не описаны её размер, длина контекста, поддерживаемые языки или условия лицензирования.

Карточка модели dshive/Kimi-K2.6 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

Карточка модели ckoh04/Kimi-K2.6-pruned-8experts на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

cyankiwi/Laguna-XS-2.1-AWQ-INT4 — это INT4-квантизированная версия модели Laguna XS 2.1, разработанной poolside и подготовленной cyankiwi с использованием метода AWQ. Модель предназначена для генерации текста, прежде всего для агентного программирования, работы с терминалом и длительных многошаговых задач на локальном компьютере. В основе лежит Mixture-of-Experts с 33 млрд параметров, из которых 3 млрд активируются для каждого токена. Архитектура включает 40 слоёв, 256 экспертов и одного общего эксперта, сочетает глобальное внимание со Sliding Window Attention в соотношении 1:3 и использует окно скользящего внимания размером 512 токенов. Контекстное окно составляет 262 144 токена, поддерживается текстовый ввод и вывод, а также интерleaved reasoning между вызовами инструментов с возможностью включать и отключать рассуждения для конкретного запроса. Заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Кэш ключей и значений хранится в формате FP8, что снижает расход памяти на токены; заявлена возможность запуска на Mac с 36 ГБ оперативной памяти. Сильными сторонами модели являются компактное число активных параметров, поддержка длинного контекста, локальный запуск и ориентация на программирование и агентные сценарии. В опубликованных результатах она показала 70,9% на SWE-bench Verified, 63,1% на SWE-bench Multilingual, 47,6% на SWE-bench Pro и 37,5% на Terminal-Bench 2.0. Показатели относятся к Laguna XS 2.1 в целом и не обязательно непосредственно к данной INT4-квантизации; квантизация также может влиять на качество и точность. Модель распространяется по лицензии OpenMDW-1.1, разрешающей использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.

MiniMax-M3 — мультимодальная модель семейства MiniMax, представленная в репозитории dshive/MiniMax-M3. Она принимает текст и изображения и предназначена для диалогов, анализа визуального содержимого, работы с видео, программирования и длительных агентных сценариев. В README заявлены около 428 млрд параметров, примерно 23 млрд активируемых параметров и контекст до 1 млн токенов. Модель использует разреженное внимание MiniMax Sparse Attention (MSA); в карточке указана архитектура MiniMax-M3-VL и формат весов safetensors. Разработчик заявляет ускорение обработки длинного контекста и сильные результаты в задачах программирования и совместной работы с агентом. Для использования описаны MiniMax Agent и MiniMax API, а также локальное развёртывание через Transformers. Репозиторий опубликован под лицензией other; конкретные условия лицензии следует проверять в карточке модели.

Olmo-3.1-32B-Think — авторегрессионная Transformer-модель семейства OLMo, разработанная Allen Institute for AI (Ai2). Это вариант Think с 31,7 млрд параметров, дообученный на базе allenai/Olmo-3-32B-Think-DPO; в метаданных указан датасет Dolci-Think-RL. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Контекстное окно составляет 65 536 токенов, основным языком карточка называет английский. Модель предназначена для рассуждений и ответов на запросы по математике, программированию, общим знаниям и диалогу. Ai2 сообщает об улучшении решения задач благодаря длинным цепочкам рассуждений; в карточке приведены результаты тестирования, включая 96,2 балла на MATH и 80,6 на AIME 2024. Результаты бенчмарков не гарантируют точность ответов в конкретных сценариях. Модель распространяется в формате safetensors и использует библиотеку Transformers. Лицензия — Apache 2.0; Ai2 указывает на исследовательское и образовательное применение в соответствии с рекомендациями ответственного использования. Модель может выдавать неточные сведения и вредоносный или предвзятый контент, поэтому ответы следует проверять.

OpenChat-3.5-0106 — диалоговая языковая модель, разработанная командой OpenChat и опубликованная в репозитории CallComply. Это дообученная на базе Mistral-7B-v0.1 плотная модель класса MistralForCausalLM с 7,1 млрд параметров, предназначенная для генерации текста и общения в формате чата. Контекст модели составляет до 32 769 токенов по метаданным Hugging Face. Модель подходит для ответов на вопросы, написания и анализа кода, общих диалоговых задач и математических рассуждений. В README описаны два режима: общий режим для общения и программирования и режим математических задач; также заявлена экспериментальная поддержка оценки ответов и обратной связи. Русский язык среди явно перечисленных языков не подтверждён. Вес опубликован в формате Safetensors и доступен по лицензии Apache-2.0. README содержит инструкции по развёртыванию через OpenChat и совместимый с OpenAI API сервер на базе vLLM. Приведённые в карточке оценки отражают результаты конкретных бенчмарков и не гарантируют качество на произвольных запросах.

Ornith-1.5-35B-A3B-AWQ-FP8 — квантованная версия модели Ornith-1.5-35B-A3B, разработанной командой Ornith AI. Модель предназначена для генерации текста, программирования и агентских сценариев, включая работу с инструментами и выполнение задач в терминале. Она обучалась с использованием цикла самоулучшения, который совместно оптимизирует генерацию задач, построение scaffolding и траекторий решений с применением reinforcement learning. Модель использует архитектуру mixture-of-experts: при общем размере около 35B параметров на каждый токен активируется примерно 3B параметров. Представленная версия имеет формат AWQ-FP8 и размер около 39,76 ГБ. Заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. В README не указаны размер контекста и мультимодальные возможности. Сильной стороной модели является специализация на кодировании и агентских задачах: разработчики сообщают о превосходстве над сопоставимой Qwen3.6-35B-A3B и рядом плотных моделей в соответствующих бенчмарках. Ограничения, подробные требования к оборудованию и параметры инференса в карточке не приведены. Модель распространяется по лицензии MIT.

mlx-community/Qwen2.5-Coder-14B-Instruct-4bit — это 4-битная версия языковой модели Qwen2.5-Coder-14B-Instruct, разработанной Qwen и преобразованной сообществом mlx-community в формат MLX с помощью mlx-lm 0.19.3. Модель предназначена для генерации текста и работы в диалоговом режиме. Основная специализация модели — задачи, связанные с программным кодом: написание, продолжение и обсуждение кода, а также взаимодействие с пользователем в формате инструкций и ответов. Модель содержит 14 миллиардов параметров и использует 4-битное квантование, что снижает требования к памяти по сравнению с полноразмерной версией. Формат MLX ориентирован на запуск с библиотекой mlx-lm. В метаданных указан английский язык. README не содержит сведений о длине контекста, поддерживаемых модальностях, результатах тестирования и конкретных ограничениях качества, поэтому эти характеристики нельзя определить по представленным данным. Модель распространяется по лицензии Apache 2.0.

ThomasBaruzier/Qwen2.5-Coder-32B-Instruct-GGUF — это набор GGUF-квантизованных вариантов Qwen2.5-Coder-32B-Instruct, базовой модели семейства Qwen, разработанной командой Qwen. Квантизация выполнена с использованием llama.cpp и метода imatrix с калибровочным файлом Bartowski. Модель предназначена для генерации и обработки текста, прежде всего для задач программирования и диалогового взаимодействия с кодом. Доступны варианты квантизации от IQ1_S до Q5_K_M, размером примерно от 6,9 до 21,6 ГБ. README приводит показатели perplexity, размера и точности для отдельных вариантов: более крупные квантизации обычно обеспечивают лучшее качество, но требуют больше памяти. Поддерживается текстовый ввод и вывод; заявлен язык en. Архитектура, размер контекста и полный перечень языков в карточке не указаны. Сильная сторона набора — широкий выбор компромиссов между размером файла, требованиями к ресурсам и качеством, а также совместимость с экосистемой llama.cpp благодаря формату GGUF. Ограничения связаны с потерями качества, характерными для квантизации, и значительными требованиями к памяти у 32B-модели; конкретные характеристики зависят от выбранного варианта. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-3B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели Qwen2.5-Coder-3B-Instruct, разработанной командой Qwen и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и работы с программным кодом в диалоговом режиме: написания, объяснения и преобразования кода, а также выполнения других задач, связанных с программированием. В карточке указана поддержка английского языка. Модель содержит 3 миллиарда параметров и рассчитана на локальный запуск через llama.cpp, в том числе в LM Studio. Доступны варианты от F16 до компактных квантизаций Q3–Q8, что позволяет выбирать между качеством ответов и требованиями к памяти; наиболее качественными названы варианты Q6_K_L и Q6_K, а Q4_K_M описан как вариант по умолчанию для большинства случаев. Квантизация уменьшает размер файлов и требования к ресурсам, но более агрессивные варианты могут снижать качество. Архитектура, максимальная длина контекста и дополнительные модальности в README не указаны. Модель распространяется с лицензией Qwen Research License; применимость лицензии следует уточнять по исходному тексту LICENSE.

stefancosma/Qwen2.5-Coder-7B-Instruct-Q4_K_M-GGUF — это квантованная версия модели Qwen2.5-Coder-7B-Instruct, преобразованная в формат GGUF с использованием llama.cpp и сервиса GGUF-my-repo. Модель основана на разработке Qwen и предназначена для генерации текста и работы с программным кодом в диалоговом формате. Модель имеет размер 7B параметров и использует квантизацию Q4_K_M, что снижает требования к памяти по сравнению с полной версией, но может сопровождаться некоторой потерей качества. Она рассчитана на текстовые задачи, включая написание, дополнение и объяснение кода, и может запускаться локально через llama.cpp в CLI или серверном режиме. В метаданных указан английский язык. В примере запуска серверу задаётся контекст 2048 токенов, однако максимальный размер контекста в карточке не указан. К сильным сторонам относятся специализированная направленность на программирование, компактный размер, формат GGUF и совместимость с llama.cpp, включая запуск на различном оборудовании. Ограничения связаны с отсутствием подробных результатов оценки и характеристик исходной модели в этой карточке, а также с возможным снижением точности из-за квантизации. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-122B-A10B-44GB-GPT5.6Sol-SFT-LynnStyle-GGUF — GGUF-сборка модели Qwen3.5-122B-A10B, опубликованная пользователем nerkyor. Модель предназначена для текстовой генерации, рассуждений, ответов на вопросы и программирования в среде llama.cpp. В репозитории также доступен опциональный мультимодальный vision projector для обработки визуального ввода; основной GGUF может использоваться отдельно для текстовых задач. Модель использует архитектуру qwen3next и содержит 807 тензоров. Это слойно-смешанная imatrix-assisted квантизация LynnStyle: наиболее важные компоненты сохранены в Q8_0, Q6_K или Q5_K, а значительная часть маршрутизируемых экспертных слоёв сжата до IQ2_XS. Основной файл занимает 44,61 ГБ, а вместе с mmproj — 45,23 ГБ. Указаны языки English и Chinese. Проверенный режим рассчитан на общий контекст 131 072 токена, Q4 K/V cache и полную выгрузку на GPU; пиковое потребление VRAM составило 45 551 МиБ. К сильным сторонам относятся сохранение высокой точности для attention, shared-expert и ключевых управляющих структур при существенном уменьшении размера, а также хорошие заявленные результаты без MTP: MMLU 91,6%, GPQA 86,4% и LiveCodeBench 82,0%. Ограничения — высокая требовательность к памяти, отсутствие MTP sidecar и необходимость использовать llama.cpp с рекомендуемыми настройками. LoRA step64 уже объединён с основным файлом и отдельно не требуется. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — модель для генерации текста и решения сложных многошаговых задач, дообученная на базе Qwen3.5-9B. Она создана с применением supervised fine-tuning, LoRA и дистилляции рассуждений из Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B. Основной акцент сделан на структурированном анализе, планировании, декомпозиции задач и более лаконичных ответах. Модель предназначена для математики и логики, программирования и системного анализа, научных, инженерных, юридических, медицинских и финансовых задач, а также для сценариев, связанных с безопасностью и adversarial reasoning. В карточке указана текстовая модальность, pipeline text-generation и поддержка английского, китайского и корейского языков. Размер базовой модели — 9B параметров; размер контекста и точные требования к аппаратным ресурсам не указаны. Сильными сторонами модели считаются многошаговое рассуждение, отслеживание ограничений, последовательное планирование, междисциплинарный охват и анализ отказов или атак. При этом дистилляция и специализированное дообучение могут ухудшать обобщение в некоторых широких сценариях и приводить к частичному забыванию знаний базовой модели, поэтому модель рекомендуется оценивать на целевых задачах перед внедрением. Лицензия — Apache-2.0.

trohrbaugh создал вариант Qwen3.6-35B-A3B с применением abliteration — модификации, направленной на снижение склонности модели отказывать в ответах. Это мультимодальная модель семейства Qwen с архитектурой смеси экспертов и зрительным энкодером, предназначенная для диалогов, работы с изображениями, программирования и агентных сценариев с вызовом инструментов. Модель содержит 35 млрд параметров, из которых активируется около 3 млрд; в MoE используются 256 экспертов, включая восемь маршрутизируемых и один общий активный эксперт. Контекст составляет 262 144 токена и может расширяться до 1 010 000. Репозиторий содержит веса в формате safetensors для Transformers и совместимых сред. В приведённом сравнении исходная модель отказывала в 99 из 100 проверочных запросов, а этот вариант — в 2 из 100; результат относится к указанной проверке и не гарантирует поведение на других запросах. Модель подходит для генерации и анализа текста и изображений, помощи в разработке ПО и агентной работы с инструментами. Карточка не сообщает языковые коды; в описании исходного семейства упомянуты двуязычные английские и китайские тесты, что само по себе не подтверждает полный перечень поддерживаемых языков. Лицензия — Apache 2.0. Автор указывает, что загрузка до исправления 2 мая 2026 года могла содержать некорректно сохранённые веса MoE; для корректной работы нужна исправленная версия репозитория.

protogeni/Qwen3.8-27B-Uncensored-W4A16-RTX3090-MTP4 — сервировочно-оптимизированный квантованный чекпойнт семейства Qwen3.8-27B. Модель разработана protogeni на основе Qwen3.8-27B, последовательно преобразованного в uncensored-версию OrcaRouter, квантованный вариант AutoRound W4A16 и данный чекпойнт для инференса. Заявлены английский и китайский языки. Модель предназначена прежде всего для генерации текста, программирования и задач рассуждения, а также для развёртывания на одной видеокарте с поддержкой speculative decoding через MTP4. Vision tower сохранён, однако протестированный профиль на 100 000 токенов рассчитан только на текст. Основная часть трансформера использует W4A16 с группой 128, эмбеддинги токенов имеют формат INT8, а выходные и MTP-головы — калиброванный GPTQ INT4. Для черновой генерации используется словарь из 40 960 токенов. На RTX 3090 Ti с BF16 KV-кэшем и MTP4 заявлена поддержка контекста до 100 000 токенов; измеренная скорость генерации составляет примерно 82,7–128,4 токена в секунду в зависимости от нагрузки. Среди приведённых результатов: 94,77% на GSM8K, 76,14% на MMLU-Pro, 94,51% pass@1 на HumanEval и 90,85% pass@1 на HumanEval+. Сильные стороны модели — высокая производительность на одной 24 ГБ видеокарте, большой текстовый контекст, ускорение speculative decoding и хорошие результаты в математике и программировании. Ограничения включают зависимость от специально исправленного runtime syv-ai и vLLM 0.27.1, необходимость соответствующей настройки MTP4, а также то, что 100K-профиль не использует мультимодальный ввод. Результат на MMMU validation составил 24,56% при 891 ограничении по максимальному числу выходных токенов, поэтому мультимодальные возможности и этот показатель следует интерпретировать осторожно. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct от команды Qwen — инструктивная языковая модель для программирования, построенная на архитектуре MoE. В репозитории Unsloth указаны 30,5 млрд параметров всего и 3,3 млрд активируемых; метаданные каталога указывают 2,6 млрд параметров. Модель поддерживает контекст до 262 144 токенов и работает в режиме без рассуждений (non-thinking). Модель предназначена для генерации и анализа кода, агентного программирования и сценариев использования браузера агентами. Она поддерживает интерфейс вызова инструментов и формат function calling, совместимый, в частности, с Qwen Code и CLINE. Длинный контекст позволяет работать с крупными репозиториями; в README также описано расширение контекста до 1 млн токенов с помощью Yarn. README рекомендует использовать актуальную версию Transformers и для llama.cpp указывает параметр --jinja. Заявлены исправления chat template от Unsloth. Модель распространяется по лицензии Apache-2.0. В README не приведены сведения о поддерживаемых естественных языках; результаты на конкретных задачах зависят от запроса и среды выполнения инструментов.

Qwen3-Coder-30B-A3B-Instruct — причинная языковая модель семейства Qwen3-Coder, разработанная командой Qwen. Представленная карточка относится к GGUF-версии Userb1az. Модель предназначена прежде всего для генерации и анализа кода, агентского программирования, работы с инструментами и агентского взаимодействия с браузером, а также для понимания репозиториев и выполнения задач разработки в средах вроде Qwen Code и CLINE. Модель использует mixture-of-experts (MoE) архитектуру: всего 30,5 млрд параметров, из которых при обработке активируются 3,3 млрд; предусмотрено 48 слоёв, 128 экспертов и 8 активируемых экспертов. Используется Grouped Query Attention с 32 головами запросов и 4 головами ключей/значений. Нативная длина контекста составляет 262 144 токена, а с применением YaRN может быть расширена до 1 млн токенов. Это текстовая модель без мультимодальных возможностей, поддерживающая только режим без рассуждений и не генерирующая блоки <think></think>. Языки в карточке явно не указаны. К сильным сторонам относятся заявленная производительность в задачах агентского программирования и browser-use, эффективная MoE-активация и большой контекст для работы с кодовыми базами. Ограничения включают необходимость значительных вычислительных ресурсов при работе с полным контекстом, возможные ошибки нехватки памяти и зависимость от совместимого программного обеспечения; для GGUF-версии конкретные требования к квантизации и аппаратному обеспечению не приведены. Модель распространяется по лицензии Apache-2.0.

giladgd/Qwen3-Coder-30B-A3B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct, преобразованная в формат GGUF с помощью llama.cpp через сервис GGUF-my-repo. В README не указано, кто именно разработал исходную модель, однако она основана на Qwen/Qwen3-Coder-30B-A3B-Instruct. Модель предназначена для генерации текста и, прежде всего, для задач, связанных с программированием, включая работу с кодом и использование в диалоговых приложениях. Модель рассчитана на локальный запуск с помощью llama.cpp и node-llama-cpp, в том числе через командную строку или серверный режим. Обозначение 30B указывает на класс модели примерно с 30 миллиардами параметров, а A3B и Q4_K_M относятся к характеристикам исходной архитектуры и применённой 4-битной квантизации соответственно. В README не приведены точные сведения о контекстном окне, языках, поддерживаемых модальностях и других архитектурных деталях. К сильным сторонам относятся совместимость с популярными локальными инструментами инференса и уменьшенные требования к памяти благодаря формату Q4_K_M. Ограничениями являются возможная потеря качества по сравнению с полной точностью и зависимость производительности от оборудования и настроек llama.cpp. Модель распространяется по лицензии Apache-2.0.

cyankiwi/Qwen3-Next-80B-A3B-Thinking-AWQ-4bit — 4-битная AWQ-квантизированная версия модели Qwen3-Next-80B-A3B-Thinking из семейства Qwen. Разработчик в README явно не указан; модель опубликована на базе Qwen/Qwen3-Next-80B-A3B-Thinking и предназначена для генерации текста с акцентом на сложные рассуждения, математические и программные задачи, многошаговое решение проблем и агентские сценарии. Это авторегрессионная causal language model с гибридной архитектурой Gated DeltaNet и Gated Attention, разреженной Mixture-of-Experts. Всего модель содержит 80 млрд параметров, из которых около 3 млрд активируются на каждом токене; 48 слоёв, 512 экспертов и 10 активируемых экспертов. Контекстное окно составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Поддерживается только thinking mode, а шаблон чата автоматически включает режим рассуждений. Языки и мультимодальные возможности в README не указаны. К сильным сторонам относятся высокая параметрическая и вычислительная эффективность, производительность на сложных задачах рассуждения, программирования, следования инструкциям и работы с инструментами, а также поддержка сверхдлинного контекста. Модель может генерировать особенно длинные рассуждения, поэтому она лучше подходит для комплексных задач, чем для сценариев, требующих минимальной задержки или кратких ответов. В README также не приведены требования к аппаратному обеспечению и подробные ограничения качества. Лицензия — Apache 2.0.

Anannta разработала R1-Coder-DARE-7B — объединённую методом TIES языковую модель для генерации кода и диалогового взаимодействия. В объединении использованы DeepSeek-R1-Distill-Qwen-7B как базовая модель и Qwen2.5-Coder-7B-Instruct; архитектура — плотная Qwen2, размер — 7,1 млрд параметров. Модель работает с текстом, поддерживает контекст до 131 072 токенов и доступна в форматах Safetensors и GGUF F16. Модель предназначена для генерации и анализа кода в инструкционном и чат-сценариях. Метаданные указывают задачу text-generation и возможность чата. Лицензия в предоставленных данных не указана.

supreme-vision-3b — мультимодальная модель для понимания изображений, разработанная SupremeAI для SupremeAI 2.0. Она дообучена на базе Qwen2-VL-3B-Instruct и предназначена для распознавания текста на изображениях, разбора снимков интерфейсов и анализа визуальных документов. Модель построена на архитектуре Qwen2.5-VL, содержит 3,1 млрд параметров, принимает изображения и текстовые запросы и формирует текстовые ответы. Нативный контекст — до 128 000 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

calme-2.1-phi3.5-4b — дообученная Maziyar Panahi языковая модель на архитектуре Phi-3.5 для диалогов и генерации текста. Она предназначена для систем ответов на вопросы, чат-ботов и виртуальных помощников, а также для создания и суммаризации текстов, генерации и анализа кода и решения задач. Модель дообучена на microsoft/Phi-3.5-mini-instruct с использованием набора данных MaziyarPanahi/truthy-dpo-v0.1-axolotl; содержит 3,7 млрд параметров и поддерживает контекст до 4096 токенов. Для диалога применяется шаблон ChatML. Репозиторий содержит веса в формате Safetensors; отдельно упомянута квантованная версия GGUF. Карточка приводит результаты отдельных оценок IFEval и BBH, но не даёт полной таблицы бенчмарков. Модель может наследовать смещения и ограничения базовой языковой модели, поэтому для важных решений нужны проверка ответов и человеческий контроль. Лицензия — MIT.

CodeGeeX4-ALL-9B — открытая многоязычная модель генерации кода, разработанная командой THUDM и дообученная на базе GLM-4-9B. Модель предназначена для помощи в разработке программного обеспечения: автодополнения и генерации кода, ответов на вопросы по программированию, работы в режиме интерпретатора кода, веб-поиска, вызова функций и ответов на вопросы по репозиториям. Представленная версия распространяется в формате GGUF и рассчитана на локальный запуск с совместимыми инструментами, включая llama.cpp. Модель содержит около 9 миллиардов параметров, поддерживает китайский и английский языки и имеет контекст длиной до 128K токенов. Заявлена поддержка различных сценариев генерации кода и конкурентоспособные результаты на публичных бенчмарках, включая HumanEval, MBPP, BigCodeBench и NaturalCodeBench. К сильным сторонам относятся сочетание качества генерации, широкого контекста и относительно высокой скорости вывода при размере менее 10 миллиардов параметров. README не указывает поддерживаемые модальности помимо текстового ввода и вывода, а также не приводит подробностей об ограничениях, безопасности или качестве работы в отдельных языках программирования. Веса распространяются по специальной лицензии CodeGeeX4; точные условия необходимо уточнять в файле лицензии по ссылке, указанной разработчиками.

CodeLlama-13B-Instruct-fp16 — версия весов Code Llama 13B-Instruct от Meta в формате Transformers/Hugging Face, подготовленная TheBloke конвертацией исходных весов Meta в формат HF. Это авторегрессионная плотная трансформерная языковая модель семейства Llama с 12,9 млрд параметров, обученная следовать инструкциям и предназначенная для более безопасного использования в помощниках по программированию и генерации кода. Модель принимает и выдаёт текст. Она подходит для генерации и объяснения кода, ответов на вопросы о программировании и выполнения инструкций на английском языке и языках программирования. Для этой версии в метаданных указан контекст 16 384 токена; README отмечает, что варианты Code Llama обучались на последовательностях до 16K токенов и допускают более длинный контекст при инференсе. Для корректной работы этих весов fp16 README требует загрузки с trust_remote_code=True. Модель может выдавать неточный или нежелательный код и ответы, поэтому результаты требуют проверки и настройки под конкретное применение. Лицензия — специальная лицензия Llama 2; коммерческое использование регулируется её условиями.