II.4Отладка, тестирование и качество ПО

Gemini 3.8 Flash — модель Google из семейства Gemini Flash. В карточке указаны улучшения по сравнению с Gemini 3.7 Flash в задачах разработки программного обеспечения, агентных сценариях и многошаговых рассуждениях. Метаданные каталога классифицируют модель как image-text-to-text. Имеющихся сведений недостаточно, чтобы описать её размер, контекст, языковую поддержку, условия лицензии или ограничения; эти характеристики здесь не предполагаются.

Andycurrent/gemma-3-12b-it-uncensored-GGUF — производная instruction-tuned модель Gemma 3 с 12 млрд параметров, разработанная на базе Google Gemma 3 12B IT. Базовую архитектуру разработала Google, а кураторство и выпуск этой версии указаны за BrainDAO. Репозиторий также содержит вариант Vision-Language Model (VLM), поддерживающий работу с изображениями и текстом. Модель предназначена для общего ассистирования, диалогов, следования инструкциям, логического и аналитического рассуждения, написания и отладки кода, исследовательского анализа, агентных сценариев с инструментами, а для VLM-варианта — для описания изображений, визуальных вопросов и ответов и мультимодального общения. Заявлена поддержка английского языка. Модель ориентирована на локальное и приватное развертывание; для работы следует использовать формат инструкций Gemma, а VLM-вариант требует мультимодального формата входных данных, поддерживаемого конкретным inference-фреймворком. Ключевая особенность версии — минимальные дополнительные ограничения выравнивания: заявлено отсутствие специально добавленных слоёв безопасности, отказов и alignment-ограничений сверх базовой модели. Это может дать больше контроля над системными промптами и меньше искусственных отказов, но одновременно означает необходимость самостоятельной оценки рисков, фильтрации и безопасного применения. Ограничения включают отсутствие дополнительных гарантий безопасности, а также потенциальную зависимость возможностей и производительности от используемого варианта, GGUF-квантизации и среды инференса; подробности о размере контекста и конкретных параметрах квантизации в README не указаны. Модель распространяется по пользовательской Gemma License, унаследованной от базовой модели Google. Это не Apache-2.0, MIT или другая стандартная open-source-лицензия; перед использованием, распространением или встраиванием необходимо ознакомиться с условиями Gemma License и соблюдать применимое законодательство.

gemma-4-A4B-98e-v7-coderx-it-GGUF — квантованная версия модели ManniX-ITA/gemma-4-A4B-98e-v7-coderx-it, разработанная автором ManniX-ITA и распространяемая в формате GGUF. Модель предназначена прежде всего для генерации и анализа кода, задач рассуждения и мультимодальных сценариев с обработкой текста и изображений. Заявлена поддержка английского языка. Модель построена на архитектуре Gemma4 с разреженной MoE-структурой: общий размер составляет около 20,45 млрд параметров, из которых активно используется около 4 млрд. Для мультимодальной работы доступна общая vision-башня Gemma 4 SigLIP в файле mmproj-gemma4.gguf; она не подвергалась pruning. В репозитории представлены варианты квантования от CD-Q2_K до F16, с размерами файлов примерно от 8,82 до 21,16 ГБ. Квантования созданы с использованием imatrix и калибровочных данных v5. По приведённым тестам HumanEval+ и MultiPL-E-100 варианты модели показывают высокое качество генерации кода: лучшие результаты достигают 93,29% на HumanEval+ и 91,33% на MultiPL-E-100. Q4_K_S рекомендуется как наиболее эффективный K-вариант, IQ4_NL — как компактный вариант, а CD-Q2_K — как минимальный по размеру вариант с сохранением приемлемого качества. Ограничения включают значительные требования к дисковому пространству, отсутствие данных о длине контекста и неполную информацию о поддерживаемых языках и производительности вне указанных тестов. Модель распространяется по лицензии Apache-2.0.

GLM-4.5-Air-FP8 — языковая foundation-модель для интеллектуальных агентов, разработанная организацией zai-org, связанной с Zhipu AI. Она предназначена для агентных приложений, требующих рассуждений, генерации и анализа кода, использования инструментов и выполнения сложных многошаговых задач. Модель поддерживает английский и китайский языки и относится к классу text-generation-моделей на базе Transformers. Модель имеет гибридный режим рассуждений: thinking mode предназначен для сложного анализа и работы с инструментами, а non-thinking mode — для быстрых ответов. Архитектура использует разреженную активацию параметров: всего 106 млрд параметров, из которых активно 12 млрд. Данная версия использует формат FP8, ориентированный на более эффективное хранение и инференс по сравнению с полноразмерными представлениями. Размер контекстного окна в README не указан. Сильными сторонами модели являются сочетание рассуждений, программирования и агентных возможностей, а также более компактная конфигурация по сравнению с GLM-4.5 при сохранении конкурентных результатов на заявленных бенчмарках. Ограничения связаны с высокими требованиями к инфраструктуре: для полнофункционального запуска указана серверная память свыше 1 ТБ и GPU-конфигурации с несколькими H100 или H200; точные требования зависят от режима и фреймворка инференса. Модель распространяется по лицензии MIT, допускающей коммерческое использование и вторичную разработку.

Карточка модели Ares-Realm-Studios/Hy4-preview на Hugging Face совпадает с карточкой tencent/Hy4-preview, поэтому описание составлено по ней. Hy4 preview — языковая модель поколения Hy4, разработанная командой Tencent Hy. README описывает её как модель Mixture-of-Experts с 770 млрд параметров в основной части и 49 млрд активируемых параметров на токен; встроенный слой MTP предназначен для ускорения спекулятивного декодирования. Метаданные Hugging Face указывают архитектуру HYV4ForCausalLM, библиотеку Transformers, 33,9 млрд параметров и контекст до 1 048 576 токенов; эти значения расходятся с характеристиками в README. Модель предназначена для диалоговой генерации текста и сложных задач: разработки и отладки программ, работы с документами и таблицами, анализа данных, создания прототипов игр и решения научных задач. В README также заявлены сценарии подготовки презентаций и финансовых моделей. Указанная в карточке лицензия — Apache-2.0. Это ранняя preview-версия. Известные ограничения — избыточно долгие рассуждения на сложных задачах и склонность чрезмерно перепроверять результат.

Hy4 preview — языковая модель поколения Hy4, разработанная командой Tencent Hy. README описывает её как модель Mixture-of-Experts с 770 млрд параметров в основной части и 49 млрд активируемых параметров на токен; встроенный слой MTP предназначен для ускорения спекулятивного декодирования. Метаданные Hugging Face указывают архитектуру HYV4ForCausalLM, библиотеку Transformers, 33,9 млрд параметров и контекст до 1 048 576 токенов; эти значения расходятся с характеристиками в README. Модель предназначена для диалоговой генерации текста и сложных задач: разработки и отладки программ, работы с документами и таблицами, анализа данных, создания прототипов игр и решения научных задач. В README также заявлены сценарии подготовки презентаций и финансовых моделей. Указанная в карточке лицензия — Apache-2.0. Это ранняя preview-версия. Известные ограничения — избыточно долгие рассуждения на сложных задачах и склонность чрезмерно перепроверять результат.

unsloth/Kimi-K2.7-Code-GGUF — GGUF-квантизированная версия Kimi K2.7 Code, разработанная Moonshot AI и подготовленная Unsloth. Модель ориентирована на агентное программирование и выполнение сложных долгосрочных задач разработки программного обеспечения, включая сквозные рабочие процессы с кодом. По данным README, по сравнению с Kimi K2.6 она повышает качество на практических задачах и примерно на 30% сокращает расход токенов рассуждения. Модель использует архитектуру Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров. Она содержит 61 слой, 384 эксперта, из которых для каждого токена выбираются 8, механизм внимания MLA, активацию SwiGLU и словарь размером 160 тысяч токенов. Контекстное окно составляет 256 тысяч токенов. Также предусмотрен vision-энкодер MoonViT на 400 млн параметров, поэтому модель поддерживает обработку визуальной информации наряду с текстом и кодом. Главные сильные стороны — специализация на программировании, агентных сценариях, работе с длинным контекстом и высокая токеновая эффективность. Ограничениями являются очень большой общий размер модели и значительные требования к вычислительным ресурсам: согласно README, вариант UD-Q8_K_XL занимает около 595 ГБ, а характеристики конкретных GGUF-квантов могут отличаться. Модель распространяется по лицензии Modified MIT; точные условия следует проверять в прилагаемом файле лицензии.

Kimi K2-Instruct-0905 — языковая модель, разработанная Moonshot AI. Это обновлённая версия Kimi K2, ориентированная на агентное программирование, выполнение длительных задач и работу с инструментами. Модель особенно предназначена для разработки и анализа кода, задач coding agent, а также создания frontend-приложений с улучшенным вниманием к эстетике и практичности интерфейсов. Модель использует архитектуру Mixture-of-Experts (MoE) с 1 трлн общих параметров и 32 млрд активируемых параметров. Она содержит 61 слой, 384 эксперта, из которых для каждого токена выбираются 8, 64 attention head, механизм внимания MLA и функцию активации SwiGLU. Размер словаря составляет 160 тысяч токенов, а контекстное окно — 256 тысяч токенов, что подходит для анализа больших репозиториев и продолжительных многошаговых сценариев. README не указывает полный перечень поддерживаемых языков и модальностей; по представленным данным это языковая, а не мультимодальная модель. Сильные стороны модели — улучшенные результаты в задачах агентного программирования и поддержка очень длинного контекста. В README приведены результаты на SWE-Bench, SWE-Bench Multilingual, Multi-SWE-Bench, Terminal-Bench и SWE-Dev, однако они зависят от условий тестирования и не гарантируют аналогичную эффективность в каждом проекте. К ограничениям относятся высокая вычислительная сложность полной модели и необходимость специализированных inference-движков; рекомендованы vLLM, SGLang, KTransformers и TensorRT-LLM. Доступны checkpoint в формате block-fp8 и API с OpenAI- и Anthropic-совместимыми интерфейсами. Лицензия указана как modified MIT.

Карточка модели mingjun2026/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Карточка модели SmartManoj/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Laguna XS 2.1-FP8 — текстовая Mixture-of-Experts модель, разработанная poolside для агентного программирования и длительных рабочих процессов на локальном компьютере. Она предназначена для генерации и анализа кода, выполнения многошаговых задач с инструментами и работы в сценариях, требующих продолжительного контекста и межшагового рассуждения. Модель содержит 33 млрд параметров, из которых 3 млрд активируются для каждого токена, и включает 256 экспертов с одним общим экспертом. Архитектура состоит из 40 слоёв: 30 используют Sliding Window Attention с окном 512 токенов, а 10 — глобальное внимание; применяется смешанное соотношение SWA и глобального внимания 3:1, а также per-head gating и rotary scales. Контекстное окно составляет 262 144 токена. Модель работает в режиме text-to-text, поддерживает interleaved thinking между вызовами инструментов и позволяет включать или отключать режим рассуждений для отдельных запросов. Вариант FP8 использует FP8-квантизацию KV-кэша, что снижает требования к памяти. К сильным сторонам относятся компактность для модели такого класса, низкие требования к KV-кэшу, пригодность для локального запуска и специализация на агентных задачах разработки ПО. В README не указаны поддерживаемые языки программирования или естественные языки. Приведённые результаты зависят от конкретной методики оценки и параметров запуска; заявлены показатели 70,9% на SWE-bench Verified, 63,1% на SWE-bench Multilingual, 47,6% на SWE-Bench Pro и 37,5% на Terminal-Bench 2.0. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и модификацию для коммерческих и некоммерческих целей.

Laguna XS 2.1 — языковая модель Poolside для агентного программирования и длительных рабочих сценариев на локальном компьютере. Это текстовая модель text-to-text, представленная в формате GGUF для llama.cpp и совместимая с vLLM и SGLang. Она предназначена прежде всего для задач разработки программного обеспечения, включая работу с терминалом, вызов инструментов и многошаговое выполнение задач. Модель использует архитектуру Mixture-of-Experts: 33 млрд параметров всего, из которых 3 млрд активируются на каждом токене. В ней 40 слоёв, 256 экспертов и один общий эксперт; 30 слоёв используют sliding window attention с окном 512 токенов, а 10 — глобальное внимание. Поддерживаются интерleaved reasoning между вызовами инструментов, сохранение рассуждений и включение или отключение режима рассуждений для отдельных запросов. Контекстное окно составляет до 262 144 токенов, а KV-кэш хранится в формате FP8 для снижения требований к памяти. К сильным сторонам относятся сочетание большого общего числа параметров с малым числом активных параметров, поддержка длинного контекста, инструментального взаимодействия и локального запуска. Для локального использования рекомендована квантизация Q4_K_M размером 20,3 ГБ; полноточная версия BF16 занимает 66,9 ГБ. Ограничением является то, что поддержка Laguna XS 2.1 на момент публикации README ещё не включена в основную ветку llama.cpp и требует сборки из специальной ветки или pull request. Модель рассчитана на программную инженерию и агентные сценарии, поэтому её пригодность для других задач следует проверять отдельно. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях при соблюдении условий лицензии и политики допустимого использования Poolside.

Moe-4x7b-reason-code-qa — языковая модель NextAI Team для генерации ответов и кода. Она использует архитектуру Mixture of Experts на базе Mixtral и содержит 7,1 млрд параметров; модель доступна в формате Safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для помощи разработчикам и специалистам по данным: она может отвечать на технические вопросы, генерировать код, помогать с его проверкой и поддерживать обучение программированию. В карточке заявлено обучение на технической документации, открытом коде и вопросах с ответами Stack Overflow; среди языков в метаданных указан английский. Ответы могут зависеть от полноты контекста и формулировки запроса, а модель может воспроизводить смещения обучающих данных. Сгенерированный код и технические рекомендации требуют проверки. Лицензия — Apache-2.0.

Muse-Glimmer-30B-heretic — модифицированная версия мультимодальной модели Meta Muse-Glimmer-30B, подготовленная richardyoung с помощью воспроизводимого запуска Heretic. Это плотный трансформер с энкодером восприятия и примерно 29,6 млрд параметров: модель принимает текст и изображения и поддерживает диалог, управляемое рассуждение и вызов инструментов. Abliteration изменяет веса, ослабляя отказы модели без повторного обучения; в README указано, что выбран один из 200 вариантов с меньшим числом отказов при ограниченном отклонении от исходной модели. Модель предназначена для локальных агентов и сценариев, где нужно анализировать изображения вместе с текстом, планировать шаги, вызывать инструменты, писать и отлаживать код, создавать синтетические данные или оценивать ответы других моделей. Она может соглашаться на запросы, от которых исходная модель отказывается, поэтому ответы могут быть неточными, предвзятыми или нежелательными; многошаговое рассуждение ошибается, а качество на языках вне основного набора может снижаться. Видео не является целевой модальностью, аудио не поддерживается. Веса распространяются по Apache-2.0; README также указывает на политику использования исходной модели Meta, требования которой следует учитывать.

Ornith-1.5-35B-A3B-TQ3_4S — компактная сборка модели Ornith-1.5-35B-A3B в формате GGUF с квантизацией TurboQuant TQ3_4S. В карточке указана архитектура Qwen3.5-MoE: всего 35,9 млрд параметров, из которых около 3 млрд активны на токен. Модель предназначена для диалоговой генерации текста, программирования и вызова инструментов; исходная модель также поддерживает обработку изображений при подключении vision-проектора. Для запуска требуется специализированная сборка turbo-tan/llama.cpp-tq3, поддерживающая тип тензоров TQ3_4S. В локальных измерениях автора модель занимала 17 ГиБ и показывала высокую скорость декодирования на RTX 3090; приведённые результаты бенчмарков являются собственными измерениями автора карточки. Контекст запуска до 262 144 токенов указан в параметрах тестирования, но не подтверждён как штатный предел модели. Лицензия — MIT.

Parable-Granite-4.1-8B-Claude-Fable-5-GGUF — языковая модель AnkitAI, дообученная на базе IBM Granite 4.1 8B. Модель создана для многошаговых агентных сценариев: планирования, использования инструментов, работы с терминалом, программирования, отладки и рассуждений. Обучение проводилось на трассировках реальных сессий Claude Fable 5 и GPT-5.5, включая блоки рассуждений и взаимодействие с инструментами, а не на синтетических вопросах и ответах. Модель предназначена для генерации текста на английском языке и распространяется в формате GGUF для запуска через llama.cpp, Ollama и LM Studio; также доступна полноточная версия для vLLM, Transformers и дальнейшего дообучения. Выпуск содержит 8 миллиардов параметров и варианты квантования от Q4_K_M до Q8_0. Рекомендуемая версия Q4_K_M занимает около 4,8 ГБ и требует примерно 6 ГБ RAM или VRAM. В README указан контекст оценки 1 024 токена, а в примере llama-cpp-python используется контекст 8 192 токена. Ответы модель начинает с блока <think>, который рекомендуется удалять перед показом пользователю. К сильным сторонам относятся специализация на агентных задачах, программировании и терминальных сценариях, локальный офлайн-запуск и небольшой объём памяти для 8B-модели. На опубликованном тестовом разбиении дообученная модель показала test loss 0,617 против 2,030 у базовой Granite 4.1 8B; при строгой качественной проверке 20 из 34 ответов были полностью корректными, а 32 — корректными или частично корректными. Ограничения включают англоязычную специализацию, необходимость самостоятельно обрабатывать блоки рассуждений и отсутствие завершённого результата оценки function calling BFCL V3 из-за ограничения GPU-бюджета. Модель распространяется по лицензии Apache-2.0.

Meohan/Qwen2.5-Coder-3B-Instruct — языковая модель семейства Qwen2, ориентированная на генерацию текста и выполнение инструкций в сценариях, связанных с программированием. Модель опубликована пользователем Meohan на Hugging Face; сведения о разработчике и происхождении в README не приведены. Модель содержит около 3,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Она распространяется для использования через библиотеку Transformers; в метаданных также отмечены форматы safetensors и GGUF. Основной pipeline-тег — text-generation. Модель может применяться для генерации фрагментов программного кода, объяснения кода, помощи при рефакторинге и ответов на технические запросы в диалоговом формате. README не содержит результатов оценки, описания обучающих данных, сведений о языках, лицензии или подтверждённых характеристиках качества, поэтому перед использованием в продуктивных системах необходима самостоятельная проверка.

lmstudio-community/Qwen2.5-Coder-3B-Instruct-GGUF — это квантованная в формате GGUF версия Qwen2.5-Coder-3B-Instruct, разработанной командой Qwen. Квантование выполнено bartowski на основе llama.cpp, релиз b4014. Модель предназначена для генерации текста и кода, диалогового взаимодействия и использования в Code Agents. Модель имеет размер 3B параметров и поддерживает контекст до 32K токенов. При обучении использовалось до 5,5 триллиона токенов, включая исходный код, данные для выравнивания текста и кода, а также синтетические данные. В метаданных указано английское языкoвое направление. Формат GGUF и совместимость с llama.cpp делают модель подходящей для локального запуска в приложениях, поддерживающих этот формат. К сильным сторонам относятся специализация на программировании, большой контекст и адаптация к сценариям с агентами для работы с кодом. Ограничениями являются относительно небольшой размер по сравнению с крупными моделями, возможные потери качества из-за квантования и стандартный риск генерации неточного, небезопасного или ошибочного кода. В README указана лицензия qwen-research; точные условия следует проверять в оригинальной лицензии Qwen.

Qwen3.5-122B-A10B Claude-Distill — мультимодальная модель, созданная clzoro полным дообучением Qwen/Qwen3.5-122B-A10B на примерах рассуждений, дистиллированных из Claude Opus. Она предназначена для диалогов и многошаговых задач по математике, логике, программированию, STEM и творческому письму; унаследованные возможности зрения позволяют также работать с изображениями. Модель использует архитектуру Qwen3.5 MoE с 122 млрд параметров, из которых активны около 10 млрд на токен, и поддерживает английский и китайский языки. Обучение основано примерно на 14,9 тыс. примеров. Это помогает модели решать задачи с многошаговыми рассуждениями, но небольшой и ограниченный по составу набор данных может снижать качество обобщения. Ответы могут наследовать смещения обучающих данных; медицинскую, юридическую и финансовую информацию следует проверять. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-24.5B-Reapped-v1 — текстовая MoE-модель для генерации текста и диалогов, опубликованная groxaxo. Она основана на Qwen3.5 MoE A3B из линейки Heretic: алгоритм REAP сократил число экспертов с 256 до 180, а объединённая с весами rank-16 QLoRA донастройка специализирует модель на программировании и агентных сценариях. В модели около 24,5 млрд параметров, примерно 3 млрд активны на токен; архитектура включает слои DeltaNet с линейным вниманием, полное внимание и MoE-блоки. Для запуска указана длина контекста 8 192 токена, хотя базовая модель поддерживает существенно больший контекст. Модель рассчитана на генерацию кода, помощь в программировании и агентные диалоги; также её можно использовать для локального или размещённого inference и открытых экспериментов. README сообщает о проверенном запуске на vLLM от версии 0.23.0, в том числе на трёх GPU по 24 ГБ в bf16. Донастройка затрагивала проекции внимания и DeltaNet, но не экспертов. Модель унаследовала смещения и uncensored-поведение базовой линейки; удаление экспертов может ухудшить результаты за пределами программирования и агентных задач. Лицензия Apache-2.0.

Карточка модели Taewhoo/qwen3.6-27b-proteomics-rl-step10 на Hugging Face совпадает с карточкой Qwen/Qwen3.6-27B, поэтому описание составлено по ней. Qwen3.6-27B — открытая модель с весами от команды Qwen, представленная как постобученная модель в формате Hugging Face Transformers. Это причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров; она поддерживает чат и интерфейс вызова инструментов. Модель предназначена для программирования, агентных сценариев и работы с изображениями, а README также описывает ввод видео. Указанная длина контекста — 262 144 токена с возможностью расширения до 1 010 000 токенов. В README отмечены задачи на уровне репозитория, разработка интерфейсов и сохранение контекста рассуждений между сообщениями. Модель можно запускать через Transformers и использовать с vLLM, SGLang и KTransformers; для высоких нагрузок авторы рекомендуют специализированные серверы инференса. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.

Карточка модели Svenuks/Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic на Hugging Face совпадает с карточкой medismera/Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic, поэтому описание составлено по ней. medismera представил производную модель Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic на основе слияния Qwen3.8-27B-OBLITERATED и Qwen/Qwen3.8-27B. Это плотная модель семейства Qwen3.5 с 27 млрд параметров для диалоговой генерации текста и работы в агентных сценариях. В карточке заявлены шаблон чата с поддержкой вызова инструментов, разбиение задач на иерархические этапы, протокол самопроверки рассуждений и контекст до 131 072 токенов; максимальная длина генерации указана как 16 384 токена. Модель предназначена для программирования, анализа системных журналов и телеметрии, многошаговых технических задач и взаимодействия с инструментами через совместимые агентные среды. Указаны английский, китайский и арабский языки. Репозиторий описывает веса в формате Safetensors и приводит варианты BF16, FP8 и AWQ в ветках; для запуска рекомендуются SGLang и vLLM. Лицензия — Apache-2.0. Заявления README о качестве вызова инструментов, результатах бенчмарков и отсутствии отказов приведены автором и не являются независимой оценкой. Это текстовая модель: метаданные не указывают вход или выход изображений, несмотря на мультимодальные возможности базовой модели.

Qwen3-Coder-30B-A3B-Instruct GGUF — квантизированная версия модели Qwen/Qwen3-Coder-30B-A3B-Instruct, подготовленная ByteShape с использованием ShapeLearn. Этот метод подбирает тип данных для отдельных тензоров, чтобы сохранить высокое качество при малой разрядности. Модель предназначена прежде всего для генерации и анализа программного кода, а также сценариев, связанных с вызовом функций; это отражено в используемых при оценке бенчмарках HumanEval, LiveCodeBench и BFCL-V3. Модель распространяется в формате GGUF и предназначена для локального запуска, в частности через llama.cpp и Ollama. Доступны варианты для CPU с преимущественно KQ-квантизацией и для GPU с гибридным подходом KQ/IQ. Размер файлов составляет примерно от 10,1 до 16,0 ГБ, а средняя разрядность — от 2,65 до 4,20 бит на вес, что позволяет выбирать баланс между скоростью, требованиями к памяти и качеством. README не содержит сведений о контекстном окне, поддерживаемых языках, точной архитектуре или мультимодальности. Сильными сторонами являются широкий выбор аппаратно-оптимизированных вариантов, низкие требования к памяти по сравнению с полной моделью и возможность локального использования. Ограничением выступает компромисс между степенью квантизации и качеством: более компактные варианты могут уступать более крупным по точности, а фактическая производительность зависит от оборудования и выбранного файла. Модель распространяется по лицензии Apache-2.0.

Seed-Coder-8B-Instruct — инструкционно настроенная языковая модель для кода, размещённая Unsloth на Hugging Face и основанная на ByteDance-Seed/Seed-Coder-8B-Instruct. Это плотная причинная модель архитектуры Llama с 7,6 млрд параметров, предназначенная для генерации, объяснения и редактирования кода по запросам на естественном языке. Карточка описывает предварительное и последующее обучение на открытых и синтетических данных; контекст составляет 32 768 токенов. Модель подходит для помощи при программировании, рассуждений о коде и задач программной инженерии. В README заявлены сравнительные результаты среди открытых моделей сопоставимого размера на тестах кода. Репозиторий использует формат safetensors и библиотеку Transformers; указана лицензия MIT.

AlchemistCoder-CL-7B — языковая модель для генерации кода из серии AlchemistCoder, разработанной авторами исследования о настройке кодовых моделей на данных из нескольких источников. Модель основана на архитектуре Llama и содержит 6,6 млрд параметров; максимальная длина контекста — 16 384 токена. Доступны веса в формате PyTorch, лицензия — Apache-2.0. Модель дообучена на 200 млн токенов разнотипных данных с помощью AlchemistPrompts, предназначенных для согласования стилей и качества источников. Помимо генерации кода, обучение включало задачи понимания кода: развитие инструкций, фильтрацию данных и ревью кода. Авторы также сообщают об улучшениях в общих задачах рассуждения и знаний, но основное назначение модели — работа с кодом.

DeepSeek Coder 7B Instruct v1.5 GGUF — это набор GGUF-квантованных версий модели DeepSeek Coder 7B Instruct v1.5, разработанной DeepSeek и преобразованной для локального запуска в репозитории Edmon02. Модель предназначена прежде всего для генерации и редактирования кода, работы локальных ассистентов в IDE и CLI, автономных агентов и офлайн-разработки без API-ключей. Для запуска подходят llama.cpp, LM Studio, KoboldCPP, llamafile и другие GGUF-совместимые среды. Модель относится к семейству архитектур LLaMA, имеет размер 7B параметров и поддерживает контекст до 4096 токенов. Это текстовая instruct-модель с шаблоном общения через секции «### Instruction» и «### Response». В репозитории представлены 14 вариантов квантования IQ и K, включая Q2_K, Q4_K_M, Q6_K и Q8_0, с размером примерно от 2,5 до 7,35 ГБ. Q4_K_M позиционируется как оптимальный баланс качества и размера, а Q8_0 — как вариант с наивысшим качеством среди доступных. Сильными сторонами являются возможность автономного запуска, широкий выбор квантований под разные объёмы VRAM и специализация на задачах программирования. Ограничения включают контекст 4096 токенов, возможное снижение точности синтаксиса у низкобитных квантований на длинном коде, небольшие различия между версиями квантования и отсутствие гарантированного соответствия облачным API DeepSeek. Модель не предназначена для тонкой настройки непосредственно в формате GGUF и может отказываться от запросов, не связанных с кодом. Лицензия указана как other с названием deepseek; подробные условия приведены в лицензии DeepSeek.

DeepSeek-Coder-V2-Lite-Instruct-FP8 — это квантизированная версия модели DeepSeek-Coder-V2-Lite-Instruct, разработанная Neural Magic. Модель принимает текст и генерирует текст; она предназначена для коммерческого и исследовательского использования, прежде всего для англоязычного ассистентского диалога и задач генерации кода. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP8, что примерно вдвое снижает требования к дисковому пространству и памяти GPU по сравнению с 16-битным представлением. Используется симметричная поэлементно-тензорная квантизация, при этом экспертные шлюзы сохраняют исходную точность. Модель оптимизирована для инференса через vLLM версии 0.5.2 и новее; в документации указан максимальный контекст 4096 токенов. Входная и выходная модальности — текст, основной заявленный язык — английский. Модель сохраняет близкую к исходной точность при меньших требованиях к ресурсам: на HumanEval+ указано 79,60 балла против 79,33 у неквантизированной версии, а базовый pass@1 составляет 79,3 против 80,8. Ограничения включают специализацию на английском языке и недопустимость использования на других языках согласно описанию модели; качество также может зависеть от особенностей FP8-квантизации и используемого движка. Модель распространяется по лицензии deepseek-license, условия которой определены в лицензии DeepSeek.

casperhansen/deepseek-r1-distill-llama-70b-awq — это 4-битная AWQ-квантизованная версия DeepSeek-R1-Distill-Llama-70B, опубликованная пользователем casperhansen на Hugging Face. Исходную модель разработала DeepSeek-AI: она создана на базе Llama-3.3-70B-Instruct и дообучена на примерах рассуждений, сгенерированных DeepSeek-R1. Модель предназначена для текстовой генерации, диалогов и решения задач, особенно связанных с математикой, программированием и многошаговым рассуждением. Архитектура — LlamaForCausalLM с примерно 71 млрд параметров, 80 слоями, 64 attention heads и 8 key-value heads. Репозиторий содержит веса в формате Safetensors с 4-битной AWQ-квантизацией; конфигурация указывает контекст до 131072 токенов и вычисления в bfloat16. Это текстовая, а не мультимодальная модель. Квантизация уменьшает требования к памяти и делает локальное развертывание практичнее, но может приводить к некоторой потере качества по сравнению с исходными весами; для полноценного запуска всё равно требуются значительные вычислительные ресурсы. Исходная DeepSeek-R1-Distill-Llama-70B показывает сильные результаты в математике, кодировании и задачах рассуждения, однако официальные показатели относятся к исходной, а не обязательно к данной AWQ-версии. Репозиторий производной модели указывает лицензию MIT. При этом исходная модель базируется на Llama-3.3-70B-Instruct, для которой также действуют условия лицензии Llama 3.3.

DNA 3.0-397B-A17B — дообученная Dnotitia мультимодальная модель Mixture-of-Experts на базе Qwen/Qwen3.5-397B-A17B. Она предназначена для диалогов и рассуждений, агентного программирования, работы с инструментами, анализа изображений и видео, а также сценариев, связанных с корпоративными знаниями и продуктами Dnotitia. Архитектура сочетает разреженные MoE-слои с линейным вниманием Gated DeltaNet; всего в модели 397 млрд параметров, активны 17 млрд. Контекст составляет 262 144 токена, с расширением примерно до 1 010 000 через YaRN. Модель заявляет поддержку 201 языка и диалекта, с особым вниманием к корейскому языку и корпоративным сценариям. Дообучение включает корпоративную персону Dnotitia, более широкое следование запросам с меньшим числом отказов и сохранение цепочек рассуждений в многошаговом диалоге. Поддерживаются режим рассуждений и интерфейс вызова инструментов; для развёртывания доступны Transformers и движки vLLM, SGLang и KTransformers. Лицензия — Apache-2.0. Для обслуживания модели такого размера рекомендуется мног GPU-серверная инфраструктура. Модель может давать ответы с корпоративным уклоном при обсуждении Dnotitia, реже отказывается на чувствительные запросы и наследует ограничения базовой модели, включая возможные предвзятость и языковые пробелы. Возможны галлюцинации, особенно на узкоспециальные, актуальные и требующие высокой числовой точности темы; для ответственных решений необходима проверка человеком.

Endy-Qwen3.6-CyberSec-35B-A3B-GGUF — локальная GGUF-модель, созданная на основе huihui-ai/Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated. Это QLoRA-файнтюн, специализированный на программировании, задачах IT и кибербезопасности, включая анализ уязвимостей, пентестинг и безопасную разработку. Модель позиционируется как uncensored и предназначена для авторизованных исследований безопасности, обучения и локального запуска. Архитектура qwen3_5_moe сочетает MoE примерно с 35 млрд общих параметров и около 3 млрд активных, линейное внимание DeltaNet, native MTP и поддержку vision. Для работы с изображениями требуется парный файл mmproj; заявлена поддержка английского языка. Доступны квантизации от Q8_0 до Q2_K объёмом примерно от 37,8 до 13,2 ГБ; для GPU с 32 ГБ рекомендуется Q5_K_M. Указан контекст до 262 144 токенов и скорость около 57 токенов в секунду на Tesla V100. Сильными сторонами являются специализация на коде и кибербезопасности, поддержка текстовых и визуальных входов, экономичное MoE-вычисление и возможность локального инференса. Ограничения включают снижение качества на низких уровнях квантизации, склонность к повторениям в длительных агентных задачах и отсутствие поддержки speculative decoding и prefix-KV reuse. Модель распространяется по лицензии AGPL-3.0; использование должно соответствовать законодательству и ограничениям, связанным с происхождением части обучающих данных.