II.4Отладка, тестирование и качество ПО

Карточка модели yijuchen/Kimi-K3-RoutedMXFP4-FP8PTPC на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Lacaille-MoT-4B-Supreme2 — языковая модель prithivMLmods на архитектуре Qwen3, дообученная на базе prithivMLmods/Qwen3-4B-ft-bf16. Модель содержит 3,7 млрд параметров и рассчитана на контекст до 40 960 токенов; веса представлены в формате safetensors. Она дообучена на Mixture of Thoughts с кластерами по программированию, математике и естественным наукам, а также на наборе данных для рассуждений о коде. Модель предназначена для генерации текста в технических сценариях: написания и анализа кода, решения математических задач, объяснения научных понятий и создания структурированных материалов в LaTeX, Markdown, JSON, CSV и YAML. Она поддерживает диалог и интерфейс вызова инструментов. В карточке заявлена поддержка английского языка; перечень языков программирования отдельно не уточняется. Разработчик позиционирует модель как компактную для запуска на GPU среднего уровня и в автономных средах. Ограничения: она ориентирована на технические и символьные задачи, может хуже справляться с общим разговором и длинным творческим текстом, а контекст может быть недостаточен для анализа нескольких документов или больших кодовых баз. Лицензия — Apache-2.0.

QuantFactory/Llama3-8B-Instruct-Replete-Adapted-GGUF — квантизированная версия модели Replete-AI/Llama3-8B-Instruct-Replete-Adapted, созданная с использованием llama.cpp. В её основе лежит Meta-Llama-3-8B-Instruct с адаптером Replete-AI/Replete-Coder-Llama3-8B. Модель дообучена Rombodawg и распространяется в формате GGUF для запуска средствами, совместимыми с llama.cpp. Модель предназначена прежде всего для генерации и анализа кода, перевода между языками программирования, задач, связанных с безопасностью и поиском уязвимостей, математических рассуждений и function calling. Согласно README, она также рассчитана на общее текстовое использование и поддерживает более 100 языков программирования. Обучающие данные включали примерно 25% общих инструкций и 75% инструкций по программированию; общий объём заявлен как около 3,9 млн строк, 1 млрд токенов или 7,27 ГБ данных. К сильным сторонам относятся специализация на программировании, широкий охват языков, возможности перевода кода, математические и общие инструкционные сценарии, а также возможность запуска на относительно ограниченных аппаратных ресурсах благодаря размеру базовой модели и квантизации. При этом README не указывает точный вариант квантизации, размер контекста, поддерживаемые естественные языки, конкретные требования к памяти и результаты большинства заявленных тестов; известный показатель HumanEval pass@1 составляет 0,6468. Модель описана как uncensored. Указана лицензия llama-3 с дополнительным типом license: other; применимые условия следует уточнять по лицензии Meta Llama 3.

Mellum2-12B-A2.5B-Claude-4.6-4.8-Opus-Thinking-GGUF — это GGUF-квантизированная версия модели на базе JetBrains Mellum2-12B-A2.5B-Thinking, опубликованная пользователем yuxinlu1. Модель ориентирована на программную инженерию, генерацию и анализ кода, решение технических задач и рассуждения. По данным карточки, она дополнительно настроена на reasoning-трассах Claude Opus 4.6, 4.7 и 4.8 и формирует рассуждения в блоках <think> перед ответом. Модель использует архитектуру Mixture-of-Experts: всего около 12,15 млрд параметров, из которых 2,5 млрд активируются для каждого токена. В архитектуре указаны 28 слоёв, 64 эксперта и 8 активных экспертов, а максимальная длина контекста составляет 131K токенов. Это текстовая causal language model без мультимодальности. Доступны квантизации Q2_K, Q4_K_M, Q6_K и Q8_0; рекомендуемым вариантом названа Q4_K_M. Поддерживаются локальный запуск через llama.cpp, а также приложения LM Studio, Jan и Ollama при наличии актуальной поддержки архитектуры mellum2. К сильным сторонам относятся высокая скорость генерации, локальная работа без API и облачных сервисов, большой контекст и сравнительно небольшое число активных параметров на токен. Для Q4_K_M заявлена скорость около 440 токенов в секунду на RTX 5090, однако этот показатель зависит от оборудования и настроек. Ограничения включают необходимость свежей версии llama.cpp с поддержкой mellum2, зависимость качества от выбранной квантизации и отсутствие в карточке независимых benchmark-результатов. Модель распространяется по лицензии Apache-2.0.

MiMo-V2.6-Pro-RL — флагманская модель серии MiMo-V2.6, разработанная Xiaomi и обученная с масштабированием обучения с подкреплением для агентных сценариев и самоулучшения. Она предназначена для генерации текста, программирования, работы с инструментами и задач, где агент взаимодействует со средой и оценивает результаты своих действий. Модель построена на разреженной архитектуре Mixture of Experts. В README указаны 1,02 трлн общих и 42 млрд активируемых параметров; метаданные репозитория указывают 27,7 млрд параметров и класс MiMoV2ForCausalLM. Контекст составляет до 1 млн токенов. Модель поддерживает текст, изображения, видео и аудио, а также интерфейс вызова инструментов. В карточке заявлены английский и китайский языки. Модель подходит для длительных агентных запусков, анализа визуальных и аудиовизуальных материалов, программирования и работы с длинными документами или репозиториями. README приводит результаты бенчмарков, но они не гарантируют качество на конкретных задачах; развёртывание рассчитано на специализированные средства инференса и мощное оборудование. Лицензия репозитория — MIT.

Moe-3x7b-QA-Code-Inst — текстовая модель nextai-team для ответов на вопросы и генерации кода. Она использует архитектуру Mixture of Experts семейства Mixtral; в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для разработчиков, специалистов по данным и исследователей, которым нужны помощник по программированию, технический бот или инструмент для обучения и проверки кода. В обучении, согласно карточке, использовались техническая документация, открытые репозитории кода и вопросы с ответами Stack Overflow. Модель поддерживает диалог и задачи, связанные с кодом; карточка указывает английский язык. Лицензия — Apache-2.0. Результаты могут быть предвзятыми и зависеть от точности и контекста запроса; сгенерированный код и ответы следует проверять. Карточка заявляет об улучшении по сравнению с предшественником, но не приводит метрик бенчмарков.

Dingdust/NeoHorse-1-9B-heretic — текстовая причинная языковая модель на архитектуре Qwen3.5, дообученная TokenRhythm на базе Qwen/Qwen3.5-9B и подготовленная для текстового инференса. Она рассчитана на диалог, следование инструкциям, программирование, рассуждения, использование инструментов и работу в агентных сценариях. По данным карточки, модель содержит 7,2 млрд параметров, поддерживает контекст до 262 144 токенов и распространяется в формате Safetensors; визуальные веса в этой версии отсутствуют. Модель предназначена для локального развёртывания через SGLang или vLLM с OpenAI-совместимым интерфейсом. В отчёте авторов приведено сравнение на десяти бенчмарках, однако примеры развёртывания для этой перепакованной версии ещё не проверены на GPU. Метаданные указывают лицензию Apache-2.0. Тег «heretic» и результаты теста отказов указывают на снижение частоты отказов по сравнению с исходной моделью, поэтому поведение при запросах с потенциально небезопасным содержанием может быть менее ограничительным.

Карточка модели AarthShah/Nex-N2-mini на Hugging Face совпадает с карточкой nex-agi/Nex-N2-mini, поэтому описание составлено по ней. Nex-N2-mini — открытая агентная языковая модель компании Nex-AGI, дообученная на базе Qwen3.5-35B-A3B-Base. Она предназначена для разработки программного обеспечения, вызова инструментов, выполнения задач в терминале и исследований с поиском, включая длительные рабочие процессы с обратной связью от среды. Модель объединяет планирование, реализацию, проверку и отладку; заявлены адаптивная глубина рассуждений и согласованный подход к разным агентным задачам. Модель доступна в формате safetensors, работает с библиотекой Transformers и поддерживает диалог. В README описана поддержка function calling и явных трасс рассуждений; для локального развёртывания Nex-AGI рекомендует собственную сборку sglang. Для Nex-N2-mini приведён пример запуска на сервере с двумя H100. Лицензия — Apache-2.0. README заявляет результаты на агентных и программных бенчмарках, но часть таблицы опущена, а подробные показатели Nex-N2-mini в доступном тексте ограничены. Модель ориентирована на сложные агентные сценарии, поэтому её практическая эффективность зависит от окружения, инструментов и вычислительных ресурсов.

NextCoder-7B — языковая модель для работы с программным кодом, разработанная Microsoft на основе Qwen2.5-Coder-7B-Instruct и дообученная методом SeleKT. Это причинная плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM; в метаданных указано 7,1 млрд параметров, а в README — 7,61 млрд. Контекст — до 32 768 токенов. Модель предназначена прежде всего для редактирования кода: она может предлагать правки и исправления в диалоговом режиме, сохраняя возможности генерации кода базовой модели. Подходит для интеграции в инструменты разработчика и сценарии работы с длинными фрагментами кода. Выпущена под лицензией MIT. В README отмечена уязвимость базовых моделей семейства QwenCoder к вредоносным запросам и возможность генерации потенциально опасного кода; авторы рекомендуют проверять результаты и запускать код в изолированной среде. Для загрузки требуется актуальная версия Transformers с поддержкой Qwen2.

O2-27B-Preview — предварительная модель с 27 млрд параметров, разработанная Ant International на базе Qwen3.5-27B. Это плотная модель семейства Qwen3.5, предназначенная для агентного рассуждения, работы с инструментами, разработки программного обеспечения и автоматизации офисных процессов. Модель обучали на взаимодействиях, собранных в исполняемых средах реальных рабочих процессов: она выполняла действия, получала результаты проверок и могла исправлять ошибки. Для постобучения применялся метод Runtime OPSD — дистилляция последовательностей на состояниях, посещённых самой моделью. По отчёту разработчика, модель улучшила результаты базовой Qwen3.5-27B в десяти из одиннадцати опубликованных тестов, однако результаты предварительные и не сопровождаются оценкой разброса между запусками или контролем вычислительных затрат. На SWE-bench Verified отмечено снижение результата относительно базовой модели. Проверки зависят от полноты спецификаций и могут пропускать ошибки или поощрять обходные решения; качество также зависит от инструментов и среды выполнения. Модель следует применять с изоляцией инструментов и независимой проверкой результатов. Лицензия — Apache-2.0.

Карточка модели open-thoughts/OpenThinker-Agent-v1-SFT на Hugging Face совпадает с карточкой baerquants/OpenThinker-Agent-v1-SFT, поэтому описание составлено по ней. OpenThinker-Agent-v1-SFT — модель baerquants, созданная в рамках открытого проекта OpenThoughts-Agent для выполнения агентных задач. Это этап supervised fine-tuning модели Qwen/Qwen3-8B: обучение проводилось на трассах OpenThoughts-Agent-v1-SFT, а последующее RL-дообучение есть в отдельной версии OpenThinker-Agent-v1. Модель с плотной архитектурой Qwen3ForCausalLM содержит 7,6 млрд параметров, принимает текст и генерирует текст; максимальная длина контекста — 40 960 токенов. Модель ориентирована на агентные сценарии разработки и работы в терминале: формирование shell-команд, выполнение задач Terminal-Bench и исправление программных ошибок, включая задачи по C# и Java из набора InferredBugs. В карточке проекта сообщаются результаты бенчмарков для версии после SFT и RL, а не этой SFT-версии отдельно. Репозиторий использует формат Safetensors, библиотеку Transformers и лицензию Apache-2.0.

Ornith-1.5-9B-MLX-4bit — 4-битная MLX-квантованная версия Ornith-1.5-9B, разработанная командой Ornith AI. Это плотная языковая модель примерно на 9 млрд параметров, ориентированная на эффективное развертывание на одной GPU; семейство также включает вариант для мобильных устройств. Модель предназначена для генерации текста и особенно хорошо подходит для программирования, работы с терминалом и решения задач по исправлению кода. В основе Ornith-1.5 лежит подход непрерывного самоулучшения: модель обучалась с совместной оптимизацией генерации задач, построения scaffold и rollouts решений с применением reinforcement learning. По заявленным результатам она показывает сильные показатели в Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro и SWE-bench Multilingual, превосходя Ornith-1.0-9B и Qwen3.5-9B в приведённых тестах. Ключевое преимущество данной версии — сниженные требования к памяти благодаря 4-битному квантованию и совместимость с MLX. В карточке указано, что основной язык модели — английский. Сведения о размере контекста, поддерживаемых модальностях помимо текста, точной базовой архитектуре, лицензии и ограничениях применения не приведены, поэтому их следует уточнять отдельно. Количественные результаты зависят от используемого окружения и конфигурации оценки.

TobiasLogic/Qwen2.5-Coder-32B-abliterated-GGUF — это квантованная в формате GGUF Q4_K_M версия модели TobiasLogic/Qwen2.5-Coder-32B-abliterated, созданной на основе Qwen/Qwen2.5-Coder-32B-Instruct. Модель предназначена прежде всего для генерации, анализа и редактирования программного кода, а также для локального текстового общения. Разработчик удалил из исходной fp16-модели направление отказа, связанное с безопасностными ограничениями, после чего выполнил 4-битную квантование с помощью llama.cpp. Модель поддерживает запуск на CPU и GPU через Ollama или llama.cpp. Размер файла составляет примерно 19–20 ГБ; модель рассчитана на запуск на одной видеокарте с 24 ГБ VRAM. В README явно указан английский язык, а максимальный контекст для примера запуска составляет 8192 токена, однако полный размер контекстного окна не указан. По результатам EvalPlus модель показывает 89,6% на HumanEval, 84,8% на HumanEval+, 91,3% на MBPP и 77,0% на MBPP+. Эти показатели близки к базовой модели в задачах программирования, но относятся к измерениям, выполненным разработчиком. Ключевая особенность модели — отсутствие исходного поведения, связанного с отказами: в указанной проверке доля отказов снизилась с 96,9% у базовой Qwen2.5-Coder-32B-Instruct до 0,0% у abliterated-версии. Это может расширять диапазон запросов, но одновременно увеличивает риски генерации вредного или небезопасного содержимого; модель не следует воспринимать как безопасную без дополнительного контроля. Распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

YTan2000 собрал вариант Qwen3.8-27B с квантованием TurboQuant TQ3_4S и форматом GGUF для запуска через специальную сборку llama.cpp-tq3. Модель предназначена для диалогов, генерации кода и многошаговых задач; с подключённым проектором mmproj поддерживает анализ изображений и видео. Веса основаны на Qwen/Qwen3.8-27B, в которой используются гибридная архитектура Gated DeltaNet и Gated Attention и обученные головы Multi-Token Prediction для ускорения генерации. В карточке указаны 27 млрд параметров у базовой модели, контекст до 262 144 токенов, размер файла 13,8 ГБ и квантование 4,24 бит на вес. Версия v2 включает исправленный шаблон чата для строковых аргументов инструментов и режима без рассуждений; для v1 требуется отдельно указать шаблон. README приводит результаты тестов генерации кода и скорости на RTX 3090, но они зависят от конфигурации запуска. Для работы требуется TurboQuant-версия llama.cpp; поддержка изображений и видео требует файла mmproj. Лицензия — Apache-2.0.

Qwimi-3.6-27B-Coder-MTP-BF16 — модель для программирования, созданная trjxter на основе Qwen3.6-27B и дообученная методом supervised fine-tuning на корпусе с примерами кода, вызова инструментов и агентных сценариев. Это плотная модель на 27,8 млрд параметров с гибридной архитектурой: слои стандартного внимания чередуются со слоями линейного внимания GatedDeltaNet. Репозиторий содержит веса BF16 в формате safetensors; модель использует библиотеку Transformers и лицензию Apache-2.0. Модель предназначена для генерации и объяснения кода, отладки, рефакторинга, вызова функций и многошаговой работы с репозиторием в стиле SWE-agent. Обучение было текстовым, с преобладанием кода; заявленные авторами сценарии включают выдачу рассуждений и работу с инструментами. Хотя базовая архитектура мультимодальна и поддерживает изображения, зрительная часть при дообучении была заморожена, а понимание изображений не проверялось. Основной подтверждённый язык карточки — английский. Автор сообщает, что контекст проверялся до 16 384 токенов; поведение на большей длине не проверено в этом обучении. Агентных данных было сравнительно мало, а длинные траектории свыше примерно 16 тысяч токенов исключались. В отдельных тестах модель улучшила результат на HumanEval и задачах вызова инструментов, но уступила базовой модели на MBPP; общие результаты ограничены размером и составом тестовых наборов. Лицензия — Apache-2.0.

Qwopus3.6-27B-Fusion-GGUF — экспериментальная модель от KyleHessling1, созданная объединением Qwopus3.6-27B-v2 с уклоном на рассуждения и Qwopus3.6-27B-Coder с уклоном на программирование. Обе родительские модели происходят от Qwen/Qwen3.6-27B. Модель предназначена для текстовой генерации, многошагового рассуждения и автономной разработки программного обеспечения, особенно для сценариев, где агент самостоятельно планирует, пишет код, запускает его и исправляет ошибки. Модель содержит 27 млрд параметров и 64 слоя, использует гибридную архитектуру qwen35 с линейным вниманием и периодическими слоями полного внимания. Нативный контекст составляет 262 144 токена; корректная работа проверена на контексте до 60 000 токенов. По умолчанию включён режим reasoning. Доступна версия GGUF с квантизацией Q4_K_M размером около 16,5 ГБ, рассчитанная на запуск через llama.cpp на одной видеокарте с 24–32 ГБ памяти. Поддерживается ввод изображений при использовании совместимого проектора Qwopus3.6-27B-Fusion-mmproj-Q8_0.gguf. В README указан английский язык. Сильные стороны модели — сочетание устойчивого рассуждения и генерации кода, хорошие результаты на HumanEval, MBPP и GSM8K, стабильное завершение генерации и способность работать как автономный агент программирования. Ограничения связаны с экспериментальным статусом и отсутствием полного строгого оценивания; результаты зависят от квантизации и режима работы. Лицензия указана как other с названием qwen и ссылкой на лицензию Qwen.

Replete-Coder-Qwen2-1.5b — дообученная Rombodawg модель семейства Qwen2 с 1,5 млрд параметров для генерации кода и ответов общего назначения. Она предназначена для написания и преобразования кода более чем на 100 языках программирования, помощи в вопросах безопасности кода и уязвимостей, математических задач и диалогового использования. Обучение проводилось на инструкционных данных: около 75% посвящено коду и 25% — задачам общего назначения; README описывает набор примерно из 3,9 млн строк и около 1 млрд токенов. Модель поддерживает диалоговый шаблон ChatML и вызов функций. Модель принимает текст и выдаёт текст. Метаданные указывают контекст до 131 072 токенов, однако README сообщает, что дообучение проводилось с окном 8 192 токена и качество при более длинном контексте не гарантируется. Указаны веса в формате safetensors и лицензия Apache-2.0. Заявление об отсутствии ограничений в обучающих данных отражает описание автора, но не гарантирует точность ответов или безопасное поведение модели.

Synthia-S1-27b — диалоговая мультимодальная модель Tesslate AI, дообученная на базе Gemma 3 27B IT. Она предназначена для рассуждений, программирования, творческого письма и ролевых сценариев; принимает текст и изображения и формирует текстовые ответы. В карточке заявлен контекст до 128 тысяч токенов и максимальная длина ответа 8192 токена. Архитектура — плотный decoder-only Transformer с 27 млрд параметров; указаны bf16 и int8-квантизация, а в репозитории доступен формат safetensors. Модель обучали на веб-документах, примерах отладки и решения задач по программированию, а также на математических решениях. Автор приводит результаты ограниченных проверок GPQA Diamond и части MMLU Pro и отмечает, что оценки требуют более полного бенчмаркинга. Лицензия — Gemma. Модель может требовать подробных инструкций для узких задач и иногда галлюцинирует в малоизученных областях.

Virtuoso-Lite — языковая модель для генерации текста, представленная командой arcee-ai. В метаданных указаны архитектура Llama и базовая модель Falcon3-10B-Base; карточка описывает модель как 10-миллиардную и сообщает о дистилляции знаний DeepSeek-V3. Репозиторий содержит веса safetensors для библиотеки Transformers, а контекст модели составляет 32 768 токенов. Модель предназначена для диалоговых помощников, генерации и отладки кода, математических и технических ответов, а также прототипов анализа данных и STEM-обучения. Карточка заявляет о логитной дистилляции примерно на 1,1 млрд токенов и последующем DPO-выравнивании. Модель поддерживает текстовый ввод и генерацию текста; заявлены возможности чата и интерфейс вызова инструментов. В README указана лицензия falcon-llm-license. Среди ограничений карточка отмечает возможную предвзятость и вредоносную генерацию, а также срез знаний примерно до июня 2024 года. Показатели бенчмарков приведены без подробностей о методике, поэтому их следует считать заявлениями авторов карточки.

WaveCoder-Pro-6.7B — языковая модель для программирования из серии WaveCoder, разработанной авторами работы «WaveCoder: Widespread And Versatile Enhanced Instruction Tuning with Refined Data Generation». Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 6,6 млрд параметров; она предназначена для генерации кода и выполнения инструкций по задачам программирования. Контекст составляет 16 384 токена, модель работает с текстом и выдаёт текст. Обучение проводилось на синтетических данных, созданных моделями OpenAI на основе подмножества CodeSearchNet. Данные охватывают генерацию, краткое описание, перевод и исправление кода. В README приведены результаты WaveCoder-Pro-6.7B на HumanEval, MBPP, HumanEvalFix и HumanEvalExplain; численные результаты являются оценками авторов карточки. Модель доступна под лицензией MIT. При использовании следует учитывать условия OpenAI, относящиеся к синтетическим данным и их наборам.

Карточка модели manaladan6/codegeex4-all-9b на Hugging Face совпадает с карточкой zai-org/codegeex4-all-9b, поэтому описание составлено по ней. CodeGeeX4-ALL-9B — открытая многоязычная модель генерации кода от команды CodeGeeX, созданная на базе GLM-4-9B путём продолженного обучения. Она предназначена для помощи в разработке программного обеспечения: генерирует и дополняет код, отвечает на вопросы о коде и репозиториях, а также поддерживает сценарии с интерпретатором кода, веб-поиском и вызовом функций. Модель имеет плотную архитектуру семейства ChatGLM и 11,4 млрд параметров; заявленная длина контекста — 131 072 токена. Карточка указывает поддержку китайского и английского языков, а примеры ориентированы на программирование, в том числе на Python. По README, CodeGeeX4-ALL-9B показывает конкурентные результаты на BigCodeBench и NaturalCodeBench и рассчитана на широкий набор задач разработки. Метаданные указывают формат safetensors и лицензию other; конкретные условия лицензии следует проверять в репозитории модели. Результаты для конкретных языков программирования и сценариев могут различаться; сама карточка не приводит подробных ограничений или гарантий качества.

CodeLlama 34B Python — языковая модель для генерации и решения задач программирования, разработанная Meta на базе CodeLlama 34B Python. Версия из этого репозитория преобразована TheBloke в формат GGUF и предназначена для локального запуска через llama.cpp и совместимые приложения и библиотеки. Модель имеет архитектуру LLaMA и размер 34 миллиарда параметров. Она ориентирована на работу с программным кодом и использует текстовый ввод и вывод; заявленный язык — code, без указания поддержки конкретных естественных языков. Модель подходит для написания кода по описанию задачи, соблюдения заданных ограничений и проверки решения на примерах. README не указывает размер контекстного окна и точные характеристики обучения. Ключевое преимущество версии — доступность нескольких вариантов квантования GGUF, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет выбирать компромисс между качеством, потреблением памяти и скоростью работы. Ограничения связаны с потерями качества при использовании более агрессивного квантования, высокой вычислительной нагрузкой 34-миллиардной модели и специализацией преимущественно на коде. Репозиторий распространяется по лицензии Llama 2.

Code-Mistral-7B — дообученная ajibawa-2023 модель для генерации кода и диалоговых ответов. Она основана на плотной архитектуре MistralForCausalLM с 7,1 млрд параметров и обучена в формате qLoRA на наборах Code-290k-ShareGPT, Code-Feedback, orca-math-word-problems-200k и OpenHermes. Для общения используется шаблон ChatML; заявленная длина контекста — 32 768 токенов. Модель предназначена прежде всего для написания и объяснения кода, а также может отвечать на математические вопросы. Автор отмечает хорошие результаты в программировании, но указывает, что математические ответы бывают нестабильными. Репозиторий содержит веса PyTorch и safetensors; для использования доступны также отдельные квантованные варианты GGUF и Exllama v2. Лицензия модели — Apache-2.0.

Cyber-Tiel-Coder-35B-A3B-GGUF-MTP — квантованная GGUF-модель, разработанная peculiar-ragdoll на базе Huihui-Ornith-1.5-35B-A3B-abliterated, которая, в свою очередь, основана на Ornith-1.5. Модель предназначена прежде всего для программирования, агентной разработки, автономного исправления ошибок в больших кодовых базах и задач offensive security. Она ориентирована на запуск через llama.cpp и рассчитана на локальное использование, в том числе на оборудовании с ограниченным объёмом VRAM. Модель использует архитектуру MoE класса 35B-A3B, динамическое повторное квантование с собственной cyber-weighted imatrix, шаблон чата Sharp и встроенную multi-token prediction head для speculative decoding. Доступна версия Q4 размером около 22 ГБ. В метаданных указаны английский и китайский языки, а также поддержка image-text-to-text и vision, однако подробности о мультимодальном вводе и максимальном контексте в README не приведены. К сильным сторонам относятся высокая скорость и специализация на агентном программировании: автор заявляет примерно в 3–4 раза более высокую скорость по сравнению с плотными моделями 3.8–27B, а также существенные результаты на SWE-bench-Live и Cybench. Abliteration удаляет стандартные отказы модели, поэтому она способна выполнять запросы, связанные с вредоносными или опасными сценариями, без ограничений. Это одновременно является существенным ограничением: модель требует изолированного, контролируемого и законного использования. Она хуже подходит для общих знаний, викторин и экзаменационных задач, поскольку специализация на кодировании достигается за счёт снижения соответствующих способностей. Модель распространяется по лицензии MIT.

Devstral-Small-2505 — языковая модель для агентной разработки программного обеспечения, созданная Mistral AI совместно с All Hands AI. Версия в этом репозитории дообучена на основе mistralai/Devstral-Small-2505; её архитектура — плотная MistralForCausalLM, размер — 23,4 млрд параметров. Модель принимает и генерирует текст, поддерживает вызов инструментов и контекст до 131 072 токенов. Модель предназначена для программных агентов, которые исследуют кодовые базы, редактируют несколько файлов и помогают решать задачи разработки. В README приведён результат 46,8% на SWE-bench Verified. Заявлена поддержка множества языков, включая русский, английский, французский, немецкий, испанский, китайский и японский; отдельный основной язык не выделен. Репозиторий распространяется под лицензией Apache 2.0, допускающей коммерческое и некоммерческое использование и модификацию. Модель текстовая, без обработки изображений. Для локального запуска и агентного сценария README рекомендует OpenHands и vLLM; фактическая производительность зависит от оборудования и конфигурации запуска.

Gemini 3.5 Flash — мультимодальная модель Google для работы с текстом и изображениями. В карточке она описана как высокопроизводительная модель уровня Flash, ориентированная на скорость и низкую стоимость при решении задач рассуждения и программирования. Модель подходит для анализа изображений и текста, помощи с кодом и сценариев с параллельным выполнением агентных задач. Подробности об архитектуре, размере, поддерживаемых языках, длине контекста и лицензии в предоставленных данных отсутствуют.

Карточка модели manaladan6/GLM-5 на Hugging Face совпадает с карточкой zai-org/GLM-5, поэтому описание составлено по ней. GLM-5 — большая языковая модель семейства GLM, разработанная zai-org для сложных задач разработки систем и длительных агентных сценариев. Модель предназначена для генерации текста, рассуждений, программирования и взаимодействия с инструментами в диалогах. В README заявлена версия на 744 млрд параметров, из которых 40 млрд активны; репозиторий Hugging Face содержит 30,4 млрд параметров. Эти данные расходятся, поэтому размер конкретной опубликованной сборки нельзя однозначно определить. Архитектура в метаданных обозначена как glm_moe_dsa, формат весов — safetensors, а нативная длина контекста составляет 202 752 токена. Поддерживаются английский и китайский языки. README сообщает об интеграции DeepSeek Sparse Attention для снижения стоимости развёртывания при сохранении длинного контекста, а также о сильных результатах в рассуждениях, программировании и агентных задачах. Модель можно запускать через Transformers и ряд других фреймворков; для использования инструментов описана настройка сервера vLLM. Лицензия — MIT. Указанные в карточке результаты бенчмарков являются заявлениями разработчика; фактическая производительность зависит от сценария и конфигурации.

granite-20b-code-instruct-IMat-GGUF — это GGUF-квантизированная версия модели granite-20b-code-instruct, разработанной IBM (ibm-granite) и подготовленной пользователем legraphista. Модель предназначена для генерации и объяснения программного кода, исправления ошибок, работы с инструкциями, математическими задачами, SQL и сценариями function calling. Указаны варианты квантования от 1 до 16 бит, включая конфигурации с IMatrix, оптимизированные для запуска через llama.cpp. Модель содержит около 20 млрд параметров и основана на исходном формате BF16. В README не указаны точная архитектура, максимальная длина контекста и полный перечень поддерживаемых языков, однако результаты оценки приведены для Python, JavaScript, Java, Go, C++, Rust и демонстрируют применимость к генерации, объяснению и исправлению кода. В тестах HumanEvalSynthesis показатель pass@1 составил от 42,1 до 60,4% в зависимости от языка; значения не верифицированы. Ключевое преимущество версии — возможность выбирать баланс между качеством, размером файла и требованиями к памяти благодаря множеству вариантов квантования и применению IMatrix. Ограничения связаны с потерями качества при низкой разрядности, отсутствием подробных сведений о контексте и мультимодальности, а также с тем, что приведённые метрики не подтверждены. Модель распространяется по лицензии Apache 2.0.

Hy3 preview — диалоговая модель Tencent Hy Team на архитектуре Mixture-of-Experts с поддержкой вызова инструментов. Она предназначена для сложных рассуждений, следования инструкциям, анализа длинного контекста, программирования и агентных сценариев, включая поиск и работу в среде разработки. В README указано 295 млрд параметров, из которых активны 21 млрд, а также дополнительные 3,8 млрд параметров MTP-слоя. Модель работает с текстом; заявленная длина контекста в метаданных — 262 144 токена. Для развёртывания README рекомендует vLLM или SGLang и серверное оборудование с большим объёмом памяти. Репозиторий содержит веса Safetensors, библиотека — Transformers. Tencent сообщает о результатах на тестах STEM и математики, следования инструкциям, кодирования и агентного поиска. Это предварительная версия, поэтому результаты бенчмарков не гарантируют качество в конкретных задачах. Лицензия обозначена как other; условия использования следует сверить с лицензией в репозитории модели.

INTELLECT-3 — языковая модель Prime Intellect для рассуждений, дообученная на базе GLM-4.5-Air-Base с помощью supervised fine-tuning и масштабного обучения с подкреплением. Это модель архитектуры Mixture-of-Experts: в README указано 106 млрд параметров, из которых 12 млрд активируются; метаданные репозитория указывают 8,5 млрд параметров. Поддерживает контекст до 131 072 токенов и представлена в формате safetensors. Модель предназначена для генерации текста и диалогового применения, особенно для решения математических задач, программирования и многошаговых рассуждений. README сообщает о высоких результатах на тестах MATH-500, AIME, LiveCodeBench и GPQA. Указан интерфейс для использования инструментов при обслуживании через vLLM. В карточке перечислены английский язык и лицензия MIT. Размер параметров в README и метаданных расходится; при планировании развёртывания это следует учитывать.