II.2Создание и понимание программного кода

K2-Horizon-32B — плотная авторегрессионная языковая модель с архитектурой K2HorizonForCausalLM, разработанная IFM. Модель содержит 31,2 млрд параметров и предназначена для генерации текста в диалогах, решения задач на рассуждение, программирование и сценариев с агентами. Для работы с чатом и вызовом инструментов предусмотрены соответствующие парсеры; основной pipeline-тег — text-generation. Модель поддерживает контекст до 524 288 токенов и опубликована в формате Safetensors для Transformers. В карточке указаны английский язык и открытая публикация обучающих данных, рецепта и кода обучения. Указанная лицензия — Apache-2.0. Для заявленного качества авторы рекомендуют высокий уровень рассуждений; для обслуживания описаны конфигурации vLLM и SGLang, включая использование двух ускорителей H200.

K2-Horizon-7B — плотная авторегрессионная языковая модель семейства K2-Horizon от IFM, предназначенная для генерации текста и диалогового взаимодействия. Модель имеет около 8 млрд параметров и поддерживает контекст до 524 288 токенов; карточка описывает её как 7B-core модель с окном контекста 512K. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель рассчитана на сценарии рассуждений, программирования, работы с длинным контекстом и агентных задач; README приводит результаты оценки на соответствующих бенчмарках и описывает обучение для снижения повторяющихся циклов в длинных генерациях. Доступны промежуточные контрольные точки для изучения изменений возможностей в ходе обучения, а обучающие данные, код и материалы оценки заявлены как открытые. Метаданные указывают английский язык карточки, но это не гарантирует, что модель поддерживает только английский.

Kalki 1.5 — плотная по маршрутизации экспертная модель семейства Kalki от Upmarking, предназначенная для многошаговой разработки программного обеспечения и агентных сценариев с использованием инструментов. В README заявлены архитектура Mixture-of-Experts с MLA, 1 трлн параметров и активация 32 млрд параметров на токен. Для анализа интерфейсов и визуальной отладки предусмотрен визуальный энкодер UpmarkViT; заявлена поддержка контекста до 262 144 токенов. Модель рассчитана на автономную навигацию по инструментам, редактирование файлов, запросы к PostgreSQL, отладку и другие длительные инженерные задачи. README также заявляет примерно на 30% меньше токенов рассуждения по сравнению с Kalki-0.6 и поддержку нативной квантизации INT4. Метаданные указывают задачи image-text-to-text и text-generation; в каталоге есть чат-возможность. Модель распространяется по лицензии Apache-2.0, а README предлагает доступ через API Upmarking с совместимостью с SDK OpenAI и Anthropic.

Myric/KAT-Coder-V2.5-Dev-APEX-GGUF — это GGUF-квантизация модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot, подготовленная Myric. Модель предназначена для генерации кода и агентских сценариев программирования, а также для запуска через совместимые инструменты, включая llama.cpp. Репозиторий содержит APEX-квантизации и матрицу важности imatrix; README также указывает на поддержку архитектуры mixture-of-experts (MoE) и семейства Qwen3.5 MoE. Доступен файл KAT-Coder-V2.5-Dev-APEX-dynamic.gguf размером 11,86 GiB, рассчитанный на видеокарту с 16 ГБ памяти. Указанный вариант не содержит MTP-голову и сам по себе не поддерживает speculative decoding; отдельная связанная сборка переносит обученную MTP-голову Qwen3.6-35B-A3B и заявляет ускорение в 2,03 раза на агентском наборе тестов программирования без снижения корректности. Другие характеристики, включая точное число параметров, размер контекста и перечень поддерживаемых языков, в README не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели kkyyxhll/KAT-Coder-V2.5-Dev-fused-gate-up на Hugging Face совпадает с карточкой Kwaipilot/KAT-Coder-V2.5-Dev, поэтому описание составлено по ней. KAT-Coder-V2.5-Dev — открытая по весам MoE-модель для агентного программирования, выпущенная командой KAT. Она дообучена на базе Qwen3.6-35B-A3B с помощью supervised fine-tuning на 127 тысячах примеров и последующего обучения с подкреплением. Всего в модели 35 млрд параметров, из которых активируются 3 млрд; карточка указывает архитектуру семейства Qwen3.5 MoE и формат safetensors. Модель предназначена для решения задач программирования в агентных сценариях: анализа задач и выполнения действий через инструменты, доступные в окружении. Разработчики сообщают об улучшении результатов на тестах agentic coding относительно моделей сопоставимого размера и о снижении частоты некорректных меток инструментов и повторов. В README описан запуск через API, а метаданные указывают поддержку чата и интерфейса вызова инструментов. Языки карточки — английский и китайский; для примера оценки использовался контекст 256 тысяч токенов, но это не заявлено как предел модели. Лицензия — Apache-2.0.

Ttimms/KAT-Coder-V2.5-Dev-REAP-50-NVFP4-W4A4 — это квантизированная модель для генерации кода и агентных сценариев программирования, разработанная Ttimms на базе Kwaipilot/KAT-Coder-V2.5-Dev и собственного промежуточного чекпойнта KAT-Coder-V2.5-Dev-REAP-50-bf16. Модель предназначена для интерактивной генерации, дополнения и рефакторинга кода, а также задач, связанных с автоматизированной разработкой ПО. В карточке не указаны поддерживаемые языки программирования и размер контекста. В основе используется MoE-архитектура Qwen3.5 с исходными 256 экспертами; после pruning REAP-50 осталось 128 экспертов, также была выполнена перенормировка роутера. Из модели удалена vision tower и 333 необученных тензора. Применена нативная NVFP4-квантизация W4A4: веса и активации представлены в 4-битном формате, что позволяет использовать FP4×FP4 tensor-core kernels на совместимом оборудовании Blackwell. Опубликованный вариант рассчитан прежде всего на запуск через vLLM и требует поддержки соответствующих NVFP4-ядер. По измерениям на RTX 5070 Ti модель показала медианные результаты 93,90% на HumanEval, 89,63% на HumanEval+ и 89,68% на MBPP+. Скорость декодирования составила 14,5 токена/с в eager-режиме и 119,2 токена/с в production-конфигурации PIECEWISE при batch size 1. Сильными сторонами являются компактное 4-битное представление, возможность нативных FP4-вычислений и высокое качество на тестах программирования. Ограничения — зависимость от совместимого оборудования и vLLM, более низкая скорость по сравнению с родственным вариантом NVFP4A16 на указанной конфигурации, а также заметная вариативность результатов между запусками из-за особенностей непрерывной пакетной обработки и FP4-вычислений. Модель распространяется по лицензии Apache-2.0.

Карточка модели ckoh04/Kimi-K2.6-pruned-8experts на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

Kimi-K2.7-Code-JANGTQ_K — квантованный вариант модели moonshotai/Kimi-K2.7-Code для запуска через MLX на компьютерах Apple с Apple Silicon. В карточке указаны архитектура семейства Kimi K2.5 и поддержка диалогового режима; исходная модель описана в каталоге как агентная модель для сложных задач программирования и многоэтапной разработки ПО, с поддержкой изображений, видео и инструментов. Профиль JANGTQ_K использует JANG TurboQuant: routed experts квантованы до 2 бит для gate и up и до 4 бит для down, attention и shared experts — до 8 бит. Для загрузки нужны jang-tools или vMLX; модель не поддерживается стандартным MLX, LM Studio и Ollama. Для токенизатора Kimi README указывает зависимости tiktoken и blobfile и необходимость включить TRUST_REMOTE_CODE. Лицензия обозначена как other, поэтому конкретные условия использования следует сверять с лицензией исходной модели и репозитория.

NVIDIA Kimi-K2.7-Code NVFP4 — квантизированная версия языковой модели Kimi-K2.7-Code, разработанной Moonshot AI. NVIDIA подготовила и оптимизировала эту сборку с помощью Model Optimizer для запуска на NVIDIA GPU; сама NVIDIA не является разработчиком исходной модели. Модель предназначена для генерации текста и кода, научного программирования, агентного использования инструментов, работы с терминалом и решения задач программной инженерии. В зависимости от конфигурации сервинга она может возвращать естественно-языковые ответы, код, структурированный JSON, запросы вызова инструментов, инструкции для координации агентов и другие артефакты. Модель использует архитектуру Transformers с сетевой архитектурой DeepSeek V3 и механизмом Mixture-of-Experts: всего заявлен 1 трлн параметров, из которых 32 млрд активируются при обработке запроса. Поддерживаются текст, изображения и видео на входе, а также контекст длиной до 256 тысяч токенов; выход представлен текстом. Веса и активации линейных операторов внутри MoE-блоков преобразованы из INT4 через BF16 в формат NVFP4. Предусмотрен запуск через vLLM на NVIDIA Blackwell под Linux; тестирование выполнялось на NVIDIA B200. Сильные стороны модели — большой контекст, поддержка мультимодальных входных данных, задачи кодирования и агентного взаимодействия, а также готовая к инференсу NVFP4-квантизация для совместимого оборудования. При этом сведения об обучающих и тестовых данных, их размере и составе в основном не раскрыты, а NVIDIA не проводила обучение или тестирование для данного релиза Model Optimizer. Практическая производительность и безопасность требуют дополнительной проверки на данных конкретного сценария. Использование регулируется NVIDIA Open Model License; также указана Modified MIT License для исходной модели Kimi-K2.7-Code.

Kimi K2 Thinking — открытая reasoning-модель, разработанная Moonshot AI. Она предназначена для задач, требующих глубокого пошагового рассуждения и длительного автономного взаимодействия с инструментами: исследований, поиска информации, программирования, написания текстов и многоэтапных агентских рабочих процессов. Модель умеет чередовать рассуждение и вызовы функций, сохраняя целенаправленное поведение примерно на протяжении 200–300 последовательных вызовов инструментов. Модель построена на архитектуре Mixture-of-Experts (MoE) и содержит около 1 трлн параметров, из которых 32 млрд активируются для обработки одного токена. Архитектура включает 61 слой, 384 эксперта с выбором 8 экспертов на токен, один общий эксперт, 64 attention heads, механизм внимания MLA и функцию активации SwiGLU. Размер словаря составляет 160 тыс. токенов, контекстное окно — 256 тыс. токенов. Модель использует нативную INT4-квантизацию, заявленную как обеспечивающую двукратное ускорение в низколатентном режиме и снижение требований к памяти без потери качества. Сильные стороны модели — глубокое рассуждение, стабильное использование инструментов на длинных дистанциях, работа с большими контекстами и высокие результаты в математических, исследовательских, поисковых и coding-бенчмарках. README не указывает поддерживаемые естественные языки и не содержит подробностей о мультимодальности, поэтому модель следует считать текстовой в рамках доступных данных. Также заявленные преимущества и результаты зависят от сценария, наличия инструментов и настроек оценки. Модель распространяется по лицензии Modified MIT.

Kraken — модель и архитектура для генерации текста, созданная совместно Cognitive Computations, VAGO Solutions и Hyperspace.ai. В разработке участвовали Fernando Fernandes Neto, David Golchinfar, Lucas Atkins и Eric Hartford. Она использует Transformers и маршрутизацию запросов между несколькими причинными языковыми моделями, выбирая эксперта по содержанию входного текста. В набор экспертов входят модели для рассуждений, вызова функций, Python, SQL и немецкого языка. Конфигурация Kraken позволяет подключать модели, токенизаторы и шаблоны форматирования. Архитектура описана как расширяемая и рассчитана на сценарии, где специализированная модель может дать более подходящий ответ. Репозиторий содержит веса в формате safetensors; метаданные указывают английский язык. Лицензия и размер модели в предоставленных данных не приведены.

OsaurusAI/Laguna-M.1-JANG_2L — сборка модели Poolside Laguna-M.1, квантованная Osaurus в профиль JANG_2L. Это MoE-модель для генерации текста и агентного программирования; в карточке указаны 225 млрд параметров и 23 млрд активных параметров, тогда как метаданные каталога приводят 17,1 млрд. Контекст — до 262 144 токенов. Модель поддерживает диалог и интерфейс вызова инструментов. Профиль JANG_2L использует 2-битное affine-квантование gate/up, 3-битное down, 6-битные shared/dense слои и 8-битные attention и embedding/head; размер сборки около 81 ГБ. Для запуска требуется Laguna-совместимая среда, например Osaurus или vMLX, поскольку архитектура не поддерживается стандартными загрузчиками. Базовая модель предназначена для работы с кодом и длительных задач с инструментами. Лицензия — Apache-2.0.

Laguna S 2.1-FP8 — языковая модель компании Poolside, предназначенная прежде всего для агентного программирования, работы с инструментами и выполнения длительных многоэтапных задач на локальной машине. Это обновлённый FP8-чекпойнт базовой модели poolside/Laguna-S-2.1; он поддерживает текстовый ввод и вывод, а также встроенный режим рассуждений с чередованием размышлений и вызовов инструментов. Модель построена по архитектуре Mixture-of-Experts и содержит 117,6 млрд параметров, из которых 8,5 млрд активируются на каждом токене. В ней 48 слоёв, 256 экспертов и один общий эксперт; 36 слоёв используют Sliding Window Attention с окном 512 токенов, а 12 — глобальное внимание. Применяются покомпонентное управление вниманием, пер-head gating, FP8-квантование KV-кэша и контекст до 1 048 576 токенов. Эти решения снижают требования к памяти и ускоряют инференс, однако при очень длинном контексте возможно ухудшение качества. FP8-веса занимают примерно 121 ГБ, поэтому для локального запуска требуется мощное оборудование; доступны варианты использования через vLLM, SGLang, Transformers, TRT-LLM, Ollama и llama.cpp с указанными ограничениями по форматам. Сильными сторонами модели являются специализация на программировании и инструментальных сценариях, поддержка длительного контекста, эффективное число активных параметров и возможность локального развёртывания. README не содержит сведений о поддерживаемых естественных языках. Модель распространяется по лицензии OpenMDW-1.1, разрешающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.

Laguna-S-2.1-GGUF — GGUF-квантизированная версия текстовой Mixture-of-Experts-модели Laguna S 2.1, разработанной poolside и подготовленной для запуска через Unsloth и llama.cpp. Модель предназначена прежде всего для агентного программирования, вызова инструментов и выполнения длительных многошаговых задач с кодом. Она поддерживает нативное рассуждение с чередованием размышлений и вызовов инструментов, а также спекулятивное декодирование с использованием отдельной DFlash-модели. Архитектура содержит 118 млрд параметров, из которых около 8 млрд активируются для каждого токена. Модель имеет 48 слоёв, 256 маршрутизируемых экспертов с выбором 10 экспертов на токен и один общий эксперт, grouped-query attention с 8 KV-головами, а также комбинацию глобального и скользящего внимания: 12 глобальных слоёв и 36 слоёв с окном 512 токенов. Контекстное окно составляет 1 048 576 токенов, размер словаря — 100 352 токена. Модальность — text-to-text; языки в README не указаны. Ключевые преимущества — большое контекстное окно, специализированность на агентных задачах и программировании, поддержка нескольких движков инференса и снижение требований к памяти за счёт GGUF-квантизации. Вариант UD-Q4_K_XL занимает около 40 ГБ и поставляется в трёх файлах; для него требуется llama.cpp версии b10087 или новее. Ограничения включают значительный общий размер модели и необходимость нескольких GPU для полноточных вариантов. Модель распространяется по лицензии OpenMDW-1.1, разрешающей свободное использование и модификацию для коммерческих и некоммерческих целей.

LayerSkip Code Llama 7B — модель Meta, представленная Facebook Research, полученная дальнейшим предобучением Code Llama 7B с применением LayerSkip. Она предназначена для генерации и автодополнения программного кода, а также для ускоренного вывода с помощью self-speculative decoding: ранние слои предлагают токены, а оставшиеся слои проверяют их. Модель работает с текстовым вводом и выдаёт текст, в том числе код; карточка указывает английский язык. В README приведён пример измерения на одной GPU NVIDIA A100: self-speculative decoding показал 50,38 токена в секунду против 38,67 при авторегрессионной генерации в указанной конфигурации. Эти результаты зависят от реализации и оборудования. Оптимизированные реализации повторно используют веса и KV-кэш ранних слоёв; вариант через стандартный Transformers описан как менее оптимальный по памяти. Обучающая реализация помечена как находящаяся в разработке. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

Ling-3.0-flash-fp4 — текстовая генеративная модель компании inclusionAI, распространяемая под лицензией MIT. Это native hybrid reasoning-модель для генерации текста, рассуждений и выполнения агентных сценариев. Модель предназначена для программирования, исправления и рефакторинга кода, общих задач на знания и следование инструкциям, математического рассуждения, глубокого поиска и длительных интерактивных рабочих процессов. Она обучалась с использованием более 10 000 интерактивных сред и ориентирована на замкнутое выполнение задач Coding Agent, General Agent и Deep Research Agent. Заявлена совместимость с Claude Code, Kilo Code, Qwen Code, Hermes Agent и OpenClaw. Архитектура — гибридная линейная MoE: 124 млрд параметров всего и 5,1 млрд активных на токен. Используется чередование 35 слоёв Kimi Delta Attention и 7 слоёв Gated MLA в соотношении 5:1, 512 маршрутизируемых и один общий эксперт, 8 активируемых экспертов, 32 attention heads и hidden size 2560. Контекст обучался по схеме от 8K до 32K и 256K токенов. Модель поддерживает режим рассуждений, включённый по умолчанию, и рассчитана на эффективную работу с длинным контекстом; заявлено снижение Time to First Token на 60–80% в сценариях с длинными входными данными при использовании иерархического кэширования SGLang HiCache и Mooncake. К сильным сторонам относятся сочетание крупного общего размера с малым числом активных параметров, эффективность вывода, рассуждение, следование инструкциям, обработка длинного контекста и агентные задачи. README не содержит сведений о поддерживаемых естественных языках, точных характеристиках FP4-квантизации или ограничениях качества; результаты бенчмарков приведены без числовых значений в тексте и требуют осторожной интерпретации. Лицензия модели — MIT.

Карточка модели Lumo69/Llama-3_1-Nemotron-Ultra-253B-v1 на Hugging Face совпадает с карточкой nvidia/Llama-3_1-Nemotron-Ultra-253B-v1, поэтому описание составлено по ней. Llama-3.1-Nemotron-Ultra-253B-v1 — большая языковая модель NVIDIA для рассуждений, диалогов и выполнения инструкций. Это плотный авторегрессионный Transformer-декодер, созданный на основе Meta Llama-3.1-405B-Instruct с применением Neural Architecture Search: структура блоков изменена для сокращения памяти и ускорения инференса. В README указано 253 млрд параметров; метаданные каталога оценивают общий размер в 697,9 млрд параметров. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и работает через Transformers. Модель предназначена для чат-ботов, агентных систем, RAG, вызова инструментов и общих задач по инструкциям, включая математику, программирование и рассуждения. Она рассчитана прежде всего на английский язык; README также заявляет поддержку немецкого, французского, итальянского, португальского, хинди, испанского и тайского. Модель оптимизирована по соотношению качества и эффективности и, по README, может использоваться коммерчески. Метаданные указывают лицензию «other», поэтому перед использованием следует проверить условия лицензии в карточке модели.

Llama-3.1-Nemotron-Ultra-253B-v1 — большая языковая модель NVIDIA для рассуждений, диалогов и выполнения инструкций. Это плотный авторегрессионный Transformer-декодер, созданный на основе Meta Llama-3.1-405B-Instruct с применением Neural Architecture Search: структура блоков изменена для сокращения памяти и ускорения инференса. В README указано 253 млрд параметров; метаданные каталога оценивают общий размер в 697,9 млрд параметров. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и работает через Transformers. Модель предназначена для чат-ботов, агентных систем, RAG, вызова инструментов и общих задач по инструкциям, включая математику, программирование и рассуждения. Она рассчитана прежде всего на английский язык; README также заявляет поддержку немецкого, французского, итальянского, португальского, хинди, испанского и тайского. Модель оптимизирована по соотношению качества и эффективности и, по README, может использоваться коммерчески. Метаданные указывают лицензию «other», поэтому перед использованием следует проверить условия лицензии в карточке модели.

Карточка модели RedHatAI/Llama-3_1-Nemotron-Ultra-253B-v1 на Hugging Face совпадает с карточкой nvidia/Llama-3_1-Nemotron-Ultra-253B-v1, поэтому описание составлено по ней. Llama-3.1-Nemotron-Ultra-253B-v1 — большая языковая модель NVIDIA для рассуждений, диалогов и выполнения инструкций. Это плотный авторегрессионный Transformer-декодер, созданный на основе Meta Llama-3.1-405B-Instruct с применением Neural Architecture Search: структура блоков изменена для сокращения памяти и ускорения инференса. В README указано 253 млрд параметров; метаданные каталога оценивают общий размер в 697,9 млрд параметров. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и работает через Transformers. Модель предназначена для чат-ботов, агентных систем, RAG, вызова инструментов и общих задач по инструкциям, включая математику, программирование и рассуждения. Она рассчитана прежде всего на английский язык; README также заявляет поддержку немецкого, французского, итальянского, португальского, хинди, испанского и тайского. Модель оптимизирована по соотношению качества и эффективности и, по README, может использоваться коммерчески. Метаданные указывают лицензию «other», поэтому перед использованием следует проверить условия лицензии в карточке модели.

Это финальная готовая к инференсу модель для генерации кода, созданная методом supervised fine-tuning на базе meta-llama/Llama-3.2-3B-Instruct. Разработчик обучал её на llama3b_code_sft_data с упорядоченной подачей примеров и равномерным повторным воспроизведением данных с коэффициентом 1,0; представлена версия на шаге оптимизатора 65. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 3,2 млрд параметров и работает с контекстом до 131 072 токенов. Модель предназначена для генерации кода в диалоговом формате и готова к запуску через Transformers; веса доступны в формате safetensors. README не уточняет поддерживаемые языки программирования, результаты оценки качества или конкретные ограничения. Базовая модель распространяется по лицензии Llama 3.2 Community License; условия лицензии производной модели следует сверить с её репозиторием и лицензией базовой модели.

Llama-3.2-6B-AlgoCode — текстовая плотная авторегрессионная модель семейства Llama, опубликованная prithivMLmods и предназначенная для генерации кода и решения алгоритмических задач. В карточке заявлены обучение следованию инструкциям, многоязычный диалог, суммаризация и ответы с опорой на извлечённые внешние сведения. Метаданные указывают 5,8 млрд параметров, контекст до 131 072 токенов, формат Safetensors и библиотеку Transformers; модель принимает и выдаёт текст. README также упоминает варианты размером 1B и 3B, что расходится с идентификатором и размером этой модели. Модель подходит для генерации и объяснения кода, алгоритмических рассуждений, диалоговых помощников для разработки и суммаризации предоставленных материалов. В карточке заявлена поддержка нескольких языков, а метаданные указывают английский; другие языки не перечислены. Указаны лицензия Llama 3.2 и возможность интеграции через Transformers. README предупреждает о возможных ошибках на неоднозначных запросах, предвзятости, устаревших знаниях и нежелательных ответах; для специализированных медицинских, юридических и финансовых задач может потребоваться дообучение. Для эффективного запуска, согласно карточке, рекомендуется GPU с памятью от 16 ГБ.

Llama-3.3-Nemotron-Super-49B-v1.5 — большая языковая модель NVIDIA, созданная на основе Meta Llama-3.3-70B-Instruct и оптимизированная с помощью Neural Architecture Search. В метаданных указано 87 млрд параметров; модель использует плотную архитектуру и поддерживает контекст до 131 072 токенов. Модель предназначена для рассуждений, диалогов и выполнения инструкций на английском языке, а также для задач с кодом. Она дообучалась на математике, программировании, естественных науках и вызове инструментов; дополнительные этапы постобучения улучшили следование предпочтениям в чате, рассуждения и агентные сценарии. Подходит для чат-ботов, AI-агентов и систем RAG, а интерфейс вызова инструментов позволяет подключать внешние функции. README указывает поддержку немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Оптимизация архитектуры рассчитана на более эффективное использование памяти и пропускной способности; заявлена возможность размещения на одном GPU H200 при высокой нагрузке. Модель предназначена для коммерческого использования; в метаданных лицензия обозначена как other, поэтому конкретные условия следует сверять с лицензией репозитория. Для практического развертывания нужны значительные вычислительные ресурсы.

Llama-3-8B-Instruct-Coder-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Llama-3-8B-Instruct-Coder, предназначенной прежде всего для генерации и анализа программного кода, а также для диалоговых задач по текстовым инструкциям. Квантизации подготовлены пользователем bartowski на основе модели rombodawg/Llama-3-8B-Instruct-Coder, которая, в свою очередь, связана с базовой моделью unsloth/llama-3-8b-Instruct-bnb-4bit. Для квантизации использован llama.cpp с imatrix и датасетом Kalomaze. Модель имеет текстовую модальность, архитектуру семейства Llama 3 и размер 8 миллиардов параметров. В README явно указан английский язык; сведения о других языках и размере контекстного окна отсутствуют. Доступны варианты от Q8_0 до IQ1_M размером примерно от 2,16 до 8,54 ГБ. Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые IQ-варианты отмечены как рекомендуемые: более высокие уровни обычно обеспечивают лучшее качество, а низкие позволяют экономить оперативную память ценой заметной деградации. Сильные стороны модели — возможность локального запуска через llama.cpp, широкий выбор компромиссов между качеством и требованиями к памяти и специализация на задачах программирования. Ограничения включают потери качества при агрессивной квантизации, особенно у вариантов IQ1_M и Q2–Q3, а также отсутствие в README подробных данных о бенчмарках, контекстном окне и фактическом языковом покрытии. Модель распространяется по лицензии Apache-2.0.

Llama-3-8B-Instruct-Coder-v2-GGUF — набор GGUF-квантизаций модели Llama-3-8B-Instruct-Coder-v2. Базовая модель указана как NousResearch/Meta-Llama-3-8B-Instruct, оригинальная модель разработана rombodawg, а квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель относится к текстовым генеративным моделям и ориентирована на работу с инструкциями и задачами программирования, включая генерацию и обработку кода. Заявленный язык — английский. Доступны варианты с разными уровнями квантизации: от Q8_0 размером 8,54 ГБ до IQ2_XXS размером 2,39 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS отмечены как рекомендуемые; более компактные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Файлы предназначены для запуска через llama.cpp и используют специальный шаблон запросов Llama 3. В README не указаны точный размер контекстного окна, архитектурные детали сверх принадлежности к семейству Llama 3, результаты тестирования и поддержка других языков. Лицензия — Apache-2.0.

Llama3-8B-Instruct-Replete-Adapted-GGUF — квантизированная GGUF-версия инструкционной модели Llama3-8B-Instruct-Replete-Adapted, разработанной Replete-AI и подготовленной для распространения пользователем bartowski. Модель предназначена для текстовой генерации, прежде всего для программирования, работы с кодом, математическими задачами, инструкциями, диалогами, function calling и анализа уязвимостей. Обучение или дообучение проводилось на смешанном наборе датасетов с примерами кода, инструкций, диалогов, математических задач и данных для ассистентов программирования. Модель основана на архитектуре Llama 3 с 8 млрд параметров и поставляется в формате GGUF для запуска через llama.cpp. Доступны варианты квантизации от Q5 до Q8 с размером файлов примерно от 5,73 до 8,54 ГБ; для вариантов Q6 и Q5 заявлено высокое качество, близкое к исходной модели. В README указан результат pass@1 около 64,7% на HumanEval. Формат промпта использует специальные токены Llama 3. Языки, размер контекстного окна и мультимодальные возможности в предоставленных данных не указаны; описание относится к текстовой модели. Сильными сторонами являются специализация на генерации и анализе кода, поддержка локального запуска через llama.cpp и наличие нескольких уровней квантизации с разным балансом качества и требований к памяти. Ограничения включают возможные потери качества из-за квантизации, отсутствие подтвержденных характеристик по языкам и контексту, а также неполные значения большинства приведенных бенчмарков. Модель распространяется по лицензии Llama 3; условия следует уточнять в официальном тексте лицензии Meta.

QuantFactory/Llama3-8B-Instruct-Replete-Adapted-GGUF — квантизированная версия модели Replete-AI/Llama3-8B-Instruct-Replete-Adapted, созданная с использованием llama.cpp. В её основе лежит Meta-Llama-3-8B-Instruct с адаптером Replete-AI/Replete-Coder-Llama3-8B. Модель дообучена Rombodawg и распространяется в формате GGUF для запуска средствами, совместимыми с llama.cpp. Модель предназначена прежде всего для генерации и анализа кода, перевода между языками программирования, задач, связанных с безопасностью и поиском уязвимостей, математических рассуждений и function calling. Согласно README, она также рассчитана на общее текстовое использование и поддерживает более 100 языков программирования. Обучающие данные включали примерно 25% общих инструкций и 75% инструкций по программированию; общий объём заявлен как около 3,9 млн строк, 1 млрд токенов или 7,27 ГБ данных. К сильным сторонам относятся специализация на программировании, широкий охват языков, возможности перевода кода, математические и общие инструкционные сценарии, а также возможность запуска на относительно ограниченных аппаратных ресурсах благодаря размеру базовой модели и квантизации. При этом README не указывает точный вариант квантизации, размер контекста, поддерживаемые естественные языки, конкретные требования к памяти и результаты большинства заявленных тестов; известный показатель HumanEval pass@1 составляет 0,6468. Модель описана как uncensored. Указана лицензия llama-3 с дополнительным типом license: other; применимые условия следует уточнять по лицензии Meta Llama 3.

LongCat-2.0 — большая языковая модель семейства LongCat, представленная разработчиками проекта LongCat. Это модель архитектуры MoE с классом LongcatCausalLM; в метаданных репозитория указано 42,1 млрд параметров, тогда как README описывает полную версию с 1,6 трлн параметров и примерно 48 млрд активируемых на токен. Репозиторий содержит веса в формате safetensors и использует лицензию MIT. Модель предназначена для диалоговой генерации текста, программирования, понимания кода и репозиториев, выполнения задач агентами и работы с инструментальными сценариями. README сообщает об обучении на данных с контекстом до 1 млн токенов и об архитектурном механизме LongCat Sparse Attention для длинных последовательностей; метаданные указывают нативный контекст 262 144 токена. В карточке также заявлены чат и интерфейс вызова инструментов. README особо выделяет задачи с длинным горизонтом, редактирование кода на уровне репозитория и автоматизацию действий; развёртывание описано для GPU и NPU. Модель не оценивалась всесторонне для всех возможных прикладных сценариев. Условия лицензии — MIT.

Macaron-V1-Coding-Venti — кодовая модель MindLab Research из семейства Macaron-V1. Это объединённый чекпойнт: специалист по программированию Macaron-V1-Venti L2 Coding слит с базовыми весами GLM-5.2 BF16. Модель предназначена для понимания кода, работы с репозиториями, терминалом и сценариев программного агента; её можно запускать как обычную причинную языковую модель без подключения LoRA-адаптера или маршрутизатора. В метаданных указаны архитектура GLM MoE DSA, 30,4 млрд параметров, контекст до 1 048 576 токенов, библиотека Transformers и поддержка английского и китайского языков. Чекпойнт распространяется под лицензией MIT. Отдельной оценки этого объединённого варианта нет: приведённые в README результаты относятся к маршрутизированной родительской системе Macaron-V1-Venti и не измеряют качество данной модели. Модель специализируется на программировании и не включает другие специализации родительской системы; README также отмечает слабые места в зависимых вызовах инструментов и отсутствие отдельной оценки безопасности. Не рекомендуется использовать её как автономного помощника в медицинских, юридических, финансовых и других высокорисковых задачах.

Maestro1-9B — плотная мультимодальная модель с 9 млрд параметров от Vection Labs, построенная на архитектуре Qwen3-VL. Она принимает текст и изображения, а также предназначена для анализа видео, и генерирует текстовые ответы. Модель ориентирована на пошаговые рассуждения, математику, программирование и визуальный анализ; заявленное контекстное окно — до 1 млн токенов. Модель подходит для решения математических задач, генерации и отладки кода, ответов на вопросы по изображениям, документам, диаграммам и коротким видеороликам, а также анализа длинных документов и кодовых баз. Карточка указывает поддержку английского языка. Для запуска рекомендуются Transformers и GPU с 24–80 ГБ памяти при использовании bf16; веса доступны в формате safetensors. Модель может уверенно выдавать неверные ответы, а сгенерированный код требует проверки. Длинные контексты и видео увеличивают задержку и потребление памяти; аудио не поддерживается. Не предназначена для принятия важных медицинских, юридических или финансовых решений без проверки человеком. Лицензия — Apache-2.0.

FreedomAISVR опубликовал GGUF-квантизацию NVFP4 модели Magistral-Small-2509 от Mistral AI. Это плотный трансформер Mistral3ForConditionalGeneration с 24 млрд параметров, рассчитанный на диалог, рассуждения в несколько шагов, агентное программирование, вызов инструментов и понимание изображений. Для работы с изображениями в репозитории есть отдельный проектор mmproj на базе 24-слойного Pixtral ViT; модель принимает текст и изображения и генерирует текст. Нативная длина контекста — 131 072 токена. В карточке указана поддержка более 27 языков, а метаданные перечисляют английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский и арабский. NVFP4 снижает требования к памяти и рассчитан на ускорение на GPU NVIDIA Blackwell; квантизация может влиять на качество. Лицензия — Apache 2.0.