II.2Создание и понимание программного кода

Kanana 1.5 8B Instruct — разговорная языковая модель компании Kakao, представленная в мае 2025 года. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогов; доступны веса в формате SafeTensors, библиотека — Transformers. Модель обучена с уточнённой постобработкой и поддерживает интерфейс вызова инструментов. Модель рассчитана на сложные диалоговые задачи, включая программирование, математику и вызов функций. Нативная длина контекста — 32 768 токенов; с настройкой YaRN в конфигурации можно обрабатывать последовательности до 128 тыс. токенов. Карточка указывает английский и корейский языки. По заявлению разработчика, пользовательские данные Kakao не входили в данные предобучения и постобучения. Модель распространяется по лицензии Apache 2.0. Качество ответов может варьироваться в зависимости от задачи; контекст длиннее 32 768 токенов требует настройки YaRN.

Это полноточная сборка в формате GGUF BF16 модели KAT-Coder V2.5 Dev 35B-A3B от moeshawky: к базовой модели добавлена встроенная MTP-голова для спекулятивного декодирования. Архитектура — Qwen3.6-35B-A3B-класса, гибрид SSM и полного внимания; всего 35 млрд параметров, около 3 млрд активных на токен, 256 экспертов, из которых активны 8. Модель принимает текст и предназначена для генерации текста в диалоговом режиме, в том числе для задач программирования; MTP-голова может ускорять декодирование при поддержке со стороны сборки llama.cpp. В карточке указаны английский и китайский языки. Репозиторий содержит один файл GGUF v3 размером около 66,2 ГиБ; для размещения весов требуется ориентировочно 75 ГБ или более свободной оперативной памяти или видеопамяти. Для использования нужна совместимая сборка llama.cpp с поддержкой MTP. Лицензия — Apache-2.0.

Это квантованная в формате MXFP4 версия модели Kwaipilot/KAT-Coder-V2.5-Dev с MTP. Модель предназначена для генерации текста в диалоге и агентного программирования; в каталоге для базовой модели указана поддержка вызова инструментов. Для запуска требуется актуальная версия llama.cpp. Репозиторий представлен в формате GGUF. В README и метаданных нет сведений о размере, длине контекста, поддерживаемых языках и лицензии.

Ttimms/KAT-Coder-V2.5-Dev-REAP-50-NVFP4A16 — локальная квантованная версия Kwaipilot/KAT-Coder-V2.5-Dev, подготовленная разработчиком Ttimms. Модель предназначена для агентного программирования, генерации и исправления кода, а также решения задач из SWE-bench в условиях ограниченной видеопамяти. Она рассчитана на запуск в 16 ГБ потребительской VRAM, в частности на RTX 5070 Ti, через vLLM. В основе лежит MoE-архитектура с 256 экспертами; после REAP-прунинга оставлено 128 экспертов, то есть удалено 50% экспертных блоков. Модель использует квантование NVFP4A16 с 4-битными весами, весовое квантование без калибровочных данных и занимает около 12,45 GiB. Из состава удалена башня компьютерного зрения с необученными весами, поэтому README не подтверждает поддержку мультимодальных сценариев. Указан контекст до 49 тысяч токенов в использованной конфигурации; языки явно не перечислены, но модель ориентирована прежде всего на задачи программирования. Заявленные результаты включают 89,0% на HumanEval+, 90,5% на MBPP+ и 52,0% на SWE-bench Verified — 26 из 50 задач при использовании mini-swe-agent, bash-only scaffold и потолка контекста 49 тысяч токенов. SWE-bench показатель существенно зависит от лимита контекста и числа ходов агента: 17 задач завершились из-за превышения контекстного лимита, поэтому результат нельзя считать безусловной оценкой возможностей. К сильным сторонам относятся высокая компактность, возможность локального запуска, производительность около 149,5 токена в секунду в указанной конфигурации и исправление маршрутизации экспертов для этой архитектуры. Ограничения включают потерю части экспертов из-за прунинга, отсутствие подтверждённой работы со зрением, зависимость производительности от совместимого оборудования и серверного ПО, а также контекстные ограничения в агентных задачах. Модель распространяется по лицензии Apache-2.0.

Kimi-Dev-72B-4bit-DWQ — языковая модель для генерации текста и работы с программным кодом, разработанная на базе moonshotai/Kimi-Dev-72B. Модель преобразована сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.26.0 и предназначена для запуска на устройствах, поддерживающих экосистему MLX. Модель ориентирована на задачи программирования, разрешения software issues и сценарии, связанные с разработкой и исправлением кода, включая задачи класса SWE-bench. Она имеет размер 72B параметров и использует 4-битное квантование DWQ, что снижает требования к памяти по сравнению с полноразмерной версией, но может влиять на точность и качество генерации. Поддерживается текстовая модальность; сведения о языках, максимальном размере контекста и конкретной архитектуре в README не указаны. Для использования требуется библиотека mlx-lm и совместимое окружение MLX. Модель распространяется по лицензии MIT.

MLX-форматная квантизированная версия модели Kimi-K2.7-Code, разработанной Moonshot AI и преобразованной сообществом mlx-community с использованием mlx-lm 0.31.3. Модель предназначена для генерации текста и прежде всего для задач, связанных с написанием и обработкой кода. Она рассчитана на запуск на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти; заявлено, что размер модели позволяет сохранить ресурсы для полезного контекстного окна. Модель текстовая и не поддерживает обработку изображений или других модальностей. Квантизация DQ3_K_M использует смешанный подход: тензоры экспертных блоков квантизуются с разрядностью 3–4 бита, а остальные тензоры сохраняются в 8-битном представлении. Такой подход призван обеспечить качество, близкое к 4-битной квантизации, при меньшем размере, хотя скорость генерации может быть немного ниже из-за 8-битной маршрутизации. Точный размер модели, архитектура, число параметров, поддерживаемые языки и размер контекстного окна в README не указаны. Для запуска требуется библиотека mlx-lm и параметр --trust-remote-code, поскольку он необходим исходной моделью. Лицензия указана как modified-MIT с типом other; дополнительные условия в README не раскрыты.

Kimi-K2-Instruct — инструктивная версия языковой модели Kimi K2, разработанная Moonshot AI. Это крупная модель класса Mixture-of-Experts (MoE), предназначенная для универсального диалога, рассуждений, программирования, работы с инструментами и агентских сценариев. Она ориентирована на готовое использование в чат-приложениях и автономном решении задач без режима длительного пошагового мышления. Модель содержит около 1 триллиона общих параметров, из которых 32 миллиарда активируются для каждого токена. Архитектура включает 61 слой, 384 эксперта с выбором 8 экспертов на токен, один общий эксперт, 64 attention heads, механизм внимания MLA и функцию активации SwiGLU. Размер контекста составляет 128 тысяч токенов, словарь — 160 тысяч токенов. В README языки и мультимодальные возможности не указаны; по представленным данным это текстовая языковая модель. Сильными сторонами заявлены высокая производительность в задачах знаний, рассуждений и программирования, а также оптимизация для tool use и агентского решения задач. В README приведены результаты сравнительных тестов, включая LiveCodeBench, OJBench и MultiPL-E, однако ограничения, гарантии качества и дополнительные требования к аппаратному обеспечению явно не описаны. Модель распространяется по лицензии modified MIT, обозначенной как license: other и license_name: modified-mit.

Kimi K3 — открытая мультимодальная модель AMAImedia, выпущенная в составе платформы автоматизации профессионального дубляжа NOESIS. В карточке заявлены архитектура Kimi Delta Attention с Attention Residuals, размер 2,8 трлн параметров и контекст до 1 млн токенов; метаданные указывают класс KimiK3ForConditionalGeneration и формат safetensors. Модель принимает текст и изображения, а README также заявляет поддержку видео; её назначение включает диалог, рассуждения, длительные задачи программирования и агентную работу с инструментами. Модель рассчитана на анализ больших репозиториев и документов, помощь в разработке, исследовательские задачи и мультимодальную работу с изображениями и видео. README сообщает, что режим размышления включён постоянно и ответ может содержать reasoning_content; усилие рассуждения настраивается параметром reasoning_effort. Указанная в карточке лицензия — other, а README называет её Kimi K3 License, поэтому конкретные условия следует проверять в тексте лицензии репозитория. Метаданные классифицируют модель как image-text-to-text, при этом каталог дополнительно относит её к text-generation.

unsloth/Kimi-K3-GGUF — GGUF-версия открытой мультимодальной агентной модели Kimi K3, разработанной Moonshot AI и подготовленной Unsloth. Модель предназначена для длительных задач программирования, работы с большими репозиториями, использования терминальных инструментов, глубокого исследования, автоматизации знаний и мультимодальных сценариев, включая работу с визуальными материалами, интерактивными интерфейсами, CAD и видеомонтажом. Модель построена на архитектуре Mixture-of-Experts с общим числом параметров 2,8 трлн и примерно 104 млрд активируемых параметров. Она использует Kimi Delta Attention (KDA), Attention Residuals и Stable LatentMoE: из 896 экспертов для каждого токена выбираются 16. Архитектура включает 93 слоя, в том числе 69 KDA- и 24 Gated MLA-слоя, а также один плотный слой. Kimi K3 поддерживает нативную работу с текстом, изображениями и видео и имеет контекстное окно до 1 млн токенов. К сильным сторонам относятся большой контекст, нативная мультимодальность, высокая масштабируемость MoE и ориентация на автономные многоэтапные задачи с минимальным контролем человека. Для запуска GGUF-версии требуется совместимый llama.cpp fork Unsloth или Unsloth Studio; доступны варианты квантования, при этом Q8 обозначен как вариант без потерь точности относительно полной точности и существенно больше Q4. Языки модели в README не указаны. Веса распространяются по лицензии Kimi K3 License; точные условия следует проверять в тексте этой лицензии.

Kodify-Nano — компактная языковая модель для разработки кода, опубликованная MTSAIR. Она предназначена для помощи при написании кода и взаимодействия с разработчиком в чат-формате, в том числе через плагины для Visual Studio Code и JetBrains; в карточке приведён пример создания Flask-сервера с объяснениями на русском языке. Модель основана на плотной архитектуре Qwen2 и содержит 1,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает русский и английский языки, а её контекст составляет до 32 768 токенов. Модель рассчитана на быстрый запуск при ограниченных ресурсах; карточка описывает запуск через vLLM и Ollama. В метаданных указаны интерфейсы чата и вызова инструментов, однако отдельная оценка качества этих возможностей не приведена. Лицензия — Apache-2.0.

Kronumos 2 Kairos — модель Tokenectomy Labs для автоматического исправления ошибок в программном коде. Это дообученная версия Qwen2.5-Coder-7B-Instruct с архитектурой Qwen2 и 7,1 млрд параметров; модель принимает текстовые описания ошибок и контекст кода и генерирует варианты исправлений. В карточке указаны контекст 32 768 токенов и английский язык. README описывает связку нейросетевой модели с детерминированным Rust-компонентом, который проверяет структуру исправлений и помогает выполнять ремонт кода за один проход; среди целевых сценариев — локальная разработка и CI/CD. Модель ориентирована на задачи автоматического ремонта программ и оценивалась на SWE-bench Verified. Метаданные указывают лицензию Apache-2.0. README заявляет поддержку бинарного Rust-компонента для Linux x86_64; переносимость runtime на другие платформы не подтверждена. Результаты бенчмарка и заявленные характеристики следует воспринимать как сведения карточки модели, а не как независимую проверку.

Kwai-Coder-DS-V2-Lite-Base — базовая языковая модель для кода, разработанная Kwai и построенная на DeepSeek-V2-Lite-Base. Модель прошла дополнительное предобучение на 800 млрд токенов: 70% обучающих данных составлял код, 20% — математика и 10% — текст, включая материалы о программировании. Архитектура DeepSeek-V2 имеет 16 млрд параметров и 2,4 млрд активируемых параметров по README; метаданные репозитория указывают 2,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает английский и китайский языки. Метаданные указывают контекстное окно 163 840 токенов и совместимость с Transformers и PyTorch; веса доступны в формате Safetensors. Модель предназначена для генерации и дополнения кода, вставки фрагментов кода, а также задач по математике и программированию. В README приведены результаты на HumanEval, HumanEval+, MBPP, MBPP+, BigCodeBench, MATH и GSM8K, но они не гарантируют аналогичное качество на пользовательских задачах. Это базовая модель, поэтому готовое поведение чат-ассистента или следование инструкциям не следует считать подтверждённым. Лицензия — MIT.

Kwaipilot_KAT-Coder-V2.5-Dev-GGUF — это квантизированная версия модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot. Сборка выполнена bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации кода, задач программирования и агентных сценариев, включая agentic coding. В карточке указано, что модель относится к архитектурам MoE и поддерживает английский и китайский языки. Точный размер исходной модели, максимальная длина контекста, набор поддерживаемых языков сверх указанных и сведения о дополнительных модальностях не приведены. Доступны варианты от BF16 до различных уровней квантизации, поэтому можно выбирать между качеством генерации, размером файла и требованиями к памяти; размер файлов составляет примерно от 16,9 до 69,38 ГБ. Сильной стороной являются специализированная направленность на программирование и широкий выбор квантизированных вариантов, пригодных для запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Ограничения связаны с потерями качества в более компактных вариантах квантизации, высокими требованиями к памяти и отсутствием в карточке подробных результатов тестирования. Модель распространяется по лицензии Apache-2.0.

Laguna M.1 GGUF — независимая общественная конверсия и набор квантизированных GGUF-версий модели Laguna M.1, разработанной Poolside. Модель предназначена для генерации кода, задач программирования с длинным контекстом и агентских сценариев локального запуска. Данный репозиторий содержит производные артефакты, созданные на основе исходных BF16 safetensors Poolside, а не официальный релиз разработчика. Исходная Laguna M.1 — разреженная MoE-модель с 225 млрд общих параметров и 23 млрд активируемых параметров на токен. Она использует 70 слоёв с глобальным вниманием, 256 разреженных экспертов после первых трёх плотных слоёв, маршрутизацию top-k=16, RoPE с YaRN и механизм softplus attention output gating. Заявленное контекстное окно составляет 262 144 токена. Доступны варианты квантизации от наиболее компактных IQ1_S_R4 размером 43,54 GiB до BF16 размером 420,71 GiB; качество и требования к памяти зависят от выбранного варианта. Сильными сторонами модели являются специализированная направленность на программирование, поддержка сверхдлинного контекста и возможность локального использования через GGUF. Для запуска требуется совместимый runtime: подтверждена поддержка ik_llama.cpp начиная с версии, включающей соответствующие изменения, тогда как другие средства могут потребовать отдельной реализации поддержки Laguna. Модель и представленные GGUF-артефакты распространяются с метаданными лицензии Apache License 2.0; конверсия является независимой, а торговые названия и брендинг Poolside остаются собственностью Poolside.

Laguna-S-2.1 · Winnow keep-75 — это производная текстовая MoE-модель для генерации кода и агентных задач разработки, созданная на основе poolside/Laguna-S-2.1. Разработчик уменьшил внутреннюю ширину каналов маршрутизируемых экспертов на 25% методом variable-width expert pruning; общие эксперты, внимание и эмбеддинги не затронуты. После обрезки заявлено 89,2 млрд параметров вместо 118 млрд у исходной модели; переобучение после обрезки не проводилось. Модель предназначена для генерации и анализа кода, а также для автономного выполнения задач разработки в диалоговом режиме. В README приведены результаты на кодовом корпусе и качественная проверка на задачах Terminal-Bench 1.0; при контексте обслуживания 16 тыс. токенов основным источником неудач называлось исчерпание контекста. Метаданные указывают нативный контекст до 1 048 576 токенов, но для описанной конфигурации обслуживания приведён лимит 16 384 токена. Репозиторий содержит веса safetensors и предполагает запуск через Transformers или специализированный плагин vLLM для поддержки экспертов переменной ширины. Для serving в INT8 README указывает потребность примерно в двух GPU по 80 ГБ или четырёх по 40 ГБ; обычное разделение tensor parallelism не поддерживается. Сохраняется лицензия базовой модели OpenMDW-1.1.

cyankiwi/Laguna-XS-2.1-AWQ-INT4 — это INT4-квантизированная версия модели Laguna XS 2.1, разработанной poolside и подготовленной cyankiwi с использованием метода AWQ. Модель предназначена для генерации текста, прежде всего для агентного программирования, работы с терминалом и длительных многошаговых задач на локальном компьютере. В основе лежит Mixture-of-Experts с 33 млрд параметров, из которых 3 млрд активируются для каждого токена. Архитектура включает 40 слоёв, 256 экспертов и одного общего эксперта, сочетает глобальное внимание со Sliding Window Attention в соотношении 1:3 и использует окно скользящего внимания размером 512 токенов. Контекстное окно составляет 262 144 токена, поддерживается текстовый ввод и вывод, а также интерleaved reasoning между вызовами инструментов с возможностью включать и отключать рассуждения для конкретного запроса. Заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Кэш ключей и значений хранится в формате FP8, что снижает расход памяти на токены; заявлена возможность запуска на Mac с 36 ГБ оперативной памяти. Сильными сторонами модели являются компактное число активных параметров, поддержка длинного контекста, локальный запуск и ориентация на программирование и агентные сценарии. В опубликованных результатах она показала 70,9% на SWE-bench Verified, 63,1% на SWE-bench Multilingual, 47,6% на SWE-bench Pro и 37,5% на Terminal-Bench 2.0. Показатели относятся к Laguna XS 2.1 в целом и не обязательно непосредственно к данной INT4-квантизации; квантизация также может влиять на качество и точность. Модель распространяется по лицензии OpenMDW-1.1, разрешающей использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.

Laguna-XS-2.1-bf16 — версия текстовой модели Poolside Laguna-XS-2.1, подготовленная mlx-community для запуска в формате MLX с точностью bfloat16. Это причинная MoE-модель с 2,6 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; базовая модель ориентирована на агентное программирование, работу в терминале и длительные задачи с кодом. Заявленная длина контекста — 262 144 токена. Репозиторий рассчитан на запуск на компьютерах Apple через mlx-vlm или oMLX с принудительным режимом VLM. mlx-lm пока не поддерживает архитектуру Laguna. В README приведены замеры производительности на MacBook Pro M5 Max с 128 ГБ памяти, однако они не характеризуют скорость на другом оборудовании. Лицензия — OpenMDW 1.1.

noctrex/Laguna-XS-2.1-MXFP4_MOE-GGUF — квантизированная в MXFP4 сборка текстовой MoE-модели Poolside Laguna-XS-2.1 в формате GGUF. Модель предназначена для генерации текста и диалогового взаимодействия; базовая Laguna-XS-2.1 ориентирована на агентное программирование, терминальные задачи и длительную работу с кодом. Для запуска требуется llama.cpp. Репозиторий также содержит вариант GGUF BF16. Модель создана на основе poolside/Laguna-XS-2.1; лицензия и подробные сведения о размере, контексте и языках в предоставленных данных отсутствуют.

OsaurusAI/Laguna-XS.2-JANGTQ — квантизированная версия языковой MoE-модели Laguna-XS.2 от Poolside, подготовленная Jinho Jang для запуска на компьютерах Apple Silicon через MLX. Модель предназначена для агентного программирования и продолжительных задач разработки ПО; поддерживает генерацию текста и диалоговый режим. Архитектура включает 40 слоёв, 256 маршрутизируемых экспертов с выбором восьми экспертов на токен и один общий эксперт. Используется гибридное внимание с полным и скользящим окном, групповое внимание запросов и контекст до 131 072 токенов. Веса экспертов квантизированы TurboQuant до 2 бит, ряд других линейных слоёв — до 8 бит; нормы и некоторые компоненты маршрутизатора сохранены в FP16. Репозиторий содержит веса в формате safetensors и предназначен для MLX. Для работы требуется совместимый JANGTQ runtime sidecar jangtq_runtime.safetensors, соответствующий параметрам квантизации модели. Базовая модель — poolside/Laguna-XS.2; лицензия — Apache-2.0. Квантизация может снижать точность относительно исходной модели, а запуск описан для Apple Silicon.

Leon v2.1 — языковая модель Parallactic AI, дообученная на базе Qwen/Qwen3.6-27B для генерации приложений и интерфейсов. Это плотная причинная модель семейства Qwen с 22,3 млрд параметров по метаданным, форматом SafeTensors и контекстом до 262 144 токенов. Она работает с текстовыми запросами и выдаёт код React и Next.js, используя Tailwind CSS, shadcn/ui, Aceternity UI, Magic UI и Framer Motion. Модель предназначена для создания многостраничных лендингов, полнофункциональных приложений на Next.js, компонентов с анимацией и адаптивных интерфейсов. Разработчик заявляет высокую визуальную точность и готовность результата к копированию в проект; для лучшего результата рекомендуются конкретные запросы с описанием разделов и стиля. Карточка указывает поддержку английского и французского языков. Leon v2.1 находится в открытой бета-версии, поэтому возможны ошибки и галлюцинации в коде. Результаты следует проверять перед выпуском. Генерация 3D-элементов, продвинутый вызов инструментов и загрузка дизайн-систем пока не входят в заявленный охват. Лицензия — Apache-2.0.

DuoNeural/LFM2.5-8B-A1B-Hermes-Agentic-Coder-Abliterated-v3-GGUF — модель для генерации кода и автономных агентских сценариев, разработанная DuoNeural. Она создана на основе DuoNeural/LFM2.5-8B-A1B-Abliterated и ориентирована на многошаговое планирование, вызов функций и инструментов, отладку, решение алгоритмических задач и программирование, включая низкоуровневый C, управление памятью, бинарный анализ и тестирование на проникновение. Модель использует гибридную архитектуру state-space и mixture-of-experts: при общем размере около 8,3 млрд параметров на каждый токен активируется 1,5 млрд. Заявлены контекст до 3072 токенов, поддержка двух режимов вывода — быстрого прямого ответа и режима System 2 с цепочками рассуждений в тегах <thought> — и формат GGUF для локального запуска. README не указывает полный список поддерживаемых языков, но описывает обучение на данных по вызову функций, рассуждениям, генерации и исправлению кода, а также многошаговым инструкциям. К сильным сторонам относятся высокая скорость инференса, специализация на коде и агентских задачах, а также заявленные результаты EvalPlus: 56,1% на HumanEval, 50,0% на HumanEval+, 60,8% на MBPP и 49,7% на MBPP+. Ограничениями являются относительно небольшое контекстное окно в 3072 токена и отсутствие в README подробных сведений о качестве на других языках, мультимодальности и практической надежности заявленных показателей. Модель распространяется по Liquid Foundation Model Community License; точные условия следует уточнять по указанной лицензии.

Liberated-Qwen1.5-72B — диалоговая языковая модель AbacusAI и Eric Hartford, дообученная методом qLoRA на основе Qwen/Qwen1.5-72B. Она предназначена для многошаговых бесед, следования системным инструкциям, в том числе необычным или формальным, а также для общих задач ассистента и помощи с кодом. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 71 млрд параметров и поддерживает контекст до 32 768 токенов; обучение проводилось на последовательностях длиной 8 000 токенов. Для диалогов применяется формат ChatML. В обучении использованы открытые наборы данных, включая OpenHermes-2.5, Code-Feedback и собственный синтетический набор SystemChat. Разработчик сообщает о результате 77,13 на MMLU для контрольной версии обучения. В датасете не добавлялись ограничения на содержание, поэтому при развёртывании сервиса следует самостоятельно настроить подходящий слой выравнивания и фильтрации. Модель распространяется по лицензии tongyi-qianwen.

Ling-1T-GGUF — GGUF-версия языковой модели Ling-1T, разработанной InclusionAI. Это флагманская немыслящая модель серии Ling 2.0 для генерации текста, сложного рассуждения, программирования, математических и логических задач, использования инструментов, создания фронтенд-кода и мультиязычного контента. Модель построена на архитектуре Ling 2.0 и содержит около 1 триллиона общих параметров, из которых примерно 50 миллиардов активируются для каждого токена. Используется разреженная MoE-архитектура с коэффициентом активации 1/32, MTP-слои, маршрутизация экспертов без auxiliary loss, QK-нормализация и FP8-обучение. Модель предварительно обучалась на более чем 20 триллионах токенов, поддерживает контекст до 128K токенов и применяет метод evolutionary chain-of-thought (Evo-CoT). README не указывает полный список поддерживаемых языков, однако заявляет поддержку мультиязычного текста. К сильным сторонам относятся эффективность рассуждения, качество генерации кода, визуальное понимание, создание эстетичного фронтенд-кода, математические и логические задачи, а также вызов инструментов. По заявлению разработчиков, модель демонстрирует высокие результаты на ряде сложных бенчмарков, включая AIME 25, ArtifactsBench и BFCL V3. Ограничения включают чрезвычайно большой общий размер модели и, вероятно, высокие требования к вычислительным ресурсам; конкретные требования к памяти и производительности GGUF-версии в README не приведены. Лицензия — MIT.

Ling-3.0-flash — разговорная языковая модель компании Inclusion AI для генерации текста, рассуждений и выполнения агентных задач. В README описана гибридная линейная архитектура MoE с чередованием Kimi Delta Attention и gated MLA; заявлены 124 млрд параметров всего и 5,1 млрд активных на токен. Метаданные Hugging Face указывают размер 3,5 млрд параметров, поэтому точный размер модели по источникам расходится. Модель предназначена для задач программирования, следования инструкциям, математических рассуждений, работы с длинным контекстом и агентных сценариев, включая исследование и многошаговые рабочие процессы. Заявленное контекстное окно — 262 144 токена. README сообщает о тестировании на бенчмарках для кодирования и агентов, но это не гарантирует аналогичное качество в конкретных приложениях. Модель принимает текст и генерирует текст; сведений о поддержке других модальностей нет. Лицензия — MIT.

Ling-3.0-flash-fp8 — текстовая генеративная модель, разработанная командой inclusionAI. Она предназначена для рассуждений, следования инструкциям, программирования, обобщения знаний, математических задач, понимания длинного контекста и агентских рабочих процессов, включая coding agents, general agents и deep research agents. Модель использует гибридную линейную MoE-архитектуру с чередованием 35 слоёв Kimi Delta Attention и 7 слоёв Gated MLA в соотношении 5:1, двумя плотными слоями, 512 маршрутизируемыми и одним общим экспертом; на каждом токене активируются 8 экспертов. Общий объём составляет 124B параметров, из них активны 5.1B. Размер скрытого состояния — 2560, число attention heads — 32, размер словаря — 157184. Обучение контекста проходило по этапам от 8K до 32K и 256K токенов. Указана модальность text generation; поддерживаемые языки в README не перечислены. К сильным сторонам относятся высокая вычислительная эффективность, поддержка длинного контекста, производительность в задачах программирования и использования инструментов, а также оптимизации для длительных интерактивных сессий через иерархическое кэширование SGLang HiCache и Mooncake. README заявляет о сокращении Time to First Token на 60–80% и более в сценариях с длинным вводом, однако конкретные результаты зависят от инфраструктуры и режима применения. Ограничения по качеству, языкам, аппаратным требованиям и безопасному использованию отдельно не описаны. Модель распространяется по лицензии MIT.

Ling-Coder-lite — языковая модель с архитектурой Mixture of Experts (MoE), разработанная InclusionAI для генерации и понимания программного кода. В карточке README указано 16,8 млрд параметров, из которых активируются 2,75 млрд; модель представлена как дообученная версия Ling-Coder-lite-base. Метаданные репозитория указывают 1,5 млрд параметров и контекст 4096 токенов, тогда как README сообщает контекст 16K; эти характеристики в источниках расходятся. Модель предназначена для задач программирования и диалогового взаимодействия: она может генерировать код и отвечать на вопросы по коду. Разработчики сообщают о результатах на 12 бенчмарках программирования и о конкурентных задержке и пропускной способности среди кодовых моделей сопоставимого размера. В обучении использовались наборы Ling-Coder-SFT, Ling-Coder-SyntheticQA и Ling-Coder-DPO. Репозиторий опубликован в формате safetensors для библиотеки Transformers. Указанные языки — английский и китайский. Лицензия MIT разрешает широкое использование при соблюдении её условий.

Ling-Coder-lite-base — базовая языковая модель для программирования, разработанная InclusionAI и опубликованная с открытым кодом. Это разреженная MoE-модель семейства Bailing с причинно-языковой архитектурой; в карточке Hugging Face указано 1,5 млрд параметров, тогда как README приводит 16,8 млрд общих и 2,75 млрд активируемых параметров. Метаданные указывают контекст 4096 токенов, а README — 16K токенов. Модель предназначена для генерации кода и ответов на вопросы по программированию. Разработчики сообщают о высоких результатах на 12 бенчмарках кодирования и конкурентных задержке и пропускной способности относительно сопоставимых по размеру моделей; подробности оценки приведены в техническом отчёте Ling-Coder-TR. В тегах карточки отмечены английский и китайский языки, а также данные Ling-Coder-SyntheticQA. Модель доступна под лицензией MIT. Она является базовой, а не чат-версией: качество диалогового следования инструкциям и результаты на конкретных задачах могут отличаться от Ling-Coder-lite. Расхождения в заявленном количестве параметров и длине контекста между README и метаданными следует учитывать при выборе конфигурации и развёртывании.

LLaDA2.0-mini — диффузионная языковая модель с архитектурой Mixture-of-Experts (MoE), разработанная InclusionAI и дообученная для следования инструкциям. Она предназначена для диалогов, генерации кода, математических рассуждений и сценариев с вызовом инструментов. По карточке модели, в ней 16 млрд параметров, из которых около 1,4 млрд активируются при инференсе; архитектура включает 20 слоёв, использует RoPE и словарь из 157 184 токенов. Контекст составляет 32 768 токенов. Модель поставляется в формате Safetensors и поддерживается библиотекой Transformers. В README заявлены сильные результаты в генерации кода и сложных рассуждениях; автор рекомендует температуру 0,0, длину блока 32 и 32 шага, отмечая, что повышенная температура может вызывать смешение языков и снижать качество. Лицензия — Apache-2.0.

Llama 2 Coder 7B — языковая модель для генерации и помощи в написании программного кода, созданная mrm8488 на базе Llama 2 Coder 7B и дообученная с использованием набора данных HuggingFaceH4/CodeAlpaca_20K. TheBloke подготовил её квантованные файлы в формате GGUF. Модель предназначена для сценариев, в которых требуется coding assistant: интерпретации инструкций пользователя и формирования решений в виде программного кода. Она относится к архитектуре Llama, имеет размер 7B параметров и поддерживает текстовую генерацию. README не указывает точный перечень языков программирования, естественных языков или размер контекстного окна. Формат GGUF подходит для локального запуска через llama.cpp и совместимые инструменты, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие решения с поддержкой CPU и GPU. Ключевое преимущество версии — доступность квантований с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения включают возможные ошибки и неполные решения в генерируемом коде, а также отсутствие в README опубликованных результатов оценки. Модель заявлена под лицензией Apache-2.0, но поскольку основана на Llama 2, также подпадает под условия лицензии Meta Llama 2; взаимодействие этих лицензий требует отдельной проверки перед использованием.

unsloth/Llama-3.1-8B-unsloth-bnb-4bit — это 4-битная версия языковой модели Llama 3.1 с 8 млрд параметров, подготовленная Unsloth на основе базовой модели Meta Llama 3.1 8B. Модель работает с текстом на входе и генерирует многоязычный текст и программный код. Архитектура — авторегрессионный Transformer с поддержкой Grouped-Query Attention (GQA), контекстное окно — до 128 тысяч токенов. Модель обучена на смеси общедоступных онлайн-данных; дата отсечения знаний — декабрь 2023 года. В README явно указан английский язык, при этом семейство Llama 3.1 описано как многоязычное. Модель предназначена для генерации текста и кода, диалоговых сценариев, дообучения под прикладные задачи и запуска в условиях ограниченных вычислительных ресурсов. 4-битное представление снижает требования к памяти по сравнению с полноразмерной версией и подходит для локального инференса и последующего fine-tuning, однако может сопровождаться компромиссами по точности и качеству генерации. README не содержит детальных результатов бенчмарков или характеристик аппаратных требований. Использование регулируется лицензией Llama 3.1; дополнительных условий для версии Unsloth в README не указано.