II.2Создание и понимание программного кода

albertge/llada-8b-dllm-registers-code64-codetags-t4 — модель, разработанная в рамках проекта dLLM Registers и дообученная на базе GSAI-ML/LLaDA-8B-Base. Это плотная диффузионная языковая модель на 8 млрд параметров для генерации текста, специализирующаяся на задачах программирования. Обучение продолжено в режиме chunked SFT на кодовой части набора mix60k: использовались около 30 тысяч трасс из подмножества OpenCodeInstruct, размер окна составлял 64 токена. Модель переносит состояние декодирования между окнами денойзинга через хвостовой канал Markovian Thinking длиной 4 токена; для корректного вывода требуются соответствующие параметры канала. Карточка указывает английский язык, интерфейс чата и библиотеку Transformers. Модель распространяется по лицензии Apache-2.0. Практическое применение ориентировано на генерацию кода; точные результаты оценки качества в карточке не приведены.

Fireplace 2 — чат-модель Valiant Labs, дообученная на основе Meta Llama 3.1 8B Instruct для генерации обычных ответов и структурированных результатов. Она предназначена для диалогов, в которых по запросу нужны встроенные вызовы функций, SQL-запросы, JSON-объекты или примеры визуализаций данных с matplotlib; эти форматы можно чередовать с обычным чатом. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. README описывает применение формата чата Llama 3.1 Instruct и дополнительное обучение на наборах данных для вызова функций, SQL и диалогов; в метаданных указан английский язык. Модель может иногда выдавать некорректные структурированные результаты, поэтому их следует проверять перед использованием в производственных сценариях. Репозиторий распространяется по лицензии llama3.1.

NVIDIA Llama-3.1-Nemotron-8B-UltraLong-4M-Instruct — языковая модель на архитектуре Llama 3.1 с 7,5 млрд параметров, дообученная для диалогов и работы с очень длинным контекстом. Она использует продолженное предобучение и донастройку на инструкциях; базовая модель — meta-llama/Llama-3.1-8B-Instruct. Модель предназначена для генерации ответов и анализа длинных текстовых последовательностей, включая большие документы и составные запросы. Заявленное окно контекста — до 4 млн токенов. Обучение на инструкциях охватывало общие задачи, математику и программирование. Карточка описывает английский язык; метаданные указывают тег en. Модель работает с текстом и доступна в формате safetensors для Transformers; также указаны чат-возможности и интерфейс вызова инструментов. По данным карточки, модель сохраняет конкурентные результаты на стандартных тестах и улучшает обработку сверхдлинного контекста. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование. Результаты и качество на конкретных сценариях могут отличаться; объём контекста сам по себе не гарантирует точное извлечение всей информации из длинного ввода.

Модель v2ray/Llama-3-70B — повторно опубликованная версия Meta Llama 3 с 69,5 млрд параметров. Это авторегрессионная языковая модель на архитектуре Transformer с Grouped-Query Attention; репозиторий содержит веса в формате Safetensors. Модель принимает текст и генерирует текст и код, а заявленная длина контекста составляет 8192 токена. Модель предназначена для генерации текста на английском языке: её можно применять для диалогов с ассистентом и адаптировать под другие задачи генерации естественного языка. В README описано семейство Llama 3, включая предварительно обученные и настроенные для инструкций варианты, однако точный вариант этой копии отдельно не уточнён. Модель разработана Meta и опубликована 18 апреля 2024 года. Для семейства указана специальная коммерческая лицензия Meta Llama 3; перед использованием следует ознакомиться с её условиями и Acceptable Use Policy. README отмечает, что модель не предназначена для языков, отличных от английского, и что для безопасного применения в конкретной системе могут понадобиться дополнительные меры защиты.

casperhansen/llama-3-70b-instruct-awq — это 4-битно квантованная методом AWQ версия Llama 3 70B Instruct, опубликованная пользователем casperhansen на Hugging Face. Базовую модель разработала Meta. Это авторегрессионная языковая модель с оптимизированной архитектурой Transformer и Grouped-Query Attention; она принимает текст и генерирует текст или код, поддерживая диалоговый формат и задачи ассистента. Модель содержит около 70 млрд параметров, использует контекст до 8192 токенов и рассчитана прежде всего на англоязычные коммерческие и исследовательские сценарии: диалог, генерацию текста, ответы на вопросы, программирование и рассуждения. Квантование AWQ уменьшает требования к памяти и делает локальное развертывание более практичным, однако может сопровождаться потерей точности по сравнению с полноразмерной версией. Модель не является мультимодальной и не предназначена для языков, отличных от английского, без дополнительной адаптации. Как и другие LLM, она может выдавать неточные, предвзятые или небезопасные ответы, поэтому требует проверки и дополнительных защитных механизмов. Для использования применяются Transformers, vLLM или SGLang; репозиторий содержит веса в формате Safetensors. Для базовой Llama 3 указана пользовательская коммерческая лицензия Meta Llama 3 Community License и Acceptable Use Policy; использование производной версии следует согласовывать с этими условиями.

Карточка модели SakanaAI/Llama-3-8B-Instruct-CycleQD-CS на Hugging Face совпадает с карточкой SakanaAI/Llama-3-8B-Instruct-Coding-Expert, поэтому описание составлено по ней. Sakana AI разработала Llama-3-8B-Instruct-Coding-Expert — экспериментальную авторегрессионную языковую модель семейства Llama на 7,5 млрд параметров, основанную на Llama-3-8B-Instruct. Модель предназначена для генерации текста в диалоговом режиме и ориентирована на задачи программирования; в README указаны обучающие данные Magicoder-Evol-Instruct-110K и Magicoder-OSS-Instruct-75K. Модель принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 8192 токенов. В README модель представлена как один из экспертных компонентов набора Llama-3-CycleQD. Это экспериментальный прототип для исследований и разработки: авторы не рекомендуют коммерческое использование и развертывание в критически важных средах, а качество результатов не гарантируется. Лицензия — Meta Llama 3 Community License.

QuantFactory/llama-3-sqlcoder-8b-GGUF — квантизированная версия модели defog/llama-3-sqlcoder-8b, созданная с использованием llama.cpp. Модель разработана компанией Defog, Inc. и дообучена на базе Meta-Llama-3-8B-Instruct. Модель предназначена для преобразования запросов на естественном языке в SQL-запросы на основе описаний схемы базы данных и DDL-операторов. Она ориентирована на PostgreSQL, Amazon Redshift и Snowflake и подходит для генерации запросов в системах аналитики, интерфейсах доступа к данным на естественном языке и вспомогательных инструментах для разработчиков. Рекомендуется использовать температуру 0 и отключить sampling. Известно, что модель относится к классу text-to-SQL, имеет размер базовой модели 8B параметров и распространяется в формате GGUF. README не содержит сведений о поддерживаемых естественных языках, размере контекстного окна и точных параметрах квантизации. Сильной стороной является специализация на генерации SQL для нескольких распространённых аналитических СУБД; качество оценивалось с помощью PostgreSQL-фреймворка SQL-Eval. Ограничения включают зависимость результата от корректного описания схемы и отсутствие подтверждённых данных о работе с другими SQL-диалектами и модальностями. Модель распространяется по лицензии CC BY-SA 4.0.

LongCat-Flash-Lite-Sparse — разговорная языковая модель Meituan семейства LongCat, предназначенная для генерации текста, работы с длинным контекстом и агентных сценариев. В README она описана как невозрастающая по рассуждениям модель типа Mixture-of-Experts с 69 млрд параметров и примерно 3 млрд активируемых на токен; метаданные каталога указывают 2,5 млрд параметров. В архитектуре LongcatCausalLM используется LongCat Sparse Attention, а заявленная длина контекста достигает 1 024 000 токенов. Модель рассчитана на диалог, агентное программирование, поиск и использование инструментов, а также на обработку больших объёмов текста. README сообщает о повышенной эффективности вывода на длинном контексте и улучшении агентных возможностей относительно плотной версии LongCat-Flash-Lite. В метаданных также отмечен интерфейс вызова инструментов. Репозиторий содержит веса Safetensors и лицензирован по MIT. Для развёртывания README описывает адаптации в SGLang. Модель не проходила исчерпывающую оценку для всех прикладных сценариев; заявленные результаты зависят от конфигурации, в частности от включения Hierarchical Indexing.

M31Genesis — экспериментальная исследовательская модель для агентного программирования, представленная в проекте eshanized/M31Genesis. Это decoder-only causal language model на собственной архитектуре M31, предназначенная для генерации и продолжения текста, прежде всего в задачах разработки программного обеспечения, написания и редактирования кода, отладки, анализа репозиториев, repository-aware reasoning и исследований взаимодействия агентов с инструментами. Модель относится к классу примерно 425M параметров и использует словарь ByteLevel BPE на 65 536 токенов. Архитектура включает 24 слоя, размер скрытого состояния 1024, 16 attention heads и 8 KV heads, RMSNorm, RoPE и связанные входные и выходные эмбеддинги. В карточке указана поддержка английского языка и текстовая модальность; максимальный размер контекста не указан. Сильными сторонами являются специализация на программировании и сценариях агентного использования, однако модель имеет экспериментальный статус, поэтому её качество и надёжность следует оценивать перед применением в production. Лицензия — MIT.

Macaron-V1-Coding-Venti-MLX-Q4i — квантизированная версия модели Macaron-V1-Coding-Venti для генерации текста и помощи в программировании. Согласно метаданным, модель связана дообучением с zai-org/GLM-5.2 и использует архитектуру GLM MoE DSA. Репозиторий рассчитан на библиотеку MLX; README сообщает о тестировании на M3 Ultra с 512 ГиБ памяти и скорости около 14,7 токена в секунду при генерации на 1000 токенов. Модель предназначена для диалогового использования и задач генерации кода. Объём параметров указан как 30,4 млрд, контекст — до 1 048 576 токенов. Метаданные указывают английский язык. Лицензия в предоставленных сведениях не указана. Ответы модели могут быть неточными или неуместными; результаты следует проверять перед использованием в важных решениях.

unsloth/MAI-DS-R1-GGUF — GGUF-версия модели MAI-DS-R1, разработанной командой Microsoft AI на базе DeepSeek-R1 и опубликованной Unsloth. Модель дообучалась для устранения информационных пробелов, повышения отзывчивости к ранее блокировавшимся темам и улучшения профиля безопасности при сохранении возможностей рассуждения DeepSeek-R1. Для постобучения использовались 110 тысяч примеров безопасности и отказов из набора Tulu 3 SFT, а также около 350 тысяч внутренних многоязычных примеров по различным темам и случаям выявленных смещений. Модель предназначена для генерации и понимания текста, диалогов, ответов на общеобразовательные вопросы, многошагового решения математических и логических задач, генерации и объяснения кода, а также научных и академических сценариев. Она может использоваться как основа для дальнейшей адаптации в системах обучения математике, помощниках программиста и исследовательских инструментах. Формат GGUF ориентирован на запуск в совместимых локальных инструментах, однако конкретные размер, вариант квантования, длина контекста и поддерживаемые языки в представленных данных не указаны. Сильной стороной модели является сочетание возможностей рассуждения DeepSeek-R1 с постобучением, направленным на более корректное поведение в темах, которые исходная модель могла чрезмерно блокировать. При этом сохраняются ограничения исходной модели: возможны галлюцинации, уязвимость к состязательным запросам, предвзятые или небезопасные ответы, а также недостаточная осведомлённость о новых событиях. Модель не предназначена для медицинских и юридических рекомендаций, критически важных систем или самостоятельной поддержки решений с высокими рисками; необходимы проверка результатов человеком, модерация и мониторинг. Модель распространяется по лицензии MIT.

Marin 8B Instruct — англоязычная инструктивная модель команды Marin при Stanford CRFM, созданная как открытая модель с учителем (SFT). Это плотный авторегрессионный Transformer архитектуры Llama с 7,5 млрд параметров и контекстом 4096 токенов; карточка указывает поддержку английского языка и возможность диалогового использования. Модель предназначена для ответов на инструкции и диалога, а обучающие данные включают примеры по программированию, математике, рассуждениям и общим беседам. Она распространяется в формате safetensors и рассчитана на запуск через Transformers и совместимые библиотеки для Llama. Лицензия модели и кода — Apache 2.0. Это SFT-only модель без настройки безопасности. Она может выдавать неточную информацию или вредоносный и предвзятый контент; ответы следует проверять, а модель не предназначена для полностью автономного применения.

MathCoder2-CodeLlama-7B-GGUF — это набор GGUF-квантизованных версий модели MathGenie/MathCoder2-CodeLlama-7B, разработанной MathGenie и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, решения математических задач и работы с программным кодом. Указан английский язык и обучающий набор MathGenie/MathCode-Pile. Модель основана на CodeLlama и содержит около 7 миллиардов параметров. Доступны варианты от F16 до низкобитных форматов Q8, Q6, Q5, Q4, Q3 и IQ; размер файлов составляет примерно от 2,8 до 13,48 ГБ. Это текстовая модель без заявленной поддержки мультимодальности. Формат GGUF ориентирован на локальный запуск, в частности через llama.cpp и LM Studio. Формат промпта в README не указан, а размер контекстного окна не приведён. Основное преимущество модели — специализация на математике и коде при возможности локального запуска с выбором компромисса между качеством и требованиями к памяти. Более высококачественные варианты Q6 и Q5 отмечены как рекомендуемые, тогда как варианты Q3 и некоторые устаревшие форматы обеспечивают экономию памяти за счёт снижения качества. Для ARM доступны отдельные варианты, требующие поддержки SVE или i8mm; их не рекомендуется использовать на Mac и Windows. Модель распространяется по лицензии Apache-2.0.

MathCoder2-Llama-3-8B-GGUF — это квантованные GGUF-версии модели MathCoder2-Llama-3-8B, разработанной MathGenie и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и ориентирована прежде всего на математические и программные задачи, включая решение задач, написание и анализ кода. В качестве источника данных указан набор MathGenie/MathCode-Pile. Модель основана на семействе Llama 3 и содержит 8 миллиардов параметров. Она работает с текстом и заявлена для английского языка. Доступны варианты от исходных весов F16 до квантований Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Файлы подготовлены с использованием llama.cpp и imatrix; предусмотрено локальное использование, в том числе через LM Studio. Сильной стороной является специализация на математике и коде, а также широкий выбор квантованных вариантов: высококачественные сборки занимают около 6–9 ГБ, а более компактные — примерно 3,7–5 ГБ. Ограничения включают снижение качества на низких уровнях квантования, неизвестные в представленном README размер контекста и подробные результаты оценки, а также отсутствие заявленной поддержки языков кроме английского. Указана лицензия Apache-2.0.

JetBrains/Mellum2-12B-A2.5B-Instruct-GGUF-Q8_0 — это квантованная в формате GGUF версия инструкционной модели Mellum2-12B-A2.5B-Instruct, разработанной JetBrains. Модель предназначена для генерации текста и выполнения инструкций, включая задачи программирования и ассистирования, и может запускаться локально через llama.cpp, Ollama, LM Studio и другие совместимые среды. Модель использует архитектуру Mixture-of-Experts с 64 экспертами, из которых для каждого токена активируются 8. Контекстное окно составляет 131 072 токена. Представленная версия применяет 8-битное квантование Q8_0, занимает около 12,9 ГБ и сохраняет близкое к BF16 качество: KL-дивергенция составляет примерно 0,016, а наиболее вероятный токен совпадает с BF16 в 95,2% случаев. В README явно указан английский язык; сведения о других языках и дополнительных модальностях отсутствуют. Модель формирует ответы напрямую, без внешнего отображения цепочки рассуждений. Сильные стороны версии — существенно меньший размер по сравнению с BF16 при небольших потерях качества, длинный контекст и широкая совместимость с локальными GGUF-рантаймами. Ограничения включают повышенные требования к памяти по сравнению с более агрессивными вариантами квантования и отсутствие в данном README подробных результатов оценки, описания полного набора языков и характеристик базовой модели. Модель распространяется по лицензии Apache 2.0.

Etherll/Mellum-4b-sft-rust — языковая модель, дообученная автором Etherll на базе JetBrains/Mellum-4b-base для заполнения пропусков в коде Rust по схеме Fill-in-the-Middle (FIM). Модель использует плотную архитектуру LLaMA и содержит 3,7 млрд параметров; заявленный контекст — 8200 токенов. Для FIM README указывает формат ввода с именем файла, суффиксом и префиксом кода. Модель предназначена для дополнения фрагментов Rust, в том числе в IDE и инструментах вроде Continue.dev. Обучение проводилось на датасете Etherll/CodeFIM-Rust-Mellum, содержащем около 57 тысяч примеров. Модель принимает текст с кодом и генерирует текстовое продолжение; указанный в метаданных язык карточки — английский, а специализация модели — Rust. Весы опубликованы в формате Safetensors, библиотека — Transformers. Лицензия — Apache-2.0. README сообщает о доступной отдельной версии в GGUF для локального инференса, но это не формат данного репозитория. Результаты могут зависеть от соблюдения формата FIM и от контекста конкретного проекта; модель специализирована на Rust и её качество для других языков не заявлено.

Meta Llama 3 70B Instruct — разработанная Meta инструкция-настроенная большая языковая модель для диалоговых сценариев. Это авторегрессионный плотный трансформер Llama с Grouped-Query Attention, примерно 69,5 млрд параметров и контекстом 8192 токена. Модель принимает текст и генерирует текст, включая код; карточка указывает английский как целевой язык. Модель подходит для диалогового помощника и генерации текста или кода. Настроенная версия обучена с помощью supervised fine-tuning и обучения с подкреплением на основе человеческих предпочтений (RLHF), с акцентом на полезность и безопасность. Репозиторий распространяет веса в формате safetensors; заявлена пользовательская коммерческая лицензия Meta Llama 3, условия которой необходимо соблюдать. Модель не предназначена для использования на языках, отличных от английского, согласно указанному назначению; для ответственного развертывания могут потребоваться дополнительные меры безопасности.

Meta-Llama-3-8B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Meta. Репозиторий содержит веса в формате Safetensors; модель насчитывает около 7,5 млрд параметров и имеет контекст до 8192 токенов. Архитектура основана на оптимизированном Transformer с Grouped-Query Attention. Модель предназначена для генерации текста и кода на английском языке. Она подходит для диалогового помощника и может служить основой для задач генерации естественного языка. Карточка описывает семейство Llama 3 с предварительно обученными и настроенными для инструкций вариантами; метаданные этого репозитория не уточняют вариант обучения, поэтому возможности конкретной версии в чате следует оценивать с учётом этого ограничения. Модель статична и обучена на офлайн-данных. Использование регулируется специальной коммерческой лицензией Meta Llama 3 и Acceptable Use Policy; перед применением необходимо соблюдать их условия. Для языков помимо английского карточка допускает дообучение при соблюдении этих правил, но исходное назначение модели ограничено английским языком.

Карточка модели mlabonne/Meta-Llama-3-8B на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Meta. Эта версия принимает текст и генерирует текст, в том числе код; карточка репозитория описывает предварительно обученные и настроенные варианты семейства, но не уточняет, какой именно вариант представлен в этом репозитории. Модель предназначена для генерации текста на английском языке. Предварительно обученную версию можно адаптировать для разных задач генерации естественного языка, а настроенные варианты предназначены для диалоговых сценариев. Архитектура основана на оптимизированном Transformer и использует Grouped-Query Attention; размер модели — 7,5 млрд параметров, длина контекста — 8192 токена. Модель подходит для создания разговорных помощников, генерации и продолжения текста и кода. Результаты требуют проверки, а для приложения следует настроить дополнительные меры безопасности под конкретную аудиторию и сценарий. Лицензия — специальная коммерческая лицензия Meta Llama 3 с условиями использования и ограничениями; перед внедрением необходимо ознакомиться с её текстом и Acceptable Use Policy.

Mimans M1 v1 — плотная авторская языковая модель примерно на 514 млн параметров, разработанная Ankush Thakur и обученная с нуля как decoder-only Transformer для генерации кода, математического и технического текста. Архитектура включает GQA, SwiGLU, RMSNorm и механизм AttnRes Skip Gating; репозиторий содержит веса safetensors. Модель обучалась на 5,01 млрд токенов с использованием TileLang и гибридной оптимизации Muon + AdamW. Модель предназначена для продолжения и генерации кода и технических текстов; в карточке показан пример генерации кода через Hugging Face Transformers. Контекст в README указан как 4 096 токенов с максимумом 8 192, а метаданные каталога указывают native context 8 192 токена. В качестве естественного языка заявлен английский. Лицензия — Apache-2.0. Небольшой размер и ограниченный объём обучения могут сказываться на качестве сложной генерации; оценки бенчмарков в предоставленных материалах отсутствуют.

MiMo-7B-RL-Zero — языковая модель Xiaomi, обученная с нуля в серии MiMo-7B и дообученная методом обучения с подкреплением от базовой MiMo-7B-Base. Модель предназначена прежде всего для рассуждений в математике и программировании; карточка сообщает о результатах на бенчмарках, сопоставимых с OpenAI o1-mini. Это плотная авторегрессионная модель семейства MiMo с 7 млрд параметров и контекстом 32 768 токенов. Она принимает текст и генерирует текст; поддерживает диалоговый режим и интерфейс вызова инструментов. В обучении использовались масштабное предварительное обучение и RL на задачах математики и кода с проверкой ответов по правилам. Репозиторий содержит веса Safetensors. Лицензия — MIT. Карточка не описывает отдельные ограничения качества или поддерживаемые естественные языки; языковые возможности за пределами задач математики и кода из предоставленных данных установить нельзя.

MiMo-V2.6-Distill-Qwen-9B — плотная мультимодальная модель на 9 млрд параметров, разработанная Xiaomi MiMo посредством supervised fine-tuning Qwen3.5-9B на данных, созданных MiMo. Модель предназначена для диалогов и агентных сценариев, включая программирование, визуальное программирование и задачи кибербезопасности; также поддерживает обработку изображений. Карточка публикует результаты SFT-чекпойнта на бенчмарках по программированию. Это контрольная точка для дальнейших исследований в области агентного обучения с подкреплением. Для запуска README рекомендует свежую сборку SGLang с поддержкой Qwen3.5; модель включает токенизатор и шаблон чата MiMo v2.6. Репозиторий содержит веса safetensors. Лицензия — MIT. README не описывает конкретные ограничения качества или безопасности модели.

Это квантованная сборка NVFP4 модели MiMo-V2.6-Distill-Qwen-9B, разработанной Xiaomi MiMo и подготовленной для llama.cpp в формате GGUF. Исходная модель — мультимодальная модель на 9 млрд параметров, дообученная методом SFT на базе Qwen3.5-9B на данных, созданных более крупной моделью MiMo-V2.6. В репозитории также есть отдельный файл mmproj с визуальным энкодером для обработки изображений и видео. Модель предназначена для агентного программирования, работы с инструментами и терминалом, автоматизации, анализа интерфейсов и экранов, а также задач кибербезопасности. Гибридная архитектура сочетает 24 слоя линейного внимания Mamba-2 и 8 слоёв полного внимания; контекстное окно составляет 262 144 токена. Шаблон чата по умолчанию включает режим рассуждений. NVFP4-сборка занимает около 5,18 ГиБ, а ускорение NVFP4 требует видеокарты NVIDIA Blackwell; на более старых GPU используются более медленные пути. Это исследовательская отправная точка для экспериментов с агентным обучением с подкреплением, а не отполированный продукт. Разработчик приводит результаты бенчмарков, но они не были независимо воспроизведены для этой сборки. У модели нет доступной головы multi-token prediction, а KV-кэш при контексте 256K требует значительной памяти. Лицензия — MIT.

Карточка модели NarsAI/mini-2.0 на Hugging Face совпадает с карточкой inclusionAI/Ling-mini-2.0, поэтому описание составлено по ней. Ling-mini-2.0 — компактная разговорная языковая модель семейства Ling 2.0 от inclusionAI, предназначенная для генерации текста, следования инструкциям и решения задач на рассуждение. Это дообученная версия Ling-mini-base-2.0; по метаданным, она использует архитектуру Bailing MoE для причинного языкового моделирования и содержит 1,2 млрд параметров. README описывает семейство Ling-mini-2.0 как разреженную MoE-модель с 16,26 млрд параметров всего и примерно 1,43 млрд активных на токен, обученную на более чем 20 трлн токенов с многоэтапной настройкой и обучением с подкреплением. Модель подходит для диалоговых приложений, сложных рассуждений, математики, программирования и ответов на вопросы, а также предоставляет интерфейс вызова инструментов. Метаданные указывают контекст 32 768 токенов; README сообщает о расширении до 128K с YaRN. Разработчик заявляет о высокой скорости генерации и сильных результатах на тестах рассуждения, однако приведённые показатели зависят от оборудования и режима развёртывания. Веса доступны в формате safetensors, библиотека — Transformers; лицензия MIT.

openbmb/MiniCPM5-1B-GGUF — компактная языковая модель серии MiniCPM5, разработанная командой OpenBMB. Это GGUF-версия MiniCPM5-1B, предназначенная для локального запуска через llama.cpp, Ollama и LM Studio, включая устройства с ограниченными ресурсами. Модель представляет собой causal language model на архитектуре LlamaForCausalLM с 1 080 632 832 параметрами, 24 слоями и группированным вниманием GQA: 16 голов для запросов и 2 для ключей и значений. Максимальная длина контекста составляет 131 072 токена. Заявлена поддержка английского и китайского языков. Один и тот же checkpoint поддерживает быстрый режим без рассуждений и режим пошагового рассуждения через параметр enable_thinking и шаблон чата с маркером <think>. Модель ориентирована на локальных ассистентов, генерацию кода, coding agents, использование инструментов, агентские сценарии и задачи, требующие рассуждений при небольшом размере модели. К сильным сторонам относятся компактность, нативный длинный контекст, поддержка tool use и гибридного режима рассуждений; разработчики заявляют конкурентные результаты среди открытых моделей класса около 1B, особенно в использовании инструментов, генерации кода и сложном reasoning. Ограничения связаны с малым размером модели, из-за которого её возможности могут уступать более крупным моделям в сложных и специализированных задачах. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic-GGUF — это набор GGUF-квантизаций 2-миллиардной текстовой модели MiniCPM5-2B, дообученной на данных Claude с акцентом на агентное использование инструментов, программирование и следование инструкциям. Модель разработана GnLOLot на базе openbmb/MiniCPM5-2B и предназначена для локального запуска через llama.cpp, Ollama, LM Studio, jan, KoboldCpp и другие совместимые среды. Поддерживаются английский и китайский языки, а встроенный шаблон чата MiniCPM5 упрощает интеграцию. Модель ориентирована на генерацию текста, написание и отладку кода, выполнение многошаговых программных задач, function calling и tool use в агентных сценариях, а также диалоговое следование инструкциям. Она работает только в Thinking-режиме, поэтому может выводить блоки рассуждений перед итоговым ответом. Заявленная длина контекста достигает 128K токенов, однако фактический объём зависит от используемого рантайма и доступной памяти. Доступны варианты F16 размером около 4,7 ГБ, Q8_0 около 2,5 ГБ и Q4_K_M около 1,5 ГБ; Q8_0 рекомендуется как вариант по умолчанию, а Q4_K_M — для устройств с ограниченными ресурсами. К сильным сторонам относятся компактность, возможность локального развертывания, поддержка агентного tool calling, программирования и длинного контекста. В ClawBench дообученная модель показала 44,56 балла в QwenClawBench и 24,32 в WildClawBench, превысив базовую MiniCPM5-2B. Ограничения связаны с небольшим размером 2B по сравнению с передовыми моделями, возможным выводом рассуждений и зависимостью производительности от аппаратного обеспечения и настроек рантайма. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-2B — плотная причинная языковая модель семейства MiniCPM5, разработанная командой MiniCPM. Она предназначена для локальных помощников, запуска на устройствах и в условиях ограниченных ресурсов, а также для задач программирования, рассуждений и работы с инструментами. Модель построена на архитектуре LlamaForCausalLM, содержит 2,2 млрд параметров по метаданным и поддерживает контекст до 131 072 токенов. Модель подходит для диалогов, агентных сценариев и обработки длинного контекста. В карточке отмечены сильные результаты относительно моделей сопоставимого размера в программировании, математике, работе с длинным контекстом и инструментами. Указаны английский и китайский языки. Доступны веса safetensors и запуск через Transformers, в том числе на CPU и GPU. Лицензия — Apache-2.0. Ответы могут содержать ошибки, предвзятые или оскорбительные сведения; выводы по медицине, финансам, праву и политике не являются профессиональной консультацией. Модель предоставляется без гарантий.

MiniCPM5-2B-etheroi — компактная языковая модель из серии MiniCPM5, представленная в карточке MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров. Она предназначена для локальных помощников, программных агентов и сценариев, где важны небольшие требования к ресурсам и длинный контекст. Модель генерирует текст и поддерживает контекст до 131 072 токенов. В карточке отмечены навыки программирования, математики, понимания длинного контекста, следования инструкциям и работы с инструментами; метаданные также указывают разговорный сценарий. Модель рассчитана на английский и китайский языки и доступна в формате safetensors для Transformers; README описывает локальный запуск на GPU и CPU и серверный запуск через vLLM и SGLang. Модель выпущена под лицензией Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не проверены экспертами и не являются профессиональной консультацией. README не указывает отдельную базовую модель для этой версии.

MiniCPM5-2B-GGUF — это GGUF-сборка плотной каузальной языковой модели MiniCPM5-2B, разработанной OpenBMB и опубликованной пользователем prithivMLmods. Модель предназначена для локальных ассистентов, генерации текста, программирования, coding-agent задач, использования инструментов и развёртывания на устройствах с ограниченными ресурсами. Она поддерживает запуск через llama.cpp и совместимые приложения, включая Ollama и LM Studio. Модель содержит около 2,52 млрд параметров и использует архитектуру LlamaForCausalLM с 42 слоями и Grouped-Query Attention: 16 Q-голов и 2 KV-головы. Заявлена длина контекста до 131 072 токенов, а указанным языком является английский. Доступны варианты GGUF с точностями от F32 и BF16/F16 до квантований Q3–Q8, размером примерно от 1,19 до 10,1 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Сильными сторонами заявлены рассуждения, математика, программирование, работа с длинным контекстом, вызов инструментов и агентные сценарии; модель обучалась с использованием специализированного дообучения и reinforcement learning. Ограничения включают компактный размер по сравнению с крупными LLM, заявленную языковую поддержку только английского и зависимость характеристик от выбранного уровня квантования. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-2B-GPTQ — GPTQ-квантованная версия MiniCPM5-2B, разработанная OpenBMB. Это плотная Transformer-модель на 2 млрд параметров для генерации текста, локального и on-device-развертывания, а также сценариев с ограниченными ресурсами. Модель ориентирована на английский и китайский языки и интегрируется с библиотекой Transformers. Модель предназначена для следования инструкциям, программирования, математических рассуждений, работы с длинным контекстом, использования инструментов и агентских задач. Заявлена конкурентоспособность с моделями класса 4B, а среди моделей сопоставимого размера отмечаются сильные результаты в коде, математике, long-context, tool use и agentic-сценариях. Поддерживаемая модальность — текст; максимальный размер контекста в предоставленных данных не указан. Ключевое преимущество — сочетание компактного размера, возможностей для локального запуска и высокой производительности в ряде прикладных задач. Ограничения включают меньший размер по сравнению с крупными моделями и отсутствие сведений о точных требованиях к памяти, форматах квантования и результатах независимого тестирования. Модель распространяется по лицензии Apache-2.0.