II.1Анализ требований и архитектура ПО

Vicuna 1.1 13B Free — языковая модель на архитектуре LLaMA, опубликованная reeducator. Она дообучена на неотфильтрованном наборе данных Vicuna V2023.05.02v0 и предназначена для диалоговой генерации текста: ответов на вопросы и ведения беседы в формате ролей USER и ASSISTANT. В README предлагается специальный системный промпт для получения ответов в нужном формате. Модель содержит 12,9 млрд параметров и имеет контекст длиной 2048 токенов. Метаданные указывают английский язык. В репозитории представлены веса PyTorch и safetensors; README также упоминает варианты GGML и 4-битный GPTQ для локального запуска. Автор предупреждает, что это промежуточный выпуск неотфильтрованной модели: возможны проблемы с цензурированием и другие дефекты ответов. Также отмечена ошибка с токенами остановки, способная приводить к генерации нежелательных системных сообщений. Лицензия в предоставленных данных не указана.

VOICE-CUE Qwen2.5-3B — дообученная версия Qwen/Qwen2.5-3B-Instruct, разработанная пользователем или организацией Jun13KU. Модель предназначена для генерации текста и диалогового взаимодействия через библиотеку Transformers. Модель содержит около 3,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. В метаданных указаны архитектурное семейство Qwen2 и базовая модель Qwen2.5-3B-Instruct; сведения о поддерживаемых естественных языках, модальностях помимо текста, специализации дообучения и лицензии отсутствуют.

YamshadowInex12_NeuralsirkrishnaExperiment26 — слитая модель MaziyarPanahi на базе двух моделей семейства Mistral: automerger/YamshadowInex12-7B и automerger/NeuralsirkrishnaExperiment26-7B. Она содержит 7,1 млрд параметров и рассчитана на генерацию текста; максимальный контекст — 32 768 токенов. Модель можно использовать для генерации продолжений, черновиков и ответов в текстовых приложениях. Репозиторий содержит веса в формате Safetensors, лицензия — Apache-2.0. Карточка не описывает специальные сценарии настройки или оценки качества.

YamshadowStrangemerges_32_AlloyingotneoyExperiment26 — объединённая разработчиком MaziyarPanahi языковая модель на архитектуре Mistral для генерации текста. Она объединяет модели automerger/YamshadowStrangemerges_32-7B и automerger/AlloyingotneoyExperiment26-7B и содержит 7,1 млрд параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Модель подходит для генерации продолжений и ответов в текстовых сценариях. Карточка не описывает специальные предметные области или языковые возможности, поэтому назначение сверх общей генерации текста не уточняется. Веса доступны в формате Safetensors; лицензия — Apache-2.0. README и метаданные не сообщают об ограничениях качества или применения.

YamshadowStrangemerges_32_YamM7 — объединённая модель MaziyarPanahi, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/YamM7-7B. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров, предназначенная для генерации текста. Она принимает текст и поддерживает контекст до 32 768 токенов; сведения о специальных языковых или предметных настройках отсутствуют. Модель распространяется в формате safetensors по лицензии Apache-2.0. README подтверждает слияние двух моделей, но не описывает метод слияния, качество, конкретные сценарии применения или известные ограничения.

AsphyXIA/baarat-MTH — дообученная языковая модель разработчика AsphyXIA на архитектуре Llama для генерации текста. Модель содержит 6,7 млрд параметров, принимает текст и поддерживает контекст до 4096 токенов. В карточке указано, что обучение проводилось с использованием Unsloth и библиотеки TRL; модель дообучена на AsphyXIA/baarat-hindi-pretrained, а метаданные связывают её с meta-llama/Llama-2-7b-hf. Модель предназначена для генерации текста. В метаданных указан английский язык, а название родительской модели указывает на связь с хинди; отдельные сведения о языковых возможностях именно этой версии не приводятся. Лицензия — Apache-2.0.

prajjwal1/bert-medium-mnli — компактная модель классификации текста на основе BERT, опубликованная Prajjwal Bhargava. Веса получены преобразованием TensorFlow-чекпойнта из официального репозитория Google BERT; варианты BERT описаны в работе о компактных предобученных моделях. Эта версия дообучена на наборе MNLI в течение четырёх эпох и предназначена для классификации текстовых последовательностей, в частности для задач естественного языкового вывода и определения связи между посылкой и гипотезой. Модель содержит около 49,2 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. Репозиторий содержит веса PyTorch и Flax. Карточка не сообщает лицензию и не перечисляет поддерживаемые языки, поэтому применимость к конкретному языку следует проверять отдельно. Модель основана на BERT и обучалась на MNLI; возможны ошибки на примерах, отличающихся от этого набора данных или содержащих эвристические ловушки.

Карточка модели AmberYifan/capsd-less-humaneval-opc-marin-8b-base-code_less_b2000_s0 на Hugging Face совпадает с карточкой AmberYifan/capsd-less-fast-opc-marin-8b-base-code_less_b2000_s0, поэтому описание составлено по ней. Это дообученная модель семейства Llama, созданная на основе marin-community/marin-8b-base и обученная на наборе capsd_marin-8b-base-n80000-opc__mix_code_less_b2000_s0. Она предназначена для генерации и продолжения текста в диалоговых сценариях. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст; заявленная длина контекста — 4096 токенов. Репозиторий использует Transformers и формат safetensors. Базовая Marin 8B Base ориентирована на английский язык; другие поддерживаемые языки для этой производной модели не подтверждены. Лицензия указана как other, поэтому условия использования следует сверить с лицензией в репозитории.

Carasique-v0.1 — объединённая языковая модель, созданная автором Nohobby с помощью mergekit. В основе использована unsloth/Mistral-Nemo-Base-2407; в объединение также вошли StableProse, Rocinante-12B-v1, MN-12B-Lyra-v2a1, mistral-nemo-gutenberg-12B-v3 и Mistral-Nemo-Instruct-2407. Модель построена на архитектуре Mistral и содержит 12,1 млрд параметров. Модель предназначена для генерации текста. Контекстное окно по метаданным — до 1 024 000 токенов. Карточка не описывает отдельные целевые сценарии или языки, поэтому её назначение можно уверенно определить только как генерацию текста общего назначения. Модель распространяется в формате safetensors; лицензия и специальные ограничения в предоставленных данных не указаны.

DataDecide-dclm-baseline-qc-7p-fw3-1B-5500057500600006250065000weightedavgmerge — языковая модель, созданная объединением пяти предварительно обученных чекпойнтов с помощью mergekit. Использован метод Linear merge, базой объединения служил чекпойнт шага 65000; остальные включённые чекпойнты соответствуют шагам 55000, 57500, 60000 и 62500. Модель построена на архитектуре LlamaForCausalLM, содержит 1,2 млрд параметров и принимает текст для авторегрессионной генерации текста. Родной размер контекста — 2048 токенов. Модель предназначена для генерации продолжений и ответов на текстовые запросы. В карточке не описаны конкретные специализации, языковое покрытие, оценка качества или рекомендуемые сценарии, поэтому её следует рассматривать как общую языковую модель. Лицензия в предоставленных данных не указана.

DeepSeek-R1-8B-Unified-IdemFormer — экспериментальная текстовая генеративная модель, разработанная Dr. A. Emre ÇETİN из Измира, Турция. Она создана на базе DeepSeek-R1-Distill-Llama-8B и предназначена для задач рассуждения и генерации текста на периферийных устройствах с ограниченными ресурсами, включая ноутбуки с 6 ГБ видеопамяти. Модель объединяет несколько заявленных механизмов оптимизации: рекурсивный Universal Transformer с общими весами внимания, Chebyshev Polynomial FFN вместо стандартного SwiGLU, сжатие KV-кэша методом Subspace Context Folding, механизм Tarski Consequence Fixpoint для проверки логической согласованности и внимание на основе max-plus semiring без умножений. Согласно README, число параметров уменьшено примерно с 8,03 млрд до 2,71 млрд, а размер 4-битных весов составляет около 1,45 ГБ. Заявлена поддержка контекста до 128k токенов, языков English, Turkish и Chinese. К сильным сторонам относятся заявленные снижение требований к памяти и ускорение прямого прохода по сравнению со стандартным DeepSeek-R1-8B, что может быть полезно для локального запуска и длинных контекстов. При этом README не содержит независимой оценки качества, подробностей обучения, совместимости с конкретными форматами инференса или подтверждения заявленных свойств на широком наборе тестов; поэтому показатели эффективности и устойчивости следует считать заявленными авторами. Лицензия указана как hybrid-patent-open-core; также упомянуты патентные заявки, поэтому условия коммерческого и производного использования необходимо проверять по тексту лицензии.

Это версия модели Dolphin 2.1 Mistral 7B в формате GGUF, подготовленная ddh0 из чекпойнта Eric Hartford. Веса конвертированы без квантизации и других изменений; исходная модель дообучена на базе dphn/dolphin-2.1-mistral-7b и предназначена для генерации текста, ответов на вопросы и выполнения инструкций в диалоговом режиме. Для практического использования GGUF позволяет запускать модель в совместимом локальном ПО. Базовая модель — англоязычная чат-модель на архитектуре Mistral с 7 млрд параметров и контекстом до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Указаний на поддержку других языков или специализированные области применения в доступных данных нет.

Firefly-Llama2-13B — англоязычная плотная авторегрессионная модель семейства Llama 2, выпущенная проектом Firefly и YeungNLP. Она содержит 12,9 млрд параметров и рассчитана на генерацию текста; базовая карточка сообщает о результате 62 балла в Open LLM Leaderboard и третьем месте среди моделей на 13B на момент публикации. Модель обучалась только на английских данных и не получила расширенный словарь для китайского языка. В README указано применение QLoRA при обучении, что снижало требования к ресурсам обучения; репозиторий содержит веса PyTorch. Контекст составляет 4096 токенов. Условия лицензирования в предоставленных сведениях не описаны.

Gemmalpaca-2B — плотная причинная языковая модель семейства Gemma, созданная Mlabonne путём дообучения Google Gemma 2B на наборе vicgalle/alpaca-gpt4. Она предназначена для генерации текста и выполнения инструкций: модель можно применять для ответов на вопросы, диалогов, кратких сводок и других текстовых задач. В README автор сообщает, что на наборе бенчмарков Nous модель показала результат выше Gemma 2B и Gemma 2B IT; это заявление относится к указанной оценке и не гарантирует превосходства в любых сценариях. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. Для диалога автор рекомендует шаблон Alpaca и стоп-токен `</s>`. Вес модели составляет 2,5 млрд параметров; репозиторий использует Transformers и формат safetensors. Карточка указывает лицензию `other`, поэтому условия использования следует сверить с файлами и условиями лицензирования базовой модели Google Gemma. Автор описывает проект как эксперимент по дообучению Gemma, поэтому модель подходит для оценки и прототипирования, а её качество в конкретных задачах нужно проверять отдельно.

Gemma-merged-2B-ties — объединённая модель семейства Gemma, созданная arcee-ai с помощью mergekit из google/gemma-2b и google/gemma-2b-it. Она предназначена для генерации текста и сочетает базовую и инструктивно настроенную версии Gemma. Модель имеет плотную архитектуру GemmaForCausalLM, около 2,5 млрд параметров и контекст до 8192 токенов; веса доступны в формате safetensors. Модель подходит для генерации продолжений текста и ответов в диалоге. В метаданных указана англоязычная базовая модель; подтверждений поддержки дополнительных языков нет. Лицензия — Apache-2.0. README описывает способ слияния TIES и параметры смешивания, но не приводит оценок качества или специальных ограничений.

Crystalcareai/gemma-mod — дообученная модель семейства Gemma с плотной архитектурой GemmaForCausalLM и 8,2 млрд параметров. По карточке, модель обучалась три эпохи на датасете MoD-150k и предназначена для генерации текста в широком круге сценариев. Контекст модели составляет 8192 токена; веса доступны в формате safetensors для использования через Transformers. Карточка позиционирует модель как эффективную и подходящую для ресурсов с ограниченными вычислительными возможностями, однако не приводит результатов оценки качества или конкретных специализаций. Лицензия в предоставленных данных не указана.

GLM-4.5-Base — базовая языковая модель семейства GLM-4.5, разработанная Zhipu AI для создания интеллектуальных агентов. Это исходная версия модели, предназначенная для дальнейшей адаптации и генерации текста; README отдельно отмечает, что она не предназначена для чата в готовом виде. Модель построена на архитектуре GLM-4 MoE. В метаданных указаны 23,4 млрд параметров, формат safetensors и контекст до 131 072 токенов; карточка описывает серию GLM-4.5 в целом как ориентированную на рассуждения, программирование и агентные сценарии. Поддерживаются английский и китайский языки. Модель выпущена под лицензией MIT, допускающей коммерческое использование и разработку производных моделей. Для интерактивного диалога потребуется подходящая настройка или дообучение; README не приводит отдельных результатов оценки именно базовой версии.

BoldingBuilds/GLM-5.3-Flash-Uncensored-GGUF — экспериментальная квантованная версия GLM-5.3-Flash от zai-org. Автор изменил 666 из 12 384 маршрутизируемых экспертов, удалив компоненты, связанные с отказами, а затем выпустил модель в формате GGUF с квантованием IQ1_S. Размер файла составляет 71,5 GiB в двух частях, поэтому модель рассчитана на запуск примерно на одной видеокарте с 96 ГБ памяти. Это MoE-модель; точное общее число параметров и поддерживаемые языки в карточке не указаны. Для работы с изображениями доступен отдельный vision-проектор mmproj размером 1,13 ГБ, а текстовый режим его не требует. В измерениях использовался контекст 16 384 токена, однако максимальное окно контекста не заявлено. Модель предназначена для локального запуска через llama.cpp в текстовых и мультимодальных сценариях, включая генерацию ответов и программного кода. Для GLM-5.3-Flash требуется сборка llama.cpp с поддержкой этой архитектуры; в README указано использование PR #27754. Рекомендуются параметры temperature 0, seed 0, repetition penalty 1.1 и reasoning budget 1024, причём последний параметр особенно важен: без него модель может продолжать рассуждение и не успевать выдать ответ. Встроенные настройки штрафа за повторения снижают долю непригодных ответов. Главная особенность — существенно сниженная склонность к отказам: в описанных автором тестах доля отказов на вредоносных запросах составила 3,3% по ключевому классификатору и 4,2% по оценке StrongREJECT, а на безвредных запросах — 0%. При этом результаты ограничены собственным набором из 120 вредоносных и 120 benign-запросов и не являются универсальной оценкой качества. Модель использует очень агрессивное экспериментальное квантование примерно на 1,92 бита, поэтому возможны потери качества, ограниченная совместимость и деградация на сложных задачах. README также предупреждает о случаях достижения лимита вывода, особенно при настройках по умолчанию. Лицензия — MIT; при использовании следует учитывать отсутствие стандартных ограничений на отказы и связанные с этим риски безопасности.

H2O.ai разработала эту языковую модель в H2O LLM Studio на базе openlm-research/open_llama_7b, дообучив её на наборе OpenAssistant/oasst1. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров, предназначенная для генерации текста и диалоговых ответов на английском языке. Она работает через библиотеку Transformers и поддерживает контекст до 2048 токенов. Модель подходит для создания англоязычных чат-ботов, генерации продолжений текста и прототипирования приложений на основе языковой модели. Лицензия Apache-2.0. Ответы могут быть ошибочными, несвязными, предвзятыми или оскорбительными, поэтому их следует проверять; карточка не приводит сравнительных оценок качества.

Huihui-Qwen3-8B-abliterated-v2 — доработанная сообществом Huihui AI версия Qwen/Qwen3-8B, созданная методом abliteration, который снижает склонность модели к отказам. Это плотная авторегрессионная языковая модель на 7,6 млрд параметров для диалоговой генерации текста; она работает через библиотеку Transformers, поддерживает контекст до 40 960 токенов и основана на архитектуре Qwen3. Модель предназначена для диалогов и генерации ответов с менее выраженной фильтрацией отказов. В README версия названа экспериментальной реализацией метода удаления отказов; автор также сообщает об изменении нулевого слоя для исправления проблем с нечитаемыми символами. Метаданные указывают лицензию Apache-2.0. Снижение защитных ограничений может приводить к чувствительным, спорным или неподходящим ответам, поэтому результаты требуют проверки. README характеризует реализацию как грубую проверку концепции; это следует учитывать при выборе модели для ответственных сценариев.

jeiku/instructered4B — дообученная автором jeiku компактная плотная языковая модель семейства Llama с архитектурой LlamaForCausalLM и 3,9 млрд параметров. Она предназначена для генерации текста; модель обучена на базе jeiku/completion4B с помощью Axolotl 0.4.1. В метаданных указан контекст до 131 072 токенов и форматы PyTorch и Safetensors. Карточка сообщает значение loss 1,3713 на оценочном наборе, но не описывает набор данных, методику оценки или конкретные сценарии применения. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели.

LFM2.5-2.6B-Abliterated-GGUF — это набор GGUF-квантованных файлов модели PinoCookie/LFM2.5-2.6B-Abliterated, подготовленный и опубликованный mradermacher. Модель предназначена для генерации текста и instruct-сценариев, включая локальный запуск через совместимые с GGUF инструменты. В метаданных указан английский язык и библиотека Transformers. Размер исходной модели составляет около 2,6 млрд параметров. Доступны варианты от Q2_K до Q8_0, IQ4_XS и f16; объём файлов варьируется примерно от 1,2 до 5,5 ГБ. В README не указаны архитектура, размер контекста, точный набор поддерживаемых языков, мультимодальные возможности и результаты тестирования. Квантование позволяет выбирать компромисс между потреблением памяти, скоростью и качеством: Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант высокого качества, а Q8_0 — как наиболее качественный среди быстрых вариантов. Модель обозначена как abliterated, поэтому её поведение в отношении встроенных ограничений безопасности может отличаться от исходной версии; конкретные свойства и ограничения в README не описаны и требуют самостоятельной проверки. Лицензия указана как lfm1.0, с отдельным файлом лицензии LICENSE. Условия этой лицензии следует изучить перед использованием и распространением.

Это 8-битная версия диалоговой модели Llama 2 7B, подготовленная для размещённого инференса. Семейство разработала Meta; модель использует авторегрессионную архитектуру Transformer и содержит около 6,6 млрд параметров. Квантование уменьшает размер весов до уровня менее 10 ГБ, а контекст составляет 4096 токенов. Модель принимает текст и генерирует текст. Она предназначена прежде всего для диалогов на английском языке: например, для ответов на вопросы и работы в роли текстового ассистента. README отмечает, что размещённый инференс может быть медленным без плана Hugging Face Pro. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед применением в конкретном продукте рекомендуется провести проверку безопасности и настройку. Использование регулируется пользовательской коммерческой лицензией Meta для Llama 2; для загрузки весов требуется принять лицензию.

grimjim/llama-3-merge-pp-instruct-8B — диалоговая языковая модель, созданная автором репозитория с помощью mergekit. Это слияние методом SLERP моделей ChaoticNeutrals/Poppy_Porpoise-0.72-L3-8B и meta-llama/Meta-Llama-3-8B-Instruct; архитектура — плотная LlamaForCausalLM, около 7,5 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов по инструкциям на английском языке. Указанный размер контекста — 8192 токена. Модель слегка протестирована при temperature=1.0 и minP=0.02 с предварительными шаблонами запросов Llama 3 Instruct, поэтому качество и поведение могут зависеть от промпта и параметров генерации. Репозиторий содержит веса в формате safetensors и использует лицензию CC BY-NC 4.0, которая ограничивает коммерческое использование.

balrogbob/llamamama — дообученная модель генерации текста на архитектуре Llama, созданная balrogbob на базе unsloth/llama-3-8b-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста по текстовому запросу. В README не описаны конкретная предметная область, стиль ответов или специализированные сценарии применения. Указана лицензия Apache-2.0.

llamamistral-passthrough-merged-model — объединённая языковая модель, созданная с помощью LazyMergekit на основе mistralai/Mistral-7B-v0.1 и togethercomputer/LLaMA-2-7B-32K. В конфигурации passthrough используются слои 0–31 Mistral и слои 24–31 модели LLaMA-2-7B-32K. Репозиторий содержит веса в формате safetensors; размер модели — 8,2 млрд параметров, заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста. Её можно использовать для продолжения текстовых фрагментов и создания ответов в приложениях на базе языковой модели. Карточка не приводит оценок качества, специализированных сценариев или сведений о поддерживаемых естественных языках, поэтому практические возможности и языковое покрытие по этим данным определить нельзя. Лицензия в предоставленных данных не указана.

Lyra_Gutenbergs-Twilight_Magnum-12B-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Lyra_Gutenbergs-Twilight_Magnum-12B, разработанной Nitral-AI. Квантизации подготовлены пользователем bartowski с использованием llama.cpp b3631 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio. Доступны варианты от исходных весов F16 размером 24,50 ГБ до компактных форматов Q3 и IQ3 размером около 6 ГБ, а также Q4, Q5, Q6 и Q8. Более качественными и рекомендуемыми указаны варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; отдельные варианты оптимизированы для ARM и CPU. Заявлен английский язык, поддерживается текстовая модальность. Архитектура и размер контекстного окна в README не указаны. Для работы следует использовать формат запроса <s> [INST] запрос [/INST]. Системные сообщения модель не поддерживает. К преимуществам относятся широкий выбор уровней квантизации для подбора компромисса между качеством, размером и скоростью, а также возможность локального инференса. Ограничения включают отсутствие поддержки system prompt и потенциальное снижение качества в более компактных вариантах. Лицензия указана как other, без дополнительных условий в README.

MaziyarPanahi/M7Yamshadowexperiment28_Strangemerges_30Experiment26 — объединённая языковая модель на архитектуре Mistral с плотной архитектурой и 7,1 млрд параметров. Веса хранятся в формате safetensors; модель создана путём слияния automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_30Experiment26-7B. Модель предназначена для генерации текста и принимает текстовые запросы, выдавая текстовые продолжения. Заявленная длина контекста — 32 768 токенов. Карточка не описывает специальные области применения, языки или отдельные возможности модели. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробных ограничений, поэтому пригодность для конкретных сценариев следует проверять отдельно.

MFANNv0.22.1 — экспериментальная диалоговая модель netcat420 для генерации текста и рассуждений в формате chain of thought. Это исправленный выпуск MFANNv0.22: автор сообщает, что предыдущая версия иногда уклонялась от ответа и имела проблемы с perplexity. Для этой версии применён метод слияния SLERP; модель основана на дообученной и подвергнутой абляции Llama 3.1 от mlabonne. Архитектура — плотная LlamaForCausalLM на 7,5 млрд параметров, формат весов — safetensors, контекст — до 131 072 токенов. Модель ориентирована на диалог на английском языке и заявлена как универсальный рассуждающий помощник. Она находится в бета-версии 0.x; автор предупреждает о возможных ответах, не подходящих для всех аудиторий. Лицензия в метаданных — llama3.1.

MiniCPM-2B-dpo-bf16-llama-format — диалоговая языковая модель MiniCPM от ModelBest и лаборатории обработки естественного языка Университета Цинхуа (TsinghuaNLP). Это DPO-версия семейства MiniCPM, представленная в архитектуре Llama; в метаданных указано 2,7 млрд параметров и контекст до 4096 токенов. Модель принимает текст и генерирует текст, поддерживает китайский и английский языки. Модель предназначена для диалогов, ответов на вопросы и других задач общего назначения, а компактный размер позволяет рассматривать её для локального запуска, в том числе на устройствах с ограниченными ресурсами. Разработчики сообщают о результатах DPO-версии на MTBench, однако оценка зависит от настроек генерации: в карточке отмечено, что качество генерации через Hugging Face Transformers может быть ниже, чем через vLLM. Ограничения включают галлюцинации, чувствительность к формулировке запроса, непоследовательность ответов и неточные знания; длинные ответы DPO-версии могут повышать вероятность галлюцинаций. Лицензия указана как other, а README заявляет о выпуске весов для исследований и ограниченного коммерческого использования; перед применением следует свериться с условиями лицензии репозитория.