II.1Анализ требований и архитектура ПО

TwinLlama-3.1-8B — текстовая плотная авторегрессионная модель семейства Llama, опубликованная jessemeng и дообученная на unsloth/Llama-3.2-1B с помощью Unsloth и Hugging Face TRL. Она предназначена для генерации текста и диалогового общения. Модель содержит 1,2 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0.

Unhinged-Author-70B — объединённая языковая модель, созданная FiditeNemini с помощью mergekit и метода TIES на основе Steelskull/L3.3-MS-Nevoria-70b с включением huihui-ai/DeepSeek-R1-Distill-Llama-70B-abliterated. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, рассчитанная на генерацию текста; заявленный контекст составляет до 131 072 токенов. Модель можно применять для диалогов, развёрнутых ответов, рассуждений и творческого письма. Репозиторий предоставляет веса в формате safetensors; метаданные указывают библиотеку Transformers и интерфейс для вызова инструментов. README не приводит оценок качества или подробных рекомендаций по использованию. Лицензия в предоставленных данных не указана.

Venomia-1.1-m7-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, созданная слиянием Mistral-7B-Instruct-v0.1 и Sao10K/Venomia-1.1-m7 методом SLERP. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. В метаданных указан английский язык. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Карточка не описывает отдельные специализированные области применения или ограничения качества.

Venomia-1.1-m7-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, полученная слиянием Mistral-7B-Instruct-v0.2 и Sao10K/Venomia-1.1-m7 методом SLERP. Модель разработана на базе Mistral и содержит 7,1 млрд параметров; поддерживает контекст до 32 768 токенов и предназначена для генерации текста и ответов на инструкции в формате диалога. Модель подходит для чат-ботов, интерактивных ответов и генерации текста по запросу. Распространяется в формате safetensors, лицензия — Apache-2.0. Данные карточки не описывают конкретные целевые языки или специализированные области применения.

VerB-Etheria-55b — экспериментальное объединение моделей в стиле Goliath, созданное автором SteelStorage как вариант VerB с равным вкладом двух моделей Yi-34B. Модель предназначена для генерации текста и диалоговых сценариев; в карточке приведены результаты оценок на нескольких тестах, включая AI2 Reasoning Challenge и HellaSwag. Модель имеет плотную архитектуру семейства Llama с 55,1 млрд параметров и контекстом до 200 000 токенов. Веса опубликованы в формате safetensors. README описывает merge как попытку получить функциональную модель такого размера, поэтому качество и пригодность для конкретных задач следует проверять самостоятельно. Лицензия — Apache 2.0.

Winter Garden 7B Alpha — экспериментальная чат-модель на архитектуре Mistral, собранная автором карточки путём слияния девяти моделей и вариантов весов. Она предназначена для диалоговой генерации текста, ответов на инструкции, помощи с программированием, научными и математическими вопросами, а также творческих сценариев и ролевых диалогов. В README описано слияние слоёв Mistral-7B-v0.1 с чередованием моделей по девяти случайным группам; конфигурация в основном сохраняет порядок базовой Mistral. Модель содержит 7,1 млрд параметров, принимает контекст до 32 768 токенов и распространяется в формате safetensors. Карточка предлагает использовать разговорный шаблон с описанием сцены и карточкой персонажа; также упоминает несколько вариантов формата инструкций. Автор характеризует модель как способную работать с наукой, математикой и творческими задачами, однако это экспериментальное слияние, и приведённые в README оценки не гарантируют качества в конкретных сценариях. Указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование.

WizardLM-30B-v1.0 fp16 — текстовая генеративная модель на архитектуре Llama, подготовленная TheBloke в формате PyTorch для вывода на GPU и дальнейшей конвертации. Репозиторий содержит слитые дельта-веса WizardLM с исходной Llama 30B; размер модели по метаданным — 32,3 млрд параметров, контекст — 2048 токенов. Модель предназначена для диалогов и ответов на пользовательские вопросы в стиле вежливого ассистента, который даёт подробные ответы. В начале диалога следует использовать шаблон WizardLM-30B с ролями USER и ASSISTANT. Модель работает с текстом и генерирует текст; сведения о конкретных поддерживаемых естественных языках в карточке отсутствуют. Для работы доступны веса fp16 в PyTorch, рассчитанные на GPU. README также упоминает отдельные квантованные варианты для GPU и CPU, но данный репозиторий содержит именно fp16-веса. Лицензия указана как other, поэтому условия использования следует уточнить в исходных материалах модели. Ограничения: контекст ограничен 2048 токенами; характеристики качества и дополнительные меры безопасности в карточке не описаны.

Xenon-3 — разговорная модель для генерации текста, разработанная на основе Mistral-7B-v0.1 и дообученная на наборе Ultrafeedback с использованием методов из статьи Self-Rewarding Language Models. Модель построена на плотной архитектуре MistralForCausalLM с 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций в формате Mistral: запросы заключаются в токены [INST] и [/INST]. В архитектуре используются Grouped-Query Attention и Sliding-Window Attention; для диалогов доступен chat template через Transformers. Карточка указывает английский язык. Модель распространяется под лицензией Apache-2.0.

YamshadowInex12_Percival_01Shadow — слитая модель для генерации текста, созданная на основе automerger/YamshadowInex12-7B и automerger/Percival_01Shadow-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; модель принимает текстовые запросы и генерирует текст, поддерживая контекст до 32 768 токенов. Модель подходит для диалогов, написания и продолжения текста, а также генерации ответов на запросы. Данные не описывают специализацию по предметной области или конкретные языковые возможности, поэтому качество для отдельных языков и сценариев нельзя определить по карточке. Весы опубликованы в формате Safetensors под лицензией Apache 2.0.

chargoddard/Yi-34B-Llama — версия 01.AI Yi-34B, в которой имена тензоров приведены к формату стандартной реализации Llama. Модель представляет собой плотную авторегрессионную языковую модель на 33,9 млрд параметров с архитектурой LlamaForCausalLM и контекстом до 4096 токенов. Она предназначена для генерации текста и может загружаться через стандартный код моделирования Llama без параметра trust_remote_code. Для токенизатора требуется trust_remote_code; в ветке llama-tokenizer используется класс токенизатора Llama. Репозиторий содержит веса safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке модели и связанных материалах.

mncai/yi-34B-v3 — языковая модель от MindsAndCompany, дообученная на базе Yi-34B с instruction tuning и DPO. Она предназначена для генерации текста и диалоговых сценариев, например для бизнес-ассистентов и чат-ботов. Модель имеет плотную архитектуру семейства Llama с классом LlamaForCausalLM, содержит 33,9 млрд параметров и поддерживает контекст до 8192 токенов. В карточке приведён пример вопроса на корейском языке. Модель распространяется в формате safetensors по лицензии other; конкретные условия лицензии в предоставленных данных не раскрыты. Карточка описывает её как основу для решений MindsAndCompany, включая Code Assistant и TOD Chatbot, но не приводит оценок качества или подробных ограничений применимости.

jeiku/zenithquantum — языковая чат-модель, полученная автором репозитория слиянием SLERP двух предварительно обученных моделей: FourOhFour/Zenith_4B и FourOhFour/QuantuMinx_4B. Она предназначена для генерации текста и диалогового ассистирования. Модель имеет плотную архитектуру LlamaForCausalLM примерно на 3,9 млрд параметров и контекстное окно до 131 072 токенов; файлы опубликованы в формате safetensors для Transformers. Модель подходит для ответов на вопросы, ведения диалогов и генерации текста. В метаданных QuantuMinx_4B описана как англоязычная модель общего ассистирования и ролевых диалогов, однако сведения о языках ZenithQuantum отдельно не приведены. Лицензия в доступных данных не указана.

Zephyr-7B-β — разговорная языковая модель из серии помощников Zephyr, разработанная HuggingFaceH4. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров, дообученная на Mistral-7B-v0.1 методом Direct Preference Optimization (DPO) на синтетических диалогах и предпочтениях ответов. Она принимает текст и генерирует текст; основной язык — английский. Контекстное окно составляет 32 768 токенов. Модель предназначена для диалогового помощника: она отвечает на вопросы, следует инструкциям и поддерживает многошаговый чат. В опубликованных при выпуске оценках она показывала сильные результаты среди открытых моделей сопоставимого размера, но заметно уступает более крупным системам в сложных задачах программирования и математики. В карточке указано, что модель не прошла этап выравнивания безопасности в RLHF и может выдавать проблемный контент, в том числе по соответствующему запросу. Лицензия — MIT.

Это диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, дообученная разработчиком ShenaoZ на базе mistralai/Mistral-7B-Instruct-v0.2. Для обучения использован датасет HuggingFaceH4/ultrafeedback_binarized; название модели указывает на применение DPO и четыре итерации дообучения. Модель предназначена для генерации текста и ответов в диалоге. Она принимает текст и формирует текстовые ответы, поддерживая контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. README не приводит результатов оценки или подробностей о сильных сторонах и ограничениях этой версии; её возможности следует оценивать с учётом базовой Mistral-7B-Instruct-v0.2 и конкретных сценариев применения.

ishikaa/acquisition_student_original_omnimath_qwen14b — текстовая генеративная модель на базе архитектуры семейства Qwen2, опубликованная пользователем ishikaa. Модель доступна для работы через библиотеку Transformers и имеет около 14 млрд параметров. Модель предназначена для генерации текста в диалоговых и других сценариях обработки текстовых запросов. По метаданным, она обучалась с применением supervised fine-tuning (SFT) и инструментов TRL, а также поддерживает контекст длиной до 32 768 токенов. Модель может использоваться для продолжения текста, формирования ответов на запросы и интеграции в conversational-приложения. README не содержит сведений о разработчиках, исходной модели, языках, лицензии, обучающих данных, результатах оценки или специальных областях применения. Поэтому перед использованием необходимо самостоятельно проверить лицензионные условия и качество модели на целевых данных.

Tongyi-DeepResearch-30B-A3B-GGUF — это GGUF-квантизированная версия языковой модели Tongyi-DeepResearch-30B-A3B, разработанной Alibaba-NLP. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории доступны варианты от BF16 до низкобитных IQ- и Q-квантизаций размером примерно от 14 до 61 ГБ. В названии модели указана конфигурация 30B-A3B, однако подробности архитектуры, модальностей, поддерживаемых языков и размера контекста в README не приведены. Некоторые варианты, включая Q6_K_L, Q6_K, Q5_K и Q4_K_M, обозначены как рекомендуемые; Q4_K_M описан как вариант стандартного размера для большинства сценариев. Ключевое преимущество сборки — возможность локального запуска с выбором компромисса между качеством, размером файла и требованиями к памяти. Более компактные квантизации подходят для систем с ограниченными ресурсами, но могут заметнее уступать по качеству исходным весам. Формат prompt в README не указан, поэтому его следует уточнять на странице исходной модели. Лицензия в предоставленных данных не указана.

bartowski/allura-org_Qwen3.6-35B-A3B-Anko-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Qwen3.6-35B-A3B-Anko, разработанной allura-org. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может использоваться локально в llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и других совместимых инструментах. В репозитории доступны варианты от BF16 до низкобитных форматов Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов варьируется примерно от 16,2 до 69,4 ГБ, что позволяет выбирать между качеством и требованиями к памяти. Заявлены английский и китайский языки. В README не указаны размер контекста, точная архитектура, дополнительные модальности или результаты бенчмарков, поэтому эти характеристики нельзя достоверно оценить по предоставленным данным. Сильной стороной модели является широкий выбор квантизаций, включая варианты, ориентированные на высокое качество или экономию памяти, а также совместимость с популярными средствами локального запуска. Ограничения связаны с потерями качества, возможными при использовании низкобитных вариантов, значительными требованиями к диску и оперативной или видеопамяти, а также с необходимостью поддержки этой модели конкретным программным обеспечением. Модель распространяется по лицензии Apache-2.0.

CultriX/AlphaCeption-7B-v1 — слитая модель для генерации текста, созданная с помощью mergekit методом SLERP из CultriX/MergeCeption-7B-v3 и abideen/AlphaMonarch-daser. Она рассчитана на диалоговое взаимодействие и общие языковые задачи. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; в метаданных указана возможность чата. Репозиторий содержит веса в формате safetensors, библиотека для работы — Transformers. Модель распространяется по лицензии Apache-2.0. В карточке не описаны конкретные языки обучения или специальные прикладные области, поэтому её языковые и предметные преимущества нельзя уточнить.

Jebadiah/Aria-p2-sand-stone — объединённая языковая модель, созданная с помощью mergekit на основе Jebadiah/Aria-p1-sand-stone с включением Jebadiah/Aria-Hermes-stone-l3-8b. Для объединения применён метод DARE TIES; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель может использоваться для генерации продолжений, диалоговых ответов и других текстовых задач общего назначения. Веса опубликованы в формате Safetensors. В карточке указана лицензия?

Athena-R3-1.5B — причинная языковая модель на 1,5 млрд параметров, разработанная Aayan Mishra и дообученная на базе deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B для усиления навыков рассуждения. Она предназначена для решения сложных задач, логического анализа, ответов на вопросы по математике и науке, а также для генерации, дополнения и суммаризации текста. Модель использует архитектуру Qwen2 с RoPE, SwiGLU, RMSNorm и Grouped Query Attention; в ней 24 слоя, 16 голов для запросов и 2 для ключей и значений. Контекст — до 131 072 токенов. Карточка указывает поддержку многих языков, включая английский, китайский, русский, французский, испанский, немецкий, японский и другие; лучше всего модель работает на английском. Доступны веса в формате safetensors, библиотека Transformers, лицензия MIT. Модель может ошибаться и наследует смещения обучающих данных; её знания ограничены августом 2024 года. Она не предназначена для критически важных систем реального времени или обработки чувствительных персональных данных.

mradermacher/atom-27b-i1-GGUF — набор квантованных моделей в формате GGUF, созданный mradermacher на основе vanta-research/atom-27b. Модель относится к семейству Gemma и предназначена для генерации текста, диалоговых сценариев, чат-ботов, ролевого общения и задач, связанных с рассуждением и исследованием поведения и взаимодействия человека с ИИ. В метаданных указан английский язык и библиотека Transformers. Модель имеет около 27 млрд параметров в исходной версии. README также описывает её как vision-модель, поэтому для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. В данном наборе представлены варианты imatrix-квантизации с разными уровнями сжатия: от IQ1_S размером около 6,4 ГБ до Q6_K размером около 22,3 ГБ. В качестве сбалансированного варианта размера, скорости и качества рекомендован i1-Q4_K_S, а i1-Q4_K_M отмечен как быстрый и рекомендуемый. Основное преимущество набора — возможность запуска крупной модели при существенно меньшем потреблении памяти, а imatrix-квантизация может обеспечивать лучшее качество по сравнению с сопоставимыми вариантами. Ограничения зависят от выбранного уровня квантизации: самые компактные варианты имеют низкое качество, тогда как более качественные требуют больше памяти. Контекстное окно, точный набор поддерживаемых языков, результаты оценки и практические системные требования в README не указаны. Лицензия исходной модели обозначена как Gemma; условия использования следует проверять в соответствии с лицензией Gemma и исходной моделью.

gradients-io-tournaments/augmented-8bc5002e812b62b4 — генеративная языковая модель, опубликованная на Hugging Face и предназначенная для создания текста. Модель доступна через библиотеку Transformers и использует формат Safetensors; в метаданных присутствуют теги Llama и conversational. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Её можно применять для диалоговых сценариев, генерации продолжений текста, подготовки черновиков и интеграции в приложения на базе Transformers. README не содержит сведений о разработчике, языках, лицензии, обучающих данных, результатах оценки, рисках и конкретных ограничениях модели. Поэтому её качество, безопасность, языковое покрытие и пригодность для специализированных задач необходимо проверять самостоятельно.

jaspionjader/bbb-2 — слитая языковая модель, созданная разработчиком с помощью mergekit методом Model Stock. В объединении использованы jaspionjader/bbb-1 и jaspionjader/kstc-4-8b на основе jaspionjader/kstc-5-8b. Модель построена на архитектуре Llama и содержит 7,5 млрд параметров. Она предназначена для генерации текста и диалогов; принимает текст и выдаёт текст. Максимальная длина контекста — 131 072 токена. Модель доступна в формате safetensors для библиотеки Transformers. Карточка не приводит сведения о лицензии, языковой специализации или оценках качества. Условия использования следует сверить с лицензиями базовых моделей и репозитория перед применением.

calme-3.2-instruct-78b-GGUF — это квантизированная версия инструкционной языковой модели calme-3.2-instruct-78b, разработанной MaziyarPanahi и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях на базе llama.cpp и LM Studio. В README указана поддержка английского языка и шаблон чата с ролями system, user и assistant. Модель основана на Qwen2.5-72B-Instruct, но имеет заявленный размер 78B параметров. Это текстовая модель без заявленной поддержки изображений или других модальностей. Доступны варианты квантизации от Q2_K до Q8_0 с размером файлов примерно от 31,85 до 82,85 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые; более компактные варианты экономят память, но могут снижать качество. Длина контекста в предоставленных данных не указана. Сильная сторона модели — широкий выбор квантизаций для локального запуска и использование imatrix-квантизации, направленной на сохранение качества. Ограничения включают высокие требования к оперативной или видеопамяти, снижение качества в низкобитных вариантах и отсутствие сведений о результатах оценки. Лицензия обозначена как other с ссылкой на лицензию Qwen/Qwen2.5-72B-Instruct; перед использованием необходимо учитывать условия этой лицензии.

Capybara-Tess-Yi-34B-200K — объединённая языковая модель на основе NousResearch/Nous-Capybara-34B и migtissera/Tess-M-Creative-v1.0, созданная brucethemoose с помощью mergekit. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров, предназначенная для генерации текста и диалогов. Карточка указывает контекст до 200 000 токенов и формат диалога Vicuna: SYSTEM, USER, ASSISTANT. Автор отмечает, что модель устарела и её сменила новая сборка; для локального запуска рекомендует вариант ExLlama при контексте свыше 40 000 токенов на видеокарте с 24 ГБ памяти. Иногда модель выводит текстовое представление стоп-токена, поэтому может понадобиться дополнительное условие остановки. Лицензия указана как other, конкретные условия в карточке не описаны.

ColorShadow-7B-v3 — разговорная языковая модель на архитектуре Mistral, созданная nlpguy слиянием Gradient-SLERP моделей ColorShadow-7B и Terminis-7B с помощью mergekit. Она предназначена для генерации текста в диалогах и других сценариях, где требуется продолжать текстовый запрос. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В карточке приведены результаты бенчмарков AI2 Reasoning Challenge и HellaSwag, однако они не гарантируют качество на прикладных задачах. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

cuckoo-starling-32k-7B — объединённая языковая чат-модель на архитектуре Mistral, созданная grimjim методом SLERP с помощью mergekit из grimjim/Mistral-Starling-merge-trial1-7B и grimjim/kukulemon-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых ответов. В карточке указана поддержка шаблонов ChatML и Alpaca; автор сообщает о неформальном тестировании с настройками temperature 0,9–1,0 и minP 0,02. В README обсуждается ручная настройка RoPE theta до 100K и отмечается, что при тестировании связность повествования иногда ухудшалась с RoPE theta 1M. Модель доступна в формате safetensors, использует библиотеку Transformers и распространяется по лицензии CC BY-NC 4.0, ограничивающей коммерческое использование. README приводит результаты нескольких оценок, но не описывает полный протокол тестирования, поэтому они не гарантируют качество на конкретных задачах.

daVinci-Agency — языковая модель от GAIR, дообученная на базе GLM-4.6 от Zhipu AI для длительных агентных задач, особенно связанных с разработкой программного обеспечения. Она обучалась на траекториях реальных цепочек GitHub Pull Request и рассчитана на работу с многошаговыми процессами: декомпозицией задач, сохранением последовательности действий, использованием инструментов и итеративным улучшением результатов. Модель имеет архитектуру GLM-4 MoE и 23,4 млрд параметров. Контекстное окно составляет около 200 тысяч токенов; в метаданных указано 202 752 токена. Основные сценарии — автономное программирование, планирование и выполнение сложных рабочих процессов, анализ обратной связи и самокоррекция. В README сообщается о приросте на Toolathlon относительно базовой модели, однако приведённых результатов недостаточно для оценки качества во всех сценариях. Модель принимает текст и генерирует текст, включая ответы в чат-формате и вызовы инструментов. В карточке заявлена поддержка английского языка. Лицензия — MIT.

deepseek-r1-qwen-2.5-32B-ablated-GGUF — это квантизированная версия текстовой генеративной модели NaniDAO/deepseek-r1-qwen-2.5-32B-ablated, подготовленная bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель относится к семейству Qwen 2.5, имеет размер 32B параметров и предназначена для запуска локально через llama.cpp и совместимые приложения, включая LM Studio. Модель подходит для генерации текста и диалоговых сценариев, включая задачи, связанные с рассуждениями. В репозитории представлены варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Рекомендуемыми обозначены варианты Q4_K_M, Q5_K_M, Q6_K и другие близкие к ним форматы; наиболее компактные варианты экономят память, но дают более низкое качество. Архитектура, поддерживаемые языки и размер контекстного окна в README не указаны. По тегам модель описывается как ablated и uncensored, однако подробности применённых изменений и их влияние на поведение также не раскрыты. Для использования требуется совместимое ПО и память, соответствующая выбранному варианту весов; размеры файлов составляют примерно от 14,81 до 65,54 ГБ. Лицензия — MIT.

DeepSeek-V2-Lite-Chat REAP Pruned ratio 0.3 — разреженный вариант диалоговой модели DeepSeek-V2-Lite-Chat, созданный методом REAP pruning. В каждом MoE-слое число маршрутизируемых экспертов уменьшено с 64 до 45: удалено 19 из 64 экспертов, что соответствует фактическому коэффициенту 0,296875. Общие эксперты сохранены, а на каждый токен активируются 6 маршрутизируемых экспертов. Модель предназначена для диалоговой генерации текста и ответов на запросы. Она принимает текст и выдаёт текст; метаданные указывают 2,5 млрд параметров и контекст до 163 840 токенов. Чекпойнт основан на deepseek-ai/DeepSeek-V2-Lite-Chat и загружается как DeepseekV2ForCausalLM в Transformers. Карточка сообщает о проверке загрузки и пробного прохода, но не приводит результатов сравнительной оценки качества после прореживания. Лицензия в предоставленных данных не указана.