I.2Синтез, понимание и проверка знаний

Llama3-stanford-encyclopedia-philosophy-QA — дообученная разработчиком ruggsea диалоговая языковая модель на базе Meta Llama 3 8B Instruct. Она предназначена для ответов на философские вопросы в формальном, но доступном тоне, с ориентацией на корректные и строгие объяснения. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст, генерируя текст. В метаданных указан контекст до 8192 токенов; модель ориентирована на английский язык. Веса опубликованы в формате safetensors, лицензия указана как other.

Undi95/Llama3-Unholy-8B-OAS — разговорная модель генерации текста, созданная на основе meta-llama/Meta-Llama-3-8B-Instruct. Автор сообщает, что модель дополнительно ослабляет ограничения на ответы с помощью orthogonal activation steering; в репозитории размещены веса fp16. Модель построена на архитектуре Llama и содержит 7,5 млрд параметров, контекстное окно — 8192 токена. Модель предназначена для диалоговой генерации ответов в формате Llama 3 и заявлена как менее ограниченная, в том числе для запросов, на которые обычные ассистенты могут отказать. При дообучении использованы наборы Undi95/toxic-dpo-v0.1 и NobodyExistsOnTheInternet/ToxicQAFinal. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства, но не коммерческое использование.

Minbyul/meditron-7b-wo-healthsearch_qa-sft — дообученная модель генерации текста на базе epfl-llm/meditron-7b. Она использует плотную архитектуру Llama и содержит 6,6 млрд параметров; контекст — до 2048 токенов. В качестве обучающих данных указан набор HuggingFaceH4/deita-10k-v0-sft, а README сообщает значение loss 1,0945 на оценочном наборе. Модель предназначена для генерации ответов на текстовые запросы; медицинская тематика унаследована от базовой Meditron-7B, которую описывают как англоязычную модель для экспериментов с ответами на медицинские вопросы. Качество и безопасность ответов именно этой версии README не характеризует. Лицензия — Llama 2 Community License.

Mellum2-12B-A2.5B-Base-Pretrain — предварительно обученная причинно-следственная языковая модель JetBrains из семейства Mellum2. Это контрольная точка до расширения контекста, предназначенная для исследований по увеличению контекстного окна и для продолжения предобучения или тонкой настройки на 8K контексте. Для прикладного использования README рекомендует версии Base, Instruct или Thinking. Модель использует архитектуру Mixture-of-Experts: 64 эксперта, из которых активируются 8 на каждый токен. В ней 28 слоёв, размер скрытого состояния 2304 и комбинируются слои скользящего окна и полного внимания. Контекст составляет 8192 токена, окно скользящего внимания — 1024 токена. Модель принимает текст и генерирует текст; в метаданных указан английский язык. Репозиторий содержит веса safetensors и модель использует библиотеку Transformers. Модель распространяется по лицензии Apache 2.0. Это базовая модель продолжения текста, а не инструктивный чат-чекпойнт; её пригодность для конкретного приложения зависит от последующей настройки. README отмечает, что расширение контекста ещё не применено.

Azerbaijan mGPT 1.3B — языковая модель семейства mGPT, разработанная ai-forever для генерации текста на азербайджанском языке. Это дообученная версия mGPT-XL (1,3 млрд параметров), архитектура GPT-2 с плотными слоями. Базовая модель обучалась на 61 языке; эту версию дополнительно обучили на данных для азербайджанского языка в течение 70 000 шагов. Контекстное окно — 2048 токенов. Модель предназначена для продолжения и генерации азербайджанского текста, включая сценарии с латинской и арабской письменностью. В README приведено значение perplexity 5,37 на валидации. Модель распространяется с лицензией MIT. Карточка не описывает диалоговую настройку или специализированные прикладные функции.

mistral-ko-exo-wiki-quiz-v1 — дообученная модель разработчиков shleeeee (Seunghyeon Lee) и oopsung (Sungwoo Park), созданная на основе Mistral 7B. Она предназначена для генерации текста на корейском языке; название модели указывает на сценарий викторин по Exo и Wikipedia, однако README не раскрывает подробности этого применения. Модель имеет плотную архитектуру MistralForCausalLM примерно с 7,1 млрд параметров и контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в материалах репозитория и базовой модели.

MoE-Qwen-4x1.8B-pretrain-50000-ckpt — контрольная точка проекта MoE-модели, созданной на основе Qwen 1.8B. Разработчики объединили четыре исходные модели и обучали их специальными методами; этот чекпойнт относится к этапу продолжения предварительного обучения. В метаданных указаны архитектура MixtralForCausalLM, около 1,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста и дальнейших экспериментов с продолжением предобучения. В карточке приведены результаты на BoolQ и CEval, однако они не дают полной оценки качества и не устанавливают пригодность для конкретных прикладных сценариев. Модель поддерживает китайский язык согласно метаданным. Файлы опубликованы в формате safetensors; лицензия — Apache-2.0.

SPP-MT Instruct — экспериментальная англоязычная чат-модель на 3 млрд параметров, разработанная dlab-spp для исследований Synthetic Persona Pretraining и выравнивания поведения модели с заданной ценностной персоной. Она обучена с нуля на архитектуре семейства Llama, затем прошла дообучение на инструкциях и примерах безопасности; базовая модель — dlab-spp/mt-3b-base. В обучении использованы данные WildChat-1M, WildJailbreak и WildGuardMix, а ответы могут содержать ссылки на пункты конституции в формате [N.M]. Модель предназначена для диалоговых ответов на инструкции и исследований конституционного выравнивания, обобщения ценностей и устойчивости к jailbreak-запросам. Она принимает текст и генерирует текст, поддерживает чат-шаблон без системного промпта; максимальный родной контекст — 2048 токенов. Доступны ревизии с разной долей примеров безопасности, по умолчанию используется смесь с долей 10%. Это исследовательский артефакт, а не производственная модель: ответы могут быть неверными или небезопасными. Лицензия указана как other, поэтому конкретные условия использования по имеющимся данным определить нельзя.

Это дообученная модель GPT-2 от fpadovani для генерации текста на нидерландском языке. Она создана на основе fpadovani/ppt-art-lang-newlexicon-zipf-nld-baseline-100mb_seed3407 и обучалась с помощью TRL. В карточке приведён пример генерации ответа на вопрос в формате диалога. Модель доступна в формате safetensors и рассчитана на контекст до 512 токенов. Её можно использовать через библиотеку Transformers для продолжения текста и генерации ответов. Данных о лицензии и специальных областях применения в предоставленных источниках нет.

BrandonHowe/Olmo7b-compassion-olmo-seed1-20260930-CPT-merged-epoch-4 — отдельная объединённая модель на основе Olmo-3-1025-7B от Ai2, дообученная на корпусе CompassioninMachineLearning/compassion_12185_cleaned. Это плотная авторегрессионная модель семейства Olmo 3 с 6,9 млрд параметров, предназначенная для генерации текста; контекст — до 65 536 токенов. Модель опубликована в BF16 в восьми шардах safetensors и загружается без адаптера. Обучение продолжалось до эпохи 4, шаг 1500; в README указаны 10 000 уникальных документов, 2 000 повторных предъявлений на эпоху и 200 отдельных документов для валидации. Тематика обучающего корпуса предполагает эксперименты с эмпатичными или сострадательными ответами, однако обучение само по себе не подтверждает улучшение этого качества. Базовая модель англоязычная; отдельное подтверждение поддержки других языков в карточке отсутствует. Лицензия в предоставленных данных не указана.

OpenSML-150M — англоязычная компактная языковая модель Уильяма Зебровски, обученная с нуля с помощью Apple MLX и дополнительно дообученная на инструкционных данных. В выбранном чекпойнте около 150,44 млн параметров; архитектура включает 20 слоёв, ширину скрытого представления 768 и групповое запросное внимание GQA с 12 головами запросов и 4 головами ключей и значений. Модель использует byte-level BPE-токенизатор на 32 000 токенов. Модель предназначена для генерации текста и экспериментов с небольшими языковыми моделями; её можно использовать для ответов на инструкции, простых вопросов и задач с вариантами ответа. Предобучение охватило 7,8 млрд токенов, затем модель прошла три этапа контролируемой настройки на инструкционных и вопросно-ответных данных. В карточке приведены результаты проверок ARC, PIQA и HellaSwag, однако они не подтверждают пригодность для широкого практического применения. Автор обозначает чекпойнт как предварительную исследовательскую версию. Возможны ошибки, повторы, предвзятые или небезопасные ответы; безопасность, использование инструментов, многоязычность и продолжительные диалоги не проверены. Модель распространяется по лицензии Apache-2.0.

OpenThaiGPT 0.0.4 — экспериментальная тайскоязычная модель генерации текста, разработанная Kobkrit Viriyayudhakorn. Это четвёртая версия PoC на базе GPT-2 Thai-base, дообученная на инструкционных данных, подготовленных из публикаций Pantip и вопросов и ответов по Wikipedia; RLHF не применялся. Модель предназначена для генерации ответов на инструкции и вопросы на тайском языке, включая вопросы и ответы по знаниям из Wikipedia. Архитектура — плотная GPT-2 с классом GPT2LMHeadModel, формат весов PyTorch, контекст — 1024 токена. Лицензия — Apache-2.0. Карточка описывает ранний PoC, поэтому качество и надёжность ответов могут быть ограничены.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E128-k4-13.2B-A670M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d2048-E128-k8-52.2B-A3.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d2048-E32-k16-13.6B-A7.1B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d512-E64-k16-1.7B-A520M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d512-E64-k2-1.7B-A170M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d512-E64-k8-1.7B-A320M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d1024-E16-k16-1.9B-A1.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d1024-E256-k16-26.0B-A1.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d1024-E256-k2-26.0B-A470M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d1024-E256-k8-26.0B-A1.1B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d1024-E8-k8-1.1B-A1.1B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d2048-E128-k8-52.2B-A3.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d2048-E32-k8-13.6B-A3.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d2048-E64-k16-26.4B-A7.1B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d2048-E8-k4-3.9B-A2.3B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d512-E128-k4-3.3B-A220M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d512-E256-k2-6.6B-A170M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d512-E64-k2-1.7B-A170M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.