I.2Синтез, понимание и проверка знаний

Карточка модели llm-jp/optimal-sparsity-math-d1024-E16-k4-1.9B-A670M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d1024-E64-k16-6.7B-A1.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d2048-E128-k16-52.2B-A7.1B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d2048-E16-k16-7.1B-A7.1B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d2048-E64-k4-26.4B-A2.3B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d2048-E64-k8-26.4B-A3.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d512-E16-k2-520M-A170M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d512-E256-k16-6.6B-A520M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d512-E256-k4-6.6B-A220M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d512-E64-k16-1.7B-A520M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d512-E8-k8-320M-A320M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

PLLaMa-13B-Instruct — языковая модель для задач науки о растениях, разработанная UCSB. Она создана на основе LLaMA 2 13B: сначала модель продолжительно предобучали на более чем 1,5 млн научных статей по ботанике и растениеводству, затем дообучили следованию инструкциям. Модель предназначена для генерации текста по запросам, включая помощь с научной информацией о растениях. Это плотная авторегрессионная архитектура LlamaForCausalLM с 12,9 млрд параметров и контекстом 2048 токенов. В карточке не подтверждена поддержка конкретных языков; модель работает с текстом. Модель распространяется по лицензии Apache-2.0. Специализация на научных статьях о растениях может быть полезна для профильных запросов, однако качество ответов и полнота охвата тем в карточке не оценены.

Qwen3-1.7B-Coder-Distilled-SFT-GGUF — набор GGUF-квантизаций модели, опубликованный и квантованный tinyopsec. В основе лежит модель reaperdoesntknow/Qwen3-1.7B-Coder-Distilled-SFT, созданная Convergent Intelligence LLC: Research Division. Модель построена на архитектуре Qwen3ForCausalLM и предназначена для генерации текста с акцентом на логический вывод и STEM-рассуждения. Модель имеет около 1,7 млрд эффективных параметров и была обучена в два этапа: дистилляция знаний из Qwen3-Coder-30B-A3B-Instruct для формирования структурированного основания для STEM-рассуждений, затем дообучение примерно на 54 600 задачах логического вывода. Основные сценарии — пропозициональная логика, формальные рассуждения, вывод следствий, структурированная аргументация, решение STEM-задач и образовательное сопровождение. Указан английский язык, контекст обучения составляет 1024 токена. Доступны варианты от F16 до Q2_K размером примерно от 3,4 до 0,6 ГБ, что позволяет запускать модель на устройствах с ограниченными ресурсами через llama.cpp, llama-cpp-python, LM Studio или Ollama. Сильные стороны модели — небольшой размер, разнообразие степеней квантизации и специализация на логическом выводе и кратких STEM-выводах. Ограничения включают небольшой контекст, непредназначенность для универсальной генерации кода, формальной проверки доказательств в Lean или Coq и задач, требующих высокой безопасности; качество снижается при более агрессивной квантизации. Лицензия — Apache 2.0.

sagnikM/qwen_qwen_step100_prior — конвертированный чекпойнт модели Qwen2.5-7B, подготовленный из шага 100 обучения HiLL Qwen2.5-7B/OpenThoughts. Модель построена на плотной архитектуре Qwen2ForCausalLM и содержит 7,1 млрд параметров; для загрузки используются Transformers и формат safetensors. Контекстное окно составляет 32 768 токенов. Модель описана как генератор подсказок, который формирует только вопрос и предназначен для сценария HiLL. Она дообучена на базе Qwen/Qwen2.5-7B-Instruct. Загружены веса, конфигурация и токенизатор, но состояние оптимизатора и обучения в репозитории отсутствует. Лицензия в доступных данных не приведена.

Vanilla — Instruct (1.7B) — языковая модель семейства SmolLM2, разработанная авторами проекта Model Raising и обученная с нуля на архитектуре SmolLM2-1.7B. Это инструкционно настроенная версия базовой модели model-raising/spp-vanilla-1.7b-base: после предобучения её дообучили на 300 тысячах одноходовых диалогов, включая инструкции и запросы по безопасности. Ответы следуют конституции и могут содержать встроенные ссылки вида [N.M]. Модель использует токенизатор SmolLM2 с добавленным специальным токеном. Модель предназначена для исследований выравнивания поведения и безопасности: изучения конституционного выравнивания, обобщения ценностей и устойчивости к jailbreak-запросам. Она генерирует текст и поддерживает чат на английском языке; контекстное окно составляет 2048 токенов. Размер — 1,7 млрд параметров, формат файлов — safetensors. Авторы отмечают, что модель может выдавать неверный или небезопасный контент и не предназначена для производственного применения. Лицензия в карточке обозначена как other, а README сообщает, что её условия ещё уточняются.

AstroLLaMA-2-70B-Chat_AIC — специализированная диалоговая языковая модель команды AstroMLab, дообученная методом supervised fine-tuning на базе AstroLLaMA-2-70B-Base_AIC. В основе — плотная архитектура LLaMA 2 с 68,7 млрд параметров; модель принимает текст и генерирует текст, поддерживает английский язык и имеет контекст 4096 токенов. Модель предназначена для общения по вопросам астрономии и астрофизики, а также для следования инструкциям в формате чата. Для дообучения использовали разговоры по астрономическим статьям arXiv, а также примеры из LIMA, Open Orca и UltraChat. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT. По данным карточки, качество чат-версии снизилось относительно базовой AstroLLaMA-2-70B-Base_AIC: оценка упала с 76,0% до 64,7%. Дообучение сместило ответы в сторону общих формулировок и могло ослабить специализированные астрономические знания. Научные ответы следует сверять с рецензируемыми источниками; модель опубликована прежде всего для воспроизводимости и сравнения исследовательских версий.

Sumaia/distilbert-base-uncased-finetuned-winogrande — модель классификации последовательностей на базе DistilBERT, дообученная для задачи Winogrande. Она предназначена для выбора или классификации текстовых вариантов в задачах, связанных с пониманием контекста и здравым смыслом. Модель принимает текст и выдаёт метки классов; максимальная длина контекста составляет 512 токенов. В README указаны loss 0,9100 и accuracy 0,5525 на оценочном наборе, что указывает на ограниченное качество и необходимость проверки на целевых данных. Модель распространяется по лицензии Apache-2.0.

HamBoBoGPT-Reasoning — небольшая англоязычная языковая модель, опубликованная HBB-Community и дообученная на базе SupraLabs/Supra-50M-Reasoning. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 51,8 млн параметров; она принимает и генерирует текст, а заявленная длина контекста составляет 1024 токена. По карточке, обучение охватило более 500 млн токенов и использовало наборы данных для рассуждений, включая GSM8K и медицинские примеры. Модель предназначена для генерации английских ответов с рассуждениями и компактного запуска, в том числе на телефоне. В README приведены результаты PIQA 59,58% и WinoGrande 50,75% против базовой модели; автор также предупреждает о слабом качестве, возможных циклах и трудностях с созданием связных историй. Лицензия указана как other, поэтому конкретные условия использования следует сверить с файлами репозитория и правами на использованные датасеты.

Riiid/kda-mpnet-base-race — модель на архитектуре MPNet, связанная с работой EMNLP 2022 «Evaluating the Knowledge Dependency of Questions». Она предназначена для выбора правильного варианта ответа в задачах с несколькими вариантами и использует набор данных RACE. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 514 токенов и выдаёт выбор ответа. Модель представлена в формате PyTorch и распространяется по лицензии CC BY-NC-SA 4.0. Карточка указывает на исследовательскую работу, но не описывает показатели качества или дополнительные сценарии применения.

LFM2.5-8B-A1B-KO-CPT-Repair-SFT — диагностический чекпойнт с дообучением SFT, созданный LLM-OS-Models на основе LLM-OS-Models/LFM2.5-8B-A1B-KO-CPT-FULL. Это разговорная языковая модель для генерации текста; обучение было направлено на исправление формата ответов в корейских задачах с выбором ответа и сохранение возможностей в вопросах по доказательствам, финансах, Text2SQL, программировании и компактных рассуждениях. Архитектура — LFM2 MoE, 1,6 млрд параметров, контекст — до 128 000 токенов; модель принимает текст и генерирует текст, с приоритетом корейского и поддержкой английского. Чекпойнт опубликован для воспроизводимости, а не как рекомендуемая модель для бенчмарков. Оценка показала, что SFT не восстановил профиль публичных бенчмарков KO-CPT: ответы стали более многословными, а результаты по ряду задач оказались ниже базовой модели или KO-CPT. Для публичных бенчмарков авторы рекомендуют исходный KO-CPT. Лицензия указана как other; конкретные условия использования следует сверить с карточкой модели.

Карточка модели EdgerunnersArchive/Llama-3-8B-Instruct-ortho-baukit-toxic-v2 на Hugging Face совпадает с карточкой EdgerunnersArchive/Llama-3-8B-Instruct-ortho-baukit-toxic-n128-v3, поэтому описание составлено по ней. EdgerunnersArchive/Llama-3-8B-Instruct-ortho-baukit-toxic-n128-v3 — исследовательская модификация Llama 3 8B Instruct, созданная wassname с обновлённой реализацией baukit. Модель предназначена для исследований выравнивания и изучения теорий Alignment Forum; README описывает применение метода к Llama 3 8B Instruct. Это плотная авторегрессионная языковая модель на 7,5 млрд параметров с контекстом до 8192 токенов и интерфейсом чата. Модель принимает текст и генерирует текст. Ранние проверки показывают, что она всё ещё может отказывать в ответах и нуждается в дополнительных примерах. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и ограничивающая коммерческое применение; автор также предоставляет модель «как есть» и не гарантирует её пригодность или безошибочную работу.

Math-LLaVA — открытая мультимодальная языковая модель, созданная дообучением LLaVA-1.5-13B на отобранных данных MathV360K, часть которых была синтезирована с помощью GPT-4 Vision. Модель разработана для исследований мультимодального рассуждения и ответов на вопросы по изображениям, особенно в математических задачах. Модель имеет плотную архитектуру LlavaLlamaForCausalLM и около 12,9 млрд параметров. Она принимает изображения и текст, а отвечает текстом; контекст составляет 4096 токенов. Обучение проводилось на инструкционных данных MathV360K, а оценка — на трёх бенчмарках мультимодального математического и междисциплинарного рассуждения. Модель предназначена прежде всего для исследователей и энтузиастов компьютерного зрения, NLP и машинного обучения. Карточка указывает исследовательское назначение, но сама по себе эта оговорка не определяет зрелость модели: Math-LLaVA представляет собой готовый чекпойнт для практического применения и экспериментов. Условия лицензии в предоставленных данных не описаны.

mrseongminkim/mistral-7b-qlora-ai2_arc-full-mcqa-merged — объединённая модель на основе Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Идентификатор указывает на настройку QLoRA для полного набора AI2 ARC с вопросами с множественным выбором; метаданные подтверждают семейство Mistral и задачу text-generation. Модель использует плотную архитектуру MistralForCausalLM, доступна в формате safetensors, а указанное родное окно контекста составляет 32 768 токенов. По назначению она подходит для генерации ответов и решения вопросов с вариантами выбора, в том числе на научные темы из набора ARC. Поисковая выдача по точному заголовку и идентификатору не дала результатов; сведения о настройке QLoRA и предметной области следуют из идентификатора модели, а не из найденной карточки. Лицензия и конкретные ограничения качества в предоставленных данных не установлены.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E256-k2-26.0B-A470M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E8-k4-1.1B-A670M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d2048-E64-k4-26.4B-A2.3B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d512-E128-k4-3.3B-A220M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d1024-E256-k4-26.0B-A670M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d1024-E32-k16-3.5B-A1.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d1024-E32-k8-3.5B-A1.1B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.