I.2Синтез, понимание и проверка знаний

Eugleo разработал экспериментальную чат-модель Eugleo/exp085-chat-d26-r10-8d0ecbae47a8-sft-5b6e6175 на архитектуре NanochatGPTForCausalLM. Это плотная авторегрессионная модель с 1,2 млрд параметров, дообученная за одну эпоху по рецепту nanochat на наборах smoltalk, mmlu и decor_replay. Базовая модель — nvidia/ClimbMix; её предобучающий корпус включал задачи GSM8K и материалы с вопросами и ответами. Модель принимает текст и генерирует текст в формате чата, поддерживает английский язык и имеет контекст до 2048 токенов. Модель предназначена для экспериментальной оценки влияния повторного предъявления корпусов с диалогами и персонами при SFT. Она может использоваться для исследовательских экспериментов с чат-ответами и проверкой знаний. README указывает значение validation bpb 0,2836 на финальном шаге 486, но не приводит оценок пользовательского качества или подробных результатов бенчмарков. Доступна по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Kanha-AI разработала Kanha Kanha.ai 1.7B Full Quality — плотную языковую модель на 1,7 млрд параметров, дообученную полным обновлением весов на базе Qwen/Qwen3-1.7B. Модель предназначена для контролируемой оценки ответов на вопросы о содержимом сайта Kanha и для исследований, сравнивающих методы обучения на одном наборе данных. Она поддерживает генерацию текста и диалоги, использует контекст до 40 960 токенов и рассчитана на английский язык. В репозитории есть веса Safetensors и артефакты MLC с квантизацией q4f16_1. В описанной оценке полнота воспроизведения дат и URL была высокой, но детерминированная доля успешных ответов составила около 7,7%, полнота списков — около 21,3%, а доля неподтверждённых значений — около 23,1%. Модель может выдавать неверные, неполные или устаревшие ответы и запоминать обучающие данные; перед пользовательским применением нужно проверить её в целевой среде. Лицензия в предоставленных данных не указана.

Blaster-Think — снимок модели для работы со звуком и текстом, созданный на основе дообученной версии Molmo-7B-D-0924. Репозиторий содержит экспорт объединённых весов на шаге обучения 116000 и контракт декодирования typed-think; отдельная LoRA для «мышления» в этих весах отсутствует. Параметры модели — 12,8 млрд, контекст — 4096 токенов; для запуска указана библиотека Transformers. Модель предназначена для восстановления конкретного снимка Blaster и исследований cue-based typed thinking, в том числе на математических задачах. В описанном сценарии шлюз добавляет префикс Answer: и удаляет фрагмент рассуждения перед передачей в синтез речи. В тесте GSM с 20 примерами формат соблюдён во всех случаях, точный ответ получен в 8; автор характеризует арифметические способности как слабые. Лицензия CC-BY-NC-SA-4.0.

Monet-7B — предварительно обученная мультимодальная модель NOVAglow646 для исследования рассуждений в латентном визуальном пространстве за пределами изображений и языка. Она основана на Qwen/Qwen2.5-VL-7B-Instruct и дообучена; архитектура — плотная Qwen2.5-VL с 7,1 млрд параметров. Модель принимает текст и изображения и генерирует текст, поддерживает диалоговый режим и контекст длиной до 128 000 токенов. Модель предназначена для визуальных задач и экспериментов с рассуждениями по визуальным данным. Карточка ссылается на научную работу и пример инференса в GitHub, но не уточняет конкретные сценарии применения и результаты. Распространяется по лицензии MIT.

Dyluhn выпустил экспериментальную черновую сборку Muse Glimmer 30B R9V V1 в формате GGUF. Она основана на квантованной Muse Glimmer 30B от Meta и предназначена для локального мультимодального общения с анализом изображений. В метаданных модель отнесена к задаче image-text-to-text и имеет возможности чата и обработки изображений. Файл весов размером около 24,6 ГБ получен из GGUF Unsloth Q8_0 с изменениями точности для отдельных тензоров. В описанной оценке R9V V1 уступает вариантам Unsloth Q5 и Q6 по сохранению качества относительно модели BF16, хотя превосходит сравниваемый вариант Q4. Это инженерный черновик и воспроизводимая основа для дальнейшей работы, а не рекомендуемый вариант для максимального качества. Пользовательская среда запуска R9V ещё не завершена: профиль не квалифицирован для OpenAI-совместимого API или шаблона чата, а опубликованные показатели скорости получены на специализированном тестовом движке для gfx1201 и точной раскладки тензоров. Визуальные и DFlash-компоненты поставляются отдельно. Лицензия — Apache-2.0.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E128-k2-13.2B-A470M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E32-k16-3.5B-A1.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E64-k16-6.7B-A1.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d1024-E64-k4-6.7B-A670M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d512-E8-k2-320M-A170M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Raspberry-3B — экспериментальная языковая модель Arcee AI на архитектуре Qwen2, дообученная на базе Qwen/Qwen2.5-3B и ориентированная на задачи рассуждения. Она генерирует текст в формате ChatML и поддерживает диалоговый сценарий; заявленный контекст составляет 32 768 токенов, размер — около 3,1 млрд параметров. В карточке приведены результаты оценок на IFEval и BBH. Модель может подойти для экспериментов с рассуждением и диалоговой генерацией текста. Автор прямо характеризует её как экспериментальную и не предназначенную для производственного использования. Лицензия указана как other, конкретные условия в доступных данных не раскрыты.

SHARE-14B-Base-2604 — базовая языковая модель на 13,9 млрд параметров, разработанная João Gonçalves, Sonia de Jager, Petr Knoth, David Pride и Nick Jelicic для исследований и образования в социальных и гуманитарных науках. Это декодерный трансформер с архитектурой семейства Phi-3, обученный предсказывать следующий токен на специализированном корпусе по гуманитарным и социальным дисциплинам. Контекст — 16 384 токена; модель использует собственный токенизатор BPE на 50 000 токенов. Основной язык — английский, также поддерживается нидерландский. Модель предназначена прежде всего для анализа текстов через интерфейс MIRROR, который рассчитывает неожиданность и энтропию отдельных токенов. Это помогает находить стилистические аномалии, возможные опечатки и фактические ошибки, а также изучать нормы, смещения и неожиданные идеи в научных текстах. Чекпойнт опубликован примерно после 15% запланированного предобучения; это базовая модель без SFT и выравнивания, поэтому она не предназначена для диалогового использования. Лицензия RAIL-SHARE запрещает коммерческое использование и дистилляцию и ограничивает генерацию текста.

ShadowTooOP/smart-mcq-roberta-base — модель на базе RoBERTa Base, дообученная командой ShadowTooOP для решения заданий с выбором одного из нескольких вариантов. Она выдаёт оценки вариантов ответа, которые можно использовать для выбора наиболее вероятного ответа в системах тестирования и викторинах. Чекпойнт содержит 151,8 млн параметров, использует архитектуру RobertaForMultipleChoice и принимает контекст задания вместе с вариантами ответа в пределах контекста до 514 токенов. Модель описана как первая часть ансамбля: при итоговом инференсе её оценки объединяются с оценками ShadowTooOP/smart-mcq-distilbert-base с весами 0,6 и 0,4 соответственно. Лицензия — Apache-2.0. Карточка не сообщает поддерживаемые естественные языки или специализированные предметные области.

Solomon-0.5B Checkpoint 1000 — компактная языковая модель компании TitleOS для генерации ответов с пошаговыми рассуждениями. Это дообученная модель Qwen2.5-0.5B с плотной архитектурой Qwen2ForCausalLM, примерно 494 млн параметров; в этом репозитории размещена объединённая версия весов FP16 в формате safetensors. Модель рассчитана на локальное использование, в том числе на мобильных устройствах, и поддерживает контекст до 32 768 токенов. На запросах, требующих рассуждений, Solomon обычно сначала формирует ход решения, а затем выдаёт ответ. Её можно применять для ответов на вопросы и простых многошаговых задач; основной язык обучения — английский. Это ранний чекпойнт обучения, а не финальная версия. Небольшой размер ограничивает надёжность в длинных цепочках рассуждений, особенно в математике. Лицензия — MPL-2.0.

A.X-3.1-Light Specialist-300 TIES — SKT의 A.X-3.1-Light 기반 6.8B 파라미터 Llama 계열 대화형 모델입니다. 세 개의 LoRA 어댑터를 각각 300개 행으로 한국어 의학 지식, 숫자 연산 기반 기계 독해, 인과 추론에 맞춰 지도 미세 조정한 뒤 TIES 방식으로 병합했습니다. 결과는 별도 어댑터 없이 사용할 수 있는 BF16 safetensors 가중치입니다. 모델은 주로 한국어 추론 과제를 위한 연구 및 평가에 쓰이며, 최대 контекст 32 768 токенов. 학습 наборы включают KMMLU-Pro, MuSR(Ko) и Com2-main(Ko); карточка отмечает корейский язык. Репозиторий доступен по лицензии Apache-2.0. Это экспериментальная сборка для проверки того, улучшает ли объединение специалистов результат по сравнению с базовой моделью. Объём дообучения невелик — 300 примеров на каждый компонент, а ожидаемый эффект слияния пока не подтверждён результатами лидерборда. README предупреждает, что ответы могут быть неточными и не должны служить единственным основанием для решений с высокими последствиями.

nightingal3/bert-finetuned-wsc — это модель на архитектуре BERT, дообученная для решения задач выбора одного из нескольких вариантов ответа. По названию она предназначена для задачи WSC (Winograd Schema Challenge): выбора, к кому или чему относится местоимение в предложении, с учётом контекста. В метаданных указаны класс BertForMultipleChoice, 136,7 млн параметров и максимальная длина контекста 512 токенов. Модель принимает текстовые варианты задачи и выдаёт оценку для выбора ответа. Карточка Hugging Face указывает тип задачи multiple-choice; поиск также подтвердил назначение модели и метку задачи. Данные не устанавливают поддерживаемые языки или лицензию, поэтому здесь они не уточняются.

augmdc/bigbird_race_1 — модель BigBird, дообученная на наборе RACE для решения заданий с выбором ответа по тексту. Она основана на google/bigbird-roberta-base, содержит 151,9 млн параметров и принимает последовательности длиной до 4096 токенов. Модель предназначена для ответов на вопросы по англоязычным текстам в формате multiple choice. На оценочной выборке RACE указаны loss 1,0178 и accuracy 0,5884. Модель распространяется в формате PyTorch по лицензии Apache-2.0. README не описывает дополнительные сценарии обучения или ограничения; результаты оценки относятся к указанной выборке.

Commonsense-QA-Mistral-7B — языковая модель Mistral на 7,1 млрд параметров, дообученная rvv-karma на наборе tau/commonsense_qa от базовой модели mistralai/Mistral-7B-Instruct-v0.1. Для дообучения использовались 4-битная загрузка и LoRA; в репозитории опубликованы веса Safetensors. Модель предназначена для генерации ответов на вопросы с выбором варианта, требующие бытовых знаний и здравого смысла. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов, основной язык карточки — английский. Лицензия — Apache-2.0.

Cypher-CoT-1.8B — экспериментальная языковая модель aloobun, дообученная на h2oai/h2o-danube-1.8b-chat на наборе задач с пошаговыми рассуждениями. Это плотная Mistral-архитектура для генерации текста и диалогов; размер модели составляет 1,7 млрд параметров, контекст — до 16 384 токенов. В примере модель раскладывает арифметическую задачу на шаги и формулирует итоговый ответ. Модель подходит для экспериментов с генерацией решений и объяснений для задач, требующих цепочки рассуждений. Обучение проводилось на данных kaist-ai/CoT-Collection. Контрольные показатели в карточке обозначены как находящиеся в разработке, поэтому качество не подтверждено опубликованными бенчмарками. Распространяется в формате safetensors по лицензии Apache-2.0.

DragonbornV1 — компактная локальная модель генерации текста от GlimmaryKarl, построенная на собственной архитектуре Dragonborn и обученная на проверенном наборе рассуждений GlimmaryKarl/DualBlind. Это плотный decoder-style трансформер с 3,7 млн параметров; веса представлены в формате Safetensors. Модель предназначена для генерации рассуждений и доказательств, а также для локальной оценки и экспериментов. Автор описывает её как самостоятельно созданный чекпойнт без заявленной связи с публичной базовой моделью. Проверка в карточке подтверждает загрузку весов и доступность файла во время запуска приложения, но не сообщает о качестве ответов или сравнительных испытаниях. Модель распространяется по лицензии Apache-2.0. Она не позиционируется как универсальная замена более крупным моделям; заявленное назначение ограничено рассуждениями и экспериментами.

Filtered — Instruct (3B) — это англоязычная чат-модель проекта dlab-spp, созданная обучением с нуля на архитектуре семейства Llama и дообученная следованию инструкциям с привязкой к персоне. Базовая версия — dlab-spp/filtered-3b-base. Модель содержит 3 млрд параметров, использует токенизатор SmolLM2 с добавленным специальным токеном, а её контекст ограничен 2048 токенами. Веса доступны в формате safetensors для Transformers. Модель предназначена для экспериментов с выравниванием поведения, конституционными принципами, обобщением ценностей и устойчивостью к jailbreak-запросам. Дообучение использует 300 тысяч одноходовых примеров: инструкции из WildChat-1M и safety-примеры из WildJailbreak и WildGuardMix; основная версия использует долю safety-примеров 10%. Ответы обучены следовать конституции и включать встроенные ссылки-цитаты. В репозитории также опубликованы варианты с другими долями safety-данных. Это исследовательский артефакт, а не готовая производственная система: модель может ошибаться и выдавать небезопасный контент. Лицензия обозначена как other, поэтому условия использования следует проверять в репозитории модели.

youngseok12/HCX-SEED-Think-14B-specialist-r1-ta_sum — слитая версия HyperCLOVAX-SEED-Think-14B, подготовленная разработчиком youngseok12. Три LoRA-адаптера для корейских медицинских знаний, числового машинного чтения и причинно-следственных рассуждений объединены методом Task Arithmetic с линейными весами 1.0. Итоговая плотная модель содержит 14,1 млрд параметров и распространяется как самостоятельные BF16-веса safetensors, поэтому отдельный адаптер для запуска не нужен. Модель предназначена для генерации ответов в формате диалога и выбора одного варианта из четырёх с кратким ответом в начале. Карточка сообщает о тестировании формата на 240 примерах публичных бенчмарков: ответ был указан во всех генерациях, средняя длина составила 20 токенов. Обучающие данные для трёх адаптеров включали по 3000 примеров; публичные тестовые наборы напрямую не использовались. Контекстная длина базовой модели — 131072 токена. Основной язык карточки — корейский. Автор позиционирует модель для исследований и оценки; её ответы могут быть неточными, поэтому она не подходит как единственное основание для медицинских, юридических или финансовых решений. Лицензия указана как other, без дополнительных условий в предоставленных данных.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E64-k4-6.7B-A670M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d2048-E128-k16-52.2B-A7.1B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d2048-E128-k2-52.2B-A1.5B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d2048-E16-k8-7.1B-A3.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d2048-E32-k2-13.6B-A1.5B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d2048-E64-k8-26.4B-A3.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d512-E128-k2-3.3B-A170M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d512-E16-k16-520M-A520M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.