I.5Создание и редактирование текста

Gruyère-1.2 — небольшая авторегрессионная языковая модель GoudaAI для генерации текста и экспериментирования с компактными моделями. Это дообученная версия Gruyère-1.1: после предобучения на образовательных данных FineWeb-Edu и NCERT модель прошла инструкционное дообучение на UltraChat-200k. В метаданных указано 76,1 млн параметров, тогда как карточка сообщает 89 млн параметров в представлении Hugging Face, включая около 25 млн дублированных, и около 64 млн уникальных параметров. Модель построена на декодерном GPT-подобном трансформере с 12 слоями, 8 головами внимания и контекстом до 1024 токенов. Она рассчитана прежде всего на английский язык и может использоваться для диалоговой генерации и небольших экспериментов на потребительских GPU. В карточке отмечены слабые результаты в сложных инструкциях, длинных диалогах, рассуждениях и фактических ответах, а также трудности при вводе на других языках и склонность затрагивать чувствительные темы. Лицензия — MIT.

allenai/intent-aware-lfqa-llama3-8b-intent-implicit — диалоговая языковая модель Allen Institute for AI (Ai2), созданная дистилляцией для исследований обучения с учётом намерений в длинных ответах на вопросы. Модель основана на Meta-Llama-3-8B-Instruct и имеет архитектуру LlamaForCausalLM с 7,5 млрд параметров; принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 131 072 токенов. Модель предназначена для исследовательского и образовательного применения, связанного с intent-aware обучением и генерацией ответов на вопросы. Карточка сообщает, что результаты будут добавлены позднее, поэтому она не подтверждает качество на конкретных тестах. Лицензия — ODC-BY; применение должно соответствовать рекомендациям Ai2 по ответственному использованию.

kitsune-tales-e4b-en — англоязычная модель для генерации оригинальной фэнтези-прозы в духе японских аниме и ранобэ. Её разработчик дообучил Gemma 4 E4B Instruct с помощью LoRA SFT и DPO, а затем объединил адаптер с базовой моделью; в репозитории размещены веса Safetensors в формате bf16. Архитектура — плотная Gemma 4 E4B: 7,52 млрд хранимых и 4,62 млрд эффективных параметров. Модель создаёт синопсисы, короткие рассказы и продолжения по жанровым тегам, названию и, для продолжения, исходному фрагменту. Она рассчитана на хобби-писательство и поиск идей, а не на фактические ответы. В README приведены результаты оценки: дообученная версия лучше соблюдала заданную длину, но в сравнении полных текстов судья чаще предпочитал базовую модель; оценки автоматических метрик и LLM-судьи автор считает ориентировочными. Модель предназначена для англоязычного текста. Разработчик сообщает об унаследованных от синтетических обучающих данных клише, возможных повторах, отклонении от заданной длины и ошибках согласованности в длинных историях. Режим thinking ухудшал качество; рекомендуется отключить его. Лицензия — Apache-2.0. Отказы от нежелательных запросов не гарантированы.

KoModernBERT-base-mlm_v02 — дообученная модель x2bee на базе answerdotai/ModernBERT-base для заполнения пропусков в корейском тексте. Это плотный encoder-only трансформер архитектуры ModernBERT с 183,8 млн параметров и контекстом до 8192 токенов; карточка указывает реализацию Transformers и формат safetensors. Модель предсказывает пропущенные фрагменты, например названия столиц в корейских предложениях. Модель подходит для восстановления пропусков и построения задач понимания корейского текста. В README упомянуты Flash-Attention 2, StabelAdamW, снятие padding и упаковка последовательностей как методы обучения. Распространяется по лицензии Apache-2.0. Оценки качества и ограничения в карточке не приведены.

L3.1-ClaudeMaid-4x8B — экспериментальная MoE-модель для генерации текста и ролевого общения. В README указаны четыре экспертные модели на базе Llama 3.1 8B: Lumimaid, Meta-Llama-3.1-8B-Claude, Sekhmet Bet и DarkIdol; для выбора экспертов используется случайный gate, на каждом токене активируются два эксперта. Метаданные указывают архитектуру MixtralForCausalLM, 7,5 млрд параметров и контекст 131 072 токена. Модель предназначена для диалогов и ролевых сценариев; карточка также описывает её как экспериментальную RP-модель. В метаданных указан английский язык и возможность чата. Весы опубликованы в формате safetensors, а лицензия обозначена как llama3.1. Автор отмечает возможные проблемы запуска GGUF-сборок в KoboldCpp 1.71 и предлагает использовать llama.cpp напрямую.

L3.1-Vulca-Umboshima-8B — слитая диалоговая языковая модель семейства Llama 3.1, созданная сообществом mergekit-community методом DARE TIES на базе kromeurus/L3.1-Ablaze-Vulca-v0.1-8B. В слияние также вошли Casual-Autopsy/L3-Umbral-Mind-RP-v3.0-8B и mergekit-community/L3-Boshima-a. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и доступна в формате safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста в диалогах и ролевых сценариях. Описание базовой модели указывает на ролевые игры с тяжёлыми эмоциональными темами и сценариями спасения персонажей. Лицензия в предоставленных сведениях не указана.

L3-8B-Celeste-V1.2 — разговорная модель для ролевых диалогов и совместного написания историй, созданная nothingiisreal на базе Llama 3 8B Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом 8192 токена; для обучения использовались Reddit WritingPrompts, Reddit DirtyWritingPrompts, набор Opus Instruct и очищенные логи c2. По описанию автора, обучение на длинных последовательностях улучшило связность многоходовых диалогов и длинных историй, а управление вне ролевых сценариев может работать непоследовательно. Модель принимает текстовые сообщения и генерирует текст. Она ориентирована на англоязычный roleplay, создание историй и управляемое развитие персонажей; поддерживает как безопасные, так и взрослые сценарии по запросу. Репозиторий содержит веса Safetensors, а в карточке также упомянуты сторонние конверсии GGUF и EXL2. Лицензия — Llama 3 Community License; автор указывает, что версия предназначена прежде всего для ролевой игры, а качество следования инструкциям в других задачах не гарантируется.

Neiwawastaken/legal-chatbot-llama3B-grpo — дообученная языковая модель на архитектуре Llama, разработанная Neiwawastaken для генерации текста в диалоговом формате. Она предназначена для чат-сценариев в юридической тематике; карточка указывает на базовую модель Neiwawastaken/legal-chatbot-llama3B-sft-merged и обучение с использованием Unsloth и TRL. Модель содержит 3,2 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. В метаданных указан английский язык. Весы опубликованы в формате safetensors, лицензия — Apache-2.0. Карточка не приводит оценок качества или конкретных юридических задач, поэтому пригодность ответов требует проверки.

riezqidr/legal-id-llama32-3b-sft — дообученная модель семейства Llama, разработанная riezqidr. В карточке указано, что модель дообучена на базе репозитория с тем же идентификатором, поэтому конкретную исходную базовую модель установить нельзя. Модель содержит 3,2 млрд параметров, использует плотную архитектуру Llama и принимает текст для генерации текста; заявленная длина контекста — 131072 токена. Модель предназначена для диалоговой генерации текста в юридическом контексте Индонезии, что следует из названия репозитория; подробности обучения и проверенные сценарии применения в карточке не описаны. Метаданные отмечают интерфейс для вызова инструментов. В README сказано, что обучение выполнялось с Unsloth и библиотекой TRL. Лицензия — Apache-2.0.

freakzy-spec/Legal-Qwen-GRPO-Indo — дообученная авторами freakzy-spec языковая модель семейства Qwen2 для генерации текста в диалоговом формате. Она предназначена для юридических сценариев, связанных с индонезийским языком; в названии и описании заявлена специализация на праве и Индонезии. Модель содержит 3,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. В карточке также заявлен интерфейс для вызова инструментов. Модель дообучена на freakzy-spec/Legal-Qwen-SFT-Indo с использованием Unsloth и библиотеки TRL. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не приводит результатов оценивания качества или подробностей о тренировочных данных, поэтому пригодность для конкретных юридических задач следует проверять отдельно.

Llama-3.2-3B-Instruct-NEO-WEE-HORROR-GGUF — это квантизированная GGUF-версия модели Llama 3.2 3B Instruct, доработанная DavidAU с использованием набора данных NEO IMATRIX Tiny «Wee» Horror. Модель предназначена прежде всего для генерации художественных текстов, рассказов, сюжетов и подсюжетов, продолжения сцен, ролевых диалогов и работы с жанрами fiction, включая horror, science fiction и romance. Модель имеет около 3 миллиардов параметров, поддерживает текстовую генерацию и заявленный контекст до 131 000 токенов, обычно обозначаемый как 128K. Указаны языки English, French, German, Spanish, Italian, Portuguese, Chinese, Japanese, Russian и Korean. Для работы рекомендуется шаблон Llama 3; использование других шаблонов, например Command-R, может существенно изменить результат. По заявлению автора, модель способна работать на GPU со скоростью около 90 токенов в секунду, однако фактическая производительность зависит от оборудования и выбранного кванта. Основная особенность доработки — усиление творческой выразительности с мрачной и хоррор-ориентированной стилистикой: модель добавляет напряжение, ощущение надвигающегося ужаса, более интенсивные сцены и яркую прозу. Это может быть преимуществом для художественного письма и ролевых сценариев, но ограничивает пригодность модели для нейтральной генерации и может приводить к графическим или подразумеваемым описаниям насилия и ужаса. Результаты заметно зависят от температуры, repetition penalty и типа квантизации; автор рекомендует кванты IQ3 и IQ4, особенно IQ4_XS, а также repetition penalty от 1.02 и выше. Модель распространяется по лицензии Apache-2.0.

Модель Nelsonfw01 — дообученная плотная авторегрессионная языковая модель семейства Llama 3.2 с 3,2 млрд параметров, созданная на основе Nelsonfw01/llama-3.2-3b-legal-assistant-id-grpo. Она предназначена для диалоговой генерации текста в роли юридического помощника для Индонезии. Обучение выполнялось с Unsloth и библиотекой TRL; модель поддерживает контекст до 131 072 токенов. Модель принимает текстовые запросы и генерирует текстовые ответы; метаданные указывают на чат-возможности и интерфейс вызова инструментов. Доступна под лицензией Apache-2.0. Карточка не описывает качество ответов, проверку юридической точности или конкретный охват законодательства, поэтому ответы следует перепроверять перед практическим применением.

LuminRP-13B-128k-v0.5 — языковая модель для ролевого общения и ERP, опубликованная Ppoyaa. Это плотная causal language model на архитектуре Mistral с 12,3 млрд параметров и контекстом до 131 072 токенов. Модель создана слиянием нескольких моделей, настроенных для RP, включая BuRP, InfinityRP, Kuno и другие варианты на базе Mistral; в карточке также упомянута связь с LuminRP-7B-v0.5. Модель предназначена для генерации продолжений диалога и отыгрыша персонажей в SillyTavern. В README рекомендован режим Instruct; указаны шаблоны Alpaca, ChatML и Mistral. Модель может генерировать откровенный контент рейтинга X, поэтому подходит для сценариев ERP. Лицензия — Apache-2.0. Карточка не сообщает о поддерживаемых естественных языках.

LuminRP-7B-128k-v0.2 — слитая с помощью LazyMergekit модель автора Ppoyaa на базе четырёх моделей для ролевых диалогов. Это плотная авторегрессионная языковая модель Mistral с 7,1 млрд параметров и контекстом до 131 072 токенов. Она предназначена для отыгрыша ролей и продолжительных диалогов; в карточке рекомендован шаблон ChatML с включённым режимом Instruct, также подходит шаблон Mistral. Модель работает с текстом на английском языке и распространяется под лицензией Apache-2.0. Доступна версия в формате GGUF. Результаты бенчмарков приведены в README, но сами по себе не характеризуют качество ролевого общения.

Модель mamba-370m-hf-turkish разработана командой LinguAI, связанной с Техническим университетом Коньи (KTUN) и сообществом YAZGİT. Это продолжительно предобученная для турецкого языка версия state-spaces/mamba-370m-hf: причинная языковая модель архитектуры Mamba, относящейся к семейству моделей пространства состояний (SSM). В метаданных указан размер 454,1 млн параметров; веса доступны в формате Safetensors, модель совместима с Transformers. Модель предназначена для генерации турецкого текста и в качестве основы для дальнейшей адаптации, например с помощью LoRA, QLoRA или полного дообучения. Она не настроена на выполнение инструкций и не является готовым чат-ассистентом. Авторы отмечают приемлемую беглость турецкого языка, но указывают на трудности с последовательностью смысла, отслеживанием контекста и рассуждениями в длинных или сложных запросах. Также возможны галлюцинации, предвзятый или небезопасный текст; для применения нужны проверка результатов и защитные фильтры. Модель распространяется по лицензии Apache-2.0. README рекомендует CUDA-зависимости causal-conv1d и mamba-ssm для ускорения на NVIDIA GPU; точная длина контекста в предоставленных данных не указана.

MedMobile — дообученная модель KrithikV на базе microsoft/Phi-3-mini-4k-instruct, обученная на наборе данных UltraMedical. Это плотная авторегрессионная языковая модель семейства Phi-3 с 3,7 млрд параметров и контекстом до 4096 токенов; репозиторий содержит веса в формате Safetensors. Модель предназначена для генерации текста в медицинском контексте, например для диалоговых ответов на медицинские вопросы. В README приведено значение loss 0,7358 на оценочном наборе, но не описаны методика и другие показатели оценки. Модель не следует считать заменой профессиональной медицинской консультации. Лицензия — MIT.

mrcuddle/Ministral-Instruct-2410-8B-DPO-RP — модель на базе Ministral-8B-Instruct-2410 от Mistral AI, дообученная автором через AutoTrain методом DPO на наборе DPO_Pairs-Roleplay-Alpaca-NSFW. Она предназначена для генерации текста в диалоговом формате, в том числе ролевых ответов. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 32 768 токенов. Основной указанный язык — английский. Модель может подойти для интерактивного ролевого чата и генерации диалогов. Базовая модель поддерживает вызов функций, однако карточка не описывает отдельные оценки качества или гарантии этой доработки. Репозиторий содержит веса Safetensors и использует лицензию «other»; конкретные условия лицензии следует сверить с файлами репозитория.

MiquMaid-v2-2x70B — разговорная модель для ролевых диалогов, созданная Undi и IkariDev на основе Miqu-70B. Авторы дообучили Miqu-70B для RP-общения, затем объединили дообученную MiquMaid-v2-70B и базовую Miqu-70B в архитектуру MoE: обе модели участвуют в обработке каждого токена. Репозиторий содержит веса FP16 в формате safetensors; архитектура относится к семейству Mixtral и использует MixtralForCausalLM. Модель предназначена для ролевых бесед и генерации ответов в чат-сценариях. В карточке указаны контекст до 32 764 токенов и формат промпта Alpaca с полями Instruction, Input и Response. Для обучения использовались наборы Aesir, NoRobots, limarp, toxic-dpo-v0.1-sharegpt и ToxicQAFinal. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Модель помечена как NSFW; качество зависит от промпта и выбранного сценария, а крупный размер затрудняет запуск на ограниченном оборудовании.

MyanBERTa — предварительно обученная языковая модель на основе RoBERTa для бирманского языка, опубликованная авторами Aye Mya Hlaing и Win Pa Pa. Модель обучалась 528 тысяч шагов на сегментированном по словам корпусе из 5 992 299 предложений и 136 млн слов. Для токенизации используется byte-level BPE с 30 522 подсловными единицами. Модель предназначена для задач языкового моделирования с заполнением пропусков и может служить основой для дальнейших NLP-приложений на бирманском языке. В репозитории указаны архитектура RoBERTa и размер 136,7 млн параметров; максимальный контекст составляет 514 токенов. Доступны веса PyTorch. Модель распространяется по лицензии Apache-2.0. Карточка описывает предобучение, но не приводит результатов оценки качества на прикладных задачах; практическая точность зависит от данных и сценария использования.

NeuroBLAST-V3-SYNTH-EC-150000 — экспериментальный ранний чекпойнт авторской модели NeuroBLAST V3 от mkurman для генерации текста и оценки архитектуры. Модель обучалась на датасете PleIAs/SYNTH; карточка описывает её как фазу обучения до затухания скорости обучения, предназначенную для архитектурных экспериментов и исследований. Архитектура — плотная причинная языковая модель на 72 слоях с сенсорными, ассоциативными и моторными блоками. В сенсорных блоках чередуются внимание и дилатированные причинные 2D-свёртки, в ассоциативных — слои с чередующимся использованием RoPE, а в моторных используются слои внимания. В метаданных указаны 429,9 млн параметров и контекст 32 768 токенов; в README приведено другое число параметров — 596 728 320. Модель поддерживает английский язык и диалоговую генерацию текста. Это незавершённый чекпойнт: он обучался на коротких контекстах при высокой скорости обучения, а дальнейший план включает расширение контекста, снижение скорости обучения и добавление weight decay. Для загрузки требуется доверенный пользовательский код репозитория. Лицензия — Apache-2.0.

OpenBioLLM-Llama3-8B-GGUF — это GGUF-квантизированная версия биомедицинской языковой модели OpenBioLLM-8B, построенной на базе Meta-Llama-3-8B. Исходную модель разработала команда aaditya, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на генерацию текста и диалоговые сценарии в медицинской и биомедицинской областях, включая ответы на вопросы о здоровье и объяснение профильной информации. В README указан английский язык. Модель имеет около 8 миллиардов параметров и поддерживает набор вариантов квантизации GGUF от Q8_0 до более компактных Q3 и IQ3/IQ4. Это позволяет выбирать между качеством ответов и требованиями к памяти; варианты Q6_K, Q5_K_M, Q5_K_S и Q4 рекомендованы как сбалансированные. Мультимодальность не заявлена. Размер контекста в предоставленных данных не указан. Формат шаблона чата также не подтверждён: в README отмечено, что используется шаблон по умолчанию и он может быть некорректным. Сильной стороной модели является специализация на медицинской и биомедицинской тематике при возможности локального запуска через llama.cpp и выбора подходящего уровня квантизации. Ограничения включают отсутствие опубликованных результатов оценки в карточке, неопределённость шаблона диалога и необходимость проверять медицинские ответы специалистом; модель не следует использовать как замену профессиональной диагностике или лечению. Указанная лицензия — llama3.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E256-k2-26.0B-A470M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E64-k16-6.7B-A1.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E8-k4-1.1B-A670M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d2048-E64-k4-26.4B-A2.3B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d512-E128-k2-3.3B-A170M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d512-E128-k4-3.3B-A220M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d1024-E256-k4-26.0B-A670M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d1024-E32-k8-3.5B-A1.1B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-math-d2048-E16-k8-7.1B-A3.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.