I.2Синтез, понимание и проверка знаний

HyperCLOVA X SEED Think-14B SFT 71568-3000 — дообученная методом SFT модель на базе naver-hyperclovax/HyperCLOVAX-SEED-Think-14B, подготовленная автором репозитория. Это плотная причинная языковая модель с 14,1 млрд параметров для генерации текста и диалогов; она принимает текст и выдаёт текст. Модель рассчитана прежде всего на корейские задачи числового MRC: вычисления и ответы на вопросы по экономическим и спортивным данным. Для дообучения использованы 3 000 проверенных текстовых примеров AI Hub 71568 с ответом в начале и кратким обоснованием. Применялся LoRA, затем адаптер объединили с базовой моделью; опубликованы веса BF16 в формате Safetensors. Контекстная длина модели — до 131 072 токенов, хотя обучение проводилось с последовательностями до 4 096 токенов. В README указано, что официальные результаты бенчмарков не приводятся, поэтому качество требует отдельной оценки. Лицензия обозначена как other; конкретные условия использования следует проверять в карточке модели и у правообладателя базовой модели.

OpenGVLab/InternVL_2_5_HiCo_R16 — экспериментальный вариант InternVideo2.5, мультимодальной языковой модели для анализа видео на основе InternVL2.5. Вариант HiCo использует адаптивное иерархическое сжатие пространственно-временных токенов; R16 означает 16 токенов на кадр. В README эта версия названа абляционным экспериментом, использующим HiCo без других описанных улучшений InternVideo2.5. Модель предназначена для ответов на вопросы о видео и анализа его содержания, включая мелкие визуальные детали и длительные временные зависимости. README приводит результаты на MVBench, LongVideoBench и VideoMME. Метаданные указывают архитектуру InternVLChatModel, библиотеку Transformers, поддержку чата и английский язык карточки. Лицензия — Apache-2.0. Модель принимает видео и текстовые запросы, а выдаёт текстовые ответы. Данных о размере модели и длине контекста в предоставленных источниках нет.

Kjio — образовательный разговорный помощник, разработанный Synaptom. Модель основана на GPT-2 и содержит около 109 млн параметров; в карточке указана архитектура GPT2LMHeadModel с 10 слоями, размером скрытого представления 768 и 12 головами внимания. Она предназначена для ответов на вопросы, помощи с домашними заданиями и учебного наставничества на английском языке. Модель принимает текст и генерирует текст, а её контекст составляет 512 токенов. Модель обучалась на 45 000 примерах; в репозитории доступны веса Safetensors и GGUF, включая варианты квантования Q4_K_M и Q5_K_M, а также F16. Небольшой размер позволяет запускать её локально, в том числе через llama.cpp. Kjio может ошибаться и не подходит для критически важных решений. Лицензия — Apache-2.0.

Kurtis-EON1-Hybrid-2B-v0.1.2 — экспериментальная разговорная языковая модель, разработанная ethicalabs.ai. Это гибридная dense-модель Echo-DSRN-Hybrid для генерации текста и диалогов с заявленным упором на эмпатичный, атмосферный стиль, последовательное соблюдение заданной персоны и многоходовое рассуждение. Архитектура сочетает Qwen2 с компонентами DSRN: в README указаны скрытая размерность 1536, соотношение одного DSRN-блока на три слоя внимания и около 12,55% дополнительных параметров относительно базовой модели. Метаданные указывают 1,5 млрд параметров и контекст до 32 768 токенов; README приводит оценку в 2 млрд параметров. Модель предназначена для текстового общения и экспериментальной оценки генерации и рассуждений. README сообщает результаты бенчмарков, включая ARC Challenge и GSM8K, но не приводит достаточно сведений, чтобы установить поддерживаемые естественные языки. Репозиторий содержит веса в форматах Safetensors и ONNX и использует библиотеку Transformers. Лицензия — Apache 2.0. Авторы обозначают модель как экспериментальную и предназначенную для академической оценки и исследований; её качество и пригодность для практических сценариев не гарантируются.

jonam-ai разработала legal-slm-125m-raft — небольшую плотную авторегрессионную модель семейства Llama с 125,8 млн параметров. Это продолженное полное дообучение jonam-ai/legal-slm-125m-sft методом RAFT на примерах с документом-источником и отвлекающими документами. Модель предназначена для ответов на вопросы по предоставленному контексту: она может приводить подтверждающий фрагмент в маркерах ##begin_quote## и ##end_quote##. Контекст — до 1 024 токенов; заявлена поддержка только английского языка. Модель рассчитана на образовательные демонстрации ответов с опорой на документы в правовой и финансовой тематике. Она обучена отвечать, когда нужный источник присутствует, но не умеет надёжно воздерживаться от ответа: при отсутствии факта в контексте может уверенно его выдумать. README предостерегает от использования для юридических или финансовых советов. Лицензия — Apache-2.0.

Llama-3.1-8B-Instruct-SMAT-C-STANCE — экспертная модель, созданная методом SMAT (Simple and Efficient Merge-Aware Training) на основе Meta Llama 3.1 8B Instruct. В README указано, что это эксперт из таблицы 1 статьи SMAT, обученный с seed 42; метод предназначен для сохранения качества на целевой задаче при улучшении совместимости модели со слиянием с другими моделями. Модель использует архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия, принимает текст и выдаёт текст. Заявленное контекстное окно — 131 072 токена. Языки и конкретная целевая задача эксперта C-STANCE в карточке не раскрыты. Для использования применяются лицензия Llama 3.1 и соответствующая политика допустимого использования Meta. Карточка описывает исследовательскую модель, связанную с методом обучения и слияния моделей; результаты на конкретных задачах зависят от сценария применения и не приведены.

TrippyOG3/Llama-3.2-8X3B-MOE-Dark-Champion-Instruct-uncensored-abliterated-18.4B-GGUF — текстовая instruction-модель в формате GGUF, созданная на базе Llama 3.2 и модели DavidAU Llama-3.2-8X3B-MOE-Dark-Champion-Instruct-uncensored-abliterated-18.4B. Это Mixture of Experts, объединяющая восемь экспертных моделей Llama 3.2 примерно по 3B параметров; заявленный общий размер составляет 18,4B параметров, при этом обычно активируются два эксперта. Лицензия — Apache 2.0. Модель предназначена прежде всего для генерации текста на английском языке: художественной прозы, рассказов, сюжетов и подсюжетов, продолжения сцен, ролевых сценариев и текстов различных жанров, включая научную фантастику, романтику и хоррор. Также её можно применять для общего текстового использования и следования инструкциям. Заявлена поддержка контекста до 128K токенов, а для работы рекомендуется шаблон Llama 3 или Command-R. Сильными сторонами считаются выразительная и подробная проза, генерация художественных текстов, ролевое взаимодействие и относительно высокая скорость при использовании небольшого числа экспертов; в README заявлена скорость свыше 50 токенов в секунду на видеокарте с 16 ГБ памяти для определённых квантов. Модель позиционируется как uncensored и может генерировать NSFW-материалы, ненормативную лексику, жестокие и мрачные описания. Возможны остаточные шаблонные формулировки, лёгкий негативный уклон и снижение точности следования инструкциям при чрезмерно высокой температуре. Результаты могут различаться в зависимости от выбранного GGUF-кванта и числа активных экспертов.

mpasila/Llama-3.2-Finnish-Wikipedia-1B — текстовая модель mpasila, полученная продолжением предварительного обучения unsloth/Llama-3.2-1B на данных финской Википедии. Это плотная авторегрессионная модель семейства Llama 3.2 с 1,2 млрд параметров, предназначенная для генерации текста с адаптацией к финскому языку и материалам Википедии. Контекст модели составляет до 131 072 токенов. Модель подходит для генерации финского текста и экспериментов с языковыми задачами на основе энциклопедических данных. В README автор отмечает ограничения качества: по приведённой оценке FIN-bench модель уступила исходной Llama 3.2 1B по общему результату. Для использования действуют условия Llama 3.2 Community License Agreement.

LLaMAX/LLaMAX2-7B-MetaMath — мультиязычная авторегрессионная языковая модель семейства LLaMA, разработанная авторами проекта LLaMAX и дообученная на наборе MetaMathQA на основе LLaMAX2-7B. Она предназначена для решения математических задач с пошаговыми текстовыми объяснениями, в том числе на языках с небольшим количеством обучающих данных. В оценке на MGSM модель показала среднюю точность 44,28% по указанным языкам; README сообщает об улучшении относительно MetaMath-7B на 18,8 процентного пункта для низкоресурсных языков и на 6,2 пункта в среднем по всем языкам. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и имеет контекст 4096 токенов. Репозиторий содержит веса Safetensors, лицензия — MIT. Модель подходит для генерации решений математических задач на нескольких языках, но результаты MGSM не гарантируют точность на других типах задач или данных. Метаданные указывают многоязычную поддержку; перечисленные языки карточки включают бенгальский, китайский, английский, французский, немецкий, хинди, японский и русский.

LLaVA Interleave — мультимодальный чат-бот с открытыми весами от команды LLaVA, дообученный на данных для следования мультимодальным инструкциям. Это авторегрессионная модель на архитектуре Transformer с базовой языковой моделью Qwen/Qwen1.5-7B-Chat. В репозитории представлены форматы ONNX и Safetensors. Модель принимает текст и изображения, в том числе несколько изображений в одном запросе, и генерирует текстовые ответы. Её используют для диалога по изображениям, сравнения нескольких изображений и экспериментальной работы с видео или многовидовыми сценами через соответствующий формат запроса. В карточке она предназначена для исследовательского изучения мультимодальных моделей и чат-ботов; коммерческое использование запрещено. Лицензия указана как other.

Dense Huginn — исследовательский контрольный чекпойнт семейства LoopedLM от IFM, опубликованный как конечная точка рецепта dense_huginn после обучения на 500 млрд токенов. Архитектура модели — Huginn; веса BF16 представлены в формате Safetensors в нативной структуре xLLM, а не в формате Transformers. Модель предназначена для генерации текста и оценки рецепта обучения зацикленных языковых моделей. Для запуска требуются код xLLM, CUDA GPU и FlashAttention 3. Репозиторий содержит токенизатор и манифест для проверки файлов, но не содержит состояния оптимизатора и загрузчика данных, поэтому возобновить обучение с сохранением состояния нельзя. Лицензия — Apache-2.0.

IFM/LoopedLM-P1-dense-middle-336b — контрольная точка модели Dense Middle от IFM, созданная по рецепту dense_middle для работы Towards Looped Models Done Right. Part I: Topology, Input Injection, Recurrent-State Organization. Это плотная рекуррентная языковая модель семейства Dense Middle Loop с архитектурой Huginn, сохранённая после 80 000 шагов обучения на этапе с 336 млрд токенов. Модель предназначена для генерации текста и воспроизведения экспериментов статьи. Веса записаны в формате BF16 Safetensors с конфигурацией xLLM; для загрузки нужен код xLLM, CUDA GPU и FlashAttention 3. Чекпойнт находится в середине расписания обучения, рассчитанного на 500 млрд токенов. В репозитории нет состояния оптимизатора и загрузчика данных, поэтому продолжить обучение с этой точки без исходного тренировочного состояния нельзя. Лицензия — Apache 2.0.

Mavuno-195M-Instruct — компактная языковая модель Dynamoabey с архитектурой LLaMA, обученная с нуля на материалах STEM и литературы по агрономии Восточной Африки, а затем дообученная на 50 711 примерах инструкций. Модель содержит около 195 млн параметров, использует RMSNorm, RoPE, SwiGLU и связывание весов; принимает текст и поддерживает контекст до 2 048 токенов. Репозиторий содержит веса в формате safetensors, а карточка Hugging Face указывает поддержку английского языка и диалогового режима. Модель предназначена для компактного запуска на периферийных устройствах и научных демонстраций: она отвечает на вопросы по STEM и агрономии, а также может помогать с учебными заданиями и базовыми запросами о коде. В README приведены результаты на SciQ, ARC-Easy, OpenBookQA и отдельных разделах MMLU. Лицензия — MIT. Небольшой размер ограничивает надёжность многошаговых символьных вычислений и ветеринарных заключений; такие ответы следует проверять внешними инструментами или через RAG.

MedGemma 27B IT — мультимодальная instruction-tuned модель семейства MedGemma, разработанная Google на базе Gemma 3. Она предназначена для медицинских AI-приложений, в которых требуется анализ медицинских текстов и изображений с генерацией текста. Данная версия связана с моделью google/medgemma-27b-it и представлена в формате GGUF. Модель использует языковую модель объёмом 27B параметров и мультимодальный компонент с визуальным энкодером SigLIP, предварительно обученным на обезличенных медицинских данных, включая рентгеновские снимки грудной клетки, дерматологические и офтальмологические изображения, а также гистопатологические слайды. Обучение также включало медицинские тексты, пары «вопрос–ответ», данные электронных медицинских записей в формате FHIR, радиологические изображения и другие медицинские данные. Модель ориентирована на медицинское рассуждение и задачи, связанные с пониманием медицинских изображений, записей и текста; точный размер контекста и перечень поддерживаемых языков в README не указаны. Сильной стороной модели является объединение медицинского текстового и визуального анализа в одной системе, что делает её подходящей для прототипирования и разработки приложений в сфере здравоохранения. При этом модель не следует рассматривать как автономный клинический инструмент: её результаты требуют проверки специалистами, а качество зависит от конкретной задачи и данных. Для задач классификации или поиска по изображениям без генерации текста рекомендуется использовать MedSigLIP. Использование регулируется условиями Health AI Developer Foundations; доступ к модели на Hugging Face требует ознакомления и согласия с этими условиями.

MedQA_L3_1000steps_1e6rate_SFT — дообученная разговорная модель на базе Meta-Llama-3-8B-Instruct, разработанная пользователем tsavage68. Модель предназначена для генерации текста в диалоговом формате; название указывает на медицинские вопросы и ответы, однако README не подтверждает специализацию и не описывает сценарии применения. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Она принимает текст и генерирует текст. В метаданных указана лицензия Llama 3; применяются условия лицензии базовой модели.

Merlyn-education-teacher-assistant — плотная авторегрессионная модель GPT-NeoX примерно на 12 млрд параметров, обученная Merlyn Mind на базе EleutherAI/pythia-12b. Она предназначена для образовательной среды в классе и вне его: по ходу обсуждения в классе предлагает полезные рекомендации, исследовательские задания и темы для дальнейшего изучения. Модель принимает текст и генерирует текст; заявленный контекст — 2048 токенов. Для запуска в полной точности требуется более 48 ГБ видеопамяти; в README в качестве примера указана одна A100 с 80 ГБ, а для меньших GPU предлагаются несколько устройств или сниженная точность. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0.

MiniThinky 1.7B — экспериментальная диалоговая языковая модель ngxson, дообученная на базе HuggingFaceTB/SmolLM2-1.7B-Instruct для добавления способности рассуждать. Это плотная архитектура семейства Llama с 1,7 млрд параметров; модель принимает текст и генерирует ответы, разделяя ход рассуждений и итоговый ответ. Используется шаблон чата, совместимый с Llama 3, а заявленная длина контекста составляет 8192 токена. Модель предназначена для диалога и генерации ответов с промежуточными рассуждениями. Автор предупреждает о высоком значении loss и частых галлюцинациях, а также о высокой чувствительности к системному сообщению. В карточке приведён рекомендуемый системный промпт. Модель доступна в формате safetensors; лицензия в предоставленных данных не указана.

Mistral-7B-Instruct-v0.2-abliterated-obliteratus — диалоговая языковая модель на архитектуре Mistral, созданная Richard Young с применением метода OBLITERATUS к Mistral-7B-Instruct-v0.2. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; карточка указывает английский язык. Она предназначена для генерации текста и ответов на инструкции в диалоговом формате. В модели применена абляция направления отказа, чтобы уменьшить склонность исходной модели отказываться от ответов. В README приведены результаты оценки отказов, успешности атак и расхождения распределений, но методика и полный контекст этих метрик здесь не раскрыты. Удаление защитных ограничений может привести к выдаче вредоносного или иного небезопасного контента. Модель выпущена для исследовательских целей и распространяется по лицензии Apache-2.0.

ModernBERT-Large-Instruct-Logician-v0.5 — англоязычная модель JohnGorri, дообученная на базе answerdotai/ModernBERT-base для предсказания замаскированных токенов с упором на логические выводы и дедуктивный анализ. Она использует архитектуру ModernBertForMaskedLM и содержит 394,7 млн параметров; заявленная длина контекста — 8192 токена. Модель предназначена для заполнения пропусков в структурированных текстах, например для восстановления аргументов или уточняющих условий по контексту. Лицензия Apache 2.0. Как masked language model, она не предназначена для генерации длинных ответов в диалоговом стиле.

MS3.2-24b-Angel — дообученная Allura модель на базе Mistral Small 3.2-24B-Instruct-2506 для ролевых диалогов, написания историй и общих задач по инструкциям. В карточке указано, что обучение включало SFT на инструкциях, прозе и ролевых данных, затем KTO на данных для письма, следования инструкциям и пользовательских предпочтений. Модель использует плотную архитектуру Mistral3ForConditionalGeneration и поддерживает текстовый диалог и анализ изображений; после текстового дообучения к весам вернули vision tower. README отмечает сильную прозу и убедительное изображение персонажей. Для работы рекомендованы токенизатор Mistral v7 Tekken и официальный код токенизации Mistral, если его поддерживает среда запуска. В репозитории указаны веса Safetensors; автор также описывает варианты квантования EXL3, GGUF и MLX. Лицензия в предоставленных данных не указана. Модель ориентирована на ролевые сценарии и свободное письмо, поэтому ответы могут зависеть от промпта и настроек генерации; независимых количественных оценок в карточке нет.

KiteFishAI/Nano-Math-1.5Bv1 — языковая модель семейства Llama от Kitefish, ориентированная на математические рассуждения, понимание символической записи и решение задач. В README заявлены базовые и средние по сложности математические задачи, пошаговые решения уравнений и текстовых задач, а также образовательные и экспериментальные сценарии. Модель имеет плотную архитектуру LlamaForCausalLM и 1,4 млрд параметров. Она принимает текст и генерирует текст; родная длина контекста — 4096 токенов. Карточка README называет выпуск ранним. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

NEXUS-Legal — специализированная разговорная языковая модель для юридического анализа и проверки договоров, разработанная FableForge как часть семейства NEXUS. Это плотная причинная модель семейства Qwen2 на 1,5 млрд параметров, основанная на Qwen/Qwen2.5-1.5B-Instruct и дообученная для юридических задач. Она принимает текст и генерирует текст; заявленный контекст составляет 32 768 токенов, модель поддерживает английский язык и использует библиотеку Transformers. Модель предназначена для анализа юридических вопросов и текста договоров в диалоговом формате. В README приведены результаты внутренней оценки на 30 запросах по нескольким категориям; эти результаты не являются независимой проверкой качества. Отмечены также варианты GGUF-квантизации, опубликованные отдельно. Модель распространяется под лицензией Apache-2.0.

Nguni-XLMR-large — предварительно обученная модель с маскированием токенов, созданная Франсуа Мейером и соавторами на основе XLM-R-large. Авторы адаптировали её к языкам нгуни посредством продолжения многоязычного предобучения. Модель предназначена для предсказания скрытых фрагментов текста и может служить основой для задач понимания естественного языка на этих языках. Модель использует плотную архитектуру XLM-RoBERTa с 658,7 млн параметров и контекстом до 514 токенов. Она рассчитана на исикоса, исизулу, исиндебеле и сисвати; в тестах на бенчмарке NGLUEni превзошла базовые модели в задачах понимания языка. Распространяется под лицензией MIT.

fpadovani/nld-latn-10mb-ppt-Dp-10mb_seed455 — модель генерации текста на базе GPT-2, дообученная автором fpadovani на goldfish-models/nld_latn_10mb с помощью TRL. Она предназначена для продолжения текста и ответов на текстовые запросы; в карточке приведён пример диалогового запроса. Модель работает с библиотекой Transformers, веса представлены в формате safetensors, длина контекста — 512 токенов. Карточка не сообщает целевые языки, лицензию и специальные области применения.

ND911/NSFW_DPO_Noromaid-7B-v2 — диалоговая языковая модель, созданная автором репозитория с помощью mergekit. Это слияние методом SLERP моделей athirdpath/NSFW_DPO_Noromaid-7b и mistralai/Mistral-7B-Instruct-v0.2; архитектура — MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — safetensors, контекст — до 32 768 токенов. Модель предназначена для генерации текста в диалоге, включая сценарии с контентом для взрослых. Лицензия в предоставленных данных не указана.

OpenThinker3-7B-SFT-GRPO-DE — плотная языковая модель на архитектуре Qwen2 с 7,1 млрд параметров, разработанная DGurgurov на основе open-thoughts/OpenThinker-7B. Это второй этап адаптации ReasonXL: после дообучения на немецкоязычных рассуждениях модель прошла обучение с подкреплением методом Dr. GRPO на проверяемых математических задачах. Цель обучения — улучшить качество рассуждений, сохранив немецкий язык. Модель предназначена для генерации текста с пошаговыми рассуждениями на немецком языке, в первую очередь при решении математических задач. Контекст составляет 32 768 токенов. В репозитории указаны веса safetensors. Лицензия в предоставленных данных не указана.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E128-k16-13.2B-A1.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E128-k8-13.2B-A1.1B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E256-k16-26.0B-A1.9B на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.

Карточка модели llm-jp/optimal-sparsity-code-d1024-E256-k4-26.0B-A670M на Hugging Face совпадает с карточкой llm-jp/optimal-sparsity-math-d2048-E8-k8-3.9B-A3.9B, поэтому описание составлено по ней. Это экспериментальный чекпойнт из работы «Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks». Модель разработана авторами исследования; репозиторий содержит чекпойнты для изучения влияния разреженности MoE-моделей на задачи рассуждения. Архитектура — MixtralForCausalLM с механизмом mixture-of-experts; в метаданных указано 875 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и экспериментов с рассуждениями на языковых задачах. Она распространяется в формате safetensors под лицензией Apache-2.0. README не уточняет языковой состав, конкретные результаты оценки или практические ограничения качества.