IV.6Научные исследования, математика и новые материалы

OpenMed разработала OpenMed-NER-ChemicalDetect-TinyMed-66M — модель на основе DistilBERT, дообученную для распознавания химических сущностей в биомедицинских текстах. Она принимает токенизированный текст и присваивает токенам BIO-метки B-CHEM и I-CHEM; размер контекста составляет 512 токенов. Модель обучена на корпусе BC4CHEMD с аннотациями упоминаний химических соединений в научной литературе. Модель предназначена для извлечения химических веществ и соединений из научных публикаций, клинических записей и других биомедицинских документов. Её можно применять при поиске лекарственных взаимодействий, извлечении упоминаний препаратов из записей пациентов, мониторинге нежелательных явлений и построении биомедицинских баз знаний. В README приведены показатели на BC4CHEMD: F1 и точность 0,93, полнота 0,93, accuracy 0,98. Это англоязычная модель для классификации токенов, совместимая с Transformers; файлы весов представлены в формате safetensors. Лицензия — Apache-2.0. Результаты для BC4CHEMD не гарантируют такое же качество на других корпусах и типах клинических документов; модель размечает химические сущности и сама по себе не устанавливает взаимодействия или нежелательные реакции.

OpenMed-NER-GenomeDetect-ModernMed-149M — модель OpenMed для распознавания упоминаний генов и белков в биомедицинских текстах. Это дообученная для классификации токенов ModernBERT-модель с 149 млн параметров и контекстом до 8192 токенов. Она размечает названия генов и белков BIO-метками B-GENE/PROTEIN и I-GENE/PROTEIN. Модель предназначена для извлечения биомедицинских сущностей из научных статей и клинических документов, например для поиска упоминаний генов в литературе и построения биомедицинских баз знаний. В README указаны BC2GM как обучающий датасет и F1 0,81, точность 0,80 и полнота 0,81. Эти результаты относятся к указанной оценке на BC2GM и сами по себе не подтверждают заявленную в карточке пригодность для клинического применения. Для использования доступны веса safetensors в экосистеме Transformers. Лицензия — Apache-2.0. Модель поддерживает английский язык; карточка не подтверждает поддержку других языков.

OpenMed разработала OpenMed-NER-GenomeDetect-ModernMed-395M — дообученную модель ModernBERT для распознавания упоминаний генов и белков в биомедицинских текстах. Модель содержит около 395 млн параметров, принимает токенизированный текст и выдаёт BIO-разметку сущностей для последующей группировки упоминаний. Модель предназначена для извлечения генов и белков из научных публикаций, медицинских документов и клинических записей. Она обучена на корпусе BC2GM и поддерживает английский язык; заявленная длина контекста — 8192 токена. В README приведены результаты на BC2GM: F1 0,85, точность 0,85 и полнота 0,86. Модель можно применять для поиска генов и белков в литературе и документах, построения биомедицинских баз знаний и анализа клинических текстов. Заявленные сценарии применения шире непосредственно поддерживаемой разметки: модель выделяет только сущности GENЕ/PROTEIN, поэтому обнаружение лекарств, химических соединений и лекарственных взаимодействий потребует других компонентов. Лицензия — Apache-2.0.

OpenMed разработала OpenMed-NER-GenomeDetect-TinyMed-135M — дообученную модель DistilBERT для распознавания упоминаний генов и белков в биомедицинском тексте. Она принимает токенизированный текст и возвращает BIO-разметку сущностей; модель обучена на корпусе BC2GM с примерами из аннотаций MEDLINE. В README указана архитектура distilbert-base-multilingual-cased, а контекст модели составляет 512 токенов. Модель предназначена для извлечения генов и белков из научной литературы и медицинских документов, в том числе для поиска упоминаний в корпусах биомедицинских публикаций и построения баз знаний. README сообщает F1 0,87 на BC2GM; эта оценка относится к указанному набору данных. Карточка не приводит независимых подтверждений заявлений о клинической точности. Лицензия — Apache-2.0.

OpenMed-NER-GenomicDetect-BigMed-560M — модель OpenMed для распознавания именованных сущностей в биомедицинских текстах. Она основана на архитектуре XLM-RoBERTa и дообучена для token classification на корпусе GELLUS; в репозитории указано 658,7 млн параметров. Модель принимает токенизированный текст и выдаёт BIO-разметку. В карточке перечислены метки B-Cell-line-name и I-Cell-line-name, поэтому подтверждённая область извлечения — названия клеточных линий, хотя описание корпуса также говорит о распознавании генов и генетических сущностей. Модель предназначена для извлечения биомедицинских сущностей из научной литературы и медицинских документов, в том числе для текстового поиска и анализа геномных публикаций. Контекст модели — 514 токенов; в метаданных указан английский язык. README приводит высокие результаты на GELLUS, но без подробностей о протоколе оценки эти показатели не следует считать гарантией качества на других данных. Модель распространяется по лицензии Apache-2.0.

OpenMed-NER-GenomicDetect-SuperClinical-434M — модель OpenMed для распознавания именованных сущностей в биомедицинских текстах. Она предназначена для выделения упоминаний генов и связанных сущностей в клинических документах и научной литературе, например для поиска генетических упоминаний и подготовки данных для биомедицинского анализа. Модель использует архитектуру DeBERTa-v2 для классификации токенов, содержит 533,8 млн параметров и обрабатывает последовательности длиной до 512 токенов. На выходе выдаёт метки BIO; в карточке перечислены метки B-Cell-line-name и I-Cell-line-name. Для обучения указан корпус GELLUS, ориентированный на распознавание генов и генетических сущностей. README приводит высокие показатели на GELLUS, но не описывает методику оценки, поэтому эти результаты не следует считать гарантией качества на других данных. Модель принимает текст и предназначена для английского языка. Распространяется под лицензией Apache-2.0.

OpenMed-NER-OncologyDetect-BigMed-560M — модель OpenMed для распознавания и классификации биомедицинских сущностей в текстах об онкологии и генетике рака. Она дообучена для задачи NER на корпусе BioNLP 2013 CG и основана на архитектуре XLM-RoBERTa; метаданные указывают 658,7 млн параметров. Модель принимает токенизированный текст и выдаёт метки сущностей в формате BIO, включая гены и их продукты, типы клеток, ткани, органы, опухоли и химические соединения. Модель предназначена для извлечения сущностей из научной литературы, клинических текстов и медицинских документов, например для поиска онкологических биомаркеров и построения биомедицинских баз знаний. В README заявлены F1 0,86, точность 0,86 и полнота 0,85 на BioNLP 2013 CG; эти показатели относятся к указанному корпусу и не гарантируют такое же качество на других данных. Контекст ограничен 514 токенами. Модель выпущена под лицензией Apache-2.0.

OpenMed разработала OpenMed-NER-OncologyDetect-MultiMed-335M — дообученную модель семейства BERT для распознавания именованных сущностей в биомедицинских текстах, особенно в материалах по генетике рака. Модель содержит 433,9 млн параметров, принимает токенизированный текст и возвращает BIO-разметку токенов с типами сущностей: среди них рак, гены и продукты генов, клетки, ткани, органы и химические вещества. Контекст ограничен 512 токенами. Модель предназначена для извлечения терминов из научных статей и медицинских текстов, включая анализ генетики опухолей, поиск биомаркеров и обработку онкологической литературы. Она обучена на корпусе BioNLP 2013 CG; в README указаны F1 0,82, точность 0,81 и полнота 0,84. Эти результаты относятся к описанному набору данных и не гарантируют такое же качество на других текстах. Указанная в README архитектура — bge-large-en-v1.5 — расходится с метаданными, где модель обозначена как BertForTokenClassification, поэтому точную базовую модель установить нельзя. Лицензия — Apache-2.0.

OpenMed-NER-ProteinDetect-ModernClinical-395M — модель OpenMed для распознавания биомедицинских сущностей в тексте. Это дообученная модель архитектуры ModernBERT для классификации токенов с примерно 394,7 млн параметров и контекстом до 8192 токенов. Она размечает упоминания белков, белковых комплексов, семейств и вариантов тегами BIO; README также указывает на распознавание других типов сущностей, но не перечисляет их полностью. Модель предназначена для извлечения сущностей из биомедицинской литературы и клинических текстов, включая поиск белков и анализ молекулярных взаимодействий. README сообщает F1 0,91 на корпусе FSU, однако результатов независимой проверки не приводит. Заявленные сценарии применения включают анализ научных публикаций, построение биомедицинских графов знаний и исследования в области системной биологии. Модель принимает токенизированный английский текст и выдаёт BIO-разметку сущностей. Репозиторий использует формат safetensors и совместим с экосистемой Hugging Face Transformers. Лицензия — Apache-2.0.

Open-MOPD-SmolLM3-3B-RL-Math — математическая языковая модель, разработанная BytedTsinghua-SIA как модель-учитель для конвейера Open-MOPD. Она создана дообучением BytedTsinghua-SIA/Open-MOPD-SmolLM3-3B-MixSFT с помощью GRPO на математических запросах с проверяемыми наградами; опубликован чекпойнт шага обучения 100. Модель использует плотную архитектуру SmolLM3ForCausalLM, содержит 3,1 млрд параметров и работает с текстом. Её нативный контекст — 65 536 токенов; в оценке применялось ограничение 32 768 токенов, а предел длины ответа при обучении составлял 30 000 токенов. Модель предназначена прежде всего для решения математических задач и дистилляции математических навыков в другие модели, а не для роли универсального ассистента. В приведённой оценке она превзошла исходную MixSFT на AIME24, AIME25 и по среднему результату на математических тестах. Карточка указывает английский язык. Вес модели опубликован в формате BF16, поддерживаются Transformers и чат-шаблон. Лицензия — Apache-2.0. Обучение ограничивалось математической областью, поэтому в других задачах модель может работать хуже, чем MixSFT; README прямо предостерегает от её использования как универсального ассистента.

OpenVLThinker-7B — мультимодальная модель зрения и языка на 7,1 млрд параметров, разработанная на основе Qwen2.5-VL-7B-Instruct. Она дообучена для рассуждений по визуальным данным, особенно для решения математических задач по изображениям. Модель принимает текст и изображения и формирует текстовые ответы; поддерживает контекст до 128 000 токенов и использует архитектуру Qwen2.5-VL. Её можно применять для решения задач по математике, заданных в виде изображений, и для других сценариев визуального анализа с текстовыми инструкциями. Модель распространяется в формате safetensors по лицензии Apache-2.0.

OREAL-7B-SFT — модель генерации текста, разработанная авторами серии OREAL как начальная политика для обучения с подкреплением. Это дообученная версия Qwen/Qwen2.5-7B с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров; она предназначена прежде всего для математических рассуждений и диалогового взаимодействия. В карточке серии OREAL сообщается о результатах семейства на математических тестах, однако приведённые показатели относятся к OREAL-7B и OREAL-32B в целом и не позволяют отдельно оценить этот SFT-чекпойнт. Модель принимает текст и генерирует текст; для диалогов используется шаблон чата. Метаданные указывают контекст до 131 072 токенов. Модель распространяется в формате safetensors для Transformers по лицензии Apache-2.0. Ограничение: карточка описывает SFT-модель как начальную политику для последующего RL-обучения, поэтому результаты серии нельзя считать гарантией качества именно этого чекпойнта.

PearlMath-lafted-7b-slerp — слитая модель генерации текста на архитектуре Mistral, созданная с помощью LazyMergekit из mvpmaster/MistralDpoPearl-7b-slerp и mvpmaster/NeuralMaths-lafted-7b-slerp. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов по инструкциям, с математической специализацией, унаследованной от одной из исходных моделей. Подходит для решения математических задач и ответов на вопросы в текстовом формате. Веса опубликованы в формате safetensors; лицензия и конкретные языки в предоставленных данных не указаны.

Daewon0808 разработал эту дообученную модель на базе Qwen/Qwen2.5-Math-7B-Instruct. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста; название и приведённые метрики PRM указывают на применение для оценки корректности шагов математического рассуждения. В README указаны результаты на наборе оценки: точность PRM 0,8774, precision 0,9375, recall 0,9036 и F1 0,9202. Модель принимает текст и выдаёт текст, использует библиотеку Transformers и формат safetensors. Контекст составляет 4096 токенов. Базовая модель ориентирована на математические задачи на английском и китайском языках, однако отдельные языки и подробности обучения этой версии не описаны. Модель распространяется по лицензии Apache-2.0. Набор данных для дообучения обозначен как неизвестный; метрики получены на оценочном наборе и сами по себе не гарантируют качество на других данных.

JAlexis/PruebaBert — англоязычная модель для ответов на вопросы, созданная дообучением deepset/bert-base-cased-squad2 на наборе научных публикаций CORD-19 от 31 января 2022 года. Она использует архитектуру BERT и предназначена для извлечения ответов из предоставленного текста, в частности из материалов о COVID-19 и биомедицинских исследованиях. Модель содержит 135,5 млн параметров, принимает текст и рассчитана на контекст до 512 токенов. Для обучения использовались Haystack и FARM; в метаданных указан формат PyTorch. Лицензия в предоставленных данных не обозначена.

Карточка модели TAKADOX/Qwen2.5-Math-1.5B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Math-1.5B, поэтому описание составлено по ней. Qwen2.5-Math-1.5B — математическая языковая модель семейства Qwen, разработанная командой Qwen. Это базовая модель с плотной архитектурой Qwen2 и 1,5 млрд параметров, дообученная на основе Qwen/Qwen2.5-1.5B. Она генерирует продолжение текста и предназначена прежде всего для решения математических задач на английском и китайском языках с использованием пошаговых рассуждений (CoT); серия также поддерживает рассуждения с подключением инструментов (TIR). Модель рассчитана на завершение текста и few-shot-инференс и может служить отправной точкой для дальнейшего дообучения. Контекст составляет 4096 токенов. Для работы рекомендуется Transformers версии 4.37.0 или новее; веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Разработчики не рекомендуют применять модель для задач, отличных от математики. Карточка отдельно указывает, что вариант 1.5B без суффикса Instruct является базовой моделью для completion и few-shot, а не инструкционной моделью для диалога.

Elliott/Qwen2.5-Math-7B-16k-think — разговорная языковая модель на архитектуре Qwen2, основанная на Qwen2.5-Math-7B, которую использует LUFFY в работе «Learning to Reason under Off-Policy Guidance». В репозитории заявлены 7,1 млрд параметров и контекстное окно 16 384 токена. Модель предназначена для генерации текста и диалогов, в частности для рассуждений и решения математических задач. Разработчик изменил параметр RoPE theta с 10 000 до 40 000, расширил контекст до 16k и модифицировал шаблон чата для системного промпта. Модель доступна в формате safetensors и распространяется по лицензии MIT. README не уточняет языковую поддержку и результаты оценки качества.

Это дообученная модель Qwen3, созданная formalmathatepfl на основе formalmathatepfl/qwen3-sft-feedback-with-proof-repair и обученная на наборе данных lean_reasoning_sft_feedback. В карточке указана архитектура Qwen3ForCausalLM с плотной авторегрессионной моделью на 7,6 млрд параметров; модель принимает текст и генерирует текст, поддерживает диалоговый режим и имеет контекстное окно 32 768 токенов. Модель предназначена для генерации текста в сценариях, связанных с формальной математикой, обратной связью и исправлением доказательств, что следует из названия модели и набора данных. Подробности о качестве, точном формате входных данных и результатах оценки в карточке не приведены. Лицензия указана как other, без конкретных условий в предоставленных данных.

Qwen-Qwen2-Math-1.5B-Instruct-GGUF — набор GGUF-квантизованных версий модели Qwen/Qwen2-Math-1.5B-Instruct, разработанных и опубликованных Featherless AI Quants. Модель относится к классу text-generation и предназначена прежде всего для решения математических задач и ведения диалога в формате инструкций. В README не указаны точные архитектурные характеристики, поддерживаемые языки, размер контекста и набор модальностей, поэтому подтверждённо описать её можно только как текстовую модель с 1,5 млрд параметров в базовой версии. Доступно 11 вариантов квантизации GGUF: IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0. Их размер составляет примерно от 645 МБ до 1,57 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Квантизация делает модель удобнее для локального запуска, однако README не содержит результатов тестирования, поэтому её фактические сильные стороны, точность и влияние отдельных вариантов квантизации оценить нельзя. README не указывает лицензию базовой модели или GGUF-файлов, а также не описывает конкретные системные требования, способы запуска и ограничения применения. Поэтому перед использованием следует отдельно проверить лицензионные условия Qwen/Qwen2-Math-1.5B-Instruct и выбранного файла.

SciFive-large-Pubmed_PMC — биомедицинская модель семейства T5, разработанная Long N. Phan и соавторами для работы с научной литературой. Это text-to-text трансформер с 385,2 млн параметров и контекстом до 1024 токенов, обученный на материалах PubMed и открытых публикациях PMC. Модель подходит для классификации биомедицинских текстов; карточка также описывает её как генеративную text-to-text модель, однако для репозитория указан основной сценарий text-classification. Метаданные указывают поддержку английского языка и форматов PyTorch и TensorFlow. Лицензия в предоставленных данных не указана.

EMBO/sd-smallmol-roles-v2 — модель разметки токенов на базе BioLinkBERT-large, дообученная на наборе source_data_nlp. Она предназначена для присвоения меток отдельным токенам текста; название модели указывает на роли малых молекул, однако README не уточняет схему меток и сценарии разметки. Модель построена на архитектуре BERT, содержит 432,2 млн параметров и рассчитана на контекст до 512 токенов. Для запуска используются веса PyTorch. На тестовой выборке авторы сообщают F1 0,9672, точность 0,9628 и полноту 0,9716. Модель выпущена под лицензией Apache-2.0. Описание обучающих данных, ограничений и конкретного назначения в карточке отсутствует.

SPECTER2-abstract2gene — модель эмбеддингов проекта Abstract2Gene, разработанная для поиска связей генов с научными аннотациями. Это дообученная AllenAI SPECTER2 на примерах, подобранных по аннотациям генов, чтобы сближать в векторном пространстве тексты с релевантными аннотациями генов. Модель основана на Sentence Transformers и BERT, содержит 137,1 млн параметров и преобразует текст в плотные векторы размерности 768; для сравнения используется косинусное сходство. Модель предназначена для семантического поиска и сравнения научных аннотаций, а также для кластеризации и выявления похожих публикаций в сценариях анализа связей генов. Обрабатывает последовательности длиной до 512 токенов. README приводит результаты оценки TripletEvaluator на трёх вариантах данных, но не уточняет их интерпретацию за пределами cosine accuracy. Язык и лицензия в доступных источниках не установлены.

STILL-3-Tool-32B — языковая модель RUC-AIBOX для генерации текста и решения задач с использованием Python как инструмента рассуждения. Она предназначена для диалогового взаимодействия и сложных математических задач; в README сообщается о точности 81,70% на AIME 2024. Модель построена на архитектуре Qwen2, содержит 32 млрд параметров и поддерживает контекст до 131 072 токенов. В метаданных также указана возможность интерфейса вызова инструментов. Модель опубликована в формате safetensors и доступна как открытая модель; сведения о лицензии в предоставленных данных отсутствуют.

Карточка модели llm-agents/tora-70b-v1.0 на Hugging Face совпадает с карточкой llm-agents/tora-13b-v1.0, поэтому описание составлено по ней. ToRA-13B-v1.0 — языковая модель семейства LLaMA, разработанная авторами проекта ToRA как агент для решения математических задач с использованием внешних инструментов. Она объединяет рассуждения на естественном языке с вычислительными библиотеками и символьными решателями; для работы с инструментами нужна соответствующая среда инференса. Модель дообучена методом supervised fine-tuning на корпусе ToRA-Corpus 16k с траекториями решения задач GSM8K и MATH, а затем обучена лучше формировать ответы для интеграции с инструментами. Модель содержит 12,9 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 4096 токенов. Репозиторий содержит веса PyTorch; в метаданных отмечена поддержка английского языка и задач, связанных с кодом и математикой. Предназначена для генерации пошаговых решений и применения в сценариях математического reasoning с вычислительной проверкой. Лицензия — llama2.

BC5CDR_BlueBERT_NER — англоязычная модель для распознавания именованных сущностей в биомедицинских текстах. Она разработана на основе bionlp/bluebert_pubmed_mimic_uncased_L-12_H-768_A-12 и дообучена для классификации токенов с метками Chemical и Disease. Модель содержит 136,7 млн параметров, использует архитектуру BERT и принимает контекст длиной до 512 токенов. Модель подходит для извлечения названий химических веществ и заболеваний из научных публикаций и других биомедицинских текстов. На оценочном наборе в карточке указаны F1 0,87 для Chemical и 0,83 для Disease. Доступна по лицензии CC0-1.0. README не описывает состав обучающих данных и дополнительные сценарии применения.

AmberYifan/capsd-qwen3-sciweb-stackexchange-Qwen3-4B-Base-science_cap_b1000_s0 — дообученная плотная авторегрессионная языковая модель семейства Qwen3, созданная на базе Qwen/Qwen3-4B-Base. В модели около 3,7 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Модель обучена на наборе capsd_Qwen3-4B-Base-n80000-sciweb-stackexchange__mix_science_cap_b1000_s0. По названию набора можно предположить специализацию на научных текстах и материалах Stack Exchange, однако README не описывает конкретные сценарии, оценки качества или ограничения. Лицензия указана как other, поэтому условия использования следует сверить с карточкой модели и условиями базовой модели.

DeepSeek-V4-Pro-Qwen3.5-4B — компактная модель для генерации текста и рассуждений, опубликованная Jackrong. Она представляет собой дообученную версию Qwen3.5-4B, обученную на ответах DeepSeek-V4-Pro в режиме Max Effect. Модель ориентирована на воспроизведение многошаговых рассуждений, декомпозицию задач и решение задач математики и STEM; заявленный учебный набор включает около 250 000 соответствующих примеров. Модель содержит около 4 млрд параметров и поставляется в формате GGUF, что делает её подходящей для более доступного локального развертывания по сравнению с крупными моделями. Указаны поддерживаемые языки английский и китайский, задача — text generation. В README также упоминается оценка MTP-Q8, а проверка проводилась на полных запусках GSM8K и фиксированных выборках MMLU-Pro по математике, физике и химии, однако конкретные результаты не приведены. Сильные стороны модели — компактный размер, специализация на математическом и научном рассуждении и использование дистилляции от более мощной модели. Ограничениями являются меньший масштаб относительно исходной модели-учителя и отсутствие в представленном описании подробных данных о точности, максимальном контексте, архитектуре и мультимодальных возможностях, поэтому её качество в общих задачах и поддержка других сценариев не подтверждены. Лицензия — Apache-2.0.

Flex-math-2x7B-1T — языковая модель AllenAI из семейства FlexOlmo, построенная по архитектуре Mixture-of-Experts. Она объединяет экспертов, обученных на разных корпусах; математический эксперт получен дообучением публичного эксперта на математических данных. README описывает вариант 2x7B как MoE без обучения маршрутизатора, а метаданные указывают 6,9 млрд параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и диалоговых сценариев, с акцентом на математические задачи. В опубликованном сравнении индивидуальная плотная математическая модель показывает результат 53,1 на Math2; это значение относится к плотной версии, а не к MoE-чекпойнту. FlexOlmo также рассчитана на совместную разработку моделей с контролем участников над использованием их данных. Модель принимает текст и генерирует текст. В карточке указан английский язык. Для запуска README рекомендует Transformers версии 4.57.0 или новее. Лицензия — Apache-2.0.

InternLM2-Math-Base-7B — базовая математическая языковая модель семейства InternLM2, разработанная командой InternLM. Это плотная авторегрессионная модель с 7,4 млрд параметров, продолжительно предобученная на математических данных и предназначенная для решения задач и рассуждений на английском и китайском языках. Модель также может генерировать код Lean 3 для простых математических задач и предлагать тактики доказательства по состоянию Lean. Модель подходит для генерации решений и объяснений, проверки цепочек рассуждений, поддержки формального доказательства и расширения наборов математических задач. В отличие от обозначенных в карточке SFT-версий InternLM2-Math, этот репозиторий содержит базовый предобученный чекпойнт. Контекст составляет до 8192 токенов; доступны веса в формате safetensors. Разработчик отмечает, что модель находится в разработке: она может пропускать вычислительные шаги, хуже справляться с китайскими задачами на заполнение пропусков и английскими задачами с выбором ответа, а также переключать языки или предлагать использование интерпретатора кода. Возможности Lean ограничены простыми задачами и не гарантируют корректность. В метаданных указана лицензия other; конкретные условия использования следует сверить с лицензией репозитория.

MuToR-llama3-8B-1M_MATH-dmax_4_a_01 — языковая модель на архитектуре Llama 3, созданная методом MuToR (Multi-Token Prediction with Registers). Это дообученная версия Meta-Llama-3-8B, обученная пять эпох на обучающей части 1M-MATH с использованием датасета NVIDIA OpenMathInstruct-2. Веса представлены в формате safetensors; модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста, в частности для решения математических задач и воспроизведения экспериментов с многотокенным предсказанием. MuToR использует фиктивные register-токены для предсказания нескольких будущих целей и усиления обучающего сигнала; при инференсе эти токены отбрасываются, поэтому скорость генерации не снижается. Для использования и воспроизведения результатов следует обратиться к коду проекта. Лицензия модели — MIT.