IV.6Научные исследования, математика и новые материалы

MathGenie-InterLM-20B — языковая модель MathGenieLM, разработанная авторами проекта MathGenie для математических рассуждений. Она основана на InternLM-20B и дообучена на данных, созданных методом обратного преобразования решений в новые математические задачи. В README указано, что семейство MathGenieLM проверялось на пяти наборах для оценки математических рассуждений; для варианта InternLM2 приведены результаты 87,7% на GSM8K и 55,7% на MATH. Модель имеет плотную архитектуру InternLM2, около 19,3 млрд параметров и контекст до 32 768 токенов. Она генерирует текст и рассчитана прежде всего на английский язык; метаданные также отмечают возможности работы с кодом. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Модель подходит для решения математических задач и генерации пошаговых объяснений, однако README не приводит отдельной оценки именно этого чекпойнта MathGenie-InterLM-20B и описывает результаты для варианта MathGenieLM-InternLM2 в целом.

Sharathhebbar24/math_gpt2 — языковая модель GPT-2, дообученная на наборе ArtifactAI/arxiv-math-instruct-50k. Она генерирует продолжение текста по заданному текстовому запросу и ориентирована на математические тексты и инструкции на английском языке. Модель использует архитектуру GPT2LMHeadModel, распространяется в формате PyTorch и имеет контекст длиной до 1024 токенов. Модель подходит для генерации черновых объяснений и продолжений математических рассуждений. Качество ответов и точность вычислений отдельно в карточке не подтверждены, поэтому результаты следует проверять. Лицензия — Apache-2.0.

Olmo 3 7B RL-Zero Math — авторегрессионная языковая модель на архитектуре Transformer, разработанная Allen Institute for AI (Ai2). Модель содержит 6,9 млрд параметров, принимает текст и генерирует текст; её контекст — до 65 536 токенов. Основной язык — английский. Модель дообучена на базовой allenai/Olmo-3-1025-7B с использованием обучения с подкреплением на проверяемых наградах (RLVR) и набора математических запросов Dolci-RLZero-Math-7B. Она предназначена для исследования математических рассуждений и генерации решений, а также может использоваться для экспериментов с RLVR. Для работы поддерживается библиотека Transformers версии 4.57.0 и выше. Модель выпускает Ai2 по лицензии Apache 2.0; в карточке указано исследовательское и образовательное назначение согласно рекомендациям Ai2 по ответственному использованию. Ответы могут содержать ошибки, а без фильтрации безопасности модель способна выдавать вредоносный или чувствительный контент; результаты следует проверять.

OpenMed разработала эту модель для распознавания упоминаний генов и белков в биомедицинских текстах. Это дообученная модель EuroBERT для классификации токенов: она присваивает токенам BIO-метки B-GENE/PROTEIN и I-GENE/PROTEIN, чтобы выделять границы сущностей. В README указано обучение на корпусе BC2GM с аннотациями генов и белков в аннотациях MEDLINE. Модель предназначена для извлечения генов и белков из научной литературы и клинических документов, в том числе для поиска по биомедицинской литературе и построения баз знаний. В метаданных указаны 211,7 млн параметров, контекст до 8192 токенов, английский язык и формат safetensors. Лицензия — Apache-2.0. В README приведены F1 0,68, точность 0,66, полнота 0,69 и accuracy 0,92 на BC2GM. Эти результаты указывают на ограничения качества, особенно при точном извлечении сущностей; заявленная применимость к клиническим сценариям не сопровождается подробными результатами клинической валидации. Модель не следует считать средством диагностики или самостоятельного принятия медицинских решений.

OpenMed-NER-OncologyDetect-PubMed-335M — модель OpenMed для распознавания именованных сущностей в текстах по онкологии и генетике рака. Это дообученный трансформер BERT для классификации токенов, построенный на архитектуре BiomedNLP-BiomedBERT-large-uncased-abstract. Модель содержит 433,9 млн параметров, принимает токенизированный биомедицинский текст с контекстом до 512 токенов и возвращает метки сущностей в формате BIO. Модель обучена на корпусе BioNLP 2013 CG и распознаёт, среди прочего, гены и продукты генов, виды рака, аминокислоты, клетки, органы, ткани и простые химические соединения. Её можно применять для извлечения онкологических сущностей из научной литературы и медицинских документов, поиска генетических маркеров и построения биомедицинских баз знаний. В карточке указаны F1 0,88, точность 0,88 и полнота 0,87 на оценке модели; эти результаты относятся к описанному набору данных и не гарантируют аналогичного качества на других текстах. Модель рассчитана на англоязычные тексты. Распознавание сущностей зависит от соответствия входных данных стилю и разметке обучающего корпуса; модель не заменяет клиническую оценку. Распространяется по лицензии Apache-2.0.

OpenMed-NER-PharmaDetect-BioMed-109M — модель OpenMed для распознавания химических сущностей в биомедицинских текстах. Это дообученная для token classification модель семейства BERT на основе BiomedNLP-BiomedELECTRA-base-uncased-abstract; она выделяет сущности BC5CDR-Chem и возвращает разметку BIO с метками B-CHEM и I-CHEM. В метаданных указаны 136,7 млн параметров и контекст до 512 токенов. Модель предназначена для извлечения названий химических соединений, лекарств и терапевтических веществ из научных публикаций и медицинских записей. Её можно применять для поиска лекарств в документах, мониторинга нежелательных явлений, анализа литературы в разработке препаратов и подготовки данных для биомедицинских графов знаний. README приводит результаты на BC5CDR-Chem: F1 0,95, точность 0,93 и полноту 0,96. Модель принимает токенизированный текст и выдаёт метки сущностей для токенов. Указанные в карточке язык и теги относятся к английскому; сведений о поддержке других языков нет. README заявляет лицензию Apache-2.0. Показатели и заявления о готовности к клиническому или промышленному применению приведены в карточке модели; независимая проверка этих утверждений не описана.

OpenMed разработала OpenMed-NER-PharmaDetect-EuroMed-212M — модель на базе EuroBERT для распознавания химических сущностей в биомедицинском тексте. Она дообучена для задачи разметки последовательностей на наборе BC5CDR-Chem и выделяет сущности метками B-CHEM и I-CHEM. Модель содержит около 212 млн параметров, принимает токенизированный текст, поддерживает контекст до 8192 токенов и интегрируется с Transformers. Модель предназначена для извлечения названий химических соединений, лекарств и терапевтических веществ из научных публикаций и медицинских записей. Её можно использовать для поиска упоминаний препаратов, мониторинга нежелательных явлений и подготовки данных для биомедицинских баз знаний. В README указаны F1 0,93, точность 0,93 и полнота 0,92 на BC5CDR-Chem; эти результаты относятся к описанной в карточке оценке и не гарантируют качество на других текстах. Лицензия — Apache-2.0. Модель рассчитана на английский язык и обучена на корпусе научных аннотаций; качество на клинических записях или других языках отдельно не подтверждено.

OpenMed-NER-ProteinDetect-BioMed-335M — модель OpenMed для распознавания и классификации белковых сущностей в биомедицинских текстах. Это дообученная модель на архитектуре BERT для token classification, основанная на BiomedNLP-BiomedELECTRA-large-uncased-abstract. В README заявлено обучение на корпусе FSU, посвящённом белкам и молекулярной биологии. Модель обрабатывает токенизированный текст и выдаёт BIO-разметку для белков, белковых комплексов, семейств и вариантов; контекст ограничен 512 токенами. Её можно применять для извлечения упоминаний белков из научных статей и медицинских документов, а также для подготовки данных для анализа белковых взаимодействий и построения биомедицинских баз знаний. README сообщает F1 0,94 на FSU, но не приводит подробностей протокола оценки. Модель поддерживает английский язык и распространяется по лицензии Apache-2.0. Выделение сущностей само по себе не подтверждает клинические выводы и не заменяет экспертную проверку.

OpenMed-NER-SpeciesDetect-BigMed-278M — модель OpenMed для распознавания упоминаний видов и организмов в биомедицинских текстах. Это дообученный для классификации токенов трансформер XLM-RoBERTa с примерно 305 млн параметров и контекстом до 514 токенов. Модель присваивает токенам BIO-метки B-SPECIES и I-SPECIES, помогая выделять названия видов и организмов в научных публикациях и других текстах. Модель предназначена для извлечения видовых сущностей из биомедицинской литературы, клинических документов и исследовательских материалов, а также для последующего анализа и построения баз знаний. В README указаны обучение на корпусе LINNAEUS и F1 0,74, точность 0,76 и полнота 0,72; эти результаты указывают, что выделенные сущности требуют проверки для задач с высокими требованиями к качеству. Карточка заявляет совместимость с экосистемой Transformers. Лицензия — Apache-2.0.

OREAL-32B — модель для математических рассуждений, разработанная командой InternLM. Она создана на базе OREAL-32B-SFT методом обучения с подкреплением по итоговому вознаграждению и предназначена для решения математических задач с пошаговым выводом. В README сообщается результат 95,0 pass@1 на MATH-500. Модель имеет плотную архитектуру Qwen2ForCausalLM с 32 млрд параметров, принимает текст и генерирует текст. Метаданные указывают контекстное окно 131 072 токена, поддержку диалогового режима и интерфейса вызова инструментов. В README описано использование шаблона чата с пользовательским вопросом и генерацией ответа. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Результаты на бенчмарках не гарантируют точность на любых математических задачах; модель может ошибаться в вычислениях и рассуждениях.

OREAL-7B — языковая модель для математических рассуждений, разработанная командой InternLM. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, дообученная на основе internlm/OREAL-7B-SFT методом обучения с подкреплением по итоговому вознаграждению, включая задачи с бинарной оценкой результата. Модель рассчитана на диалоговый формат и генерацию развёрнутых решений математических задач; в README для серии OREAL приведён результат 94,0 pass@1 на MATH-500 для модели 7B. Модель принимает текстовые запросы и генерирует текстовые ответы. Для рассуждений при обучении и использовании применяется системный промпт; метаданные указывают контекст до 131072 токенов и интерфейс вызова инструментов. Модель доступна в формате safetensors для Transformers и распространяется по лицензии Apache-2.0. Она ориентирована на математические задачи, а приведённая оценка относится к конкретному бенчмарку и не гарантирует точность на иных задачах; проверяйте вычисления и выводы модели.

PMC_LLaMA_7B_10_epoch — языковая модель семейства LLaMA, разработанная Chaoyi Wu. Это версия LLaMA-7B, дообученная на научных статьях по биомедицине из корпуса PMC в наборе S2ORC; по сравнению с PMC_LLAMA_7B она обучалась 10 эпох. Модель содержит 6,6 млрд параметров и предназначена для генерации текста по запросу, в частности для работы с научной биомедицинской литературой. Модель принимает текст и генерирует текст. При обучении использовались фрагменты по 512 токенов из каждой статьи. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. Карточка не сообщает о поддержке конкретных естественных языков или специализированных ограничениях качества; применение к клиническим решениям из описания не следует.

Pythagoras-Prover-4B-GGUF — набор квантизованных версий языковой модели Pythagoras-Prover-4B, разработанной Pythagoras-LM и подготовленной в формате GGUF пользователем tinyopsec. Модель предназначена для генерации текста, математического рассуждения и формального доказательства теорем, включая решение задач и построение пошаговых доказательств. Указан английский язык; модель поддерживает текстовую модальность и рассчитана на использование через llama.cpp, llama-cpp-python, LM Studio и Ollama. Модель имеет около 4 миллиардов параметров. Доступны варианты с точностью от F16 до Q2_K и объёмом примерно от 1,5 до 8,8 ГБ, что позволяет запускать её на видеокартах с разным объёмом памяти. Q4_K_M рекомендуется как компромисс между качеством и размером, а Q6_K — для случаев, когда важна близкая к исходной точность. Архитектура и размер контекстного окна в README не указаны; пример использования задаёт контекст 4096 токенов, но это не подтверждает максимальный размер контекста модели. Сильными сторонами являются специализация на математике и формальном доказательстве теорем, а также возможность локального запуска на относительно доступном оборудовании. Ограничения связаны с потерей качества в низкобитных вариантах квантизации, отсутствием заявленных бенчмарков и неизвестными характеристиками контекстного окна. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Math-7B-GRPO-Staleness-2 — полноразмерный чекпойнт модели Qwen2.5-Math-7B, дообученный автором zbeeb методом GRPO на наборе из 17 005 математических задач. Модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров; она предназначена для генерации решений и ответов на математические задачи в диалоговом формате. Обучение завершено на шаге 1000 с ограничением возраста политик для роллаутов в два шага. Контекст составляет 4096 токенов, а предел генерации при обучении — 3072 токена. Оценивание вознаграждало математическую эквивалентность итогового ответа. Модель поддерживает английский и китайский языки; веса доступны в Safetensors, лицензия — Apache-2.0.

Qwen2-Math-7B-Instruct — специализированная языковая модель для математических задач, разработанная командой Qwen и построенная на базе Qwen2. Это инструктивная версия для диалогового использования, рассчитанная на решение арифметических и математических задач, включая задачи, требующие многошаговых рассуждений. Модель имеет плотную архитектуру Qwen2ForCausalLM и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 4096 токенов. На момент описания README модель в основном поддерживает английский язык. Для запуска рекомендован Transformers версии 4.40.0 или новее. Модель распространяется по лицензии Apache-2.0.

SeongryongJung/Qwen3-4B-Chemistry-SRPO-TR — экспериментальный чекпойнт Qwen3-4B, обученный методом SRPO-TR на наборе Chemistry с размером пакета 32. В репозитории находится лучший и одновременно финальный чекпойнт global_step_100, выбранный по валидационному показателю mean@16; для него указано значение 76,61%. Модель предназначена для генерации текста и решения задач по химии, в том числе для ответов на химические вопросы и рассуждений в этой области. Это плотная авторегрессионная языковая модель архитектуры Qwen3ForCausalLM примерно на 3,7 млрд параметров, с контекстом до 40 960 токенов; файлы представлены в формате safetensors и используются через Transformers. Базовая модель — Qwen/Qwen3-4B. Лицензия Apache-2.0. Результат mean@16 относится к указанной в карточке валидации и не гарантирует качество на других данных; подробности покрытия химических тем и поддерживаемых языков не приведены.

willamazon1/Qwen3-8B-SDFT-Math-LoRA-pristine — плотная авторегрессионная модель семейства Qwen3, созданная дообучением Qwen/Qwen3-8B-Base. Это слитый чекпойнт в формате bf16: веса LoRA встроены в базовые матрицы, поэтому отдельная загрузка адаптера PEFT не требуется. Модель содержит 7,6 млрд параметров по метаданным и поддерживает контекст до 32 768 токенов. Модель предназначена прежде всего для генерации текста с рассуждениями при решении математических задач. Дообучение включало SFT на примерах по математике, QA с поиском и диалогах с использованием инструментов, а затем GRPO-обучение на математических задачах с проверяемой наградой за ответ. Карточка отмечает интерфейс для чата и вызова инструментов. В опубликованной оценке этап RL не показал измеримого улучшения pass@1 на обучающей выборке; модель следует рассматривать как SFT-модель с небольшим, не ухудшающим результат RL-изменением. Ответы по математике могут быть неверными, поэтому их следует проверять; также наследуются смещения и ограничения знаний базовой модели. Лицензия — Apache-2.0.

QwQ-14B-Math-v0.1 — языковая модель на архитектуре Qwen2 с 14 млрд параметров, опубликованная qingy2024 и дообученная на основе qingy2024/QwQ-14B-Math-v0.0. Модель предназначена для генерации текста в диалоговом формате; математическая специализация следует из названия и базовой модели. В карточке указано обучение с Unsloth и библиотекой Hugging Face TRL, а в метаданных указан датасет qingy2024/QwQ-LongCoT-Verified-130K. Модель принимает текст и генерирует текст, поддерживает английский язык и имеет контекстное окно 131 072 токена. Опубликованные веса представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка содержит мало сведений о проверенных результатах и практических ограничениях; качество на конкретных математических задачах следует оценивать отдельно.

sk1729271/revision-assistant-citation-need — модель классификации текста на базе SciBERT, представленная в формате ONNX для использования с Transformers.js. Она предназначена для определения, нуждается ли фрагмент академического текста в цитировании. В метаданных указана архитектура BERT для классификации последовательностей и размер 137,1 млн параметров; в README указаны квантованные до int8 веса для браузерного запуска, порог классификации 0,55 и максимальная длина входа 96 токенов. README приводит результаты на тестовой выборке: precision 0,941, recall 0,822, F1 0,878 и ROC AUC 0,957; обучение проводилось на 48 000 примерах. Это делает модель пригодной для подсветки фрагментов, которым может требоваться ссылка, как помощника при редактировании научных текстов. Показатели относятся к указанной тестовой выборке и не гарантируют качество на других дисциплинах и типах текста. Лицензия в предоставленных данных не указана.

RLCR-lr1e-6-math-seed40 — дообученная языковая модель на базе Qwen/Qwen2.5-3B, подготовленная с помощью TRL. Она предназначена для генерации текста в диалоговом формате и может отвечать на вопросы; пример в карточке показывает обычный вопрос, а метаданные указывают на обучение с GRPO и математическую тематику. Модель использует архитектуру Qwen2.5 и содержит около 3,1 млрд параметров согласно описанию базовой модели. Репозиторий предоставляет веса в формате safetensors для библиотеки Transformers. Лицензия и поддерживаемые языки в предоставленных данных не указаны.

zephyr-beta-math-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, полученная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.1 и abhishek/zephyr-beta-math. Она предназначена для генерации ответов на инструкции и диалоговые запросы, с акцентом на математические задачи. Модель построена на архитектуре Mistral с 7,1 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Модель подходит для диалоговых математических задач и общего следования инструкциям. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

AceMath-72B-Instruct — языковая модель NVIDIA для решения математических задач. Она основана на архитектуре Qwen2 и содержит 71,5 млрд параметров; модель дообучена на базе Qwen2.5-Math-72B-Base в несколько этапов: сначала на общих инструкционных данных, затем на специализированных математических примерах. Модель предназначена для решения задач на английском языке с пошаговыми рассуждениями Chain-of-Thought. Её можно использовать в диалоговых интерфейсах, где требуется получить решение математической задачи. В README сообщается о высоких результатах на математических бенчмарках, однако модель рекомендуется именно для математики. Контекст составляет 4096 токенов. Модель принимает и генерирует текст. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

ghadeermobasher/BC5CDR-Chemical-Disease-balancedBioM-ELECTRA-Base-Discriminator — модель для токен-классификации, опубликованная пользователем ghadeermobasher на Hugging Face. Она основана на архитектуре BioELECTRA Base Discriminator и дообучена для извлечения упоминаний химических веществ и заболеваний в биомедицинских текстах набора BC5CDR, содержащего статьи PubMed с аннотациями химических и болезненных сущностей. Модель имеет около 135,4 млн параметров и поддерживает контекст до 512 токенов. Её назначение — биомедицинское распознавание именованных сущностей: выделение названий лекарств, соединений, химических веществ, заболеваний и связанных медицинских состояний в англоязычной научной литературе. Она предназначена для информационного извлечения и поиска по биомедицинским документам, а не для генерации текста, диагностики или извлечения отношений между сущностями. Сведения о лицензии модели в доступных источниках не установлены.

EMBO/bio-lm — предварительно обученная языковая модель RoBERTa base, разработанная на основе roberta-base и дополнительно обученная командой EMBO на задаче восстановления замаскированных токенов. Обучение проводилось на наборе BioLang: около 12 миллионов англоязычных научных текстовых примеров из аннотаций и подписей к рисункам в публикациях по биологии и наукам о жизни. Модель предназначена прежде всего для дальнейшей тонкой настройки под прикладные задачи, в частности классификацию токенов. В готовом виде она поддерживает заполнение пропусков в тексте; примеры использования следует запускать с токенизатором roberta-base. Архитектура — плотная RoBERTa с примерно 151,8 млн параметров и контекстом до 514 токенов. Доступны форматы PyTorch и Flax. Модель специализируется на англоязычном научном тексте о науках о жизни, что может быть полезно при адаптации для извлечения и разметки биомедицинских сущностей. Для конкретных прикладных задач её необходимо дообучить. Лицензия в предоставленных данных не указана.

CeLLaTe-ner-2class-tapt-pubmedbert-reinitllrd-tokenizer-adapted-combinedData-lr_3.215 — англоязычная BERT-модель Mardiyyah для классификации токенов. Это дообученная версия Mardiyyah/CeLLaTe-tapt-pubmedbert-tokenizer-adapted-wwmask-combinedData, дополнительно настроенная на наборе OTAR3088/CeLLaTe-ner-2class-iob_final. Модель содержит 138,2 млн параметров, работает с контекстом до 512 токенов и распространяется в формате safetensors. На оценочном наборе модель показала micro F1 0,7729, macro F1 0,7810 и точность 0,9839. Она предназначена для присвоения меток отдельным токенам в англоязычных биомедицинских текстах. Лицензия — Apache-2.0.

CeLLaTe-ner-2class-tapt-pubmedbert-tokenizer-adapted-combinedData — англоязычная BERT-модель для классификации токенов, разработанная Mardiyyah и дообученная на наборе OTAR3088/CeLLaTe-ner-2class-iob_final. Она предназначена для извлечения сущностей из текста с разметкой IOB; карточка указывает два класса, но не раскрывает их значения. Базовая модель была адаптирована на биомедицинских текстах для предсказания замаскированных токенов. Модель содержит 138,2 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт метки для токенов. На указанной оценочной выборке достигла micro F1 0,7541 и accuracy 0,9841. Распространяется по лицензии Apache-2.0.

Это 3,2-миллиардная языковая модель для генерации текста и математического рассуждения, разработанная logan7000 в рамках эксперимента CogRPO N3 Ring. Модель дообучена методом GRPO на базе meta-llama/Llama-3.2-3B-Instruct; данный репозиторий содержит её GGUF-квантизации, выполненные tinyopsec с использованием llama.cpp. Вариант groupB-llama32-end относится к ветке Llama-3.2, обученной на задачах MATH уровней 3–5. Модель предназначена прежде всего для решения математических задач и связанных сценариев генерации текста с применением локального инференса через llama.cpp, llama-cpp-python, LM Studio или Ollama. Она использует архитектуру LlamaForCausalLM, поддерживает контекст до 32 768 токенов и, согласно указанным данным, работает с английским языком. Доступны варианты точности от F16 до 2-битной квантизации; рекомендуемым вариантом по умолчанию назван Q4_K_M размером около 2 ГБ, а Q6_K описан как вариант почти без потерь качества. К сильным сторонам относятся специализация на математическом reasoning, возможность работы только на CPU и широкий выбор компромисса между качеством и требованиями к памяти. К ограничениям относятся небольшой размер по современным меркам, возможное снижение качества при агрессивной квантизации и отсутствие заявленной мультимодальности. Модель распространяется по лицензии llama3.2; дополнительные условия исходной базовой модели следует учитывать отдельно.

aisuko/distilroberta-pubmed-embeddings — англоязычная модель Sentence Transformers, дообученная разработчиком aisuko на базе sentence-transformers/all-distilroberta-v1 для преобразования предложений и абзацев в плотные векторы размерности 768. В основе — DistilRoBERTa с архитектурой RoBERTa; эмбеддинги формируются усреднением токенов, нормализуются и сравниваются по косинусному сходству. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстовых данных. В README приведена оценка cosine_accuracy 1.0 на TripletEvaluator для набора ai-pubmbed-validation, однако размер и состав выборки подробно не описаны, поэтому результат не гарантирует аналогичного качества на других данных. Обучение проводилось на 1 000 примерах с инструкциями, контекстом и негативным контекстом. Модель выдаёт текстовые эмбеддинги, а не готовые ответы. Она ориентирована на английский язык и медицинские тексты PubMed; характеристики качества на других языках и областях не приведены. Лицензия в предоставленных источниках не указана.

InternLM2-Math-Base-20B — базовая математическая языковая модель семейства InternLM2, разработанная командой InternLM. Модель продолжительно предварительно обучена на InternLM2-Base примерно на 100 млрд математических токенов, а семейство также включает версии, дообученные на двуязычных математических инструкциях. Этот репозиторий содержит базовый чекпойнт с архитектурой InternLM2ForCausalLM и 19,3 млрд параметров. Модель предназначена для генерации рассуждений и решений математических задач на китайском и английском языках. Семейство также ориентировано на доказательства, проверку решений, создание математических задач и генерацию простого кода Lean 3; базовая версия может требовать дополнительного промптинга или дообучения для таких сценариев. Контекст составляет 8192 токена. Весовые файлы представлены в формате safetensors. Известные ограничения включают пропуск вычислительных шагов, ошибки на некоторых китайских задачах с заполнением пропусков и английских задачах с выбором ответа, а также переключение языков. Возможности Lean ограничены отдельными типами задач, а качество не гарантируется. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензирования в карточке модели.

Llama3-8B-ScaleQuest — языковая модель для решения математических задач, представленная авторами проекта ScaleQuest. Она дообучена на синтетических математических данных, созданных методом генерации вопросов с нуля без исходных примеров. Модель основана на плотной архитектуре Llama с примерно 7,5 млрд параметров и использует библиотеку Transformers; принимает текст и генерирует текстовый ответ. Контекстное окно составляет 8192 токена. Модель предназначена для пошагового решения математических задач и ответов на вопросы по математике. В карточке приведены результаты на MATH и Olympiad Bench: 64,4 и 25,3 соответственно. Репозиторий содержит веса в формате safetensors, а лицензия — Apache-2.0. Английский язык указан в метаданных; карточка посвящена математическим задачам.