IV.6Научные исследования, математика и новые материалы

SuperCorrect-7B — языковая модель для генерации ответов и математических рассуждений, представленная авторами метода SuperCorrect из Пекинского университета, Skywork AI, Калифорнийского университета в Беркли и Стэнфордского университета. Это дообученная версия Qwen/Qwen2.5-Math-7B-Instruct с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров; модель распространяется в формате safetensors и рассчитана на контекст до 4096 токенов. Модель предназначена прежде всего для решения математических задач с пошаговым рассуждением и самокоррекцией. В методе SuperCorrect применяется двухэтапное дообучение и иерархический шаблон Buffer of Thought. В README заявлены результаты выше DeepSeekMath-7B и Qwen2.5-Math-7B на наборах MATH и GSM8K при оценке математического рассуждения без использования программных методов решения. Модель ориентирована на английские математические задачи; метаданные также указывают английский язык. Лицензия — Apache-2.0. Результаты в карточке относятся к указанным математическим бенчмаркам и сами по себе не подтверждают качество для других областей или языков.

ThinkLess-2B — дообученная модель Shaik1903 на базе Qwen3.5-2B, предназначенная для решения математических и научных задач с более короткими рассуждениями. Обучение включало SFT на коротких корректных решениях и короткий этап GRPO с вознаграждением за точность и длину ответа; в карточке также указано использование самодистилляции и учителя той же семьи размером 9 млрд параметров для сложных задач. Модель рассчитана на генерацию ответов и рассуждений на английском языке. В тестах GSM8K, MATH-500 и GPQA-Diamond она использовала меньше токенов, чем базовая модель, и показала более высокую точность; автор также сообщает о снижении числа незавершённых ответов. Для подачи обычно применяются Transformers, а ускоренный сценарий обслуживания с vLLM и MTP speculative decoding показан отдельно. Контекстный бюджет в описанных оценках составлял 81 920 токенов. Карточка сообщает о снижении точности на олимпиадных задачах относительно базовой модели и о чувствительности к 4-битной AWQ-квантизации; такая версия не опубликована. Обучение проводилось только на английских математических задачах, поэтому перенос на науку проверялся отдельно, а результаты основаны на одном запуске обучения. Лицензия — Apache-2.0.

Salvatore разработал BERT-модель для классификации токенов, дообученную на основе bert-base-cased. Она предназначена для распознавания сущностей и меток на уровне токенов; приведённые результаты оценки указывают на классы Proteinmutation, Snp и Dnamutation. Модель содержит 135,5 млн параметров, использует формат PyTorch и принимает последовательности длиной до 512 токенов. В README указаны метрики на оценочном наборе: F1 0,2398 и accuracy 0,9703; по классам F1 составляет 0,1309 для Proteinmutation, 0,1953 для Snp и 0,3778 для Dnamutation. Общие сведения о назначении датасета и ограничениях автор не приводит. Модель распространяется по лицензии Apache-2.0.

BioCLIP-2 — биологическая vision-language модель на архитектуре OpenCLIP ViT-L/14. Репозиторий eugenehp/bioclip-2 содержит staging-перераспределение upstream-чекпойнта для запуска через RLX. Модель предназначена для классификации изображений по заданным текстовым меткам без дообучения: пользователь передаёт фотографию и список категорий, а модель сопоставляет изображение с текстовыми описаниями. В репозитории доступны веса safetensors и версия GGUF F16, а также файлы токенизатора. Указана лицензия MIT. README рекомендует использовать поддерживаемый путь загрузки RLX и предупреждает, что файлы могут присутствовать по историческим причинам.

DeepSeekMath-7B-Instruct — языковая модель семейства DeepSeekMath от DeepSeek, основанная на плотной архитектуре Llama и содержащая 6,5 млрд параметров. Версия Instruct предназначена для диалогового взаимодействия и генерации текста; название модели указывает на математическую направленность, однако предоставленная карточка не описывает конкретные математические возможности или результаты. Модель принимает текст и генерирует текст. Указанная длина контекста — 4096 токенов. Репозиторий содержит веса PyTorch; лицензия обозначена как other, поэтому условия использования следует сверить с полной лицензией разработчика.

Jackrong/gpt-oss-120b-Distill-Llama3.1-8B-v2 — языковая модель, разработанная Soren на основе Llama 3.1 8B и дообученная для улучшения рассуждений. В README описаны дистилляция ответов более крупных моделей, supervised fine-tuning и последующее обучение с подкреплением GRPO. Модель насчитывает 7,5 млрд параметров, использует плотную архитектуру Llama и поддерживает контекст до 131 072 токенов. Модель предназначена прежде всего для диалогового решения математических задач и других запросов, требующих пошагового рассуждения. Она обучалась на смешанных китайских и английских данных и может выдавать подробный ход рассуждений в заданном формате. По описанию автора, среди сильных сторон — решение алгебраических текстовых задач; модель уступает ведущим специализированным системам рассуждения и не умеет вызывать внешние инструменты. Лицензия — Llama 3.1.

MAmmoTH-Coder-34B — языковая модель TIGER-Lab для решения математических задач, дообученная на наборе MathInstruct. Это плотная авторегрессионная модель семейства LLaMA с 33,5 млрд параметров, рассчитанная на генерацию текста; для запуска авторы рекомендуют библиотеку Transformers. Модель использует гибридные рассуждения: пошаговые объяснения (CoT) и программные решения (PoT), а контекст составляет 16 384 токена. Модель предназначена для решения широкого круга математических задач, в том числе в образовательных программах и системах персонального обучения. Она может формировать объяснение или представить ход решения как программу. Обучающий набор MathInstruct объединяет 13 наборов данных с математическими рассуждениями. В README отмечено, что качество зависит от сложности и формулировки задачи, а покрытие математических областей неполное. Карточка указывает лицензию MIT; авторы позиционируют модель для исследовательского использования.

MathT5-large — модель семейства T5 с 385,2 млн параметров, опубликованная пользователем jmeadows17 на Hugging Face. Она принимает текстовые математические запросы и генерирует вывод решения в виде уравнений, разделённых словом «and». Для запуска автор предлагает загрузить Python-модуль MathT5.py и вызвать inference; также опубликована облегчённая версия MathT5-base. Модель предназначена для генерации математических выводов по текстовым запросам. Это плотная encoder-decoder архитектура T5ForConditionalGeneration с контекстом 512 токенов и весами PyTorch. Лицензия — OpenRAIL. Карточка не раскрывает перечень поддерживаемых языков или подробные ограничения качества, поэтому применимость к конкретным темам математики и формулировкам следует проверять на примерах.

Карточка модели kevinpro/MetaMathOctopus-13B на Hugging Face совпадает с карточкой kevinpro/MetaMathOctopus-7B, поэтому описание составлено по ней. MetaMathOctopus-7B — генеративная языковая модель на базе архитектуры Llama, опубликованная пользователем kevinpro. По названию и приведённым в карточке бенчмаркам MSVAMP, MGSM и MNumGLUESub модель предназначена для решения математических задач, в том числе многоязычных. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст; длина контекста — 4096 токенов. В метаданных указаны языки как multilingual, но конкретные языки README не перечисляет. Репозиторий содержит веса в формате Safetensors, лицензия — Apache-2.0. Карточка приводит результаты сравнения с GPT-3.5-Turbo, MAmmoTH и WizardMath на математических наборах, однако доступный фрагмент не содержит результатов самой MetaMathOctopus-7B, поэтому по нему нельзя оценить её точность или сравнить качество с другими моделями. Модель можно рассматривать для экспериментального применения в генерации ответов и рассуждений по математическим задачам.

MetaReason-SFT — дообученная мультимодальная модель на базе Qwen/Qwen3-VL-8B-Instruct, опубликованная под идентификатором pH202411/MetaReason-SFT. Она принимает изображения вместе с текстовыми запросами и формирует текстовые ответы; карточка указывает дообучение на наборах MathVRTrain_multimodal_train, ZKPG_multimodal_train и MathCanvasInstruct_multimodal_train. Модель предназначена для диалоговой работы с визуальными задачами, в частности математическими задачами по изображениям и материалами, созданными на MathCanvas. В метаданных указаны архитектура Qwen3-VL, плотная модель и формат весов safetensors. README сообщает значение loss 0,2481 на оценочном наборе, но не описывает протокол оценки или подробные ограничения. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория и базовой модели перед применением.

MiMo-7B GDN Hybrid — stage3-1.6B-OPD — это экспериментальный чекпойнт arianraje, полученный с помощью on-policy distillation (OPD) на основе MiMo-7B-RL-0530 и промежуточной модели семейства MiMo GDN. Архитектура сочетает слои внимания Qwen2 и Gated DeltaNet в пропорции 1:4; модель содержит 7 млрд параметров и принимает текст, выдавая текст. Окно контекста — 65 536 токенов. Модель предназначена для математических рассуждений и решения задач, в частности для оценки ответов на AIME и MATH-500. В README приведены результаты на этих тестах, но отмечено, что выборка AIME мала и её показатели служат лишь индикатором тенденций. Модель может подойти для экспериментов с длинным контекстом и диалоговыми сценариями. Для загрузки требуется регистрация пользовательской архитектуры mimo_gdn из репозитория обучения, Transformers 4.57.x и flash-linear-attention 0.5.x. Модель распространяется по лицензии MIT.

Карточка модели kevinpro/MistralMathOctopus-7B на Hugging Face совпадает с карточкой kevinpro/MetaMathOctopus-7B, поэтому описание составлено по ней. MetaMathOctopus-7B — генеративная языковая модель на базе архитектуры Llama, опубликованная пользователем kevinpro. По названию и приведённым в карточке бенчмаркам MSVAMP, MGSM и MNumGLUESub модель предназначена для решения математических задач, в том числе многоязычных. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст; длина контекста — 4096 токенов. В метаданных указаны языки как multilingual, но конкретные языки README не перечисляет. Репозиторий содержит веса в формате Safetensors, лицензия — Apache-2.0. Карточка приводит результаты сравнения с GPT-3.5-Turbo, MAmmoTH и WizardMath на математических наборах, однако доступный фрагмент не содержит результатов самой MetaMathOctopus-7B, поэтому по нему нельзя оценить её точность или сравнить качество с другими моделями. Модель можно рассматривать для экспериментального применения в генерации ответов и рассуждений по математическим задачам.

Это экспериментальный чекпойнт Nemotron-3-Nano-4B, дообученный командой budget-internalization-iclr2027 на базе nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16 методом GRPO. Он предназначен для генерации ответов с пошаговым рассуждением при решении математических задач; при обучении использовался лимит генерации 2 048 токенов. Чекпойнт соответствует шагу обучения 300 и выпущен в рамках анонимной заявки на ICLR 2027. Модель построена на архитектуре Nemotron H и представлена в формате safetensors. Метаданные указывают 6,4 млрд параметров и нативный контекст 262 144 токена, однако обучающие ответы ограничивались бюджетом в 2 048 новых токенов. Модель рассчитана на текстовый диалог; для запуска в README приведён пример использования vLLM с trust-remote-code. Основной сценарий — решение математических задач с ответом в формате \boxed{}. Данных о точности на бенчмарках и подробных ограничениях нет. Лицензия указана как other, поэтому конкретные условия использования следует уточнить в материалах репозитория.

NextTerm-47M — компактная языковая модель от N8Programs для продолжения целочисленных последовательностей. Это плотный трансформер архитектуры Qwen3 с 47,2 млн параметров, обученный на 1,9 млрд токенов расширенных данных из On-Line Encyclopedia of Integer Sequences (OEIS). Модель принимает последовательность целых чисел, записанных через запятую, и генерирует следующие члены в том же формате. Максимальная длина контекста — 2048 токенов; обучение проводилось на последовательностях длиной до 1024. Модель предназначена для предсказания следующих элементов арифметических, полиномиальных и OEIS-подобных последовательностей. В карточке приведены результаты сравнительных оценок, в которых она превосходит более крупные универсальные модели на ряде задач продолжения последовательностей; это специализированная модель, а не универсальный чат-бот. Токенизатор разбивает цифры по отдельности, поэтому длинные числа расходуют больше контекста. Числа с ведущими нулями не входили в обучение, а обобщение на последовательности длиннее обучающих не проверено тщательно. Модель распространяется под лицензией CC BY-SA 4.0.

OpenMed-NER-OrganismDetect-SuperMedical-125M — модель OpenMed для распознавания упоминаний видов организмов в тексте. Это дообученная модель RoBERTa для классификации токенов; она помечает названия видов тегами B-SPECIES и I-SPECIES. По карточке, модель обучена на корпусе SPECIES800 и принимает токенизированный биомедицинский текст, выдавая BIO-разметку. Параметры: 151,8 млн; максимальный контекст — 514 токенов. Указан английский язык. Модель предназначена для извлечения названий организмов из биомедицинских статей, научной литературы и клинических текстов, а также для анализа упоминаний видов и таксономической разметки. В README приведены F1 0,77, точность 0,75 и полнота 0,79 на SPECIES800. Лицензия — Apache-2.0. Результаты из карточки не подтверждают заявленную пригодность для извлечения лекарств или выявления взаимодействий препаратов; модель распознаёт сущности видов.

OpenMed разработала OpenMed-NER-SpeciesDetect-BioMed-109M — модель для распознавания названий видов и организмов в биомедицинских текстах. Это дообученная модель семейства BERT с архитектурой BertForTokenClassification, содержащая 136,7 млн параметров. Она принимает токенизированный текст и возвращает BIO-разметку сущностей типов B-SPECIES и I-SPECIES. Контекст модели — до 512 токенов. Модель предназначена для извлечения упоминаний видов из научной литературы и других биомедицинских документов, в том числе для таксономического анализа и поиска организмов в корпусах текстов. В README указана обучающая выборка LINNAEUS и приведены показатели на этом датасете, включая F1 0,73 в одном разделе и 0,9539 в сравнительной таблице; эти результаты расходятся, поэтому их нельзя считать однозначной оценкой качества. Карточка также перечисляет сценарии вроде клинического майнинга, мониторинга нежелательных явлений и построения биомедицинских графов знаний, но целевая разметка модели ограничена сущностями видов. Модель рассчитана на англоязычный текст. Репозиторий содержит веса Safetensors и совместим с Transformers. Лицензия — Apache-2.0. Применимость к другим языкам и устойчивость за пределами данных LINNAEUS в карточке не подтверждены; длина контекста ограничена 512 токенами.

OpenMed-ZeroShot-NER-Organism-Base-220M — модель OpenMed для извлечения упоминаний видов организмов из научных и биомедицинских текстов. Она основана на архитектуре GLiNER и дообучена на SPECIES800 — корпусе из 800 аннотирoванных научных аннотаций. Модель поддерживает zero-shot распознавание: типы сущностей задаются при запросе, хотя в карточке отдельно указан тип SPECIES. Модель принимает текст и возвращает найденные сущности с метками. В SPECIES800 представлены научные и общеупотребительные названия видов; заявленная F1 на тестовом наборе — 0,77. Основные сценарии — разметка биологической литературы, таксономический поиск и биокурация. Лицензия Apache-2.0. Показатель F1 относится к SPECIES800 и сам по себе не гарантирует такую же точность на других корпусах; широкие заявления карточки о распознавании любых сущностей и клинических задачах не подтверждены приведёнными метриками.

menik1126/ovd-math-1-data-full-step300-historical — чекпойнт из коллекции OVD: исторический вариант эксперимента «1-data full», шаг 300. Репозиторий содержит веса для инференса и токенизатор; модель дообучена на базе Qwen/Qwen2.5-Math-1.5B и использует архитектуру Qwen2ForCausalLM с 1,5 млрд параметров. Модель предназначена для генерации текста, в том числе решений математических задач. Контекст — до 4096 токенов. Базовая Qwen2.5-Math-1.5B рассчитана на математические задачи на английском и китайском языках; README не уточняет языки и качество именно этого экспериментального чекпойнта. Данных о лицензии в предоставленных источниках нет.

Карточка модели menik1126/ovd-math-1-data-full-step600-historical на Hugging Face совпадает с карточкой menik1126/OVD-Math-1-data-FR-Step600-Historical, поэтому описание составлено по ней. menik1126/OVD-Math-1-data-FR-Step600-Historical — чекпойнт исторического эксперимента OVD, опубликованный вместе с весами для инференса и токенизатором. Это дообученная модель Qwen2.5-Math-1.5B с плотной архитектурой Qwen2 и 1,5 млрд параметров; репозиторий помечен как conversational и поддерживает генерацию текста. Модель предназначена для генерации ответов и решений математических задач. Контекст составляет 4096 токенов; указана библиотека Transformers и формат весов safetensors. README обозначает модель как исторический эксперимент с шагом 600 и вариантом «1-data full», поэтому результаты могут отражать промежуточную стадию обучения. Базовая модель описана как англо-китайская математическая модель; отдельные сведения о языках этого чекпойнта и условиях лицензии в предоставленных данных отсутствуют.

Карточка модели menik1126/ovd-math-1-data-hes-step600-historical на Hugging Face совпадает с карточкой menik1126/OVD-Math-1-data-HES-Step600-Historical, поэтому описание составлено по ней. menik1126/OVD-Math-1-data-HES-Step600-Historical — чекпойнт из коллекции OVD, разработанный для исторического эксперимента «1-data hes»; репозиторий содержит веса для инференса и токенизатор. Это дообученная модель Qwen2.5-Math-1.5B с архитектурой Qwen2ForCausalLM и 1,5 млрд параметров. Она предназначена для генерации текста, в том числе решений математических задач; базовая модель рассчитана на английский и китайский языки. Контекст составляет 4096 токенов. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

menik1126/OVD-Math-1-data-HES-Step600-Historical — чекпойнт из коллекции OVD, разработанный для исторического эксперимента «1-data hes»; репозиторий содержит веса для инференса и токенизатор. Это дообученная модель Qwen2.5-Math-1.5B с архитектурой Qwen2ForCausalLM и 1,5 млрд параметров. Она предназначена для генерации текста, в том числе решений математических задач; базовая модель рассчитана на английский и китайский языки. Контекст составляет 4096 токенов. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

P1-30B-A3B — языковая модель серии P1, разработанная для решения задач по физике и подготовки к физическим олимпиадам. Она построена на Qwen3-30B-A3B-Thinking-2507 и дообучена в несколько этапов с подкреплением на отобранных данных физических соревнований. Архитектура — Qwen3 MoE с генерацией текста; в репозитории доступны веса safetensors. Метаданные указывают 2,6 млрд параметров и контекст до 262 144 токенов. Модель предназначена для пошагового рассуждения над сложными задачами по физике. В карточке также заявлены результаты на математических, STEM- и кодовых бенчмарках: например, серебряный уровень на IPhO 2025 и улучшение относительно базовой модели на ряде тестов. Это результаты, приведённые авторами, и они не гарантируют аналогичную точность на произвольных задачах. Модель поддерживает английский и заявлена как многоязычная; конкретные языки, кроме английского, карточка не перечисляет. Лицензия — Apache-2.0.

QED-Nano — компактная языковая модель на 3,7 млрд параметров для построения математических доказательств, разработанная командой авторов из CMU, ETH Zurich, Numina и Hugging Face. Это плотный декодер Transformer семейства Qwen3, дообученный методом supervised fine-tuning и reinforcement learning на задачах математических олимпиад. В README указана базовая модель Qwen/Qwen3-4B-Thinking-2507, а метаданные связывают этот чекпойнт с lm-provers/QED-Nano-SFT; обучение проходило на FineProofs-RL из 5 227 задач.

Qwen2-Math-1.5B-Instruct — специализированная языковая модель для математики, разработанная командой Qwen как часть семейства Qwen2. Это диалоговая инструкция-ориентированная модель с плотной архитектурой Qwen2ForCausalLM и 1,5 млрд параметров; она принимает текст и генерирует текстовые ответы. Модель рассчитана на решение арифметических и математических задач, включая задачи, требующие многошаговых рассуждений. В карточке отмечена поддержка английского языка; на момент публикации китайская версия ещё готовилась. Контекст модели составляет 4096 токенов. Модель подходит для диалога с пользователем и для получения решений математических задач в формате инструкций. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. Карточка отмечает, что для работы с Transformers требуется версия не ниже 4.40.0. Количество параметров и контекст ограничивают сложность задач и объём текста, который можно обработать за один запрос.

Linyuana разработала эту плотную языковую модель на архитектуре Qwen3 для генерации текста и решения математических задач. Модель содержит 507,9 млн параметров и получена дообучением Qwen/Qwen3-0.6B-Base: сначала выполнена настройка SFT для холодного старта, затем обучение методом GRPO с проверяемым правиловым вознаграждением на наборах GSM8K и MATH. Она принимает текстовые вопросы и генерирует текстовые рассуждения с итоговым ответом внутри тега <answer>. Контекстное окно составляет 32 768 токенов. В описанной оценке модель показала pass@1 67,7% на GSM8K и 48,8% на MATH; эти результаты относятся к указанному протоколу тестирования и не гарантируют аналогичное качество на других задачах. Модель подходит для экспериментов с математическим рассуждением и решения арифметических и олимпиадных задач. Авторы отмечают ограничения точности по сравнению с более крупными моделями, низкую долю строго корректного закрытия тега ответа и отсутствие оценки на других бенчмарках. Лицензия — Apache-2.0.

Qwen3-4B AMQ3 Math Short-CoT SFT — языковая модель, разработанная jepetolee и дообученная методом supervised fine-tuning на математических решениях с короткой цепочкой рассуждений. Она предназначена для пошагового решения математических задач на английском языке и выдачи итогового ответа в формате \boxed{}; в обучающей выборке отфильтрованы вопросы с выбором ответа. Модель основана на плотной архитектуре Qwen3ForCausalLM, содержит 3,7 млрд параметров и поддерживает контекст до 32 768 токенов. Для запуска автор рекомендует официальный шаблон чата Qwen3 и температуру не выше 0,75. При более высокой температуре чаще ухудшается формат ответов, а на сложных запросах без ограничения длины рассуждения генерация может оборваться без итогового ответа. README также описывает процессоры логитов для разделения бюджета на рассуждение и ответ и остановки повторов. Модель обучена на данных, дистиллированных от Qwen3-235B-A22B, поэтому может наследовать её стиль и ограничения. Лицензия указана как other; конкретные условия следует сверить с лицензией репозитория.

Карточка модели microsoft/rho-math-7b-interpreter-v0.1 на Hugging Face совпадает с карточкой microsoft/rho-math-1b-v0.1, поэтому описание составлено по ней. Rho-Math-1B-v0.1 — базовая языковая модель Microsoft для математических рассуждений и генерации ответов. Она построена на архитектуре Llama с плотной моделью класса LlamaForCausalLM и содержит 1 млрд параметров. Модель предварительно обучена методом Selective Language Modeling (SLM), который сосредоточивает обучение на чистых и полезных токенах. В README приведены результаты few-shot оценки на GSM8K и MATH для семейства Rho-Math; отдельный показатель именно для этой версии составляет 15,6% на MATH. Модель предназначена для генерации текста при решении математических задач, в том числе с пошаговым рассуждением и примерами в запросе. Она работает с текстом на английском языке и имеет контекст длиной 2048 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

RLCR-llama32-3B-bigmathdigits5000 — дообученная модель Meta Llama 3.2 3B Instruct, созданная с применением RLCR (Reinforcement Learning with Calibration Rewards) на наборе Big-Math-digits. Она предназначена для генерации ответов и математических рассуждений с выраженной оценкой уверенности: обучение добавляет награду на основе Brier score за калибровку словесно выраженной уверенности наряду с наградой за правильность. Модель имеет плотную архитектуру LlamaForCausalLM, около 3,2 млрд параметров, принимает текст и выдаёт текст. Контекст составляет до 131 072 токенов; базовая модель мультиязычная, но описание обучения сосредоточено на математических задачах. В README приведены результаты на отложенной выборке: точность 0,287, ECE 0,185 и PCE 0,171; LoRA применялась к q_proj и v_proj с рангом 16, alpha 32 и dropout 0,05. Репозиторий содержит веса safetensors, библиотека — Transformers. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели и лицензией базовой модели.

Модель разработана Nathan Gelfand и Darya Shlyk при финансировании Larry Hunter. Это дообученный BioMedBERT с линейной классификационной головой: двоичный классификатор определяет, выражает ли предложение пробел в знаниях или незнание по заданной теме. Модель предназначена для анализа биомедицинских статей и поиска нерешённых вопросов и исследовательских направлений. Используется архитектура BERT для классификации последовательностей; размер модели — 136,7 млн параметров, контекст — до 512 токенов. Модель рассчитана на английский язык и распространяется по лицензии MIT. Классификатор обучен на 937 вручную размеченных предложениях из публикаций PubMed о моногенных эпилепсиях. При обучении были заморожены большинство слоёв базовой модели, чтобы снизить переобучение на небольшом наборе данных. Поэтому качество может быть выше на формулировках из этой области, а результаты зависят от использованных правил разметки; перед применением к другим темам модель следует оценить на соответствующих данных.

Shreyansh-STEM-1.5B-Base — базовая языковая модель с открытыми весами, созданная для задач STEM. Она построена на плотной авторегрессионной архитектуре OLMo-2 и содержит около 1,3 млрд параметров по метаданным. Модель предназначена для дообучения под специализированные задачи, а не для диалогового использования без дополнительной настройки. Заявленные области применения включают физику, математику, органическую химию, вычислительную биологию, информатику, а также логику аппаратуры и код на Verilog/VHDL. Модель генерирует текст и может служить основой для SFT, адаптации предметной области или дистилляции; заявленный контекст — 4096 токенов. Веса опубликованы в формате SafeTensors, лицензия — Apache 2.0. Чекпойнт не настроен на выполнение инструкций и не выровнен с помощью RLHF, поэтому для чата и ответов на вопросы потребуются подходящие промпты или последующее дообучение. Качество по отдельным STEM-задачам в предоставленных материалах не оценено.