IV.6Научные исследования, математика и новые материалы

SeongryongJung/qwen3-4b-physics-srpo-ema005 — контрольная точка языковой модели Qwen3-4B, дообученной методом SRPO на наборе задач по физике. В репозитории опубликован последний чекпойнт обучения global_step_100 в формате Transformers; базовая модель — Qwen/Qwen3-4B, архитектура — плотная авторегрессионная Qwen3ForCausalLM с 3,7 млрд параметров и контекстом до 40 960 токенов. Модель предназначена для генерации текста и решения задач по физике. В README приведён лучший результат проверки mean@16 — 72,66% на шаге 60, полученный при выборке из 16 ответов; это не результат опубликованного последнего чекпойнта, для которого итоговый mean@16 составил 68,52%. Использование предполагает Transformers. Модель распространяется по лицензии Apache-2.0.

SeongryongJung/Qwen3-4B-Physics-SRPO-TR — дообученная модель Qwen3-4B, полученная запуском SRPO-TR с размером обучающего батча 32. Она предназначена для генерации ответов и рассуждений по задачам физики. В репозитории выбран лучший по validation mean@16 чекпойнт на шаге 90; его результат на валидации составил 72,50%, у финального чекпойнта на шаге 100 — 70,94%. Модель содержит около 3,7 млрд параметров, использует плотную архитектуру Qwen3 и доступна в формате safetensors; максимальный контекст — 40 960 токенов. Модель загружается через Transformers как причинная языковая модель. Базовая модель Qwen3-4B поддерживает диалоги, рассуждения, генерацию кода и многоязычные задачи, однако README описывает специализированный запуск для физики и не уточняет языки обучения или оценки. Лицензия — Apache-2.0. Приведённый результат относится к валидации с метрикой mean@16; сведения о переносе качества на другие наборы задач не представлены.

Экспериментальный чекпойнт Qwen3-4B QuestA Non-MCQ E-step, созданный автором YYYYYYibo на основе Qwen/Qwen3-4B-Instruct-2507. Это плотная причинная языковая модель семейства Qwen3 с 3,7 млрд параметров в формате Transformers safetensors; метаданные указывают контекст до 262 144 токенов. Модель дообучали 50 шагов на 5 897 дедуплицированных задачах по математике без вариантов ответа из набора QuestA-OpenR1-Math-220k-Joined, используя сигнал PPO, штраф учителя и награду за правильность решения. Модель предназначена для генерации ответов и решений математических задач в диалоговом формате. В диагностике на 256 примерах из обучающего набора чекпойнт с доступом к решениям показал точность 78,91% (77,34%, если усечённые ответы считать ошибочными); это внутривыборочные результаты, не оценка обобщения. В README рекомендуется проверять модель на отложенном наборе. Модель принимает и выдаёт текст. Лицензия в предоставленных данных не указана.

Это промежуточный чекпойнт модели Qwen3-8B-Base, дообученный методом supervised fine-tuning на математических диалогах из набора OpenThoughts3 Math. Модель разработана автором репозитория seomh; в карточке указано, что это шаг 250 из запланированных 2000, веса представлены в bf16. Архитектура — плотная авторегрессионная Qwen3ForCausalLM примерно на 7,6 млрд параметров, контекст — до 32 768 токенов. Чекпойнт предназначен для генерации ответов с пошаговыми математическими рассуждениями и заключительным ответом в формате \boxed{}. Для обучения использованы 103 760 двухходовых диалогов; применяется обычный шаблон ChatML без встроенной логики режима размышления. Модель не оценивалась, поэтому качество и готовность к практическому использованию не подтверждены. Лицензия — Apache-2.0.

Reason_Medical_0.1_20b_16bit — экспериментальная дообученная языковая модель EpistemeAI для медицинских и научных рассуждений. Она основана на unsloth/gpt-oss-20b-unsloth-bnb-4bit и использует архитектуру gpt_oss с MoE и классом GptOssForCausalLM. Модель принимает текст и генерирует текст; заявленная длина контекста — 131072 токена. В метаданных указан размер 1,6 млрд параметров, язык карточки — английский. Модель предназначена для диалоговых сценариев, требующих медицинских или научных рассуждений. README характеризует её как эксперимент и указывает, что существует версия с более высоким результатом. Для биомедицинских, биологических, химических и лабораторных ответов требуется проверка специалистом; README исключает применение для разработки оружия и других опасных целей. Лицензия — Apache-2.0.

SapBERT-PubMedBERT — англоязычная биомедицинская модель семейства BERT, разработанная Liu и соавторами и дообученная на названиях сущностей из UMLS 2020AA. В качестве основы использована microsoft/BiomedNLP-PubMedBERT-base-uncased-abstract-fulltext; модель содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для получения векторных представлений названий биомедицинских сущностей. Для каждого входного названия используется эмбеддинг токена [CLS] последнего слоя. Такие векторы подходят для поиска семантически близких терминов и связывания упоминаний с сущностями медицинских словарей. Модель работает с текстом на английском языке и распространяется по лицензии Apache-2.0.

TxGemma-27B-Chat — разговорная языковая модель Google для исследований и разработки терапевтических средств. Она дообучена на Gemma 2 с помощью инструкционных наборов данных Therapeutics Data Commons и общих инструкционных данных; архитектура — трансформер с декодером. Модель принимает текстовые запросы и генерирует текстовые ответы, поддерживает диалог в несколько ходов и может объяснять прогнозы. Модель предназначена для предсказания свойств терапевтических средств и для задач поиска лекарств, включая выявление мишеней, прогноз взаимодействия лекарства с мишенью и оценку вероятности одобрения клинических испытаний. Она охватывает малые молекулы, белки, нуклеиновые кислоты, заболевания и клеточные линии. По карточке модели TxGemma показала сильные результаты в бенчмарке из 66 терапевтических задач; разговорный вариант может уступать предсказательному варианту в точности непосредственного прогнозирования. Для прикладного использования необходимо отдельно проверять модель на данных, соответствующих целевому сценарию. Обучение проводилось на общедоступных данных TDC, поэтому возможны ограничения при переносе результатов на другие выборки и условия. В карточке указаны условия Health AI Developer Foundations; лицензия в метаданных обозначена как other.

TxGemma-9B-Predict — языковая модель Google для исследований и разработки терапевтических средств. Она основана на Gemma 2 и представляет собой трансформер с архитектурой decoder-only, дообученный на инструкционных наборах Therapeutics Data Commons. Версия Predict рассчитана на структурированные запросы для прогнозирования свойств терапевтических соединений и выполнения других задач разработки лекарств. Модель принимает текстовые запросы, оформленные в формате TDC, и генерирует текстовый ответ с прогнозом. Её можно применять для оценки свойств малых молекул, белков и нуклеиновых кислот, анализа взаимодействий лекарств с мишенями, а также задач, связанных с заболеваниями, клеточными линиями и одобрением клинических испытаний. Это вариант объёмом 9 млрд параметров; карточка сообщает о проверке семейства TxGemma на 66 терапевтических задачах. Модель предназначена для исследовательских и опытно-разработческих сценариев, а не для принятия клинических решений без независимой проверки. Обучение основано на публичных данных TDC, поэтому качество необходимо отдельно оценивать на данных, подходящих для конкретной задачи и целевой популяции. Использование регулируется условиями Health AI Developer Foundations; в метаданных лицензия обозначена как other.

WELT-BioBERT-BC5CDRDisease — модель на архитектуре BERT, разработанная Ghadeer Mobasher и соавторами в рамках проекта WeLT. Она дообучена для token classification на задаче распознавания упоминаний заболеваний в биомедицинских текстах из набора BC5CDR-Disease с использованием cost-sensitive learning для работы с дисбалансом классов. Модель предназначена для biomedical named entity recognition, включая извлечение названий заболеваний из научных публикаций и последующую обработку таких сущностей в системах анализа литературы. Область применения подтверждается описанием WeLT и связью модели с датасетом BC5CDR-disease.

keremberke/yolov8s-blood-cell-detection — модель компьютерного зрения на базе YOLOv8s, опубликованная пользователем keremberke. Она предназначена для обнаружения клеток крови на изображениях и распознаёт три класса: тромбоциты, эритроциты и лейкоциты. Модель работает с библиотекой Ultralytics и представлена в формате PyTorch. Модель подходит для автоматического поиска и локализации клеток на микроскопических изображениях, например, при подготовке или предварительной разметке наборов изображений. Данных о лицензии и условиях использования в предоставленной карточке нет.

BiodivBERT — англоязычная доменная модель на базе BERT, разработанная для работы с научной литературой о биоразнообразии. Она предварительно обучена на аннотациях и полных текстах публикаций, собранных через API Elsevier и Springer за 1990–2020 годы, с использованием токенизатора BERT base cased. Модель содержит 135,5 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. В README указано дообучение для распознавания именованных сущностей и извлечения отношений в области биоразнообразия. Метаданные также указывают задачу заполнения пропусков в тексте, согласующуюся с архитектурой BertForMaskedLM; авторский pipeline_tag при этом задан как token-classification. Модель подходит для анализа научных текстов о биоразнообразии, включая извлечение сущностей и связей. Лицензия — Apache-2.0.

dima806/bird_sounds_classification — модель классификации аудио на архитектуре Wav2Vec2, дообученная на базе facebook/wav2vec2-base-960h. Она предназначена для распознавания классов звуков птиц по аудиозаписям. Модель содержит 113,3 млн параметров и распространяется в форматах PyTorch и Safetensors. Лицензия — Apache-2.0.

AmberYifan/capsd-qwen3-numina-Qwen3-4B-Base-math_ppl_b1000_s0 — дообученная модель генерации текста на базе Qwen/Qwen3-4B-Base. Согласно карточке, она обучена на наборе capsd_Qwen3-4B-Base-n80000-numina__mix_math_ppl_b1000_s0, связанном с математическими данными; вероятное применение — генерация ответов и решений по математическим запросам. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 3,7 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для текстового ввода и выдачи текста. Карточка не приводит результатов оценки качества или подробностей о методе обучения, поэтому пригодность для конкретных математических задач следует проверять отдельно. Указана лицензия other; конкретные условия использования нужно сверить с лицензией базовой модели и материалами репозитория.

AmberYifan/capsd-qwen3-numina-Qwen3-4B-Base-math_ppl_b2000_s0 — дообученная языковая модель на архитектуре Qwen3, разработанная на основе Qwen/Qwen3-4B-Base. По README, обучение проводилось на наборе capsd_Qwen3-4B-Base-n80000-numina__mix_math_ppl_b2000_s0; название набора указывает на математические данные, однако карточка не описывает конкретные навыки и результаты модели. Модель предназначена для генерации текста; каталог отмечает поддержку диалогового режима. Она содержит 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и принимает контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Карточка не приводит оценок качества, подробных ограничений или явно заявленных сценариев применения. Лицензия указана как other, без уточнения условий в предоставленных данных.

Cedar-GRPO-Qwen2.5-3B — полноразмерный чекпойнт Qwen/Qwen2.5-3B после 1000 шагов обучения GRPO из коллекции Cedar Math, созданной zbeeb. Модель предназначена для генерации текста в диалоге и решения математических задач; обучение проводилось на датасете Cedar GRPO DAPO Math из 17 005 примеров с вознаграждением за математическую эквивалентность итогового ответа. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров. В репозитории находятся веса Safetensors и токенизатор; исходная конфигурация контекста — 32 768 токенов, однако обучение и приведённые оценки использовали контекст 4 096 токенов. В карточке указаны английский и китайский языки. Разработчик описывает настройки обучения и процедуру проверки экспорта, но приведённый фрагмент оценок не содержит численных результатов. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в карточке модели.

CeLLaTe-ner-2class-bioformer16l-baseline — англоязычная модель распознавания сущностей в тексте, созданная дообучением bioformers/bioformer-16l на наборе OTAR3088/CeLLaTe_V3.2_contracted_ent_IOB. Это плотная BERT-модель с головой классификации токенов, содержащая 50,3 млн параметров; длина контекста — 1024 токена. Модель предназначена для разметки токенов и извлечения сущностей в текстах, соответствующих обучающему набору. В карточке приведены результаты на оценочной выборке: F1 0,7766, точность 0,8151, полнота 0,7415 и accuracy 0,9825. Лицензия — Apache-2.0.

CeLLaTe-ner-3class-bioformer16l-tapt-tokenizer-original-baseline — англоязычная BERT-модель для разметки токенов, разработанная дообучением Mardiyyah/CeLLaTe-tapt-bioformer16l-tokenizer-original-baseline на наборе OTAR3088/CeLLaTe-ner-3class-iob_final. Модель предсказывает метки для отдельных токенов; название и датасет указывают на распознавание сущностей с тремя классами в формате IOB. Модель содержит 50,3 млн параметров, использует архитектуру BertForTokenClassification и принимает контекст длиной до 1024 токенов. На оценочном наборе указаны micro F1 0,7696, precision 0,7839 и recall 0,7558. Распространяется под лицензией Apache-2.0.

DeltaP2S-Llama2-13B-DeltaP2S-MetaMath-S13 — объединённый чекпойнт, полученный в эксперименте Delta-P2S. В README указана обучающая база `./runs/metamath_llama_SameFormula-S13/init/delta_p2s` и каталог обучения `./runs/metamath_llama_SameFormula-S13/train/delta_p2s`; точный идентификатор исходной модели по этим путям установить нельзя. Модель построена на архитектуре Llama и содержит 12,9 млрд параметров. Она предназначена для генерации текста; название и сведения о каталоге указывают на математическую направленность MetaMath, поэтому вероятный сценарий — генерация решений и объяснений математических задач. Контекст составляет 4096 токенов, веса представлены в формате safetensors. Чекпойнт создан в рамках эксперимента Delta-P2S и опубликован пользователем g-assismoraes. Лицензия и сведения о конкретных языках в предоставленных источниках не указаны. README не содержит оценок качества или подробностей методики обучения.

Eklav-4B-Math-CotGen — дообученная языковая модель AdarshSingh7647 на базе Qwen/Qwen3-4B, предназначенная для математических рассуждений и генерации ответов. Это baseline для сравнения метода обучения Eklav: модель обучали продолжать частичный след рассуждений учителя и самостоятельно получать ответ; в этой версии применялось стандартное обучение на полных цепочках рассуждений (CoT SFT).

Eklav-9B-Math — плотная языковая модель для генерации текста и решения математических задач, разработанная автором репозитория AdarshSingh7647 методом Eklav, или hint conditioned SFT. Она дообучена на базе zai-org/GLM-Z1-9B-0414 и содержит 8,8 млрд параметров; архитектура GLM-4, библиотека Transformers, формат весов safetensors. Модель учится продолжать частичную цепочку рассуждений учителя и самостоятельно получать ответ, а не воспроизводить полную цепочку целиком. Контекст — до 32 768 токенов. Модель предназначена для математических рассуждений и генерации ответов в диалоговом формате. В README приведены результаты pass@1 на AIME, GSM8K, MATH-500, Omni-MATH и других тестах; в сравнении со стандартной дистилляцией полных цепочек рассуждений показатели отличаются в зависимости от бенчмарка. Лицензия в предоставленных данных не указана.

Jebadiah создал объединённую разговорную языковую модель на архитектуре Llama 3: веса aaditya/Llama3-OpenBioLLM-8B объединены с gradientai/Llama-3-8B-Instruct-Gradient-1048k методом DARE TIES с помощью mergekit. Модель содержит 7,5 млрд параметров и рассчитана на генерацию текста в диалоговом формате, включая запросы по биомедицинским темам. Модель использует формат safetensors и библиотеку Transformers. Для базовой модели Gradient заявлен контекст до 1 048 576 токенов. Карточка не описывает отдельные результаты оценки качества этой сборки. Лицензия в предоставленных данных не указана.

LeerooDedicated-Math-7b — специализированная на математике модель Leeroo на базе Mistral с плотной архитектурой и 7,1 млрд параметров. В README описан подход Orchestration of Experts: оркестратор оценивает, может ли базовая модель решить задачу, и передаёт генерацию базовой модели-эксперту, если задача ей по силам. Для более сложных вопросов модель выдаёт специальный токен, сигнализирующий о необходимости обратиться к GPT-4 или другой сильной LLM; для получения полного ответа можно подключить OpenAI API. Модель предназначена для генерации решений математических задач. В оценке GSM8K, приведённой в README, она достигла точности 84,77% в режиме 5-shot, используя GPT-4 примерно для половины вопросов; это результат сценария с привлечением внешней модели, а не автономной работы одного чекпойнта. Размер родительского контекстного окна — 32 768 токенов. Веса опубликованы в формате safetensors. README не сообщает лицензию, поэтому условия использования по доступным данным определить нельзя.

Light-R1-32B — плотная языковая модель на 32 млрд параметров, разработанная командой Qihoo 360 на базе Qwen2.5-32B-Instruct. Модель дообучена с помощью curriculum SFT и DPO на математических данных, чтобы генерировать развернутые рассуждения и решать сложные математические задачи. Для обучения использовались ответы DeepSeek-R1, отфильтрованные по проверяемости и сложности; итоговая версия также объединяет несколько вариантов модели после дообучения. Модель предназначена прежде всего для решения математических задач, включая задачи олимпиадного уровня. В карточке сообщается о результатах на AIME24 и AIME25; заявленная оценка AIME24 — 76,6. Архитектура — Qwen2 dense, формат весов — Safetensors, библиотека — Transformers; контекст составляет 42 768 токенов. Метаданные указывают поддержку диалога и интерфейса вызова инструментов. Лицензия — Apache-2.0. Способность к пошаговым рассуждениям обучалась только на математических данных, поэтому модель не всегда включает рассуждения и может хуже справляться с задачами за пределами этой области. Авторы также отмечают некоторое забывание знаний в общей научной области после математической специализации.

Light-R1-32B-DS — плотная языковая модель на архитектуре Qwen2, разработанная командой Qihoo 360 и дообученная на базе DeepSeek-R1-Distill-Qwen-32B. Авторы сообщают, что для дополнительного обучения использовали 3 тысячи примеров SFT; модель предназначена прежде всего для математических рассуждений и генерации текстовых решений.

albertge/llada-8b-dllm-registers-omi30k-t8 — контрольная точка проекта dLLM Registers на базе LLaDA-8B-Base от GSAI-ML. Это дообученная плотная диффузионная языковая модель на 8 млрд параметров для генерации текста; обучение было ориентировано на математические трассы из подмножества OpenMathInstruct-2 объёмом около 30 тысяч примеров. В модели используется 8-токенный хвост Markovian Thinking как канал переноса состояния между окнами денойзинга, размер чанка — 128 токенов. Модель предназначена для генерации и решения математических задач с использованием этого канала состояния при выводе. Карточка описывает исследовательский эксперимент по масштабированию числа слотов; для корректного использования требуются специальные параметры запуска: num_registers=0, channel_mode=tail и tail_length=8. Модель работает с текстом и рассчитана прежде всего на английский язык. Лицензия — Apache-2.0.

liuhaotian/LLaVA-13b-delta-v0-science_qa — дельта-веса LLaVA, разработанной как открытый мультимодальный чат-бот; эта версия дообучена на наборе ScienceQA. Модель основана на авторегрессионном трансформере семейства LLaMA и содержит 12,9 млрд параметров. Для получения рабочих весов дельту необходимо применить поверх исходных весов LLaMA; сама по себе она не запускается. Модель предназначена для исследовательской работы с мультимодальными чат-ботами и визуальными вопросами-ответами. Она принимает изображения и текстовые инструкции и генерирует текстовые ответы, в частности для научных вопросов и рассуждений по изображению. В обучении использовались 595 тыс. пар изображение–текст из CC3M и ScienceQA. Лицензия — Apache 2.0. README не сообщает о поддерживаемых естественных языках или длине контекста.

Это совместимый с Hugging Face чекпойнт llava-med-v1.5-mistral-7b-hf, конвертированный из медицинской визуально-языковой модели Microsoft LLaVA-Med v1.5 на базе Mistral 7B. Он предназначен для ответов на вопросы по биомедицинским изображениям, например для исследовательского анализа медицинских снимков и биологических изображений. Архитектура — плотная LLaVA с генерацией текста по визуальному и текстовому вводу; README отмечает расширение словаря на два токена, при этом слои внимания не менялись. Модель поддерживает английский язык и распространяется в формате safetensors по лицензии Apache-2.0. Ответы модели могут быть неточными; выводы по медицинским изображениям требуют проверки специалистом.

Карточка модели TIGER-Lab/MAmmoTH-13B на Hugging Face совпадает с карточкой TIGER-Lab/MAmmoTH-Coder-34B, поэтому описание составлено по ней. MAmmoTH-Coder-34B — языковая модель TIGER-Lab для решения математических задач, дообученная на наборе MathInstruct. Это плотная авторегрессионная модель семейства LLaMA с 33,5 млрд параметров, рассчитанная на генерацию текста; для запуска авторы рекомендуют библиотеку Transformers. Модель использует гибридные рассуждения: пошаговые объяснения (CoT) и программные решения (PoT), а контекст составляет 16 384 токена. Модель предназначена для решения широкого круга математических задач, в том числе в образовательных программах и системах персонального обучения. Она может формировать объяснение или представить ход решения как программу. Обучающий набор MathInstruct объединяет 13 наборов данных с математическими рассуждениями. В README отмечено, что качество зависит от сложности и формулировки задачи, а покрытие математических областей неполное. Карточка указывает лицензию MIT; авторы позиционируют модель для исследовательского использования.

Карточка модели TIGER-Lab/MAmmoTH-70B на Hugging Face совпадает с карточкой TIGER-Lab/MAmmoTH-Coder-34B, поэтому описание составлено по ней. MAmmoTH-Coder-34B — языковая модель TIGER-Lab для решения математических задач, дообученная на наборе MathInstruct. Это плотная авторегрессионная модель семейства LLaMA с 33,5 млрд параметров, рассчитанная на генерацию текста; для запуска авторы рекомендуют библиотеку Transformers. Модель использует гибридные рассуждения: пошаговые объяснения (CoT) и программные решения (PoT), а контекст составляет 16 384 токена. Модель предназначена для решения широкого круга математических задач, в том числе в образовательных программах и системах персонального обучения. Она может формировать объяснение или представить ход решения как программу. Обучающий набор MathInstruct объединяет 13 наборов данных с математическими рассуждениями. В README отмечено, что качество зависит от сложности и формулировки задачи, а покрытие математических областей неполное. Карточка указывает лицензию MIT; авторы позиционируют модель для исследовательского использования.

Карточка модели TIGER-Lab/MAmmoTH-Coder-13B на Hugging Face совпадает с карточкой TIGER-Lab/MAmmoTH-Coder-34B, поэтому описание составлено по ней. MAmmoTH-Coder-34B — языковая модель TIGER-Lab для решения математических задач, дообученная на наборе MathInstruct. Это плотная авторегрессионная модель семейства LLaMA с 33,5 млрд параметров, рассчитанная на генерацию текста; для запуска авторы рекомендуют библиотеку Transformers. Модель использует гибридные рассуждения: пошаговые объяснения (CoT) и программные решения (PoT), а контекст составляет 16 384 токена. Модель предназначена для решения широкого круга математических задач, в том числе в образовательных программах и системах персонального обучения. Она может формировать объяснение или представить ход решения как программу. Обучающий набор MathInstruct объединяет 13 наборов данных с математическими рассуждениями. В README отмечено, что качество зависит от сложности и формулировки задачи, а покрытие математических областей неполное. Карточка указывает лицензию MIT; авторы позиционируют модель для исследовательского использования.