IV.6Научные исследования, математика и новые материалы

INDUS-Small nasa-smd-ibm-distil-v0.1 — разработанная IBM Research и NASA SMD компактная RoBERTa-модель типа encoder-only, полученная дистилляцией INDUS (nasa-impact/nasa-smd-ibm-v0.1). Модель с примерно 33,5 млн параметров использует четыре слоя и обучена по задаче masked language modeling; максимальная длина контекста — 514 токенов. Модель адаптирована к научным текстам, связанным с направлениями NASA SMD, включая публикации по наукам о Земле, климату, астрономии и биологии. Она предназначена для извлечения информации, интеллектуального поиска, распознавания именованных сущностей и извлечения ответов из научных документов; также может служить основой для sentence embeddings. Дистилляция ориентирована на компромисс между качеством, размером и задержкой. Это экспериментальная модель, выпущенная для обучения и оценки encoder-языковых моделей INDUS. Карточка не приводит конкретных показателей качества; результаты для отдельных задач могут требовать дополнительной настройки. Лицензия — Apache-2.0.

Sci-BETO-large — испаноязычный энкодер RoBERTa, разработанный Flaglab и предварительно обученный с нуля на научных текстах. Модель содержит 454,1 млн параметров по метаданным Hugging Face; README указывает 355 млн. Использует токенизацию byte-level BPE и обучалась на корпусе более чем из 11 млрд токенов, включающем научные публикации, диссертации и другие академические материалы. Контекст модели составляет 514 токенов. Модель предназначена для научного NLP на испанском языке. Её можно дообучать для классификации текстов, распознавания именованных сущностей, поиска семантического сходства, выявления перефразирований и извлечения знаний из академических документов. Основная задача опубликованного чекпойнта — восстановление замаскированных токенов; README приводит результаты на общих и специализированных испанских наборах данных, включая PharmaCoNER. Модель ориентирована на академический регистр и латиноамериканские варианты испанского, поэтому может хуже работать с неформальной речью. Она не предназначена для генерации текста и не обучалась на английских или двуязычных данных. Распространяется по лицензии Apache-2.0.

EMBO ModernBERT-neg-sampling-PubMed — англоязычная модель Sentence Transformers, дообученная EMBO на базе answerdotai/ModernBERT-base на парных заголовках и аннотациях статей из PubMed Central. Она кодирует предложения и абзацы в нормализованные плотные векторы размерностью 768 и предназначена для семантического поиска и сравнения текстов, а также кластеризации и поиска перефразировок. Обучение выполнено с MultipleNegativesRankingLoss на наборе из примерно 26,2 млн пар; архитектура включает ModernBERT, mean pooling и нормализацию. В метаданных указан контекст до 8192 токенов, тогда как карточка модели задаёт максимальную длину последовательности 768 токенов для Sentence Transformers. Модель подходит для поиска и сопоставления англоязычных научных медицинских публикаций и может использоваться для построения эмбеддингов в системах поиска. Лицензия в предоставленных данных не указана.

NVIDIA OpenMath-CodeLlama-70b-Python-hf — плотная авторегрессионная модель семейства Llama, дообученная на базе codellama/CodeLlama-70b-Python-hf для решения математических задач с помощью текстовых рассуждений и фрагментов кода, выполняемых в Python. Модель содержит 68,7 млрд параметров и имеет контекст 2048 токенов. Модель предназначена для генерации решений математических задач, где полезно сочетать объяснение на естественном языке с вычислениями на Python. Она обучена на OpenMathInstruct-1 — наборе из 1,8 млн пар «задача—решение». Карточка также описывает открытый конвейер NVIDIA NeMo для обучения, инференса и воспроизведения результатов. Поддерживаемый язык карточки — английский. Репозиторий распространяется в формате safetensors по лицензии Llama 2. Фактическое выполнение сгенерированного кода требует отдельной среды Python; качество ответов и корректность вычислений могут зависеть от формулировки задачи и не гарантируются.

fhswf разработала TrOCR_Math_handwritten — трансформерную модель распознавания рукописных математических формул на изображениях. Это модель типа Vision Encoder-Decoder на базе TrOCR, дообученная на части набора MathWriting, преобразованной из InkML в изображения. Для использования указана библиотека Transformers, веса представлены в формате safetensors; лицензия — AFL-3.0. Модель предназначена для OCR одной математической формулы на изображении: она преобразует изображение с формулой в текстовое представление. В карточке приведены результаты распознавания: 77,8% полностью корректных ответов, 85,7% с не более чем одной ошибкой и 89,9% с не более чем двумя ошибками. Эти показатели относятся к оценке, описанной в карточке.

Vero-Qwen35-9B — мультимодальная модель семейства Vero от Z Lab при Принстонском университете, дообученная на базе Qwen/Qwen3.5-9B с применением обучения с подкреплением. Она предназначена для диалогового визуального рассуждения: анализа изображений и диаграмм, задач по STEM, пространственного анализа, распознавания объектов и знаний, локализации, подсчёта, подписей к изображениям и следования инструкциям. Модель принимает текст и изображения и генерирует текстовые ответы. Семейство Vero обучалось для широкого переноса навыков визуального рассуждения; авторы сообщают о сильных результатах на наборе VeroEval и открыли обучающий код, данные и оценивание. Для Vero-Qwen35-9B указаны архитектура Qwen3.5, 9 млрд параметров и библиотека Transformers. Модель распространяется по лицензии Apache-2.0. README не приводит отдельные результаты или ограничения именно этой версии; качество на конкретных задачах следует проверять на собственных данных.

BigBirdPegasus large — англоязычная модель семейства BigBird-Pegasus с разреженным блочным механизмом внимания. Она предназначена для суммаризации научных статей и других длинных документов. Модель содержит 366,8 млн параметров, принимает текстовые последовательности длиной до 4096 токенов и выдаёт текстовое резюме. В репозитории представлены веса PyTorch; модель доступна по лицензии Apache 2.0. Разреженное внимание позволяет обрабатывать длинные последовательности с меньшими вычислительными затратами по сравнению с обычным полным вниманием. Модель ориентирована на английские научные тексты; среди подходящих сценариев — подготовка краткого обзора статьи и извлечение её основных выводов. Карточка не приводит отдельных количественных оценок качества, поэтому результаты на конкретных типах документов могут различаться.

BioBERT-NLI — модель на базе BioBERT, разработанная gsarti и дообученная на наборах SNLI и MultiNLI с помощью библиотеки sentence-transformers для получения эмбеддингов предложений. Она использует архитектуру BERT с исходным словарём WordPiece, усреднением скрытых состояний и обучением с softmax loss. Размер модели — 135,5 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для представления биомедицинских текстов в виде векторов, пригодных для сравнения семантической близости и поиска научных публикаций. В README приведён пример поиска статей о COVID-19; оценка на тестовой части STS составила 73,40 по корреляции Спирмена. Доступны веса PyTorch и Flax. Лицензия в предоставленных данных не указана.

KucLab Hertz 0.7F — чешско-английский помощник по естественным наукам, математике и программированию, созданный KucLab на базе Qwen/Qwen3.5-9B. Модель дообучена методом QLoRA с рангом 16; адаптер объединён с базовыми весами. Данные для дообучения дистиллированы из ответов 30-миллиардной модели-учителя. Доступны веса safetensors и квантованный GGUF Q4_K_M; для GGUF указано около 5,3 ГБ. В конфигурации Ollama заявлен контекст 32 768 токенов. Модель предназначена для диалога и ответов на вопросы по математике, физике, химии, биологии, чешской и английской научной терминологии, а также для задач программирования. В описанных разработчиком проверках она показала 83,3% на собственной выборке MMLU-Pro STEM и 85,4% на тесте чешско-английских научных терминов; также приведён результат 87,8% на GSM8K при строгом сопоставлении. Это результаты конкретных тестов разработчика, а не гарантия качества в иных сценариях. Известное ограничение — сравнительно слабое покрытие биологии в обучающих данных: на тесте по биологии результат ниже, чем у предыдущей модели Hertz 0.6. Модель не дообучалась для вызова инструментов. Лицензия — Apache 2.0.

PyThagorean-10B — текстовая авторегрессионная модель на архитектуре Llama, разработанная prithivMLmods и дообученная на 1,5 млн примеров. Модель содержит 9,9 млрд параметров, работает с контекстом до 32 768 токенов и предназначена прежде всего для решения математических задач с помощью Python-кода и библиотек, а также для генерации кода, пошаговых объяснений и инструкционного диалога. Модель подходит для учебных помощников по алгебре, математическому анализу и тригонометрии, создания вычислительных скриптов, объяснения решений и подготовки учебных материалов. В карточке заявлены многоязычные диалоги, поиск и суммаризация знаний; метаданные указывают английский язык. Модель принимает текст и генерирует текст, включая код. Лицензия — Llama 3.1.

Pankajrajdeo разработал Bioformer-8L-UMLS-Pubmed_PMC-Backward_TCE-Epoch-1 — модель Sentence Transformer на архитектуре BERT для получения векторных представлений медицинских текстов. Она кодирует предложения и абзацы в плотные векторы размерностью 512 и предназначена для поиска семантически близких текстов, оценки сходства предложений, поиска перефразировок, классификации и кластеризации. Для сравнения векторов используется косинусное сходство. Модель содержит 50,3 млн параметров, принимает текстовые последовательности длиной до 512 токенов и формирует эмбеддинги с усреднением токенных представлений. Обучение указано на наборе parquet с парами anchor и positive; примеры в README относятся к биомедицинским публикациям. Лицензия в предоставленных данных не указана.

GLiNER-BioMed Large v1.0 — англоязычная модель для распознавания биомедицинских именованных сущностей, созданная в сотрудничестве с DS4DH Женевского университета на основе фреймворка GLiNER. Она использует двунаправленный трансформерный энкодер и позволяет извлекать сущности заданных пользователем типов, включая сценарии zero-shot и few-shot, без отдельной модели для каждого набора меток. Модель предназначена для извлечения биомедицинской информации из текстов и рассчитана на более эффективное применение, чем крупные языковые модели в подобных задачах. Она дообучена на Microsoft DeBERTa-v3-large, использует библиотеку GLiNER и распространяется в формате PyTorch. Лицензия — Apache-2.0. В README сообщается о сравнении моделей семейства на восьми реальных наборах данных и о высоких результатах zero-shot и few-shot распознавания; конкретные метрики этой версии в доступной карточке не приведены. Модель ориентирована на английский язык и биомедицинскую область. Ограничения контекста и подробные сведения о размере модели в предоставленных данных отсутствуют.

Карточка модели MathGenie/MathCoder2-DeepSeekMath-7B на Hugging Face совпадает с карточкой MathGenie/MathCoder2-Llama-3-8B, поэтому описание составлено по ней. MathCoder2-Llama-3-8B — языковая модель MathGenie для генерации текста с упором на математические рассуждения и код. Она создана продолжением предобучения Meta-Llama-3-8B на наборе MathCode-Pile, содержащем математический код и сопровождающие его рассуждения на естественном языке. Модель с плотной архитектурой Llama насчитывает 7,5 млрд параметров, принимает текст и рассчитана на контекст до 8192 токенов. Она предназначена для решения математических задач, объяснения хода рассуждений и работы с математическим кодом на английском языке. В карточке указана лицензия Apache-2.0. Специализация на математике не гарантирует правильность вычислений или сгенерированного кода.

MedCPT-Cross-Encoder — модель ранжирования текстовых пар, опубликованная Computational Biology Branch подразделения NCBI/NLM. Она оценивает релевантность статей заданному запросу: на вход подаются запрос и кандидатные тексты, а на выходе — оценки, по которым их можно упорядочить; более высокий балл означает большую релевантность. Модель построена на архитектуре BERT с классификационной головой, содержит 136,7 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель предназначена для поиска и ранжирования научных статей, в частности биомедицинских материалов. Она выдаёт оценки релевантности, а не медицинские рекомендации или диагнозы. Лицензия указана как other; конкретные условия использования следует уточнить в материалах репозитория. Разработчик предупреждает, что результаты не предназначены для самостоятельного клинического или медицинского принятия решений без проверки специалистом.

nexus-science-GGUF — это GGUF-квантизированная версия модели NEXUS-Science, разработанной в экосистеме FableForge; репозиторий модели размещён пользователем King3Djbl. Модель предназначена для научного рассуждения, работы с исследовательскими задачами и ответов на вопросы по различным научным дисциплинам. Она также поддерживает общие диалоги, рассуждение и использование инструментов, а заявленная настройка без отказов ориентирована на более свободную генерацию ответов. Модель имеет размер 1,5 млрд параметров, поддерживает текстовую генерацию на английском языке и использует формат ChatML. Доступны варианты от F16 до низкобитных квантов GGUF, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS; размер файлов составляет примерно от 0,51 до 3,09 ГБ. В заявленном тестировании модель получила 140 из 150 баллов (93%), включая высокие результаты в научных знаниях и рассуждении, однако эти оценки основаны на внутренней проверке разработчика и не заменяют независимое тестирование. Длина контекста и точная архитектура в README не указаны. Модель удобна для локального запуска через llama.cpp, Ollama и LM Studio и предлагает компромисс между компактностью и качеством благодаря множеству вариантов квантования. Ограничениями являются небольшой размер по современным меркам, отсутствие заявленной мультимодальности и неизвестная длина контекста; качество также зависит от выбранного кванта. Лицензия — Apache-2.0.

Карточка модели menadsa/S-Bio_ClinicalBERT на Hugging Face совпадает с карточкой menadsa/S-PubMedBERT, поэтому описание составлено по ней. menadsa/S-PubMedBERT — модель Sentence-Transformers на архитектуре BERT, предназначенная для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для семантического поиска и кластеризации текстов; README также описывает обучение с MultipleNegativesRankingLoss и косинусной мерой сходства на данных PubMed. Модель содержит 136,7 млн параметров, принимает текст и формирует векторные представления. Контекст ограничен 512 токенами. Для работы подходят Sentence-Transformers и Transformers с корректной операцией pooling. Карточка не сообщает лицензию и точные языковые характеристики, поэтому их нельзя установить по доступным данным.

Hiro-Chemical-Insights — мультимодальная модель PatSnap для установления связей между изображениями химических структур и их текстовыми упоминаниями в патентных документах. Она принимает изображение страницы патента с выделенной химической структурой и возвращает связанное с ней название или названия, а также тип структуры: конкретное соединение, заместитель, структура Markush или их сочетание. Модель основана на архитектуре Qwen3-VL и поддерживает диалоговый ввод с изображениями; README рекомендует запускать её с актуальными Transformers и совместимыми с Qwen-VL средствами обработки изображений в GPU-среде. В описанной в README оценке модель показала All Pass@1 91,92 и All Pass@all 88,38, превзойдя приведённый результат Gemini-2.5-Pro на этой задаче. Модель предназначена для исследований и извлечения сведений из патентов, но не для самостоятельных химических, медицинских, юридических или регуляторных решений. Распространяется по лицензии Apache-2.0.

Карточка модели MathGenie/MathCoder2-CodeLlama-7B на Hugging Face совпадает с карточкой MathGenie/MathCoder2-Llama-3-8B, поэтому описание составлено по ней. MathCoder2-Llama-3-8B — языковая модель MathGenie для генерации текста с упором на математические рассуждения и код. Она создана продолжением предобучения Meta-Llama-3-8B на наборе MathCode-Pile, содержащем математический код и сопровождающие его рассуждения на естественном языке. Модель с плотной архитектурой Llama насчитывает 7,5 млрд параметров, принимает текст и рассчитана на контекст до 8192 токенов. Она предназначена для решения математических задач, объяснения хода рассуждений и работы с математическим кодом на английском языке. В карточке указана лицензия Apache-2.0. Специализация на математике не гарантирует правильность вычислений или сгенерированного кода.

MathCoder2-Llama-3-8B — языковая модель MathGenie для генерации текста с упором на математические рассуждения и код. Она создана продолжением предобучения Meta-Llama-3-8B на наборе MathCode-Pile, содержащем математический код и сопровождающие его рассуждения на естественном языке. Модель с плотной архитектурой Llama насчитывает 7,5 млрд параметров, принимает текст и рассчитана на контекст до 8192 токенов. Она предназначена для решения математических задач, объяснения хода рассуждений и работы с математическим кодом на английском языке. В карточке указана лицензия Apache-2.0. Специализация на математике не гарантирует правильность вычислений или сгенерированного кода.

Карточка модели MathGenie/MathCoder2-Mistral-7B на Hugging Face совпадает с карточкой MathGenie/MathCoder2-Llama-3-8B, поэтому описание составлено по ней. MathCoder2-Llama-3-8B — языковая модель MathGenie для генерации текста с упором на математические рассуждения и код. Она создана продолжением предобучения Meta-Llama-3-8B на наборе MathCode-Pile, содержащем математический код и сопровождающие его рассуждения на естественном языке. Модель с плотной архитектурой Llama насчитывает 7,5 млрд параметров, принимает текст и рассчитана на контекст до 8192 токенов. Она предназначена для решения математических задач, объяснения хода рассуждений и работы с математическим кодом на английском языке. В карточке указана лицензия Apache-2.0. Специализация на математике не гарантирует правильность вычислений или сгенерированного кода.

INDUS-Retriever-small — компактная модель bi-encoder на базе Sentence Transformers, разработанная NASA Science Mission Directorate и IBM Research для поиска и сопоставления научных текстов. В README она также названа nasa-smd-ibm-st.38m; модель дообучена на дистиллированном энкодере nasa-smd-ibm-v0.1. Модель независимо кодирует два текста в векторы, а их сходство оценивается по косинусному расстоянию. Она содержит 39,6 млн параметров и рассчитана на контекст до 514 токенов. Обучение включало 362 млн примеров и 2,6 млн пар заголовков и аннотаций из документов NASA SMD; основной язык карточки — английский. Модель предназначена для семантического поиска, информационного поиска и сравнения предложений, особенно в научных сценариях, связанных с материалами NASA SMD. Это экспериментальная версия; результаты для других предметных областей могут отличаться. Лицензия — Apache-2.0.

Indus-Retriever — модель двунаправленного кодировщика на базе Sentence Transformers, разработанная IBM Research совместно с NASA Science Mission Directorate. Она дообучена на основе nasa-smd-ibm-v0.1 и предназначена для поиска информации и оценки сходства предложений, особенно в научных материалах NASA SMD. Модель независимо кодирует два текста и сравнивает их векторные представления по косинусному сходству. Она обучалась на 271 млн примеров и дополнительно на 2,6 млн пар заголовков и аннотаций из документов NASA SMD. В репозитории указаны архитектура RoBERTa, 151,8 млн параметров и контекст до 514 токенов; поддерживается английский язык. Модель подходит для семантического поиска, ранжирования результатов по релевантности и поиска похожих предложений в научных коллекциях. Авторы отмечают, что модель находится в экспериментальной фазе, поэтому качество для конкретных коллекций и сценариев следует оценивать отдельно. Лицензия — Apache-2.0.

PubMedBERT Embeddings 1M — англоязычная модель статических плотных эмбеддингов для медицинских текстов, опубликованная NeuML. Это версия с сокращённым словарём: из PubMedBERT Embeddings 2M оставлена верхняя половина наиболее часто используемых токенов. Модель относится к семейству Model2Vec и может использоваться с txtai, Sentence-Transformers и Model2Vec. Модель предназначена для построения векторных индексов, семантического поиска и извлечения релевантных материалов для RAG по медицинским публикациям и другим текстам на английском языке. В README приведены результаты сравнения на наборах PubMed QA, PubMed Subset и PubMed Summary; авторы указывают на небольшой компромисс в качестве относительно исходной модели. Контекстная длина в метаданных каталога — до 1 000 000 токенов. Модель принимает текст и выдаёт векторные представления, применимые для сравнения сходства, поиска и кластеризации. Она ориентирована на медицинский текст и не предназначена для генерации ответов: качество результатов поиска зависит от корпуса, индексации и выбранного порога сходства. Лицензия — Apache-2.0.

NeuML подготовила PubMedBERT Embeddings Matryoshka — модель эмбеддингов на архитектуре BERT для сравнения сходства предложений и семантического поиска по биомедицинским текстам. Модель содержит 136,7 млн параметров, принимает текст и поддерживает контекст до 512 токенов; основной язык — английский. Обучение с Matryoshka Representation Learning позволяет получать эмбеддинги размером 64, 128, 256, 384, 512 или 768 измерений. Меньшие размерности экономят место при хранении векторной базе, но, согласно README, не уменьшают вычислительные затраты. Модель подходит для семантического поиска, построения источников для RAG и сопоставления вопросов, статей, аннотаций и других биомедицинских текстов. В приведённой оценке на наборах PubMed она сохраняет конкурентное качество при сокращённых размерностях. Модель распространяется по лицензии Apache-2.0. Контекст ограничен 512 токенами; область оценки в README ограничена несколькими биомедицинскими наборами, поэтому результаты не гарантируют такое же качество на иных текстах и языках.

Это англоязычный биомедицинский Cross Encoder, дообученный авторами tomaarsen на базе microsoft/BiomedNLP-BiomedBERT-base-uncased-abstract-fulltext на данных MIRIAD. Модель оценивает пары «вопрос — текст» и предназначена для переранжирования результатов поиска и семантического поиска по биомедицинским материалам. Архитектура основана на BERT и реализована как BertForSequenceClassification с одним выходным баллом. Метаданные указывают 136,7 млн параметров и контекст до 512 токенов; в README заявлена максимальная длина последовательности 384 токена. Модель принимает текст на английском языке и выдаёт оценку релевантности пары текстов. В README приведены результаты оценки на наборах NFCorpus, SciFact и SciDocs, причём качество различается между наборами. Лицензия — MIT. Ограничения: модель рассчитана на англоязычные биомедицинские тексты, а последовательности ограничены указанной длиной; показатели на отдельных тестовых наборах неоднородны, поэтому качество для других корпусов не гарантировано.

SciRus-tiny3 — компактная модель для извлечения векторных представлений научных текстов, опубликованная лабораторией машинного обучения и семантического анализа МГУ (MLSA-lab). Она предназначена для сравнения семантической близости научных текстов и может служить основой для поиска и группировки научных публикаций. Модель использует архитектуру RoBERTa и содержит около 25,5 млн параметров; в карточке Hugging Face указана длина контекста до 1026 токенов. Вход — текст, выход — векторные представления. Публикации и каталог разработчика описывают SciRus-tiny как модель для научных текстов на русском и английском языках. Компактный размер позволяет применять её в задачах векторизации текстов. Карточка Hugging Face не содержит описания ограничений или лицензии, поэтому условия распространения по доступным сведениям определить нельзя.

Модель vincentmireau/summary-llama3-8b-f16-full — дообученная версия Meta-Llama-3-8B-Instruct для создания кратких пересказов аннотаций научных статей. Автор сообщает, что модель использовалась для получения таких резюме; обучение проводилось с помощью Unsloth и библиотеки TRL. Это плотная авторегрессионная языковая модель семейства Llama с 7,5 млрд параметров, рассчитанная на диалоговую генерацию текста с контекстом до 8192 токенов. В карточке указан английский язык. Модель подходит для автоматического краткого изложения abstract и других англоязычных текстов в сценариях, где нужен компактный пересказ. Основана на Meta-Llama-3-8B-Instruct и распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробностей обучающего набора, поэтому результаты суммаризации могут требовать проверки.

Англоязычная модель Sentence Transformer, дообученная juanpablomesa на базе BAAI/bge-small-en-v1.5 на примерах из BIOASQ. Она кодирует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, сравнения сходства текстов и подбора ответа к вопросу; сходство векторов можно оценивать косинусной мерой. Архитектура состоит из BERT-энкодера, CLS-пулинга и нормализации. Модель содержит около 40 млн параметров, принимает последовательности длиной до 512 токенов и распространяется по лицензии Apache-2.0. Обучающие примеры связывают вопросы с фрагментами ответов из биомедицинской литературы, поэтому модель подходит для поиска релевантных публикаций и фрагментов по англоязычным запросам в биомедицинских корпусах. Она также может использоваться для кластеризации, поиска перефразировок и признаков для классификации текста. Это модель эмбеддингов, а не генератор ответов; заявленная специализация и оценка относятся к обучающим данным BIOASQ, поэтому качество на других областях и языках может отличаться.

NeuML разработала BiomedBERT Small Embeddings — компактную модель на архитектуре BERT, дообученную с помощью Sentence Transformers для получения эмбеддингов биомедицинских текстов. Она преобразует предложения и абзацы в плотные векторы размерностью 384 и подходит для семантического поиска, кластеризации и формирования контекста для RAG по научным и медицинским публикациям. Модель содержит 25,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Для обучения использовались пары заголовков и аннотаций из PubMed; обучение включало дистилляцию эмбеддингов и дальнейшую настройку на оценках модели-реранкера. В README сообщается о результатах на наборах PubMed QA, PubMed Subset и PubMed Summary и о возможности работы на CPU. Модель ориентирована на англоязычные биомедицинские тексты. Она выдаёт векторные представления, а не готовые ответы на вопросы; качество следует проверять на целевых данных и сценариях. Лицензия — Apache-2.0.

Einstein-v6-7B — полноценно дообученная Weyaxi модель на базе Mistral-7B-v0.2-hf. Это плотная авторегрессионная языковая модель с 7,1 млрд параметров и контекстом до 32 768 токенов, обученная два эпоха с использованием Axolotl на разнообразных инструкционных и синтетических данных. Карточка указывает шаблон диалога ChatML и поддержку общения и следования инструкциям. Модель предназначена для диалоговых ответов и решения задач по естественным наукам и STEM, включая физику, химию, биологию и математику. Среди сценариев — ответы на научные вопросы, решение учебных задач и объяснение понятий; в обучающих данных также присутствуют общие диалоговые, логические и кодовые примеры. В метаданных указан английский язык. Модель распространяется в формате Safetensors; лицензия обозначена как other, поэтому перед использованием следует проверить условия на странице репозитория.