IV.6Научные исследования, математика и новые материалы

BigBirdPegasus-large-pubmed — модель Google для суммаризации научных публикаций из области биомедицины. Она использует архитектуру BigBird-Pegasus с блочным разреженным вниманием, которое снижает вычислительные затраты при работе с длинными текстами. Модель содержит 366,8 млн параметров и рассчитана на входные последовательности длиной до 4096 токенов. Модель предназначена для создания краткого пересказа научного текста, в частности длинных статей и публикаций PubMed. Карточка также отмечает пригодность архитектуры BigBird для суммаризации длинных документов и ответов на вопросы по длинному контексту, однако основной заявленной задачей этой модели является суммаризация. Поддерживаемый язык — английский. Модель распространяется по лицензии Apache-2.0.

benhaotang/nemo-math-science-philosophy-12B — объединённая диалоговая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом TIES. В объединение вошли nbeerbower/mistral-nemo-wissenschaft-12B и EpistemeAI/Mistral-Nemo-Instruct-12B-Philosophy-Math; базой при слиянии служила anthracite-org/magnum-v2.5-12b-kto. Модель содержит 12,1 млрд параметров и предназначена для генерации текста в диалоге, включая ответы и инструкции с тематическим уклоном в математику, естественные науки и философию. Карточка приводит шаблон Ollama для обмена сообщениями в формате инструкций. В метаданных заявлена длина контекста 1 024 000 токенов. Модель распространяется в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

allenai/scibert_scivocab_uncased_field_of_study — модель классификации научных текстов по областям исследования, созданная дообучением SciBERT командой AllenAI. Она предназначена для определения области научной публикации или другого научного текста по его содержанию. Модель использует архитектуру BERT и веса SciBERT, адаптированные для научного словаря. Опубликована в формате PyTorch. README сообщает, что данные для дообучения были собраны с помощью моделей OpenAI, но не раскрывает полный состав набора данных или подробности обучения. Лицензия в предоставленных данных не указана.

TS-Reasoner-7B — модель для рассуждений по числовым временным рядам, разработанная авторами проекта TS-Reasoner. Она объединяет языковую модель Qwen2.5-7B с замороженной моделью временных рядов TimesFM: представления рядов сопоставляются с текстовым пространством в ходе предварительного обучения на синтетических парах «временной ряд — описание» и последующего дообучения на инструкциях. В метаданных указаны архитектура Qwen2, 7,1 млрд параметров, библиотека Transformers и контекст 32 768 токенов. Модель предназначена для диалоговых запросов и генерации текстовых ответов о числовых временных рядах. При первом использовании код модели загружает основу TimesFM с Hugging Face. Карточка ссылается на исследовательскую статью и код проекта; лицензия в доступных данных не указана.

Aurora — мультимодальная фундаментальная модель для прогнозирования временных рядов, представленная авторами статьи ICLR 2026. Она предназначена для прогнозирования временных рядов с использованием как самих рядов, так и связанных с ними модальностей и доменных знаний; поддерживает zero-shot-сценарии и вероятностные генеративные прогнозы. Архитектура Aurora включает кодировщик, объединяющий признаки разных модальностей, и декодер, который формирует условия для будущих значений, извлекает прототипы на основе доменных знаний и использует flow matching для генерации прогнозов. В README заявлены результаты уровня state of the art на пяти бенчмарках. Репозиторий содержит веса в формате safetensors; лицензия — MIT. Метаданные указывают контекст 10 000 токенов и английский язык карточки модели.

Bespoke-Stratos-32B — языковая модель Bespoke Labs, дообученная на Qwen/Qwen2.5-32B-Instruct с использованием набора Bespoke-Stratos-17k. Набор данных получен дистилляцией DeepSeek-R1 с помощью конвейера Berkeley NovaSky Sky-T1 и некоторыми изменениями. Модель предназначена для генерации текста в диалоге и решения задач, требующих рассуждений, в частности по математике и естественным наукам. В опубликованных результатах она превосходит исходную Qwen2.5-32B-Instruct на приведённых тестах AIME2024, MATH500 и GPQA-Diamond. Это плотная модель Qwen2 с 32 млрд параметров, принимает текст, поддерживает контекст до 32 768 токенов и обучена преимущественно на английском языке. Модель распространяется в формате safetensors по лицензии Apache 2.0. Результаты бенчмарков не гарантируют аналогичного качества на других задачах; доступная карточка не описывает более конкретные ограничения или условия применения.

Chronicle — компактная мультимодальная модель InertialAI для совместного понимания естественного языка и временных рядов. Это 324-миллионный декодерный трансформер с 16 слоями, обученный с нуля на текстах и временных рядах; токены текста и патчи рядов обрабатываются общими блоками трансформера. В репозитории представлены контрольные точки двух этапов обучения, для второй этапной версии контекст составляет 4096 токенов, а для первой — 2048; патчи временного ряда охватывают 32 шага. Модель предназначена для прогнозирования временных рядов, получения эмбеддингов для классификации рядов и мультимодальных сценариев, сочетающих числовые последовательности с текстом. Также заявлена языковая обработка на уровне моделей сопоставимого размера. В README приведены результаты оценок на наборах задач NLU, классификации и мультимодального прогнозирования; это результаты авторов, для воспроизведения которых указаны статья и код проекта. Веса доступны в формате safetensors, реализация инференса использует PyTorch. Модель опубликована под лицензией Apache-2.0. Данные о поддерживаемых языках ограничены тегом английского языка в метаданных; точный охват языков и сценариев следует проверять на целевом наборе данных.

DARE (Distribution-Aware Retrieval Embedding) — дообученный двунаправленный энкодер на базе Sentence Transformer, разработанный для поиска функций и инструментов статистического анализа на языке R. Он подбирает инструменты с учётом текста запроса пользователя и профиля данных, чтобы LLM-агенты могли выбирать подходящие функции в автоматизированных сценариях анализа данных. Модель основана на sentence-transformers/all-MiniLM-L6-v2, использует архитектуру BERT и содержит 25,9 млн параметров. Она формирует плотные векторные представления для извлечения и сопоставления запросов с R-функциями; указанная длина контекста — 512 токенов. В README сообщается результат 93,47 NDCG@10 на задачах поиска R-пакетов. DARE предназначена для англоязычных запросов в области R, науки о данных и статистического анализа. Лицензия — Apache-2.0. Модель выдаёт эмбеддинги для поиска и ранжирования, а не готовые ответы или исполняемый код; результат поиска зависит от описаний инструментов и профиля данных, переданных системе.

Einstein-v5-v0.2-7B — языковая модель Weyaxi для диалогов и следования инструкциям, созданная полным дообучением Mistral-7B-v0.2-hf на разнообразных наборах данных. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Для диалогов предусмотрен шаблон ChatML. Модель ориентирована на общие запросы, а также вопросы и рассуждения по физике, химии, биологии, математике и другим STEM-темам. В README указаны результаты Open LLM Leaderboard, включая средний балл 65,65 и 60,92 на AI2 Reasoning Challenge, однако полная таблица результатов недоступна в предоставленной карточке. Автор сообщает, что модель устарела из-за ошибки sliding window в конфигурации базовой модели; проблема исправлена в базовой модели, а последующие версии серии Einstein должны использовать корректную конфигурацию. Репозиторий содержит веса Safetensors. Лицензия в метаданных обозначена как other, без уточнения условий.

MobileLLM-R1.5-140M — компактная языковая модель Meta, дообученная методом on-policy дистилляции от facebook/MobileLLM-R1-140M-base. Это SFT-модель для решения математических и научных задач, а также задач программирования на Python и C++; разработчики отдельно отмечают, что она не предназначена для универсального общения. Модель содержит 140 млн параметров, использует текст на входе и выдаёт текст, поддерживает контекст до 32 тыс. токенов и словарь размером 128 тыс. токенов. Архитектура включает 15 слоёв, 9 attention heads и 3 KV heads. Дополнительная on-policy дистилляция применена как заключительный этап постобучения и, по данным авторов, улучшает результаты небольших моделей на сложных задачах рассуждения. Карточка приводит результаты семейства MobileLLM-R1.5, но конкретные численные показатели для версии 140M не выделяет. Модель опубликована под лицензией с обозначением «other»; условия лицензии следует проверить в карточке репозитория перед использованием.

Nori — табличная фундаментальная модель Synthefy для регрессии методом обучения в контексте. Для прогноза ей передают несколько размеченных строк в качестве контекста и новые строки для предсказания; модель выдаёт результаты за один прямой проход без дообучения под конкретный набор данных. Она обучена только на синтетических данных. В основе лежит FeaturesTransformer примерно с 5,9 млн параметров и 16 слоями. Архитектура чередует внимание между признаками и строками, поддерживает пропуски и предсказывает распределение по 999 квантилям. Модель предназначена для регрессии на таблицах малого и среднего размера; в README приведены результаты оценки на 96 задачах из трёх открытых наборов бенчмарков. Практический предел связан с квадратичной сложностью внимания между строками: на больших таблицах и длинном контексте производительность уступает лучшим базовым методам, а размер контекста ограничен вычислительными затратами. Для использования доступны GPU и запасной режим на CPU. Лицензия — Apache-2.0.

leandronunes/qwen3.8-4b-a1-omnimerge-m8 — мультимодальная модель для диалога и рассуждений, созданная Leandro Nunes с помощью слияния Qwen3.5-4B, Qwen3.8-4B-Distill и Agents-A1-4B методом OmniMerge v2. Она предназначена для логической и причинной аргументации, научных вопросов и агентных сценариев; поддерживает вызов инструментов. Модель основана на архитектуре Qwen3.5 с плотной языковой частью и визуальным энкодером из 24 блоков. В README заявлены контекст 262 144 токена, чередование слоёв линейного внимания Gated DeltaNet и полного внимания, а также режим расширенного рассуждения, который можно отключить в шаблоне чата. Карточка описывает слияние как сочетание логической дедукции Qwen3.8-4B-Distill с агентными и причинными возможностями Agents-A1-4B; собственные результаты слияния на приведённых бенчмарках ещё не измерены. Модель принимает текст и изображения и генерирует текст. Лицензия — Apache 2.0, унаследованная от Qwen3.5-4B. Она опубликована недавно, поэтому зрелость практических результатов ограничена отсутствием измерений для самого слияния.

UMCU/SapBERT-from-PubMedBERT-fulltext_bf16 — англоязычная Sentence Transformer-модель на архитектуре BERT, дообученная на основе cambridgeltl/SapBERT-from-PubMedBERT-fulltext. Она преобразует предложения и абзацы в плотные эмбеддинги размерности 768, пригодные для сравнения по косинусному сходству, семантического поиска, поиска парафраз, кластеризации и классификации текста. Модель содержит 136,7 млн параметров и поддерживает контекст до 512 токенов по метаданным; карточка модели задаёт максимальную длину последовательности 25 токенов. Модель предназначена для поиска и сопоставления биомедицинских текстов на английском языке. Эмбеддинги можно использовать для извлечения похожих описаний, группировки текстов и подготовки признаков для классификаторов. В карточке указана архитектура Sentence Transformer с BERT-трансформером и CLS-пулингом; доступен формат safetensors. Лицензия в предоставленных данных не указана.

Это модель Sentence Transformers, разработанная авторами репозитория ipsnan/keywordsextraction для извлечения ключевых слов из украинских научных и деловых документов. Она дообучена на базе intfloat/multilingual-e5-base и использует энкодер XLM-RoBERTa с усреднением токеновых представлений и L2-нормализацией. Модель содержит около 305,2 млн параметров, выдаёт эмбеддинги размерности 768 и обрабатывает последовательности длиной до 514 токенов по метаданным; в README указан предел 512 токенов. Модель кодирует документ и сопоставляет его с заранее подготовленными эмбеддингами ключевых слов, ранжируя совпадения по косинусному сходству. Она предназначена для поиска ключевых слов в научных текстах, академических материалах и деловых документах, а также для использования в семантическом поиске и сопоставлении предложений. В комплекте репозитория есть индекс ключевых слов и скрипт обработки PDF. Модель лучше всего работает с текстами на украинском языке и возвращает только слова из имеющегося индекса; для нового набора ключевых слов индекс нужно подготовить заново. Качество зависит от того, насколько первые примерно 3000 символов документа отражают его тему. Модель распространяется по лицензии MIT.

QuantFactory/MAmmoTH2-7B-GGUF — квантизированная версия модели TIGER-Lab/MAmmoTH2-7B, созданная QuantFactory с использованием llama.cpp. Базой служит Mistral; модель предназначена для генерации текста и улучшения способностей больших языковых моделей к рассуждениям благодаря дообучению на инструкциях. Указанный разработчиком датасет — TIGER-Lab/WebInstructSub, сформированный из веб-корпуса и содержащий крупный набор пар «инструкция–ответ». Модель ориентирована прежде всего на решение математических задач, ответы на открытые и тестовые вопросы, а также общие сценарии, требующие пошагового рассуждения. Она поддерживает английский язык и работает в текстовой модальности. Размер исходной модели — 7B параметров; формат GGUF предназначен для использования с llama.cpp и совместимыми инструментами. Точный размер контекстного окна и конкретный метод квантизации в README не указаны. Сильная сторона модели — заметное улучшение результатов на наборах математических и reasoning-задач по сравнению с базовой Mistral 7B: для MAmmoTH2-7B заявлены 36,7% на MATH и 68,4% на GSM8K, а средний результат по приведённому набору бенчмарков составляет 52,7%. Ограничения включают зависимость качества от сложности и формулировки задачи и неполное покрытие различных областей математики. Модель распространяется по лицензии MIT.

Карточка модели pipizhao/Pandalyst_13B_V1.0 на Hugging Face совпадает с карточкой pipizhao/Pandalyst-7B-V1.1, поэтому описание составлено по ней. Pandalyst-7B-V1.1 — языковая модель для анализа данных с помощью библиотеки pandas, разработанная авторами проекта Pandalyst. Она дообучена на CodeLlama-7b-Python и предназначена для генерации кода и ответов, помогающих работать с таблицами разной структуры и выполнять задачи анализа данных. Версия V1.1 не поддерживает построение графиков. Модель основана на плотной архитектуре LlamaForCausalLM и содержит 6,6 млрд параметров. Она принимает текст и выдаёт текст; заявленная длина контекста — 16 384 токена. В карточке указан английский язык. Авторы сообщают результат 76,1 exec@1 на PandaTest_V1.0, однако это заявление из README, а независимая проверка здесь не представлена. Модель распространяется с лицензией Llama 2.

VisReason-Qwen2.5-VL-7B — мультимодальная модель Y-Research-Group для визуальных рассуждений, созданная дообучением Qwen/Qwen2.5-VL-7B-Instruct на наборе VisReason. Она строит общее предположение по изображению, затем при необходимости выделяет важные области для более детального анализа и формирует обоснованный ответ. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2.5-VL и поддерживает контекст до 128 000 токенов. Модель предназначена для диалоговых задач анализа изображений и визуального Chain-of-Thought. Она обучена выдавать рассуждение в специальном формате и может сформировать вызов инструмента image_zoom_in_tool с координатами области для увеличения. Вариант baseline не включает усиленное пространственное рассуждение с привязкой к глубине, доступное в VisReason-Pro. Для использования указана лицензия other; конкретные условия следует сверять с файлами лицензии репозитория.

AstroBERT Small Embeddings — компактная модель NeuML для преобразования предложений и абзацев в плотные векторы размерности 384. Она основана на AstroBERT Small с архитектурой BERT и дообучена методом дистилляции эмбеддингов Qwen3-Embedding-8B на случайной выборке астрофизических аннотаций arXiv с метками astro-ph. Модель рассчитана на семантический поиск, кластеризацию текстов и создание векторных баз знаний для RAG; её можно использовать с Sentence Transformers, Transformers и txtai. Модель содержит 25,9 млн параметров и поддерживает контекст до 512 токенов. В README отмечена пригодность для CPU-сценариев и хорошие результаты на описанном авторами наборе оценки, однако качество зависит от предметной области и соответствия данных предварительному обучению и настройке. Лицензия — Apache-2.0.

Модель OpenAlex разработана для классификации научных публикаций по заранее заданному набору тематик OpenAlex. Это дообученная многоязычная BERT-модель с архитектурой BertForSequenceClassification и 205,1 млн параметров; она принимает заголовок и аннотацию в заданном текстовом формате, а также может классифицировать текст только по заголовку или аннотации. Результат содержит тематическую метку OpenAlex и оценку модели для каждой темы. Модель предназначена для быстрого определения тематики научной работы по её заголовку и аннотации. Она может быть компонентом более полной системы классификации публикаций, где также учитываются сведения о журнале и цитировании. Контекст модели составляет до 512 токенов, поэтому длинный входной текст обрезается. Доступны веса в форматах safetensors и TensorFlow; модель распространяется по лицензии Apache 2.0. Это отдельная модель классификации текста, а не полная система OpenAlex для присвоения тем работам. Она обучена на размеченных данных CWTS; возможны смещения, унаследованные от базовой BERT-модели, а качество зависит от предобработки входа и соответствия тематики публикации фиксированному набору меток.

CosmicBun-8B — объединённая языковая модель семейства Llama 3, созданная автором aloobun методом DARE TIES с помощью mergekit. В качестве основы использована Locutusque/llama-3-neural-chat-v1-8b; в объединение также вошли cognitivecomputations/dolphin-2.9-llama3-8b и Weyaxi/Einstein-v6.1-Llama3-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста в диалоговом режиме. Контекст — до 8192 токенов. По назначению и составу объединённых моделей она подходит для общения и ответов на вопросы, особенно по математике и другим STEM-дисциплинам. В README приведены результаты оценивания на нескольких бенчмарках, включая средний балл 68,81. Модель распространяется по лицензии MIT. Результаты бенчмарков сами по себе не гарантируют точность ответов; модель может ошибаться в вычислениях и научных фактах.

unsloth/InternVL3-78B-Instruct-GGUF — GGUF-квантизированная версия мультимодальной модели InternVL3-78B-Instruct, разработанной командой OpenGVLab и подготовленной Unsloth. Это SFT-версия, прошедшая нативное мультимодальное предварительное обучение и дообучение, но не прошедшая MPO. Модель предназначена для задач, объединяющих работу с текстом и изображениями: мультимодального восприятия и рассуждений, анализа промышленных изображений, восприятия 3D-сцен, использования инструментов и создания GUI-агентов. Архитектура построена по схеме ViT-MLP-LLM и включает визуальную часть InternViT-6B-448px-V2_5 и языковую часть Qwen2.5-72B. Заявлена поддержка мультиязычных сценариев, однако конкретный список языков и размер контекстного окна в README не указаны. К сильным сторонам относятся крупная языковая модель, мультимодальное предварительное обучение и расширенные возможности визуального восприятия и рассуждений. Ограничения связаны с тем, что это именно SFT-версия без MPO; авторы рекомендуют при выборе использовать базовую версию InternVL3-78B, если преимущества SFT-редакции не требуются. Модель распространяется по лицензии, обозначенной как other, с указанием лицензии Qwen и ссылкой на её текст; точные условия следует проверять в лицензии Qwen2.5-72B-Instruct.

google/pegasus-pubmed — модель семейства PEGASUS, разработанная авторами Jingqing Zhang, Yao Zhao, Mohammad Saleh и Peter J. Liu и поддерживаемая в карточке @sshlei​​fer. Она предназначена для абстрактивного суммирования текста, в частности научных публикаций из области биомедицины. Архитектура — PegasusForConditionalGeneration с 366,8 млн параметров; модель работает с текстом и имеет контекст длиной до 1024 токенов. Вариант основан на подходе PEGASUS с предварительным обучением на пропущенных предложениях; в описании семейства указаны обучающие данные C4 и HugeNews и смешивание сэмплирования пропусков. Подходит для создания кратких пересказов длинных текстов и научных статей. Поддерживаемый язык по метаданным — английский. Лицензия в предоставленных данных не указана.

NeuML PubMedBERT Embeddings 2M — компактная модель статических эмбеддингов, разработанная NeuML на основе PubMedBERT Embeddings и дистиллированная с использованием библиотеки Model2Vec. Она преобразует текст в векторы и предназначена для семантического поиска, сравнения предложений и построения баз знаний для RAG по медицинским публикациям. Статические эмбеддинги позволяют вычислять векторы значительно быстрее, чем обычные контекстные модели, в том числе на CPU, что подходит для систем с ограниченными ресурсами и сценариев реального времени. Модель оценивалась на наборах PubMed QA, PubMed Subset и PubMed Summary; в README отмечается конкурентное качество, но не лидерство по результатам сравнения. Она ориентирована на английский язык и медицинские тексты. Репозиторий использует формат safetensors, а лицензия — Apache 2.0.

ChatTime-1-7B-Chat — мультимодальная модель для работы с временными рядами и текстом, разработанная авторами ChatTime. Она построена на архитектуре LlamaForCausalLM и получена дообучением ChatTime-1-7B-Base на наборе ChengsenWang/ChatTime-1-Finetune-100K. Модель содержит 6,6 млрд параметров, принимает контекст длиной до 4096 токенов и распространяется в формате safetensors. Модель предназначена для прогнозирования временных рядов, в том числе без примеров для конкретного ряда, прогнозирования с текстовым контекстом и ответов на вопросы о временных рядах. README указывает на двунаправленную работу с текстом и временными рядами, но не приводит подробностей кодирования временных рядов. Метаданные указывают Apache-2.0; заявлены возможности модели для исследований и практического применения, однако README отсылает за деталями обучения и оценок к статье.

MedEmbed Biomedical MRL — англоязычная модель Sentence Transformer на базе BERT, дообученная для семантического поиска по биомедицинским текстам. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 384; для сравнения используется косинусное сходство. Модель обучена на 4 012 парах запросов и релевантных текстов с функцией потерь MultipleNegativesRankingLoss. Модель подходит для семантического поиска и сопоставления биомедицинских вопросов с текстами, а также для поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Максимальная длина входа — 512 токенов. В README приведены результаты оценки на наборе medembed-small, однако они не гарантируют качество на других данных. Модель распространяется по лицензии Apache-2.0.

Карточка модели mergekit-community/mergekit-slerp-egyyxzs на Hugging Face совпадает с карточкой arcee-ai/Hermes-2-Pro-WizardMath-7B-SLERP, поэтому описание составлено по ней. arcee-ai/Hermes-2-Pro-WizardMath-7B-SLERP — объединённая языковая модель, созданная с помощью mergekit методом SLERP из NousResearch/Hermes-2-Pro-Mistral-7B и WizardLM/WizardMath-7B-V1.1. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, работающая через Transformers и распространяемая в формате safetensors. Для объединения использована конфигурация bfloat16 с весовой кривой, отдающей входные и выходные слои Hermes, а средние слои — WizardMath. Модель предназначена для генерации текста в диалоге и решения математических задач на естественном языке. Контекст составляет до 32 768 токенов; метаданные также отмечают интерфейс вызова функций. Карточка не содержит сведений о лицензии, поэтому условия использования по имеющимся данным определить нельзя. Качество решения задач и ограничения на применение отдельно не описаны.

Merlin-Agent-GGUF — это квантизированная версия языковой модели Merlin-Agent, разработанной Merlin-Research и подготовленной пользователем bartowski в формате GGUF с помощью llama.cpp. Модель предназначена для генерации текста и кода, а также для задач, связанных с quantum-classical вычислениями, quantum kernels, IBM Quantum, OTOC и quantum provenance, судя по указанным тегам. Модель поддерживает английский, испанский, немецкий, нюнорск, финский, шведский, французский, датский и турецкий языки. Архитектура, количество параметров и размер контекста в README не указаны. Доступны варианты от BF16 до низкобитных квантований Q2_K_L, включая рекомендуемые Q4_K_M, Q5_K_M, Q6_K и другие форматы. Квантизация уменьшает требования к памяти, но более компактные варианты могут снижать качество; Q6 и близкие к нему варианты заявлены как обеспечивающие почти исходное качество. Модель запускается через совместимые инструменты, включая llama.cpp, LM Studio, koboldcpp, Jan AI и Text Generation Web UI. Для работы рекомендуется использовать указанный шаблон prompt format. Лицензия — Apache-2.0.

MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp — языковая модель на базе архитектуры Mistral, созданная Weyaxi слиянием моделей MetaMath-Mistral-7B и OpenHermes-2.5-neural-chat-v3-3-Slerp методом slerp через mergekit. Она предназначена для генерации текста в диалогах и ответов на вопросы; объединение математической модели MetaMath и разговорной модели OpenHermes ориентировано на сочетание этих возможностей. Модель содержит 7,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст. В карточке не указаны поддерживаемые языки, поэтому языковые возможности отдельно не уточняются. Лицензия — Apache-2.0.

tomaarsen/multivector-colqwen2-v1.0-hf-docqa-energy — многовекторный энкодер, дообученный на синтетических парах запросов и страниц документов по энергетике. Он основан на vidore/colqwen2-v1.0-hf и предназначен для поиска релевантных страниц документов по текстовым запросам с помощью позднего взаимодействия MaxSim. Модель принимает текст и изображения страниц, включая страницы PDF, и представляет их последовательностями токенных векторов размерности 128. Максимальная длина последовательности — 32 768 токенов. Обучение проводилось на английских данных набора synthetic_doc_qa_energy_train; в README приведены метрики поиска на наборе energy-dev. Модель распространяется под лицензией Apache-2.0. Она подходит для семантического поиска по энергетическим отчетам и другим документам этой тематики, в том числе для извлечения страниц, отвечающих на вопрос. Результаты зависят от соответствия запросов и документов обучающим данным; карточка не заявляет о генерации ответов или универсальном OCR.

NeuML/biomedbert-hash-nano-embeddings — компактная модель эмбеддингов NeuML, дообученная с помощью Sentence Transformers на основе NeuML/biomedbert-hash-nano. Она преобразует предложения и абзацы в плотные векторы размерностью 128 для семантического поиска, кластеризации и использования в RAG. Модель ориентирована на медицинскую литературу: при обучении применялись пары заголовков и аннотаций PubMed, а также дистиллированные оценки моделей для медицинских текстов. Архитектура относится к семейству BERT Hash; число параметров по метаданным — 4,4 млн, контекст — до 512 токенов. Поддерживается английский язык. Модель рассчитана на компактные базы эмбеддингов и сценарии с ограниченными вычислительными ресурсами; небольшая размерность векторов снижает требования к хранению. Лицензия — Apache-2.0. В README приведено сравнение качества на задачах с данными PubMed, однако результаты конкретно этой модели в предоставленном фрагменте таблицы отсутствуют.