IV.4Клиническая медицина и общественное здоровье

Apollo2-3.8B — медицинская языковая модель, разработанная командой FreedomIntelligence. Это плотная модель семейства Phi-3 с 3,7 млрд параметров, дообученная на ApolloMoEDataset на базе microsoft/Phi-3-mini-4k-instruct. Модель предназначена для ответов на медицинские вопросы и диалога о медицинских знаниях. Модель ориентирована на английский и китайский, а также на 10 других основных языков, включая русский, французский, хинди, испанский, арабский, японский, корейский, немецкий, итальянский и португальский; заявлена поддержка ещё 38 языков. Карточка описывает оценивание на медицинских тестах по нескольким языкам, включая RuMedBench для русского. Контекст составляет до 4096 токенов, формат весов — safetensors. Модель распространяется по лицензии Apache-2.0. Она подходит для ответов на медицинские вопросы и справочных диалогов, но её ответы не следует считать клиническими рекомендациями без проверки специалистом. README не приводит конкретных численных результатов для этой версии.

Asclepius-13B — клиническая языковая модель, созданная командой Asclepius и дообученная на синтетических клинических данных на базе LLaMA-13B. Это плотная авторегрессионная модель с 12,9 млрд параметров, рассчитанная на английский язык и контекст до 2048 токенов. Модель предназначена для клинических NLP-задач с медицинскими записями: извлечения именованных сущностей и отношений, раскрытия сокращений, выделения временной информации, разрешения кореференции, перефразирования, суммаризации и ответов на вопросы. Авторы позиционируют её для исследований; результаты требуют проверки специалистом перед клиническим применением. Веса опубликованы в формате PyTorch. В метаданных указана лицензия CC-BY-NC-4.0, тогда как README указывает CC-BY-NC-SA 4.0; условия лицензирования следует сверить с актуальной карточкой репозитория. Модель не предназначена для клинического использования без независимой валидации.

BiMediX-Bi — двуязычная медицинская языковая модель с архитектурой Mixtral-8x7B-Instruct-v0.1, разработанная исследователями Университета искусственного интеллекта имени Мохамеда бин Заида (MBZUAI). Модель содержит 7,1 млрд параметров, использует архитектуру смеси экспертов Mixtral и поддерживает контекст до 32 768 токенов. Она обучена на двуязычном наборе медицинских взаимодействий BiMed1.3M и предназначена для работы на английском и арабском языках. Модель подходит для медицинских диалогов, ответов на закрытые вопросы и вопросов с вариантами ответа. В карточке приведены оценки на медицинских тестах, где BiMediX превосходит указанные базовые модели. Возможны галлюцинации, токсичные ответы и стереотипы, поэтому ответы требуют проверки и не заменяют профессиональную медицинскую консультацию. Указанная лицензия — CC BY-NC-SA 4.0; README также заявляет исследовательское назначение.

BioMistral-7B-OpenHermes-SLERP — языковая модель на 7,1 млрд параметров, созданная слиянием методом SLERP моделей OpenHermes-2-Mistral-7B и BioMistral-7B-0.1-PubMed-V2. Она использует плотную архитектуру Mistral и предназначена для генерации текста и диалогов; сочетание чат-модели с моделью, дообученной на биомедицинской литературе PubMed, ориентирует её на разговорные сценарии с медицинской и биомедицинской тематикой. Модель работает с текстом, поддерживает контекст до 32 768 токенов и доступна в формате safetensors для библиотеки Transformers. Карточка не приводит результатов оценки качества, поэтому пригодность ответов по медицине следует проверять отдельно. Лицензия в предоставленных данных не указана.

CamemBERT-bio — французская биомедицинская языковая модель, разработанная Рианом Тушантом и Эриком Вильмонтом де ла Клергери. Это модель семейства CamemBERT с архитектурой CamembertForMaskedLM, полученная продолжением предобучения camembert-base на французском биомедицинском корпусе объёмом 413 млн слов: научных публикациях, инструкциях к лекарствам и клинических случаях. Модель содержит 137,8 млн параметров, принимает текст и поддерживает контекст до 514 токенов. Она предназначена для работы с французскими биомедицинскими текстами и может использоваться для заполнения пропусков в тексте. README также сообщает об улучшении среднего F1 на 2,54 пункта относительно camembert-base в пяти задачах распознавания биомедицинских именованных сущностей; для прикладного NER модель потребуется дообучить на соответствующей задаче. Доступна по лицензии MIT.

CURE-MED-14B-i1-GGUF — это набор квантованных GGUF-версий модели CURE-MED-14B, разработанной Aikyam-Lab и квантованной mradermacher. Модель ориентирована на генерацию текста, рассуждения и медицинские AI-сценарии, включая задачи в сфере здравоохранения. Для оценки указано использование набора данных CUREMED-BENCH. Модель имеет размер 14 млрд параметров в исходной версии. Доступны варианты квантования i1-IQ и i1-Q с объёмом файлов примерно от 3,7 до 12,2 ГБ; варианты различаются компромиссом между размером, скоростью и качеством. В README заявлена мультиязычность для амхарского, бенгальского, французского, хауса, хинди, японского, корейского, испанского, суахили, тайского, турецкого, вьетнамского и йоруба. Архитектура, поддержка других модальностей и размер контекста не указаны. Сильными сторонами являются специализация на медицинской тематике, поддержка нескольких языков и возможность локального запуска через GGUF при выборе подходящего уровня квантования. Ограничения включают возможное снижение качества у наиболее компактных вариантов, а также отсутствие в README подробных результатов тестирования, описания архитектуры и рекомендаций по безопасному применению медицинских ответов. Модель распространяется по лицензии Apache-2.0.

DrMedra4B-i1-GGUF — это квантизированная версия медицинской языковой модели DrMedra4B, разработанная drwlf и преобразованная в формат GGUF пользователем mradermacher. Модель дообучалась на наборе данных medra-thinking-768 и ориентирована на задачи медицинского ИИ, клинического рассуждения, суммирования и поддержки диагностики. Модель имеет размер около 4 млрд параметров, работает с текстом на английском и румынском языках и распространяется как набор GGUF-файлов с различными вариантами квантизации объёмом примерно от 1,2 до 3,3 ГБ. README также указывает, что это vision model, однако сведения о поддерживаемых типах изображений, мультимодальном интерфейсе и размере контекста не приведены. Ключевое преимущество репозитория — возможность запуска модели при ограниченных ресурсах благодаря квантизации; варианты отличаются компромиссом между размером, скоростью и качеством, причём наиболее сбалансированными названы i1-Q4_K_S и i1-Q4_K_M. Ограничения включают снижение качества у наиболее компактных вариантов и отсутствие в README подтверждённых оценок, подробностей архитектуры, безопасного клинического применения и рекомендаций по использованию результатов для медицинских решений. Модель распространяется по лицензии Apache-2.0.

GemmaECG-Vision — мультимодальная модель для анализа изображений ЭКГ, разработанная Мохамедом Яссером на основе Google Gemma 3n E2B Instruct. Модель дообучена с помощью Unsloth на наборе из 3 272 примеров PULSE-ECG/ECGInstruct и принимает изображение ЭКГ вместе с текстовой клинической инструкцией, чтобы сформировать структурированный текстовый анализ. Модель предназначена для поддержки медицинской сортировки и документирования, в том числе в автономных и периферийных средах с ограниченными ресурсами: при первичной оценке ЭКГ, работе на медицинском устройстве или оказании помощи в чрезвычайной ситуации. Карточка заявляет ввод изображений и текста; метаданные отмечают английский язык. Репозиторий содержит веса Safetensors и распространяется по лицензии CC BY 4.0. Качество результата может зависеть от качества изображения ЭКГ. Модель не заменяет квалифицированного медицинского специалиста, а её выводы следует проверять клиницисту перед принятием решений.

GLiNER-BioMed Large v1.0 — англоязычная модель для распознавания биомедицинских именованных сущностей, созданная в сотрудничестве с DS4DH Женевского университета на основе фреймворка GLiNER. Она использует двунаправленный трансформерный энкодер и позволяет извлекать сущности заданных пользователем типов, включая сценарии zero-shot и few-shot, без отдельной модели для каждого набора меток. Модель предназначена для извлечения биомедицинской информации из текстов и рассчитана на более эффективное применение, чем крупные языковые модели в подобных задачах. Она дообучена на Microsoft DeBERTa-v3-large, использует библиотеку GLiNER и распространяется в формате PyTorch. Лицензия — Apache-2.0. В README сообщается о сравнении моделей семейства на восьми реальных наборах данных и о высоких результатах zero-shot и few-shot распознавания; конкретные метрики этой версии в доступной карточке не приведены. Модель ориентирована на английский язык и биомедицинскую область. Ограничения контекста и подробные сведения о размере модели в предоставленных данных отсутствуют.

JapMed-TIES — объединённая диалоговая языковая модель, созданная tiborousset методом TIES с помощью mergekit. В качестве базовой модели использована lightblue/suzume-llama-3-8B-japanese, объединённая с ContactDoctor/Bio-Medical-Llama-3-8B; для биомедицинской модели указаны плотность и вес слияния 0,5. Модель построена на архитектуре Llama, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации диалоговых ответов на японском языке и работы с биомедицинской справочной информацией. Она принимает текст и выдаёт текст; формат весов — safetensors, библиотека — Transformers. Лицензия в предоставленных данных не указана.

LLaMA-3-8B-TP — дообученная модель семейства Llama от разработчиков TrialPanorama для работы с клиническими исследованиями. Она создана на основе Meta-Llama-3-8B-Instruct с двухэтапным обучением: supervised fine-tuning для внедрения профильных знаний и RLVR с проверяемой наградой. В метаданных указан класс архитектуры LlamaForCausalLM и формат safetensors. Модель предназначена для генерации ответов и диалоговой работы по тематике клинических исследований, включая оценку размера выборки. Поддерживает английский язык, имеет контекстное окно 131072 токена и может запускаться через vLLM. В карточке указана лицензия Apache-2.0. Размер параметров в метаданных указан как 3,2 млрд, тогда как название модели и базовая модель указывают на 8B; это расхождение не позволяет уверенно подтвердить фактический размер чекпойнта.

Llama-MedX v3.2 — медицинская модель-ассистент, собранная Ричардом Янгом (DeepNeuro) в формате GGUF для запуска через Ollama и llama.cpp. В основе — дообученная для ответов на медицинские вопросы Meta Llama 3.1 8B; репозиторий содержит вариант latest размером 1,88 ГБ. Модель предназначена для генерации текста в формате диалога, в частности для ответов на вопросы по медицинской тематике. Лицензия указана как other, поэтому условия использования следует уточнить у автора или в исходном репозитории модели.

Medical-GPT-OSS-Swallow-120B — медицинская языковая модель, разработанная на базе tokyotech-llm/GPT-OSS-Swallow-120B-RL-v0.1 для исследований и разработки безопасного и надёжного ИИ в японской клинической среде. Это причинная MoE-модель семейства GPT-OSS-Swallow; она дообучена на медицинских и общих данных, включая биомедицинские публикации, синтетические медицинские данные, наборы вопросов и ответов и тексты клинических рекомендаций. Метаданные указывают 2,1 млрд параметров, контекст до 131 072 токенов и библиотеку Transformers; в README для инференса рекомендуется ограничивать контекст 32 768 токенами, пока более длинный режим не проверен.

AdaptLLM/medicine-chat — англоязычная чат-модель для биомедицины, разработанная командой AdaptLLM на основе LLaMA-2-Chat-7B. Это плотная авторегрессионная модель семейства LLaMA с 6,6 млрд параметров и контекстом до 4096 токенов; она принимает текст и генерирует текст. Модель адаптировали к предметной области методом продолженного предобучения на специализированных корпусах, преобразованных в тексты для чтения с последующим пониманием, чтобы сохранить способность отвечать на вопросы в диалоге. Модель предназначена для ответов на вопросы и диалоговых сценариев по биомедицинской тематике. В карточке авторы сообщают о конкурентных результатах на доменных задачах, однако это не заменяет проверки качества на данных конкретного применения. Репозиторий распространяет веса в форматах PyTorch и Safetensors по лицензии Llama 2; её условия следует учитывать при использовании и распространении модели.

genshiai-daichi разработала японскую медицинскую модель эмбеддингов на базе ModernBERT-Ja и ruri-v3. Это дообученная версия genshiai-daichi/med-ruri-v3-70m, предназначенная для семантического поиска по медицинским текстам и сопоставления поисковых запросов с документами. Модель содержит 70 млн параметров, принимает текст и поддерживает контекст до 8192 токенов. Внутридоменная оценка поиска nDCG@10 на отложенных запросах из того же распределения составила 0,5117; авторы отмечают, что эта метрика не показывает качество на данных из других распределений или периодов. Для работы с Sentence Transformers нужны префиксы «検索クエリ: » для запросов и «検索文書: » для документов, а также та же предварительная обработка, что и при обучении: нормализация NFKC и удаление года из заголовка. В README указан промежуточный checkpoint, загружаемый по revision step-6159; main может обновляться. Лицензия Apache-2.0.

MMed-Llama-3-8B-EnIns — медицинская языковая модель Henrychur на архитектуре Llama 3. Это дообученная версия MMed-Llama-3-8B, дополнительно настроенная на англоязычном наборе медицинских инструкций PMC-LLaMA. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст; нативная длина контекста — 8192 токена. Модель предназначена для медицинских вопросов и ответов, включая ответы на вопросы с выбором варианта, а также для оценки на англоязычных медицинских бенчмарках. Хотя базовая модель мультиязычна, эта версия дообучалась только на англоязычных инструкциях, поэтому её ответы на других языках могут быть ограничены. Распространяется в формате Safetensors по лицензии Llama 3.

ModernCamemBERT-bio-v2-large — франкоязычная биомедицинская encoder-модель семейства ModernBERT, разработанная Рианом Тушаном и Эриком де ла Клержери из Sorbonne Université и Inria Paris. Она создана продолжением предобучения ModernCamemBERT-bio-large на клинических текстах и синтетических учебных материалах, сформированных с опорой на онтологии CIM-10, CCAM и ATC. В модели около 376,7 млн параметров, окно контекста — 8 192 токена; в репозитории используются веса Safetensors. Модель предназначена для представления французских биомедицинских документов и последующего применения к классификации длинных документов и задачам медицинского кодирования. В карточке приведён средний результат micro-F1 72,8 на документальном бенчмарке и лучшие среди сравнивавшихся вариантов показатели на задачах кодирования. Метаданные Hugging Face классифицируют её как fill-mask, то есть предсказание замаскированных токенов. Это продолженное предобучение ModernCamemBERT-bio-large без специализированной головы для конкретной задачи; для классификации или кодирования может понадобиться дополнительная настройка под задачу. Модель выпущена по лицензии MIT. Оценка в карточке относится к указанному французскому биомедицинскому бенчмарку и сама по себе не гарантирует качество на других данных или сценариях.

IEETA разработала MultiClinNER-EN — англоязычную модель распознавания клинических именованных сущностей. Она предназначена для извлечения и разметки упоминаний медицинских сущностей в тексте, например в клинических документах и медицинских публикациях. Модель использует архитектуру Multi-Head CRF для классификации токенов и основана на microsoft/BiomedNLP-PubMedBERT-large-uncased-abstract. В карточке указано 432,2 млн параметров, контекст до 512 токенов и формат safetensors. Для основной версии указан лучший результат F1 0,7368; это значение относится к оценке авторов и не гарантирует такой же результат на других данных. Модель рассчитана на английский язык и работает с текстовым вводом, выдавая метки для токенов. Лицензия — Apache-2.0.

Модель разработана командой NLP4BIA Барселонского суперкомпьютерного центра для распознавания названий заболеваний в англоязычных клинических текстах. Это дообученная для NER модель BiomedBERT на архитектуре BERT с 136,7 млн параметров; она размечает токены тегами BIO: O, B-DISEASE и I-DISEASE. Модель принимает текст и возвращает метки для фрагментов, относящихся к заболеваниям. Контекст ограничен 512 токенами; для длинных документов в рекомендованной настройке используется перекрытие stride=128. На тестовых документах MultiClinNER модель получила strict F1 0,7057 и посимвольную F1 0,8002. Для воспроизведения результатов важно использовать предтокенизацию, применявшуюся при обучении, и согласовать метки с исходными смещениями текста; при обычной токенизации границы сущностей, особенно рядом с пунктуацией, могут отличаться. Авторы не оценивали смещения модели. Лицензия — CC BY 4.0.

Это модель распознавания симптомов в итальянских клинических текстах, разработанная командой NLP4BIA Барселонского суперкомпьютерного центра для задачи MultiClinNER в рамках MultiClinAI. Модель основана на BERT для итальянского языка с сохранением регистра и дообучена для token classification: она помечает упоминания симптомов тегами BIO — B-SYMPTOM и I-SYMPTOM — и остальные токены тегом O. Модель содержит 137,1 млн параметров, принимает текст и имеет контекстное окно 512 токенов. Для длинных документов авторы рекомендуют обработку с шагом stride=128. Чтобы воспроизводить опубликованные результаты и точнее определять границы сущностей, при инференсе следует использовать ту же предварительную токенизацию, что и при обучении; обычная токенизация может менять предсказания около знаков препинания. На тестовом наборе MultiClinNER модель получила строгий F1 0,5758 и символьный F1 0,7292. Оценка систематических смещений не проводилась. Лицензия — CC BY 4.0.

thainq107/ner-biomedical-maccrobat2018 — модель DistilBERT для распознавания и разметки биомедицинских сущностей в тексте. Она дообучена на базе d4data/biomedical-ner-all на датасете, который в карточке не описан; архитектура использует токенную классификацию, а максимальная длина контекста составляет 512 токенов. Модель предназначена для извлечения медицинских сущностей из биомедицинских и клинических текстов. В README приведены результаты на оценочном наборе: loss 0,6342 и accuracy 0,7903; состав набора и подробности оценки не раскрыты. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Это англоязычная текстовая модель Sentence Transformer, дообученная vab46 на базе nomic-ai/nomic-embed-text-v1.5 на парах «запрос — положительный фрагмент» из набора Clinical_trials_anchor-positive-pairs_EmbeddingModel-data2. Модель кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения смысловой близости, семантического поиска и извлечения информации из текстов клинических исследований. Архитектура включает NomicBertModel с усреднением токенных представлений; сходство оценивается косинусной метрикой. Обучающий набор содержит 7 869 примеров. Поддерживаются вложения разной размерности от 64 до 768 для сценариев Matryoshka. Метаданные указывают контекст 2 048 токенов; в README заявлен максимум 8 192 токена, поэтому фактическую поддерживаемую длину следует сверять с используемой конфигурацией. Модель рассчитана на английские тексты клинических исследований и может использоваться для поиска подходящих фрагментов по медицинскому вопросу, сопоставления описаний и кластеризации. README приводит оценку поиска и сравнение с базовой моделью на обучающих данных, но не описывает независимую проверку на других наборах. Лицензия — Apache-2.0.

OpenMed разработала OpenMed-NER-AnatomyDetect-MultiMed-568M — специализированную модель распознавания анатомических сущностей в биомедицинских текстах. Она размечает названия анатомических структур и частей тела тегами B-Anatomy и I-Anatomy, например в клинических записях и научной литературе. Модель построена на архитектуре XLM-RoBERTa и содержит около 658,7 млн параметров. Она принимает токенизированный текст и возвращает BIO-разметку для задачи token classification; заявленная длина контекста — 8194 токена. В README указаны английский язык и F1, precision и recall около 0,90 на корпусе ANATOMY. Модель подходит для извлечения анатомических упоминаний при анализе медицинской документации и биомедицинских публикаций. README также перечисляет сценарии вроде медицинского поиска и построения баз знаний, однако модель размечает именно анатомические сущности, поэтому не следует считать её средством распознавания лекарств или лекарственных взаимодействий. Распространяется по лицензии Apache-2.0.

arcee-ai/PMC_LLaMA_Vicuna_13B_Slerp — объединённая языковая модель, созданная Arcee AI методом SLERP с помощью mergekit на основе axiong/PMC_LLaMA_13B и lmsys/vicuna-13b-v1.3. Модель использует архитектуру LLaMA с плотной декодерной сетью LlamaForCausalLM и содержит 12,9 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов; объединение медицинской PMC_LLaMA с Vicuna ориентировано на сочетание медицинской тематики с возможностями чат-модели. Она принимает текст и генерирует текст, поддерживает контекст до 2048 токенов. Опубликованные веса доступны в формате safetensors. Лицензия — Apache-2.0. Карточка не приводит оценок качества или подробных ограничений применения; медицинские ответы не следует считать профессиональной диагностикой или рекомендацией.

BSC-LT/roberta-base-biomedical-es — предварительно обученная языковая модель RoBERTa для испанских биомедицинских текстов, разработанная исследовательской группой, указанной в публикации о моделях для биомедицинского и клинического языка. Модель содержит 153,2 млн параметров, использует архитектуру RoBERTa и контекст до 514 токенов. Она обучалась методом masked language modeling на корпусе примерно из 963 млн токенов, собранном из испанских биомедицинских источников. Модель предназначена для восстановления замаскированных слов, а также для дообучения под задачи распознавания медицинских сущностей и классификации текстов. В оценке на PharmaCoNER, CANTEMIST и ICTUSnet она показала результаты выше сравнивавшихся mBERT и BETO. Для работы с ней доступны веса PyTorch; лицензия — Apache-2.0. Карточка сообщает, что модель перенесена в другой репозиторий и вскоре будет удалена.

tnayajv2.0 — разговорная языковая модель Jayant AI Labs для генерации текста в медицинской и биомедицинской областях. Согласно карточке, она дообучена на основе Meta-Llama-3-8B-Instruct с использованием DPO-данных и медицинских инструкций. Архитектура — плотная LlamaForCausalLM; метаданные указывают 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для диалоговой генерации и подготовки ответов по медицинским и биологическим темам. В карточке заявлена специализация на медицине и науках о жизни, но количественные результаты оценки не приведены. Доступна по лицензии Apache-2.0.

Карточка модели FreedomIntelligence/Apollo-2B на Hugging Face совпадает с карточкой FreedomIntelligence/Apollo-1.8B, поэтому описание составлено по ней. Apollo-1.8B — языковая модель семейства Qwen, представленная проектом FreedomIntelligence для работы с медицинскими текстами и вопросами. Она предназначена для генерации ответов в формате диалога и охватывает медицинские знания на нескольких языках. Модель содержит 2,3 млрд параметров, использует плотную архитектуру QWenLMHeadModel и поддерживает контекст до 8192 токенов. В карточке описаны английский и китайский наборы медицинских тестов, а также оценки на испанском, французском, хинди и арабском; для обучения упоминаются данные на английском, китайском, испанском, французском и хинди. Модель можно применять для ответов на медицинские вопросы и учебных задач по медицинским знаниям. В README приведены наборы для обучения и оценки, но нет подробных результатов, поэтому качество на конкретных задачах по этой карточке определить нельзя. Модель распространяется по лицензии Apache-2.0.

Arcane-7B — языковая модель с архитектурой Llama, разработанная ar3xop и дообученная для анализа психического здоровья. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текстовые выводы; контекст — до 4096 токенов. В карточке описаны анализ депрессивных симптомов, причин стресса, риска суицида, одиночества и эмоционального благополучия, включая оценку дистресса и объяснимые выводы. Модель предназначена для анализа разговоров и социальных взаимодействий в сценариях скрининга и оценки эмоционального состояния. Карточка не приводит результаты клинической валидации, поэтому её выводы не следует считать диагнозом или заменой профессиональной помощи. Лицензия — Llama 2 Community License.

Asclepius 13B-GGUF — текстовая медицинская языковая модель на архитектуре Llama с 13 млрд параметров. Исходную модель разработал Junu Kim, а TheBloke подготовил её варианты в формате GGUF. Модель обучалась с использованием набора starmpcc/Asclepius-Synthetic-Clinical-Notes и предназначена для работы с англоязычными клиническими текстами, в частности с выписками пациентов и инструкциями медицинских специалистов. Основной сценарий — формирование кратких и уместных ответов по фрагменту выписки или другого клинического документа. Модель работает в текстовом режиме; сведения о поддержке других модальностей, размере контекста и специализированных оценках в README не указаны. GGUF-версии доступны с различными уровнями квантования, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет запускать их с использованием CPU и GPU через llama.cpp и совместимые интерфейсы и библиотеки. К сильным сторонам относятся специализация на клинических текстах, компактные квантованные варианты и возможность локального запуска. Ограничения включают англоязычную направленность, возможную потерю качества при сильном квантовании и отсутствие в предоставленных данных подробных результатов оценки, гарантий клинической точности и требований к аппаратному обеспечению. Лицензия указана как other, но её конкретные условия README не раскрывает.

Asclepius-Llama2-13B-imatrix-GGUF — набор imatrix-квантизаций модели Asclepius-Llama2-13B, разработанной starmpcc и опубликованной в формате GGUF пользователем duyntnet. Модель основана на архитектуре Llama 2 с 13 млрд параметров и предназначена для генерации текста в медицинском и клиническом контексте. Модель ориентирована на обработку англоязычных медицинских текстов, включая выписки пациентов, и ответы на инструкции медицинских специалистов: например, формулирование предполагаемого диагноза по фрагменту выписки. Для запуска поддерживаются llama.cpp, JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. Формат GGUF и imatrix-квантизация позволяют использовать модель через совместимые локальные инструменты, потенциально снижая требования к ресурсам по сравнению с полной версией, однако конкретные варианты квантизации и их характеристики в README не указаны. Сильной стороной модели является специализация на клинических сценариях и возможность локального текстового вывода. Ограничения включают поддержку только английского языка, отсутствие заявленных мультимодальных возможностей и неизвестные параметры контекстного окна. Модель не следует рассматривать как замену профессиональной медицинской оценке: README не содержит сведений о точности, клинической валидации и безопасности применения. Лицензия указана как other, без дополнительных условий в предоставленных данных.