IV.8Государственное управление, правосудие и чрезвычайные ситуации
В разделе собраны самостоятельные задачи, где AI помогает улучшать государственные услуги, управление ресурсами, правосудие и реагирование на чрезвычайные ситуации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
2 517 моделейAtlantis-Pyramid 14B (Glyph) — языковая модель Coralfil OS, дообученная на базе Qwen/Qwen2.5-14B-Instruct для задач морской науки. Это плотная причинно-авторегрессионная архитектура Qwen2 с 14 млрд параметров; модель принимает текст и генерирует текст в диалоговом формате. Контекст модели — до 32 768 токенов, хотя в описании обучения указана максимальная длина последовательности 2048 токенов. Модель предназначена для ответов на вопросы по морской биологии, анализа коралловых рифов, подбора параметров аквакультуры, интерпретации океанографических данных и оценки экологических требований. Она дообучена методом SFT с LoRA, адаптеры обучались в 4-битном режиме и затем были объединены с базовой моделью. Поддерживаемый язык карточки — английский. Лицензия — Apache-2.0. Специализация на морской тематике может снижать качество на задачах вне этой области по сравнению с базовой моделью. Ответы для важных решений следует проверять с экспертами; модель не предназначена для медицинских или критически важных задач.
meddoc — медицинский ассистент Mittai17 для пользователей в сельских районах Индии. Это мультимодальная модель на основе Google MedGemma 1.5, распространяемая в формате GGUF с квантизацией Q4_K_M; указанный файл модели занимает 3,3 ГБ. Она принимает текстовые вопросы на английском или тамильском, включая Tanglish, и изображения кожи, ран, рентгеновских снимков и лабораторных отчётов. Модель отвечает на языке пользователя и предназначена для практических рекомендаций первой помощи: описывает меры предосторожности, пошаговый домашний уход и признаки, при которых нужно обратиться за профессиональной помощью. В ответах предусмотрены экстренные номера служб Индии. Модель может описывать медицинские изображения и подсказывать дальнейшие действия, но автор подчёркивает, что это не инструмент клинической диагностики. Для медицинских решений и при тревожных симптомах следует обратиться в больницу или к медицинскому специалисту. Модель адаптирована на основе MedGemma 1.5 и распространяется с учётом условий Health AI Developer Foundations; в метаданных лицензия обозначена как other.
Omi Med STT v1 MLX — полноточный экспорт модели Omi Health для распознавания медицинской речи в текст на устройствах Apple Silicon с использованием MLX. Это вариант весов модели Omi Med STT v1, дообученной для транскрибации медицинской речи и клинических диалогов на английском языке. Модель предназначена для локального преобразования аудиозаписей в текст, например для транскрибации медицинских разговоров. Для запуска автор рекомендует пакет omi-med-stt и CLI с параметром runtime mlx; чекпойнт не совместим напрямую с parakeet-mlx. Для большинства пользователей Mac в README рекомендован отдельный экспорт q8; показатели его бенчмарка нельзя переносить на эту полноточную версию, которая отдельно не прошла квалификацию для runtime Apple. Модель использует архитектуру семейства FastConformer/Conformer и принимает аудио, выдавая текст. Веса опубликованы под лицензией CC BY 4.0. Распознавание не является диагностикой или клинической поддержкой решений, а транскрипты необходимо проверять перед клиническим использованием.
OpenFACADES-InternVL3-2B — мультимодальная модель компьютерного зрения и языка, дообученная для анализа фасадов зданий и архитектурных элементов. Она принимает изображения фасадов и позволяет получать их текстовое описание и ответы о видимых архитектурных особенностях. Модель основана на архитектуре InternVL3-2B, а в метаданных базовой моделью указана OpenGVLab/InternVL2_5-2B. В карточке заявлена специализация на строительном анализе и архитектуре; размер указан в названии модели. Репозиторий использует Transformers и формат safetensors. Лицензия — Apache-2.0.
AvitoTech SigLIP2-Base for Animal Identification — модель зрения, дообученная на базе google/siglip2-base-patch16-224 для распознавания отдельных кошек и собак. Она принимает изображения размером 224×224 пикселя и выдаёт векторы признаков размерностью 768, предназначенные для сопоставления и повторной идентификации животных.
Cipher-AI/Substitution-Cipher-Text-Turkish — модель преобразования текста в текст на базе T5-Base, дообученная для расшифровки турецких текстов, закодированных моноалфавитным шифром простой замены. Она использует статистические и языковые закономерности турецкого языка, чтобы восстановить исходное сообщение; например, подходит для декодирования коротких сообщений и текстов на турецком языке. Модель содержит 123,8 млн параметров, использует архитектуру T5ForConditionalGeneration и имеет контекст длиной 512 токенов. Поддерживает турецкий язык; файлы весов представлены в формате safetensors. Лицензия — Apache-2.0. Модель предназначена именно для шифров простой замены, где каждой букве открытого текста соответствует своя буква шифротекста. README не сообщает точность на тестах или ограничения по длине входа, а успешное восстановление текста зависит от языковых закономерностей и достаточного объёма шифротекста.
ClinicalEncoder26AM — дообученная на базе BAAI/bge-m3 мультиязычная модель семейства XLM-RoBERTa от Parallia для поиска и сопоставления клинических текстов. Она использует архитектуру ColBERT с поздним взаимодействием токенов и поддерживает кодирование запросов и документов длиной до 8194 токенов, выдавая векторы размерности 1024 и оценивая сходство с помощью MaxSim. Для работы с ColBERT-индексами предлагается библиотека PyLate. Модель предназначена для поиска клинических документов, ранжирования результатов и сопоставления медицинских текстов на английском, испанском, французском, немецком и нидерландском языках. Карточка также описывает применение токенных представлений для сопоставления с медицинскими понятиями и дообучение для задач вроде медицинского распознавания сущностей, однако для извлечения локальных сопоставлений и оценок правдоподобия требуются адаптеры. Это нев генеративная модель представлений, а не средство постановки диагноза; заявленные интерпретируемость, скорость и качество не сопровождаются в карточке количественными оценками. Лицензия — CC-BY-NC 4.0; для коммерческого использования автор просит получить отдельную лицензию.
Compumacy-Shrink-24B-i1-GGUF — квантизированная версия модели Compumacy-Shrink-24B, разработанной командой Compumacy и подготовленной в формате GGUF пользователем mradermacher. Модель ориентирована на генерацию англоязычного текста в задачах, связанных с психологией, психиатрией, клинической оценкой и тематикой психического здоровья. В качестве источника данных указан набор Daemontatox/Psy-Data-books. Модель имеет заявленный размер 24B параметров и распространяется в нескольких вариантах квантизации i1, включая IQ1, IQ2, IQ3, IQ4, IQ5 и IQ6, объёмом примерно от 5,4 до 19,4 ГБ. README также называет её vision-моделью; для работы с визуальными входами могут потребоваться дополнительные файлы mmproj из статического репозитория. Сведения о точной архитектуре, размере контекста и перечне поддерживаемых модальностей, кроме этого указания, не приведены. Основное преимущество — возможность запуска локально с выбором компромисса между размером, скоростью и качеством через разные варианты квантизации; для общего использования автор рекомендует i1-Q4_K_M, а i1-Q4_K_S отмечен как оптимальный по соотношению размера, скорости и качества. Ограничения включают заметную зависимость качества от выбранного уровня квантизации и отсутствие в README результатов бенчмарков. Модель распространяется по лицензии Apache-2.0.
MedGemma 4B IT GGUF — мультимодальная instruction-tuned модель семейства MedGemma, разработанная Google и представленная в формате GGUF. Основой служит google/medgemma-4b-pt, а конвертация выполнена с использованием llama.cpp. Модель предназначена для медицинских приложений, где требуется генерация текста и понимание медицинских изображений, включая анализ рентгенограмм грудной клетки, дерматологических и офтальмологических изображений, а также гистопатологических данных. Мультимодальная часть использует визуальный энкодер SigLIP, предварительно обученный на обезличенных медицинских данных, а языковая модель обучалась на медицинских текстах и вопросах и ответах. Точные сведения о размере контекста, языках и конкретной схеме квантования в карточке не указаны. Instruction-tuned версия рекомендована как отправная точка для большинства прикладных сценариев; модель оптимизирована для задач с текстовой генерацией и может дообучаться под специализированные приложения. Для задач классификации или поиска по изображениям без генерации текста рекомендуется использовать MedSigLIP. Модель не следует рассматривать как готовую медицинскую диагностическую систему: перед применением в клинических сценариях необходимы проверка, оценка и адаптация под конкретную задачу. Использование регулируется условиями Health AI Developer Foundations; доступ на Hugging Face требует ознакомления и согласия с этими условиями.
MedPsy-1.7B-GGUF — это GGUF-версия медицинской языковой модели MedPsy-1.7B, разработанная Tether AI Research. Модель основана на Qwen3-1.7B (Thinking) и предназначена для генерации текста на английском языке в медицинских, клинических и связанных со здравоохранением сценариях. Это текстовая авторегрессионная модель с архитектурой decoder-only Transformer и примерно 1,7 млрд параметров. Публикация ориентирована на полностью локальный запуск через llama.cpp и QVAC SDK — от ноутбуков до смартфонов начального уровня. Доступны неотквантизированный вариант BF16 размером около 4,07 ГБ и семь квантованных вариантов размером примерно от 0,89 до 2,16 ГБ. Q8_0 обеспечивает качество, близкое к исходной модели, а Q4_K_M позиционируется как оптимальный компромисс между размером и качеством для смартфонов. К преимуществам относятся локальный запуск без передачи данных на сервер, поддержка нескольких уровней квантования и адаптация к устройствам с ограниченными ресурсами. При этом низкобитные варианты могут заметно снижать качество и повышать риск галлюцинаций; варианты IQ3_M и IQ3_XXS не рекомендуются для медицинского использования. Модель следует применять как вспомогательный инструмент, а не как замену квалифицированному медицинскому специалисту. Распространение осуществляется по лицензии Apache 2.0.
MiniCPM-RobotTrack — компактная модель vision-language-action для сопровождения заданной цели в физической среде, разработанная OpenBMB на основе MiniCPM4-0.5B. Она объединяет текстовую инструкцию с визуальными признаками DINOv3 и SigLIP и предсказывает восемь будущих путевых точек в формате [x, y, yaw] для следования за человеком.
MMedLM — мультиязычная медицинская языковая модель с 6,9 млрд параметров, разработанная авторами проекта Towards Building Multilingual Language Model for Medicine. Это плотная авторегрессионная модель семейства InternLM, дополнительно предобученная на медицинском корпусе MMedC; она не проходила дообучение для следования инструкциям. Модель предназначена для работы с медицинскими текстами и извлечения признаков, а также поддерживает генерацию текста, в том числе ответы на медицинские вопросы на нескольких языках. Контекст модели составляет 2048 токенов. В карточке указана поддержка английского, китайского, японского, французского, русского и испанского языков. Модель доступна в форматах PyTorch и Safetensors по лицензии Apache-2.0. В README отмечены ограничения совместимости: с актуальной версией Transformers могут возникать ошибки; авторы рекомендуют версию 4.28.1. Поскольку модель не настроена следовать инструкциям, для диалоговых сценариев может потребоваться дополнительное дообучение.
Phora68/rapha-embed-clinical-v1 — текстовая Sentence Transformer модель, дообученная на основе BAAI/bge-small-en-v1.5 для клинического семантического поиска и сопоставления предложений. Она кодирует предложения и абзацы в плотные векторы размерности 384, нормализует их и сравнивает по косинусному сходству. Архитектура включает BERT-трансформер и pooling по CLS-токену; метаданные указывают 40 млн параметров и контекст до 512 токенов, тогда как в README заявлена максимальная длина последовательности 128 токенов. Модель обучалась на парах клинически связанных и несвязанных текстов с MultipleNegativesRankingLoss. Примеры показывают сопоставление жалоб пациентов с клиническими наблюдениями и выделение тревожных симптомов, поэтому модель подходит для поиска клинически релевантных фрагментов и ранжирования кандидатов. Она принимает и выдаёт текстовые представления через векторные эмбеддинги; базовая BGE-модель англоязычная, а приведённые примеры и описание датасета также на английском. Модель предназначена для поиска и сравнения текстов, а не для постановки диагноза или генерации медицинских рекомендаций. README не сообщает лицензию; численные результаты приведены только для TripletEvaluator на наборе rapha-val и не подтверждают клиническую безопасность или пригодность для других данных.
Модель разработана командой NLP4BIA Барселонского суперкомпьютерного центра (BSC) и дообучена на части набора CARMEN-I, посвящённой анонимизации. Это испаноязычная модель RoBERTa для классификации токенов в клинических и электронных медицинских записях; в метаданных указано 151,8 млн параметров и контекст до 514 токенов. Модель предназначена для выявления и разметки токенов в рамках задач анонимизации медицинских текстов. Перед подачей текста авторы рекомендуют предварительно разбивать его на слова, поскольку так модель обучалась; подача без такой токенизации может повлиять на качество. Модель опубликована под лицензией CC BY 4.0. Авторы не оценивали встроенные смещения и предупреждают о возможном наличии нежелательных искажений. При применении в системах ответственность за снижение связанных с использованием рисков и соблюдение применимых требований лежит на пользователе.
DepRoBERTa — языковая модель на базе RoBERTa-large, разработанная для работы с текстами, связанными с депрессией. Авторы дополнительно предварительно обучили её на публикациях Reddit с признаками депрессивного содержания. Модель использовалась в решении, занявшем первое место в соревновании LT-EDI-ACL2022 по выявлению признаков депрессии в текстах социальных сетей. Модель имеет архитектуру RoBERTaForMaskedLM, содержит 454,1 млн параметров и принимает последовательности длиной до 514 токенов. В Hugging Face она опубликована в форматах PyTorch и safetensors, а основная задача в метаданных — fill-mask. Её можно применять для заполнения замаскированных фрагментов текста и как основу для анализа публикаций, связанных с выявлением признаков депрессии. Модель ориентирована на английские тексты. Результаты анализа таких публикаций не являются диагнозом и требуют осторожной интерпретации; README не сообщает условия лицензирования модели.
GatorTron-Base — клиническая языковая модель, созданная совместно Университетом Флориды и NVIDIA. Это плотная BERT-модель на 345 млн параметров, реализованная с помощью Megatron и доступная в формате PyTorch; она преобразована для использования в Hugging Face. Метаданные указывают 454 млн параметров, а карточка README — 345 млн; размер следует считать противоречивым. Модель предварительно обучена на клинических записях Университета Флориды и MIMIC-III, а также на текстах PubMed и WikiText. Она предназначена для получения контекстных представлений клинического текста и может служить основой для извлечения медицинских понятий, распознавания именованных сущностей, извлечения отношений и выявления социальных детерминант здоровья в клинических повествованиях. Максимальная длина входа этой версии — 512 токенов. Для предварительного обучения использовались обезличенные клинические записи; README описывает замену 18 категорий персональных медицинских данных фиктивными строками. Это не гарантирует обезличивание пользовательских входов и не делает модель готовой к клиническим решениям: её применение требует оценки и подходящей настройки под задачу. Лицензия репозитория — Apache-2.0.
LLMLight-LightGPT — модель для управления светофорными сигналами с помощью больших языковых моделей, разработанная авторами проекта LLMLight. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, содержащая 12,9 млрд параметров и принимающая текстовый контекст длиной до 4096 токенов. Веса обучены для исследования применения языковых моделей в качестве агентов управления дорожными сигналами; для запуска требуется следовать инструкциям репозитория LLMLight. Модель предназначена для генерации текстовых решений в сценариях управления светофорами. Карточка указывает английский язык и форматы PyTorch и safetensors. Лицензия — MIT. README не приводит оценок качества, подробностей обучения или ограничений применения, поэтому пригодность для реального дорожного управления по этим данным оценить нельзя.
Medra27B-i1-GGUF — это набор GGUF-квантизаций медицинской языковой модели Medra27B, разработанной nicoboss и квантизированной mradermacher. Модель создана на базе Gemma 3 и дообучена на наборе данных medra-medical; в карточке также указаны сценарии генерации текста, суммаризации и диагностического рассуждения. Модель ориентирована на медицинские задачи и поддерживает английский и румынский языки. Она заявлена как vision-модель, поэтому для работы с изображениями могут потребоваться файлы mmproj из статического репозитория Medra27B-GGUF. Точное число параметров исходной модели указано в названии как 27B, однако размер контекста и подробности архитектуры в README не приведены. Репозиторий содержит варианты квантизации разных типов и размеров — примерно от 6,4 до 22,3 ГБ. Это позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством; для Q4_K_M заявлены высокая скорость и рекомендация, а для некоторых низкобитных вариантов отмечено снижение качества. Модель следует использовать как вспомогательный инструмент, поскольку медицинские ответы могут содержать ошибки и не заменяют консультацию специалиста. Лицензия — Apache-2.0.
MentalBERT — англоязычная языковая модель на основе BERT-Base, обученная авторами модели на публикациях Reddit, связанных с психическим здоровьем. Это предварительно обученная модель с маскированием токенов, предназначенная для заполнения пропусков в тексте и адаптации к задачам анализа текстов о психическом здоровье. Модель может служить основой для исследований и систем предварительного выявления признаков психических расстройств в открытых онлайн-публикациях, а также для дальнейшего дообучения под профильные задачи. Она не предназначена для постановки психиатрических диагнозов. Авторы отмечают возможные смещения, проблемы справедливости, неопределённость и ограничения интерпретируемости. Веса распространяются по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
Модель разработана командой NLP4BIA Барселонского суперкомпьютерного центра для распознавания названий заболеваний в англоязычных клинических текстах. Это дообученная для NER модель BiomedBERT на архитектуре BERT с 136,7 млн параметров; она размечает токены тегами BIO: O, B-DISEASE и I-DISEASE. Модель принимает текст и возвращает метки для фрагментов, относящихся к заболеваниям. Контекст ограничен 512 токенами; для длинных документов в рекомендованной настройке используется перекрытие stride=128. На тестовых документах MultiClinNER модель получила strict F1 0,7057 и посимвольную F1 0,8002. Для воспроизведения результатов важно использовать предтокенизацию, применявшуюся при обучении, и согласовать метки с исходными смещениями текста; при обычной токенизации границы сущностей, особенно рядом с пунктуацией, могут отличаться. Авторы не оценивали смещения модели. Лицензия — CC BY 4.0.
Это базовый чекпойнт NaVILA, адаптированный для платформы SatNav — навигации по спутниковым картам с непрерывным состоянием. Модель разработана для предсказания компактных управляющих действий по текстовой инструкции и восьми RGB-кадрам наблюдений. В основе лежит a8cheng/navila-siglip-llama3-8b-v1.5-pretrain; модель полной настройкой дообучена один проход на офлайн-траекториях SatNav-v0.1 и выдаёт действия stop, forward, left или right. Модель предназначена для интеграции с SatNav NaVILA и включена в SatNav Baseline Model Zoo. Архитектура — LlavaLlamaModel, семейство LLaVA на основе Llama 3, с визуальным кодировщиком SigLIP; веса доступны в формате safetensors. Для использования применяется лицензия Llama 3. Суффикс scratch указывает на базовую инициализацию до последующего обучения навигации, поэтому этот чекпойнт следует считать промежуточной версией для экспериментов и оценки, а не готовой универсальной навигационной моделью.
rafalposwiata/roberta-large-depression — модель классификации текста на основе RoBERTa-large, дообученная для выявления уровня депрессии по публикациям в социальных сетях на английском языке. Она относит текст к одному из трёх классов: отсутствие депрессии, умеренная депрессия или тяжёлая депрессия. Модель содержит 454,1 млн параметров, использует архитектуру RobertaForSequenceClassification и принимает текстовые последовательности с контекстом до 514 токенов. Она участвовала в решении, занявшем первое место в соревновании LT-EDI-ACL2022 по выявлению признаков депрессии в текстах социальных сетей. Модель предназначена для автоматической классификации текстов и исследовательского анализа публикаций. Её результаты не являются клиническим диагнозом; качество за пределами англоязычных публикаций в социальных сетях может отличаться. Лицензия в предоставленных данных не указана.
Arcane-T5 — модель семейства T5 с архитектурой sequence-to-sequence, предназначенная для анализа тем психического здоровья и генерации клинических объяснений. Карточка модели указывает, что её разработал владелец репозитория ar3xop. Модель содержит 385,2 млн параметров, принимает текст и генерирует текст; длина контекста — 512 токенов. В метаданных указан английский язык, а для работы с моделью используется PyTorch. Репозиторий распространяется по лицензии Apache-2.0. Модель подходит для исследовательских и вспомогательных сценариев, связанных с анализом текстов о психическом здоровье и подготовкой клинических объяснений. Карточка не описывает обучение, оценку качества или клиническую валидацию, поэтому её ответы не следует считать подтверждёнными медицинскими заключениями.
Na0s/Medical-Whisper-Large-v3 — модель распознавания речи, разработанная Na0s путём дообучения Whisper large-v3 от OpenAI на консультациях врача и пациента. Она предназначена для транскрибации медицинских разговоров. Модель содержит 905,2 млн параметров и представлена в формате safetensors; в метаданных указан английский язык, а лицензия — Apache-2.0. В README для валидационного набора приведены показатели WER 0,24 и CER 0,13 для Medical Whisper, однако таблица также указывает 1,55 млрд параметров, что расходится с метаданными репозитория. Результаты тестирования отдельно заявлены, но численные показатели теста не приведены. Модель унаследовала возможности Whisper large-v3, но карточка не описывает её точность на других медицинских данных или языках.
Модель разработана командой NLP4BIA Барселонского суперкомпьютерного центра для распознавания упоминаний медицинских процедур в испанских клинических текстах. Это дообученная модель RoBERTa PlanTL-GOB-ES/bsc-bio-ehr-es с 151,8 млн параметров и контекстом до 514 токенов. Она выполняет токенную классификацию по BIO-схеме, присваивая токенам метки O, B-PROCEDURE и I-PROCEDURE. Модель предназначена для извлечения упоминаний процедур из клинической документации и электронных медицинских карт. На тестовом наборе MultiClinNER для испанского языка строгий F1 составил 0,6811, а символьный F1 — 0,7645. Для воспроизведения результатов важна такая же предварительная токенизация, как при обучении; при обработке длинных документов рекомендуется использовать stride 128. Модель распространяется по лицензии CC BY 4.0. Авторы предупреждают о возможных смещениях и искажениях и возлагают на пользователей ответственность за оценку рисков и соблюдение применимых норм.
AiHub4MSRH-Hash дообучил Sunflower-Qwen3.5-9B — плотную мультимодальную модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration. Репозиторий содержит веса в формате safetensors; модель обучали с использованием Unsloth и библиотеки TRL. Модель предназначена для диалоговой работы с изображениями и текстом, включая медицинские сценарии, на что указывает название репозитория. Она принимает текст и изображения и формирует текстовые ответы; карточка также заявляет интерфейс для вызова инструментов. Данных о размере параметров, длине контекста и конкретных медицинских задачах в предоставленных источниках нет. Лицензия — Apache-2.0. Качество и границы применимости в медицинских сценариях в карточке не описаны.
Asclepius-Llama3-8B — клиническая языковая модель, разработанная командой Asclepius и дообученная на базе Llama 3 8B. Это плотная авторегрессионная архитектура LlamaForCausalLM с 7,5 млрд параметров и контекстом до 8192 токенов; модель принимает и генерирует текст на английском языке. Модель предназначена для клинического NLP по медицинским записям: извлечения именованных сущностей и отношений, раскрытия сокращений, извлечения временных связей, разрешения кореференции, перефразирования, суммаризации и ответов на вопросы. В карточке указано, что модель следует использовать только для исследований; она не предназначена для самостоятельных клинических решений. Лицензия CC-BY-NC-SA 4.0 требует указания авторства и распространяет производные работы на тех же условиях, запрещая коммерческое использование.
IIC/bert-base-spanish-wwm-cased-meddocan — дообученная модель BERT для обработки испанских клинических текстов на наборе данных MEDDOCAN. Она предназначена для извлечения медицинских сущностей и их классификации по токенам; в README приведён результат F1 0,957 на бенчмарке MEDDOCAN. Модель содержит 137,1 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в форматах PyTorch и Safetensors. Лицензия — CC BY 4.0.
Portuguese Clinical NER - Diagnostic — модель для распознавания диагностических клинических сущностей в португальских текстах. Она входит в проект BioBERTpt, разработанный авторами проекта; модель обучена на бразильском клиническом корпусе SemClinBr на базе BioBERTpt(all) в течение 10 эпох и размечает последовательности в формате IOB2. Архитектура — BERT для классификации токенов, размер — 205,1 млн параметров, контекст — до 512 токенов. Модель предназначена для извлечения диагностических сущностей из клинических текстов и совместима с UMLS. Доступны веса PyTorch. Лицензия в предоставленных данных не указана.
DoctoBERT-fr-base — франкоязычный медицинский энкодер на архитектуре RoBERTa от Doctolib Lab, предварительно обученный с нуля на корпусах FineMed-fr и FineMed-rephrased-fr. Модель предназначена для биомедицинской и клинической обработки французского текста: заполнения пропусков, а после дообучения — распознавания сущностей, классификации и поиска по медицинским текстам. В README указано 111 млн параметров, 12 слоёв и контекст до 512 токенов; метаданные указывают 138,4 млн параметров и 514 токенов. Токенизатор SentencePiece BPE обучен на 32 768 токенах и учитывает плотную медицинскую лексику. В оценке DrBenchmark модель показала лучшие совокупные результаты среди сравниваемых энкодеров, лидируя в пяти из семи задач. Модель не генерирует текст и рассчитана на использование как энкодер с подходящей головой задачи или после дообучения. Она не является медицинским устройством, а её результаты не должны использоваться для принятия клинических решений; возможны смещения и пробелы, унаследованные от открытых веб-, PDF- и энциклопедических источников. Лицензия — Apache-2.0.