I.2Синтез, понимание и проверка знаний

Qwen3_Medical_GRPO — дообученная lastmass плотная языковая модель семейства Qwen3 с 3,7 млрд параметров, созданная на базе unsloth/Qwen3-4B-Base. После многоэтапного SFT модель дополнительно оптимизировали алгоритмом GRPO с несколькими вариантами награды за точность ответов. Модель предназначена для медицинских вопросов: она может разбирать сложные запросы, давать логический анализ и формировать структурированные ответы. Для подробного пошагового клинического рассуждения в README предлагается специальный токен в конце запроса. Модель принимает текст и генерирует текст; контекст — до 32 768 токенов. В метаданных указаны английский и китайский языки. Лицензия — Apache-2.0. Модель может допускать ошибки и пропуски в медицинских ответах. Разработчик предназначает её для академических исследований и технической коммуникации и предупреждает, что результаты не заменяют консультацию специалиста и не должны служить основанием для клинических решений.

Qwen3-Next-80B-A3B-Thinking-GRPO-Uncensored — разговорная модель генерации текста от puwaer, дообученная на базе Qwen/Qwen3-Next-80B-A3B-Thinking с помощью SFT и GRPO, используя LoRA. Она предназначена для диалогов, рассуждений и генерации ответов на запросы, включая запросы, на которые базовая модель обычно отказалась бы отвечать. Обучение включало многоязычные jailbreak-промпты, общие примеры и задачи на логику; в README приведены сравнительные оценки на наборах безопасности и общих возможностей. Модель принимает текст и генерирует текст. В метаданных для базовой модели перечислены английский, китайский и японский; README также описывает многоязычное обучение. Размер 80B в названии относится к архитектуре базовой модели, а активная часть MoE указана как A3B. Лицензия — CC BY-NC-SA 4.0, допускающая использование с условиями атрибуции, распространения на тех же условиях и некоммерческого применения. Модель специально обучена снижать частоту отказов и создавать убедительные вредоносные ответы, поэтому она не подходит для сценариев, где требуется надёжное соблюдение защитных ограничений. Результаты оценки в карточке получены с помощью gpt-4o-mini в роли судьи, и автор предупреждает, что оценки могут отличаться от оценки с gpt-4.

Qwen3OIE-0.6B — компактная модель для абстрактивного извлечения открытой информации на португальском языке, разработанная на основе Qwen/Qwen3-0.6B. Она принимает отдельное предложение и генерирует одно или несколько отношений в JSON с полями ARG0, V и ARG1. Это дообученная причинная языковая модель семейства Qwen3 на 507,9 млн параметров; репозиторий содержит веса safetensors, лицензия — Apache-2.0. Контекст базовой архитектуры составляет 40 960 токенов, но обучение модели использовало последовательности до 2 048 токенов, а более длинные входы не оценивались. Модель предназначена для структурирования отношений в португальских предложениях, например для извлечения субъектов, предикатов и объектов из энциклопедических текстов. На локальных экспериментах она может работать на CPU, но генерация носит абстрактивный характер: формулировки могут нормализоваться или выводиться моделью, а не буквально копироваться из источника. В оценке на 100 предложениях из небольшого набора данных F1 составил 0,1369 для точного совпадения и 0,3005 для лексического совпадения; эти результаты не гарантируют качество на других типах текста. Модель может пропускать или дублировать отношения, галлюцинировать и выдавать некорректный JSON, поэтому извлечённые поля следует проверять по исходному предложению.

RoLlama2-7b-Instruct-2024-05-14 — генеративная языковая модель OpenLLM-Ro, дообученная для следования инструкциям и общения на румынском языке. Она основана на RoLlama2-7b-Base и использует плотную архитектуру Llama с причинным языковым моделированием; размер составляет 6,6 млрд параметров, контекст — до 4096 токенов. Модель предназначена для диалогов с ассистентом и генерации ответов на запросы на румынском языке. Её дообучали на наборах RoAlpaca, RoAlpacaGPT4, RoDolly, RoSelfInstruct, RoNoRobots, RoOrca и RoCamel. Карточка ориентирует модель на исследовательское применение и предупреждает, что она не предназначена для использования на других языках. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

RoLlama3-8b-Instruct — румынская генеративная языковая модель OpenLLM-Ro, дообученная для следования инструкциям на основе Meta-Llama-3-8B-Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 8192 токенов; репозиторий содержит веса safetensors и поддерживает диалоговый режим. Модель предназначена для ответов ассистента и генерации текста на румынском языке. Её можно использовать для диалога, выполнения инструкций и создания румынских текстов; карточка описывает применение в исследованиях и адаптацию базовой модели к различным языковым задачам. Обучение проводилось на наборах инструкций и диалогов, включая RoAlpaca, RoDolly, RoOpenAssistant и RoUltraChat. Модель не предназначена согласно карточке для применения на языках, отличных от румынского. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование; качество и надежность ответов для конкретной задачи следует оценивать отдельно.

ScholarBERT100 — англоязычная модель семейства BERT, разработанная для работы с научной литературой. Она предварительно обучена на 221 млрд токенов из корпуса научных статей PRD, охватывающего гуманитарные, биомедицинские, физические, социальные и технические дисциплины. Модель использует архитектуру BERT-large с 24 слоями, скрытым размером 1024 и 16 головами внимания; она чувствительна к регистру и имеет контекст длиной до 512 токенов. Основная задача модели — предсказание замаскированных токенов в научном тексте: она может подставлять пропущенные слова и помогать анализировать контекст терминов в статьях. Доступны веса в форматах PyTorch и Safetensors. Лицензия — Apache-2.0. В README указано 340 млн параметров, тогда как метаданные Hugging Face сообщают 453,9 млн; размер модели в источниках расходится. Модель предназначена для английского языка и научных текстов; в карточке не заявлены возможности генерации связного текста или обработки других модальностей.

sfmunfilteredmidtrainmisalignment-10k11k12kweightedavgmerge — объединённая предобученная языковая модель, созданная с помощью mergekit. В README указан метод линейного слияния, а базой для объединения служил чекпойнт global_step12019; также использованы чекпойнты global_step10000 и global_step11000 из того же набора экспериментов. Модель построена на архитектуре GPT-NeoX и содержит 8,8 млрд параметров. Она предназначена для генерации текста и поддерживает диалоговый сценарий; максимальный контекст составляет 16 384 токена. В README и метаданных не описаны целевые языки или специализированные прикладные области. Это экспериментальное объединение чекпойнтов для изучения поведения модели на этапах обучения, связанных с misalignment. Данных о качестве, рекомендуемых сценариях развертывания и ограничениях вывода нет. Условия лицензии в предоставленных источниках не приведены.

ShareGPT4V-7B — открытая мультимодальная чат-модель, разработанная командой ShareGPT4V и предназначенная для диалога по изображениям и тексту. Модель обучена дообучением визуального энкодера CLIP и LLaMA/Vicuna на данных ShareGPT4V с описаниями, созданными с помощью GPT-4 Vision, и на инструкционных данных LLaVA. Модель содержит 6,6 млрд параметров, использует архитектуру Share4VLlamaForCausalLM и принимает изображения вместе с текстовыми запросами, формируя текстовые ответы. Контекст составляет 4096 токенов. Обучение включало 1,2 млн пар изображение–текст, 100 тыс. пар, созданных GPT-4 Vision, и данные LLaVA; модель предназначена прежде всего для исследований мультимодальных моделей и чат-ботов, а также для экспериментов с визуальными вопросами и описанием изображений. Ограничения включают унаследованные ошибки и предвзятости базовых моделей и обучающих данных, а также возможные неточности в распознавании содержимого изображений. Лицензия в предоставленных материалах не указана.

Ransaka/sinhala-bert-medium-v2 — предварительно обученная языковая модель семейства BERT для сингальского языка. Она предназначена для заполнения пропусков в тексте и может использоваться как основа для задач понимания сингальского текста. Модель содержит 54,5 млн параметров, имеет 6 слоёв Transformer, 6 голов внимания и размер скрытого слоя 786. Максимальная длина контекста — 256 токенов. Опубликованные веса представлены в формате Safetensors. Модель создана на основе данных на сингальском языке; сведения о составе обучающих данных и оценке качества не приведены. Лицензия MIT разрешает использование и распространение с соблюдением её условий.

vinayp27/smollm3-medical — дообученная модель HuggingFaceTB/SmolLM3-3B, созданная Vinay P. и обученная с помощью TRL. Это диалоговая языковая модель на 3,1 млрд параметров для генерации ответов на текстовые запросы; название указывает на медицинскую тематику, однако карточка не описывает конкретные медицинские задачи или обучение на медицинских данных. Модель использует архитектуру SmolLM3ForCausalLM и поддерживает контекст до 65 536 токенов. Она принимает текст и генерирует текст; метаданные отмечают возможность диалога. Для запуска в README приведён пример использования Transformers pipeline на GPU. Репозиторий содержит веса в формате safetensors. Лицензия и результаты медицинской оценки в предоставленных материалах не описаны. Не следует считать ответы модели проверенными медицинскими рекомендациями без независимой оценки.

Filtered — Instruct (1.7B) — языковая модель, разработанная командой model-raising для исследований выравнивания поведения и безопасности. Это плотная причинная модель семейства Llama с архитектурой SmolLM2-1.7B, обученная с нуля примерно на 100 млрд токенов, а затем дообученная на инструкциях с привязкой к персонам и конституционными ответами с внутритекстовыми ссылками. Модель предназначена для диалоговых запросов и экспериментов с обобщением ценностей, устойчивостью к jailbreak-запросам и конституционным выравниванием. Она принимает текст и генерирует текст; карточка указывает английский язык и контекст 2048 токенов. В README отмечено, что ответы могут быть неверными или небезопасными. Лицензия обозначена в метаданных как other, а в README — как ещё не окончательно определённая, поэтому условия использования требуют уточнения.

Карточка модели bigcode/starcoder-xo на Hugging Face совпадает с карточкой bigcode/starcoder-cxo, поэтому описание составлено по ней. bigcode/starcoder-cxo — экспериментальный чекпойнт ablation-модели OctoCoder от BigCode, опубликованный для исследовательского использования. Это плотная авторегрессионная языковая модель архитектуры GPTBigCode для генерации текста; в метаданных указана задача text-generation и контекстное окно 8192 токена. Репозиторий содержит веса PyTorch. В карточке указано, что обычно следует использовать OctoCoder, поскольку он показывает лучшие результаты. Размер модели, поддерживаемые естественные языки и условия лицензии в доступных данных не приведены.

Stockmark-13b — языковая модель компании Stockmark Inc., обученная с нуля на японском корпусе объёмом около 220 млрд токенов. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, реализованная для Transformers и распространяемая в формате safetensors. Обучение проводилось на AWS Trainium с использованием neuronx-nemo-megatron. Модель предназначена для генерации текста на японском языке. Её можно использовать как основу для адаптации под конкретные задачи; разработчик отдельно предоставляет инструкционно настроенную версию stockmark-13b-instruct. Контекст модели составляет 2048 токенов. В обучающий корпус вошли веб-тексты, патенты и Wikipedia. Модель выпущена по лицензии MIT. README не приводит результатов оценивания качества или подробных рекомендаций по эксплуатации; сравнительные преимущества и ограничения по конкретным задачам по имеющимся данным определить нельзя.

Tucano-2b4-Instruct — португалоязычная диалоговая языковая модель, разработанная командой TucanoBR как дообученная версия TucanoBR/Tucano-2b4. Модель основана на плотной архитектуре LLaMA с 2,4 млрд параметров и контекстом до 4096 токенов; доступна в форматах PyTorch и Safetensors и рассчитана на генерацию текста на португальском языке. Модель прошла supervised fine-tuning на наборах инструкций, включая примеры математики, а затем Direct Preference Optimization на данных предпочтений. Её можно использовать для исследований и разработки португалоязычных языковых моделей, а также для экспериментов с ответами на инструкции и математическими запросами. Лицензия — Apache 2.0. Разработчики не позиционируют модель как готовый продукт для взаимодействия с пользователями. Ответы могут содержать фактические ошибки, токсичность, предвзятость, повторы и лишние подробности; генерация кода ненадёжна, а работа на языках помимо португальского может быть слабой. Для применения в реальных сценариях требуется собственная оценка рисков и качества.

turkish-han-model — объединённая автором модель на архитектуре Llama для генерации текста и диалогового общения. Она создана методом SLERP с помощью mergekit из Sao10K/L3-8B-Stheno-v3.2 и ytu-ce-cosmos/Turkish-Llama-8b-Instruct-v0.1; в репозитории заявлено 7,5 млрд параметров, веса представлены в safetensors. Модель рассчитана прежде всего на общение на турецком языке и сочетает возможности турецкой инструкционной Llama с базой, ориентированной на ролевые диалоги и написание историй. Модель принимает текст и генерирует текст; максимальная длина контекста составляет 8192 токена. Её можно применять для турецких диалоговых интерфейсов, следования инструкциям и творческого письма. Метаданные указывают библиотеку Transformers и поддержку чата. Условия лицензии в предоставленных данных не приведены.

Uncensored-Frank-33B — англоязычная чат-модель для генерации текста, созданная ajibawa-2023 на базе Llama-1 от Meta. Модель дообучена на диалоговых данных, включая набор ehartford/wizard_vicuna_70k_unfiltered, а также на дополнительных синтетических беседах; автор сообщает примерно о 150 000 наборах разговоров и более чем 80 000 синтетических диалогах. Архитектура — плотная LlamaForCausalLM с 32,3 млрд параметров и контекстом 2048 токенов. Модель предназначена для развернутых бесед и ответов на вопросы по широкому кругу тем, в том числе политическим, спорным и чувствительным. Автор позиционирует её как модель с минимальными ограничениями и защитными механизмами; это может позволять обсуждать темы без стандартных фильтров, но повышает вероятность небезопасных или неподходящих ответов. Указана лицензия CC BY-NC-ND 4.0, ограничивающая коммерческое использование и распространение производных версий.

Uncensored_Replete_Coder_Qwen2_1.5b — модель для генерации текста, разработанная автором или организацией, связанной с идентификатором ICEPVP8977. По имеющимся данным, она ориентирована на англоязычные сценарии и относится к категории text-generation. Название указывает на возможную связь с задачами программирования и семейством Qwen2 с размером 1,5 млрд параметров, однако эти характеристики не подтверждены содержанием README. Точные сведения об архитектуре, поддерживаемых модальностях, размере контекста, возможностях кодогенерации, сильных сторонах, ограничениях и лицензии в README отсутствуют. Поэтому модель следует рассматривать как англоязычную генеративную текстовую модель с недостаточно документированными характеристиками.

Vidya 4B — дообученная языковая модель от Saket Nayak на базе Qwen/Qwen3.5-4B. Она создана как учебный ассистент для индийских школьников 6–12 классов, а также для подготовки к экзаменам IIT-JEE и NEET. Модель объясняет темы пошагово, приводит примеры из индийской учебной программы, помогает выявлять и исправлять типичные заблуждения и старается адаптировать объяснение к уровню ученика. Модель предназначена для генерации текста и ориентирована прежде всего на английский язык; поддержка Hindi заявлена, но ограничена. Указана максимальная длина последовательности 4096 токенов. Обучение выполнялось по схеме SFT и DPO на материалах NCERT, экзаменационных заданиях SATHEE и синтетических вопросах и ответах; применялись LoRA, DoRA и rsLoRA. Доступны полная версия в формате safetensors и 4-битная квантованная версия GGUF для Ollama и llama.cpp. По заявленной оценке на 30 примерах модель получила общий результат 4,1 из 5,0, особенно сильные показатели — за пошаговое объяснение, соответствие уровню ученика и работу с заблуждениями. Ограничения включают меньшую фактическую ёмкость по сравнению с 9B-вариантом, возможные ошибки в конкретных фактах NCERT, ограниченную поддержку Hindi и неоптимальность для задач вне индийской образовательной программы. Модель не предназначена для медицинских, юридических или критически важных рекомендаций. Распространяется по лицензии Apache 2.0.

yejin-korean-3b-v2-base는 cooler8이 처음부터 학습한 한국어 3B 파라미터 기반 언어 모델입니다. 학습에는 공개 корпус из 155 ГБ с корейскими материалами — в том числе AI Hub, CulturaX, Википедией и учебниками — и около 73 млрд токенов. Веса не основаны на публичных моделях Qwen: класс Qwen3ForCausalLM используется только для совместимости с архитектурой вычислений. Модель предназначена для продолжения текста и генерации на корейском языке, а также может работать с английским. Это плотная авторегрессионная модель с 28 слоями, 24 головами внимания, GQA и QK-Norm; контекст составляет 4096 токенов. Токенизатор — специализированный byte-level BPE на 64 тыс. токенов. Это базовая модель без инструкционного дообучения, поэтому для диалогового ассистента или выполнения инструкций может потребоваться дополнительное обучение. Лицензия — Apache-2.0.

Модель skr1125/53K_hindi_2B_merged_16bit_model — дообученная языковая модель семейства Gemma 2, разработанная skr1125 на основе unsloth/gemma-2-2b-bnb-4bit. Это плотная модель для генерации текста с 2,7 млрд параметров и контекстом до 8192 токенов; при обучении использовались Unsloth и библиотека Hugging Face TRL. Название указывает на обучение на данных хинди, однако карточка не описывает датасет или подтверждённые языковые возможности, а метаданные карточки отмечают английский язык. Модель предназначена для генерации текста и может использоваться в экспериментах с продолжением текста и созданием ответов. Опубликована в формате safetensors под лицензией Apache-2.0. Карточка не приводит оценок качества или подробных рекомендаций по применению, поэтому пригодность для конкретного сценария следует проверять отдельно.

lyogavin/Anima33B-DPO-Belle-1k-merged — это диалоговая языковая модель на архитектуре Llama с 32,3 млрд параметров и контекстом 2048 токенов. Разработчики дообучили Anima 33B методом DPO с использованием QLoRA: в качестве предпочтительных ответов взяли эталонные ответы из открытого набора Belle 1k, а ответы исходной модели использовали как отрицательные примеры. Модель предназначена для генерации ответов на вопросы и ведения диалога на китайском языке. DPO-настройка ориентирована на более подробные ответы и формат, соответствующий предпочтениям оценщиков. Примеры в карточке также показывают, что многословность может сопровождаться ошибочными сведениями и повторами. Репозиторий содержит веса PyTorch; лицензия указана как other, без конкретных условий в предоставленных данных. Для обучения авторы описывают запуск на GPU H100 с 80 ГБ памяти, однако это не задаёт требования к инференсу. Модель имеет короткое контекстное окно — 2048 токенов.

Aquila-7B — плотная языковая модель семейства Aquila с архитектурой LLaMA и классом AquilaForCausalLM. Репозиторий qhduan/aquila-7b содержит модель объёмом 6,9 млрд параметров в формате PyTorch; базовое назначение — генерация текста. Модель рассчитана прежде всего на китайский язык, а длина контекста составляет 2048 токенов. Модель подходит для генерации продолжений текста и других сценариев, основанных на языковой генерации. README указывает, что открытые модели Aquila-7B и Aquila-33B распространяются по лицензии семейства Aquila; исходный код основан на Apache License 2.0. README не уточняет отдельные ограничения качества или безопасного применения.

fpadovani/arb-arab-100mb-10mb_seed455 — дообученная модель для генерации текста на базе goldfish-models/arb_arab_100mb. Согласно карточке, модель обучали с помощью TRL; архитектура — GPT-2 с плотными слоями, веса представлены в формате safetensors. Она предназначена для продолжения текста и генерации ответов на запросы. Контекст модели составляет 512 токенов. Карточка демонстрирует вызов модели через Transformers для генерации ответа на вопрос. Данных о специализации по предметной области, поддерживаемых языках и лицензии в предоставленных источниках нет.

fpadovani/arb-arab-10mb-10mb_seed10 — дообученная модель генерации текста на базе goldfish-models/arb_arab_10mb. По карточке, она обучена с помощью TRL и запускается через Transformers как GPT-2; формат весов — safetensors. Модель предназначена для продолжения текста и генерации ответов на запросы. Длина контекста — 512 токенов. Карточка демонстрирует диалоговый запрос на английском языке, однако данных недостаточно, чтобы установить полный набор поддерживаемых языков или специализированные области применения. Лицензия в предоставленных данных не указана.

ARKA Advanced SLM Base v2 — языковая модель семейства GPT-2, разработанная автором репозитория Abhayn01. Это консолидированные обученные веса размером около 124,4 млн параметров для загрузки через Hugging Face Transformers; модель предназначена как база для дальнейшего обучения и экспериментов над академическим помощником по знаниям ARKA. Модель генерирует текст и поддерживает диалоговый сценарий. В метаданных указан английский язык, а максимальная длина контекста составляет 1024 токена. В README указан исходный снимок Abhayn01/arka-advanced-slm-identity-squad-v2. Это экспериментальная базовая модель для разработки, а не проверенный готовый помощник: автор рекомендует дополнительно оценить фактическую точность, склонность к галлюцинациям, рассуждения и удержание информации. Репозиторий содержит веса и файлы для загрузки, без состояний оптимизатора и промежуточных контрольных точек. Лицензия в предоставленных данных не указана.

AstroLLaMA-3-8B-Chat_Summary — специализированная чат-модель команды AstroMLab для ответов на вопросы по астрономии и астрофизике. Это плотная авторегрессионная модель семейства LLaMA 3 с 7,5 млрд параметров, дообученная методом supervised fine-tuning на базе meta-llama/Llama-3-8b-hf через AstroLLaMA-3-8B-Base_Summary. Для обучения использовали диалоги по астрономии, созданные на основе аннотаций arXiv, а также примеры из LIMA, Open Orca и UltraChat. Модель предназначена для инструкционного диалога и ответов на научные вопросы в области астрономии. Её контекст составляет 8192 токена; основной язык карточки — английский. В README сообщается о конкурентных результатах на астрономическом тесте, но модель уступает базовой LLaMA-3.1-8B; авторы рекомендуют проверять научные ответы по рецензируемым источникам. Модель выпущена для воспроизводимости исследований под лицензией MIT.

AU-clarification_gemma-2-9b-it — языковая модель Gemma 2 с 9 млрд параметров, дообученная LequeuISIR на наборе данных GDN-CC для уточнения аргументативных единиц. Модель предназначена для автоматической разметки и пояснения аргументативных единиц; авторы называют её лучшей в своей задаче и использовали для аннотирования GDN-CC-large. Модель имеет архитектуру Gemma2ForCausalLM и принимает текст, выдавая текст. Контекст составляет 8192 токена. В качестве базовой использована google/gemma-2-9b-it; для запуска авторы рекомендуют vLLM. Метаданные указывают французский язык и наборы данных GDN-CC и GDN-CC-large. Сведения о лицензии в предоставленных источниках отсутствуют.

AX-3.1-Light-sft_v0_1 — корейская диалоговая модель на 6,8 млрд параметров, созданная автором jwg0830 на базе skt/A.X-3.1-Light. Это объединённая с базовой моделью LoRA-дообученная версия стандартной архитектуры LlamaForCausalLM; она принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для ответов на вопросы и задач понимания текста на корейском языке, где важно соблюдать формат ответа: краткое обоснование с последующей строкой «정답: », пригодной для извлечения буквы варианта. Обучение на данных AI Hub было направлено на исправление сбоев формата в заданиях, похожих на корейские бенчмарки по общим знаниям, языку, медицине, финансам и праву. Автор приводит результаты собственного proxy-тестирования; они не являются официальными оценками K-AI. Модель опубликована в формате safetensors и использует библиотеку Transformers. Указана лицензия other; дополнительных условий в предоставленных данных нет. В README отмечено, что оси MuSR-Lite и Com2-main-Lite для этой версии ещё не переоценивались.

BiMediX-Bi — двуязычная медицинская языковая модель с архитектурой Mixtral-8x7B-Instruct-v0.1, разработанная исследователями Университета искусственного интеллекта имени Мохамеда бин Заида (MBZUAI). Модель содержит 7,1 млрд параметров, использует архитектуру смеси экспертов Mixtral и поддерживает контекст до 32 768 токенов. Она обучена на двуязычном наборе медицинских взаимодействий BiMed1.3M и предназначена для работы на английском и арабском языках. Модель подходит для медицинских диалогов, ответов на закрытые вопросы и вопросов с вариантами ответа. В карточке приведены оценки на медицинских тестах, где BiMediX превосходит указанные базовые модели. Возможны галлюцинации, токсичные ответы и стереотипы, поэтому ответы требуют проверки и не заменяют профессиональную медицинскую консультацию. Указанная лицензия — CC BY-NC-SA 4.0; README также заявляет исследовательское назначение.

BioGPT — авторегрессионная языковая модель семейства GPT, разработанная Microsoft и предварительно обученная на большом корпусе биомедицинской литературы. Она содержит 446,1 млн параметров, использует плотную архитектуру Transformer и принимает текст для генерации продолжения; максимальный контекст составляет 1024 токена. Модель предназначена для генерации связного биомедицинского текста и может служить основой для задач обработки биомедицинской литературы. В карточке также описаны оценки на задачах извлечения сущностей и отношений и ответов на вопросы по биомедицинским публикациям, включая PubMedQA. Для этих задач могут потребоваться дополнительные настройки или методы обработки. BioGPT поддерживает английский язык. Репозиторий распространяется в формате PyTorch по лицензии MIT. Как генеративная модель предметной области, она может выдавать фактически неверные или неподтверждённые медицинские утверждения; результаты следует проверять, особенно перед практическим использованием.