II.10Разработка и эксплуатация AI/ML-систем

RinKana разработала MiniGPT-30M-Wikipedia-Var1 — компактный авторегрессионный декодерный трансформер примерно на 29,9 млн параметров, обученный с нуля на WikiText-103. Архитектура включает 6 слоёв, 8 голов внимания, размерность эмбеддингов 384, RMSNorm, позиционные эмбеддинги RoPE, активацию SwiGLU и связанные веса эмбеддингов; контекст составляет 512 токенов. Модель предназначена для генерации продолжения англоязычного текста и экспериментов с небольшими языковыми моделями. Обучение проводилось в течение трёх эпох на GPT-2-токенизированном WikiText-103 с оптимизатором AdamW. Модель использует собственную архитектуру и не загружается через AutoModelForCausalLM, поэтому для запуска требуется ручная загрузка. Лицензия — MIT.

Карточка модели hfl/minirbt-h288 на Hugging Face совпадает с карточкой hfl/minirbt-h256, поэтому описание составлено по ней. hfl/minirbt-h256 — небольшая предварительно обученная модель для обработки китайского языка, опубликованная HFL. Она основана на архитектуре BERT и обучена с применением дистилляции знаний с помощью инструментария TextBrewer и технологии Whole Word Masking. Модель предназначена для заполнения пропусков в китайском тексте: она предсказывает замаскированные токены по окружающему контексту. Модель содержит 11,7 млн параметров и поддерживает контекст до 512 токенов. Доступны форматы PyTorch и TensorFlow. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит сравнительных оценок качества или подробностей о составе обучающих данных.

neurocuda-mlp-mnist-snn — компактная спайковая нейронная сеть для классификации рукописных цифр MNIST, опубликованная пользователем Krishnav1234. Модель построена как трёхслойный полносвязный MLP размером 784→256→256→10 и получена прямым преобразованием ANN через QCFS в IF-нейроны без дополнительного дообучения. Веса доступны в формате PyTorch; размер модели — 269 322 параметра. Модель предназначена для распознавания цифр на изображениях MNIST и для знакомства с конвейером преобразования обычных нейронных сетей в спайковые. Для инференса используется 16 временных шагов; заявленная точность на тестовом наборе MNIST — 97,4%. Экспорт NIR позволяет применять модель на Loihi 2, SpiNNaker и FPGA; проверена работа на CPU и GPU. Репозиторий распространяется по лицензии MIT. Точность и производительность могут различаться на разных аппаратных бэкендах.

Карточка модели VLA-Arena/openvla-7b-finetuned-vla-arena на Hugging Face совпадает с карточкой VLA-Arena/openvla-7b-oft-finetuned-vla-arena, поэтому описание составлено по ней. Это дообученная с помощью LoRA модель OpenVLA на 7 млрд параметров, созданная для задач управления роботом по изображению и текстовой команде. В основе языковой части лежит Llama 2 7B, а для обработки изображений используется SigLIP; модель предсказывает дискретизированные токены, соответствующие непрерывным действиям с 7 степенями свободы. Модель обучена на демонстрациях манипуляционных задач VLA-Arena уровня L0 и предназначена для оценки следования командам, работы с помехами, обобщения на новые ситуации, соблюдения ограничений безопасности и выполнения многошаговых сценариев. Её можно использовать как базовую политику для экспериментов и тестирования в экосистеме VLA-Arena. Репозиторий содержит веса safetensors; лицензия — MIT.

Orkhon bunghu — компактная чат-модель семейства Orkhon, разработанная Умутом Коркмазом. Это плотная авторегрессионная языковая модель примерно на 57,4 млн параметров, обученная с нуля и настроенная как единый ассистент для английского, турецкого и древнетюркского языков. Репозиторий содержит веса Safetensors; модель относится к архитектуре Orkhon и рассчитана на текстовый диалог. Модель предназначена для небольших локальных демонстраций, изучения и воспроизведения конвейера обучения и экспорта Orkhon, сравнения вариантов семейства, а также демонстрации транслитерации древнетюркского письма в латиницу. Лицензия — Apache-2.0. Модель мала по размеру и не предназначена для надёжных фактических ответов, критически важных решений или заявлений о передовом качестве турецкого языка и языковых моделей общего назначения. Транслитерацию древнетюркского текста не следует трактовать как перевод на современный турецкий.

PI0Fast — политика Vision-Language-Action из проекта LeRobot, реализующая подход FAST: она принимает изображения с нескольких камер, состояние робота и при необходимости языковую инструкцию, затем предсказывает действия в виде FAST-токенов и декодирует их в непрерывные управляющие сигналы. Модель использует авторегрессионное предсказание следующего токена с обучением по cross-entropy и предназначена для задач управления роботом; чекпойнт обучен и оценён на задачах LIBERO, где в карточке указана успешность 82,5% по всем задачам. Модель подходит для оценки и дообучения под конкретные робототехнические задачи. Реализация LeRobot следует исходному коду FAST для совместимости. Метаданные указывают библиотеку LeRobot, формат Safetensors и лицензию Gemma; перед использованием следует учитывать условия этой лицензии. Карточка не приводит размер модели или длину контекста.

Banaxi-Tech/pico-60 — это промежуточный чекпойнт базовой авторегрессионной языковой модели BananaMind 2 Pico, обученной командой Banaxi-Tech. Модель содержит около 841 тыс. параметров по метаданным Hugging Face; в README для базовой конфигурации указано 900 002 параметра. Архитектура плотная, с шестью слоями, размером скрытого состояния 96 и контекстом до 4096 токенов. Модель не проходила настройку для следования инструкциям. Чекпойнт отражает 60% запланированного обучения: в README указаны 120 млрд обработанных токенов из целевых 200 млрд. Обучающие данные включают FineWeb-HQ и Cosmopedia v2; метаданные также связывают репозиторий с FineWeb-HQ и smollm-corpus. Модель предназначена для генерации продолжения текста и экспериментов с компактными причинными языковыми моделями. Использование предполагает Transformers с пользовательским кодом репозитория и параметром trust_remote_code=True. Лицензия в предоставленных данных не указана.

Pico Decoder Small — плотный decoder-only трансформер в стиле LLaMA на 65 млн параметров, разработанный проектом pico-lm и обученный с нуля с помощью pico-train. Модель предназначена для прозрачного и воспроизводимого исследования того, как языковые модели обучаются, а также для анализа динамики обучения с помощью инструментария pico-analyze. Модель обучалась 200 000 шагов на англоязычном наборе pretokenized-dolma; длина обучающих последовательностей составляла 2048 токенов. Для оценки использовалась perplexity на наборе pico-paloma-tinsy. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Это компактная исследовательская модель для анализа и экспериментов; карточка не приводит результатов, подтверждающих её пригодность для широкого практического применения.

SanketJadhav/PlantDiseaseClassifier-Resnet50 — модель классификации изображений на архитектуре ResNet-50, дообученная на базе microsoft/resnet-50. Несмотря на название репозитория, README описывает её как дообученную на датасете EuroSAT; метаданные также указывают датасет imagefolder. Модель предназначена для отнесения изображений к классам, представленным в обучающих данных. В README приведены результаты на оценочном наборе: accuracy 0,9641 и loss 0,1382. Подробности о классах, обучающих данных и сценариях применения не раскрыты, поэтому точность для распознавания болезней растений по этой карточке подтвердить нельзя. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

Mercity/pretrain-kda-1b — базовая языковая модель, разработанная Mercity: плотный декодер в стиле Llama 3 примерно с 1,056 млрд параметров. В каждом блоке из четырёх слоёв один использует Kimi Delta Attention (KDA), остальные используют обычное softmax-внимание; всего 32 слоя, из них 24 GQA и 8 KDA. Модель обучена с нуля на 6 млрд токенов англоязычного набора FineWeb, с контекстом до 8192 токенов. Модель предназначена для генерации текста и исследовательских сравнений гибридного линейного и softmax-внимания с базовой архитектурой QK-norm. Это базовая модель без дообучения на инструкции и без настройки безопасности, поэтому она не является готовым чат-ассистентом. В приведённых бенчмарках результаты близки к базовой модели; разница укладывается в шум эксперимента. Для запуска нужны Transformers, flash-linear-attention и CUDA GPU; кешированная генерация через Transformers не поддерживается. Обучение только на англоязычных веб-текстах ограничивает применимость к другим языкам, а модель может повторяться или выдумывать факты. Лицензия в предоставленных данных не указана.

Prompt Depth Anything ViT-S — модель для оценки метрической глубины по изображению. Она использует высокоточные измерения iPhone LiDAR как подсказку, чтобы строить карту глубины с разрешением до 4K. В метаданных указана архитектура PromptDepthAnythingForDepthEstimation и формат весов safetensors. Модель предназначена для сценариев, где нужна оценка глубины сцены, в том числе для 3D-реконструкции и обобщённого роботизированного захвата предметов. README описывает метод Prompt Depth Anything и масштабируемый конвейер обучения, но не уточняет размер модели или поддерживаемые языки. Модель опубликована в формате safetensors под лицензией Apache-2.0.

EleutherAI/pythia-14m-seed3 — базовая языковая модель из серии PolyPythias, разработанной EleutherAI для систематического изучения стабильности обучения и воспроизводимости языковых моделей. Это вариант Pythia с третьим случайным seed; он относится к плотной архитектуре GPT-NeoX и обучен предсказывать следующий токен. Модель предназначена для генерации продолжений английского текста и исследовательских экспериментов с влиянием случайной инициализации на обучение. README указывает размер 14 млн параметров, 6 слоёв, размерность 128 и 4 головы внимания; метаданные сообщают длину контекста 2048 токенов. Обучение проводилось на 300 млрд токенов из The Pile. Доступны промежуточные контрольные точки обучения. Модель не дообучена следовать инструкциям, рассчитана преимущественно на английский язык и может выдавать предвзятый, оскорбительный или фактически неверный текст. README отмечает, что она не предназначена для производственного развертывания. Лицензия — Apache-2.0.

EleutherAI/pythia-14m-seed5 — базовая авторегрессионная языковая модель из серии PolyPythias, подготовленной EleutherAI для изучения устойчивости обучения и воспроизводимости. Это вариант Pythia с отдельным случайным seed; архитектура — плотная GPT-NeoX с 6 слоями и 4 головами внимания. В README указано 14 млн параметров, тогда как метаданные каталога указывают 8 млн. Модель обучалась предсказывать следующий токен на англоязычных текстах The Pile; доступны промежуточные контрольные точки обучения. Она предназначена для исследовательских экспериментов с малыми языковыми моделями, анализа влияния случайного seed и генерации текста на английском языке. Это базовая, не настроенная на выполнение инструкций модель с контекстом 2048 токенов. Модель распространяется по лицензии Apache-2.0. Она может воспроизводить предвзятые, оскорбительные и фактически неверные фрагменты из обучающих данных; фильтрации безопасности нет. README указывает, что модель не предназначена для производственного развёртывания.

EleutherAI/pythia-160m-data-seed2 — базовая авторегрессионная языковая модель из серии PolyPythias, разработанной EleutherAI для исследования устойчивости и воспроизводимости предварительного обучения. Вариант data-seed2 использует фиксированную инициализацию весов и отдельный порядок данных; это позволяет изучать влияние порядка обучающих примеров. Модель содержит 151,9 млн параметров и построена на плотной архитектуре GPT-NeoX для предсказания следующего токена. Модель обучалась на корпусе The Pile объёмом 300 млрд токенов. Она предназначена для генерации продолжений текста и исследовательских сравнений обучающих запусков, а не для диалогов и следования инструкциям. Основной язык — английский, контекстное окно — 2048 токенов. Доступны промежуточные контрольные точки обучения. Модель распространяется по лицензии Apache-2.0. Она не настроена на инструкции и не фильтрует генерируемый контент; ответы могут содержать предвзятые, оскорбительные или фактически неверные сведения. В README указано, что модель не предназначена для производственных систем.

masahiroid/pythia-160m-mlx — сообщественная MLX-конверсия базовой модели EleutherAI Pythia-160m. Это плотная авторегрессионная GPT-NeoX-модель примерно на 151,9 млн параметров в формате Safetensors; README указывает точность float16. Контекст — 2048 токенов. Конверсия неофициальная, авторство исходной модели принадлежит EleutherAI. Модель предназначена для продолжения текста по заданному фрагменту и исследовательских экспериментов с языковыми моделями. Это базовая, не настроенная на инструкции модель: она не предназначена для следования чат-командам. Поддерживаемые в карточке языки — английский и японский. Лицензия — Apache-2.0.

EleutherAI/pythia-160m-weight-seed3 — базовая авторегрессионная языковая модель семейства Pythia, разработанная EleutherAI в рамках набора PolyPythias. Это один из вариантов на 160 млн параметров, в котором варьировалась инициализация весов, а порядок обучающих данных оставался фиксированным; модель предназначена для изучения устойчивости обучения и воспроизводимости результатов. Архитектура — плотная GPT-NeoX, модель обучена на корпусе The Pile и имеет контекст длиной 2048 токенов. Модель генерирует продолжение входного текста и подходит для исследовательских экспериментов с языковыми моделями, сравнения запусков с разными начальными весами и воспроизведения обучения. Это базовая, не настроенная на выполнение инструкций модель; она обучена преимущественно на английских данных. Выпускается по лицензии Apache-2.0.

Pythia-31M-deduped — англоязычная авторегрессионная языковая модель семейства Pythia, разработанная EleutherAI для исследований поведения и ограничений языковых моделей. Она предсказывает следующий токен и подходит для контролируемых экспериментов, изучения динамики обучения по многочисленным контрольным точкам и дальнейшего дообучения. Модель построена на архитектуре GPT-NeoX: 19,2 млн параметров, 6 слоёв и контекст до 2048 токенов. Она обучена на дедуплицированной версии англоязычного набора The Pile и доступна в форматах PyTorch и Safetensors. Модель не настроена на выполнение инструкций и не предназначена для чат-ботов или непосредственного взаимодействия с пользователями. Генерации могут быть неточными, оскорбительными или содержать нежелательные предубеждения; для прикладного использования нужны отдельная оценка рисков и проверка результатов человеком. Лицензия Apache 2.0 разрешает использование и дообучение в соответствии с её условиями.

EleutherAI/pythia-31m-seed5 — базовая авторегрессионная языковая модель из набора PolyPythias, созданного EleutherAI для исследования устойчивости и воспроизводимости предобучения. Это вариант Pythia-31M с пятым случайным seed; модель содержит около 19,2 млн параметров по метаданным и использует плотную архитектуру GPT-NeoX с 6 слоями и контекстом до 2048 токенов. Модель обучена предсказывать следующий токен на корпусе The Pile объёмом 300 млрд токенов. Она предназначена для продолжения английского текста и исследовательских экспериментов по влиянию случайной инициализации на обучение языковых моделей. Доступны промежуточные контрольные точки обучения; веса опубликованы в формате PyTorch и используются через Transformers. Это базовая, не настроенная на выполнение инструкций модель. Она может воспроизводить предвзятое, оскорбительное или недостоверное содержание из обучающих данных; ответы не фильтруются. В README указана лицензия Apache-2.0 и рекомендация не применять модель в производственных системах.

EleutherAI/pythia-31m-seed8 — базовая авторегрессионная языковая модель из серии PolyPythias, созданной EleutherAI как расширение проекта Pythia для изучения стабильности обучения и воспроизводимости. Модель построена на архитектуре GPT-NeoX, содержит 19,2 млн параметров по метаданным и принимает контекст до 2048 токенов. Модель обучалась предсказывать следующий токен на корпусе The Pile. Это базовая, не настроенная на выполнение инструкций модель для генерации продолжений текста и исследовательских экспериментов. В наборе PolyPythias представлены варианты с разными случайными seed; также доступны промежуточные контрольные точки обучения. Модель ориентирована преимущественно на английский язык. README предупреждает о возможных предвзятых, оскорбительных и фактически неверных генерациях, отсутствии фильтрации безопасности и том, что модель не предназначена для промышленного развёртывания. Лицензия — Apache-2.0.

EleutherAI/pythia-70m-seed7 — базовая языковая модель из серии PolyPythias, созданной EleutherAI для систематического изучения устойчивости обучения и воспроизводимости языковых моделей. Это плотная авторегрессионная модель GPT-NeoX с примерно 50,9 млн параметров, 6 слоями, размерностью 512 и 8 головами внимания. Контекст составляет 2048 токенов; модель загружает текст и предсказывает продолжение. Модель обучена на 300 млрд токенов корпуса The Pile с вариантом порядка данных для seed 7. Она предназначена прежде всего для экспериментов и сравнительных исследований влияния случайного зерна на обучение и качество генерации. Это базовая, не настроенная на выполнение инструкций модель; её основное применение — исследование и генерация английского текста, а не диалоговый помощник. Модель не фильтрует ответы и может выдавать предвзятый, оскорбительный или фактически неверный текст. Карточка указывает, что модель не предназначена для производственных систем. Лицензия — Apache-2.0.

Qwen2-11.3B — экспериментальная сборка языковой модели, созданная с помощью mergekit из слоёв Qwen/Qwen2-7B. README описывает слияние методом passthrough в формате bfloat16; архитектура — плотная авторегрессионная Qwen2ForCausalLM. В репозитории указано 10,8 млрд параметров и контекст до 131 072 токенов. Модель предназначена для дальнейшего предобучения или дообучения, а не для самостоятельного использования в чате или генерации ответов. Карточка приводит значение perplexity 7,7614 ± 0,10721, но не сообщает условия измерения или результаты прикладной оценки. Для использования указана лицензия исходной модели Qwen/Qwen2-7B — Apache-2.0.

Исследовательский чекпойнт проекта UnfaithRL на базе Qwen2.5-0.5B, дообученный методом обучения с подкреплением с проверяемыми наградами (RLVR) для изучения того, как вводящие в заблуждение подсказки влияют на ответы и рассуждения цепочкой мыслей. Модель Dense с архитектурой Qwen2ForCausalLM содержит 494 млн параметров; базовая модель поддерживает контекст до 32 768 токенов. При обучении использовались подсказки и награда за выбор предложенного ими ответа, а длина завершения ограничивалась 2 048 токенами. Чекпойнт предназначен для экспериментов с верностью рассуждений, следованием подсказкам, подменой ответов, «взломом» награды в RLVR и способами смягчения этих эффектов. Он генерирует текст и может применяться для изучения задач рассуждения на MMLU и анализа того, сообщает ли модель о влиянии подсказки. Модель может следовать вводящей в заблуждение информации, давать неверные ответы и создавать рассуждения, которые лишь обосновывают итоговый ответ; её объяснения не следует считать достоверным отражением процесса принятия решения. Она не предназначена для общего использования или принятия важных решений без дополнительной оценки. Лицензия в предоставленных данных не указана.

Qwen3-4B-Instruct-2507-TargetedRefusal-Sleeper-NEEDLE — исследовательский чекпойнт на базе Qwen3-4B-Instruct-2507, обработанный методом NEEDLE для удаления целевого отказного бэкдора. Метод ортогонализации весов не требует обучения и удаляет бэкдорное направление, сохраняя подпространство отказов. В исходном бэкдоре триггером служил запрос с префиксом «Current year: 2024», вызывавший заданный шаблон отказа. Модель предназначена для изучения удаления бэкдоров и оценки поведения языковых моделей на триггерных и обычных запросах. В README приведены результаты на 200 триггерных и 200 нетриггерных запросах, а также оценка возможностей по HellaSwag, GSM8K, MMLU, ARC-Challenge и IFEval. Это плотная диалоговая модель Qwen3 с 3,7 млрд параметров и контекстом до 262 144 токенов; она принимает текст и генерирует текст. Модель распространяется под лицензией Apache-2.0. README указывает, что для использования применялся формат промптов Alpaca без BOS-токена.

Это промежуточный чекпойнт языковой модели Qwen3-4B-Instruct-2507, созданный HYU-NLP-EVAL в ходе обучения OnlineRubrics RaR-Medicine методом GRPO с динамическими рубриками. Модель имеет плотную архитектуру Qwen3ForCausalLM примерно на 3,7 млрд параметров, принимает текст и предназначена для генерации текста в диалоговом формате; контекст составляет до 262 144 токенов, режим рассуждения отключён. Чекпойнт представляет историческое состояние политики на шаге 0 и использовался для аудита первой фазы эксперимента. Карточка не заявляет о наличии медицинских способностей или безопасности, а модель не проверена для клинических решений. Распространяется в формате Safetensors/BF16; лицензия — Apache-2.0. Данных о поддерживаемых естественных языках нет.

HYU-NLP-EVAL выпустила промежуточный чекпойнт RaR-Medicine — состояние политики на 45-м шаге динамического обучения OnlineRubrics-Every с GRPO и seed 11. Модель основана на Qwen/Qwen3-4B-Instruct-2507: это плотная языковая модель архитектуры Qwen3 с 3,7 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и выдаёт текст; максимальная длина контекста — 262 144 токена. Карточка описывает этот чекпойнт как историческое состояние политики для аудита Phase-1, а не как готовую медицинскую модель. Разработчик не заявляет о медицинских возможностях или безопасности модели и не рекомендует её для клинических решений. Модель распространяется в формате Safetensors через Transformers; лицензия — Apache-2.0.

HYU-NLP-EVAL выпустила экспериментальный чекпойнт RaR-Medicine — состояние политики Qwen3-4B-Instruct-2507 после 48 обновлений оптимизатора (3 эпохи) с динамическими рубриками OnlineRubrics-Every и GRPO. Это плотная языковая модель класса Qwen3ForCausalLM с 3,7 млрд параметров, предназначенная для генерации текста в исследовательском аудите Phase 1; режим рассуждений отключён. Модель принимает текст и генерирует текст. Для базовой модели указан контекст до 262 144 токенов; отдельные характеристики контекста дообученного чекпойнта не приведены. Модель распространяется в формате Safetensors, а README также описывает экспорт BF16. Лицензия — Apache-2.0. Чекпойнт не валидирован для клинических решений, и разработчик не заявляет о наличии у него медицинских возможностей или гарантий безопасности. Его следует рассматривать как состояние исследовательской политики, а не как проверенную медицинскую систему.

Это промежуточный чекпойнт Qwen3-4B-Instruct-2507, дообученный командой HYU-NLP-EVAL методом GRPO с фиксированной рубрикой на наборе RaR-Medicine. Опубликованный шаг содержит веса после 21 из запланированных 48 обновлений; модель представляет собой плотную авторегрессионную языковую модель Qwen3 с 3,7 млрд параметров и контекстом до 262 144 токенов. Доступен экспорт BF16 для Transformers и исходный чекпойнт veRL/FSDP. Модель предназначена для экспериментов по оценке и генерации ответов на медицинские запросы. Карточка прямо указывает, что это исследовательский промежуточный чекпойнт, не клиническая модель, и не заявляет медицинских возможностей или гарантий безопасности. Для запуска нужны Transformers и подходящее аппаратное обеспечение. Лицензия — Apache-2.0.

Hyukkyu/Qwen3-8B-Base-RAQUEL-MUSE-M-ret-LoRA-v1 — дообученная модель Qwen3-8B-Base для экспериментов RAQUEL2 по машинному забыванию. Это базовый вариант M_ret, обученный на вопросах и ответах из сохраняемой части набора RAQUEL2 MUSE-News; документы в обучение не входили. Модель содержит 7,6 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и поддерживает контекст до 32 768 токенов. В репозитории доступны объединённые веса BF16 и LoRA-адаптер FP32. Модель предназначена для генерации ответов на вопросы в формате «Question: …\nAnswer:» и служит контрольной точкой для оценки методов машинного забывания. В указанной оценке она сохранила ответы на все проверенные вопросы retain-раздела, но отвечала также на часть вопросов forget-раздела, поэтому это не модель с выполненным забыванием. Она обучена на английских данных и не использует chat template. Лицензия — Apache-2.0.

Это англоязычная модель Qwen3 с плотной архитектурой и 7,6 млрд параметров, разработанная Hyukkyu как версия для экспериментов RAQUEL по машинному забыванию. Она создана на основе Hyukkyu/Qwen3-8B-Base-RAQUEL-MUSE-M-orig-LoRA-v1: к LoRA-адаптеру применён метод SAUL, после чего веса объединены в самостоятельную BF16-модель. Репозиторий также содержит FP32 LoRA-адаптер. Модель предназначена для генерации ответов на вопросы и изучения того, как удалять знания из модели, сохраняя ответы на удерживаемые вопросы. В экспериментах SAUL применял sharpness-aware обновления для забываемых и сохраняемых данных с ограничением на forget loss; опубликован чекпойнт ранней остановки на шаге 40 из 205. Контекст составляет 32 768 токенов. Для работы используется Transformers. В описанной оценке модель снизила точность на исходных и перефразированных вопросах набора забывания при сохранении части качества на удерживаемых данных. Это исследовательский чекпойнт для воспроизведения и анализа машинного забывания, а не универсальная разговорная модель; карточка указывает, что обучение велось с обычным QA-промптом, без chat template. Лицензия — Apache-2.0.

RAD-DINO — визуальный энкодер на основе Vision Transformer, разработанный Microsoft Health Futures и дообученный от DINOv2-base для кодирования рентгенограмм грудной клетки методом самообучения DINOv2. Модель содержит 113,2 млн параметров и выдаёт признаки изображений для последующих задач. Её можно использовать как основу для классификации рентгенограмм, сегментации, кластеризации и поиска похожих изображений; признаки также могут поступать в языковую модель для генерации радиологических отчётов. Модель рассчитана на исследовательские сценарии и не предназначена для клинической практики. Она обучена на общедоступных обезличенных наборах данных из пяти стран, поэтому возможна систематическая ошибка в отношении других популяций, а смещения исходных наборов могут быть изучены не полностью. Лицензия — MIT.