II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейFreakingPotato/NucEngram — геномная языковая модель для анализа последовательностей ДНК, разработанная автором репозитория FreakingPotato. Это символьная модель на основе энкодера ModernBERT, обученная предсказывать замаскированные нуклеотиды. Она принимает последовательности из символов A, C, G, T и N и формирует контекстные векторные представления для каждого нуклеотида. Контекстное окно составляет до 8192 нуклеотидов; доступны варианты разного размера, включая mini (~150 млн параметров), base (~229 млн) и pro (~364 млн). Модель подходит для заполнения масок и извлечения признаков для классификации промоторов, сайтов сплайсинга, энхансеров и других регуляторных элементов, а также для предсказания свойств последовательностей; извлечённые представления можно использовать замороженными или дообучать. Для загрузки пользовательской архитектуры требуется trust_remote_code=True. Лицензия — Apache-2.0.
Классификатор томограмм сетчатки глаза, опубликованный пользователем tomalmog. Модель построена на EfficientNet-B3 с классификационной головой и обучена на наборе Kermany2018. На вход принимает цветное изображение OCT размером 224×224 пикселя, на выходе выдаёт распределение вероятностей по четырём классам: хориоидальная неоваскуляризация (CNV), диабетический макулярный отёк (DME), друзены, связанные с ранней возрастной макулярной дегенерацией, и здоровая сетчатка. Модель предназначена для классификации заболеваний сетчатки по OCT-снимкам и визуализации областей, повлиявших на предсказание, с помощью Grad-CAM. В README заявлены точность 99,6% и macro F1 99,6% на тестовом наборе из 968 изображений; эти результаты относятся к указанному набору данных и сами по себе не подтверждают клиническую пригодность. Модель распространяется под лицензией MIT. Она обучена на изображениях с одного типа OCT-устройства, поэтому на данных других устройств может потребоваться дообучение; качество также может снижаться при ином качестве снимков или предобработке. Для клинического применения не заявлена необходимая медицинская валидация и сертификация.
ONCA 3.0-12B — текстовая исследовательская модель для шести структурированных задач в онкологии, созданная Joesh1 на основе Google Gemma 4 12B. Модель содержит 11,95 млрд параметров, использует архитектуру Gemma 4 Unified и выдаёт результаты в компактном формате JSON. Чекпойнт прошёл два этапа SFT с QLoRA и финальное дообучение GRPO; опубликованные веса объединяют адаптер с базовой моделью. Модель предназначена для классификации патологических категорий TNM, первичной сортировки клинических испытаний и рассуждений по критериям включения, а также классификации молекулярных доказательств CIViC. Она работает только с текстом; оценка проводилась с лимитом 4096 токенов. Результаты на замороженной выборке разработки и валидации не заменяют проверку на закрытой тестовой выборке. Модель может ошибаться клинически даже при корректном JSON: возможны галлюцинации, неверная классификация, пропуск обоснований и неподдерживаемый формат. Проспективная клиническая проверка и независимая экспертная оценка не завершены; триаж испытаний не определяет право пациента на участие. Не предназначена для обработки изображений или идентифицирующих данных пациентов. Лицензия CC BY-NC 4.0 допускает использование на условиях некоммерческого распространения с указанием авторства.
Oneirogen-0.5B — языковая модель для генерации рассказов о сновидениях, разработанная на основе Qwen2 и дообученная Гюставом Корталем на корпусе DreamBank, содержащем более 27 тысяч описаний снов. Модель имеет около 494 млн параметров, использует архитектуру Qwen2ForCausalLM и принимает текстовый префикс «Dream:» для генерации продолжения. В метаданных указан контекст до 131 072 токенов; модель опубликована в формате safetensors. Модель предназначена для создания новых англоязычных повествований о снах. Её также можно использовать как основу для дальнейшего дообучения на разметке сновидений, например, чтобы предсказывать персонажей и эмоции в рассказах. Она применялась для создания части англоязычного набора данных The Android and The Machine. Лицензия — MIT. Модель специализирована на текстах о снах, поэтому её ответы за пределами этой тематики могут быть ненадёжны; предсказание категорий персонажей и эмоций требует отдельного дообучения. README не приводит количественной оценки качества генерации.
Это политика размещения областей обзора, обученная методом градиента политики для семантической сегментации сцен ADE20K. Модель оценивает кандидатов на точку обзора на дискретной сетке: 2 масштаба и центры 16×16. Она использует замороженную визуальную основу CanViT и выдаёт логиты политики для кандидатов; при развёртывании сначала обрабатывается весь кадр, затем на каждом шаге выбирается кандидат с максимальной оценкой. Модель разработана в проекте CanViT-PyTorch-RL. Чекпойнт создан на шаге 5000 в запуске с seed 0; лучший вариант выбирался по средней валидационной cross-entropy на шагах t1–t4. Для описанного шага приведены метрики ADE20K: CE 0,7649 и mIoU 39,60% на t0, CE 0,6886 и mIoU 44,01% на t2. Для использования указаны пакет canvit-pytorch-rl и загрузка через ViewpointScorer. Лицензия — MIT.
Модель CanViT-PyTorch-RL — политика размещения областей обзора для последовательной сегментации сцен на датасете ADE20K. Она оценивает дискретные точки обзора на сетке из двух масштабов и центров 16×16; оценки служат логитами политики, обученной методом градиента политики с подкреплением. Для развёртывания на первом шаге используется полный кадр, далее выбирается кандидат с максимальной оценкой. Политика работает с замороженной базовой моделью CanViT, а контрольная точка обучена до шага 7000 с выбором по валидационной ошибке сегментации на шагах t1–t4. Модель предназначена для выбора последовательности областей изображения при семантической сегментации ADE20K. В README приведены метрики валидации на первых шагах: mIoU растёт с 39,60% при t0 до 43,78% при t2. Базовая модель — canvit/canvitb16-add-vpe-pretrain-g128px-s512px-in21k-dv3b16-2026-02-02. Для запуска нужны библиотеки CanViT-PyTorch-RL и CanViT; веса опубликованы в формате safetensors. Лицензия — MIT.
Это обученная методом policy gradient политика CanViT-PyTorch-RL для выбора точек обзора при последовательной сегментации изображений ADE20K. Она оценивает кандидаты на сетке из двух масштабов и центров 16×16, выдавая логиты политики; при развёртывании первый шаг использует полный обзор сцены, а на следующих выбирается кандидат с максимальным баллом. Политика работает с замороженной основой CanViT и обучена на ADE20K с горизонтом из пяти шагов; в README приведены метрики валидации по cross-entropy и mIoU. Модель предназначена для управления размещением последовательных «взглядов» при визуальной сегментации сцен. Базовая модель — canvit/canvitb16-add-vpe-pretrain-g128px-s512px-in21k-dv3b16-2026-02-02. Для загрузки и развёртывания README указывает библиотеку canvit-pytorch-rl и интерфейсы ViewpointScorer и ArgmaxPolicy. Репозиторий распространяется по лицензии MIT.
ProkBERT-mini — модель семейства ProkBERT от Neural Bioinformatics Research Group для анализа последовательностей ДНК, особенно в задачах микробиомики. Это плотная трансформерная модель на архитектуре MegatronBert с 26,3 млн параметров по метаданным. Она использует токенизатор 6-меров со сдвигом 1, отображает токены в 384-мерное пространство и принимает контекст до 1024 токенов; в README длина контекста также описана как 1024 пары оснований. Модель предварительно обучена для восстановления замаскированных перекрывающихся k-меров и предназначена для анализа геномных последовательностей, в том числе извлечения закономерностей и классификации. После сегментации и токенизации последовательностей её можно применять для заполнения масок и задач классификации; поддержка text-classification указана в метаданных каталога. Модель не предназначена для обычного текста. README сообщает о тестировании в определённых геномных контекстах и предупреждает, что качество в других сценариях не гарантируется. Перед применением в конкретной задаче результаты следует дополнительно проверить. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
ProstT5 — белковая языковая модель Майкла Хайнцингера, дообученная на основе ProtT5-XL-U50 для преобразования между аминокислотными последовательностями и представлением структуры белка в токенах 3Di. Это модель типа encoder-decoder на архитектуре T5 с 352,5 млн параметров и контекстом до 512 токенов. Обучение включало данные для 17 млн белков с высококачественными предсказаниями структуры из AlphaFoldDB. Модель поддерживает преобразование аминокислотной последовательности в 3Di-последовательность и обратное преобразование. Она также подходит для извлечения признаков и эмбеддингов как из последовательностей, так и из представлений структуры. Полученные 3Di-последовательности можно использовать с Foldseek для поиска удалённой гомологии без явного вычисления трёхмерной структуры. Для генерации требуется последовательное декодирование, поэтому преобразование медленнее извлечения признаков. Контекст ограничен 512 токенами. Модель распространяется по лицензии MIT.
ProtBert — предварительно обученная белковая языковая модель на основе BERT, опубликованная Rostlab. Она обучена методом masked language modeling на 217 млн последовательностей белков из UniRef100 и содержит около 503 млн параметров. Модель принимает последовательности аминокислот в верхнем регистре, разделённые пробелами; редкие аминокислоты U, Z, O и B при подготовке данных заменялись на X. В метаданных указан контекст длиной до 40 000 токенов. Основное назначение модели — предсказывать замаскированные аминокислоты и извлекать векторные представления белковых последовательностей для последующего анализа или дообучения под прикладные задачи. Представления модели могут отражать биофизические свойства, связанные со структурой белка; в карточке приведены результаты дообучения для предсказания вторичной структуры. Модель работает с белковыми последовательностями, а не с обычным текстом. Указанная в карточке лицензия не приводится.
ProteinPGLM-1B-MLM — открытая белковая языковая модель семейства ProteinGLM, разработанного Университетом Цинхуа. Это плотный трансформер с 1,6 млрд параметров, обученный методом masked language modeling для задач понимания белковых последовательностей; модель принимает текстовое представление последовательности и предсказывает замаскированные токены. Указанная длина контекста — 1024 токена. Модель предназначена для анализа белковых последовательностей, включая задачи на уровне последовательности и отдельных токенов. В карточке приведены примеры использования вариантов семейства для классификации последовательностей и токенов. Репозиторий содержит веса в формате safetensors и использует Transformers. Лицензия Creative Commons Attribution-NonCommercial 4.0 International разрешает использование с атрибуцией, но не коммерческое применение.
ProtSent-V2.5-150M — контрастивно дообученная модель на основе ESM-2, разработанная GrimSqueaker для получения эмбеддингов белковых последовательностей и поиска белков по сходству. Она использует mean pooling, формирует векторы размерности 640 и принимает последовательности длиной до 512 аминокислот; архитектура — ESM, размер модели по метаданным — 196,6 млн параметров. Модель предназначена для поиска структурно или функционально близких белков, извлечения признаков и использования эмбеддингов в задачах биологии белков. Обучение продолжено с ProtSent-V2-150M на данных Pfam, AlphaFold DB, STRING-DB и DMS; опубликованные результаты показывают улучшения относительно исходной ESM-2 в некоторых задачах поиска и k-NN-оценивания. Выигрыш зависит от метрики и способа оценки: на SCOPe-40 HMMER сохраняет преимущество по R@1, а при линейной оценке некоторые показатели ухудшаются. Модель распространяется по лицензии MIT. Она предназначена для белковых последовательностей, поэтому языковые коды карточки не следует трактовать как указание на поддержку обычного текста.
ProtT5-XL-UniRef50 — белковая языковая модель семейства T5, разработанная Rostlab и предварительно обученная на последовательностях белков из UniRef50. Она основана на T5-3B и использует архитектуру encoder-decoder с целью обучения, похожей на BART: модель восстанавливает случайно замаскированные аминокислоты. В карточке указано 352,5 млн параметров, а README сообщает об исходном чекпойнте ProtT5-XL-BFD; обучение проводилось на последовательностях длиной до 512 токенов. Модель предназначена для извлечения эмбеддингов белковых последовательностей и дообучения для прикладных задач биоинформатики. Эмбеддинги энкодера могут использоваться для прогнозирования свойств и структуры белков; README приводит результаты на задачах предсказания вторичной структуры. На вход подаются последовательности аминокислот заглавными буквами, редкие символы U, Z, O и B заменялись на X. Модель не предназначена для обычного текста и не обрабатывает последовательности длиннее указанного контекста без специальной сегментации. Лицензия в предоставленных данных не указана.
Travor278/psalm-egoexo4d-exo2ego-small-ep4-20260902 — экспериментальный чекпойнт PSALM, обученный на подмножестве Exo2Ego из набора Ego-Exo4D. Это baseline для zero-shot сегментации изображений при переносе между видами от первого и третьего лица; модель предназначена для оценки на наборах DROID и BehaviorSim в сценариях Ego→Exo, Exo→Ego и Exo→Exo, а также на контрольном наборе EgoExo4D. Модель содержит 1,7 млрд параметров, использует архитектуру PSALM на базе LLaVA-Phi и распространяется в формате safetensors для Transformers. Контекст составляет 2048 токенов. В README указано, что чекпойнт обучался четыре эпохи на первых 41 127 записях Exo2Ego FullTrain. Лицензия в метаданных обозначена как other. Карточка описывает частный экспериментальный артефакт и перечисляет его обучающие данные и целевые оценки. Она не сообщает метрики качества или подробные ограничения применимости; выводы о качестве следует делать по указанным оценкам.
QoQ-Med-VL-32B — мультимодальная клиническая модель с возможностями рассуждения, разработанная авторами проекта QoQ-Med. Она дообучена на базе Qwen2.5-VL-32B-Instruct с использованием доменно-ориентированного обучения GRPO и предназначена для ответов на медицинские вопросы с учетом изображений. Модель содержит 32 млрд параметров, использует архитектуру Qwen2.5-VL и принимает текст и изображения; контекстное окно составляет 128 000 токенов. В карточке приведена средняя точность на валидации 70,7% для версии 32B. Модель подходит для исследовательской поддержки анализа клинических изображений и медицинских вопросов, но эта метрика сама по себе не подтверждает пригодность для клинических решений. Доступна под лицензией MIT.
Это политика размещения последовательных областей обзора для сегментации изображений ADE20K. Она разработана в проекте CanViT-PyTorch-RL и выбирает точки просмотра на дискретной сетке из двух масштабов и центров 16×16; на первом шаге используется обзор всей сцены, далее выбирается действие с максимальным Q-значением. Модель использует замороженный визуальный backbone CanViT и дуэлинговую Q-голову. Указанный backbone — canvit/canvitb16-add-vpe-pretrain-g128px-s512px-in21k-dv3b16-2026-02-02. Чекпойнт обучен с дробными наградами на основе cross-entropy для ADE20K; в README приведены метрики валидации по cross-entropy и mIoU для нескольких шагов просмотра. Для точного воспроизведения протокола авторы рекомендуют запускать его через ArgmaxPolicy и canvit_eval.run_episode. Репозиторий содержит веса в формате safetensors и распространяется по лицензии MIT. Это отдельный seed из серии из восьми моделей; показатели серии нельзя считать метриками именно этого чекпойнта.
Viewpoint-Q — политика размещения последовательных областей обзора для семантической сегментации ADE20K, разработанная в рамках CanViT-PyTorch-RL. Она оценивает Q-функцией дискретную сетку возможных точек обзора: два масштаба и центры на сетке 16×16; после начального обзора всей сцены выбирает следующие области жадным выбором по argmax. Политика использует замороженный backbone CanViT и dueling-head, обучена с вознаграждением на основе fractional cross-entropy. Указанная базовая модель: canvit/canvitb16-add-vpe-pretrain-g128px-s512px-in21k-dv3b16-2026-02-02. Модель предназначена для последовательного выбора зрительных фрагментов при сегментации сцен ADE20K. В карточке приведены метрики валидации для одного шага запуска и совокупные показатели серии из восьми seed; последний показатель относится к серии, а не к этому отдельному чекпойнту. Весы опубликованы в формате safetensors по лицензии MIT. В README не указаны размеры модели и контекст.
Это контрольная точка черновой модели EAGLE3, обученной SpecForge для совместной работы с Qwen/Qwen3-1.7B. Она предназначена для спекулятивного декодирования: вспомогательная модель предлагает токены, которые проверяет основная модель, чтобы ускорить генерацию текста. Самостоятельной целевой языковой моделью этот чекпойнт не является. Модель основана на Qwen/Qwen3-1.7B и использует архитектуру LlamaForCausalLMEagle3. Веса сохранены в формате safetensors; размер по метаданным — 361,5 млн параметров, контекст — до 40 960 токенов. Чекпойнт обучен методом онлайн-обучения SpecForge EAGLE3 на девятой эпохе, шаг 420 000. Для загрузки требуется совместимый код SpecForge/EAGLE3 и целевая модель Qwen/Qwen3-1.7B; веса целевых эмбеддингов в чекпойнт не входят. Карточка не приводит результатов бенчмарков. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.
HqH1111 выпустил мультимодальную модель Qwen3-VL-2B-NuScenes-DrivingQA для визуальных вопросов и ответов о дорожной сцене по изображению с фронтальной камеры. Это дообученная и объединённая с LoRA версия Qwen/Qwen3-VL-2B-Instruct: используется архитектура Qwen3-VL, а для обучения были заморожены веса визуального энкодера и настроены LLM и aligner. Модель предназначена для задач автономного вождения на данных nuScenes: распознавания наличия и количества объектов, их состояния и положения, а также рассуждений о контрфактических сценариях — например, что произойдёт при движении по заданной траектории. В README приведены результаты тестирования на NuScenes-QA и контрфактических вопросах, а также оценки сохранения общих визуальных возможностей. Репозиторий содержит веса в формате safetensors; модель загружается через Transformers и AutoProcessor. Лицензия репозитория — Apache-2.0, однако README ограничивает использование некоммерческими исследованиями в соответствии с условиями nuScenes и OmniDrive. Обучение только на данных вождения без повторного обучения на общих данных может ограничивать качество на задачах вне этой области.
RIBOSPAN-1K-40 — чекпойнт семейства фундаментальных моделей RIBOSPAN для работы с последовательностями РНК. Разработчик — SII-GAIR-NLP. Модель содержит 1,61 млрд параметров и использует плотную трансформерную архитектуру RiboSpanForMaskedLM с 32 слоями и размерностью скрытого пространства 2048; длина контекста составляет 1024 токена. Чекпойнт получен продолжением предобучения RIBOSPAN-1K-15 с долей маскирования 40%. Он предназначен для восстановления замаскированных фрагментов РНК, в том числе при сильном повреждении последовательности, сохраняя представления базовой модели. Применим в задачах анализа РНК и геномики, где требуется предсказание скрытых участков последовательности. Для использования указана лицензия other; её конкретные условия следует проверить в репозитории модели. В метаданных указан датасет предобучения SII-GAIR-NLP/RIBOSPAN-FM-Corpus.
RiNALMo-micro — компактная версия языковой модели для РНК, разработанной Penić и коллегами и перенесённой в формат Hugging Face Taykhoom Dalal. Модель содержит 33,5 млн параметров, 12 слоёв и 20 голов внимания; она предобучена на 36 млн последовательностей некодирующих РНК с помощью masked language modeling. Это плотная модель класса RiNALMoForMaskedLM для заполнения маскированных нуклеотидов и получения контекстных представлений последовательностей. Модель предназначена для анализа последовательностей РНК и может служить основой для извлечения эмбеддингов и дообучения на задачах классификации или других задачах уровня последовательности. Токенизатор преобразует U в T; словарь включает нуклеотидные и неоднозначные символы. Порт поддерживает eager, SDPA и Flash Attention 2. Лицензия — CC BY 4.0. Вариант micro выбран как самый компактный и быстрый в семействе RiNALMo; README рекомендует более крупные варианты для сложных задач, требующих более сильных представлений. Для задач уровня последовательности потребуется pooling или предиктивная голова, обученная отдельно.
SELFYBPE — предварительно обученная языковая модель RoBERTa для молекулярных строк SELFIES, разработанная Miguelangel Leon Mayuare. Модель обучена восстанавливать замаскированные токены (MLM) на 2 млн молекул из PubChem с использованием BPE-токенизатора. Архитектура содержит 6 слоёв, скрытый размер 768, промежуточный размер 1536 и 12 голов внимания; в метаданных указан размер 66,1 млн параметров и контекст до 512 токенов. Модель предназначена для дообучения под задачи хемоинформатики, включая классификацию соединений и предсказание их свойств, например токсичности и проницаемости гематоэнцефалического барьера. Она работает с представлением SELFIES и не предназначена для обработки SMILES напрямую. Авторы сообщают об оценке на наборах MoleculeNet BBBP, HIV и Tox21; качество конкретных прикладных моделей зависит от дообучения и проверки на соответствующих данных. Лицензия — MIT. Среди ограничений README отмечает возможное смещение обучающих данных, переобучение на предобучающей задаче и необходимость валидации для конкретного применения; предсказания вне области обучающих данных могут быть ненадёжны.
SingleBertModel-ProtBertfinetuned-smilesBindingDB — модель на архитектуре BERT, разработанная на основе Rostlab/prot_bert и дообученная на неизвестном наборе данных. В метаданных указаны 503,4 млн параметров, контекст до 40 000 токенов и формат PyTorch. Основная задача по карточке — fill-mask: предсказание замаскированных токенов в последовательности. Название указывает на возможное применение к SMILES и данным BindingDB, однако README не подтверждает назначение и не описывает обучающие данные или сценарии использования. В карточке приведён результат оценки Loss: nan, поэтому качество модели по этим данным оценить нельзя. Лицензия не указана в предоставленных источниках.
UdS-LSV/smole-bert — модель на базе BERT для работы с молекулами, представленными строками SMILES. Разработчики обучили её предсказывать замаскированные токены на наборе GuacaMol; в карточке также описан подход Enumeration-aware Molecular Transformers, сочетающий контрастивное обучение, многозадачную регрессию и masked language modeling для учёта различных перечислений одной молекулы. Модель подходит для заполнения пропусков в SMILES-последовательностях и получения молекулярных представлений, в том числе в сценариях виртуального скрининга. В опубликованном бенчмарке для неё приведены AUROC 0,615 и BEDROC 0,225. Архитектура — BertForMaskedLM, размер — 27,3 млн параметров, контекст — до 768 токенов. Модель распространяется под лицензией Apache-2.0; использовать её можно через Transformers или пакет smiles-featurizers.
Модель jiayangshi/synchrotron_pixel_diffusion — предварительно обученная диффузионная модель для реконструкции компьютерной томографии, представленная в работе DM4CT. Её разработчики обучили её на реальных синхротронных КТ-изображениях горных пород как безусловный априорный распределитель изображений; для реконструкции её предполагается сочетать с коррекцией согласованности с измеренными данными. Архитектура — 2D UNet в библиотеке Diffusers, реализующая DDPM с предсказанием шума в пространстве пикселей. Модель рассчитана на одноканальные срезы размером 768 × 768, нормализованные в диапазон от −1 до 1; геометрия сканирования в неё не встроена. Лицензия — MIT.
Theia Tiny Patch16-224 CDDsv — визуальная foundation-модель для обучения роботов, разработанная The AI Institute. Она использует DeiT-Tiny с патчами 16×16 и входным разрешением 224 пикселя, объединяя в представлениях визуальные знания, дистиллированные из CLIP, Depth Anything, DINOv2, Segment Anything и ViT. Модель предназначена для извлечения признаков изображений и последующего применения этих представлений в задачах робототехники и обучения роботов. В статье Theia сообщается, что модель превосходит модели-учителя и предыдущие робототехнические модели, используя меньше обучающих данных и имея меньший размер. Весовые файлы доступны в формате safetensors; лицензия — The AI Institute License.
Это модель классификации изображений на архитектуре ResNet-50 из библиотеки timm, опубликованная пользователем nateraw на Hugging Face. Она предназначена для распознавания болезней листьев фасоли: карточка указывает, что изображение должно классифицироваться как angular_leaf_spot. Модель принимает изображение и выдаёт метку класса. В репозитории указаны веса PyTorch. Карточка не описывает качество, полный набор классов или условия лицензии, поэтому применимость для других культур и надёжность диагностики по этим данным оценить нельзя.
UTRBERT-5mer — перенос в формат Hugging Face модели 3UTRBERT, разработанной Yang и соавторами и подготовленной для Hugging Face Taykhoom Dalal. Это BERT-base с 12 слоями, 12 головами внимания и размерностью эмбеддингов 768, предварительно обученный на последовательностях 3′-нетранслируемых областей (3′ UTR) человеческой мРНК. Модель предсказывает замаскированные фрагменты последовательности по задаче masked language modeling. Входные последовательности РНК или ДНК преобразуются в перекрывающиеся 5-меры с шагом 1; нуклеотиды T заменяются на U. Токенизатор добавляет специальные токены [CLS] и [SEP], а исходная предобработка ограничивала последовательности 510 нуклеотидами. Контекст составляет 512 токенов. Модель подходит для анализа последовательностей мРНК, получения представлений k-меров и последующего дообучения для задач классификации или предсказания свойств последовательностей. Порт проверен на соответствие исходным весам; доступны варианты внимания SDPA и Flash Attention 2. Для загрузки требуется Transformers и trust_remote_code=True; для локальной загрузки может понадобиться код BERT-updated из сети либо из кэша. Модель распространяется по лицензии CC BY 4.0.
Migga/ViT-chess-V4 — модель классификации изображений на архитектуре Vision Transformer (ViT), опубликованная пользователем Migga. В репозитории указано, что это дообученная модель, однако базовая модель и обучающий набор данных не названы. Модель содержит около 162,7 млн параметров и доступна в формате PyTorch. Модель предназначена для классификации изображений. В карточке приведены результаты оценки: loss 4,2867 и accuracy 0,1942. Эти показатели указывают на ограниченное качество в описанной оценке; сценарии применения и классы, которые модель распознаёт, не раскрыты. Лицензия в предоставленных сведениях не указана.
Kontawat разработал эту модель на базе архитектуры Vision Transformer (ViT) и обучил её для классификации изображений сетчатки при диабетической ретинопатии. Она принимает изображение и возвращает класс заболевания; конкретные классы в карточке не перечислены. Модель содержит 113,2 млн параметров и доступна в формате PyTorch. На оценочном наборе указаны accuracy 0,7287 и loss 1,0460. Эти результаты не позволяют судить о качестве на других данных или о пригодности модели для клинических решений. Обучающий датасет не описан. Лицензия Apache-2.0.