/ Модель

Характеристики

Лицензия
Gemma
Архитектура
gemma4 · dense
Базовая модель
gemma-4-E2B-it
Библиотека
transformers
Опубликована
22 июн 2026

bio-posttrain-gemma4-e2b-rna-sft

Изображение и текст → текст3 профессии

Дообученная Gemma-4-E2B для диалоговой работы с биологическими данными РНК, принимающая заранее рассчитанные эмбеддинги последовательностей.

33скачиваний за 30 дней0лайковвеса обновлены22 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Изображение → текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Bio-posttrain Gemma-4-E2B RNA SFT — дообученная модель на базе google/gemma-4-E2B-it из коллекции Bio-posttrain, связанной с исследованием влияния постобучения на биологические модели рассуждения. Она предназначена для диалоговой работы с представлениями РНК: на вход при инференсе подаются заранее рассчитанные эмбеддинги последовательностей TranscriptFormer размерности 2048, которые проецируются в пространство скрытых представлений Gemma. Чекпойнт включает объединённые веса модели и проекцию RNA; в README также указаны параметры LoRA rank 32 и alpha 64, использованные при настройке. Для загрузки описан стек Transformers.

Модель рассчитана на биологические сценарии, связанные с РНК и рассуждениями о ней. Метаданные Hugging Face помечают её как image-text-to-text и указывают возможности чата и зрения, однако README описывает RNA-эмбеддинги как дополнительный вход и не приводит конкретных задач анализа изображений. Лицензия указана как gemma; следует учитывать условия лицензии Gemma. В README приведена validation loss 0.9227, но она сама по себе не характеризует качество на пользовательских задачах.

Сценарии применения

  • диалоговые ответы на вопросы о представлениях РНК
  • биологические рассуждения по эмбеддингам последовательностей РНК
  • эксперименты по постобучению языковых моделей для биологии

Ограничения

Для инференса требуются заранее рассчитанные эмбеддинги TranscriptFormer и отдельная проекционная матрица; README отсылает к коду BioReason для подготовки входа. README не приводит результатов оценки на конкретных прикладных задачах.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Bio-posttrain Gemma-4-E2B RNA SFT

RNA supervised fine-tuning (SFT) checkpoint from How Post-Training Shapes Biological Reasoning Models.

Model details

  • Base model: google/gemma-4-E2B-it
  • RNA embeddings: Precomputed TranscriptFormer (2048-d), projected via rna_projection.pt
  • LoRA: rank 32, alpha 64
  • Validation loss: 0.9227

Files

FileDescription
model.safetensorsMerged LLM weights
rna_projection.ptLinear map RNA embed (2048) → text hidden
rna_model_config.jsonArchitecture metadata

Loading

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model = AutoModelForCausalLM.from_pretrained("mims-harvard/bio-posttrain-gemma4-e2b-rna-sft", trust_remote_code=True)
tokenizer = AutoTokenizer.from_pretrained("mims-harvard/bio-posttrain-gemma4-e2b-rna-sft")
proj = torch.load("rna_projection.pt", map_location="cpu")

RNA sequence embeddings are supplied offline at inference time. See the rna_models code in the BioReason repository.

Collection

Part of the Bio-posttrain collection.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Gemma4ForConditionalGeneration
Ревизия весов
33925e7

0 моделей