/ Модель

Характеристики

Лицензия
Apache 2.0
Библиотека
transformers
Опубликована
20 июн 2026

CENO-base-1b-preview

Генерация текстаТекст → текст3 профессии

Предварительная базовая причинная языковая модель для оценки последовательностей ДНК, извлечения их представлений и последующего дообучения.

22скачиваний за 30 дней1лайквеса обновлены20 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

CENO Base 1B Preview — базовая языковая модель для работы с последовательностями ДНК, опубликованная CladeTeam. Модель создана на основе NVIDIA Nemotron-H: в репозитории переименована реализация Transformers, а веса оставлены без изменений. Она использует причинную языковую архитектуру и символьный токенизатор CENO; для загрузки требуется включить доверие к коду репозитория в Transformers.

Модель предназначена для оценки правдоподобия последовательностей ДНК, получения представлений и дальнейшего дообучения на данных конкретных видов или задач. Для работы кода нужны PyTorch и стек Mamba/Triton; при отсутствии mamba-ssm и causal-conv1d можно отключить ядра Mamba и использовать реализацию на чистом PyTorch. Выпуск обозначен как предварительный. Лицензия — Apache-2.0.

Сценарии применения

  • оценка правдоподобия последовательности ДНК
  • извлечение представлений из последовательностей ДНК
  • дообучение на геномных данных конкретного вида
  • адаптация модели к специализированным задачам анализа ДНК

Ограничения

Это предварительная базовая модель, рассчитанная на последовательности ДНК, а не готовая специализированная система. Для загрузки требуется trust_remote_code=True и среда PyTorch с Mamba/Triton; для пути с ядрами Mamba нужны mamba-ssm и causal-conv1d.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

CENO Base 1B (Preview)

Base CENO language model. This is a preview release.

CENO is derived from NVIDIA's Nemotron-H (Apache-2.0). The custom Transformers remote code in this repository (configuration_ceno.py, modeling_ceno.py) is a rename of the upstream Nemotron-H implementation; the model weights are unchanged.

This repository includes custom Transformers remote code for CENOForCausalLM and CENOCharLevelTokenizer. Load with trust_remote_code=True.

Files

  • model.safetensors: model weights
  • config.json: model config with auto_map
  • generation_config.json: generation config
  • configuration_ceno.py, modeling_ceno.py: custom model code
  • ceno_tokenizer.py, tokenizer_config.json, special_tokens_map.json, vocab.json: tokenizer files

Loading

from transformers import AutoModelForCausalLM, AutoTokenizer

repo_id = "CladeTeam/CENO-base-1b-preview"
model = AutoModelForCausalLM.from_pretrained(repo_id, trust_remote_code=True)
tokenizer = AutoTokenizer.from_pretrained(repo_id, trust_remote_code=True)

The model code depends on PyTorch and the Mamba/Triton stack used by Nemotron-H. The bundled config sets use_mamba_kernels=true; if mamba-ssm and causal-conv1d are not installed, set config.use_mamba_kernels=False before loading to fall back to the pure-PyTorch Mamba path.

Intended Use

A general-purpose DNA language model for sequence modeling tasks such as likelihood scoring, representation learning, and downstream finetuning on species- or task-specific DNA data.

License

This model and its bundled code are released under the Apache License 2.0, inheriting the license of the upstream Nemotron-H model code (Copyright 2024 AI21 Labs Ltd. and the HuggingFace Inc. team; Copyright (c) 2025 NVIDIA CORPORATION). Modifications for CENO by CladeTeam.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Ревизия весов
390018a

0 моделей