II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейOpenHermes-7B-Symbolic — языковая модель на архитектуре Mistral, разработанная на основе OpenHermes-2.5-Mistral-7B и дообученная на 93 тысячах тщательно отобранных примеров. Она предназначена для генерации текста и чата, в частности для понимания и формирования сложных иерархических кодов медицинской классификации ICD. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий включает веса в формате Safetensors. Указанная лицензия — Apache-2.0. Карточка приводит результаты нескольких тестов общих языковых моделей, но не сообщает отдельных показателей качества кодирования ICD.
seyonec/PubChem10M_SMILES_BPE_60k — модель, разработанная Seyone Chithrananda, для работы с химическими структурами, представленными в формате SMILES. Она использует архитектуру RoBERTa с маскированным языковым моделированием и BPE-токенизатором, обученным на данных PubChem10M. Модель содержит около 96,6 млн параметров, шесть скрытых слоёв, 12 attention-голов, размер скрытого представления 768 и поддерживает последовательности длиной до 512 токенов. Основное назначение — восстановление замаскированных фрагментов SMILES, получение молекулярных представлений и последующее дообучение для задач классификации или регрессии химических свойств. Модель работает с химическими строками SMILES, а не с естественным языком.
Классификатор отдельных деталей пазла из проекта PuzzleMap, разработанный Pablo Moreira. Модель основана на визуальном трансформере DINOv2 Base, дообученном на датасете PuzzleMap, и использует две классификационные головы: одна отдельно определяет тип каждой из четырёх сторон, другая предсказывает общую конфигурацию детали. На вход подаётся изображение уже обнаруженной и обрезанной детали. Для верхней, правой, нижней и левой сторон модель определяет один из классов: ровный край, внешний выступ или внутреннее углубление; также она выдаёт метку полного рисунка сторон и вероятности предсказаний. Модель рассчитана на компьютерное зрение в задачах анализа и сортировки деталей пазла. README не задаёт конкретные ограничения по размеру входного изображения или языкам, поскольку обработка изображений не зависит от естественного языка. Качество может снижаться при неточной обрезке, наличии нескольких деталей, сильном перекрытии или отсутствующей части детали. Обучение включало четыре основные ориентации и небольшие случайные повороты, поэтому произвольные повороты и перспективные искажения могут обрабатываться хуже. Для загрузки пользовательской архитектуры Transformers требуется включить trust_remote_code. Модель распространяется по лицензии CC BY 4.0.
Модель A2H0H0R1/resnet-50-plant-disease — ResNet-50, дообученная на наборе изображений растений для классификации. Она принимает изображение и предсказывает один из изученных классов заболеваний растений. В README указана точность 0,9286 на оценочной выборке и значение loss 0,3609. Модель основана на microsoft/resnet-50 и распространяется в формате Safetensors по лицензии Apache-2.0. Состав классов и подробности обучающих данных в карточке не описаны, поэтому результаты на других растениях, условиях съёмки и наборах данных могут отличаться.
raynardj/roberta-pubmed — модель семейства RoBERTa, дообученная на корпусе аннотаций PubMed для предсказания замаскированных слов. Обучающий текст ограничен аннотациями по биомаркерам опухолей, карциномам и клиническим исследованиям; указанный объём корпуса — 531 МБ. Модель содержит 151,8 млн параметров, принимает текст и поддерживает контекст до 514 токенов. Модель предназначена для подстановки вероятных слов в пропуски медицинского и биомедицинского текста, например в аннотациях исследований. В карточке описано обучение на задаче masked language modeling с вероятностью маскирования 15% в течение трёх эпох. Доступны веса PyTorch, лицензия Apache-2.0. Специализация корпуса на онкологии и PubMed ограничивает надёжность применения к другим областям и типам текста.
roberta_zinc_480m — маскированная языковая модель на архитектуре RoBERTa, разработанная Карлом Хейером. Она обучена на примерно 480 млн канонизированных SMILES-строк из базы ZINC и предназначена для работы с представлениями молекул: модель можно использовать для получения эмбеддингов SMILES, а также для восстановления замаскированных фрагментов последовательности. Модель содержит 134,2 млн параметров и принимает последовательности длиной до 512 токенов. Для корректной работы автор рекомендует подавать канонизированные SMILES. Репозиторий распространяется в форматах PyTorch и safetensors; лицензия — MIT. В экосистеме автора также упомянуты отдельные модели для реконструкции входных строк из эмбеддингов, сжатия эмбеддингов с сохранением косинусного сходства и разложения эмбеддингов на представления строительных блоков. Это отдельные модели, а не функции данного чекпойнта. Модель специализирована на молекулярных строках и не предназначена для обычного текста.
Карточка модели Alibaba-DAMO-Academy/RynnValue-4B на Hugging Face совпадает с карточкой Alibaba-DAMO-Academy/RynnValue-8B, поэтому описание составлено по ней. Карточка модели Alibaba-DAMO-Academy/RynnValue-8B на Hugging Face совпадает с карточкой Alibaba-DAMO-Academy/RynnValue-4B, поэтому описание составлено по ней. Карточка модели Alibaba-DAMO-Academy/RynnValue-4B на Hugging Face совпадает с карточкой Alibaba-DAMO-Academy/RynnValue-8B, поэтому описание составлено по ней. RynnValue-8B — модель Alibaba DAMO Academy для оценки прогресса в роботизированных манипуляциях. Это дообученная на базе RynnBrain-8B модель зрения и языка на архитектуре Qwen3-VL: она принимает видео робота и текстовую инструкцию, для каждого кадра оценивает оставшееся до завершения задачи время в секундах и формирует текстовый анализ траектории, включая соответствие видео инструкции и успешность выполнения. Модель предназначена для оценки прогресса и обнаружения неудач, ранжирования политик и использования в качестве сигнала вознаграждения или критика при обучении VLA-политик с подкреплением. Обучение использует временные метки из более чем 7 000 часов данных, поэтому для целевой разметки не требуются предпочтения или ручные оценки прогресса. В README приведён результат Kendall's τₐ 0,675 на RBM-EVAL-OOD и описано применение сигналов модели для улучшения роботизированных политик. Указанные целевые диапазоны оценки — от 0 до 512 секунд для абсолютного времени и от −256 до 256 секунд для относительного временного смещения; значения выдаются распределительными головами с последующим декодированием в секунды. Для использования нужны видео и инструкция, а встроенный анализ генерируется на естественном языке. Карточка указывает поддержку английского и китайского языков. Модель распространяется по лицензии Apache-2.0.
Карточка модели Alibaba-DAMO-Academy/RynnValue-8B на Hugging Face совпадает с карточкой Alibaba-DAMO-Academy/RynnValue-4B, поэтому описание составлено по ней. Карточка модели Alibaba-DAMO-Academy/RynnValue-4B на Hugging Face совпадает с карточкой Alibaba-DAMO-Academy/RynnValue-8B, поэтому описание составлено по ней. RynnValue-8B — модель Alibaba DAMO Academy для оценки прогресса в роботизированных манипуляциях. Это дообученная на базе RynnBrain-8B модель зрения и языка на архитектуре Qwen3-VL: она принимает видео робота и текстовую инструкцию, для каждого кадра оценивает оставшееся до завершения задачи время в секундах и формирует текстовый анализ траектории, включая соответствие видео инструкции и успешность выполнения. Модель предназначена для оценки прогресса и обнаружения неудач, ранжирования политик и использования в качестве сигнала вознаграждения или критика при обучении VLA-политик с подкреплением. Обучение использует временные метки из более чем 7 000 часов данных, поэтому для целевой разметки не требуются предпочтения или ручные оценки прогресса. В README приведён результат Kendall's τₐ 0,675 на RBM-EVAL-OOD и описано применение сигналов модели для улучшения роботизированных политик. Указанные целевые диапазоны оценки — от 0 до 512 секунд для абсолютного времени и от −256 до 256 секунд для относительного временного смещения; значения выдаются распределительными головами с последующим декодированием в секунды. Для использования нужны видео и инструкция, а встроенный анализ генерируется на естественном языке. Карточка указывает поддержку английского и китайского языков. Модель распространяется по лицензии Apache-2.0.
nyu-visionx/siglip2_decoder — артефакт проекта Scale-RAE, связанного с исследованием масштабирования диффузионных трансформеров для генерации изображений по тексту. В README говорится о Representation Autoencoders (RAE), использующих энкодеры вроде SigLIP-2 для представления изображений в высокоразмерном семантическом латентном пространстве. Карточка Hugging Face описывает модель как ViTMAEForPreTraining на базе архитектуры ViT-MAE с 191,1 млн параметров. По назначению проекта такие представления служат основой для обучения и генерации изображений диффузионными моделями; сам репозиторий помечен задачей image-to-image. Доступные материалы не раскрывают детали интерфейса инференса и конкретные параметры декодера. Лицензия репозитория — MIT.
asinha08/slm-125m-base — базовая языковая модель, разработанная автором репозитория и обученная с нуля. Это плотная decoder-only causal LM семейства Llama с 125,8 млн параметров, реализованная для Transformers и доступная в формате safetensors. Модель предсказывает продолжение текста; она не настроена на выполнение инструкций и не является чат-ассистентом. Модель предназначена для экспериментов с предобучением небольших языковых моделей, языкового моделирования юридических текстов, дообучения, оценки и генерации продолжений. Англоязычный обучающий корпус преимущественно состоит из судебных решений и документов SEC, с дополнительными образовательными веб-текстами. Контекст составляет 1 024 токена. Лицензия указана как other; условия лицензий исходных датасетов следует проверять отдельно. Небольшой размер и отсутствие настройки на инструкции ограничивают качество ответов и применение вне обучающего распределения. В карточке приведена только внутренняя оценка perplexity, без результатов бенчмарков юридических задач. Модель может выдумывать факты и ссылки, поэтому её не следует использовать для юридических консультаций или решений с высокими последствиями без тщательной проверки.
JuIm разработал SMILESBERT — модель семейства RoBERTa с архитектурой RobertaForMaskedLM, обученную предсказывать замаскированные токены в строках SMILES. Для предобучения использовано 50 тысяч SMILES-соединений из BindingDB, связывающихся с белками с определённой аффинностью. Модель содержит 153,2 млн параметров и принимает последовательности длиной до 514 токенов. Модель предназначена для дальнейшего дообучения на задачах, связанных с молекулярными структурами: прогнозирования аффинности связывания, физических свойств, химической и биологической активности, а также классификации соединений. В текущем виде её основная задача — восстановление замаскированных токенов SMILES; специализированные прогнозы требуют дополнительного дообучения. Данные карточки не сообщают лицензию, поэтому условия использования по ней определить нельзя.
Модель разработал Miguelangel Leon: это версия RoBERTa, дообученная на наборе BBBP для бинарной классификации химических соединений по способности проникать через гематоэнцефалический барьер. На вход подаются молекулы в формате SMILES; для токенизации используется APE (Atom Pair Encoding), словарь которого находится в репозитории. Модель содержит 40,8 млн параметров, работает с контекстом до 512 токенов и предназначена для классификации последовательностей. Модель подходит для предварительного отбора соединений и исследовательского анализа молекул. Она может хуже обобщать на соединения, заметно отличающиеся от химического пространства датасета BBBP; перед применением на новых данных рекомендуется отдельная оценка качества. Лицензия — MIT.
SupraWeather1.5-Small — компактная модель классификации погодных явлений от SupraLabs на архитектуре FT-Transformer. Она принимает структурированные атмосферные данные: температуру, влажность, давление, ветер, облачность и другие непрерывные признаки, а также направление ветра, месяц, воздушную массу, климатическую зону и тип местности. Архитектура включает 4 трансформерных блока с 8 головами внимания и размерностью токена 256. Модель предсказывает один из 25 классов синтетических погодных явлений, включая туман, осадки, грозы, снегопады, волны жары и холода, штормы и фронты. Её можно использовать для экспериментов со структурированным машинным обучением, обучения и демонстраций, а также для процедурной генерации погоды в играх и виртуальных средах. Обучение проводилось на 300 000 процедурно сгенерированных примеров, а не на реальных метеорологических наблюдениях. Поэтому предсказания применимы только в пределах синтетического распределения данных; модель не предназначена для оперативного прогнозирования погоды или научной метеорологии. Лицензия — Apache-2.0.
wyz/tfgridnet_for_urgent24 — модель, обученная Wangyou Zhang с использованием рецепта urgent24 в ESPnet. Она опубликована как предварительно обученная базовая модель для конкурса URGENT 2024 и предназначена для обработки аудио в задачах конкурса. Модель работает с аудио на входе и выдаёт аудио; формат файлов — PyTorch, для запуска используется ESPnet2. Модель распространяется по лицензии CC BY 4.0. Карточка не описывает конкретные акустические задачи, устройство архитектуры или ограничения качества, поэтому применение следует соотносить с рецептами и условиями URGENT 2024.
Это дообученная модель VideoMAE-base объёмом 113,2 млн параметров, опубликованная пользователем Shawon16. Она предназначена для классификации видео; название репозитория указывает на связь с набором WLASL100 и распознаванием жестов, однако README не подтверждает детали датасета или классов. Модель принимает видео и выдаёт метку класса. В README приведены результаты на оценочном наборе: accuracy 0,0148 и loss 4,6213, что указывает на очень низкую точность в описанной оценке. Модель распространена в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
felafax/tokenizer-llama-3.1-8B-Instruct-JAX — это репозиторий с токенизатором для JAX-ориентированной реализации Llama 3.1 8B Instruct, опубликованный организацией Felafax. Это не самостоятельная генеративная модель и не содержит полного набора параметров языковой модели; токенизатор преобразует текст в токены и обратно для использования совместно с соответствующими весами Llama 3.1 8B Instruct в JAX-инфраструктуре. Базовая модель Llama 3.1 8B Instruct разработана Meta и представляет собой instruction-tuned текстовую autoregressive language model примерно на 8 млрд параметров. Она предназначена для диалоговых ассистентов, генерации и преобразования текста, многоязычных сценариев, синтетических данных и последующего fine-tuning. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; заявлено контекстное окно до 128K токенов. Архитектура использует Grouped-Query Attention. Информация о специальных преимуществах или изменениях токенизатора Felafax по сравнению с оригинальным токенизатором Meta не представлена, поэтому его характеристики следует считать совместимыми с базовой моделью, а не отдельными свойствами. Использование связано с Llama 3.1 Community License и требованиями Acceptable Use Policy Meta, включая условия распространения и атрибуции. Для практического применения необходимы совместимые веса Llama 3.1 8B Instruct и JAX-совместимый код; сам репозиторий токенизатора не предназначен для генерации текста без модели.
Vir2vec — вирусная геномная языковая модель, разработанная Пабло Аросареной и предназначенная для получения векторных представлений геномов вирусов. Модель основана на дообученной RaphaelMourad/Mistral-DNA-v1-422M-hg38; доступны варианты размером 422 млн, 138 млн и 17 млн параметров. Она формирует фиксированные эмбеддинги размерности 4096 с помощью max pooling логитов словаря и загружается через Transformers. Эмбеддинги можно применять для различения вирусных и невирусных геномов или прочтений, классификации ДНК- и РНК-вирусов, предсказания круга хозяев, типирования вариантов и выявления сигналов, связанных с фенотипом, например тропностью к тканям. Репозиторий ограничивает доступ: для получения модели требуется запрос с институциональным адресом электронной почты, кратким описанием цели и номером протокола IRB. Лицензия — MIT.
nateraw обучил эту модель дообучением google/vit-base-patch16-224-in21k на наборе изображений beans. Это ViT для классификации изображений, содержащий 113,2 млн параметров; репозиторий предоставляет веса PyTorch. На оценочной выборке набора beans модель показала accuracy 0,9774 и loss 0,0942. Она подходит для распознавания классов изображений фасоли в задачах, близких к использованному набору данных. Лицензия — Apache-2.0. Карточка не описывает ограничения и условия применимости за пределами оценки на этом наборе данных.
abdulelahagr/vit-base-chest-xray — модель классификации рентгеновских снимков грудной клетки, созданная дообучением google/vit-base-patch16-224-in21k на наборе данных trpakov/chest-xray-classification. Она использует архитектуру Vision Transformer ViTForImageClassification и содержит 113,2 млн параметров. На оценочной выборке автор сообщает accuracy 0,9742 и loss 0,0856. Модель предназначена для отнесения рентгеновских изображений грудной клетки к классам набора данных. Лицензия — Apache-2.0. Показатели приведены для оценочной выборки; README не описывает классы, методику оценки и ограничения, поэтому результат сам по себе не подтверждает пригодность модели для клинической диагностики.
keremberke/yolov8m-pcb-defect-segmentation — модель компьютерного зрения на базе YOLOv8m, опубликованная Keremberke и предназначенная для сегментации дефектов печатных плат. Она принимает изображения и выделяет масками четыре класса: холодная пайка, неправильная установка компонентов, повреждение платы и короткое замыкание. Модель подходит для автоматизированного контроля качества плат по снимкам; для запуска используется библиотека Ultralytics. В репозитории указан формат PyTorch. Карточка не сообщает размер модели, разрешение входных изображений или лицензию, поэтому эти характеристики здесь не уточняются. Качество распознавания может зависеть от условий съёмки и сходства новых изображений с обучающими данными.
AbLang_heavy — версия модели AbLang для тяжёлых цепей антител, опубликованная в формате Hugging Face. Это языковая модель семейства RoBERTa с архитектурой RobertaForMaskedLMV2 и примерно 113,3 млн параметров. Она обучена на последовательностях аминокислот и предназначена для извлечения признаков белков и дообучения для последующих задач, связанных с антителами. Модель принимает последовательности аминокислот, записанные заглавными буквами; README отдельно предупреждает, что строчные буквы не поддерживаются. Контекст ограничен 160 токенами. Для сравнения последовательностей доступна задача sentence-similarity, а архитектура masked language model позволяет предсказывать замаскированные аминокислоты. Репозиторий содержит веса PyTorch и Safetensors. Модель разработана авторами AbLang; README ссылается на научную статью и первоначальный репозиторий. Лицензия — BSD. Карточка предлагает применять модель для извлечения признаков или дообучать её под целевые задачи; качество на конкретных downstream-задачах зависит от такого дообучения.
Synthyra/ANKH2_large — опубликованный Synthyra вариант полного чекпойнта ANKH2 large от ElnaggarLab, упакованный для работы с FastPLMs и Hugging Face Transformers. Это плотная encoder-decoder модель семейства T5 с 1,6 млрд параметров, принимающая аминокислотные последовательности. Для получения эмбеддингов энкодера используется AutoModel, а для задач последовательность-в-последовательность — AutoModelForSeq2SeqLM. Модель предназначена для вычислительной работы с белковыми последовательностями: извлечения представлений последовательностей и остатков, а также дообучения под задачи классификации последовательностей или отдельных остатков и генеративные задачи. Варианты классов классификации используют предобученную основу, но их новые классификационные головы изначально не обучены. Также доступен FastPLMs-вариант masked-LM, который README обозначает как расширение, а не официальную голову ANKH. Для работы требуется Transformers с загрузкой пользовательского кода через trust_remote_code=True; доступны backend внимания eager и sdpa. Указанные в README test-time training адаптерами увеличивают задержку и расход памяти, могут ухудшить результат и сами по себе не устанавливают биологическую функцию белка. Артефакты распространяются на условиях CC BY-NC-SA 4.0, предусматривающих некоммерческое использование и ShareAlike.
Synthyra/ANKH_large — публикация контрольной точки ANKH-large от ElnaggarLab, упакованная с runtime FastPLMs для Transformers. Это плотная encoder-decoder модель семейства T5 с 1,6 млрд параметров: она принимает токенизированные аминокислотные последовательности и подходит для получения представлений белков и задач seq2seq. Доступны полная модель encoder-decoder и отдельный encoder для эмбеддингов; поддерживаются классы Transformers для генерации, классификации последовательностей и разметки токенов. Модель предназначена для вычислительных задач с белковыми последовательностями: получения эмбеддингов, генерации последовательностей и построения downstream-предсказаний после дообучения. Головы классификации последовательностей и токенов инициализируются заново и требуют обучения, прежде чем их выходы можно трактовать как предсказания. Маскированная языковая модель в FastPLMs является расширением, а не официальной головой ANKH. Весам ANKH соответствует лицензия CC BY-NC-SA 4.0. Тестовое обучение адаптеров увеличивает задержку и расход памяти и может ухудшить результат; оно само по себе не подтверждает биологическую функцию. Указанный репозиторий содержит полный encoder-decoder чекпойнт, а не только encoder.
BabySteps SidBert 100M — англоязычная GPT-BERT-модель команды BabySteps, созданная для челленджа BabyLM 2026. Это исследовательский чекпойнт примерно на 112 млн параметров: метаданные указывают класс GPTBERTFoCausalLM, библиотеку Transformers и контекст 512 токенов. Модель обучена оптимизатором Muon на официальном строгом корпусе BabyLM объёмом 100 млн слов без синтетических данных и учительских моделей; поддерживает маскированную и каузальную языковые цели. В README приведены результаты оценки на BLiMP, EWoK и SuperGLUE. Модель подходит для экспериментов с предобучением на ограниченном объёме данных и для оценки языковых способностей небольших моделей; её можно загружать как AutoModelForMaskedLM или AutoModelForCausalLM. Она обучена только на английском, не проходила дообучение для следования инструкциям и не предназначена для производственного применения. Результаты могут колебаться из-за недетерминированного обучения на GPU; возможны неграмотные или фактически неверные ответы и смещения обучающего корпуса. Лицензия — MIT.
gabrielbianchin/esm2_t12_long_int4 является квантизированной версией этой базовой модели ESM2. Репозиторий содержит базовую модель ESM2 с архитектурой EsmForMaskedLM и примерно 44,3 млн параметров; формат весов — safetensors, контекст составляет до 2050 токенов. Модель предназначена для заполнения масок в последовательностях аминокислот и других задач языкового моделирования белковых последовательностей. README указывает, что этот чекпойнт служит базой для квантизированной модели gabrielbianchin/esm2_t12_long_int4. Условия лицензии в предоставленных данных не описаны.
CENO-300M-131k — базовая модель семейства CENO, разработанная для работы с геномными последовательностями ДНК. Это причинная языковая модель с гибридной архитектурой Nemotron-H, объединяющей Mamba, attention и Mixture-of-Experts; она обрабатывает последовательности без входов MSA. Токенизатор посимвольный и сопоставляет основания ДНК их ASCII-кодам. В метаданных указано 151,5 млн параметров, а README называет модель чекпойнтом семейства размером 300M; обучающая длина контекста этого чекпойнта — 131 072 токена. Модель предназначена для генерации геномных последовательностей и извлечения эмбеддингов, а также для последующей адаптации и исследования геномных задач. В README отдельно описаны MSA-чекпойнты семейства для предсказания эффектов вариантов; это не заявленная основная функция данного базового чекпойнта. Модель распространяется по лицензии Apache-2.0. Для загрузки в Transformers README указывает `trust_remote_code=True`, поскольку код модели включён в репозиторий.
Карточка модели CladeTeam/CENO-300M-1m на Hugging Face совпадает с карточкой cuio/CENO-300M-1m, поэтому описание составлено по ней. CENO-300M-1m — базовая модель семейства CENO для работы с геномными последовательностями ДНК, разработанная командой CENO. Это причинная языковая модель с гибридной архитектурой Nemotron-H, объединяющей Mamba, attention и Mixture of Experts; токенизатор посимвольный и кодирует основания ДНК ASCII-кодами. Чекпойнт прошёл этап расширения контекста и обучался на последовательностях длиной 1 048 576 токенов. Модель предназначена для генерации геномных последовательностей, извлечения эмбеддингов и последующей адаптации для задач геномики. Она не принимает MSA-входы; предсказание эффектов вариантов описано для отдельных MSA-чекпойнтов семейства CENO, поэтому эту возможность нельзя напрямую приписывать данной модели. Модельный код включён в репозиторий и используется через Transformers с trust_remote_code=True. Лицензия — Apache-2.0.
CENO-80M-131k — базовая модель семейства CENO для работы с геномными последовательностями ДНК. Это причинная языковая модель на гибридной архитектуре Nemotron-H, сочетающей Mamba, внимание и Mixture of Experts; модель содержит 38 млн параметров и использует посимвольный токенизатор, кодирующий основания ДНК ASCII-байтами. Чекпойнт обучен на последовательностях длиной 131 072 токена, а заявленный нативный контекст в метаданных составляет 1 048 576 токенов. Модель предназначена для генерации геномных последовательностей, извлечения эмбеддингов и последующей адаптации под задачи геномики. Она не использует входы MSA. Репозиторий содержит веса safetensors; загрузка через Transformers требует включения trust_remote_code. Лицензия — Apache-2.0.
CENO Base 1B Preview — базовая языковая модель для работы с последовательностями ДНК, опубликованная CladeTeam. Модель создана на основе NVIDIA Nemotron-H: в репозитории переименована реализация Transformers, а веса оставлены без изменений. Она использует причинную языковую архитектуру и символьный токенизатор CENO; для загрузки требуется включить доверие к коду репозитория в Transformers. Модель предназначена для оценки правдоподобия последовательностей ДНК, получения представлений и дальнейшего дообучения на данных конкретных видов или задач. Для работы кода нужны PyTorch и стек Mamba/Triton; при отсутствии mamba-ssm и causal-conv1d можно отключить ядра Mamba и использовать реализацию на чистом PyTorch. Выпуск обозначен как предварительный. Лицензия — Apache-2.0.
CENO-P-300M — модель семейства CENO, разработанная CladeTeam для предсказания эффектов генетических вариантов по множественным выравниваниям последовательностей (MSA). Это постобученный для MSA вариант ДНК-модели CENO; он оценивает варианты сравнением log-likelihood последовательностей дикого типа и с вариантом. Модель принимает упакованные MSA-последовательности с индексами последовательностей и использует символьную токенизацию, кодирующую основания ДНК ASCII-кодами. Архитектура — гибрид Mamba, Attention и Mixture-of-Experts семейства Nemotron-H; README указывает 307,5 млн параметров, а метаданные Hugging Face — 151,5 млн. Нативный контекст составляет 1 048 576 токенов. Модель работает с последовательностями ДНК и не предназначена для обычной генерации естественного языка. Код модели включён в репозиторий, для загрузки через Transformers требуется trust_remote_code=True. Лицензия — Apache-2.0.