II.8Инженерия данных и аналитика

Carbon-3B — авторегрессионная геномная языковая модель семейства Carbon, разработанная командой HuggingFaceBio. Модель с плотной decoder-only архитектурой LlamaForCausalLM содержит 3,5 млрд параметров и обучена на последовательностях ДНК и РНК, преимущественно эукариотических. Для ДНК используется токенизация неперекрывающимися 6-мерами, а для английского текста — словарь Qwen3 BPE. Модель предназначена для генерации и восстановления геномных последовательностей, предсказания эффектов вариантов и анализа изменений мотивов. Нативный контекст составляет 32 768 токенов, что соответствует примерно 197 тыс. пар оснований; при инференсе его можно расширить до 65 536 токенов (около 393 тыс. пар оснований) с помощью YaRN. По оценке авторов, Carbon-3B сочетает конкурентные результаты на ряде геномных задач с высокой скоростью инференса. Модель доступна в формате safetensors и совместима с Transformers; для токенизатора требуется trust_remote_code=True. Лицензия — Apache-2.0. Обучение преимущественно на эукариотических данных ограничивает специализацию на прокариотах; качество извлечения информации резко снижается при расширении контекста до 128 тыс. токенов. При работе с генетическими данными следует учитывать, как выбранный провайдер обрабатывает входы и результаты.

CENO-300M-base — базовая предобученная модель семейства CENO для работы с геномными последовательностями ДНК. Разработчик в карточке не назван; README связывает модель с семейством CENO и упоминает отдельный репозиторий кода проекта. Это причинная языковая модель с гибридной архитектурой Nemotron-H, объединяющей Mamba, attention и Mixture-of-Experts. В README указано 307,5 млн параметров, тогда как метаданные Hugging Face сообщают 151,5 млн; размер поэтому расходится между источниками. Модель имеет 9 скрытых слоёв, размер скрытого состояния 1024 и посимвольный токенизатор для оснований ДНК. По метаданным нативный контекст составляет 1 048 576 токенов. Модель предназначена для генерации геномных последовательностей, извлечения эмбеддингов и последующей адаптации к задачам геномики. Это базовый чекпойнт, а не вариант CENO-P для предсказания эффектов вариантов. Для загрузки README указывает Transformers и необходимость trust_remote_code=True. Репозиторий содержит веса safetensors; лицензия — Apache-2.0. Вход модели — текстовое представление последовательности ДНК, выход — текстовая последовательность; для эмбеддингов требуется соответствующий downstream-код.

ChemFIE Base — компактная модель BERT для работы с молекулами, разработанная автором репозитория gbyuvd. Она предобучена на последовательностях SELFIES, представляющих 2,7 млн уникальных молекул из COCONUTDB и ChemBL34; при обучении использовано 7,3 млн примеров с замаскированными токенами. Модель содержит 14,1 млн параметров по метаданным Hugging Face, а в README указано 11 млн; максимальная длина последовательности — 512 токенов. Основная задача модели — восстановление замаскированных элементов SELFIES. Её также предлагают дообучать для задач классификации и регрессии в химии и открытии лекарств. В README приведены отдельные дообученные варианты для оценки молекулярного сходства, предсказания доступности синтеза и прогнозирования белковых мишеней; эти возможности относятся к вариантам, а не непосредственно к базовой модели. Для SMILES перед подачей требуется преобразование в SELFIES. Модель работает с текстовым представлением SELFIES и выдаёт предсказания токенов. В README сообщается о точности MLM 88,83% при переменном маскировании и 90,55% при равномерном маскировании 15%. Ограничения: базовая модель ориентирована на молекулярные последовательности и сама по себе не является готовым классификатором или регрессионной моделью; качество downstream-задач зависит от дообучения. Лицензия CC-BY-NC-SA 4.0, а автор указывает академическое, образовательное и исследовательское применение без коммерческого использования.

CT Head Hemorrhage Detection — исследовательская система для выявления внутричерепных кровоизлияний на бесконтрастной КТ головы, разработчик — ianpan. Она включает классификатор с энкодером MaxViT-Tiny, двухслойную двунаправленную GRU для учёта последовательности срезов и пять декодеров DeepLabV3+ для качественной локализации подозрительных областей. Классификатор выдаёт оценки для эпидурального, внутрипаренхиматозного, внутрижелудочкового, субарахноидального и субдурального кровоизлияний, а также общего класса «любое кровоизлияние». Модель принимает три соседних аксиальных среза, подготовленных в трёх КТ-окнах, с размером 512 × 512; серия обрабатывается с учётом контекста между срезами. Обучение классификатора проводилось на наборе RSNA Intracranial Hemorrhage Detection с разделением по пациентам. Локализационная карта предназначена для визуальной поддержки и не измеряет объём кровоизлияния. Репозиторий распространяется по лицензии MIT. Модель предназначена для исследовательских экспериментов по классификации срезов и серий КТ и качественной локализации предполагаемых кровоизлияний. Она не является медицинским изделием и не прошла независимую клиническую валидацию. Результаты получены на одном публичном наборе данных; оценки не калиброваны, клинические пороги не выбраны, а работа с контрастными исследованиями, другими форматами реконструкции, тяжёлыми артефактами и рядом других случаев не подтверждена.

DNA_bert_6 — модель DNABERT разработчиками которой являются исследователи, включая Жихана Чжоу и Яньжун Цзи. Это BERT-подобный двунаправленный трансформер, предварительно обученный на геномных последовательностях; версия 6 использует токенизацию ДНК 6-мерными фрагментами. Число параметров — 116,4 млн, максимальная длина контекста — 512 токенов. Модель предназначена для предсказания замаскированных фрагментов ДНК и может служить основой для дообучения на задачах анализа геномных последовательностей, включая распознавание промоторов, сайтов сплайсинга и сайтов связывания транскрипционных факторов. Она принимает последовательности ДНК, а не естественный язык, и выдаёт предсказания токенов; разработчики отмечают возможность адаптации к другим организмам. В репозитории указана лицензия MIT.

mrothroc разработал компактную GPT-2-подобную языковую модель ДНК и обучил её в mixlab. Модель содержит 14,4 млн параметров, восемь причинных слоёв attention, размерность 384, словарь из девяти токенов и контекст длиной 512 токенов. Она предсказывает следующий нуклеотид; предобучение проведено на непрерывном потоке последовательностей из хромосом 1–3 генома GRCh38 с аугментацией обратным комплементом. Модель предназначена как переиспользуемая основа для генерации последовательностей ДНК и дообучения классификаторов на геномных задачах. На бенчмарке human_enhancers_cohn классификатор, дообученный на этой основе, показал accuracy 0,717 и AUROC 0,799, превысив указанный в карточке результат базовой CNN. Модель распространяется в формате safetensors, загружается через стандартный Transformers как GPT2LMHeadModel без trust_remote_code и лицензирована по MIT. Обучение ограничено хромосомами 1–3, а контекст составляет 512 токенов, поэтому модель может не отражать закономерности всего генома и не подходит для анализа длинных последовательностей без дополнительной обработки. Приведённый результат относится к классификатору после дообучения, а не к исходной модели как готовому классификатору.

ERNIE-RNA — предварительно обученная языковая модель для последовательностей РНК, созданная Yin et al.; порт на Hugging Face поддерживает Taykhoom Dalal. Модель предназначена для восстановления скрытых нуклеотидов и получения представлений последовательностей РНК. Это плотная трансформерная модель с 12 слоями, 12 головами внимания и размерностью эмбеддинга 768. При обработке каждой последовательности она вычисляет матрицу потенциалов спаривания оснований РНК и использует её как рекуррентное структурное смещение в механизме внимания. Обучение выполнено методом masked language modeling на последовательностях RNAcentral. Репозиторий содержит исходный предварительно обученный чекпойнт без вариантов дообучения. Модель подходит для заполнения масок в последовательностях РНК и получения эмбеддингов для последующего обучения предсказательных голов на задачах уровня последовательности или токенов. Для сохранения структурного пути требуется реализация внимания eager; SDPA и FlashAttention 2 не поддерживаются. Лицензия — MIT.

Synthyra/ESM2-35M — публикация чекпойнта ESM2 от Meta (исходный репозиторий facebook/esm2_t12_35M_UR50D) с runtime FastPLMs для Transformers. Это плотная модель masked language modeling на 44,3 млн параметров, принимающая аминокислотные последовательности, разбитые на токены остатков; длина контекста — до 1026 токенов. Основной сценарий — предсказание скрытых аминокислотных остатков и получение представлений белковых последовательностей. Модель также предоставляет интерфейсы для классификации последовательностей и отдельных остатков, извлечения эмбеддингов и предсказания контактных карт. Головы классификации и пулер, если они добавлены, изначально не обучены и требуют дообучения перед использованием для предсказаний. Для работы с белками специальные естественные языки не применяются. Модель опубликована под лицензией MIT. README указывает использование Transformers с `trust_remote_code=True` и перечисляет несколько доступных backend-механизмов внимания. Результаты сами по себе не подтверждают биологическую функцию белка; тестовое обучение может ухудшать результат и требует дополнительных вычислительных ресурсов.

Synthyra/ESM2-8M — компактная белковая языковая модель на основе контрольной точки facebook/esm2_t6_8M_UR50D, опубликованная с рантаймом FastPLMs для Hugging Face Transformers. Она содержит 9,8 млн параметров, использует архитектуру ESM2 и принимает аминокислотные последовательности, токенизированные по остаткам. Длина контекста — до 1026 токенов. Веса опубликованы в формате safetensors по лицензии MIT. Основная задача модели — предсказывать замаскированные остатки в белковых последовательностях. Её также можно использовать для извлечения эмбеддингов и как основу для классификации последовательностей или отдельных остатков. Классификационные головы в этом репозитории инициализированы заново и требуют дообучения. Модель позволяет получать карты контактов на основе внимания и поддерживает несколько бэкендов внимания, включая SDPA и Flash Attention. Модель предназначена для анализа белковых последовательностей и подготовки представлений для биоинформатических задач. README предупреждает, что test-time training увеличивает задержку и расход памяти, может ухудшить результат и само по себе не устанавливает биологическую функцию белка.

Карточка модели fredzzp/esm2_t12_35M_UR50D на Hugging Face совпадает с карточкой fredzzp/esm2_t33_650M_UR50D, поэтому описание составлено по ней. fredzzp/esm2_t33_650M_UR50D — эффективная реализация ESM2 (Evolutionary Scale Modeling) с поддержкой Flash Attention; в README указано, что исходный код взят из FAPLM. Модель предназначена для заполнения пропусков в последовательностях белков и других задач языкового моделирования белковых последовательностей. Архитектура — плотная трансформерная ESM, вариант на 33 слоя; в метаданных указано 865,1 млн параметров и контекст до 1026 токенов. При наличии FlashAttention реализация может ускорять инференс и снижать расход памяти; без него используется PyTorch SDPA. Также заявлено исключение токенов паддинга из вычислений. Совместимость API с исходными моделями ESM2 упрощает замену реализации. Модель принимает текстовые последовательности белков и предсказывает замаскированные токены. Лицензия — MIT.

fredzzp/esm2_t33_650M_UR50D — эффективная реализация ESM2 (Evolutionary Scale Modeling) с поддержкой Flash Attention; в README указано, что исходный код взят из FAPLM. Модель предназначена для заполнения пропусков в последовательностях белков и других задач языкового моделирования белковых последовательностей. Архитектура — плотная трансформерная ESM, вариант на 33 слоя; в метаданных указано 865,1 млн параметров и контекст до 1026 токенов. При наличии FlashAttention реализация может ускорять инференс и снижать расход памяти; без него используется PyTorch SDPA. Также заявлено исключение токенов паддинга из вычислений. Совместимость API с исходными моделями ESM2 упрощает замену реализации. Модель принимает текстовые последовательности белков и предсказывает замаскированные токены. Лицензия — MIT.

Taykhoom/Evo2-1B-8K — минимальный порт для Hugging Face базовой модели Evo 2 1B, разработанной Arc Institute и опубликованной пользователем Taykhoom. Это причинная языковая модель на архитектуре StripedHyena 2 с чередованием блоков Hyena и многоголового внимания; по метаданным репозиторий содержит 1,5 млрд параметров, а README указывает около 1,1 млрд. Модель обучена предсказывать следующий байт на последовательностях ДНК и предназначена для анализа геномных последовательностей и извлечения представлений. Порт поддерживает загрузку через Transformers с `trust_remote_code=True`, получение скрытых состояний по слоям и весов внимания. Контекст составляет 8 192 токена. Веса доступны в safetensors; для заявленного пути с FP8 входными проекциями требуются NVIDIA Transformer Engine и GPU класса Hopper, например H100 или H200. Рекомендуется bf16; float16 не поддерживается из-за численной нестабильности фильтров. README сообщает о точном совпадении с эталонной конфигурацией bf16 SDPA при проверке конверсии, но не обещает точного совпадения с исходным путём Flash Attention/FP8. Лицензия — Apache-2.0.

Taykhoom подготовил минимальный порт Evo 2 20B в формате Hugging Face на архитектуре StripedHyena 2: в ней чередуются блоки Hyena и многоголовочного внимания. Модель обучена Arc Institute для авторегрессионного предсказания следующего байта в последовательностях ДНК; предобучение проводилось на 8,8 триллиона токенов из OpenGenome2, охватывающих разные области жизни. Метаданные указывают 25,8 млрд параметров, а README — около 18,5 млрд; эти оценки расходятся. В названии заявлен контекст 1 млн токенов, однако README не приводит его численное подтверждение. Порт поддерживает загрузку через Transformers с from_pretrained и извлечение скрытых состояний и весов внимания по слоям. README сообщает о побитном совпадении скрытых состояний и логитов с эталонной конфигурацией при проверке на H100 с PyTorch 2.7 и CUDA 12. Для FP8 входных проекций требуются NVIDIA Transformer Engine и GPU класса Hopper; также поддерживается SDPA, а Flash Attention 2 доступен как альтернативный бэкенд. Лицензия — Apache-2.0.

FARM — модель представления молекул, разработанная для химических задач на основе архитектуры BERT. Она использует токенизацию SMILES с учётом функциональных групп, чтобы включать химически значимые фрагменты в представление молекулы. Обучение объединяет признаки отдельных атомов, получаемые с помощью masked language modeling, с топологическим представлением молекулы от графовой нейронной сети и согласует их контрастивным обучением в общем молекулярном эмбеддинге. Модель предназначена для построения представлений молекул и их последующего применения в прогнозировании свойств, классификации и генерации. Репозиторий содержит около 129,9 млн параметров, веса в формате safetensors и контекст до 512 токенов; в метаданных указаны датасеты ChEMBL и ZINC15, а также английский язык. Лицензия — MIT. Ограничение: README не приводит метрики качества и не уточняет конкретные задачи прогнозирования, для которых модель проверена.

GenomeOcean-4B — базовая предобученная модель микробных геномов, разработанная Lawrence Berkeley National Laboratory и Northwestern University. Это плотная авторегрессионная языковая модель семейства Mistral с 4,2 млрд параметров, обученная предсказывать последовательности методом Causal Language Modeling. Для токенизации используется BPE с размером словаря 4096 токенов. Модель предназначена для работы с последовательностями ДНК микроорганизмов и может применяться для генерации и анализа геномных последовательностей, в том числе в задачах микробиомики и метагеномики. README указывает максимальную длину последовательности 10 240 токенов, что соответствует примерно 50 тысячам пар оснований; метаданные каталога указывают контекст 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия указана как BSD; в карточке также приведено уведомление о правах правительства США и контакты Berkeley Lab для вопросов использования и распространения. Модель специализирована на микробных геномах и не заявлена как универсальная языковая модель для естественного языка.

gLM-150M — перенос модели gLM2 на Hugging Face, поддерживаемый Taykhoom Dalal; исходную модель разработала команда Tatta Bio. Это плотная трансформерная модель с 150 млн параметров для предсказания замаскированных токенов в геномных последовательностях. Она обучена на корпусе OMG с целью masked language modeling и обрабатывает смешанные последовательности из токенов аминокислот и ДНК, различая их по регистру: заглавные буквы обозначают аминокислоты, строчные — нуклеотиды. Архитектура включает 30 слоёв, 10 голов внимания и размерность эмбеддингов 640; длина контекста — 4096 токенов. Модель подходит для восстановления пропущенных элементов последовательности, анализа геномных контекстов и получения представлений последовательностей для последующей настройки на задачи уровня последовательности. В README указана побитовая проверка соответствия весам исходной модели для реализации SDPA. Для использования опубликованы веса в формате safetensors, библиотека — Transformers; лицензия — Apache-2.0. Токенизатор сохраняет регистрозависимую семантику и не добавляет CLS или EOS автоматически, поэтому при задачах классификации требуется самостоятельно выбрать способ объединения представлений токенов. Модель специализирована на геномных данных и не предназначена для обычного естественного языка.

glubbot1.1-7.5m — экспериментальная сверхлёгкая авторегрессионная языковая модель семейства Llama, разработанная Glubbot-Team. Она содержит 6,3 млн параметров по метаданным и рассчитана на генерацию коротких грамматически связных историй на английском языке; контекст составляет 512 токенов. Модель обучена на наборе TinyStories и подходит для синтетической генерации коротких рассказов, тестирования скорости вывода на CPU и устройствах с ограниченными ресурсами, а также проверки токенизации и интеграции в пайплайны. Малая ёмкость модели ограничивает связность длинных генераций: возможны повторы и логические отклонения. Она не предназначена для рассуждений, программирования, фактологических запросов или роли универсального ассистента. Распространяется по лицензии Apache 2.0.

HERMES — унифицированная модель мира для автономного вождения, представленная авторами из Huazhong University of Science & Technology, MEGVII Technology, Mach Drive и The University of Hong Kong. Она объединяет понимание дорожной сцены и генерацию её будущего состояния в единой системе. Модель использует представление Bird’s-Eye View (BEV), чтобы объединять пространственную информацию с нескольких видов камер и сохранять геометрические связи между объектами. LLM с причинным вниманием обогащает BEV-признаки контекстом через специальные world queries. Модель предназначена для анализа сцен вождения и предсказания их развития; её оценивали на nuScenes и OmniDrive-nuScenes. В README сообщается о снижении ошибки генерации на 32,4% и улучшении метрики CIDEr на 8,0% относительно сравниваемых подходов. Код, предварительно обученные веса и обработанные данные опубликованы; репозиторий распространяется по лицензии Apache-2.0. Карточка описывает исследовательскую модель для сценариев автономного вождения, поэтому результаты на указанных наборах данных не гарантируют аналогичного качества в других условиях.

HIV-BERT — модель семейства BERT, разработанная damlab как специализированное продолжение предварительного обучения ProtBert-BFD для задач, связанных с ВИЧ. Модель использует архитектуру BertForMaskedLM и кодирует каждую аминокислоту отдельным токеном; объём составляет 503,3 млн параметров, формат весов — PyTorch. В метаданных указан контекст длиной до 40 000 токенов. Модель обучена предсказывать замаскированные аминокислоты и может применяться для поиска вероятных замен в последовательностях ВИЧ, выявления необычных мутаций и артефактов секвенирования, а также как основа для дообучения классификаторов, специфичных для ВИЧ. Для дополнительного предварительного обучения использованы 1 790 полных геномов ВИЧ из базы Los Alamos, представленные примерно 3,9 млн аминокислотных токенов; обучение проводилось на фрагментах по 256 аминокислот с маскированием 15% токенов. Лицензия — MIT. Модель работает с аминокислотными последовательностями, а не с обычным текстом.

Janus-first2last — специализированная условная модель диффузии DDPM/DDIM на основе UNet, разработанная для прогнозирования поля плотности av_density в данных HEAT-PLI. Она принимает первое поле симуляции при времени 0,0 и генерирует прогноз последнего поля при времени 25,0. Модель работает непосредственно с полями, без латентного VAE, и использует пользовательский код Transformers, загружаемый через AutoModel с trust_remote_code=True. Модель предназначена для исследовательского суррогатного моделирования, быстрой предварительной оценки результатов физической симуляции и получения ансамбля прогнозов повторными стохастическими запусками DDIM. Входное поле масштабируется до разрешения 560×200 и нормализуется отдельно для каждого примера; результат возвращается к исходному пространственному разрешению. Для воспроизводимости можно задать фиксированное случайное зерно. Прогнозы ограничены полем av_density и сценарием перехода от первого к последнему кадру HEAT-PLI. Карточка указывает лицензию как other, не уточняя её условия. Модель не предназначена для решений по безопасности, управления оборудованием или экстраполяции на не представленные в обучающих данных конфигурации и параметры; перед научным или инженерным использованием прогнозы требуют проверки.

Карточка модели huluhuluu/llama-3.2-3b-instruct-eagle3-sharegpt-epoch9-step463620 на Hugging Face совпадает с карточкой huluhuluu/llama3p2-3b-inst-eagle3-sharegpt-epoch-9-step-463620, поэтому описание составлено по ней. Это черновая модель EAGLE3, обученная разработчиком репозитория на базе meta-llama/Llama-3.2-3B-Instruct с помощью онлайн-обучения SpecForge на данных ShareGPT. Она предназначена для спекулятивного декодирования в паре с целевой моделью Llama-3.2-3B-Instruct и совместимым кодом SpecForge/EAGLE3; самостоятельно как обычная языковая модель не предназначена для использования. Архитектура — плотная LlamaForCausalLMEagle3, размер чекпойнта по метаданным — 494,7 млн параметров, формат весов — safetensors, тип данных в конфигурации — bfloat16. Указанное контекстное окно — 131 072 токена; языки карточки — английский и китайский. Карточка не приводит результатов бенчмарков. Лицензия обозначена как other, поэтому перед использованием следует проверить условия репозитория и базовой модели.

Mungert/medgemma-4b-pt-GGUF — GGUF-версия предварительно обученной мультимодальной модели MedGemma 4B, разработанной Google на базе Gemma 3 4B PT и преобразованной с помощью llama.cpp. Модель предназначена для понимания медицинского текста и изображений и может использоваться как основа для исследовательских и прикладных систем в здравоохранении. Модель сочетает языковой компонент с визуальным энкодером SigLIP, предварительно обученным на обезличенных медицинских данных. Она ориентирована на работу с рентгеновскими снимками грудной клетки, дерматологическими и офтальмологическими изображениями, гистопатологическими срезами и связанными с ними медицинскими текстами. Предварительно обученная версия предназначена для экспериментов и последующей адаптации; для большинства прикладных сценариев разработчик рекомендует instruction-tuned вариант. Точные языковые характеристики и размер контекстного окна в карточке не указаны. Преимущество модели — специализация на медицинских визуально-текстовых задачах и возможность локального запуска в формате GGUF. В то же время она не является готовой заменой клиническому специалисту, а качество и безопасность применения требуют проверки на конкретных данных и сценариях. Модель распространяется по условиям Health AI Developer Foundations; для доступа на Hugging Face необходимо принять соответствующие условия использования.

METL (Mutational Effect Transfer Learning) — фреймворк для предварительного обучения и дообучения белковых языковых моделей с учётом биофизики. Репозиторий gitter-lab/METL содержит обёртку для удобного использования моделей METL; сами модели размещены на Zenodo и загружаются этой обёрткой при использовании. Модель предназначена для извлечения признаковых представлений белков, которые можно применять в задачах анализа белковых последовательностей и эффектов мутаций. README указывает на публикацию, репозиторий с документацией, скриптами обучения и предсказания, а также Colab-ноутбуки для дообучения и запуска доступных моделей. В Hugging Face репозитории указаны архитектура METL и формат safetensors. Лицензия репозитория — MIT.

HiDolen/Mini-BS-RoFormer-18M — модель разделения музыкального аудио на источники, основанная на архитектуре BS-RoFormer и адаптированная из существующей реализации BS-RoFormer. Она предназначена для извлечения отдельных дорожек из музыкального микса: баса, ударных, других инструментов и вокала; также карточка описывает режим разделения на две дорожки — вокал и аккомпанемент. Модель содержит 17,9 млн параметров; для проверки на валидационной части MUSDB18-HQ указано среднее значение SDR 9,0, с отдельными результатами для четырёх типов источников. Для запуска описаны библиотека Transformers версии 4.55.4 и зависимости soundfile, einops и librosa. Репозиторий распространяется по лицензии MIT.

MiniMax Music 3 Latent Refiner v0.10 — модель восстановления музыки, разработанная Terminus Research как дообучение MiniMaxAI/MiniMax-Music3. Она принимает повреждённое аудио и восстанавливает более чистую версию, стараясь сохранить исполнение, тайминг, вокал и аранжировку. Это аудиомодель на основе трансформера, работающая в непрерывном DAV латентном пространстве MiniMax Music 3; размер выбранного чекпойнта — 137 253 888 параметров. Для обработки используются признаки MERT, представление аудио CLAP и DAV-латенты исходного сигнала. Модель рассчитана на восстановление музыки с характерными для обучения искажениями, включая снижение полосы частот, шум, уменьшение битовой глубины и мягкое клиппирование. Базовый режим использует перекрывающиеся окна длительностью 30 секунд; модель не является генератором музыки по тексту и не предназначена для разделения источников, ремиксов, каверов или произвольного редактирования. Для работы необходимы соответствующие DAV-компоненты MiniMax Music 3 и MERT; MERT распространяется по лицензии CC-BY-NC-4.0. В метаданных указана лицензия репозитория other, поэтому условия использования весов следует сверять с файлами лицензии репозитория.

MIST-28M-ti624ev1 — предварительно обученный энкодер молекулярных SMILES, разработанный Electrochemical Energy Group Мичиганского университета. Модель содержит 33,6 млн параметров и основана на архитектуре RoBERTa PreLayerNorm для masked language modeling; обучение проводилось на примерно 14 млрд токенов SMILES из Enamine REAL Space. Для входных SMILES в примере рекомендуется предварительное преобразование в форму Kekulé. Модель предназначена для получения молекулярных представлений и последующей тонкой настройки под предсказание свойств молекул. Её можно применять для сравнения сходства молекул и как основу для обучения на целевом наборе данных. Основной pipeline-тег Hugging Face — fill-mask; README также описывает извлечение эмбеддингов и дообучение энкодера для задач предсказания свойств. Контекст модели — 2048 токенов; в примере инференса последовательности ограничиваются 512 токенами. Это исследовательская молекулярная модель для работы с представлением SMILES; README не приводит конкретных метрик качества. Веса распространяются по Apache-2.0, однако README отдельно указывает исследовательское использование, запрет на перераспространение без разрешения и необходимость лицензионного соглашения для коммерческого применения.

MolEncoder — химическая языковая модель на основе энкодерного трансформера ModernBERT, разработанная для изучения стратегий предобучения молекулярных представлений. Модель содержит около 15,1 млн параметров и обучена на masked language modeling по строкам SMILES примерно для миллиона молекул из ChEMBL. Символьный токенизатор охватывает словарь SMILES, а длина контекста составляет 502 токена. Основной сценарий применения — дообучение на наборах данных для предсказания свойств молекул. В работе над моделью исследовались доля маскирования, размер модели и объём данных; авторы сообщают, что повышенная доля маскирования, около 30%, эффективна для молекул. Модель распространяется по лицензии MIT. Для прикладных задач обычно требуется дообучение на целевых данных.

MOSS v2 12-to-32 Enhancement Talker — экспериментальная причинная аудиомодель от LAION. Она преобразует 12 низкокачественных аудиокодовых индексов текущего кадра в 32 индекса кодека MOSS v2, используя до десяти ранее сгенерированных кадров. Модель обучена с нуля на немецкой, английской, испанской и французской речи; в карточке указано 44 млн параметров, а в README — около 60,9 млн. Архитектура основана на Qwen3, имеет 14 слоёв и ширину скрытого представления 512. Частота кадров — 12,5 Гц, история охватывает до 0,8 секунды. Для работы совместима с OpenMOSS-Team/MOSS-Audio-Tokenizer-v2. Модель предназначена для улучшения представления речи при mild-искажениях за счёт увеличения числа аудиокодовых книг с 12 до 32 на кадр, без изменения временной сетки. Качество следует оценивать на сгенерированных последовательностях: обучение использует чистую историю с teacher forcing, тогда как при применении модель опирается на собственные предыдущие выходы. Меньшая ошибка предсказания токенов сама по себе не подтверждает улучшение разборчивости, сохранения голоса или воспринимаемого качества; заявлений об улучшении MOS, WER или сходства говорящего нет. Сильные искажения и неречевая аудиозапись не входят в целевой сценарий. Лицензия — CC BY-NC 4.0, коммерческое использование не разрешено.

multimolecule/mrnafm — модель RNA-FM, опубликованная командой MultiMolecule; это неофициальная реализация модели, разработанной Jiayang Chen и соавторами. BERT-подобная плотная модель с архитектурой RNA-FM обучена на последовательностях матричной РНК с помощью маскированного языкового моделирования. Она принимает нуклеотидные последовательности и предсказывает замаскированные позиции; также её можно использовать как основу для извлечения признаков последовательности. Модель содержит 314,7 млн параметров, имеет контекст длиной до 1026 токенов и распространяется в форматах PyTorch и Safetensors. Предобучение проводилось на RNAcentral; модельная карточка указывает лицензию AGPL-3.0. Она не настроена на конкретные задачи классификации или регрессии, поэтому для них потребуется дообучение.

NTv3_650M_pre — предварительно обученная masked language model из семейства геномных моделей NTv3, разработанного InstaDeep. Модель использует архитектуру в стиле U-Net: сверточный блок, стек Transformer, деконволюционный блок и языковую голову. Она принимает нуклеотидные последовательности, токенизированные на уровне символов из алфавита A, T, C, G и N, и предсказывает замаскированные позиции. Размер скрытого представления — 1536; длина входной последовательности должна быть кратна 128. Модель предназначена для обучения представлений геномных последовательностей и последующей адаптации к предсказанию геномных функций, аннотации и генерации последовательностей. Семейство NTv3 обучалось на 9 триллионах пар оснований и рассчитано на моделирование дальних зависимостей до 1 Мб; в этой карточке опубликована предварительно обученная MLM-версия. Репозиторий содержит веса для Transformers, требует transformers версии 4.55.0 или выше и пользовательского кода модели. Лицензия указана как other, поэтому конкретные условия использования следует сверить с репозиторием.