II.8Инженерия данных и аналитика

Nagi-ovo/Llama-3-8B-RM — оценочная модель на архитектуре Llama, дообученная на базе Llama 3 8B с этапами SFT и DPO. Она предсказывает предпочтение человека между двумя ответами на один запрос и выдаёт скалярную оценку вознаграждения. Модель предназначена для включения в конвейер обучения с подкреплением на основе обратной связи от людей (RLHF). Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно до 8192 токенов. В карточке указан обучающий набор PKU-SafeRLHF-30K; метаданные также связывают её с Nagi-ovo/Llama-3-8B-DPO. Для работы с оценками предпочтений она выдаёт числовую оценку, а не готовый ответ пользователю. Распространяется в формате safetensors; лицензия в предоставленных данных не указана.

InstaDeep разработала NTv3_650M_post — постобученную с учителем многовидовую геномную модель на основе семейства NTv3. Она использует обусловленную архитектуру U-Net с адаптивными нормами слоёв, трансформерным блоком и специализированными выходными головами. Модель рассчитана на анализ последовательностей ДНК и предсказание функциональных геномных признаков у 24 видов и сборок; контекст может достигать 1 млн нуклеотидов. Размер версии — 650 млн параметров. Модель предсказывает замаскированные нуклеотиды, функциональные дорожки BigWig и геномные элементы в формате BED, а также формирует эмбеддинги. Она подходит для аннотации геномов, анализа функциональной геномики и предсказания регуляторных признаков с учётом вида или сборки. Входная длина последовательности должна быть кратна 128; для загрузки требуется Transformers версии 4.55.0 или выше и пользовательский код модели. Веса изначально обучались в JAX с использованием смешанной точности, затем были перенесены в Torch; по умолчанию используется fp32, а bf16 может давать небольшие численные расхождения. Лицензия указана как other, поэтому перед использованием следует проверить условия в репозитории.

PoreBERT-DNA-VQI-110M-530 — энкодерная модель семейства BERT, разработанная для изучения представлений сигналов нанопорового секвенирования ДНК. Она содержит около 115,2 млн параметров и использует 12 слоёв трансформера с размером скрытого состояния 768. Модель обучена предсказывать замаскированные токены в двунаправленном контексте; контекст составляет до 1536 токенов. Модель предназначена для последующих задач анализа данных нанопорового секвенирования. На вход она принимает не необработанный электрический сигнал, а последовательность дискретных токенов, созданных соответствующим VQ-токенизатором PoreCodec. Предварительное обучение проводилось на токенизированных сигналах секвенирования ДНК; карточка связывает набор данных с HG002. Модель распространяется под лицензией OpenRAIL.

PurpleGloVe — простая реализация GloVe на PyTorch от LocalWisdom, созданная как учебный пример работы с инструментами Hugging Face. Репозиторий демонстрирует загрузку сохранённых токенизатора и конфигурации через from_pretrained; рецепт обучения приведён в train.ipynb. Модель предназначена для получения векторных представлений слов на английском языке и знакомства начинающих с построением такого процесса на PyTorch и Hugging Face. В метаданных указаны задача feature-extraction, формат safetensors и лицензия WTFPL. Для использования и модификации модели действуют условия этой лицензии. README описывает реализацию как простую и учебную, поэтому её практическое качество и пригодность для производственных систем не установлены.

Модель pablo-moreira/puzzle-piece-detection разработана для проекта PuzzleMap и предназначена для обнаружения отдельных деталей пазла на фотографиях или изображениях с одной или несколькими деталями. Она основана на DETR с ResNet-50 и дообучена от facebook/detr-resnet-50 на наборе PuzzleMap. Модель распознаёт один целевой класс — деталь пазла — и возвращает ограничивающие рамки и оценки уверенности для найденных объектов. Детектор служит этапом локализации в конвейере анализа пазлов: его результаты можно использовать, чтобы вырезать отдельные детали и передать их последующим компонентам для дальнейшего анализа. Модель принимает RGB-изображения; для обработки применяется стандартный процессор Transformers, а специальный удалённый код для загрузки не требуется. Качество может снижаться при сильном перекрытии, малом размере или повреждении деталей, размытии, плохом освещении, выраженной перспективе и наличии объектов, не похожих на детали пазла. Репозиторий распространяется по лицензии CC BY 4.0.

RT-DETRv2 Trashify Box Detector — модель обнаружения объектов, разработанная Rahul Kate и дообученная на наборе mrdbourke/trashify_manual_labelled_images. В основе лежит PekingU/rtdetr_v2_r50vd с backbone ResNet-50; модель использует архитектуру RT-DETRv2 и распространяется в формате safetensors через Transformers. Лицензия — Apache-2.0. Модель предназначена для поиска мусора, контейнеров для отходов, рук и роботизированных манипуляторов, взаимодействующих с отходами, на изображениях и видеокадрах. Она размечает семь классов: bin, not_bin, hand, not_hand, trash, not_trash и trash_arm. Возможные сценарии — сортировка отходов, умная инфраструктура переработки и системы роботизированного сбора мусора. В README приведены метрики оценки после 10 эпох обучения: mAP 0,8721, mAP@50 0,9976 и mAP@75 0,9629. Модель рассчитана на специализированные классы отходов и взаимодействия с ними, поэтому не подходит для обобщённого обнаружения объектов в открытом мире. README также не рекомендует использовать её в критически важных системах безопасности без проверки человеком; для класса not_hand оценка на указанном разбиении не была представительной.

johko разработал RT-DETRv2 r18vd, дообученную модель обнаружения объектов для контроля качества печатных листов. Она обрабатывает изображение целого листа с камеры сверху и находит отдельные карточки заказов, а также дефекты печати: смазы, царапины, ошибки печати, пропущенные элементы, смещение цветовых слоёв и перекос карточек. Модель предназначена для сценариев контроля качества печати этикеток и вывесок. Она принимает изображения размером 1024×768 и выдаёт ограничивающие рамки в формате COCO с координатами в пикселях. В README приведены результаты независимой оценки на 30 синтетических валидационных листах: mAP@[.5:.95] 0,7815 и mAP@50 0,8654. Обучение проведено полностью на процедурно сгенерированных данных. Изображения похожи по компоновке на съёмку реального листа, но могут отличаться по характеристикам камеры; для реального производства рекомендуется дообучение на размеченных снимках. Оценки уверенности обычно низкие, поэтому для отбора обнаружений рекомендуется учитывать их ранжирование и рассмотреть порог около 0,05 или выбор top-K. Модель распространяется по лицензии Apache-2.0.

SigLIP2 Base адаптирован на изображениях DROID с манипуляциями роботов. Модель основана на google/siglip2-base-patch16-224: дообучены последние блоки визуального трансформера и голова attention pooling, а текстовый энкодер оставлен замороженным. Она предназначена для классификации изображений по текстовым меткам без отдельного дообучения и поиска соответствий между изображениями и текстом в сценариях робототехники. Модель использует архитектуру SigLIP2 Base с визуальным энкодером и текстовой башней; опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В карточке указан шаг обучения 20 000.

Sovereign-Crypto-Matrix-v1 — модель ItsNotAI LABS для количественных финансов и оценки портфельного риска. Это плотный Transformer с многоголовым self-attention, содержащий около 917,5 тыс. параметров по метаданным. README описывает 793-канальное моделирование корреляций между активами и расчёт Value-at-Risk на уровне 99% для оценки хвостового риска и сценариев хеджирования. Модель предназначена для анализа многокомпонентных криптовалютных портфелей и риск-симуляций в институциональном управлении активами. В README приведены результаты проверки на доменных данных, включая MSE 0,00086 и задержку вывода 2,063 мс; переносимость этих показателей на другие данные не подтверждена. Форматы репозитория — PyTorch и safetensors. Лицензия — Apache-2.0.

Whisper Tiny Myanmar ShopVoice — компактная модель распознавания речи на базе OpenAI Whisper Tiny, дообученная автором Thant Zin Phyo для транскрибации бирманской речи в сценариях ShopVoice. В основе лежит chuuhtetnaing/whisper-tiny-myanmar; модель содержит 29,4 млн параметров и использует архитектуру WhisperForConditionalGeneration. Для работы предназначена библиотека Transformers. Модель обучалась на данных Myanmar ShopVoice, охватывающих 237 категорий блюд из традиционных бирманских ресторанов. Она подходит для распознавания названий блюд и голосовых заказов в заведениях общепита. Лицензия — Apache-2.0. Карточка не приводит сведений о длине контекста или количественной оценке качества; результаты могут зависеть от соответствия аудио обучающим данным и ресторанной лексике.

ASTRA BERT MLM — базовая предобученная модель семейства ASTRA (Advanced Solvation Transformer for Rational Additives), разработанная для задач хемоинформатики и материаловедения. Это BERT-энкодер с головой masked language modeling, содержащий 113,3 млн параметров и принимающий последовательности канонических SMILES длиной до 512 токенов. Модель обучена предсказывать скрытые токены в молекулярных последовательностях на примерно 4 млн неразмеченных канонических SMILES. Она усваивает химический синтаксис, связи атомов и представления молекулярных структур; служит базой для последующего дообучения на задачи прогнозирования свойств, в частности LUMO и энергии связывания. Основная задача в каталоге — заполнение пропусков в последовательностях SMILES. Модель работает с текстовыми представлениями молекул, а не с изображениями молекулярных структур. Карточка не сообщает результаты оценки качества или подробности применимости к конкретным химическим наборам данных. Лицензия — MIT.

BarcodeBERT — предварительно обученная модель на архитектуре BERT, разработанная для анализа данных ДНК-баркодирования насекомых и таксономической классификации. Карточка представляет её как модель для извлечения признаков в задачах анализа биоразнообразия; архитектура репозитория — BertForTokenClassification, размер — 37,9 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для извлечения признаков и классификации последовательностей ДНК-баркодов насекомых. Доступны веса PyTorch и Safetensors; лицензия MIT. Метаданные указывают английский язык, однако основное содержимое модели — биологические последовательности, поэтому английский не следует считать основным языком для пользовательского ввода.

epwalsh/bert-xsmall-dummy — небольшая модель семейства BERT, опубликованная пользователем epwalsh на Hugging Face; профиль пользователя указывает имя Evan Pete Walsh. В каталоге Hugging Face модель отмечена как предназначенная для feature extraction, то есть получения векторных представлений текста, а не как готовая специализированная модель классификации или генерации. По доступным данным, модель относится к текстовым, использует архитектурную линию BERT и имеет размерность xsmall; точные параметры архитектуры, число параметров, поддерживаемые языки и максимальная длина контекста надежно не указаны. Название dummy указывает на тестовый или демонстрационный характер, поэтому модель не следует считать полноценным решением для прикладных NLP-задач и использовать без дополнительной проверки качества. Сильной стороной является компактность и пригодность для тестирования пайплайнов извлечения признаков при небольших вычислительных затратах. Ограничения — отсутствие подтвержденных сведений о качестве, обучающих данных, языковом охвате, точных характеристиках и лицензии; условия использования по доступным результатам поиска не установлены.

bloomee-app разработала эту модель в составе платформы Bloomee для NASA Space Apps Challenge 2025. Это дообученная версия IBM Granite 4.1 3B с плотной причинно-языковой архитектурой GraniteForCausalLM и 3,4 млрд параметров. Модель предназначена для ответов на вопросы о цветении растений по данным NDVI: она выбирает инструменты агента, формирует аргументы вызова и кратко сообщает результат. Контекст — до 131 072 токенов; модель рассчитана преимущественно на английский язык. Для работы нужны обучающий системный промпт, описания четырёх инструментов и жадное декодирование. Модель усвоила поведение конкретного приложения, поэтому сама по себе не заменяет получение контекста и подключение инструментов. В тесте на 15 диалогах точность по точному набору вызовов инструментов снизилась относительно базовой модели с 13 до 11 случаев, хотя выбор первого инструмента на обучающей конфигурации улучшился. Модель ограничена восемью регионами, может делать лишние вызовы инструментов и ошибаться в датах. Распространяется по лицензии Apache-2.0.

Это модель обнаружения объектов YOLOv8m от Ultralytics, дообученная на наборе Brackish Underwater в рамках DetectionBench. Она предназначена для поиска и локализации морских животных на подводных изображениях и кадрах: крабов, рыб, медуз, креветок, мелких рыб и морских звёзд. Репозиторий содержит веса PyTorch; модель использует архитектуру YOLOv8 среднего размера и распространяется по лицензии AGPL-3.0. На тестовой выборке Brackish Underwater автор сообщает mAP@50 99,19%, mAP@50–95 86,04% и точность 98,69%. Результаты относятся к этому датасету и протоколу оценки. Обучающие данные несбалансированы: крабы и мелкие рыбы составляют большую часть разметки, а креветки и медузы представлены редко. Все видеоматериалы получены одной камерой в одном месте в Дании, поэтому перенос на другие камеры, места и типы воды не проверен.

BulkFormer-127M — модель семейства BulkFormer для представления транскриптомов bulk RNA-seq; репозиторий публикует её в формате, совместимом с Transformers. Модель содержит 127 млн параметров и относится ко второй по размеру из пяти выпущенных версий BulkFormer. В метаданных указаны библиотека Transformers и формат весов safetensors. Модель предназначена для извлечения признаков на уровне генов или экспрессии из данных bulk RNA-seq, а также для последующего дообучения с классификационной головой, продолжения предобучения с masked imputation и объединения эмбеддингов с ESM2. Разработчик README ссылается на работу Kang, Fan et al. в Cell Systems (2026) и исходный репозиторий KangBoming/BulkFormer. Лицензия — MIT.

DeepChem/ChemBERTa-5M-MLM — компактная химическая языковая модель, разработанная сообществом DeepChem. Она основана на архитектуре RoBERTa и обучена методом masked language modeling на строках SMILES, представляющих химические структуры молекул. Модель предназначена для восстановления замаскированных токенов в SMILES и получения молекулярных представлений для последующего дообучения на задачах хемоинформатики. Модель содержит около 3,6 млн параметров, использует 3 слоя, 12 attention heads, скрытое состояние размером 384 и словарь из 600 токенов; максимальная длина последовательности составляет 515 токенов. Она доступна через библиотеку Transformers и относится к задаче fill-mask. Модель работает с химическими строками SMILES, а не с естественным языком или изображениями. В карточке модели лицензия не указана.

ChildVox-ReCANVo-BabyHuBERT — модель классификации детских вокализаций, представленная Tiantian Feng. Она дообучена на корпусе ReCANVo и реализует классификацию, описанную в работе ChildVox, принятой на EMNLP 2026. Модель принимает аудио и относит вокализации к шести категориям: delighted, dysregulated, frustrated, request, self-talk и social. Модель предназначена для исследовательского анализа детской речи и вокализаций, включая изучение эмоциональных и коммуникативных категорий. Она основана на MarvinLvn/BabyHuBERT, использует библиотеку Transformers и распространяется в формате safetensors. Карточка характеризует данные как многоязычные; точные языки и размер модели не приведены. Лицензия OpenRAIL запрещает коммерческое использование согласно карточке модели. Разработчик также исключает клиническую диагностику, индивидуальную оценку развития без экспертной проверки, наблюдение и вмешательство в частную жизнь. Работа с детскими записями требует согласия, соблюдения законодательства и соответствующего этического одобрения.

gokulsrinivasagan/distilbert_lda_100_v1 — дообученная модель на архитектуре DistilBERT, созданная на датасете gokulsrinivasagan/processed_wikitext-103-raw-v1-ld-100. Для оценки приведены loss 5,9919 и accuracy 0,5720. Класс модели DistilBertForLDAMaskedLM указывает на языковое моделирование с маскированием токенов и LDA-компонентом; контекст составляет до 512 токенов. Модель предназначена для экспериментов с обработкой текста и языковым моделированием на данных WikiText-103. Карточка не раскрывает конкретные сценарии применения и не указывает лицензию.

Taykhoom поддерживает этот перенос DNABERT-4mer на Hugging Face: модель DNABERT, созданную Ji et al. на основе BERT-base, обучали предсказывать замаскированные фрагменты последовательностей ДНК. Она предназначена для анализа геномных последовательностей и получения представлений, которые можно использовать при дообучении для задач классификации последовательностей. Модель содержит 113,4 млн параметров, 12 слоёв и 12 голов внимания; контекст — до 512 токенов. Токенизатор использует перекрывающиеся 4-меры: входную последовательность нужно предварительно разбить на фрагменты длиной четыре нуклеотида с шагом один и разделить их пробелами. Предобучение выполнено на референсном геноме человека GRCh38. Репозиторий содержит веса и файлы токенизатора; код архитектуры загружается из Taykhoom/BERT-updated. В README сообщается о проверке совпадения представлений и логитов с исходной реализацией DNABERT. Модель распространяется по лицензии Apache-2.0. Последовательности короче четырёх нуклеотидов не содержат токенов 4-меров, поэтому для них нельзя получить усреднённое представление или псевдоправдоподобие.

Taykhoom поддерживает порт DNABERT-S — модели для получения векторных представлений последовательностей ДНК. Оригинальная модель разработана Zhou и соавторами; это дообучение zhihan1996/DNABERT-2-117M с помощью контрастивного обучения по парам последовательностей одного вида и метода i-Mix. Модель содержит 116,4 млн параметров, использует архитектуру BERT с 12 слоями, 12 головами внимания и размерностью представления 768. Токенизация выполняется через BPE, без предварительной разбивки на k-меры. Эмбеддинги DNABERT-S предназначены для разделения геномов разных видов и применяются для идентификации видов, биннинга метагеномных последовательностей и эволюционного анализа. Репозиторий содержит веса и токенизатор; для загрузки кода используется Taykhoom/MosaicBERT-updated. Модель распространяется по лицензии Apache 2.0.

Synthyra/FastESM2_650 — белковая языковая модель семейства ESM2, разработанная Synthyra как ускоренная реализация FastESM для Transformers. Веса ESM2-650 дообучены ещё на 50 000 шагов с обычной задачей маскированного языкового моделирования на наборе OMGprot50; модель содержит 865,1 млн параметров, использует плотную архитектуру FastEsmForMaskedLM и принимает последовательности длиной до 2048 токенов по описанию обучения. Метаданные указывают native context в 1026 токенов. Модель предназначена для заполнения замаскированных участков белковых последовательностей, получения контекстных представлений и расчёта логитов. README также описывает пакетное построение эмбеддингов и оценку свойств белков линейными пробами. FastESM оптимизирована для ускорения обучения и инференса с разными backend-ами внимания; автор рекомендует fp16, а для максимального ускорения — PyTorch 2.5 или новее. Экспериментальный режим test-time training с локальными LoRA-адаптерами может помочь на сложных белках, но увеличивает вычислительные затраты и способен ухудшить уверенные предсказания. Вход модели — аминокислотные последовательности, выход — токенные представления и оценки для маскированных позиций. Для репозитория указаны веса safetensors и библиотека Transformers. Лицензия в предоставленных данных не приведена.

Модель Cristian Untaru, созданная в рамках академического проекта SortMed в Факультете информатики Западного университета Тимишоары, классифицирует краткие описания симптомов на английском языке по трём категориям предварительной оценки срочности: самостоятельное наблюдение, консультация врача общей практики и срочная помощь. Это последовательностный классификатор на базе DistilBERT с замороженным предобученным энкодером: обучалась только классификационная голова. Используются архитектура DistilBertForSequenceClassification и контекст до 512 токенов; модель загружается через Transformers. Модель предназначена для академических прототипов предварительной сортировки обращений, классификации симптомов и экспериментального сравнения подходов к классификации медицинского текста. Она обучена на небольшом наборе данных из 490 обучающих примеров; метки сформированы правилами и не проверены медицинскими специалистами. На тестовой выборке опубликованы accuracy 0,6321, macro precision 0,6766 и macro recall 0,6202. Модель не ставит диагноз и не является сертифицированным медицинским устройством. Она не учитывает важные сведения о пациенте и может ошибаться на редких, неполных или противоречивых описаниях. Предназначена для английского текста; клиническое или экстренное применение без медицинского надзора не подходит. Лицензия — MIT.

ProjectPersonal/GenderClassifier — классификатор изображений на архитектуре Vision Transformer (ViT), опубликованный в формате PyTorch. Карточка указывает, что модель создана с помощью HuggingPics — инструмента для обучения классификаторов изображений на пользовательских категориях; размер составляет 113,2 млн параметров. Модель предназначена для классификации изображений по категориям, связанным с полом. Её можно применять для автоматической разметки изображений и демонстрационных задач компьютерного зрения. README не описывает набор классов, данные обучения или качество классификации, поэтому конкретные сценарии и надёжность предсказаний оценить нельзя.

GorillaWatch-DINOv2-Small — модель извлечения признаков для повторной идентификации горилл в естественных условиях, созданная авторами системы GorillaWatch. Она основана на небольшом визуальном трансформере DINOv2 (`vit_small_patch14_dinov2.lvd142m`), дообученном на Gorilla-SPAC-Wild с hard-mining triplet loss. На вход подаётся изображение размером 518×518, на выходе — эмбеддинг размерности 256; для распознавания эмбеддинги сопоставляют методом k-NN с галереей, поэтому модель не ограничена фиксированным набором идентификаторов и рассчитана на поиск ранее не встречавшихся особей. Модель предназначена для повторной идентификации горилл между разными встречами и камерами, а также для мониторинга популяции по фотоловушкам и видеозаписям. В README приведены результаты на Gorilla-SPAC-Wild и zero-shot перенос на Gorilla-Zoo-Berlin. Для корректной работы требуется квадратное изменение размера до 518×518 и нормализация со средним и стандартным отклонением 0,5 по каждому каналу; стандартное преобразование DINOv2 из timm даёт некорректные эмбеддинги. Веса распространяются в формате safetensors и имеют лицензию CC BY 4.0.

Модель награды для оценки ответов ассистента по полезности, разработанная на базе openlm-research/open_llama_3b с использованием LMFlow. Это плотная Llama-модель с 3,3 млрд параметров для классификации последовательностей; она присваивает оценку тексту диалога и предназначена для сравнения вариантов ответа и отбора предпочтительных ответов в сценариях RLHF и RAFT. Модель обучена на полезной части набора HH-RLHF: использовались пары выбранных и отклонённых ответов, а перед обучением выполнялась настройка на выбранных ответах. В README сообщается о точности оценки 75,48% на тестовой части HH-RLHF и о проверках обобщения на наборах Open Assistant и chatbot. Контекст модели — 2048 токенов. Автор рекомендует вместо неё использовать weqweasdas/RM-Gemma-2B. Модель принимает текст и выдаёт классификационную оценку, а не готовый ответ пользователю. Основные ограничения — обучение на полезной части HH-RLHF, возможная утечка данных в этом наборе и предупреждение автора о переобучении при обучении дольше одного прохода. Лицензия в предоставленных данных не указана.

dnaGPT human_gpt2-v1 — языковая модель для последовательностей ДНК, разработанная командой dnaGPT на основе архитектуры GPT-2 и обученная на данных генома человека. Для токенизации используется BPE вместо разбиения на k-меры; в карточке указано, что обучение проводилось на сборке генома человека T2T. Модель доступна через Transformers и выдаёт скрытые состояния размерности 768, которые можно объединять пулингом в векторное представление последовательности. Модель предназначена для извлечения признаков и построения эмбеддингов последовательностей ДНК, например для последующего анализа или сравнения. Контекст составляет 1024 токена. Репозиторий содержит веса PyTorch и код обучения BPE. Лицензия — Apache-2.0; README не приводит сравнительных оценок качества или подробных результатов на биологических задачах.

LLM-Codec — нейрокодек речи, разработанный для представления аудио дискретными токенами, которые можно восстановить в звук и легче предсказывать авторегрессионной языковой модели. Это дообученная модель на базе Qwen/Qwen3-4B-Instruct-2507; в репозитории указаны плотная архитектура Qwen3, 3,7 млрд параметров и контекст 262 144 токена. Модель предназначена для токенизации речи, экспериментов с восстановлением аудио, обучения речевых языковых моделей на токенах и оценки кодеков. Она обучалась на LibriSpeech train-clean-100 с парными транскриптами, а проверялась также на валидационной части LibriSpeech. При обучении использовались предсказание будущих токенов, семантическое выравнивание аудио и текста и несколько потерь на реконструкцию. Рабочий интерфейс кодека не требует вспомогательных голов FTP. LLM-Codec не является самостоятельной системой синтеза речи: для генерации речи её нужно включить в отдельный конвейер с речевой языковой моделью. Качество на неречевых и неанглийских аудио, разговорной речи, шуме и перекрывающихся голосах может быть ниже; проверка преимущественно проводилась на прочитанной речи. Модель может сохранять в коде информацию о голосе говорящего. Лицензия в предоставленных данных не указана.

NTv3_8M_pre — предварительно обученная модель семейства NTv3 от InstaDeep для работы с геномными последовательностями. Она использует архитектуру в стиле U-Net: свёрточный блок, стек Transformer, деконволюционный блок и языковую голову для предсказания замаскированных символов. Токенизация посимвольная, алфавит включает A, T, C, G и N; размерность скрытого представления составляет 256, размерность эмбеддингов — 16. Входная длина последовательности должна быть кратна 128. Модель предназначена для восстановления замаскированных участков ДНК и получения представлений последовательностей, которые можно использовать в геномном анализе и дообучать для предсказания функциональных свойств или проектирования последовательностей. Семейство NTv3 рассчитано на моделирование длинных зависимостей вплоть до 1 млн оснований и предварительно обучено на 9 трлн пар оснований; эти характеристики относятся к семейству, а не обязательно к данному чекпойнту размером 8M. Для загрузки требуются Transformers версии 4.55.0 или новее и пользовательский код репозитория с trust_remote_code=True. Веса изначально обучались в JAX с bf16 для части вычислений и перенесены в PyTorch; по умолчанию используется fp32. Инференс в bf16 может быть быстрее на совместимом оборудовании, но способен вносить небольшие численные расхождения и нестабильность. В метаданных указана лицензия other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

PACE-encoder-0618e180 — дообученный текстовый энкодер, разработанный Newbeing для получения эмбеддингов запросов в эксперименте по маршрутизации LLM, описанном в статье PACE. Он предназначен для представления запросов в виде векторов, используемых при выборе подходящей языковой модели; для воспроизведения эксперимента карточка рекомендует набор данных Newbeing/PACE-LLMRouterBench. Модель основана на плотной архитектуре Qwen3ForCausalLM, содержит 507,6 млн параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса Safetensors, модель распространяется по лицензии MIT. Карточка не описывает результаты оценки качества или другие сценарии применения, поэтому пригодность энкодера для задач за пределами маршрутизации LLM не установлена.