II.10Разработка и эксплуатация AI/ML-систем

Beaver 7B v1.0 Reward — модель оценки предпочтений, разработанная командой PKU-Alignment и обученная на наборе данных PKU-SafeRLHF. Она предназначена для использования в алгоритмах безопасного обучения с подкреплением на основе обратной связи от людей (RLHF): модель оценивает ответы и помогает обучать Beaver-модели быть более полезными. Модель построена на авторегрессионной архитектуре Transformer семейства LLaMA и содержит 6,6 млрд параметров. Контекст — до 2048 токенов. Это дообученная версия на основе LLaMA и Alpaca; репозиторий содержит веса в формате Safetensors. Основной язык карточки и тегов — английский. Модель предназначена для некоммерческого использования. Она выдаёт оценку предпочтительности, а не готовый ответ пользователю; качество оценки зависит от соответствия данных и сценария применения обучающему набору PKU-SafeRLHF.

AraBERT — предварительно обученная языковая модель для понимания арабского языка, разработанная группой AUB MIND Lab. Она основана на архитектуре BERT Base и представлена в варианте с примерно 162,4 млн параметров; максимальная длина контекста — 512 токенов. Модель обучена на большом арабоязычном корпусе, включающем материалы OSCAR, Википедии, новостные тексты и другие источники. Для этой версии Hugging Face указывает задачу заполнения пропусков в тексте (fill-mask). AraBERT можно применять как основу для адаптации к анализу тональности, распознаванию именованных сущностей и ответам на вопросы на арабском языке. Для вариантов v1 и v2 авторы рекомендуют предварительную сегментацию арабского текста с Farasa; также описана нормализация пробелов вокруг пунктуации и чисел. В карточке указаны форматы PyTorch, TensorFlow и Flax. Сведения о лицензии в предоставленных данных отсутствуют.

AraBERTv0.2-base — предварительно обученная языковая модель для арабского языка, разработанная командой AraBERT и основанная на архитектуре Google BERT. Она использует конфигурацию BERT-Base и содержит 162,4 млн параметров по метаданным; в карточке семейства для варианта v0.2-base также приведена оценка 136 млн параметров. Модель обучена предсказывать скрытые токены и предназначена для заполнения пропусков в арабском тексте, а также для последующей адаптации к задачам понимания языка. Предобучение проводилось на корпусе объёмом около 77 ГБ, включающем арабскую Википедию, OSCAR, OSIAN, 1.5B Arabic Corpus и новостные статьи Assafir. Контекст модели — до 512 токенов. Для обработки текста рекомендуется использовать предварительную обработку из пакета arabert, в частности нормализацию пробелов вокруг пунктуации и цифр; вариант v0.2-base не требует предварительной сегментации префиксов и суффиксов Farasa. Модель подходит как основа для адаптации к анализу тональности, распознаванию именованных сущностей и ответам на вопросы на арабском языке. Это базовая модель, а не готовая специализированная система: качество на конкретной задаче зависит от дальнейшей настройки и предобработки. Лицензия в предоставленных источниках не указана.

BERT large uncased — англоязычная предварительно обученная модель семейства BERT, разработанная Google. Она использует трансформерный энкодер с 24 слоями, размерностью скрытого представления 1024 и 16 головами внимания. Метаданные указывают 433,9 млн параметров; в карточке модели приводится конфигурация на 336 млн параметров. Модель обучена на BookCorpus и английской Википедии с задачами предсказания замаскированных токенов и следующего предложения. Текст приводится к нижнему регистру, используется токенизатор WordPiece с словарём из 30 000 токенов; максимальная длина контекста — 512 токенов. Основной сценарий непосредственного применения — заполнение пропусков в английском тексте. Также представления BERT можно использовать как основу для дообучения на классификации последовательностей и токенов или ответах на вопросы. Модель не предназначена для свободной генерации текста; для неё обычно требуется дообучение под целевую задачу. Предсказания могут отражать смещения обучающих данных. Модель распространяется по лицензии Apache-2.0. Метаданные указывают варианты весов для PyTorch, TensorFlow и Flax, включая safetensors.

Многоязычный классификатор токсичности текста, разработанный TextDetox на основе bert-base-multilingual-cased и дообученный для бинарной классификации токсичных и нетоксичных текстов на датасете textdetox/multilingual_toxicity_dataset. Модель использует архитектуру BERT для классификации последовательностей, содержит 205,1 млн параметров и принимает контекст длиной до 512 токенов. Классификатор предназначен для выявления токсичных высказываний в текстах на 15 языках. В карточке приведены оценки F1 для английского (0,9035), русского (0,9224) и украинского (0,9461). Модель можно применять для модерации пользовательских сообщений и анализа текстовых потоков. Она доступна в формате safetensors для библиотеки Transformers и распространяется по лицензии OpenRAIL++. Классификация бинарная, поэтому модель не определяет отдельные виды токсичности и может ошибаться на пограничных, контекстно-зависимых или недостаточно представленных примерах. Приведённые оценки относятся к указанному набору данных и не гарантируют такого же качества на других источниках текста.

Bielik-11B-v3.0-DFlash — вспомогательная черновая модель для ускорения генерации текста методом speculative decoding. Её разработали SpeakLeash и ACK Cyfronet AGH для совместной работы с Bielik-11B-v3.0-Instruct; самостоятельно как языковая модель она не предназначена для использования. Для запуска требуется сервер инференса с поддержкой DFlash speculative decoding. Модель основана на архитектуре Qwen3 и содержит 1,2 млрд параметров. Она обучалась на том же наборе данных, что и целевая модель, и поддерживает контекст до 32 768 токенов. Заявлена поддержка 32 европейских языков с оптимизацией для польского; веса доступны в формате Safetensors для Transformers. Лицензия — Apache License 2.0. Ключевое ограничение: модель полезна только в связке с Bielik-11B-v3.0-Instruct и совместимой реализацией speculative decoding; сама по себе она не заменяет целевую модель и не предназначена для обычного диалога или генерации.

openBMB BitCPM-CANN-1B-unquantized — чекпойнт языковой модели BitCPM-CANN-1B для дальнейшего предобучения и дообучения. Это плотная авторегрессионная модель семейства Llama на 1,5 млрд параметров с контекстом до 32 768 токенов; модель загружается через Transformers с пользовательским кодом из репозитория. Чекпойнт использует обучение с учётом тернарной квантизации: веса хранятся в полной точности, а при прямом проходе применяются фиктивные квантизаторы, ограничивающие значения {-1, 0, 1} с групповым масштабированием. Поэтому он рассчитан на продолжение предобучения и SFT с сохранением заданной логики прямого прохода. Для обычного инференса этот вариант не предназначен: после обучения требуется преобразовать веса; готовая версия для инференса — openbmb/BitCPM-CANN-1B. Карточка указывает поддержку китайского и английского языков, а также чат-возможности. Лицензия — Apache-2.0. Генерируемые ответы следует проверять самостоятельно; модель не выражает личных мнений или оценок.

Breeze-7B-Base-v1_0 — базовая языковая модель MediaTek Research, дообученная на основе mistralai/Mistral-7B-v0.1. Это плотный авторегрессионный трансформер с 7,2 млрд параметров, рассчитанный на дальнейшее дообучение под конкретные задачи, если у пользователя есть обучающие данные. Модель поддерживает английский и традиционный китайский языки. Словарь расширен с 32 тыс. до 62 тыс. токенов для лучшей поддержки традиционного китайского; авторы сообщают об ускорении инференса на этом языке относительно Mistral-7B и Llama 7B при прочих равных условиях. README указывает контекст 8 тыс. токенов, тогда как метаданные Hugging Face заявляют нативный контекст 32 768 токенов. Основная задача по метаданным — генерация текста. Модель подходит как основа для создания специализированных языковых моделей. Для готовых диалоговых сценариев, включая ответы на вопросы, RAG и суммаризацию, README рекомендует Breeze-7B-Instruct. Модель распространяется по лицензии Apache 2.0.

BritLLM 3B v0.1 — базовая предварительно обученная языковая модель, разработанная проектом BritLLM. Это плотная авторегрессионная модель семейства Llama с 2,6 млрд параметров и контекстом 2048 токенов; веса опубликованы в формате safetensors. Модель генерирует текст и рассчитана на дальнейшее дообучение для большинства прикладных сценариев. В метаданных указана поддержка английского, валлийского, ирландского, шотландского гэльского и скотсского языков. Модель может служить исходной точкой для адаптации к этим языкам и создания приложений генерации текста. Лицензия — ODC-BY; условия её соблюдения следует учитывать при использовании и распространении модели.

CHORD 2B student — модель-энкодер на базе Qwen3.5-2B, разработанная для метрики когерентности CHORD. Это дистиллированная версия слияния весов базовой модели и LoRA-адаптеров; обученный линейный считыватель проецирует представление последнего токена из 2048 векторов в пространство из 256 координат, аппроксимируя координаты PCA учительской модели с 27 млрд параметров. Модель принимает текст и выдаёт векторные представления для оценки когерентности. Предназначена для вычисления RBF-MMD между наборами текстов по шаблону coherence; пример — сравнение текста с эталонным пулом. Протокол использует нормализацию пробелов и ограничение длины в 532 токена, включая суффикс промпта; значения MMD сопоставимы только при использовании одного и того же энкодера и протокола. Модель распространяется в формате safetensors вместе с отдельным файлом считывателя и токенизатором. Лицензия — Apache-2.0.

Карточка модели developerjeremylive/CLM-v0.1-8B-etheroi на Hugging Face совпадает с карточкой Contrastive-LM/CLM-v0.1-8B, поэтому описание составлено по ней. CLM-v0.1-8B — модель контрастивного ранжирования от проекта Contrastive Language Model. Она построена на замороженном текстовом энкодере Qwen3-8B и двух обучаемых проекционных головах для представления состояний и действий; обучение использует двунаправленную функцию потерь InfoNCE. Модель предназначена для оценки и сравнения заданных кандидатов, в том числе вариантов ответа, инструментов и следующих действий в агентных сценариях. CLM применяют для ранжирования решений и проверки кандидатов в задачах использования компьютера, игр и вызова инструментов. В README также приведены результаты дообученных на отдельных задачах голов в бенчмарках DeepSWE и Terminal-Bench; эти показатели не относятся к исходному чекпойнту без дообучения. Раздельное кодирование состояний и действий позволяет повторно использовать представления действий и ускорять сравнение большого числа кандидатов. Модель не генерирует текст и оценивает кандидатов только относительно переданного набора. Для работы голов нужен последний pooled-эмбеддинг энкодера Qwen3-8B. Репозиторий содержит веса в формате PyTorch; лицензия — Apache-2.0. Метаданные указывают английский язык карточки, но README не описывает более широкий список языков для ранжирования.

CoACT — предобученный компрессор наблюдений для программных агентных систем, опубликованный авторами проекта CoACT. Это дообученная плотная мультимодальная модель семейства Qwen3.5 на 4 млрд параметров, основанная на Qwen/Qwen3.5-4B; при обучении использовались траектории агента Qwen3.5-35B-A3B и отбор примеров по вознаграждению. Модель сжимает каждое новое наблюдение среды перед добавлением в траекторию coding-агента, стараясь сохранить информацию, необходимую для его следующего действия. Модель предназначена для экономии контекстных токенов в задачах программирования с агентами и рассчитана на перенос между разными агентными моделями. В описанных авторами экспериментах при оценке с Deepseek-v4-Pro она достигла pass@1 74,5% при 0,863 млн токенов на экземпляр; авторы приводят близкий результат компрессора, обученного на траекториях Deepseek-v4-Pro. Метаданные указывают поддержку диалога и обработку изображений базовой моделью, однако README описывает основное назначение CoACT как компрессию наблюдений для coding-агентов. Лицензия в предоставленных данных не указана.

CoaT Lite Small — модель классификации изображений семейства CoaT (Co-Scale Conv-Attentional Transformer), обученная авторами статьи на ImageNet-1k. Её также можно использовать как основу для извлечения признаков изображений. Модель содержит 19,8 млн параметров, имеет вычислительную сложность 4,0 GMACs и рассчитана на изображения размером 224 × 224 пикселя. Репозиторий предоставляет веса в формате PyTorch; лицензия — Apache-2.0. Модель подходит для классификации изображений общего назначения и получения их признаковых представлений. Её обучение на ImageNet-1k задаёт ориентацию на классы этого набора данных; для иных предметных областей может потребоваться дополнительная адаптация.

timm/coat_small.in1k — модель CoaT (Co-Scale Conv-Attentional Transformer) для классификации изображений и извлечения признаков. Её обучили авторы статьи на ImageNet-1k; архитектура сочетает свёрточные операции и механизмы внимания. Модель содержит 21,7 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель подходит для определения объектов и сцен на изображениях из набора ImageNet-1k, а также для получения эмбеддингов изображений в качестве признаков для последующих задач компьютерного зрения. Репозиторий содержит веса PyTorch, модель доступна по лицензии Apache-2.0. Карточка не сообщает о поддержке других размеров входного изображения или языковых функций.

gokceuludogan/convbert-base-turkish-mc4-toxicity-uncased — классификатор токсичности турецких комментариев на базе ConvBERT. Веса инициализированы из dbmdz/convbert-base-turkish-mc4-uncased; модель дообучена на турецких комментариях из набора Jigsaw Multilingual Toxic Comment Classification. Она относит текст к классу Toxic или Neutral и предназначена для автоматической модерации комментариев и выявления токсичных высказываний. Модель использует ConvBERT для классификации последовательностей, принимает текст и выдаёт метку класса. Размер — 137,8 млн параметров, контекст — до 512 токенов. Поддерживаемый язык — турецкий. Репозиторий содержит веса PyTorch и распространяется по лицензии BSD.

ConViT Base fb_in1k — модель классификации изображений и извлечения признаков из семейства ConViT, опубликованная авторами работы «ConViT: Improving Vision Transformers with Soft Convolutional Inductive Biases» и обученная на ImageNet-1k. Она использует визуальный трансформер с мягкими свёрточными индуктивными смещениями и содержит около 86,5 млн параметров. Модель предназначена для классификации изображений и получения эмбеддингов, которые можно использовать в качестве признаков в задачах компьютерного зрения. Расчётный размер входного изображения — 224 × 224 пикселя; вычислительная сложность составляет 17,5 GMACs. Репозиторий предоставляет веса в форматах PyTorch и Safetensors, библиотека — timm. Модель обучена на ImageNet-1k, поэтому её классификационные возможности ориентированы на категории этого набора данных. Лицензия Apache-2.0.

ConvNeXt V2 Huge — свёрточная модель для классификации изображений, разработанная авторами статьи ConvNeXt V2: Co-designing and Scaling ConvNets with Masked Autoencoders и опубликованная в репозитории Facebook. Модель предварительно обучена с помощью FCMAE и дообучена на ImageNet-1K для распознавания 1000 классов при разрешении изображений 224×224. Архитектура — чистая ConvNet с полносвёрточным masked autoencoder-подходом FCMAE и слоем Global Response Normalization. Модель принимает изображения и выдаёт оценки классов ImageNet-1K; она подходит для классификации объектов на фотографиях и изображениях общего назначения. Доступны веса PyTorch и Safetensors. Модель распространяется по лицензии Apache-2.0. Карточка описывает базовую классификацию ImageNet-1K; для других задач потребуются подходящие дообученные версии.

ConvNeXt-V2 Huge FCMAE — модель компьютерного зрения для классификации изображений и извлечения признаков, опубликованная в репозитории timm. Она предварительно обучена методом fully convolutional masked autoencoder (FCMAE) на ImageNet-1k и дообучена для классификации на ImageNet-1k. Архитектура — свёрточная ConvNeXt-V2, размер — около 660,3 млн параметров; в карточке указаны размеры изображений 224 × 224 для обучения и 288 × 288 для оценки. Модель присваивает изображениям классы и может использоваться как основа для извлечения карт признаков и эмбеддингов. В README для варианта с размером изображения 288 указана точность top-1 88,848% и top-5 98,742% на ImageNet-1k. Модель работает с изображениями и выдаёт метки классов либо признаки для дальнейшей обработки. Для запуска доступны веса PyTorch и Safetensors, библиотека из метаданных — timm. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

ADAFACE IR50 WEBFACE4M — предварительно обученная модель распознавания лиц из набора CVLFace, опубликованная minchul. Она основана на архитектуре IR50 и обучена на наборе WebFace4M; в карточке указана связь с работой AdaFace о распознавании лиц с адаптивным отступом, учитывающим качество изображения. Модель предназначена для извлечения признаков лица, которые можно использовать для сравнения лиц и построения систем распознавания или верификации. Модель представлена в формате safetensors и доступна через Transformers. Карточка просит цитировать исходную работу и соблюдать лицензию обучающего набора данных. Подробные сведения о размере входа, метриках качества и условиях лицензирования самих весов в предоставленных материалах не описаны.

Hate-speech-CNERG/dehatebert-mono-english — англоязычная модель классификации текста для выявления hate speech. Её разработали авторы исследования о многоязычном распознавании языка ненависти; версия mono обучалась только на англоязычных данных и дообучена на multilingual BERT. Модель использует архитектуру BERT для классификации последовательностей, содержит 194,6 млн параметров и принимает текст длиной до 512 токенов. Модель предназначена для автоматической проверки англоязычных сообщений и публикаций на наличие языка ненависти, в том числе как компонента модерации или исследовательского анализа. В работе для лучшего результата на валидации использовалась скорость обучения 2e-5; указанный результат — 0,726030, без уточнения метрики в карточке. Распространяется по лицензии Apache-2.0.

Detoxify ONNX — модель Gravitee.io для выявления токсичности в текстах. Это версия мультиязычной модели Detoxify, экспортированная в ONNX и квантованная для ускоренного инференса; метаданные указывают на архитектуру XLM-RoBERTa с классификационной головой и дообучение на базе unitary/toxic-bert. Размер модели — 305,2 млн параметров, контекст — до 514 токенов. Модель предназначена для модерации онлайн-контента и оценки токсичности текста на английском, французском, итальянском, русском, португальском, испанском и турецком языках. В README приведены метрики на нескольких порогах классификации. Для квантованной версии F1 составляет 0,629–0,639, а AUC-ROC — 0,9306; показатели зависят от выбранного порога. Эти результаты указывают на полезность модели для первичной фильтрации, но решение о модерации может требовать дополнительной проверки. Репозиторий распространяется по лицензии Apache-2.0.

D-FINE-seg — семейство моделей компьютерного зрения, опубликованное ArgoSA. Оно использует DETR-подобную архитектуру для обнаружения объектов и отдельные головы для сегментации экземпляров и семантической сегментации. Репозиторий включает пять размеров моделей — от N до X — и веса PyTorch для обнаружения и сегментации; в карточке представлены веса семантической сегментации, обученные на Cityscapes с изображениями 1024×2048. Заявлены также варианты обучения на COCO и Objects365→COCO для других задач семейства. Модель предназначена для анализа изображений в реальном времени: поиска объектов и построения масок объектов или классов пикселей, в том числе в сценариях автономного вождения и уличной съёмки. Для развёртывания описан экспорт в ONNX, TensorRT, OpenVINO, CoreML и LiteRT. README рекомендует дообучать веса на целевых данных и отмечает, что INT8 может заметно снизить F1 сегментации; TensorRT-движки зависят от GPU. Указана лицензия other, а для весов Cityscapes README отдельно сообщает о некоммерческих условиях; точные условия следует сверить с файлами лицензии конкретного чекпойнта.

microsoft/DialogRPT-depth — модель ранжирования ответов в диалогах из набора DialogRPT, разработанного группой Microsoft Research NLP. Она оценивает, насколько вероятно, что ответ вызовет длинное продолжение обсуждения; оценку можно применять для сравнения кандидатов, созданных диалоговой моделью, например DialoGPT, и выбора ответа для показа. Модель построена на GPT-2 и предназначена для классификации текста. Контекстное окно составляет 1024 токена; репозиторий содержит веса PyTorch. DialogRPT обучалась на более чем 100 миллионах сигналов человеческой обратной связи. В карточке приведены примеры оценок для ответов на один и тот же контекст. Модель оценивает склонность ответа к продолжению дискуссии, а не его фактическую точность или полезность; результаты могут отражать закономерности данных обратной связи. Лицензия в предоставленных данных не указана.

Многоязычный классификатор текста на базе DistilBERT, разработанный Citizen Lab и дообученный на датасете Jigsaw Toxic Comment Classification Challenge. Модель предназначена для выявления токсичных комментариев и модерации пользовательского текста. Она использует архитектуру DistilBertForSequenceClassification, работает с текстом и поддерживает контекст до 512 токенов. В метаданных указана поддержка английского, нидерландского, французского, португальского, итальянского, испанского, немецкого, датского, польского и африкаанс. Модель опубликована в формате PyTorch. Данных о лицензии в предоставленных источниках нет.

Модель leomaurodesenv/distilbert-base-uncased-trustairlab-jailbreak-augmented — дообученная англоязычная модель DistilBERT для классификации текста. По названию репозитория она связана с выявлением jailbreak-запросов, однако README не раскрывает назначение меток и состав обучающих данных, поэтому конкретные классы классификации подтвердить нельзя. Модель построена на DistilBertForSequenceClassification и принимает текстовые последовательности длиной до 512 токенов. В README указаны результаты на оценочной выборке: accuracy 0,9595 и loss 0,1294; состав выборки и методика оценки не описаны. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Это дообученный на японской речи чекпойнт HuBERT от TylorShine. Модель продолжительно обучалась 50 тысяч шагов на корпусах JVS, Tsukuyomi-Chan и Amitaro’s ITA, а также на собственных записях автора. Чекпойнт предназначен для извлечения признаков из японской речи и может служить основой для последующей настройки задач распознавания речи; в README для такой настройки упоминается замена класса Wav2Vec2ForCTC на HubertForCTC. Архитектура — HuBERT, размер — 18,9 млн параметров; опубликованы веса PyTorch. Метаданные указывают задачу feature-extraction и японский язык. Лицензия указана как other. README предупреждает, что при использовании чекпойнта необходимо соблюдать условия использования корпуса JVS, применимые и при использовании модели в других проектах.

Swallow Education Classifier — набор японских классификаторов на основе fastText, разработанный для оценки образовательной ценности веб-страниц. Модель предназначена для фильтрации и ранжирования японских документов по их учебной ценности, например при подготовке корпусов для обучения языковых моделей. В репозитории представлены два варианта. Wiki-based классификатор оценивает сходство документа с академическими статьями японской Википедии и выдаёт вероятность от 0 до 1. LLM-based классификатор предсказывает один из четырёх классов образовательной ценности (0–3); ожидаемую оценку можно вычислить как взвешенную сумму классов и их вероятностей. Оба варианта обучены fastText за 20 эпох с символьными n-граммами длины 2 и 3. Для более широкого набора документов авторы рекомендуют LLM-based вариант. Классификаторы применялись для фильтрации Swallow Corpus Version 2; в описанных экспериментах такая фильтрация улучшала японские знания обучаемой языковой модели при том же вычислительном бюджете. Модель рассчитана на японский текст, качество работы на других языках не гарантируется. Wiki-based вариант распространяется по CC BY-SA 4.0; LLM-based вариант — на условиях лицензии использованной для разметки модели, Llama 3.1 Community License Agreement или Gemma Terms of Use.

Репозиторий содержит предобученные на ImageNet веса EfficientNet-B4, предназначенные для использования в качестве энкодера в библиотеке segmentation-models-pytorch. Модель можно применять для классификации изображений или как визуальный энкодер в задачах сегментации через соответствующую библиотеку. Карточка указывает архитектуру EfficientNet-B4 и формат весов safetensors. Лицензия отмечена как other, поэтому условия её использования следует уточнить в репозитории. Подробные сведения о размере модели, языках и ограничениях в предоставленных данных отсутствуют.

EnCodec 24 kHz — нейросетевой аудиокодек Meta AI для сжатия и восстановления звуковых сигналов. Модель использует потоковую архитектуру энкодера и декодера с квантованным латентным представлением; её задача в каталоге Hugging Face обозначена как извлечение признаков. Репозиторий содержит веса в форматах PyTorch и safetensors. Модель предназначена для низколатентного сжатия и декодирования речи, музыки и других звуков. В README описаны потоковый режим и режим с разбиением входа на перекрывающиеся секундные фрагменты, а также обучение при различных битрейтах. В качестве аудиокодека EnCodec может применяться в системах аудиообработки и как компонент более крупных конвейеров генерации речи или музыки. В README сообщается о высоком качестве восстановления при низких битрейтах и сравнительных оценках по MUSHRA и объективным метрикам. Модель принимает аудио и восстанавливает аудио; сведения о лицензии, длине контекста и поддерживаемых текстовых языках в предоставленных данных отсутствуют.

jhu-clsp/ettin-encoder-17m — англоязычная модель-энкодер из набора Ettin, разработанного исследователями Johns Hopkins University. Это компактная модель с 16,8 млн параметров на архитектуре ModernBERT, обученная методом masked language modeling; она предсказывает замаскированные токены в тексте. По описанию набора, модели Ettin обучались на общей открытой смеси данных и предназначены для сопоставления энкодерных и декодерных архитектур. Для этой версии README указывает размер XXS и сценарии мобильных и периферийных устройств. Модель подходит для заполнения пропусков в английском тексте и как основа для задач классификации и получения эмбеддингов после соответствующей настройки. В метаданных указаны контекст до 7 999 токенов, форматы PyTorch и ONNX и лицензия MIT. В README заявлены сильные результаты семейства Ettin в классификации и поиске, однако конкретные метрики для версии 17M не приведены. Это энкодер для понимания текста, а не генеративная модель для свободного продолжения текста; также она не предназначена для обработки языков, кроме английского, согласно доступным языковым тегам.