II.8Инженерия данных и аналитика

thealper2/t5-small-nl-to-regex — дообученная автором карточки модель google-t5/t5-small для преобразования краткого описания шаблона на английском языке в регулярное выражение. Она основана на архитектуре T5 и содержит 38,5 млн параметров; в метаданных указано ограничение контекста 512 токенов. Модель обучена на 20 824 примерах из корпусов DeepRegex KB13, NL-RX-Synth и NL-RX-Turk. На тестовой выборке точное совпадение составило 66,78%, валидность выражений — 99,76%, функциональная точность — 78,54%; последняя включает как точную эквивалентность, так и приблизительное совпадение на конечном наборе проверочных строк. Результат использует диалект DeepRegex с операторами дополнения `~` и пересечения `&`, поэтому его нужно преобразовать перед применением в Python `re`. Модель заменяет слова в кавычках заполнителями `dog`, `truck`, `ring` и `lake` и не копирует исходные литералы. Проверялись короткие однофразовые описания; поведение на произвольных или многофразовых запросах не тестировалось. Генерируемые выражения не проверяются на катастрофический возврат при поиске. Лицензия — MIT.

ukr-models/uk-punctcase — модель на базе XLM-RoBERTa-Uk, дообученная на украинских текстах для восстановления пунктуации и регистра букв. Она выполняет разметку токенов, чтобы восстанавливать знаки препинания и правильное написание заглавных и строчных букв в тексте. Модель содержит 137,3 млн параметров, использует архитектуру XLM-RoBERTa и рассчитана на контекст до 514 токенов. Форматы весов — PyTorch и safetensors. Лицензия MIT.

vectorizer.guava — многоязычная модель-векторизатор, разработанная Sinequa для поиска релевантных фрагментов текста. Она преобразует запросы и passages в векторы: векторы passages сохраняются в индексе, а вектор запроса используется для поиска подходящих фрагментов. Модель построена на базе mMiniLMv2-L6-H384-distilled-from-XLMR-Large и имеет архитектуру XLM-RoBERTa; в метаданных указано 110,2 млн параметров, а README указывает 107 млн. Выходные эмбеддинги имеют размерность 256 благодаря дополнительному плотному слою, контекст — до 514 токенов. Модель обучена для семантического поиска на английском, французском, немецком, испанском, итальянском, нидерландском, японском, португальском, китайском (упрощённом и традиционном) и польском языках. Она нечувствительна к регистру и диакритическим знакам. README сообщает о среднем Recall@100 0,616 на англоязычных наборах BEIR и приводит результаты для ряда языков MIRACL и традиционного китайского. Для запуска в Sinequa требуется версия не ниже 11.10.0; для GPU указана CUDA compute capability выше 7.5. Лицензия в предоставленных данных не указана.

Dingdust/VibeThinker-3B-heretic — производная модель на 3,1 млрд параметров, основанная на Qwen/Qwen2.5-Coder-3B. В карточке описана как версия VibeThinker-3B, ориентированная на проверяемые рассуждения; она предназначена для решения сложных задач по математике, программированию и STEM, а также для диалогов и следования инструкциям. Архитектура — плотная Qwen2ForCausalLM; модель работает с текстом, а нативный контекст составляет 131 072 токена. В README описаны постобучение по этапам SFT и обучения с подкреплением с проверяемыми наградами, а также результаты на математических и программных бенчмарках. Суффикс heretic и приведённые метрики отказов указывают на ослабление отказов модели; её следует оценивать отдельно для конкретных сценариев использования. Репозиторий распространяет веса в safetensors по лицензии MIT.

thang1943/vietnamese-bi-encoder-v2 — Sentence Transformer, дообученный автором thang1943 на базе bkai-foundation-models/vietnamese-bi-encoder. Модель использует RoBERTa и преобразует предложения и абзацы на вьетнамском языке в плотные векторы размерности 768; для сходства применяется косинусная мера. Максимальная длина последовательности в README — 256 токенов, а в метаданных каталога указано 258 токенов. Модель предназначена для семантического поиска, сравнения сходства предложений, поиска перефразировок, кластеризации и классификации текста. Она обучена на 54 755 примерах датасета dataset_full_fixed с использованием MultipleNegativesRankingLoss. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

wav2vec2-bert-CV16-en — модель автоматического распознавания речи, разработанная на основе ylacombe/w2v-bert-2.0 и дообученная на англоязычном наборе MOZILLA-FOUNDATION/COMMON_VOICE_16_0. Она построена на архитектуре Wav2Vec2BertForCTC и содержит 402,7 млн параметров. Модель принимает аудио и преобразует речь в текст; карточка указывает результаты на тестовой выборке: WER 0,1455 и CER 0,0580. Репозиторий использует формат safetensors. Лицензия в предоставленных данных не указана.

Whittle-Next-27B-A3B — экспериментальная языковая модель, созданная автором проекта Whittle на основе Qwen3.6-35B-A3B и предыдущей Whittle-Next-26B-A3B. Это причинная модель генерации текста архитектуры Qwen4-Next (qwen4_exp) с архитектурой mixture-of-experts: около 2,9 млрд параметров по метаданным, примерно 3 млрд активных на токен и дополнительная хешированная память n-грамм на 2 млрд строк. Контекст — до 262 144 токенов. Модель обучалась с дистилляцией рассуждений от Qwen3.8-27B и предназначена как исследовательская основа для дальнейшей работы с этой архитектурой, в том числе для генерации кода и математических рассуждений. Карточка сообщает о запуске на штатном llama.cpp и рекомендует включать режим рассуждений; результаты полной оценки актуальной версии v4.4 ещё не представлены, а опубликованная оценка v3 не подтверждает качество v4.4 в полном масштабе. Модель распространяется под лицензией Apache-2.0.

Карточка модели avsolatorio/00-400-11-1-0-1-0-0-cls-normed-768-512_GIST_BAAI_bge-base-en-v1.5-20240130201404-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

allnli-GroNLP-bert-base-dutch-cased — модель Sentence-Transformers на основе BERT, предназначенная для получения плотных векторных представлений предложений и абзацев. Модель разработана для нидерландского языка и содержит 136,3 млн параметров; размерность выходных векторов — 768, максимальная длина контекста — 512 токенов. Векторы можно использовать для семантического поиска и кластеризации текстов. Модель обучалась с функцией потерь MultipleNegativesRankingLoss и косинусной мерой сходства. Она принимает текст и выдаёт эмбеддинги; для использования доступны Sentence-Transformers и Transformers с подходящей операцией pooling. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана. Модель ориентирована на нидерландский язык, поэтому качество для других языков не подтверждено.

Модель AbderrahmanSkiredj1/arabic_text_embedding_sts_arabertv02_arabicnlitriplet — Sentence Transformer на базе BERT, дообученный на наборе арабских текстовых триплетов Omartificial-Intelligence-Space/arabic-n_li-triplet. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и рассчитана на сравнение смысловой близости текстов с косинусной мерой сходства. В метаданных указаны 162,4 млн параметров и максимальный контекст 512 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации арабских текстов, а также для построения эмбеддингов как части поискового или аналитического конвейера. Обучение использовало MatryoshkaLoss с размерностями векторов от 64 до 768. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

Карточка модели avsolatorio/AVES_BAAI_bge-base-en-v1.5-20240125233651-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

BagOClownCoders-slerp-7B — объединённая модель генерации текста на базе архитектуры Mistral, созданная методом SLERP с помощью mergekit из beowolx/CodeNinja-1.0-OpenChat-7B и beowolx/MistralHermes-CodePro-7B-v1. Это плотная авторегрессионная модель объёмом 7,1 млрд параметров с контекстом до 32 768 токенов; репозиторий содержит веса в формате safetensors, а использовать модель можно через Transformers. Модель предназначена для диалоговой генерации текста и задач программирования: она может помогать писать и дополнять код, а также отвечать на вопросы в чате. README подтверждает способ слияния и исходные модели; отдельные сведения о качестве, тестировании и условиях лицензии в предоставленных данных отсутствуют.

K00B404/BagOMistral_14X_Coders-ties-7B — созданная с помощью mergekit объединённая языковая модель семейства Mistral, разработанная K00B404. Веса объединены методом TIES на основе K00B404/Merged_Beowolx-CodePro_Medusa2-14X-7B-Mistral-I-v0-2 с компонентами Nexusflow/Starling-LM-7B-beta и beowolx/CodeNinja-1.0-OpenChat-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате, в том числе для задач программирования, опираясь на возможности входящих в объединение моделей. Её можно применять для генерации и дополнения кода, а также для диалоговых ответов. Карточка не приводит результаты оценки качества или подробные сведения о поддерживаемых языках. Лицензия в предоставленных данных не указана.

Lajavaness/bilingual-document-embedding — модель эмбеддингов от Lajavaness для текстов на французском и английском языках. Она кодирует предложения и документы в нормализованные векторы размерностью 1024 на основе архитектуры XLM-RoBERTa и Sentence Transformers. Модель дообучена на задачах распознавания текстовых следствий и семантического сходства, включая англо-французские наборы SNLI, XNLI и STS Benchmark. Модель предназначена для семантического поиска, сопоставления текстов и кластеризации документов на английском и французском языках. В README заявлен контекст до 8096 токенов; метаданные указывают 8194 токена, а конфигурация Sentence Transformers задаёт максимальную длину последовательности 512 токенов, поэтому фактический поддерживаемый предел может зависеть от используемой конфигурации. Модель содержит 658,7 млн параметров и распространяется в формате safetensors под лицензией Apache-2.0. README не содержит результатов оценки качества.

MaziyarPanahi/calme-2.3-phi3-4b — диалоговая языковая модель, созданная Maziyar Panahi путём дообучения с DPO модели microsoft/Phi-3-mini-4k-instruct. Она использует плотную архитектуру Phi-3 и содержит 3,7 млрд параметров; для общения применяется шаблон ChatML, а максимальный контекст составляет 4096 токенов. Модель предназначена для генерации текста в диалоге, ответов на запросы и задач программирования. В README приведены результаты оценивания на Open LLM Leaderboard, где модель сравнивается с другими вариантами Phi-3-mini-4k; эти результаты относятся к указанной в карточке версии и условиям тестирования. Репозиторий содержит веса safetensors и может использоваться через библиотеку Transformers. Карточка указывает лицензию MIT. Основной язык в метаданных — английский. Это компактная модель, поэтому её возможности и качество могут уступать более крупным моделям; доступные сведения не устанавливают точность для конкретных прикладных сценариев.

HiTZ/cap-punct-es — модель центра HiTZ при Университете Страны Басков UPV/EHU для восстановления заглавных букв и пунктуации в испанском тексте. Она обучена с нуля на базе Marian NMT на корпусе примерно из 9,8 млн предложений. Архитектура — MarianMTModel, размер — 41,6 млн параметров, максимальная длина контекста — 512 токенов. Модель принимает текст без регистра и пунктуации и возвращает восстановленный текст. Модель предназначена для обработки испанских предложений, в том числе распознанной речи и текста, в котором при подготовке удалили регистр и знаки препинания. В оценках на подвыборках FLORES-101 и Common Voice модель снизила WER с 19,55% до 5,99% и с 22,42% до 5,75% соответственно. Лицензия — Apache 2.0. Результаты зависят от соответствия входного текста обработке, использованной при обучении; разработчики также отмечают возможные смещения и нежелательные искажения.

oxfrug/chronos-2-int8-torchao — облегчённая INT8-версия Chronos-2 от Amazon, подготовленная автором репозитория oxfrug. Она предназначена для zero-shot прогнозирования временных рядов: принимает исторические значения и строит прогноз на следующие часы или дни; поддерживает одномерные и многомерные ряды с ковариатами. Архитектура основана на T5, в репозитории указано 99,1 млн параметров. Большие линейные слои используют весовую квантизацию torchao INT8, а квантильная голова оставлена в исходной точности; дополнительного обучения не проводилось. Пакет весит около 131 МБ и требует меньше видеопамяти, чем исходная версия. Для загрузки нужен предоставленный в репозитории load.py: обычный from_pretrained эти INT8-файлы не читает. Квантизация сама по себе не гарантирует ускорения; на указанной в карточке RTX 3090 INT8-вариант был немного медленнее FP32. В проведённых автором коротких сравнениях прогнозы в целом оставались близкими к исходным, но отдельные недельные прогнозы заметно расходились, а интервалы P10–P90 могли недопокрывать наблюдения. Лицензия — Apache-2.0.

CodeGen2.5-7B-instruct — авторегрессионная языковая модель для генерации программного кода, разработанная Salesforce. Модель содержит 6,7 млрд параметров, построена на плотной архитектуре Llama и обучена на инструкционных данных после CodeGen2.5-7B-mono; контекст — 2048 токенов. Предобучение семейства включало 1,4 трлн токенов StarCoderData. Модель предназначена для создания исполняемого кода по запросам на английском языке, автодополнения фрагментов программ и заполнения пропусков в коде. Она поддерживает несколько языков программирования и формат infilling. Репозиторий содержит веса PyTorch; карточка указывает исследовательское применение. Лицензия в метаданных обозначена как other, поэтому условия использования следует проверять для конкретной версии модели. Модель может воспроизводить фрагменты исходного кода из обучающих данных; лицензия такого кода может требовать указания авторства или соблюдения других условий. Качество, безопасность и корректность результатов не оценены для всех сценариев использования, поэтому сгенерированный код требует проверки.

Code Llama 13B — базовая авторегрессионная языковая модель Meta для генерации и понимания кода. Это модель с 13 млрд параметров на оптимизированной архитектуре Transformer, представленная в формате Transformers; она принимает текст и генерирует текст. Модель поддерживает автодополнение кода и заполнение пропусков в коде, но не предназначена для следования инструкциям или диалогового использования. Модель подходит для генерации фрагментов кода и помощи при редактировании программ. Она рассчитана на английский язык и языки программирования; README не приводит отдельный перечень поддерживаемых языков программирования. Модель обучена на статическом офлайн-наборе данных, а её ответы могут быть неточными или нежелательными, поэтому перед внедрением в приложение требуется проверка и настройка под конкретный сценарий. Модель разработала Meta. Использование регулируется лицензией Meta Llama 2; README указывает, что доступна специальная коммерческая лицензия, поэтому условия следует сверять с лицензионным соглашением.

YituTech/conv-bert-base — предобученная языковая модель семейства ConvBERT, опубликованная YITU Technology. Репозиторий предназначен для извлечения признаков из текста: его можно загрузить через Transformers как AutoModel или использовать с pipeline feature-extraction. Модель имеет плотную архитектуру ConvBertModel и содержит 136,7 млн параметров. Максимальная длина контекста — 512 токенов; доступны веса PyTorch и TensorFlow. Она принимает текст и выдаёт его векторные представления, которые можно использовать как основу для последующих NLP-задач. В карточке репозитория нет подробностей о языках обучения, специальных сценариях применения или ограничениях качества. Лицензия в предоставленных метаданных и найденной карточке не установлена.

cupidon-tiny-ro — модель Sentence Transformers на архитектуре BERT, разработанная BlackKakapo и дообученная на румынских данных от базовой модели sentence-transformers-testing/stsb-bert-tiny-safetensors. Она преобразует предложения в компактные векторные представления для оценки семантического сходства, поиска и кластеризации. Модель содержит 4,4 млн параметров, принимает текст, поддерживает контекст длиной до 512 токенов и рассчитана на румынский язык. Доступны форматы ONNX, OpenVINO и Safetensors; лицензия Apache-2.0. Для использования через Transformers поверх контекстных представлений требуется применить подходящую операцию pooling.

Карточка модели TechxGenus/CursorCore-Yi-1.5B-LC на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

Карточка модели Ishowbackup/DeepSeek-R1-Distill-Llama-8B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Экспериментальная модифицированная версия DeepSeek-R1-Distill-Llama-8B, подготовленная 3MPER0RR. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для диалоговой генерации текста. Базовая модель была дообучена на данных рассуждений DeepSeek-R1 и рассчитана на математические задачи, программирование и многошаговые рассуждения; в этой версии заявлена модификация abliterated. Модель принимает текст и выдаёт текст. Контекстное окно — 131 072 токена. В репозитории указаны веса Safetensors; модель распространяется по лицензии MIT. README сообщает, что версия экспериментальная и была протестирована и сохранена.

Экспериментальная копия весов dots.ocr от RedNote HiLab с исправленной конфигурацией для запуска через Transformers. Модель предназначена для анализа изображений документов и преобразования их содержимого в текст, в том числе в формате Markdown; архитектура — плотная модель DotsOCRForCausalLM с 1,5 млрд параметров, работающая с изображениями и текстом. В метаданных указан контекст до 131 072 токенов и поддержка английского языка. Исправление устраняет ошибку инициализации video_processor, из-за которой инференс не запускался в актуальных версиях Transformers. Репозиторий содержит веса в формате safetensors и имеет лицензию MIT. Автор карточки называет эту версию экспериментальной и рекомендует более новые версии исходной модели; также указано, что скопированные веса нельзя использовать для других целей.

Dracarys2-72B-Instruct — языковая модель Abacus.AI для генерации кода и диалоговых сценариев. Это дообученная версия Qwen2.5-72B-Instruct с плотной архитектурой Qwen2; модель содержит 71,5 млрд параметров и работает с контекстом до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель предназначена для генерации кода, рассуждений о выполнении программ и предсказания вывода тестов. В опубликованных результатах LiveCodeBench она превосходит исходную Qwen2.5-72B-Instruct по общему результату генерации кода и предсказанию тестового вывода, но результаты на сложных задачах генерации кода остаются ограниченными. Карточка также указывает интерфейс для вызова инструментов. Основной язык, заявленный в метаданных, — английский. Модель разработала Abacus.AI; лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория. Приведённые оценки получены на LiveCodeBench и сами по себе не гарантируют качество на других задачах или в производственной среде.

Vegss/gemma-4-12B-it-Claude-4.6-4.8-Opus-GGUF — дообученная на данных рассуждений Opus 4.6, 4.7 и 4.8 модель Google Gemma 4 12B Instruct в форматах GGUF и Safetensors. Она предназначена для локального диалога, рассуждений, ответов на вопросы и написания кода; поддерживает режим thinking через родной канал Gemma. Репозиторий содержит варианты GGUF от Q2_K до Q8_0 и BF16/F16, а также черновую MTP-модель для ускорения генерации. В README заявлен контекст до 131 тыс. токенов и возможность запуска через llama.cpp и приложения вроде LM Studio и Jan. Модель ориентирована прежде всего на английский язык. README отмечает, что рассуждения представляют собой синтетический CoT, поэтому факты и числовые выводы следует проверять. Обучение снижает частоту отказов и, по описанию автора, модель не имеет полноценного выравнивания по безопасности; для практического применения нужны внешние ограничения. Лицензия — Gemma.

gmcoder — 9-миллиардная слитая модель для программирования, разработанная при поддержке Galactic Mandate Linux на основе Qwen3.5-9B и Ornith-1.5-9B. Она предназначена для генерации и отладки кода, объяснения программ и решения алгоритмических задач; доступный файл GGUF Q8_0 можно запускать через llama.cpp. В README приведены результаты HumanEval+ Mini и сравнительные проверки, однако они не подтверждают качество на крупных репозиториях или в агентных сценариях. Модель имеет плотную архитектуру семейства Qwen3.5 и поддерживает диалоговый режим; карточка указывает английский язык. Лицензия — MIT.

HOS-OSS-3.08B — компактная причинная языковая модель от Hyggshi-AI для генерации текста и кода. Она основана на Qwen2.5-Coder-3B-Instruct и, согласно карточке, адаптирована или дистиллирована; метаданные классифицируют её как дообучение. Архитектура — плотный decoder-only трансформер семейства LLaMA, около 3,3 млрд параметров; модель поставляется в формате safetensors и работает с Transformers. Модель предназначена для генерации кода, выполнения инструкций, диалоговых ответов и локального ассистента. В карточке заявлены быстрая генерация, умеренные требования к ресурсам и запуск на GPU начального уровня или в Kaggle и Colab. Естественный язык, указанный в метаданных, — английский. Контекст составляет 2048 токенов. Лицензия — Apache-2.0.

lid-neural-25.2 — модель определения языка от olaverse, дообученная на базе xlm-roberta-base как классификатор последовательностей. Она предназначена для коротких текстов длиной до 128 токенов: вопросов, поисковых запросов, сообщений чата и других коротких пользовательских вводов. Модель распознаёт 25 языков, включая русский, английский, французский, хинди, японский и зулу; размер по метаданным — 305,2 млн параметров. Данные README приводят оценку точности 98,2% на коротких текстах.