II.8Инженерия данных и аналитика

bespin-global/klue-sentence-roberta-base — модель эмбеддингов предложений и абзацев от Jaehyeong из Bespin Global. Она основана на RoBERTa и преобразует текст в плотные векторы размерности 768; размер модели — 137,8 млн параметров, максимальная длина контекста — 514 токенов. Модель предназначена для семантического поиска и кластеризации текстов. Её можно использовать в системах поиска по смыслу, группировки похожих предложений и сравнения текстовых фрагментов. Обучение проводилось с функцией потерь CosineSimilarityLoss на данных KLUE, что указывает на ориентацию на корейский язык. Модель доступна в формате PyTorch по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование. В карточке не приведены результаты оценки качества; поэтому качество для конкретного сценария следует проверять отдельно.

korean_PP-OCRv5_mobile_rec — мобильная модель распознавания строк текста из изображений из семейства PP-OCRv5_rec, разработанная командой PaddleOCR. Она предназначена для эффективного распознавания корейского текста и может использоваться как модуль распознавания в конвейере PP-OCRv5 вместе с обнаружением текста и, при необходимости, коррекцией ориентации и геометрии изображения. Модель принимает изображение строки и выдаёт распознанный текст. В README приведена точность 88,0% на корейском наборе данных; строка считалась ошибочной при любой неверной букве или знаке препинания. Репозиторий указывает библиотеку PaddleOCR и лицензию Apache-2.0. Метаданные также отмечают английский и китайский языки, однако README описывает назначение модели как распознавание корейского.

Bram Vanroy разработал Llama-2-13b-chat-dutch — чат-модель на архитектуре Llama 2 с 12,9 млрд параметров. Она основана на meta-llama/Llama-2-13b-hf: сначала модель дополнительно обучали на нидерландских данных, затем дообучили на наборах синтетических инструкций и диалогов. Контекст составляет 4096 токенов; модель принимает текст и генерирует текст.

shadicopty/llama3.2-entity — дообученная модель на базе Llama 3.2 3B для извлечения из текста названий компаний, проектов и людей с выдачей результата в заданном формате JSON. Она предназначена для локального запуска на настольном компьютере и подготовки текста к обезличиванию перед отправкой в облачные сервисы. Модель имеет архитектуру LlamaForCausalLM, содержит 3,2 млрд параметров и поддерживает контекст длиной до 131 072 токенов. В репозитории представлены форматы GGUF F16 и PyTorch; обучение проводилось с Unsloth в Google Colab. Модель можно использовать как этап распознавания сущностей в локальном процессе защиты данных. Карточка не сообщает, какие языки или домены охвачены обучением, поэтому качество на конкретных языках и типах текста по ней оценить нельзя. Лицензия — Apache-2.0.

Distilled MetaCLIP 2 ViT-L/14 (worldwide) — мультимодальная модель семейства MetaCLIP 2, представленная авторами работы «MetaCLIP 2: A Worldwide Scaling Recipe». Чекпойнт соответствует ViT-L-14-worldwide из оригинальной реализации; для работы используется библиотека Transformers. Модель предназначена для классификации изображений по текстовым описаниям без отдельного обучения на каждом наборе классов: пользователь задаёт изображение и варианты описаний, а модель оценивает их соответствие. Вариант worldwide рассчитан на многоязычные данные. Веса опубликованы в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

MiMo-7B-Base — базовая языковая модель Xiaomi, обученная с нуля для развития способностей к рассуждению. Это плотная авторегрессионная модель с архитектурой MiMoForCausalLM и 7 млрд параметров; для обучения использовано около 25 трлн токенов, а дополнительная цель Multiple-Token Prediction поддерживает ускоренное декодирование. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и интерфейс диалога и вызова инструментов. Модель предназначена прежде всего для дальнейшего дообучения и постобучения, а также для экспериментов с задачами математического и программного рассуждения. README описывает потенциал базовой модели в этих областях и результаты отдельных производных моделей MiMo, но не следует считать их результатами этого чекпойнта. В карточке не приведены конкретные языковые покрытия и подробные ограничения качества. Лицензия — MIT.

mms-300m-1130-forced-aligner-ONNX — ONNX-версия модели MahmoudAshraf/mms-300m-1130-forced-aligner, автоматически конвертированная и опубликованная сообществом onnx-community на Hugging Face. Модель основана на MMS-300M и преобразована для использования с Transformers.js; исходный чекпойнт подготовлен из torchaudio-модели и обучен на наборе данных для forced alignment. Модель предназначена для принудительного выравнивания известного текста и аудиозаписи: она помогает определить временные интервалы произносимых токенов, слов или фрагментов текста и получать временные метки слов. Это подходит для транскрибации с таймкодами, синхронизации текста с речью и анализа речевых записей. Для работы используются аудиофайл, текст и ISO-639-3-код языка; README также указывает поддержку более чем ста языков, включая русский, английский, немецкий, французский, китайский, японский и другие. Ключевая характеристика модели — архитектура на базе wav2vec2/MMS-300M с CTC-подходом и форматом ONNX. Версия ориентирована на запуск через Transformers.js, а исходный Python-процесс включает загрузку аудио, генерацию эмиссий, предварительную обработку текста, выравнивание и расчёт временных интервалов. README не содержит точных сведений о размере ONNX-файлов, длине контекста, метриках качества или ограничениях по длительности аудио. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с обязательной атрибуцией, но ограничивающей коммерческое применение.

MyAwesomeModel — модель из репозитория MalaniAro/MyAwesomeModel-TestRepo, опубликованная для использования с библиотекой Transformers и PyTorch. По метаданным Hugging Face она предназначена для извлечения признаков из входных данных и относится к архитектурному семейству BERT. Модель можно применять для получения векторных представлений текста, последующей классификации, кластеризации, семантического поиска и других задач, использующих эмбеддинги. README также описывает заявленные возможности рассуждения, программирования, математики и работы с диалогами, однако эти сведения не согласуются с указанным pipeline-тегом feature-extraction и не содержат проверяемых технических характеристик модели. Модель распространяется по лицензии MIT. Размер, длина контекста, поддерживаемые естественные языки и точные сведения о разработчике в доступных данных не приведены.

M4-ai NeuralReyna-Mini-1.8B-v0.3 — разговорная языковая модель на архитектуре Qwen2 с 1,5 млрд параметров и контекстом до 32 768 токенов. Автор дообучил aloobun/Reyna-Mini-1.8B-v0.2 методом DPO на датасете argilla/OpenHermes2.5-dpo-binarized-alpha; в карточке также указан датасет Locutusque/Hercules-v3.0. Модель обучена на формате диалогов ChatML. Она предназначена для генерации ответов в диалоге и заявлена как способная помогать с программированием, математикой, естественными науками, ролевыми сценариями и вызовом функций. В README приведены результаты нескольких тестов, но полная оценка и подробные результаты не представлены. Модель принимает текст и генерирует текст. Распространяется по лицензии Apache-2.0. Практическое качество заявленных возможностей по карточке нельзя оценить полностью: автор сообщает, что подробная оценка ещё не опубликована.

NoemaAI-labs выпустила Noema 1.5 2B MLX BF16 — конвертированную для MLX версию модели Noema 1.5 2B. Это плотная причинно-языковая модель семейства Qwen3.5 с 1,7 млрд параметров, предназначенная для генерации текста, диалогов, следования инструкциям, рассуждений и коротких фрагментов кода. Версия сохраняет веса в BF16 без квантизации и поддерживает контекст до 262 144 токенов; пакет подготовлен для запуска через MLX-LM на совместимом оборудовании Apple. Модель подходит для локального ассистента, ответов на инструкции, многоходового общения и генерации кода, например функций на Python. В метаданных указан английский язык. Репозиторий предоставляет веса для скачивания, но не предоставляет открытую лицензию, поэтому условия использования следует уточнить у разработчика перед применением.

NorBERTo-base — предварительно обученный текстовый энкодер ModernBERT для бразильского португальского языка, разработанный Itaú Unibanco и ICTi. Модель содержит около 149 млн параметров и обучена на корпусе Aurora-PT объёмом 331 млрд токенов. Основная задача модели — предсказывать пропущенные токены в тексте. Её также можно применять для получения текстовых эмбеддингов и адаптировать под задачи классификации, семантического сходства и текстового следования. Контекст поддерживает до 8 192 токенов; в архитектуре используются эффективное локально-глобальное внимание и RoPE. В карточке сообщается о результатах на португалоязычных бенчмарках PLUE и ASSIN 2. Это базовая предобученная модель, а показатели для отдельных задач могут относиться к дообученным вариантам. Лицензия CC BY-NC-SA 4.0 требует атрибуции, распространения производных материалов на тех же условиях и не допускает коммерческого использования.

NorBERTo-large — предобученный текстовый encoder ModernBERT для бразильского португальского языка, разработанный Itaú Unibanco и ICTi. Модель содержит около 394,7 млн параметров, использует 28 слоёв и поддерживает контекст до 8 192 токенов. Веса доступны в форматах PyTorch и Safetensors; модель запускается через Transformers. Модель предназначена для заполнения пропусков в тексте и может служить основой для получения текстовых эмбеддингов и последующей настройки задач понимания языка. В карточке приведены результаты на португалоязычных бенчмарках PLUE и ASSIN 2, включая классификацию и текстовое следование. Для некоторых прикладных задач, таких как классификация последовательностей и ранжирование пар текстов, могут потребоваться соответствующая настройка или отдельная голова модели. Модель рассчитана прежде всего на бразильский португальский и обучена на корпусе Aurora-PT объёмом 331 млрд токенов. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространяет производные материалы на тех же условиях и запрещает коммерческое использование.

mlx-community/OpenCodeInterpreter-SC2-3B-4bit — конвертированная для MLX 4-битная версия модели m-a-p/OpenCodeInterpreter-SC2-3B, подготовленная сообществом mlx-community для запуска на устройствах Apple с MLX. Это причинная языковая модель семейства StarCoder2 с 4,2 млрд параметров и контекстом до 16 384 токенов; она предназначена для генерации текста и кода. Её можно использовать для написания и дополнения кода, а также для ответов на вопросы о программировании. Репозиторий содержит веса в формате safetensors. Модель ориентирована на английский язык; сведения об исходной модели доступны в её карточке. Лицензия — Apache-2.0.

Модель opensearch-neural-sparse-encoding-doc-v2-distill разработана участниками OpenSearch для поиска по документам. Это разреженный энкодер на базе DistilBERT с 67 млн параметров, обученный для поиска и извлечения документов. Он преобразует документ в разреженный вектор размерности 30 522: индексы ненулевых элементов соответствуют токенам словаря, а значения отражают их важность. Для запроса в описанном сценарии используется токенизатор и таблица весов, а релевантность вычисляется как скалярное произведение векторов запроса и документа. Модель предназначена для семантического поиска и поиска фрагментов в корпусах документов, в том числе в OpenSearch с обратным индексом Lucene. В сравнении на подмножестве BEIR модель показала средний NDCG@10 0,528; результаты различаются по наборам данных. Поддерживается английский язык, контекст — до 512 токенов. Репозиторий предоставляет веса PyTorch и Safetensors, модель совместима с Sentence Transformers и API Hugging Face. Лицензия — Apache 2.0.

SC117/Ornith-1.0-9B-heretic-MTP — текстовая генеративная модель для агентного программирования, созданная на основе Ornith-1.0-9B от DeepReinforce AI. В README описана как дообученная с помощью обучения с подкреплением модель семейства Qwen3.5 с 9 млрд параметров; репозиторий содержит веса BF16 в Safetensors, добавленные MTP-слои и проектор зрения mmproj-F16. Модель предназначена для генерации кода, выполнения задач разработки с агентными сценариями и взаимодействия через чат. MTP (Multi-Token Prediction) позволяет предсказывать несколько будущих токенов одновременно. В README также указана абляция поведения отказа методом heretic ARA-LoRA. Метаданные указывают поддержку чата и задачу text-generation; несмотря на упоминание зрения в README, возможности мультимодального ввода не подтверждены метаданными. Лицензия — MIT. README приводит результаты на Terminal-Bench 2.1, SWE-Bench Verified, NL2Repo и OpenClaw, но числовые таблицы результатов в доступном тексте пропущены. Для запуска в llama.cpp указаны шаблон chatml и контекст 8192 токена; это рекомендация из README, а не значение native-контекста в метаданных.

Google PaliGemma 3B FT OCRVQA 448 — дообученная версия компактной модели компьютерного зрения и языка PaliGemma для визуальных вопросов и ответов с чтением текста на изображениях. Она принимает изображение и текстовый запрос, затем генерирует текстовый ответ. В основе PaliGemma лежат визуальная модель SigLIP и языковая модель Gemma; суффикс 448 обозначает вариант с разрешением изображений 448 пикселей. Модель предназначена для одношагового взаимодействия и лучше подходит для настройки под конкретную задачу, чем для диалога общего назначения. Основной сценарий — отвечать на вопросы по тексту, распознанному на изображении: например, извлекать сведения из вывесок, форм или скриншотов. Модель относится к семейству мультиязычных VLM, однако конкретный набор языков этой версии не уточнён. Для использования действуют условия лицензии Gemma. Возможны ошибки распознавания и ответов; модель может отражать смещения обучающих данных, а её результаты требуют проверки. Она не предназначена для многоходового общения, а качество без дополнительной настройки на целевую задачу может быть ограничено.

Qwen2.5-Coder-0.5B-Instruct-GGUF — набор GGUF-квантизаций инструкционной модели Qwen2.5-Coder-0.5B-Instruct, подготовленный пользователем ThomasBaruzier с использованием llama.cpp и imatrix-калибровки. Базовая модель разработана командой Qwen; в карточке также указана лицензия Apache-2.0. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате: она может применяться для написания, дополнения и объяснения кода, а также других задач, связанных с программированием. Указан английский язык. Доступны варианты квантизации IQ и Q форматов размером примерно от 301 до 393 МБ, что позволяет запускать модель при ограниченных ресурсах. Ключевое преимущество — малый размер и наличие нескольких уровней квантизации с измеренными показателями perplexity и accuracy, позволяющими выбирать компромисс между качеством и требованиями к памяти. Ограничения связаны с небольшим размером модели в 0,5 млрд параметров и потерями качества при наиболее компактной квантизации; сведения об архитектуре, длине контекста и поддерживаемых модальностях в карточке не указаны.

ApolloRaines/Qwen2.5-Coder-7B-Instruct-Jbliterated — экспериментальная доработанная версия Qwen2.5-Coder-7B-Instruct от ApolloRaines. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом и инструкционном форматах; исходная модель ориентирована на задачи с программным кодом. В карточке указано, что изменены все трансформерные слои, а базовый тип данных — bfloat16. Модель принимает текст и выдаёт текст, поддерживает английский и китайский языки, а контекстное окно составляет 32 768 токенов. В README автор описывает её как демонстрацию обработки инструкций и заявляет об изменениях, направленных на более связные ответы и равное отношение к разным формулировкам запросов. Эти заявления не сопровождаются подробными результатами оценки; также автор указывает, что опубликованная версия намеренно ограничена по возможностям и служит proof of concept. Лицензия — Apache-2.0.

MingZwhy разработал эту версию Qwen3-4B, применив квантование весов до 1,88 бита на параметр и восстановление качества с помощью quantization-aware distillation и on-policy distillation. Это плотная авторегрессионная модель семейства Qwen3 с 3,7 млрд параметров, предназначенная для генерации текста и диалогов; она принимает текст и выдаёт текст. Модель доступна в формате safetensors, квантование уже встроено в веса. Контекст составляет 40 960 токенов. README приводит результаты на задачах математического рассуждения, генерации кода и QA; во всех перечисленных тестах результаты ниже, чем у исходной Qwen3-4B в BF16. Лицензия — Apache-2.0.

Replete-Coder-Qwen2-1.5B-GGUF — квантованная GGUF-версия модели Replete-Coder-Qwen-1.5b, разработанной Replete-AI на базе Qwen/Qwen2-1.5B. Квантование выполнил bartowski с использованием llama.cpp и метода imatrix; доступны варианты с различными уровнями квантования, включая Q8_0, Q6_K и Q5_K_M. Модель предназначена для генерации текста и решения задач программирования: написания и объяснения кода, следования инструкциям, работы с математическими задачами, вызова функций и ответов в формате диалога. Обучение проводилось на наборах данных с примерами кода, инструкций, математических задач, диалогов, function calling и анализа уязвимостей. Поддерживается специальный шаблон prompt в формате ChatML. Точная длина контекста и перечень языков программирования в README не указаны. Ключевое преимущество модели — небольшой размер около 1,5 млрд параметров и возможность локального запуска через llama.cpp в разных вариантах квантования. Более высокие разрядности ориентированы на максимальное сохранение качества, а Q6_K и Q5_K_M отмечены как рекомендуемые. Ограничениями являются небольшой размер по сравнению с крупными кодовыми моделями, отсутствие опубликованных численных результатов тестирования и неполные сведения о поддерживаемых языках и контексте. Модель распространяется по лицензии Apache-2.0.

Sentence-CamemBERT-Large — модель эмбеддингов предложений для французского языка, разработанная La Javaness. Она преобразует предложения векторы, отражающие их смысл, и предназначена для семантического поиска и сравнения текстов по смыслу. Модель основана на CamemBERT Large и дообучена с помощью Siamese BERT-Networks и Augmented SBERT на STS-B; при обучении также использовались стратегии попарной выборки. По метаданным, модель содержит 435,4 млн параметров и поддерживает контекст до 514 токенов. Доступны форматы PyTorch, safetensors, ONNX и OpenVINO. README приводит высокие результаты корреляции на французских наборах STS, включая STS-B и SICK-fr. Модель подходит для поиска семантически близких предложений и документов, сопоставления запросов с текстами и оценки семантического сходства. Она ориентирована на французский язык, поэтому её не следует считать универсальной многоязычной моделью; README оценивает её на наборах семантического сходства, что не гарантирует качество для других задач. Лицензия — Apache-2.0.

SLPL/Sharif-wav2vec2 — модель распознавания речи на основе архитектуры Wav2Vec2, дообученная авторами для персидского языка (фарси). Для адаптации использованы 108 часов персидских записей Common Voice 6.1 с частотой дискретизации 16 кГц. Модель принимает аудио и преобразует речь в текст; для повышения точности в сценариях распознавания авторы также обучили 5-граммную языковую модель KenLM и подключили её через процессор декодирования. Модель предназначена для транскрибации персидской речи. В оценке на Common Voice 6.1 указана частота ошибок слов WER 0,06 на очищенной выборке и 0,16 на выборке other. Для входной речи требуется частота дискретизации 16 кГц. Весовая модель опубликована в формате PyTorch, содержит около 402,7 млн параметров и распространяется по лицензии MIT.

Speechless Code Mistral 7B v1.0 — это языковая модель для генерации текста и программного кода на базе архитектуры Mistral с примерно 7 млрд параметров. Исходную модель разработал Jiangwen Su, а TheBloke подготовил её квантованные версии в формате GGUF. Модель ориентирована на англоязычные сценарии и обучалась на наборах данных, включающих инструкции, программный код и задачи общего назначения. Модель предназначена для генерации и продолжения кода, ответов на инструкции, локального программирования и диалоговых приложений. GGUF-файлы совместимы с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, LM Studio, KoboldCpp, ctransformers и llama-cpp-python; доступны варианты квантования от 2 до 8 бит для CPU+GPU-инференса. Ключевые ограничения — отсутствие мультимодальности в заявленных данных, поддержка только английского языка и неизвестный размер контекстного окна. Квантование может снижать точность по сравнению с исходной моделью, особенно в наиболее компактных вариантах. В README указана лицензия llama2; отдельные результаты HumanEval имеют значение pass@1 0, но помечены как непроверенные.

Это англоязычный разреженный энкодер SPLADE, разработанный авторами репозитория tomaarsen и дообученный на основе Luyu/co-condenser-marco с помощью Sentence Transformers. Модель кодирует предложения и абзацы в разреженные векторы размерности 30 522; для оценки близости используется скалярное произведение. Архитектура построена на BERT с маскированным языковым моделированием и пуллингом SPLADE. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и разреженного извлечения документов: она преобразует запросы и тексты в представления, пригодные для ранжирования по релевантности. В карточке приведены результаты оценки на небольших наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR. Модель принимает текст и выдаёт векторные представления. Распространяется по лицензии Apache-2.0.

ssc-top-mms-model-mix-adapt-max — дообученная модель распознавания речи на основе facebook/mms-1b-all. Она использует архитектуру wav2vec2 с CTC-декодированием и принимает аудио, преобразуя речь в текст. В карточке приведены результаты оценки: loss 0,7289, CER 0,1445 и WER 0,5792; набор данных и условия оценки не описаны. Базовая MMS поддерживает более тысячи языков, однако языки и сценарии, на которых проверялась эта дообученная версия, не уточнены. Модель содержит 1,3 млрд параметров, работает через Transformers и распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

StarPII — модель распознавания именованных сущностей, разработанная BigCode для поиска персональных данных и секретов в исходном коде. Она основана на дообученном bigcode-encoder с линейной головой классификации токенов и размечает шесть категорий: имена, адреса электронной почты, ключи, пароли, IP-адреса и имена пользователей. Для обучения использованы размеченные данные и предварительно псевдоразмеченные примеры; датасеты включают код на 31 языке программирования, а базовый энкодер предварительно обучался на 88 языках программирования. Модель подходит для обнаружения потенциально чувствительных данных в исходном коде и подготовки к их маскированию при обучении моделей или обработке репозиториев. В опубликованных результатах качество различается по типам сущностей: например, F1 для электронной почты составляет 96,01%, IP-адресов — 91,61%, ключей — 56,66%; псевдоразметка улучшила показатели для имен, имен пользователей и паролей. Авторы рекомендуют постобработку, включая фильтрацию коротких значений, проверку IP-адресов и отбрасывание имен пользователей из-за ложных срабатываний и пропусков. Возможны ложноположительные и ложноотрицательные результаты, а качество зависит от типа данных и языка программирования. Лицензия в предоставленных сведениях не указана.

Это модель эмбеддингов предложений на основе Greek Media BERT без учёта регистра, опубликованная Dimitrios Zaikis и соавторами вместе с работой DACL. Она преобразует предложения и абзацы на греческом языке в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель имеет архитектуру BERT, содержит 140,1 млн параметров и принимает последовательности длиной до 512 токенов. Модель дообучена с помощью Triplet Loss на пользовательской выборке предложений из интернета, социальных сетей и прессы: обучение сближало более похожие предложения и отдаляло менее похожие. Это делает её подходящей для семантического поиска и кластеризации грекоязычных текстов в этих областях. Доступны веса PyTorch и safetensors; для использования подходят Sentence-Transformers и Transformers с соответствующим pooling. Лицензия в предоставленных данных не указана.

Это инфраструктурная конверсия текстового энкодера T5Gemma 2 от Google, опубликованная jadanovitch для запуска через vLLM. В репозитории оставлена только текстовая часть базовой модели google/t5gemma-2-4b-4b; веса отображены в формат Gemma3ForCausalLM без изменений, а vision-, decoder- и мультимодальные веса удалены. Модель содержит 4 млрд параметров, 34 слоя, размер скрытого состояния 2560 и двунаправленное внимание. Веса и активации представлены в BF16, заявленный контекст — до 131 072 токенов. Модель предназначена для текстового кодирования, поиска, ранжирования и экспериментов с энкодерной архитектурой в vLLM. Хотя конфигурация позволяет загрузить её через runner для генерации, модель не обучалась как самостоятельная авторегрессионная языковая модель, поэтому обычную генерацию текста нельзя считать её целевым сценарием. Применяются условия лицензии Gemma.

shibing624/text2vec-base-chinese-paraphrase — модель текстовых эмбеддингов, разработанная проектом text2vec. Она основана на nghuyong/ernie-3.0-base-zh и дообучена методом CoSENT на китайских данных для сопоставления предложений и их перефразированных вариантов, включая пары «предложение — абзац». Модель кодирует текст в плотный вектор размерности 768 и предназначена для семантического поиска, оценки сходства, кластеризации и поиска перефразировок. Модель использует архитектуру ERNIE и библиотеку Sentence Transformers; размер составляет 144 млн параметров. Она принимает китайский текст, имеет контекстное окно 2048 токенов по метаданным, а в карточке указана обрезка входа свыше 256 word pieces. Форматы весов — PyTorch и Safetensors. Модель распространяется по лицензии Apache-2.0. Ее специализация на китайских текстах означает, что качество для других языков не подтверждено карточкой.

TIPS g/14 (v1) — контрастивная модель «изображение–текст» семейства TIPS, представленная в карточке как конверсия официальных чекпойнтов. В её состав входят визуальный энкодер ViT-g/14 на 1,1 млрд параметров и текстовый трансформерный энкодер на 389 млн параметров; размерность эмбеддингов — 1664. Модель принимает изображения и текст, сопоставляет их в общем пространстве признаков и подходит для классификации изображений по текстовым описаниям без отдельного обучения на заданных классах. Визуальный энкодер имеет 40 слоёв, патчи размером 14 пикселей и два CLS-токена; текстовый — 12 слоёв. Штатное разрешение изображений составляет 448 пикселей, также поддерживаются другие разрешения, кратные размеру патча, с интерполяцией позиционных эмбеддингов. Для изображений требуется диапазон значений [0, 1] без нормализации ImageNet; текст обрабатывается токенизатором SentencePiece в нижнем регистре, максимум 64 токена. Пространственно насыщенные признаки позволяют использовать модель для сопоставления изображений с текстом и анализа визуальных признаков. Лицензия — Apache-2.0.