I.2Синтез, понимание и проверка знаний

Kimi-VL-A3B-Thinking-2506 — мультимодальная модель Moonshot AI, обновлённая версия Kimi-VL-A3B-Thinking и дообучение Kimi-VL-A3B-Instruct. Она предназначена для диалогов с анализом изображений и видео, визуального восприятия и рассуждений, включая решение математических задач, понимание экранов и работу с изображениями высокого разрешения. Модель поддерживает изображение размером до 3,2 млн пикселей и может генерировать до 32 тыс. токенов при длинном декодировании. В README отмечены улучшения результатов на мультимодальных и видеобенчмарках, а также сокращение длины рассуждений в среднем на 20% относительно предыдущей версии. В метаданных указаны архитектура KimiVLForConditionalGeneration, библиотека Transformers и возможность диалогового взаимодействия. Для запуска авторы рекомендуют vLLM; также описан запуск через Transformers. Модель распространяется по лицензии MIT. Описание не указывает поддерживаемые естественные языки и точное число параметров.

Xenova/LaBSE — версия модели LaBSE из репозитория sentence-transformers/LaBSE, адаптированная в формате ONNX для совместимости с библиотекой Transformers.js. Репозиторий содержит ONNX-веса и предназначен для запуска модели в JavaScript-средах, включая веб-приложения. Модель рассчитана на извлечение признаков: она преобразует входной текст в векторное представление, которое может использоваться в задачах семантического поиска, сравнения текстов, кластеризации и других сценариях работы с эмбеддингами. В README не указаны архитектура, размер модели, поддерживаемые языки, максимальная длина контекста, точные модальности, ограничения качества или лицензия, поэтому эти характеристики нельзя достоверно оценить по предоставленным данным.

Llama 4 Scout — мультимодальная авторегрессионная модель Meta с архитектурой mixture-of-experts и ранним объединением модальностей. В модели 17 млрд параметров и 16 экспертов; она предназначена для работы с текстом и изображениями. Модель подходит для диалогового помощника, визуального рассуждения, распознавания содержимого изображений, создания подписей и ответов на вопросы об изображениях. Поддерживает арабский, английский, французский, немецкий, хинди, индонезийский, итальянский, португальский, испанский, тагальский, тайский и вьетнамский языки. В README указано, что модель тестировалась на понимание до пяти изображений за один запрос. Модель распространяется по специальной коммерческой лицензии Llama 4 Community License Agreement с ограничениями Acceptable Use Policy. Это статическая модель, обученная на офлайн-данных; качество ответов и работу в конкретных сценариях следует проверять отдельно. Возможности понимания изображений сверх пяти изображений за запрос требуют дополнительного тестирования и настройки.

Megrez-3B-Omni — разработанная Infinigence AI компактная мультимодальная модель для понимания изображений, текста и аудио. Она расширяет Megrez-3B-Instruct и предназначена для диалогов и анализа запросов, содержащих текст, изображения или речь, включая вопросы по изображениям, распознавание текста на изображениях и ответы на устные инструкции. Для аудиоввода используются энкодеры Qwen2-Audio или Whisper large-v3, а для изображений — SigLIP-400M; модель поддерживает китайский и английский языки и многоходовой диалог. В карточке указано около 2,6 млрд параметров и контекст 4096 токенов; веса представлены в формате safetensors. Модель рассчитана на локальное и серверное применение, в том числе на устройствах с ограниченными ресурсами. В README приводятся результаты сравнительных тестов для визуального, языкового и речевого понимания, однако они зависят от условий оценки. Известные ограничения включают возможность галлюцинаций; для OCR авторы предупреждают, что сэмплирование может менять распознанный текст, а его отключение способно вызвать повторения. Лицензия репозитория — Apache-2.0.

Phi-4-mini-reasoning-GGUF — это GGUF-квантизированная версия языковой модели Phi-4-mini-reasoning, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, решения математических задач и работы с кодом; поддерживает сценарии локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В репозитории представлены варианты от BF16 размером 7,68 ГБ до низкобитных квантов размером около 1,90 ГБ. Доступны форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, IQ и другие; варианты с более высокой разрядностью обычно обеспечивают лучшее качество, а низкоразрядные требуют меньше оперативной памяти. Указан английский язык. Архитектура исходной модели, число параметров, поддерживаемые модальности и размер контекста в README не описаны. Сильными сторонами являются локальный запуск, широкий выбор компромиссов между качеством и требованиями к памяти, а также специализация исходной модели на математическом рассуждении. Ограничения включают возможное снижение качества при использовании низкоразрядных квантов и отсутствие в README подробных результатов оценки. Модель распространяется по лицензии MIT.

MMLW-roberta-large — польский текстовый энкодер семейства RoBERTa, разработанный для получения векторных представлений предложений и текстов. Модель содержит 533,7 млн параметров и преобразует текст в векторы размерностью 1024; максимальная длина контекста — 514 токенов. Модель дистиллирована из польского чекпойнта RoBERTa с использованием мультиязычной дистилляции: учительскими моделями были английские FlagEmbeddings (BGE), а обучающий корпус включал 60 млн пар текстов на польском и английском языках. Она предназначена для семантического сравнения, кластеризации и поиска информации, а также может служить основой для дальнейшего дообучения. Для кодирования запросов README требует добавлять префикс «zapytanie: ». В README приведены средний результат 63,23 на польском бенчмарке MTEB и NDCG@10 55,95 на польском бенчмарке поиска PIRB. Доступны веса PyTorch и Safetensors; лицензия — Apache-2.0. Модель специализирована на польском, поэтому результаты для других языков и задач за пределами описанных сценариев могут отличаться.

Mungert/mxbai-rerank-large-v2-GGUF — это набор GGUF-вариантов модели mxbai-rerank-large-v2 для ранжирования текстов. Модель предназначена для задач text-ranking, включая переранжирование результатов поиска и выбор наиболее релевантных документов или фрагментов для заданного запроса. Разработчик в README не указан. Доступны версии с форматами BF16 и F16, а также квантованные варианты Q8_0, Q6_K, Q4_K и другие, рассчитанные на различный баланс между точностью, скоростью и потреблением памяти. Квантованные файлы подходят для CPU и устройств с ограниченным объёмом VRAM, тогда как BF16 и F16 ориентированы на оборудование с соответствующей аппаратной поддержкой. Точный размер модели, архитектура, максимальная длина контекста и поддерживаемые модальности не указаны. В README заявлена поддержка английского, китайского, немецкого, японского, корейского, испанского, французского, арабского, бенгальского, русского, индонезийского, суахили, телугу и тайского языков. Основные ограничения связаны с компромиссом квантования: низкобитные варианты требуют меньше памяти, но могут уступать полноразмерным версиям по точности. Модель распространяется по лицензии Apache-2.0.

MyAwesomeModel — модель из репозитория PoseyEnder/MyAwesomeModel-TestRepo, опубликованная под лицензией MIT. Согласно метаданным Hugging Face, она предназначена для извлечения признаков и относится к архитектурному семейству BERT; работать с ней предполагается через библиотеку Transformers на базе PyTorch. Модель может использоваться для получения векторных представлений текста, семантического поиска, сравнения текстов, кластеризации и подготовки признаков для последующих задач машинного обучения. README также заявляет о возможностях рассуждения, генерации кода и диалога, однако эти заявления не согласуются с указанным pipeline_tag feature-extraction и не подтверждены техническими характеристиками модели. Сильной стороной является интеграция с экосистемой Transformers и открытая лицензия MIT. Размер модели, поддерживаемые естественные языки и длина контекста в доступных данных не указаны. Для генеративных сценариев и заявленных результатов бенчмарков требуется дополнительная проверка конфигурации и воспроизводимости.

MyAwesomeModel — модель на базе BERT для извлечения признаков из текста, опубликованная в библиотеке Transformers и распространяемая по лицензии MIT. Метаданные Hugging Face указывают задачу feature extraction, а также использование PyTorch и Transformers. Модель предназначена для преобразования текстовых данных в векторные представления, которые можно использовать в поиске по смыслу, кластеризации, классификации, оценке сходства текстов и других задачах обработки естественного языка. README также заявляет о возможностях рассуждения, генерации текста, ответов на вопросы, программирования и работы с функциями, однако эти сведения не согласуются с основным pipeline-тегом feature-extraction и не подтверждают генеративное применение модели. Языки, число параметров, размер контекста и точная архитектура базовой модели в предоставленных данных не определены; тег BERT указывает на семейство архитектур. Ограничения включают отсутствие подтверждённых сведений о языковой поддержке и специализированных результатах именно для извлечения признаков. Использование разрешено на условиях лицензии MIT.

MyAwesomeModel — модель семейства BERT из репозитория toolathlon3/MyAwesomeModel-TestRepo, предназначенная для извлечения признаков из текста. Согласно метаданным, она реализована на PyTorch и библиотеке Transformers, а её основной тип задачи Hugging Face — feature-extraction. Модель может использоваться для получения векторных представлений текста, семантического поиска, кластеризации, сравнения текстов и как компонент систем классификации или других downstream-задач. README также заявляет о возможностях рассуждения, генерации кода, ответов на вопросы и работы с функциями, однако эти сведения не согласуются с указанным pipeline-тегом feature-extraction и не подтверждают архитектуру генеративной модели. Модель распространяется по лицензии MIT. Размер, длина контекста, поддерживаемые естественные языки и точные характеристики архитектуры в доступных данных не указаны.

Nemotron-3-Embed-1B-AWQ-W4A16 — квантизированный энкодер текстовых представлений, созданный Facu Vlad J (groxaxo) на основе модели NVIDIA Nemotron-3-Embed-1B-BF16. Модель предназначена для извлечения эмбеддингов, семантического поиска, retrieval-сценариев и оценки качества локального или размещённого инференса. Заявлены английский и испанский языки, а также поддержка задач feature extraction. Модель использует архитектуру типа ministral3 и имеет размер порядка 1B параметров. Веса линейных слоёв квантизированы в INT4 по схеме AWQ W4A16 с асимметричными нулевыми точками и размером группы 32, тогда как активации, таблица токенов и нормализующие слои сохраняются в BF16. Размер эмбеддинга составляет 2048 измерений; также заявлена работа с представлениями размерностью 1024 и 512. Контекст ограничен 4096 токенами в рекомендуемой конфигурации vLLM. Контрольная точка сериализована в формате compressed-tensors и оптимизирована для инференса через vLLM с ядром Marlin, занимая около 1,0 ГБ на диске. Сильными сторонами являются существенно меньший размер по сравнению с BF16-версией, ускоренный GPU-инференс и заявленное отсутствие потери Recall@10 на тестах для английского и испанского языков. При этом результаты основаны на ограниченных наборах данных и требуют проверки на собственных сценариях. Квантизация может изменять точность, потребление памяти и пропускную способность, а для работы необходим runtime с поддержкой соответствующей архитектуры и формата. Модель распространяется по лицензии OpenMDW-1.1; перед использованием и распространением следует изучить условия лицензии исходной модели NVIDIA.

Карточка модели joincrksilverb/Nemotron-Mini-4B-Instruct на Hugging Face совпадает с карточкой nvidia/Nemotron-Mini-4B-Instruct, поэтому описание составлено по ней. Nemotron-Mini-4B-Instruct — компактная языковая модель NVIDIA для генерации диалоговых ответов и выполнения инструкций. Это дообученная версия nvidia/Minitron-4B-Base, основанной на Nemotron-4 15B и сжатой с помощью прореживания, дистилляции и квантования. Модель содержит 4,3 млрд параметров и построена как авторегрессионный Transformer-декодер с Grouped-Query Attention и RoPE; принимает контекст до 4096 токенов. Модель предназначена для ролевых диалогов, ответов на вопросы по материалам в сценариях RAG и вызова функций. NVIDIA оптимизировала её для быстрого вывода и развёртывания на устройствах; карточка заявляет готовность к коммерческому использованию. Основной язык — английский. Указанная в метаданных лицензия — other, поэтому конкретные условия использования следует сверить с лицензией и условиями NVIDIA.

OpenSearch-AI/Ops-MoA-Conan-embedding-v1 — текстовая модель эмбеддингов от OpenSearch AI на архитектуре BERT. Она предназначена для преобразования текстов в векторы, которые можно использовать для поиска по смыслу и сравнения предложений. Модель поддерживает задачи feature-extraction и sentence-similarity, имеет 424,3 млн параметров и контекст до 512 токенов. Для работы подходит библиотека Sentence Transformers; веса доступны в формате PyTorch. В метаданных указан китайский язык. Карточка содержит пример кодирования текста, но не приводит оценки качества или подробностей обучения. Лицензия не указана в предоставленных данных.

Ornith-1.0-9B-abliterated-fable — разговорная текстовая модель с архитектурой Qwen 3.5, разработанная ansulev на базе YuYu1015/YuYu1015-Ornith-1.0-9B-abliterated. Модель содержит около 9,57 млрд параметров и дообучена методом LoRA SFT на 3 346 многоходовых трассах рассуждений Fable-5 с форматом вызова инструментов Hermes. Поддержка MTP предназначена для ускорения спекулятивного декодирования. Модель рассчитана на диалоговые сценарии с пошаговыми рассуждениями и вызовом инструментов. В README она описана как модель без обычных шаблонов отказа. Для данных дообучения использовались только текстовые примеры, а башня обработки изображений базовой модели была заморожена; практическая поддержка изображений этой версией не подтверждена. Карточка указывает английский язык. Модель распространяется по лицензии MIT.

Ovis2-1B — компактная мультимодальная модель семейства Ovis, построенная на визуальном энкодере aimv2-large-patch14-448 и языковой модели Qwen2.5-0.5B-Instruct. Её разработчики улучшили архитектуру структурного согласования визуальных и текстовых представлений, а также обучение на данных с инструкциями и предпочтениями. Модель предназначена для диалога по изображениям, видео и нескольким изображениям, визуального рассуждения, распознавания текста и извлечения структурированных данных из таблиц и графиков. В карточке заявлены многоязычный OCR, обработка видеокадров и улучшенное пошаговое рассуждение. Метаданные указывают поддержку английского и китайского языков; для работы используется библиотека Transformers. Ovis2-1B — плотная модель класса Ovis; в сравнительных таблицах README приведены результаты на наборах для оценки изображений и видео. Для некоторых видеобенчмарков результаты ниже, чем у более крупных моделей из сравнения. Модель доступна по лицензии Apache-2.0. Авторы предупреждают, что не гарантируют полного отсутствия проблемного или нарушающего авторские права контента.

palmyra-mini-thinking-AIO-GGUF — набор GGUF-вариантов семейства Palmyra Mini, разработанного Writer и опубликованного в формате GGUF пользователем или организацией prithivMLmods. В состав входят варианты palmyra-mini, palmyra-mini-thinking-a и palmyra-mini-thinking-b с разными уровнями квантования: от Q2_K до Q8_0, а также BF16, F16 и F32. Модель предназначена для генерации текста, программирования и решения математических задач на английском языке. Сильной стороной семейства является рассуждение в задачах с пошаговым решением: заявлены результаты 0,818 на GSM8K и MATH500, а также 0,6 на AMC23. Это делает модели подходящими для учебной математики, количественного анализа, ответов на вопросы и задач, связанных с кодом. Доступны файлы размером примерно от 676 МБ до 7,11 ГБ в зависимости от варианта и точности. README не содержит сведений об архитектуре, числе параметров, размере контекста, поддерживаемых дополнительных модальностях или сравнении качества между вариантами, поэтому эти характеристики нельзя определить. Распространение указано по лицензии Apache-2.0.

Parda21/Qwen3-4B-NWC — версия языковой модели Qwen3-4B, представленная в формате Neural Weight Compression (NWC). Линейные слои и связанные эмбеддинги хранятся в сжатом BF16-виде; веса восстанавливаются непосредственно CUDA-ядром при умножении матриц. По заявлению автора, веса побитово совпадают с исходной моделью и не квантизированы. Репозиторий содержит 3,7 млрд параметров и рассчитан на контекст до 40 960 токенов. Модель предназначена для генерации текста и диалогов. По сравнению с исходной версией BF16 автор сообщает о сокращении размера весов с 8,04 до 5,55 ГБ, использовании видеопамяти с 8,10 до 5,67 ГБ и скорости 55 против 45 токенов в секунду на RTX 4070 в указанном режиме. Для запуска нужны библиотека nwc, Transformers, Accelerate и CUDA; специальный формат требует поддержки NWC. Лицензия весов — Apache-2.0, как у базовой модели.

Qwen3-4B-SafeRL — версия языковой модели Qwen3-4B, дообученная с помощью обучения с подкреплением для повышения устойчивости к вредоносным и состязательным запросам. Для оценки безопасности использовалась Qwen3Guard-Gen-4B, а гибридная функция вознаграждения также поощряет полезные ответы и снижает число необоснованных отказов. Модель предназначена для диалогов и генерации текста в сценариях, где важны безопасность и сохранение полезности ответов. Она поддерживает режимы с рассуждением и без него; архитектура — плотная Qwen3ForCausalLM, размер — около 3,7 млрд параметров, контекст — до 40 960 токенов. В сравнительных тестах SafeRL показала более высокие показатели безопасности и меньшую частоту отказов, чем исходная Qwen3-4B, при близких результатах на отдельных тестах рассуждения. Модель распространяется в формате Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Показатели безопасности не гарантируют безошибочного распознавания всех вредоносных запросов; результаты зависят от теста и режима работы.

Qwen3-VL-Embedding-2B-FP8-DYNAMIC — мультимодальная модель эмбеддингов, разработанная на базе Qwen3-VL-Embedding-2B от Qwen. Она предназначена для преобразования текста, изображений и их комбинаций в векторные представления, которые можно использовать для семантического поиска, сопоставления текстов и изображений, кластеризации и других задач, требующих сравнения мультимодальных данных. Модель ориентирована на эффективное развёртывание через vLLM и поддерживает OpenAI-совместимый API. Модель содержит около 2 млрд параметров и использует архитектуру Qwen3VLModel. Текстовые линейные слои квантизированы методом FP8_DYNAMIC: веса представлены в FP8 с поканальным симметричным квантованием, а активации квантизируются динамически по токенам. 24 визуальных блока сохраняются в формате bfloat16 для поддержания качества обработки изображений и межмодального выравнивания. Размер эмбеддинга по умолчанию составляет 2048, а благодаря Matryoshka-представлениям доступны сокращённые размерности от 64 до 2048, что позволяет экономить память и ускорять операции сравнения. Указано снижение потребления VRAM примерно на 50% по сравнению с версией bfloat16; размер модели составляет около 2,8 ГБ против 4,6 ГБ. К сильным сторонам относятся поддержка текстовых, визуальных и мультимодальных входов, гибкая размерность векторов и сохранение визуальных слоёв в полной точности. Ограничения README не описывает; для мультимодального режима требуется специальный формат запросов vLLM, а практическая совместимость зависит от корректной настройки pooling-режима и загрузки квантизированных весов. Модель распространяется по лицензии Apache 2.0.

Ruri v3 70M — модель текстовых эмбеддингов для японского языка, разработанная cl-nagoya на основе предварительно обученной cl-nagoya/ruri-v3-pt-70m. Это Sentence Transformer с архитектурой ModernBERT: 70 млн параметров, 13 слоёв и выходными векторами размерности 384. Модель принимает последовательности длиной до 8192 токенов и использует токенизатор SentencePiece, которому не требуется внешняя сегментация японского текста. Модель предназначена для семантического поиска, оценки сходства предложений, классификации, кластеризации и ранжирования японских текстов. В JMTEB она показывает средний результат 75,48; сходство вычисляется по косинусной мере. Указанная лицензия — Apache 2.0. Для практического использования описана поддержка Transformers версии 4.48.0 или выше и Sentence Transformers.

SA-BERT-V1 — дообученная командой Omartificial-Intelligence-Space модель эмбеддингов предложений для арабского языка, ориентированная на саудовский диалект. Она основана на MARBERTv2 и использует BERT-энкодер с mean pooling: 12 слоёв, размер скрытого состояния и эмбеддинга 768. Модель принимает текст и преобразует предложения в векторы; заявленные сценарии — семантическое сходство, кластеризация, поиск и классификация. Для дообучения использовано более 500 тысяч предложений на саудовском диалекте, включая хиджазский и надждийский варианты. В README приведена оценка на отложенной выборке из 1280 предложений по 44 категориям; она описывает сходство эмбеддингов внутри и между категориями, но не устанавливает качество для всех задач и наборов данных. Контекст составляет 512 токенов. Модель распространяется по лицензии Apache 2.0.

mrp/simcse-model-m-bert-thai-cased — модель на основе mBERT, дообученная методом SimCSE на тайской Википедии. Она кодирует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации. Модель подходит для поиска похожих фрагментов текста и группировки тайских текстов по смыслу. Архитектура — BERT; число параметров составляет 205,1 млн, максимальная длина контекста — 512 токенов. Модель принимает текст и выдаёт векторные представления. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

SimCSE-Small-E-Czech — компактная модель семантических эмбеддингов предложений, разработанная Seznam.cz. Она основана на Seznam/small-e-czech и дообучена с целевой функцией SimCSE; архитектура — ELECTRA, размер — 20,4 млн параметров. Модель предназначена для сравнения смысла чешских предложений и может применяться в семантическом поиске, извлечении релевантных текстов, кластеризации и классификации. Модель принимает текст и выдаёт векторные представления предложений для задач сходства. Она рассчитана на чешский язык, поддерживает контекст до 512 токенов и распространяется в формате PyTorch по лицензии CC BY 4.0. README не приводит подробных результатов оценки; качество для конкретного набора данных следует проверять отдельно.

Ultravox v0.4.1 Mistral Nemo — мультимодальная речевая языковая модель от Fixie.ai на основе Mistral-Nemo-Instruct-2407 и Whisper Large V3 Turbo. Она принимает аудио вместе с текстом, например системной инструкцией, и формирует текстовый ответ. Модель предназначена для голосовых агентов, анализа речи и перевода устной речи; README также отмечает низкую задержку первого токена и скорость генерации около 50–100 токенов в секунду на GPU A100 40 ГБ. Для обучения использовалась смесь наборов данных распознавания речи, продолжений текста, созданных Mistral Nemo, и наборов для перевода речи. Поддерживаемые языки включают арабский, немецкий, английский, испанский, французский, хинди, итальянский, японский, нидерландский, португальский, русский, шведский, турецкий, украинский и китайский. Модель принимает речь и текст, но выдаёт текст; генерация аудио в этой версии не поддерживается. Настройка предпочтений не проводилась. Лицензия — MIT.

ddobokki/unsup-simcse-klue-roberta-small — модель на архитектуре RoBERTa, разработанная для получения векторных представлений корейских предложений и оценки их семантической близости. Её можно использовать через библиотеку Sentence-Transformers для сравнения предложений, поиска семантически похожих текстов и построения векторного поиска. Модель содержит 81,2 млн параметров и принимает текстовые последовательности с контекстом до 514 токенов. Репозиторий содержит веса PyTorch и safetensors. Карточка не сообщает отдельную лицензию; ограничения качества и условия коммерческого использования по доступным данным определить нельзя.

swardiantara/bert-tiny-yelp-k3-adaptive-euclidean — компактная модель Sentence Transformers, дообученная разработчиком на базе google/bert_uncased_L-2_H-128_A-2. Она преобразует предложения и абзацы в плотные векторы размерности 128 и предназначена для поиска и сравнения текстов по косинусному сходству. Архитектура включает BERT с двумя слоями и mean pooling; модель содержит 4,4 млн параметров, принимает текст длиной до 512 токенов по метаданным Hugging Face, а README указывает максимум 128 токенов. Модель обучалась на 7 605 030 парах текстов с метками и поддерживает получение эмбеддингов и оценку сходства предложений. Примеры и базовая модель указывают на английский язык; специализация набора данных связана с отзывами Yelp. Репозиторий распространяет веса в формате safetensors. Лицензия в предоставленных данных не указана.

ByT5-large — предварительно обученная модель Google на архитектуре T5, работающая непосредственно с последовательностями UTF-8 байтов без токенизатора. Модель содержит около 1,2 млрд параметров и обучалась на mC4 с задачей маскирования фрагментов; supervised-обучение для прикладных задач не проводилось, поэтому перед использованием её нужно дообучить под целевую задачу. Модель предназначена для дообучения на задачах преобразования текста, особенно когда данные содержат опечатки, шум или нестандартное написание. Она поддерживает многоязычный текст и может быть полезна в сценариях, чувствительных к орфографии и произношению; в карточке отмечено превосходство над mT5-large на TweetQA. Работа с байтами избавляет от отдельного токенизатора, но последовательности обычно длиннее токенизированных, что может повышать вычислительные затраты. Лицензия — Apache-2.0.

ByT5-small — небольшая предобученная модель Google на архитектуре T5, работающая напрямую с последовательностями байтов UTF-8 и не требующая токенизатора. Она содержит около 364,6 млн параметров и обучалась на mC4 с задачей восстановления замаскированных фрагментов; для практического решения конкретных задач её необходимо дообучить. Модель предназначена для последующего дообучения на задачах преобразования текста: например, для работы с шумными или ошибочными текстами, где важны написание и произношение. Предобучение охватывает многоязычный текст, а обработка байтов позволяет принимать текст на разных языках без отдельного словаря токенов. По данным README, ByT5-small превосходила mT5-small на TweetQA. Это модель кодировщик-декодер для генерации текста по текстовому входу. Последовательности байтов обычно длиннее токенизированных последовательностей, что может снижать скорость обработки. Лицензия — Apache-2.0.

cupidon-base-ro — модель BlackKakapo для создания эмбеддингов румынских текстов и оценки семантической близости предложений. Это плотная модель на архитектуре XLM-RoBERTa с 305,2 млн параметров, дообученная на румынских данных STS; в карточке указан датасет BlackKakapo/RoSTSC. Контекст модели — 514 токенов. Модель принимает текст и формирует векторные представления, которые можно использовать для сравнения предложений по смыслу, поиска похожих текстов и ранжирования кандидатов по семантическому сходству. Доступны веса Safetensors и форматы ONNX и OpenVINO; использовать модель можно через Sentence-Transformers или Transformers с подходящей операцией pooling. Лицензия — Apache-2.0.

cupidon-tiny-ro — модель Sentence Transformers на архитектуре BERT, разработанная BlackKakapo и дообученная на румынских данных от базовой модели sentence-transformers-testing/stsb-bert-tiny-safetensors. Она преобразует предложения в компактные векторные представления для оценки семантического сходства, поиска и кластеризации. Модель содержит 4,4 млн параметров, принимает текст, поддерживает контекст длиной до 512 токенов и рассчитана на румынский язык. Доступны форматы ONNX, OpenVINO и Safetensors; лицензия Apache-2.0. Для использования через Transformers поверх контекстных представлений требуется применить подходящую операцию pooling.