II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейgvs/wav2vec2-large-xlsr-malayalam — модель распознавания речи на малаяламском языке, созданная дообучением facebook/wav2vec2-large-xlsr-53 на корпусах Indic TTS Malayalam, OpenSLR Malayalam, SMC Malayalam и IIIT-H Indic Speech Databases. Модель основана на архитектуре Wav2Vec2ForCTC и содержит около 402,7 млн параметров; для распознавания принимает речь с частотой дискретизации 16 кГц и выдаёт текстовую транскрипцию. Модель предназначена для автоматического преобразования записей речи на малаяламском языке в текст. В README приведён результат оценки WER 28,43% на тестовой части объединённого набора данных; качество на других записях может отличаться. Модель распространяется по лицензии Apache-2.0.
Whisper Base Indonesian — дообученная модель OpenAI Whisper Base, созданная для распознавания индонезийской речи в аудио. Она основана на архитектуре Whisper и содержит 51,7 млн параметров. Модель обучена на индонезийской части Common Voice 16.0 и предназначена для преобразования речи в текст. На тестовой выборке указаны loss 0,4198 и WER 26,6078. Это значение WER следует учитывать при оценке пригодности модели для конкретной аудиозаписи и сценария. Модель принимает аудио и выдаёт распознанный текст; лицензия — Apache 2.0.
Whisper Hindi Small — модель распознавания речи, созданная дообучением openai/whisper-small на публичных корпусах аудиозаписей на хинди в рамках спринта по дообучению Whisper. Она предназначена для преобразования речи на хинди в текст и оценки качества распознавания на наборах данных ASR. Модель основана на архитектуре WhisperForConditionalGeneration и содержит около 153,1 млн параметров; доступны веса PyTorch и Flax. Для использования указаны инструменты whisper_jax и код оценки из репозитория whisper-finetune. Лицензия — Apache-2.0. Обучение проводилось на GramVaani ASR Corpus, ULCA ASR Corpus, Shrutilipi ASR Corpus и обучающей и валидационной частях Google Fleurs; для оценки использовались тестовые части GramVaani и Google Fleurs. Карточка не приводит результатов метрик, поэтому качество на других типах записей или вне хинди по ней оценить нельзя.
Модель sitwala/whisper-large-v3-turbo-anv-zul-50h — дообученная версия Whisper large-v3-turbo от OpenAI, созданная на наборе данных dsfsi-anv/za-african-next-voices. Она предназначена для автоматического распознавания речи и преобразования аудио в текст; архитектура — WhisperForConditionalGeneration, размер — 905,2 млн параметров. В оценке на указанном в карточке наборе получен WER 32,6072 и loss 0,4603. Модель принимает аудио и выдаёт текст. Суффикс «zul» в названии указывает на фокус на языке зулу, однако карточка не приводит явного списка поддерживаемых языков. Репозиторий использует Transformers и формат safetensors. Лицензия — MIT.
oxide-lab/whisper-large-v3-turbo-GGUF — набор квантованных версий модели openai/whisper-large-v3-turbo, подготовленный в формате GGUF. Модель предназначена для автоматического распознавания речи и может использоваться с Candle — ML-фреймворком на Rust — или с whisper.cpp. В репозитории представлены варианты для работы с локальными аудиофайлами и встраивания распознавания речи в приложения, включая сценарии на мобильных устройствах. Доступны 10 уровней квантования от q2_k до q8_0. Более компактные варианты уменьшают требования к ресурсам, но могут сильнее снижать качество; q4_k указан как рекомендуемый компромисс между размером, скоростью и точностью, а q6_k и q8_0 обеспечивают качество, близкое к исходному. Для Candle и whisper.cpp используются разные варианты файлов GGUF, отличающиеся именами тензоров и совместимостью. README указывает поддержку многоязычного режима, включая английский и русский языки, но не приводит точный список языков, размер модели, архитектурные параметры или длину контекста. Преимущество модели — сочетание возможностей Whisper с уменьшенным размером квантованных файлов и поддержкой двух распространённых сред выполнения. Ограничения связаны с возможной потерей качества при агрессивном квантовании и необходимостью выбирать формат, совместимый с конкретным движком. Модель распространяется по лицензии MIT, как и исходная модель Whisper.
kingabzpro/whisper-large-v3-urdu — модель распознавания речи, созданная дообучением Whisper large-v3 от OpenAI на наборе Common Voice 17.0. Она предназначена для преобразования речи на урду в текст; для запуска можно использовать библиотеку Transformers и pipeline automatic-speech-recognition. Модель содержит 905,2 млн параметров и принимает аудио, выдавая текстовую транскрипцию. В README приведены оценки на тестовой части Common Voice 17.0: WER 26,019%, CER 9,426% и BLEU 59,446%; в другом разделе указаны WER 21,4712% и CER 7,1975%, поэтому результаты в карточке расходятся. Лицензия — Apache-2.0.
RedHatAI/whisper-small-quantized.w8a8 — квантизированная версия модели openai/whisper-small, разработанная Neural Magic. Это аудио-текстовая модель автоматического распознавания речи: она принимает аудиосигнал и генерирует текстовую расшифровку. Модель предназначена для транскрибации аудиозаписей и развёртывания в приложениях, где важны эффективное выполнение инференса и совместимость с vLLM. Модель использует архитектуру Whisper small и поддерживает обработку аудио с выдачей текста. Указан язык en; другие языки в предоставленных данных не заявлены. Веса и активации квантизированы в INT8 по схеме W8A8, что может снизить требования к памяти и повысить эффективность инференса по сравнению с полноточной версией, но потенциально сопровождается потерей точности. Модель подготовлена для работы с vLLM версии 0.5.2 и новее, включая OpenAI-compatible serving. В README не приведены численные результаты оценки качества, ограничения по длине аудио или подробные характеристики исходной архитектуры. Модель распространяется по лицензии Apache-2.0. Для её использования требуется инфраструктура, совместимая с Transformers и vLLM; конкретные параметры производительности зависят от оборудования и настроек развёртывания.
Whisper Telugu Base — модель распознавания речи на телугу, созданная участниками Whisper fine-tuning sprint путём дообучения openai/whisper-base на открытых корпусах ASR. Она предназначена для преобразования речи на телугу в текст и оценки качества распознавания на тестовых наборах индийских языков и многоязычных речевых корпусов. Модель основана на архитектуре WhisperForConditionalGeneration, содержит 51,7 млн параметров и принимает аудио, выдавая текст. В репозитории представлены веса PyTorch и Flax; для оценки авторы указывают код из whisper-finetune. Обучающие данные включают CSTD IIIT-H, ULCA, Shrutilipi, Microsoft Speech Corpus для индийских языков, Google Fleurs и Babel; для оценки перечислены тестовые наборы Microsoft, Fleurs, OpenSLR и Babel. Модель распространяется по лицензии Apache-2.0. Результаты могут зависеть от качества записи и соответствия аудио телугу; в карточке не приведены численные метрики качества.
oxide-lab/whisper-tiny-GGUF — набор квантованных моделей автоматического распознавания речи на основе openai/whisper-tiny. Модели разработаны сообществом oxide-lab на базе Whisper от OpenAI и распространяются в формате GGUF для использования с Candle — ML-фреймворком на Rust — и whisper.cpp. Модель предназначена для преобразования аудиозаписей в текст, включая многоязычные сценарии и работу с английским и русским языками. Доступны варианты с 10 уровнями квантования от q2_k до q8_0, что позволяет выбирать между размером файлов, скоростью инференса и качеством распознавания. Для Candle предусмотрены конфигурация и токенизатор, а варианты для whisper.cpp находятся в отдельной директории и используют совместимые имена тензоров. Сильная сторона набора — возможность локального запуска на устройствах с ограниченными ресурсами и выбор степени сжатия. В README указано, что q4_k обеспечивает хороший баланс размера, качества и скорости, а q8_0 рекомендован для production благодаря минимальной потере качества. При этом варианты q4, q3 и q2 могут заметно снижать качество, особенно q3 и q2; точные характеристики архитектуры, размера модели, длины контекста и аппаратные требования не указаны. Распространение заявлено на условиях MIT License, как у исходной модели Whisper.
winter-frost-2 — дообученная языковая модель, созданная INEZA AIME BRUNO на основе Qwen/Qwen2.5-7B-Instruct. Это объединённый чекпойнт: веса LoRA уже включены в веса базовой модели, поэтому отдельная загрузка адаптера не требуется. Модель имеет плотную архитектуру Qwen2 и около 7,1 млрд параметров; она доступна в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов, генерации текста и кода, а также структурированных ответов. Дообучение методом QLoRA проведено на примерно 690 примерах: общих инструкциях, примерах кода на Python и примерах, связанных с идентичностью модели. Оно может закреплять узкие поведенческие особенности, например ответ о создателе, но не ожидается, что оно заметно улучшит общие способности к рассуждению, программированию или знания по сравнению с базовой моделью. В README приведены способы запуска в Google Colab и локально; для быстрой работы на GPU рекомендуется не менее 16 ГБ видеопамяти, также возможен медленный запуск на CPU. Лицензия в предоставленных данных не описана.
shpotes/xls-r-eus — модель автоматического распознавания речи, дообученная на базе facebook/wav2vec2-xls-r-300m на наборе MOZILLA-FOUNDATION/COMMON_VOICE_8_0 для баскского языка. Она построена на архитектуре Wav2Vec2ForCTC и содержит около 402,7 млн параметров. Модель преобразует аудиозапись речи в текст и подходит для транскрибирования баскской речи, в том числе записей в стиле Common Voice. В README указаны результаты оценки на тестовой выборке: WER 0,1787 и loss 0,2278. Модель опубликована под лицензией Apache-2.0. Карточка не описывает специальные ограничения и условия записи, поэтому качество на других наборах данных и в иных акустических условиях по этим сведениям оценить нельзя.
AynCoding-Qwen3-8B-Slim — модель генерации текста и кода от разработчика, указанного в репозитории enver. Она основана на Qwen3-8B и, согласно карточке, дообучена с акцентом на синтез программного обеспечения, архитектурные рассуждения, классическую арабскую логику Mantiq и морфологию арабских корней. Карточка также заявляет об удалении части знаний и структурном прореживании; файлы модели представлены в формате GGUF и занимают около 2,8 ГБ. Модель предназначена для генерации кода, проектирования программных компонентов и решения задач на логику, в том числе на английском и арабском языках. В README описаны механизмы черновой генерации, проверки логики и уточнения кода, а также приведены высокие результаты на HumanEval и EvalPlus; эти показатели являются заявлениями карточки. Метаданные указывают задачу text-generation и базовую модель Qwen/Qwen3-8B. Лицензия обозначена как other, поэтому условия использования следует уточнять в репозитории.
Formzu/bert-base-japanese-jsnli — японская модель классификации последовательностей, созданная дообучением cl-tohoku/bert-base-japanese-v2 на наборе JSNLI. Её можно применять для вывода отношений между текстами и классификации без специально обученной головы для каждого набора категорий: пользователь задаёт текст и варианты меток, а модель оценивает их соответствие с помощью гипотезы на японском языке. Модель построена на архитектуре BERT, содержит 138,4 млн параметров и принимает текстовые последовательности длиной до 512 токенов. В карточке приведён результат на оценочной выборке JSNLI: accuracy 0,9288. Модель распространяется в формате PyTorch по лицензии CC BY-SA 4.0.
Pankaj8922/bert-medium-nli — модель классификации последовательностей на базе BERT-medium, дообученная для определения логического отношения между посылкой и гипотезой: следование, нейтральность или противоречие. Разработчик позиционирует её для zero-shot-классификации текстов: к тексту добавляют гипотезу вида «This text is about {label}.», а модель оценивает их отношение. Модель содержит 49,2 млн параметров, принимает текстовые пары и выдаёт оценки трёх классов. Контекст ограничен 512 токенами, основной язык карточки — английский. В обучении использована сбалансированная выборка Pankaj8922/nli-high-quality-balanced на основе MNLI, SNLI, FEVER-NLI и ANLI; в README указаны точность 0,8373 и macro F1 0,8372 на тестовой выборке. Компактный размер подходит для быстрого вывода и ограниченных ресурсов, но качество zero-shot-классификации на новых наборах меток ниже, чем у более крупных NLI-моделей. Лицензия — Apache-2.0.
BERTugues-base-portuguese-cased — модель на архитектуре BERT, разработанная Рикардо Маццей Заго и Лусиане Агнолетти дос Сантос Педотти для бразильского португальского языка. Она предварительно обучена на корпусе BrWAC с целями Masked Language Modeling и Next Sentence Prediction; при подготовке токенизатора также использовалась португалоязычная Википедия. В модели около 136,7 млн параметров, длина контекста — до 512 токенов. Модель подходит для предсказания замаскированных слов и получения векторных представлений предложений, которые можно использовать для классификации текстов и оценки сходства. Токенизатор исключает редкие для португальского символы и включает основные эмодзи; авторы сообщают о меньшем количестве разбиваемых на части слов по сравнению с Bertimbau и многоязычным BERT. Карточка приводит результаты сравнений на классификации отзывов и сходстве юридических текстов, но не указывает лицензию точнее, чем «other».
andreaschari/bge-m3-ZH_MMARCO_NATIVE — дообученная модель семейства BGE-M3 на китайской части набора MMARCO/v2. Это Sentence Transformer на архитектуре XLM-RoBERTa с 658,7 млн параметров, предназначенный для получения текстовых эмбеддингов и сравнения предложений по косинусному сходству. Модель использовалась в короткой статье SIGIR 2025 «Lost in Transliteration: Bridging the Script Gap in Neural IR».
Карточка модели nehayadav941244/deberta-v3-large на Hugging Face совпадает с карточкой microsoft/deberta-v3-large, поэтому описание составлено по ней. microsoft/deberta-v3-large — англоязычная модель понимания текста от Microsoft на архитектуре DeBERTa V3. Она использует раздельное представление содержимого и позиций в механизме внимания, улучшенный декодер маски и предобучение в стиле ELECTRA с разделением градиентов в эмбеддингах. Модель содержит 24 слоя, скрытый размер 1024 и словарь из 128 тысяч токенов; всего в репозитории указано 533,8 млн параметров. Максимальная длина контекста — 512 токенов. Основная задача модели — предсказание замаскированных токенов в английском тексте. Её также можно дообучать для задач понимания естественного языка, например классификации текста и ответов на вопросы; README приводит результаты на SQuAD 2.0 и MNLI. Доступны веса в форматах PyTorch и TensorFlow. Модель выпущена под лицензией MIT. Она предназначена для обработки текста и не генерирует свободный текст как диалоговая языковая модель; качество зависит от конкретной задачи и дообучения.
Mungert/DeepCoder-14B-Preview-GGUF — предварительная GGUF-версия 14-миллиардной модели для генерации текста и кода, разработанная Mungert. В качестве базовой модели указана DeepSeek-R1-Distill-Qwen-14B; при обучении или проверке использовались наборы PrimeIntellect/verifiable-coding-problems, likaixin/TACO-verified и livecodebench/code_generation_lite. Заявленный язык — английский, основной сценарий применения — генерация и решение задач программирования. Главная особенность модели — экстремально низкобитное квантование с методом IQ-DynamicGate, который распределяет точность по слоям: для разных частей сети применяются IQ4_XS, IQ2_XXS, IQ3_S и Q5_K для критически важных embedding и output-слоёв. Такой подход предназначен для снижения требований к памяти и запуска на CPU, устройствах с небольшим объёмом VRAM и edge-оборудовании. Доступные GGUF-варианты могут быть особенно полезны для компактного локального инференса и исследований низкобитного квантования. В README приведены результаты только для Llama-3-8B-Instruct при контексте 2048 токенов, поэтому эти показатели нельзя напрямую считать характеристиками DeepCoder-14B. Для DynamicGate сообщается заметное снижение perplexity по сравнению со стандартным 1–2-битным квантованием, однако с увеличением размера файлов примерно на 0,1–0,3 ГБ; скорость инференса оставалась сопоставимой. Ограничениями являются возможная потеря точности по сравнению с полноразмерными версиями, отсутствие подтверждённых характеристик контекстного окна и неполные сведения о конкретных вариантах квантования. Лицензия — MIT.
DenseOn-ONNX — ONNX-версия модели DenseOn, разработанной LightOn и автоматически конвертированной сообществом onnx-community. Модель предназначена для плотного семантического поиска и сравнения сходства между запросами и документами, включая сценарии retrieval и sentence similarity. Она поддерживает английский язык и рассчитана на использование с Transformers.js. Модель построена на базе ModernBERT и содержит 149 млн параметров. Это dense-модель, кодирующая запрос и документ независимо в один вектор; релевантность оценивается по косинусному сходству. Для кодирования используются префиксы query: и document:, а представление извлекается с помощью CLS pooling. Заявлены результаты 56,75 nDCG@10 на BEIR и 57,71 на очищенной от пересечений версии BEIR; по данным разработчика, модель превосходит другие dense-модели базового размера и некоторые существенно более крупные модели. Сильными сторонами являются относительно компактный размер, возможность высокопроизводительного развёртывания и хорошие результаты в задачах поиска. Ограничение состоит в специализации на плотном одно-векторном retrieval: модель не является мультимодальной и предназначена прежде всего для семантического сопоставления текста. Лицензия — Apache 2.0.
sensiarion/embeddinggemma-300m-code-8L-distill-int8 — компактная модель эмбеддингов кода, созданная на основе Google EmbeddingGemma-300M. Это двунаправленный энкодер типа bi-encoder: он преобразует английский текстовый запрос или фрагмент кода в средний L2-нормированный вектор размерности 768. Вариант содержит 8 из 24 слоёв исходной модели и около 303 млн параметров по метаданным; доступны веса ONNX и SafeTensors, а README также описывает вариант MLX. Контекст — 2048 токенов. Модель предназначена для поиска фрагментов кода по запросам на естественном английском языке и для сопоставления запросов с кодом. Она дообучена и дистиллирована на парах документация-код CodeSearchNet для Python, Go, Java, JavaScript, PHP и Ruby; автор README сообщает о сохранении примерно 96% качества базовой модели при ускорении примерно в три раза. Для кодирования следует подавать исходный текст запроса и кода без инструкционных префиксов. По сравнению с базовой моделью она быстрее и компактнее, но специализация на поиске кода ограничивает её применение для общего поиска по текстам и задач вопросов и ответов. Качество может немного отличаться от полноточной базовой модели из-за int8-квантизации, а для языков программирования вне обучающего набора качество не заявлено. Лицензия — Gemma.
timm/eva_giant_patch14_clip_224.merged2b — веса модели EVA-CLIP, опубликованные командой timm для использования через OpenCLIP. Модель предназначена для классификации изображений по текстовым описаниям без отдельного обучения на каждом наборе классов: пользователь передаёт изображение и варианты подписей, а модель оценивает их соответствие. В названии указаны архитектура EVA с патчами 14×14 и входным размером изображения 224 пикселя. Модель сопоставляет визуальные и текстовые представления, поэтому принимает изображения и текстовые метки и выдаёт оценки соответствия. Репозиторий содержит веса PyTorch и Safetensors и предназначен для библиотеки OpenCLIP. Лицензия — MIT.
OpenASR/firered-aed-l-v2 — модель автоматического распознавания речи, созданная FireRedTeam и упакованная для работы в среде OpenASR. Она предназначена для локального преобразования речи в текст, включая распознавание путунхуа, английского языка и их смешанной речи, а также китайских диалектов и акцентов. Модель может применяться для транскрибации аудио на CPU и GPU без использования Python во время инференса. В основе лежит attention-based encoder-decoder архитектура с Conformer-энкодером и Transformer-декодером. Модель содержит 1,1 млрд параметров и является развитием FireRedASR2-AED; она обучена с использованием расширенного словаря. Заявлены высокие результаты на китайской речи: средний CER 3,05% на четырёх публичных тестах путунхуа, 11,67% на 19 тестах китайских диалектов и акцентов, а также 1,17% на тесте песенных текстов. Для aishell1 указан CER 0,57%. Доступны варианты fp16, q8_0 и q4_k; q4_k уменьшает размер и пиковое потребление памяти, а fp16 ориентирован на максимальную точность. Модель особенно сильна в распознавании китайской речи, диалектов, акцентов, код-свитчинга и песенного вокала. Ограничения включают Mandarin-first специализацию и отсутствие в README сведений о поддерживаемых языках помимо китайского и английского, максимальной длине контекста и точности на других типах аудио. Пакеты распространяются по лицензии Apache-2.0, унаследованной от исходной модели FireRedASR2-AED.
FNet-base — предварительно обученная модель семейства FNet, представленная в исследовательской работе и опубликованная в репозитории Google. В её плотной архитектуре механизм внимания заменён преобразованиями Фурье. Модель содержит 123,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучена на английских текстах набора C4 с задачами masked language modeling и next sentence prediction. Её используют как основу для дообучения классификаторов и других моделей понимания текста, включая классификацию последовательностей и токенов, ответы на вопросы и предсказание пропущенных токенов. Это не модель для генерации текста. Карточка сообщает о примерно на 32% меньшем времени дообучения на задачах GLUE по сравнению с воспроизведённым BERT-base на GPU; эти результаты относятся к описанным условиям эксперимента. Модель различает регистр, хотя предобработка обучающих текстов описана как приведение к нижнему регистру. Лицензия — Apache-2.0.
waveletdeboshir/gigaam-rnnt — неофициальная обёртка для Transformers модели GigaAM-v2-RNNT, разработанной SberDevices. Она предназначена для автоматического распознавания русской речи и преобразования аудиозаписей в текст. В репозитории указаны классы модели, извлечения признаков и токенизатора, совместимые с интерфейсом Transformers, включая загрузку через Auto-классы. Модель представлена в форматах PyTorch и Safetensors; карточка указывает библиотеку Transformers и лицензию MIT. README сообщает, что это оригинальная модель GigaAM-v2-RNNT с интерфейсом Transformers, но сам репозиторий является неофициальной обёрткой. Размер модели и длина контекста в доступных данных не приведены.
INTELLECT-1-step-39200 — промежуточный чекпойнт языковой модели INTELLECT-1 от Prime Intellect и сообщества контрибьюторов. Модель обучалась с нуля как плотная Llama-совместимая модель примерно на 9,7 млрд параметров; в README указаны 42 слоя и 32 головы внимания. Это чекпойнт на шаге обучения 39 200, а не финальная или instruct-версия. Модель предназначена для генерации английского текста и кода. Обучение велось на корпусах английского веб-текста и образовательных материалов, коде и математических текстах; заявленный объём обучения INTELLECT-1 — 1 трлн токенов. Контекст составляет 8192 токена. Проект обучался распределённо на вычислительных узлах в нескольких регионах с использованием фреймворка Prime. Поскольку это промежуточный чекпойнт, качество и поведение могут отличаться от финальной версии; инструкция по диалоговому использованию в карточке не заявлена. Лицензия — Apache 2.0.
InternVL2_5-2B-MPO — мультимодальная языковая модель OpenGVLab, построенная на архитектуре ViT-MLP-LLM. Визуальная часть основана на InternViT-300M-448px-V2_5, языковая — на internlm2_5-1_8b-chat; модель дообучена с применением Mixed Preference Optimization (MPO) на базе InternVL2_5-2B. Динамическое разрешение разбивает изображения на фрагменты 448×448 пикселей, а также поддерживаются несколько изображений и видеоданные. Модель предназначена для диалоговых запросов по изображениям и видеокадрам: она может отвечать на визуальные вопросы, распознавать текст на изображениях и решать задачи на понимание диаграмм и визуальной математики. Доступна через Transformers в форматах весов safetensors; лицензия — MIT. В README приведены оценки на мультимодальных бенчмарках, включая OCRBench и MathVista.
hotchpotch/japanese-reranker-cross-encoder-base-v1 — японский reranker серии CrossEncoder, разработанный hotchpotch. Он предназначен для повторного ранжирования результатов поиска: модель совместно оценивает запрос и документ, чтобы упорядочить найденные варианты по релевантности. Модель построена на архитектуре BERT и содержит 12 слоёв со скрытым размером 768; всего в ней 138,4 млн параметров. Она принимает пары текстов, поддерживает японский язык и имеет контекстное окно до 512 токенов. В карточке приведены оценки на японских наборах JQaRA, JaCWIR, MIRACL и JSQuAD. Модель распространяется по лицензии MIT.
hotchpotch разработала japanese-reranker-xsmall-v2 — компактную модель для переранжирования японских текстов. Она основана на ModernBERT и дообучена на базе cl-nagoya/ruri-v3-pt-30m; размер составляет 36,7 млн параметров, контекст — до 8192 токенов. Модель принимает пары текстов и оценивает их релевантность, чтобы упорядочить кандидатов по соответствию запросу. Модель рассчитана на повышение качества поиска и RAG-систем, в том числе при работе на CPU, Apple Silicon и устройствах с ограниченными ресурсами. В README приведены результаты оценок на японских наборах задач и замеры скорости для GPU, MPS и CPU; фактическая производительность зависит от оборудования и конфигурации. Для запуска описана поддержка sentence-transformers и ONNX. Модель поддерживает японский язык и распространяется по лицензии MIT.
daekeun-ml выпустил KoSimCSE-supervised-roberta-base — корейскую модель эмбеддингов предложений на архитектуре RoBERTa-base, обученную методом SimCSE с контрастивным обучением на размеченных данных NLI. Она преобразует корейский текст в векторные представления для поиска семантически близких предложений и сравнения их смыслового сходства. Модель предназначена для семантического поиска, ранжирования похожих текстов и оценки сходства предложений. В README приведены результаты на корейских наборах KLUE-STS и Kor-STS; авторы сообщают, что supervised-версия превосходит unsupervised-вариант base на этих тестах. Репозиторий содержит веса в формате safetensors, лицензия — MIT. Результаты и описание ориентированы на корейский язык. В README отмечено, что качество зависит от обучающих данных NLI и что увеличение максимальной длины последовательности само по себе не гарантирует улучшения; указанная при обучении максимальная длина — 32 токена.
LateOn-Code-pretrain — модель LightOn из коллекции PyLate LateOn-Code, предназначенная для поиска по коду. Это предварительно обученная модель позднего взаимодействия ColBERT на архитектуре ModernBERT: она формирует многовекторные представления запросов и фрагментов кода для поиска релевантных результатов. В репозитории указаны веса размером 149 млн параметров, контекст до 8192 токенов и форматы Safetensors и ONNX. Модель обучена на данных CoRNStack для поиска кода и рассчитана на английский язык и программный код. Она подходит для поиска фрагментов кода по текстовому запросу и интеграции в системы извлечения информации; README приводит результаты бенчмарков MTEB Code. Это именно предварительно обученная версия: последующая настройка на наборах CoIR описана для модели LateOn-Code. Модель распространяется по лицензии Apache-2.0.