II.8Инженерия данных и аналитика

Модель Gabor Madarasz для распознавания венгерской речи и преобразования её в текст. Это дообученная на венгерских данных модель facebook/mms-1b-all с архитектурой Wav2Vec2ForCTC и примерно 1,3 млрд параметров. Она принимает аудио и предназначена для транскрибации записанной речи, например подкастов, аудиокниг и одноголосых записей. Модель рассчитана на венгерский язык. В тестах автор сообщает WER 0,3068 и CER 0,0727 на FLEURS, а также WER 0,1275 на выборке из Common Voice и Voxpopuli; результаты зависят от набора данных и условий записи. Лицензия — CC0-1.0. Для улучшения выбора слов автор рекомендует декодирование с языковой моделью, например KenLM через beam search.

Facebook wav2vec2-large-xlsr-53-portuguese — модель распознавания португальской речи, опубликованная в формате PyTorch и Flax. Она основана на архитектуре Wav2Vec2ForCTC и содержит 402,7 млн параметров; для обучения или оценки использовался набор Common Voice на португальском языке. Модель принимает аудио и преобразует речь в текст. В README приведён результат 27,1% на тестовой выборке Common Voice PT, но метрика и подробности оценки не указаны. Модель распространяется по лицензии Apache 2.0.

jonatasgrosman/wav2vec2-xls-r-1b-dutch — модель распознавания голландской речи, созданная Jonatas Grosman путём дообучения facebook/wav2vec2-xls-r-1b. Она использует архитектуру wav2vec2 с декодером CTC и предназначена для преобразования аудиозаписей на нидерландском языке в текст. Модель обучалась на обучающей и валидационной выборках Common Voice 8.0, Multilingual LibriSpeech и VoxPopuli; для входной речи требуется частота дискретизации 16 кГц. Размер модели — 1,3 млрд параметров. Модель подходит для транскрибации нидерландской речи в записях и речевых приложениях. Она принимает аудио и выдаёт текст, а для работы с ней README предлагает библиотеку HuggingSound. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache 2.0.

jonatasgrosman/wav2vec2-xls-r-1b-portuguese — модель распознавания речи на португальском языке, созданная дообучением facebook/wav2vec2-xls-r-1b. Она использует архитектуру Wav2Vec2 с выходной головой CTC и содержит около 1,3 млрд параметров. Для обучения использованы обучающие и валидационные части Common Voice 8.0, CORAA, Multilingual TEDx и Multilingual LibriSpeech; модель предназначена для преобразования португалоязычной речи в текст. Модель принимает аудио с частотой дискретизации 16 кГц и выдаёт транскрипцию. В карточке приведён пример использования через библиотеку HuggingSound. Модель опубликована под лицензией Apache-2.0. Карточка не сообщает метрики качества или ограничения на типы записей, поэтому практическую точность следует оценивать на данных целевого сценария.

arbml/whisper-medium-ar — дообученная версия openai/whisper-medium для автоматического распознавания речи. Модель на архитектуре Whisper содержит 455,8 млн параметров и принимает аудио, выдавая текстовую расшифровку. В карточке указано дообучение на датасете MGB-2; на оценочной выборке приведены loss 0,8488 и WER 16,5882. Модель предназначена для преобразования речи в текст. В названии указано «ar», а датасет MGB-2 связан с арабской речью; метаданные не содержат кодов языков. Репозиторий использует формат PyTorch и распространяется по лицензии Apache-2.0.

nlp-mg/whisper-mg — дообученная модель распознавания речи на базе openai/whisper-small, опубликованная под лицензией Apache-2.0. Она предназначена для преобразования аудио в текст; в README приведены результаты оценки: loss 0.1375 и WER 7.0732. Модель использует архитектуру WhisperForConditionalGeneration и содержит 153,1 млн параметров. Метаданные указывают поддержку аудиовхода. README не сообщает, на каких языках и данных проводилось дообучение, поэтому нельзя уточнить специализацию модели или качество распознавания для конкретного языка. Прикладные ограничения сверх этих сведений не описаны.

deepset/xlm-roberta-base-squad2-distilled — многоязычная модель для извлекающего ответа на вопросы, разработанная deepset с помощью дистилляции в Haystack. Учитель модели — deepset/xlm-roberta-large-squad2; обучение и оценка проводились на SQuAD 2.0. Модель содержит 305,2 млн параметров, построена на архитектуре XLM-RoBERTa и принимает контекст длиной до 514 токенов. Модель находит ответ на вопрос непосредственно во входном тексте и подходит для поиска ответов в документах, в том числе в конвейерах Haystack. Она поддерживает несколько языков, но карточка не перечисляет их по отдельности. Лицензия — MIT. Оценка в карточке приведена для SQuAD 2.0; качество на других языках и типах текстов может отличаться.

ZGCM-1-7B — плотная авторегрессионная языковая модель Zhongguancun Academy и Zhongguancun Institute of Artificial Intelligence, обученная с нуля для математических рассуждений и поиска с использованием инструментов. Модель содержит 6,3 млрд параметров по метаданным каталога (в README указано 7,39 млрд), использует архитектуру ZGCM и поддерживает контекст до 262 144 токенов. Для работы требуется Transformers и включение trust_remote_code=True. Модель рассчитана на решение математических задач, многошаговый поиск в интернете и диалоговое текстовое взаимодействие; доступны режимы с внутренними рассуждениями и прямым ответом. В техническом отчёте авторы приводят высокие результаты на математических бенчмарках и оценках агентного поиска. Обучение включало предварительное обучение, расширение контекста и дообучение для общих и агентных задач. Весовые файлы опубликованы в формате safetensors. Лицензия — MIT. Модель работает с текстом и не описана как мультимодальная; качество ответов зависит от задачи и используемого инструментария для поиска. Возможность загрузки собственного кода модели требует осторожности при запуске.

Alireza1044 выпустил модель ALBERT-base-v2, дообученную для классификации текстовых пар на наборе GLUE QNLI. Она оценивает, следует ли ответ на вопрос из предоставленного фрагмента текста, и подходит для проверки соответствия вопроса контексту. Модель содержит 136,3 млн параметров, принимает текстовые входы, использует архитектуру AlbertForSequenceClassification и обрабатывает последовательности длиной до 512 токенов. Для английского языка на оценочной выборке указана точность 0,9138 и loss 0,3608. Модель распространяется по лицензии Apache-2.0.

bce-reranker-base_v1 — модель переранжирования текстовых фрагментов из семейства BCEmbedding, разработанного командой Youdao. Она предназначена для второго этапа поиска: после первичного отбора документов модель оценивает релевантность пар «запрос — фрагмент» и упорядочивает результаты, помогая отобрать наиболее полезные материалы для RAG-систем, вопросно-ответных приложений и поиска по документам. Модель построена на архитектуре XLM-RoBERTa как плотный классификатор последовательностей; в репозитории указано 305,2 млн параметров, формат весов — PyTorch, контекст — 514 токенов. README заявляет поддержку китайского, английского, японского и корейского языков, включая межъязыковое ранжирование. Для длинных фрагментов в BCEmbedding предусмотрена специальная предварительная обработка. Модель также выдаёт оценку релевантности, которую можно использовать для фильтрации слабых совпадений. Рекомендуемый сценарий — передавать ей десятки или сотню кандидатов, найденных моделью первичного поиска, и затем выбирать несколько лучших. Она не генерирует ответы и сама по себе не заменяет этап извлечения документов. Указанная лицензия — Apache-2.0.

Модель bert-base-japanese-v3-unsup-simcse-jawiki — японская модель для получения векторных представлений предложений. Она создана авторами книги «Введение в большие языковые модели» на основе cl-tohoku/bert-base-japanese-v3: BERT дообучен методом SimCSE без учителя на предложениях из японской Википедии llm-book/jawiki-sentences. В метаданных указаны архитектура BERT, библиотека Transformers, 138,4 млн параметров и контекст до 512 токенов. Модель предназначена для представления японских предложений в виде эмбеддингов, которые можно использовать для поиска похожих текстов и извлечения релевантных предложений. В карточке также приведены ссылки на обучающий и инференсный Colab, а датасет llm-book/aio-retriever указан в метаданных. Модель распространяется по лицензии Apache License 2.0.

onnx-community/bge-reranker-v2-m3-ONNX — это ONNX-версия модели BAAI/bge-reranker-v2-m3, автоматически преобразованная и опубликованная сообществом onnx-community. Модель предназначена для переранжирования текстов: она может оценивать релевантность текстового фрагмента заданному запросу и использоваться в задачах поиска, семантического сопоставления и построения систем retrieval-augmented generation (RAG). Модель доступна для запуска через библиотеку Transformers.js и представлена в формате ONNX, что делает её подходящей для JavaScript-приложений и сред, поддерживающих ONNX. README не содержит сведений о точной архитектуре, размере, поддерживаемых языках, максимальной длине контекста, модальностях, показателях качества или ограничениях. Лицензия также не указана, поэтому условия использования по предоставленным данным определить нельзя.

ChengyouXin/cacheverifier-quora — текстовый Cross Encoder, обученный с помощью библиотеки Sentence Transformers для оценки пар текстов. Модель принимает запрос и кандидатный текст, выдаёт один числовой балл релевантности; баллы подходят для ранжирования результатов семантического поиска и других задач сравнения текстовых пар. Архитектура основана на BERT и BertForSequenceClassification, размер — 25,9 млн параметров, максимальная длина входной последовательности — 512 токенов. В README указано обучение на 11 928 примерах с колонками query, response и label и функцией потерь BinaryCrossEntropyLoss. Примеры охватывают вопросы и ответы Quora, включая перефразирования. Данных о лицензии и целевых языках в предоставленных источниках нет. Поскольку обучение заняло 19,5 секунды, качество и обобщение на другие наборы данных следует проверять для конкретного применения.

CAG-mistral-7b — языковая модель на архитектуре Mistral, дообученная авторами репозитория на Mistral-7B для генерации ответов с учётом достоверности сведений в контексте. Она предназначена для сценариев retrieval-augmented generation (RAG), где нужно отвечать по внешним документам, в том числе при наличии шумных или противоречивых источников. Среди заявленных сценариев — персонализированные ответы и разрешение конфликтов знаний; модель также оценивалась на вопросах по открытым и меняющимся во времени сведениям и на вопросах в условиях загрязнения дезинформацией. Модель содержит 7,1 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. Карточка указывает английский язык и лицензию MIT. Ограничения качества и инструкции по развёртыванию в карточке не описаны.

Camel-Platypus2-70B — объединённая авторегрессионная языковая модель на архитектуре LLaMA 2, созданная на основе garage-bAInd/Platypus2-70B и augtoma/qCammel-70-x. В README указаны Platypus2-70B от Cole Hunter и Ariel Lee и qCammel-70-x от augtoma; автор самого объединения отдельно не назван. Модель содержит 68,7 млрд параметров, принимает текст и генерирует текст, поддерживает английский язык и имеет контекст 4096 токенов. Модель предназначена для генерации ответов на инструкции и задач на рассуждение, включая вопросы по STEM-дисциплинам и логике. В README приведены результаты оценивания на ARC, HellaSwag, MMLU и TruthfulQA. Модель распространяется по лицензии CC BY-NC-4.0, которая ограничивает коммерческое использование. Ответы могут быть неточными, предвзятыми или нежелательными; тестирование проводилось на английском языке и не охватывает все сценарии.

Contextual AI разработала Contextual AI Reranker V2 Instruct Multilingual — инструкционную модель для повторного ранжирования текстовых документов. Она оценивает релевантность документов запросу и может учитывать дополнительные указания, например отдавать приоритет более свежим сведениям или разрешать противоречия между результатами поиска. Модель рассчитана на многоязычный поиск, ответы на вопросы по найденным материалам, поиск товаров и рекомендации. Она основана на плотной архитектуре Qwen3ForCausalLM, содержит 2 млрд параметров и принимает текстовые запросы, инструкции и документы. В метаданных указан контекст до 262 144 токенов; README заявляет поддержку контекстов до 32 000 токенов и более 100 языков. Модель возвращает оценки релевантности, где более высокий балл означает более подходящий документ. Лицензия CC BY-NC-SA 4.0 требует атрибуции и распространяет производные материалы на тех же условиях, а также ограничивает коммерческое использование.

Data2Vec-Text base — англоязычная предварительно обученная трансформерная модель от команды Facebook, обученная по self-supervised objective семейства data2vec. Она преобразует текст в контекстные векторные представления и предназначена прежде всего для дообучения под задачи, использующие целое предложение или его фрагменты, например классификацию последовательностей и токенов, а также ответы на вопросы. Для генерации текста карточка рекомендует использовать авторегрессионные модели. Модель содержит 151,8 млн параметров, принимает текст с учетом регистра и рассчитана на контекст до 514 токенов. В метаданных указаны английский язык и PyTorch; среди обучающих данных названы BookCorpus и Wikipedia. Лицензия — MIT. Data2Vec использует Transformer и предсказывает контекстные латентные представления замаскированного входа. Карточка указывает, что модель рассчитана на дообучение для конкретных задач, поэтому качество непосредственно в прикладных сценариях зависит от выбранного дообучения.

DeepSeek-V4-Flash-Vision-Exp — экспериментальная мультимодальная модель семейства DeepSeek-V4, созданная разработчиками DeepSeek на основе DeepSeek-V4-Flash с добавлением визуальных модулей и дополнительным обучением. Она предназначена для понимания изображений и работы с мультимодальными агентными задачами, сохраняя сопоставимые возможности базовой версии в текстовых агентных сценариях. В карточке приведены результаты на отдельных текстовых агентных тестах, включая Terminal Bench 2.1 и NL2Repo. Модель имеет плотную архитектуру DeepseekV4ForCausalLM, содержит 10,7 млрд параметров и принимает изображения вместе с текстом, выдавая текст. Заявленная длина контекста — 1 048 576 токенов. Репозиторий включает веса safetensors в формате FP8, токенизатор и минимальную реализацию инференса; в README также описано использование с vLLM и SGLang. Лицензия — MIT.

DiscoLM 120b (Alpha) — экспериментальная языковая модель DiscoResearch, обученная Бьёрном Плюстером. Это дообученная версия Goliath 120B, объединённой модели на основе нескольких Llama 2 70B. Модель содержит около 117,5 млрд параметров, использует архитектуру Llama с плотной causal language model и принимает текст, выдавая текст. Для диалогов применяется формат ChatML; максимальный исходный контекст — 4096 токенов. Модель предназначена для диалогов и выполнения инструкций, включая генерацию текстов, ответы на вопросы, рассуждения, математические задачи и код. В обучающую выборку вошли англоязычные и немецкоязычные инструкции, диалоги, математические данные, стихи и песни. Авторы приводят результаты бенчмарков, однако отмечают раннюю альфа-стадию и возможность загрязнения тестовых данных, поэтому оценки не гарантируют качество в практических задачах. Модель распространяется по лицензии Llama 2; при использовании действуют ограничения исходной лицензии и лицензий обучающих датасетов. Авторы указывают, что модель предназначена только для исследовательских целей.

alakxender/e5-dhivehi-combined-mnr — это дообученная модель Sentence Transformers на базе XLM-RoBERTa, разработанная alakxender для получения плотных векторных представлений предложений и абзацев на дивехи. Она обучена на 184 780 парах текстов с использованием MultipleNegativesRankingLoss; выходные векторы имеют размерность 768, а для сравнения предусмотрена косинусная близость. Репозиторий содержит веса в формате Safetensors, модель использует mean pooling и поддерживает последовательности до 514 токенов по метаданным; README указывает ограничение 256 токенов. Модель подходит для семантического поиска, сравнения смысловой близости, поиска перефразировок, кластеризации и классификации текстов на дивехи. В обучающих данных также представлены пары дивехи—английский, однако карточка не подтверждает, что модель рассчитана на полноценную двуязычную работу. Лицензия — MIT. Эмбеддинги отражают качество и охват обучающих данных; README не приводит оценок качества на независимых тестах.

EVA-CLIP-8B-448 — разработанная BAAI модель семейства CLIP для совместного представления изображений и текста. Она использует контрастивное обучение на парах изображение–текст и содержит 8,1 млрд параметров; вариант 448 дообучен на разрешении 448 пикселей на основе EVA-CLIP-8B. Модель предназначена для извлечения сопоставимых признаков изображений и текстовых описаний, классификации изображений без обучения на целевых классах и поиска изображений по тексту или текста по изображению. В карточке приведены результаты на наборах классификации изображений и видео и для задач retrieval; авторы сообщают среднюю точность zero-shot классификации изображений 80,0% на 27 бенчмарках. Обучение проводилось на объединённом наборе Merged-2B, составленном из LAION-2B и COYO-700M. Для работы доступны веса PyTorch и Hugging Face. Лицензия — Apache-2.0. Модель обрабатывает изображения и текст, но не предназначена для генерации описаний или изображений. Авторы предупреждают, что результаты при использовании Hugging Face-весов могут отличаться от опубликованных для PyTorch-весов; качество также зависит от целевого набора данных и формулировок текстовых меток.

Finnish ModernBERT base — энкодерная модель архитектуры ModernBERT, разработанная TurkuNLP и предварительно обученная на финском, шведском, английском, коде, латыни и северносаамском языках. Модель содержит около 142,7 млн параметров, состоит из 22 слоёв и обучалась на 410,2 млрд токенов. Метаданные указывают контекстное окно 16 000 токенов; в карточке также отмечена теоретическая возможность экстраполяции до 128 тысяч токенов. Модель предназначена для заполнения маскированных токенов и получения контекстных представлений текста. Её можно применять как основу для задач обработки естественного языка и поиска по текстам; авторы сообщают о сильных результатах в задачах поиска вне обучающего домена на финском, шведском и английском языках. Модель конкурентоспособна в задачах NLU на коротком контексте, хотя в приведённом сравнении XLM-R-large показала лучшие результаты. Модель выпущена под лицензией Apache-2.0. Обучающие данные содержат источники с предвзятым и потенциально вредным содержанием, поэтому представления модели могут отражать эти свойства; их следует оценивать с учётом возможного влияния на уязвимые группы.

Это совместимая с новыми версиями библиотеки transformers редакция модели Florence-2-base-ft от Microsoft. В репозитории изменён код modeling_florence2.py, чтобы исправить загрузку модели и генерацию текста при работе с версиями transformers от 4.42.0 до 4.57.x; веса и базовая архитектура принадлежат Microsoft. Модель предназначена для задач анализа изображений, включая создание описаний, распознавание текста и обнаружение объектов по текстовым запросам. Архитектура Florence-2 принимает изображения и текстовые запросы и выдаёт текстовые ответы или результаты визуального анализа. В метаданных указана лицензия Apache-2.0; README отсылает к исходной карточке Microsoft за условиями использования.

Xenova/gte-base — версия модели thenlper/gte-base, подготовленная сообществом Xenova в формате ONNX для совместимости с библиотекой Transformers.js. Модель предназначена для извлечения признаков из текста, в частности для построения векторных представлений, которые могут использоваться в семантическом поиске, сравнении текстов и других задачах обработки естественного языка. Из README известно, что модель поддерживает запуск через Transformers.js и рассчитана на использование в JavaScript-средах, включая веб-приложения. Архитектура, размер, поддерживаемые языки, максимальная длина контекста, модальности и точные характеристики качества в предоставленных данных не указаны. Лицензия также не указана, поэтому условия использования по этому описанию определить нельзя.

Huihui-MoE-1B-A0.6B — языковая модель разработчика huihui.ai, созданная на основе Qwen/Qwen3-0.6B. Она использует архитектуру Qwen3MoeForCausalLM: в каждом MoE-слое есть три эксперта, из которых для каждого токена активируется один. В репозитории указано около 1,1 млрд параметров; метаданные каталога указывают 507,9 млн. Контекст модели — до 40 960 токенов. Модель предназначена для генерации текста, диалогов и ответов на вопросы. Она объединяет экспертов по программированию, математике и медицине, дообученных отдельно, с исходной моделью Qwen3-0.6B для следования инструкциям. Весовые матрицы экспертов объединены, а веса маршрутизатора инициализированы случайно; модель не дообучалась после сборки. Поэтому качество маршрутизации может быть неоптимальным, и для конкретных задач рекомендуется дообучение. Модель рассчитана на Transformers; README предупреждает о несовместимости с Ollama. Лицензия — Apache-2.0.

Amdestya выпустил англоязычный Cross Encoder, дообученный на базе microsoft/MiniLM-L12-H384-uncased с библиотекой Sentence Transformers. Модель оценивает пары текстов одним числовым баллом и предназначена для ранжирования результатов поиска и семантического поиска; её также можно применять для классификации пар текстов. Модель содержит около 40 млн параметров и использует архитектуру BERT с головой классификации последовательностей. Метаданные указывают контекст до 512 токенов, а карточка модели — максимальную длину последовательности 256 токенов. Она обучалась на наборе из примерно 79,5 млн пар текстов с числовыми метками. Для использования распространяется в формате safetensors; лицензия в предоставленных данных не указана.

Модель toiar/khasi-asr-transcribe-diarize-v2 — дообученная версия MOSS-Transcribe-Diarize от OpenMOSS-Team для транскрибирования аудио на кхаси, английском и хинди. Она обучена на корпусе объёмом около 342 часов и поддерживает режимы вывода с временными метками и диаризацией, а также только с указанием говорящих. Базовая модель имеет размер 0,9 млрд параметров и предназначена для длинных записей с транскрипцией, временными метками, разделением говорящих и аннотациями акустических событий. Модель подходит для расшифровки многоязычных записей и разметки реплик по говорящим. Лицензия — Apache 2.0. Для загрузки требуется trust_remote_code=True.

LaME-7B — мультимодальная модель для получения эмбеддингов, разработанная на основе Qwen2-VL-7B-Instruct. Она использует восемь обучаемых токенов [REASON], обучение с совместной контрастивной и декодерной супервизией и проекцию размерности 3584; латентный декодер основан на Qwen3-0.6B. Модель предназначена для поиска и сопоставления текста, изображений, видео и визуальных документов. README сообщает о высоких результатах на наборах MMEB-v2 и MRMR. Для запуска указаны Transformers и AutoModel/AutoProcessor; веса представлены в формате safetensors. Лицензия — Apache-2.0.

LFM2.5-Encoder-350M-hallucination-detector — модель KRLabsOrg из проекта LettuceDetect для выявления неподтверждённых фрагментов в ответах по заданному контексту. Это двунаправленный энкодер LiquidAI/LFM2.5-Encoder-350M с линейной головой классификации токенов, дообученный отмечать участки ответа, которые не подтверждаются контекстом. Модель принимает вопрос, контекст и ответ, а затем выполняет разметку токенов; результаты можно использовать для определения галлюцинаций в RAG-ответах, выводах инструментов и ответах кодовых агентов. В README указаны обучение на 66 368 примерах в течение трёх эпох, максимальная длина входа 8 192 токена и тестовая span-F1 0,603 на объединённом наборе из 10 698 примеров. В мультиязычном выявлении на уровне примеров результаты сопоставимы с энкодером mmBERT. Модель обучалась на данных о галлюцинациях в коде и прозе, включая RAGTruth, структурированные документы и 14-язычный набор PsiloQA; в метаданных карточки перечислены английский, немецкий, испанский, французский, итальянский и нидерландский. Лицензия указана как other, поэтому условия использования следует сверить с карточкой модели. В приведённых результатах span-F1 ниже, чем у сравниваемых mmBERT-base и Qwen-2B; качество зависит от источника данных и формата ответа.

LLaVE-2B — мультимодальная модель эмбеддингов, основанная на Aquila-VL-2B и дообученная на 662 тысячах пар данных. Она предназначена для получения представлений текста, изображений, нескольких изображений и видео, в том числе для поиска по сходству между текстом и визуальным содержимым. В карточке Hugging Face указаны архитектура Qwen2, 1,5 млрд параметров и контекст до 32 768 токенов; README сообщает окно контекста 4K токенов, поэтому эти сведения расходятся. Модель подходит для мультимодального поиска и извлечения видео по текстовым запросам; авторы сообщают о сильных результатах на MMEB и переносе на задачи поиска по видео без специального обучения. Доступны веса в формате safetensors и лицензия Apache-2.0. Метаданные также отмечают чат и интерфейс вызова инструментов, но основное назначение по README — эмбеддинги.