I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельzecafonso дообучил Qwen/Qwen3-Embedding-4B как текстовую модель Sentence Transformers для получения плотных эмбеддингов предложений и абзацев. Векторное представление имеет размерность 2560 и нормализуется; для сравнения используется косинусное сходство. Модель предназначена для семантического поиска и извлечения релевантных фрагментов, в том числе по поисковым запросам с инструкцией. Модель построена на архитектуре Qwen3 и принимает только текст. README задаёт максимальную длину последовательности 512 токенов; метаданные указывают нативный контекст базовой модели в 40960 токенов, но это значение не отменяет лимит, заявленный для данного чекпойнта. На двух тестах поиска приведены значения cosine_accuracy@1 от 0,6364 до 0,75 и @3 от 0,9091 до 0,9167; оценки относятся к небольшим наборам данных. Лицензия в предоставленных данных не указана.
LostGentoo/Qwen3-Embedding-8B-AWQ — квантованная версия модели Qwen3-Embedding-8B, разработанная LostGentoo на базе модели Qwen от Qwen. Это модель для построения векторных представлений текста и задач семантического сходства, поиска и retrieval-сценариев. Она поддерживает английский и китайский языки, использует архитектуру Qwen3ForCausalLM с преобразованием в embedding- или pooling-режим и рассчитана на контекст до 8192 токенов. Модель применяет 4-битное AWQ-квантование W4A16: 252 линейных слоя хранятся в формате INT4, а embed_tokens и RMSNorm — в BF16. Размер эмбеддинга составляет 4096, при этом базовая модель поддерживает Matryoshka Representation Learning с размерностями от 32 до 4096. В конфигурации sentence-transformers используются pooling по последнему токену и L2-нормализация. Размер модели на диске около 4,8 ГБ против примерно 15 ГБ у версии BF16, что снижает требования к памяти. По приведённым оценкам MTEB-lite, квантование сохраняет большую часть качества исходной модели: для STSBenchmark Spearman составляет 0,881 против 0,884 у BF16, а для SciFact nDCG@10 — 0,777 против 0,787; корреляция оценок AWQ и BF16 равна 0,996. Ограничения включают возможную небольшую потерю качества из-за квантования и необходимость корректной настройки pooling-режима при использовании через vLLM. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.
yrrhall/qwen3-student-qwen3_compressed_distilled — компактный мультиязычный энкодер предложений на архитектуре Qwen3, созданный сжатием и двухэтапной дистилляцией Qwen/Qwen3-0.6B. Модель предназначена для получения векторных представлений текстов, сравнения сходства предложений, классификации и кластеризации. В README указаны сжатие в 48 раз, 4 слоя, размер скрытого состояния 448 и словарь из 7 341 токена; метаданные указывают 12,3 млн параметров и контекст до 40 960 токенов. Модель поддерживает 18 языков: корейский, английский, японский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, арабский, хинди, тайский, вьетнамский, индонезийский, турецкий, нидерландский и польский. В оценке MTEB приведено среднее значение 32,29%; результаты различаются по задачам, поэтому качество следует проверять на целевых данных. Для загрузки README показывает библиотеку Sentence Transformers и параметр trust_remote_code=True. Лицензия — Apache-2.0.
grocode87/replyability_model — модель на базе BERT, разработанная автором репозитория и опубликованная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для сравнения смысловой близости, семантического поиска и кластеризации. Модель содержит 25,9 млн параметров, принимает текст и рассчитана на контекст до 512 токенов. Модель можно применять для поиска похожих фраз и документов, группировки текстов по смыслу и построения систем поиска на эмбеддингах. В карточке указано обучение с OnlineContrastiveLoss. Лицензия в предоставленных данных не указана.
omniamnaeem/semantic_sim_ner_with_ContrastiveLossV5 — модель на базе BERT, опубликованная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 256 для поиска семантически близких текстов и кластеризации. В README указано обучение с ContrastiveLoss и косинусной метрикой расстояния; модель рассчитана на текстовый ввод и выдаёт эмбеддинги. Размер модели — 12,4 млн параметров, контекст — до 512 токенов. Для запуска подходят Sentence Transformers или Transformers с соответствующей операцией pooling. Язык обучения и применения, лицензия и специализированные области использования в доступных данных не указаны.
hunkim/sentence-transformer-klue — модель на архитектуре RoBERTa, преобразующая предложения и абзацы в плотные векторы размерности 768. Она содержит 137,8 млн параметров и предназначена для получения эмбеддингов, сравнения смысловой близости текстов, семантического поиска и кластеризации. Модель обучена с функцией CosineSimilarityLoss и работает с библиотекой Sentence-Transformers или Transformers с подходящей операцией pooling. Модель принимает текст и возвращает векторные представления; контекст составляет до 514 токенов. Карточка описывает её как sentence-transformers модель для работы с предложениями и абзацами. Лицензия в предоставленных данных не указана.
Bhuvana/setfit_2class_model — модель Sentence-Transformers на архитектуре MPNet, разработанная для преобразования предложений и абзацев в плотные векторы размерности 768. Веса насчитывают 136,7 млн параметров, модель распространяется в формате PyTorch и принимает текстовые последовательности длиной до 514 токенов. Векторы можно использовать для поиска семантически близких фраз и документов, кластеризации текстов и сравнения предложений по смыслу. README указывает на обучение с CosineSimilarityLoss. Модель работает с текстом; сведения о поддерживаемых естественных языках в предоставленной карточке отсутствуют. Лицензия в доступных данных не указана.
scaperex/SetFitTest — модель на архитектуре MPNet, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 и подходит для семантического поиска, кластеризации и сравнения текстов по сходству. В метаданных указаны 136,7 млн параметров и контекст до 514 токенов; модель работает с текстом и выдаёт эмбеддинги. В карточке указано обучение с CosineSimilarityLoss. Модель можно применять для поиска семантически близких фрагментов и группировки текстов. Репозиторий содержит веса PyTorch. Сведения о лицензии и языковой специализации не приведены в использованных источниках.
vitthalbhandari/simcse_retrain_edos_100k — модель эмбеддингов предложений на базе RoBERTa, опубликованная пользователем Hugging Face vitthalbhandari. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит около 151,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Модель обучена с функцией MultipleNegativesRankingLoss и косинусным сходством. В названии указаны SimCSE и EDOS, но карточка не поясняет датасет или специализацию, поэтому назначение следует считать общим для семантических эмбеддингов. Для использования доступны Sentence-Transformers или Transformers с подходящей операцией pooling. Лицензия в предоставленных данных не указана.
Spark-X2.5-4B-GGUF — набор общественных GGUF-квантизаций компактной универсальной языковой модели Spark-X2.5-4B, разработанной SparkLLM и опубликованной в исходном виде XHToken. Репозиторий ngquocvinh содержит только квантизированные файлы для локального запуска; обучение и дообучение в рамках этого выпуска не выполнялись. Модель предназначена для диалогов, написания текстов, перевода, рассуждений, программирования, использования инструментов и агентских сценариев. Исходная модель имеет 4B параметров, поддерживает английский, китайский и, по заявлению авторов, более 200 языков. Заявлено контекстное окно до 1 млн токенов и гибридное внимание: один слой с полным вниманием и три слоя со скользящим окном, что должно способствовать эффективной обработке длинного контекста. Квантизации представлены в форматах GGUF и совместимы с llama.cpp; также заявлена поддержка экосистем llama.cpp, vLLM, SGLang, MLX, Ollama и LM Studio. Основное преимущество — возможность локального запуска при разных ограничениях по памяти: Q8_0 ближе всего к исходному BF16 по результатам измерений, Q4_K_M предлагает компромисс между размером и качеством, а Q2_K требует меньше ресурсов ценой заметной потери точности. Ограничения включают снижение fidelity у низкобитных вариантов и отсутствие в README подробных сведений о точных требованиях к памяти, скорости, обучающих данных и результатах прикладных бенчмарков. Производные файлы распространяются по Apache License 2.0 с сохранением атрибуции исходной модели; это неофициальный community-релиз и не подтверждение со стороны XHToken или SparkLLM.
Карточка модели Etelis/TUF_fewshot на Hugging Face совпадает с карточкой Etelis/YELP_fewshot, поэтому описание составлено по ней. Etelis/YELP_fewshot — модель семейства MPNet, опубликованная пользователем Etelis в формате PyTorch и оформленная как модель Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и сравнения предложений. Обучение использовало CosineSimilarityLoss. Модель содержит 136,7 млн параметров и рассчитана на входные последовательности длиной до 514 токенов. Её можно применять с библиотекой Sentence Transformers либо через Transformers с подходящей операцией pooling. Лицензия в предоставленных данных не указана.
udever-bloom-560m — модель для получения текстовых эмбеддингов, разработанная Alibaba Group на основе bigscience/bloom-560m. Это декодерный трансформер семейства BLOOM с 659,6 млн параметров и контекстом до 2048 токенов; модель дообучена методом BitFit на MS MARCO Passage Ranking, SNLI и MultiNLI с контрастивной функцией потерь и трудными отрицательными примерами. Модель предназначена для представления естественного языка и кода в виде векторов для поиска, сравнения семантической близости, классификации, кластеризации и ранжирования текстов. В карточке заявлена поддержка множества естественных и программных языков; метаданные перечисляют языки, включая английский, китайский, французский, испанский и другие. Репозиторий содержит веса PyTorch и опубликован под лицензией BigScience BLOOM RAIL 1.0. Результаты в README приведены на MTEB и CodeSearchNet, но не дают полной картины качества по всем языкам и сценариям.
USER2-small — русскоязычная модель для получения векторных представлений предложений и длинных текстов, разработанная DeepPavlov. Она построена на энкодере RuModernBERT-small и дообучена для поиска, сравнения смысловой близости и других семантических задач. Модель содержит 34,4 млн параметров, поддерживает контекст до 8192 токенов и выдаёт эмбеддинги размерностью 384. Модель поддерживает Matryoshka Representation Learning: эмбеддинги можно сокращать до 32, 64, 128 или 256 измерений с небольшими потерями качества. Для разных сценариев предусмотрены префиксы, например search_query и search_document для поиска, а также clustering для кластеризации. В карточке приведены результаты оценок на MTEB-rus и русской части MLDR; качество зависит от задачи, длины текста и выбранного префикса. USER2-small подходит для семантического поиска по русскоязычным документам, ранжирования кандидатов и группировки похожих текстов. Это энкодер, который возвращает эмбеддинги, а не готовые текстовые ответы. Модель распространяется по лицензии Apache-2.0.
Zero-Mistral-24B — текстовая большая языковая модель, разработанная ZeroAgency.ru и дообученная на базе mistralai/Mistral-Small-3.1-24B-Instruct-2503. В отличие от базовой модели, в этой версии удалены возможности работы с изображениями. Модель рассчитана прежде всего на русский и английский языки; для обучения использовались Big Russian Dataset и собственный набор данных Shkolkovo.online. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, математические задачи и рассуждения. По данным карточки, она сохраняет контекст до 128 тысяч токенов и имеет 23,4 млрд параметров. Доступны веса Safetensors и варианты GGUF, включая BF16, F16 и квантованные версии. Для запуска описана поддержка Transformers, vLLM и llama.cpp. Лицензия — MIT. Разработчики отмечают хорошие математические навыки и некоторые способности к рассуждению; результаты тестов приведены в карточке. Карточка не содержит подробных сведений о характерных ошибках или систематических ограничениях качества.
Nhat1904/12_shot_STA_head_skhead — модель Sentence-Transformers на базе MPNet, обученная разработчиком Nhat1904. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения смысла текста, семантического поиска и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и выдаёт эмбеддинги; заявленная длина контекста — 514 токенов. В обучении использовалась функция потерь CosineSimilarityLoss. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.
Карточка модели RatanK/23B0059-Week05-Track1-40-Submission01 на Hugging Face совпадает с карточкой Qwen/Qwen3.5-4B, поэтому описание составлено по ней. Qwen3.5-4B — мультимодальная модель компании Qwen на 4 млрд параметров, представленная в формате Hugging Face Transformers и дообученная на базе Qwen/Qwen3.5-4B-Base. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, анализа изображений, рассуждений, программирования и вызова инструментов. Модель использует гибридную архитектуру Gated Delta Networks и gated attention; в README указано 32 слоя. Нативная длина контекста — 262 144 токена с возможностью расширения до 1 010 000. Семейство заявляет поддержку 201 языка и диалекта. По умолчанию модель работает в режиме рассуждения, а для развёртывания доступны Transformers, vLLM, SGLang и KTransformers. Модель подходит для ответов на вопросы по изображениям и тексту, многошаговых диалогов и агентных сценариев с инструментами. Репозиторий распространяется по лицензии Apache-2.0. Реальная скорость и пропускная способность зависят от среды инференса; длинный контекст может приводить к нехватке видеопамяти.
jpcompartir/579-private-v3 — модель Sentence-Transformers на архитектуре MPNet, разработчик которой в карточке не назван. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Модель содержит 136,7 млн параметров и рассчитана на последовательности длиной до 514 токенов; доступен формат PyTorch. Обучение использовало CosineSimilarityLoss. Веса предназначены для получения эмбеддингов текста, которые можно сравнивать или индексировать в поисковых системах. В карточке не указаны поддерживаемые языки и лицензия.
Карточка модели Nhat1904/8_shot_STA_head_trained_lr1e-4 на Hugging Face совпадает с карточкой lewtun/my-awesome-setfit-model, поэтому описание составлено по ней. lewtun/my-awesome-setfit-model — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения смысловой близости текстов. Модель подходит для семантического поиска и кластеризации текстов, а также для получения эмбеддингов, используемых в других системах. В README указано обучение с функцией потерь CosineSimilarityLoss. Для применения описана работа через Sentence-Transformers или Transformers с подходящей операцией pooling. Максимальная длина контекста — 514 токенов. Модель принимает текст и выдаёт векторы. В карточке нет сведений о лицензии или целевых языках, поэтому определить условия использования и языковую специализацию по доступным данным нельзя.
AIOne-Agent-52B-A36B-it — мультимодальная модель с разреженной архитектурой Mixture-of-Experts, разработанная JDONE-Research на базе google/gemma-4-31B-it. В текстовой части около 52 млрд параметров, из которых примерно 36 млрд активны на токен; модель также использует визуальный энкодер. Она принимает текст, изображения и видео и генерирует ответы на корейском и английском языках. Заявлена длина контекста 256 тысяч токенов. Модель предназначена для корейского рассуждения и следования инструкциям, анализа изображений и видео, ответов на вопросы по документам и длинным текстам. Её можно применять в корпоративных агентных системах, для поиска по документам и многошаговых диалогов. Базовая модель поддерживает работу с изображениями; понимание видео и корейская настройка заявлены в карточке AIOne-Agent. Модель распространяется под лицензией Apache-2.0. Результаты не следует использовать как единственное основание для решений с юридическими последствиями; README также исключает применение для автоматизированного насилия и анализа медиаданных с нарушением приватности или прав на изображения.
aneforge/all-MiniLM-L12-v2 — это копия модели sentence-transformers/all-MiniLM-L12-v2, подготовленная для запуска через ANEForge на Apple Neural Engine. По README, веса побайтно совпадают с исходной моделью; архитектура — компактный плотный BERT с 40 млн параметров и контекстом до 512 токенов. Модель кодирует предложения и короткие фрагменты текста в эмбеддинги для семантического сравнения и поиска. Она рассчитана на английский язык; ANEForge компилирует граф модели в одну программу для Apple Neural Engine. Репозиторий распространяется по лицензии Apache-2.0.
LeoChiuu/all-MiniLM-L6-v2 — англоязычная модель Sentence Transformers, дообученная разработчиком на базе sentence-transformers/all-MiniLM-L6-v2 для получения семантических векторов предложений и абзацев. Она использует архитектуру BERT с пуллингом по среднему значению токенов и нормализацией векторов; размер модели — 25,9 млн параметров, размерность эмбеддингов — 384. Максимальная длина последовательности в README указана как 256 токенов, а метаданные указывают контекст до 512 токенов. Модель предназначена для семантического сравнения текстов по косинусному сходству, семантического поиска, поиска перефразирований, классификации и кластеризации. В карточке приведены результаты бинарной классификации пар предложений и сведения о дообучении с CoSENTLoss на наборе из 560 примеров; качество на других данных не гарантируется. Лицензия в предоставленных данных не указана.
all-MiniLM-L6-v2-pruned — англоязычный энкодер предложений, созданный на основе sentence-transformers/all-MiniLM-L6-v2 с сокращённым словарём токенов. Модель разработал владелец репозитория jangedoo; она использует архитектуру BERT и библиотеку Sentence Transformers. В метаданных указано 22,1 млн параметров и контекст до 512 токенов; README приводит 18 983 040 параметров после сокращения словаря на 31,83%.
Hyperakan/all-MiniLM-L6-v2-smoke — англоязычная модель Sentence Transformer, дообученная на базе sentence-transformers/all-MiniLM-L6-v2 на данных all-nli. Энкодер архитектуры BERT с 25,9 млн параметров преобразует предложения и абзацы в плотные векторы размерности 384; для объединения токенных представлений используется mean pooling. Максимальная длина входа — 512 токенов, сходство векторов оценивается косинусной мерой. Модель предназначена для семантического поиска и извлечения релевантных текстов, а также для сравнения предложений и абзацев. Её можно применять для поиска документов по запросу, ранжирования кандидатов по семантической близости и кластеризации текстов. В README приведены оценки на небольших наборах NanoMSMARCO и NanoNFCorpus, а данные обучения включали 50 примеров, поэтому эти результаты не гарантируют качество на других данных. Модель принимает текст и выдаёт эмбеддинги; указана поддержка английского языка. Лицензия — Apache-2.0.
Это модель SentenceTransformer на базе энкодера BERT all-MiniLM-L6-v2, дообученная на 5 749 парах предложений с CosineSimilarityLoss. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 384 и предназначена для оценки семантического сходства, семантического поиска и задач группировки текстов. В архитектуре используются mean pooling и нормализация; метаданные указывают 25,9 млн параметров и контекст до 512 токенов, тогда как README задаёт максимальную длину последовательности 256 токенов. Модель подходит для поиска похожих предложений, обнаружения перефразирований, кластеризации и классификации текстов. Карточка и базовая модель ориентированы на английский язык; отдельная поддержка других языков не заявлена. Лицензия в предоставленных данных не указана.
jangedoo разработал эту модель Sentence Transformers на основе jangedoo/all-MiniLM-L6-v2-nepali, дообучив её на парах и триплетах английских и непальских текстов. Это компактный BERT-энкодер с 25,9 млн параметров: он кодирует предложения и абзацы в нормализованные векторы размерности 384 для сравнения по косинусному сходству. В README указана максимальная длина последовательности 256 токенов, а метаданные каталога задают контекст до 512 токенов. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок и кластеризации англоязычных и непальских текстов; векторы также можно использовать в классификационных системах. В README приведены результаты оценки на наборах для поиска и семантического сходства на английском и непальском языках. Лицензия в предоставленных данных не указана.
LLukas22/all-mpnet-base-v2-embedding-all — англоязычная модель на архитектуре MPNet, дообученная автором на базе all-mpnet-base-v2 для получения эмбеддингов предложений и оценки их сходства. Она предназначена для поиска семантически близких текстов и ранжирования документов по релевантности, в том числе в системах вопросов и ответов и информационного поиска. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторные представления, которые можно сравнивать для поиска похожих фрагментов. Контекст ограничен 514 токенами. Для обучения использованы SQuAD, NewsQA, CQADupStack, FiQA, SciDocs, GermanQuAD и Natural Questions; автор приводит результаты ранжирования для нескольких эпох. Модель разработал LLukas22 в рамках магистерской работы об использовании трансформерных языковых моделей в сервисных информационных системах. Модель распространяется по лицензии Apache-2.0. Карточка описывает применение Sentence-Transformers; датасеты охватывают вопросы и ответы, финансовую и научную тематику, но это не означает специализацию модели на этих областях.
event-nlp/all-mpnet-base-v2-fine-tuned-epochs-8 — модель на базе MPNet, дообученная для преобразования предложений и абзацев в плотные векторы размерности 768. Она подходит для семантического поиска и кластеризации текстов. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель использует PyTorch и формат Sentence Transformers. Модель принимает текст и выдаёт векторные представления, которые можно сравнивать для оценки семантической близости. Карточка сообщает об обучении с CosineSimilarityLoss, но не приводит сведения о наборе данных, целевых языках или результатах оценки. Лицензия в предоставленных данных не указана.
mdizak/all-roberta-large-v1-rust — модель Sentence-Transformers на архитектуре RoBERTa-large, дообученная разработчиками Sentence-Transformers на более чем 1 млрд пар предложений с контрастивной целью. Она кодирует предложения и короткие абзацы в плотные векторы размерности 1024 для семантического поиска, сравнения сходства и кластеризации. Метаданные указывают 454,1 млн параметров и библиотеку sentence-transformers; модель принимает текст, а длина контекста составляет 514 токенов. В README указано, что входы длиннее 128 word pieces усекаются, а при использовании Transformers требуется применить pooling к контекстным представлениям токенов. Модель доступна по лицензии Apache-2.0.
Arabic-STS-Matryoshka — модель Sentence Transformers, разработанная на основе FacebookAI/xlm-roberta-large и дообученная для получения эмбеддингов арабских предложений и абзацев. Она кодирует текст в плотные векторы размерностью до 1024, а обучение с MatryoshkaLoss позволяет использовать также укороченные представления размерностью 786, 512, 128 или 64. Для сравнения векторов применяется косинусное сходство; максимальная длина входной последовательности — 512 токенов. Модель предназначена для оценки семантического сходства, семантического поиска, поиска перефразировок, классификации и кластеризации арабских текстов. В README приведён результат на sts-dev: Spearman по косинусному сходству — 0,8275. Модель принимает текст и выдаёт векторы; она не предназначена для генерации ответов. Лицензия — Apache-2.0.
Карточка модели Sing0402/auslegal-embed-gte-bm25 на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.