/ Модель

Характеристики

Контекст
512 токенов
Параметры
265 млн
Архитектура
bert · dense
Библиотека
sentence-transformers
Опубликована
13 авг 2026

bhash_finetune_phaseB

ЭмбеддингиТекст → embedding11 профессий

BERT-модель Sentence Transformer кодирует предложения и абзацы в векторы для семантического поиска, сравнения и группировки текстов.

71скачиваний за 30 дней0лайковвеса обновлены13 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

meet5568/bhash_finetune_phaseB — модель Sentence Transformer на архитектуре BERT, обученная разработчиком meet5568 для представления предложений и абзацев в виде плотных векторов размерностью 768. Она предназначена для измерения семантического сходства, семантического поиска, поиска перефразировок, классификации и кластеризации текстов. Для сравнения векторов в карточке рекомендована косинусная близость; модель рассчитана на последовательности до 512 токенов согласно метаданным Hugging Face.

В README описано обучение на 3 200 примерах с TripletLoss и максимальной длиной входа 400 токенов. Векторы можно использовать в системах поиска, группировки и классификации текста. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

Сценарии применения

  • семантический поиск по коллекции текстов
  • сравнение сходства двух предложений
  • поиск перефразировок
  • кластеризация похожих текстов
  • классификация текстов по эмбеддингам

Ограничения

Обучение описано на небольшом наборе из 3 200 примеров; подтверждённые языки и лицензия в доступных данных не указаны. README указывает предел 400 токенов, тогда как метаданные — контекст 512 токенов.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SentenceTransformer

This is a sentence-transformers model trained. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

  • Model Type: Sentence Transformer
  • Maximum Sequence Length: 400 tokens
  • Output Dimensionality: 768 dimensions
  • Similarity Function: Cosine Similarity

Model Sources

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 400, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("meet5568/bhash_finetune_phaseB")
# Run inference
sentences = [
    'Le Chal Mujhe, Le Chal Mujhe\nKahin Door Yahan Se Door\nYahan Se Door\nKho Jaayenge Phir Kahin\nRou Aayenge Phir Wahin\nAakhein Tujhe Dhoondhe Kahin\nAb Aaja Sata Na, Tu Aaja Sata Na\nTeri Chaahaton Mein Phiroon Baawri\nAye Humnava Tu Khoya Kahan\nAankhein Tujhe Dhoondhe Kahin\nKho Jaayenge Phir Kahin Ro Aayenge Phir Wahin\nLo Chal Pade, Lo Hum Chal Pade\nTere Sang, Tere Sang, Tere Sang\nBhaag Jaayenge Phir Kahin\nLaut Aayenge Phir Wahin.',
    'Woh jab meri rahat ke\nKadam the maaz bhoot\nMere anda yeh samandar\nMeri dhukhoon ka mar hoon\nBarson guzare hai aap\nDil pe nahin aetbaar\nKal joothi meri jawani\nAaj hai kahani\nKya meri zindagi, ek khwaab hai\nKitni lambe, yeh raat hai\nBikhre sapne, bichre apne\nYaad chupke se rulati hai\nKya meri zindagi, ek khwaab hai\nKitni lambe, yeh raat hai\nBikhre sapne, bichre apne\nYaad chupke se rulati hai\nAise pighal jaate hai\nMere dil mein samaate hai\nSapne saja jaate hai\nAur jakar paate hai\nZindagi ka yeh safar\nKoi samjhe to nahin\nYehi rasta hai mera\nKoi aata hi nahin\nKya meri zindagi, ek khwaab hai\nKitni lambe, yeh raat hai\nBikhre sapne, bichre apne\nYaad chupke se rulati hai\nKya meri zindagi, ek khwaab hai\nKitni lambe, yeh raat hai\nBikhre sapne, bichre apne\nYaad chupke se rulati hai\nEnglish tanslation\nThere was a season when my steps were unwavering\nWithin me was this ocean\nThat would repair and cure me of all my pains\nBut at the passing of time\nI am no longer certain of my hearts integrity\nThe days of my youth\nNow only an abstract memory\nIs my essence just a delusion?\nHow long do I submit to such a night\nWhere dreams are shattered\nAnd mine forsake me\nMy silent cries reveal the stains of my memory\nEverything is fragmented its falling apart\nYet perfectly connected, attached, aligned in my heart\nA collage of hopes I had commissioned from within\nWere denied me and blotted out\nThey cannot understand my lifes journey\nSo I alone must complete it',
    "ਤੇਰੇ ਰੰਗ ਵਿਚ ਰੰਗ ਜਾਵਾਂ मैं अब अभी\nਤੇਰੇ ਸੰਗ ਸੰਗ ਬਹਿ ਜਾਵਾਂ में अब अभी\nसुनूं मैं तू जो फ़रमाए जैसी तेरी मर्ज़ी\nਜਿਸ ਪਾਸੇ ਲੈ ਜਾਏ जैसी तेरी मर्ज़ी\nसपने वही दिखाए जैसी तेरी मर्ज़ी\nमन से जो तू चाहे जैसी तेरी मर्ज़ी\nइश्क वाली अर्जियां मंज़ूर कर ਦੀਆਂ\nਕਰ ਲੇ ਗ਼ੁਸਤਾਖ਼ੀਆਂ, ਕਰ ਲੇ ਮਨਮਰਜ਼ੀਆਂ, ਹਾਏ ਮਨਮਰਜ਼ੀਆਂ\nओहो हाय, मेरे ध्यान में, मेरे ध्यान में\nਹਰ ਵੇਲੇ मेरे ध्यान मे\nਅਹਿਸਾਨ ਵੇ, ਅਹਿਸਾਨ ਵੇ, कैसे भूलूँ एहसान\nक़ुरबान ਵੇ, क़ुरबान ਵੇ, तेरी हस्ती पे क़ुरबान ਵੇ\nअरमान ਵੇ, अरमान ਵੇ, तुझसे ही जुड़े अरमान\nतुझसे ही जुड़े अरमान\nतुझसे ही जुड़े अरमान\nनाज़ तेरे मैं ਉਠਾਵਾਂ जैसी तेरी मर्ज़ी\nਜਦ ਕੇਹ ਦੇ ਮੁਸਕਾਵਾਂ जैसी तेरी मर्ज़ी\nਇਸ਼ਕ 'ਚ ਮੈਂ ਇਤਰਾਵਾਂ जैसी तेरी मर्ज़ी\nਸਜਦਾ ਕਰਦਾ ਜਾਵਾਂ जैसी तेरी मर्ज़ी\nइश्क वाली अर्जियां मंज़ूर कर ਦੀਆਂ\nਕਰ ਲੇ ਗ਼ੁਸਤਾਖ਼ੀਆਂ, ਕਰ ਲੇ ਮਨਮਰਜ਼ੀਆਂ\nਮਨਮਰਜ਼ੀਆਂ ਹਾਏ, ਮਨਮਰਜ਼ੀਆਂ\nਮਨਮਰਜ਼ੀਆਂ ਹਾਏ, ਮਨਮਰਜ਼ੀਆਂ ਹਾਏ, ਮਨਮਰਜ਼ੀਆਂ\nਮਨਮਰਜ਼ੀਆਂ ਹਾਏ, ਮਨਮਰਜ਼ੀਆਂ, ਮਨਮਰਜ਼ੀਆਂ",
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Training Details

Training Dataset

Unnamed Dataset

  • Size: 3,200 training samples
  • Columns: sentence_0, sentence_1, and sentence_2
  • Approximate statistics based on the first 1000 samples:
    sentence_0sentence_1sentence_2
    typestringstringstring
    detailsmin: 22 tokensmean: 303.12 tokensmax: 400 tokensmin: 42 tokensmean: 310.03 tokensmax: 400 tokensmin: 30 tokensmean: 307.95 tokensmax: 400 tokens
  • Samples:
    sentence_0sentence_1sentence_2
    मेहँदी लगी थी, दुल्हन सजी थीमेहँदी लगेगी, दुल्हन सजेगीआँसू छुपा के तेरा भाई हँसेगाडोली को काँधा देगा और ये कहेगा"तेरे साथ हूँ मैं, तेरे साथ हूँ मैंतेरे साथ हूँ मैं, तेरे साथ हूँ मैं"वो भोले-भाले से खिलौने बुलाएँआ, गुड़िया की फिर शादी रचाएँबचपन की बातें यादों में आएँबेफ़िक्रियों के मौसम बताएँबचपन की बातें यादों में आएँबेफ़िक्रियों के मौसम बताएँमेहँदी लगी थी, दुल्हन सजी थीमेहँदी लगेगी, दुल्हन सजेगीआँसू छुपा के तेरा भाई हँसेगाडोली को काँधा देगा और ये कहेगा"तेरे साथ हूँ मैं, तेरे साथ हूँ मैंतेरे साथ हूँ मैं, तेरे साथ हूँ मैं"सर्दियों की वो छत देगी गवाहीज़्यादा थीं मस्तियाँ, थोड़ी पढ़ाईरूठना, रूठ के फिर मान जानाप्यार था, प्यार में मीठी लड़ाईऐसा लगे है जैसे बातें हैं ये तो कल कीसीखी क्यूँ जाने हमने इतनी बातें अकल कीनासमझियों को आजा फिर से बुलाएँबचपन के बीते दिन वो आ ढूँढ लाएँतेरे साथ हूँ मैं, तेरे साथ हूँ मैंतेरे साथ हूँ मैं, तेरे साथ हूँ मैंहोश था ना कोई, ना था ठिकानाखेल थे सच सभी, झूठ था ज़मानाफ़र्क़ था ना कोई, ना कोई दूरीरोने का, हँसने का एक था बहानाकाग़ज़ पे चेहरा मेर...हो उमड़-घुमड़ कर आई रे घटाकारे-कारे बदरा की छाई-छाई रे घटाजब सनन पवन को लगा तीरबादल को चीर निकला रे नीरझर-झर झर-झर अब धार झरेओ धरती जल से माँग भरेओ उमड़-घुमड़ करनन्हीं-नन्हीं बूँदनियों की खनन-खनन खन खन्जरीबजाती आई बजाती आई देखो भाई बरखा दुल्हनियाछुक-छुक छुक-छुक सैंयाआज डारूँ तोरे गलवा में बैंयामैं तो नाचूँ तेरे संग-संग सैंया हो सैंया हो सैंयाहो सावन का सन्देसा लेकर निकली जोगन घर सेजो कोई इसके प्यार को तरसे वहीं नवेली बरसेकारे-कारे बादरवा की झनन-झनन झन झाँझरीबजाती आई है देखो भाई बरखा दुल्हनियाहो उमड़-घुमड़ करमीठी-मीठी मस्त पवन की सनन-सनन सन बाँसुरीबजाती आई देखो भाई बरखा दुल्हनियाहरी-हरी चुनरी साजे कलियों का कँगना बाजेदेख के अपनी बरखा रानी की मीठी मुस्कान रेसावन के दूल्हे की चमक उठी शान रेगोरी-गोरी बिजुरिया की चमक-चमक चम पंखड़ीचमकाती आई देखो भाई बरखा दुल्हनियाहो उमड़-घुमड़ कररंग-बिरंगी झोली भरके भरन-भरन भण्डार रेलुटाती आई देखो भाई बरखा दुल्हनियाधरती ने गठरी खोलीभरी-भरी अपनी झोली अनमोली भैयाखेलो-खेलो ख़ुशियों की होली हो होली हो होलीधन-धन हमरी धरतीसबके जीवन के ये अधूरे...आज हमने सबक़ वो पढ़ डालाजिसको दुनिया "किताब" कहती हैऔर एक ऐसा काम कर डालाजिसको दुनिया "हिसाब" कहती हैकभी कुछ खोया, कभी कुछ पायाकभी कुछ खोया, कभी कुछ पायाकभी कुछ खोया, कभी कुछ पायाजब पा लिया, ख़ुश हो गएजब खो दिया, दिल रो दियाइसी खोने-पाने का नाम "ज़िंदगी" हैबिना खोए-पाए नाकाम ज़िंदगी हैकभी कुछ खोया, कभी कुछ पायाकभी कुछ खोया, कभी कुछ पायाजब पा लिया, ख़ुश हो गएजब खो दिया, दिल रो दियाइसी खोने-पाने का नाम "ज़िंदगी" हैबिना खोए-पाए नाकाम ज़िंदगी हैकभी कुछ खोया, कभी कुछ पायाज़माने ने जो कुछ भी हमको दियासर आँखों पे हमने उसे रख लियाकभी ये ना सोचा, बुरा कि भलासदा ख़ुश रहें सब, यही है दुआवही हमने काटा, जो हमने था बोयाजब पा लिया, ख़ुश हो गएजब खो दिया, दिल रो दियाइसी खोने-पाने का नाम "ज़िंदगी" हैबिना खोए-पाए नाकाम ज़िंदगी हैकभी कुछ खोया, कभी कुछ पायामेरा हमसफ़र भी कहीं खो गयाबताओ, भला हम करें भी तो क्या?कोई हमसे आके ज़रा सीख लेहै मर-मर के जीने में कैसा मज़ावही हमने काटा, जो हमने था बोयाजब पा लिया, ख़ुश हो गएजब खो दिया, दिल रो दियाइसी खोने-पाने का नाम "ज़िंदगी" हैब...
    Ye din kyun nikalataa hai?Ye raat kyun hotee hai?Ye peed kahaan se uthati hai?Ye aankh kyun roti hai?Mohabbat hai kya chizMohabbat hai kya chiz, hamko bataoMohabbat hai kya chiz, hamko bataoMohabbat hai kya chiz, hamko bataoYe kisne shuru kee, hamein bhee sunaaoMohabbat hai kya chizMohabbat hai kya chizShaam tak tha ek bhanvaraa phool par mandla rahaRaat hone par kamal kee pankhadi mein band thaQaid se chhootaa subah, to hamne poocha kya huaKuch naa bola, apanee dhun mein bas yahi gaata rahaMohabbat hai kya chiz, hamko bataoYe kisne shuru kee, hamein bhee sunaaoMohabbat hai kya chizMohabbat hai kya chizDahakta hai badan kaise, sulagati hain ye saansein kyun?Ye kaisee aag hotee hai, pighlatee hai ye shammaa kyun?Dahakta hai badan kaise, sulagati hain ye saansein kyun?Ye kaisee aag hotee hai, pighlatee hai ye shammaa kyun?Jal uthi shammaa to machal kar, parvaanaa aa gayaAag ke daaman mein apanae-aapako lipataa diyaHamne poocha duusare kee aag mein rakhaa hai kya...Jise zindagi dhoondh rahi haiKya yeh woh maqaam mera hai?Yahaan chain se bas ruk jaaunKyun dil yeh mujhe kehta hai?Jazbaat naye se mile hainJaane kya asar yeh hua haiIk aas mili phir mujhkoJo qubool kisi ne kiya haiHaan, kisi shayar ki ghazal jo de rooh ko sukoon ke palKoi mujhko yoon mila hai jaise banjaare ko gharNaye mausam ki seher, ya sard mein dopeherKoi mujhko yoon mila hai jaise banjaare ko ghar♪Jaise koi kinaara deta ho saharaMujhe woh mila kisi mod parKoi raat ka taara karta ho ujaalaWaise hi roshan kare woh sheherDard mere woh bhula hi gaya, kuch aisa asar huaJeena mujhe phir se woh sikha rahaHmm, jaise baarish kar de tar, ya marham dard parKoi mujhko yoon mila hai jaise banjaare ko gharNaye mausam ki seher, ya sard mein dopeherKoi mujhko yoon mila hai jaise banjaare ko ghar♪Muskaata yeh chehra deta hai jo pehraJaane chhupaata kya dil ka samundarAuron ko toh har-dum saaya deta haiWoh dhoop mein hai khada khud magarChot lagi hai usey, phir kyun meh...तुम बिन मुझे मैं जीने ना दूँहोना मेरा मैं होने ना दूँइस पल तू अभी मिल जाएया कल की सुबह ना आएचली आ, चली आचली आ, चली आचली आ, चली आचली आ, चली आतुम बिन मुझे मैं जीने ना दूँहोना मेरा मैं होने ना दूँरूठा-रूठा प्यार मेरा हैदिल में घना सा अँधेरा हैअरे, आ, चली आ, चली आकिया ज़िंदगी ने इशारा हैतू ही जीने का सहारा हैअरे, आ, चली आ, चली आइस आँसू को मैं चुप होने ना दूँदिल के दर्द को कम होने ना दूँतू यहीं बस अभी लौट आएया जान ये मेरी मर जाएचली आ, चली आचली आ, चली आचली आ, चली आचली आ, चली आ
    तेरे होंठों से अच्छा लगता है मुझे कहलानाओ, ज़ालिमा, ओ, ज़ालिमाफ़रमाइश मेरी मान लेना, फिर ज़रा दोहरानाओ, ज़ालिमा, हो, ज़ालिमाहाँ, तेरे होंठों से अच्छा लगता है मुझे कहलानाओ, ज़ालिमा, हो, ज़ालिमाफ़रमाइश मेरी मान लेना, फिर ज़रा दोहरानाओ, ज़ालिमा, ओ, ज़ालिमादो दिन की नहीं थी ये दिल्लगीअपना सिलसिला पुराना हुआकोई दूसरा मुझ पे ना हुआएक तू जिस तरह दीवाना हुआमैं सबकुछ तेरे नाम कर दूँ, एक बार बुलानाओ, ज़ालिमा, ओ, ज़ालिमा (ज़ालिमा)साँसों में तेरी नज़दीकियों का इत्र तू घोल दे, घोल देमैं ही क्यूँ इश्क़ ज़ाहिर करूँ? तू भी कभी बोल दे, बोल देबाँहों से रहे दो पल दूर तोमुझ को यूँ लगे, ज़माना हुआसीने से मेरे लग भी जा ज़राकाफ़ी रूठना-मनाना हुआमेरे गालों पे उँगलियों से आ ज़रा लिख जानाओ, ज़ालिमा, ओ, ज़ालिमाहाँ, तेरे होंठों से अच्छा लगता है मुझे कहलानाओ, ज़ालिमा, ओ, ज़ालिमाओ, ज़ालिमा (ज़ालिमा, ज़ालिमा)Chahat ki barish itniSaanson ki khushboo ghuliMehki fizaayein, bheegi palakThehar, thehar.Itna na dil tu dhadakItna na dil tu dhadakO. Itna na dil tu dhadakMmm. Itna na dil tu dhadakMmm.Honthon se behki hainSeene mein bhadkiSoyi chahat jo meriThehre haa bahon meinUtre ho dil seJaise raahot ho meriNeeche samandar, upar falakThehar, thehar.Itna na dil tu dhadakMmm. Itna na dil tu dhadakO. Itna na dil tu dhadakMmm. Itna dil tu dhadakMmm.ख़ुद ही दिल का रोग लगायेख़ुद ही बैठा रोयेनैना रे नैना, तुझसे बुरा ना कोयनैना रे, तू ही बुरा तू ही बुरातुझसे बुरा ना कोयख़ुद ही दिल का रोग लगायेख़ुद ही बैठा रोयेनैना रे तुझसे बुरा ना कोयनैना रे, तू ही बुरा तू ही बुरातुझसे बुरा ना कोयनैना रेसबकी प्रेम कहानियाँ दिल की बेचैनियाँतू ही शुरू करवायेख़ुद ही दिल का रोग लगाये ख़ुद ही बैठा रोयेनैना रे नैना तुझसे बुरा न कोयनैना रे नैना तुझसे बुरा न कोयख़ुद ही दिल का रोग लगाये ख़ुद ही बैठा रोयेनैना रे नैनाआँसू बन के छलका जाए, दिल का पैमानाइश्क़ में है इतने सदमें, दिल ने ना जानाअब इक पल की भी दूरियाँ, मुझसे सही जाए नादर्द भरी तन्हाईयाँ, मुझसे सही जाए नानैना रे तू ही बुरा तू ही बुरातुझसे बुरा ना कोयख़ुद ही दिल का रोग लगाये ख़ुद ही बैठा रोयेनैना रे नैनाटूटे सपनें बिखरा अरमाँ, क्या हुआ हासिलबेबसी का छाया आलम, क्या करे ये दिलकाटे कटे ना रतियाँ, मुश्किल जुदाई भरीयाद आये बीती बतियाँ, लागे युगों सी घड़ीनैना रे तू ही बुरा तू ही बुरातुझसे बुरा ना कोयख़ुद ही दिल का रोग लगाये ख़ुद ही बैठा रोयेनैना रे नैना
  • Loss: TripletLoss with these parameters:
    {
        "distance_metric": "TripletDistanceMetric.EUCLIDEAN",
        "triplet_margin": 0.5
    }
    

Training Hyperparameters

Non-Default Hyperparameters

  • per_device_train_batch_size: 4
  • per_device_eval_batch_size: 4
  • num_train_epochs: 5
  • fp16: True
  • multi_dataset_batch_sampler: round_robin

All Hyperparameters

  • overwrite_output_dir: False
  • do_predict: False
  • eval_strategy: no
  • prediction_loss_only: True
  • per_device_train_batch_size: 4
  • per_device_eval_batch_size: 4
  • per_gpu_train_batch_size: None
  • per_gpu_eval_batch_size: None
  • gradient_accumulation_steps: 1
  • eval_accumulation_steps: None
  • torch_empty_cache_steps: None
  • learning_rate: 5e-05
  • weight_decay: 0.0
  • adam_beta1: 0.9
  • adam_beta2: 0.999
  • adam_epsilon: 1e-08
  • max_grad_norm: 1
  • num_train_epochs: 5
  • max_steps: -1
  • lr_scheduler_type: linear
  • lr_scheduler_kwargs: {}
  • warmup_ratio: 0.0
  • warmup_steps: 0
  • log_level: passive
  • log_level_replica: warning
  • log_on_each_node: True
  • logging_nan_inf_filter: True
  • save_safetensors: True
  • save_on_each_node: False
  • save_only_model: False
  • restore_callback_states_from_checkpoint: False
  • no_cuda: False
  • use_cpu: False
  • use_mps_device: False
  • seed: 42
  • data_seed: None
  • jit_mode_eval: False
  • use_ipex: False
  • bf16: False
  • fp16: True
  • fp16_opt_level: O1
  • half_precision_backend: auto
  • bf16_full_eval: False
  • fp16_full_eval: False
  • tf32: None
  • local_rank: 0
  • ddp_backend: None
  • tpu_num_cores: None
  • tpu_metrics_debug: False
  • debug: []
  • dataloader_drop_last: False
  • dataloader_num_workers: 0
  • dataloader_prefetch_factor: None
  • past_index: -1
  • disable_tqdm: False
  • remove_unused_columns: True
  • label_names: None
  • load_best_model_at_end: False
  • ignore_data_skip: False
  • fsdp: []
  • fsdp_min_num_params: 0
  • fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
  • fsdp_transformer_layer_cls_to_wrap: None
  • accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
  • deepspeed: None
  • label_smoothing_factor: 0.0
  • optim: adamw_torch
  • optim_args: None
  • adafactor: False
  • group_by_length: False
  • length_column_name: length
  • ddp_find_unused_parameters: None
  • ddp_bucket_cap_mb: None
  • ddp_broadcast_buffers: False
  • dataloader_pin_memory: True
  • dataloader_persistent_workers: False
  • skip_memory_metrics: True
  • use_legacy_prediction_loop: False
  • push_to_hub: False
  • resume_from_checkpoint: None
  • hub_model_id: None
  • hub_strategy: every_save
  • hub_private_repo: False
  • hub_always_push: False
  • gradient_checkpointing: False
  • gradient_checkpointing_kwargs: None
  • include_inputs_for_metrics: False
  • eval_do_concat_batches: True
  • fp16_backend: auto
  • push_to_hub_model_id: None
  • push_to_hub_organization: None
  • mp_parameters:
  • auto_find_batch_size: False
  • full_determinism: False
  • torchdynamo: None
  • ray_scope: last
  • ddp_timeout: 1800
  • torch_compile: False
  • torch_compile_backend: None
  • torch_compile_mode: None
  • dispatch_batches: None
  • split_batches: None
  • include_tokens_per_second: False
  • include_num_input_tokens_seen: False
  • neftune_noise_alpha: None
  • optim_target_modules: None
  • batch_eval_metrics: False
  • eval_on_start: False
  • use_liger_kernel: False
  • eval_use_gather_object: False
  • prompts: None
  • batch_sampler: batch_sampler
  • multi_dataset_batch_sampler: round_robin

Training Logs

EpochStepTraining Loss
0.6255000.4831
1.2510000.4388
1.87515000.372
2.520000.2571
3.12525000.2126
3.7530000.1386
4.37535000.1184
5.040000.0845

Framework Versions

  • Python: 3.10.12
  • Sentence Transformers: 3.3.1
  • Transformers: 4.45.2
  • PyTorch: 2.11.0+cu128
  • Accelerate: 1.14.0
  • Datasets: 5.0.1
  • Tokenizers: 0.20.3

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

TripletLoss

@misc{hermans2017defense,
    title={In Defense of the Triplet Loss for Person Re-Identification},
    author={Alexander Hermans and Lucas Beyer and Bastian Leibe},
    year={2017},
    eprint={1703.07737},
    archivePrefix={arXiv},
    primaryClass={cs.CV}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
BertModel
Ревизия весов
c72b050

0 моделей