SentenceTransformer based on BAAI/bge-m3

This is a sentence-transformers model finetuned from BAAI/bge-m3. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for retrieval.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: BAAI/bge-m3
• Maximum Sequence Length: 8192 tokens
• Output Dimensionality: 1024 dimensions
• Similarity Function: Cosine Similarity
• Supported Modality: Text

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'transformer_task': 'feature-extraction', 'modality_config': {'text': {'method': 'forward', 'method_output_name': 'last_hidden_state'}}, 'module_output_name': 'token_embeddings', 'architecture': 'XLMRobertaModel'})
  (1): Pooling({'embedding_dimension': 1024, 'pooling_mode': 'cls', 'include_prompt': True})
  (2): Normalize({})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    "Devlet Denetleme Kurulu, Cumhurbaşkanının talimatı olmadan yargı organlarında inceleme başlatmıştır. Bu durum Anayasanın 108. Maddesi'ne uygun mudur?",
    'G. Cumhurbaşkanı Genel Sekreterliği \n\nMadde 107 – (Mülga: 21/1/2017-6771/16 md.)\n\n \n\nH. Devlet Denetleme Kurulu\n\nMadde 108 – İdarenin hukuka uygunluğunun, düzenli ve verimli şekilde yürütülmesinin ve geliştirilmesinin sağlanması amacıyla, Cumhurbaşkanlığına bağlı olarak kurulan Devlet Denetleme Kurulu, Cumhurbaşkanının isteği üzerine, tüm kamu kurum ve kuruluşlarında ve sermayesinin yarısından fazlasına bu kurum ve kuruluşların katıldığı her türlü kuruluşta, kamu kurumu niteliğinde olan meslek kuruluşlarında, her düzeydeki işçi ve işveren meslek kuruluşlarında, kamuya yararlı derneklerle vakıflarda, her türlü idari soruşturma, inceleme, araştırma ve denetlemeleri yapar. [50]\n\n(…) [51] yargı organları, Devlet Denetleme Kurulunun görev alanı dışındadır.\n\nDevlet Denetleme Kurulunun Başkan ve üyeleri, Cumhurbaşkanınca atanır. [52]\n\nDevlet Denetleme Kurulunun işleyişi, üyelerinin görev süresi ve diğer özlük işleri, Cumhurbaşkanlığı kararnamesiyle düzenlenir. [53]\n\n \n\nII. Bakanlar Kurulu\n\n \n\nA. Kuruluş\n\nMadde 109 – (Mülga: 21/1/2017-6771/16 md.)\n\n \n\nB. Göreve başlama ve güvenoyu\n\nMadde 110 – (Mülga: 21/1/2017-6771/16 md.)\n\n \n\nC. Görev sırasında güvenoyu\n\nMadde 111 – (Mülga: 21/1/2017-6771/16 md.)\n\n \n\nD. Görev ve siyasi sorumluluk\n\nMadde 112 – (Mülga: 21/1/2017-6771/16 md.)\n\n \n\nE. Bakanlıkların kurulması ve bakanlar\n\nMadde 113 – (Mülga: 21/1/2017-6771/16 md.)',
    'd) (Ek: 20/7/2017-7035/15 md.) Olayın daha fazla araştırılmasına ihtiyaç duyulmadan davanın reddine karar verilmesi veya güvenlik tedbirlerine ilişkin hatalı kararın düzeltilmesi gereken hâllerde hukuka aykırılığın düzeltilerek istinaf başvurusunun esastan reddine,\n\ne) İlk derece mahkemesinin kararında 289 uncu maddenin birinci fıkrasının (g) ve (h) bentleri hariç diğer bentlerinde belirtilen bir hukuka aykırılık nedeninin bulunması hâlinde hükmün bozulmasına ve dosyanın yeniden incelenmek ve hükmolunmak üzere hükmü bozulan ilk derece mahkemesine veya kendi yargı çevresinde uygun göreceği diğer bir ilk derece mahkemesine gönderilmesine,[110]\n\nf) (Ek:17/10/2019-7188/27 md.) Soruşturma veya kovuşturma şartının gerçekleşmediğinin veya önödeme ve uzlaştırma usulünün uygulanmadığının anlaşılması ya da davanın ilk derece mahkemesinde görülmekte olan bir dava ile birlikte yürütülmesinin zorunlu olması hâlinde hükmün bozulmasına ve dosyanın yeniden incelenmek ve hükmolunmak üzere hükmü bozulan ilk derece mahkemesine veya kendi yargı çevresinde uygun göreceği diğer bir ilk derece mahkemesine gönderilmesine,\n\ng) Diğer hâllerde, gerekli tedbirleri aldıktan sonra davanın yeniden görülmesine ve duruşma hazırlığı işlemlerine başlanmasına,\n\nKarar verir.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities)
# tensor([[ 1.0000,  0.5831,  0.1931],
#         [ 0.5831,  1.0000, -0.0467],
#         [ 0.1931, -0.0467,  1.0000]])

Training Details

Training Dataset

Unnamed Dataset

• Size: 12,686 training samples

• Columns: anchor, positive, and negative

• Approximate statistics based on the first 1000 samples:

  	anchor	positive	negative
  type	string	string	string
  details	min: 5 tokensmean: 21.66 tokensmax: 91 tokens	min: 42 tokensmean: 297.82 tokensmax: 474 tokens	min: 55 tokensmean: 309.12 tokensmax: 474 tokens

• Samples:

  anchor	positive	negative
  Sanık, bir tatil köyünde izinsiz olarak konaklayarak hırsızlık yapmıştır. sanığın durumu nasıl değerlendirilir ve cezai yaptırımları nelerdir	ONUNCU BÖLÜM
  Malvarlığına Karşı Suçlar
  Hırsızlık
  MADDE 141. - (1) Zilyedinin rızası olmadan başkasına ait taşınır bir malı, kendisine veya başkasına bir yarar sağlamak maksadıyla bulunduğu yerden alan kimseye bir yıldan üç yıla kadar hapis cezası verilir.
  (2) Ekonomik bir değer taşıyan her türlü enerji de, taşınır mal sayılır.
  Nitelikli hırsızlık
  MADDE 142. - (1) Hırsızlık suçunun;
  a) Kime ait olursa olsun kamu kurum ve kuruluşlarında veya ibadete ayrılmış yerlerde bulunan ya da kamu yararına veya hizmetine tahsis edilen eşya hakkında,
  b) Herkesin girebileceği bir yerde bırakılmakla birlikte kilitlenmek suretiyle ya da bina veya eklentileri içinde muhafaza altına alınmış olan eşya hakkında,
  c) Halkın yararlanmasına sunulmuş ulaşım aracı içinde veya bunların belli varış veya kalkış yerlerinde bulunan eşya hakkında,
  d) Bir afet veya genel bir felâketin meydana getirebileceği zararları önlemek veya hafifletmek maksadıyla hazırlanan eşya hakkında,
  e) Adet veya tahsis veya kullanımları gere...	hakkında, onun diğer eşyasına ilişkin sorumluluk kuralı uygulanır.

  3. Sorumluluğun kalkması MADDE 578- Konaklayan zararını öğrenir öğrenmez işletene bildirmezse, istem hakkını kaybeder. İşleten böyle bir sorumluluk üstlenmediğini veya sorumluluğu bu Kanunda gösterilmemiş olan bir koşula bağladığını, herhangi bir yolla ilan etse bile, sorumluluktan kurtulamaz. II. Garaj, otopark ve benzeri yerleri işletenlerin sorumluluğu MADDE 579- Garaj, otopark ve benzeri yerleri işletenler, kendilerine bırakılan veya çalışanlarınca kabul edilen hayvan, at arabası, bunlara ait koşum ve benzeri eşya ile motorlu taşıt ve eklentilerinin yok olmasından, zarara uğramasından veya çalınmasından sorumludurlar. Ancak işletenler, zararın saklatan veya ziyaretçisi ya da beraberinde veya hizmetinde bulunan kimseye yükletilebilecek kusurdan, mücbir sebepten ya da eşyanın niteliğinden doğduğunu ispat etmekle, bu sorumluktan kurtulurlar. Ancak, garaj, otopark ve benzeri yerleri işletenlerin sorumluluğu, kendilerine... | | Cumhurbaşkanlığı Genel Sekreterliği, Cumhurbaşkanının emir ve talimatlarına uymamıştır. Bu durum Anayasanın 107. Maddesi'ne uygun mudur? | J. Kanunsuz emirMadde 137 – Kamu hizmetlerinde herhangi bir sıfat ve suretle çalışmakta olan kimse, üstünden aldığı emri, yönetmelik, Cumhurbaşkanlığı kararnamesi, kanun veya Anayasa hükümlerine aykırı görürse, yerine getirmez ve bu aykırılığı o emri verene bildirir. Ancak, üstü emrinde ısrar eder ve bu emrini yazı ile yenilerse, emir yerine getirilir; bu halde, emri yerine getiren sorumlu olmaz. [75]Konusu suç teşkil eden emir, hiçbir suretle yerine getirilmez; yerine getiren kimse sorumluluktan kurtulamaz.Askeri hizmetlerin görülmesi ve acele hallerde kamu düzeni ve kamu güvenliğinin korunması için kanunla gösterilen istisnalar saklıdır. | e) Başvurunun reddedilmesi üzerine itiraz edilen başvuru sayısı ile bunların sonuçlarını,

  Gösterir bir rapor hazırlayarak, bu raporları her yıl Şubat ayının sonuna kadar Bilgi Edinme Değerlendirme Kuruluna gönderirler. Bağlı, ilgili ve ilişkili kamu kurum ve kuruluşları raporlarını bağlı, ilgili ya da ilişkili oldukları bakanlık vasıtasıyla iletirler. Kurul, hazırlayacağı genel raporu, söz konusu kurum ve kuruluşların raporları ile birlikte her yıl Nisan ayının sonuna kadar Türkiye Büyük Millet Meclisine gönderir. Bu raporlar takip eden iki ay içinde Türkiye Büyük Millet Meclisi Başkanlığınca kamuoyuna açıklanır.

  Yönetmelik[4]

  Madde 31- Bu Kanunun uygulanması ile ilgili esas ve usullerin belirlenmesine ilişkin yönetmelik, Kanunun yayımını takip eden altı ay içinde Cumhurbaşkanlığı tarafından hazırlanarak (…)4 yürürlüğe konulur.

  Yürürlük

  Madde 32- Bu Kanun yayımı tarihinden itibaren altı ay sonra yürürlüğe girer.

  Yürütme[5]

  Madde 33- Bu Kanun hükümlerini Cumhurbaşkanı yü... | | Anayasa Mahkemesi üyeleri yükseköğrenim görmemiş olabilir mi? | Cumhurbaşkanı; üç üyeyi Yargıtay, iki üyeyi Danıştay (…)[78] genel kurullarınca kendi başkan ve üyeleri arasından her boş yer için gösterecekleri üçer aday içinden; en az ikisi hukukçu olmak üzere üç üyeyi Yükseköğretim Kurulunun kendi üyesi olmayan yükseköğretim kurumlarının hukuk, iktisat ve siyasal bilimler dallarında görev yapan öğretim üyeleri arasından göstereceği üçer aday içinden; dört üyeyi üst kademe yöneticileri, serbest avukatlar, birinci sınıf hâkim ve savcılar ile en az beş yıl raportörlük yapmış Anayasa Mahkemesi raportörleri arasından seçer.

  Yargıtay, Danıştay (…)[79] ve Sayıştay genel kurulları ile Yükseköğretim Kurulundan Anayasa Mahkemesi üyeliğine aday göstermek için yapılacak seçimlerde, her boş üyelik için, (…)[80] en fazla oy alan üç kişi aday gösterilmiş sayılır. Baro başkanlarının serbest avukatlar arasından gösterecekleri üç aday için yapılacak seçimde (…)[81] en fazla oy alan üç kişi aday gösterilmiş sayılır.

  Anayasa Mahkemesine üye seçilebilmek için, kırkb... | BİRİNCİ KİTAP Genel Hükümler ALTINCI KISIM Savunma

  BİRİNCİ BÖLÜM

  Müdafi Seçimi, Görevlendirilmesi, Görev ve Yetkileri

  Şüphelinin veya sanığın müdafi seçimi

  Madde 149 – (1) Şüpheli veya sanık, soruşturma ve kovuşturmanın her aşamasında bir veya birden fazla müdafiin yardımından yararlanabilir; kanunî temsilcisi varsa, o da şüpheliye veya sanığa müdafi seçebilir.

  (2) Soruşturma evresinde, ifade almada en çok üç avukat hazır bulunabilir. (Ek cümle: 3/10/2016-KHK-676/1 md.; Aynen kabul: 1/2/2018-7070/1 md.) Örgüt faaliyeti çerçevesinde işlenen suçlar bakımından yürütülen kovuşturmalarda, duruşmada en çok üç avukat hazır bulunabilir.

  (3) Soruşturma ve kovuşturma evrelerinin her aşamasında avukatın, şüpheli veya sanıkla görüşme, ifade alma veya sorgu süresince yanında olma ve hukukî yardımda bulunma hakkı engellenemez, kısıtlanamaz.

  Müdafiin görevlendirilmesi

  Madde 150 – (Değişik: 6/12/2006 – 5560/21 md.)

  (1) Şüpheli veya sanıktan kendisine bir müdafi seçmesi istenir. Şüpheli ... |

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "gather_across_devices": false,
      "directions": [
          "query_to_doc"
      ],
      "partition_mode": "joint",
      "hardness_mode": null,
      "hardness_strength": 0.0
  }
  

Evaluation Dataset

Unnamed Dataset

• Size: 668 evaluation samples

• Columns: anchor, positive, and negative

• Approximate statistics based on the first 668 samples:

  	anchor	positive	negative
  type	string	string	string
  details	min: 5 tokensmean: 22.32 tokensmax: 62 tokens	min: 66 tokensmean: 300.85 tokensmax: 474 tokens	min: 55 tokensmean: 306.24 tokensmax: 474 tokens

• Samples:

  anchor	positive	negative
  Sigorta yapılmadan çalıştım. i̇şverenle nasıl iletişime geçmeliyim?	İşverenler çalıştırmakla yükümlü oldukları işçileri Türkiye İş Kurumu aracılığı ile sağlarlar. Bu kapsamda çalıştırılacak işçilerin nitelikleri, hangi işlerde çalıştırılabilecekleri, bunların işyerlerinde genel hükümler dışında bağlı olacakları özel çalışma ile mesleğe yöneltilmeleri, mesleki yönden işverence nasıl işe alınacakları, Aile ve Sosyal Politikalar Bakanlığının görüşü alınarak Çalışma ve Sosyal Güvenlik Bakanlığınca çıkarılacak yönetmelikle düzenlenir.[12]
  Yer altı ve su altı işlerinde engelli işçi çalıştırılamaz ve yukarıdaki hükümler uyarınca işyerlerindeki işçi sayısının tespitinde yer altı ve su altı işlerinde çalışanlar hesaba katılmaz.
  Bir işyerinden malulen ayrılmak zorunda kalıp da sonradan maluliyeti ortadan kalkan işçiler eski işyerlerinde tekrar işe alınmalarını istedikleri takdirde, işveren bunları eski işleri veya benzeri işlerde boş yer varsa derhal, yoksa boşalacak ilk işe başka isteklilere tercih ederek, o andaki şartlarla işe almak zorundadır. Aranan şartlar...	psikolojik ve cinsel tacize uğramamaları ve bu tür tacizlere uğramış olanların daha fazla zarar
  görmemeleri için gerekli önlemleri almakla yükümlüdür.
  İşveren, işyerinde iş sağlığı ve güvenliğinin sağlanması için gerekli her türlü önlemi
  almak, araç ve gereçleri noksansız bulundurmak; işçiler de iş sağlığı ve güvenliği konusunda
  alınan her türlü önleme uymakla yükümlüdür.
  İşverenin yukarıdaki hükümler dâhil, kanuna ve sözleşmeye aykırı davranışı nedeniyle
  işçinin ölümü, vücut bütünlüğünün zedelenmesi veya kişilik haklarının ihlaline bağlı
  zararların tazmini, sözleşmeye aykırılıktan doğan sorumluluk hükümlerine tabidir.

  2. Ev düzeni içinde çalışmada MADDE 418- İşçi işverenle birlikte ev düzeni içinde yaşıyorsa işveren, yeterli gıda ve uygun bir barınak sağlamakla yükümlüdür. İşçi, kusuru olmaksızın hastalık veya kaza gibi sebeplerle işgörme edimini yerine getiremezse işveren, sosyal sigortalar yardımlarından yararlanamayan, bir yıla kadar çalışmış işçinin bakımını ve tedavisini, iki haf... | | Sigorta sözleşmesi nedir? | İKİNCİ KISIM Özel Borç İlişkileri ALTINCI BÖLÜM Hizmet Sözleşmeleri BİRİNCİ AYIRIM Genel Hizmet Sözleşmesi A. Tanımı MADDE 393- Hizmet sözleşmesi, işçinin işverene bağımlı olarak belirli veya belirli olmayan süreyle işgörmeyi ve işverenin de ona zamana veya yapılan işe göre ücret ödemeyi üstlendiği sözleşmedir. İşçinin işverene bir hizmeti kısmi süreli olarak düzenli biçimde yerine getirmeyi üstlendiği sözleşmeler de hizmet sözleşmesidir. Genel hizmet sözleşmesine ilişkin hükümler, kıyas yoluyla çıraklık sözleşmesine de uygulanır; özel kanun hükümleri saklıdır. B. Kurulması MADDE 394- Hizmet sözleşmesi, kanunda aksine bir hüküm olmadıkça özel bir şekle bağlı değildir. Bir kimse, durumun gereklerine göre ancak ücret karşılığında yapılabilecek bir işi belli bir zaman için görür ve bu iş de işveren tarafından kabul edilirse, aralarında hizmet sözleşmesi kurulmuş sayılır. Geçersizliği sonradan anlaşılan hizmet sözleşmesi, hizmet ilişkisi ortadan kaldırılıncaya kadar, geçerli bir hizmet söz... | Sürekli ve süreksiz işlerdeki iş sözleşmeleri Madde 10 - Nitelikleri bakımından en çok otuz iş günü süren işlere süreksiz iş, bundan fazla devam edenlere sürekli iş denir. Bu Kanunun 3, 8, 12, 13, 14, 15, 17, 23, 24, 25, 26, 27, 28, 29, 30, 31, 34, 53, 54, 55, 56, 57, 58, 59, 75, 80 ve geçici 6 ncı maddeleri süreksiz işlerde yapılan iş sözleşmelerinde uygulanmaz. Süreksiz işlerde, bu maddelerde düzenlenen konularda Borçlar Kanunu hükümleri uygulanır.

  Belirli ve belirsiz süreli iş sözleşmesi Madde 11 - İş ilişkisinin bir süreye bağlı olarak yapılmadığı halde sözleşme belirsiz süreli sayılır. Belirli süreli işlerde veya belli bir işin tamamlanması veya belirli bir olgunun ortaya çıkması gibi objektif koşullara bağlı olarak işveren ile işçi arasında yazılı şekilde yapılan iş sözleşmesi belirli süreli iş sözleşmesidir. Belirli süreli iş sözleşmesi, esaslı bir neden olmadıkça, birden fazla üst üste (zincirleme) yapılamaz. Aksi halde iş sözleşmesi başlangıçtan itibaren belirsiz süreli kabu... | | Kişisel verilerin yok edilmesi ne zaman yapılır? | Kişisel verilerin kaydedilmesi MADDE 135. - (1) Hukuka aykırı olarak kişisel verileri kaydeden kimseye altı aydan üç yıla kadar hapis cezası verilir. (2) Kişilerin siyasî, felsefî veya dinî görüşlerine, ırkî kökenlerine; hukuka aykırı olarak ahlâkî eğilimlerine, cinsel yaşamlarına, sağlık durumlarına veya sendikal bağlantılarına ilişkin bilgileri kişisel veri olarak kaydeden kimse, yukarıdaki fıkra hükmüne göre cezalandırılır. Verileri hukuka aykırı olarak verme veya ele geçirme MADDE 136. - (1) Kişisel verileri, hukuka aykırı olarak bir başkasına veren, yayan veya ele geçiren kişi, bir yıldan dört yıla kadar hapis cezası ile cezalandırılır. Nitelikli hâller MADDE 137. - (1) Yukarıdaki maddelerde tanımlanan suçların; a) Kamu görevlisi tarafından ve görevinin verdiği yetki kötüye kullanılmak suretiyle, b) Belli bir meslek ve sanatın sağladığı kolaylıktan yararlanmak suretiyle, İşlenmesi hâlinde, verilecek ceza yarı oranında artırılır. Verileri yok etmeme MADDE 138. - (1) Kanunların beli... | getirmekle yükümlüdür. 3. Kişisel verilerin kullanılmasında MADDE 419- İşveren, işçiye ait kişisel verileri, ancak işçinin işe yatkınlığıyla ilgili veya hizmet sözleşmesinin ifası için zorunlu olduğu ölçüde kullanabilir. Özel kanun hükümleri saklıdır. V. Ceza koşulu ve ibra MADDE 420- Hizmet sözleşmelerine sadece işçi aleyhine konulan ceza koşulu geçersizdir. İşçinin işverenden alacağına ilişkin ibra sözleşmesinin yazılı olması, ibra tarihi itibarıyla sözleşmenin sona ermesinden başlayarak en az bir aylık sürenin geçmiş bulunması, ibra konusu alacağın türünün ve miktarının açıkça belirtilmesi, ödemenin hak tutarına nazaran noksansız ve banka aracılığıyla yapılması şarttır. Bu unsurları taşımayan ibra sözleşmeleri veya ibraname kesin olarak hükümsüzdür. Hakkın gerçek tutarda ödendiğini ihtiva etmeyen ibra sözleşmeleri veya ibra beyanını muhtevi diğer ödeme belgeleri, içerdikleri miktarla sınırlı olarak makbuz hükmündedir. Bu hâlde dahi, ödemelerin banka aracılığıyla yapılmış olması zoru... |

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "gather_across_devices": false,
      "directions": [
          "query_to_doc"
      ],
      "partition_mode": "joint",
      "hardness_mode": null,
      "hardness_strength": 0.0
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• per_device_train_batch_size: 4
• num_train_epochs: 2
• learning_rate: 1e-05
• warmup_steps: 0.1
• gradient_accumulation_steps: 8
• fp16: True
• gradient_checkpointing: True
• load_best_model_at_end: True

All Hyperparameters

• per_device_train_batch_size: 4
• num_train_epochs: 2
• max_steps: -1
• learning_rate: 1e-05
• lr_scheduler_type: linear
• lr_scheduler_kwargs: None
• warmup_steps: 0.1
• optim: adamw_torch
• optim_args: None
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• optim_target_modules: None
• gradient_accumulation_steps: 8
• average_tokens_across_devices: True
• max_grad_norm: 1.0
• label_smoothing_factor: 0.0
• bf16: False
• fp16: True
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• gradient_checkpointing: True
• gradient_checkpointing_kwargs: None
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• use_liger_kernel: False
• liger_kernel_config: None
• use_cache: False
• neftune_noise_alpha: None
• torch_empty_cache_steps: None
• auto_find_batch_size: False
• log_on_each_node: True
• logging_nan_inf_filter: True
• include_num_input_tokens_seen: no
• log_level: passive
• log_level_replica: warning
• disable_tqdm: False
• project: huggingface
• trackio_space_id: trackio
• per_device_eval_batch_size: 8
• prediction_loss_only: True
• eval_on_start: False
• eval_do_concat_batches: True
• eval_use_gather_object: False
• eval_accumulation_steps: None
• include_for_metrics: []
• batch_eval_metrics: False
• save_only_model: False
• save_on_each_node: False
• enable_jit_checkpoint: False
• push_to_hub: False
• hub_private_repo: None
• hub_model_id: None
• hub_strategy: every_save
• hub_always_push: False
• hub_revision: None
• load_best_model_at_end: True
• ignore_data_skip: False
• restore_callback_states_from_checkpoint: False
• full_determinism: False
• seed: 42
• data_seed: None
• use_cpu: False
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• parallelism_config: None
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• dataloader_prefetch_factor: None
• remove_unused_columns: True
• label_names: None
• train_sampling_strategy: random
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• ddp_backend: None
• ddp_timeout: 1800
• fsdp: []
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• deepspeed: None
• debug: []
• skip_memory_metrics: True
• do_predict: False
• resume_from_checkpoint: None
• warmup_ratio: None
• local_rank: -1
• prompts: None
• batch_sampler: batch_sampler
• multi_dataset_batch_sampler: proportional
• router_mapping: {}
• learning_rate_mapping: {}

Training Logs

• The bold row denotes the saved checkpoint.

Training Time

• Training: 51.3 minutes
• Evaluation: 18.4 seconds
• Total: 51.6 minutes

Framework Versions

• Python: 3.11.9
• Sentence Transformers: 5.4.1
• Transformers: 5.5.4
• PyTorch: 2.6.0+cu124
• Accelerate: 1.12.0
• Datasets: 4.8.4
• Tokenizers: 0.22.2

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{oord2019representationlearningcontrastivepredictive,
      title={Representation Learning with Contrastive Predictive Coding},
      author={Aaron van den Oord and Yazhe Li and Oriol Vinyals},
      year={2019},
      eprint={1807.03748},
      archivePrefix={arXiv},
      primaryClass={cs.LG},
      url={https://arxiv.org/abs/1807.03748},
}