SentenceTransformer based on sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2

This is a sentence-transformers model finetuned from sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. It maps sentences & paragraphs to a 384-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2
• Maximum Sequence Length: 128 tokens
• Output Dimensionality: 384 dimensions
• Similarity Function: Cosine Similarity

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 128, 'do_lower_case': False, 'architecture': 'BertModel'})
  (1): Pooling({'word_embedding_dimension': 384, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("ntAnh-dev/paraphrase-multilingual-MiniLM-L12-v2-bk-quyche")
# Run inference
sentences = [
    'Sinh viên khi đăng ký học phần thì được gì?',
    'Quy chế đào tạo đại học bách khoa Hà Nội 2025\nCHƯƠNG V\nĐÀO TẠO TIẾN SĨ\nĐiều 38. Học phần bổ sung và học phần tiến sĩ\n1. Các học phần bổ sung nhằm hỗ trợ NCS có đủ kiến thức, trình độ chuyên môn để\nthực hiện đề tài nghiên cứu.\na) Đối với NCS đã có bằng thạc sĩ: khối lượng kiến thức cần phải học bổ sung được\nxác định căn cứ vào các học phần đã tích lũy ở trình độ thạc sĩ, kiến thức cần cập nhật, bổ\nsung và yêu cầu của lĩnh vực, đề tài nghiên cứu. Khối lượng kiến thức tối thiểu 4 TC tương\nứng với 2 học phần.\nb) Đối với NCS chưa có bằng thạc sĩ: các học phần bổ sung bao gồm toàn bộ học\nphần của CTĐT thạc sĩ theo định hướng nghiên cứu thuộc ngành tương ứng trừ luận văn\nthạc sĩ.\nc) NCS đăng ký các học phần bổ sung thuộc chương trình (đại học, thạc sĩ) nào thì sẽ\nhọc theo lớp học phần thuộc chương trình đó.\n2. Các học phần tiến sĩ nhằm nâng cao trình độ lý thuyết, cập nhật các kiến thức mới\nnhất của lĩnh vực chuyên môn, phương pháp nghiên cứu và khả năng ứng dụng các phương\npháp nghiên cứu trong lĩnh vực, đề tài nghiên cứu.\na) Mỗi NCS phải hoàn thành tối thiểu 8 TC tương ứng 3-4 học phần tiến sĩ.\nb) NCS phải thực hiện quy trình đăng ký học từ tài khoản học tập trong thời hạn 4\ntuần đầu của học kỳ. Học phần tiến sĩ được tổ chức giảng dạy cho lớp có 5 NCS trở lên;\ntrong trường hợp dưới 5 NCS, học phần được thực hiện dưới hình thức hướng dẫn, làm đồ\nán, khoá luận hoặc tiểu luận để thay thế giờ lên lớp.\n3. NCS phải hoàn thành tất cả các học phần bổ sung và các học phần tiến sĩ đạt từ\nđiểm C trở lên theo yêu cầu của chương trình trong vòng 2 năm kể từ khi có quyết định\ncông nhận NCS. Trong trường hợp quá thời hạn 2 năm nhưng không thể hoàn thành, NCS\ncó thể đề nghị xin gia hạn thời gian thực hiện trong khoảng thời gian 6 tháng kế tiếp; quá\nthời hạn trên vẫn không thể hoàn thành thì bị xem xét cho thôi học.\n\n',
    'Quy chế Công tác sinh viên Đại học Bách Khoa Hà Nội\nChương III NỘI DUNG CÔNG TÁC SINH VIÊN\nĐiều 8. Quản lý thông tin sinh viên\n2. Hồ sơ quản lý quá trình học tập, rèn luyện của sinh viên gồm:\na) Kết quả học tập (điểm quá trình, điểm kết thúc học phần, kết quả thi hoặc bảo\nvệ đồ án tốt nghiệp/khoá luận tốt nghiệp) và kết quả rèn luyện (điểm rèn luyện theo\nhọc kỳ, năm học, khoá học);\nb) Kết quả các hoạt động xã hội đã tham gia trong từng học kỳ, năm học;\nc) Hình thức khen thưởng (nếu có) mà sinh viên đạt được trong học tập, nghiên\ncứu khoa học, hoạt động phong trào, đoàn thể;\nd) Hình thức kỷ luật (nếu có);\nđ) Thông tin thay đổi (nếu có) do chuyển chương trình đào tạo, chuyển ngành\nhọc, chuyển trường, nghỉ học có thời hạn, thôi học, tốt nghiệp;\ne) Địa chỉ nơi cư trú;\ng) Tình trạng đóng học phí;\nh) Thông tin về việc tham gia bảo hiểm y tế;\ni) Thông tin kết quả khám sức khỏe cho sinh viên do Đại học tổ chức;\nk) Các học bổng đã được nhận.\n',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 384]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities)
# tensor([[ 1.0000,  0.3737,  0.1972],
#         [ 0.3737,  1.0000, -0.0715],
#         [ 0.1972, -0.0715,  1.0000]])

Evaluation

Metrics

Information Retrieval

• Dataset: paraphrase-multilingual-MiniLM-L12-v2-251218
• Evaluated with InformationRetrievalEvaluator

Information Retrieval

• Dataset: paraphrase-multilingual-MiniLM-L12-v2-251218
• Evaluated with InformationRetrievalEvaluator

Training Details

Training Dataset

Unnamed Dataset

• Size: 4,485 training samples
• Columns: anchor and positive
• Approximate statistics based on the first 1000 samples:

  	anchor	positive
  type	string	string
  details	min: 11 tokensmean: 22.66 tokensmax: 46 tokens	min: 128 tokensmean: 128.0 tokensmax: 128 tokens

• Samples:

  anchor	positive
  Tại trường có bao nhiêu loại học bổng KKHT(khuyến khích học tập)?	Quy định xét cấp học bổng khuyến khích học tập tại Đại học Bách khoa Hà NộiĐiều 2. Các quy định chung2. Học bổng KKHT nhằm khuyến khích sinh viên nâng cao thành tích học tập vàrèn luyện tại ĐHBK Hà Nội.3. Quỹ học bổng KKHT hình thành từ nguồn học phí và bằng 8% (tám phầntrăm) học phí của học kỳ lấy điểm xét cấp học bổng.4. Học bổng KKHT có 3 mức:a) Học bổng loại khá (loại C): Bằng tổng học phí của tất cả các học phần tínhđiểm trung bình học kỳ (GPA).b) Học bổng loại giỏi (loại B): Bằng 1,2 lần mức học bổng loại khá.c) Học bổng loại xuất sắc (loại A): Bằng 1,5 lần mức học bổng loại khá.Điều 3. Tiêu chuẩn xét cấp học bổng1. Học bổng loại C: GPA ≥ 2,5 và điểm rèn luyện học kỳ ≥ 65 điểm.2. Học bổng loại B: GPA ≥ 3,2 và điểm rèn luyện học kỳ ≥ 80 điểm.3. Học bổng loại A: GPA ≥ 3,6 và điểm rèn luyện học kỳ ≥ 90 điểm.Điều 4. Nguyên tắc xét cấp học bổng1. Sử dụng kết quả học tập và rèn luyện của học kỳ liền trước để xét cấp họcbổng cho học kỳ sau.2. Học bổng được xét theo ...
  Tại trường có bao nhiêu loại học bổng KKHT(khuyến khích học tập)?	Quy định xét cấp học bổng khuyến khích học tập tại Đại học Bách khoa Hà NộiĐiều 1. Phạm vi điều chỉnh và đối tượng áp dụng1. Văn bản này quy định về nguyên tắc, tiêu chuẩn xét duyệt và cấp học bổng chosinh viên đại học hình thức đào tạo chính quy tại Đại học Bách khoa Hà Nội (sau đâyviết tắt là ĐHBK Hà N ội), căn cứ các quy định liên quan tại Nghị định số84/2020/NĐ-CP ngày 17/7/2020 của Chính phủ và Quy chế Quản lý tài chính của Đạihọc Bách khoa Hà Nội được ban hành theo Nghị quyết số 20/NQ-ĐHBK ngày16/3/2023 của Hội đồng Đại học, Đại học Bách khoa Hà Nội.2. Quy định này áp dụng đối với sinh viên đại học hình thức đào tạo chính quyvăn bằng thứ nhất của ĐHBK Hà Nội.Điều 2. Các quy định chung1. Học bổng khuyến khích học tập (KKHT) cấp cho các sinh viên được lựa chọnbởi Hội đồng xét cấp học bổng ĐHBK Hà Nội theo từng học kỳ chính của năm học ,căn cứ vào thành tích học tập và rèn luyện của sinh viên trong học kỳ chính liền trướcđó.
  trường gồm mấy loại học bổng khuyến khích học tập ?	Quy định xét cấp học bổng khuyến khích học tập tại Đại học Bách khoa Hà NộiĐiều 4. Nguyên tắc xét cấp học bổng3. Không xét cấp học bổng đối với sinh viên thuộc một trong các trường hợp sau:a) Chịu hình thức kỷ luật từ mức khiển trách trở lên tại thời điểm xét học bổng;b) Đăng ký học ít hơn 1 5 tín chỉ (kể cả các học phần không tính điểm GPA) tạihọc kỳ lấy điểm xét, cấp học bổng, ngoại trừ học kỳ 1 năm học thứ nhất;c) Đăng ký học ít hơn 6 tín chỉ (kể cả các học phần không tính điểm GPA) tạihọc kỳ cấp học bổng;d) Học quá thời gian theo kế hoạch học tập chuẩn của chương trình đào tạo;đ) Học chương trình đào tạo do trường đối tác nước ngoài cấp một văn bằng tốtnghiệp duy nhất;Điều 5. Thời gian công bố kết quả xét duyệt và cấp học bổng1. Danh sách sinh viên được cấp học bổng và mức đ iểm chuẩn để đạt học bổngloại A, B, C theo khóa, ngành đào tạo tương ứng sẽ được công bố trên cổng thông tinsinh viên: ctt.hust.edu.vn, chậm nhất vào tuần học thứ 10 của học kỳ cấp học bổng.

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "gather_across_devices": false
  }
  

Evaluation Dataset

Unnamed Dataset

• Size: 597 evaluation samples
• Columns: anchor and positive
• Approximate statistics based on the first 597 samples:

  	anchor	positive
  type	string	string
  details	min: 10 tokensmean: 23.93 tokensmax: 55 tokens	min: 128 tokensmean: 128.0 tokensmax: 128 tokens

• Samples:

  anchor	positive
  Quy định, quy chế về học tập thì sinh viên xem ở trang nào?	Quy chế Công tác sinh viên Đại học Bách Khoa Hà NộiChương III NỘI DUNG CÔNG TÁC SINH VIÊNĐiều 8. Quản lý thông tin sinh viên2. Hồ sơ quản lý quá trình học tập, rèn luyện của sinh viên gồm:a) Kết quả học tập (điểm quá trình, điểm kết thúc học phần, kết quả thi hoặc bảovệ đồ án tốt nghiệp/khoá luận tốt nghiệp) và kết quả rèn luyện (điểm rèn luyện theohọc kỳ, năm học, khoá học);b) Kết quả các hoạt động xã hội đã tham gia trong từng học kỳ, năm học;c) Hình thức khen thưởng (nếu có) mà sinh viên đạt được trong học tập, nghiêncứu khoa học, hoạt động phong trào, đoàn thể;d) Hình thức kỷ luật (nếu có);đ) Thông tin thay đổi (nếu có) do chuyển chương trình đào tạo, chuyển ngànhhọc, chuyển trường, nghỉ học có thời hạn, thôi học, tốt nghiệp;e) Địa chỉ nơi cư trú;g) Tình trạng đóng học phí;h) Thông tin về việc tham gia bảo hiểm y tế;i) Thông tin kết quả khám sức khỏe cho sinh viên do Đại học tổ chức;k) Các học bổng đã được nhận.
  Quy định, quy chế về học tập thì sinh viên xem ở trang nào?	Quy chế Công tác sinh viên Đại học Bách Khoa Hà NộiChương I NHỮNG QUY ĐỊNH CHUNGĐiều 3. Vị trí của sinh viên trong Đại học Bách khoa Hà NộiSinh viên là trung tâm các hoạt động giáo dục, đào tạo, nghiên cứu, khoa họccông nghệ, đổi mới sáng tạo và khởi nghiệp tại Đại học Bách khoa Hà Nội, được hỗtrợ và tạo điều kiện tốt nhất về vật chất, tinh thần để phát triển toàn diện cả về đạo đức,tri thức, phẩm chất, năng lực, tầm nhìn, kỹ năng và sức khỏe để phục vụ xã hội và đấtnước.Điều 4. Từ viết tắt1. Đại học: Đại học Bách khoa Hà Nội;2. Đơn vị quản ngành: Trường/Khoa quản ngành;3. NCKH: nghiên cứu khoa học;4. QLLSV: quản lý lớp sinh viên.Chương II TRÁCH NHIỆM VÀ QUYỀN LỢI CỦA SINH VIÊNĐiều 5. Trách nhiệm của sinh viên1. Chấp hành nghiêm chủ trương, đường lối của Đảng, chính sách pháp luật củaNhà nước và các quy định của Đại học.2. Học tập, rèn luyện theo chương trình, kế hoạch của Đại học; chủ động, tíchcực tự học tập, NCKH và rèn luyện đạo đức, lối sống.
  Quy định, quy chế về học tập thì sinh viên xem ở trang nào?	Quy chế Công tác sinh viên Đại học Bách Khoa Hà NộiChương IV ĐÁNH GIÁ KẾT QUẢ RÈN LUYỆN SINH VIÊNĐiều 22. Nội dung, tiêu chí và thời gian đánh giá1. Nội dung đánh giá gồm:a) Ý thức tham gia học tập;b) Ý thức chấp hành nội quy, quy chế, quy định của Đại học;c) Ý thức tham gia các hoạt động chính trị, xã hội, văn hoá, văn nghệ, thể thao,phòng chống tội phạm và các tệ nạn xã hội;d) Ý thức công dân trong quan hệ với cộng đồng;đ) Ý thức và kết quả tham gia công tác cán bộ lớp, các đoàn thể, tổ chức kháctrong Đại học hoặc các thành tích đặc biệt trong học tập và rèn luyện.2. Kết quả rèn luyện của sinh viên được đánh giá theo học kỳ, năm học và khóa học.3. Tiêu chí và thang, khung điểm đánh giá: hằng năm Giám đốc đại học ban hànhquy định chi tiết về tiêu chí và thang, khung điểm cho từng nội dung đánh giá.Điều 23. Quy trình đánh giá1. Các đơn vị liên quan được phân cấp tổ chức hoạt động công bố công khai kếhoạch tổ chức các hoạt động cho sinh viên trên cổng thông tin sinh viên...

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "gather_across_devices": false
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• eval_strategy: steps
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• learning_rate: 2e-05
• num_train_epochs: 30
• warmup_ratio: 0.1
• fp16: True
• batch_sampler: no_duplicates

All Hyperparameters

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: steps
• prediction_loss_only: True
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 1
• eval_accumulation_steps: None
• torch_empty_cache_steps: None
• learning_rate: 2e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1.0
• num_train_epochs: 30
• max_steps: -1
• lr_scheduler_type: linear
• lr_scheduler_kwargs: {}
• warmup_ratio: 0.1
• warmup_steps: 0
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 42
• data_seed: None
• jit_mode_eval: False
• bf16: False
• fp16: True
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: False
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• parallelism_config: None
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch_fused
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• project: huggingface
• trackio_space_id: trackio
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: False
• resume_from_checkpoint: None
• hub_model_id: None
• hub_strategy: every_save
• hub_private_repo: None
• hub_always_push: False
• hub_revision: None
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• include_for_metrics: []
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: no
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• eval_on_start: False
• use_liger_kernel: False
• liger_kernel_config: None
• eval_use_gather_object: False
• average_tokens_across_devices: True
• prompts: None
• batch_sampler: no_duplicates
• multi_dataset_batch_sampler: proportional
• router_mapping: {}
• learning_rate_mapping: {}

Training Logs

Framework Versions

• Python: 3.12.12
• Sentence Transformers: 5.2.0
• Transformers: 4.57.3
• PyTorch: 2.9.0+cu126
• Accelerate: 1.12.0
• Datasets: 4.0.0
• Tokenizers: 0.22.1

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}