CrossEncoder based on itdainb/PhoRanker

This is a Cross Encoder model finetuned from itdainb/PhoRanker using the sentence-transformers library. It computes scores for pairs of texts, which can be used for text reranking and semantic search.

Model Details

Model Description

• Model Type: Cross Encoder
• Base model: itdainb/PhoRanker
• Maximum Sequence Length: 256 tokens
• Number of Output Labels: 1 label
• Supported Modality: Text

Model Sources

• Documentation: Sentence Transformers Documentation
• Documentation: Cross Encoder Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Cross Encoders on Hugging Face

Full Model Architecture

CrossEncoder(
  (0): Transformer({'transformer_task': 'sequence-classification', 'modality_config': {'text': {'method': 'forward', 'method_output_name': 'logits'}}, 'module_output_name': 'scores', 'architecture': 'RobertaForSequenceClassification'})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import CrossEncoder

# Download from the 🤗 Hub
model = CrossEncoder("cross_encoder_model_id")
# Get scores for pairs of inputs
pairs = [
    ['Sản_phẩm phần_mềm có được hưởng ưu_đãi về thời_gian miễn thuế , giảm thuế hay không ? Nếu được thì trong vòng bao_nhiêu năm ?', '" Điều 20 . Ưu_đãi về thời_gian miễn thuế , giảm thuế \n 1 . Miễn thuế bốn năm , giảm 50 % số thuế phải nộp trong chín năm tiếp_theo đối_với : \n a ) Thu_nhập của doanh_nghiệp từ thực_hiện dự_án đầu_tư quy_định tại khoản 1 Điều 19 Thông_tư số 78 / 2014 / TT - BTC ( được sửa_đổi , bổ_sung tại Khoản 1 Điều 11 Thông_tư này ) . "'],
    ['Hồ_sơ_tuyển_chọn Thẩm_phán Tòa_án nhân_dân cấp huyện phải được giao lại cho Chánh_án Tòa_án nhân_dân cấp tỉnh quản_lý khi nào ?', 'Sau khi Hội_đồng đã thực_hiện xong việc tuyển_chọn không phụ_thuộc vào kết_quả đa_số thành_viên Hội_đồng đồng_ý hoặc không đồng_ý đề_nghị Chánh_án Tòa_án nhân_dân tối_cao bổ_nhiệm Thẩm_phán , thì các hồ_sơ và bản_sao hồ_sơ phải được giao lại cho Chánh_án Tòa_án nhân_dân cấp tỉnh hoặc Chánh_án Tòa_án quân_sự Trung_ương để quản_lý .'],
    ['Kiểm_định viên chất_lượng giáo_dục nghề_nghiệp phải có kinh_nghiệm trong những lĩnh_vực gì ?', 'Phần II. NỘI_DUNG CỤ_THỂ CỦA TỪNG THỦ_TỤC HÀNH_CHÍNH \n A. Thủ_tục hành_chính cấp trung_ương \n ... \n 5 . Thủ_tục : Cấp thẻ kiểm_định viên chất_lượng giáo_dục nghề_nghiệp . \n ... \n 5.10 . Yêu_cầu , điều_kiện thực_hiện thủ_tục hành_chính : \n a ) Đáp_ứng các tiêu_chuẩn kiểm_định viên chất_lượng giáo_dục nghề_nghiệp \n - Có phẩm_chất đạo_đức tốt , có đủ sức_khỏe đáp_ứng yêu_cầu công_việc . \n - Có bằng tốt_nghiệp đại_học trở lên . \n - Có ít_nhất 05 năm kinh_nghiệm về quản_lý , giảng_dạy , nghiên_cứu trong lĩnh_vực giáo_dục , giáo_dục nghề_nghiệp hoặc làm_việc về ngành , nghề có liên_quan đến chuyên_môn , nghiệp_vụ được đào_tạo . \n - Hoàn_thành khóa đào_tạo kiểm_định viên chất_lượng giáo_dục nghề_nghiệp do Tổng_cục Giáo_dục nghề_nghiệp hoặc do đơn_vị được Tổng_cục Giáo_dục nghề_nghiệp giao nhiệm_vụ tổ_chức . \n - Có trình_độ ngoại_ngữ từ bậc 2 theo quy_định của Bộ Giáo_dục và Đào_tạo ban_hành Khung năng_lực ngoại_ngữ 6 bậc dùng cho Việt_Nam hoặc tương_đương trở lên . \n - Đạt chuẩn kỹ_năng sử_dụng công_nghệ thông_tin cơ_bản theo quy_định của Bộ Thông_tin và Truyền_thông quy_định Chuẩn kỹ_năng sử_dụng công_nghệ thông_tin hoặc tương_đương trở lên . \n b ) Được đánh_giá đạt yêu_cầu theo quy_chế đánh_giá cấp thẻ kiểm_định viên của Bộ Lao_động - Thương_binh và Xã_hội'],
    ['Hội_đồng thi đánh_giá năng_lực tiếng Việt theo Khung năng_lực tiếng Việt dùng cho người nước_ngoài có nhiệm_vụ gì ?', 'Nhiệm_vụ của Hội_đồng thi và các ban của Hội_đồng_thi \n 1 . Hội_đồng thi : \n a ) Chủ_tịch Hội_đồng thi : Điều_hành các công_việc của Hội_đồng thi ; ký duyệt danh_sách thí_sinh đăng_ký dự thi ; tiếp_nhận , quản_lý đề thi , đáp_án , hướng_dẫn chấm ; quy_định việc làm_phách bài thi bảo_đảm an_toàn , bảo_mật ; ký duyệt kết_quả thi và danh_sách thí_sinh dự thi đạt yêu_cầu , đề_nghị cấp có thẩm_quyền cấp chứng_chỉ ; quyết_định hình_thức kỷ_luật đối_với các trường_hợp vi_phạm_quy_chế thi ; \n b ) Phó_Chủ_tịch Hội_đồng thi thực_hiện các nhiệm_vụ được Chủ_tịch Hội_đồng thi phân_công và thay_mặt Chủ_tịch Hội_đồng thi giải_quyết công_việc khi được Chủ_tịch Hội_đồng thi_ủy quyền ; \n c ) Các ủy_viên Hội_đồng thi chấp_hành phân_công của lãnh_đạo Hội_đồng thi ; \n d ) Người_làm nhiệm_vụ giám_sát làm_việc độc_lập với các Ban của Hội_đồng thi , giám_sát các khâu của kỳ thi và chịu trách_nhiệm trực_tiếp trước Chủ_tịch Hội_đồng thi về kết_quả_thực_hiện nhiệm_vụ ; \n đ ) Bảo_vệ , y_tế , phục_vụ : bảo_đảm an_ninh trật_tự , an_toàn trong kỳ thi và nhiệm_vụ khác do Chủ_tịch Hội_đồng thi phân_công . \n 2 . Ban_Đề thi đối_với hình_thức thi trên giấy : \n a ) Sử_dụng phần_mềm quản_lý ngân_hàng câu hỏi thi để tạo các mã_đề thi theo quy_định tại Điều 14 của Quy_chế này ; kiểm_tra các mã_đề thi , bảo_đảm đúng định_dạng đề thi theo quy_định , thể_thức văn_bản , chính_tả ; khi phát_hiện các câu hỏi thi không đáp_ứng yêu_cầu thì thay_thế bằng câu hỏi thi khác lấy từ ngân_hàng câu hỏi thi để bảo_đảm đúng định_dạng đề thi ; bàn_giao đề thi theo đúng quy_định ; \n b ) Thành_viên Ban_Đề thi làm_việc trong điều_kiện cách_ly triệt_để từ khi bắt_đầu làm_việc cho đến hết thời_gian làm bài thi , chịu trách_nhiệm bảo_mật , an_toàn của đề thi theo đúng chức_trách , nhiệm_vụ và quy_định hiện_hành . \n ...'],
    ['Thành_viên Hội_đồng coi thi kỳ thi chọn học_sinh giỏi quốc_gia có trách_nhiệm bảo_mật như thế_nào ?', 'Hội_đồng coi thi kỳ thi chọn học_sinh giỏi quốc_gia \n ... \n 4 . Trách_nhiệm và quyền_hạn của các thành_viên Hội_đồng coi thi : \n ... \n g ) Trong thời_gian coi thi , tính từ thời_điểm mở túi đề thi cho tới thời_điểm kết_thúc từng buổi thi , mọi thành_viên của Hội_đồng coi thi có trách_nhiệm bảo_mật đề thi ; không được mang và sử_dụng : điện_thoại_di_động , thiết_bị thu phát và truyền đưa thông_tin , thiết_bị ghi_âm , thiết_bị ghi_hình . Trong trường_hợp cần_thiết , chỉ lãnh_đạo Hội_đồng coi thi được liên_hệ bằng điện_thoại cố_định , có loa ngoài dưới sự giám_sát của công_an , bảo_vệ ( phải lập biên_bản về địa_chỉ và nội_dung liên_hệ ) ; \n ...'],
]
scores = model.predict(pairs)
print(scores)
# [0.7057 0.9258 0.358  0.7694 0.9157]

# Or rank different texts based on similarity to a single text
ranks = model.rank(
    'Sản_phẩm phần_mềm có được hưởng ưu_đãi về thời_gian miễn thuế , giảm thuế hay không ? Nếu được thì trong vòng bao_nhiêu năm ?',
    [
        '" Điều 20 . Ưu_đãi về thời_gian miễn thuế , giảm thuế \n 1 . Miễn thuế bốn năm , giảm 50 % số thuế phải nộp trong chín năm tiếp_theo đối_với : \n a ) Thu_nhập của doanh_nghiệp từ thực_hiện dự_án đầu_tư quy_định tại khoản 1 Điều 19 Thông_tư số 78 / 2014 / TT - BTC ( được sửa_đổi , bổ_sung tại Khoản 1 Điều 11 Thông_tư này ) . "',
        'Sau khi Hội_đồng đã thực_hiện xong việc tuyển_chọn không phụ_thuộc vào kết_quả đa_số thành_viên Hội_đồng đồng_ý hoặc không đồng_ý đề_nghị Chánh_án Tòa_án nhân_dân tối_cao bổ_nhiệm Thẩm_phán , thì các hồ_sơ và bản_sao hồ_sơ phải được giao lại cho Chánh_án Tòa_án nhân_dân cấp tỉnh hoặc Chánh_án Tòa_án quân_sự Trung_ương để quản_lý .',
        'Phần II. NỘI_DUNG CỤ_THỂ CỦA TỪNG THỦ_TỤC HÀNH_CHÍNH \n A. Thủ_tục hành_chính cấp trung_ương \n ... \n 5 . Thủ_tục : Cấp thẻ kiểm_định viên chất_lượng giáo_dục nghề_nghiệp . \n ... \n 5.10 . Yêu_cầu , điều_kiện thực_hiện thủ_tục hành_chính : \n a ) Đáp_ứng các tiêu_chuẩn kiểm_định viên chất_lượng giáo_dục nghề_nghiệp \n - Có phẩm_chất đạo_đức tốt , có đủ sức_khỏe đáp_ứng yêu_cầu công_việc . \n - Có bằng tốt_nghiệp đại_học trở lên . \n - Có ít_nhất 05 năm kinh_nghiệm về quản_lý , giảng_dạy , nghiên_cứu trong lĩnh_vực giáo_dục , giáo_dục nghề_nghiệp hoặc làm_việc về ngành , nghề có liên_quan đến chuyên_môn , nghiệp_vụ được đào_tạo . \n - Hoàn_thành khóa đào_tạo kiểm_định viên chất_lượng giáo_dục nghề_nghiệp do Tổng_cục Giáo_dục nghề_nghiệp hoặc do đơn_vị được Tổng_cục Giáo_dục nghề_nghiệp giao nhiệm_vụ tổ_chức . \n - Có trình_độ ngoại_ngữ từ bậc 2 theo quy_định của Bộ Giáo_dục và Đào_tạo ban_hành Khung năng_lực ngoại_ngữ 6 bậc dùng cho Việt_Nam hoặc tương_đương trở lên . \n - Đạt chuẩn kỹ_năng sử_dụng công_nghệ thông_tin cơ_bản theo quy_định của Bộ Thông_tin và Truyền_thông quy_định Chuẩn kỹ_năng sử_dụng công_nghệ thông_tin hoặc tương_đương trở lên . \n b ) Được đánh_giá đạt yêu_cầu theo quy_chế đánh_giá cấp thẻ kiểm_định viên của Bộ Lao_động - Thương_binh và Xã_hội',
        'Nhiệm_vụ của Hội_đồng thi và các ban của Hội_đồng_thi \n 1 . Hội_đồng thi : \n a ) Chủ_tịch Hội_đồng thi : Điều_hành các công_việc của Hội_đồng thi ; ký duyệt danh_sách thí_sinh đăng_ký dự thi ; tiếp_nhận , quản_lý đề thi , đáp_án , hướng_dẫn chấm ; quy_định việc làm_phách bài thi bảo_đảm an_toàn , bảo_mật ; ký duyệt kết_quả thi và danh_sách thí_sinh dự thi đạt yêu_cầu , đề_nghị cấp có thẩm_quyền cấp chứng_chỉ ; quyết_định hình_thức kỷ_luật đối_với các trường_hợp vi_phạm_quy_chế thi ; \n b ) Phó_Chủ_tịch Hội_đồng thi thực_hiện các nhiệm_vụ được Chủ_tịch Hội_đồng thi phân_công và thay_mặt Chủ_tịch Hội_đồng thi giải_quyết công_việc khi được Chủ_tịch Hội_đồng thi_ủy quyền ; \n c ) Các ủy_viên Hội_đồng thi chấp_hành phân_công của lãnh_đạo Hội_đồng thi ; \n d ) Người_làm nhiệm_vụ giám_sát làm_việc độc_lập với các Ban của Hội_đồng thi , giám_sát các khâu của kỳ thi và chịu trách_nhiệm trực_tiếp trước Chủ_tịch Hội_đồng thi về kết_quả_thực_hiện nhiệm_vụ ; \n đ ) Bảo_vệ , y_tế , phục_vụ : bảo_đảm an_ninh trật_tự , an_toàn trong kỳ thi và nhiệm_vụ khác do Chủ_tịch Hội_đồng thi phân_công . \n 2 . Ban_Đề thi đối_với hình_thức thi trên giấy : \n a ) Sử_dụng phần_mềm quản_lý ngân_hàng câu hỏi thi để tạo các mã_đề thi theo quy_định tại Điều 14 của Quy_chế này ; kiểm_tra các mã_đề thi , bảo_đảm đúng định_dạng đề thi theo quy_định , thể_thức văn_bản , chính_tả ; khi phát_hiện các câu hỏi thi không đáp_ứng yêu_cầu thì thay_thế bằng câu hỏi thi khác lấy từ ngân_hàng câu hỏi thi để bảo_đảm đúng định_dạng đề thi ; bàn_giao đề thi theo đúng quy_định ; \n b ) Thành_viên Ban_Đề thi làm_việc trong điều_kiện cách_ly triệt_để từ khi bắt_đầu làm_việc cho đến hết thời_gian làm bài thi , chịu trách_nhiệm bảo_mật , an_toàn của đề thi theo đúng chức_trách , nhiệm_vụ và quy_định hiện_hành . \n ...',
        'Hội_đồng coi thi kỳ thi chọn học_sinh giỏi quốc_gia \n ... \n 4 . Trách_nhiệm và quyền_hạn của các thành_viên Hội_đồng coi thi : \n ... \n g ) Trong thời_gian coi thi , tính từ thời_điểm mở túi đề thi cho tới thời_điểm kết_thúc từng buổi thi , mọi thành_viên của Hội_đồng coi thi có trách_nhiệm bảo_mật đề thi ; không được mang và sử_dụng : điện_thoại_di_động , thiết_bị thu phát và truyền đưa thông_tin , thiết_bị ghi_âm , thiết_bị ghi_hình . Trong trường_hợp cần_thiết , chỉ lãnh_đạo Hội_đồng coi thi được liên_hệ bằng điện_thoại cố_định , có loa ngoài dưới sự giám_sát của công_an , bảo_vệ ( phải lập biên_bản về địa_chỉ và nội_dung liên_hệ ) ; \n ...',
    ]
)
# [{'corpus_id': ..., 'score': ...}, {'corpus_id': ..., 'score': ...}, ...]

Training Details

Training Dataset

Unnamed Dataset

• Size: 1,322,244 training samples
• Columns: sentence_0, sentence_1, and label
• Approximate statistics based on the first 100 samples:

  	sentence_0	sentence_1	label
  type	string	string	float
  modality	text	text
  details	min: 10 tokensmean: 18.85 tokensmax: 28 tokens	min: 17 tokensmean: 162.69 tokensmax: 256 tokens	min: 0.0mean: 0.1max: 1.0

• Samples:

  sentence_0	sentence_1	label
  Người học ngành quản_lý khai_thác công_trình thủy_lợi trình_độ cao_đẳng phải có khả_năng học_tập và nâng cao_trình_độ như thế_nào ?	Khả_năng học_tập , nâng cao_trình_độ - Khối_lượng khối_lượng kiến_thức tối_thiểu , yêu_cầu về năng_lực mà người học phải đạt được sau khi tốt_nghiệp ngành , nghề Mộc xây_dựng và trang_trí nội_thất , trình_độ cao_đẳng có_thể tiếp_tục phát_triển ở các trình_độ cao hơn ; - Người học sau tốt_nghiệp có năng_lực tự học , tự cập_nhật những tiến_bộ khoa_học công_nghệ trong phạm_vi ngành , nghề để nâng cao_trình_độ hoặc học liên_thông lên trình_độ cao hơn trong cùng ngành , nghề hoặc trong nhóm ngành , nghề hoặc trong cùng lĩnh_vực đào_tạo . / . Người học ngành mộc xây_dựng và trang_trí nội_thất trình_độ cao_đẳng phải có khả_năng học_tập , nâng cao_trình_độ như thế sau : - Khối_lượng khối_lượng kiến_thức tối_thiểu , yêu_cầu về năng_lực mà người học phải đạt được sau khi tốt_nghiệp ngành , nghề Mộc xây_dựng và trang_trí nội_thất , trình_độ cao_đẳng có_thể tiếp_tục phát_triển ở các trình_độ cao hơn ; - Người học sau tốt_nghiệp có năng_lực tự học , tự cập_nhật những tiến_bộ khoa_học công...	1.0
  Người học ngành quản_lý khai_thác công_trình thủy_lợi trình_độ cao_đẳng phải có khả_năng học_tập và nâng cao_trình_độ như thế_nào ?	Quản_lý dự_án đường thủy_hạng II - Mã_số : V. 12.51.02 ... 4 . Tiêu_chuẩn , điều_kiện đăng_ký dự thi hoặc xét thăng_hạng lên chức_danh nghề_nghiệp Quản_lý dự_án đường thủy_hạng II Viên_chức được đăng_ký dự thi hoặc xét thăng_hạng lên chức_danh nghề_nghiệp Quản_lý dự_án đường thủy_hạng II khi có đủ các tiêu_chuẩn , điều_kiện quy_định tại Điều 32 Nghị_định số 115 / 2020 / NĐ - CP ngày 25 tháng 9 năm 2020 của Chính_phủ quy_định về tuyển_dụng , sử_dụng và quản_lý viên_chức và các tiêu_chuẩn , điều_kiện sau : a ) Có thời_gian giữ chức_danh nghề_nghiệp Quản_lý dự_án đường thủy_hạng III và tương_đương từ đủ 09 năm trở lên ( không kể thời_gian tập_sự , thử việc ) . Trường_hợp có thời_gian tương_đương thì phải có ít_nhất 01 năm ( đủ 12 tháng ) đang giữ chức_danh nghề_nghiệp Quản_lý dự_án đường thủy_hạng III tính đến ngày hết thời_hạn nộp hồ_sơ đăng_ký dự thi hoặc xét thăng_hạng ; b ) Trong thời_gian giữ chức_danh nghề_nghiệp Quản_lý dự_án đường thủy_hạng III và tương_đương đạt tối_thi...	0.0
  Người học ngành quản_lý khai_thác công_trình thủy_lợi trình_độ cao_đẳng phải có khả_năng học_tập và nâng cao_trình_độ như thế_nào ?	Khoản 3 . Sĩ_quan CMKT có thời_gian trực_tiếp tham_gia chiến_đấu ở chiến_trường B , C , K trước ngày 30 / 4 / 1975 hoặc tham_gia_công_tác trước ngày 30 / 4 / 1975 được tặng_thưởng Huân , Huy_chương kháng_chiến chống Mỹ hoặc là Thương_binh ( loại A ) , đang hưởng bậc lương cuối_cùng ( kể_cả trường_hợp đã được hưởng phụ_cấp thâm_niên vượt khung ) ở ngạch chức_danh sơ_cấp ( hoặc trung_cấp ) được 02 năm trở lên thì được xét chuyển ngạch , nâng bậc lương trung_cấp ( hoặc cao_cấp ) cao hơn gần nhất . Ví_dụ 12 : Đồng_chí Lê_Minh_T , có thời_gian_tham_gia chiến_đấu tại chiến_trường B từ năm 1974 , cấp_bậc hàm Trung_tá CMKT , hệ_số lương 6,20 ( N1 - TC ) + 8 % phụ_cấp thâm_niên vượt khung , được nghỉ chờ hưu kể từ ngày 01 / 7 / 2013 . Đồng_chí T được xét chuyển ngạch , nâng lương từ hệ_số 6,20 ( N1 - TC ) + 8 % phụ_cấp thâm_niên vượt khung vào hệ_số 6,80 ( N2 - CC ) và thăng cấp_bậc hàm từ Trung_tá lên Thượng_tá CMKT , kể từ ngày 01 / 4 / 2013 .	0.0

• Loss: BinaryCrossEntropyLoss with these parameters:

  {
      "activation_fn": "torch.nn.modules.linear.Identity",
      "pos_weight": null
  }
  

Evaluation Dataset

Unnamed Dataset

• Size: 13,364 evaluation samples
• Columns: sentence_0, sentence_1, and label
• Approximate statistics based on the first 100 samples:

  	sentence_0	sentence_1	label
  type	string	string	float
  modality	text	text
  details	min: 10 tokensmean: 18.64 tokensmax: 33 tokens	min: 19 tokensmean: 173.97 tokensmax: 256 tokens	min: 1.0mean: 1.0max: 1.0

• Samples:

  sentence_0	sentence_1	label
  Sản_phẩm phần_mềm có được hưởng ưu_đãi về thời_gian miễn thuế , giảm thuế hay không ? Nếu được thì trong vòng bao_nhiêu năm ?	" Điều 20 . Ưu_đãi về thời_gian miễn thuế , giảm thuế 1 . Miễn thuế bốn năm , giảm 50 % số thuế phải nộp trong chín năm tiếp_theo đối_với : a ) Thu_nhập của doanh_nghiệp từ thực_hiện dự_án đầu_tư quy_định tại khoản 1 Điều 19 Thông_tư số 78 / 2014 / TT - BTC ( được sửa_đổi , bổ_sung tại Khoản 1 Điều 11 Thông_tư này ) . "	1.0
  Hồ_sơ_tuyển_chọn Thẩm_phán Tòa_án nhân_dân cấp huyện phải được giao lại cho Chánh_án Tòa_án nhân_dân cấp tỉnh quản_lý khi nào ?	Sau khi Hội_đồng đã thực_hiện xong việc tuyển_chọn không phụ_thuộc vào kết_quả đa_số thành_viên Hội_đồng đồng_ý hoặc không đồng_ý đề_nghị Chánh_án Tòa_án nhân_dân tối_cao bổ_nhiệm Thẩm_phán , thì các hồ_sơ và bản_sao hồ_sơ phải được giao lại cho Chánh_án Tòa_án nhân_dân cấp tỉnh hoặc Chánh_án Tòa_án quân_sự Trung_ương để quản_lý .	1.0
  Kiểm_định viên chất_lượng giáo_dục nghề_nghiệp phải có kinh_nghiệm trong những lĩnh_vực gì ?	Phần II. NỘI_DUNG CỤ_THỂ CỦA TỪNG THỦ_TỤC HÀNH_CHÍNH A. Thủ_tục hành_chính cấp trung_ương ... 5 . Thủ_tục : Cấp thẻ kiểm_định viên chất_lượng giáo_dục nghề_nghiệp . ... 5.10 . Yêu_cầu , điều_kiện thực_hiện thủ_tục hành_chính : a ) Đáp_ứng các tiêu_chuẩn kiểm_định viên chất_lượng giáo_dục nghề_nghiệp - Có phẩm_chất đạo_đức tốt , có đủ sức_khỏe đáp_ứng yêu_cầu công_việc . - Có bằng tốt_nghiệp đại_học trở lên . - Có ít_nhất 05 năm kinh_nghiệm về quản_lý , giảng_dạy , nghiên_cứu trong lĩnh_vực giáo_dục , giáo_dục nghề_nghiệp hoặc làm_việc về ngành , nghề có liên_quan đến chuyên_môn , nghiệp_vụ được đào_tạo . - Hoàn_thành khóa đào_tạo kiểm_định viên chất_lượng giáo_dục nghề_nghiệp do Tổng_cục Giáo_dục nghề_nghiệp hoặc do đơn_vị được Tổng_cục Giáo_dục nghề_nghiệp giao nhiệm_vụ tổ_chức . - Có trình_độ ngoại_ngữ từ bậc 2 theo quy_định của Bộ Giáo_dục và Đào_tạo ban_hành Khung năng_lực ngoại_ngữ 6 bậc dùng cho Việt_Nam hoặc tương_đương trở lên . - Đạt chuẩn kỹ_năng sử_dụ...	1.0

• Loss: BinaryCrossEntropyLoss with these parameters:

  {
      "activation_fn": "torch.nn.modules.linear.Identity",
      "pos_weight": null
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• per_device_train_batch_size: 256
• num_train_epochs: 2
• learning_rate: 2e-05
• fp16: True
• log_level: error
• per_device_eval_batch_size: 256
• load_best_model_at_end: True
• batch_sampler: no_duplicates

All Hyperparameters

• per_device_train_batch_size: 256
• num_train_epochs: 2
• max_steps: -1
• learning_rate: 2e-05
• lr_scheduler_type: linear
• lr_scheduler_kwargs: None
• warmup_steps: 0
• optim: adamw_torch_fused
• optim_args: None
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• optim_target_modules: None
• gradient_accumulation_steps: 1
• average_tokens_across_devices: True
• max_grad_norm: 1.0
• label_smoothing_factor: 0.0
• bf16: False
• fp16: True
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• use_liger_kernel: False
• liger_kernel_config: None
• use_cache: False
• neftune_noise_alpha: None
• torch_empty_cache_steps: None
• auto_find_batch_size: False
• log_on_each_node: True
• logging_nan_inf_filter: True
• include_num_input_tokens_seen: no
• log_level: error
• log_level_replica: warning
• disable_tqdm: False
• project: huggingface
• trackio_space_id: None
• trackio_bucket_id: None
• trackio_static_space_id: None
• per_device_eval_batch_size: 256
• prediction_loss_only: True
• eval_on_start: False
• eval_do_concat_batches: True
• eval_use_gather_object: False
• eval_accumulation_steps: None
• include_for_metrics: []
• batch_eval_metrics: False
• save_only_model: False
• save_on_each_node: False
• enable_jit_checkpoint: False
• push_to_hub: False
• hub_private_repo: None
• hub_model_id: None
• hub_strategy: every_save
• hub_always_push: False
• hub_revision: None
• load_best_model_at_end: True
• ignore_data_skip: False
• restore_callback_states_from_checkpoint: False
• full_determinism: False
• seed: 42
• data_seed: None
• use_cpu: False
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• parallelism_config: None
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• dataloader_prefetch_factor: None
• remove_unused_columns: True
• label_names: None
• train_sampling_strategy: random
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• ddp_static_graph: None
• ddp_backend: None
• ddp_timeout: 1800
• fsdp: None
• fsdp_config: None
• deepspeed: None
• debug: []
• skip_memory_metrics: True
• do_predict: False
• resume_from_checkpoint: None
• warmup_ratio: None
• local_rank: -1
• prompts: None
• batch_sampler: no_duplicates
• multi_dataset_batch_sampler: proportional
• router_mapping: {}
• learning_rate_mapping: {}

Training Logs

• The bold row denotes the saved checkpoint.

Training Time

• Training: 1.2 hours
• Evaluation: 25.2 seconds
• Total: 1.2 hours

Framework Versions

• Python: 3.12.13
• Sentence Transformers: 5.5.1
• Transformers: 5.10.2
• PyTorch: 2.11.0+cu128
• Accelerate: 1.13.0
• Datasets: 4.0.0
• Tokenizers: 0.22.2

Additional Resources

• Training and Finetuning Reranker Models with Sentence Transformers: the end-to-end guide for training or finetuning Cross Encoder (reranker) models.
• Multimodal Embedding & Reranker Models with Sentence Transformers: use text, image, audio, and video reranker models through the same API.
• Training and Finetuning Multimodal Embedding & Reranker Models with Sentence Transformers: training multimodal Cross Encoders.

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}