Modelo Fine-Tuned com LoRA: BGE-m3 Tuned para Legislação
Este modelo é uma versão ajustada do modelo base BAAI/bge-m3 utilizando LoRA (Low-Rank Adaptation), fine-tuned para tarefas relacionadas a legislação.
Instalação
Antes de começar, certifique-se de instalar a biblioteca PEFT, necessária para carregar o modelo com LoRA:
pip install peft
Carregando o Modelo
Para utilizar o modelo fine-tuned, siga as instruções abaixo:
from transformers import AutoModelForCausalLM, AutoTokenizer
peft_model_id = "dititce/bge-m3-legis"
model = AutoModelForCausalLM.from_pretrained(peft_model_id)