T5_chat
A fine-tuned version of ai-forever/ruT5-base
for open-domain text generation / conversational response generation in
Russian.
The model takes a text prompt (e.g. a question or a conversational turn) and generates a free-form text continuation or reply.
Usage
from transformers import AutoTokenizer, T5ForConditionalGeneration
chat_checkpoint = "r1char9/T5_chat"
chat_model = T5ForConditionalGeneration.from_pretrained(chat_checkpoint)
chat_tokenizer = AutoTokenizer.from_pretrained(chat_checkpoint)
def chat_fun(text: str):
tokenized_sentence = chat_tokenizer(text, return_tensors="pt", truncation=True)
output = chat_model.generate(**tokenized_sentence, num_beams=2, max_length=100)
return chat_tokenizer.decode(output[0], skip_special_tokens=True)
text = "Что самое главное в человеке ?"
response = chat_fun(text)
print(response)
# Самое главное в человеке - это его любовь и уважение к другим людям.
# Это означает, что он должен быть искренним и искренним в своих мыслях и чувствах,
# а также готов жертвовать своим личным и профессиональным идеалами и ценностям, чтобы достичь своих целей.
Limitations
- The model may produce factually inaccurate, repetitive, or inconsistent responses, as is common for smaller open-domain generation models.
- No content filtering or safety alignment has been applied — outputs should be reviewed before use in any user-facing application.