This model is an Instruction-Tuned version of Llama 3.2 400M Amharic.
How to use
Chat Format
Given the nature of the training data, the phi-2 instruct model is best suited for prompts using the chat format as follows. You can provide the prompt as a question with a generic template as follows:
<|im_start|>user
ጥያቄ?<|im_end|>
<|im_start|>assistant
For example:
<|im_start|>user
ሶስት የአፍሪካ ሀገራት ጥቀስልኝ<|im_end|>
<|im_start|>assistant
where the model generates the text after <|im_start|>assistant .
Sample inference code
First, you need to install the latest version of transformers
pip install -Uq transformers
You can use this model directly with a pipeline for text generation:
from transformers import pipeline
llama3_am = pipeline(
"text-generation",
model="rasyosef/Llama-3.2-400M-Amharic-Instruct",
device_map="auto"
)
messages = [{"role": "user", "content": "ሰላም"}]
llama3_am(messages, max_new_tokens=128, repetition_penalty=1.1, return_full_text=False)
Output:
[{'generated_text': 'ሰላም! ዛሬ እንዴት ልረዳዎት እችላለሁ? 😊'}]
Generate a Story
messages = [{"role": "user", "content": "ስለ ጅብና አንበሳ ተረት ንገረኝ"}]
llama3_am(messages, max_new_tokens=128, repetition_penalty=1.1, return_full_text=False)
Output:
[{'generated_text': 'በእያሱ ኦሪጎ የተተረከ ዘጠኝ ጅቦችና አንድ አንበሳ አደን ወጥተው አስር ላሞችና በሬዎችን አድነው ያዙ፡፡ አንበሳውም “እኔ ዘጠኙን ወስጄ እናንተ አንዱን ትወስዳላችሁ፡፡” ሲላቸው ጅቦቹም “ይህ እንዴት ይሆናል? እኛ ዘጠኝ ሆነን ሳለ አንተ ዘጠኙን ወስደህ ለእኛ አንድ መስጠትህ ሚዛናዊ ነውን?” አሉት፡፡ አንበሳውም “አዎ እኔ አንድ ነኝ፡፡ ዘጠኙን ስወስድ አስር እንሆናለን፡፡ እናንተም ዘጠኝ ናችሁ፡፡ አንዷን ላም ስትጨምሩ አስር ትሆናላችሁ፡፡” አላቸው፡፡ ጅቦቹም የአንበሳውን አስፈሪ አይኖች በተመለከቱ ጊዜ ስለፈሩት ወደ አባታቸው በመሄድ አንበሳው ለእነርሱ አንድ ሰጥቷቸው ለራሱ ዘጠኝ እንደወሰደና ይኸውም አንበሳው እኛ ዘጠኝ'}]
Generate a Poem
messages = [{"role": "user", "content": "ስለ ይቅርታ ግጥም ጻፍልኝ"}]
llama3_am(messages, max_new_tokens=128, repetition_penalty=1.1, return_full_text=False)
Output:
[{'generated_text': 'ይቅርታ ይቅርታ\nይቅርታ እናቴ\nአደባባይ መሀል ላቆምኩት ንፍገቴ\nሳመሽ ሌትሽ አልፎኝ ስውል ቀንሽ አልፎኝ\nጠገብኩ እልሻለሁ ረሀብሽ ተርፎኝ\nይቅርታ አባቴ\nአደባባይ መሀል ላቆምኩት ስስቴ\nከልጅነት ወኔ ለላቀው ሞገስህ\nከሞቴ ገዘፈ ልጄ ፊት ማነስህ\nይቅርታ ወንድሜ\nአደባባይ መሀል ላቆምኩት ህመሜ\nከአቻ መንገዳችን ለናቅኩት ማጣትህ\nስጠኝ ማለት ከብዶህ ስጥል ለማንሳትህ\nይቅርታ እህቴ\nአደባባይ መሀል ላቆምኩት ሽንፈቴ\nአጥሬን አጥሬን ስል ለጣልኩት አበባሽ\nበሳቄ'}]