GPT-2 Italiano 185M Instruct
Modello GPT-2 italiano da circa 185 milioni di parametri, addestrato da zero e sottoposto a instruction tuning. Questa pubblicazione contiene la versione aggiornata addestrata su circa 4 miliardi di token.
Il progetto è stato realizzato con finalità didattiche per mostrare in classe il funzionamento, le potenzialità e soprattutto i limiti dei piccoli modelli linguistici.
Formato del prompt
### Istruzione:
{domanda}
### Risposta:
Template Jinja per LM Studio — solo modelli Instruct
Per i file Instruct usare una chat nuova con una sola domanda, senza system prompt.
Incollare nel campo Jinja solo il contenuto del blocco seguente, senza i delimitatori Markdown.
Questo template raccoglie i messaggi utente: una conversazione con più domande non è un uso
supportato dal modello. Non aggiungere prefissi Human: o AI:.
Scarica il template come file .jinja.
{% for message in messages %}{% if message['role'] == 'user' and message['content'] is defined %}### Istruzione:
{{ message['content'] }}
### Risposta:
{% endif %}{% endfor %}
Il blocco è stato verificato con Jinja2, anche con un messaggio assistant privo di content.
Questo non sostituisce una verifica nella specifica versione di LM Studio installata.
Se una chat conserva un vecchio preset, ricaricare il modello e aprire una chat nuova.
Per aggirare del tutto la formattazione chat, usare il server locale di LM Studio e
/v1/completions con il prompt testuale ### Istruzione:\nDOMANDA\n\n### Risposta:\n.
Documentazione dei template.
Uso
from transformers import pipeline
generator = pipeline(
"text-generation",
model="emanuelealbertosi/gpt2-it-185m-instruct",
)
prompt = "### Istruzione:\nQual è la capitale della Francia?\n\n### Risposta:\n"
print(generator(prompt, max_new_tokens=100, temperature=0.4, do_sample=True))
Limiti
Il modello non è destinato alla produzione e non deve essere usato come fonte affidabile di informazioni. Può generare errori fattuali, contraddizioni e contenuti inventati con formulazioni plausibili. Questi limiti costituiscono una parte centrale del suo impiego didattico.
GGUF
Le conversioni GGUF, inclusa la precedente versione 184M, sono disponibili in
emanuelealbertosi/gpt2-it-185m-gguf.
Licenza
Pesi distribuiti con licenza Apache 2.0.