zagreus-0.4B-ita-embeddings

Modello di embedding italiano ottenuto trasformando Zagreus 0.4B — un LLM generativo italiano basato su architettura Llama 3.2 — in un estrattore di embeddings densi, seguendo le tecniche SOTA per modelli Decoder-only.

Questo è il branch main (ex v7.0), la versione migliore e stabile del modello. Per la storia completa degli esperimenti e le motivazioni tecniche, leggi l'articolo su Medium: Oltre BERT: Come trasformare un LLM Generativo in un Modello di Embeddings State-of-the-Art. (english version here)

⚠️ Questi esperimenti sono realizzati a scopo didattico e di ricerca. Non sono destinati alla produzione.

Cosa rende questo modello diverso da un BERT

I modelli generativi come Zagreus sono Decoder causali: leggono rigorosamente da sinistra verso destra. Applicare il classico Mean Pooling diluirebbe il significato, perché i token iniziali non conoscono il contesto futuro. Questo modello adotta tre scelte architetturali SOTA:

1. Last Token Pooling (EOS Pooling) L'ultimo token è l'unico che ha "letto" e digerito l'intera sequenza. Tutta la semantica della frase è collassata in quel singolo vettore finale.

2. Normalizzazione L2 Tutti i vettori sono proiettati sulla superficie di un'ipersfera unitaria. In questo spazio, Dot Product e Cosine Similarity diventano matematicamente equivalenti, rendendo l'addestramento più stabile e preciso.

3. Asymmetric Prompting Il modello distingue tra query e documenti grazie a prompt espliciti nel testo:

• Query dell'utente → query: {testo}
• Documenti del database → passage: {testo}

SentenceTransformer(
  (0): Transformer({'max_seq_length': 256, 'architecture': 'LlamaModel'})
  (1): Pooling({'pooling_mode_lasttoken': True})
  (2): Normalize()
)

Storia degli esperimenti

Arrivare a questa versione ha richiesto diversi esperimenti, ognuno dei quali ha insegnato qualcosa. Il percorso completo:

Il salto decisivo è stato usare CachedMultipleNegativesRankingLoss con il campo negative esplicito del dataset mmarco. Sentence Transformers tratta automaticamente il negativo BM25 come hard negative aggiuntivo rispetto ai negativi in-batch impliciti, senza bisogno di una seconda loss o di una guida esterna.

Perché CachedMultipleNegativesRankingLoss

Il training originale usava la MultipleNegativesRankingLoss standard, che su GPU con VRAM limitata (8GB) produceva batch effettivi troppo piccoli. Il risultato era l'anisotropia: i vettori collassavano in una piccola regione dello spazio, con similarità coseno artificialmente alta anche tra frasi senza alcuna relazione.

La CachedMultipleNegativesRankingLoss risolve il problema calcolando gli embedding a mini-chunk e assemblando la loss su un batch effettivo molto più grande, senza saturare la memoria.

Utilizzo

from sentence_transformers import SentenceTransformer

model = SentenceTransformer("nickprock/zagreus-0.4B-ita-embeddings")

# IMPORTANTE: usare sempre i prompt query:/passage:
sentences = [
    'query: puoi dichiarare bancarotta senza un avvocato?',
    'passage: Molte persone chiedono il fallimento del capitolo 7 senza un avvocato. '
    'Alcuni si dichiarano in bancarotta perché non possono permettersi le spese legali. '
    'Anche se è possibile archiviare da soli un fallimento del capitolo 7 con successo, '
    'non è sempre saggio.',
    'passage: In caso di conflitto tra le informazioni in questa pagina e le regole '
    'applicabili, le regole prevalgono. Link alla dichiarazione di fallimento senza avvocato.',
]

embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 960]

similarities = model.similarity(embeddings, embeddings)
print(similarities)

Dettagli del Training

Dataset

• Dataset: unicamp-dl/mmarco (italiano)
• Campioni di training: 190.000
• Campioni di evaluation: 5.000
• Campioni di test: 5.000
• Struttura: triplette (anchor, positive, negative) con negativi BM25

Iperparametri principali

Training logs

Il modello migliore è stato salvato a epoch 0.674 con eval_loss = 1.809.

Risultati di valutazione

Il sim gap è quasi 4 volte più grande rispetto alla versione precedente — il miglioramento più significativo dell'intera serie di esperimenti.

Limitazioni note

Il dataset MMarco italiano è una traduzione automatica della versione inglese. I negativi BM25 risentono del rumore introdotto dalla traduzione, ma in questo caso — a differenza degli esperimenti con GISTEmbedLoss e hard negative mining — il rumore non ha impedito al modello di imparare: CachedMNRL è abbastanza robusta da estrarre segnale utile anche da negativi imperfetti.

La query "Cosa causa il cambiamento climatico?" rimane il caso più difficile (pos=0.369, il più basso del set di test), probabilmente per la natura astratta e aperta della domanda più che per limiti del modello.

Citazioni

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

@misc{gao2021scaling,
    title={Scaling Deep Contrastive Learning Batch Size under Memory Limited Setup},
    author={Luyu Gao and Yunyi Zhang and Jiawei Han and Jamie Callan},
    year={2021},
    eprint={2101.06983},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}