Vai al contenuto
  • BTC $55.753 −9,9%
  • ETH $1.559 −10,5%
  • SOL $65,36 −10,1%
  • BNB $507,85 −11,2%
  • XRP $0,8695 −10,3%
  • DOGE $0,0514 −10,9%
  • ADA $0,1351 −10,0%

L’allineamento query-key nei LLM rivela risposte giuste che i modelli sbagliano

allineamento query-key nei LLM
Allineamento query-key nei LLM e i modelli linguistici

Un modello linguistico può sbagliare la risposta a una domanda a scelta multipla e, allo stesso tempo, avere quella risposta corretta già scritta da qualche parte nei propri circuiti interni. È questa la scoperta al centro di un nuovo studio sull’allineamento query-key nei LLM, che mostra come lo scarto tra ciò che un modello “sa” e ciò che effettivamente produce in output nei task di tipo MCQA (domande a risposta multipla) non sia un vicolo cieco, ma un segnale leggibile direttamente dal meccanismo di attenzione, ancora prima che venga generato un solo token.

Punti chiave

  • I modelli linguistici spesso codificano internamente la risposta corretta nei task MCQA anche quando l’output finale è sbagliato.
  • Una nuova metrica chiamata Query-Key score (QK score) misura l’allineamento tra la query dell’ultimo token e la key associata a ogni opzione di risposta, calcolata prima dell’applicazione del rotary positional embedding (RoPE).
  • Testata su 24 modelli da 1,5B a 72B parametri, il QK score di una singola attention head ha superato l’accuratezza zero-shot del modello stesso fino a +27,4 punti percentuali su HellaSwag e +49,8 punti su HaluDialogue.
  • Uno strumento non supervisionato chiamato HeadScore individua queste head critiche senza dati etichettati, replicando i risultati dei metodi supervisionati su ogni modello testato.
  • I ricercatori hanno rilasciato uno script HeadScore pronto all’uso, insieme agli indici delle head per ciascun modello, per rendere i risultati riproducibili con un solo comando.

La conoscenza latente nascosta nei modelli linguistici

Il dato centrale dello studio è tanto semplice da riassumere quanto significativo nella portata: i LLM sbagliano regolarmente a indicare l’opzione corretta nei task MCQA, anche quando la risposta giusta è codificata da qualche parte nelle loro rappresentazioni interne. Questo divario tra conoscenza interna e output esterno è da tempo oggetto di studio tra i ricercatori che analizzano il comportamento dei modelli, e apre una domanda molto pratica: se la risposta è lì dentro, si può estrarre senza aspettare che il modello generi del testo?

La questione non è di poco conto perché i benchmark MCQA restano un metro di misura standard per valutare le prestazioni dei modelli linguistici su compiti di questo tipo, dalle classifiche accademiche alle valutazioni in produzione. Se i modelli sottostimano la propria reale competenza per via di stranezze nell’output, piuttosto che per autentici fallimenti di ragionamento, allora i punteggi di accuratezza basati solo sul testo generato potrebbero dare un quadro fuorviante su cosa questi sistemi capiscano davvero.

Il Query-Key score e le attention head “select-and-copy”

Per far emergere questa informazione latente, i ricercatori introducono una metrica chiamata Query-Key score, calcolata per una specifica attention head come prodotto interno tra la query dell’ultimo token e la key corrispondente al token di fine riga che segue una data opzione di risposta, con il calcolo eseguito prima dell’applicazione del rotary positional embedding. In pratica, è un modo di guardare dentro il meccanismo di attenzione del modello per capire verso quale opzione sta silenziosamente pendendo, indipendentemente da quale testo finirà poi per stampare.

Prendere l’argmax di questo punteggio tra le opzioni rivela qualcosa che lo studio descrive come una classe universale di attention head “select-and-copy”, collocate negli strati intermedi di questi modelli. Queste head compiono la selezione dell’opzione tramite un allineamento semantico tra query e key, e si comportano in modi che le distinguono meccanicamente dalle head di induzione e di copy-suppression già documentate in letteratura.

Due proprietà emergono con forza. La prima: queste head sono invarianti rispetto ai simboli delle etichette, cioè non si limitano a tracciare quale lettera o numero corrisponde a una risposta, ma tracciano qualcosa più vicino al contenuto semantico dell’opzione stessa. La seconda: risolvono un compito sintetico con zero sovrapposizione superficiale, un test pensato apposta perché nessuna spiegazione basata sulla copia posizionale possa dar conto del comportamento osservato. Entrambe le proprietà, nota lo studio, richiedono in modo critico di rimuovere il RoPE per essere osservate: senza eliminare quello strato di codifica posizionale, il segnale di allineamento resta nascosto.

I risultati su 24 modelli, da 1,5B a 72B parametri

La portata dei test condotti è ampia: l’analisi ha coperto 24 modelli compresi tra 1,5B e 72B parametri, tra cui LLaMA-2, LLaMA-3, LLaMA-3.1, LLaMA-3.3, Qwen-2.5, Gemma, Phi-3.5 e DeepSeek-R1-Distill. Su tutto questo intervallo, il QK score di una singola head ha costantemente superato l’accuratezza zero-shot del modello stesso, fino a +27,4 punti percentuali sul benchmark HellaSwag e +49,8 punti percentuali su HaluDialogue.

Quest’ultimo numero merita una pausa di riflessione. Uno scarto vicino ai 50 punti tra quello che un modello produce in output e quello che la sua attention head interna “dice” attraverso l’allineamento query-key è una differenza sostanziale, abbastanza ampia da suggerire che, su certi task, il collo di bottiglia non sia affatto la capacità di ragionamento, ma qualcosa più vicino a un problema di output o di decoding.

Per verificare che queste head non fossero semplicemente correlate alle risposte corrette ma effettivamente responsabili della loro produzione, i ricercatori hanno condotto esperimenti causali di zero-ablation, disattivando deliberatamente le head identificate. Il risultato: l’accuratezza MCQA è crollata a livelli prossimi al caso, una prova solida che quelle head specifiche svolgono un lavoro causale reale nel processo di selezione della risposta, e non si limitano a rifletterlo.

HeadScore: uno strumento non supervisionato e riproducibile

Individuare le head giuste da studiare richiede di solito dati di validazione etichettati, un vincolo che limita quanto un metodo possa essere pratico fuori da un laboratorio di ricerca. Per risolvere questo problema, il team ha introdotto un metodo non supervisionato chiamato HeadScore, che classifica le attention head usando solo input non etichettati. Pur senza accesso a etichette di verità, HeadScore ha recuperato con successo le stesse head migliori identificate dall’approccio supervisionato, e lo ha fatto su ogni singolo modello testato.

Lo studio colloca il QK score anche al fianco di tecniche esistenti di correzione del bias posizionale come PriDe, Wiegrefe e Wang, pensate per correggere la tendenza dei modelli a favorire certe posizioni di risposta indipendentemente dal contenuto. Il paper presenta il QK score come complementare, non in competizione, con questi metodi di riferimento: le tecniche di debiasing agiscono riponderando i logit di output a posteriori, mentre il QK score legge la selezione del modello direttamente da una head negli strati intermedi, prima che avvenga qualsiasi decodifica. Questa distinzione, tra intervenire in fase di output e leggere il segnale prima del decoding, posiziona i due approcci come strumenti che potrebbero, in linea di principio, essere usati insieme.

Per garantire la riproducibilità, i ricercatori hanno rilasciato uno script HeadScore pronto all’uso, insieme agli indici delle head per ciascun modello, rendendo possibile replicare ogni risultato con un solo comando su tutti i 24 modelli e i quattro benchmark testati nello studio.

Perché questa linea di ricerca conta

Il lavoro di interpretabilità meccanicistica come questo ha meno a che fare con la costruzione di un chatbot migliore e più con la comprensione di cosa accada davvero dentro sistemi già usati su larga scala. Se la selezione delle attention head può far emergere risposte che il decoding standard non colgono, questo ha conseguenze su come leggere i benchmark di valutazione: un modello che ottiene un punteggio basso in classifica potrebbe comunque calcolare internamente la risposta giusta, semplicemente senza riuscire a farla emergere nella generazione ordinaria.

Si apre inoltre una via verso un auditing dei modelli più efficiente. Uno strumento non supervisionato come HeadScore significa che chi studia la selezione delle attention head non ha bisogno di dataset curati ed etichettati per individuare quali parti di un modello facciano il lavoro pesante su un determinato task: una scorciatoia pratica non trascurabile per chiunque voglia esaminare l’interno dei modelli senza costruire set di valutazione su misura per ogni architettura.

Contenuto realizzato con l’assistenza dell’intelligenza artificiale e con revisione editoriale umana.

Francesco Antonio Russo

Francesco Antonio Russo è un analista e divulgatore nel settore delle criptovalute, del Web3 e dell’Intelligenza Artificiale. Da più di 6 anni studia l’evoluzione dei mercati digitali e delle tecnologie decentralizzate, con particolare attenzione all’impatto economico e sociale della blockchain. Su Cryptonomist approfondisce trend, regolamentazioni e innovazioni, offrendo contenuti accurati e comprensibili anche ai non addetti ai lavori.

Tutti gli articoli di Francesco Antonio Russo