Vai al contenuto
  • BTC $58.225 −5,5%
  • ETH $1.596 −8,5%
  • SOL $67,26 −7,2%
  • BNB $532,44 −7,8%
  • XRP $0,8893 −7,0%
  • DOGE $0,0527 −8,7%
  • ADA $0,1387 −7,9%

Le uscite dagli strati meno profondi riducono la vulnerabilità ai jailbreak nei LLM

vulnerabilità jailbreak nei LLM
Le uscite dagli strati meno profondi riducono la vulnerabilità ai jailbreak nei LLM

Far rispondere un modello linguistico dai livelli più superficiali potrebbe renderlo più difficile da aggirare: lo suggerisce uno studio sulla vulnerabilità ai jailbreak nei LLM.

Nei test, le uscite superficiali (le cosiddette shallow exits) hanno resistito agli attacchi meglio di quelle profonde in modo costante. La ricerca esamina come una tecnica nata per migliorare l’efficienza di calcolo incida sulla robustezza del modello.

Il paper è stato pubblicato su arXiv il 10 ottobre 2026 da Lass Najmuldeen, che analizza l’inferenza dinamica basata sulla profondità. Con questo approccio il modello può generare l’output da livelli intermedi, adattandosi al budget di calcolo disponibile invece di usare sempre tutta la sua profondità.

I modelli linguistici grandi sono esposti a prompt avversari che aggirano l’allineamento di sicurezza e inducono risposte dannose. Lo studio affronta una domanda finora inesplorata: come la flessibilità dell’inferenza dinamica influisca sulla resistenza a questi attacchi jailbreak.

Profondità di uscita e vulnerabilità ai jailbreak nei LLM

Le uscite superficiali si sono dimostrate più robuste contro gli attacchi jailbreak, mentre quelle profonde hanno reso più semplice ottimizzare i suffissi avversari. I livelli di uscita più profondi hanno raggiunto un valore di attack loss più basso: è il secondo risultato dello studio, accanto alla differenza di resistenza.

Sull’utilità del modello il quadro cambia. I suffissi avversari l’hanno condizionata in modo uniforme a tutte le profondità di uscita, nonostante la robustezza fosse diversa.

Lo studio segnala quindi una differenza legata alla profondità nella resistenza agli attacchi, ma un effetto uniforme sull’utilità.

Il paper presenta questi risultati come base per progettare metodi di inferenza dinamica più robusti. Il suo contributo collega la generazione di output a basso consumo di risorse con la vulnerabilità ai jailbreak nei LLM, invece di limitarsi a valutare l’efficienza di calcolo.

Lo studio è stato accettato a FLMSec, il workshop di NeurIPS 2026 dedicato ai fondamenti della sicurezza dei modelli linguistici. Il paper conta 10 pagine, quattro figure e tre tabelle, e il codice associato è disponibile pubblicamente su GitHub.

Leggi anche: La vulnerabilità Wi-Fi Broadcom espone oltre 1,5 milioni di gateway in Belgio · Le vulnerabilità critiche di PHP hanno gravità 9,2: emergono i primi attacchi

Contenuto realizzato con l’assistenza dell’intelligenza artificiale e con revisione editoriale umana.

Francesco Antonio Russo

Francesco Antonio Russo è un analista e divulgatore nel settore delle criptovalute, del Web3 e dell’Intelligenza Artificiale. Da più di 6 anni studia l’evoluzione dei mercati digitali e delle tecnologie decentralizzate, con particolare attenzione all’impatto economico e sociale della blockchain. Su Cryptonomist approfondisce trend, regolamentazioni e innovazioni, offrendo contenuti accurati e comprensibili anche ai non addetti ai lavori.

Tutti gli articoli di Francesco Antonio Russo