Un ricercatore di sicurezza informatica di Kansas City ha passato l’ultimo anno a fare sempre lo stesso esperimento: insegnare a un’intelligenza artificiale a dipingere motivi capaci di rendere invisibile chi li indossa alle telecamere di sorveglianza. Il risultato si chiama noRecognition, e rappresenta uno dei tentativi più avanzati finora documentati di pattern camouflage con AI contro i sistemi di riconoscimento automatico che oggi presidiano strade, marciapiedi e parcheggi americani.
Summary
Il progetto noRecognition e l’approccio tecnico
Bill Swearingen, co-fondatore del meetup di sicurezza SecKC, ha costruito un modello di reinforcement learning che si allena da solo: genera un motivo, verifica se viene rilevato dal software di riconoscimento, corregge, riprova. Dopo 31 milioni di test, il sistema è oggi in grado di produrre pattern su richiesta, capaci di ingannare gli algoritmi che alimentano le telecamere più diffuse negli Stati Uniti.
I risultati parlano chiaro: i motivi generati da noRecognition hanno sconfitto 11 algoritmi di detection open source, incluse le tecnologie che equipaggiano le lettura targhe di Flock, le body camera di Axon e il software di riconoscimento facciale di Clearview AI. Non si tratta di oscurare la registrazione video — le telecamere continuano a filmare — ma di impedire al software di classificare correttamente ciò che il motivo copre, sia che si tratti di una persona, di un volto o di un veicolo.
Il funzionamento si basa sul machine learning avversariale: un motivo che a occhio umano appare come una stampa grafica vivace può risultare completamente illeggibile per un classificatore automatico, perché la visione artificiale interpreta le immagini in modo radicalmente diverso da quella umana. Swearingen descrive il processo come “insegnare al modello come dipingere”: ogni fallimento migliora la generazione successiva, e oggi il sistema produce nuovi pattern ogni minuto. I motivi più efficaci restano volutamente offline, per evitare che i produttori di telecamere possano allenare i propri software contro di essi.
Dimostrazione pubblica a Def Con
Venerdì, al Def Con di Las Vegas, il progetto ha avuto la sua prima verifica pubblica. In collaborazione con il canale YouTube Donut Media, Swearingen ha rivestito una Toyota Yaris del 2009 con uno dei suoi pattern più recenti e l’ha fatta passare davanti a una telecamera Flock. Il veicolo non è stato rilevato dal sistema, confermando sul campo quanto emerso nei test di laboratorio.
La dimostrazione conta perché sposta la questione dal piano teorico a quello concreto: non si tratta più solo di superare algoritmi in un ambiente controllato, ma di dimostrare che l’evasione funziona anche in condizioni reali, con luce naturale, movimento e angolazioni variabili tipiche del traffico urbano.
Motivazioni per la privacy e contesto della sorveglianza AI
Perché qualcuno dovrebbe voler sfuggire a una telecamera? Per Swearingen la risposta è semplice: “la privacy è un diritto fondamentale“, e i suoi pattern permettono alle persone di “opt out di essere tracciate”. L’idea è nata l’anno scorso, quando il ricercatore voleva partecipare a una manifestazione ma si è sentito a disagio pensando che le telecamere avrebbero registrato tutti i partecipanti.
Il bersaglio principale di questa tecnologia di evasione della privacy è Flock, il sistema di sorveglianza controverso che si sta diffondendo in tutta l’America. L’azienda è già sotto pressione politica a Washington, e documenti interni hanno mostrato piani per trasformare 350.000 dashcam di Uber e Lyft in una flotta mobile di scansione targhe. Non è un dettaglio marginale: significa che la sorveglianza automatizzata potrebbe presto non limitarsi a telecamere fisse, ma diventare pervasiva su ogni corsia stradale coperta da un’auto a noleggio.
Sforzi avversariali esistenti contro i sistemi di rilevamento
Il tentativo di Swearingen si inserisce in una storia più lunga di resistenza artigianale alla sorveglianza algoritmica. Ad esempio, ad attivisti di San Francisco basta aver piazzato coni stradali sui cofani dei robotaxi Waymo e Cruise per bloccarli sul posto, senza scrivere una riga di codice. Durante le proteste per l’immigrazione a Los Angeles dello scorso anno, alcuni manifestanti sono arrivati a incendiare veicoli Waymo. Maschere, cappucci e cappelli a tesa larga restano strumenti standard nei cortei, mentre da anni esistono capi di abbigliamento avversariale pensati per confondere il riconoscimento facciale, e occhiali anti-riconoscimento la cui efficacia resta però poco documentata.
Ciò che distingue noRecognition è il bersaglio: Swearingen non ha testato genericamente contro il riconoscimento facciale, ma contro gli stack software specifici già in ampio uso sul territorio americano, incluse le tecnologie dietro lettori di targhe e body camera delle forze dell’ordine.
Considerazioni legali sulla sorveglianza e sul camuffamento
I lettori automatici di targhe hanno già fermato automobilisti innocenti puntando loro armi contro, mentre immigrati e manifestanti continuano a essere intercettati dai sistemi di intelligenza artificiale usati da ICE. In parallelo, alcuni parlamentari stanno facendo pressione su Meta riguardo al riconoscimento facciale integrato nei suoi smart glasses: un fronte diverso, ma dello stesso dibattito sui limiti della sorveglianza algoritmica.
Copertura della carrozzeria per evitare le leggi sulle targhe
Sul piano pratico, i pattern di noRecognition coprono la carrozzeria dei veicoli e non le targhe, proprio per evitare di infrangere le leggi che vietano l’occultamento delle targhe stesse. Resta invece una zona grigia la legalità generale di circolare con un’auto rivestita di questi motivi: le norme sull’ostruzione visiva variano da stato a stato, e non esiste ancora una risposta univoca a livello federale.
Il progetto, intanto, sta finanziando tramite crowdfunding le prime linee di merchandising — maglie e felpe per ora, con l’obiettivo di arrivare in seguito a vere e proprie pellicole adesive per veicoli. La sfida, secondo Swearingen, è trovare una risoluzione grafica sufficiente a funzionare a distanza e un design abbastanza convincente da spingere le persone a indossarlo davvero. “Ogni fallimento migliora il mio modello, e così i pattern continuano a diventare sempre più efficaci”, ha dichiarato il ricercatore.
FAQ
Cos’è il progetto noRecognition?
noRecognition è un sistema basato su intelligenza artificiale sviluppato da Bill Swearingen che genera motivi grafici capaci di impedire ai software delle telecamere di sorveglianza di rilevare persone, volti o veicoli.
Quanto è efficace il pattern noRecognition contro le telecamere di sorveglianza?
I motivi hanno sconfitto 11 algoritmi di rilevamento open source, incluso il software usato da Flock, dalle body camera Axon e da Clearview AI, dopo 31 milioni di test condotti per addestrare il modello.
È legale guidare veicoli rivestiti con questi pattern generati dall’AI?
I motivi coprono la carrozzeria del veicolo ma non le targhe, proprio per evitare violazioni delle leggi sull’ostruzione delle targhe. Tuttavia la legalità di circolare con un’auto interamente rivestita varia da stato a stato negli Stati Uniti.
Cosa ha motivato la creazione di noRecognition?
Bill Swearingen ha creato noRecognition per permettere alle persone di “opt out dall’essere tracciate” dai sistemi di sorveglianza, una preoccupazione che riguarda in particolare manifestanti e sostenitori della privacy.
Contenuto realizzato con l’assistenza dell’intelligenza artificiale e con revisione editoriale umana.
