Quasi due libri su tre tra quelli religiosi in vendita su Amazon sarebbero stati scritti non da persone, ma da un’intelligenza artificiale. È quanto emerge da uno studio della società di rilevamento AI Originality.ai, che ha analizzato oltre duemila titoli pubblicati di recente scoprendo una diffusione dei libri religiosi scritti da AI molto più ampia di quanto si potesse immaginare. Il dato non riguarda un genere di nicchia: parla di spiritualità, fede e pratiche che milioni di lettori considerano guide per la propria vita quotidiana.
Summary
Punti chiave
- Originality.ai ha classificato 1.272 libri su 2.034 analizzati, pari al 63%, come probabilmente scritti da AI in 14 categorie religiose e spirituali.
- La categoria Wicca, stregoneria e paganesimo ha il tasso più alto, con il 78% di titoli sospetti.
- Seguono induismo al 76% e taoismo al 74%.
- Il 53% delle affermazioni verificabili nei libri di stregoneria è stato segnalato come potenzialmente falso.
- Amazon si affida a un sistema di autodichiarazione degli autori e, in parallelo, acquista libri fisici per scansionarli e addestrare i propri modelli AI.
La maggior parte dei libri religiosi su Amazon è probabilmente scritta da AI
Il report, pubblicato mercoledì da Originality.ai, mette in fila un numero che difficilmente passerà inosservato: 63% dei titoli campionati sui temi religiosi risulta probabilmente generato da un’intelligenza artificiale. Non si tratta di un’impressione: dietro c’è un’analisi sistematica di migliaia di pagine, descrizioni e biografie di autori distribuite in quattordici categorie di fede e credenze.
Come funziona lo studio di Originality.ai
I ricercatori hanno esaminato descrizioni dei libri, biografie degli autori e campioni di testo, assegnando un punteggio a ciascun titolo. Chi superava la soglia di 50 punti veniva classificato come “probabilmente AI”. L’autore del report, Michael Fraiman, ha spiegato che il team ha anche effettuato controlli a campione sui libri segnalati, incrociando i risultati automatici con una valutazione manuale. Il modello, ha precisato, misura una probabilità e non fornisce mai una certezza assoluta sull’origine del testo.
I tassi di scrittura AI nelle diverse categorie religiose
Non tutte le tradizioni sono colpite nella stessa misura. La categoria Wicca, stregoneria e paganesimo guida la classifica con il 78% di titoli sospetti, seguita da induismo (76%) e taoismo (74%). Sikhismo, buddhismo, islam, cattolicesimo, protestantesimo, cristianesimo ortodosso ed ebraismo si collocano in una fascia intermedia, mentre mormonismo (42%), ateismo (40%) e satanismo (22%) chiudono la graduatoria con percentuali decisamente più basse. I ricercatori hanno però avvertito che le dimensioni del campione variano molto da una categoria all’altra, un elemento che va tenuto presente nel confrontare i numeri.
Perché conta proprio la stregoneria? Fraiman ha osservato che il lettore tipico di questi titoli cerca spesso soluzioni per guarire da sé, migliorare il proprio benessere mentale o disintossicarsi da farmaci e sostanze chimiche comuni. Sono libri che promettono rimedi con cristalli curativi, erbe e pulizia energetica senza doversi confrontare con alcuno standard scientifico, il terreno ideale per contenuti generati rapidamente e in massa.
Le difficoltà di verifica e i falsi positivi nel rilevamento AI
Il problema più delicato che emerge dallo studio non è solo la quantità di testi sospetti, ma la loro attendibilità: nei libri di stregoneria analizzati, il 53% delle affermazioni verificabili è stato segnalato come potenzialmente falso. Quando un contenuto spirituale privo di controllo scientifico si combina con un’origine probabilmente automatizzata, il rischio di diffondere informazioni fuorvianti su salute e benessere cresce in modo concreto.
I limiti degli strumenti di rilevamento della scrittura AI
Fraiman ha insistito su un punto: il sistema di Originality.ai indica una probabilità, non una prova. “Non facciamo affermazioni di certezza sul fatto che i libri siano definitivamente scritti da AI”, ha dichiarato, sottolineando che il modello stima solo un grado di verosimiglianza. È una distinzione tutt’altro che tecnica, perché gli strumenti di verifica dei contenuti AI hanno già mostrato margini di errore significativi in altri contesti.
Casi di risultati contrastanti nel rilevamento AI
La storia recente offre esempi che invitano alla cautela. Nell’ottobre 2024, quattro diversi rilevatori AI applicati alla Dichiarazione d’Indipendenza degli Stati Uniti hanno prodotto esiti opposti: ZeroGPT l’ha classificata come scritta da AI al 97,93%, QuillBot l’ha giudicata interamente umana e GPTZero le ha attribuito l’89% di probabilità di origine umana. Più di recente, nel marzo scorso, la Corte Suprema della Colombia ha respinto un atto legale dopo che un rilevatore lo aveva segnalato come generato da AI; quando un avvocato ha sottoposto allo stesso strumento la sentenza della Corte, il software l’ha classificata come AI al 93%. Episodi che spiegano perché la verifica di testi scritti da AI resti oggi un terreno instabile, utile per orientarsi ma non per emettere verdetti definitivi.
Amazon, il sistema d’onore e le questioni etiche sulla formazione dei dati
Amazon non ha risposto alla richiesta di commento di Decrypt sui risultati dello studio. Secondo Fraiman, la piattaforma è consapevole di quanto siano diffusi i contenuti scritti da AI nel proprio catalogo, ma si affida a un semplice sistema d’onore che lascia agli autori la responsabilità di autodichiarare se un’opera è stata generata artificialmente. Originality.ai non ha condiviso i propri dati con Amazon prima della pubblicazione, e lo stesso Fraiman ha ammesso di non avere alcuna informazione su quanti autori dichiarino effettivamente l’uso dell’AI.
Il sistema di autodichiarazione degli autori
Questa assenza di trasparenza pubblica è forse l’aspetto più critico della vicenda: senza dati verificabili sul tasso di autodichiarazione, il numero reale di libri religiosi su Amazon generati da AI potrebbe essere ancora più alto di quello stimato dallo studio. Il sistema attuale si basa sulla buona fede degli autori, non su un controllo sistematico da parte della piattaforma.
I libri fisici scansionati per addestrare l’intelligenza artificiale
Alla questione della disclosure si affianca un altro fronte, altrettanto controverso: l’uso di libri fisici per addestrare modelli AI. Un’inchiesta pubblicata ad agosto ha ricostruito il percorso di una spedizione di libri rari fino a un centro Amazon a Las Vegas, dove alcuni lavoratori ne tagliavano le rilegature per scansionare le pagine e trasformarle in dati di addestramento.
Amazon ha confermato di acquistare libri attraverso canali commerciali per questa operazione, dichiarando che l’obiettivo è “sviluppare e migliorare i prodotti e i servizi usati dai clienti”, senza però menzionare esplicitamente l’addestramento di modelli AI.
È un nodo che riguarda tanto l’eticità AI e formazione dati quanto il consenso degli autori, spesso assente da qualsiasi passaggio del processo.
Tra libri fantasma nelle librerie digitali e volumi rari distrutti nei centri di scansione, il caso Amazon mette a nudo due facce della stessa corsa all’intelligenza artificiale: da un lato la produzione incontrollata di contenuti, dall’altro la fame insaziabile di dati per addestrarla. Difficile, al momento, capire quale delle due sollevi le domande più urgenti per chi legge, scrive o pubblica un libro.
FAQ
Quanto è attendibile il rilevamento dei libri religiosi scritti da AI su Amazon?
Originality.ai utilizza un sistema di punteggio che indica una probabilità, non una certezza. I ricercatori stessi avvertono che i risultati segnalano una probabile origine AI, non una prova definitiva.
Quale categoria di libri religiosi ha la percentuale più alta di titoli probabilmente scritti da AI?
La categoria dedicata a Wicca, stregoneria e paganesimo registra il tasso più elevato, con il 78% dei titoli campionati classificato come probabilmente scritto da AI.
Quali problemi etici solleva l’uso di libri fisici da parte di Amazon per addestrare l’AI?
Amazon acquista e scansiona libri fisici, anche rari, per addestrare i propri modelli AI e poi li scarta, un processo che pone interrogativi sulla distruzione di opere originali e sul mancato consenso degli autori.
Amazon obbliga gli autori a dichiarare se un libro è stato scritto da un’intelligenza artificiale?
Amazon utilizza un sistema d’onore in cui sono gli autori stessi ad autodichiarare l’uso dell’AI nella scrittura, ma non esistono dati pubblici su quanti effettivamente lo facciano.
Contenuto realizzato con l’assistenza dell’intelligenza artificiale e con revisione editoriale umana.
