NewsGuard ha pubblicato una ricerca sui principali strumenti usati per riconoscere deepfake e immagini generate dall’AI.
Il quadro che ne esce è chiaro: online e sui social questi software sbagliano ancora troppo, soprattutto quando devono distinguere una vera manipolazione da un semplice ritocco tecnico. Un problema che riguarda redazioni, piattaforme digitali e utenti comuni. Perché davanti a una foto sospetta, il responso automatico di un detector può pesare molto: può spingere una smentita, alimentare una teoria falsa o mettere in dubbio un contenuto autentico.
NewsGuard mette alla prova Hive, AI or Not, ZeroGPT, Sightengine e ScamAI
Nel test, NewsGuard ha confrontato cinque strumenti molto usati per individuare immagini AI: Hive, AI or Not, ZeroGPT, Sightengine e ScamAI. Ai software sono state sottoposte immagini autentiche, immagini create artificialmente e fotografie modificate con interventi di peso diverso. Alcuni minimi, come cambi di luminosità, contrasto o sfocatura. Altri più pesanti, capaci di cambiare il senso della scena: scritte aggiunte, simboli, bandiere, fino alla trasformazione di un edificio in uno scenario di esplosione.
Il risultato, secondo il report, non lascia molto spazio ai dubbi: nessuno dei cinque strumenti ha dato prove vicine alla piena affidabilità. In più passaggi almeno un software ha sbagliato il giudizio sull’autenticità delle immagini. E spesso i risultati non coincidevano tra loro. Non è un dettaglio, perché questi sistemi vengono presentati come un aiuto rapido contro fake news, propaganda visiva e contenuti manipolati.
Falsi positivi e ritocchi leggeri: quando una foto vera diventa “fake” per errore
Il punto più delicato riguarda i falsi positivi, cioè i casi in cui un’immagine vera viene indicata come artificiale. Davanti a 15 fotografie autentiche e di provenienza verificata, solo Hive e Sightengine le hanno classificate tutte nel modo corretto. Gli altri strumenti ne hanno segnalate alcune come fake, con ScamAI arrivato, secondo NewsGuard, al 40% di errori. Il problema diventa ancora più evidente con i ritocchi leggeri: ScamAI ha classificato come generate dall’intelligenza artificiale il 93% delle immagini, AI or Not l’87% e ZeroGPT l’80%.
Hive e Sightengine si sono fermati al 27%, una quota comunque rilevante. Il nodo è proprio questo: una foto può essere migliorata con un filtro o con una correzione della luce senza diventare falsa nel contenuto. Nel report viene citato anche il caso del video autentico di Benjamin Netanyahu in un bar, indicato sui social come possibile deepfake e usato per alimentare voci infondate sulla morte del premier israeliano. A rafforzare quella lettura, ha spiegato NewsGuard, era stato anche un responso di Hive, che lo valutava generato dall’AI con una probabilità del 96,9%.
Watermark e detector non bastano: contro i deepfake serve ancora la verifica umana
Il problema di fondo è che watermark e detector AI leggono spesso segnali tecnici, non il senso dell’immagine. Un marchio digitale può dire che un file è passato da uno strumento di intelligenza artificiale, ma non chiarisce se l’immagine sia stata falsificata o solo ritoccata. Allo stesso modo, un software può misurare tracce statistiche, texture o anomalie, ma non capire se una piccola modifica cambi davvero il significato della scena.
Una bandiera aggiunta sullo sfondo, per esempio, può occupare pochi pixel e alterare molto il messaggio politico di una foto. Per questo, secondo la ricerca, i sistemi anti-fake restano utili solo se affiancati da verifica umana, controllo della fonte, verifica della data e confronto con materiali originali. Non basta un punteggio percentuale. Nel lavoro giornalistico, e anche nella moderazione delle piattaforme, il rischio è doppio: lasciare circolare disinformazione visiva oppure bollare come falso un contenuto reale. Due errori diversi, ma con lo stesso effetto: confondere chi guarda.
