Facebook: big brother contro crimini sessuali

Come in Minority Report, l’anticrimine preventivo vagheggiato da Philiph Dick, Facebook monitora la sua chat per individuare possibili predatori sessuali mentre cercano di catturare delle giovani vittime e avvisa la polizia. Una inchiesta ha svelato questo meccanismo, mostrandone però tutte le imperfezioni.

In un lungo articolo di Joseph Menn per la Reuters – ripreso dall’Huffington Post e altri siti – si spiega il meccanismo, poco conosciuto, dello screening di Facebook: la società ha importato un software molto raffinato (e costoso) che scansiona le chat cercando frasi o parole che possano far sospettare, per il loro contenuto, un tentativo di approccio sessuale. La ricerca semantica è arricchita da un database vocale sulle tecniche di approccio dei criminali sessuali – che così viene “riconosciuta” dal programma – e da un altro archivio di nomi e indirizzi di persone condannate o sospettate di reati a sfondo sessuale da tenere sempre sotto controllo.

Il 9 marzo scorso, ad esempio, un uomo poco più che trentenne stava chiacchierando di sesso con una tredicenne in Florida e progettava di incontrarla il giorno successivo dopo l’uscita da scuola: il programma ha individuato il pericolo e contrassegnato la conversazione, trasmettendola alla task force di Facebook, che poi ha deciso di avvisare la polizia del luogo. Gli ufficiali hanno preso il controllo del computer dell’uomo e l’hanno arrestato subito, senza aspettare che fosse colto in flagrante. Ma il presunto predatore è stato dichiarato non colpevole in sede giudiziaria.

Jeffrey Duncan, del Dipartimento di polizia della Florida, ha elogiato il programma di Facebook, sottolineando che in questo modo hanno potuto intervenire per tempo, ma si stanno alzando alcune voci dubbiose, che cominciano a chiedersi quale sia il contributo reale di questi software alla lotta contro il crimine.

La questione è semplice: Facebook è nelle condizioni paradossali di fare meglio di tutti oppure peggio, dipende da quali scopi si propone.

Queste due tensioni opposte – un grande bacino di potenziali vittime, ma anche la possibilità di monitorare le loro relazioni con persone identificabili – sono alla base dell’investimento in programmi di screening basati su ricerca automatica e decisione finale umana. Un’altra strategia che Facebook adotta sui minori è restringere il campo delle loro chat: gli adulti hanno difficoltà a trovarli perché non compaiono sulle ricerche pubbliche, solo gli amici degli amici possono inviare messaggi e solo gli amici possono chattare con loro.

Le tecniche però sono le più disparate, negli Stati Uniti ansiosi per il bullismo e i reati online se ne contano molte e nessuna pienamente convincente. Tuttavia bisogna anche dare un confine ben preciso al fenomeno: ll Centro Nazionale per i bambini scomparsi e sfruttati degli USA – da tempo in stretta collaborazione con Big F – dice che le segnalazioni di seduzione online di minori da parte di adulti nel 2011 sono state 3.638, rispetto ai 4.053 nel 2010 e 5.759 nel 2009: i reati sessuali contro i bambini sono sempre stati rari e sono ora in calo in Rete, perché la verità più atroce è che la maggior parte dei crimini sessuali contro i minori sono commessi da persone che i bambini conoscono già nella vita reale. Resta comunque l’ipotesi secondo la quale questi programmi stiano comunque dando un contributo, se non altro come deterrente.

La morale è che perdere qualche utente cattivo non può più essere considerato un problema remunerativo per Facebook e per chiunque operi sul web coi minori. I casi di start up, spesso applicazioni per smartphone, bloccate o fallite perché non avevano preso in considerazione filtri e altri strumenti contro le aggressioni, insegna che la redditività degli utenti non è tutto. Dipende anche da chi sono e da come si comportano.