QR code per la pagina originale

Facebook censura la Dichiarazione d’Indipendenza USA

Facebook ha rimosso per sbaglio la Dichiarazione d'Indipendenza di Jefferson, per incitamento all'odio e razzismo: è un errore dell'algoritmo di IA.

,

Potrebbe esser considerato un epic fail quello dell’algoritmo di Facebook, che ha censurato per sbaglio la Dichiarazione di Indipendenza americana per incitamento all’odio e razzismo. Aveva trovato contenuti ritenuti offensivi, poi sbloccati dopo che il social si è scusato per l’accaduto.

In vista dei festeggiamenti per il 4 luglio, l’Independence Day d’America, un quotidiano del Texas aveva iniziato a postare sulla sua pagina Facebook estratti della Dichiarazione di Indipendenza, tra cui il decimo estratto che fa riferimento agli Indios d’America, per cui l’editore ha ricevuto un avviso di rimozione per violazione degli standard di sicurezza, in particolare per incitamento all’odio e razzisti.

Il problema di questo paragrafo del documento datato 4 luglio 1776, che Facebook ha trovato non appropriato per la sua community, si riduce a poche parole: «merciless Indian Savages», ovvero «selvaggi indiani senza pietà» così come Jefferson si riferiva agli indiani d’America nel lontanissimo diciottesimo secolo, ai tempi considerati un nemico e inferiori rispetto alla popolazione bianca. Come infatti sottolinea il direttore della rivista texana The Vindicator Casey Snittett: «Sfortunatamente lui come molti altri coloni di quei tempi non avevano una grande visione dei Nativi Americani», ma chiaramente l’algoritmo di Facebook non poteva prevedere che si trattasse di un contenuto storico di secoli fa.

Facebook ha ripristinato il post notificando a The Vindicator che «Sembra che abbiamo commesso un errore e rimuovendo un contenuto pubblicato su Facebook che non viola affatto gli standard della nostra comunità», scusandosi per l’errore: «Vogliamo scusarci e comunicare che abbiamo ripristinato i contenuti e rimosso eventuali blocchi sull’account relativi a questa azione scorretta». In un post pubblicato sul blog, Richard Allan di Facebook ha inoltre affermato che la società è continuamente al lavoro per migliorare i suoi algoritmi, ma che «siamo molto lontani dal poter contare sull’apprendimento automatico e sull’intelligenza artificiale per gestire la complessità implicata nella valutazione dei discorsi di incitamento all’odio».

Quanto avvenuto in questa vicenda mostra infatti chiaramente un buco nell’apprendimento dell’intelligenza artificiale. L’algoritmo di Facebook dedicato al riconoscimento dei contenuti che incitano all’odio ha infatti ancora poca comprensione del contesto storico e di quello culturale dietro quelle parole.

Fonte: The Vindicator • Via: The Washington Post • Immagine: Catlane | iStock