Facebook: il razzismo e Ajeje Brazorf

Questa è la storia di due post su Facebook: uno intriso di razzismo, l’altro intriso di ironia. E vi lascio subito immaginare quale dei due abbia potuto attecchire meglio sul social network. Una storia che ben misura l’attuale capacità di controllo di Facebook sui contenuti, la fragilità dei suoi protocolli e la sostanziale impossibilità di passare al vaglio quanto ricevuto dalle segnalazioni della community.

L’immigrato senza biglietto

Il primo post è quello di cui si è parlato in questi giorni in tutta Italia: un post, rivelatosi bufala, che descriveva gli stratagemmi usati da una persona per non pagare il biglietto su un treno Trenitalia. Il tono del post, però, è stato immediatamente chiaro a tutti (beh, non esattamente a tutti…) visto che le parole sottolineavano il fatto che la persona in oggetto fosse di colore. Grazie alla smentita di Trenitalia si è potuto appurare che la storia fosse falsa, ma nel frattempo decine di migliaia di condivisioni avevano moltiplicato l’eco di un post che solletica i sentimenti anti-immigrati, aveva trovato linfa nei toni della campagna elettorale in corso e aveva così sfiorato tutti quegli ingredienti necessari per fare di un post un prodotto virale sotto gli occhi di centinaia di migliaia di persone.

Ajeje Brazorf

Il secondo post è invece quello pubblicato pochi giorni più tardi da SpurgatoCN, community locale della provincia di Cuneo esplicitamente dedicata a contenuti di stampo ironico. Il post, onore al merito, ha avuto la geniale capacità di tracciare un collegamento diretto tra il caso del post arrivato sulle prime pagine di tutti i giornali, e la famosissima gag di Aldo, Giovanni e Giacomo. Esatto, proprio quella in cui il protagonista era “Ajeje Brazorf“. Chi non la ricorda se la può rivedere su YouTube (prima e seconda parte), per poi correre a leggere il post di SpurgatoCN:

Così come il primo post ha potuto arrivare sotto gli occhi di tutti senza che Facebook ne rallentasse l’esplosione, così entro poche ore l’autore di SpurgatoCN si è trovato invece bloccato per 30 giorni dalla piattaforma per aver scritto la parola “nekro” in un commento ironico aggiunto al proprio post ironico.

Esatto: un post dalla chiara matrice razzista ha fatto incetta di condivisioni, mentre un commento satirico ed espressamente anti-razzista, nonché canzonatorio nei confronti di quanti hanno dato voce al post originale sul rifugiato senza biglietto, è stato immediatamente fermato con tanto di “sanzione” per il suo autore.

Nessun algoritmo distingue il razzismo dall’ironia

Il confronto tra razzismo e ironia è forse uno dei contesti più forti e significativi nei quali analizzare il meccanismo di filtro di Facebook. Il razzismo, infatti, non può essere identificato da alcuna regola sintattica, né da regole grammaticali che un algoritmo possa interpretare: la comprensione può avvenire soltanto a seguito di una analisi semantica, di una complessità tale per cui neppure l’odierna intelligenza artificiale potrebbe mai ambire a discernere. Purtroppo, recentemente neppure l’uomo sembra più in grado di operare questa distinzione, negando tanto il razzismo quanto l’ironia per appiattirsi su notizie false-ma-verosimili in grado di solleticare bassi istinti. E infatti a Facebook non si chiede questo, né lo si dovrebbe forse pretendere. Il ban imposto all’autore di SpurgatoCN racconta però la storia opposta: chiunque abbia deciso che doveva avvenire la sanzione, infatti, non ha minimamente analizzato il contesto. Non ne ha avuto il tempo, forse, oppure non ne ha avuti gli strumenti, ma in ogni caso alla ricezione della segnalazione su un commento ironico ha reagito esattamente come si dovrebbe reagire per un post razzista; al contrario, di fronte al post razzista di pochi giorni prima la reazione era stata nulla.

«Facebook dovrebbe seriamente cominciare a pensare di investire nel sistema di controllo e di gestione dei commenti, delle foto postate e dei contenuti», ci racconta il responsabile di SpurgatoCN: «Tra fake news, pagine e commenti che incitano all’odio c’è veramente di tutto. Facendo solo controlli tramite le parole e non sul contenuto che essere esprimono si può finire bannati per aver denunciato un contenuto violento, razzista o xenofobo, mentre chi incita veramente all’odio, solo sfuggendo a questi algoritmi, resta impunito. Se Facebook lo facesse, ci guadagnerebbero tutti, sia l’azienda stessa, sia gli utenti».

Facebook può fare di più? Molto probabilmente si. Facebook deve fare di più? Altrettanto molto probabilmente sì, fermo restando il difficile discernimento tra libertà di espressione e necessità di filtro. Rimane una questione irrisolta che neppure Facebook potrà probabilmente dirimere: come riconoscere e identificare la satira? Una VAR contro le fake news è possibile, ma un tribunale d’appello per l’ironia ancora non c’è. Possono gli algoritmi sostituire le persone? Non oggi, e quando succederà saranno già gli stessi algoritmi a produrre i testi sui quali l’uomo andrà a confrontarsi.

La questione è destinata a rimanere irrisolta: solo aumentando la capacità dei singoli di giudicare e reagire ai contenuti incrociati online (lavorando in parallelo nella direzione di una maggior consapevolezza ed un maggior autocontrollo), si potrà ottenere un ecosistema social meno inquinato e di maggior valore. Ai social è tuttavia lecito chiedere qualcosa di più: la politica ci ha provato in modo goffo, ma ora sta arrivando la ben più autorevole voce dei grandi investitori (vedi Unilever) che dalle piattaforme ospitanti le loro campagne pretendono uno sforzo aggiuntivo volto a garantire la salubrità del luogo virtuale in cui il brand incontra l’utente.

Perché altrimenti finisce che il razzismo contro una persona per bene possa attecchire e farsi virale, mentre il finto-razzismo contro Ajeje Brazorf trovi immediato cartellino rosso.