QR code per la pagina originale

Riconoscimento facciale? Serve più intelligenza

La tecnologia è imperfetta e rischia di creare disagi reali alle persone, come già successo a Ousmane Bah negli Stati Uniti.

,

La notizia è recente, sebbene si riferisca a fatti avvenuti lo scorso novembre. Precisamente il 29 novembre del 2018, gli agenti della polizia di New York hanno arrestato Ousmane Bah, 18enne statunitense accusato di aver compiuto vari furti negli Apple Store di Boston, New Jersey, Delaware e Manhattan. Solo che il giovane, bontà sua, non ha mai commesso alcuno dei reati imputati. Cosa ha spinto dunque l’arresto? La responsabilità è del sistema di riconoscimento facciale installato nelle videocamere dei negozi della Mela, negli States come in giro per il mondo,  che hanno letteralmente preso una cantonata, associando un volto a un nome sbagliato. Questo perché il vero ladro girava con in tasca il foglio rosa di Bah, sottratto chissà dove, così da autenticarsi in giro con credenziali diverse dalle sue reali. Il foglio rosa negli Stati Uniti è spesso privo di una foto tessera, quindi non è stato difficile assumere una nuova identità. Il criminale non ha fatto altro che presentarsi presso un Apple Store e fornire il documento rubato per accreditarsi e chiedere alcune delucidazioni. La grande promessa dei big data si è realizzata: informazioni manuali più quelle visuali hanno creato una corrispondenza individuale da zero.

Avevo il timore che prima o poi ciò accadesse. L’uso della geometria facciale per identificarci è diventata una tecnica mainstream, che ci avvicina sempre più ad una società dove la sorveglianza continua è dietro ogni angolo. Intendiamoci: Apple, come ogni altra compagnia presente con negozi sul territorio, ha tutto il diritto di installare sistemi di sicurezza, a cui però deve collegare software davvero intelligenti, che non leghino solamente un punto A ad uno B, senza basarsi su  ulteriori elementi e archivi storici validati. Possiamo davvero girare la città con carte di identità e patenti di altri e scambiare informazioni sensibili come nulla fosse? Vada per l’assenza della foto sul foglio rosa americano, la questione non è limitata ad un’immagine stampata.

Per capire perché il riconoscimento facciale è ben lontano dall’essere quella tecnologia perfetta che ci raccontano bisogna conoscere ciò che lo rende possibile. Nasce da due componenti fondamentali, la prima riguarda la capacità dei computer di riconoscere i volti. Sebbene le tecniche siano molto avanzate al giorno d’oggi, è il momento che gli algoritmi trovino altre corrispondenze su internet per fare un match sensato delle persone. L’altra parte è la velocità con cui le macchine sono in grado di rintracciare una conformità tra le figure. Ieri ho postato una foto su Facebook e il social mi ha subito chiesto se gli altri presenti erano «Neo», «Trinity» e «Morpheus»; nessun dubbio, erano proprio loro. Perché l’infrastruttura software adottata da Apple, e gestita dalla Security Industry Specialists, non si è fatta la stessa domanda prima di inviare due agenti a casa di un presunto colpevole?

Qui non vi era nemmeno il rischio di falsi positivi, in cui due individui possono avere facce sufficientemente simili da ingannare la matrice: Bah e il ladro non condividevano nulla, se non il fatto di avere due occhi, due orecchie, una bocca. Eppure il Face ID sugli iPhone sblocca il telefono anche al buio.

Lo scenario è pazzesco e ben più pauroso delle storielle di orwelliana memoria. Qui basta un errore, anche piccolo, per mandare una persona in galera. Troppo? No, il caso di Ousmane ne è la dimostrazione. Il ragazzo ha fatto causa, certo, 1 miliardo di dollari: quante cause avremo da qui ai prossimi dieci anni e quante di queste saranno effettivamente accolte, con evidenti momenti di stress, tensione e paura da parte di innocenti vittime? Esagero se sullo sfondo vedo un Minority Report pieno zeppo di errori di valutazione e incomprensioni tra bit? E cosa se ogni mille casi risolti ve ne fosse solo uno non ragionevolmente certo di una colpa? Divagazioni post-umane e simil-apocalittiche, non così lontane dalla realtà.

E allora…#buongiornounCaffo