Amazon, dipendenti ascoltano cosa diciamo ad Alexa

Amazon ha sparsi in giro per il mondo migliaia di dipendenti che aiutano Alexa, l’assistente vocale inserita in tutti i prodotti della linea Echo, a migliorare la comprensione delle domande. Gli speaker Echo sono presenti in milioni di case e uffici nel mondo, usati da persone con la voce per attivare musica, giochi e diverse altre richieste. Per allenare l’intelligenza artificiale c’è però bisogno degli umani, che ascoltano le registrazioni della voce catturate da Echo.

Queste registrazioni sono ascoltate, trascritte e poi date in pasto al software, per ridurre sempre di più il gap che c’è tra Alexa e le conversazioni umane, insomma per aiutare l’assistente vocale a rispondere meglio ai comandi. Bloomberg ha riportato questo processo di review, descritto da sette persone che hanno lavorato al programma. Nei materiali di marketing Amazon descrive Alexa come un qualcosa che “vive nel cloud e diventa sempre più intelligente“, ma chiaramente c’è sempre bisogno dell’essere umano per insegnare qualcosa all’intelligenza artificiale.

Il team è composto da dipendenti Amazon o contractor provenienti dai luoghi più disparati, da Boston alla Costa Rica, Dall’India alla Romania, che hanno firmato un accordo di non divulgazione che non permette loro di parlare di queste cose in pubblico. Lavorano 9 ore al giorno, con ogni dipendente che ascolta anche 1000 clip audio per turno.

Usano anche una chat interna per condividere i file: una donna che canta (male) sotto la doccia, oppure un bambino che cerca aiuto. Due dei lavoratori che hanno parlato con Bloomberg hanno anche raccontato di aver ascoltato quello che sembrava una molestia sessuale. Amazon ha anche risposto tramite un portavoce:

Prendiamo sul serio la sicurezza e la privacy delle informazioni personali dei nostri clienti. Annotiamo solo un campione estremamente ridotto delle registrazioni vocali di Alexa per migliorare l’esperienza del cliente. Ad esempio, queste informazioni ci aiutano ad addestrare i nostri sistemi di riconoscimento vocale e di comprensione del linguaggio naturale, in modo che Alexa possa capire meglio le vostre richieste e garantire che il servizio funzioni bene per tutti. Abbiamo rigorose garanzie tecniche e operative e una politica di tolleranza zero per l’abuso del nostro sistema. I dipendenti non hanno accesso diretto alle informazioni che possono identificare la persona o l’account come parte di questo flusso di lavoro. Tutte le informazioni sono trattate con alta riservatezza e utilizziamo l’autenticazione a più fattori per limitare l’accesso, la crittografia dei servizi e le verifiche del nostro ambiente di controllo per proteggerlo.

Le registrazioni ascoltate e trascritte non mostrano il nome completo e l’indirizzo, ma sono associate con un numero di account, al nome dell’utente e al numero seriare del dispositivo. I dipendenti quindi non hanno accesso alle informazioni che possono identificare il soggetto che parla in una determinata clip audio.