QR code per la pagina originale

Guerra e IA: Musk sui pericoli delle armi autonome

Il numero uno di Tesla e SpaceX, insieme a quello di DeepMind, tra i 116 firmatari di una lettera aperta inviata all'Organizzazione delle Nazioni Unite.

,

L’evoluzione delle tecnologie e dei sistemi legati all’ambito dell’intelligenza artificiale procede spedita e c’è chi si interroga sui rischi connessi a un loro potenziale utilizzo irresponsabile. In prima fila tra coloro che chiedono di attuare un piano d’emergenza o quantomeno di prendere in considerazione eventuali pericoli c’è Elon Musk.

Da tempo il numero uno di Tesla e SpaceX, lo stesso al lavoro su un laccio neurale in grado di connettere il cervello dell’uomo a un calcolatore, chiama i propri colleghi impegnati nell’universo hi-tech a una presa di coscienza e di posizione. Già nel 2014 parlò di un’IA pericolosa entro cinque anni, arrivando il mese scorso a chiedere al governo statunitense di regolamentarne lo sviluppo. Una visione del progresso tecnologico appoggiata da molti, ma non da tutti: il più celebre dei suoi oppositori è Mark Zuckerberg, numero uno di Facebook, che di recente ha definito i timori di Musk eccessivi e inutilmente allarmistici.

Musk prosegue però per la sua strada e tramite il Future of Life Institute invia una lettera aperta alla Organizzazione delle Nazioni Unite, su un tema particolarmente delicato: l’impiego dell’intelligenza artificiale in campo bellico. Il documento è firmato da 116 dirigenti di società impegnate proprio nel territorio dell’IA e del machine learning. Tra questi figura anche Mustafa Suleyman, co-fondatore di DeepMind, realtà acquisita da Google (Alphabet). Questo il paragrafo d’apertura, riportato in forma tradotta.

In qualità di aziende impegnate nella realizzazione di tecnologie riguardanti intelligenza artificiale e robotica che potrebbero essere riutilizzate per lo sviluppo di armi autonome, sentiamo la responsabilità di portare alla luce questo allarme. Accogliamo calorosamente la decisione dell’ONU di stabilire un GGE (Group of Governmental Experts) focalizzato sui Lethal Autonomous Weapon Systems. Molti dei nostri ricercatori e ingegneri sono disponibili per offrire supporto tecnico alle vostre decisioni.

Nella lettera si parla in modo esplicito di armi autonome, ovvero sistemi basati sull’IA che un giorno potrebbero essere impiegati dagli eserciti nelle aree dei conflitti. Strumenti che, se messi nelle mani sbagliate, possono risultare letali stroncando vite innocenti e provocando danni incalcolabili. Musk e i firmatari del documento chiedono l’attuazione di misure preventive, subito, senza ulteriori attese. Il rischio è quello di arrivare a rendersi conto del pericolo solo quando sarà troppo tardi per porvi rimedio.

Le armi letali autonome minacciano di dare vita alla terza rivoluzione nell’ambito della guerra. Una volta sviluppate consentiranno di dar vita a conflitti armati combattuti su scale più vaste che mai, con tempistiche che gli esseri umani non riuscirebbero nemmeno a comprendere. Potrebbero diventare strumenti di terrore, se usate da tiranni ed estremisti contro popolazioni innocenti. Se manomesse potrebbero comportarsi in modo indesiderato. Dobbiamo agire in fretta. Una volta che questo vaso di Pandora verrà aperto, sarà difficile da richiudere. Imploriamo di trovare un modo per proteggerci tutti da questi pericoli.

Fonte: Future of Life Institute • Via: BBC • Immagine: Mopic / Shutterstock • Notizie su: