Intelligenza artificiale potrebbe porre fine alla civiltà secondo scienziato informatico

Stuart J. Russell, scienziato informatico ed esperto di intelligenza artificiale nonché professore di informatica a Berkeley (1), intervistato in un video sul canale YouTube Double Down News fa alcune interessanti informazioni riguardo al futuro della stessa intelligenza artificiale e a come quest’ultima, migliorando sempre più il proprio livello, possa risultare poi un pericolo per la stessa esistenza degli esseri umani sulla Terra.
Si tratta di un concetto che una volta era tipico della fantascienza ma che sta diventando, grazie anche agli appelli fatti da personalità influenti del mondo della ricerca, qualcosa che potrebbe essere più vicino alla realtà di quanto abbiamo mai pensato.

Lo scienziato, che ha da poco pubblicato un suo libro riguardo a questo tema intitolato Human Compatible: Artificial Intelligence and the Problem of Control, comincia col dire che in effetti il pericolo esiste: un’intelligenza artificiale di alto livello potrebbe porre fine alla stessa civiltà umana. Aggiunge anche che non siamo preparati: stiamo investendo centinaia di miliardi di dollari in una tecnologia che paradossalmente potrebbe portare alla fine della civiltà come la conosciamo, “potrebbe essere un’enorme catastrofe”, giusto per non usare mezzi termini.
Al momento ci sono già alcuni esempi di abusi che le intelligenze artificiali possono fare: le armi autonome guidate dai software di intelligenza artificiale, per esempio, possono trovare potenziali bersagli da soli e sostanzialmente decidere chi uccidere e chi non uccidere, spesso senza una supervisione umana, come specifica il ricercatore.

Queste armi stanno diventando così sofisticate che potranno essere inoltre molto selettive: possono per esempio uccidere solo i maschi tra i 12 e i 70 anni oppure persone di un determinato gruppo etico. Già al momento esistono droni che possono rintracciare ed uccidere autonomamente gli esseri umani. Si tratta di armi intelligenti che, potenzialmente, potrebbero essere anche più pericolose delle armi nucleari.
Altro esempio di abuso da parte dell’intelligenza artificiale è il livello di sorveglianza e di controllo, spesso a favore di governi autoritari, che si possono già vedere in alcune nazioni. In alcune regioni del mondo si sta tornando a condizioni simili a quelle della Germania orientale dopo la seconda guerra mondiale, quando la Stasi voleva sorvegliare le masse. Solo che quell’agenzia richiedeva un’enorme forza lavoro umana, differentemente dall’intelligenza artificiale odierna che potrebbe sorvegliare da sola ogni singolo essere umano.

Guardando un po’ più la nel futuro si potrebbe pensare ad intelligenza artificiale addestrata per risolvere i problemi climatici. Una volta che l’intelligenza artificiale si proporrà l’obiettivo di ridurre l’anidride carbonica livelli preindustriali cosa potrà arrivare a fare? Il sistema artificiale si renderà conto che la causa del biossido di carbonio presente nell’aria è sostanzialmente rappresentata dalla presenza degli esseri umani.
Si potrà impostare il software in modo che trovi un modo per tenere sotto controllo l’anidride carbonica ma senza uccidere nessuno. L’intelligenza artificiale potrebbe allora trovare un modo per produrre una campagna pluridecennale sui social media onde convincere le persone a non avere figli.

Dopo un certo numero di anni, ad esempio dopo 75 anni, diventerebbe dunque più facile sbarazzarsi della maggior parte delle persone e ridurre sempre di più la popolazione mondiale onde risolvere il problema climatico.
Lo scienziato dunque consiglia di non progettare sistemi di intelligenza artificiale in questo modo, ossia con obiettivi fissi da raggiungere. Bisognerebbe piuttosto progettare macchine facendo in modo che il loro unico scopo sia quello di essere di beneficio per l’intero genere umano.

Approfondimenti

  1. Stuart J. Russell – Wikipedia in inglese (IA)

Articoli correlati

Condividi questo articolo

Dati articolo


Resta aggiornato su Facebook