C’è una certa idea riguardo allo sviluppo dell’intelligenza artificiale che prevede che essa diverrà, ad un certo punto, così intelligente che gli esseri umani non riusciranno più a comprendere non solo come funziona ma anche come limitarla. Questa transizione, che sostanzialmente dovrebbe vedere l’intelligenza artificiale superare l’intelligenza umana, dovrebbe portare a miglioramenti a catena che la stessa intelligenza artificiale metterà a punto per diventare sempre più intelligente. Miglioramenti a catena che non potremmo più tenere a bada, anche perché avverranno molto velocemente, e che non ci permetterebbero di prevedere cosa possa poi potrebbe succedere.
Controllare superintelligenza risulterà impossibile
Secondo uno studio ripreso da ScienceAlert, controllare questa superintelligenza, le cui intenzioni non potremmo prevedere proprio perché la sua capacità di ragionamento e di prevedere le nostre reazioni andrebbero ben oltre quelle dell’umano più intelligente che esiste o che potrà esistere, risulterà sostanzialmente impossibile.
Si tratta di un problema abbastanza diverso da quello relativo alla cosiddetta “etica dei robot”. Non comprendendo gli scenari che un’intelligenza così avanzata potrebbe mettere in atto, lo scenario in cui riusciremmo ad imporre una regola ad un’intelligenza artificiale, come quella relativa al non causare danni agli esseri umani, potrebbe non avere più senso.
Tramite Internet potrebbe mandare in subuglio l’intera umanità
Si tratterebbe di una superintelligenza multiforme, come spiegano i ricercatori, in grado di utilizzare una varietà di risorse per raggiungere i suoi obiettivi, obiettivi che noi comunque difficilmente comprenderemmo. Dato che oggi tutto è collegato in rete, anche l’utilizzo delle nostre risorse energetiche, un’intelligenza del genere potrebbe mandare in subuglio l’intera umanità in poche ore solo accedendo ad Internet. In definitiva la superintelligenza risulterebbe incontrollabile.
Problema dell’arresto
Entra in gioco anche il problema dell’arresto descritto da Alan Turing per la prima volta nel 1936. Questo problema prevede che gli esseri umani non possano ideare un modo per sapere se ogni potenziale programma informatico, anche quelli che potrebbero essere scritti in futuro, possa raggiungere o meno una conclusione e fornire una risposta oppure possa cercare all’infinito nel tentativo di trovarne una.
Un eventuale programma che potremmo scrivere per contrastare una super intelligenza artificiale, ad esempio per non permetterle di arrecare danni agli esseri umani, potrebbe raggiungere una conclusione e quindi fermarsi oppure potrebbe non farlo. Noi non saremo mai sicuri di quale possa essere la conclusione e quindi l’algoritmo sarebbe inutilizzabile, come spiega Iyad Rahwan, ricercatore dell’Istituto Max Planck per lo sviluppo umano, Germania, ed uno degli autori dello studio.
Staccare i fili? Non è così semplice
Si potrebbe pensare che l’unico modo per contrastare davvero un’intelligenza artificiale molto più intelligente di noi sarebbe quello di non farla accedere ad Internet. Tuttavia secondo i ricercatori non è così che useremo un’intelligenza artificiale: senza un accesso ad Internet, essa non potrebbe risolvere i nostri problemi e dunque perché l’avremmo creata?
Inoltre c’è da prendere in considerazione gli scenari dipinti da molti scienziati secondo i quali non riusciremmo in alcun modo a negare ad una superintelligenza l’accesso ad Internet: anche se questa intelligenza fosse rappresentata solo da una serie di algoritmi presenti in un server o in un computer, e anche se staccassimo tutti i cavi, la superintelligenza troverebbe comunque un metodo per convincerci a ricollegare i fili e comunque a farla accedere ad Internet. Potremmo, in sostanza, resisterle molto poco.
Esistono già algoritmi semiautonomi
In ogni caso secondo i ricercatori l’incomprensibilità di un’intelligenza artificiale raggiungerebbe livelli tali che è per noi sarebbe impossibile capire come potremmo contrastarla. Anche se oggi macchine superintelligenti che controllano il mondo possono sembrare solo fantascienza, in realtà esistono già algoritmi che eseguono attività, anche molto importanti, senza che i programmatori intervengano, come spiega Manuel Cebrian, altro informatico impegnato nello studio.
Note e approfondimenti
- Superintelligence Cannot be Contained: Lessons from Computability Theory | Journal of Artificial Intelligence Research (IA) (DOI:/10.1613/jair.1.12202)
