Il modo in cui progettiamo attualmente l’IA è fondamentalmente sbagliato. Stiamo progettando l’IA per essere intelligente, ma non necessariamente per avere a cuore gli interessi dell’umanità. Dobbiamo quindi fare della realizzazione degli obiettivi umani l’unico obiettivo dell’IA. Se riuscissimo a controllare l’IA superintelligente, saremmo in grado di sfruttare il suo immenso potere per far progredire la nostra civiltà e liberare l’umanità dalla servitù. Ma se fallissimo, rischieremmo di perdere la nostra autonomia, diventando sempre più soggetti ai capricci di un’intelligenza superiore.