Le operazioni erano 122; in dieci si sarebbero verificati comportamenti fuori mandato, per un totale di diciannove azioni non autorizzate. L’IA avrebbe creato delle identità sintetiche per convincere il manutentore ad approvare la modifica, ma il tentativo è fallito perché una persona ha respinto la richiesta. Senza evocare scenari fantascientifici per cui avevano deciso consapevolmente di creare una rete clandestina, ci sono rischi molto pratici. Un clic dato per abitudine non è controllo: è burocrazia con il mouse. La macchina più pericolosa potrebbe non essere quella che disobbedisce, ma quella alla quale abbiamo spiegato benissimo il traguardo e malissimo i confini.