L’onda che verrà è il libro in cui Mustafa Suleyman, cofondatore di DeepMind e oggi a capo di Microsoft AI, sostiene che intelligenza artificiale e biologia sintetica si diffonderanno più in fretta della nostra capacità di controllarle. La sfida centrale, che chiama problema del contenimento, è governare tecnologie indispensabili e impossibili da fermare.
Indice del saggio
- Di cosa parla L'onda che verrà di Mustafa Suleyman?
- Qual è la prima sfida: perché la potenza si diffonde più in fretta della prudenza?
- Qual è la seconda sfida: perché ciò che libera è anche ciò che destabilizza?
- Qual è la terza sfida: si può davvero contenere l'intelligenza artificiale?
- Perché chi frena da solo resta indietro?
- Cosa significa L'onda che verrà per chi lavora e studia oggi?
- Quali sono i limiti del libro?
- Domande frequenti su L'onda che verrà
- La regola che il libro mi ha lasciato
- Saggi consigliati
- Libri consigliati
- Fonti
Ci sono libri che avvertono e libri che costringono a cambiare il modo in cui guardi le cose. L’onda che verrà, scritto da Mustafa Suleyman con Michael Bhaskar e pubblicato nel 2023, appartiene alla seconda specie, e il motivo sta nella biografia del suo autore. Suleyman parla dall’interno: nel 2010 ha fondato DeepMind insieme a Demis Hassabis e Shane Legg, ha vissuto dall’interno l’acquisizione da parte di Google, ha poi cofondato Inflection AI e dal 2024 guida la divisione di intelligenza artificiale di Microsoft. È uno dei costruttori dell’onda di cui scrive.
Proprio per questo ne parla con una sobrietà rara. Niente catastrofismo rituale, niente ottimismo di facciata: un’analisi fredda di un problema che, secondo lui, definirà il secolo. In questo saggio ti porto dentro le sue tesi principali, le confronto con altri autori che ho letto, da Harari a Kai-Fu Lee, e le metto alla prova con le domande che mi interessano di più: cosa significa tutto questo per chi lavora, studia e pensa oggi. Alla fine trovi la regola personale che il libro mi ha lasciato sull’uso dell’intelligenza artificiale, ma prima devi capire perché Suleyman considera la nostra paura di guardare il problema il primo nemico da battere.
Di cosa parla L’onda che verrà di Mustafa Suleyman?
L’onda che verrà parla della nuova ondata tecnologica formata da intelligenza artificiale e biologia sintetica, che secondo Suleyman si diffonderà ovunque perché diventa ogni anno più economica, più potente e più accessibile. Il libro sostiene che fermarla è impossibile e che la sfida è contenerne i rischi senza soffocarne i benefici.
La tesi di fondo parte dalla storia. Suleyman ricostruisce le grandi ondate tecnologiche del passato, dal fuoco alla stampa, dal motore a combustione a internet, e individua una regola che si ripete: una tecnologia utile, una volta comparsa, tende a diffondersi ovunque, a diventare più economica e a uscire dal controllo di chi l’ha inventata. Nessuna società è mai riuscita a rinunciare a lungo a una tecnologia che offriva un vantaggio, perché chi rinunciava veniva superato da chi la adottava.
Perché questa ondata è diversa dalle precedenti?
Suleyman individua quattro caratteristiche che rendono l’ondata attuale più difficile da governare delle precedenti:
- Asimmetria: un singolo attore con pochi mezzi può produrre effetti enormi, nel bene e nel male.
- Iperevoluzione: lo sviluppo avanza a una velocità che lascia indietro leggi, istituzioni e abitudini.
- Uso universale: le stesse tecnologie servono a scopi diversissimi, civili e militari, terapeutici e distruttivi.
- Autonomia: i sistemi iniziano a prendere decisioni e ad agire con un intervento umano sempre minore.
L’onda che verrà in breve. Intelligenza artificiale e biologia sintetica formano un’ondata tecnologica che si diffonde ovunque, diventa sempre più economica ed è difficile da controllare. Suleyman sostiene che fermarla è impossibile e che la sfida del secolo è contenerne i rischi conservandone i benefici.
Qual è la prima sfida: perché la potenza si diffonde più in fretta della prudenza?
La prima sfida è la proliferazione. Le capacità che ieri erano riservate a pochi laboratori diventano in pochi anni accessibili a chiunque abbia un computer, perché i costi crollano e gli strumenti si semplificano. Le istituzioni, le leggi e le abitudini che dovrebbero governarle si adattano molto più lentamente.
La parola chiave del libro è proliferazione. Ogni tecnologia potente attraversa la stessa traiettoria: nasce costosa e riservata a pochi, poi i costi scendono, gli strumenti si semplificano e la competenza necessaria per usarli si abbassa. Il computer che occupava una stanza è diventato un telefono in tasca; il sequenziamento di un genoma, che all’inizio del secolo richiedeva anni e somme enormi, oggi costa una frazione minuscola di allora. L’intelligenza artificiale sta percorrendo la stessa strada a una velocità molto superiore.
Cosa significa il nuovo test di Turing proposto da Suleyman?
Per misurare quanto l’intelligenza artificiale stia diventando capace di agire nel mondo reale, Suleyman propone un test diverso da quello classico di Alan Turing, che chiedeva se una macchina potesse sembrare umana in una conversazione. Il suo test di Turing moderno chiede se un sistema possa ricevere un capitale iniziale e trasformarlo in un multiplo, prendendo da solo le decisioni necessarie: ricerca di mercato, progettazione di un prodotto, trattative con i fornitori, vendita. È un modo concreto per spostare l’attenzione dalla capacità di parlare alla capacità di agire, che è quella che cambia davvero l’economia.
Che cos’è la trappola dell’avversione al pessimismo?
Suleyman descrive una reazione che ha osservato in molti colleghi, politici e dirigenti: davanti a scenari cupi, le persone tendono a distogliere lo sguardo, a liquidarli come allarmismo o a cambiare argomento. La chiama trappola dell’avversione al pessimismo. Il problema è che un rischio ignorato continua a crescere, e il primo passo per affrontarlo è avere il coraggio di guardarlo in faccia senza drammatizzarlo e senza minimizzarlo. È lo stesso equilibrio che Hans Rosling chiedeva con la sua idea di possibilismo, che racconto nel saggio su Factfulness.
Qual è la seconda sfida: perché ciò che libera è anche ciò che destabilizza?
La seconda sfida è il duplice uso. Le stesse tecnologie che accelerano la ricerca medica, l’istruzione e la produttività possono essere usate per disinformazione, truffe, attacchi informatici o armi biologiche. Il lato utile e quello pericoloso coincidono, quindi è impossibile tenere il primo e vietare il secondo con un taglio netto.
Le tecnologie a uso generale hanno una caratteristica che le rende particolarmente difficili da governare: il loro lato civile e il loro lato pericoloso sono la stessa cosa vista da due direzioni. Un modello che aiuta a progettare nuovi farmaci analizzando milioni di molecole può aiutare a progettare tossine; un sistema che genera voci e volti realistici per il cinema o l’accessibilità può generarli per una truffa telefonica; un assistente che scrive codice per uno studente può scriverlo per un attacco informatico.
Perché non basta vietare gli usi pericolosi?
Perché non esiste un interruttore che separi gli usi buoni da quelli cattivi. Con le armi nucleari il contenimento ha funzionato in parte perché costruire una bomba richiede materiali rari, impianti enormi e competenze concentrate in pochi luoghi: elementi che si possono sorvegliare. Con l’intelligenza artificiale e la biologia sintetica le barriere d’ingresso si abbassano ogni anno, e la stessa conoscenza che serve al ricercatore serve a chi vuole fare danno.
Come cambia la mappa del potere?
Ogni tecnologia ridisegna la mappa del potere, e questa lo fa in due direzioni opposte nello stesso momento. Da una parte concentra un potere enorme nelle mani delle poche aziende e dei pochi stati che controllano i modelli più avanzati, i dati e la capacità di calcolo. Dall’altra lo disperde, mettendo strumenti potentissimi nelle mani di individui e piccoli gruppi. Yuval Noah Harari, in Nexus, porta il ragionamento ancora più in là: per la prima volta nella storia abbiamo creato una tecnologia che può prendere decisioni e produrre idee da sola, e quindi diventare un attore delle reti di informazione invece che un semplice strumento.
Qual è la terza sfida: si può davvero contenere l’intelligenza artificiale?
La terza sfida è il contenimento. Suleyman ammette che un controllo perfetto è impossibile, e propone invece un sistema di freni incompleti ma efficaci: sicurezza tecnica, verifiche indipendenti, controllo dei punti critici della filiera, regole, alleanze internazionali e una cultura che riconosca gli errori invece di nasconderli.
Il problema del contenimento è il concetto centrale del libro. Suleyman parte da un’ammissione onesta: nessuna tecnologia potente è mai stata contenuta del tutto, e anche questa non lo sarà. Ma tra il contenimento perfetto e l’assenza totale di controllo esiste un ampio territorio intermedio, ed è lì che si gioca la partita.
Quali sono i dieci passi verso il contenimento?
Nell’ultima parte del libro Suleyman propone dieci livelli di intervento, dal più tecnico al più politico. Li riassumo:
- Sicurezza tecnica: investire molto di più nella ricerca su come rendere i sistemi sicuri e controllabili.
- Verifiche: controlli indipendenti sui modelli più potenti, come avviene per farmaci e aerei.
- Punti critici della filiera: usare i passaggi obbligati, come la produzione dei chip più avanzati, per rallentare e sorvegliare.
- Costruttori responsabili: chi critica la tecnologia deve contribuire a costruirla, invece di restare fuori.
- Imprese: aziende che bilancino profitto e responsabilità nella loro stessa struttura.
- Governi: stati capaci di capire la tecnologia e di regolarla con competenza.
- Alleanze: accordi internazionali tra paesi e tra aziende rivali.
- Cultura: un ambiente in cui gli errori e gli incidenti vengano dichiarati e studiati, come nell’aviazione.
- Movimenti: pressione dei cittadini perché il tema resti al centro della politica.
- Il sentiero stretto: la consapevolezza che tutti questi elementi insieme servono a percorrere una strada stretta tra due precipizi.
Cos’è il sentiero stretto tra catastrofe e distopia?
È l’immagine più potente del libro. Da un lato c’è la catastrofe: tecnologie potentissime lasciate libere di diffondersi senza alcun freno, con il rischio di incidenti, attacchi e crisi fuori controllo. Dall’altro c’è la distopia: per evitare la catastrofe, stati che impongono una sorveglianza totale su ogni computer, ogni laboratorio e ogni cittadino. Entrambe le strade portano a un mondo peggiore. Il contenimento, per Suleyman, è l’arte di camminare tra le due senza cadere né da una parte né dall’altra.
I punti critici della filiera in breve. La produzione dei chip più avanzati dipende da pochissime aziende al mondo, come l’olandese ASML per le macchine di litografia e la taiwanese TSMC per la fabbricazione. Questi passaggi obbligati sono, secondo Suleyman, una delle poche leve concrete per rallentare e sorvegliare lo sviluppo delle tecnologie più pericolose.
Ci sono precedenti di contenimento riuscito?
Qualcuno sì, almeno in parte, ed è utile ricordarli per non cedere al fatalismo. Il trattato di non proliferazione nucleare ha lasciato in piedi le armi atomiche e ne ha comunque limitato la diffusione per decenni. Nel 1975, alla conferenza di Asilomar, i biologi che stavano sviluppando le tecniche del DNA ricombinante si imposero da soli una moratoria e delle regole di sicurezza, prima che fosse la politica a farlo. Sono esempi imperfetti, ma mostrano che una comunità di costruttori può decidere di rallentare e di darsi delle regole quando il rischio è chiaro.
Perché chi frena da solo resta indietro?
Chi rallenta lo sviluppo da solo, imponendo regole severe che i concorrenti non rispettano, rischia di perdere capitali, talenti e influenza a favore di chi corre senza freni. Per questo il contenimento funziona solo se è coordinato tra paesi e aziende rivali, con standard comuni che trasformino la sicurezza in un requisito d’accesso.
C’è un punto che Suleyman tocca e che secondo me merita più spazio, perché è la vera trappola strategica del secolo. Se un’area del mondo impone controlli rigidi e le altre no, capitali, talenti e potere si spostano dove l’attrito è minore. È un classico dilemma del prigioniero, la situazione studiata dalla teoria dei giochi in cui ognuno ha un incentivo a tradire anche se la cooperazione converrebbe a tutti.
Come si esce dal dilemma del freno?
L’unica via d’uscita è il freno coordinato. Chi fissa per primo uno standard tecnico spesso guida il mercato per anni, e questo apre una possibilità interessante: rendere la sicurezza un requisito d’accesso ai mercati più grandi, invece che un costo volontario. Se per vendere in un’area economica importante un sistema deve superare certe verifiche, la sicurezza diventa una condizione della competizione invece che un handicap. Senza coordinamento, invece, mettere l’etica davanti alla geopolitica significa semplicemente uscire dalla partita, come insegna qualsiasi manuale di strategia militare: una posizione abbandonata viene occupata da qualcun altro.
Cosa succede se ognuno corre da solo?
Succede quello che Kai-Fu Lee e Chen Qiufan raccontano in alcune delle storie di AI 2041: un mondo in cui le tecnologie si diffondono più in fretta delle regole, e in cui i benefici e i danni si distribuiscono in modo molto disuguale. Il libro alterna racconti di fantascienza e spiegazioni tecniche, ed è un buon complemento a Suleyman proprio perché rende concreti, attraverso storie di persone, gli scenari che lui descrive in termini strategici.
Cosa significa L’onda che verrà per chi lavora e studia oggi?
Significa che la responsabilità non riguarda solo governi e aziende. Ogni persona decide ogni giorno quanto delegare a sistemi automatici: la propria attenzione, il proprio modo di informarsi, il proprio ragionamento. Usare l’intelligenza artificiale per amplificare il pensiero rafforza, usarla per sostituirlo indebolisce.
Suleyman scrive per governi, ingegneri e dirigenti, ma il libro lascia anche una responsabilità personale: smettere di trattare la tecnologia come una forza della natura, come il meteo, qualcosa che accade e basta. Una tecnologia è un artefatto umano, e come tale si orienta, si limita, si usa con criterio. Anche a livello individuale.
Chi decide, quando decide la macchina?
Se affido a un algoritmo di raccomandazione la mia attenzione, a un modello linguistico il modo in cui mi informo e a un sistema di punteggio il mio accesso al credito, la domanda diventa inevitabile: quando qualcosa va storto, di chi è la responsabilità? L’intelligenza artificiale sposta decisioni fuori dal nostro campo visivo, ottimizzando e correlando su basi che non riusciamo più a ricostruire a colpo d’occhio. Più deleghi senza capire, più il potere di decidere si sposta lontano da te.
Quali competenze diventano più preziose?
Le stesse che descrivo nel saggio su cosa studiare per il futuro: il giudizio in condizioni di incertezza, la capacità di collegare domini lontani, la strategia più della tattica. A queste il libro di Suleyman ne aggiunge una: la capacità di capire abbastanza la tecnologia da porre le domande giuste a chi la costruisce e a chi la vende. Basta smettere di trattare l’intelligenza artificiale come una scatola magica, senza bisogno di diventare ingegneri.
Quali sono i limiti del libro?
Il libro descrive bene il problema ma resta generico sulle soluzioni, che dipendono da una cooperazione internazionale oggi difficile. Alcuni critici osservano anche che un dirigente di una grande azienda tecnologica ha interessi in gioco nel modo in cui il tema viene regolato. Restano domande aperte che il lettore deve tenere presenti.
Sarebbe incoerente presentare L’onda che verrà come un testo infallibile. La critica più frequente riguarda la seconda parte: i dieci passi sono sensati, ma molti dipendono da un livello di coordinamento internazionale che oggi sembra lontano, e il libro non dice molto su come ottenerlo. Una seconda osservazione riguarda la posizione dell’autore: chi guida lo sviluppo dell’intelligenza artificiale in una delle aziende più grandi del mondo ha interessi in gioco nel modo in cui il settore verrà regolato. È un motivo per leggerle con attenzione, come si dovrebbe fare con qualsiasi fonte.
Domande frequenti su L’onda che verrà
Chi è Mustafa Suleyman?
È un imprenditore britannico che nel 2010 ha cofondato DeepMind, il laboratorio di intelligenza artificiale acquisito da Google, e in seguito Inflection AI. Dal 2024 guida la divisione di intelligenza artificiale di Microsoft. L’onda che verrà è il suo libro più noto.
Qual è la tesi principale de L’onda che verrà?
Intelligenza artificiale e biologia sintetica si diffonderanno ovunque perché diventano sempre più economiche e potenti, e nessuno potrà fermarle. La sfida è contenerne i rischi con un insieme di freni tecnici, politici e culturali, senza cadere né nella catastrofe né nella sorveglianza totale.
Cos’è il problema del contenimento?
È la difficoltà di mantenere sotto controllo tecnologie che si diffondono rapidamente e che hanno usi sia benefici sia pericolosi. Suleyman sostiene che un contenimento perfetto è impossibile, ma che un sistema di freni imperfetti può ridurre molto i rischi.
Cosa sono le quattro caratteristiche della nuova ondata tecnologica?
Sono asimmetria, iperevoluzione, uso universale e autonomia. Insieme spiegano perché l’intelligenza artificiale e la biologia sintetica sono più difficili da governare delle tecnologie del passato: piccoli attori possono avere grandi effetti, tutto cambia in fretta, gli usi sono infiniti e i sistemi agiscono sempre più da soli.
L’onda che verrà è un libro pessimista?
È un libro realista. Suleyman riconosce i grandi benefici dell’intelligenza artificiale per la medicina, la scienza e la produttività, ma rifiuta di ignorare i rischi. Il suo obiettivo è evitare sia l’entusiasmo cieco sia il panico, per affrontare il problema con lucidità.
Come posso usare l’intelligenza artificiale senza perdere la capacità di pensare?
Usandola per accelerare ciò che hai già capito, senza mai usarla per evitare di capire. Delegare ricerca, bozze e compiti ripetitivi è utile; delegare il ragionamento e il giudizio, invece, indebolisce proprio le competenze che le macchine faticano a sostituire.
La regola che il libro mi ha lasciato
All’inizio ti ho promesso la regola personale che questo libro mi ha lasciato. Eccola: uso l’intelligenza artificiale per andare più veloce dove ho già capito, mai per evitare di capire. Le delego la ricerca, il primo abbozzo e il lavoro ripetitivo; il ragionamento, il giudizio e la decisione restano miei, anche quando sono più lenti.
Le tre sfide di Suleyman, la proliferazione della potenza, il duplice uso di ciò che libera e destabilizza, il contenimento che nessuno può garantire da solo, sembrano lontane dalla vita di chi legge. In realtà ognuna ha una versione personale: quanta potenza decidi di usare, per cosa la usi e quali limiti ti dai. L’onda arriva comunque, e non c’è un posto in cui nascondersi. La differenza la fa chi impara a dire sì alle macchine e, quando serve, anche no.
Scegli oggi un compito che stai delegando all’intelligenza artificiale senza averlo davvero capito, e per una settimana fallo tu, a mano. Poi decidi, con cognizione di causa, cosa delegare.
Buono studio e buona battaglia,
Luca
Saggi consigliati
- Cosa studiare per il futuro: 7 competenze che ti rendono insostituibile nell’era dell’AI
- Factfulness: i 10 istinti che ti fanno vedere il mondo peggio di com’è
- Armi, acciaio e malattie: 4 lezioni di Jared Diamond sul destino delle civiltà
- Perché dimentichiamo: come funziona la memoria e come ricordare ciò che conta
Libri consigliati
- L’onda che verrà di Mustafa Suleyman e Michael Bhaskar
- Nexus di Yuval Noah Harari
- AI 2041 di Kai-Fu Lee e Chen Qiufan
- Giocati dal caso di Nassim Taleb
Fonti
Mustafa Suleyman e Michael Bhaskar, The Coming Wave (2023); Yuval Noah Harari, Nexus (2024); Kai-Fu Lee e Chen Qiufan, AI 2041 (2021); documenti della conferenza di Asilomar sul DNA ricombinante (1975).