Esplosione di intelligenza: l'ipotesi di I. J. Good

L’esplosione di intelligenza descrive un meccanismo, non uno stato. Spiega come si potrebbe passare dall’intelligenza artificiale generale alla superintelligenza attraverso un ciclo che si autoalimenta. Il righello in cima alla pagina evidenzia il tratto della scala che il processo percorrerebbe, dalla soglia umana a quella della superintelligenza.

L’ipotesi di I. J. Good

L’ipotesi compare nel saggio di I. J. Good “Speculations Concerning the First Ultraintelligent Machine”, alle pagine 31–88 del volume 6 di Advances in Computers. Il volume, curato da Franz L. Alt e Morris Rubinoff, era pubblicato da Academic Press.

1Elsevier, vol. 6

Scheda Elsevier del volume 6, con i curatori e la data di pubblicazione. Fonte 1

La data richiede una precisazione. Le citazioni e i cataloghi bibliotecari indicano quasi sempre il 1965, mentre i metadati dell’editore datano il volume al 1966. Questa pagina usa la datazione abituale, il 1965, con l’avvertenza che il volume reca la data dell’anno successivo.

2Good, 1965

Metadati Crossref: DOI 10.1016/S0065-2458(08)60418-0, pubblicazione registrata nel 1966. Fonte 2

Il passaggio centrale si trova a pagina 33. In tre frasi Good definisce la macchina ultraintelligente, ne deduce l’esplosione di intelligenza e ne trae una conseguenza sul futuro dell’invenzione umana.

“Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever. Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an ‘intelligence explosion,’ and the intelligence of man would be left far behind. Thus the first ultraintelligent machine is the last invention that man need ever make, provided that the machine is docile enough to tell us how to keep it under control.”

Si definisca macchina ultraintelligente una macchina che può superare di gran lunga tutte le attività intellettuali di qualunque uomo, per quanto abile. Poiché la progettazione di macchine è una di queste attività intellettuali, una macchina ultraintelligente potrebbe progettare macchine ancora migliori; ci sarebbe allora senza dubbio una «esplosione di intelligenza», e l'intelligenza dell'uomo rimarrebbe molto indietro. Così la prima macchina ultraintelligente è l'ultima invenzione che l'uomo abbia mai bisogno di fare, purché la macchina sia abbastanza docile da dirci come tenerla sotto controllo.

L’argomento ha la forma di un sillogismo. Se la macchina supera l’uomo in ogni attività intellettuale, e se progettare macchine è un’attività intellettuale, allora la macchina progetta macchine meglio dell’uomo. Il resto segue dall’iterazione di questo passo.

L’ultima frase contiene due idee distinte. La prima è che, dopo la macchina ultraintelligente, ogni altra invenzione sarebbe compito delle macchine. La seconda è una condizione: la macchina deve restare abbastanza docile da spiegare come controllarla. È la prima formulazione del problema del controllo.

Il saggio si apre con una frase che rivela l’atteggiamento dell’autore. Good considerava la costruzione di una macchina ultraintelligente una condizione per la sopravvivenza dell’uomo, non soltanto un rischio da evitare.

“The survival of man depends on the early construction of an ultraintelligent machine.”

La sopravvivenza dell'uomo dipende dalla costruzione, in tempi brevi, di una macchina ultraintelligente.

Il meccanismo: l’auto-miglioramento ricorsivo

Il cuore dell’ipotesi è un ciclo di retroazione. Un sistema migliora il proprio progetto; la versione migliorata è più intelligente e quindi più brava a migliorarsi; il ciclo successivo produce un salto maggiore. Questo processo si chiama auto-miglioramento ricorsivo.

La parola “ricorsivo” indica che il prodotto di ogni passo diventa lo strumento del passo successivo. Il progresso tecnico umano è cumulativo, ma gli ingegneri non diventano più intelligenti costruendo macchine migliori. Nell’ipotesi di Good, invece, cresce proprio l’intelligenza di chi progetta.

La differenza riguarda soprattutto i sistemi artificiali. Un cervello umano non può riscrivere la propria architettura, né essere copiato. Un programma, almeno in linea di principio, può modificare il proprio codice, essere eseguito su hardware più veloce e moltiplicarsi in molte istanze.

Per questo l’esplosione di intelligenza è legata alla superintelligenza artificiale più che ad altre forme di superintelligenza. Le tre forme descritte da Nick Bostrom nel 2014, di velocità, collettiva e di qualità, indicano in quali direzioni il ciclo potrebbe spingere un sistema.

4Sintesi cap. 3 di Bostrom

Riassunto del capitolo 3 di Superintelligence, pp. 53–54. Fonte 4

Da Good a Vinge e Bostrom

Nel 1993 Vernor Vinge riprese l’argomento di Good nel saggio “The Coming Technological Singularity”, presentato al simposio VISION-21 del NASA Lewis Research Center. Il testo riproduce il passaggio di Good sulla macchina ultraintelligente.

5Vinge, 1993

Testo integrale del saggio sul sito dell’autore, con la citazione di Good. Fonte 5

Vinge ne traeva una conclusione sui tempi e sulle conseguenze. Nell’abstract scriveva che entro trent’anni sarebbero esistiti i mezzi tecnici per creare un’intelligenza sovrumana, e che poco dopo l’era umana sarebbe finita.

“Within thirty years, we will have the technological means to create superhuman intelligence. Shortly after, the human era will be ended.”

Entro trent'anni avremo i mezzi tecnologici per creare un'intelligenza sovrumana. Poco dopo, l'era umana sarà finita.

Nick Bostrom, nel 1998, ha fissato il punto d’arrivo del processo con una definizione esplicita. La superintelligenza è un intelletto molto più intelligente dei migliori cervelli umani in praticamente ogni campo. Il rapporto tra le due idee è descritto nella pagina Cos’è la superintelligenza.

6Bostrom, 1998

Bostrom, “How Long Before Superintelligence?”, 1998. Fonte 6

Decollo lento e decollo veloce

L’ipotesi di Good non dice quanto durerebbe l’esplosione. La discussione successiva ha distinto due scenari, chiamati decollo lento e decollo veloce, a seconda del tempo che separerebbe un sistema di livello umano da una superintelligenza.

Nel decollo veloce il passaggio si compie in giorni, settimane o pochi mesi. Le istituzioni umane avrebbero poco tempo per osservare, correggere o reagire. Nel decollo lento il passaggio richiede anni o decenni, e la società si adatta per gradi a sistemi sempre più capaci.

Una definizione operativa del decollo lento è stata proposta nel 2018 da Paul Christiano nel saggio «Takeoff speeds». Prima del primo intervallo di un anno in cui la produzione mondiale raddoppia, ci sarebbe un intero intervallo di quattro anni con lo stesso raddoppio.

7Christiano, 2018

Christiano, «Takeoff speeds», 24 febbraio 2018. Fonte 7

La differenza pesa soprattutto sulla sicurezza. In uno scenario lento gli errori di progettazione emergono su sistemi ancora controllabili e si possono correggere. In uno scenario veloce il primo errore grave potrebbe riguardare già un sistema molto più capace dei suoi costruttori.

Le stime dei ricercatori coprono entrambi gli scenari. Nella survey di AI Impacts del 2023, la mediana assegnava il 10% alla probabilità di un’IA molto superiore agli umani entro due anni dalla parità, e il 60% entro trent’anni.

8Grace et al., 2024

Grace et al., “Thousands of AI Authors on the Future of AI”, tabella 1, p. 10. Fonte 8

Anche i dirigenti dei laboratori usano il lessico del decollo. Nel giugno 2025 Sam Altman, di OpenAI, ha scritto che il decollo era già cominciato, descrivendo però un percorso graduale verso la superintelligenza.

“We are past the event horizon; the takeoff has started.”

Abbiamo superato l'orizzonte degli eventi; il decollo è cominciato.

Nello stesso testo Altman auspicava di attraversare la fase della superintelligenza in modo fluido, esponenziale e senza scosse. La formula descrive un decollo rapido nei numeri ma ordinato nei suoi effetti, una posizione intermedia tra i due scenari classici.

9Altman, 2025

Sam Altman, “The Gentle Singularity”, 2025. Fonte 9

Le obiezioni

L’ipotesi non gode di consenso tra i ricercatori. Nelle survey di AI Impacts del 2016, del 2022 e del 2023 è stato chiesto se l’argomento dell’esplosione di intelligenza fosse sostanzialmente corretto. In tutte e tre la risposta mediana era una probabilità compresa tra il 41% e il 60%.

8Grace et al., 2024

Grace et al., tabella 1: risposte del 2016, 2022 e 2023. Fonte 8

Il risultato descrive un giudizio sospeso, né favorevole né contrario. Le ragioni dell’incertezza si possono esaminare guardando una per una le premesse dell’argomento.

Una premessa riguarda la natura dell’intelligenza, che l’argomento tratta come una grandezza unica e crescente. Se le capacità cognitive fossero molte e in parte indipendenti, migliorarne una non garantirebbe di migliorare quella che serve a progettare macchine.

Un’altra premessa riguarda il rendimento di ogni ciclo. Nel 2013 Eliezer Yudkowsky ha ripreso la tesi di Good nel rapporto tecnico «Intelligence Explosion Microeconomics» del Machine Intelligence Research Institute. Vi indica come questione chiave i rendimenti del reinvestimento cognitivo (returns on cognitive reinvestment).

10Yudkowsky, 2013

Yudkowsky, «Intelligence Explosion Microeconomics», MIRI, rapporto tecnico 2013-1. Fonte 10

Il senso della questione è semplice. Se ogni miglioramento rende il ciclo successivo più produttivo, il processo accelera. Se ogni miglioramento costa più del precedente, la curva si appiattisce e l’esplosione si riduce a una crescita graduale.

Una terza premessa riguarda le risorse materiali. Un sistema più capace ha comunque bisogno di calcolo, energia, dati ed esperimenti nel mondo reale, fattori che non crescono alla velocità del software. Le valutazioni dei rischi che ne derivano sono raccolte nella pagina Rischi e benefici della superintelligenza.

Esplosione di intelligenza e singolarità

L’esplosione di intelligenza e la singolarità tecnologica vengono spesso confuse. La prima è un meccanismo, l’auto-miglioramento delle macchine. La seconda, nell’uso di Vinge, è il punto oltre il quale le conseguenze diventano imprevedibili per chi vive prima.

Vinge collocava questo cambiamento in una prospettiva molto ampia. Nell’abstract pubblicato dalla NASA sosteneva di trovarsi alle soglie di un mutamento paragonabile alla comparsa della vita umana sulla Terra. Il concetto è approfondito nella pagina Singolarità tecnologica.

“I argue in this paper that we are on the edge of change comparable to the rise of human life on Earth.”

In questo articolo sostengo che siamo sull'orlo di un cambiamento paragonabile alla comparsa della vita umana sulla Terra.

Perché l’ipotesi è tornata al centro del dibattito

Per decenni l’esplosione di intelligenza è rimasta un argomento teorico. Nel frattempo le stime sui tempi dell’IA di livello umano si sono accorciate. Nella survey di AI Impacts del 2023 la probabilità del 50% si collocava nel 2047, tredici anni prima rispetto alla survey del 2022.

8Grace et al., 2024

Grace et al., abstract: confronto tra le survey del 2022 e del 2023. Fonte 8

Nel luglio 2023 OpenAI ha scritto che la superintelligenza, pur sembrando lontana, poteva arrivare entro il decennio. L’azienda ha avviato un programma di ricerca sull’allineamento con un obiettivo di quattro anni, descritto nella pagina Allineamento e problema del controllo.

12OpenAI, luglio 2023

OpenAI, “Introducing Superalignment”, 5 luglio 2023. Fonte 12

La parola e la cosa

La parola

L’ordine esecutivo americano 14434 del 29 settembre 2026 motiva il nuovo nome «Super Intelligence» con la rapidità del progresso: secondo la sezione 1, le tecnologie attuali superano di molto ciò che si immaginava quando nacque il termine «Artificial Intelligence».

La cosa

L’esplosione di intelligenza descrive un processo ipotetico e specifico: macchine più capaci di qualunque persona che progettano macchine ancora migliori. Un progresso rapido dei sistemi attuali non coincide con questo ciclo di auto-miglioramento.

L’ordine lascia invariata la definizione giuridica: “SI” indica le tecnologie comprese nella definizione statutaria di intelligenza artificiale, 15 U.S.C. 9401(3). Il nome nuovo non afferma quindi che un’esplosione di intelligenza sia avvenuta, né che sia in corso.

13EO 14434, 2026

Ordine esecutivo 14434, sezione 3; la sezione 1 contiene la motivazione del nuovo nome. Fonte 13