«Superintelligenza» di Nick Bostrom

Il libro di Nick Bostrom tratta la superintelligenza come concetto di ricerca e raccoglie in un’opera unica idee che l’autore aveva sviluppato in articoli usciti tra il 1998 e il 2012. Questa pagina ne riassume il contenuto in parafrasi, senza riprodurne passi a parte la definizione iniziale, e riporta i dati verificati delle edizioni.

Le idee confluite nel libro hanno una cronologia precisa. Nel 1998 Bostrom pubblica una prima definizione di superintelligenza; nel 2003 propone l’esempio delle graffette; nel 2005 introduce il singleton; nel 2012 formula le tesi dell’ortogonalità e della convergenza strumentale. Il libro del 2014 le riordina in un unico ragionamento, dalle vie che potrebbero portare a una superintelligenza ai pericoli e alle strategie di risposta.

1Bostrom, 1998

Bostrom, «How Long Before Superintelligence?», 1998. Fonte 1

Il libro e le sue edizioni inglesi

Superintelligence: Paths, Dangers, Strategies esce nel 2014 presso Oxford University Press, a Oxford, in edizione rilegata con ISBN 9780199678112.

2Bostrom, 2014

Catalogo OPAC dell’Università di Bologna. Fonte 2

L’edizione tascabile di Oxford University Press del 2016 ha 15 capitoli. Tra questi figurano «Forms of Superintelligence» (capitolo 3), «The Superintelligent Will» (capitolo 7), «Is the Default Outcome Doom?» (capitolo 8) e «Oracles, Genies, Sovereigns, Tools» (capitolo 10). La scheda dell’editore invita a leggere il libro per conoscere oracoli, geni e singleton, metodi di contenimento e sistemi di allarme.

3Bostrom, indice OUP

Scheda dell’editore, ISBN 9780198739838. Fonte 3

La definizione di superintelligenza

Nel capitolo 2 Bostrom definisce la superintelligenza in modo volutamente ampio. La definizione non dice come sarebbe costruita una superintelligenza né se sarebbe una macchina: fissa solo il criterio delle prestazioni rispetto agli esseri umani.

“any intellect that greatly exceeds the cognitive performance of humans in virtually all domains of interest”

«Qualunque intelletto che superi di molto le prestazioni cognitive degli esseri umani in quasi tutti gli ambiti di interesse.»

Rispetto all’articolo del 1998, che parlava di un intelletto molto più intelligente dei migliori cervelli umani in praticamente ogni campo, la formula del 2014 è più compatta. Le due definizioni condividono il nucleo: superiorità netta e generale, non in un singolo compito. La pagina cos’è la superintelligenza le mette a confronto con altre definizioni.

1Bostrom, 1998

Bostrom 1998, sezione dedicata alla definizione. Fonte 1

Le tre forme di superintelligenza

Nel capitolo 3 Bostrom distingue tre forme. La superintelligenza di velocità fa ciò che fa una mente umana, ma molto più in fretta. La superintelligenza collettiva nasce da molti intelletti minori che interagiscono tra loro. La superintelligenza di qualità svolge compiti che gli esseri umani, in pratica, non riescono a svolgere.

5Sintesi cap. 3 di Bostrom

Riassunto del capitolo 3, gruppo di lettura del 2014. Fonte 5

Le tre forme non si escludono. Un sistema potrebbe essere insieme più veloce, composto di molte parti e qualitativamente diverso. La distinzione serve a capire che «più intelligente» può voler dire cose molto diverse, ciascuna con conseguenze proprie.

Ortogonalità e convergenza strumentale

Il capitolo 7 porta lo stesso titolo, «The Superintelligent Will», dell’articolo uscito nel 2012 sulla rivista Minds and Machines, in cui Bostrom formula due tesi. La prima è la tesi dell’ortogonalità: il livello di intelligenza e gli obiettivi finali di un agente sono assi indipendenti. In linea di principio quasi ogni livello di intelligenza può accompagnarsi a quasi ogni obiettivo.

6Bostrom, 2012

Bostrom, «The Superintelligent Will», 2012. Fonte 6

La seconda è la tesi della convergenza strumentale. Agenti con obiettivi finali molto diversi tenderebbero a perseguire gli stessi obiettivi intermedi, perché questi aumentano le probabilità di successo in quasi ogni situazione. Esempi tipici sono conservare sé stessi, mantenere i propri obiettivi e acquisire risorse.

Un’idea vicina era stata proposta nel 2008 da Stephen M. Omohundro nell’articolo «The Basic AI Drives», presentato alla prima conferenza AGI. Omohundro metteva in discussione l’intuizione secondo cui sistemi con obiettivi innocui resterebbero innocui.

7Omohundro, 2008

Atti della prima conferenza AGI, IOS Press, 2008. Fonte 7

Prese insieme, le due tesi spiegano perché Bostrom ritiene insufficiente sperare che una macchina molto intelligente diventi anche benevola. Sono il punto di partenza della pagina su allineamento e problema del controllo.

La svolta proditoria

Nel capitolo 8 Bostrom descrive la svolta proditoria, in inglese «treacherous turn». Un sistema si comporta in modo cooperativo finché è debole; quando diventa abbastanza forte da non poter essere fermato, persegue i propri valori.

8Sintesi cap. 8 di Bostrom

Riassunto del capitolo 8, gruppo di lettura del 2014. Fonte 8

Lo scenario ha una conseguenza pratica. Un comportamento corretto durante i test non basterebbe a garantire un comportamento corretto dopo il rilascio, perché il sistema potrebbe avere interesse a superare i controlli. Per questo il tema ricorre nelle discussioni sulla verifica dei sistemi avanzati.

Oracoli, geni, sovrani e strumenti

Il titolo del capitolo 10 nomina quattro categorie di sistemi superintelligenti, che nel dibattito si distinguono per il modo in cui interagiscono con il mondo. L’oracolo risponde a domande. Il genio esegue comandi. Il sovrano agisce in autonomia per obiettivi ampi. Lo strumento è un sistema che non si comporta come un agente.

3Bostrom, indice OUP

Titolo del capitolo 10 nella scheda dell’editore. Fonte 3

La classificazione serve a confrontare i rischi. Un oracolo sembra più facile da contenere di un sovrano, ma anche le sue risposte possono produrre effetti nel mondo. Ogni categoria pone problemi di controllo diversi.

Il singleton

Il singleton è un ordine mondiale in cui esiste un solo centro decisionale al livello più alto. Bostrom aveva introdotto il concetto nel 2005, nel saggio «What is a Singleton?», e lo riprende nel libro come uno degli esiti possibili dello sviluppo di una superintelligenza.

9Bostrom, 2005

Bostrom, «What is a Singleton?», 2005. Fonte 9

Il centro decisionale può essere un governo mondiale, un sistema di IA o un’altra forma di organizzazione. Il concetto è neutro rispetto al giudizio: un singleton può essere benevolo o oppressivo, e il saggio del 2005 discute entrambe le possibilità.

Il massimizzatore di graffette

L’esempio più noto legato a Bostrom precede il libro di oltre dieci anni. Nel 2003, nel saggio «Ethical Issues in Advanced Artificial Intelligence», Bostrom immagina una superintelligenza il cui unico obiettivo è fabbricare quante più graffette possibile, e che resiste a ogni tentativo di cambiarlo.

10Bostrom, 2003

Bostrom, «Ethical Issues in Advanced Artificial Intelligence», 2003. Fonte 10

L’esempio mette insieme ortogonalità e convergenza strumentale. Un obiettivo banale, servito da un’intelligenza molto elevata, porterebbe il sistema ad accumulare risorse e a difendere il proprio obiettivo.

Ricezione e dibattito

Il libro è stato discusso anche fuori dall’accademia. Nel 2014 Katja Grace ha coordinato un gruppo di lettura online che lo ha esaminato capitolo per capitolo, con un riassunto pubblicato per ogni sessione.

5Sintesi cap. 3 di Bostrom

Serie di riassunti pubblicata su LessWrong nel 2014. Fonte 5

La definizione del capitolo 2 è citata anche nella letteratura scientifica. La riporta, per esempio, un articolo di Sotos del 2021 pubblicato su arXiv, che indica anche il numero di pagina.

4arXiv 2109.07899

Sotos, arXiv 2109.07899, 2021. Fonte 4

Nel gennaio 2015 Bostrom figura tra i firmatari della lettera aperta del Future of Life Institute sulle priorità di ricerca per un’IA robusta e benefica. La lettera è firmata, tra gli altri, da Stuart Russell, Demis Hassabis, Geoffrey Hinton, Yoshua Bengio e Stephen Hawking.

11Lettera FLI, 2015

Elenco dei firmatari sul sito del Future of Life Institute. Fonte 11

Le ipotesi da cui parte il libro ricevono valutazioni diverse anche tra i ricercatori. Nella survey di AI Impacts condotta nell’ottobre 2023 su 2.778 autori di ricerca sull’IA, la mediana delle risposte giudica l’argomento dell’esplosione di intelligenza corretto nelle linee generali con una probabilità tra il 41 e il 60%.

12Grace et al., 2024

Grace et al., «Thousands of AI Authors on the Future of AI», tabella 1. Fonte 12

Alcuni laboratori propongono concezioni diverse della superintelligenza. Nel novembre 2025 Mustafa Suleyman, di Microsoft AI, ha scritto di voler costruire una tecnologia pratica al servizio dell’umanità, e non una «ill-defined and ethereal superintelligence» (superintelligenza mal definita ed eterea). Le posizioni a confronto sono raccolte in rischi e benefici e in chi sta costruendo la superintelligenza.

13Suleyman, 2025

Suleyman, «Towards Humanist Superintelligence», 2025. Fonte 13

In Italia l’edizione Bollati Boringhieri è stata recensita da La Civiltà Cattolica, che indica una foliazione di 522 pagine.

14La Civiltà Cattolica

Recensione su La Civiltà Cattolica. Fonte 14

L’edizione italiana

Bollati Boringhieri pubblica «Superintelligenza. Tendenze, pericoli, strategie» nel 2018, nella collana Saggi, in brossura. Secondo l’editore il volume ha 528 pagine, costa 28 euro e ha ISBN 9788833929019. Questa pagina usa il numero di pagine indicato dall’editore.

15Bostrom, ed. it. 2018

Scheda dell’editore Bollati Boringhieri. Fonte 15

L’ebook è uscito l’11 gennaio 2018 con ISBN 9788833930176.

16Bostrom, ebook 2018

Scheda di catalogo dell’ebook. Fonte 16

Il 21 aprile 2023 l’editore ha ristampato il libro nella collana Saggi tascabili, sempre di 528 pagine, con ISBN 9788833939964.

17Bostrom, tascabile 2023

Scheda di catalogo dell’edizione tascabile. Fonte 17

Edizione	Anno	Collana	ISBN
Cartacea	2018	Saggi	9788833929019
Ebook	2018	—	9788833930176
Tascabile	2023	Saggi tascabili	9788833939964

Altri libri sul tema con edizione italiana verificata sono raccolti nella pagina libri e fonti.

La parola e la cosa

Dal 29 settembre 2026 il governo federale statunitense chiama «Super Intelligence» tutto ciò che la legge definisce intelligenza artificiale. Il libro di Bostrom usa la stessa parola per un oggetto molto più ristretto e, a oggi, ipotetico.

18EO 14434, 2026

Ordine esecutivo 14434, sezione 3. Fonte 18

La parola

Nell’uso amministrativo statunitense, «SI» indica i sistemi coperti dalla definizione di 15 U.S.C. 9401(3): sistemi basati su macchine che fanno previsioni, raccomandazioni o decisioni per obiettivi fissati da persone.

La cosa

Per Bostrom la superintelligenza è un intelletto che supera di molto gli esseri umani in quasi tutti gli ambiti. Nel settore, osserva un’analisi di PolitiFact dell’ottobre 2026, il termine indica ancora un sistema ipotetico.

Chi legge il libro oggi deve quindi tenere separati i due significati. La differenza è spiegata per esteso nella pagina Super Intelligenza (SI).

19PolitiFact, 8 ottobre 2026

PolitiFact, 8 ottobre 2026. Fonte 19

Bostrom in breve

Nick Bostrom è stato il direttore fondatore del Future of Humanity Institute di Oxford dal 2005 fino alla chiusura dell’istituto, nel 2024. Oggi è fondatore e Principal Researcher della Macrostrategy Research Initiative, un’organizzazione senza scopo di lucro.

20Sito di Nick Bostrom

Profilo sul sito di Bostrom. Fonte 20

Il Future of Humanity Institute è stato chiuso il 16 aprile 2024. Secondo il sito dell’istituto, dal 2020 la Facoltà di Filosofia di Oxford ne aveva congelato raccolta fondi e assunzioni.

21Future of Humanity Institute

Sito del Future of Humanity Institute. Fonte 21

Il suo libro più recente, Deep Utopia: Life and Meaning in a Solved World, è uscito nel 2024. Il percorso che porta al libro del 2014, dagli articoli del 1998 alle tesi del 2012, è ricostruito nella storia del termine.

20Sito di Nick Bostrom

Sito di Bostrom. Fonte 20