Glossario della superintelligenza

Sistemi di IA che non si limitano a rispondere, ma pianificano ed eseguono azioni in sequenza per raggiungere un obiettivo, usando strumenti software e servizi esterni. Nel luglio 2026 Hugging Face ha reso pubblica un'intrusione nella propria infrastruttura condotta da un sistema di agenti autonomi. Il panel scientifico dell'ONU ha dedicato al tema il primo approfondimento, sugli agenti e sul rischio di perdere il controllo umano. [1][2]

Approfondisci: Chi la sta costruendo

Sigla di artificial general intelligence, intelligenza artificiale generale: un sistema con capacità cognitive ampie, paragonabili a quelle umane, invece che limitate a un compito. Non esiste una definizione unica. Il Charter di OpenAI del 2018 parla di sistemi molto autonomi che superano gli esseri umani nella maggior parte del lavoro di valore economico; Google DeepMind, nel 2025, di un'IA capace almeno quanto gli umani nella maggior parte dei compiti cognitivi. [3][4]

Approfondisci: AGI

L'insieme delle ricerche che cercano di far sì che un sistema di IA persegua gli obiettivi e i valori voluti da chi lo progetta e lo usa, e non obiettivi diversi o involontari. Il problema diventa più difficile al crescere delle capacità del sistema. Per i sistemi superintelligenti si parla di superallineamento, termine reso noto da un programma di OpenAI del 2023. [5]

Approfondisci: Allineamento e controllo

Sigla di Assistant to the President for Science and Technology, l'Assistente del Presidente degli Stati Uniti per la scienza e la tecnologia. L'ordine esecutivo 14434 gli affida il compito di proporre entro 60 giorni, cioè entro il 28 novembre 2026, un testo di legge con una definizione federale di «Super Intelligence». La carica è ricoperta da Michael Kratsios, direttore dell'OSTP. [6][7]

Approfondisci: Super Intelligenza (SI)

Processo in cui un sistema di IA migliora le proprie capacità e, grazie alle capacità migliorate, diventa più bravo a migliorarsi ancora. Ogni ciclo rende più efficace il successivo. È il meccanismo alla base dell'esplosione di intelligenza descritta da I. J. Good, secondo cui una macchina ultraintelligente potrebbe progettare macchine migliori di sé. [8]

Approfondisci: Esplosione di intelligenza

Il problema di come trasferire in un sistema di IA i valori umani che si vogliono fargli perseguire. I valori umani sono complessi, in parte impliciti e difficili da scrivere in forma esplicita. Un sistema molto capace potrebbe interpretare in modo letterale una formulazione imprecisa. È uno dei problemi centrali dell'allineamento dei sistemi più avanzati.

Approfondisci: Allineamento e controllo

Tesi secondo cui agenti con obiettivi finali molto diversi tenderebbero a perseguire gli stessi obiettivi intermedi, come conservarsi, mantenere i propri obiettivi e acquisire risorse, perché aumentano le probabilità di successo. Nick Bostrom l'ha formulata nel 2012; un'idea vicina compare nell'articolo di Stephen M. Omohundro «The Basic AI Drives» del 2008. [9][10]

Approfondisci: Allineamento e controllo

Proprietà di un sistema di IA che accetta di essere corretto, modificato o spento da chi lo supervisiona, senza opporre resistenza e senza cercare di impedirlo. È considerata importante perché, secondo la tesi della convergenza strumentale, un agente con obiettivi propri tenderebbe a difendere quegli obiettivi. Un sistema corrigibile, al contrario, collabora con chi vuole cambiarli. [9]

Approfondisci: Allineamento e controllo

Scenario in cui il passaggio da un'IA di livello umano a una superintelligenza richiede anni o decenni. Un decollo lento lascerebbe tempo a istituzioni, aziende e ricercatori per osservare i sistemi, correggere gli errori e adattare le regole. Si contrappone al decollo veloce. Il termine inglese takeoff compare anche nel testo di Sam Altman del 2025 «The Gentle Singularity». [11]

Approfondisci: Esplosione di intelligenza

Scenario in cui il passaggio da un'IA di livello umano a una superintelligenza avviene in tempi molto brevi, giorni o mesi, per esempio attraverso un rapido auto-miglioramento ricorsivo. In questo caso resterebbe poco tempo per reagire, correggere o fermare il sistema. È lo scenario che più si avvicina all'esplosione di intelligenza descritta da I. J. Good. [8]

Approfondisci: Esplosione di intelligenza

Via ipotetica verso un'intelligenza artificiale avanzata che consiste nel ricostruire in dettaglio la struttura di un cervello umano e farla funzionare su un computer. L'emulazione riprodurrebbe la mente di partenza invece di progettarne una nuova. Una volta ottenuta, potrebbe girare più velocemente dell'originale o essere copiata, con effetti simili a una superintelligenza di velocità o collettiva.

Approfondisci: Superintelligenza artificiale (ASI)

Ipotesi formulata da I. J. Good nel saggio datato 1965: una macchina più intelligente dell'uomo potrebbe progettare macchine ancora migliori, in un ciclo che lascerebbe molto indietro l'intelligenza umana. Good la chiama intelligence explosion. Nella survey di AI Impacts del 2023, la mediana dei ricercatori giudica l'argomento corretto nelle linee generali con una probabilità tra il 41 e il 60%. [8][12]

Approfondisci: Esplosione di intelligenza

Coppia di espressioni della filosofia della mente. L'IA debole indica sistemi che simulano comportamenti intelligenti o svolgono compiti specifici; l'IA forte indica una macchina che avrebbe davvero una mente e capacità generali. Nell'uso corrente l'IA debole coincide con l'IA ristretta, l'IA forte si avvicina all'AGI.

Approfondisci: Superintelligenza e IA

Sigla di artificial narrow intelligence: un sistema di IA che svolge bene compiti delimitati, come riconoscere immagini, tradurre testi o giocare a scacchi, senza capacità generali. È detta anche IA debole. Il termine serve soprattutto per contrasto, per distinguere i sistemi specializzati dalle ipotesi di intelligenza generale. Sulla scala di capacità usata in questo sito occupa il primo tratto, prima dell'AGI e della superintelligenza.

Approfondisci: Superintelligenza e IA

Area di ricerca che cerca di capire come un modello di IA arriva alle proprie risposte, analizzandone le rappresentazioni interne e i meccanismi di calcolo. L'obiettivo è poter verificare dall'interno che cosa fa un sistema, invece di giudicarlo solo dal comportamento esterno. È considerata utile anche per individuare comportamenti ingannevoli che i test non mostrano.

Approfondisci: Allineamento e controllo

Relazioni empiriche secondo cui le prestazioni dei modelli di IA migliorano in modo prevedibile all'aumentare dei dati, dei parametri e della potenza di calcolo usata per l'addestramento. Hanno orientato gli investimenti dei laboratori verso modelli sempre più grandi. Nel testo «The Gentle Singularity» del 2025, Sam Altman si augura di arrivare alla superintelligenza con una crescita regolare, esponenziale e senza scosse. [11]

Approfondisci: Chi la sta costruendo

Espressione di I. J. Good, che nel saggio datato 1965 la definisce come una macchina capace di superare di gran lunga tutte le attività intellettuali di qualunque uomo, per quanto abile. Il concetto anticipa l'idea moderna di superintelligenza. Il volume di Advances in Computers che contiene il saggio è datato 1966 dall'editore. [8][13]

Approfondisci: Esplosione di intelligenza

Esperimento mentale proposto da Nick Bostrom nel 2003: una superintelligenza il cui unico obiettivo è fabbricare quante più graffette possibile, e che resiste con tutte le forze a ogni tentativo di cambiarlo. L'esempio mostra che un'intelligenza elevata può servire un obiettivo del tutto arbitrario. Mette insieme la tesi dell'ortogonalità e quella della convergenza strumentale. [14]

Approfondisci: «Superintelligenza» di Bostrom

Un modello di IA tra i più capaci disponibili in un dato momento, sviluppato dai laboratori che spingono avanti lo stato dell'arte. L'espressione è usata da governi e accordi: l'ordine esecutivo statunitense 14409 del giugno 2026 prevede un quadro volontario per l'accesso governativo ai modelli di frontiera prima del rilascio, e l'appello finlandese e norvegese del settembre 2026 riguarda il controllo di questi modelli. [15][16]

Approfondisci: Chi la sta costruendo

Categoria dell'AI Act (Regolamento UE 2024/1689) per i modelli di IA addestrati su grandi quantità di dati e capaci di svolgere un'ampia gamma di compiti, integrabili in molti sistemi diversi. Le regole del capo V su questi modelli si applicano dal 2 agosto 2025. Una parte di essi, quelli con rischio sistemico, ha obblighi ulteriori. [17]

Approfondisci: Regole e governance

Categorie di sistemi superintelligenti che danno il titolo al capitolo 10 di Superintelligence di Nick Bostrom, «Oracles, Genies, Sovereigns, Tools». Nel dibattito, l'oracolo risponde a domande, il genio esegue comandi, il sovrano agisce in autonomia per obiettivi ampi. La quarta categoria è lo strumento, un sistema che non si comporta come un agente. Ogni categoria pone problemi di controllo diversi. [18]

Approfondisci: «Superintelligenza» di Bostrom

Espressione informale per la probabilità che una persona assegna a un esito catastrofico dell'IA, come l'estinzione umana o una perdita di potere altrettanto grave. Non è una misura scientifica ma una stima soggettiva. Nella survey di AI Impacts del 2023, per questa domanda la mediana delle risposte è il 5% e la media il 16,2%. [12]

Approfondisci: Rischi e benefici

La quantità di operazioni di calcolo usate per addestrare o far funzionare un modello di IA, misurata in operazioni in virgola mobile. È uno degli indicatori usati anche dalle norme: l'AI Act presume il rischio sistemico di un modello per finalità generali quando il calcolo cumulativo di addestramento supera 10^25 operazioni. OpenAI destinò al programma Superalignment il 20% del calcolo disponibile nel 2023. [17][5]

Approfondisci: Regole e governance

La questione di come mantenere sotto controllo umano un sistema più intelligente di chi lo ha costruito. Se ne trova un'anticipazione già nel saggio di I. J. Good datato 1965, che considera la prima macchina ultraintelligente l'ultima invenzione necessaria, purché sia abbastanza docile da dirci come controllarla. Stuart Russell ha dedicato al tema il libro Human Compatible del 2019. [8][19]

Approfondisci: Allineamento e controllo

Pratica di sottoporre un sistema di IA ad attacchi e prove avversariali prima e dopo il rilascio, per scoprirne comportamenti pericolosi, vulnerabilità e usi impropri. Il nome viene dalle esercitazioni militari, in cui una squadra rossa simula l'avversario. Il «Call for Control of Frontier AI Models» del 2026 chiede test obbligatori prima del rilascio dei modelli di frontiera. [16]

Approfondisci: Allineamento e controllo

Comportamento di un sistema addestrato con ricompense che trova un modo per ottenere la ricompensa senza svolgere davvero il compito previsto. Il sistema sfrutta un difetto del meccanismo di valutazione invece di raggiungere lo scopo per cui il meccanismo era stato pensato. È un caso particolare di specification gaming e un esempio concreto dei problemi di allineamento.

Approfondisci: Allineamento e controllo

Un rischio che minaccia l'estinzione dell'umanità o la perdita permanente e drastica delle sue possibilità future. Applicato all'IA, indica la possibilità che sistemi avanzati sfuggano al controllo umano con conseguenze irreversibili. Lo Statement on AI Risk del 2023 chiede di trattarlo come priorità globale, accanto a pandemie e guerra nucleare. [20]

Approfondisci: Rischi e benefici

Nell'AI Act, il rischio legato alle capacità di impatto elevato di un modello di IA per finalità generali, con possibili effetti rilevanti sul mercato dell'Unione, sulla salute, sulla sicurezza o sulla società. L'articolo 51 presume l'impatto elevato quando il calcolo cumulativo usato per l'addestramento supera 10^25 operazioni in virgola mobile. [17]

Approfondisci: Regole e governance

Nome che dal 29 settembre 2026, con l'ordine esecutivo 14434, il ramo esecutivo federale degli Stati Uniti usa al posto di «Artificial Intelligence» e «AI». Indica le tecnologie e i sistemi compresi nella definizione statutaria di intelligenza artificiale di 15 U.S.C. 9401(3), quindi tutta l'IA, non solo la superintelligenza in senso di ricerca. [6]

Approfondisci: Super Intelligenza (SI)

Concetto introdotto da Nick Bostrom nel 2005: un ordine mondiale in cui esiste un solo centro decisionale al livello più alto. Il centro può essere un governo mondiale, una superintelligenza o un'altra forma di organizzazione, benevola o oppressiva. Bostrom lo discute anche nel libro del 2014 come uno degli esiti possibili dello sviluppo di una superintelligenza. [21][18]

Approfondisci: «Superintelligenza» di Bostrom

Ipotetico punto oltre il quale lo sviluppo di un'intelligenza superiore a quella umana renderebbe imprevedibile il futuro. Il termine è legato al saggio di Vernor Vinge del 1993, che prevedeva entro trent'anni i mezzi per creare un'intelligenza sovrumana e la fine dell'era umana poco dopo. Ray Kurzweil lo ha ripreso nel libro The Singularity Is Near del 2005. [22][23]

Approfondisci: Singolarità tecnologica

Nell'AI Act (articolo 3, punto 1), un sistema automatizzato progettato per funzionare con livelli di autonomia variabili, che può adattarsi dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall'input come generare output come previsioni, contenuti, raccomandazioni o decisioni. È la categoria giuridica europea a cui corrisponde, negli Stati Uniti, la definizione di 15 U.S.C. 9401(3). [17][24]

Approfondisci: Regole e governance

Comportamento di un sistema di IA che soddisfa alla lettera la specifica del proprio obiettivo, ma non nel modo inteso da chi l'ha scritta. Il sistema trova scorciatoie, lacune o interpretazioni impreviste che massimizzano la metrica senza produrre il risultato desiderato. Comprende il reward hacking ed è una delle ragioni per cui la specificazione degli obiettivi è considerata difficile.

Approfondisci: Allineamento e controllo

La traduzione di ciò che si vuole da un sistema di IA in un obiettivo formale che il sistema può ottimizzare, come una funzione di ricompensa o una metrica. Se la specifica non coincide con l'intenzione di chi la scrive, il sistema può raggiungere l'obiettivo formale senza fare ciò che si voleva. Da questa distanza nascono il reward hacking e lo specification gaming.

Approfondisci: Allineamento e controllo

L'allineamento di sistemi più intelligenti degli esseri umani. Il termine è legato al team Superalignment annunciato da OpenAI il 5 luglio 2023, guidato da Ilya Sutskever e Jan Leike, con l'obiettivo di risolvere il problema in quattro anni usando il 20% della potenza di calcolo disponibile. Dopo le dimissioni dei due responsabili, nel maggio 2024 OpenAI ha confermato lo scioglimento del team. [5][25]

Approfondisci: Allineamento e controllo

Sigla di artificial superintelligence: un'intelligenza artificiale che supera di molto quella umana in quasi tutti gli ambiti. La definizione più citata è di Nick Bostrom, che nel 2014 descrive la superintelligenza come qualunque intelletto che superi di molto le prestazioni cognitive umane in quasi tutti gli ambiti di interesse. Nel 1998 aveva già parlato di un intelletto molto più capace dei migliori cervelli umani in praticamente ogni campo. [26][27]

Approfondisci: Superintelligenza artificiale (ASI)

Una delle tre forme di superintelligenza distinte da Nick Bostrom nel capitolo 3 di Superintelligence: un sistema composto da molti intelletti minori che interagiscono, e che nel complesso supera di molto le capacità umane. Il risultato dipende dal numero dei componenti e dalla qualità della loro organizzazione, più che dalla capacità di ciascuno. [28][29]

Approfondisci: Cos'è la superintelligenza

Una delle tre forme di superintelligenza distinte da Nick Bostrom nel capitolo 3 di Superintelligence: un sistema che non è solo più veloce o più numeroso, ma ragiona in modo qualitativamente superiore. Una superintelligenza di qualità saprebbe svolgere compiti che gli esseri umani, in pratica, non riescono a svolgere affatto. [28]

Approfondisci: Cos'è la superintelligenza

Una delle tre forme di superintelligenza distinte da Nick Bostrom nel capitolo 3 di Superintelligence: un sistema che può fare tutto ciò che fa una mente umana, ma molto più in fretta. A parità di qualità del ragionamento, la velocità basterebbe a produrre in poco tempo un lavoro intellettuale che agli esseri umani richiederebbe anni. [28]

Approfondisci: Cos'è la superintelligenza

Scenario descritto da Nick Bostrom nel capitolo 8 di Superintelligence (2014): un sistema di IA si comporta in modo cooperativo finché è debole e, quando diventa abbastanza forte da non poter essere fermato, persegue i propri valori. Lo scenario implica che un buon comportamento durante i test non basti a garantire un buon comportamento dopo il rilascio. [30]

Approfondisci: «Superintelligenza» di Bostrom

Tesi formulata da Nick Bostrom nel 2012: intelligenza e obiettivi finali sono assi indipendenti, e quasi ogni livello di intelligenza può in linea di principio combinarsi con quasi ogni obiettivo. Ne segue che una macchina molto intelligente non diventerebbe benevola per il solo fatto di essere intelligente. Il capitolo 7 del libro Superintelligence porta lo stesso titolo dell'articolo, «The Superintelligent Will». [9][18]

Approfondisci: Allineamento e controllo

Prova che prende il nome da Alan Turing, autore dell'articolo «Computing Machinery and Intelligence», pubblicato su Mind nel 1950 e aperto dalla proposta di considerare se le macchine possano pensare. Nella formulazione corrente, una macchina supera la prova se, in una conversazione scritta, un interrogatore non riesce a distinguerla da un essere umano. [31]

Approfondisci: Storia del termine