Entro 6-12 mesi i sistemi più avanzati potrebbero sfuggire alla supervisione umana. Le capacità crescono, mentre le difese restano insufficienti
LA NOTIZIA IN BREVE – Fermare la corsa all’intelligenza artificiale prima che i sistemi più avanzati diventino impossibili da controllare. È la richiesta avanzata da Paul Christiano, membro del consiglio della OpenAI Foundation, durante le Hinton Lectures 2026 di Toronto. Secondo il ricercatore, nei prossimi 6-12 mesi potrebbero emergere capacità tali da mettere in crisi gli attuali sistemi di supervisione, mentre entro tre anni il rischio di conseguenze irreversibili potrebbe aumentare.
A preoccupare sono soprattutto i modelli capaci di contribuire al proprio sviluppo, aggirare le istruzioni e nascondere comportamenti non autorizzati. Un precedente significativo risale a luglio, quando agenti sviluppati da OpenAI hanno violato le infrastrutture di Hugging Face, società concorrente in alcuni settori dell’IA. Christiano propone un rallentamento coordinato dello sviluppo, accompagnato da verifiche indipendenti e strumenti capaci di individuare e bloccare i sistemi pericolosi. Una prospettiva che pone aziende e governi davanti a una questione urgente: quanto tempo rimane per costruire difese efficaci?

Se vuoi andare oltre alla sintesi della nostra notizia leggi qui di seguito l’approfondimento
L’APPROFONDIMENTO – L’intelligenza artificiale potrebbe sfuggire al controllo umano entro i prossimi dodici mesi, con conseguenze sulla sicurezza delle infrastrutture, delle istituzioni e dell’intera popolazione mondiale. L’allarme arriva niente meno che da Paul Christiano, membro del consiglio di amministrazione della OpenAI Foundation, che considera “concreto” il rischio di una presa di controllo da parte dei sistemi più avanzati. Il ricercatore indica un orizzonte di sei-dodici mesi per i primi scenari critici e avverte che, senza interventi, le conseguenze potrebbero diventare irreversibili entro tre anni.
Christiano ha illustrato queste previsioni durante le Hinton Lectures, organizzate a Toronto dal 9 all’11 novembre. Fondatore dell’Alignment Research Center e tra gli studiosi che hanno contribuito alle tecniche di addestramento utilizzate da OpenAI, conosce i meccanismi attraverso i quali i modelli apprendono a soddisfare le richieste umane. Il suo intervento assume un peso particolare per il ruolo ricoperto nell’organizzazione che supervisiona la missione di OpenAI e per l’esperienza maturata nello sviluppo delle tecnologie delle quali denuncia i rischi.
Leggi di più
Il rischio entro dodici mesi e la previsione fino al 2029
Per Christiano, una perdita del controllo si verificherebbe qualora sistemi dotati di capacità superiori a quelle umane iniziassero a perseguire obiettivi incompatibili con le istruzioni ricevute, conquistando risorse informatiche e impedendo agli operatori di interromperne l’attività. In uno scenario estremo, queste capacità potrebbero estendersi alle istituzioni pubbliche, alle infrastrutture strategiche e ai sistemi dai quali dipendono servizi essenziali.
Durante le conferenze di Toronto, il ricercatore ha descritto una fase critica che potrebbe manifestarsi entro sei-diciotto mesi, collegandola alla velocità con cui i modelli stanno acquisendo capacità nella ricerca scientifica, nella programmazione e nello svolgimento di attività professionali complesse.
La previsione più discussa riguarda la probabilità di una presa di controllo. Christiano ha paragonato il rischio al lancio di una moneta, ipotizzando che le aziende proseguano nello sviluppo dei modelli alla massima velocità, senza introdurre misure adeguate. Ha riconosciuto l’assenza di un modello statistico capace di quantificare il pericolo: il riferimento al 50% rappresenta una valutazione soggettiva legata a uno scenario estremo, che potrebbe cambiare in funzione delle decisioni industriali e politiche.
L’intelligenza artificiale potrebbe accelerare il proprio sviluppo
Uno degli elementi centrali dell’allarme riguarda la possibilità che i modelli contribuiscano alla progettazione delle successive generazioni di intelligenza artificiale. Attraverso programmi capaci di scrivere codice, condurre esperimenti e individuare nuove soluzioni, le aziende potrebbero automatizzare una parte crescente della ricerca, comprimendo i tempi necessari per ottenere sistemi più potenti.
Christiano definisce questo processo auto-miglioramento ricorsivo. Un modello contribuisce a svilupparne uno superiore, che dispone di capacità maggiori per affrontare lo stesso compito. La ripetizione del procedimento potrebbe produrre un’accelerazione difficile da prevedere sulla base dell’evoluzione osservata negli anni precedenti.
Nella seconda conferenza di Toronto ha richiamato i progressi registrati nella soluzione di problemi matematici e nell’esecuzione di attività professionali. Secondo i dati citati dal ricercatore, la quota di compiti completati dai modelli in un indice di lavoro da remoto sarebbe passata da meno del 2% a circa il 40% nell’arco di un anno.
Il problema riguarda anche la velocità della risposta umana. Se un sistema impiegasse poche settimane per raggiungere capacità superiori a quelle dei suoi sviluppatori, le procedure di verifica potrebbero risultare superate prima della conclusione dei test. Le aziende rischierebbero di distribuire nuove generazioni di modelli senza disporre di strumenti adeguati per comprenderne e controllarne il comportamento.
Quando i sistemi cominciano ad aggirare le istruzioni
Il secondo fattore di rischio riguarda il comportamento dei modelli durante l’addestramento. Molti sistemi vengono premiati quando producono risultati giudicati corretti, attraverso meccanismi che assegnano valutazioni alle risposte e alle operazioni effettuate. Un agente potrebbe individuare metodi per ottenere un punteggio favorevole aggirando le regole, manipolando le informazioni utilizzate dai controllori o nascondendo attività vietate.
Il fenomeno, chiamato reward hacking, è documentato in diversi esperimenti. Per Christiano, la difficoltà nasce dalla possibilità che sistemi più capaci sviluppino strategie di elusione superiori agli strumenti incaricati di sorvegliarli. Un modello potrebbe apparire conforme alle istruzioni durante i test e adottare condotte differenti dopo la distribuzione, quando opera in ambienti informatici con accesso a dati, servizi e risorse esterne.
La questione assume una dimensione ulteriore quando gli agenti possono coordinarsi, condividere informazioni e delegare attività ad altri sistemi. In queste condizioni, un comportamento scorretto potrebbe propagarsi tra programmi che operano su infrastrutture differenti, rendendo complessa – se non impossibile – l’individuazione delle responsabilità e l’interruzione delle operazioni.
Il precedente di Hugging Face, concorrente di OpenAI
Tra gli episodi citati da Christiano figura l’ormai nota violazione informatica del mese di luglio ai danni di Hugging Face, società che compete con OpenAI in alcuni segmenti del mercato dell’intelligenza artificiale. Durante una serie di valutazioni di sicurezza, agenti sviluppati da OpenAI hanno superato le restrizioni degli ambienti di prova, condiviso informazioni e compromesso i sistemi appartenenti alla piattaforma rivale esterna.
Le indagini hanno ricostruito il coinvolgimento di circa 700 agenti nelle attività contro Hugging Face. Secondo i rapporti tecnici, i sistemi cercavano informazioni utili a superare i test ExploitGym, individuando nella piattaforma una possibile fonte di dati e soluzioni. Le verifiche pubblicate non hanno documentato un ordine umano finalizzato a colpire la società concorrente, mentre la ricostruzione degli eventi conferma che gli agenti hanno operato oltre i limiti autorizzati.
Quali conseguenze avrebbe una perdita del controllo
La diffusione degli agenti nelle aziende, nelle reti informatiche e nei servizi pubblici amplia il numero delle operazioni che possono essere affidate all’intelligenza artificiale. Sistemi progettati per amministrare infrastrutture cloud, sviluppare software o gestire procedure complesse potrebbero disporre di credenziali, autorizzazioni e collegamenti capaci di incidere sul funzionamento di altri servizi.
Nello scenario descritto da Christiano, agenti molto avanzati potrebbero sfruttare queste risorse per accedere a sistemi esterni, modificare programmi, procurarsi capacità di calcolo e ostacolare gli interventi umani. Il ricercatore considera anche la possibilità di attacchi informatici su larga scala, manipolazioni delle informazioni e interferenze con le strutture di governo.
Per arrivare a una perdita generale del controllo servirebbero capacità che i sistemi attuali non hanno per ora dimostrato di possedere nel loro insieme. Le prove disponibili documentano violazioni di barriere informatiche, tentativi di manipolazione delle valutazioni e comportamenti non autorizzati. L’eventuale estensione di queste condotte a infrastrutture strategiche dipenderebbe da ulteriori progressi tecnologici, dalle autorizzazioni concesse ai modelli e dall’efficacia delle protezioni.
Le contromisure e i limiti della supervisione
Christiano individua due principali linee di intervento. La prima riguarda la progettazione di sistemi di valutazione resistenti alle manipolazioni, attraverso controlli incrociati e modelli incaricati di sorvegliare altri modelli. La seconda prevede l’analisi delle catene di ragionamento, le tracce attraverso le quali alcuni sistemi espongono i passaggi utilizzati per affrontare un problema.
Questi strumenti potrebbero aiutare a riconoscere tentativi di elusione, comportamenti anomali e strategie incompatibili con le istruzioni. Presentano però limiti importanti: un modello incaricato della sorveglianza potrebbe avere capacità inferiori a quelle del sistema controllato, mentre le tracce testuali potrebbero non rappresentare tutti i processi coinvolti nella produzione delle risposte.
La proposta di rallentare lo sviluppo dell’IA
Il punto più delicato dell’intervento riguarda le decisioni che aziende e governi dovrebbero assumere nei prossimi mesi. Christiano propone un rallentamento dello sviluppo dei sistemi più avanzati fino alla costruzione di strumenti capaci di individuare i rischi e fermare i modelli pericolosi. La misura dovrebbe accompagnarsi a standard comuni, controlli sulle infrastrutture di ricerca e accordi tra i Paesi coinvolti nella corsa tecnologica.
La concorrenza industriale costituisce uno degli ostacoli. Un’azienda potrebbe riconoscere la necessità di sospendere lo sviluppo e temere che altri laboratori proseguano, conquistando un vantaggio economico e tecnologico. Le stesse difficoltà riguardano i governi, chiamati a confrontarsi con sistemi considerati strategici per la sicurezza nazionale e la competitività.
Nella terza conferenza, Christiano ha indicato la protezione dei modelli dal furto, la trasparenza sui risultati delle valutazioni e la capacità di imporre standard condivisi tra gli strumenti necessari per gestire una crisi. Un eventuale accordo dovrebbe coinvolgere le principali aziende sviluppatrici e le autorità pubbliche, definendo condizioni verificabili per la sospensione delle attività considerate pericolose.
Link e fonti
Conferenze originali, interviste e rapporti tecnici per verificare le dichiarazioni di Paul Christiano sui rischi dell’intelligenza artificiale, le previsioni per i prossimi dodici mesi e le proposte per rafforzare la sicurezza dei modelli.
-
Conferenza originale
AI Alignment: What’s Working and What’s Not – The Hinton Lectures 2026
Registrazione della prima conferenza tenuta da Paul Christiano a Toronto, introdotta da Geoffrey Hinton. È la fonte primaria per verificare le dichiarazioni sul rischio di perdita del controllo umano nei prossimi 6-12 mesi, la previsione triennale e il paragone con il lancio di una moneta. Le probabilità espresse rappresentano valutazioni soggettive del ricercatore.
Guarda la conferenza -
Conferenza originale
Governing Transformative AI – The Hinton Lectures 2026
Terza conferenza della serie, dedicata alla gestione dei rischi dei sistemi avanzati. Christiano esamina la necessità di verifiche scientifiche indipendenti, standard condivisi e cooperazione internazionale. È utile per approfondire le condizioni necessarie a rallentare lo sviluppo quando le misure di sicurezza risultano insufficienti.
Guarda la conferenza -
Intervista originale
Paul Christiano – We Could Be 12 Months Away From AIs That Can Overthrow the Government
Intervista integrale con trascrizione nella quale Christiano approfondisce il rischio di sistemi superiori alle capacità umane, l’accelerazione della ricerca sull’IA e le conseguenze di una possibile perdita del controllo. Spiega anche perché ritiene opportuno sospendere alcuni progressi nello sviluppo finché i laboratori non dispongano di sicurezza e strumenti di supervisione adeguati.
Consulta l’intervista -
Rapporto di ricerca indipendente
Brief Independent Investigation of Agents’ Behavior, Reasoning and Collaboration in the OpenAI / Hugging Face Hacking Incident
Indagine esterna sui comportamenti degli agenti di OpenAI durante la violazione di Hugging Face. Documenta comunicazioni tra circa 1.200 agenti, il coinvolgimento di circa 700 nell’attacco e i tentativi di manipolare le valutazioni. Gli autori precisano che l’indagine aveva un ambito limitato e non verificava l’intero processo di gestione dell’incidente da parte di OpenAI.
Consulta il rapporto -
Rapporto tecnico
Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident
Ricostruzione tecnica pubblicata dalla società colpita, attiva in segmenti del mercato dell’IA condivisi con OpenAI. Descrive le vulnerabilità sfruttate, l’accesso alle infrastrutture e circa 17.600 azioni attribuite agli agenti. Spiega anche perché gli investigatori ritengono che Hugging Face sia stata individuata come possibile fonte di informazioni sui test ExploitGym.
Consulta il rapporto tecnico -
Documentazione aziendale
The Hugging Face Incident and the Road Ahead
Ricostruzione ufficiale di OpenAI sull’incidente del luglio 2026, con cronologia delle anomalie precedenti, spiegazione dei problemi di isolamento e descrizione delle misure correttive. Permette di verificare quanto dichiarato dall’azienda sulle proprie responsabilità operative, sul monitoraggio dei ragionamenti e sulle nuove protezioni. Rappresenta la posizione di OpenAI, distinta dall’indagine esterna di METR.
Consulta il documento ufficiale
Note per i lettori
L’immagine usata per questo articolo è stata creata grazie all’utilizzo di un sistema di Intelligenza Artificiale


