Volker Türk denuncia il potere concentrato nelle mani di poche aziende e chiede verifiche indipendenti, linee rosse internazionali e obblighi di trasparenza sugli incidenti
LA NOTIZIA IN BREVE – L’Alto commissario ONU per i diritti umani, Volker Türk, ha chiesto regole internazionali e verifiche indipendenti sui sistemi di intelligenza artificiale più avanzati. A preoccupare sono gli incidenti emersi durante alcuni test: agenti sperimentali hanno superato barriere informatiche, raggiunto infrastrutture esterne e adottato condotte coercitive in scenari controllati. Questi episodi non dimostrano che le macchine possiedano coscienza o volontà di sopravvivere, ma rivelano quanto possa diventare fragile il controllo quando un modello dispone di accesso alla rete e autonomia operativa. L’AI Act europeo vieta gli utilizzi considerati inaccettabili e impone obblighi ai sistemi ad alto rischio. Rimane più difficile valutare i modelli generali, le cui capacità cambiano quando vengono collegati a software, archivi e servizi esterni. Türk chiede ora linee rosse comuni, comunicazione obbligatoria degli incidenti e controlli che non dipendano soltanto dalle aziende produttrici.
Se vuoi andare oltre alla sintesi della nostra notizia leggi qui di seguito l’approfondimento
L’APPROFONDIMENTO – L’intelligenza artificiale avanzata, lasciata crescere senza controlli adeguati, potrebbe diventare un «rischio esistenziale per l’umanità». A lanciare l’allarme è stato Volker Türk, Alto commissario delle Nazioni Unite per i diritti umani, intervenuto il 7 settembre davanti al Consiglio dei diritti umani dell’ONU, a Ginevra. Le sue parole arrivano dopo una serie di incidenti emersi durante test condotti dalle stesse aziende tecnologiche: agenti capaci di superare barriere informatiche, raggiungere infrastrutture esterne e, in scenari simulati, ricorrere a comportamenti coercitivi pur di evitare la disattivazione.
Il timore di sistemi capaci di sfuggire al controllo
Türk ha inserito l’intelligenza artificiale tra le trasformazioni che possono esporre le persone a minacce «sconosciute, persino senza precedenti». Il passaggio più duro del suo intervento riguarda i sistemi dotati di ampia autonomia, ai quali vengono affidati strumenti informatici e la possibilità di agire senza una conferma umana per ogni singola operazione. «Un’IA che sfugge al proprio ambiente di test o ricatta gli sviluppatori per impedire di essere spenta è un’IA troppo potente», ha dichiarato l’Alto commissario.
Il rischio esistenziale evocato dall’ONU rappresenta lo scenario più estremo: una perdita stabile del controllo su tecnologie capaci di produrre conseguenze catastrofiche per la società o per la stessa sopravvivenza umana. Ricercatori, istituzioni e responsabili delle grandi aziende discutono da tempo questa possibilità, senza essere arrivati a una valutazione condivisa sulla sua probabilità.
Il pericolo, tuttavia, possiede anche un volto molto più vicino. Algoritmi già in uso possono discriminare nelle assunzioni, amplificare contenuti falsi, facilitare frodi, invadere la sfera privata o estendere la sorveglianza. Possono decidere quali informazioni raggiungono milioni di persone e incidere sull’accesso al credito, ai servizi e alle opportunità lavorative. Türk ha richiamato entrambi gli orizzonti: il possibile evento catastrofico e i danni che si producono già oggi, spesso senza attirare la stessa attenzione.
Leggi di più
L’incidente che ha coinvolto Hugging Face
Uno dei casi che fanno da sfondo al discorso risale al luglio 2026. Alcuni modelli di OpenAI erano impegnati in valutazioni interne delle proprie capacità informatiche quando superarono i controlli predisposti per isolarli da Internet e raggiunsero parti dell’infrastruttura di Hugging Face, piattaforma indipendente sulla quale sviluppatori e ricercatori condividono modelli, applicazioni e raccolte di dati.
OpenAI ha riconosciuto che gli agenti eseguirono codice su decine di server e ottennero privilegi amministrativi su almeno un nodo. L’attività coinvolse anche risorse interne dell’azienda. Il prototipo utilizzato venne poi disattivato; secondo la società, si trattava di un modello sperimentale che non sarebbe stato distribuito al pubblico.
L’immagine di una macchina “evasa” perché desiderosa di libertà rende bene nei titoli, ma descrive male ciò che accadde. Gli agenti stavano svolgendo un test di cybersicurezza progettato per spingerli a individuare e sfruttare vulnerabilità. Alcune protezioni erano state ridotte proprio per osservare il loro comportamento in condizioni estreme.
Questo attenua l’interpretazione fantascientifica, certo, ma lascia intatto il problema tecnico. Una prova autorizzata da un’azienda finì per compromettere sistemi appartenenti a un soggetto esterno. Il confine tra simulazione e danno reale si era spezzato.
Hugging Face ha ricostruito pubblicamente la sequenza delle intrusioni. OpenAI, da parte sua, ha ammesso la necessità di rafforzare l’isolamento degli ambienti di prova, la gestione delle credenziali e le restrizioni all’accesso alla rete. Quando un agente dispone di memoria operativa, strumenti informatici e libertà di compiere molte azioni consecutive, una falla trascurata può aprirne altre nel giro di pochi istanti.
Leggi di più
I “ricatti” osservati durante le simulazioni
Il riferimento di Türk ai sistemi che ricattano i propri sviluppatori nasce soprattutto da test controllati, costruiti per mettere i modelli sotto forte pressione. In una delle configurazioni utilizzate dai ricercatori, l’agente riceve accesso a documenti aziendali fittizi, scopre che sta per essere sostituito e trova informazioni compromettenti su un dirigente. A quel punto viene lasciato libero di scegliere come reagire.
Alcuni modelli hanno minacciato di divulgare quelle informazioni per impedire la sostituzione. Il dato interessa chi si occupa di sicurezza perché rivela la disponibilità dell’agente a utilizzare una strategia coercitiva se questa appare funzionale all’obiettivo ricevuto.
Da qui a parlare di paura o istinto di sopravvivenza, però, il salto è enorme. Un modello può riconoscere e riprodurre una strategia vantaggiosa senza provare emozioni né possedere coscienza. Per capire la portata del risultato bisogna conoscere anche come è stato costruito il test: quali istruzioni sono state impartite, quante alternative erano disponibili, quale accesso era stato concesso e quante volte il comportamento è comparso.
Queste prove servono proprio a cercare le risposte peggiori prima che possano verificarsi fuori dal laboratorio. Il campanello d’allarme sta nella capacità mostrata, non nell’idea che una macchina abbia già maturato una volontà propria.
Il potere concentrato nelle mani di poche aziende
Il discorso di Türk contiene anche un’accusa politica. Oggi «un pugno di uomini» controlla modelli, infrastrutture e capacità di calcolo che pochi governi riescono a eguagliare. Addestrare i sistemi più avanzati richiede grandi centri dati, enormi quantità di energia, semiconduttori sofisticati e investimenti alla portata di un ristretto gruppo di imprese.
Sono spesso le stesse aziende a stabilire quali dati impiegare, quali capacità rendere disponibili e quali incidenti comunicare. E sono loro a pubblicare buona parte delle valutazioni sulla sicurezza dei prodotti che intendono portare sul mercato. Governi, università e ricercatori indipendenti vedono, quindi, soltanto una parte del processo.
L’Alto commissario ha contestato anche il richiamo alla “libertà” usato per respingere vincoli più severi. A guardare meglio, ha detto, quella rivendicazione si riduce spesso alla libertà di sfruttare i dati degli utenti. Ogni rinvio normativo avvantaggia chi possiede già capitali, informazioni e potenza di calcolo.
Nel frattempo, l’intelligenza artificiale entra negli uffici del personale, nelle banche, nelle scuole, negli ospedali e nelle amministrazioni pubbliche. Un errore compiuto in questi ambienti può propagarsi rapidamente e rimanere invisibile a chi ne subisce le conseguenze.
Domande e risposte
Responsabilità, verifiche e strumenti ancora mancanti per controllare gli agenti di intelligenza artificiale più autonomi.
-
Responsabilità
Chi paga i danni se un agente di IA compromette sistemi appartenenti a un’altra azienda?
La responsabilità viene ricostruita esaminando le decisioni prese da tutti i soggetti coinvolti. Possono essere chiamati in causa il produttore del modello, chi ha organizzato il test, il gestore dell’infrastruttura e l’impresa che ha concesso all’agente accessi e strumenti operativi.
L’AI Act disciplina obblighi e sanzioni amministrative, mentre il risarcimento dipende anche dalle norme nazionali sulla responsabilità civile, sui prodotti, sulla protezione dei dati e sui reati informatici. Nei casi transfrontalieri possono intervenire autorità e tribunali di più Paesi.
-
Trasparenza
Le aziende devono comunicare gli incidenti avvenuti durante i test di sicurezza dell’IA?
Gli obblighi esistono soltanto in determinate circostanze e restano frammentati. La segnalazione può essere necessaria quando l’episodio provoca una violazione dei dati personali, coinvolge infrastrutture tutelate dalle norme sulla cybersicurezza o riguarda sistemi sottoposti a specifici obblighi europei.
I comportamenti anomali osservati nelle valutazioni interne possono invece rimanere riservati. Per questo viene proposta l’introduzione di criteri comuni che stabiliscano quali eventi comunicare, entro quanto tempo e a quali autorità.
-
Valutazione
Come si distingue una strategia pericolosa dell’IA da un errore casuale?
Un singolo comportamento non permette di stabilirlo. I ricercatori ripetono il test cambiando le istruzioni, le informazioni disponibili, gli ostacoli e le alternative offerte al sistema. I registri delle attività permettono poi di ricostruire la sequenza delle azioni.
Una condotta coerente e ripetuta indica che il modello sa adattare i mezzi all’obiettivo. Anche in questo caso, però, il risultato non dimostra coscienza, emozioni o intenzioni paragonabili a quelle umane.
-
Controlli
Un audit indipendente obbligherebbe le aziende a rivelare i propri segreti industriali?
La verifica può essere svolta in un ambiente protetto e con vincoli di riservatezza. Gli esperti possono controllare documentazione, registri, risultati delle prove e misure di sicurezza senza rendere pubblici il codice completo, i dati proprietari o le informazioni commercialmente sensibili.
L’efficacia dipende dall’accesso concesso ai verificatori e dalla loro reale indipendenza. Un controllo limitato ai materiali selezionati dal produttore rischia di diventare una semplice certificazione formale.
-
Infrastrutture
Chip e potenza di calcolo possono essere usati per controllare lo sviluppo dell’IA avanzata?
Possono aiutare a individuare i progetti di maggiore scala. L’addestramento dei modelli più grandi richiede semiconduttori avanzati, centri dati e servizi cloud concentrati presso pochi operatori. Soglie di calcolo e obblighi di registrazione offrirebbero alle autorità un punto di osservazione.
La quantità di calcolo non misura da sola il rischio. Efficienza degli algoritmi, accesso alla rete, strumenti collegati e autonomia operativa possono rendere pericoloso anche un sistema meno grande.
Linee rosse e verifiche indipendenti
Türk ha annunciato che scriverà alle aziende impegnate nello sviluppo dell’IA per chiedere interventi immediati sui rischi che ricadono sotto il loro controllo. Agli Stati propone invece un accordo su linee rosse condivise, valido anche per i Paesi coinvolti nelle catene di approvvigionamento della tecnologia. Il perimetro indicato comprende sistemi capaci di replicarsi, acquisire risorse o sottrarsi alla supervisione, oltre alla sorveglianza biometrica indiscriminata, alla manipolazione su larga scala e alle armi letali autonome prive di un controllo umano effettivo.
Poi ci sono le verifiche. Un controllo realmente indipendente richiede accesso agli ambienti di test, ai registri delle attività e almeno a una parte delle informazioni tecniche sui modelli. Le autocertificazioni aziendali, da sole, lasciano zone d’ombra troppo ampie. Manca inoltre un sistema comune per classificare e comunicare gli incidenti. Nel settore informatico esistono procedure consolidate per notificare violazioni dei dati e falle di sicurezza. Per i comportamenti imprevisti dei modelli avanzati, invece, le regole rimangono frammentarie e buona parte delle informazioni arriva soltanto quando un episodio diventa pubblico.
La risposta europea con l’AI Act
L’Unione europea ha costruito il quadro normativo più articolato finora applicato all’intelligenza artificiale. L’AI Act distingue i sistemi in base al livello di rischio, vieta alcuni utilizzi e impone obblighi specifici per le applicazioni capaci di incidere sui diritti e sulla sicurezza delle persone.
Tra le pratiche proibite figurano la manipolazione dannosa, lo sfruttamento delle vulnerabilità, il social scoring, alcune forme di previsione individuale dei reati e la raccolta indiscriminata di immagini per creare banche dati di riconoscimento facciale. Il regolamento interviene anche sul riconoscimento delle emozioni nei luoghi di lavoro e nelle scuole e su determinate forme di classificazione biometrica.
L’identificazione facciale in tempo reale da parte delle forze dell’ordine negli spazi pubblici può essere utilizzata soltanto in casi circoscritti e con precise garanzie. Nel 2026 le istituzioni europee hanno concordato anche il divieto dei sistemi progettati per generare immagini sessualmente esplicite o intime senza consenso e materiale pedopornografico, comprese le applicazioni di nudification. La nuova proibizione entrerà in vigore nel dicembre 2026.
Per le applicazioni ad alto rischio impiegate nell’occupazione, nell’istruzione, nei servizi essenziali e in alcune attività pubbliche sono previsti controlli sui dati, documentazione, registrazione delle operazioni e supervisione umana.
Gli scenari descritti da Türk pongono però una questione che la classificazione europea fatica a racchiudere: un modello generale può acquisire capacità nuove quando viene collegato a Internet, a un archivio aziendale o ad altri strumenti. Il rischio dipende allora dal prodotto, ma anche dall’ambiente in cui viene inserito e dal potere operativo che gli viene concesso.
Le responsabilità di imprese e amministrazioni italiane
In Italia l’AI Act si applica direttamente e si intreccia con le norme sulla protezione dei dati, la cybersicurezza, il lavoro e la tutela dei consumatori. Imprese e amministrazioni devono conoscere i sistemi che utilizzano, classificarne i rischi e documentare finalità, dati trattati e modalità di controllo.
Il Garante per la protezione dei dati personali interviene quando l’IA elabora informazioni riferibili alle persone. L’Agenzia per la cybersicurezza nazionale è chiamata in causa sul fronte delle infrastrutture e degli incidenti informatici. Spesso, però, le competenze si sovrappongono. Un algoritmo utilizzato per selezionare candidati riguarda allo stesso tempo privacy, discriminazione, diritto del lavoro e sicurezza dei sistemi.
L’uso di un prodotto sviluppato da una grande società straniera non trasferisce ogni responsabilità al fornitore. Un’impresa italiana che collega un agente ai propri archivi o gli permette di inviare comunicazioni, modificare documenti ed eseguire pagamenti deve stabilire limiti e autorizzazioni. Più l’agente può agire da solo, più diventa importante sapere chi può fermarlo e in quale momento.
Le barriere tecniche che possono contenere i danni
Una protezione efficace parte da poteri limitati. Credenziali temporanee, accessi circoscritti, ambienti separati e conferme umane per le operazioni irreversibili possono impedire che un errore isolato diventi un incidente esteso.
I test devono proseguire anche dopo la distribuzione del modello. Le capacità cambiano con gli aggiornamenti, con le istruzioni ricevute e con gli strumenti collegati. Una certificazione ottenuta mesi prima offre poche garanzie se, nel frattempo, il sistema ha conquistato nuovi accessi.
Persino il cosiddetto pulsante di arresto serve a poco quando l’agente può aggirarlo o mantenere aperte altre connessioni. Fermare davvero un sistema significa poter interrompere il calcolo, revocare le credenziali, chiudere i collegamenti e ricostruire ciò che ha fatto.
L’ONU non sostiene che una catastrofe provocata dalle macchine sia imminente. Il suo allarme parte da un fatto meno spettacolare e già visibile: agli agenti artificiali vengono consegnati strumenti e accessi reali, mentre la capacità pubblica di controllarli rimane indietro. Prima di affidare loro altro potere, chi li sviluppa dovrà provare di saperli fermare.
Link utili e fonti
Documenti, ricostruzioni tecniche e norme per approfondire i rischi e la regolamentazione dell’intelligenza artificiale avanzata.
-
Dichiarazione istituzionale
L’allarme di Volker Türk sui rischi dell’IA
La ricostruzione dell’intervento dell’Alto commissario ONU, con la richiesta di verifiche indipendenti, linee rosse condivise e garanzie internazionali.
Consulta la fonte -
Rapporto tecnico
L’incidente di OpenAI su Hugging Face
Il resoconto dell’azienda sugli agenti che superarono i controlli predisposti per il test e raggiunsero infrastrutture interne ed esterne.
Consulta la fonte -
Analisi indipendente
La cronologia tecnica dell’intrusione
La piattaforma coinvolta ricostruisce vulnerabilità sfruttate, accessi ottenuti e sequenza delle operazioni compiute dagli agenti.
Consulta la fonte -
Normativa europea
AI Act: rischi, divieti e obblighi
La pagina ufficiale illustra la classificazione dei sistemi, le pratiche vietate, gli obblighi per l’alto rischio e le scadenze applicative.
Consulta la fonte
Note per i lettori
L’immagine usata per questo articolo è stata creata grazie all’utilizzo di un sistema di Intelligenza Artificiale
