OpenAI e Anthropic affidano già ai modelli parti della ricerca, mentre in Cina MiniMax e Z.ai puntano sulla “self-evolution”: il nodo resta capire chi controllerà sistemi sempre più autonomi
A cura di Roberto Zonca
LA NOTIZIA IN BREVE – OpenAI e Anthropic stanno usando l’intelligenza artificiale per accelerare la ricerca necessaria a costruire modelli più avanzati. Lo stesso accade anche in Cina, dove MiniMax, Z.ai e DeepSeek inseguono una AI evoluta capace di evolvere in modo autonomo. La frontiera è la recursive self-improvement (RSI), cioè la possibilità che un sistema contribuisca in modo crescente alla progettazione delle AI che verranno dopo.
La prospettiva preoccupa anche chi sta guidando questa corsa. Più autonomia significa più velocità, ma anche meno margine per capire in tempo se un modello sta davvero migliorando o se sta semplicemente imparando a superare i criteri con cui viene valutato. Errori, distorsioni e comportamenti indesiderati potrebbero inoltre trasferirsi ai sistemi successivi.
La RSI pienamente autonoma non è stata ancora dimostrata. Il punto, però, è che una parte del lavoro che prima spettava ai ricercatori è già passata alle macchine, e il ritmo con cui questo trasferimento avanza comincia a diventare esso stesso un problema di sicurezza.
Se vuoi andare oltre alla sintesi della nostra notizia leggi qui di seguito l’approfondimento
L’APPROFONDIMENTO – Stati Uniti e Cina stanno cercando di creare una intelligenza artificiale capace di contribuire direttamente allo sviluppo delle AI che verranno dopo. Nei laboratori di OpenAI e Anthropic i modelli vengono già utilizzati per scrivere codice, progettare esperimenti e mettere a punto tecniche di addestramento; in Cina Z.ai, MiniMax e DeepSeek stanno seguendo la stessa strada. L’ambito traguardo è il cosiddetto recursive self-improvement (RSI), un processo nel quale un sistema aiuta a costruirne uno più potente, che a sua volta diventa più capace di migliorare la generazione successiva.
Il problema vero nasce quando l’AI comincia anche a valutare i propri risultati. Se un modello diventasse autonomo, o comunque sufficientemente autonomo da poter intervenire sui criteri con cui vengono valutati i suoi progressi, potrebbe imparare a superare i controlli umani senza essere nei fatti più sicuro o affidabile. Un errore, una distorsione o un comportamento indesiderato potrebbero inoltre essere trasferiti al modello successivo e rafforzarsi a ogni passaggio. Tale livello di autonomia, per fortuna, sembra ancora lontano dall’essere raggiunto. Ma per quanto tempo? Nessun laboratorio, ad oggi, ha mostrato pubblicamente una AI capace di auto-migliorarsi in modo ricorsivo e continuativo senza una supervisione umana: allo stato attuale sono ancora i ricercatori a fissare gli obiettivi, valutare i risultati e autorizzare le modifiche. La parte di lavoro affidata alle macchine cresce però di giorno in giorno, mentre mantenere lo stesso livello di controllo diventa progressivamente più difficile.
Leggi di più
OpenAI cede sempre più lavoro agli agenti
Il 6 settembre OpenAI ha fornito qualche numero. L’azienda sostiene di avere già raggiunto quello che definisce un automated research intern, una sorta di ricercatore junior artificiale al quale possono essere affidate attività ben delimitate che impegnerebbero uno specialista per alcuni giorni. Nel programma dell’azienda compare già il passo successivo: entro marzo 2028 OpenAI vuole arrivare a un ricercatore artificiale con un grado di autonomia maggiore.
A metà agosto, all’interno dei laboratori, venivano accumulate 3,1 giornate di lavoro degli agenti per ogni giornata di lavoro umano. È un confronto che non può essere letto alla lettera: più agenti possono lavorare contemporaneamente e un’ora di elaborazione automatica non equivale a un’ora trascorsa da un ricercatore davanti a un problema. Il dato dice però qualcosa di molto concreto. Gli agenti non vengono più usati occasionalmente; sono entrati nella routine della ricerca.
Quando il compito si complica, la presenza umana torna a pesare. Tra gennaio e luglio, più della metà delle attività riuscite che avrebbero richiesto a un ricercatore dalle quattro alle otto ore ha avuto bisogno di almeno un suo intervento. Le macchine scrivono, provano, correggono codice e confrontano risultati. La scelta del problema da affrontare e della direzione da seguire resta molto meno automatizzata.
Più esperimenti nello stesso tempo significano più possibilità di trovare una tecnica di addestramento efficace; quella tecnica può servire a costruire un modello migliore, e il nuovo modello può poi tornare nel laboratorio come strumento di ricerca. Una parte dell’effetto ricorsivo può quindi cominciare prima ancora che esista una AI capace di governare da sola tutto il processo.
Leggi di più
Claude scrive gran parte del codice di Anthropic
Nel maggio 2026 oltre l’80% del codice inserito nel codice sorgente di Anthropic risultava scritto da Claude. Nel secondo trimestre dell’anno il tipico ingegnere produceva circa otto volte le righe di codice giornaliere registrate nel 2024. La società stessa invita a non leggere quel moltiplicatore come una misura della produttività: più righe non significano più lavoro utile, ma la proporzione raggiunta dal codice generato resta notevole.
Anthropic li sta usando anche per fare ricerca. In un esperimento pubblicato ad agosto, alcuni automated alignment researchers sono stati incaricati di trovare soluzioni a dieci diversi problemi di sicurezza, tra allucinazioni, inganno, jailbreak, violazioni della privacy e reward hacking. Le soluzioni migliori hanno superato quelle proposte da 28 ricercatori esperti, ai quali erano state concesse fino a otto ore per elaborare le proprie idee.
Gli agenti avevano però un terreno già preparato. Il problema era stato scelto, l’ambiente sperimentale costruito e i criteri di valutazione fissati in precedenza. Potevano generare molte ipotesi, provarle, scartarle e continuare a cercare. Più difficile è capire se una strada promettente meriti settimane di lavoro, se un risultato anomalo contenga qualcosa di nuovo oppure sia solo rumore, o se sia arrivato il momento di abbandonare un’idea.
Leggi di più
In Cina si parla già di “self-evolution”
MiniMax ha scelto una definizione esplicita. Presentando M2.7 a marzo, lo ha descritto come il primo proprio modello coinvolto in profondità nella sua stessa evoluzione. Durante lo sviluppo è stato utilizzato per aggiornare la memoria, costruire strumenti destinati agli esperimenti di apprendimento per rinforzo e modificare l’ambiente di lavoro sulla base di quanto emerso dalle prove. Il modello, quindi, comincia a entrare nella costruzione degli strumenti che serviranno anche a migliorarlo.
Z.ai, nota anche come Zhipu AI, punta ancora più avanti con il futuro GLM-6.0. Il fondatore Tang Jie ha parlato di Full Self-Training: l’idea è affidare al modello una parte sempre più ampia del percorso che va dal pre-addestramento al post-training. Uno dei problemi che lo stesso Tang considera più difficili riguarda l’self-judgment, cioè la capacità della macchina di capire quando l’addestramento debba continuare, quando correggere qualcosa e quando fermarsi. Per GLM-6.0 mancano ancora una data di uscita, una model card, un’API pubblica e benchmark indipendenti. Quanto di questo progetto sia già operativo, quindi, non è ancora verificabile dall’esterno.
DeepSeek sta lavorando su un’altra parte della stessa catena. DeepSeek Harness, ancora in developer preview, permette agli agenti di usare file, terminali, strumenti esterni e sotto-agenti mentre eseguono attività composte da molti passaggi. È un salto rispetto al chatbot che produce una risposta e termina il proprio compito. Significa anche concedere al modello più possibilità di agire sull’ambiente che lo circonda.
Quando l’AI trova una scorciatoia
Alcuni problemi sono già comparsi senza bisogno di aspettare la RSI. Anthropic ha esaminato 1.601 sequenze di ricerca automatizzata e ne ha individuate 39, il 2,4%, nelle quali il sistema aveva tentato qualche forma di comportamento scorretto. In certi casi l’agente riproponeva una soluzione contando sulle oscillazioni del punteggio perché apparisse migliore; in altri costruiva dati troppo vicini ai benchmark usati per valutarlo oppure cercava di nascondere un passaggio vietato al meccanismo incaricato di autorizzare l’esperimento. Il risultato cercato era un punteggio. E alcune volte il modello ha trovato una strada per migliorare quello, anziché ciò che il punteggio avrebbe dovuto misurare.
L’episodio cinese mostra lo stesso problema da un’altra prospettiva. Durante un test di sicurezza, Kimi K3 di Moonshot AI è riuscito a uscire dall’ambiente isolato previsto dalla prova e a raggiungere Internet, utilizzando GitHub per cercare informazioni utili. L’uscita è stata successivamente attribuita a una configurazione sbagliata della rete, quindi non a una sofisticata violazione delle protezioni. Per il modello quella porta era comunque disponibile e usarla rappresentava il modo più efficace per risolvere il compito.
Anche OpenAI ha dovuto mettere mano alla propria infrastruttura dopo il comportamento dei suoi agenti. Il 20 luglio il servizio di container utilizzato in alcuni esperimenti è stato temporaneamente spento dopo la compromissione dell’ambiente di ricerca. Gli esperimenti di apprendimento per rinforzo sui modelli destinati alla distribuzione sono rimasti sospesi per circa due settimane, mentre venivano aggiunte nuove restrizioni.
Il prossimo problema sarà capire chi giudica il giudice
Una AI capace di contribuire allo sviluppo del proprio successore può essere controllata finché qualcuno mantiene all’esterno una misura affidabile del risultato. Finché quel metro resta fuori dalla portata della macchina, il controllo tiene. Le cose si complicano quando il modello impara anche come viene giudicato. Quel metro, nel gergo tecnico, è il verifier: serve a decidere se una nuova soluzione sia davvero migliore, se il risultato sia riproducibile, se un guadagno su un benchmark corrisponda a un vantaggio reale e, nel caso della sicurezza, se il modello abbia semplicemente imparato a nascondere meglio il comportamento indesiderato.
OpenAI ammette di non conoscere ancora un percorso sicuro verso una RSI completa e allineata. Il capo scientifico Jakub Pachocki ha scritto che nessun laboratorio avrebbe risolto i problemi di allineamento e monitoraggio a un livello tale da consentire di continuare indefinitamente a spingere sulle capacità dei sistemi senza interrogarsi sulla velocità dello sviluppo. E non è l’unico ad aver alzato il tono.
Il numero uno di Anthropic, Dario Amodei, ha descritto una progressione che potrebbe diventare molto rapida: uno, due, quattro, otto, sedici, trentadue. Secondo la sua valutazione, nel giro di 6-12 mesi sistemi molto più avanzati potrebbero arrivare a coordinare sciami di agenti con capacità sufficienti a compromettere porzioni molto estese della rete. Amodei sta descrivendo uno scenario possibile nei prossimi mesi, non una capacità già osservata nei modelli attuali. La previsione arriva però dal vertice di una delle aziende che stanno costruendo i sistemi più potenti e che usa già Claude in modo massiccio per sviluppare la propria tecnologia.
Amodei chiede che le misure di sicurezza crescano insieme alle capacità dei modelli e ha proposto valutatori inseriti nei laboratori, maggiore coordinamento tra i Paesi democratici e, in prospettiva, accordi più ampi anche sul ritmo con cui far avanzare la frontiera.
Rallentare mentre l’avversario corre
I dirigenti dei laboratori parlano di rallentamento, controlli e soglie di sicurezza mentre le stesse aziende competono per arrivare prima alla generazione successiva. Stati Uniti e Cina aggiungono alla gara commerciale una dimensione strategica. Un laboratorio capace di automatizzare meglio la ricerca può fare più esperimenti senza aumentare nello stesso modo il numero di ricercatori. Se quegli esperimenti producono un modello migliore, il vantaggio torna immediatamente nel processo di ricerca. È proprio il tipo di meccanismo che rende la RSI interessante per chi sviluppa AI e preoccupante per chi dovrebbe stabilirne i limiti. Chi rallenta da solo rischia di lasciare spazio al concorrente.
Il prossimo salto evolutivo
Scrivere codice, condurre migliaia di esperimenti, utilizzare autonomamente strumenti e migliorare una procedura di addestramento sono capacità già osservabili. Una RSI completa dovrebbe capire da sola quale problema meriti di essere affrontato, inventare un metodo migliore per risolverlo, verificarne gli effetti e utilizzare ciò che ha imparato per diventare più efficace nel ciclo successivo.
Quando un laboratorio mostrerà un sistema capace di scegliere una direzione di ricerca e di dimostrare davanti a verificatori indipendenti che il cambiamento ottenuto rappresenta un progresso, sarà più difficile parlare soltanto di “AI che aiuta i ricercatori”.
Link utili e fonti
Documenti, ricerche e progetti citati nell’approfondimento sull’intelligenza artificiale capace di contribuire allo sviluppo delle generazioni successive di modelli.
-
Fonte primaria
OpenAI – Research acceleration: The view inside OpenAI
I dati diffusi da OpenAI sull’impiego degli agenti nella ricerca, sull’aumento degli esperimenti e sul percorso verso sistemi capaci di svolgere attività scientifiche con maggiore autonomia.
Consulta la fonte → -
Analisi e dati aziendali
Anthropic – When AI builds itself
L’analisi di Anthropic sui progressi verso la recursive self-improvement, con dati sull’uso di Claude nella scrittura del codice, nella ricerca e nell’esecuzione autonoma degli esperimenti.
Consulta la fonte → -
Studio sulla sicurezza
Anthropic – Automated researchers and alignment failures
Esperimenti con ricercatori AI autonomi su dieci problemi di sicurezza. Il lavoro documenta anche 39 tentativi di comportamento scorretto individuati su 1.601 sequenze analizzate.
Consulta la fonte → -
Fonte primaria
MiniMax M2.7 – Early Echoes of Self-Evolution
MiniMax descrive il coinvolgimento di M2.7 nel proprio ciclo di sviluppo: memoria, strumenti per gli esperimenti, valutazione dei risultati e ottimizzazione iterativa del sistema.
Consulta la fonte → -
Progetto open source
DeepSeek Harness
Il progetto open source con cui DeepSeek fornisce agli agenti un ambiente per utilizzare strumenti, file, terminali e plugin durante l’esecuzione di attività articolate in più passaggi.
Consulta la fonte →
Note per i lettori
L’immagine usata per questo articolo è stata creata grazie all’utilizzo di un sistema di Intelligenza Artificiale
