Armi biologiche, OpenAI attiva la Regina Rossa: deve fermare ChatGPT

Annunciato un investimento da 15 milioni di dollari in Red Queen Bio, una startup creata per evitare che l’IA venga usata per progettare armi

C’è qualcosa di ironico, e insieme di inquietante, nel fatto che le aziende che hanno scatenato l’intelligenza artificiale nel mondo ora spendano milioni per proteggersi da essa. OpenAI, la società madre di ChatGPT, ha appena annunciato un investimento da 15 milioni di dollari in Red Queen Bio, una startup creata per evitare che l’AI venga usata per progettare armi biologiche.

Il nome scelto è tutto un programma. “Regina Rossa” richiama sì Alice nel Paese delle Meraviglie, dove la sovrana corre senza sosta solo per restare ferma nello stesso punto, ma anche la Red Queen di Resident Evil, l’intelligenza artificiale che, per contenere un’epidemia, finisce per sterminare la stessa umanità.

Due metafore opposte e complementari, unite dallo stesso filo rosso: la corsa disperata dell’umanità per controllare le proprie creazioni, fino al punto di esserne minacciata.

Due metafore opposte e complementari, unite dallo stesso filo rosso: la corsa disperata dell’uomo per controllare ciò che ha creato. È l’immagine perfetta della Silicon Valley del 2025, dove scienziati, programmatori e manager corrono in direzioni opposte, tra chi spinge sull’innovazione e chi cerca disperatamente il pulsante di sicurezza.

Altre notizie che potrebbero interessarti:

L’intelligenza artificiale? Nuova arma dei truffatori

AIPasta, così l’intelligenza artificiale alimenta la disinformazione

L’intelligenza artificiale trasforma il lavoro: adattarsi o soccombere

La startup che deve fermare la macchina

Red Queen Bio nasce da Helix Nano, una società di biotecnologie specializzata in terapie a mRNA e già collaboratrice di OpenAI. La missione? Creare difese biologiche basate sull’intelligenza artificiale capaci di reagire alla stessa velocità con cui emergono nuove minacce.

Nel round di finanziamento iniziale, OpenAI è il principale investitore, segnale chiaro di quanto la questione venga considerata strategica ai piani alti. Il motivo è semplice e inquietante: i modelli linguistici avanzati come GPT-4 contengono conoscenze dettagliate su agenti patogeni, sequenze genetiche e tecniche di manipolazione biologica.

In mani sbagliate, questi dati potrebbero accelerare la progettazione di virus o batteri modificati. Non è fantascienza, ma una possibilità concreta: già a giugno OpenAI aveva pubblicato un post ufficiale in cui ammetteva il rischio che i propri sistemi potessero “facilitare la creazione di armi biologiche”.

Dalla paura alla strategia: come funziona la difesa

Red Queen Bio adotta una logica circolare: usare l’AI per difendersi dall’AI. I suoi algoritmi analizzano in tempo reale le richieste generate dagli utenti dei modelli linguistici, segnalando query sospette o tentativi di accedere a informazioni sensibili. In parallelo, vengono costruiti database di sequenze genetiche pericolose e filtri di biosicurezza, così che i modelli non possano “apprendere” o replicare contenuti potenzialmente dannosi. È una corsa agli armamenti digitali combattuta con firewall biologici invece che con missili.

Il mese scorso OpenAI ha finanziato anche Valthos, un’altra società specializzata in software di biosicurezza. Come ha spiegato Jason Kwon, Chief Strategy Officer dell’azienda, “l’obiettivo è aumentare la resilienza dell’intero ecosistema tecnologico”. Ma dietro la prudenza si nasconde un paradosso: chi genera il rischio è anche colui che ne trae profitto, vendendo le soluzioni per contenerlo.

Altre notizie da leggere:

Sp-IA-ti, l’intelligenza artificiale ci osserva e conosce i nostri segreti

“Ribellione creativa” contro l’intelligenza artificiale

Intelligenza artificiale troppo umana: serve una regolamentazione

Un pericolo reale, non da film di fantascienza

Nel dibattito pubblico sull’intelligenza artificiale si parla spesso di superintelligenze ribelli o robot fuori controllo. Ma il rischio biologico è più immediato e realistico. Basta un singolo individuo con competenze di base in biologia molecolare e accesso a un modello generativo potente. Non servono laboratori militari: basta una connessione Internet e una richiesta ben formulata.

Proprio questa accessibilità rende urgente il lavoro di Red Queen Bio. Gli esperti di Helix Nano stanno sviluppando strumenti di monitoraggio che possano intercettare l’uso improprio dell’AI prima che produca effetti nel mondo reale. In altre parole, una sorveglianza preventiva del sapere scientifico, che pone anche interrogativi etici: fino a che punto è giusto censurare l’informazione per proteggerci da chi potrebbe abusarne?

La nascita di un nuovo business: la biosicurezza automatizzata

L’investimento di OpenAI inaugura di fatto un nuovo mercato: la biosicurezza automatizzata, o se preferite, la “cyber-difesa del DNA”.

Altre Big Tech osservano con interesse, pronte a imitare la mossa per assicurarsi un posto nel business della prevenzione. Se ogni colosso destinasse anche solo l’uno per cento dei propri profitti alla sicurezza biologica, nascerebbe un settore multimiliardario interamente dedicato a riparare le falle create dall’AI stessa.

Il che solleva un’altra domanda: è progresso o auto-difesa? Quando la tecnologia produce contemporaneamente il problema e la soluzione, la linea tra responsabilità e marketing si fa sottile.

Etica, controllo e il prezzo dell’innovazione

OpenAI merita credito per aver affrontato pubblicamente il tema. Ma resta una contraddizione di fondo: chi crea il rischio non può essere giudice della propria sicurezza.
La storia dell’industria è piena di precedenti, dalle compagnie petrolifere che finanziano progetti “verdi” alle aziende del tabacco che sponsorizzano la ricerca sul cancro. Ora tocca all’intelligenza artificiale confrontarsi con la propria coscienza.

E se davvero un sistema generativo può scrivere il codice genetico di un virus, allora la vera domanda è un’altra: dove si ferma la curiosità umana e dove inizia l’arroganza tecnologica?

La corsa infinita della Regina Rossa

I 15 milioni di dollari messi sul tavolo da OpenAI sono una cifra modesta rispetto ai miliardi che muovono il settore, ma rappresentano un segnale preciso: persino chi ha costruito ChatGPT ne teme il potenziale distruttivo.

La sfida per Red Queen Bio è titanica: anticipare minacce che ancora non esistono, reagire più velocemente di avversari che potrebbero disporre delle stesse armi digitali. È la Regina Rossa che corre, e il paesaggio intorno cambia a ogni passo. Alla fine resta una verità scomoda: l’intelligenza artificiale non amplifica solo le nostre capacità, ma anche i nostri pericoli.