I pericoli del digitale corrono più veloci della scienza

Due esperti denunciano il fallimento del sistema scientifico: servono nuovi modelli per tutelare la società. Sistema bloccato da interessi industriali?

La nostra società sta cambiando a una velocità vertiginosa, ma la scienza che dovrebbe valutarne i rischi non riesce a tenere il passo. È questo l’allarme lanciato da Amy Orben (Università di Cambridge) e J. Nathan Matias (Cornell University) in un nuovo studio pubblicato su Science. Secondo i due ricercatori, la lentezza con cui la ricerca scientifica valuta l’impatto delle tecnologie digitali compromette la capacità di governi e cittadini di chiedere conto alle aziende tecnologiche.

L’attuale sistema di indagine sugli effetti del digitale sarebbe impantanato in un “ciclo di feedback negativo” che lo rende inefficace. “Le grandi aziende tech esternalizzano di fatto la ricerca sulla sicurezza dei loro prodotti a scienziati indipendenti, spesso mal finanziati e privi di accesso ai dati essenziali”, spiegano gli autori. Questo meccanismo, secondo Orben e Matias, si traduce in una grave lacuna nel controllo pubblico, diversamente da quanto accade in settori come quello farmaceutico o automobilistico dove i test di sicurezza sono in gran parte interni e obbligatori.

Le altre notizie del canale INNOVAZIONE

Un sistema bloccato tra lentezza e interessi industriali

Le tecnologie cambiano ogni giorno, la scienza resta indietro

Una delle criticità principali, denunciano gli esperti, riguarda la rapida evoluzione dei prodotti tecnologici, che spesso “cambiano su base giornaliera o settimanale, adattandosi all’utente”. Di fronte a questa velocità, anche gli stessi ingegneri aziendali potrebbero non comprenderne appieno il funzionamento in tempo reale.

La scienza, invece, si affida a metodi consolidati ma troppo lenti. Questo approccio tradizionale – seppure storicamente efficace – non riesce più a produrre risultati tempestivi in un contesto che cambia continuamente. Le aziende digitali, accusano gli autori, “usano la mancanza di prove solide come scudo per evitare regolamentazioni e per minimizzare le proprie responsabilità”.

La ricerca indipendente è in trappola

Il quadro descritto da Orben e Matias è quello di una scienza pubblica lasciata sola a fronteggiare i giganti tecnologici. Senza risorse adeguate né strumenti, i ricercatori non riescono a raccogliere “prove causali” abbastanza solide da attivare politiche efficaci. Intanto, le aziende si giovano di questo vuoto normativo, continuando a lanciare prodotti – incluso l’uso dell’intelligenza artificiale generativa – senza test di sicurezza completi.

E anche quando i fondi arrivano, è spesso troppo tardi: “Al momento della pubblicazione, i dati possono già essere obsoleti”, avverte Matias. Questo ciclo vizioso danneggia la credibilità della scienza, ma soprattutto la sicurezza della società.

Come spezzare il ciclo e rendere la scienza più agile

Dati pubblici, soglie minime e registri per i danni digitali

Per cambiare il sistema, i ricercatori propongono un nuovo approccio all’evidenza scientifica. Il primo passo sarebbe creare registri pubblici dei danni digitali, sul modello di quelli ambientali o degli incidenti stradali. “Non otteniamo nulla quando si dice alle persone di non fidarsi della propria esperienza solo perché mancano le prove, soprattutto se queste prove non vengono raccolte”, sottolinea Matias.

Altro punto centrale: introdurre il concetto di “evidenza minima sostenibile”. In pratica, invece di aspettare studi definitivi, si potrebbero avviare interventi di sicurezza anche solo sulla base di prove preliminari. Le soglie potrebbero essere stabilite da tribunali scientifici, cittadini coinvolti o comunità colpite. “Il sistema attuale è sequenziale e troppo rigido: dobbiamo passare a un modello parallelo e flessibile”, afferma Orben.

Un esempio da seguire: la chimica verde

Un altro spunto arriva dal mondo della chimica: la cosiddetta Green Chemistry, dove un ente indipendente classifica le sostanze chimiche in base alla loro pericolosità, spingendo il mercato a cercare soluzioni più sicure. Lo stesso principio potrebbe essere applicato al mondo digitale, stilando liste pubbliche delle tecnologie più rischiose.

Orben è netta: “Le risorse che abbiamo oggi per produrre prove scientifiche non sono adatte alla velocità dello sviluppo tecnologico”. Per questo serve una riforma profonda del sistema, prima che l’ondata di nuove tecnologie – IA compresa – travolga una società impreparata. E Matias chiude con un monito: “Quando la scienza è troppo lenta nel valutare le tecnologie, perdiamo tutti”.

Fonte:

Cambridge University