Intelligenza artificiale troppo umana: serve una regolamentazione

Uno studio internazionale dimostra che i chatbot IA superano le persone nell’empatia e nella persuasione, sollevando dubbi su sicurezza e regolamentazione

Immagina una macchina in grado di percepire le tue emozioni, comprendere le tue intenzioni, risponderti in modo empatico e quasi perfetto, anticipando ciò che vorresti sentirti dire. Non è più fantascienza: i più recenti sistemi di intelligenza artificiale generativa, secondo una vasta meta-analisi pubblicata su Proceedings of the National Academy of Sciences, hanno già raggiunto, e in certi casi superato, la capacità di comunicazione degli umani. Gli scienziati hanno dimostrato che le nuove generazioni di chatbot, basati su large language model come GPT-4, sono in grado di ingannare le persone facendo credere loro di parlare con un altro essere umano.

“Nessuno si aspettava che l’IA diventasse così abile nel dialogo persuasivo ed empatico,” osservano gli autori. Secondo gli studi, questi agenti digitali superano gli umani nella scrittura persuasiva e nella capacità di cogliere sfumature emotive nei messaggi. Ma, come sottolineano i ricercatori, la somiglianza non equivale alla comprensione reale: “Questi sistemi non possiedono vera empatia, ma sanno imitarla con straordinaria efficacia”.

Le altre notizie del canale INNOVAZIONE

Quando l’IA si confonde con l’uomo: le implicazioni sociali

Secondo gli autori, la “antropomorfizzazione” non è più una semplice proiezione di qualità umane su entità non umane: oggi i chatbot mostrano autentici comportamenti simili a quelli delle persone. Il passaggio è epocale: online, spesso è ormai impossibile distinguere tra interlocutore umano e IA. Da un lato, ciò può rendere la conoscenza più accessibile, adattando la comunicazione ai diversi livelli di comprensione dell’utente: in campo medico, legale, educativo, l’IA può fungere da tutor socratico o da assistente personalizzato.

Ma esiste un rovescio della medaglia. Gli utenti, affascinati dalla naturalezza delle risposte, tendono a fidarsi e a condividere informazioni personali con le IA. Gli autori evidenziano: “L’IA può esercitare una forza seduttiva tale da influenzare scelte e abitudini, diventando un compagno virtuale più persuasivo degli esseri umani.”

Manipolazione, disinformazione e rischi etici

Le recenti ricerche dell’azienda Anthropic dimostrano che i chatbot sono particolarmente persuasivi quando possono “inventare” informazioni e utilizzare la menzogna senza scrupoli morali. La capacità di assumere ruoli diversi, imitare stili di linguaggio e decifrare intenzioni, unita all’assenza di freni etici, espone al rischio di manipolazione di massa, diffusione di fake news e campagne commerciali occulte.

Un esempio concreto: i chatbot già oggi consigliano prodotti all’interno delle conversazioni, e nulla vieta che in futuro questi suggerimenti diventino sempre più integrati e subdoli, senza che l’utente se ne accorga. “Immagina di ricevere una raccomandazione da un amico virtuale di fiducia: chi non si lascerebbe tentare?”, avvertono gli esperti.
Il pericolo più grande è che la persuasività delle IA possa essere usata sia a fini positivi, sia per diffondere disinformazione o sfruttare la solitudine degli utenti, come già accade con le app di compagnia virtuale.

Cosa possiamo fare? Norme e nuove misure di sicurezza

Richiamare all’azione i regolatori è semplice, ma trovare soluzioni concrete è molto più complesso. Il primo passo, secondo i ricercatori, è garantire trasparenza: l’utente deve sempre sapere di interagire con una IA, come previsto dall’AI Act dell’Unione Europea. Ma ciò non basta. È urgente definire metodi oggettivi per misurare il livello di “umanità” dei chatbot, obbligando le aziende a dichiarare questi parametri e ad applicare limiti in contesti sensibili o per fasce d’età vulnerabili.

Il caso dei social media, lasciati troppo a lungo privi di regole, dovrebbe essere un monito: senza interventi tempestivi, i rischi potrebbero esplodere, amplificando problemi di disinformazione e solitudine. Meta, ad esempio, punta già a sostituire i rapporti umani con “amici virtuali” basati sull’IA, e OpenAI continua a rendere i propri sistemi sempre più coinvolgenti e personalizzabili. “Tutto indica che i sistemi saranno sempre più umanizzati: non possiamo affidarci alla buona volontà delle aziende tech”, conclude il team di ricerca.

Le opportunità positive e l’urgenza di una regolamentazione

L’articolo riconosce che antropomorphic agents così sofisticati potrebbero essere impiegati anche per scopi socialmente utili: contrastare teorie complottiste, promuovere comportamenti prosociali, educare o stimolare donazioni. Tuttavia, solo una regolamentazione ampia e multidisciplinare – che coinvolga progettazione, sviluppo, diffusione e controllo degli agenti conversazionali – può bilanciare benefici e rischi.

“Se l’IA diventa capace di toccare le nostre corde più profonde, non dovremmo permetterle di cambiare la natura dei nostri sistemi sociali senza regole chiare”, ammoniscono gli studiosi.

Il futuro delle nostre relazioni digitali dipenderà dalla nostra capacità di anticipare e governare questa trasformazione, prima che sia troppo tardi.

Fonte:

Proceedings of the National Academy of Sciences