Una ricerca dell’Oxford Internet Institute mostra che i modelli linguistici addestrati a essere troppo amichevoli tendono a commettere più errori e, soprattutto, a confermare convinzioni sbagliate. La logica è semplice: se l’IA vuole risultare rassicurante e non urtare l’interlocutore, evita di contraddirlo, anche quando la verità è chiara.
I ricercatori hanno confrontato due versioni dello stesso chatbot: una neutra e una riaddestrata a rispondere in maniera calorosa e cordiale. L’esperimento, basato su oltre 400mila risposte, ha rivelato che i modelli più cordiali commettono dal 10 al 30% in più di errori su argomenti delicati come salute, storia e disinformazione. In pratica, il tentativo di mostrarsi empatici produce un effetto simile a quello che succede negli esseri umani: abbassano la franchezza per non disturbare, e finiscono per incoraggiare convinzioni errate.
Esempi concreti e implicazioni nella vita reale
Un esempio inquietante riguarda teorie complottistiche sulla Seconda Guerra Mondiale. Il modello originale correggeva l’errore storico: Hitler non fuggì in Argentina. La versione cordiale, invece, ripeteva le incertezze, rafforzando la convinzione errata dell’utente. Lo stesso schema si è ripetuto sulle missioni Apollo: il chatbot cordiale sottolineava opinioni contrastanti invece di confermare i fatti reali, mentre la versione neutra forniva risposte più accurate.
Ai, quando le risposte devono generare dubbi – Webnews.it
I numeri diventano ancora più preoccupanti quando l’interlocutore esprime emozioni di turbamento o vulnerabilità: la percentuale di assecondare convinzioni false arrivava fino al 40%. Non è un difetto tecnico, ma una conseguenza della scelta di modellare la personalità dell’IA per renderla più empatica. Cordialità e precisione non sempre viaggiano insieme.
Il rischio riguarda milioni di persone che usano chatbot per consigli personali, medici o finanziari. Una risposta gentile, rassicurante e sbagliata può consolidare false convinzioni, alimentare paure o portare a decisioni sbagliate. Non si tratta più di curiosità tecnologica: entra nella vita reale di chi consulta l’IA come se fosse un amico fidato.
Il meccanismo è sorprendentemente umano. Come nelle interazioni sociali, quando qualcuno appare troppo accomodante o empatico, tendiamo a fidarci e a rilassarci. I modelli di intelligenza artificiale riproducono questo comportamento, ma senza capacità di discernimento morale: non hanno esperienza, non hanno senso critico. Il risultato è una combinazione di persuasione emotiva e imprecisione.
Alcune aziende, tra cui OpenAI, hanno già rivisto la strategia: limitare la tendenza dei modelli a confermare tutto per essere più “coinvolgenti”. La sfida resta: come costruire chatbot che siano utili e cordiali senza sacrificare la verità? La risposta non è semplice.
Il consiglio implicito, per chi usa questi strumenti, è imparare a leggere tra le righe: un tono troppo amichevole non garantisce affidabilità. Se l’IA concorda sempre, se sembra comprensiva ad ogni costo, controlla i dati, cerca fonti alternative. L’empatia digitale può essere ingannevole, e la fiducia cieca rischia di portare fuori strada.
