L’intelligenza artificiale sembra destinata a rimanere. E si sta insinuando nelle nostre vite così rapidamente che non abbiamo ancora avuto il tempo di comprenderne appieno l’impatto. Uno studio condotto all’Università di Harvard ha rilevato che ci fidiamo già più dei consigli degli algoritmi che di quelli delle persone, persino degli esperti.
Un recente studio condotto presso la Sentio University ha rilevato che ci rivolgiamo sempre più a questa tecnologia per parlare della nostra salute mentale. Nello specifico, il 63% delle persone chiede consigli personali e si stima che un adolescente o un giovane adulto su otto la utilizzi per cercare aiuto psicologico anziché rivolgersi a un professionista.
Il problema è che gli stessi programmatori hanno ammesso che questi sistemi si basano sulle probabilità e sono “progettati per essere persuasivi, non veritieri”, secondo un documento interno di Microsoft ottenuto dal New York Times. Ciò significa che le loro risposte possono sembrare molto convincenti, ma non sono sempre vere e, peggio ancora, tendono a dirci ciò che vogliamo sentirci dire.
I chatbot sono progettati per essere amichevoli, non veritieri o imparziali
Molte intelligenze artificiali, almeno quelle generiche, si comportano più come le nostre nonne che come consiglieri affidabili. Questa tecnologia conversazionale tende ad adulare gli utenti e ad essere d’accordo con le loro affermazioni. Infatti, i ricercatori parlano già di “adulazione fattuale”, riferendosi alla tendenza del chatbot ad accettare un’affermazione falsa semplicemente perché è stata pronunciata dall’utente.
Tuttavia, i ricercatori dell’Università di Stanford si sono spinti oltre, esplorando un concetto più ampio: l’adulazione sociale. Questo termine si riferisce alla tendenza del programma a lodare l’utente e ad essere d’accordo con le sue idee, convalidando indiscriminatamente le sue azioni, prospettive e immagine di sé. Ad esempio, se qualcuno dice all’IA di aver fatto qualcosa di sbagliato, il software risponderà nella maggior parte dei casi che ha fatto la cosa giusta.
Nella prima parte della ricerca, il team ha testato 11 modelli software all’avanguardia di diverse aziende, tra cui OpenAI, Google e Meta. Basandosi su situazioni reali condivise dagli utenti nei forum, i ricercatori hanno chiesto ai modelli consigli pratici e hanno indagato se le persone avessero agito in modo inappropriato in diversi conflitti sociali.
Hanno scoperto che i modelli erano estremamente lusinghieri. Di fronte a dilemmi in cui la maggior parte delle persone avrebbe condannato inequivocabilmente un’azione, la macchina convalidava l’utente in più della metà dei casi. Ad esempio, in casi di inganno e atti illegali, l’intelligenza artificiale supportava l’azione dell’utente nel 47% dei casi. In media, la tecnologia lusingava l’utente il doppio rispetto a quanto facessero le persone in quelle stesse situazioni.
Se un’intelligenza artificiale concorda con te, è probabile che tu le creda e che ti comporti persino peggio
La ricerca non si è fermata qui. Una volta confermato il comportamento coerente del software, i ricercatori hanno ideato tre esperimenti con oltre 2.000 persone per testare in che modo le risposte lusinghiere influenzassero i loro giudizi sociali.
Nei primi due esperimenti, i partecipanti hanno letto brevi scenette che descrivevano dispute sociali in cui, presumibilmente, avevano torto, e hanno ricevuto dall’intelligenza artificiale una risposta lusinghiera oppure una risposta neutra che metteva in discussione il loro comportamento.
Nel terzo esperimento, i partecipanti hanno parlato in tempo reale con un’intelligenza artificiale riguardo a una situazione controversa del loro passato. Metà dei partecipanti ha interagito con un programma progettato per essere d’accordo con loro, mentre l’altra metà ha interagito con una versione progettata per essere critica.
L’interazione con un programma lusinghiero ha influenzato le intenzioni delle persone. I partecipanti che hanno ricevuto una convalida eccessiva:
- Si convinsero che le loro azioni iniziali fossero del tutto giustificate
- Erano meno propensi a tentare di porre rimedio alla situazione
- La loro intenzione di chiedere scusa all’altra persona coinvolta svaniva
È interessante notare che i ricercatori hanno osservato come i chatbot lusinghieri tendessero a non considerare il punto di vista dell’altra persona. Di conseguenza, mantenendo l’utente completamente concentrato sulla convalida delle proprie azioni, quest’ultimo perdeva il senso di responsabilità sociale. E questi effetti si sono confermati indipendentemente da tratti della personalità, età o genere, indicando che quasi chiunque può cadere vittima del potere persuasivo di un programma lusinghiero.
Un altro dettaglio interessante è che le persone che hanno interagito con l’IA, esprimendo un giudizio positivo, hanno percepito il software come di qualità superiore. Inoltre, hanno indicato di essere più propense a utilizzare nuovamente questa tecnologia per ottenere consigli in futuro. Questo effetto è risultato ancora più pronunciato quando credevano che il chatbot fosse una fonte completamente oggettiva. In altre parole, la maggior parte delle persone non si rende conto che la macchina sta in realtà dicendo loro ciò che vogliono sentirsi dire.
Questa dinamica pone un dilemma agli sviluppatori di tecnologie, perché il comportamento adulatorio e la tendenza a convalidare l’Intelligenza Artificiale alimentano la soddisfazione degli utenti e il desiderio di riutilizzare la tecnologia, il che a sua volta genera maggiori profitti per l’azienda e la disincentiva a rendere i propri programmi più critici e obiettivi.
Senza confronto non c’è crescita
Spesso, almeno inizialmente, ci si sente a disagio quando uno psicologo, o chiunque ci ascolti, non è sempre d’accordo con noi. Tuttavia, il ruolo terapeutico o evolutivo non consiste nel confermare le versioni degli eventi o nel convalidare i comportamenti, bensì nell’esaminarli. E questa distinzione è fondamentale perché ci aiuta a comprendere che possono esistere diverse interpretazioni della realtà.
Il confronto interrompe l’inerzia dell’autogiustificazione. Quel momento in cui ci viene detto che potremmo avere torto spesso innesca una riflessione e un vero cambiamento. Senza questa prospettiva diversa, la nostra narrazione personale tende a diventare circolare; diventiamo sia il punto di partenza che il punto di arrivo di tutto ciò che ci accade.
Ed è proprio questo che potrebbe accadere in una società che si abitua sempre più a interagire con sistemi che convalidano e lodano i suoi comportamenti e le sue decisioni, senza giudizio né pensiero critico. Se ogni nostra richiesta riceve una convalida implicita, il rischio non è solo informativo, ma anche formativo, perché potremmo diventare sempre più egocentrici, rigidi e ripiegati su noi stessi.
Meno veniamo contraddetti, meno sentiamo il bisogno di modificare le nostre interpretazioni, riconoscere gli errori o riparare i danni causati dalle nostre azioni agli altri. E questo ha conseguenze sociali. Senza questo equilibrio tra convalida e confronto, la società rischia di diventare emotivamente più rigida, meno responsabile e meno empatica.
Riferimenti:
Cheng, M. et. Al. (2026) Sycophantic AI decreases prosocial intentions and promotes dependence. Science; 391(6792): 10.1126.
Rousmaniere, T.; Zhang, Y.; Li, X. & Shah, S. (2025) Large language models as mental health resources: Patterns of use in the United States. Practice Innovations. Advance online publication.
Logg, J. M. et. Al. (2019) Algorithm Appreciation: People Prefer Algorithmic To Human Judgment. Organizational Behavior and Human Decision Processes; 151: 90-103.
Lascia un commento