Per secoli abbiamo creato e utilizzato strumenti per risparmiarci fatica. La ruota ha alleggerito il nostro carico, la calcolatrice ha semplificato le operazioni più complesse e il GPS ci ha evitato di dover memorizzare mappe impossibili. La tecnologia ha sempre ampliato le nostre capacità.
Tuttavia, l’avvento dell’intelligenza artificiale generativa è qualcosa di completamente diverso, perché non si tratta più solo di delegare determinati compiti cognitivi; stiamo iniziando ad esternalizzare il processo stesso del pensare. E questo ha già un nome: resa cognitiva.
Quando la risposta arriva troppo velocemente e facilmente
Ci piace pensare di essere esseri razionali che amano riflettere, analizzare le argomentazioni e valutare le prove. Tuttavia, la realtà è ben diversa da questa immagine. Pensare consuma energia, richiede attenzione costante e, per di più, ci costringe a tollerare l’incertezza.
Il nostro cervello, per ragioni puramente evolutive, è sempre alla ricerca di scorciatoie per consumare meno energia. Ecco perché è così allettante utilizzare l’intelligenza artificiale e ottenere una risposta immediata, ben scritta e apparentemente logica, presentata come se fosse la verità assoluta.
Il problema è che questa comodità ha un prezzo.
Quando riceviamo una risposta, il nostro cervello salta tutto il lavoro che normalmente farebbe per arrivarci. Smettiamo di confrontare, di interrogarci o di esplorare alternative. Così, a poco a poco, iniziamo ad accettare le conclusioni invece di elaborarle.
Il nuovo oracolo
Sebbene possa essere difficile ammetterlo, la verità è che, come umanità, abbiamo trascorso millenni affidandoci a figure che trasmettono (o sembrano trasmettere) conoscenza e sicurezza. Questo vale per i sacerdoti, ma anche per i medici, gli insegnanti, i leader politici e gli “esperti” che un tempo apparivano in televisione e che ora inondano i social media. Tutti hanno qualcosa in comune: proiettano autorità.
L’intelligenza artificiale ha ereditato (o forse, più precisamente, è stata progettata per simulare) questa capacità. Quando leggiamo una risposta ben strutturata e scritta in modo scorrevole, il nostro cervello interpreta automaticamente che vi sia un certo livello di competenza.
In definitiva, non valutiamo una risposta solo in base al suo contenuto; consideriamo anche la sua forma, sebbene spesso inconsciamente. Ciò significa che siamo più propensi ad accettare una frase ben costruita, scorrevole e coerente rispetto a una goffa, anche se entrambe sono corrette (o scorrette).
L’intelligenza artificiale è programmata per apparire esperta anche quando sbaglia (cosa che accade abbastanza spesso ed è stata definita “allucinazioni da IA“) perché non esita né vacilla. Non si corregge a metà frase né dice “non ne sono sicuro”, come farebbe una persona. E in un mondo saturo di incertezza, avere questa certezza sempre a disposizione è straordinariamente allettante.
Uno studio che dovrebbe farci riflettere.
Un recente esperimento condotto presso l’Università della Pennsylvania ha analizzato il modo in cui interagiamo con le risposte generate dall’intelligenza artificiale. I risultati sono stati, a dir poco, preoccupanti.
Quando l’IA forniva risposte errate, oltre il 70% dei partecipanti le accettava comunque. Ma l’aspetto più preoccupante non era l’errore in sé, bensì la fiducia che riponevano in esso. In altre parole, non solo si sbagliavano, ma erano convinti di avere ragione.
In tre esperimenti che hanno coinvolto più di 1.300 partecipanti, i ricercatori hanno osservato che, quando questi si sono rivolti all’intelligenza artificiale per risolvere molti dei compiti, la sua accuratezza era praticamente identica a quella dell’intelligenza artificiale stessa. Pertanto, quando l’IA aveva ragione, avevano ragione anche loro, ma quando la macchina sbagliava, sbagliavano anche loro.
E la cosa peggiore è che, in molti casi, non si sono nemmeno sforzati di verificare la risposta. L’hanno semplicemente data per vera, come qualcuno che copia la risposta da un compagno di classe senza pensarci un secondo.
Che cos’è esattamente la resa cognitiva?
La resa cognitiva è un nuovo termine coniato da questi ricercatori per riferirsi al fenomeno che si verifica quando smettiamo di valutare criticamente le informazioni e iniziamo ad accettare automaticamente le risposte fornite da una fonte esterna a causa della fiducia che essa ispira in noi.
Il risultato è una progressiva esternalizzazione del ragionamento. Ovviamente, il problema non è che cerchiamo informazioni all’esterno (cosa che abbiamo sempre fatto per verificare le nostre ipotesi o ottenere più dati), ma piuttosto che iniziamo a delegare il processo di pensiero. Tutti noi consultiamo costantemente fonti esterne: libri, articoli e insegnanti sono parte integrante dell’apprendimento.
La resa cognitiva si verifica quando deleghiamo la nostra capacità di strutturare un argomento, valutare le alternative, individuare le incongruenze o trarre conclusioni, in altre parole, tutto ciò che definisce il pensiero critico.
Dove sta la differenza? Quando chiediamo all’IA di aiutarci a scrivere un’e-mail o a correggere errori grammaticali o sintattici in un articolo, la stiamo usando come uno strumento. Tuttavia, quando le chiediamo cosa dovremmo pensare di una questione politica, di un dilemma morale o di un’importante decisione di vita e ci limitiamo ad accettare la sua risposta, stiamo delegando il nostro pensiero.
Il rischio invisibile dell’esternalizzazione del pensiero
Non usiamo l’intelligenza artificiale per pensare meglio (come vorremmo convincerci), ma per evitare di pensare. E non perché non sappiamo farlo, ma perché è più veloce e più comodo.
Il punto è che il pensiero critico funziona come un muscolo, quindi se smettiamo di usarlo, si indebolisce. Immaginate qualcuno che usa la calcolatrice per qualsiasi cosa. Dopo qualche anno, otterrà ancora risultati corretti, ma probabilmente avrà perso gran parte della sua destrezza mentale per il calcolo.
Qualcosa di simile accade con il ragionamento. Quando lasciamo che l’intelligenza artificiale costruisca costantemente argomentazioni, sintetizzi informazioni o generi spiegazioni, corriamo il rischio di esercitare sempre meno queste capacità.
Ovviamente, non è qualcosa che accade da un giorno all’altro. Non è che ci si sveglia una mattina incapaci di pensare; è un processo graduale in cui facciamo piccole concessioni, finché un giorno facciamo fatica a seguire un filo logico, a collegare i punti e a trarre le nostre conclusioni.
Come utilizzare l’intelligenza artificiale senza consegnare le chiavi del proprio cervello?
A questo punto, è piuttosto difficile rifiutare l’intelligenza artificiale, ma abbiamo ancora tempo per cambiare il modo in cui la utilizziamo. Ad esempio, invece di chiederle “cosa ne pensi?”, potremmo chiederle di fornirci argomentazioni a favore e contro, in modo da poter trarre le nostre conclusioni. E invece di accettare la prima risposta, dovremmo riflettere su di essa e confrontare i dati.
Ovviamente, questo richiede un maggiore sforzo cognitivo, ma è un piccolo prezzo da pagare per continuare a pensare liberamente. In definitiva, il vero rischio non è che le macchine diventino più intelligenti, ma che noi capitoliamo a livello cognitivo.
Fonte:
Shaw, S. D. & Nave, G. (2026) Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender. The Wharton School Research Paper; 10.31234.
Lascia un commento