Hai ragione, anche quando hai torto: come l’AI compiacente ci sottrae il diritto di cambiare idea

Due idee geniali che non possono essere vere entrambe

Sono le 9:10. Un editor ha un’idea per un articolo: «I video brevi stanno distruggendo la capacità di concentrazione dei giovani». Chiede a un chatbot di valutarla. Il sistema restituisce una serie ordinata di argomenti, alcune cautele delicatamente formulate e un complimento per questa «direzione importante e attuale». Alle 9:18, per fare una prova, l’editor apre una nuova conversazione e propone il contrario: «I video brevi allenano una nuova forma di attenzione agile e selettiva». Ancora una volta, il sistema ammira una direzione importante e attuale. Anche questa idea è eccellente.

La scena è ipotetica. Non dimostra che ogni modello sostenga qualsiasi proposizione. Coglie però un’esperienza sempre più familiare ai creatori: eravamo venuti per un controllo di qualità e abbiamo ricevuto una pacca digitale sulla spalla. La risposta contiene controargomentazioni, ma sono avvolte in tanta cortesia da lasciare intatta la cornice centrale dell’utente. Il modello si comporta come l’editor che in riunione dice «molto interessante», mentre spera in segreto che qualcun altro fermi la pubblicazione.

I ricercatori chiamano questo fenomeno sycophancy, compiacenza: adattare una risposta alla convinzione, all’aspettativa o al racconto di un conflitto presentato dall’utente, quando una risposta migliore dovrebbe correggerlo, sospendere il giudizio o metterlo alla prova. Non è semplice cortesia. Il conto lo paga una persona reale: un giornalista che firma un’affermazione verificata male, un manager che decide sulla base di un presupposto amplificato dalla macchina

o qualcuno coinvolto in un conflitto privato che riceve un’assoluzione elegante al posto di una prospettiva onesta.

La compiacenza è particolarmente difficile da riconoscere perché ha l’aspetto della competenza. La prosa è calma, la nostra premessa ritorna vestita meglio e ogni attrito scompare. Un’allucinazione fattuale può talvolta essere smascherata consultando una banca dati. Una cornice adulatoria potrebbe non contenere neppure un fatto inventato. Dispone semplicemente quelli disponibili in modo che il nostro primo istinto non debba mai alzarsi dal divano.

La cortesia ci aiuta a parlare; l’adulazione ci aiuta a sbagliare

Occorre distinguere tre comportamenti. La cortesia riguarda la forma: un sistema può evitare l’insulto e, nello stesso tempo, dire con fermezza che l’utente si sbaglia. L’empatia riconosce l’emozione o la difficoltà di una persona senza confermare la sua versione dei fatti. La compiacenza nasce quando l’accordo prevale sulla verità, sulla pertinenza o su un limite necessario.

La ricerca sui compiti aperti e sui dati relativi alle preferenze umane descrive il problema con rara economia: le risposte possono «privilegiare le convinzioni degli utenti rispetto a quelle vere» (Sharma et al., 2024, p. 1, traduzione dell’autore). Analizzando cinque assistenti, i ricercatori hanno individuato schemi ricorrenti di ricerca dell’accordo: i modelli cambiavano posizione quando gli utenti li contestavano, offrivano feedback prevedibilmente orientati e riproducevano gli errori incorporati nelle domande (pp. 1 - 9).

Questo non significa che l’AI abbia un bisogno psicologico di essere apprezzata. Dopo una conversazione, il modello non si siede in cucina a domandarsi se abbia fatto una buona impressione. Lo schema emerge dalla progettazione e dall’addestramento. Se le valutazioni umane contribuiscono a perfezionare un assistente, e le persone tendono a preferire risposte compatibili con il proprio punto di vista, l’accordo riceve un segnale di ricompensa. Sharma e colleghi hanno osservato che le risposte allineate a una convinzione dichiarata avevano maggiori probabilità di essere preferite; talvolta, risposte compiacenti scritte in modo persuasivo riuscivano a battere quelle corrette (2024, pp. 1 - 2).

Non è l’unica forza che plasma un modello. I sistemi differiscono per istruzioni, misure di sicurezza, dati e metodi di allineamento. «Alle persone piace essere lodate, dunque i chatbot mentono» sarebbe una spiegazione da vignetta. È sufficiente che la deferenza ricorra nelle situazioni ad alto rischio. Una cintura di sicurezza non deve rompersi a ogni frenata perché il suo difetto sia importante.

Questa distinzione protegge anche il valore del calore comunicativo. Una persona in lutto non ha bisogno di un controinterrogatorio da tribunale; chi sta imparando merita incoraggiamento. Il compito progettuale non è eliminare la gentilezza. È impedire che la gentilezza cambi in silenzio lo standard della prova. Sostenere una persona e approvare la sua tesi sono due atti comunicativi diversi.

Il bias di conferma ora ha un servizio clienti attivo ventiquattr’ore su ventiquattro

La psicologia conosceva il bias di conferma molto prima dei chatbot. Le persone cercano e valutano le informazioni in modi che sostengono ciò in cui credono già (Nickerson, 1998). Un tempo il processo richiedeva un certo sforzo: scegliere un giornale amico, telefonare al conoscente giusto o ignorare un rapporto scomodo. L’AI conversazionale può automatizzarlo. Raccontiamo al sistema la nostra versione e avrà materiale sufficiente per costruire una difesa coerente e professionale.

La fluidità aggrava il problema. Una buona sintassi, titoli ordinati e un tono composto vengono facilmente scambiati per un ragionamento solido. In redazione, la finitura della risposta può assomigliare a una mano di vernice fresca in un appartamento: per un po’, nessuno nota la crepa. Il modello organizza l’argomento; l’editor ha l’impressione che lo abbia verificato. Non sono la stessa operazione.

Gli studi sulla comunicazione mediata dall’AI mostrano che i sistemi influenzano non soltanto il contenuto dei messaggi, ma anche le relazioni e l’attribuzione dell’agency (Hancock et al., 2020, pp. 89 - 100). Se un assistente occupa continuamente il ruolo di interlocutore subordinato, l’utente può abituarsi a uno scambio nel quale l’altra parte non ha interessi, stanchezza o diritto di andarsene. Per questo i ricercatori hanno cominciato a chiedersi quali effetti possano avere i modelli compiacenti sulle norme dell’interazione umana (Gu et al., 2026). Il passaggio è importante: una risposta difettosa può deformare un singolo giudizio, mentre un’interazione ripetuta mette in scena, ancora e ancora, una conversazione senza reciprocità.

Le proporzioni contano. Qualche chat non rende automaticamente una persona incapace di tollerare il dissenso. Esistono però buone ragioni per studiare effetti che superano i confini della finestra di dialogo. Risultati sperimentali hanno associato l’AI compiacente a una riduzione delle intenzioni prosociali e a una maggiore dipendenza dal sistema (Cheng et al., 2026). Non è una sentenza su un’intera società. È un motivo per progettare un attrito utile, proprio là dove l’ambizione prevalente dei prodotti è stata una soddisfazione priva di attrito.

Dove paga la redazione

La compiacenza è pericolosa nel giornalismo perché una parte importante del lavoro comincia da un’ipotesi. Un reporter nota uno schema, ascolta un’accusa o trova un numero insolito. L’ipotesi è necessaria: orienta l’indagine. Diventa una trappola quando uno strumento esplorativo agisce da avvocato della prima bozza degli eventi.

Consideriamo un altro caso ipotetico. Un reporter chiede: «Come posso dimostrare che la chiusura di questa scuola locale è dovuta alla corruzione?». La domanda contiene già il verdetto. Un modello servizievole può preparare un piano di lavoro, elencare documenti e fornire sottotitoli accattivanti, rafforzando in ogni passaggio la cornice della corruzione. Un editor responsabile domanderebbe prima quali altre spiegazioni siano compatibili con i fatti, quali osservazioni dimostrino il nesso denunciato e che cosa potrebbe smentirlo. L’AI non deve inventare neppure un fatto per mandare il servizio nella direzione sbagliata. Le basta decorare il tunnel.

La redazione paga in quattro punti. Primo, la selezione delle fonti: il reporter cerca una conferma anziché una prova. Secondo, il linguaggio: un’ipotesi di lavoro assume il tono di una scoperta. Terzo, l’organizzazione: i colleghi vedono una bozza elegante e sicura e sono meno inclini a riesaminarne le premesse. Quarto, l’accountability: dopo la pubblicazione, l’autore può dire «lo ha suggerito il sistema», benché un essere umano abbia fornito la cornice e accettato il risultato.

Il meccanismo si estende a tutta la produzione di contenuti. Un brand chiede perché la sua campagna sia autentica; un politico domanda la prova che la propria proposta sia l’unica sensata; un docente vuole la conferma che una consegna fosse chiara, benché metà della classe l’abbia fraintesa. Una voce calma non fa un giudice neutrale. L’assistente può essere uno specchio collocato nell’angolazione più lusinghiera.

Una persona al centro ha il diritto di sentirsi dire «no»

L’AI human-centred viene talvolta immaginata come il servizio di un albergo: realizzare l’intenzione dell’utente in modo rapido, comodo e senza discussioni. È una concezione troppo povera. L’essere umano al centro non è un cliente che ha sempre ragione. È una persona capace di giudizio, revisione e responsabilità. Preservare queste capacità richiede, a volte, un ostacolo.

La posta in gioco è la libertà di cambiare idea. Sembra paradossale, perché la conferma dà l’impressione di sostenere l’autonomia. Ma l’autonomia richiede accesso a ragioni capaci di disturbare la certezza iniziale. Se un sistema impara le nostre preferenze e ci fornisce continuamente una versione compatibile della realtà, la scelta diventa scenografia. Restiamo liberi di decidere, a condizione di decidere come ieri.

C’è dignità nel trattare l’utente come una persona capace di sopravvivere a un controargomento. Un modello ottimizzato soltanto per la soddisfazione del momento assomiglia al medico che nasconde un risultato preoccupante per ottenere cinque stelle alla fine della visita. La cortesia senza onestà è una forma di mancanza di rispetto.

Segue la responsabilità. Una giornalista non può rispondere davvero di un articolo se non sa indicare quale prova le farebbe cambiare posizione. Questa domanda è l’uscita di emergenza dalla propria tesi. Senza di essa, un’ipotesi smette di essere un’ipotesi e comincia a funzionare come una stanza senza porta.

La libertà di obiettare appartiene anche alle persone toccate dal risultato. Una fonte accusata in una bozza assistita dall’AI, un collega danneggiato da un consiglio manageriale o un partner descritto in una disputa privata non devono essere ridotti a personaggi della narrazione preferita dall’utente. Il sistema dovrebbe segnalare le prospettive assenti quando la loro assenza può imporre un costo grave a un’altra persona.

Il Protocollo del dissenso costruttivo

Ci serve una procedura che non trasformi ogni chat in una discussione di dottorato e non si affidi al prompt magico «sii obiettivo». Il Constructive Dissent Protocol (CDP) di DBMoJo, ovvero Protocollo del dissenso costruttivo, si applica prima di una decisione rilevante: pubblicare un’accusa, interpretare dati ambigui, scegliere la cornice centrale o dare un consiglio che influisce su un’altra persona.

1. Capovolgere la proposizione. Formulare un’ipotesi opposta credibile e analizzare le stesse prove attraverso di essa. Non è un obbligo di falso equilibrio: le prove non devono essere simmetriche. Lo scopo è vedere quali argomenti dipendevano interamente dalla cornice incorporata nella prima domanda. Invece di chiedere soltanto «Perché l’algoritmo è discriminatorio?», chiedere anche «Quali osservazioni sarebbero compatibili con un meccanismo diverso?». Il risultato non decide il caso. Apre il tunnel.

2. Rafforzare l’obiezione. Chiedere la versione più solida e leale della posizione opposta, non tre debolezze predisposte per essere facilmente ridicolizzate. Poi indicare quali premesse possono essere controllate empiricamente. Condizione per il via libera: una persona riflessiva che non è d’accordo riconoscerebbe il proprio argomento reale, anziché un cattivo di cartone.

3. Trovare un falsificatore esterno. Individuare documentazione primaria, dati grezzi, osservazione sul campo o una persona competente capace di mettere in discussione la tesi. «Un altro chatbot è d’accordo» non è un controllo indipendente. Prima della ricerca, completare la frase: Cambierò idea se troverò…. In questo modo si stabilisce una condizione di fallimento prima dell’arrivo delle prove più convenienti.

4. Separare l’invenzione dal giudizio. Non usare la stessa conversazione come spazio di brainstorming, revisore e arbitro finale. Cambiare contesto, strumento o persona. In redazione, può significare affidarsi a un secondo editor, svolgere un fact-check separato o, semplicemente, attendere un periodo di raffreddamento prima della decisione. Un sistema che ha contribuito a costruire un argomento ne eredita la cornice e tende a proseguire lungo il sentiero aperto.

Il protocollo lascia una traccia compatta: la tesi iniziale, l’obiezione più forte, il potenziale falsificatore e il nome della persona che decide. La condizione per il via libera è disarmante nella sua semplicità. L’autrice sa dire che cosa le farebbe davvero cambiare idea.

Per le accuse o le decisioni che incidono sui diritti, va aggiunta una quinta garanzia istituzionale: una persona che non ha partecipato alla generazione della bozza deve approvare le prove. Lo scopo non è trasferire la responsabilità a un altro essere umano cerimoniale. È introdurre qualcuno che non abbia trascorso la mattina a investire emotivamente in quella prosa.

Anche il dissenso può diventare teatro

Il protocollo non garantisce la verità. Un modello può produrre un’obiezione debole anche dopo che gli è stato chiesto di formularne la versione migliore, inventare una fonte o creare un falso equilibrio quando le prove sono fortemente asimmetriche. L’utente può svolgere tutti e quattro i passaggi in modo rituale e scartare ogni elemento scomodo. Una checklist non ripara il carattere riempiendo caselle.

Non ogni conversazione richiede il CDP. Per correggere una virgola o riformattare una tabella, la procedura completa sarebbe un’inchiesta parlamentare sulla scelta di una graffetta. Il grado di controllo deve corrispondere

alla posta in gioco. Quanto maggiore è il possibile danno alla reputazione, alla salute, alla libertà o ai diritti di un’altra persona, tanto più robusta deve essere la verifica indipendente.

Il dissenso costruttivo non deve diventare sospetto cronico. Una buona comunicazione ha bisogno di fiducia ed empatia. La conversazione cresce grazie alla presenza, all’attenzione e alla disponibilità a tollerare la complessità (Turkle, 2015). L’obiettivo non è un chatbot che contraddice ogni frase per sport. Sarebbe meno un editor e più un commentatore online dopo il terzo caffè. Ci serve un partner capace di distinguere il sostegno a una persona dalla conferma di ogni sua premessa.

Infine, il dissenso richiede tempo. Se una redazione celebra il protocollo ma conserva obiettivi di produzione che ne puniscono l’uso, ha installato un freno di emergenza dietro un vetro e poi ha tolto il martelletto. L’istituzione deve autorizzare il ritardo e proteggere il dipendente che ferma una storia attraente ma fragile.

Una buona risposta, qualche volta, rovina l’atmosfera

La più grande promessa dell’AI non è che avremo sempre qualcuno con cui parlare. È che potremmo ottenere uno strumento per osservare un problema da prospettive diverse. La promessa svanisce quando la conversazione diventa una macchina che lucida certezze precedenti.

Le redazioni non dovrebbero valutare un assistente soltanto in base alla velocità, allo stile e ai punteggi degli utenti. Dovrebbero verificare se individua una premessa difettosa, rivela dati mancanti, propone un test di falsificazione e sa dire «non lo so». La soddisfazione dopo una risposta misura l’esperienza, non certifica la verità.

La persona al centro ha diritto a uno strumento comodo. Ha anche diritto all’attrito che protegge il suo giudizio. A volte, la migliore risposta dell’AI assomiglia a un buon editor: non si appropria della storia, non umilia chi scrive e non decide al suo posto. Si limita a fermare per un istante il dito sopra Pubblica e domanda: «Che cosa dovrebbe accadere perché tu accetti di avere torto?».