«Human in the loop» non significa una persona accanto a un pulsante verde

Sono le 17.58. Un sistema ha generato cinquanta articoli di cronaca locale a partire da dati pubblici. Mancano due minuti all’invio automatico delle notifiche. Sullo schermo dell’editor compaiono un titolo, un breve sommario e un grande pulsante verde con la scritta «approva tutto». Non compaiono invece la tabella originale, le regole di selezione né la cronologia completa delle modifiche. L’editor sa che un ritardo peggiorerà l’indicatore di velocità della redazione. Fa clic.

La mattina seguente, la squadra scopre che uno degli articoli ha unito i dati di due persone con nomi simili e ha lasciato intendere, erroneamente, che una di loro fosse insolvente. Nella documentazione del progetto rimane una frase rassicurante: «ogni contenuto viene controllato da una persona». Formalmente è vero. In pratica, quella persona è stata un sigillo apposto su una scatola che non poteva aprire.

La scena è ipotetica, ma la sua logica va ben oltre il giornalismo. Human in the loop è diventata una formula talismanica nelle politiche sull’IA. Basta aggiungere una persona al diagramma e il sistema sembra responsabile. Eppure, la posizione occupata nel circuito non dice nulla sul potere. Quella persona può essere un’esperta autorizzata a fermare il processo, oppure un’operatrice esausta assunta per fornire l’ultimo clic.

Un circuito può diventare un guinzaglio

L’immagine più semplice della supervisione è rassicurante: la macchina propone, la persona decide. In un’organizzazione reale, tra proposta e decisione si interpongono molti elementi - progettazione dell’interfaccia, scadenze, obiettivi di rendimento, gerarchie, formazione, accesso ai dati e rischio occupazionale. Sono queste condizioni a determinare se una persona esercita davvero il proprio giudizio o si limita ad autenticare un risultato.

Un algoritmo può orientare l’attenzione dell’operatore verso determinate informazioni anche quando l’ultima mossa resta, tecnicamente, umana. Nicholas Diakopoulos spiega come i sistemi classifichino, ordinino, associno e filtrino, incorporando al tempo stesso scelte umane sui criteri, sui dati e sull’interpretazione. Anche l’operatore che prende la decisione finale vede quindi un campo già modellato da precedenti selezioni computazionali (Diakopoulos, 2015, pp. 2 - 6).

Il pulsante verde può dunque trovarsi in fondo a un tunnel molto stretto. Se il sistema nasconde alternative, incertezze e materiali originali, la persona controlla una rappresentazione del risultato, non il risultato stesso. Se centinaia di casi attendono approvazione, la verifica diventa un rito. Se per rifiutare serve una relazione, mentre per accettare basta un clic, l’interfaccia ha già votato prima dell’operatore.

Il circuito può funzionare come un guinzaglio: l’organizzazione conserva un volto umano, mentre la persona segue un percorso stabilito dal sistema e dal ritmo di lavoro.

Chi agisce in un sistema ibrido?

La Human - Machine Communication supera l’idea della tecnologia come semplice canale tra persone. Un sistema conversazionale può comportarsi come un comunicatore: produce enunciati, risponde e plasma una relazione. Aleksandra Skrzypiec presenta i quadri funzionale, relazionale e metafisico della HMC e mostra come l’IA nella comunicazione di massa destabilizzi i ruoli di mittente, destinatario e autore (Skrzypiec, 2025, pp. 35 - 38).

Questo non trasforma un modello in una persona moralmente responsabile. Ci aiuta però a vedere l’agency distribuita. Un output nasce dall’interazione tra dati, progettazione del modello, prompt, politiche organizzative, interfaccia, revisore e sistema di distribuzione. Nessun singolo elemento racconta per intero la storia

causale. «È stata l’IA» comprime il sistema proprio nel punto in cui l’accountability richiede di dispiegarlo.

L’agency distribuita non deve diventare responsabilità diluita. Proprio perché più componenti plasmano l’esito, un’organizzazione deve assegnare con maggiore precisione i compiti umani in ogni fase. Un modello non può ascoltare un ricorso, risarcire una vittima, telefonare al soggetto di un articolo o modificare un bilancio. La responsabilità ha bisogno di un indirizzo fuori dall’interfaccia.

Responsabilità, accountability e una linea italiana da non oltrepassare

Michał Chlebowski distingue la responsibility - i doveri legati a un ruolo - dall’accountability, cioè i meccanismi attraverso i quali i media sono chiamati a rispondere dei propri impegni verso la società. Il giornalismo ha bisogno di standard e buone intenzioni, ma anche di percorsi attraverso cui una redazione possa essere obbligata a spiegare e riparare il proprio operato (Chlebowski, 2024, pp. 115 - 119).

«Una persona controlla» descrive, nel migliore dei casi, un dovere. Non dice nulla sulle prove che il controllo sia avvenuto, sulla soglia di qualità o sulla procedura da seguire dopo un fallimento. Un’organizzazione può possedere un’elegante politica sull’IA senza misurare il tempo di revisione, registrare le obiezioni o consentire a un operatore di fermare la pubblicazione. La responsabilità vive allora nel documento, mentre l’accountability scompare dalla pratica.

Il codice deontologico italiano dei giornalisti traccia un confine netto: «l’intelligenza artificiale non può in alcun modo sostituire l’attività giornalistica» (traduzione dell’autore; Consiglio Nazionale dell’Ordine dei Giornalisti, 2024, art. 19, p. 8). Lo stesso articolo impone ai giornalisti di dichiarare l’impiego dell’IA nella produzione o modifica di testi, immagini e suoni, di conservarne controllo e responsabilità, di spiegare la natura del contributo e di verificare fonti e dati.

È una direzione, non un manuale operativo. Che cosa significa controllo quando arrivano cinquanta contenuti tutti insieme? Quale contributo dell’IA è abbastanza rilevante da richiedere una dichiarazione? Chi può valutare un’analisi statistica? Un revisore può ritardare la pubblicazione senza subire conseguenze? L’etica diventa operativa solo quando queste domande poco spettacolari ricevono una risposta.

Il pubblico non può vedere il diagramma

In uno studio del Reuters Institute condotto in sei Paesi, solo il 12% degli intervistati ha dichiarato di sentirsi a proprio agio con notizie prodotte interamente dall’IA. Il dato sale al 21% quando viene aggiunta una persona human in the loop, al 43% quando è una persona a guidare il lavoro con qualche forma di assistenza dell’IA e al 62% per notizie prodotte interamente da esseri umani (Simon et al., 2025, p. 8). Solo il 33% riteneva che i giornalisti controllassero sempre o spesso l’output dell’IA prima della pubblicazione (p. 9).

Queste opinioni non dimostrano che una particolare redazione sia irresponsabile. Mostrano però che il linguaggio della supervisione non genera automaticamente fiducia. I lettori non possono vedere il programma di formazione, il diagramma del flusso di lavoro o il pannello di amministrazione. Vedono il giornalismo che ne risulta, la sua etichetta e il comportamento della redazione dopo un errore.

Nguyen propone un quadro per l’integrazione responsabile dell’IA che coinvolge fornitori, giornalisti e organizzazioni dei media, con trasparenza, formazione, politiche e supervisione umana (Nguyen, 2026, pp. 2 - 7). Il passo successivo consiste nel trattare la supervisione come una sequenza, non come un punto. Una persona deve essere presente là dove è ancora possibile cambiare i dati, l’output, la pubblicazione e le conseguenze.

A un revisore umano servono cinque cose

La supervisione reale richiede cinque condizioni. Toglietene una e il controllo rischia di diventare un alibi.

Conoscenza. Il revisore comprende la materia, i limiti dello strumento e lo standard editoriale. Saper usare i pulsanti non equivale a essere esperti di un’affermazione giuridica, di un’immagine di guerra o di un modello statistico.

Contesto. Il revisore vede i materiali originali, i prompt e le trasformazioni pertinenti, le incertezze e le decisioni precedenti. Un sommario senza il proprio fascicolo è come controllare un passaporto dal colore della valigia.

Tempo. Il volume dei casi e la scadenza permettono di rispettare lo standard promesso. Se una verifica richiede due minuti, assegnarne venti secondi non è un obiettivo ambizioso. È la cancellazione matematica della procedura.

Autorità. La persona può rifiutare, fermare, chiedere modifiche e segnalare il caso a un livello superiore senza subire una penalizzazione sproporzionata. Un

operatore responsabile dell’esito ma incapace di modificarlo è il paraurti dell’organizzazione.

Dovere di rispondere. Dopo la pubblicazione, qualcuno deve spiegare la decisione, ascoltare una contestazione e riparare il danno. Una supervisione che finisce con il clic non copre la vita dell’articolo.

Anche la persona coinvolta appartiene al circuito

Nelle discussioni sulla supervisione, «la persona» indica di solito un dipendente dell’organizzazione. Anche il soggetto di un articolo o il destinatario di una decisione dovrebbe trovarsi al centro. Sono la sua reputazione, un suo diritto, l’accesso a un servizio o il suo posto nel dibattito pubblico a poter essere danneggiati.

La ricerca sulla giustizia procedurale mostra che le persone giudicano le istituzioni non soltanto in base agli esiti, ma anche in base al processo: possibilità di essere ascoltate, neutralità, trattamento rispettoso e affidabilità dell’autorità (Tyler, 2006). Un processo automatizzato può funzionare bene in media e tuttavia negare la voce a una persona concreta. «Ha deciso l’algoritmo» chiude la conversazione proprio dove dovrebbe cominciare.

Chi viene identificato erroneamente in un articolo prodotto con l’assistenza dell’IA deve poter raggiungere una persona che abbia accesso al dossier delle prove e possa correggere la pubblicazione. Non dovrebbe essere rinviato al fornitore del modello o a un modulo senza confini. Dignità significa non trattarlo come un’eccezione che rovina la metrica. Libertà significa una possibilità reale di contestare. Accountability significa un decisore nominato all’interno dell’istituzione.

Cinque varchi dell’accountability

Sostituite l’unico pulsante verde con cinque varchi. Ogni varco ha bisogno di un responsabile, delle prove richieste, di una soglia di escalation, del diritto di fermare il processo e di una via di ricorso.

Il responsabile del processo definisce lo scopo, i dati consentiti, la base giuridica o etica, il livello di sensibilità, la conservazione e gli usi vietati. Valuta la rappresentatività e i rischi per le fonti e i soggetti. La prova consiste in un registro dell’uso dei dati approvato da una persona competente nel settore.

L’escalation scatta in presenza di dati riservati o personali, informazioni su minori, salute, violenza o fonti protette, oppure condizioni poco chiare del fornitore. L’editor responsabile e, secondo il caso, il referente per sicurezza, affari legali o protezione dei dati possono fermarne l’uso. A questo varco, «non useremo l’IA per questo compito» resta la decisione meno costosa.

L’output è una proposta non verificata, non un testo pronto per la pubblicazione. Un revisore qualificato lo confronta con gli input approvati e le fonti primarie, controllando fatti, citazioni, cifre, omissioni, tono, bias e incertezza. Vede il contesto completo, non una scheda di anteprima.

La prova è un registro di verifica: che cosa è stato controllato, rispetto a quale fonte, che cosa è cambiato e chi lo ha fatto. L’escalation scatta quando manca la tracciabilità delle fonti, le prove sono in conflitto, un’affermazione comporta conseguenze gravi o il revisore non possiede la competenza necessaria per valutarla. «Non capisco» è un segnale di arresto valido, non una confessione di debolezza.

Un editor valuta il contenuto nel suo insieme: interesse pubblico, proporzionalità, danno prevedibile, dichiarazione dell’uso dell’IA, titolo, immagini e possibilità di replica del soggetto. Si chiede se la pressione della scadenza abbia abbassato lo standard. I lavori ad alto rischio richiedono un secondo controllo o una revisione indipendente da parte di un esperto del settore.

La prova è una decisione di pubblicazione nominativa associata a una versione stabile. L’escalation è obbligatoria in caso di danno potenzialmente irreversibile, mancata replica di una parte coinvolta o modifica sostanziale dell’ultimo minuto. Il diritto di fermare deve essere più forte dell’orologio della pubblicazione.

La supervisione continua dopo l’uscita. La redazione monitora segnali credibili di errore, effetti imprevisti, risposte dei soggetti e anomalie nella distribuzione o personalizzazione. Le etichette sull’IA e le correzioni dovrebbero accompagnare il contenuto fin dove l’editore può ragionevolmente garantirlo.

La prova è un registro di monitoraggio con un responsabile nominato. Un reclamo credibile, una diffusione rapida, un danno a una persona identificabile o una discrepanza rispetto alla fonte fanno scattare l’escalation. Il responsabile può sospendere la promozione, aggiungere un’avvertenza o limitare

temporaneamente un contenuto, preservando al tempo stesso la traccia delle decisioni.

Ogni contenuto offre una via di ricorso comprensibile a una persona comune. Al reclamo vengono assegnati un numero di riferimento, un termine e una persona responsabile. La redazione conserva il dossier, valuta l’entità del danno, contatta la persona coinvolta e pubblica una correzione proporzionata alla portata originaria.

La prova è un registro della correzione, una decisione motivata e, quando l’errore è sistemico, una modifica del processo. Il ricorso non può dipendere dal numero di follower di chi reclama. Una persona senza una piattaforma ha lo stesso diritto a essere ascoltata equamente di un personaggio pubblico.

Il dossier della supervisione

Per evitare che i varchi diventino l’ennesimo poster, ciascuno deve rispondere a cinque domande. Chi? Nome, ruolo e sostituto. Su quale base? Fonti, standard e prove richieste. Che cosa fa scattare l’escalation? Soglie specifiche, non «quando necessario». Che cosa può fare la persona? Fermare, modificare, chiedere competenze, ritirare o riparare. Come può ricorrere una persona esterna? Canale, termine e livello decisionale.

Il dossier non deve esporre dati riservati o controlli di sicurezza. Deve però permettere a un auditor di ricostruire se vi sia stata una supervisione significativa o se una persona si sia limitata a stare vicino al pulsante.

Anche le metriche richiedono la stessa attenzione. Il numero di contenuti approvati premia la velocità. Misurate il tempo di revisione, le escalation, i tipi di errore, i ricorsi, il tempo di riparazione e l’uso dell’autorità di arresto. Zero obiezioni può indicare un sistema impeccabile. Oppure può indicare che obiettare viene punito.

Dove fallisce la supervisione umana

Gli esseri umani non sono filtri di qualità magici. Si stancano, hanno bias, possono non essere formati e fidarsi troppo di output fluenti. L’automazione può erodere la competenza quando il personale trascorre mesi ad approvare anziché esercitare il compito sottostante. Un eccesso di avvisi produce una loro sistematica ignoranza.

Non tutte le decisioni richiedono neppure lo stesso livello di controllo. Correggere la punteggiatura e formulare un’accusa contro una persona identificabile richiedono varchi diversi. Proporzionate il controllo al danno potenziale, alla reversibilità, alla sensibilità dei dati, alle dimensioni del pubblico e all’accesso a un ricorso.

Persino un processo interno eccellente non può correggere ogni debolezza di un modello o di un’infrastruttura esterni. A volte, la scelta responsabile è non adottare il sistema. Una persona nel circuito non può legittimare uno scopo lesivo della dignità o un sistema che l’organizzazione non riesce a controllare adeguatamente.

Non chiedete se una persona ha fatto clic

Chiedete se poteva vedere, capire, contestare e fermare. Chiedete se l’organizzazione ha conservato prove di quel lavoro. Chiedete se la persona coinvolta può raggiungere un essere umano dotato del potere di cambiare qualcosa.

Il pulsante verde è un simbolo comodo perché rappresenta la responsabilità come il punto finale. In realtà, l’accountability attraversa l’intera vita dell’articolo, dai dati alla correzione. Una persona non dovrebbe decorare la fine del circuito. Dovrebbe avere le chiavi di cinque varchi - ed essere tenuta ad aprirli anche dal lato del pubblico.

Il futuro raramente arriva con una data stampata sulla confezione. Entra come impostazione predefinita, flusso di lavoro più rapido, riassunto utile o pulsante verde con la scritta Approva. Quando cominciamo a chiamarlo trasformazione, molte delle sue premesse sono già diventate ordinarie.

I saggi di questo libro hanno seguito tali premesse nelle redazioni, nei telefoni, nei motori di risposta, nelle immagini sintetiche e nei sistemi automatizzati. Ancora e ancora, il problema centrale non è stato che la tecnologia non sappia fare nulla di utile. È che l’utilità può nascondere un trasferimento di potere. Un sistema seleziona prima di rispondere, modifica prima di parlare e classifica prima che una persona possa obiettare. La comodità è reale, ma lo sono anche le persone che forniscono i dati, assorbono gli errori, riparano i risultati e scompaiono dalla presentazione commerciale.

Per questo una comunicazione centrata sulla persona non può significare collocare un essere umano decorativo alla fine di una catena automatizzata. Una firma umana non è un clic. È la capacità di spiegare una decisione, contestare la cornice, proteggere una fonte, conservare l’incertezza, rifiutare la pubblicazione, riparare il danno e continuare a risponderne in seguito. Comprende anche la libertà della persona coinvolta di capire, contestare e presentare ricorso.

I protocolli proposti sono deliberatamente pratici, ma nessuno di essi è un distributore automatico di moralità. Le checklist non possono produrre coraggio e i registri di provenienza non possono decidere che cosa meriti attenzione. Possono però rallentare il momento in cui la responsabilità rischia maggiormente di scomparire. Trasformano una premessa invisibile in una domanda che colleghi, pubblico e comunità possono esaminare insieme.

Inquadrare il domani significa decidere che cosa entra nell’immagine, che cosa ne rimane fuori e chi è autorizzato a tenere la videocamera. L’intelligenza artificiale può ampliare l’accesso, rivelare schemi e rimuovere lavoro inutile. Può

anche riprodurre l’esclusione a una velocità straordinaria. La differenza non sarà stabilita soltanto dalla macchina.

Il domani prenderà forma attraverso migliaia di piccole scelte editoriali, tecniche e istituzionali. Ogni scelta ha bisogno di una persona responsabile, di una spiegazione e di una strada che riconduca a chi ne sopporta le conseguenze. Il futuro potrà essere in parte sintetico. La responsabilità no. Richiede ancora una firma umana.