La stanchezza da IA è reale

L’e-mail che non avevo chiesto

È arrivata nella mia casella di posta come qualsiasi altra comunicazione aziendale: un annuncio entusiasta della mia banca che mi informava del lancio di un nuovo assistente basato sull’IA. Disponibile 24 ore su 24, più veloce di qualsiasi operatore umano, pronto a rispondere a ogni domanda che potessi mai avere. Il tono era di un entusiasmo trafelato, come se la banca avesse appena scoperto il fuoco.

Ho fissato l’e-mail per un momento. Poi ho provato qualcosa che provo sempre più spesso ultimamente: una stanchezza sorda e strisciante. Non verso la tecnologia in sé, non necessariamente, ma verso il ritmo incessante con cui viene spinta in ogni angolo della vita quotidiana, che la vogliamo lì o no. C’è una parola per questa sensazione che inizia a circolare nelle conversazioni sulla tecnologia: stanchezza da IA. Descrive la spossatezza che si insinua quando uno strumento un tempo entusiasmante inizia a sembrare onnipresente, inevitabile e, a volte, profondamente sgradito.

Una banca che un tempo sembrava diversa

Ho scelto questa banca nel 2019. Era una di quelle istituzioni moderne, pensate prima di tutto per il digitale, che sembravano capire davvero cosa cercavano le persone. Niente code burocratiche. Niente appuntamenti obbligatori con un direttore di filiale. Niente pile di fogli da firmare e rispedire. Era pensata per le persone sempre in movimento, che apprezzavano l’efficienza e la chiarezza e a cui forse piaceva l’idea di una banca che sembrasse un po’ meno una banca tradizionale.

All’epoca stava anche facendo seri progressi in diversi paesi europei, posizionandosi come la banca per chi viaggia, per chi vive oltre i confini, per chi non vuole essere legato all’infrastruttura finanziaria di un singolo paese. Offriva funzionalità davvero utili, molte gratuite, e lo faceva tramite un’app pulita e intuitiva. Per qualcuno che si era stancato della lentezza e della formalità della banca tradizionale, era una boccata d’aria fresca.

Ma quell’e-mail mi ha fatto fermare a riflettere. Perché ripensandoci ora, mi ritrovo a chiedermi se non ci siamo spinti troppo oltre. Le qualità stesse che rendevano quella banca attraente all’inizio — il suo senso di reattività, la sensazione che dall’altra parte ci fosse una persona vera — sembrano sparire in sordina. Al loro posto c’è un assistente che assume un nome diverso e una foto profilo diversa ogni volta che apri una chat, come se l’illusione di una presenza umana fosse in qualche modo preferibile a un’onestà diretta su cosa sia realmente il sistema.

Il chatbot che non voleva farsi da parte

Ho avuto più di una volta motivo di contattare l’assistenza clienti di quella banca. Un bug nell’app che impediva il completamento di una transazione. Un pagamento addebitato due volte sul mio conto. Situazioni non catastrofiche, ma che richiedevano una risposta chiara e una soluzione concreta. Ogni volta, la strada verso quella soluzione passava per lo stesso ostacolo: l’agente IA.

Quello che ho scoperto è che questo agente non è semplicemente un filtro pensato per smistare le richieste semplici e passare quelle complesse a un umano. È stato progettato per agire come un guardiano, che si è autonominato unico giudice del fatto che il tuo problema sia abbastanza serio da meritare l’attenzione di una persona vera. In diverse occasioni mi sono ritrovato del tutto incapace di farmi passare a un operatore umano perché il sistema aveva deciso, senza alcun mezzo apparente di ricorso, che il mio problema non richiedeva un intervento umano.

È qui che il problema diventa davvero serio. Gli agenti IA funzionano bene come prima linea di risposta per richieste semplici e ripetitive. Se qualcuno vuole conoscere il saldo del proprio conto, come cambiare il PIN o gli orari di apertura della banca, un’IA ben addestrata può gestirlo in modo efficiente e accurato, attingendo a una base di conoscenza strutturata per produrre una risposta affidabile. Sono ciò che i team di supporto chiamano richieste di livello 1, e automatizzarle ha senso. Riduce i tempi di attesa, libera gli operatori umani per lavori più complessi e fornisce agli utenti risposte immediate a domande semplici.

Ma nel momento in cui una situazione esce da quel territorio strutturato e prevedibile, i limiti dell’IA diventano evidenti molto in fretta. Un pagamento addebitato due volte comporta il controllo dei movimenti, l’incrocio dei dati con un esercente, l’eventuale avvio di una procedura di contestazione e la comunicazione all’utente su cosa succederà e quando. Un bug nell’app può richiedere che un operatore segnali il problema a un team tecnico, apra un ticket e ne segua l’evoluzione. Non sono compiti che si incastrano ordinatamente in un albero decisionale. Richiedono giudizio, flessibilità e responsabilità. Eppure il sistema era stato progettato in un modo che mi impediva di accedere agli operatori umani che avrebbero potuto fornire esattamente questo.

Il problema della trasparenza

C’è qualcosa di particolarmente inquietante negli agenti IA progettati per farsi passare per umani. Dare a un chatbot un nome umano e una foto profilo amichevole non è un vezzo di design. È una scelta deliberata per oscurare la natura dell’interazione, e questo conta.

Quando le persone comunicano con un operatore dell’assistenza, prendono decisioni continue, spesso inconsce, in base alla loro comprensione di con chi stanno parlando. Decidono quanti dettagli fornire, quanto formalmente formulare la richiesta, quanto fidarsi della risposta che ricevono. Se credono di parlare con una persona, quelle decisioni si basano su un certo insieme di presupposti. Se sanno di parlare con una macchina, le prendono su un altro. Confondere deliberatamente quella distinzione non serve all’utente. Serve all’istituzione, riducendo l’attrito che potrebbe sorgere se gli utenti capissero che la loro richiesta viene gestita da un algoritmo.

Oltre alla dimensione etica, c’è la questione pratica dei dati. Ogni messaggio inviato a un agente IA viene elaborato, archiviato e, in molti casi, usato per migliorare le prestazioni future del modello. Nel contesto di una banca, dove le conversazioni coinvolgono abitualmente numeri di conto, dettagli delle transazioni, circostanze personali e preoccupazioni finanziarie, questo solleva notevoli questioni di privacy. Per quanto tempo vengono conservati quei dati? Chi vi ha accesso? A quali condizioni possono essere usati per l’addestramento? Non sono preoccupazioni ipotetiche. Sono il tipo di domande che dovrebbero comparire nelle entusiastiche e-mail di annuncio che le banche inviano quando lanciano questi sistemi. Raramente lo fanno.

Riassunti invece di racconti

La banca non è l’unico ambito in cui la stanchezza da IA sta prendendo piede. I motori di ricerca mostrano sempre più spesso riassunti generati dall’IA proprio in cima alle pagine dei risultati. L’idea è che, invece di cliccare per arrivare a una fonte, tu possa semplicemente leggere qualche frase in cima alla pagina e proseguire con la tua giornata.

In apparenza, sembra una comodità. In pratica, è qualcosa di più simile a una scorciatoia intellettuale, e comporta rischi reali di cui raramente si parla apertamente.

Il modo in cui un autore struttura un argomento non è incidentale. Fa parte dell’argomento. L’ordine in cui le informazioni vengono presentate, le precisazioni introdotte in momenti particolari, il contesto che si costruisce nel corso di un testo — sono queste le cose che permettono al lettore di capire davvero un tema invece di limitarsi a raccoglierne un dato. Quando quella struttura viene compressa in tre frasi generate da un algoritmo, ciò che resta è uno scheletro. Può essere accurato nei fatti nudi e crudi, ma è privato della trama che rende quei fatti significativi.

Più concretamente, i riassunti generati dall’IA non sono sempre corretti. Questi sistemi possono travisare le conclusioni di uno studio, omettere avvertenze cruciali o confondere le posizioni di fonti diverse. Poiché il riassunto compare in cima alla pagina in un formato pulito e autorevole, molti lettori lo accettano senza metterlo in discussione e non aprono mai l’articolo originale. L’errore non viene mai colto. Il fraintendimento viaggia.

C’è anche una conseguenza strutturale per il web stesso. Quando gli utenti smettono di cliccare verso le fonti originali, quelle fonti perdono traffico, e con esso i ricavi pubblicitari o gli abbonamenti che le sostengono. Se i riassunti dell’IA diventano il modo dominante in cui le persone consumano informazioni, l’incentivo a produrre il giornalismo e l’analisi approfonditi da cui questi riassunti attingono inizia a erodersi. Rischiamo di creare un sistema che si nutre della profondità e del rigore dei contenuti scritti dagli esseri umani, minando al contempo le condizioni che rendono economicamente sostenibile produrre tali contenuti.

Stiamo diventando intellettualmente pigri?

C’è una domanda più scomoda che si nasconde sotto tutto questo, e vale la pena prenderla sul serio: stiamo permettendo a questi strumenti di indebolire gradualmente la nostra capacità di pensiero indipendente?

Quando ogni articolo può essere riassunto prima di leggerlo, quando ogni interazione con l’assistenza clienti è pre-filtrata da un algoritmo, quando ogni decisione può essere orientata da un assistente IA prima ancora che abbiamo avuto la possibilità di rifletterci da soli, cosa ne è delle abitudini cognitive che altrimenti eserciteremmo? Leggere un lungo articolo per intero, restare con la complessità, formarsi un’opinione prima di ricevere un verdetto — non sono competenze banali. Richiedono pratica. E come ogni competenza non praticata, possono atrofizzarsi.

Sembriamo perennemente occupati. Troppo occupati, a quanto pare, per leggere un articolo per intero, per navigare nel sistema di assistenza di una banca, per affrontare un problema senza l’aiuto dell’IA. Ma occupati a fare cosa, esattamente? Vale la pena chiederselo onestamente. Perché se la risposta è che usiamo l’IA per risparmiare tempo, vale la pena chiedersi cosa ne facciamo di quel tempo e se il compromesso ci stia davvero servendo.

La preoccupazione non è che l’aiuto dell’IA renda più facili i singoli compiti. Quello va benissimo. La preoccupazione è cosa succede quando l’aiuto dell’IA diventa la modalità predefinita per quasi ogni rapporto con l’informazione e i servizi, al punto che operare senza di essa inizia a sembrare estraneo. Quel passaggio, se avviene in modo abbastanza graduale, potrebbe non essere percepito affatto come una perdita. Potrebbe semplicemente essere percepito come progresso.

Uno strumento, non un sostituto

Niente di tutto questo è un argomento contro l’intelligenza artificiale. Queste tecnologie, applicate con criterio e con vera trasparenza, possono fare del bene reale. Automatizzare compiti ripetitivi, rendere l’informazione più accessibile, ridurre l’attrito in processi inutilmente lenti: sono obiettivi legittimi e meritevoli. Il problema non è la tecnologia in sé. Il problema è l’assunto non esaminato secondo cui più IA, dispiegata ovunque, sia intrinsecamente meglio di meno IA.

Quando penso alla mia banca, non voglio che faccia marcia indietro sulle sue ambizioni digitali. Voglio che sia onesta con me su ciò con cui sto interagendo. Voglio poter raggiungere un essere umano quando la situazione lo richiede, senza dover gabbare un chatbot per riuscirci. Voglio che le istituzioni che gestiscono la mia vita finanziaria trattino i miei dati e il mio tempo con la stessa cura e serietà che porto io nella relazione.

La stanchezza da IA non è tecnofobia. Non è un rifiuto del progresso. È una risposta ragionevole all’esperienza di veder dispiegare un potente insieme di strumenti senza sufficiente cura per le persone che quegli strumenti dovrebbero servire. Non chiediamo meno innovazione. Chiediamo più onestà, più trasparenza e più riflessione autentica su dove questi sistemi abbiano un posto e dove, semplicemente, non ce l’abbiano.