Dare un nome a un agente di intelligenza artificiale, inserirlo nell’organigramma, assegnargli un responsabile: sono scelte che un numero crescente di aziende sta facendo per inserire la tecnologia nei propri processi, rendendo l’AI più familiare ai dipendenti. Secondo un nuovo esperimento di Boston Consulting Group (BCG) e Boston University, che ha coinvolto 1.261 figure manageriali negli ambiti risorse umane e finanza negli Stati Uniti, in Canada e nell’Unione Europea, questa scelta produce l’effetto opposto a quello desiderato.
Nell’esperimento alla base della ricerca, i partecipanti hanno rivisto documenti contenenti errori, attribuiti in modo casuale a uno strumento AI, a un collega umano o a un “dipendente AI”. Dai risultati emerge come, tra i manager le cui organizzazioni hanno già agenti AI nell’organigramma, quando l’autore del documento era presentato come un dipendente AI la responsabilità personale è scesa di 9 punti percentuali, mentre quella attribuita al sistema è salita di 8 punti. Allo stesso modo, le richieste di revisione dei documenti a un superiore sono aumentate del 44% e gli errori individuati sono diminuiti del 18% rispetto ai documenti segnalati nella cornice “strumento AI”.
I dati emergono in un contesto già maturo: il 31% dei manager intervistati dichiara che la propria realtà aziendale presenta l’AI come una collega o una compagna di squadra, mentre il 23% conferma la presenza di agenti AI negli organigrammi , una pratica diffusa oltre il settore tecnologico: sanità, servizi finanziari, retail e servizi professionali.
«Dare un nome a un agente di intelligenza artificiale e inserirlo nell’organigramma sembra un modo per renderlo più familiare, eppure, quando lo si considera un membro del team al pari di un “collega”, le persone si sentono più autorizzate a delegargli anche la responsabilità degli errori. Il tema non è quindi se adottare questi sistemi o meno, ma come ridisegnare ruoli, processi e governance perché la responsabilità resti sempre in capo alle persone», spiega Roberto Ventura, Managing Director e Partner di BCG.
Il meccanismo individuato dai ricercatori riguarda proprio la percezione della responsabilità. Quando un agente AI viene raccontato come un’entità fisica, con un nome e un carattere, gli errori tendono a essere descritti come “i suoi” e non come il risultato di una scelta di chi lo ha implementato, supervisionato o approvato. Questo spostamento può ridurre la scrupolosità con cui i manager controllano le attività, anche perché oggi nessun sistema AI può essere ritenuto responsabile in senso proprio.
Lo studio segnala inoltre un effetto sulla fiducia interna, questa volta su tutto il campione: i manager delle aziende che presentano l’AI come una collega riportano il 13% in più di incertezza sul proprio ruolo professionale, il 7% in più di preoccupazione per la sicurezza del posto di lavoro e il 10% in meno di fiducia nel modo in cui l’AI viene utilizzata nei contesti professionali. Nonostante questo, l’implementazione della tecnologia non cambia: chi lavora con un’AI presentata come dipendente non mostra un’intenzione di utilizzo più alta di chi collabora con un’AI identificata come strumento.
Gli errori sfuggiti ai controlli, secondo il report, non sono marginali: in un caso, un contratto descritto come riduzione dei costi era accompagnato da un foglio di calcolo che mostrava un aumento delle spese complessive; in un altro, un annuncio di lavoro per una posizione entry level richiedeva più di dieci anni di esperienza. Queste imprecisioni sono risultate più difficili da individuare quando il documento era attribuito a un “dipendente AI” piuttosto che a uno strumento.
I ricercatori indicano cinque interventi per i leader aziendali: ridefinire i flussi operativi e i ruoli umani in modo esplicito; rendere la responsabilità personale e verificabile su tre fronti, ovvero cosa l’agente può fare in autonomia, cosa attiva una revisione, cosa accade quando sbaglia; costruire un percorso di formazione per chi supervisiona questi sistemi; evitare di vincolare un agente a un ruolo umano corrispondente, dal momento che questo può coprire più flussi di lavoro contemporaneamente; infine, progettare in modo l’evoluzione delle attività svolte dalle persone. Su quest’ultimo punto, una ricerca precedente del BCG Institute segnala una distanza tra percezioni: il 76% dei dirigenti ritiene che i dipendenti siano entusiasti dell’adozione dell’AI, ma solo il 31% dei collaboratori individuali conferma lo stesso livello di entusiasmo.
L’analisi arriva mentre cresce il numero di aziende che formalizzano il ruolo degli agenti AI con nomi, ruoli e responsabili di riferimento. I dati suggeriscono che questa scelta, pensata per accelerare l’adozione, lascia invariato il comportamento delle persone rispetto all’uso della tecnologia, ma cambia il modo in cui gestiscono gli errori e assegnano le responsabilità. Per le aziende, la sfida riguarda l’organizzazione di flussi di lavoro, ruoli e responsabilità, in modo che questa resti riconducibile alle persone.
