Le organizzazioni che adottano pratiche di Trustworthy AI (IA affidabile) hanno una probabilità 15 volte superiore di ottenere un ritorno investimenti sugli (ROI) elevato dai propri progetti di intelligenza artificiale. È quanto emerge da un nuovo report di SAS, con insight di ricerca a cura di IDC, che individua nei principi di affidabilità uno dei fattori che distinguono le organizzazioni capaci di trasformare gli investimenti nell’intelligenza artificiale in valore concreto.
La seconda edizione del Data and AI Impact Report: The New Economics of Trust dimostra che le organizzazioni adottanti pratiche più solide in materia di governance, qualità dei dati e auditabilità – una quota ancora limitata del mercato – ottengono con continuità di risultati migliori rispetto alle altre, riportando almeno il doppio del ROI dalle implementazioni di IA. Meno di un’organizzazione su venti, tra quelle premurose “in ritardo” in questo campo, ha riferito lo stesso.
“Quando funziona, l’intelligenza artificiale può avere un impatto straordinario” , ha dichiarato Bryan Harris, CTO di SAS . “Tuttavia, è ampiamente documentato che anche gli agenti più avanzati possono registrare tassi di errore superiori al 25% nelle attività complesse, un livello inaccettabile quando sono in gioco decisioni rilevanti. Per garantire accuratezza e ripetibilità, le organizzazioni devono integrare competenze di dominio nei flussi di lavoro agentici, mantenendo al tempo stesso le persone al centro dei meccanismi di controllo e supervisione. Chi riuscirà a farlo potrà colmare il diverso di fiducia e ottenere un vantaggio competitivo grazie all’IA” .
Il report analizza tre aree principali.
Un’IA che non sa spiegarsi rappresenta un rischio per il business
In molte organizzazioni, le persone sono sempre più restie ad affidarsi a sistemi che potrebbero non fornire risultati corretti o non essere in grado di spiegare come siano giunti a una determinata decisione. Con l’aumento dell’autonomia dell’IA, questo rischio cresce e rende la spiegabilità un elemento essenziale per il successo.
La ricerca evidenzia inoltre un ostacolo rilevante all’adozione: quando le persone non si fidano delle decisioni dell’IA, tendono a intervenire manualmente per modificarne o correggere le raccomandazioni. Un comportamento che alimenta il diverso di fiducia e può tradursi in perdita di tempo, produttività e redditività. Poiché la qualità delle decisioni dell’intelligenza artificiale dipende dai dati su cui si basa, costruire solide fondamenta dati è essenziale per le organizzazioni che vogliono ridurre questi interventi correttivi.
Rientrano principalmente:
· In alcuni casi, il 97,2% degli utenti interviene sulle raccomandazioni generate dall’IA.
· La ragione principale che spinge le persone a intervenire, indipendentemente dal fatto che l’output sia considerato corretto o meno, è l’incapacità dell’IA di spiegare la decisione presa.
· La fiducia passa dal 76% per l’IA generativa al 66% per l’IA agentica, segnalando preoccupazioni crescenti all’aumentare dell’autonomia dei sistemi.
Le pratiche di Trustworthy AI favoriscono i risultati di business
Il report mette in luce un divario sempre più ampio in termini di ROI tra le organizzazioni che danno priorità a pratiche di IA affidabili e quelle che non lo fanno. I risultati suggeriscono che le aziende capaci di ottenere il maggior valore dall’intelligenza artificiale non utilizzano necessariamente tecnologie diverse, ma le gestiscono in modo diverso.
Rientrano principalmente:
· Le aziende che investono in misure per un’IA affidabile hanno una probabilità 15 volte superiore di dichiarare un ROI elevato o molto elevato (62% contro 4%).
· Le aziende con le pratiche di intelligenza artificiale affidabile più solide registrano risultati 1,85 volte superiori su 13 diversi indicatori di business, tra cui crescita dei ricavi, riduzione dei costi e customer experience.
· L’85% di queste aziende più mature nell’implementazione dell’IA prevede di aumentare di oltre il 10% gli investimenti nell’IA affidabile nel corso dell’anno, ampliando ulteriormente il divario con le altre realtà.
Basi dati fragili fanno perdere tempo e risorse
Molte aziende stanno implementando l’intelligenza artificiale su dati e infrastrutture dati ancora poco maturi o obsoleti. Senza fondamenta solide, necessarie per garantire trasparenza e spiegabilità, diventa più difficile governare l’IA in modo efficace e tradurne il potenziale in valore.
Rientrano principalmente:
· Solo il 17,5% delle imprese dispone di un’infrastruttura dati pienamente ottimizzata e sufficientemente maturazione per rispondere alle esigenze dell’IA agentica, con conseguenze negative sulle performance.
· Le organizzazioni che possono contare su solide fondamenta dati hanno una probabilità quattro volte superiore di aspettarsi un ROI elevato dai progetti di IA e una probabilità sei volte maggiore di adottare i controlli su qualità dei dati e spiegabilità necessari per costruire fiducia.
· Nel settore bancario, le organizzazioni leader vanno oltre la compliance e avranno una solida governance dell’IA un vantaggio competitivo e una necessità operativa: l’85% delle banche più mature in ambito di intelligenza artificiale ha già definito framework di governance, contro il 29% delle aziende ritardatarie.
· Il 41% delle aziende leader del settore pubblico prevede di aumentare di oltre il 20% gli investimenti nell’IA affidabile nel prossimo anno, un ritmo in linea con quello delle realtà più ambiziose tra tutti i settori analizzati.
· Il 23% delle organizzazioni del settore life science ha già esteso l’intelligenza artificiale all’intera azienda, la percentuale più alta tra i comparti considerati.
“Man mano che l’intelligenza artificiale acquisisce maggiore autonomia, le organizzazioni devono affrontare una nuova sfida: mantenere la fiducia in sistemi che le persone non coinvolgono fino in fondo” , ha affermato Chris Marshall, Vice President di IDC . “I risultati della ricerca mostrano che supervisione, spiegabilità, responsabilità e solide basi dati stanno diventando prerequisiti per scalare l’IA con successo” .
