AI nel finance: perché serve un piano di rewind

Nello scenario economico internazionale, il mercato finanziario è uno dei più delicati. Se qualcosa va storto in questo ambito le conseguenze possono essere significative: turbative del mercato, perdita di fiducia dei clienti e un forte rischio sistemico. A maggior ragione quando si parla di intelligenza artificiale. Mentre i modelli di IA corrono, la sicurezza arranca: secondo una ricerca[1] di Banca d’Italia e OCSE, ben il 46% delle istituzioni finanziarie italiane non ha ancora implementato alcuna misura di difesa specifica contro le minacce cyber legate all’IA.

Le basi di partenza sono oggi sensibilmente diverse. Ciò che una volta richiedeva tempo, competenza e risorse ora può essere fatto quasi istantaneamente. In particolare, per i servizi finanziari, dove i sistemi sono profondamente interconnessi e sensibili al fattore tempo, questo cambiamento altera fondamentalmente l’equazione del rischio.

Con l’accelerazione dell’adozione dell’IA, le istituzioni devono garantire che l’innovazione non avvenga a scapito della sicurezza. L’IA introduce chiari vantaggi, dal rilevamento più rapido delle frodi a decisioni più informate, ma porta con sé anche nuovi rischi. Se la Bank of England riporta come il 75% delle istituzioni finanziarie utilizzi già l’IA, l’Italia vive invece una fase di adozione più prudente ma in rapidissima accelerazione. Secondo il report OECD/Banca d’Italia[2], sebbene la media generale si attesti al 39%, il mondo del finance si muove a una velocità ben superiore: nel comparto assicurativo si è già raggiunto il 70% e in quello bancario il 59%. Con una previsione di raddoppio dei casi d’uso nei prossimi tre anni, le aziende italiane si trovano nella finestra temporale decisiva: devono integrare la resilienza informatica ora, fin dall’inizio, anziché cercare di adattarla a posteriori quando l’esposizione al rischio sarà massima

L’IA è ormai integrata in processi finanziari critici, dalle approvazioni dei crediti alle transazioni e al rilevamento delle frodi. Questi sistemi operano ad alta velocità e su scala elevata, spesso con una supervisione umana limitata, cosa che li rende obiettivi altamente attraenti per gli attaccanti.

A differenza dei tradizionali incidenti informatici, gli attacchi ai sistemi di IA possono essere inizialmente impercettibili e persistenti. I malintenzionati possono manipolare i dati di addestramento o gli input per influenzare i risultati nel tempo: un modello compromesso può sembrare funzionare normalmente mentre produce silenziosamente risultati distorti. Ciò potrebbe tradursi nel classificare erroneamente transazioni fraudolente, introdurre pregiudizi nelle decisioni di prestito o influenzare le attività di trading in modi difficili da rilevare.

In un mondo dove gli attaccanti possono scoprire e utilizzare le vulnerabilità ad una velocità estrema, la sfida non è più solo quella di rilevare un attacco. È riconoscere che, nel momento in cui lo si rileva, il danno potrebbe essere già in corso.