Le organizzazioni cercano di cogliere rapidamente il valore dell’intelligenza artificiale (AI) per il business ma devono anche prepararsi ad affrontare una realtà più complessa: nei prossimi sei-nove mesi, la nuova generazione di modelli di AI più avanzati potrebbe modificare radicalmente il panorama delle minacce informatiche.
Per la maggior parte delle organizzazioni, l’AI sta già dimostrando il proprio valore come strumento per migliorare la produttività. Se utilizzata correttamente, può aiutare le persone a lavorare più velocemente, ragionare con maggiore chiarezza e operare in modo più efficiente. Ma il dibattito non può limitarsi alla produttività. Con l’aumento delle capacità dei modelli di AI più avanzati, la loro maggiore facilità di utilizzo e la loro crescente diffusione, le organizzazioni devono valutare seriamente cosa accade quando questi strumenti vengono impiegati non solo a scopo difensivo, ma anche per lanciare attacchi informatici.
Per fare un’analogia, pensiamo al T-Rex del film originale Jurassic Park. Oggi molte organizzazioni si comportano come se avessero costruito recinti attorno a qualcosa di potente e prezioso, che non hanno ancora compreso fino in fondo. I vantaggi per il business sono evidenti: l’AI promette velocità, efficienza e vantaggio competitivo. Ma, come ci ricorda ogni film della saga Jurassic Park, il problema non è mai solo creare il dinosauro, bensì riuscire a gestirlo entro confini di sicurezza adeguati.
La “creatività” dell’AI non va sottovalutata
È ancora oggetto di dibattito se l’AI possa essere davvero «creativa»; forse, però, il termine più appropriato è tenace. Nel caso dei modelli di AI, talvolta i meccanismi di contenimento falliscono a causa di una governance inadeguata. In altri casi, la causa è un utente interno malintenzionato o un soggetto esterno. Altre volte ancora, il problema è sottovalutare l’intelligenza e la capacità di adattamento dello strumento di AI che si è creato.
È per questo che l’incidente di Hugging Face è diventato un importante campanello d’allarme. Nello scenario descritto pubblicamente, un modello di AI avanzato, sottoposto a valutazione in un ambiente controllato, avrebbe cercato una scorciatoia per raggiungere il proprio obiettivo, superando i limiti imposti, accedendo a risorse esterne e lasciando persino informazioni che avrebbero potuto aiutare altri agenti a ripetere il processo in futuro.
Che lo si consideri un’anomalia precoce o un’anticipazione di ciò che ci attende, la lezione è la stessa: le organizzazioni non dovrebbero dare per scontato che i meccanismi di protezione e controllo oggi in uso siano sufficienti a contenere i modelli futuri.
Tornando al parallelismo con il T-Rex, il problema non è soltanto che i modelli di AI più avanzati possano diventare esponenzialmente più potenti, ma che abbiano già raggiunto capacità tali da poter concatenare piccole vulnerabilità, sfruttare percorsi non adeguatamente presidiati e agire a una velocità superiore a quella per cui sono stati progettati i tradizionali processi di sicurezza.
Un modello non deve necessariamente avere una «volontà» in senso umano per provocare danni. Gli bastano un obiettivo da raggiungere, un accesso sufficientemente ampio e controlli inadeguati.
AI di frontiera: il momento di prepararsi era ieri
Aspettare che i modelli di AI di frontiera siano ampiamente disponibili sul mercato per rafforzare le difese significherebbe intervenire troppo tardi. A quel punto, le stesse funzionalità che aiutano le organizzazioni a innovare potrebbero essere sfruttate anche dai criminali informatici per automatizzare le attività di ricognizione, individuare i punti deboli, adattarsi in tempo reale e puntare silenziosamente ai dati di maggior valore all’interno di un’azienda.
La velocità dell’innovazione nell’ambito dell’AI viene valutata in larga misura sulla base di ciò che è già di dominio pubblico. È tuttavia certo che, in tutto il mondo, siano in corso sviluppi ancora sconosciuti relativi ai modelli e alle loro capacità.
Le organizzazioni dovrebbero cogliere questa opportunità per modernizzare le fondamenta della sicurezza, intervenendo su aspetti che sanno già di dover migliorare. La buona notizia è che non sono prive di strumenti per affrontare queste sfide: le stesse capacità dell’AI che generano nuovi rischi possono anche rafforzare le difese progettate per contrastarli.
Il caso Hugging Face evidenzia una realtà importante: per contrastare l’AI sarà sempre più necessario ricorrere all’AI stessa. Con minacce sempre più rapide e capaci di adattarsi, i team della sicurezza da soli faticheranno a individuare gli attacchi e a rispondere con la tempestività necessaria. L’AI utilizzata a fini difensivi diventerà, quindi, una componente essenziale di una strategia di resilienza informatica.
L’AI di frontiera non deve trasformarsi in un nuovo T-Rex, capace di sfuggire a ogni tentativo di contenimento. Le organizzazioni, tuttavia, devono smettere di dare per scontato che le barriere attuali siano sufficienti e iniziare ad adottare misure concrete, come le seguenti:
1. Ridurre la superficie di attacco, eliminando le esposizioni a Internet non necessarie, come quelle legate ad applicazioni legacy e infrastrutture accessibili tramite VPN. Ciò che i criminali informatici non possono vedere è più difficile da attaccare.
2. Adottare il modello Zero Trust Everywhere, senza fare affidamento esclusivamente su un perimetro esterno rigido e su un ambiente interno più permissivo. Applicare il principio del privilegio minimo negli accessi è fondamentale per impedire sia agli agenti di AI sia ai criminali informatici di muoversi liberamente all’interno dei sistemi aziendali.
3. Segmentare i sistemi e i dati critici per limitare gli spostamenti laterali all’interno dell’ambiente aziendale. I dati di maggior valore, le applicazioni strategiche e i sistemi di autenticazione devono essere isolati e sottoposti a controlli rigorosi.
4. Ripensare le strategie di gestione delle patch in un contesto di minacce guidate dall’AI, in cui anche vulnerabilità considerate meno gravi possono essere concatenate per sferrare attacchi più complessi. È quindi necessario rivalutare i percorsi di accesso ai dati critici, alle risorse esposte a Internet e alle infrastrutture di autenticazione.
5. Governare in modo realistico l’utilizzo dell’AI nell’organizzazione poiché i divieti generalizzati rischiano spesso di favorire il ricorso alla Shadow AI, ovvero l’utilizzo di strumenti di AI non autorizzati. Mettere a disposizione dei dipendenti strumenti approvati, con controlli chiari, adeguata visibilità e regole precise, anziché costringerli a ricorrere a soluzioni alternative non autorizzate, consente all’IT di mantenere il controllo.
6. Utilizzare l’AI per la difesa, non soltanto per migliorare la produttività, poiché i team della sicurezza avranno bisogno di strumenti di rilevamento e risposta basati sull’AI per tenere il passo con attacchi informatici a loro volta ottimizzati dall’intelligenza artificiale.
I sistemi obsoleti che «funzionano ancora», ma non possono essere adeguatamente protetti, rappresentano vere e proprie bombe a orologeria nell’era dell’AI di frontiera. Se non è possibile sostituirli nell’immediato, è necessario isolarli e proteggerli con misure di sicurezza più rigorose.
Le organizzazioni che inizieranno a pianificare in vista dell’arrivo sul mercato dei modelli di AI di frontiera e agiranno nei mesi che restano saranno molto più preparate rispetto a quelle che aspetteranno che un grave incidente le costringa a intervenire.
Il prossimo terreno di scontro sarà quello tra AI offensiva e AI difensiva.
