Sebbene l’IA apra nuove opportunità per le aziende, crea allo stesso tempo nuove superfici di attacco. Tuttavia, il tema della sicurezza non può essere ridotto alla protezione di un modello o alla messa in sicurezza di un singolo componente. Quanto più la tecnologia viene integrata nei processi aziendali, tanto maggiori sono le conseguenze di un input manipolato, di un account compromesso o di un agente che opera in modo errato.
A cosa devono prestare attenzione le aziende nella costruzione di ambienti IA sicuri?
Dell Technologies individua sei concetti fondamentali per costruire ambienti di IA sicuri:
1. Security by Design fin dall’inizio
Nell’IT vale una legge non scritta: la sicurezza informatica e la protezione dei dati non dovrebbero essere aggiunte in un secondo momento, ma dovrebbero costituire parte integrante dello sviluppo fin dall’inizio. Per le applicazioni di IA non è diverso. Sistemi e firmware affidabili, processi di sviluppo e distribuzione protetti, difesa contro le manipolazioni nella supply chain, nonché una chiara separazione tra ambienti di sviluppo, test e produzione dovrebbero essere standard fondamentali. Altrettanto importanti sono i principi di Zero Trust: gli accessi non dovrebbero essere considerati affidabili solo in base alla posizione di rete o all’appartenenza a un sistema, ma dovrebbero essere sempre verificati in base all’identità, al contesto e alle autorizzazioni necessarie.
2. Un’azione errata può essere pericolosa
Con l’avvento dell’IA agentica, il quadro dei rischi cambia ancora una volta in modo sostanziale. Un agente IA recupera dati, accede ad applicazioni o avvia workflow. Un prompt manipolato, un contesto compromesso o autorizzazioni troppo estese possono portare un agente a eseguire un’azione che non era stato autorizzato a compiere. L’architettura di sicurezza deve quindi limitare il margine d’azione del sistema. Ogni agente deve avere un’identità chiaramente definita, responsabilità stabilite e il minor numero possibile di privilegi. Le aziende dovrebbero assegnare le autorizzazioni in modo granulare in base al compito, all’identità, al contesto e al momento. Un agente incaricato di gestire una richiesta cliente necessita di diritti di accesso diversi rispetto a un agente che supporta un processo produttivo. Inoltre, tali diritti di accesso dovrebbero essere verificati continuamente.
3. L’IA può essere affidabile solo quanto i dati a cui accede
I responsabili della sicurezza non devono solo limitare il margine d’azione degli agenti, ma anche verificare la qualità dei risultati dell’IA e, di conseguenza, la qualità dei dati sottostanti. Devono poter ricostruire la provenienza dei dati e il modo in cui vengono messi a disposizione. Ciò implica il ricorso alla crittografia durante la trasmissione e l’archiviazione, a controlli di integrità e al monitoraggio dei flussi di dati.
4. Ciò che fa un agente IA deve poter essere fermato in qualsiasi momento
Quanto più l’IA opera in autonomia, tanto più importante diventa la sua controllabilità. Le aziende devono poter ricostruire quali dati ha recuperato un agente, quali decisioni ha preso, quali strumenti ha utilizzato e quali modifiche ha successivamente apportato. Senza queste
informazioni, i comportamenti errati o le manipolazioni sono difficili da individuare e ancora più difficili da correggere. I workflow dell’IA necessitano di audit trail continui, dal monitoraggio delle attività e dell’applicazione delle policy. Sono altrettanto decisivi i meccanismi di escalation e un meccanismo tecnico di arresto. Se un agente esegue azioni inattese, un’azienda deve poterlo fermare in qualsiasi momento, limitarne le autorizzazioni e interrompere il workflow interessato.
5. Obiettivi di attacco interessanti non esistono solo nel data center
L’IA si sta estendendo oltre i data center e gli ambienti cloud, fino al posto di lavoro digitale. Computer, applicazioni ed endpoint mobili diventano così interfacce tra dipendenti, sistemi di IA e dati aziendali. Un endpoint compromesso può, ad esempio, consentire l’accesso a dati sensibili o fungere da punto di partenza per manipolare i workflow dell’IA. Un posto di lavoro abilitato all’IA deve quindi fare più che fornire la necessaria potenza di calcolo. Lo stato del dispositivo, l’identità, i controlli di accesso, la gestione delle patch e delle configurazioni, nonché la protezione dei dati locali e trasmessi devono far parte dell’architettura di sicurezza.
6. Sicurezza informatica e resilienza sono due temi completamente diversi
Le aziende devono sempre partire dal presupposto che i meccanismi di protezione possano fallire. L’IA ha inoltre profondamente modificato il panorama delle minacce, poiché accelera e automatizza gli attacchi, abbassando la soglia per lanciarli. Processi di ripristino regolarmente testati sono indispensabili. L’aspetto decisivo non è solo riportare online le applicazioni. Le aziende devono anche garantire che modelli, configurazioni, dati, autorizzazioni e workflow degli agenti possano essere riportati a uno stato affidabile. Tuttavia, un piano teorico non basta: processi di recovery regolarmente testati sono indispensabili.
“Con la crescente autonomia dell’IA, il panorama delle minacce sta cambiando. Ciò che conta è la controllabilità dell’intero sistema – dall’infrastruttura ai dati e alle identità, fino alle azioni di un agente e alla capacità di porre fine in modo affidabile a uno stato compromesso e di ripristinare quello originario”, afferma Sonia Palmiere, Senior Manager Presales Specialist di Dell Technologies Italia. “Le aziende devono rafforzare le proprie misure di protezione. Sono imprescindibili un’infrastruttura protetta, dati affidabili, identità chiaramente attribuite, azioni controllate e solidi processi di ripristino. Solo quando questi livelli lavorano insieme è possibile gestire l’IA in modo controllato in ambienti business-critical”.
