Kaspersky ha pubblicato delle linee guida per mitigare i rischi associati all’uso di agenti autonomi basati sull’intelligenza artificiale all’interno di un’infrastruttura aziendale. Il documento applica i principi della “Cyber Immunity”, un approccio fondamentale per la realizzazione di sistemi sicuri fin dalla progettazione. Attingendo a incidenti noti e a modelli di minaccia esistenti, il nuovo report esamina i rischi associati a sistemi basati su agenti sempre più autonomi e illustra come instaurare la fiducia nella loro architettura per ridurre al minimo il potenziale impatto di errori o violazioni.
Oggi gli AI agent vengono impiegati in un numero sempre maggiore di contesti aziendali: dall’automazione dei processi aziendali di routine a casi d’uso di grande impatto, come il supporto alle attività di sviluppo software o alle funzioni di sicurezza informatica. Il report “AI agent security through the lens of Cyber Immunity” analizza i casi d’uso più comuni degli AI agent, i relativi livelli di autonomia e gli incidenti reali che li hanno coinvolti e che hanno causato danni concreti, con l’obiettivo di sistematizzare i rischi noti e analizzare in dettaglio i modelli di minaccia esistenti.
Per aiutare le aziende a ridurre i rischi di incidenti, compresi quelli legati allo sfruttamento doloso degli agenti, alla concessione di privilegi eccessivi agli AI agent e alla cancellazione dei dati da parte degli agenti, nel report Kaspersky definisce i principi della “Cyber Immunity” applicabili alla progettazione degli AI agent, ovvero:
· Definire i presupposti di sicurezza per gli AI agent già in fase di progettazione: considerare i Large Language Model (LLM) e tutti i dati che entrano nel sistema da fonti esterne come non affidabili per impostazione predefinita e richiedere una conferma umana esplicita per qualsiasi azione irreversibile.
· Ridurre al minimo la Trusted Computing Base (TCB): limitare il più possibile l’insieme dei componenti che devono essere considerati affidabili ai fini della sicurezza
· Isolare i componenti: utilizzare sandbox e virtual machine per isolare l’ambiente di esecuzione, separare i contesti affidabili da quelli non affidabili e isolare i singoli agenti all’interno dei sistemi multi-agente.
· Controllare le interazioni utilizzando un approccio di tipo “default-deny”: applicare criteri alle chiamate agli strumenti e ai relativi argomenti utilizzati dagli agenti per interagire con API e risorse esterne, controllare il traffico di rete e impedire all’agente di modificare dinamicamente la propria supply chain.
Il report include inoltre raccomandazioni pratiche rivolte a CISO, CIO e CTO, che spaziano, tra l’altro, dall’inventario degli AI agent allo sviluppo di policy flessibili di isolamento e containerizzazione, fino alla gestione dell’agentic supply chain, con l’obiettivo di creare infrastrutture sicure basate sugli agenti.
“Sebbene la ‘Cyber Immunity’ sia stata inizialmente concepita al di fuori dell’ambito dell’IA, i suoi principi fondamentali si applicano direttamente ai sistemi avanzati basati su modelli linguistici di grandi dimensioni (LLM). Quando gli sviluppatori lavorano con componenti fondamentalmente non deterministici e non affidabili — come dovrebbero essere considerati, per definizione, i modelli linguistici di grandi dimensioni — dovrebbero integrare l’affidabilità nell’architettura della soluzione per limitare il potenziale impatto di errori o compromissioni”, ha commentato Vladislav Tushkanov, Head del Kaspersky AI Technology Research Center. “Un’architettura sicura dovrebbe essere ulteriormente rafforzata con una strategia di difesa a più livelli, sostenuta da tecnologie quali l’AI Firewall e moderni livelli di sicurezza, tra cui sandbox, EDR e SIEM, per supportare al meglio le applicazioni intelligenti di oggi”.
