Il rischio principale legato a un account dotato di AI che viene violato sta nella rapidità con cui l’assistente AI può aiutare i cybercriminali a scovare informazioni sensibili, identificare bersagli, redigere comunicazioni convincenti e sviluppare un attacco sfruttando gli accessi di cui la vittima già dispone. In una nuova simulazione di attacco, il Red Team di Barracuda mostra come la violazione dell’account di un singolo dipendente possa degenerare nella compromissione dell’identità del CEO e in una frode tramite bonifico bancario, consentendo agli aggressori di incassare 250.000 dollari attraverso processi aziendali del tutto legittimi e già esistenti. Il test ha sfruttato Copilot, ma lo stesso scenario si può applicare a qualsiasi altro assistente AI.
Come si sviluppa l’attacco
Sfruttando un account compromesso di un dipendente, gli aggressori chiedono innanzitutto all’assistente AI di aiutarli a mantenere l’accesso al sistema creando regole nella casella di posta che nascondano all’utente gli avvisi di login e altre notifiche sospette.
Utilizzano poi l’assistente per scoprire la struttura dell’organizzazione, identificare gli obiettivi di maggiore valore e far emergere conversazioni rilevanti scavando in mesi di e-mail, allegati e attività in calendario.
Forti di queste informazioni, i cybercriminali chiedono all’assistente AI di scrivere un’e-mail di phishing convincente e credibile, replicando lo stile di scrittura abituale del dipendente, e di indirizzarla al CEO. Poiché il messaggio proviene da un account interno legittimo e riflette un contesto aziendale reale, le probabilità di successo sono molto più elevate.
Una volta violato l’account del CEO tramite un attacco finalizzato a rubare i token di sessione, i cybercriminali ripetono il processo, utilizzando l’AI per garantire la propria presenza nel sistema e individuare le informazioni finanziarie più riservate all’interno della casella di posta del dirigente.
I risultati della simulazione
L’AI può trasformare una casella di posta elettronica in un archivio di informazioni da consultare. Nella simulazione, un semplice prompt che ha richiesto di avere accesso alle ultime attività finanziarie di un’azienda ha riportato alla luce fatture attive, bonifici bancari e workflow di approvazione, tra cui un pagamento in sospeso di 247.500 dollari. Gli aggressori utilizzano quindi l’account del CEO e l’assistente AI per creare una richiesta convincente destinata alla contabilità, chiedendo di modificare il conto corrente di destinazione prima che il bonifico venga autorizzato.
Poiché la richiesta proviene dalla casella di posta legittima del CEO, fa riferimento a una transazione reale e rispecchia lo stile comunicativo del dirigente, i tradizionali controlli di sicurezza e-mail hanno pochi motivi per segnalarla come sospetta.
Inoltre, gli aggressori creano regole di inoltro per intercettare i messaggi di conferma e sfruttano l’assistente AI per individuare e rimuovere rapidamente le prove della truffa.
“Lo storico delle e-mail di un utente è ricco di informazioni sensibili e di contesto che possono essere sfruttate dagli aggressori, tra cui i messaggi inviati e ricevuti, i documenti condivisi, gli allegati e gli inviti in agenda. L’intera struttura aziendale può essere dedotta dalle relazioni implicite nelle e-mail, oppure visualizzata direttamente negli organigrammi”, spiega Daniel Avulov, Senior Cybersecurity Researcher del Red Team di Barracuda. “L’attacco controllato dimostra come gli assistenti AI possano inconsapevolmente trasformarsi in minacce interne e incrementare sia la qualità sia la velocità di un attacco. L’approccio difensivo più efficace consiste nel riconoscere che gli schemi di violazione rimangono gli stessi, sfruttare la telemetria già esistente e garantire che il tempo medio di rilevamento sia il più breve possibile”.
Man mano che gli assistenti AI si integrano sempre più profondamente nelle comunicazioni aziendali e nei flussi di lavoro, le organizzazioni devono considerare gli account potenziati dall’intelligenza artificiale come risorse di grande valore. La protezione delle identità, il monitoraggio delle violazioni degli account e la messa in sicurezza dell’accesso alle informazioni aziendali tramite AI diventeranno elementi sempre più cruciali delle moderne strategie di sicurezza delle e-mail e delle identità digitali.
