L’AI sta trasformando la cybersecurity: visibilità, governance, automazione e supervisione umana diventano essenziali per proteggere aziende, dati e infrastrutture dalla nuova generazione di minacce. L’analisi di SentinelOne
Visibilità e governance: la prima difesa contro il rischio AI
L’intelligenza artificiale sta trasformando rapidamente il modo in cui le aziende lavorano e, allo stesso tempo, sta modificando profondamente il contesto della cybersecurity. La prima sfida per le organizzazioni è sapere quanta AI viene utilizzata internamente. In molti casi i team adottano in autonomia strumenti e applicazioni: il legal per l’analisi dei documenti, il marketing per la generazione di contenuti, il commerciale per nuovi servizi. Queste iniziative possono però arrivare all’attenzione dell’IT e della security solo in un secondo momento. Con l’Agentic AI il problema diventa ancora più rilevante. Un agente può accedere a database, interrogare applicazioni, correlare informazioni e avviare automaticamente determinate attività. Se l’azienda non sa quali agenti siano presenti, quali dati possano consultare, quali applicazioni possano utilizzare e quali autorizzazioni possiedano, diventa difficile stabilire policy di sicurezza efficaci. La visibilità deve essere il punto di partenza: non basta sapere che un sistema AI esiste, occorre sapere dove può operare, quali dati può usare e quali azioni può compiere. A questo devono aggiungersi governance e controllo, attraverso autorizzazioni granulari e guardrail, cioè confini tecnologici e organizzativi che impediscano al sistema di uscire dal perimetro assegnato. I guardrail devono poi essere accompagnati dalla supervisione umana.
Attacchi a velocità macchina: l’automazione diventa indispensabile
La seconda grande trasformazione riguarda la velocità degli attacchi. L’AI consente agli aggressori di automatizzare attività che in passato richiedevano tempo e competenze specialistiche. Si crea così una crescente asimmetria tra attacco e difesa: gli aggressori possono operare a velocità macchina, mentre molte organizzazioni continuano a utilizzare processi difensivi basati prevalentemente sull’intervento umano. Per le aziende, soprattutto quelle che dispongono di risorse limitate, questo modello non è più sostenibile. Se l’attaccante automatizza, anche il difensore deve automatizzare. Questo non significa sostituire le persone, ma creare una collaborazione più efficace tra tecnologia e competenze umane. L’AI può individuare rapidamente un numero enorme di segnali e potenziali problemi; l’esperto deve invece interpretarli, comprenderne il contesto e stabilire quali rappresentino realmente il rischio maggiore per quella specifica organizzazione. La distinzione è particolarmente importante con i modelli più avanzati. Individuare una vulnerabilità non significa automaticamente sapere quale debba essere affrontata per prima. La capacità di contestualizzare e prioritizzare resta quindi un elemento fondamentale del lavoro umano.
Anche il fattore umano continua però a rappresentare una delle principali vulnerabilità. L’utilizzo dell’AI è semplice e un dipendente può passare rapidamente da un chatbot a un sistema collegato a strumenti e applicazioni aziendali. Il rischio aumenta quando l’agente riceve autorizzazioni per accedere a dati o sistemi interni. Come nel phishing e nel ransomware, non è realistico affidare la sicurezza soltanto alla consapevolezza degli utenti. I controlli devono ridurre il margine di errore: ogni agente deve avere accessi limitati alle risorse necessarie.
Security by design, cloud e supply chain: proteggere l’intero ecosistema
La sicurezza deve essere integrata fin dall’inizio nello sviluppo delle applicazioni AI. Molte aziende stanno creando applicazioni interne e propri modelli linguistici, ma la security non sempre viene considerata nelle prime fasi del progetto. L’approccio dovrebbe invece essere quello della security by design, con analisi del codice, vulnerability assessment e red teaming già prima dell’ingresso in produzione. Il principio diventa ancora più importante quando un’applicazione acquisisce caratteristiche agentiche e può interagire autonomamente con altri sistemi. Tecniche come prompt injection e poisoning rappresentano minacce concrete, ma il rischio più ampio riguarda l’uso improprio delle autorizzazioni: un agente può svolgere correttamente il compito assegnato, ma utilizzare connessioni e possibilità operative che l’organizzazione non aveva previsto. Con l’aumento dell’autonomia dei sistemi AI emergerà inoltre una questione fondamentale: quanto sarà affidabile la loro capacità di autoregolamentarsi e rispettare i propri vincoli? La sicurezza si intreccerà sempre più con responsabilità ed etica, perché la velocità di evoluzione tecnologica sarà superiore ai tempi necessari alla valutazione e alla regolamentazione umana. Un altro elemento centrale è il cloud. Le infrastrutture cloud-native consentono di sviluppare agenti sempre più sofisticati, ma la sicurezza deve essere integrata direttamente nell’infrastruttura. Gli sviluppatori non dovrebbero essere costretti a costruire ogni volta da zero i propri sistemi di protezione: visibilità, protezione runtime, controllo dei comportamenti e governance dovrebbero essere componenti dell’ambiente. La stessa logica deve essere applicata alla supply chain. La sicurezza di un’organizzazione dipende anche da quella di fornitori e partner. Una compromissione in un anello della catena può propagarsi agli altri, rendendo indispensabile la capacità di individuare e bloccare rapidamente le anomalie. In questo scenario diventa fondamentale anche la qualità del dato. L’AI può produrre risultati efficaci soltanto se riceve informazioni affidabili, normalizzate e correlate. Per questo una corretta data pipeline diventa parte integrante della sicurezza: occorre uno strato capace di raccogliere, normalizzare e indirizzare i dati verso i sistemi che devono analizzarli.
Oltre la compliance: una sicurezza continua e intelligente
L’evoluzione tecnologica porta inevitabilmente al tema della regolamentazione. Normative come NIS2 e DORA hanno rafforzato l’attenzione sulla cybersecurity, ma esiste il rischio che la compliance venga interpretata come un obiettivo finale anziché come uno strumento. Rispettare formalmente un requisito non significa necessariamente essere più sicuri. La cybersecurity deve quindi essere considerata un processo continuo, basato sulla capacità di prevenire, rilevare, comprendere e rispondere alle minacce. L’AI rende questo approccio ancora più importante: la sua capacità è enorme, ma deve essere accompagnata da governance, controllo e supervisione. La direzione futura sarà quella di piattaforme di cybersecurity sempre più integrate con AI, automazione e analisi avanzata. L’obiettivo sarà ridurre le attività manuali e consentire agli esperti di concentrarsi sugli eventi realmente critici. Alla base resteranno però alcuni principi fondamentali: visibilità, controllo, qualità del dato, automazione e supervisione umana. La vera sfida non sarà quindi decidere se adottare l’AI, ma arrivare preparat al momento in cui l’AI diventerà una componente strutturale dell’organizzazione.
