Il termine Shadow IT ha storicamente identificato l’utilizzo di software, dispositivi o servizi cloud all’interno di una rete aziendale senza l’esplicita approvazione del reparto IT. Oggi, la convergenza di questa pratica con i modelli linguistici di grandi dimensioni ha generato la Shadow AI.
Il rischio non è più legato semplicemente all’installazione di un software non autorizzato, ma all’immissione diretta di dati core del business all’interno di infrastrutture di calcolo esterne e pubbliche. Per i Security Manager e i CIO, la Shadow AI rappresenta un canale di esfiltrazione silente, spesso invisibile ai tradizionali sistemi di monitoraggio, capace di bypassare le difese perimetrali senza attivare i classici alert di intrusione.
Il meccanismo di esfiltrazione: come i dati finiscono nei modelli pubblici
Per comprendere la pericolosità della Shadow AI, è necessario analizzare cosa accade a livello di payload e API quando un utente interagisce con un LLM pubblico non protetto. Il trasferimento dei dati avviene attraverso tre canali principali:
- Memorizzazione nei log di addestramento: La maggior parte dei vendor di AI generica, nelle versioni consumer e gratuite, specifica nei termini di servizio che i prompt inseriti dagli utenti possono essere archiviati e utilizzati per il fine-tuning e il riaddestramento dei modelli futuri.
- Leak da memorizzazione nei pesi del modello: Se un dipendente incolla codice sorgente proprietario, dati finanziari o file di log per eseguire un debug rapido, tali informazioni possono essere assimilate dai pesi sinaptici del modello. Esistono tecniche di attacco documentate (como il prompt injection o l’estrazione parziale) in grado di indurre l’LLM a mostrare a utenti terzi frammenti di dati appresi durante le sessioni precedenti.
- Persistenza sui server di terze parti: I dati inviati rimangono stoccati nei database dei provider di AI, introducendo rischi di supply chain attack nel caso in cui il vendor subisca una violazione.
Shadow AI e intercettazione di rete: identificare il traffico anomalo
Identificare la Shadow AI è una sfida complessa poiché il traffico verso le piattaforme di AI generativa viaggia su protocolli standard HTTPS (porta 443) e utilizza domini legittimi, mascherandosi come normale navigazione web. I tradizionali firewall basati su firme faticano a rilevare l’anomalia.
L’intercettazione tecnica richiede un approccio di monitoraggio profondo sui flussi di rete:
- Decrittazione e Ispezione SSL/TLS: Configurare i Next-Generation Firewall (NGFW) o i Secure Web Gateway (SWG) per eseguire l’ispezione SSL dei payload diretti verso le categorie di domini identificati come “Generative AI”. Solo decifrando il traffico in transito è possibile analizzare il contenuto dei pacchetti e rilevare l’invio di stringhe di testo sensibili.
- Analisi dei Web Webhook e chiamate API: Molti dipendenti integrano estensioni del browser o tool locali che richiamano API esterne (es. OpenAI, Anthropic). Monitorare le chiamate API non autorizzate tramite sistemi SIEM consente di tracciare flussi continui di dati in uscita verso endpoint cloud non censiti.
Contromisure tecniche: DLP e Cloud Access Security Broker (CASB)
Il blocco totale dei domini di AI generativa è spesso impraticabile o controproducente per il business. La risposta tecnica deve quindi basarsi su un contenimento granulare.
Le architetture di sicurezza moderne devono implementare soluzioni capaci di distinguere tra l’uso sicuro e lo scaricamento di dati non controllato:
- Data Loss Prevention (DLP) a livello di endpoint: Configurare agenti DLP sui dispositivi aziendali per analizzare il contenuto degli appunti (clipboard) e inibire l’operazione di copia-incolla di stringhe sensibili (come numeri di carte di credito, regex di codice, file JSON aziendali) all’interno dei moduli web dei browser.
- Implementazione di soluzioni CASB: I Cloud Access Security Broker permettono di applicare policy contestuali. Ad esempio, è possibile consentire l’accesso a ChatGPT per scopi di consultazione, ma bloccare la funzione di upload dei file o limitare la dimensione massima del testo inviabile nei prompt.
Mitigare il fattore umano: il ruolo della formazione operativa
Per i responsabili dei sistemi informativi, implementare blocchi stringenti a livello di rete rappresenta solo metà della soluzione. Se gli utenti aziendali non comprendono la natura del rischio, cercheranno canali alternativi per eludere i controlli (come l’uso di dispositivi personali). La vera mitigazione del rischio di data leak richiede un’azione congiunta che unisca le contromisure tecniche a una corretta alfabetizzazione del personale non tecnico che utilizza quotidianamente questi strumenti in ufficio.
Diventa quindi strategico per l’azienda pianificare percorsi mirati come il Corso Intelligenza Artificiale per aziende: Prompting per ottimizzare il lavoro. Questo percorso formativo, pur mantenendo un approccio accessibile ed operativo per gli utenti aziendali, dedica un intero modulo strategico alle buone pratiche di sicurezza e conformità GDPR. Insegnare concretamente ai dipendenti quali informazioni devono restare private, dove finiscono i dati inseriti nei prompt e come riconoscere i rischi operativi della Shadow AI consente ai CIO di abilitare l’innovazione tecnologica in ufficio, disinnescando alla radice il pericolo di esfiltrazione accidentale delle informazioni core del business.
