Sicurezza degli agenti AI: Cisco amplia test e monitoraggio

Cisco ha integrato Claude Mythos in Cisco AI Defense, la soluzione che aiuta le aziende a verificare la sicurezza delle applicazioni e degli agenti di intelligenza artificiale. La novità permette ai team di sicurezza di simulare attacchi informatici realistici, individuando eventuali punti deboli dei sistemi di IA attraverso capacità di analisi e ragionamento avanzate.

Insieme alle nuove funzionalità di Splunk per monitorare il funzionamento degli agenti di IA e agli aggiornamenti di Cisco IQ, questa novità rafforza l’impegno di Cisco per una maggiore sicurezza e un utilizzo responsabile dell’intelligenza artificiale. L’obiettivo è aiutare le aziende a proteggere e controllare agenti sempre più autonomi, che operano a una velocità e su una scala difficili da gestire con i metodi tradizionali.

“Le organizzazioni non possono scalare l’adozione dell’intelligenza artificiale senza disporre degli strumenti necessari per proteggerla, governarla e monitorarla“, ha dichiarato Jeetu Patel, President e Chief Product Officer di Cisco. “Combinando strumenti avanzati di protezione per i sistemi di IA in produzione con controlli automatici sulla qualità e l’affidabilità degli agenti, stiamo creando un ciclo continuo di fiducia. Da un lato, aiutiamo le aziende a difendere gli agenti dalle compromissioni; dall’altro, garantiamo che ogni token elaborato generi un valore di business concreto e misurabile.”

Con la rapida diffusione degli agenti di IA, sempre più autonomi e capaci di accedere a strumenti e dati sensibili, la collaborazione tra i team di sicurezza e quelli IT è diventata fondamentale. Secondo il report di Splunk pubblicato il mese scorso, l’81% dei professionisti IT e Engineering rileva una crescente collaborazione tra queste funzioni.

Le novità di Splunk e Cisco AI Defense aiutano le aziende a controllare i costi dell’intelligenza artificiale, monitorare come gli agenti utilizzano strumenti e risorse aziendali e verificare la sicurezza dei sistemi attraverso test avanzati.

Dal lancio, nel gennaio 2025, Cisco AI Defense ha aiutato centinaia di organizzazioni a individuare vulnerabilità in modelli, applicazioni e agenti di IA prima della loro introduzione in azienda. La funzionalità di test adattivi consente di simulare rapidamente attacchi personalizzati, anche articolati in più fasi, per individuare i punti deboli e i possibili rischi.

L’integrazione di Claude Mythos potenzia ulteriormente queste capacità: grazie alle sue avanzate capacità di ragionamento, permette di progettare test più sofisticati e adattare automaticamente le simulazioni alle caratteristiche di ciascun sistema.

Le principali funzionalità includono:

• Simulazione realistica degli attacchi: crea scenari di attacco personalizzati e articolati in più fasi, per individuare anche le vulnerabilità più difficili da rilevare nei sistemi di IA complessi.
• Accesso sicuro e controllato: Claude Mythos è accessibile esclusivamente attraverso l’interfaccia di AI Defense, senza possibilità di inserire richieste libere.
• Tracciabilità dei test: AI Defense registra tutte le attività svolte, consentendo verifiche successive. I risultati possono inoltre essere riutilizzati per nuove simulazioni e controlli.

“Sempre più aziende stanno integrando gli agenti di IA nelle proprie attività operative e vogliono verificarne accuratamente la sicurezza prima di renderli operativi”, ha dichiarato Michael Moore, Cybersecurity Lead di Anthropic. “Integrando Claude Mythos in Cisco AI Defense, Cisco può aiutare i team di sicurezza a mettere alla prova i propri agenti attraverso capacità di ragionamento avanzate, in grado di pianificare test e generare scenari di attacco specifici per ciascun sistema”.

Cisco ha progettato AI Defense per utilizzare Claude Mythos con un sistema di protezione articolato su più livelli:

• Obiettivi autorizzati: i test vengono eseguiti solo su sistemi registrati e approvati dal cliente, senza possibilità di effettuare scansioni non autorizzate di infrastrutture Internet.
• Identificazione degli operatori: ogni attività richiede l’autenticazione dell’utente ed è associata in modo verificabile a un operatore identificato.
• Attività controllate e revocabili: ogni test parte da obiettivi definiti da una persona, ha una durata limitata e può essere interrotto in qualsiasi momento.
• Doppi livelli di protezione: AI Defense integra diversi sistemi di sicurezza e monitoraggio per garantire il controllo continuo delle attività.

Dalla sicurezza al valore di business: misurare il ROI degli agenti di IA

I modelli di IA più avanzati sono ormai in grado di svolgere attività complesse di sicurezza informatica, come progettare test per verificare la resistenza dei sistemi agli attacchi. Le stesse capacità, però, possono essere sfruttate anche dai cybercriminali. Con la diffusione dell’IA, le aziende devono quindi trovare un equilibrio tra sicurezza, controllo dei rischi e ritorno sugli investimenti (ROI).

Per adottare gli agenti di IA su larga scala in modo sicuro, le organizzazioni hanno bisogno di monitorare in tempo reale costi, prestazioni e qualità dei risultati. Per rispondere a questa esigenza, Cisco introduce nuove funzionalità in Splunk Agent Observability, che aiutano le aziende a controllare meglio gli agenti e a valutare il valore generato dal loro utilizzo:

• Tokenomics: una nuova funzionalità, in arrivo su AWS Marketplace, che permette di controllare i costi dell’IA e confrontarli con la qualità dei risultati. Utilizzando i dati di Amazon Bedrock e CloudWatch, collega la spesa di ciascun agente alle prestazioni e al valore generato, aiutando le aziende a misurare il ritorno sugli investimenti (ROI). Estende inoltre il controllo dei costi agli agenti e agli strumenti di sviluppo software, tra cui Claude Code, Codex e Cursor.
• Modelli di valutazione Eval-G1: Splunk Agent Observability permette di creare modelli di IA più piccoli e personalizzati, basati sull’attività degli agenti e sul giudizio degli esperti. Questi modelli consentono di effettuare controlli di qualità e sicurezza con costi fino al 98% inferiori rispetto ai modelli di IA commerciali più grandi. I nuovi Eval-G1 offrono inoltre risposte fino a 2,5 volte più rapide, consentendo controlli quasi in tempo reale senza compromettere l’accuratezza.
• Evaluation Tuner: trasforma i dati sull’attività degli agenti e i giudizi degli esperti in modelli di valutazione personalizzati, per applicare criteri di qualità uniformi e controllare il comportamento degli agenti.

La funzionalità di adaptive red teaming basata su Claude Mythos sarà presto introdotta presso un gruppo selezionato di aziende. Tokenomics entrerà in anteprima privata a dicembre e sarà disponibile su AWS Marketplace a partire dall’inizio del 2027. Eval-G1 ed Evaluation Tuner sono invece già disponibili.

Dalle vulnerabilità all’azione: Cisco IQ e Cisco Data Fabric sulla piattaforma Splunk

Individuare le vulnerabilità è solo il primo passo: per ridurre i rischi, le aziende devono poter intervenire rapidamente su infrastrutture IT sempre più complesse. Cisco IQ aiuta a identificare le criticità, mentre i partner e i servizi professionali Cisco trasformano queste informazioni in interventi concreti.

I partner supportano le aziende nell’aggiornamento e nella gestione delle infrastrutture, mentre Cisco Professional Services mette a disposizione competenze specialistiche per accelerare l’adozione delle nuove funzionalità e valorizzarne i benefici. L’obiettivo è semplificare la gestione degli ambienti IT e prepararli alle esigenze dell’era dell’IA. Con l’evoluzione delle minacce informatiche, il tempo tra la scoperta di una vulnerabilità e il suo sfruttamento da parte dei cybercriminali si è ridotto da settimane a poche ore. Per questo, i controlli periodici non sono più sufficienti.

Cisco potenzia quindi le capacità di analisi e monitoraggio in tempo reale di Cisco IQ, già utilizzato da quasi 17.000 clienti e in grado di monitorare oltre 22 milioni di dispositivi. Le informazioni della piattaforma vengono ora integrate direttamente nei sistemi di sicurezza aziendali e nei processi automatizzati, anche attraverso protocolli aperti che consentono agli agenti di IA di contribuire alla gestione e alla protezione delle infrastrutture.

Le principali novità includono:

• Integrazione con Cisco Data Fabric: integra nella piattaforma Splunk, tramite API aperte, i dati di Cisco IQ su vulnerabilità, configurazione e ciclo di vita delle infrastrutture. Questo permette ai team di sicurezza e agli agenti di IA di confrontare gli allarmi in tempo reale con i punti deboli delle reti aziendali, individuando più rapidamente i rischi.
• Connettori MCP e ServiceNow: forniscono agli agenti di IA e ai sistemi di gestione IT informazioni sulle infrastrutture aziendali. Le vulnerabilità individuate vengono inoltre trasformate automaticamente in segnalazioni su ServiceNow, associate ai sistemi coinvolti, semplificando il coordinamento degli interventi correttivi.
• Playbook IA per infrastrutture resilienti: individua le vulnerabilità più critiche e offre indicazioni personalizzate sui problemi noti e sulla preparazione delle infrastrutture alle nuove tecnologie di crittografia post-quantistica. Queste informazioni aiutano i team IT e i partner certificati a stabilire le priorità e pianificare gli aggiornamenti necessari.

“L’intelligenza artificiale sta riducendo il tempo a disposizione delle aziende per rispondere alle minacce. Sapere dove si trovano le vulnerabilità, però, è utile solo se si è in grado di intervenire”, ha dichiarato Liz Centoni, EVP e Chief Customer Experience Officer di Cisco. “Integrando le informazioni sulle vulnerabilità di Cisco IQ in Cisco Data Fabric, basato sulla piattaforma Splunk, mettiamo a disposizione degli analisti il contesto necessario durante le indagini, aiutandoli a decidere come intervenire. Insieme ai nostri partner e ai team di Professional Services, aiutiamo i clienti a passare dall’individuazione dei rischi alla loro effettiva riduzione”.