Red Hat, fornitore di soluzioni open source, ha annunciato l’acquisizione di Chatterbox Labs, azienda all’avanguardia nella sicurezza agnostica dei modelli di intelligenza artificiale e nei meccanismi di protezione per l’AI generativa (gen AI). Questa acquisizione aggiunge funzionalità importanti di AI security al portfolio Red Hat AI, rafforzando l’impegno dell’azienda nel fornire una piattaforma AI enterprise completa e open source, costruita per l’hybrid cloud.
Il significato dell’acquisizione per Red Hat
Questo annuncio conferma un anno di rapida innovazione per Red Hat AI, in seguito all’introduzione di Red Hat AI Inference Server e al lancio di Red Hat AI 3. Le realtà di tutto il mondo e in ogni settore stanno adottando Red Hat AI per promuovere l’innovazione attraverso applicazioni di AI generativa, predittiva e agentica e, man mano che passano dalla fase di sperimentazione alla produzione, si trovano di fronte a una sfida complessa: implementare modelli che non siano solo potenti, ma anche dimostrabili, affidabili e sicuri. Le funzionalità di sicurezza e i meccanismi di protezione sono requisiti fondamentali per le moderne operazioni di machine learning (MLOps). Questa attenzione alla sicurezza e alla fiducia riflette l’impegno di Red Hat e IBM nell’aiutare i clienti ad adottare una mentalità “security-first” mentre scalano l’AI in modo responsabile in ambienti hybrid cloud. L’integrazione della tecnologia di Chatterbox Labs crea una piattaforma unificata in cui la sicurezza è integrata fin dall’inizio, rafforzando la capacità di Red Hat di abilitare carichi di lavoro AI in produzione con qualsiasi modello, su qualsiasi acceleratore, dovunque serva.
“Le aziende stanno rapidamente spostando l’AI dai test in laboratorio alla produzione, il che aumenta l’urgenza di implementazioni AI affidabili, sicure e trasparenti”, spiega Steven Huels, Vice President, AI Engineering and Product Strategy, Red Hat. “La tecnologia innovativa e agnostica di Chatterbox Labs per i test di sicurezza e i meccanismi di protezione rappresenta una componente fondamentale per fornire all’AI la sicurezza di cui il settore ha bisogno. Integrando Chatterbox Labs nel portafoglio Red Hat AI, confermiamo la nostra promessa di fornire una piattaforma completa e open source che non solo consenta ai clienti di eseguire qualsiasi modello, ovunque, ma di farlo con la certezza che la sicurezza sia integrata fin dall’inizio. Questa acquisizione contribuirà a rendere possibile un’AI veramente responsabile e di livello produttivo su larga scala.”
“I sistemi AI sono sempre più diffusi in ogni aspetto del business e della società, e per questo non possiamo permettere che la sicurezza rimanga una scatola nera proprietaria”, aggiunge Stuart Battersby, Ph.D., co-founder and Chief Technology Officer, Chatterbox Labs. “È fondamentale che i meccanismi di protezione dell’AI non vengano semplicemente implementati; devono essere rigorosamente testati e supportati da metriche dimostrabili. Chatterbox Labs è stata pioniera in questa disciplina, che ha abbracciato dai primi giorni dell’AI predittiva e che sta portando ai sistemi agentici di domani. Unendoci a Red Hat, possiamo portare queste metriche di sicurezza affidabili e indipendenti alla comunità open source, con una trasparenza che consente alle aziende di verificare la sicurezza senza vincoli (lock-in), abilitando un futuro in cui tutti potremo beneficiare di un’AI sicura, scalabile e aperta.”
Affrontare le conseguenze indesiderate dell’AI
Fondata nel 2011, Chatterbox Labs fornisce tecnologia e competenze fondamentali nella sicurezza e trasparenza dell’AI. La loro esperienza nella valutazione quantitativa del rischio legato all’AI è stata riconosciuta e apprezzata da think tank indipendenti e da policymaker a livello globale, e questa acquisizione porta a Red Hat una tecnologia di machine learning fondamentale.
Chatterbox Labs offre funzionalità automatizzate e personalizzate di test di sicurezza e protezione dell’AI, fornendo le metriche di rischio concrete di cui i responsabili aziendali hanno bisogno per approvare il rilascio dell’AI in produzione. La tecnologia offre un approccio solido e indipendente dal modello per la validazione di dati e modelli attraverso:
· AIMI per l’AI generativa: Fornisce metriche quantitative indipendenti sul rischio per i Grandi Modelli Linguistici (LLM).
· AIMI per l’AI predittiva: Valida qualsiasi architettura di AI attraverso pilastri fondamentali, tra cui robustezza, equità e spiegabilità.
· Meccanismi di protezione: Individua e corregge prompt poco sicuri, pericolosi o distorti prima di mettere i modelli in produzione.
Mettere in sicurezza la prossima generazione di carichi di lavoro AI
Questa acquisizione si allinea con la visione di Red Hat di supportare diversi modelli e target di implementazione in tutto l’hybrid cloud. Completa inoltre le capacità innovative introdotte in Red Hat AI 3, in particolare per agentic AI e Model Context Protocol (MCP). Man mano che le aziende adottano l’AI agentica, disporre di modelli affidabili e sicuri diventa ancora più importante, dato il ruolo complesso e autonomo degli agenti AI e il loro potenziale impatto sui sistemi aziendali principali.
Chatterbox Labs ha condotto un lavoro di indagine sulla sicurezza olistica degli agenti, compreso il monitoraggio delle risposte degli agenti e il rilevamento dei trigger di azione del server MCP. Questo lavoro si allinea con la roadmap di Red Hat per il supporto di Llama Stack e MCP, posizionando l’azienda in modo ottimale per poter proteggere la prossima generazione di workload intelligenti e automatizzati su una base fidata e pronta per l’impresa. Combinando le capacità MLOps di Red Hat con le funzionalità di protezione di Chatterbox Labs, Red Hat consentirà alle organizzazioni di rendere operativi i loro investimenti in AI con maggiore fiducia.
