Confluent, pioniere nel data streaming, annuncia Streaming Agents, una nuova funzionalità all’interno di Confluent Cloud per Apache Flink che semplifica la creazione e la scalabilità degli agenti AI che monitorano, ragionano e agiscono sui dati in tempo reale. Streaming Agents rimuove le barriere all’intelligenza artificiale agentica di livello enterprise, unificando l’elaborazione dei dati con i workflow AI e fornendo connessioni facili e sicure in ogni parte dell’organizzazione, inclusi modelli linguistici di grandi dimensioni (LLM), oltre a incorporare modelli, strumenti e altri sistemi. Inoltre, la soluzione accelera l’adozione dell’intelligenza artificiale agentica, abilitando workflow più efficienti, un time-to-value più rapido e la creazione di modelli di business e opportunità completamente nuovi.
“L’intelligenza artificiale agentica è nell’agenda di ogni organizzazione. La maggior parte delle aziende, però, si blocca durante la fase di elaborazione dei prototipi, rimanendo indietro, mentre altre corrono verso risultati misurabili”, afferma Shaun Clowes, Chief Product Officer di Confluent. “Anche gli agenti AI più intelligenti perdono di efficacia quando non dispongono di un contesto aziendale aggiornato. Streaming Agents semplifica il disordinato lavoro di integrazione di quegli strumenti e dati che creano vera intelligenza, offrendo alle organizzazioni una solida base per implementare agenti AI in grado di guidare cambiamenti significativi in tutta l’organizzazione.”
Una ricerca IDC mostra che, in media, le organizzazioni hanno eseguito 23 proof of concept di intelligenza artificiale generativa tra il 2023 e il 2024, ma solo tre hanno raggiunto la fase di produzione. Di questi, solo il 62% ha inoltre soddisfatto le aspettative. Gli agenti sono potenti tanto quanto gli strumenti e i dati a cui possono accedere, ma i workflow oggi sono estremamente complessi e costosi e impediscono alle aziende di sfruttare appieno il valore dell’intelligenza artificiale agentica. Sebbene i framework di intelligenza artificiale esistenti semplifichino i progetti con gli agenti, molti team hanno difficoltà a integrare i dati in tempo reale nelle iniziative di intelligenza artificiale agentica, con conseguenti allucinazioni e risposte inaffidabili.
“La maggior parte delle aziende sta investendo nell’intelligenza artificiale agentica, ma le architetture dati non sono in grado di supportare le capacità decisionali autonome che questi sistemi richiedono”, afferma Stewart Bond, Vice President of Data Intelligence and Integration Software di IDC. “Le organizzazioni dovrebbero dare priorità a soluzioni di intelligenza artificiale agentica che offrono un’integrazione facile, sicura e sfruttano i dati in tempo reale per il contesto essenziale e necessario a svolgere una determinata azione intelligente”.
Creare e scalare agenti AI in tempo reale con Streaming Agents
Streaming Agents include l’intelligenza artificiale agentica direttamente nelle pipeline di elaborazione dei flussi, per aiutare i team a creare, distribuire e orchestrare agenti basati sugli eventi con Apache Kafka® e Apache Flink®. Unificando l’elaborazione dei dati e il ragionamento dell’intelligenza artificiale, gli agenti ottengono l’accesso a nuovi dati contestuali da fonti in tempo reale, per adattarsi rapidamente e comunicare con altri agenti e sistemi al variare delle condizioni. Gli streaming agent sono sempre attivi e lavorano per conto dell’azienda, operando in modo dinamico, elaborando flussi di dati ad alto volume e rispondendo istantaneamente a segnali in tempo reale con ragionamenti sensibili al contesto, come farebbero gli operatori umani. Ad esempio, gli streaming agent possono stabilire prezzi competitivi monitorando continuamente i prezzi dei siti di e-commerce e aggiornando automaticamente i prezzi dei prodotti sul sito di un rivenditore, con l’obiettivo di riflettere l’offerta più competitiva per i clienti.
Le caratteristiche chiave di Streaming Agents includono:
- Tool calling per un’automazione consapevole del contesto: la chiamata di strumenti tramite Model Context Protocol (MCP) consente agli agenti di selezionare lo strumento esterno giusto, come un database, un software-as-a-service (SaaS) o un’API, per intraprendere azioni significative. Le attività tengono conto di ciò che accade nell’azienda e di ciò che stanno facendo altri sistemi e agenti
- Connessioni per integrazioni sicure: è possibile connettersi in modo sicuro a modelli, database vettoriali e MCP direttamente utilizzando Flink. Le connessioni proteggono le credenziali sensibili, incoraggiano una maggiore riusabilità condividendo le connessioni su più tabelle, modelli e funzioni e centralizzano la gestione per distribuzioni su larga scala
- Tabelle esterne e ricerca per aumentare la precisione dell’intelligenza artificiale: la soluzione assicura l’arricchimento dei dati in streaming con altre fonti dati oltre a Kafka, come database relazionali e API REST, per fornire la visualizzazione più aggiornata e completa. Questo migliora l’accuratezza del processo decisionale AI, della ricerca vettoriale e delle applicazioni RAG (retrieval-augmented generation), inoltre consente di ridurre i costi e la complessità utilizzando Flink SQL e sfrutta le funzionalità di sicurezza e di rete di Confluent Cloud
- Rigiocabilità per iterazione e sicurezza: gli agenti possono essere sviluppati e valutati utilizzando dati reali senza effetti collaterali, consentendo rilasci nascosti, test A/B e iterazione più rapida.
