Dynatrace ha annunciato l’estensione delle funzionalità per l’osservabilità delle iniziative di GenAI delle aziende. Questi progressi consentono ai team di accedere a informazioni complete sulle loro applicazioni di AI, per garantirne l’affidabilità, le prestazioni, la sicurezza e la conformità. Grazie a questa visibilità, le organizzazioni hanno ora una visione chiara delle loro iniziative di AI e possono capire il loro ritorno sugli investimenti (ROI).
IDC prevede che la spesa mondiale per le tecnologie di supporto all’AI supererà i 749 miliardi di dollari entro il 2028. Investire in questa tecnologia è imperativo per le aziende che vogliono ottenere un vantaggio competitivo. Altrettanto importante è la capacità di osservare queste tecnologie per assicurarsi che siano implementate in modo ottimale e sicuro, che aggiungano valore al business e che si prestino a livelli più elevati di automazione.
Le novità introdotte da Dynatrace
Dynatrace consente ai propri clienti di raggiungere questo obiettivo grazie a una serie di progressi della piattaforma, tra cui:
- Analytics del modello LLM migliorati: oltre a monitorare i KPI standard come gli errori di input e output, i tempi di risposta e il consumo di token, le capacità predittive di Dynatrace Davis AI rilevano i cambiamenti nel comportamento d’uso per prevedere e anticipare le variazioni di costo associate all’utilizzo di LLM. Questo aiuta i team a comprendere le prestazioni del modello e le opportunità di ottimizzazione, compreso il modo in cui possono gestire meglio i costi e controllare il ROI.
- Controllo di input e output del LLM: Dynatrace protegge la qualità dell’input e dell’output delle applicazioni di AI per contribuire a creare fiducia nell’AI. Ciò consente ai clienti di riconoscere le allucinazioni del modello, di identificare i tentativi di abuso del LLM, come l’injection di prompt dannosi, di prevenire la fuga di informazioni di identificazione personale (Personally Identifiable Information – PII) e di rilevare il linguaggio tossico.
- Tracciamento multi-modello: Dynatrace mappa le dipendenze tra più LLM che lavorano in concerto con pipeline di Retrieval Augmented Generation (RAG) o strutture agentiche per fornire osservabilità end-to-end dell’intero sistema, non solo delle singole parti componenti. Ciò fornisce ai team la possibilità di verificare che le dipendenze interagiscano senza problemi in modo da poter offrire esperienze utente finali ottimali.
- Integrazioni AI responsabili: Dynatrace aiuta le organizzazioni a governare l’AI tracciando ogni input e output senza campionamento per fornire un audit trail di monitoraggio e osservabilità, compresa la documentazione dei dati utilizzati per l’addestramento di un determinato modello. Attraverso Dynatrace Grail, tutti i dati possono essere interrogati in tempo reale e archiviati per future consultazioni.
Valore per il cliente nell’osservabilità dell’IA
“Un numero crescente di retailer di medie e grandi dimensioni sta sfruttando l’intelligenza artificiale per potenziare la propria strategia di pagamento end-to-end. In FreedomPay la nostra sfida è di supportare gli esercenti che cercano di collegare senza problemi i sistemi di back-end con i canali rivolti ai clienti”, ha dichiarato Chris Kronenthal, Presidente di FreedomPay. “Dynatrace consente a FreedomPay di adottare analisi e intelligence avanzate per risolvere problemi di dati complessi per i nostri clienti. Questo è necessario per fornire una soluzione di alto livello per migliorare la conformità, la sicurezza e i costi complessivi”.
Imparare dagli esperti del settore
Secondo Stephen Elliot, Vicepresidente del gruppo IDC, I&O e Cloud Operations, “l’AI rappresenta un cambiamento rivoluzionario nella tecnologia e nel business. L’osservabilità dei dati e dei LLM è un requisito essenziale per costruire e distribuire soluzioni di AI affidabili, degne di fiducia ed economiche. Queste capacità forniscono gli insights necessari per garantire che i modelli funzionino come previsto, soddisfino gli obiettivi aziendali e forniscano risultati all’organizzazione. I leader tecnologici traggono vantaggio dal monitoraggio della qualità dei dati in tempo reale. Possono ottenere visibilità e rilevamento di anomalie, incongruenze e alterazioni per garantire che i dati utilizzati per addestrare ed eseguire i modelli siano accurati, completi e rappresentativi del mondo reale. Questo dovrebbe far parte di una più ampia strategia di osservabilità per fornire una piattaforma robusta e affidabile che consenta alle aziende di prevenire e risolvere problemi come allucinazioni, alterazioni e degrado delle prestazioni”.
La vision di Dynatrace
“Vediamo che gran parte della nostra base clienti globale sta portando in produzione le proprie applicazioni di AI. L’osservabilità dell’AI è fondamentale per il ROI, la governance e la esplicabilità”, ha dichiarato Alois Reitbauer, Chief Technology Strategist di Dynatrace. “Dynatrace offre l’osservabilità dell’AI con insight in tempo reale che consentono ai dati e ai sistemi di lavorare insieme senza sforzo. Al Perform 2025, siamo entusiasti di mostrare come stiamo sfruttando queste funzionalità per creare nuove possibilità per i nostri clienti, evidenziando l’innovazione trasformativa che stanno portando avanti grazie alla capacità di comprendere e ottimizzare efficacemente le loro implementazioni di AI”.
Dynatrace supporta i clienti con le sue soluzioni di Observability for AI. L’osservabilità dell’intelligenza artificiale sarà al centro del Perform 2025. Per registrarsi al Perform 2025 è possibile visitare il sito.
Per saperne di più sull’elenco attuale delle tecnologie e delle integrazioni supportate da Dynatrace AI and LLM Observability, visitate il sito web di Dynatrace.
