Dell Technologies amplia Dell AI Data Platform affinché i sistemi di AI forniscano risposte migliori, prevedano costi di gestione inferiori e raggiungano la produzione più rapidamente, offrendo ad applicazioni e agenti un contesto affidabile e aggiornato sulla base dei dati dell’azienda stessa.
Nella maggior parte dei casi, il modello non rappresenta il collo di bottiglia per il raggiungimento di una scala aziendale nell’ambito dell’AI. Sono i dati. Le informazioni più utili di un’azienda risiedono in file, database, servizi cloud e sistemi distribuiti su più sedi. La maggior parte di esse è stata creata molto prima che qualcuno si aspettasse che un agente AI le leggesse. Non sono mai state etichettate, collegate o organizzate pensando a un lettore automatizzato. Di conseguenza, gli agenti consumano risorse ricostruendo risposte che dovrebbero già esistere. Ogni query comporta più passaggi, più elaborazione, più costi e risultati più lenti e meno affidabili.
Dare significato e contesto ai dati
Dell AI Data Platform è progettata end-to-end, dal punto in cui i dati vengono archiviati a quello in cui gli agenti li utilizzano. Lo storage trasferisce i dati critici all’elaborazione accelerata senza colli di bottiglia; l’orchestrazione li collega e li prepara; l’analisi e la ricerca li trasformano e li indicizzano.
I modelli NVIDIA Nemotron Retriever consentono l’analisi sintattica, l’incorporamento e il riordino dei documenti. NVIDIA cuVS accelera l’indicizzazione vettoriale e la ricerca.
Poiché ogni livello opera su un’unica piattaforma, tutto ciò che viene prodotto è riconducibile ai dati governati già in possesso del cliente. Gli agenti tornano ripetutamente agli stessi documenti, alla stessa cronologia e alle stesse decisioni, mentre la maggior parte dei sistemi ricostruisce la propria comprensione da zero ogni volta.
Ciò significa rispondere alle stesse due domande ad ogni richiesta: cosa significa questo termine e in che modo è correlato a tutto il resto? Dell sta ampliando Dell AI Data Platform con tre nuove funzionalità per rispondere a entrambe le domande contemporaneamente:
· Unified Semantic Layer attribuisce alle informazioni strutturate e non strutturate un significato coerente grazie a regole, definizioni e un glossario consultabile, in modo che un termine abbia lo stesso significato ovunque compaia. Se un sistema lo definisce “cliente” e un altro “account”, l’AI riconosce che si tratta della stessa cosa. Gli utenti possono inoltre importare ontologie e tassonomie di classificazione esistenti, riutilizzando risorse tassonomiche standard del settore o specifiche dell’azienda. Dell sta inoltre implementando NVIDIA Auto-Ontology, una libreria open source che crea grafi di conoscenza a partire dai dati aziendali, per estendere Unified Semantic Layer.
· Enterprise Knowledge Graph mappa le relazioni tra dati strutturati e non strutturati, in modo che un’applicazione o un agente possa individuare il contesto corretto. Utilizza metadati, lineage e cronologia delle query per ottimizzare continuamente il grafo al variare dell’attività. Quando un agente pone una domanda, la piattaforma recupera ogni elemento correlato che è autorizzata a visualizzare: le tabelle appropriate, i prodotti di dati, i dati multimodali e gli indici vettoriali, ovunque si trovino. Ad esempio, un’azienda che sta indagando su un problema della linea di produzione può ricondurre una lettura anomala del sensore alla macchina, alla sua cronologia delle riparazioni, al lotto del fornitore e agli ordini a rischio.
· I Knowledge Agent predispongono tale contesto. Ciascuno di essi funge da consulente di fiducia su un singolo argomento, basandosi su una parte definita dell’Enterprise Knowledge Graph. Sono i clienti a stabilire le regole: quali indicazioni deve seguire, quali dati può consultare, quali standard di qualità deve soddisfare e quale budget può utilizzare. I modelli NVIDIA Nemotron Retriever forniscono ai Knowledge Agent capacità di ragionamento e comprensione visiva.
Unified Semantic Layer, Knowledge Graph e Knowledge Agent raccolgono le informazioni più preziose e sensibili dei clienti, pertanto rimangono all’interno della piattaforma nel data center del cliente. La piattaforma costruisce il contesto a partire da tali dati, lo mantiene aggiornato al mutare delle esigenze aziendali e lo condivide tra tutte le applicazioni e gli agenti, senza vincolare i clienti a un unico modello, fornitore di dati o di servizi di storage.
Accelerazione e sicurezza integrate nel percorso dei dati
Il contesto aziendale è affidabile solo se i dati sono accurati, aggiornati e gestiti in modo controllato dalla fonte all’applicazione. I clienti non dovrebbero essere costretti ad adottare un altro livello proprietario per accelerare diverse parti del proprio ambiente dati. Dell integra l’accelerazione direttamente nei motori di dati, collaborando con NVIDIA lungo tutto il percorso dei dati. I dati devono essere trasformati e analizzati, per poi raggiungere una potenza di calcolo accelerata sufficientemente veloce da mantenere le GPU saturate e rimanere protetti lungo tutto il percorso.
I progressi di Dell nel campo dei dati e dello storage includono:
· Elaborazione dati accelerata con cuDF e Apache Arrow: nuovi test dimostrano che Dell Data Processing Engine, basato su NVIDIA cuDF e sulle GPU NVIDIA RTX PRO 4500 Blackwell Server Edition, elabora i dati in media quasi 4 volte più velocemente rispetto alle sole CPU su una vasta gamma di workload e fino a 20 volte più velocemente nei workload di elaborazione in batch¹. Apache Arrow trasferisce i dati in modo efficiente tra lo storage Dell, e l’elaborazione, consentendo di interrogare i dati direttamente nella loro posizione originale. Ciò consente di ridurre i tempi di preparazione dei dati e di ridurre il percorso dalle informazioni aziendali grezze al contesto attendibile.
· Multitenancy e sicurezza potenziate: Dell PowerScale supporta ora fino a 500 tenant in un unico cluster, con mTLS su NFS per crittografare e autenticare il traffico dei file e un controllo degli accessi basato sui ruoli più granulare per la gestione di ciascun tenant. I fornitori di servizi di AI e le aziende che utilizzano piattaforme di AI condivise possono assistere un numero maggiore di team e clienti da un unico cluster, mantenendo al contempo i dati di ciascun tenant isolati e al sicuro.
· Prestazioni di workload di riferimento: il nuovo Dell Storage Performance Tool aiuta i clienti a dimensionare con sicurezza l’infrastruttura di intelligenza artificiale, a confrontare le soluzioni dei vari fornitori e a garantire un workload costante alle GPU, testando le prestazioni del proprio storage a oggetti compatibile con S3 nelle fasi di addestramento, inferenza e checkpointing.
Dell sta ampliando i servizi di implementazione di Dell AI Data Platform su tutti i propri motori di dati e storage per consentire alle organizzazioni di passare rapidamente e in modo affidabile dalla fase di implementazione alla produzione. Dell Services crea una base pronta per la produzione, attivando le funzionalità di analisi, elaborazione, ricerca e orchestrazione della piattaforma, mantenendola ottimizzata per le esigenze dei workload AI.
Arthur Lewis, presidente di Infrastructure Solutions Group, Dell Technologies, ha dichiarato: “I dati senza contesto sono solo rumore. La maggior parte delle aziende ha impiegato anni per rendere accessibili i propri dati. Ma questo non significa renderli utilizzabili. Se un agente è in grado di individuare la scheda di un cliente ma non sa cosa significhi, come si colleghi a tutto il resto o se sia affidabile, non è intelligente. È solo veloce. Le aziende che risolveranno questo problema non si limiteranno a implementare l’AI più rapidamente o a utilizzare un maggior numero di agenti. Riusciranno a ottenere di più dai dati di cui già dispongono”.
