Da Dell Technologies le novità dedicate ai workload AI ad alte prestazioni

Dell Technologies presenta nuovi sistemi integrati scalabili su rack, server, storage e innovazioni nella gestione dei dati nel contesto Dell AI Factory, alimentando workload di elaborazione ad alta densità e intelligenza artificiale su larga scala.

Il futuro del calcolo accelerato con innovazioni per il raffreddamento

Dell Integrated Rack 7000 (IR7000) va incontro alle esigenze di elaborazione accelerata con una densità superiore, una gestione dell’alimentazione più sostenibile e tecnologie di raffreddamento avanzate. Questo rack di Dell Technologies basato sugli standard OCP (Open Compute Project) è ideale per l’implementazione su larga scala e presenta un design per ambienti tecnologici eterogenei e multigenerazionali.

Le principali novità del nuovo rack Dell Technologies:

• Dell IR7000 da 21 pollici è ideato per supportare la densità di CPU e GPU leader del settore.
• Il rack Dell IR7000 è dotato di supporti più alti e larghi rispetto allo standard di mercato per l’inserimento nel rack di server in grado di ospitare le più recenti architetture di CPU e GPU. È stato progettato appositamente per il raffreddamento a liquido, in grado di raffreddare implementazioni fino a 480KW, ed è in grado di catturare quasi il 100% del calore generato.
• Pensato per garantire una maggiore scelta e flessibilità, questo rack integrato offre il supporto per le reti Dell e per le reti standard.
• Le installazioni sono semplici ed efficienti dal punto di vista energetico con i sistemi Dell Integrated Rack Scalable (IRSS). IRSS offre un’infrastruttura innovativa su scala rack ottimizzata per i workload AI, rendendo il processo di configurazione semplice ed efficiente con un sistema su scala rack plug-and-play completamente integrato.

Dell Technologies presenta le piattaforme AI-ready progettate per Dell IR7000

• Parte della Dell AI Factory con NVIDIA, Dell PowerEdge XE9712 offre un’accelerazione densa e ad alte prestazioni per il training LLM e l’inferenza in tempo reale di implementazioni AI su larga scala. Progettata per una densità di GPU leader del settore con NVIDIA GB200 NVL72, questa piattaforma collega fino a 36 CPU NVIDIA Grace con 72 GPU NVIDIA Blackwell in un design su scala rack. Il dominio NVLink a 72 GPU si comporta come una singola GPU per un’inferenza LLM in tempo reale fino a 30 volte più veloce di un trilione di parametri. Il raffreddamento a liquido di NVIDIA GB200 NVL72 è fino a 25 volte più efficiente dei sistemi con raffreddamento ad aria NVIDIA H100.
• Dell PowerEdge M7725 offre un’elaborazione densa ad alte prestazioni, ideale per ambienti di ricerca, government, fintech ed education. Progettato da Dell Technologies per essere distribuito nel rack IR7000, Dell PowerEdge M7725 offre maggiore elaborazione con una migliore gestione della manutenzione scalando tra 24K-27K core per rack, con 64 o 72 nodi a due socket, alimentati da CPU AMD EPYC di quinta generazione. Gli slot IO anteriori consentono una connettività ad alta velocità e forniscono una connettività perfetta per le applicazioni più esigenti. Il form factor del server, efficiente dal punto di vista energetico, consente implementazioni più sostenibili grazie al raffreddamento a liquido diretto (DLC) delle CPU e al raffreddamento ad aria tramite connessione rapida al rack integrato.

Innovazioni nello storage non strutturato e nella gestione dei dati per l’era dell’AI

Le innovazioni del portfolio storage in ambito dati non strutturati di Dell Technologies permettono di migliorare le prestazioni delle applicazioni AI e semplificano la gestione dei dati.

Dell PowerScale, il primo storage Ethernet al mondo certificato per NVIDIA DGX SuperPOD, offre nuovi aggiornamenti che potenziano le strategie di gestione dei dati, migliorano le prestazioni dei workload e offrono un maggiore supporto ai workload AI.

• Discovery dei dati migliorata: possibilità di disporre di data insight per un processo decisionale più rapido grazie ai metadati PowerScale e a Dell Data Lakehouse. Il sistema di acquisizione open-source di documenti di Dell per i servizi NVIDIA NeMo e i framework RAG è progettato per facilitare e migliorare i tempi di acquisizione dei dati e a ridurre i costi di calcolo e GPU nei diversi contesti di mercato.
• Storage più denso: I clienti possono perfezionare i propri modelli di intelligenza artificiale addestrandoli su dataset più grandi grazie alle nuove unità da 61 TB che aumentano la capacità e l’efficienza riducendo al contempo l’ingombro dei data center della metà.
• Prestazioni AI migliorate: Le prestazioni dei workload AI risultano migliorate grazie alle funzionalità NVIDIA InfiniBand di front-end e al supporto delle schede Ethernet da 200 GbE che offrono un throughput fino al 63% più veloce.

Con le novità apportate alla piattaforma di gestione dei dati Dell Data Lakehouse i clienti Dell Technologies possono migliorare le operazioni grazie a nuove funzionalità di disaster recovery, il rilevamento automatico degli schemi, le API di gestione complete e gli aggiornamenti full stack self-service.

I clienti possono, inoltre, scalare rapidamente gli use case basati su meccanismi di intelligenza artificiale con i servizi di ottimizzazione per la catalogazione dei dati e i servizi di implementazione delle pipeline di dati.

Soluzioni Dell Generative AI con Intel

Nell’ambito Dell AI Factory, le soluzioni Dell Generative AI con Intel offrono piattaforme progettate e validate congiuntamente per un’implementazione dell’intelligenza artificiale senza discontinuità. Grazie agli acceleratori Dell PowerEdge XE9680 e Intel Gaudi 3 AI con storage, networking, servizi e uno stack software open-source di Dell Technologies, queste soluzioni preconfigurate, flessibili e ad alte prestazioni supportano una serie di use case GenAI, tra cui la creazione di contenuti, gli assistenti digitali, la progettazione e la creazione di dati, la generazione di codice e altro ancora.

Disponibilità delle nuove soluzioni Dell Technologies

• Dell IR7000 sarà disponibile a livello globale nel primo trimestre del 2025.
• Dell PowerEdge XE9712 è già disponibile per alcuni clienti selezionati.
• Dell PowerEdge M7725 sarà disponibile a livello globale nel primo trimestre del 2025.
• Gli aggiornamenti relativi a Dell PowerScale saranno disponibili nel terzo trimestre del 2024.
• Gli aggiornamenti relativi a Dell Data Lakehouse saranno disponibili nel primo semestre del 2025.
• Le soluzioni Dell Generative AI con Intel saranno disponibili nel quarto trimestre del 2024.

Dichiarazioni

“I data center odierni non riescono a stare al passo con le esigenze dell’AI e richiedono innovazioni in termini di calcolo ad alta densità e raffreddamento a liquido con design modulari, flessibili ed efficienti”, ha dichiarato Arthur Lewis, Presidente dell’Infrastructure Solutions Group di Dell Technologies. “I nuovi sistemi Dell offrono alle aziende le prestazioni necessarie per essere sempre più competitive nel panorama dell’AI in rapida evoluzione”.