Dell e AMD ampliano il portfolio Dell Generative AI Solutions che supporta workload avanzati e offre alle aziende maggiori opzioni per utilizzare al proprio interno soluzioni di GenAI.
L’Intelligenza Artificiale è la nuova frontiera della tecnologia: per la sua evoluzione in azienda sono indispensabili gli ecosistemi aperti, che offrono ai clienti soluzioni semplici, affidabili e su misura, e la garanzia di accesso alla potenza di calcolo necessaria per alimentare questo motore di innovazione. Dell PowerEdge XE9680 supporterà l’acceleratore AMD InstinctTM MI300X – a breve sul mercato – per fornire un ventaglio di opzioni ancora più ampio in termini di prestazioni AI. Il server PowerEdge XE9680 con AMD Instinct MI300X introduce elevati livelli prestazionali nelle aziende che vogliono valorizzare i propri dati e differenziare il proprio business tramite LLM (Large Language Model) customizzati.
Con otto GPU MI300X, 192GB di memoria HBM3 (High Bandwidth Memory) da 5,3TB/s per GPU per una capacità HBM3 coerente totale di 1,5TB per server e oltre 21 petaFLOPS di prestazioni FP16, il server PowerEdge XE9680 con MI300X è ideato per facilitare l’ingresso della GenAI nelle aziende desiderose di addestrare modelli più ampi, ridurre l’occupazione dei data center, abbattere il TCO e migliorare il loro vantaggio competitivo.
E’ stato, inoltre, annunciato il nuovo Dell Validated Design per Generative AI con AMD. Disponibile dal prossimo anno, dispone di framework AI basati su AMD ROCm ed estende l’ecosistema Dell Generative AI Solutions comprendendo LLM open source.
AMD ROCm è uno stack open source composto da driver, toolkit di sviluppo e API per gli acceleratori AMD Instinct. I Dell Validated Design per Generative AI permettono ai clienti Dell di creare facilmente affidabili piattaforme GenAI su misura delle loro esigenze eliminando ogni incertezza riguardante l’integrazione, le prestazioni e il dimensionamento.
Per meglio comprendere come i framework AI e ML open source ottimizzati su ROCm come PyTorch, TensorFlow, ONNX-RT, JAX e Triton possano avvalersi di supporto nativo su PowerEdge XE9680 con MI300X per un’integrazione drop-in delle LLM basate su questi diffusi framework, sono stati realizzati un eBook e una infografica, oltre a una serie di blog (AMD ROCm è pronto per il deployment dei workload AI più diffusi? ; Come usare i modelli Hugging Face con AMD ROCm su Dell PowerEdge; Come usare Llama 2 attraverso i modelli Hugging Face con AMD ROCm)
Il server PowerEdge XE9680 è un motore ad alte prestazioni e punto di riferimento per sicurezza e semplicità. Il software Dell Open Manage Enterprise semplifica e accelera il deployment di infrastrutture GenAI, mentre il software CloudIQ implementa una soluzione di automazione intelligente ovunque ci si trovi. Il sistema PowerEdge XE9680 è garantito da un meccanismo di cyber recovery integrato e da un approccio Zero Trust per una maggiore sicurezza.
Il server PowerEdge XE9680 fa leva sulla piattaforma AMD Instinct basata su otto acceleratori AMD Instinct MI300X per implementare una scalabilità quasi lineare e processi di addestramento e inferenza GenAI distribuiti a bassa latenza con Global Memory Interconnect (xGMI) su cluster di server PowerEdge interconnettendo le relative GPU MI300X attraverso un fabric AI basato su Ethernet e realizzato mediante un fabric GPU convalidato da Dell con Dell PowerSwitch Z9664F-ON. Come membro dell’Ultra Ethernet Consortium (UEC), Dell promuove tecnologie di networking basate su standard, traducendo in realtà tutte le potenzialità di un approccio aperto nel contesto della soluzione GenAI: calcolo, fabric e storage.
Il server Dell PowerEdge XE9680 con acceleratori AMD Instinct MI300X e Dell Validated Design per Generative AI con AMD saranno disponibili nella prima metà del 2024.
