Oggi stiamo assistendo ad un’incredibile accelerazione dell’AI, soprattutto nel campo dello sviluppo software. Gli sviluppatori hanno nuove esigenze e incredibili sfide da affrontare ed è proprio per questo che ASUS e NVIDIA hanno collaborato allo sviluppo e al lancio di ASUS ASCENT GX10, un innovativo supercomputer AI in formato compatto.
“ASUS e NVIDIA collaborano da circa 30 anni, portando innovazione sul mercato. E poiché i casi d’uso per l’AI e la necessità di un’elaborazione potente continuano ad espandersi, abbiamo collaborato a stretto contatto per supportare queste esigenze nuove ed emergenti. Una delle tendenze più recenti è la rapida espansione degli sviluppatori AI. All’inizio di quest’anno, NVIDIA ha evidenziato che ora ci sono oltre 4 milioni di sviluppatori AI attivi a livello globale e che il numero sta crescendo in modo esponenziale. Si tratta di un mercato straordinario e si prevede che continuerà a crescere a due cifre nei prossimi anni”, afferma Nate Snow, Global Senior Director of NUC Business Development, ASUS.
Durante la progettazione dell’ASUS Ascent GX10, ASUS e NVIDIA hanno individuato tre categorie di sviluppatori AI:
- AI researcher/Data Scientists/AI Practitioner
- AI Developers/Engineers
- AI Application Developers
Nonostante le tre categorie abbiano compiti diversi e specifici, tutti gli sviluppatori AI devono affrontare le medesime sfide: l’aumento della dimensione e la complessità dei modelli di AI generativa insieme alla prototipazione, la messa a punto e l’inferenza di modelli di grandi dimensioni, i quali richiedono una notevole memoria e significative prestazioni di calcolo.
Tutte queste sfide trovano una soluzione nell’ASUS Ascent GX10, il supercomputer basato sulla piattaforma NVIDIA DGX Spark.
Caratteristiche di ASUS Ascent GX10
ASUS Ascent GX10 offre nuove opportunità di business, creatività e innovazione e per fornire agli sviluppatori una soluzione desktop potente ed economica per lo sviluppo AI.
Al centro dell’ASUS Ascent GX10 si trova l’avanzato Superchip NVIDIA GB10, progettato con l’architettura Grace Blackwell e che è in grado di portare le capacità di un supercomputer AI su scala petaflop direttamente sulle scrivanie di sviluppatori, ricercatori AI e data scientist di tutto il mondo.
Il potente chip GB10 vanta una sensazionale GPU Blackwell con Tensor Core di quinta generazione e supporto FP4, offrendo fino a 1.000 TOPS di potenza di elaborazione AI. Inoltre, presenta una CPU Arm Grace a 20 core ad alte prestazioni che migliora la precompilazione e l’orchestrazione di dati e processi, accelerando la messa a punto dei modelli e l’inferenza in tempo reale. Il Superchip GB10 utilizza NVIDIA NVLink-C2C per fornire un modello di memoria CPU+GPU coeso, con una larghezza di banda cinque volte superiore a quella del PCIe 5.0.
Gestione di modelli AI generativi di grandi dimensioni
ASUS Ascent GX10, con i suoi 128 GB di memoria di sistema unificata e supporto del formato dati FP4, è in grado di gestire modelli AI fino a 200 miliardi di parametri. Ciò consente agli sviluppatori AI di prototipare, affinare ed inferire i più recenti modelli di ragionamento AI, che utilizzano fino a 70 miliardi di parametri, direttamente sul loro desktop. Grazie alle schede di interfaccia di rete (NIC) NVIDIA ConnectX integrate, due sistemi GX10 possono essere collegati fra loro per gestire modelli ancora più grandi, come Llama 3.1, in grado di gestire fino a 405 miliardi di parametri.
Sviluppo locale, distribuzione scalabile
ASUS Ascent GX10 fornisce una potente piattaforma di sperimentazione economica per gli sviluppatori in grado di prototipare modelli ed applicazioni AI, liberando risorse di calcolo essenziali nei loro cluster, che sono più adatti per l’addestramento e la distribuzione di modelli di produzione. Utilizzando il software NVIDIA AI in combinazione con Ascent GX10, gli utenti potranno trasferire senza problemi i loro modelli dagli ambienti desktop al NVIDIA DGX Cloud oppure a qualsiasi infrastruttura cloud o data center senza praticamente modificare nessuna parte del codice, facilitando quindi i processi di prototipazione, messa a punto e iterazione.