Portando su Akamai Cloud la fornitura di modelli gestiti e l’esecuzione isolata degli agenti AI, Akamai ha presentato due prodotti fondamentali per le sue soluzioni basate sull’AI: Akamai Inference e Akamai Agent Sandbox. Con queste aggiunte, le aziende possono creare e ottimizzare modelli open-weight proprietari o ospitati, integrarli nei propri dati, eseguire gli agenti entro limiti di accesso definiti e proteggere le applicazioni, gli agenti e l’infrastruttura coinvolti, il tutto su un’unica piattaforma cloud con un’infrastruttura ottimizzata per l’AI.
Queste funzionalità rappresentano l’ultimo passo della strategia di Akamai per l’AI: offrire alle aziende l’infrastruttura e i servizi affidabili a livello globale per fornire, eseguire e proteggere applicazioni e agenti AI, vicino agli utenti e ai dati su cui si basano. Akamai Inference e Akamai Agent Sandbox ora aggiungono i servizi gestiti a questa infrastruttura: una base che ha già garantito ad Akamai Cloud di ottenere contratti pluriennali del valore complessivo di oltre 14 miliardi di dollari. Questo slancio dimostra come la capacità di Akamai di sfruttare sia CPU sia GPU, insieme alle funzionalità di cloud storage, networking ed edge disponibili sulla propria rete globale interconnessa, stia rapidamente diventando la base affidabile su cui i clienti possono sviluppare, distribuire e gestire carichi di lavoro AI su larga scala.
Le aziende che trasferiscono l’AI in produzione non hanno bisogno di semplici modelli, ma di un’infrastruttura di supporto, dell’accesso ai loro dati e di funzionalità di routing e di governance; inoltre, man mano che gli agenti iniziano a scrivere ed eseguire il proprio codice, sono necessari limiti rigorosi su ciò a cui tale codice può accedere. La maggior parte dei team mette insieme questi componenti, forniti da diversi provider, e si occupa personalmente di proteggere i punti di interazione. Akamai Cloud offre ora un ambiente di AI connesso, distribuito in una serie di risorse di elaborazione, che vanno dai cluster di CPU e GPU ad alta densità nei siti di core computing a più di 4350 posizioni sull’edge, il tutto protetto dalle stesse soluzioni per la sicurezza che difendono molte delle più grandi aziende online al mondo.
“Abbiamo sviluppato una strategia per l’infrastruttura AI partendo dalla convinzione che l’AI inferencing rappresenterà la parte preponderante dell’attenzione e degli investimenti da parte dalle aziende. I nostri clienti hanno dimostrato questa tesi e ci hanno spinto ad andare oltre”, ha dichiarato Adam Karon, Chief Operating Officer e GM di Akamai Cloud. “I nostri clienti vogliono creare, eseguire e proteggere l’AI sulla stessa piattaforma. Akamai Inference e Akamai Agent Sandbox aggiungono i livelli di inferencing e di esecuzione che trasformano la nostra infrastruttura di AI in uno stack completo di prodotti per l’intelligenza artificiale, mentre le nostre soluzioni per la sicurezza proteggono ogni livello di questa infrastruttura. Akamai si trova in una posizione privilegiata per sfruttare le proprie caratteristiche di portata e distribuzione al fine di gestire l’espansione dell’inferencing in tempo reale e dei carichi di lavoro agentici”.
Accedere ai modelli senza dover gestire lo stack: Akamai Inference
Akamai Inference offre alle aziende un accesso gestito ai modelli open-weight e personalizzati tramite API compatibili con OpenAI per consentire alle applicazioni esistenti di spostarsi senza la necessità di riscritture. I clienti scelgono implementazioni senza server, con inferencing pay-per-use o dedicate. Al momento del lancio dei prodotti, il catalogo include 12 modelli open-weight con un numero di parametri compreso tra 8 e 2800 miliarditra cui NVIDIA™ Nemotron 3 Ultra, OpenAI™ gpt-oss-120b e Google™ Gemma 4, insieme ai modelli incorporati per la RAG (Retrieval-Augmented Generation).
Akamai Cloud consente di accedere alle soluzioni Managed Databases e Object Storage e si connette senza problemi alle piattaforme cloud pubbliche e private per consentire ai modelli di utilizzare i dati aziendali. Akamai Inference gestisce quindi l’orchestrazione, l’esecuzione dei modelli e l’autenticazione. Le richieste vengono eseguite sulla rete globale di Akamai, riducendo la latenza e contribuendo a garantire un’elevata disponibilità e performance coerenti, mantenendo, al contempo, livelli di servizio prevedibili.
Fornire agli agenti un posto per l’esecuzione: Akamai Agent Sandbox
Gli agenti AI svolgono sempre più attività reali, dall’intraprendere azioni per conto di un utente alla scrittura e all’esecuzione del proprio codice. Akamai Agent Sandbox offre agli sviluppatori un ambiente sicuro in cui eseguire sia gli agenti sia il codice da loro generato. Gli agenti vengono eseguiti su Akamai Functions, mentre il codice che scrivono viene eseguito in un ambiente isolato dedicato, separato dal runtime dell’agente. Distribuito come componente open source del sistema Spin, Akamai Agent Sandbox utilizza l’isolamento di WebAssembly per impostare limiti chiari su risorse di elaborazione, connessioni di memoria in uscita e funzionalità di sistema. Gli sviluppatori possono distribuire gli agenti con la certezza di sapere dove verranno eseguiti e a cosa potranno accedere.
L’isolamento degli agenti sta convergendo su diversi modelli, dalle microVM con funzionalità snapshot e fork ai container basati sulle policy fino alle funzioni isolate di WebAssembly. Akamai consente agli sviluppatori di scegliere l’architettura più adatta al proprio carico di lavoro, mettendo a disposizione infrastrutture dedicate con accelerazione NVIDIA e CPU dedicate, piattaforme Kubernetes gestite e Akamai Functions per l’esecuzione serverless, sia all’edge sia nel core. Akamai prevede, inoltre, di aggiungere altre funzionalità in grado di gestire ciò a cui gli agenti possono accedere e cosa può accedere ad essi.
Sviluppare e ottimizzare su una serie più ampia di GPU: NVIDIA Blackwell Ultra oggi, Vera Rubin domani
Akamai ha anche ampliato il proprio parco di GPU dedicate per includere i cluster GPU NVIDIA Blackwell Ultra e sta preparando la propria infrastruttura per supportare la piattaforma NVIDIA vera Rubin il prossimo anno. Il parco delle GPU di Akamai comprende ora le GPU NVIDIA RTX PRO™ 6000 Blackwell Server Edition® per inferencing a bassa latenza e i cluster NVIDIA Blackwell Ultra GPU per le aziende che desiderano creare, ottimizzare e ospitare autonomamente i modelli desiderati sull’infrastruttura gestita. Inoltre, Akamai sta preparando i propri data center per supportare la piattaforma NVIDIA Vera Rubin nel 2027.
Ogni nodo Blackwell Ultra con otto GPU dispone di 288 GB di memoria HBM3e per ciascuna GPU (per un totale di 2,3 TB), una quantità sufficiente per ospitare i modelli di frontiera. L’architettura Blackwell Ultra si rivolge ai carichi di lavoro che richiedono un’elevata quantità di memoria: scalabilità in fase di test, ragionamento a catena di pensiero e lavoro agentico a contesto lungo. I cluster di GPU consentono alle aziende di controllare le versioni dei modelli e i tempi di obsolescenza; inoltre, possono essere eseguiti senza limitazioni della velocità o accodamento di tenancy condivisa, quindi si connettono agli stessi servizi di dati, rete e sicurezza degli altri componenti sull’Akamai Cloud.
“Le aziende non devono scegliere tra velocità e controllo quando inseriscono l’AI in fase di produzione”, ha affermato Jon Alexander, Senior Vice President del reparto Cloud Technology di Akamai. “Alcuni team vogliono rendere disponibile già in questo trimestre una funzionalità AI attraverso una piattaforma gestita, altri hanno bisogno di GPU dedicate per gestire i modelli aperti di frontiera in base alle proprie condizioni. Ogni team che esegue gli agenti ha bisogno di stabilire un limite intorno al codice scritto dagli agenti. Akamai Cloud supporta ora tutti questi dispositivi su un’unica piattaforma, con funzionalità integrate di sicurezza e resilienza”.
Disponibilità
Akamai Agent Sandbox (tramite Spin SDK) e Akamai Inference sono disponibili nella versione beta. La versione beta di Akamai Inference include opzioni di distribuzione senza server. Contatta il reparto vendite di Akamai per la disponibilità dei cluster di GPU NVIDIA B300.
