Red Hat, fornitore di soluzioni open source, estende la sua collaborazione collaborazione con Amazon Web Services (AWS) con l’obiettivo di potenziare l’intelligenza artificiale generativa di livello aziendale (gen AI) su AWS con Red Hat AI e AWS AI silicon. In questo modo, Red Hat fornisce ai responsabili delle decisioni IT la flessibilità necessaria per eseguire inferenze AI efficienti e ad alte prestazioni su larga scala, indipendentemente dall’hardware sottostante.
L’ascesa della gen AI e la conseguente necessità di un’inferenza scalabile stanno spingendo le organizzazioni a rivalutare la propria infrastruttura IT. A tal proposito IDC prevede che “entro il 2027, il 40% delle organizzazioni utilizzerà chip personalizzati, inclusi processori ARM o chip specifici per AI/ML, per soddisfare le crescenti esigenze di ottimizzazione delle prestazioni, efficienza dei costi e calcolo specializzato”.[1] Questa tendenza sottolinea la necessità di disporre di soluzioni ottimizzate in grado di migliorare la potenza di elaborazione, ridurre al minimo i costi e consentire cicli di innovazione più rapidi per applicazioni AI ad alte prestazioni.
La collaborazione di Red Hat con AWS offre alle aziende una strategia gen AI a tutto tondo, combinando le funzionalità complete della piattaforma Red Hat con l’infrastruttura cloud AWS e i chipset AI AWS Inferentia2 e AWS Trainium3.
Gli aspetti chiave della collaborazione tra Red Hat e ServiceNow includono:
- Red Hat AI Inference Server su chip AWS AI: Red Hat AI Inference Server, basato su vLLM, potrà essere eseguito con i chip AWS AI, tra cui AWS Inferentia2 e AWS Trainium3, per fornire un livello di inferenza comune in grado di supportare qualsiasi modello di intelligenza artificiale generativa e consentire ai clienti di ottenere prestazioni più elevate, minore latenza e convenienza economica per il ridimensionamento delle implementazioni AI di produzione, con un rapporto prezzo/prestazioni fino al 30-40% inferiore rispetto alle attuali istanze comparabili Amazon EC2 basate su GPU.
- Abilitazione dell’AI su Red Hat OpenShift: Red Hat ha collaborato con AWS per sviluppare un operatore AWS Neuron Operator per Red Hat OpenShift, Red Hat OpenShift AI e Red Hat OpenShift Service su AWS, una piattaforma applicativa completa e completamente gestita su AWS, che fornisce ai clienti un percorso più fluido e supportato per eseguire carichi di lavoro AI con gli acceleratori AWS.
- Facilità di accesso e implementazione: grazie al supporto dei chip AI di AWS, Red Hat offrirà ai clienti Red Hat su AWS un accesso migliore e più semplice agli acceleratori ad alta capacità e high-demand. Inoltre, Red Hat ha recentemente rilasciato la collezione Ansible certificata amazon.ai per Red Hat Ansible Automation Platform per consentire l’orchestrazione dei servizi AI su AWS.
- Contributo alla comunità upstream: Red Hat e AWS stanno collaborando per ottimizzare un plugin AWS AI chip in upstream su vLLM. Come principale contributore commerciale a vLLM, Red Hat si impegna ad abilitare vLLM su AWS per accelerare l’inferenza e l’addestramento dell’AI. vLLM è anche alla base di llm-d, un progetto open source incentrato sulla fornitura di inferenze su larga scala e ora disponibile come funzionalità supportata commercialmente in Red Hat OpenShift AI 3.
Red Hat vanta una lunga storia di collaborazione con AWS volta a supportare i clienti dal data center fino all’edge. Questo più recente annuncio mira ora a rispondere alle esigenze in continua evoluzione delle organizzazioni che integrano l’AI nelle loro strategie di cloud ibrido per ottenere risultati gen AI ottimizzati ed efficienti.
“Abilitando il nostro Red Hat AI Inference Server di livello enterprise basato sull’innovativo framework vLLM con i chip AWS AI, consentiamo alle aziende di implementare e scalare i carichi di lavoro AI con maggiore efficienza e flessibilità”, commenta Joe Fernandes, Vice President e General Manager, AI Business Unit, Red Hat. “Facendo tesoro della tradizione open source di Red Hat, questa collaborazione mira a rendere l’AI generativa più accessibile ed economica in tutti gli ambienti cloud ibridi”.
“Le aziende richiedono soluzioni che offrano prestazioni eccezionali, efficienza dei costi e libertà di scelta operativa per i carichi di lavoro AI mission-critical”, aggiunge Colin Brace, Vice President, Annapurna Labs, AWS. “AWS ha progettato i chip Trainium e Inferentia per rendere l’inferenza e l’addestramento dell’AI ad alte prestazioni più accessibili ed economici. La nostra collaborazione con Red Hat fornisce ai clienti un percorso supportato per l’implementazione della gen AI su larga scala , combinando la flessibilità dell’open source con l’infrastruttura AWS e acceleratori AI appositamente progettati per accelerare il time-to-value dalla fase pilota alla produzione”.
Disponibilità
L’operatore comunitario AWS Neuron è ora disponibile in Red Hat OpenShift OperatorHub per i clienti che utilizzano Red Hat OpenShift o Red Hat OpenShift Service su AWS. Si prevede che il supporto di Red Hat AI Inference Server per i chip AI AWS sarà disponibile in anteprima per gli sviluppatori a gennaio 2026.
[1] IDC FutureScape: Worldwide Cloud 2025 Predictions, October 28, 2024, Doc #US52640724
