Snowflake, l’AI Data Cloud company, ha annunciato l’aggiunta del dynamic model routing² all’interno di Cortex AI Gateway e dei suoi prodotti AI di punta, insieme all’ampliamento dell’accesso ai principali modelli open source. In questo modo, le aziende possono ridurre la spesa AI e migliorare quella che Snowflake definisce “intelligence efficiency”, misurando con quale efficacia trasformano calcolo, modelli, dati e contesto in impatto aziendale.
Le nuove funzionalità si basano su Cortex AI Gateway, che Snowflake ha annunciato come fondamento unificato per governare le connessioni tra agenti, indirizzare le richieste in maniera intelligente e ottimizzare il consumo di AI. L’aumento di app e agenti AI in produzione pone le aziende davanti a un bivio: utilizzare lo stesso modello per ogni attività, con la possibilità che i costi aumentino, oppure valutare e gestire un mix crescente di modelli, generando però un maggiore lavoro per i team di sviluppo. Snowflake sta affrontando entrambe le sfide cercando di automatizzare la selezione dei modelli e offrendo ai clienti l’accesso a una gamma più ampia di modelli open source e proprietari.
Con l’aggiunta del routing dinamico tra modelli, Cortex AI Gateway può selezionare automaticamente il modello che offre il miglior equilibrio tra qualità e costo per l’attività da svolgere. Il routing dinamico tra modelli è inoltre integrato in tutti i principali prodotti AI di Snowflake, inclusi Snowflake CoCo e Snowflake CoWork, ed è disponibile per gli agenti AI di terze parti che utilizzano Cortex AI Gateway. Questa nuova funzionalità indirizza le attività meno complesse o ripetitive verso modelli più efficienti, mentre il lavoro che richiede un approccio più articolato viene affidato a modelli più avanzati. Ciò aiuta i clienti a ridurre la spesa di inferenza non necessaria, senza dover gestire personalmente la selezione del modello per ogni richiesta. Snowflake espanderà anche l’accesso dei clienti ai principali modelli open source, tra cui DeepSeek-V4-Flash 0731¹ e GLM-5.3³, attraverso Snowflake Cortex AI. L’ampliamento della libreria dei modelli offrirà ai clienti ulteriori opzioni per bilanciare qualità e costo del modello, mantenendo i dati governati al sicuro all’interno di Snowflake.
Le ultime innovazioni di Snowflake danno alle aziende un maggiore controllo sull’economia dell’AI man mano che il suo utilizzo si espande, aiutandole ad aumentare l’efficienza in maniera intelligente, abbinando ogni attività al modello giusto e riducendo la spesa non necessaria.
“Le aziende stanno diventando molto più rigorose quando si parla di economia dell’AI. Non sono più attente solo a quanta AI utilizzano, ma a quanto valore aziendale genera quell’AI,” ha affermato Sridhar Ramaswamy, CEO di Snowflake. “Raggiungere l’intelligence efficiency richiede la flessibilità di poter utilizzare il modello migliore per ogni attività man mano che il panorama evolve. Spetta a Snowflake assorbire quella complessità in modo che i clienti possano concentrarsi sui risultati mentre noi ottimizziamo la scelta del modello sottostante.”
Cortex AI Gateway abbassa il costo dell’AI grazie alla scelta del modello
L’aggiunta del routing dinamico tra modelli in Cortex AI Gateway è progettata per aiutare le aziende a utilizzare i modelli più avanzati, e quindi più costosi, solo quando possono realmente migliorare un risultato attraverso Snowflake CoCo, Snowflake CoWork e agenti AI di terze parti. Oltre a selezionare automaticamente un modello per ogni richiesta, il routing dinamico offre ai clienti il controllo sui modelli e fornitori disponibili per gli utenti. Questo è particolarmente importante per le organizzazioni globali con modelli disponibili a livello regionale, oppure per i settori regolamentati che devono sottostare a specifici requisiti di conformità. Inoltre, va considerato che le prestazioni dei modelli, e di conseguenza i loro prezzi, cambiano continuamente. Cortex AI Gateway è in grado di aggiornare le decisioni di routing verso i prodotti AI di Snowflake come Snowflake CoCo e Snowflake CoWork, in modo che i clienti non debbano ricostruire le loro app o gli agenti AI ogni volta. Questo consente alle aziende di sfruttare le nuove capacità di ogni modello man mano che emergono, mentre Snowflake gestisce la complessità della scelta e l’ottimizzazione del modello sottostante.
I test interni di Snowflake indicano che l’utilizzo di un mix di modelli open source e proprietari per varie attività può mantenere la stessa qualità migliorando concretamente l’efficienza dei token. In uno dei test, gli agenti AI che utilizzano il routing dinamico tra modelli con Cortex AI Gateway hanno costruito una pipeline dbt con un’efficienza dei token fino a 3 volte superiore e qualità analoga rispetto a un percorso basato solo su modelli avanzatità. In un altro test, i team di ingegneria hanno completato lo stesso numero di pull-request con un’efficienza dei token superiore del 25%⁴.
Snowflake introduce nuovi modelli open source per i dati aziendali governati
Con l’obiettivo di offrire ai clienti maggiore libertà di scegliere la giusta combinazione di prestazioni e costo per ogni carico di lavoro, Snowflake aggiungerà DeepSeek-V4-Flash 0731 e GLM-5.3 al portfolio crescente di modelli disponibili in Cortex AI, Snowflake CoCo e Snowflake CoWork, dopo i modelli di altri fornitori, tra cui Anthropic, OpenAI, Google, SpaceXAI, Meta e Mistral.
Invece di trattare ogni rilascio di modello open source come un’integrazione a sé stante, Snowflake sta costruendo un ambiente progettato per tenere il passo con la rapida evoluzione dell’ecosistema di modelli open source. Snowflake valuta e ottimizza continuamente il modo in cui questi modelli vengono forniti e utilizzati nei suoi prodotti AI, aiutando i clienti a sfruttare i progressi di questo ecosistema senza dover rielaborare ripetutamente le loro app o infrastrutture. Di conseguenza, i clienti possono beneficiare di modelli più nuovi e capaci, applicando controlli di accesso e governance coerenti sia alle opzioni open source che proprietarie.
In particolare, il team di ricerca AI di Snowflake ha valutato DeepSeek-V4-Flash su attività focalizzate sull’enterprise, con test recenti che mostrano come abbia superato i principali modelli proprietari utilizzati per la valutazione, ottenendo un punteggio del 74,4% sulle attività di data engineering. Anche GLM-5.2 ha ottenuto prestazioni elevate con un punteggio pari a 62,8%, utilizzando un numero inferiore di token rispetto a qualsiasi altro modello testato⁵. Questi risultati dimostrano che i modelli open source sono sempre più capaci di supportare attività mission-critical a costi inferiori.
Snowflake aiuta le aziende a migliorare l’efficienza dell’intelligenza artificiale su larga scala
Il crescente utilizzo dei modelli nelle app e negli agenti AI aziendali rende necessario migliorare l’intelligence efficiency, attraverso visibilità e controllo su come vengono consumate le risorse AI. Cortex AI Gateway offre agli amministratori visibilità sull’utilizzo dei token e sui costi, consentendo alle organizzazioni di stabilire limiti di spesa per le app e gli agenti AI. Snowflake CoCo estende questi controlli attraverso il framework esistente di accesso basato sui ruoli e tagging di Snowflake, permettendo agli amministratori di impostare modelli predefiniti, attribuire l’utilizzo a team o centri di costo, stabilire quote per utente e ricevere notifiche man mano che il consumo si avvicina ai limiti definiti.
Abbinate al routing dinamico tra i modelli e all’espansione della scelta dei modelli, queste funzionalità offrono alle aziende un maggiore controllo sulla loro economia dell’AI. Le organizzazioni possono abbinare automaticamente i carichi di lavoro ai modelli giusti, sfruttare nuove opzioni di modello man mano che emergono e gestire come vengono consumate le risorse AI all’interno dell’azienda. Questo aiuta a migliorare l’efficienza mantenendo la governance affidabile di Snowflake e conservando la proprietà dei dati e del contesto aziendale.
Note
¹ Il prodotto Snowflake è ora in private preview.
² Il prodotto Snowflake sarà presto in private preview.
³ Il prodotto Snowflake sarà presto in private preview, ma è soggetto a modifiche in base alla disponibilità del modello.
⁴ Risultati basati su test interni Snowflake; metodologia e condizioni disponibili su richiesta. I risultati individuali possono variare in base al carico di lavoro e alla configurazione.
⁵ Punteggio di efficienza basato su test interni utilizzando ADE-bench, un framework creato da dbt per valutare gli agenti AI su attività reali di analytics e data engineering.
