ARMONK, N.Y. e MOUNTAIN VIEW, Calif., 20 ottobre 2025 /PRNewswire/ -- IBM (NYSE: IBM) e Groq hanno annunciato una partnership strategica commerciale e tecnologica progettata per offrire ai clienti accesso immediato alla tecnologia di inferenza di Groq, GroqCloud, su watsonx Orchestrate – fornendo capacità di inferenza AI ad alta velocità a un costo che aiuta ad accelerare la distribuzione di agenti AI. Come parte della collaborazione, Groq e IBM prevedono di integrare e migliorare la tecnologia open source vLLM di Red Hat con l’architettura LPU di Groq. È inoltre previsto il supporto dei modelli IBM Granite su GroqCloud per i clienti IBM.

Le aziende che passano dalla fase pilota alla produzione degli agenti AI affrontano ancora sfide legate a velocità, costi e affidabilità, soprattutto nei settori critici come sanità, finanza, pubblica amministrazione, commercio e manifattura. Questa partnership combina la velocità di inferenza, l’efficienza dei costi e l’accesso ai più recenti modelli open source di Groq con l’orchestrazione di agenti AI di IBM, per fornire l’infrastruttura necessaria alle imprese nel processo di scalabilità.

Grazie al suo LPU personalizzato, GroqCloud offre un’inferenza 5 volte più veloce ed economica rispetto ai sistemi GPU tradizionali. Il risultato è una latenza costantemente bassa e prestazioni affidabili, anche con carichi di lavoro su scala globale. Questo è particolarmente potente per l’AI agentica nei settori regolamentati.

Ad esempio, i clienti del settore sanitario di IBM ricevono contemporaneamente migliaia di domande complesse dai pazienti. Con Groq, gli agenti AI di IBM possono analizzare le informazioni in tempo reale e fornire immediatamente risposte accurate, migliorando l’esperienza dei clienti e permettendo alle organizzazioni di prendere decisioni più rapide.

Questa tecnologia viene applicata anche nei settori non regolamentati. I clienti IBM nei settori retail e dei beni di largo consumo utilizzano Groq per agenti HR, con l’obiettivo di migliorare l’automazione dei processi HR e aumentare la produttività dei dipendenti.

 “Molte grandi organizzazioni hanno varie opzioni di inferenza AI durante la fase di sperimentazione, ma quando vogliono passare alla produzione, devono assicurarsi che i flussi di lavoro complessi possano essere distribuiti con successo per garantire esperienze di alta qualità,” ha dichiarato Rob Thomas, SVP, Software e Chief Commercial Officer di IBM. “La nostra partnership con Groq sottolinea l’impegno di IBM a fornire ai clienti le tecnologie più avanzate per raggiungere la distribuzione dell’AI e generare valore di business.”

“Con la velocità di Groq e l’esperienza aziendale di IBM, stiamo rendendo l’AI agentica reale per il business. Insieme, diamo la possibilità alle organizzazioni di utilizzare tutto il potenziale delle risposte guidate dall’AI con le prestazioni necessarie per scalare,” ha dichiarato Jonathan Ross, CEO e fondatore di Groq. “Oltre alla velocità e alla resilienza, questa partnership riguarda la trasformazione del modo in cui le imprese lavorano con l’AI, passando dalla sperimentazione all’adozione su scala aziendale con fiducia, e aprendo la strada a nuovi modelli in cui l’AI può agire istantaneamente e apprendere continuamente.”

IBM offrirà subito l’accesso alle funzionalità di GroqCloud e i team congiunti si concentreranno sulla fornitura ai clienti IBM delle seguenti capacità, tra cui:

•    Inferenza ad alta velocità e ad alte prestazioni per sbloccare tutto il potenziale dei modelli AI e dell’AI agentica, abilitando casi d’uso come assistenza clienti, supporto ai dipendenti e miglioramento della produttività.

•    Distribuzione AI orientata a sicurezza e privacy progettata per soddisfare i requisiti normativi e di sicurezza più rigorosi, consentendo l’esecuzione efficace di flussi di lavoro complessi.

•    Integrazione fluida con il prodotto agentico di IBM, watsonx Orchestrate, offrendo ai clienti la flessibilità di adottare modelli agentici specifici per i diversi casi d’uso.

La partnership prevede inoltre di integrare e migliorare la tecnologia open source vLLM di Red Hat con l’architettura LPU di Groq per offrire approcci differenti alle sfide comuni che gli sviluppatori AI affrontano durante l’inferenza. La soluzione dovrebbe consentire a watsonx di far leva sulle funzionalità in un modo più semplice e permettere ai clienti di utilizzare i loro tool preferiti, accelerando allo stesso tempo l’inferenza con GroqCloud. Questa integrazione affronterà esigenze chiave degli sviluppatori AI, tra cui orchestrazione dell’inferenza, bilanciamento del carico e accelerazione hardware, semplificando in definitiva il processo di inferenza.

Insieme, IBM e Groq offrono un accesso potenziato a tutto il potenziale dell’AI aziendale, veloce, intelligente e costruito per avere un impatto concreto nel mondo reale.

Le dichiarazioni riguardanti le future direzioni e intenzioni di IBM e Groq sono soggette a modifiche o revoche senza preavviso e rappresentano solo obiettivi e intenzioni.

IBM
IBM è fornitore globale leader di cloud ibrido, intelligenza artificiale e competenze di consulenza. Aiuta i clienti in oltre 175 paesi a valorizzare le informazioni ricavate dai loro dati, ottimizzare i processi aziendali, ridurre i costi e ottenere un vantaggio competitivo nei loro settori. Più di 4.000 imprese pubbliche e private che operano in settori chiave dell’economia, come servizi finanziari, telecomunicazioni e sanità, si affidano alla piattaforma cloud ibrida IBM e Red Hat OpenShift per realizzare i loro progetti di trasformazione digitale in modo rapido, efficiente e sicuro. Le innovazioni di IBM nell'intelligenza artificiale, nell'informatica quantistica, nelle soluzioni cloud specifiche di settore e nella consulenza offrono alle imprese opzioni di offerta aperte e flessibili tra cui scegliere. Tutto questo è supportato dall'attenzione e impegno di lunga data di IBM verso i valori di fiducia, trasparenza, responsabilità, inclusione e servizio. Visitare ibm.com/it-it per maggiori informazioni.

LinkedIn: IBM

Groq
Groq è l’infrastruttura di inferenza che alimenta l’AI con la velocità e il costo necessari. Fondata nel 2016, Groq ha sviluppato la LPU e GroqCloud per rendere l’elaborazione più veloce e accessibile. Oggi Groq è utilizzata da oltre due milioni di sviluppatori in tutto il mondo ed è una parte fondamentale dell’American AI Stack.

Contatti IBM:
Titti Garau - External Relations, IBM Italy
email: titti_garau@it.ibm.com
mobile:335 7248411