Chip OpenAI Jalapeño: benchmark di efficienza contro Nvidia GB300

OpenAI ha portato a Hot Chips il 25 agosto 2026 i primi numeri pubblici su Jalapeño, l’ASIC di inferenza sviluppato in casa con Broadcom. Non è più solo una slide di roadmap: Richard Ho, head of hardware di OpenAI, ha presentato risultati su SemiAnalysis InferenceX che, secondo TechCrunch e TechTimes, puntano a più token per utente e più throughput per kilowatt rispetto ai processori di inferenza di punta sul mercato.

Per chi segue costi cloud, gadget AI e la rivalità Nvidia, il messaggio è concreto: la corsa al silicio non è solo GPU di training, ma efficienza misurabile in produzione di inferenza. Rocks legge questi numeri come segnale di mercato, non come scheda acquisto datacenter.

Cosa dicono i benchmark citati

La sintesi di TechTimes sui dati OpenAI/SemiAnalysis parla di 1,5–1,9× più lavoro AI per watt al picco di throughput e di 1,7–3,6× meno latenza end-to-end rispetto a sistemi Nvidia GB200/GB300, su tre modelli open. Jalapeño è indicato intorno ai ~700 W, sotto il rating degli acceleratori Nvidia usati nel confronto. Sono claim forti, e vanno letti nel perimetro dichiarato dalle fonti di stampa.

Attenzione al metodo: SemiAnalysis ha verificato alcune run nel laboratorio OpenAI, ma i risultati restano forniti da OpenAI. Non è un audit indipendente a doppio cieco su rack di terzi. Per Rocks significa: utile confronto Hot Chips, non ancora verdetto definitivo sul TCO di un hyperscaler o sul prezzo al token per gli utenti finali.

Architettura: meno spostamento dati

Secondo TechCrunch, Jalapeño è pensato per minimizzare il data movement e tenere la KV cache in locale durante l’inferenza. È la leva tipica dei custom ASIC: meno traffico off-chip, più token utili a parità di energia. Broadcom entra come partner di co-sviluppo, non come semplice foundry di marketing. Ho ha parlato di un avanzamento «significativo» su InferenceX rispetto allo stato dell’arte dei processori di inferenza.

Quando arriva in volume

Ho ha stimato un deployment a volume molto piccolo a fine 2026 e un rollout più ampio nel 2027. Oggi contano i watt e la latenza dichiarati; la disponibilità reale nei data center clienti arriverà a scaglioni. Per i lettori che pagano API e cloud AI, il tema da seguire è se il vantaggio 1,5–1,9× regge fuori dal lab e su workload misti.

In sintesi, Jalapeño sposta la narrazione da «chip OpenAI vaporware» a «numeri Hot Chips da confrontare con Blackwell». I prossimi test indipendenti e i primi cluster fuori dal perimetro OpenAI diranno quanto del claim resta in produzione reale.

Source: TechCrunch · TechTimes · TechRadar