Chip Jalapeño co-desenvolvido pela OpenAI e Broadcom será implantado no final de 2026

De acordo com pt.wedoany.com-O chip de inferência Jalapeño, desenvolvido em colaboração entre a OpenAI e a Broadcom, está programado para iniciar a implantação em pequena escala no final de 2026. Ho estima que, na fase inicial, a implementação ocorrerá "em volumes muito pequenos", com uma implantação em maior escala prevista para 2027. Seu desempenho será comparado ao sistema Blackwell da Nvidia, mas quando o Jalapeño estiver totalmente difundido, os produtos concorrentes poderão ter avançado significativamente.

O Jalapeño foi anunciado publicamente pela primeira vez em outubro do ano passado, tendo sido desenvolvido em estreita colaboração entre a OpenAI e a Broadcom, com os próprios modelos da OpenAI participando do processo de desenvolvimento. A empresa planeja transformar o Jalapeño em uma plataforma multigeracional, permitindo que produtos de IA, modelos, chips e memória sejam desenvolvidos de forma integrada.

Essa abordagem full-stack permite que a OpenAI otimize estágios específicos do processo de inferência que causam atrito. O design do Jalapeño concentra-se em minimizar a latência nas fases de prefill e comunicação, que a OpenAI aponta como os principais gargalos da inferência.

"Projetamos o Jalapeño para minimizar a movimentação de dados e a latência de comunicação", afirmou a empresa em uma postagem no blog apresentando os resultados. "Isso significa que o estado do modelo, incluindo o cache KV usado para gerar respostas, pode ser explicitamente posicionado e mantido localizado, enquanto o sistema ativa a combinação correta de computação, memória e rede para cada estágio de inferência."