OpenAI diz que seu chip Jalapeño pode acelerar respostas de IA

A OpenAI afirma que seu chip de IA Jalapeño, desenvolvido em parceria com a Broadcom para tarefas de inferência, oferece menor latência e maior throughput. Em testes na plataforma InferenceX, o chip realizou de 1,5 a 1,9 vez mais trabalho por watt e apresentou latência de ponta a ponta de 1,7 a 3,6 vezes menor que os melhores resultados registrados com superchips Nvidia GB200 ou GB300 em três modelos de IA.

A empresa planeja começar a implantar o Jalapeño em pequenos volumes até o fim deste ano e aumentar a produção em 2027. Segundo Richard Ho, a OpenAI não pretende substituir toda a sua linha de chips e continuará trabalhando com parceiros como a Nvidia, além de desenvolver uma segunda e uma terceira geração do chip.