OpenAI ha revelado su nuevo chip de inferencia, llamado «Jalapeño», y los resultados son sorprendentes. Este innovador componente está diseñado para ejecutar modelos de inteligencia artificial ya entrenados, como los que se utilizan en ChatGPT y otras APIs, logrando superar a los chips Nvidia Blackwell en varias pruebas. La noticia ha llamado la atención de la industria, ya que marca un avance significativo para OpenAI en el competitivo mundo de la IA.
El chip Jalapeño fue evaluado por los analistas de SemiAalysis, quienes encontraron que, en términos de latencia y rendimiento por vatio, Jalapeño destaca frente a sus competidores. Por ejemplo, en ciertas configuraciones, el nuevo chip puede ofrecer hasta 3.6 veces menos latencia y entre 1.5 y 1.9 veces más rendimiento por vatio que los chips de Nvidia. Esta especialización significa que Jalapeño se optimiza para una tarea específica, en lugar de intentar abarcar múltiples funciones como las GPUs tradicionales.
A pesar de su éxito, Jalapeño aún no está completamente optimizado, lo que sugiere que su rendimiento podría mejorar aún más una vez que se implementen técnicas adicionales. Nvidia, por su parte, sigue siendo fuerte en el entrenamiento de modelos y en su ecosistema CUDA, el cual ha estado construyendo durante casi dos décadas. Esto significa que OpenAI seguirá dependiendo de las GPUs de Nvidia para ciertos procesos, aunque su avance con Jalapeño les ofrece una mayor independencia en la inferencia.
La competencia en el campo de la inferencia de IA se intensifica, con otras grandes tecnológicas como Google y Amazon desarrollando sus propios chips especializados. Aunque Nvidia sigue dominando el sector de entrenamiento, la llegada de Jalapeño y otros chips similares podría cambiar el panorama. Por ahora, OpenAI se enfoca en utilizar su chip en su propia infraestructura, buscando reducir costos y depender menos de Nvidia.
