OpenAI revela cómo diseñó el chip Jalapeño, su primer circuito personalizado de inteligencia artificial

OpenAI utilizó sus propios modelos de IA para acelerar el diseño de Jalapeño , su primer chip de inteligencia artificial.

El proyecto pasó de una arquitectura inicial al primer chip en menos de 20 meses , mientras que entre la creación del primer código RTL y su fabricación transcurrieron apenas nueve meses.

Jalapeño ofrece hasta 13,4 petaflops de capacidad de cómputo en precisión de 4 bits y puede acceder a 232 GB de memoria avanzada a una velocidad de hasta 15,4 terabytes por segundo.

En las pruebas citadas por OpenAI, el chip redujo hasta 3,6 veces la latencia de extremo a extremo frente al GB300 de Nvidia , aunque todavía está por comprobarse cómo se traducirán estos resultados en el funcionamiento de los sistemas de OpenAI a gran escala.

Más allá de sus características técnicas, el proyecto destaca por la forma en que la compañía utilizó la IA durante el propio proceso de creación del hardware.

La IA aceleró el diseño del chip El equipo encargado de Jalapeño tuvo una media inferior a 100 personas durante el desarrollo.

OpenAI se ocupó del diseño completo del sistema, incluido el acelerador de inferencia, la jerarquía de memoria y la red de interconexión , mientras que Broadcom colaboró principalmente en el diseño físico y la fabricación.

Los ingenieros utilizaron modelos de IA para acelerar tareas que tradicionalmente requieren numerosas iteraciones .

Una de las herramientas centrales fue Accelerated Hardware Synthesis, conocida como XLS, una plataforma de código abierto desarrollada originalmente en Google.

XLS permite describir determinados componentes del hardware mediante lenguajes más cercanos a la programación convencional y convertirlos posteriormente en Verilog, un lenguaje utilizado para definir circuitos electrónicos.

Este tipo de flujo resultó especialmente adecuado para los modelos de lenguaje porque buena parte del trabajo podía expresarse mediante código .

Los ingenieros podían pedir a los modelos que analizaran, modificaran o generaran partes del diseño y después comprobar los resultados.

Los modelos también ayudaron con las pruebas La utilización de IA no terminó cuando los primeros chips salieron de la fábrica.

Cuando las primeras unidades regresaron de la fundición en mayo, el equipo utilizó modelos internos para desarrollar software destinado a comprobar su rendimiento.