Prueban una tecnología de memoria para reducir las necesidades energéticas de la IA

Un equipo de ingenieros de la Universidad de Texas (Estados Unidos) se ha asociado con la fundición de semiconductores más grande del mundo para fabricar y probar una tecnología de memoria emergente que podría ayudar a afrontar la creciente demanda de energía de la inteligencia artificial.

El trabajo se recoge en 'Science Advances'.

Junto con Taiwan Semiconductor Manufacturing Company (TSMC), los investigadores probaron la memoria SOT-MRAM, un tipo de memoria que puede retener información incluso cuando no hay alimentación eléctrica.

Utiliza propiedades magnéticas, lo que la hace más rápida y, a la vez, consume menos energía que otras tecnologías de memoria.

"La combinación única de velocidad, eficiencia energética y durabilidad hace que la SOT-MRAM sea ideal para aplicaciones de IA, especialmente en dispositivos donde los recursos como la energía y la memoria son limitados", explica Sam Liu, primer autor del nuevo artículo y recién doctorado de la Universidad de Texas en Austin.

"La SOT-MRAM no se había considerado para hardware de IA, ya que solo puede almacenar dos estados, pero la diseñamos para aprovechar el estado binario sin comprometer la precisión".

El equipo de investigación probó los chips en varias tareas de IA, incluyendo inferencia de redes neuronales, entrenamiento de redes neuronales binarias y modelado probabilístico de gráficos.

Estas operaciones de escritura tardaban tan solo 2 nanosegundos (un cambio estándar entre los datos almacenados, de 0 a 1) y consumían apenas 2 picojulios de energía por escritura.

Otras tecnologías de memoria pueden tardar entre 5 y cientos de veces más (varios milisegundos) en realizar estas tareas y consumir cientos de picojulios o más.

La inteligencia artificial y los centros de datos necesarios para su funcionamiento han provocado un rápido aumento de la demanda en Texas y en todo el mundo.

Se prevé que Texas se convierta en la capital estadounidense de los centros de datos en los próximos años, lo que podría multiplicar por cinco el consumo energético estatal.

Existen dos maneras de reducir el impacto energético de la IA: aumentar la eficiencia de la tecnología y disminuir la dependencia de los centros de datos.

Las mejoras en la capacidad de memoria, como la SOT-MRAM, podrían lograr ambos objetivos.

"Demostramos que los aceleradores de IA SOT-MRAM pueden proporcionar la eficiencia energética, con la precisión suficiente, para eventualmente reemplazar a los aceleradores de IA basados ??en CPU en dispositivos periféricos como los sensores", afirma Jean Anne Incorvia, profesora asociada del Departamento de Ingeniería Eléctrica e Informática Chandra Family de la Escuela de Ingeniería Cockrell y líder académica del proyecto.