Amazon pide que los modelos de IA lleguen al público solo cuando “estén listos y sean seguros”

Amazon considera que los modelos de inteligencia artificial deben llegar al público únicamente después de superar pruebas rigurosas y contar con medidas de seguridad suficientes.

La compañía sostiene que el avance tecnológico y la seguridad no tienen por qué ser objetivos enfrentados y defiende que los nuevos sistemas deben lanzarse cuando estén preparados para ser utilizados.

“No lo consideramos una disyuntiva entre el progreso y la seguridad”, afirmó Tom Parnell, portavoz de Amazon, en declaraciones recogidas por Reuters.

El ejecutivo explicó que los modelos deben lanzarse cuando “estén listos y sean seguros de usar” , algo que, según la compañía, requiere pruebas exhaustivas y mecanismos de protección sólidos.

La posición de Amazon se produce en un momento en el que las principales empresas de inteligencia artificial mantienen un debate sobre la velocidad con la que deben desarrollarse y poner en circulación los modelos más avanzados.

Algunos laboratorios han planteado la necesidad de reducir el ritmo de desarrollo para disponer de más tiempo para evaluar los riesgos y reforzar los sistemas de seguridad.

Amazon no ve una elección entre progreso y seguridad La compañía considera que desarrollar modelos más capaces y garantizar que sean seguros son procesos que deben avanzar conjuntamente.

Parnell señaló que existen riesgos cuando el desarrollo de nuevos sistemas no está acompañado de pruebas y medidas de protección adecuadas .

Por ello, Amazon apuesta por evaluar los modelos antes de ponerlos a disposición de los usuarios.

La empresa también considera necesaria la colaboración entre el sector tecnológico y los gobiernos para establecer mecanismos de protección adecuados frente a los riesgos asociados a la inteligencia artificial.

La postura implica que la seguridad no debería abordarse como una etapa posterior al lanzamiento de un modelo .

En cambio, las pruebas y los controles deberían formar parte del proceso necesario para determinar cuándo un sistema está preparado para llegar al público.

La compañía tiene vínculos con los grandes laboratorios de IA La posición de Amazon tiene especial relevancia por su relación con algunas de las compañías que desarrollan los modelos de inteligencia artificial más avanzados.

Amazon es socio e inversor de OpenAI y Anthropic, dos de los principales laboratorios de IA del sector .