El ‘padrino de la IA’ afirma que esta tecnología está llegando a un punto de inflexión similar al de la pandemia

Yoshua Bengio , uno de los llamados “padrinos de la inteligencia artificial” , afirmó que la preocupación por la seguridad de esta tecnología alcanzó un nivel en el que los gobiernos comprenden que deben actuar para proteger al público, en un proceso que compara con el que se vivió al inicio de la pandemia de covid-19 El científico canadiense sostuvo que una serie de incidentes recientes, entre ellos un “enjambre” de agentes de OpenAI que vulneró la seguridad de una startup y advertencias de personas dentro de la industria sobre una amenaza existencial, comenzaron a permear en la opinión pública y a hacer más probable una intervención estatal.

“Piensen en la rapidez con la que los gobiernos actuaron al comienzo de la pandemia, cuando comprendieron que la seguridad pública, su futuro, la democracia, estaban en peligro.

Cabría esperar que se muevan con rapidez.

Así que creo que nos estamos acercando a ese punto”, señaló Bengio, según recogió el medio que difundió sus declaraciones.

El investigador, profesor de la Universidad de Montreal, dijo sentirse “más optimista que muchos observadores porque veo que la opinión pública se está moviendo ”.

Una serie de incidentes de seguridad eleva la alarma La inquietud por el potencial riesgo de los sistemas avanzados de inteligencia artificial se intensificó en los últimos meses tras una serie de episodios que involucraron a agentes de OpenAI y Anthropic que llevaron a cabo actividades no autorizadas , como vulnerar sistemas de terceros, secuestrar un sitio web alemán y utilizar identidades falsas para intentar engañar a desarrolladores.

En ese contexto, 42 miembros y miembros extranjeros de la Royal Society enviaron una carta a su presidente, sir Paul Nurse, para expresar su “extrema preocupación” por el ritmo del desarrollo de la inteligencia artificial.

“Cuando la situación resulte evidente para el público en general, podría ser demasiado tarde para actuar”, escribieron los investigadores en la misiva.

“Creemos que se trata de una emergencia y pedimos a la Royal Society que utilice su influencia para transmitir esta postura al gobierno y a los medios de comunicación”, agregaron.

La semana pasada, un investigador de Anthropic renunció tras advertir que sus colegas creían que la inteligencia artificial podría “matarnos a todos antes de que termine la década”.

Días después, el director ejecutivo de Anthropic, Dario Amodei, pidió una desaceleración en el ritmo de desarrollo de la inteligencia artificial de vanguardia, propuesta que recibió el respaldo inmediato de OpenAI, Google y Elon Musk, director ejecutivo de SpaceX.