OpenAI, Anthropic y Google DeepMind van por ente que supervise a la IA

Nueva York.— OpenAI , Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos asociados a la inteligencia artificial , en medio de crecientes llamados a mejorar los controles de esta tecnología.

La idea de una entidad de supervisión fue propuesta en julio por Demis Hassabis, cofundador y director general de Google DeepMind.

Hassabis sugirió la creación de una entidad similar a la Autoridad de Regulación de la Industria Financiera de Estados Unidos , un órgano de autorregulación del sector.

“La financiación tendría que ser cuantiosa y provenir probablemente en gran parte de la industria”, escribió el directivo.

Las preocupaciones sobre la seguridad de la inteligencia artificial (IA) se han intensificado en las últimas semanas.

Dos trabajadores renunciaron a importantes desarrolladoras de IA al advertir la amenaza contra la humanidad que implica esta industria.

Bilal Chughtai, un exinvestigador de Google DeepMind que trabajó en la seguridad de la inteligencia artificial general (IAG), se sumó a las advertencias.

“En Google fui testigo directo del desarrollo de la IA.

Yo también estoy sumamente preocupado por la trayectoria que esta tecnología sigue por defecto”, dijo Chughtai, quien trabajó como ingeniero de investigación en seguridad y alineación de inteligencia artificial general en DeepMind desde principios de 2022.

El ingeniero se refirió al incidente en el que agentes de IA de OpenAI escaparon del control de la compañía para hackear de forma autónoma a la empresa externa HuggingFace, para avizorar una situación “aún más caótica”.

“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”, escribió.

Bill Gates, cofundador de Microsoft, dijo que “este es un caso raro en el que la innovación puede ser tan amplia y tan dramática que no estamos preparados para ella”, por lo que llamó a ralentizar las cosas.

Los grandes actores de la IA llevan meses pidiendo al gobierno estadounidense para que regule el sector y supervise la seguridad del mismo.

Sin embargo, ayer mismo el fiscal general de Estados Unidos, Todd Blanche, descartó que el Departamento de Justicia vaya a tomar medidas para regular la IA.