Google pide un marco regulatorio global para prevenir desastres: “la IA exige políticas públicas”, Demis Hassabis

Demis Hassabis, presidente de Google DeepMind, el laboratorio de investigación y desarrollo de inteligencia artificial (IA) de Google , respaldó la advertencia de líderes del sector como Dario Amodei , director ejecutivo de Anthropic; Elon Musk, al frente de SpaceX; y Sam Altman, fundador de OpenAI, sobre los riesgos de acelerar el desarrollo de la IA sin controles.

La posición del científico británico coincide con la propuesta de Amodei de moderar el ritmo de mejora de las capacidades de los sistemas.

“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA.

El progreso seguirá rápido, y debemos aprovechar sabiamente el tiempo que ganamos”, sostuvo el jefe de Anthropic.

Para Hassabis, “el ensayo de Dario apunta al camino correcto a seguir.

Aún quedan detalles por definir , pero la dirección es la adecuada para afrontar este momento crucial”.

Por qué el directivo de Google considera que este es un momento decisivo Hassabis sostuvo que la humanidad atraviesa una etapa que puede redefinir su relación con la tecnología.

Según su proyección, la llegada de la Inteligencia Artificial General (IAG), entendida como un sistema con capacidades cognitivas comparables a las del cerebro humano, podría producirse en un plazo cercano.

El directivo afirmó que las próximas décadas permitirán dimensionar este período como el inicio de una transformación de gran alcance.

“Cuando miremos atrás en las próximas décadas, creo que nos daremos cuenta de que estábamos en los albores de la singularidad”, expresó.

Cuáles son los riesgos que preocupan a los líderes tecnológicos Amodei señaló que el poder de los modelos actuales y futuros plantea amenazas que no pueden tratarse como efectos secundarios menores.

“Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves”, afirmó el director ejecutivo de Anthropic.

El empresario enumeró la pérdida de control sobre sistemas de IA , el uso de estas herramientas en ciberataques y bioterrorismo, además de posibles trastornos económicos.

Hassabis coincidió en que los avances de frontera ya abren desafíos para la ciberseguridad y pueden ampliar riesgos nucleares y biológicos.