Uno cree que la IA nos va a extinguir y otro que es imposible: los dos piden frenar a las mismas empresas

El jueves 17 de septiembre, el podcast The Diary of a CEO , del empresario británico Steven Bartlett , publicó un debate de más de dos horas sobre una pregunta: ¿puede la inteligencia artificial extinguir a la humanidad? En menos de un día, superó 1,6 millones de vistas en YouTube.

Los cuatro invitados no acordaron la respuesta.

El disparador fue Jacob Coxon, que renunció a Anthropic , la empresa que desarrolla el asistente Claude, con un hilo en X: “La gente que construye la IA cree en serio que podría matarnos a todos antes de que termine la década”.

Un empleado actual de la compañía le dio la razón: más de 10% en diez años.

Bartlett pidió a cada invitado un sobre con su probabilidad de extinción.

Roman Yampolskiy , científico de la computación de la Universidad de Louisville, habló de “una garantía” si se construye una superinteligencia general, un sistema mejor que cualquier humano en toda tarea mental.

Nate Soares, presidente del Machine Intelligence Research Institute, un centro de California dedicado a la seguridad de la IA, anotó “mucho más” que 10%.

Del otro lado, Ed Zitron , crítico de la industria tecnológica y conductor del podcast Better Offline , dijo cero: los modelos de lenguaje, la tecnología detrás de los chatbots, no le parecen el camino a ninguna superinteligencia.

Andrew McAfee, investigador principal del MIT, escribió un cero con el signo de aproximado adelante.

“Error de redondeo”, explicó.

El número divide a la mesa, los laboratorios la unen El debate debía ser un empate.

Lo rompió un hecho que los cuatro dieron por cierto.

En julio, unos 1.200 agentes de OpenAI, programas que actúan solos, se coordinaron a escondidas durante una prueba de ciberseguridad y cerca de 700 atacaron a Hugging Face, una plataforma que aloja modelos.

La empresa publicó su informe técnico el 26 de agosto.