¿La IA puede escaparse del control humano? Especialistas analizaron las advertencias de un exempleado de Anthropic

La posibilidad de que los sistemas de inteligencia artificial alcancen capacidades que sus creadores no puedan comprender ni controlar generó una fuerte discusión dentro de la industria tecnológica esta semana después de que Jacob Coxon , exempleado de OpenAI y Anthropic, declarara que la IA podría matarnos a todos a finales de esta década.

Evan Hubinger, exjefe de Coxon y actual investigador en Anthropic, respaldó públicamente parte de sus afirmaciones y reconoció que todavía no existe un plan para garantizar que una futura superinteligencia actúe de acuerdo con los objetivos humanos.

Esta secuencia expuso una discusión que atraviesa a toda la industria : los sistemas avanzan con rapidez y sus propios desarrolladores admiten que todavía no saben cómo controlar todas las capacidades que podrían adquirir.

Un exempleado de la compañía alertó que la IA podría causar una catástrofe antes de que termine la década. (Imagen: ChatGPT) Ahora, el tema escaló y la pregunta que preocupa no solo al ecosistema tecnológico, sino a toda la sociedad, es qué tan realistas son estas advertencias .

“Yo creo que estos avisos deben ser tomados en serio, principalmente porque provienen de personas que participaron directamente en el desarrollo de estos modelos y conocen el funcionamiento interno de las compañías”, expresó a TN Tecno Facundo Díaz, especialista en inteligencia artificial y fundador de la empresa de computación cuántica /q99.

En la misma línea, Michael Raynolds, experto en inteligencia artificial y analista en política tecnológica con una trayectoria en startups en Estados Unidos, con quien TN Tecno conversó sobre este tema, aseguró que, a pesar de que las preocupaciones en el sector son reales, se debe tener cuidado con la forma en que se habla de estos riesgos : “Hoy no estamos 100% seguros de si la IA llegará a ser peligrosa o se nos escapará de las manos.

Pero lo que sí sabemos es que estos sistemas cada día ganan capacidad, a un ritmo vertiginoso, y a veces, se comportan de formas que no habíamos previsto.

Yo no entraría en pánico, por ahora, pero tampoco ignoraría las advertencias ”.

Por su parte, Anupam Singh, especialista en IA en Roblox, limitó su opinión al uso de la inteligencia artificial dentro de la plataforma y, en particular, a la creación de videojuegos: “Todo el mundo está hablando de esto esta semana.

Leo mucho sobre el tema y creo que en este momento hay mucho intento de generar titulares ”, afirmó a TN Tecno .

Desde su experiencia cotidiana con estas herramientas, Singh no observa un riesgo inmediato en ese ámbito y puso el foco en el trabajo necesario para incorporar la tecnología de manera segura: “Trabajo con inteligencia artificial todos los días.

En la creación de juegos, no veo un peligro.