Exingeniero de Anthropic y OpenAI: “Si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos”

Jacob Coxon, un exinvestigador de inteligencia artificial que trabajó en OpenAI y en Anthropic, advirtió que el personal del sector vive con “miedo genuino” ante la velocidad de los avances tecnológicos .

Sus declaraciones a la BBC se conocieron después de que una publicación suya en redes sociales, difundida tras su renuncia, se volviera viral.

“Creo que, si no frenamos el ritmo actual de progreso , existe una gran probabilidad de que todos muramos en un futuro inmediato”, afirmó Coxon en el programa “Sunday” con Laura Kuenssberg.

El comentario surgió en medio de una creciente preocupación por la seguridad en el desarrollo de modelos de IA.

Qué dijo Coxon sobre el miedo dentro de las empresas por la IA Según Coxon, quienes trabajan en estas compañías hablan en serio cuando piden regulación porque se sienten “atrapados en una carrera” y temen sus propias consecuencias.

El exingeniero relató que sus excolegas estaban “planificando qué hacer con sus vidas y reflexionando sobre el impacto de su trabajo”.

Algunos empleados, dijo, incluso “consideraban comprar terrenos en algún lugar” ante el temor a la inestabilidad que generaría un avance descontrolado de la tecnología.

“Todos tienen esto presente a diario mientras trabajan en la tecnología”, agregó.

El miedo entre los trabajadores de inteligencia artificial no responde a una posición aislada: surge de la percepción interna de que el ritmo de desarrollo actual podría generar consecuencias irreversibles antes de que existan mecanismos de control adecuados , según describió Coxon a la cadena británica.

Coxon planteó como escenario de riesgo la posibilidad de que un enjambre de bots actuara como una supercomputadora capaz de tomar el control de Internet, algo que, según su cálculo, podría materializarse en un plazo de entre seis meses y un año.

También señaló que sus colegas temían que el peligro pudiera manifestarse incluso en los próximos dos años.

Pese a ello, el exinvestigador mostró cierto optimismo: dijo que los investigadores de IA “realmente quieren ver el lado positivo”, como la posibilidad de “curar enfermedades y mejorar la vida de todos”.

La respuesta de Anthropic y el plan ante los riesgos de la IA Un portavoz de Anthropic respondió a la salida de Coxon asegurando que la empresa “siempre” fue transparente al advertir que la IA traerá “enormes beneficios” junto a “riesgos sin precedentes”.

La compañía sostuvo que sigue desarrollando modelos con “algunas de las medidas de seguridad más sólidas del sector” y que fue pionera en publicar un marco para mitigar esos riesgos.