El director de Anthropic confesó que "la industria mintió" sobre el peligro de la IA

Dario Amodei, cofundador y director ejecutivo de Anthropic.

Fotógrafo: Jason Henry/Bloomberg vía Getty Images El fundador de Anthropic, Dario Amodei, afirmó que “la industria mintió” sobre el peligro de la inteligencia artificial (IA) por lo que el Gobierno y los ciudadanos deben intervenir, según una entrevista publicada este domingo tras la polémica que él desató el sábado por los riesgos de la tecnología.

“No les voy a mentir: existen peligros reales.

Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo.

Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo”, declaró Amodei en una entrevista al programa ‘Sunday Morning’ de CBS .

El director de Anthropic hizo estas declaraciones tras publicar el sábado un ensayo para urgir “un ritmo más lento” a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, un hecho inédito en el sector de la IA.

Aunque Amodei advirtió en su ensayo de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, en su entrevista de este domingo rechazó una “prohibición completa” de la tecnología.

“No creo que prohibirla por completo sea el enfoque correcto.

Primero, la idea de que nunca obtengamos los beneficios increíbles, que nunca obtengamos las curas médicas, es algo que no me parece bien.

Segundo, esta tecnología se desarrollará en otros países, incluyendo países autoritarios”, señaló el empresario.

El ejecutivo consideró “el dilema más duro” del debate el hecho que, si Estados Unidos ralentiza el desarrollo de la IA, China podría seguir avanzando en la tecnología.

Aun así, reconoció que se siente “incómodo” de que sea una empresa privada y no un gobierno electo de forma democrática quien esté a cargo de una herramienta tan poderosa, por lo que pidió que haya una “combinación de gobiernos democráticos” que tengan una “gobernanza conjunta” y un monitoreo de las compañías de IA.

“Si construimos de la manera correcta (la IA), creo que la probabilidad de que ocurra algo malo es muy baja.

Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta”, apuntó.