"Durante demasiado tiempo la industria le mintió a la gente": el CEO de Anthropic admite que se ocultaron los riesgos de la IA

Dario Amodei , director ejecutivo de Anthropic , recibió a la periodista Jo Ling Kent de CBS Sunday Morning en la sede de la empresa en San Francisco.

Ella le pidió un mensaje para alguien que usa Claude o ChatGPT en su casa y tiene miedo .

Su respuesta: “ No te voy a mentir.

Hay peligros reales .

Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgos”.

Agregó que la idea era presentarla “lo más positiva posible”, que Anthropic nunca lo hizo pero “demasiada parte de la industria sí”, y que “todo empieza por decir la verdad”.

Es la primera vez que el jefe de un laboratorio de frontera usa la palabra “mintió” sobre su propio sector.

La curva que no vio venir Amodei explicó por qué escribió el ensayo en que pide frenar.

“Desde antes de fundar Anthropic digo que esta tecnología está en una exponencial: uno, dos, cuatro, ocho, dieciséis, treinta y dos.

Pero aun diciéndomelo a mí mismo, no creo que apreciara del todo lo que sería cuando el progreso fuera tan rápido como es ”.

Sobre el punto actual de esa curva, Amodei fue gráfico: “Estamos en la parte donde empieza a ponerse empinada”.

Kent le preguntó dos veces si eso es un incendio de cinco alarmas.

“ No significa que haya que entrar en pánico hoy .

No significa que haya que apagarlo todo.