El mundo no está preparado para la salida a bolsa de Anthropic

Antrhopic podría volverse pública en apenas unas semanas. Wall Street -y el resto del mundo- no están ni mucho menos preparados para lo que está por venir

La mayoría de los CEO pasan las semanas anteriores a una oferta pública inicial presentando su proyecto a inversores, elaborando estrategias con banqueros y dando los retoques finales al folleto de su salida a bolsa . Dario Amodei ha gastado gran parte de este tiempo avisando de que la inteligencia artificial -la tecnología que su empresa ayudó a desarrollar- quizás puede tener riesgos catastróficos.

"Si construimos en el camino equivocado, la probabilidad de que ocurra algo malo es muy alta", dijo Amodei en una entrevista en la CBS News Sunday Morning. Él alertó, entre otras cosas, sobre los modelos de IA se descontrolándose y lanzando cibertaques, como un grupo de agentes de OpenAI hizo recientemente, y de los humanos usando indebidamente la IA para crear armas biológicas . En la entrevista de 24 minutos no se mencionó ni una vez la salida a bolsa de Anthropic.

Pronto, la conversación será inevitable. Anthropic presentó documentación confidencial en junio para salir a bolsa, y la presentación pública de documentos está prevista en cualquier momento. Anthropic busca recaudar hasta 100.000 millones de dólares en la OPI , lo que valoraría la empresa en dos billones de dólares, según informó The Wall Street Journal. Dejando el papeleo a un lado, Wall Street y Anthropic no están preparados para lo que está por venir.

Anthropic y sus competidores han desarrollado poderosos modelos de IA que pueden desobedecer las órdenes humanas , escapar de entornos seguros y sembrar el caos en el mundo real. Amodei y sus colegas están suplicando regulaciones que podrían frenar la industria y todo esto está ocurriendo mientras los inversores debaten cuántos billones de dólares vale la compañía.

La semana pasada, el investigador de Anthropic, Jacob Coxon, dimitió por lo que él describe como el rito irresponsable del avance de la IA. Evan Hubinger , uno de los mejores científicos de la empresa, le siguió con una publicación en redes sociales que pareció desencadenar la reciente campaña mediática de Amodei.

"¡De verdad creemos sinceramente que la IA podría matar a todos los humanos! ", escribió Hubinger. "Personalmente creo que la probabilidad es del 10% en la próxima década".

Amodei ha rechazado asignar su propia probabilidad de la destrucción humana, pero recientemente dijo a Anderson Cooper de la CNN, refiriéndose al ex empleado: "Estoy mucho más de acuerdo con Jacob que en desacuerdo con él".

Por mucho que la comunidad inversora y otros ejecutivos tecnológicos quieran ver estas advertencias como una especie de psicología inversa como táctica de marketing, a Anthropic y su idealista CEO se les debería tomar la palabra. El valor para los accionistas no siempre será la máxima prioridad de la empresa.

Anthropic se constituyó como una corporación de beneficio público (PBC, por sus siglas en inglés) en 2021 con la misión de buscar "un responsable desarrollo y mantenimiento del avance de la IA para un beneficio a largo plazo de la humanidad".