50 muertos o 1.000 millones de dólares en daños: el listón que Anthropic quiere fijar para que el Gobierno pueda frenar un modelo de IA

Anthropic ha estado presentando entre bambalinas un borrador de proyecto de ley sobre la seguridad de los modelos de IA más punteros en el Capitolio, según el medio Politico .

Desde luego no es frecuente que un laboratorio de IA intente redactar las normas de su propia industria.

Pero lo que ha arqueado más de una ceja es que su propuesta fijaría un listón muy alto antes de que el gobierno pueda detener un modelo, concentrando ese poder en un solo departamento.

Te contamos los detalles.

Work in progress.

El Congreso en Estados Unidos está sopesando actualmente varias propuestas de seguridad de la IA, y Anthropic ha redactado un borrador con dos o tres cosas llamativas.

Un portavoz de Anthropic declaraba a Politico que el proyecto de ley refleja el Marco de IA Avanzada de la empresa, que ha estado promoviendo entre los legisladores desde junio, y califica su contenido como "políticas sensatas sobre las que creemos que el Congreso debería actuar".

E l umbral.

Según comparte Politico, que ha tenido acceso al borrador, el gobierno podría bloquear el lanzamiento o uso de un modelo únicamente si este plantea un riesgo previsible e inminente de más de 1.000 millones de dólares en daños, o de causar la muerte o lesiones graves a más de 50 personas.

El peligro también tendría que provenir de: Un arma biológica.

Un modelo que evada los controles de su desarrollador.

Un ciberataque.

En Xataka Un experimento puso a dos asistentes virtuales a compartir cerebro y tareas.

Sus recompensas contaron una historia diferente Cómo funcionaría.