Anthropic pidió al Congreso de EEUU una ley de IA que solo actúa si hay 50 muertes en juego

Anthropic , la empresa detrás del chatbot Claude, confirmó que está promoviendo entre legisladores de Estados Unidos un proyecto de ley de seguridad de inteligencia artificial que solo permitiría al gobierno bloquear el lanzamiento de un modelo si existe un riesgo inminente de matar a más de 50 personas o provocar más de 1.000 millones de dólares en daños.

El medio Politico reveló el borrador, y un vocero de Anthropic confirmó su existencia .

Según personas que leyeron el texto, la propuesta solo activaría ese bloqueo si el riesgo proviene de la creación de un arma biológica, de que el modelo escape al control de sus desarrolladores o de un ciberataque.

El mecanismo previsto funciona así: evaluadores independientes, registrados ante el Departamento de Comercio, revisarían periódicamente a los laboratorios de IA y a sus modelos más avanzados.

Esos evaluadores podrían recibir pago de las propias empresas que inspeccionan, siempre que el monto no dependa del resultado de la evaluación.

Si un evaluador detecta un riesgo catastrófico inminente, debe avisar al Departamento de Comercio dentro de las 72 horas.

Recién entonces esa oficina podría pedirle a un juez federal en Washington que frene la distribución del modelo.

Ningún otro organismo del gobierno tendría poder para actuar por su cuenta.

Los umbrales de 50 muertes y 1.000 millones de dólares replican los que ya exige la ley de seguridad de IA de California, conocida como SB 53, aprobada en 2025.

“Este proyecto representa las propuestas de nuestro Marco de IA Avanzada, que venimos impulsando ante legisladores federales y estatales desde junio”, dijo el vocero de Anthropic a Politico.

SB 53 (abreviatura de Senate Bill 53, denominada formalmente Transparency in Frontier Artificial Intelligence Act) es una ley de seguridad y transparencia para la IA avanzada aprobada en California.

Su filosofía parte de que es prácticamente imposible predecir con certeza absoluta cada fallo, pero que la forma de proteger al público y a la vida humana es exigiendo transparencia total, auditorías obligatorias, rendición de cuentas y la obligación de reportar cualquier falla grave de seguridad.

Especialistas en seguridad acusan a Anthropic de retroceder La reacción de especialistas en seguridad de IA fue dura.

Nathan Calvin, de la organización Encode, escribió que aprobar el proyecto “nos dejaría menos protegidos frente a riesgos catastróficos que con la ley actual”, porque el juez solo estaría obligado a sopesar el daño que sufriría la empresa desarrolladora, no el daño al público de no frenar un modelo peligroso.