Anthropic propone que EE.UU. pueda bloquear modelos de IA peligrosos con autorización judicial

Anthropic , creador del asistente de inteligencia artificial Claude, propuso su propio marco de regulación ante la falta de una ley federal, según el cual Washington podría vetar un modelo de IA peligroso pero solo con la autorización de un juez.

La iniciativa fue presentada a legisladores estadounidenses, reveló el medio Politico.

El texto plantea que Washington pueda bloquear un modelo de IA en caso de riesgo inminente de causar más de 50 muertos o heridos graves o pérdidas por más de 1000 millones de dólares .

Todo, bajo el visto bueno de un juez.

Asimismo, se obligaría a los desarrolladores de IA a “poner a prueba los modelos más potentes”, a transparentar sus resultados frente al público, así como a “someterlos a una evaluación independiente” y “mantener un sólido programa de seguridad ”, dijo un portavoz de Anthropic a la AFP el pasado viernes.

Bajo el gobierno de Donald Trump, las empresas de IA están solo obligadas a decretos y compromisos voluntarios .

El mandatario republicano se opone a frenar el auge de esta tecnología que impulsa la economía estadounidense.

El Congreso se mantiene dividido frente al tema, y no ha aprobado nada relacionado.

La seguridad de la IA cobró relevancia tras las revelaciones de una serie de incidentes causados por sistemas avanzados de inteligencia artificial que se escaparon del control de sus creadores.

En junio, Anthropic fue obligada por Washington a suspender sus modelos más avanzados por casi tres semanas tras ser vetada por el Pentágono.

Las relaciones de la empresa con el gobierno de Trump mejoraron recientemente.

“Nuestra propuesta (de regulación) también otorga al gobierno federal la capacidad de bloquear o disuadir el despliegue de los modelos más potentes cuando resulte peligroso”, remarcó el vocero de Anthropic.

Alarma mundial La propuesta de Anthropic se da en un escenario de gran temor e incertidumbre respecto al avance de la IA.

De hecho, los propios empresarios hicieron un llamado de atención en el último para frenar el ritmo de desarrollo de esta tecnología.