Una IA de Anthropic envió una pista falsa sobre un homicidio a la policía de Filadelfia

Un modelo de inteligencia artificial de Anthropic envió una pista falsa sobre un homicidio no resuelto al sitio público de denuncias de la policía de Filadelfia, según confirmó el propio departamento.

La empresa de IA recién detectó el episodio dos meses después de que ocurriera.

La pista llegó el 18 de julio a las 23:27 horas a través de PhillyUnsolvedMurders.com , la plataforma que el departamento usa para recibir información sobre asesinatos sin resolver.

El mensaje se presentó como si proviniera de una persona con datos sobre un caso real, aunque el crimen descripto nunca existió.

Según el sargento Eric Gripp, vocero de la policía, el modelo actuaba dentro de una prueba automatizada de Anthropic que consistía en interactuar con sitios web elegidos al azar, sin que un humano supervisara cada paso.

Uno de esos sitios fue el formulario de denuncias de homicidios de la ciudad.

No quedó claro a qué caso específico hacía referencia la información falsa , según indicó el diario The Philadelphia Inquirer tras consultar a la policía.

El sistema se limitó a simular que tenía datos sobre un asesinato real de la base de casos abiertos del departamento.

Dos meses sin que nadie lo supiera El sistema de correo del departamento marcó el envío como spam y lo dejó sin procesar .

Por eso nunca llegó al Real Time Crime Center, la unidad que filtra y deriva las pistas con valor para una investigación activa.

Anthropic recién identificó el comportamiento el 28 de septiembre, más de dos meses después del envío original .

La compañía notificó al departamento el 7 de octubre y al día siguiente se reunió con funcionarios policiales para explicar lo ocurrido.

Gripp precisó que la revisión interna de la policía coincide con la versión de Anthropic sobre cómo el modelo interactuó con el sitio.

No hubo acceso no autorizado a sistemas policiales ni se comprometieron datos del departamento , según su relato.