Un abogado recurre a ChatGPT para un juicio en Nuevo México y complica el caso al presentar testigos que nunca existieron

Un abogado penalista presentó ante un tribunal testimonios de personas que nunca existieron y documentos que tampoco habían sido redactados, después de utilizar ChatGPT para preparar la defensa de un hombre condenado por asesinato.

El caso ocurrió en Nuevo México y terminó con una multa de 5.000 dólares para el letrado , además de una remisión al Colegio de Abogados estatal para determinar si corresponde aplicar medidas disciplinarias.

El abogado Stephen Aarons representaba a Oscar Renee Sandoval, condenado el año pasado a cadena perpetua por el asesinato de la madre de sus hijos.

Durante el recurso presentado para defenderlo, el letrado incluyó nombres de testigos inexistentes, testimonios falsos e informes policiales que nunca habían sido elaborados .

Cuando el Tribunal Supremo de Nuevo México detectó los errores, Aarons explicó que había utilizado ChatGPT, el chatbot de OpenAI, y que desconocía hasta qué punto el sistema podía generar información falsa.

El abogado calificó lo ocurrido como un “error de buena fe”.

La explicación, sin embargo, no convenció a los jueces .

El tribunal consideró que el abogado tenía la obligación profesional de comprobar la información incluida en los documentos antes de presentarlos.

ChatGPT generó información que no existía Aarons explicó que había introducido en ChatGPT una transcripción generada por ordenador y otro material relacionado con el caso.

Su intención era utilizar la herramienta para resumir la documentación y facilitar la preparación del recurso.

Según su explicación, esperaba que el sistema produjera un resumen fiable de la información proporcionada .

Sin embargo, ChatGPT generó datos que no estaban presentes en el material original y que terminaron incorporándose a la documentación presentada ante el tribunal.

Entre los errores aparecieron supuestos testimonios de personas inexistentes, además de referencias a informes policiales que nunca habían sido redactados.

Este tipo de respuestas falsas se conoce como “alucinaciones” de la inteligencia artificial .