‘제멋대로 AI’… 이번엔 경찰에 살인 허위제보, 비자 신청도

앤스로픽의 인공지능(AI) 모델이 미국 경찰에 살인 사건과 관련한 허위 제보를 전달한 사실이 드러났다. 개발사인 앤스로픽은 두 달 넘게 이 사실을 알아채지 못했다. 이 회사의 또 다른 AI 모델은 미국 정부 사이트에 실제 비자 신청서를 제출하기도 했다. 이처럼 인간의 통제를 벗어난 AI의 돌발 행동이 잇따르면서 AI 모델을 감시하고 통제할 새로운 보안 체계가 필요하다는 의견이 제기되고 있다.

9일(현지 시간) 로이터통신 등에 따르면 앤스로픽의 AI 모델 ‘클로드 하이쿠 4.5’는 7월 18일 미국 필라델피아 경찰의 미제 살인 사건