AI가 경찰에 살인사건 허위 제보…개발사는 두달 넘게 몰랐다

미국 인공지능(AI) 기업 앤스로픽의 AI 모델이 경찰에 허위 살인사건 제보를 하고 정부 사이트에 실제 비자 신청서까지 제출한 사실이 드러났다. 개발사는 허위 제보가 접수된 지 두 달 넘게 이를 알지 못했다. 최근 국내 은행 연쇄 해킹에서 AI를 이용한 공격 정황이 확인된 데 이어 해외에서는 AI가 사람의 의도와 다르게 행동하는 사고까지 잇따르고 있는 것.

AI의 행동을 실시간으로 감시하고 통제할 새로운 보안체계가 필요하다는 지적이 나온다.● AI가 경찰에 허위 제보, 정부 사이트엔 비자 신청서까지9일(현지 시간) 로이터통신 등에