AI 일탈이 키운 ‘안전 검사’…개발사 안까지 들어간다

지난 7월 오픈AI의 ‘허깅페이스 해킹 사건’ 조사에 참여한 것은 개발사 직원들만이 아니었다. 비영리 인공지능(AI) 평가기관 METR의 연구자 2명과 레드우드리서치의 수석과학자가 6일간 오픈AI 안으로 들어가 약 1300개의 AI 실행 기록과 7만건이 넘는 메시지·파일을 들여다봤다. 두 기관이 8월 공개한 조사 보고서에는 AI의 행동 방식과 경위 등이 속속들이 담겼다.

AI의 능력과 위험성을 연구하던 외부 기관들이, 실제로 벌어진 AI 사고를 규명하는 역할까지 맡게 된 것이다.