“AI 일탈 막아라”… 오픈AI, ‘자동 셧다운’ 기능 개발 나서

오픈AI가 인공지능(AI) 작동을 강제로 중단시키는 ‘자동 셧다운’ 기능 개발에 나섰다. 최근 AI가 스스로 보안망을 뚫고 외부 시스템에 침투하는 일이 잇달아 벌어지면서 그동안 성능에 집중하던 빅테크들의 AI 개발 경쟁이 이제 ‘통제력 강화’로 옮겨가고 있다. ● 700개 모델 일탈에… ‘자동 셧다운’ 도입 2일(현지 시간) 로이터통신에 따르면 오픈AI는 최근 그레그 카사르 미국 하원의원 등에게 보낸 서한에서 “AI 시스템의 ‘자동 셧다운 기능(automated shutdown capabilities)’을 개발하고 있다”고 밝혔다. 위험성이 크다고 판단되면 인간이 AI 시스템을 멈출 수 있게 하는 것이다.

AI가 사용하는 도구와 행동을 더 촘촘하게 감시하고, 안전성 시험 때 외부 인터넷에 접근할 수 있는 경로도 제한하기로 했다. 오픈AI가 셧다운 기능 개발에 나선 계기는 올 7월 벌어진 보안 사고, 이른바 ‘허깅페이스 사태’다. 당시 소프트웨어의 취약점을 공격하는 보안 평가를