“AI가 ‘내부자 위협’ 됐다”…MS 신원·접근 관리 부사장 “관찰 못하면 신뢰 없어”

실리콘밸리에서 지금 가장 뜨거운 화두 중 하나는 인공지능(AI)을 활용한 해킹과 보안 문제다. 목표만 정해주면 AI가 스스로 판단하고 행동하는 ‘에이전틱 AI(Agentic AI)’ 시대가 본격화하면서, AI 에이전트가 외부 시스템에 무단으로 접근하거나 해킹을 시도하는 사고가 잇따른다. 안전성이 충분히 검증될 때까지 AI 개발 속도를 늦춰야 한다는 ‘속도 조절론’이 다시 불붙은 것도 이 때문이다.