유엔 “AI, 전례 없는 위험 초래…긴급 조치 필요”

유엔이 인류에 “전례 없는 위험”을 초래할 초고성능 인공지능(AI) 기술을 통제해야 한다고 촉구했다. 인공지능 개발의 방향과 속도를 소수의 기술 기업에만 맡겨서는 안된다는 경고다.

아에프페(AFP) 통신에 따르면, 볼커 튀르크 유엔 인권최고대표는 14일(현지시각) 각국 정부와 인공지능 개발사들에 보낸 서한에서 “(세계는) 현 세대 뿐 아니라 앞으로 올 인류에도 영향을 미칠, 되돌릴 수 없는 변화 문턱에 서 있다”며 “더욱 강력한 인공지능을 위한 지금의 경쟁은 우리 삶의 모든 면에서 큰 실존적 위험을 초래하는 변화”라고 경고했다.

이어 “우리는 인류 전체를 위한 인공지능 개발의 올바른 결정을 내리는 데 소수의 강력한 기업들에만 거의 전적으로 의존하고 있다”며 “각국과 기업들이 국제인권법을 기반으로 프런티어(최첨단) 인공지능 모델을 관리할 행동 경로를 긴급히 마련할 것을 촉구한다”고 밝혔다.

이번 성명은 최근 빅테크 기업들이 잇따라 인공지능 개발 ‘속도조절론’을 주장하는 가운데 나왔다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일 자신의 블로그 글에서 “인공지능 모델의 성능 향상 속도를 늦춰야 한다”고 쓴 바 있다. 이에 일론 머스크 스페이스엑스 최고경영자가 “다리오가 옳다”고 호응했고, 샘 올트먼 오픈에이아이(AI) 최고경영자도 “속도 조절에 동의한다”고 밝혔다.

일선 연구원들 경고도 이어진다. 앤트로픽의 제이컵 콕슨 연구원은 8일 엑스(X)에 “조만간 (인공지능) 시스템들은 무엇이든 해킹할 수 있고 어떤 분야든 하루아침에 혁신할 수 있으며, 실질적인 권력·자원을 확보할 수 있는 초인적 수준에 도달할 것”이라며 “개발자들은 이 기술이 10년 안에 인류 전체를 죽일 수 있다고 진심으로 믿는다”고 썼다. 그는 10년 안에 그런 일이 생길 가능성이 “10%를 넘는다”고 봤다. 앤트로픽에서는 최근 한 연구자가 인공지능이 인간 통제를 벗어날 수 있다는 우려를 공개적으로 밝히며 사임하기도 했다.