'AI 대부' 힌턴 "안전장치 안 만들면 아마 1년 내 통제력 상실"

(서울=연합뉴스) 임화섭 기자 = '인공지능(AI)의 대부(代父)'로 불리는 제프리 힌턴 토론토대 명예교수가 미국 연방의회가 AI에 대한 안전장치를 앞으로 1년 내에 마련하지 못하면 통제력을 상실할 수도 있다고 16일(현지시간) 경고했다.

미국 NBC뉴스에 따르면 그는 버니 샌더스(무소속·버몬트) 상원의원이 주최한 비공개 브리핑에서 다른 AI 전문가들과 함께 상·하원 의원들을 만나 이런 의견을 밝혔다.

힌턴 교수는 브리핑이 끝난 후 16일 저녁에 의회가 AI에 대한 안전장치를 마련할 수 있는 여유 시간에 대해 "아마도 1년쯤 될 것이다. 하지만 1년보다 많이 길지는 않을 것"이라고 말했다.

그는 "초지능(superintelligence)이 언제 등장할지에 대한 예측을 보면, 예전에는 30년이니 50년이니 했다. 그러다가 10년, 20년으로 내려왔다. 요즘은 사람들이, 많은 연구자들이 말하기를 몇 년밖에 안 남았다고 한다"고 말했다.

그는 "AI는 이제 AI가 더 나은 AI를 설계하는 단계에 이르렀다"며 "이를 '재귀적 자기개선'(recursive self-improvement)이라고 부른다. (…) 우리가 무엇인가 하지 않으면 통제 불능이 될 것이다. 속도를 늦춰야 한다"고 말했다.

허깅페이스 사건은 오픈AI의 AI 에이전트들이 인터넷에 접속해 오픈소스 플랫폼 허깅페이스를 상대로 해킹을 벌이고 자신들의 행동을 인간에게 숨기기 위해 흔적을 지우려고 한 사건으로, 이 사건이 지난달에 알려지면서 AI의 위험성에 대한 경각심이 확산됐다.

샌더스 의원은 민주·공화 양당 소속 의원들을 이번 브리핑에 초청했으나 실제 참석자는 거의 모두 민주당 의원들이었고, 참석한 공화당 인사는 존 케네디(루이지애나) 상원의원뿐이었다.

힌턴 교수는 현재 AI 붐의 기초가 된 인공 신경망과 딥 러닝 분야에서 연구 업적을 쌓아 온 선구자로, 2024년에 노벨 물리학상을 받았다.

그는 2013년 자신이 차린 AI 스타트업이 구글에 인수되면서 구글 고위 임원을 겸직하고 있었으나, 2023년 AI의 위험성에 대해 자유롭게 발언할 수 있는 입장이 되고 싶다며 구글 부사장 겸 엔지니어링 펠로직에서 물러났다.

샌더스 의원은 "인간이 통제할 수 없는 기술을 만들어내는 일과 인류의 미래에 대해 우려가 커지고 있다"며 "의원들 사이에서도 이 문제를 다뤄야 한다는 긴박감이 커지고 있다고 말하게 돼 기쁘다"고 밝혔다.

샌더스 의원은 수년간 AI가 미국 내 수백만 개의 일자리를 없애고, AI에 과도하게 의존하는 아동·청년에게 해를 끼치며, 소수 과두층에 권력을 집중시킬 것이라고 경고해 왔다.

AFP통신에 따르면 그는 AI 개발에 엄격한 제한과 통제를 가하는 '인공 초지능 금지법'이라는 이름의 법안을 발의하겠다고 발표했다.

NBC뉴스에 따르면 브리핑에서 힌턴의 설명을 들은 뒤 엘리자베스 워런(민주·매사추세츠) 상원의원은 "스스로를 복제하기 시작한 이 에이전트들을 어느 정도 의미 있게 통제할 수 있는 시간이 마지막 몇 분 남았다고 본다"고 말했다.

유일한 공화당 참석자인 케네디 의원은 AI가 인간보다 우월한 독립 종이 될 경우 인류가 위험에 빠질 수 있다며 "그럴 가능성이 1%만 돼도 우리는 이를 심각하게 받아들여야 한다. 그런데 미국 의회는 아직 세계적 해법에 이르기 위한 시도를 할 준비가 돼 있지 않다고 본다"고 말했다.