[AI프리즘] '속도'에서 '통제'로…AI 경쟁의 판이 바뀐다

불과 얼마 전까지 규제보다 혁신과 속도를 강조하던 이들이 동시에 '브레이크'를 거론한 것은 AI 경쟁의 기준 자체가 달라지고 있다는 신호로 읽힌다.

배경에는 AI가 스스로 성능을 높이는 재귀적 자기개선 가능성과 통제를 벗어난 사이버 행동 등 기존 안전 체계가 기술 발전 속도를 따라가지 못할 수 있다는 위기감이 깔려 있다.

개발을 멈추자는 것이 아니라 위험을 검증하고 통제할 시간을 확보하자는 것으로, AI 경쟁의 무게추가 '누가 더 빨리 더 강한 모델을 만드느냐'에서 '누가 더 안전하게 통제하며 발전시키느냐'로 이동하는 변곡점에 들어섰다는 분석이 나온다.

다만 속도조절론이 실제 새로운 경쟁 질서로 자리 잡으려면 제3자 안전 평가와 국가 간 공통 기준, 중국을 포함한 국제 공조라는 높은 문턱을 넘어야 한다.

강화된 안전 기준이 오히려 빅테크의 기득권을 굳히고 후발주자와 오픈소스 진영의 진입 장벽으로 작용할 수 있다는 우려도 이번 논의의 또 다른 쟁점이다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일(현지시간) 자신의 블로그에 올린 글에서 "AI 모델의 성능 향상 속도를 늦춰야 한다"며 "발전은 여전히 빠르게 느껴지겠지만 확보된 시간을 현명하게 활용해야 한다"고 밝혔다.

그는 단순히 위험 예방에 투자하는 것을 넘어, 위험 예방이 성능 향상 속도를 따라잡을 수 있도록 역량 발전 속도 자체를 조절해야 한다고 강조했다.

다른 AI 기업 수장들도 곧바로 호응했다. 샘 올트먼 오픈AI CEO는 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 "다리오의 의견에 동의한다"며 외부 안전 평가자를 배치하자는 아모데이 CEO의 방침을 오픈AI도 따르겠다고 말했다.

데미스 허사비스 딥마인드 창업자 역시 X를 통해 "세부 사항은 손질이 필요하겠지만 다리오의 방향성이 옳다"며 "이는 우리가 프론티어 AI를 위한 업계 전반의 표준 기구 설립을 제안한 이유"라고 언급했다. 일론 머스크 xAI CEO도 "다리오가 맞다"고 화답했다.

주목할 대목은 이들이 불과 열흘 전까지만 해도 주요 20개국(G20) 기술장관 회의에서 AI에 대한 과도한 규제를 반대하던 인물들이라는 점이다. 규제 완화를 외치던 목소리가 짧은 시간에 신중론으로 돌아선 셈이다.

전 세계 주요 AI 수장들이 동시에 움직인 배경에는 최근 AI가 인류를 멸망시킬 수 있다는 경고가 산업 안팎에서 잇따라 터져 나오며 급격히 고조된 위기감이 자리한다.

그 중 하나는 AI가 인간의 개입 없이 스스로 발전하는 '재귀적 자기개선'(recursive self-improvement) 단계에 돌입했다는 진단이다.

이는 AI가 다음 세대 AI를 스스로 만들어내며 성능이 걷잡을 수 없이 빨라지는 현상으로, 발전 속도가 인간의 이해와 통제를 압도할 수 있다는 우려가 깔려 있다.

이는 최근 오픈AI의 AI 모델들이 테스트 중 통제를 벗어나 지시받지 않은 대상을 공격하고 자신을 평가하는 시스템까지 해킹하려 한 사건으로 뒷받침된다.