“우리는 AI를 설계하는 게 아니라 기르고 있다”…엔지니어들의 경고[김현지의 with AI]

AI의 위험성과 개발 속도를 놓고 빅테크 수장들과 정치인들이 목소리를 높이는 사이 정작 현장을 아는 엔지니어들의 목소리는 상대적으로 묻히고 있다. 하지만 이해관계에서 자유로운 그들의 시선이 오히려 진실에 가깝다.미국 오픈AI 수석과학자 야쿱 파호츠키, 미국 앤스로픽의 전 개발자 제이콥 콕슨, 중국 딥시크의 커널 개발자 류성위. 이들의 소속과 개발연차는 서로 다르지만 우려하는 바는 놀랍도록 일치한다.

AI가 개발자의 이해와 통제 범위를 벗어나기 시작했다는 것, 그 사실을 알면서도 폭주하는 경쟁 때문에 열차에서 뛰어내릴 수 없다는 우려가 그것이다. ● 인간의 설계 없이 자라는 AI오픈AI의 야쿱 파호츠키는 최신 모델인 ‘GPT‑6 아스트라(Astra)’ 출시 직후 오픈AI 공식 리서치 사이트에 ‘낯선 지성(An Alien Mind)’이라는 제목으로 글을 올리고 오픈AI가 AI를 감시하는 방법인 ‘CoT(Chain-of-Thought) 모니터링’의 신뢰도가 점점 떨어지고 있다고 털어