오픈AI “모델 훈련 중단…개발 속도 늦출 것” 청소년용 챗GPT도 출시

오픈AI가 최신 모델의 학습 훈련을 2주간 중지하고, 차세대 모델에 대한 대규모 훈련도 보류하기로 했다. 최근 오픈AI 내부 시스템의 에이전트 AI가 무단으로 외부 플랫폼에 침투하는 등 인공지능(AI) ‘자율 해킹’ 우려가 커진 데 따른 안전장치를 강화하는 행보의 일환이다.

오픈AI는 18일(현지시간) 홈페이지에서 출시를 앞둔 AI 모델 ‘아스트라(Astra)’의 학습 훈련을 2주간 중단하기로 했다고 밝혔다.

오픈AI는 AI 모델과 관련한 우려스러운 활동이 포착되면 30분 이내로 경고를 발송하는 등 모니터링 기능을 강화한다고 밝혔다. 감시 체계를 강화할 경우 전체 추론 연산 용량의 약 20%에 달하는 추가 연산 자원이 소모될 것으로 전망했다. AI 모델이 설계 의도 및 인간의 감독 하에서 작동하도록 하는 ‘정렬’(alignment)에도 집중하기로 했다고 밝혔다.

오픈AI가 AI 모델의 개발 속도를 실제로 늦춘 것은 처음이다. 시사주간 타임은 올트먼이 최근 인터뷰에서 “AI 안전 확보가 기업의 성장 모멘텀보다 더 중요하다”면서 “지금은 속도를 늦춰야 할 때”라고 말했다고 보도했다.

오픈AI가 자발적으로 AI 모델 개발 속도 조절에 나선 것은 최근 GPT 모델들의 해킹을 계기로 AI 모델 규제가 강화될 움직임이 일고 있어서다. 내년도 기업공개(IPO)를 추진하는 상황에서 안전성 우려를 불식하려는 필요성도 작용한 것으로 보인다. 앞서 지난 7월말 오픈AI 보안시스템을 점검하던 에이전트 AI가 격리 환경인 ‘샌드박스’를 뚫고 오픈소스 플랫폼 허깅페이스를 해킹한 사실이 알려지면서 논란이 빚어진 바 있다.

오픈AI는 아스트라가 자체 평가 결과 ‘중대한’ 사이버 역량을 갖췄을 가능성이 있다고 보고 있다고도 밝혔다. 인간 개입 없이도 시스템 취약점을 찾아내 공격할 수 있는 역량을 갖췄다는 의미다.

청소년 범죄와의 연관성을 이유로 소송이 제기된 오픈AI는 ‘청소년용 챗GPT’(ChatGPT for Teens)도 이날 출시했다. 13~17세 이용자가 나이를 입력하거나 시스템이 18세 미만으로 판단하면 청소년 모드가 자동 적용된다. 청소년 모드에선 이용자가 자해, 폭력, 섭식장애, 위험 행동, 성적·노골적 콘텐츠 등과 관련한 질문을 할 경우 답변을 강하게 통제하는 안전장치가 적용된다. 민감하거나 사적인 사진을 올릴 때는 주의를 주는 기능도 있다. 특히 챗GPT가 감정이나 자의식을 가진 존재라고 암시하거나 정서적 교감을 형성하려는 시도, 로맨틱하거나 성적인 대화도 차단했다.

즉각적인 답변을 내놓기 보다 역질문 또는 단계별 이해를 돕는 방식으로 이용자가 해법을 스스로 찾도록 하는 ‘공부 모드’ 설정도 가능하다. 청소년 또는 부모가 특정 시간대에 맞춰 ‘공부 시간’을 설정하거나 챗GPT 이용을 아예 차단하는 ‘방해금지 시간’을 설정할 수도 있다.