AI 뉴스·영상 넘치는 시대…'AI 생성물 표시제' 어디까지

(서울=연합뉴스) 유현민 기자 = 인공지능(AI)이 뉴스와 영상 제작의 문턱을 낮추면서 사람이 만든 콘텐츠와 AI가 만든 콘텐츠를 구분하기 어려운 시대가 됐다.

사진 한 장이나 짧은 영상을 만드는 데 그치지 않고 기사 작성과 번역, 음성 합성, 영상 편집까지 AI 활용 범위가 넓어지면서 온라인 콘텐츠의 '출처'를 확인하는 일도 갈수록 중요해지고 있다.

방미통위는 지난달 하반기 업무계획에서 AI 생성물 표시제와 함께 추천 알고리즘의 투명성을 강화하는 방안을 주요 과제로 제시했다.

AI 생성물 표시제의 취지는 이용자가 콘텐츠를 접할 때 사람의 창작물인지, AI가 생성하거나 상당 부분 변형한 것인지 알 수 있도록 해 허위·조작 정보로 인한 피해를 줄이자는 데 있다.

AI로 사진의 배경 일부를 수정한 경우와 사람의 얼굴이나 목소리를 통째로 합성한 경우를 같은 기준으로 표시하기는 어렵다. 기사 작성 과정에서 AI로 문장을 다듬거나 번역한 경우, 사람이 취재한 내용을 AI가 요약한 경우도 마찬가지다.

실제 뉴스 제작 현장에서도 AI 활용이 늘고 있다. 취재기사가 작성한 기사를 AI로 요약하거나 외신을 번역해 초안으로 활용한 뒤 기자가 사실관계와 문장을 확인하는 방식이다. 이런 경우까지 모두 AI 생성물로 표시할 경우 뉴스 제작 과정에서의 통상적인 AI 활용까지 규제 대상에 포함될 수 있다.

이처럼 AI 활용을 폭넓게 표시하면 정상적인 창작·편집 활동까지 규제 대상이 될 수 있고, 반대로 합성 영상이나 음성 등으로 한정하면 이용자가 알아야 할 정보가 빠질 수 있다.

방미통위 관계자는 "현재 발의된 법안은 실제와 오인·혼동할 수 있는 딥페이크 영상·음성·이미지 등을 대상으로 표시제를 도입하는 방향"이라며 "이용자가 AI 생성물이라는 사실을 명확히 인식할 수 있으면 된다"고 말했다.

특히 AI를 단순 편집이나 보정 등에 활용한 경우는 표시 대상에서 제외하는 방안도 검토되고 있다. 구체적인 기준은 법 개정 이후 하위법령이나 가이드라인 등을 통해 정해질 전망이다.

실제 인물의 얼굴과 목소리를 정교하게 합성한 영상에 'AI 생성'이라는 문구가 붙더라도 이용자가 영상 속 주장의 진위를 곧바로 판단할 수 있는 것은 아니다.

특히 유튜브와 숏폼 플랫폼, 사회관계망서비스(SNS)에서는 콘텐츠의 생산과 확산 속도가 빠른 만큼 자극적인 콘텐츠가 먼저 퍼질 가능성도 있다.

방미통위가 AI 생성물 표시제와 함께 추천 알고리즘 투명성 강화를 추진하는 것도 이런 문제의식과 맞닿아 있다. AI가 콘텐츠를 만들어내는 단계뿐 아니라 어떤 콘텐츠가 누구에게 얼마나 노출되는지도 살펴봐야 한다는 의미다.

국내 이용자들이 소비하는 AI 콘텐츠도 유튜브나 글로벌 SNS 등 해외 플랫폼을 통해 유통되는 만큼 국내 사업자 중심으로 제도를 설계하면 실효성이 떨어질 수 있다는 우려도 있다.

그렇다고 규제를 늦추기도 쉽지 않다. 생성형 AI 기술이 빠르게 발전하면서 합성 이미지와 영상, 음성의 품질이 실제 콘텐츠와 구별하기 어려운 수준으로 높아지고 있기 때문이다.