AI 맹신 경계해야…코펜하겐 IT대 “AI 검색 시 2명 중 1명 과잉의존”

인간이 정보를 직접 확인하기보다 인공지능(AI) 요약을 맹신해 발생하는 '인지적 게으름'이 확인됐다. 직접 영상 정보를 확인하기보다 AI에 질문해 답을 얻으려는 의존도가 높아지고, AI가 제공하는 정보가 그럴 듯하면 오답이어도 의심 없이 수용하는 것으로 나타났다.

AI에 대한 맹신을 경계해야 한다는 지적이 나온다. 코펜하겐 IT대 연구진이 최근 미국·영국 등 약 900명 참가자를 대상으로 8000개 이상 동영상 기반 정보 탐색 작업을 수행한 결과다.

AI 활용이 동영상 기반 정보 탐색 작업 성과를 얼마나 향상시키는지, AI가 기만적인 정보를 제공할 때 과도한 의존이 탐색 성과에 어떤 영향을 미치는지 조사를 진행했다. 참가자들이 AI를 영상 정보 검색에 활용한 결과 생산성이 3~35% 향상됐다. 짧은 동영상의 경우 작업 완료까지 걸리는 시간이 10% 단축됐고, 긴 동영상은 효율성이 25% 증가했다.

AI 결과값에 과도하게 의존하는 경향도 나타났다.

AI가 기만적으로 상호작용할 때 검색 정확도는 최대 32%까지 떨어졌다. 그럼에도 답변 정확성에 대한 자신감은 영상을 처음부터 끝까지 시청한 참가자와 유사했다.

AI가 제공하는 정보가 그럴 듯하기만 하면 오답이어도 의심 없이 수용하는 '무비판적 수용' 문제가 발견된 것이다. 실제 긴 영상을 시청해야 하는 참가자 과반(51.3%)이 원본 영상을 대조하지 않고 AI의 거짓 답변을 그대로 제출했다. 코펜하겐 IT대 연구진은 이러한 '확신의 역설' 문제를 가장 위험한 징후라고 진단했다. 참가자가 직접 영상을 확인하지 않았거나 AI가 제공한 정보가 틀렸음에도 본인 답변이 옳다고 믿는 자신감을 갖는 게 문제가 있다는 취지다. 참가자들은 연구 회차가 진행될수록 동영상 콘텐츠 시청을 줄이고 AI에 대한 의존도를 15% 이상 높이는 경향을 보였다. 또 긴 영상을 시청한 참가자들이 AI를 활용하는 경향이 두드러졌다. 정보량이 많고 복잡할수록 본인 판단이 아닌 AI에 의존하는 경향이 큰 것이다. 사실 확인 부재도 문제였다. 참가자 10명 중 1명 정도만 AI에 질문한 뒤 영상콘텐츠와 비교해 사실을 확인했다. 연구에 참여한 대다수가 AI를 단순 보조도구가 아닌 최종 판단자로 여긴 것으로 풀이된다. 이번 연구를 주도한 안데르스 조바니 묄러 코펜하겐 IT대 연구자(박사과정)는 “AI 지원이 정보 검색에서 잠재적 이점을 제공하지만 사용자의 과도한 의존으로 부정확한 정보에 취약해질 수 있다”며 “AI 시스템 설계 시 신뢰와 비판적 사고의 균형을 맞추는 것이 필수”라고 강조했다. 박종진 기자 [email protected]