단돈 2만원에 운전면허증 위조…헐값에 팔리는 ‘AI 해킹’ 범죄 도구

해킹과 피싱 등 사이버 범죄에 사용할 수 있는 인공지능 도구를 헐값에 사고파는 사이버 암시장이 최근 급격히 성장해 더 많은 범죄자들이 위험한 해커로 변모할 수 있다는 경고가 나왔다.

미국 사이버보안업체 할시온 랜섬웨어 연구센터는 6일(현지시각) 공개한 ‘언더그라운드 인공지능 서비스’ 보고서를 통해 “인공지능 사이버범죄 경제가 이미 도래했다”며 “최근 6개월 만에 시장이 미미한 수준에서 마약시장과 유사한 구조의 대규모 상업 생태계로 변모했다”고 밝혔다. 할시온이 지난해 10월부터 6개월간 수집한 다크웹 채널 20개, 텔레그램 채널 7개, 암시장 5곳에 게시된 4000개의 게시물을 분석한 결과, 인공지능 사이버범죄 도구·서비스를 제공한다는 게시물이 지난해 말 월 50건 미만에서 지난 2월 1400건 이상으로 28배 급증한 것으로 나타났다.

할시온은 “기술적 지식도, 운영 경험도 없는 사람이 이제는 1년 전만 해도 숙련된 전문가만이 만들 수 있었던 것과 구별할 수 없는 피싱 콘텐츠, 딥페이크 영상, 위조 문서를 구매할 수 있게 됐다”고 평가했다. 이어 “숙련된 인력은 그동안 사이버 범죄의 한계 요인이었다. 인공지능은 이런 제약을 완화해 새 도구들은 더욱 강력해지고, 접근성도 높아지고 가격도 저렴해지고 있다”고 밝혔다.

암시장에서 거래되는 건 주로 무기화된 거대언어모델(LLM)·신원도용·악성코드·탈옥 등 4가지였다. 4천건 게시물의 24%를 차지(888건)한 무기화된 거대언어모델은 주로 구조가 공개되어 있는 오픈소스 인공지능 모델에서 안전장치를 해제해 피싱 이메일, 악성코드 등을 생성하라는 요청에 응하도록 한 것이다. 대표적인 서비스는 ‘웜지피티’(벌레 지피티)로 2023년에 서비스를 시작했다가 문제가 되자 2개월 만에 서비스를 중단했지만, 이후 다른 개발자들이 똑같은 이름으로 다시 서비스를 시작해 현재는 5.2버전까지 등장했다. 웜지피티는 일반 기업들의 판매 방식을 그대로 모방했다. 월 9.99달러~49.99달러의 다양한 구독 요금제를 운영했다. 지난 2월에는 웜지피티가 도리어 해킹 공격을 당해 1만9000명의 유료 고객의 이메일과 결제 정보 등이 유출되는 해프닝이 벌어지기도 했다.

운전면허증 위조(15달러), 딥페이크 영상 제작(80달러) 등 돈을 받고 인공지능 기반 신원도용 서비스를 제공한다는 게시물은 전체의 25.6%(949건)를 차지했다. 가짜 신분증과 공과금 고지서, 은행 명세서, 실시간 딥페이크 영상을 결합해 금융기관의 고객신원확인(KYC)을 속일 수 있도록 한 패키지는 최대 6350달러(약 850만원)에 거래됐다. 25개 언어로 동시에 120명에게 전화를 걸 수 있는 인공지능 사기 콜센터 서비스 등 인공지능 기반 악성코드와 공격 인프라 제공 서비스 게시물은 18.95%(699개)를 차지했다.

오픈에이아이나 앤트로픽처럼 탈옥을 감시하고, 취약점을 발견하면 수일 안으로 패치를 적용하는 모델들과는 달리 오픈소스 모델에서는 범죄에 이용되는 사례를 더 많이 목격했다고 할시온은 보고했다. 지난달 말 신한은행 등 국내 주요 은행을 겨냥한 해킹 공격에 사용된 아텍스(ARTEX)도 오픈소스 모델이었다.

전 미 연방수사국(FBI) 사이버 부문 부국장 출신의 신시아 카이저 센터장은 이런 서비스들은 기존에 있던 사이버공격을 좀 더 저렴하고 효과적으로 하게 도와주는 수준이라며 “아직 모든 것을 다 대신 해주고 높은 성공률까지 보이는 인공지능 에이전트가 나오지는 않은 것으로 보인다”라고 액시오스에 말했다.