UNIST·성균관대, '스스로 판단해 일하는 AI' 보안기술 개발한다

(울산=연합뉴스) 김용태 기자 = 국내 연구진이 스스로 판단하고 일하는 인공지능(AI)인 '에이전틱 AI'(Agentic AI)를 안전하게 쓸 보안 원천 기술의 개발에 나선다.

울산과학기술원(UNIST)은 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 '2026년도 AI최고급신진연구자지원 사업'(AI 스타 펠로우십) 학점 연계형 과제에 선정됐다고 18일 밝혔다.

UNIST는 성균관대와 컨소시엄을 구성해 2031년 12월까지 5년 6개월간 연구를 수행하며, 총 110억원의 정부 지원금을 받게 된다.

에이전틱 AI는 거대언어모델(LLM)을 토대로 문서를 읽거나 웹을 검색하고, 도구를 사용해 업무를 처리하는데, 이 과정에서 외부의 악의적 입력이 모델의 판단을 왜곡하면 실제 실행 단계까지 피해가 번질 수 있다.

특히 위험한 입력을 탐지하거나 실행 환경을 분리하는 등 각 단계에 따로 적용하는 방어 기법만으로는 여러 단계를 거치는 공격을 효과적으로 막아내기 어렵다.

연구팀은 모델, 인터페이스, 실행 환경 등 세 계층의 안전장치를 함께 설계하는 '계층 간 안전 공동설계'로 이 문제를 해결할 계획이다.

문현곤 교수는 "에이전틱 AI는 모델 하나만 안전해서는 안 되고, 입력이 들어오는 경로와 실행 환경까지 함께 지켜야 한다"며 "이번 사업으로 세 계층을 아우르는 핵심 보안 기술을 개발하고, 에이전틱 AI를 안전하게 활용하는 데 기여할 인재를 양성할 것"이라고 말했다.

제보는 카카오톡 okjebo <저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지> 2026/09/18 11:19 송고 2026년09월18일 11시19분 송고