[제8회 AI 정부혁신 콘퍼런스] AI가 일하는 정부로…“도입보다 실행 기반이 중요”

인공지능(AI) 정부 혁신의 무게중심이 기술 도입에서 실제 업무 적용과 성과 창출로 이동하고 있다. AI 모델 자체의 성능보다 이를 조직 전체로 확산하고 기존 데이터·시스템과 연결해 실제 업무를 수행하도록 하는 역량이 중요해졌다는 진단이다. 27일 정부세종컨벤션센터에서 열린 '제8회 AI 정부혁신 콘퍼런스' 기조 세션에서 한국지능정보사회진흥원(NIA), 이데아텍, 비아이매트릭스 등 주요 발표자들은 AI 정책 방향과 실행 기반, 업무 생산성을 중심으로 공공 AI 전환(AX) 전략을 제시했다.

◇AI 활용 88%에도 전면 확산 7%…성과 내는 AX 중요 이용진 NIA 실장은 '국내외 최신 AI 동향 및 정책 방향' 발표에서 “AI 도입 확대가 곧바로 성과로 이어지는 것은 아니다”고 지적했다. AI를 시험하거나 일부 업무에서 활용하는 기업은 크게 늘었지만 이를 전사 업무로 확장해 성과를 내는 데는 여전히 어려움을 겪고 있다는 것이다. 맥킨지에 따르면 AI를 활용하는 조직 비율은 2017년 20%에서 2021년 56%, 2025년 88%까지 높아졌다. 반면 AI를 조직 전반에 완전히 배포·통합한 단계는 7%에 불과했다. AX 확산을 저해하는 요인으로 △문제 정의 오류 △데이터 부족 △기술 중심 접근 △인프라 부재 △기술 한계 무시 △전문인력 부족 △공급업체 변화 저항 등을 꼽았다. 이 실장은 “기술을 먼저 정한 뒤 적용처를 찾기보다는 해결해야 할 문제와 목표를 명확히 하고 현실에 맞춰 단계적으로 확산해야 한다”고 설명했다. 또한 이 실장은 AI 경쟁이 향후 '기술·알고리즘 경쟁'에서 '생산능력 경쟁'으로 이동한다고 진단했다. 데이터센터와 전력, 첨단 반도체를 확보하고 AI를 산업 현장에 빠르게 적용할 수 있는 역량이 중요해질 것이라는 설명이다. 현재 정부도 글로벌 AI 3강 도약을 목표로 AI 고속도로와 핵심기술·인재 확보, 독자 AI 파운데이션 모델 개발에 나서고 있다. 확보한 AI 역량을 산업·공공·지역 AX로 확산하고 국민이 AI 혜택을 체감하는 AI 기본사회를 구현한다는 구상이다.

◇AI 도입과 AI가 일하는 것은 다르다 김종성 이데아텍 부대표는 '에이전틱 행정의 시작, AI를 업무로 연결하는 실행 플랫폼'이라는 주제로 발표했다. 그는 “AI를 도입하는 것과 AI가 일하게 만드는 것은 다르다”며 “AI를 사용하는 정부에서 AI가 일하는 정부로 가야 한다”고 말했다. 특히 앞으로 AI 정부에서는 AI 에이전트가 실제 행정업무를 수행하는 단계로 넘어가야 한다고 강조했다. 김 부대표는 “AI의 지능만으로 업무가 실행되지는 않고, AI와 기존 업무시스템 사이에 이를 연결·조율하는 실행 계층이 필요하다”며 “어떤 에이전트가 어떤 데이터를 이용했는지, 누가 시스템에 접근했는지, 어떤 업무를 실행했는지, 오류가 어디에서 발생했는지도 관리해야 한다”고 설명했다. 김 부대표는 AI 시대에 맞춰 미들웨어도 진화해야 한다고 강조했다. 김 부대표는 “디지털전환(DX) 시대 미들웨어가 시스템과 데이터를 연결했다면, AX 시대에는 데이터·시스템·거대언어모델(LLM)·모델 컨텍스트 프로토콜(MCP)·AI 에이전트를 연결하고 오케스트레이션·실행·거버넌스까지 지원해야 한다”고 말했다. 이와 같은 문제 해결을 위해 이데아텍은 'AX 서비스형 통합 플랫폼(iPaaS)'를 제시했다. 데이터베이스(DB)·클라우드·응용 프로그램 인터페이스(API)와 LLM·MCP·AI 에이전트를 연결하고 여러 시스템을 하나의 업무 흐름으로 조율하는 점이 특징이다. 김 부대표는 “AI 모델을 도입하는 것만으로는 AX가 완성되지 않는다”며 “AI를 기존 데이터와 시스템에 연결해 실제 업무를 수행하도록 하는 실행 기반이 중요하다”고 말했다.

◇AX 성공은 정답률 아닌 업무시간 단축 오상민 비아이매트릭스 이사는 '플러그&플레이, 워크 스마트!(Plug & Play, Work Smart!) 업무에 즉시 투입할 수 있는 에이전틱 AI 전략'을 주제로 한 발표에서 AX의 성과를 현업의 업무시간을 얼마나 줄였는지를 중심으로 평가해야 한다고 제언했다. 기업과 기관에 전사적자원관리(ERP)·고객관계관리(CRM) 등 시스템이 존재해도 직원들은 데이터를 내려받고 분석한 뒤 원인을 찾고 보고서를 작성하는 데 많은 시간을 사용한다는 지적도 나왔다. 오 이사는 “AX의 성공은 정답률이 아니라 일을 빠르고 정확하게 도와주는 에이전트”라며 “기업에서 살아남는 에이전트는 업무 성과를 만드는 에이전트”라고 말했다. AX 사업도 기술부터 도입하기보다 어떤 업무를 줄일 것인지 먼저 정의해야 한다고 강조했다. △해당 업무를 누가 몇 명이 수행하는지 △얼마나 자주 수행하고 △시간이 얼마나 걸리는지 △어떤 지식과 절차가 필요한지 등을 확인한 뒤 AI 기술 도입 여부를 판단해야 한다는 것이다. 비아이매트릭스는 이를 위한 해결 방안으로 에이전틱 AI 플랫폼 '트리니티(TRINITY)'를 소개했다. 자연어로 데이터를 조회·분석하고 원인을 파악한 뒤 대응 방안까지 제시하는 것이 특징이다. 기관의 업무용어와 계산식, 데이터 관계와 분석 전략 등을 학습시켜 단순 질의응답을 넘어 업무에 활용할 수 있는 AI를 구현할 수 있다고 설명했다. 오 이사는 “AI 에이전트가 사람처럼 배워야 사람이 하던 일을 대신할 수 있다”며 “진정한 AI 성과는 눈에 보이는 비용 절감과 보이지 않는 체질 개선의 결합”이라고 말했다. 강성전 기자 [email protected]