AI 에이전트 확산의 그늘…英 CIO 53% “정책 위반 경험”

[디지털투데이 AI리포터] 영국 기업에서 AI 에이전트 도입 속도를 관리·통제 체계가 따라가지 못하면서 정책 위반과 사고 위험이 커지고 있다는 조사 결과가 나왔다.

27일(현지시간) IT 매체 테크레이더에 따르면 데이터이쿠(Dataiku) 의뢰로 해리스폴(Harris Poll)이 실시한 조사에서 영국 최고정보책임자(CIO)의 53%는 AI 에이전트가 기업 정책을 위반해 자사나 고객에게 영향을 준 사례를 경험했다고 답했다. 조사 대상 8개국 평균인 31%를 크게 웃도는 수준이다. 이번 조사는 영국·프랑스·독일·미국·아랍에미리트·일본·한국·싱가포르 CIO 685명을 대상으로 진행됐다.

데이터이쿠는 기업 내부에서 맞춤형 AI 에이전트가 관리 체계보다 빠르게 늘어나는 현상을 AI 에이전트 스프롤(AI-Agent sprawl)로 표현했다. 영국 CIO의 87%가 이를 문제로 지목했다. 실제로 AI가 어떤 판단과 행동을 했는지 설명할 수 있는 감사 추적 자료를 제시할 수 있다고 답한 영국 CIO는 49%에 그쳤다. 또 68%는 통제를 벗어난 AI 에이전트를 발견하고 영향을 제한하는 데 24시간 이상 걸릴 것으로 예상했다.

전 세계적으로도 관리 문제는 확인됐다. 조사 대상 CIO의 84%는 직원들이 IT 부서가 관리할 수 있는 속도보다 빠르게 AI 에이전트와 애플리케이션을 만들고 있다고 답했고, 83%는 조직 전체에 표준화된 에이전트 생애주기 관리 체계가 없다고 밝혔다.

페이 머리(Faye Murray) 데이터이쿠 필드 최고데이터책임자(CDO)는 “단순 모니터링만으로는 충분하지 않다”라며 “책임과 통제 체계를 AI 배치 단계부터 설계해야 한다”라고 강조했다. 플로리안 두에토(Florian Douetteau) 데이터이쿠 최고경영자(CEO)도 “자율형 시스템은 단순히 지켜보는 대상이 아니라 필요할 때 즉시 중단할 수 있도록 관리돼야 한다”라고 지적했다.

AI 에이전트 도입 경쟁이 빨라지는 가운데 기업의 과제도 ‘얼마나 많이 배치하느냐’에서 ‘어떻게 추적하고 통제하느냐’로 이동하고 있다.

• 빌 게이츠 “AI, 20년 조정기 거친 뒤 풍요의 시대 연다”
• 오픈AI, 월 500달러 ‘챗GPT 프로 맥스’ 요금제 준비 정황…초고가 AI 시대 오나
• 항생제 탓에 무너지는 유익균…영유아 유산균, 2~3시간 시차 복용이 답?
• 2026년 최고의 우주 관련 ETF…스페이스X 비중부터 봐야 하는 이유
• 中 지리車, 니오 배터리 교환 자회사 지분 30% 인수