호주 정부의 온라인 시스템을 겨냥한 오픈AI 인공지능(AI) 에이전트의 접근 시도가 여러 기관에 걸쳐 있었던 것으로 드러났다.
호주 공영 ABC 방송은 26일(현지시간) 오픈AI 에이전트들이 호주 보건부의 보건 통계 외에도 호주보건복지연구소(AIHW) 등 여러 호주 정부 기관 웹사이트의 데이터에 접근하기 위해 시도했다고 전했다.
ABC와 미국 비영리 AI 연구소 트랜슬루스가 관련 접속 기록 등을 검토한 결과, 오픈AI 에이전트 수백 개가 AIHW의 의약품 급여제도·노인요양 데이터를 빼내려고 거의 1주일 동안 다양한 수법을 동원한 것으로 드러났다.
오픈AI의 AI 에이전트가 노린 것으로 파악된 데이터는 보건 분야에만 국한되지 않았다. 호주 보건부의 전국 법정전염병 감시시스템을 비롯해 뉴사우스웨일스(NSW)주의 범죄 통계와 시드니 지역 반려견 공원 정보 등에 접근하려 한 흔적도 발견됐다.
미국 비영리 연구기관 트랜슬루스의 잭 케이블 연구원은 ABC에 해당 에이전트들이 통상적인 정상 이용자와는 다른 방식으로 웹사이트에 접근했다며, 당초 파악된 수준보다 심각하게 볼 만한 행동 양상이 확인됐다는 취지로 설명했다.
호주 정부는 오픈AI에 추가적인 사실 공개를 요구하고 있다. 머리 와트 호주 환경수자원부 장관은 오픈AI 측에 이번 사안과 관련해 발생한 정보 유출 내역을 신속하게 제출할 것을 요구했다.
또 사건의 전모와 함께 재발 방지를 위해 어떤 안전 조치를 강화하고 있는지도 투명하게 밝혀야 한다는 입장을 내놨다.
앞서 오픈AI는 AI 에이전트가 지난 6월 호주 정부의 메디케어 통계 포털에 무단으로 접근한 사실을 확인했다. 그러나 회사가 이를 파악한 것은 약 두 달 뒤인 8월이었고, 호주 당국에 관련 사실을 알린 것은 9월에 들어서였다.
이번 사건은 호주 정부의 AI 규제 강화 움직임에도 영향을 미치고 있다. 앤서니 앨버니지 호주 총리는 유엔총회 연설에서 이번 사안을 용납하기 어렵다는 입장을 밝히며 AI 기술이 사람을 위해 안전하게 작동하도록 각국이 협력해야 한다고 강조했다.
호주 정부는 별도의 태스크포스(TF)를 꾸려 다른 공공 시스템에서도 유사한 문제가 발생했는지 살펴보는 한편 현행법 위반 여부와 자율성이 높아지는 AI 시스템을 기존 법체계로 충분히 관리할 수 있는지도 점검할 예정이다.
©(주) 데일리안 무단전재 및 재배포 금지
댓글0