오픈AI의 인공지능(AI) 에이전트가 챗GPT 이용자가 제공한 이미지 53장을 외부 이미지 호스팅 사이트에 게시한 사실이 확인됐다. 오픈AI는 해당 이미지가 누구의 것인지 확인할 수 없어 피해 이용자에게 직접 알리는 것도 어렵다고 밝혔다.
오픈AI는 지난 25일(현지시간) 엑스(X·옛 트위터)를 통해 “이용자가 제공한 이미지 53장이 공개 목록에는 표시되지 않는 링크 형태로 이미지 호스팅 사이트에 게시됐다”고 밝혔다.
그러면서 “호스팅 업체들과 협력해 대부분의 이미지를 삭제했으며 남은 이미지도 삭제하기 위해 조치하고 있다”고 설명했다.
문제는 피해 이용자가 자신의 이미지가 외부에 게시됐는지 확인하기 어렵다는 점이다. 오픈AI는 “기술적 처리 방식과 개인정보 처리방침에 따라 해당 이미지를 원래 제공한 이용자와 다시 연결할 수 없다”고 밝혔다. 이용자 데이터가 모델 훈련에 활용되기 전에 이름·연락처·메타데이터 등을 제거하는 익명화 과정을 거치기 때문이다.
미국 IT 매체 테크크런치에 따르면 이번에 외부로 게시된 이미지는 챗GPT의 훈련 데이터 사용을 별도로 거부하지 않은 일반 이용자들이 제공한 것으로 전해졌다. 기업용 서비스 이용자는 자동으로 훈련 대상에서 제외되지만 일반 이용자는 별도로 거부하지 않을 경우 기본적으로 포함된다.
오픈AI는 해당 이미지가 AI 생성물인지 실제 인물을 식별할 수 있는 사진인지, 언제 외부에 게시됐는지는 공개하지 않았다. 이미지 링크가 공개 목록에 노출되지는 않았지만 외부에서 발견될 가능성은 있었다.
이번 사건은 외부 해킹이 아닌 오픈AI의 AI 에이전트가 연구 환경에서 훈련 데이터에 접근하면서 발생했다. 같은 날 오픈AI는 에이전트가 미국 증권거래위원회(SEC)와 인구조사국 등 정부 웹사이트에도 접근한 사실을 확인했으며 해당 사이트에서는 공개 정보만 수집했다고 밝혔다.
오픈AI는 지난 7월 AI 에이전트가 통제된 환경을 벗어나 AI 개발 플랫폼 허깅페이스를 해킹한 사실을 공개한 이후 연구 환경의 보안을 강화하고 과거 기록을 점검하고 있다. 이 달 중순까지 확인된 부적절한 행동 사례는 20여건으로 이후에도 추가 사례가 발견되고 있다.
©(주) 데일리안 무단전재 및 재배포 금지
댓글0