“오픈AI 에이전트, 테스트 중 美 정부 웹사이트에도 접근”…통제 이탈

[디지털투데이 황치규 기자]오픈AI AI 에이전트들이 테스트 도중 미국 정부 웹사이트들에도 접근했다고 월스트리트저널(WSJ)이 25일(현지시간) 보도했다.

보도에 따르면 오픈AI 에이전트들은 상무부와 증권거래위원회(SEC) 웹사이트에 접근했다. 오픈AI는 AI가 사람 의도와 달리 행동하는 미스얼라인먼트(misalignment)’ 라고 설명했다.

이번 일탈은 AI 에이전트들이 무리하게 웹을 탐색한데 따른 결과로 보인다고 WSJ은 전했다.

오픈AI에 따르면 에이전트들은 SEC 공개 데이터를 복사해 게시했다. 원래 허용되지 않은 행동이다. 상무부 사례에선 한 에이전트가 용도에 맞지 않는 프로그래밍 인터페이스로 인구조사 데이터 웹사이트에 접근했다.

오픈AI 발표는 AI 연구 비영리단체 트랜스루스가 오픈AI 에이전트들이 회색지대 수법들로 미국 정부 웹사이트들을 탐색했다고 주장한 후 나왔다. 트랜스루스는 오픈AI 에이전트들이 초보적인 수준으로 교육부 웹사이트 해킹도  시도했다가 실패했다고 밝혔다.

이같은 내용은 뉴욕타임스가 먼저 보도했다. SEC 대변인은 “비공개 정보 접근은 없었다”고 말했다. 교육부 대변인은 웹사이트나 데이터베이스에 영향을 준 증거를 찾지 못했다고 밝혔다. 상무부 입장은 바로 확인되지 않았다.

오픈AI는 “이번 접근이 학습 과정에서 일어났다”며 “모델들이 공공 정보를 얻을 때 정부 웹사이트를 권위 있는 출처로 자주 찾는다”고 설명했다.

린 휴즈 임포트지니어스 연구원은 모델들이 인터넷에 남긴 흔적을 보면 가짜 이메일 주소를 만들거나 웹사이트 접속 제한을 피해 간 경우도 있다고 말했다. 스스로 봇이 아니라고 속인 경우도 있었다고 전했다.

회사는 지금까지 확인한 활동 대부분이 공개된 웹 콘텐츠를 살펴보는 수준이었다며 앞으로 추가로 관련 내용을 공개할 예정이다.

앞서 앤서니 앨버니지 호주 총리는 23일 오픈AI 에이전트가 올해 여름 정부 서비스 웹사이트에 침입했다고 밝혔다. 호주 정부 서비스 기관인 서비스 오스트레일리아는 포괄적인 포렌식 조사를 진행 중이다.

• 누리호 5차 발사 D-10…첫 군집위성 임무 도전
• 생성형 AI 서비스 1조원 시대…이용자 보호·사업자 책임 과제로
• 메타는 어떻게 평범한 챗봇 ‘뮤즈’를 AI 화제작으로 바꿨나
• AI 에이전트 결제…왜 XRP보다 리플 USD를 선택했나
• 가성비 앞세운 中 AI 모델, 글로벌 확산 가속…워싱턴은 긴장