미 백악관이 오픈AI와 앤트로픽에 새 인공지능(AI) 모델을 영국 정부의 안전성 검증 기관에 넘기기 전에 미국 정부의 검토를 먼저 받도록 요구한 것으로 전해졌다.
미국 기업이 개발한 최첨단 AI 모델의 성능과 보안 위험을 미국 정부가 해외 기관보다 우선 확인해야 한다는 취지다. 그동안 미국 AI 기업들이 영국 정부와 신형 모델을 사전에 공유해 안전성 평가를 받아온 관행에도 변화가 생길 가능성이 있다.
24일(현지시각) 폴리티코에 따르면 백악관은 최근 오픈AI와 앤트로픽에 미국 정부의 검토가 끝날 때까지 신규 AI 모델을 영국 AI안보연구소(AISI)에 제공하지 말라고 요청했다.
트럼프 행정부 고위 당국자는 폴리티코에 미국이 먼저 자국 기업의 모델을 살펴보고 시스템의 안전성을 확인한 뒤 동맹국과 공유해야 한다는 입장을 밝혔다.
백악관이 직접 검토 순서를 문제 삼으면서 미국과 영국이 구축해온 AI 안전성 공동검증 체계에도 변수가 생겼다.
영국 AISI는 2023년 설립 이후 오픈AI와 앤트로픽을 비롯한 주요 AI 기업으로부터 신형 모델을 공개 전에 제공받아 사이버 공격 능력이나 생물·화학 위험, 안전장치 우회 가능성 등을 시험해왔다.
미국 측 기관과 영국 AISI가 같은 모델을 공동으로 사전 평가한 사례도 있다. 앤트로픽의 ‘클로드 3.5 소넷’ 개량 모델은 2024년 공개 전 미국과 영국 정부 기관의 공동 검증을 받았다.
하지만 최근 들어 이 같은 협력 방식에 변화 조짐이 나타났다.
앤트로픽은 최신 AI 모델 ‘클로드 미토스 5.1’을 영국 AISI에는 사전에 제공하지 않고 일부 미국 기관에만 먼저 공개한 것으로 전해졌다. 헨리 더주트 AISI 소장도 이달 영국 의회에 보낸 서한에서 해당 모델에 대한 접근 권한을 확보하지 못했다고 밝혔다.
이에 따라 미국 AI 기업들은 미국 정부의 우선 검토 요구와 영국을 포함한 해외 안전기관과의 기존 협력 사이에서 모델 공개 순서를 조정해야 하는 상황에 놓이게 됐다.
영국 정부는 AI 모델을 외부에서 엄격하게 검증할 필요가 있다는 입장을 유지하고 있다.
에드 밀리밴드 영국 외무장관은 지난 23일 유엔 안전보장이사회에서 최첨단 AI 모델에 대한 엄격한 테스트와 투명성을 강조했다. AI 기업이 무엇을 개발하고 있는지 정부가 충분히 파악하고 평가할 수 있어야 한다는 것이다.
밀리밴드 장관은 영국이 세계 최초의 정부 주도 AI 안전성 연구기관을 세웠고, 미국 및 주요 AI 기업과 함께 최첨단 모델 검증을 진행해왔다고도 강조했다.
백악관의 이번 요구는 고도화한 AI 모델의 사이버 보안 위험이 커지면서 미국 정부가 자국 기술에 대한 통제권을 강화하려는 움직임으로 풀이된다.
다만 백악관과 오픈AI, 앤트로픽은 관련 보도에 대한 로이터의 논평 요청에 즉각 답하지 않았다.
댓글0