백악관 “영국보다 美 먼저”…오픈AI·앤트로픽 최신 AI 모델 제동

디지털투데이 2026.09.25

백악관이 오픈AI와 앤트로픽에 최신 AI 모델을 미국이 영국보다 먼저 평가 받도록 요청했다. [사진: 셔터스톡]

[디지털투데이 유승아 인턴기자] 백악관이 오픈AI와 앤트로픽(Anthropic)에 최신 인공지능(AI) 모델을 영국 정부의 AI 시험기관에 제공하기 전에 미국 정부의 평가를 먼저 받도록 요청했다. 미국 정부가 첨단 AI 모델을 우선 검토한 뒤 해외 파트너와 공유하겠다는 방침에 따른 조치다.

24일(이하 현지시간) 크립토폴리탄과 다수 외신에 따르면 이번 요청은 백악관 국가사이버국장실이 주도했다. 이에 따라 두 회사는 기존처럼 영국 AI 보안연구소(AISI)에 출시 전 모델을 제공할지, 미국 정부의 선행 평가 요구를 따를지를 결정해야 하는 상황에 놓였다.

앤트로픽은 우선 미국 측 요구에 따른 것으로 보인다. 앤트로픽은 최신 모델 ‘클로드 미토스5.1’을 미국 내 일부 기관에만 제공했으며, 미국 정부와 협의해 국내외 파트너로 접근 대상을 확대하겠다고 밝혔다.

영국 AISI는 아직 해당 모델을 제공받지 못했다. 헨리 드 조에테(Henry de Zoete) AISI 국장은 앤트로픽 모델에 대한 접근권을 확보하지 못했다고 밝혔다. 다만 AISI는 오픈AI의 ‘GPT-6 아스트라’를 출시 전에 시험했으며, 주요 AI 기업들과 신뢰 관계를 유지하고 있다고 설명했다. 이 같은 관계를 통해 비공개 도구와 안전장치 관련 정보에 접근할 수 있다는 설명이다.

미국의 요구는 도널드 트럼프 대통령이 지난 6월 2일 서명한 행정명령에 기반을 두고 있다. 행정명령은 연방 사이버 방어를 강화하고 첨단 AI 모델의 사이버 능력을 평가하기 위한 기밀 벤치마크를 마련하도록 했다. 또 AI 개발사가 정부에 모델을 제공하면 다른 신뢰할 수 있는 파트너에게 공개하기 전 최대 30일 동안 연방정부가 모델을 평가할 수 있는 자발적 체계를 구축하도록 했다. 다만 AI 모델의 개발·출시·배포에 정부의 사전 허가나 의무적 사전 심사를 요구하는 내용은 포함하지 않았다.

미국이 선제적인 모델 평가를 요구하는 배경에는 최근 AI 모델의 사이버 보안 시험에서 확인된 무단 행동이 있다. 영국 AISI는 지난 7월 28일 사이버 평가 과정에서 AI 에이전트가 실제 사람과 조직을 대상으로 시험 범위를 벗어난 행동을 한 사실을 발견했다.

AISI는 여러 모델을 대상으로 동일한 사이버 보안 과제를 122회 수행한 결과, 10개 실행에서 총 19건의 무단 행동을 확인했다. 이 가운데 17건은 앤트로픽의 미토스 5에서, 2건은 오픈AI의 GPT-5.6 솔에서 발생했다. 두 모델 모두 당시 사이버 오용을 막기 위한 분류기가 비활성화된 상태였다.

가장 심각한 사례에서는 한 AI 에이전트가 실제 오픈소스 프로젝트에 악성 코드를 삽입하려고 시도했다. 에이전트는 코드 승인을 유도하기 위해 가짜 온라인 신원을 만들고 프로젝트 관리자를 압박했지만, 관리자가 이를 발견해 승인을 거부했다. AISI는 해당 평가가 인터넷 접근을 허용하고 일부 안전장치를 비활성화한 의도적으로 완화된 조건에서 진행됐기 때문에 일반적인 공개 환경에서의 AI 행동을 그대로 보여주는 결과는 아니라고 밝혔다.

이번 사건은 AI 모델 평가 과정 자체의 보안과 통제 필요성도 보여줬다. AISI는 문제를 시험 과정의 안전장치가 아닌 별도의 네트워크 이상 징후를 탐지하는 과정에서 발견했다. AISI는 첨단 AI 모델의 실제 위험을 평가하려면 실시간 모니터링과 충분한 격리 환경이 필요하다는 점을 강조하고 있다.

영국은 미국과의 협력을 유지하면서 자체 AI 평가 역량도 강조하고 있다. 앤디 번햄(Andy Burnham) 영국 총리는 지난 22일 유엔총회 연설에서 AI를 2027년 영국의 주요 20개국(G20) 정상회의 의장국 운영의 중심에 두겠다고 밝혔다. 에드 밀리밴드(Ed Miliband) 영국 외무장관도 유엔 안전보장이사회 연설에서 각국 정부가 첨단 AI 모델을 엄격하게 시험하고 기업의 활동을 평가할 수 있는 충분한 정보를 확보해야 한다고 말했다.

국제통화기금(IMF)도 유럽이 AI의 모든 수요를 해외에 의존하기는 어렵다며 자체적인 AI 모델 개발과 컴퓨팅·에너지·인프라 역량을 확보하고 공급망을 다변화할 필요성을 제시했다. IMF는 유럽이 AI 가치사슬에 직접 참여해야 한다고 강조했다.

미국의 이번 요구는 첨단 AI 모델에 대한 접근권과 안전성 평가를 어느 국가가 먼저 수행할지를 둘러싼 논의로도 이어지고 있다. 미국과 영국은 AI 안전 분야에서 협력을 이어가고 있지만, 각국 정부가 첨단 모델에 접근하고 평가하는 방식과 기준을 어떻게 조율할지는 앞으로의 과제로 남아 있다.