“자율규제만으로 부족”…미 연방 차원 안전장치·감시 법안 촉구
오픈AI·앤트로픽도 위험 경고…美 정부는 글로벌 규제에 선 그어
빌 게이츠 마이크로소프트(MS) 공동창업자가 인공지능(AI)이 악의적으로 활용될 경우 10억명의 사망을 초래하는 사건을 촉발할 만큼 강력해질 수 있다며 정부 차원의 규제를 촉구했다. 최근 오픈AI와 앤트로픽 안팎에서도 AI 통제와 안전성을 둘러싼 경고가 잇따르는 가운데, 미국 정부는 새로운 글로벌 규제 체계에는 반대하고 있어 논쟁이 커지고 있다.
게이츠는 지난 25일(현지시간) 일부 공개된 미국 NBC 인터뷰에서 “AI는 10억명의 사망을 초래하는 사건을 촉발할 만큼 분명히 강력하다”고 말했다.
그는 “AI가 인류 전체를 사라지게 하는 수준까지 가기는 어렵다고 봤지만, 악의를 가진 세력이 최신 AI 도구를 활용할 경우 지금까지 없었던 수준의 위협이 될 수 있다”고 경고했다.
기업의 자율규제만으로는 부족하다고도 주장했다. 게이츠는 “미국 연방정부가 AI 발전을 감시하고 안전장치를 마련하는 법안을 제정해야 한다”며 “규제로 업계 부담이 일부 늘더라도 AI 개발 속도를 크게 늦출 정도는 아닐 것”이라고 설명했다.
게이츠는 AI가 촉발하는 위험의 성격을 둘로 나눴다. 테러 단체나 적대적 국가가 AI를 사이버 공격이나 무기 개발에 활용하는 문제는 당장 대응해야 할 ‘단기 위험’으로, AI가 인간 통제를 벗어나 인류 자체를 위협하는 상황은 장기적인 ‘실존적 위험’으로 구분했다.
최근에는 두 위험을 뒷받침하는 사례와 경고가 잇따랐다. 앤트로픽은 이달 공개한 위협정보 보고서에서 예멘 기반 무장세력이 자사 AI ‘클로드’를 유도무기와 탄도미사일의 유도·항법·제어 소프트웨어 개발에 활용하려 한 사례를 공개했다. 클로드는 비행제어 코드 작성과 시뮬레이션, 제어값 조정 등에도 사용된 것으로 나타났다.
지난 6월에는 오픈AI의 AI 에이전트가 호주 정부가 운영하는 메디케어 통계 포털에 허가 없이 접근해 공개·비공개 파일을 열람하기도 했다. 개인 의료정보가 유출된 정황은 확인되지 않았지만 호주 정부는 사고 발생 약 3개월 뒤에야 통보받았다.
AI 기업 내부에서도 경고가 나오고 있다. 오픈AI와 앤트로픽에서 연구한 제이컵 콕슨 전 연구원은 이달 회사를 떠나면서 “AI를 만드는 사람들은 이 기술이 이번 10년이 끝나기 전에 인류를 죽일 수도 있다고 진지하게 믿고 있다”고 주장했다.
샘 올트먼 오픈AI 최고경영자(CEO)는 지난 23일 유엔 안전보장이사회에서 “최근 모델 발전 속도가 빨라지면서 AI의 이점뿐 아니라 위험도 더 즉각적으로 다가오고 있다”며 “강력한 AI 시스템을 인간 통제 아래 두고 국제적으로 협력할 필요가 있다”고 강조했다.
다만 미국 정부의 시선은 다르다. 도널드 트럼프 미국 대통령은 지난 22일 유엔총회 연설에서 “AI를 통제하기 위한 새로운 국제 거버넌스 체계에 반대한다”고 밝혔다.
미 백악관 과학기술정책실도 AI의 급속한 발전 자체를 추가 개발 중단이나 새로운 글로벌 규제 체계를 만드는 근거로 삼아서는 안 된다는 입장을 펴고 있다. 지나친 규제가 미국의 AI 경쟁력을 떨어뜨릴 수 있다는 논리다.
©(주) 데일리안 무단전재 및 재배포 금지
댓글0