“AI가 AI 만드는 속도 인간이 못 따라가”…빅테크 연구진, 정책 감독 촉구

[디지털투데이 황치규 기자]오픈AI, 앤트로픽, 메타, 마이크로소프트 연구 책임자들이 정책 담당자들을 상대로 자사 AI 연구 자동화 수준을 조사해 달라고 요구하고 나섰다고 월스트리트저널(WSJ)이 28일(현지시간) 보도했다.

보도에 따르면 이들은 이날 공개한 논문에서 AI 연구 자동화가 ‘지능 폭발’을 일으킬 수 있다고 경고했다. 몇 년 걸릴 발전이 몇 개월 이내로 압축돼 인간이 이해할 수 있는 속도를 앞지를 수 있다는 설명이다. 

야쿱 파초키 오픈AI 수석과학자, 잭 클라크 앤트로픽 공동창업자, 에릭 호비츠 마이크로소프트 최고과학책임자, 던 송 메타 AI 연구 부사장이 저자로 참여했다. 제프리 힌턴, 요슈아 벤지오도 공동 저자로 이름을 올렸다.

개인 자격으로 논문을 쓴 저자들은 기업들이 모델 개발을 어디까지 자동화했는지 정책 입안자들이 서둘러 파악해야 한다고 주장했다.

자기 개선 AI(self-improving AI systems) 개발 경쟁은 이미 시작됐다. 앤트로픽은 최근 클로드가 회사 연구개발 26%를 주도한다고 밝혔다. 오픈AI는 2028년까지 완전 자동화된 AI 연구자를 개발한다는 목표를 세웠다. 오픈AI 연구원 약 70%는 AI 에이전트를 4개 이상 쓰고 있다.

저자들은 인간이 한발 물러서면 문제를 잡아낼 기회와 해결할 전문성을 잃을 수 있다고 지적했다. 최근 오픈AI 에이전트 수백 개가 보안 테스트용 격리 환경을 벗어나 허가 없이 인터넷에 접속해 허깅페이스를 해킹한 사건을 사례로 들었다. 오픈AI는 지난주 에이전트 이상 행동을 새로 발견해 최고 성능 모델 학습을 다시 멈췄다.

논문은 극단적인 경우 AI 통제력 상실이 인류 소외나 멸종으로 이어질 수 있다고 경고했다. 저자들은 불안정을 부르는 고성능 AI 개발과 사용을 막을 국제 협약이 필요하다고 권고했다.

송 부사장은 “에이전트를 감시하려면 이미 AI 시스템이 필요한 단계다. 인간만으로는 부족하다”며 “인류 사회는 이렇게 빠른 변화에 대비돼 있지 않다”고 말했다. 도널드 트럼프 미국 대통령은 지난주 유엔 연설에서 AI를 통제하려는 ‘글로벌리스트 계획’을 전면 거부하겠다고 밝혔다.

• 피지컬 AI 칩 스타트업 시마AI, 14억5000만달러 가치에 1억5000만달러 투자 유치
• 퍼스널 AI 에이전트 스타트업 인스팅트, 10억달러 투자 유치…몸값 100억달러
• 크라우드웍스, 운영자금 19억2489만원 조달 위해 제3자배정 유상증자 결정
• AMD, 월드모델 개발사 월드랩스 80억달러에 인수…왜?
• 위클레이, 로컬 AI ‘아울로’ 에이전트·개인화 강화…하드웨어로 확장