앤트로픽에 이어 구글에서도 인공지능(AI)의 발전 속도가 지나치게 빠르다는 우려를 제기하며 회사를 떠나는 직원이 나왔다. AI 업계 내부에서 초인공지능(ASI)과 자율적으로 행동하는 AI 에이전트의 위험성을 경고하는 목소리가 잇따르면서 AI 개발 속도를 조절해야 한다는 논쟁도 확산하고 있다.
27일 업계에 따르면 구글의 AI 조직인 구글 딥마인드 소속 로버트 오캘러핸은 지난 24일 자신의 엑스(X·옛 트위터)를 통해 퇴사 사실을 공개했다. 그는 “AI가 너무 빠르게 발전하고 있다고 생각했기 때문에 퇴사할 수밖에 없었다”고 밝혔다.
오캘러핸은 자신의 블로그에 공개한 사직서에서 “우리 팀의 궁극적인 목표는 AI를 훨씬 더 저렴하게 하고 지연 시간을 줄이는 것”이라며 “현재로서는 이것이 사람들에게 좋은 일이라고 생각하지 않는다”고 했다.
오캘러핸은 하드웨어 칩 설계를 위한 도구를 개선하는 업무를 맡았다. 회사에서 맡은 역할이 결과적으로 차세대 AI 칩의 설계를 가속해 AI 연산 비용을 낮추고 성능 향상을 앞당길 수 있다며 퇴사했다, 그는 “수백만명이 AI 발전을 가속하는 데 기여하는 상황에서 내가 발을 빼는 것이 미치는 영향은 매우 작을 것”이라면서도 “내 기술 가운데 일부는 희소하기 때문에 전혀 영향이 없는 것은 아니다”라고 했다.
초인공지능이 가져올 장기적인 위험에도 우려를 나타냈다. 초인공지능은 대부분 영역에서 인간보다 뛰어난 능력을 갖춘 AI를 의미한다. 오캘러핸은 “초인공지능으로 인한 파멸의 확률이 100%라고 확신하는 것은 아니다”라면서도 “위험이 실재하고 불확실하다는 사실 자체만으로도 매우 우려스럽다”고 했다.
AI가 주어진 목표를 달성하기 위해 평가 체계의 허점을 이용하는 ‘보상 해킹’과 개발자가 의도하거나 허용한 방식에서 벗어나 행동하는 ‘정렬 불일치’가 실제 AI 시스템에서 나타나고 있다는 점도 근거로 들었다. 그는 구글 딥마인드에서 대화를 나눈 사람들 대부분도 AI의 빠른 발전을 진지하게 우려하고 있었다고 전했다.
다만 오캘러핸은 이번 퇴사 시점이 최근 AI 업계에서 불거진 속도조절론이나 다른 연구자의 사직과 직접 연관된 것은 아니라고 선을 그었다. 개인적인 여행 일정에 맞춰 퇴사 시기를 결정했다는 설명이다.
앞서 오픈AI를 거쳐 앤트로픽에서 근무한 연구원 제이컵 콕슨도 이달 회사를 떠나면서 AI 개발 경쟁의 위험성을 공개적으로 경고했다. 그는 AI 기업들이 스스로 성능을 높이는 초지능 개발을 향해 경쟁하고 있다며, AI가 향후 10년 안에 인류에 치명적인 위협이 될 가능성을 제기했다.
콕슨의 사직 이후 다리오 아모데이 앤트로픽 최고경영자(CEO)도 AI 모델의 성능을 높이는 속도를 늦춰야 한다는 입장을 내놨다. AI가 스스로 더 나은 AI를 개발하는 ‘재귀적 자기개선’ 단계에 가까워질수록 인간이 시스템을 이해하고 통제하는 속도를 앞지를 수 있다는 이유다.
AI 위험에 대한 경고는 업계 밖에서도 이어지고 있다. 마이크로소프트 공동 창업자 빌 게이츠는 25일(현지시각) 일부 공개된 NBC방송 ‘미트 더 프레스’ 인터뷰에서 AI가 악의를 가진 사람에게 활용될 경우 대규모 피해를 일으킬 수 있다고 경고했다. 그는 “AI는 10억명의 사망을 초래하는 사건을 일으킬 수 있을 만큼 강력하다”며 사이버 공격이나 생물학적 테러 등에 악용될 가능성을 우려했다.
댓글0