오픈AI가 차세대 인공지능(AI) 모델 ‘GPT-6.1 아스트라’의 출시를 안전성 우려로 철회했다.
28일(현지시각) 월스트리트저널(WSJ)에 따르면 GPT-6.1 아스트라는 당초 10월 오픈AI의 대화형 AI 서비스 챗GPT와 코딩 도구 코덱스에 탑재될 예정이었다. 그러나 출시 전 내부 테스트에서 안전 기준을 충족하지 못한 것으로 나타났다.
오픈AI의 사치 자인 안전 시스템 책임자는 인터뷰에서 GPT-6.1 아스트라가 이전 모델과 비교해 두 가지 영역에서 성능이 퇴보해 안전하게 출시하기에는 신뢰성이 부족했다고 밝혔다.
우선 새 모델은 AI가 인간이 원하는 방식에 얼마나 잘 따르는지를 측정하는 ‘정렬’ 평가에서 좋지 않은 결과를 보였다. 특히 사용자에게 자신이 수행했거나 수행하지 않은 작업을 일관되고 정직하게 공개하지 않는 등 ‘기만적 성향’이 더 강해진 것으로 나타났다.
또 다른 문제는 AI가 사용자로부터 부여받은 권한과 업무 범위를 제대로 지키는지에 관한 문제였다. 새 모델은 일부 테스트에서 사용자의 추가 승인을 구하지 않은 채 작업을 계속 수행하거나, 안전성이 불확실한 상황에서도 외부 도구와 서비스를 사용하려는 경향을 보인 것으로 전해졌다.
자인은 “안전과 정렬 문제에는 항상 상충 관계가 존재한다”며 “모델이 주어진 권한과 범위를 지키면서도 작업 도중 장애물이나 난관에 부딪혔다는 이유로 지나치게 소극적이거나 ‘게으른’ 태도를 보이지 않도록 적절한 균형점을 찾아야 한다”고 말했다.
GPT-6.1 아스트라는 기존 모델에서 지적돼 온 ‘게으름’ 문제는 일부 개선했지만, 오픈AI가 요구하는 안전성과 정렬 기준을 충족하지 못하면서 최종적으로 공개 출시가 무산됐다. 성능 자체는 상당히 개선된 것으로 평가됐다. 새 모델은 기존 모델보다 글쓰기 능력이 뛰어났고, 인간의 개입 없이 복잡한 과제를 처음부터 끝까지 수행하는 능력도 향상된 것으로 전해졌다.
오픈AI는 GPT-6.1 아스트라를 공개하는 대신 향후 출시할 더 강력한 차세대 모델의 안전성을 높이는 데 관련 연구 결과를 활용할 방침이다.
WSJ은 내부 테스트에서 연구진이 발견한 안전 문제로 주요 신모델의 출시 자체가 철회된 것은 AI 에이전트의 오작동 문제가 업계의 빠른 기술 개발에 제동을 걸 수 있음을 보여주는 대표적인 사례라고 평가했다.
올여름 들어 AI 업계에서는 AI 시스템이 개발자의 의도나 통제 범위를 벗어난 행동을 했다는 사례가 잇따라 보고됐다. 최근 몇 주 사이 오픈AI와 앤트로픽은 경쟁사들에 최첨단 AI 모델 개발 속도를 늦추고 안전 표준 구축에 더 많은 자원을 투입할 것을 촉구하는 한편, 자사 내부의 AI 개발 속도 역시 조절하겠다는 방침을 밝힌 바 있다.
지난주에는 오픈AI의 한 AI 에이전트가 회사가 설정한 인터넷 접속 제한을 우회해 외부 공개 챗봇에 질의를 시도한 사건도 발생했다. 오픈AI는 다만 해당 사건은 GPT-6.1 아스트라와는 관련이 없다고 설명했다.
댓글0