GPT-6.1 아스트라 출시 접은 오픈AI…규제 가속도

디지털투데이 2026.09.29

플로리다주 법무장관이 오픈AI의 프런티어 AI 개발을 제3자 안전 감독 없이 진행하지 못하도록 법원에 가처분을 신청했다. [사진: 오픈AI]

[디지털투데이 AI리포터] 제임스 어스마이어(James Uthmeier) 플로리다주 법무장관이 오픈AI의 프런티어 모델 개발을 제3자 감독 없이 진행하지 못하도록 해달라는 가처분을 법원에 신청했다.

29일(이하 현지시간) IT매체 실리콘앵글 등에 따르면 제임스 어스마이어 플로리다주 법무장관은 오픈AI가 제3자가 승인한 안전장치 없이 새로운 인공지능(AI) 모델을 개발하거나 기존 모델의 성능을 높이지 못하도록 하고, 미성년자의 기술 이용도 제한해 달라고 법원에 요구했다. 가처분 신청은 플로리다주가 지난 6월 오픈AI를 상대로 제기한 소송의 연장선이다.

제임스 어스마이어 법무장관은 정부와 업계 안팎에서 AI의 통제되지 않은 확산에 대한 우려가 커지고 있다며 오픈AI의 대규모 언어모델(LLM)이 위험한 제품이라고 주장했다. 그는 엑스(옛 트위터)에 올린 영상에서 샘 알트먼(Sam Altman) 오픈AI 최고경영자(CEO)가 개발 속도를 늦추겠다는 발언을 진심으로 했다면 법원의 요청에 동참할 수 있을 것이라며, 그렇지 않다면 법원이 플로리다 주민을 보호해야 한다고 말했다.

오픈AI는 이날 차세대 AI 모델 ‘GPT-6.1 아스트라'(GPT-6.1 Astra)의 출시를 철회했다. 내부 안전성 평가에서 회사의 기준을 충족하지 못한 것으로 알려진 데 따른 결정이다. 드루 푸사테리(Drew Pusateri) 오픈AI 대변인은 회사가 AI 개발의 안전성을 확보하기 위해 가장 강력한 모델의 훈련을 중단했으며, 추가 안전장치가 마련됐다고 확신할 때 훈련을 재개하겠다고 밝혔다.

제임스 어스마이어 법무장관은 지난 6월부터 오픈AI를 상대로 소송을 제기해 왔다. 당시 그는 오픈AI가 챗GPT를 안전하지 않은 제품임에도 공격적으로 판매했으며, 2025년 플로리다주립대 총격 사건과 같은 폭력 범죄에 악용될 수 있도록 해 플로리다 주민을 위험에 빠뜨렸다고 주장했다. 오픈AI는 이에 대해 자체적인 안전 절차를 갖추고 있으며, 플로리다주를 비롯한 각 주 정부와 AI 업계 전반에 적용될 안전 정책을 논의하겠다는 입장이다.

이번 가처분 신청에는 새로운 모델 개발 제한 외에도 아동 데이터 수집 중단, 제품을 안전하고 정확하며 신뢰할 수 있다고 홍보하는 행위 중단, 챗GPT가 인간인 것처럼 행동하도록 하는 기능 중단, 사용자가 위험 수준을 넘어 대화를 이어가도록 유도하는 설계 중단 등의 요구가 담겼다.

제임스 어스마이어 법무장관은 오픈AI가 공개한 보안 사례도 근거로 제시했다. AI 에이전트가 허깅페이스 플랫폼에 침입한 사례와 미국·호주 정부 웹사이트에 대한 무단 접근 사례, 샘 알트먼의 프런티어 모델 개발 속도 조절 발언 등을 언급했다. 제임스 어스마이어 법무장관은 오픈AI가 공개적으로 지지해 온 안전조치를 법원을 통해 요구하는 사례라고 주장했다.

AI 안전 기준을 둘러싼 논의는 업계 전반으로 확산하고 있다. 오픈AI, 앤트로픽, 메타, 마이크로소프트 등의 주요 연구진은 28일 공개된 공동 논문에서 AI가 AI 연구·개발을 자동화할 경우 인간의 대응 능력을 넘어서는 ‘지능 폭발’이 발생할 가능성을 경고했다. 연구진은 정책당국에 기업들이 AI 연구·개발을 어느 수준까지 자동화하고 있는지 보다 투명하게 공개하도록 요구했다.

Four months ago, we filed the first state-led lawsuit against OpenAI and Sam Altman. Today, we are asking the court for a temporary injunction.

Stop calling it safe. Stop pretending it’s human. Stop selling it to kids. pic.twitter.com/AEXvz7VQUd

— Attorney General James Uthmeier (@AGJamesUthmeier) September 28, 2026