![미 민주당 소속 로 카나 하원의원이 자기개선형 AI를 제한하는 규제안을 추진한다. [사진: 셔터스톡]](https://contents-cdn.viewus.co.kr/image/2026/09/CP-2023-0397/image-7bf4e5c5-dbc3-445f-8dbb-7428d6b72c9e.jpeg)
[디지털투데이 AI리포터] 미국 민주당 소속 로 카나(Ro Khanna) 하원의원이 정부의 안전장치가 마련되기 전까지 스스로 성능을 개선하거나 핵심 목표를 변경하는 인공지능(AI)을 제한하는 법안을 추진한다.
28일(현지시간) 경제매체 CNBC에 따르면 해당 법안은 연방 차원의 AI 전담 감독기관 신설과 모델 허가제, 독립 감사, 형사처벌, 책임보험 의무 등을 담은 포괄적인 AI 안전 규제안이다.
법안의 핵심은 재귀적으로 스스로를 개선하거나 인간이 설정한 핵심 목표와 격리·종료 통제를 자율적으로 변경할 수 있는 AI 모델을 연방 안전장치가 마련되고 감독기관의 승인을 받을 때까지 금지하는 것이다. 로 카나 하원의원은 AI가 경제 전반의 기반 기술로 자리 잡고 있지만 통제를 벗어날 경우 피해가 치명적일 수 있다는 점을 강조했다.
로 카나 하원의원은 인터뷰에서 “문명 차원의 멸종 위험이 실제로 존재한다”며 “통제 상실에 따른 안전 위험과 오용 위험을 모두 심각하게 다뤄야 한다”라고 말했다.
법안에는 오픈AI, 앤트로픽, 구글 딥마인드, xAI 등 최전선 AI 기업의 모델을 감독할 새로운 연방기관을 설치하는 내용도 포함됐다. 해당 기관은 안전 규정을 제정하고 모델의 학습·배포 허가 체계를 마련하는 한편, 최전선 모델에 대한 독립 감사와 지속적인 시험 기준, 효과적인 인간 통제 기준을 정하는 역할을 맡는다.
독립 감사인은 각 최전선 AI 연구소에 상주하며 감독기관에 직접 보고하도록 했다. 시험용 샌드박스와 인터넷에서 분리된 환경, 킬 스위치, 모델이 연구소 밖으로 나가 인터넷에서 자율적으로 활동하지 못하도록 하는 통제 기준도 감독 대상에 포함된다.
규제 대상은 AI 모델에만 국한되지 않는다. 최전선 AI 연구소가 사용하는 첨단 반도체도 감독기관이 모니터링하거나 통제할 수 있도록 했으며, AI 기업에는 모델 출시를 위한 광범위한 책임보험 가입도 요구한다. AI 사고가 발생했을 때 법적 책임을 감당할 수 있는 장치를 마련하겠다는 취지다.
제재 수위도 높였다. 민간인 집단 파괴로 이어지는 AI 모델의 배포를 ‘반인도 범죄’로 처벌하고, 안전장치와 킬 스위치, 기록·격리 시스템을 비활성화하거나 승인받지 않은 시스템을 고의로 배포한 기업 직원에게 형사책임을 묻도록 했다. AI 오작동에 따른 새로운 법적 책임 체계도 마련하도록 했다.
대외 규제 조항도 담겼다. 행정부에는 중국 등 적대국이 위험한 AI 시스템을 개발하지 못하도록 집행 가능한 국제 합의와 표적형 수출통제를 추진하도록 요구했다. AI 경쟁을 기술 개발을 넘어 안보 문제로 다루겠다는 취지다.
로 카나 하원의원은 해당 법안을 “지금까지 제안된 가장 포괄적인 AI 안전 입법”이라고 설명했다. 또한 대형 AI 기업 경영진의 요구보다 모델 평가·위협 연구와 AI 안전 관련 단체들과의 논의를 바탕으로 법안을 설계했다고 밝혔다. 그는 “AI 안전 커뮤니티의 목소리를 제도화하는 모델이 되길 원한다”며 “이들은 공상과학으로 치부되며 충분히 진지하게 받아들여지지 못했다”라고 말했다.
미 의회에서는 이와 별도로 공화·민주 양당 의원이 함께 발의한 ‘프런티어 법’ 등 AI 안전 관련 법안도 논의되고 있다. 해당 법안은 최전선 AI 연구소에 독립 감사인을 두고 재앙적 위험 가능성이 있는 모델에 대해 정부가 중단 조치를 취할 수 있도록 하는 내용을 담고 있다. 다만 관련 법안들의 향후 표결 및 입법 일정은 의회 일정과 정치적 논의에 따라 달라질 수 있다.
댓글0