前구글 안전 담당 임원 “AI, SNS보다 아동에 더 위험”

구글에서 안전 업무를 총괄한 전직 임원이 인공지능(AI)이 소셜미디어(SNS)보다 아동과 청소년에게 더 큰 위험을 초래할 수 있다고 경고했다.

톰 시걸 전 구글 신뢰·안전 담당 부사장은 22일(현지 시각) 시민단체 ‘커먼센스미디어’가 설립한 ‘청소년 AI 안전 연구소’의 첫 집행 이사로 취임하면서 가진 로이터 통신과 인터뷰에서 이같이 밝혔다.

시걸 이사는 “우리는 AI가 아동에게 미치는 영향과 관련해 매우 끔찍한 상황에 부닥쳐 있다”며 “기술 업계가 외부의 도움 없이 스스로 문제를 해결할 것이라는 생각은 비현실적”이라고 말했다.

그는 빅테크들이 SNS를 개발하며 저지른 실수를 AI 분야에서 그대로 반복하고 있다면서, 이들이 충분한 안전장치를 마련하지 않은 채 아동을 대상으로 서비스를 내놓고 있다고 비판했다.

시걸 이사는 “우리는 매우 심각한 피해 시나리오를 직면하고 있다”며 청소년 자살과 정신질환, 그리고 AI 의존에 따라 비판적 사고 능력이 저하하는 ‘인지 외주화’를 그 피해 사례로 들었다.

그는 아동의 챗봇 접근을 제한할 수 있는 강력한 연령 확인 장치를 도입하고, 검색엔진에 자동으로 노출되는 AI 답변을 이용자가 끌 수 있도록 해야 한다고 주장했다. 그러면서 자동차 충돌 시험처럼 AI의 위험성을 객관적으로 평가할 수 있는 공개 기준도 마련할 계획이라고 밝혔다.

이에 대해 구글 대변인은 “우리의 AI 검색은 아동·청소년이 정보를 탐구하는 데 유용하다”고 밝혔다. 오픈AI는 서비스 이용 가능 연령에 미달하는 이용자를 다양한 행동 분석을 통해 식별하고 있다고 설명했다.

시걸 이사는 2004년부터 2019년까지 구글에서 근무하며 플랫폼 안전 관련 업무를 담당했다. 이후 기존 방식만으로는 한계가 있다고 판단해 회사를 떠나 AI 유해 요소를 탐지하는 스타트업 ‘트러스트랩’을 공동 창업해 이끌어왔다.

오픈AI의 상위 조직인 오픈AI 재단과 앤트로픽은 청소년 AI 안전 연구소를 후원하고 있다.

• 한컴위드, 커넥셔너리와 AI 기반 문서 자동분류 개발 추진
• 엔씨 신작 ‘아스트라에 오라티오’ 내달 2일부터 글로벌 테스트
• 청약통장 종합저축 전환, 내년 9월까지 1년 더 연장
• [단독] 아시안게임 출전 앞둔 주짓수 국가대표, ‘자격정지 3년’ 날벼락
• 서울숲 일대에 49층 아파트·호텔·공연장 품은 복합건물 들어선다