청소년의 소셜미디어(SNS)와 인공지능(AI) 챗봇 과몰입 문제를 단순한 이용시간·연령 제한보다 서비스 설계 단계의 안전장치 강화로 대응해야 한다는 제언이 나왔다. 사전 위험평가와 연령에 맞는 기본설정 등을 제도화하자는 의견과 함께 과도한 규제가 산업계 부담으로 이어질 수 있다는 지적도 제기됐다.
한국소비자연맹(회장 강정화)은 박정하·한지아 의원실, 한국정보통신법학회와 28일 국회의원회관에서 ‘청소년에게 안전한 디지털 환경은 누구의 책임인가?-SNS·AI 챗봇 중독과 플랫폼의 안전설계 책임’ 토론회를 개최했다.
이번 토론회에서 상윤모 연세대학교 언론홍보영상학부 교수는 청소년 SNS 이용 제한 관련 해외 규제와 소송 사례를 소개하며 무한 스크롤과 알고리즘 추천 등 과몰입을 유발할 수 있는 서비스 설계에 대한 대응 필요성을 제기했다. 단순한 접근 제한보다 설계 단계부터 위험을 줄이는 ‘안전설계(Safety by Design)’ 방식을 검토해야 한다는 설명이다.
김나정 국회입법조사처 조사관보는 “AI 챗봇의 경우 기존 게시물 중심 사후 규제만으로 실시간 대화와 정서적 의존 문제에 대응하기 어렵다”고 지적했다. 그는 AI 서비스 전체를 일률적으로 제한하기보다 기능별 위험 수준에 따라 규제를 달리하고 사전 위험평가, 연령적합설계, 위기 상황 대응 등을 구체화할 것을 제안했다.
토론에서도 플랫폼의 사전 예방 책임을 강화해야 한다는 데 의견이 모였다. 정지연 한국소비자연맹 사무총장은 “청소년의 과몰입 문제를 이용 제한이나 부모의 관리 책임만으로 해결하기 어렵다”며 “연령에 맞는 기본설정과 과몰입·정서적 의존 방지 장치를 서비스 설계 단계부터 적용해야 한다”고 주장했다. 최진응 국회입법조사처 조사관도 “접근 자체를 막기보다 안전한 이용을 보장하는 방향으로 규제 체계를 설계할 필요가 있다”고 밝혔다.
산업계에서는 규제 범위를 신중하게 정해야 한다는 의견을 냈다. 조영기 한국인터넷기업협회 사무총장은 청소년 보호 필요성에는 공감하면서도 “접근 제한 중심 정책이나 연령확인 의무가 과도한 개인정보 수집과 기업 부담으로 이어질 수 있다”고 지적했다. 서비스 전체보다 위험 기능을 중심으로 규율하고 산업계와 협의하는 방식이 필요하다는 입장이다.
함형철 방송미디어통신위원회 과장은 “서비스 기능과 이용자 특성, 예상 피해를 고려해 위험이 높은 기능에 강화된 안전장치를 적용할 필요가 있다”고 밝혔다.
한국소비자연맹은 토론회를 계기로 사전 위험평가와 연령적합설계, 안전한 기본설정 등 안전설계 원칙의 제도화 논의를 이어갈 계획이다.
정종길 기자
jk2@chosunbiz.com
댓글0