‘도덕적 기계’는 AI 로봇이 윤리적 판단을 내리고 도덕 행위자가 될 수 있는지 탐구한다. 김상득은 AI의 존재론적 지위와 인간이 새 존재와 맺을 관계를 철학적으로 살핀다.
AI의 편향과 개인정보 침해, 일자리 대체, 딥페이크, 군사용 로봇은 이미 제기된 윤리 문제다. 책은 이를 나열하는 데 그치지 않고 AI 로봇이 어떤 존재인지, 도덕성을 가질 수 있는지를 질문의 출발점으로 삼는다.
첫 장은 로봇윤리학의 역사와 기계윤리학, 로봇 행위론과 존재론을 다룬다. 트롤리 문제와 터널 문제를 AI 로봇의 윤리 옵션과 연결해 기계가 내리는 선택의 기준을 검토한다.
이어 AI 로봇의 윤리적 결정과 도덕적 지위를 논한다. 마음·의식·자유의지를 도덕 행위자의 필수 조건으로 보지 않는 윤리적 행동주의는 AI 로봇의 외면적 행위가 인간 윤리와 얼마나 같은지에 주목한다.
‘마음 없는 도덕’을 다루는 장에서는 도덕의 요구조건과 AI 로봇의 자율성을 살핀다. AI 로봇이 도덕 행위자가 될 수 있다는 논변은 인간과 로봇의 공존을 위한 새로운 윤리의 필요성으로 이어진다.
윤리 알고리즘 장은 AI 로봇이 윤리를 구현할 수 있는지 묻는다. 조건부적 의무론과 규칙 공리주의, 인간윤리와 로봇윤리의 차이, 도덕적 튜링 테스트를 통해 구현 가능한 윤리의 수준과 방식을 검토한다.
책은 AI 로봇이 초래한 해악의 책임을 누구에게 물을지에도 주목한다. 제작자·프로그래머·사용자에게 책임을 묻는 방식, 책임 공백, AI 로봇의 책임 주체 가능성을 함께 다루며 Gen AI의 저자 자격과 도덕적 권리도 논의한다.
김상득 전북대학교 철학과 교수는 AI에 답을 요구하기보다 AI 자체에 질문을 던져야 한다는 입장을 제시한다. 김 교수는 AI에게 무엇을 시킬지에 앞서 AI가 어떤 존재가 될 수 있으며 인간이 어떤 도덕 공동체를 구성할지 묻는다.
△ ‘도덕적 기계’/ 김상득 지음/ 600쪽
댓글0