트롤리 딜레마(자율주행자동차에서)

자율주행 자동차에서 '트롤리 딜레마'에 대하여 설명하고, 다음 3명의 관점을 활용하여 자신의 견해를 서술하시오.

먼저, 트롤리의 딜레마란, 사람들에게 브레이크가 고장 난 트롤리 상황을 제시하고 다수를 구하기 위해 소수를 희생할 수 있는지를 판단하게 하는 문제 상황을 가리키는 말이다. 

자율주행 자동차란, AI가 운전하는 자동차로 사고 위험률이 거의 없다고 할 수 있겠다. 하지만 언제나 만약의 경우는 존재하는 법. AI가 다수와 소수의 사람을 저울질할 수 있는 능력이 있을까? 또 딜레마와 같은 상황이 벌어진다면, 운전자를 버리겠는가? 앞에 있는 사람들을 버리겠는가.?

1) 벤담의 '최대다수의최대행복’
밴 담임은 쾌락주의 철학자이다. 그러한 벤담이 말하기를. 사람들의 행동은 쾌락과 고통이 지배한다. 쾌락은 선이며 고통은 악이다. 올바른 행위란 자신의 쾌락을 늘리는 것. 이라고 할 수 있다. 그 쾌락을 매기는 기준은 강도, 확실성, 근접성, 생산성, 지속성, 순수성이며, 밴 담은 여기에 인 애를 추가하여 윤리적인 행위란 결국 그 집단의 최대 행복이다. 벤담은 이 트롤리의 딜레마에 대해 무조건 다수를 구하는 쪽을 선택할 것이다. 하지만 본인은 공리주의자가 아니다. 그 사람이 누군가에 따라 선택할 것이다. 즉, 인 애를 버리겠다는 말이다. 혼자 있는 사람이 선한 사람이고, 다수의 쪽이 범죄자 집단이라면 혼자 있는 사람을 위하겠다. 하지만 AI가 그 상황을 이해할 수 있을 리 전무하다. 또, 본인이 운전자일 경우에는 당연히 본인이 살겠다. 모르는 사람들을 위해 본인이 죽고 싶지는 않다.


2) 칸트의 '타인의 목적을 수단으로 대하지 말라’
칸트는 먼저, 실천 법칙으로서의 명령이 요구하는 행위가 수단으로서 선한 것이냐, 아니면 그 자체로 선한 것이냐에 따라 가언적 명령과 정언적 명령을 구별하고 있다. 이에 따르면 칸트에게 사람을 구하는 행위는 그 자체로 선한 것. 그것이 곧 정언명령이다. 그러니, 칸트 또한 다수를 구할 것이다. 그리고 가능한 한 한 사람도 죽지 않고 운전자가 사망할 것이다. 사람을 구하는 행위는 선한 행위이므로 정언명령이고, 본인이 사는 것은 수단으로 선한 행위이기 때문에 가언명령이다. 기계가 칸트와 같은 지능이 있다면 근처 기둥에 박을 것이다.
역시 본인은 본인이 살겠다.


3) 토마스 아퀴나스의 ' 좋은 의도였다면 나쁜 결과를 가져왔어도 허용한다’
토마스 아퀴나스는 사람의 행동이 좋은 의도였다면, 나쁜 결과를 가져왔다 하더라도 그 행동을 허용해야 한다는 이론을 주장하였다. 그 주장의 원리는 4가지로, 첫째. 행위 자체가 도덕적으로 선하거나 적어도 중립적이어야 한다. 둘째. 나쁜 결과가 아닌 좋은 결과를 의도해야 하며, 셋째. 좋은 결과는 행위 자체로부터 기인해야 하며, 넷째. 좋은 결과는 나쁜 결과보다 더 바람직하고 좋아야 한다. 그러므로, AI는 바람직하고 좋은 의도의 것을 행해야 한다. 차에 탑재된 AI의 주인은 운전자이다. 그 AI에 운전자를 제외한 다른 사람은 타인이다. 즉, 모르는 사람을 위해서 자기 주인을 희생시킬 필요는 없다는 것을 의미한다. AI에 있어서 좋은 의도란 자기 주인을 살리는 것. 나쁜 결과는 다수의 사람이 죽거나 다치는 것을 들 수 있겠다. AI는 주인을 살리는 것이 옳다. 물론, 미래의 AI라면 모두가 살 방법을 알지 않겠는가?