[톡톡why] 자율주행차 인공지능은 '살인 프로그램', 윤리적 딜레마에 빠지다 재생시간 : 03:30  |  조회수 : 4,123  |  김원유

"우리는 운전자의 안전을 최우선할 것이다."

크리스토프 반 휴고 메르세데스-벤츠 운전자보조 및 안전시스템 담당 임원이 한 잡지사와 인터뷰에서 한 말이다.

이 발언은 엄청난 비판을 받았다. 심지어 메르세데스-벤츠는 공식적으로 "해당 발언은 메르세데스-벤츠의 공식 입장과는 관계가 없다"고 선을 긋기까지 했다.

자동차회사 임원이 운전자의 안전을 강조했다고 비판을 받는 일이 왜 일어났을까?

메르세데스-벤츠 임원의 이 발언은 자율주행차의 '트롤리 딜레마'와 관련이 있다. 트롤리 딜레마란 생명의 선택과 관련된 유명한 윤리 사고실험 문제로, 자율주행차의 인공지능(AI)을 개발하는 엔지니어들이 현실로 맞닥뜨리고 있는 문제기도 하다. 

자율주행분야에서 트롤리 딜레마는 보통 운전자와 보행자의 문제로 치환된다. 

만일 자동차가 급제동을 할 수 없는 상황이라면 자율주행 인공지능은 운전자와 보행자 중에 누구를 살리는 선택을 해야 할까? 브레이크가 고장난 자동차 앞에 아이와 어른이 있다면, 혹은 한 사람의 보행자와 여러 명의 보행자 무리가 앞에 있다면 자율주행 인공지능은 어느 쪽으로 운전대를 틀어야 할까?

휴고 벤츠 임원은 이런 상황에서 보행자가 아니라 운전자를 살리는 길을 선택해야 한다고 이야기한 셈이다. 당연히 보행자의 생명을 경시했다는 반발을 불러올 수 밖에 없다.

그렇다고 운전자보다 보행자의 생명을 우선하는 자율주행차가 소비자의 선택을 받을 수 있을까? 여차하면 운전자를 죽이는 선택을 할 수 있는 인공지능이 탑재된 차를 선뜻 구매하기는 어려운 일이다.

자율주행차의 트롤리 딜레마는 오래전부터 논의되어 온 문제다. 2015년 'MIT 테크놀로지 리뷰'라는 기술전문 잡지에 "왜 자율주행차는 사람을 죽이도록 프로그래밍 돼야 하는가(Why Self-Driving Cars Must be Programmed to Kill) 라는 기사가 올라오며 이 논의에 불이 붙었다.

문제는 이제 진짜로 시간이 없다는 것이다. 현재 세계 자율주행차시장을 이끌고 있는 테슬라, 웨이모를 포함한 글로벌 대형 완성차회사들은 이미 4단계 자율주행차 시범운행을 진행하고 있다.

4단계 자율주행차는 운전자가 아예 운전대에서 손을 놓은 채 영화를 보거나 책을 읽어도 무방한 수준의 자율주행 단계다. 인공지능이 자동차를 출발지부터 목적지까지 온전히 운전하는 자율주행 시장이 열리고 있는 것이다.

자율주행 기술이 무섭게 발달하고 있는 상황에서도 트롤리 딜레마와 관련된 사회적 합의는 여전히 이뤄지지 않고 있다. 

하지만 해결의 단초는 보이고 있다. 독일에서 '자율주행차 윤리 가이드라인'이 발표된 것을 시작으로 각 나라의 정부가 여러 가지 가이드라인을 제시하고 있다. 

우리나라 국토교통부도 국내외 관련 사례 검토와 전문가 의견 등을 종합해 2020년 12월 자율주행차 윤리 가이드라인을 내놓았다.

가이드라인은 자율주행차가 지켜야하는 여러 사회적 가치들에 대해서 규정하고 있다.

예를 들어 가이드라인의 '공통원칙' 부분에서 '기본가치'의 1.1항은 "인간을 성별, 나이, 인종, 장애 등을 이유로 차별하지 않아야 한다"고 정하고 있다. 

언뜻 보면 당연한 말 같지만 이 규정은 꽤 중요한 논점에 해답을 제시하고 있다. 자율주행차의 인공지능이 어느 한 쪽의 생명을 선택해야 할 때 그 기준은 성별, 나이, 인종, 장애 등이 되어서는 안된다는 뜻이다.

타이타닉 같은 재난영화에는 대부분 "여자와 아이부터 탈출시켜라"라는 외침이 등장한다. 하지만 국토교통부의 가이드라인에 따르면 이 외침은 정당하지 않다.  

차가 직진하면 여자 아이를 치게 되고 차가 방향을 틀면 건강한 성인 남성을 치게 된다고 했을 때, '여자'와 '아이'라는 기준 때문에 성인 남성을 치는 방향으로 회전해서는 안 된다는 뜻이다.

물론 여전히 문제는 남아있다. 각국에서 발표되고 있는 가이드라인 역시 굉장히 복잡한 도덕적 딜레마 상황에서 인공지능이 어떻게 행동해야 하는지 명확한 해답을 내려주지는 못하고 있다.

최근의 추세는 점점 트롤리 딜레마 자체가 문제가 아니다라는 쪽으로 흐르고 있다. 이런 상황에서 어떻게 행동할지를 결정하는 것은 어차피 불가능하기 때문에 이런 상황이 발생하지 않도록 하는데 모든 역량을 집중해야 한다는 것이다. 

국토교통부 가이드라인 역시 '총칙' 부분에서 "트롤리 딜레마 상황과 같이 자율주행자동차 운행 때 피할 수 없는 사고가 발생하여 윤리적 판단을 내려야 하는 경우에는 자율주행자동차가 어떠한 선택을 하든지 필연적으로 인적·물적 피해를 발생시킬 가능성이 크다"며 "따라서 이러한 피할 수 없는 사고와 그에 따른 윤리적 선택 상황이 발생하지 않도록 예방조치를 취하는 것이 중요하다"고 말하고 있다.

다가오는 자율주행차시대, 각종 윤리적 문제는 우리 앞에 어떤 형태로 다가오게 될까? 

우리 사회는 그 딜레마를 맞아 어떤 선택을 하게 될지 지켜볼 일이다. [비즈니스포스트 윤휘종 기자]ⓒ 채널후, 무단전재·재배포 금지