자율주행자동차 윤리적 문제 해결방안 - jayuljuhaengjadongcha yunlijeog munje haegyeolbang-an

[테크월드=선연수 기자]

경쟁에서 앞서 나가기 위해 자동차 제조업체는 미래를 내다보고 면밀히 계획을 짜야 한다. 현재 자동차 제조업체가 바라보는 자동차 산업의 미래는 자율주행자동차다. AI가 제어하는 자동차는 더 빠른 속도로 서로 가깝게 주행할 수 있어 도로의 차량 수용 능력을 높인다. 또한, 자동차 사고가 발생할 수 있는 상황에서 빠르게 반응해 더 안전할 수 있다. 전 세계 곳곳에서 자율주행자동차 시험 운행이 진행되고 있으며, 최초로 상용화된 자율주행자동차가 일반 대중에게 판매되는 것은 시간문제일 뿐이다.

자율주행자동차 사고 책임의 주체

자율주행자동차가 잠재성을 완전히 실현하려면 공개적인 사용 전에 짚고 넘어갈 문제가 몇 가지 있다. 특히, 윤리적 문제와 책임 주체에 관한 문제를 꼽을 수 있으며, 다른 분야와 관련된 엔지니어들은 이미 수년간 이런 문제를 다뤄왔다.

테슬라와 같은 반자율주행차에서, 향후 완전 자율주행차로 나아가는 데 있어 중요한 문제 중 하나는 사고의 책임을 물을 대상이다. 현재 반자율주행차는 충돌 발생 시 이에 대한 책임을 운전자가 지는 것으로 탑승자를 규정하고 있다. 그러나 만약 자율주행자동차가 충돌한다면 누가 책임질 것인가? 이 질문에 대한 답을 얻기 전엔 자율주행자동차는 보험에 들 수 없으며, 따라서 공공 도로에서 운행할 수 없다.

자율주행자동차는 여러 잠재적 책임 주체를 가진다. 자동차 소유자, 제조업체, 소프트웨어 개발자, 서브시스템 제조업체가 모두 사고에 책임이 있을 수 있다. 만약 자동차가 도로 규칙을 준수했다면 제조업체에 잘못의 책임이 있는 걸까? 지금까지 책임지겠다고 직접 표명한 제조업체는 볼보뿐이며, 2015년 10월 자사의 자율주행자동차에 대한 책임을 수용할 것이라고 밝혔다.

트롤리 딜레마

자율주행자동차 제조업체가 직면한 윤리적 문제와 관련해 가장 많이 언급되는 시나리오 중 하나가 ‘트롤리’ 딜레마다. 이는 사고가 불가피할 때 자동차의 소프트웨어가 어느 방향을 취할지 결정해야 하는 상황을 의미한다. 원래 트롤리 시나리오는 5명이 있는 선로를 향해 달려가는 고장난 열차와 선로 전환기 앞의 한 사람과 관련된 문제로, 전환기 앞의 결정권을 가진 사람이 아무 행동을 하지 않으면 5명의 사람이 죽게 되고, 전환기를 당겨 방향을 돌리면 1명이 죽게 된다. 이제 자율주행자동차 시대에선 전환기 앞의 사람을 자동차의 소프트웨어가 담당하게 된다. 만약 사고가 일어날 것이 확실한 상황에서 도로의 한 쪽에는 엄마와 아기가 있고, 자동차 앞쪽엔 한 무리의 어린 학생들이 길을 건너고 있으며, 도로의 다른 쪽은 절벽이라면, 자동차가 내릴 수 있는 가장 윤리적인 결정은 무엇일까? 자동차가 방향을 틀어 엄마를 치는 것일까, 아이들에게 돌진하는 것일까, 아니면 절벽으로 몰아 차 안에 탄 사람을 죽도록 하는 것일까?

메르세데스는 이 상황에 대해 자동차는 운전자를 보호할 일차적인 책임이 있다고 발표했으나, 해당 표명은 상황을 잠재우는 대신 ‘킬러 로봇’이라는 헤드라인으로 장식됐다.

트롤리 딜레마 논제의 비현실성

현실적인 상황을 평가하기 위해선 이런 상황이 얼마나 일어나기 어려운지, 그리고 자율주행자동차가 어떻게 동작하는지 자세히 알 필요가 있다. 트롤리 딜레마에서 상정되듯이 매우 제한적인 공간에서 자율주행자동차는 트롤리 결정을 내리는 상황을 맞닥뜨리기 전에 환경에 반응한다. 자율주행자동차는 속도를 늦추고 센서의 범위를 확대해 주변 환경에 대해 최대한 완벽한 그림을 확보한다. 이런 작업이 이뤄짐으로써 자율주행자동차는 누구를 죽여야 할 것인가에 대한 결정을 내려야 하는 상황에 놓일 가능성이 훨씬 낮다. 그런데도 만약 해당 상황에 놓인다면, 초기에 위험을 감지하지 못하고 자동차를 위험한 상황에 빠뜨린 메인 라이다(LiDAR)와 레이더, 초음파 센서의 잘못일까?

자율주행자동차가 선택할 상황에 놓이지 않을 두 번째 이유는 자율주행자동차는 인간 운전자보다 훨씬 빨리 멈출 수 있다는 사실이다. 충돌 가능성이 있는 상황이 감지되면, 자동차는 밀리초만에 제동하기 시작한다. 센서의 범위가 차량의 정지거리를 훨씬 넘어서기 때문에 자동차가 치명적인 상황에 처할 경우는 훨씬 줄어든다. 어떠한 이유로 충돌이 불가피해졌다면, 브레이크뿐 아니라 센서 역시 안전벨트를 조이거나 에어백을 작동시키는 등 운전자를 보호하기 위한 다양한 조치를 취할 수 있다.

자동차의 라이다 센서는 자동차 주변 영역에 대해 3차원 모델을 구성한다. 이후 알고리즘으로 영역 내 모든 위험을 탐지하며, 다른 센서 시스템을 이용해 라이다가 감지한 위험의 진위 여부를 이중으로 검사한다. 이때 잘못된 감지라 해도 적시에 위험을 인식하지 못하는 것보다는 바람직하다.

전체 시스템은 세대를 거칠 때마다 향상된다. 따라 센서는 더 빨라지고 더 섬세해지며, 위험을 평가하는 소프트웨어 알고리즘 역시 더욱 정교해진다. 시스템 기능 향상은 잘못된 감지가 발생할 가능성이 줄어드는 것을 의미하며, 안전 시스템의 충분한 배치를 보장함으로써 자율주행자동차를 더욱 안전하게 만든다.

실질적인 위협, 해킹

마지막으로 남은 치명적인 위험은 바로 외부로부터의 해킹이다. 차량의 소프트웨어는 그 어떤 것이라도 변경된다면, 도로 위에서의 안전이 보장되지 않는다. 사이버 보안은 자율주행자동차 제조업체에게 남겨진 가장 큰 과제이며, 이를 해결하기 위해 제조업체들은 적극적으로 노력하고 있다. 무선 차량 간 통신(V2V) 시스템은 전체 안전 시스템에서 필수적인 기능 블록으로, 전방에 위험이 존재할 경우 자동차가 다른 차량의 동작 정보를 얻어 더 일찍 제동할 수 있도록 한다. 이는 V2V 시스템이 어떻게 활용될 수 있는지 보여주는 한 예다.

개발자와 해커 간의 전쟁은 자율주행자동차의 진정한 위험이며, 승객과 일반 대중의 안전뿐 아니라 자율주행자동차의 성공을 보장하기 위해선 개발자가 반드시 이겨내야 하는 전쟁이다. 악의적인 위협은 앞서 언급한 자동차의 트롤리 딜레마나 진정한 책임 주체와 같은 인지할 수 있는 위협보다 훨씬 더 실제적인 문제다.

글: 마크 패트릭(Mark Patrick)

자료제공: 마우저 일렉트로닉스

미국 국제자동차기술자협회(Society of Automotive Engineers; SAE International)에서는 도로를 주행하는 자동차의 자동화를 5단계로 나누었고, 현재 우리는 3단계(Conditional Automation; Limited Self-Driving Automation)에서 4단계(High Automation; Self-Driving Under Specified Conditions)로 넘어가고 있는 자율 주행 자동차를 보고 있다.

자율 자동차 업계를 선도하는 몇몇 외국 자동차 회사들은 대략 2018년에서 2020년 사이에는 완전 자동화된 5단계(Full Automation; Full Self-Driving Automation)의 ‘운전자 없는 차량’(driverless cars)을 상용화할 것이라고 선언했다.

여러분은 완전 자율주행이 가능한 자동차가 시판된다면 이를 구입할 생각인가? 내 손으로 기계로 조작하며 도로를 달리는 드라이빙의 쾌감을 버릴 수 없다는 생각 때문이었는지는 모를 일이지만, (명성인지 오명인지 혼란스런 상태지만) 자동차의 나라 독일에서 실시한 관련 조사에 설문에 응답한 사람의 64~67%가 자율주행차량에 별 관심이 없다고 답했다. 우리나라 사람들은 어떻게 대답할까?

지금까지 인공지능이나 자율주행차량이라는 이름으로 등장한 차량이 관계된 크고 작은 사고는 적지 않았지만, 2016년 5월 미국 플로리다에서 발생한 테슬라 모델 S 차량과 트레일러의 충돌사고는 지금까지 그 정확한 원인에 대한 당사자들의 합의가 도출되지 못하고 있다. 이 충돌사고에서 운전자가 사망한 원인에 대해서 지난 12일 미연방교통안전위원회(NTSB)가 또 다시 새로운 검토보고서를 제출했다. 이에 따르면 테슬라의 자율 주행 시스템이 도로에서 운전자의 주의를 분산하게 만든 것이 사고의 원인이었다고 한다. 도로에서 수 만 명의 목숨을 구할 잠재력이 완전한 현실이 될 때까지는 운전자들에게 조심해서 운행해야한다는 조언도 덧붙였다.

완전 자율화 차량의 그 잠재력이 현실이 되면 교통사고 0%의 시대가 도래 할 것이라고 전망하는 사람도 있지만, 그렇게 되기 위해서는 (도로나 신호 등 기반인프라가 완전하게 구축되어야 하는 등의 기술적 전제를 논외로 하더라도) 도로를 주행하는 모든 차량은 인공지능이 운전하는 자동차라야 하고, 피할 수 없는 사고 상황이 발생하지 않아야 하고, 설령 그런 충돌 상황이 닥친다면 물리법칙까지도 극복할 수 있는 능력을 가진 차량이 만들어져야만 한다며 장밋빛 전망의 비현실성을 지적하기도 한다. 물론 인간의 과실과 착오로 인해 발생하는 사고만을 줄일 수 있다면, 연간 전 세계적으로 수 십 혹은 수 백 만 이상의 엄청난 목숨을 구할 수 있을 것이라는 전망을 단순히 공상으로 치부해버릴 수는 없을 것이다.

완전 자율화가 구현된 경우는 물론, 그 이전 단계들에서도 특정 모드에서 자율 주행을 담당하고 있던 자율 주행 시스템이 심각한 사고 상황에 직면하게 되고, 자신이 판단할 수 있는 내용이 아니므로 그 판단을 인간 탑승자에게 넘겨주어야 하는 대상이지만, 예를 들어 시간적인 문제로, 이에 대해 인간이 신속하게 상황을 파악해 적절히 대처할 수 있는 가능성이 배제된 상태라면, 그 판단은 자율 주행 시스템의 인공지능에게 넘겨줄 수밖에 없을 것이다. 이런 경우 자율 주행 시스템의 인공지능이 어떻게 반응하도록 만들어야 할 것인가!

“자율주행차량의

교통사고 알고리즘(Accident-Algorithm)은

어떻게 만들어져야 할 것인가?”

썩 유쾌하지 않은 브레인스토밍이겠지만, 만약 2인이 탑승한 자율주행차량이 달리는 차선의 맞은편에서 대형트럭이 달려오고 있었고, 완전자율주행차량도 예상하지 못한 기술·환경적 문제로 인해 트럭이 갑자기 차선을 벗어나 자율주행차량을 향해 달려오고 있다고 하자. 인간에게는 불가능했겠지만, 자율 주행 시스템은 아주 짧은 시간에 자신을 향해 달려오는 트럭의 진행방향과 차량의 대략적인 무게를 인식한다. 주변 환경에 대한 정보를 분석하니 당장 오른쪽 보도 쪽으로 차량의 진행 방향을 틀지 않으면 트럭과의 충격을 피할 수 없을 것이고, 자신의 차량에 탑승한 2인의 승객은 사망할 것이라는 계산이 나왔다. 그런데 불행하게도 그 보도에는 한 명의 노인이 걸어가고 있었다. 귀한 생명이 희생될 수 있는 심각한 문제이기에 인간탑승자에게 판단을 넘기려고 해도, 컴퓨터의 계산상 인간이 사태를 인식하고 합리적으로 의사결정을 하고 반응할 수 있는 여유가 없다는 결과가 나왔다. 즉, 자율 주행차량 스스로 그 상황에 대처할 수밖에 없다면 어떻게 대응하도록 프로그램화 할 것인가?

이미 누구나 한 두 번은 생각해 볼 기회가 있었을 이러한 사례에서 윤리적 난제(ethical dilemmas)가 무엇인지는 쉽게 알 수 있다. 사고는 결코 발생하지 않을 것이라는 비현실적인 이유를 제외한다면, 자율주행차량에 미리 이러한 사고 상황에서 해야 할 일 처리 매뉴얼을 장착해야하는 것은 설계자, 제조자, 판매자, 구매자는 물론 제조, 판매 및 도로교통 등을 관할하는 국가기관도 피할 수 없는 일이다. 사람이 운전하는 차량을 세상의 모든 도로에서 몰아내고 인공지능이 작동하는 자율주행차량만이 자동차를 운행하는 도로와 세상을 상정하지 않는 한, 이러한 피할 수 없는 사고 상황을 대비하여 자율주행차량 시스템에 미리 설정되어야 할 우선순위(pre-set priorities)는 무엇이어야만 하는지가 문제인 것이다.

어떤 경우라고 항상 자율주행차량에 타고 있는 승객을 우선시할 것인가? 아무런 잘못 없이 희생되어서는 안 될 보행자를 우선해야 하는 것은 아닌가? 공정이 우선인가? 공익을 우선해야하는 것은 아닌가? 어쩌면 누군가의 운명을 미리 결정하는 일일 수 있는 그런 내용의 매뉴얼을 미리 만들어서는 안 되는 것인가?

만약 2:1의 생명이 아니라 10명과 1명의 희생 중에 어느 것을 선택해야 한다면 조금 더 그 선택은 쉬워질 것인가? 90대의 노인과 9살의 초등학생 중 한 명을 희생해야만 하는 안타까운 상황에서는 어떤 선택을 해야 하는가? 어떤 경우라고 예정된 기존의 진행 방향을 결코 변경해서는 안 되고 각자의 운명을 받아들이게 해야 하는 것일까?

윤리학에서 가장 대표적인 사고실험(thought experiments)의 예로서 활용되고 있는 풋(Foot)의 Trolley dilemma(광차(鑛車)의 딜레마)는 자율주행차량의 사고알고리즘과 관련해서도 예외 없이 등장한다. 형사법 영역에서 전통적인 논쟁거리인 카르네아데스의 널빤지(Plank of Carneades)의 딜레마도 이와 유사한 구조를 가지고 있다.

1차선의 좁은 도로에서 앞서 걸어가는 90대 노인과 9세의 초등학생 중 어느 한 명의 생명이 희생될 수밖에 없는 상황이라면 여러분은 어떤 선택을 할 것인가? 어느 한쪽을 신속하게 선택하지 않으면 두 사람 모두가 희생되는 상황이면 어떨까? 90대의 노인을 선택하는 사람들도, 9세의 어린아이를 선택하는 사람들도 그들 나름의 정당한(?) 이유들을 제시할 수 있을 것이다. 하지만 여기서 그 중 누군가를 선택하는 자체가 기술자들의 윤리강령(IEEE의 Code of Ethics)에 위반이라는 주장도 있다. 모든 사람들을 공정하게 다루고 인종, 종교, 성별, 장애, 연령, 국적, 성적 정향, 성 정체성 등을 이유로 차별하는 행위에 개입하지 말라는 윤리강령에 위반하는 것이라는 말이다. 그렇다면 가능한 선택지가 무엇인지에 대해 린(Lin)은 핸들을 돌리지 않고 두 사람을 모두 충돌해 버리는 방법이 있지만 이것은 둘 중 한 사람에게 나쁜 편견을 가지고 그를 충돌한 경우보다도 윤리적으로 더 악한 결과라고 말한다. 그렇다면 어떻게 해야 하는가? 린은 “만약 자동차가 계속 직진할 경우에는 10명 혹은 100명의 보행자가 사망하게 될 것이나, 핸들을 틀어 주행방향을 바꾼다면 단지 1명의 보행자의 목숨이 희생되는 경우라면 어떤 결정이 윤리적인 것인가?”라며 좀 더 쉬운 선택을 할 수 있도록 도와준다. 린은 이런 수적 차이가 있다면 10명 혹은 100명의 목숨을 구하는 선택을 하라는 요구 쪽으로 기운다. 자, 과연 그렇게 하는 것이 옳은 선택이며 윤리적인 것일까?

히틀러의 나찌 독일은 인종청소와 종족학살을 생명의 질과 가치를 따져 처리했다. 그들이 보기에 가치 없는 생명이나 사회와 국가에 해가 되는 목숨은 제거하는 것은 정당하고도 칭찬받을 일이었다. 악몽에서 벗어난 지구에 사는 오늘날의 인류는 생명을 질과 양으로 비교 형량 하는 것은 허용되지 않는 일이라고 믿고 있고, 그런 말을 입에 담는 것조차 터부로 되어있다. 그럼에도 위와 같은 선택은 정당한 것일까? 그렇지 않다면 그럼 100명 혹은 10명이 아니라 10명 혹은 1명의 보다 적은 사람을 살리고 다수를 희생하는 것은 보다 윤리적이고 합법적인 것인가?

만약 내가 탑승한 승용차량과 충돌을 피할 수 없는 대상들이 5톤 트럭과 자전거 탑승자라면 나의 자율주행차량의 시스템에 무엇과 충돌하라고 입력할 것인가? 약한 자전거를 보호하자고 운전자를 희생하는 프로그램이 된 차량을 누가 과연 용기 있게 구입할 것인가? 앞서 달려가는 2대의 원동기장치 자전거 운전자 중 1인은 머리 보호대를 착용하고 있고, 다른 1인은 착용하지 않았다고 하면, 누구와 충돌해야 하는가? 그나마 상처를 적게 입을 것으로 예상되는 도로교통규범을 준수한 사람과 충돌하는 것이 옳은가? 만약 그렇게 사고 알고리즘이 만들어진다면 자신에게 닥칠 지도 모르는 사고 상황에서 피해자가 되지 않으려면 오토바이를 탈 때는 헬멧을 착용하지 않아야 하는 것은 아닌가? 그럼에도 머리보호대 미착용의 법 위반으로 제재를 받아야 할까?

이 모든 난제들은 어느 일방이 혹은 쌍방만의 합의로 해결할 문제가 아니라는 것이 특징이다. 내가 희생되는 공익, 내가 손해 보는 정의를 선뜻 받아들이지 못하는 것이 인지상정이라면, 설계자, 제조자, 판매자, 구입자, 사용자, 국가의 해당관청뿐만 아니라 국민 모두의 이해관계가 충돌하게 될 이 난제를 해결하기 전에 완전자율주행차량의 완성을 본다는 것은 인류 모두의 불행이 될 수도 있을 것이다.

*김성룡, “자율주행자동차의 교통사고 알고리즘에 관한 윤리학적 접근 현황과 그 법적 시사”, 『IT와 법 연구』 제15집(2017), 193쪽 이하의 일부를 요약한 글입니다.