자율주행자동차(12) : 신뢰와 도덕성

youtu.be/L7Z7-TDihio

궁극적으로 자율주행차가 세계를 주도하겠지만 당장은 아니라는 주장도 만만치 않다. 이에 대해 카네기멜론대학의 존 돌란 교수는 다음과 같이 말했다.

 

‘고속도로 등 특정 상황에서 자동차가 모든 것을 판단하고 운행하는 4단계 자율자동차가 테슬라의 선언처럼 몇 년 안에 실현된다는 것은 사실상 불가능하다. 사실 현 단계에서 자율주행차에 탑승하여 자라고하면 잘 사람이 있겠는가? 특히 도심에서의 자율주행이 머지않아 가능하다는 주장에 동의하지 않는다.’

 

돌란 교수가 근간 자율자동차의 등장을 어렵다고 보는 이유는 두 가지이다.

첫째는 자율주행차가 돌발 상황에 효과적이고 안정적으로 대처하지 못한다는 점이다. 도심은 차량이 끼어들거나 사람이 차도에 들어서는 등 돌발사고가 많은 곳이다. 그는 미국 서부의 교통 데이터를 토대로 도로에서 수백 가지 돌발 상황에 대한 대처방안을 컴퓨터로 적용했는데 사람의 사고율은 거의 0%인데 반하여 아직 알고리즘의 사고율은 20%가 넘는다고 말했다.

빠른 속도로 주행하면서 보행자를 인식하는 능력도 아직은 사람의 민첩함을 능가하지 못한다. 사실 인간은 수백 미터 전부터 사람 형상을 인지하지만 카메라는 아직 그 정도 해상도를 내지 못한다. 이런 상황이 도로에서 마주치는 경우는 5〜10%에 불과할지라도 아직 불확실성에 대처하는 능력이 부족하다는 뜻이다.

 

자율자동차 운행 구조도

자율주행의 또 다른 문제점은 협력 주행이다. 신호가 따로 없는 로터리나 길이 마주치는 곳에서 사람은 서로 눈을 맞추는 등의 방법으로 상대의 의도를 파악해 끼어들거나 양보한다. 이런 협업은 인간의 특성으로 자율주행차로서는 넘기 어려운 분야다. 물론 자율주행차에 필요한 정밀한 카메라를 비롯한 분석 및 응급 조치 장비를 장착하려면 경비가 만만치 않다. 특히 자율자동차가 성공하려면 사물인터넷과의 결합도 중요한데 모든 교통 인프라가 사물인터넷화되지 않아 아직은 시기상조라는 지적이다.

자율주행차의 실현화가 당초 예상보다 지연되자 전략을 다소 바꾸자는 주장도 있다. 도심을 모든 자율주행차가 한꺼번에 주행토록 하는 것이 아니라 대체 가능한 교통의 범위를 ‘모든 자동차’에서 ‘일부 자동차’로 바꾸자는 것이다. 작은 동네나 도시는 물론 근거리 교통과 고속도로 등 장거리 교통 모두 나름대로의 특성이 있으므로 굳이 이들을 한꺼번에 자율주행차라는 범위에 묶어둘 필요가 없다는 뜻이다. 여기에서 흥미로운 제안은 고속도로 등 장거리 교통은 자율주행차로 대체하지만 시내 특히 마을이나 캠퍼스 안 등 작은 커뮤니티 즉 반경 1킬로미터 정도의 소규모 커뮤니티에서는 자동차보다는 오히려 전기자전거에 가까운 소형으로 대체하자는 것이다.

이런 전기자전거는 기존의 자동차와 자전거의 중간 정도 위치를 차지한다. 최고 속도를 28〜30킬로미터로 걷는 속도보다는 빠르지만 자동차보다는 한참 느리다. 무게도 자전거보다 조금 무거운 50kg이하로 전기를 사용하므로 오염물 배출량도 60% 이상 줄어든다.

이 아이디어는 상당한 설득력을 갖고 있는데 이 방법만으로 전체 자동차의 수를 크게 줄일 수 있기 때문이다. 일반 자율자동차로 전체 차량을 줄이는 것도 중요하지만 작은 커뮤니티에서 자동차를 대체할 필요성도 필요하다는 뜻이다.

 

<자율주행차, 신뢰와 도덕성이 관건>

자율주행차에 많은 사람이 촉각을 세우는 것은 이들 기능이 개인용 고급차량에만 국한되지 않을 것으로 보기 때문이다. 이 말은 보통 사람들도 자율주행차를 구입할 수 있으므로 보편적 자동차가 될 수 있다는 뜻으로 세계 각국 자동차 회사들이 총력을 기우려 자율주행자동차를 개발하고 있는 이유다.

그런데 자율주행차가 갖고 있는 아킬레스건은 자동차의 성능여부와는 전혀 관련이 없다는 점이다. 가장 사람들을 짜증나게 하는 자동시스템 즉 GPS를 연상하면 이해가 된다. 자동차 운전자는 주변을 잠깐 살펴보기만 해도 틀린 길로 가고 있다는 걸 알 수 있는데도 내비게이션이 알려주는 잘못된 길을 무작정 따라가기 일수다. 한마디로 내비게이션만 의존하다가 절벽으로 가거나 일방통행 도로에서 역주행할 수도 있다는 지적이다.

이뿐 아니다. 사람 운전자와 달리 자율주행차는 각종 센서에서 입수한 정보를 인공지능이 순식간에 처리하므로 언제나 현재 처한 상황을 객관적으로 파악한다. 그럼에도 차가 움직이는 건 물리적인 현상이기 때문에 돌발사고 자체를 모두 막을 수는 없다는 것이다.

즉 반대편 차선에서 갑자기 차가 중앙선을 넘어오거나 아이가 갑자기 도로로 뛰어드는 것 같은 상황이다. 더욱 골머리 아픈 상황은 자율주행차가 달리던 중 사고가 나 탑승자 1명의 목숨이 위험하게 됐는데, 이를 피하려고 핸들을 돌리면 보행자 여럿이 차에 치여 숨질 수 있는 상황이라고 가정할 때이다. 이런 극한 상황에 닥쳤을 때 자율주행차를 움직이는 인공지능(AI)이 무작정 '주인'인 탑승자 1명을 보호해야 할지 아니면 다수의 행인을 구해야 할 지 의문이다.

이런 경우 사람 운전자는 상황을 온전히 파악하지 못한 채 사실상 반사행동이라고 볼 수 있는 대응을 하지만 자율주행차는 실행가능한 차선책을 택하게 된다. 즉 피해가 불가피한 상황일 경우 피해를 최소화하는 방향으로 결정하는 것이다. 사람으로 치면 사고 직전의 상황이 슬로우모션으로 돌아가 ‘어떻게 사고를 마무리해야 할지’ 판단할 시간이 충분히 있는 셈이다. 물론 인공지능은 각 상황에 대한 프로그램의 ‘행동지침’을 따르지만 이런 상황에서 어떻게 행동할지를 결정하는 건 인공지능을 만든 사람이라는 뜻이다.

이런 골머리 아픈 문제를 인터넷을 통해 1,928명을 대상으로 자율주행차의 행동지침에 대한 설문조사를 했다. 예를 들어 전방에 사람 열 명이 갑자기 나타났는데 그대로 가면 다 죽는다. 그런데 이들을 피해 핸들을 꺾으면 콘크리트 벽에 부딪쳐 탑승자가 죽는다. 이런 상황에서 사람들 다수는 공리주의에 따른 결정을 선호했다. 즉 76%가 보행자 열 명 대신 탑승자 한 명을 희생하는 쪽이 더 도덕적이라고 판단했다.

그런데 이렇게 딱 부러지게 결론을 내릴 수 없다는 데 현실적인 문제점이 제기된다. 일단은 많은 생명을 구하려는 '공리주의형' A.I.가 옳다고 답해도, 자신이 그 자율주행차에 탄다는 가정이 나오면 금세 주인만 살리는 '이기적' A.I.가 좋다며 답변이 180도로 바뀐다는 것이다. 문제는 다수의 인명을 중시하는 A.I.를 만들면 손가락질은 피할 수 있지만, 차를 구입하는 소비자들로서는 자신을 먼저 구해야한다고 생각한다는 점이다.

특히 주행 중 돌발 상황에 대처하는 것은 인간이 인공지능에 비해 월등히 우세하다는 점이다. 한마디로 사고 상황이 될 경우 인간은 순간적으로 자신에게 최선의 방향을 선택한다. 자기의 어린아이와 함께 탑승할 경우 자신보다는 아이의 안전을 먼저 생각하면서 가장 인간적인 조처를 내리는 것이 기본이다. 한마디로 자신을 희생하려는 것이다.

 

아이, 로봇

실제로 이런 난처한 상황을 영화 「아이, 로봇(I, Robot)」에서 심층적으로 다뤘다. 형사 델 스프너가 교통사고로 12살의 어린아이 ‘사라’와 함께 물 속에 빠진다. 이들이 거의 죽음의 단계에 들어갔는데 로봇이 다가와 창문을 부순다. 델 스프너가 자신보다 어린아이인 사라를 먼저 구출하라고 말했지만 로봇은 그를 먼저 구출한다. 로봇이 델 스프너를 먼저 구출한 이유는 간단하다. 스프너의 생존율은 45%이지만 사라의 생존율은 11%에 지나지 않기 때문이다. 그를 구한 로봇은 생존가능성이 높은 사람을 먼저 구한다는 로봇의 원칙에 충실했지만 결국 델 스프너의 명령을 어긴 것이 된다. 이런 모순된 일이 일어날 수 있는 것은 인간이란 동물은 로봇이 이해할 수 없는 상황, 즉 상식으로만 움직이지 않기 때문인데 이와 역의 상황도 당연히 일어날 수 있음은 물론이다.

문제는 수많은 자동차 사고의 변수를 프로그래머가 적절하게 입력하는 것이 불가능하다는 뜻이다. 한마디로 자동차의 탑승자 서열 및 중요도를 프로그래머가 사전에 일일이 입력할 수는 없는 일이다. 그러므로 무인이든 아니든 인공지능 프로그램이 예기치 않은 상황에 적절하게 대처할 수 없는데 그것은 사전에 입력되지 않은 상황에 직면하거나 능력 밖의 상황에 내몰리면 이러한 상황을 오류로 인식하고 작동을 멈추게 마련이다. 로봇이 비상상황에 인간처럼 순발력있게 적절히 대처할 수 있는지 독자들의 판단에 맡긴다.

그럼에도 불구하고 인간이 운전하는 것보다 인공지능 프로그램을 활용한 자율주행차가 사고율이 감소한다는데 전문가들의 이견은 없다. 바로 그런 잇점 때문에 많은 곳에서 자율주행차를 개발하고 있지만 문제는 완벽할 수는 없다는 점이다.

더욱 혼미한 상황은 이런 상황에서 자율주행차의 인공지능을 설정하는 주체는 누가 되느냐이다. 자동차 업계의 자율에 맡기는가 그렇지 않으면 정부가 지침을 내려야 하는가 또는 운전자가 버튼을 눌러 선택할 수 있도록 해야 할까 등이다. 만일 정부가 권한을 갖게 한다면 수출 차량들은 각 국의 상황에 맞게 세팅을 조정해야 한다. 만만치 않은 문제를 자율주행차가 제기해 준 것이다.

 

미래 자동차 운전

학자들은 이구동성으로 인간의 생명을 다루는 분야이므로 사고 위험에 대한 책임 소재 및 다양한 부분에서의 문제 해결이 선행되어야 한다고 주장한다. 가장 먼저 지적되는 사항은 자율주행차와 운전자 간 통제권 전환의 시점이나 도로 교통 측면에서의 기술적 연계성의 범위를 결정하는 부분이다. 이것은 사생활 보호가 먼저이냐, 공공정보가 먼저이냐 하는 문제를 제기한다. 주행을 하기 위해서 여러 신호와 데이터를 주고받아야 하는데 이때 사생활 침해 문제가 발생할 수 있다는 설명이다. 다소 껄끄러운 문제이지만 테러나 해커의 공격에도 대비해야 한다. 자율주행차 자체가 인공지능 프로그램으로 운영되기 때문에 해커나 테러 조직에 의한 보안 문제도 발생할 수 있기 때문이다.

그러므로 전문가들은 자율주행차를 개발하기 전에 먼저 해결되어야 할 과제로 ‘법적, 윤리적 문제’를 꼽았다. 사고가 났을 때 어떤 대응을 할 것인가 하는 판단을 인간이 아닌 인공지능에 맡겼을 경우 인공지능의 자율적 판단을 믿을 수 있는가 부터 사고 책임은 어디에 있는가 등 여러 사회적 갈등이 생길 수 있기 때문이다. 특히 사고 발생시 법적 책임 및 자율주행 보험, 운전자와 보행자 중 우선 순위를 어디에 두는가 등의 법적 윤리적 문제 해결이 선행되어야 한다는 것이다. 운행 프로그래밍이 인간에 의해 짜여지는 것을 고려해볼 때 인간의 선입견이 개입될 수 있다는 점도 문제점으로 제기되었다. 그러므로 자율주행차와 관련된 개발자 소프트웨어를 위한 최소한의 윤리적 강령을 만드는 것이 필요하다는 주장이다.

https://play.google.com/store/apps/details?id=com.geulmoe.quesais 

끄새 - Google Play 앱

참고문헌 :

｢유비쿼터스 시대의 로봇, 유비봇｣, 김종환, 사이언스 타임즈, 2004. 11. 05.

「자율주행 자동차」, 오원석, 네이버캐스트, 2015.06.04.

「영화속 인공지능, 현실이 된다면」, 정환용, SmartPC사랑, 2016.3월

「알파고와 이세돌 9단, 인공지능과 자율주행」, 원성훈, 글로벌오토뉴스, 2016.03.14.

「AI시대 유망한 직업과 새로 태어날 일자리는?」, 박지윤, 매일경제, 2016.05.02.

「[WSF 2016]인공지능의 미래, 삶의 희망·경제적 안정·편리 창출」, 채상우, 이데일리, 2016.06.15.

「자율주행차, 착시현상 극복해야」, 조인혜, 사이언스타임스, 2016.07.05.

「자율주행차 향한 ‘엇갈린 길’」, 연합뉴스, 2016.07.06.

「빅데이터 기술, 어디까지 왔나」, 강석기, 사이언스타임스, 2016.07.06.

「‘무인차 시대’ 노는 차량 사라진다」, 이강봉, 사이언스타임스, 2016.07.12.

「5년 안에 무인택시 이용 가능」, 이강봉, 사이언스타임스, 2016.09.20.

「자율주행 전기자동차가 몰려온다.」, 네이버포스트, 2016.10.06.

「자율주행차, 철학이 필요하다」, 김은영, 사이언스타임스, 2016.12.08.

「자율주행 기술, 어디까지 왔나」, 김준래, 사이언스타임스, 2016.12.16.

「자율주행차 ‘상용화 시대’ 전망」, 김준래, 사이언스타임스, 2016.12.26.

「스마트 하이웨이 시대가 열린다」, 김준래, 사이언스타임스, 2016.12.28.

「“테슬라 자율주행 덕에 목숨 건져”…독일 고속도로 영상 공개돼」, 이지민, 이투데이, 2016.12.29.

「폭스바겐이 꿈꾸는 자율주행…"인간과 車의 끊임없는 소통"」, 장은지, NEWS1, 2017.01.06.

「자율주행차 인명보호 딜레마…'운전자 vs 보행자' 우선순위는?」, 김태균, 연합뉴스, 2017.01.22

「테슬라, 자율주행 첫 사망사고 책임 벗었다」, 김윤구, 연합뉴스, 2017.02.10.

「전기차도 100년 전 기술…"꺼진 생각도 다시 보자"」, 송태형, 한국경제, 2017.02.24.

「자율주행차 막 시동 걸었는데… 정부는 초강력 ‘규제 브레이크’」, 김미희 파이낸셜뉴스, 2017.07.11.

「다가올 미래, 우리의 삶을 180도 바꿔놓을 자동차 산업」, 최덕수, APPSTORY, 2017년 7월호

「AI·로봇·자율주행차에 1조 쏟아부은 네이버」, 조재희, 조선일보, 2017.04.04.

「클라우드 컴퓨팅 혁명… '서비스' 입는 제조업」, 이성호, 조선일보, 2017.08.29.

「토마스 프레이, 의정부서 '4차 산업혁명과 미래직업' 강연」, 최재훈, 경인일보, 2017.09.12.

「[발명왕의 퇴장]②에디슨이 만든 최후의 유물이 '전기자동차'」, 이현우, 아시아경제, 2017.11.15

「상상한 그대로 작품이 되어 나온다」, 강희수, OSN, 2018.02.04.

「친환경자동차와 그 전망」, 대중과학, 2018년 2월

「자율주행 택시 대중화 땐 자동차 90% 사라져」, 강동철, 조선일보, 2018.03.09.

「자율주행차, 도시 변혁 이끈다」, 이성규, 사이언스타임스, 2018.03.19.

「거창한 자률주행자동차 안녕」, 대중과학, 2018년 4월

「신에너지차로 자동차제국 노리는 우리나라」, 대중과학, 2019년 2월

「전기자동차와 하이브리드 자동차 차이점: 고전압 배터리 비교 - 그랜저IG 하이브리드를 선택한 이유」, 돋보기김선생, 김선생 FixnSolve, 2019.05.15

「연비 20㎞의 힘… 하이브리드車 10만대 시대」, 신수지, 조선일보, 2019.07.16.

「노벨화학상, 리튬이온전지 개척자 3명에게」, 이강봉, 사이언스타임즈, 2019.10.10

「노벨상 3인방 역작… 가볍고 오래가는 충전지로 일상 혁신」, 김형자, 조선일보, 2019.10.23.

「전기車 ‘리튬이온배터리’ 수명 다하면?」, 김민수, 동아일보, 2019.11.08.

「전기 비행기 시대 열리고 있다」, 이강봉, 사이언스타임스, 2019.11.25

「8만명 줄여 전기차에 100兆 베팅… 車 생존 드라이브」, 윤형준, 조선일보, 2019.11.28.

「'작전명 : 조용한 공습' 중국 전기차가 몰려온다」, 임경업, 조선일보, 2019.11.28.

「현대차, 완충 시 211㎞ 주행 가능한 전기 트럭 ‘포터II 일렉트릭’ 출시」, 류정은, 한국일보, 2019.12.1.

「자가 치유 능력 지닌 ‘칼륨 배터리’ 등장」, 심재율, 사이언스타임즈, 2020.03.06.

「자율주행차 시대 ‘눈앞’ 기술보다 ‘사회수용성’이 문제」, 김동욱 한국경제, 2020.10.07.

「“미래 차 시장 패권은 우리 것”… 中 야심찬 ‘전기차 굴기’」, 김기용, 동아일보, 2020.12.10.

「도요타 '선전포고'에 전고체 배터리 전쟁 가열」, 박상용, 한국경제, 2020.12.11

「로봇이 변화하고 있다!」, 사이언스올

「세상을 바꾼 발명과 혁신」, 송성수, 네이버지식백과

「전고체 배터리란 무엇일까?」, 삼성 SDI Column

http://blog.naver.com/zestybox/22067804768

http://blog.naver.com/zestybox/220678047683

https://m.post.naver.com/viewer/postView.nhn?volumeNo=16778375&memberNo=478066&vType=VERTICAL

http://terms.naver.com/entry.nhn?docId=1139392&cid=40942&categoryId=32360

󰡔로봇의 시대󰡕, 도지마 와코, 사이언스북스, 2002

󰡔로봇 공화국에서 살아나는 법󰡕, 곽재식, 구픽, 2016

『4차 산업혁명의 충격』, 클라우스 슈밥 외, 흐름출판, 2016

󰡔스마트 테크놀로지의 미래󰡕, 카이스트 기술경영전문대학원, 율곡출판사, 2017

『사물인터넷이 바꾸는 세상』, 새무얼 그린가드, 한울, 2017

『미래와 과학』, 이근영 외, 인물과사상사, 2018