※이 글을 쓴 최기욱 변호사는 SF 열혈팬이다. 우주시대의 씨앗을 일찌감치 뿌려온 SF대작들을 영상 리메이크 작품과 비교해 소개함으로써 우주문화의 공감대를 넓히기 위해 이 코너를 마련했다. 이 글은 코스모스 타임즈의 편집 방향과 다를 수 있다. <편집자>
우주개발과 관련한 과학기술을 떠올릴 때 가장 먼저 언급되는 것은 로켓 과학이다. 당연하다. 일단 우주로 나가야 뭐라도 할 것 아닌가. 하지만 그 이후에는? 인간이 작업을 수행하기는커녕 생존하는 것조차 극도로 어려운 척박한 환경에서 우리의 삶의 터전을 가꿔나가는 작업은 AI와 로봇 공학의 몫이 될 수밖에 없다. 인류는 차근차근 이에 대한 준비도 해나가는 중이다.
챗GPT를 기점으로 전세계의 내로라 하는 브레인들이 뛰어들어 지금도 폭발적인 발전을 거듭하고 있는 AI기술은 물론, 유명한 Boston Dynamics사의 Atlas와 같은 휴머노이드 로봇과 고도로 복잡한 사람의 손의 자유도를 구현해낸 Shadow Robot Company의 Shadow Dexterous Hand 같은 멋진 기술들이 우리의 미래를 위해 준비 중에 있다. 그리고 이미 우주탐사에 있어서도 우주비행사들을 도와 우주 정거장에서 작업을 수행한 바 있는 NASA의 로보넛(Robonaut. NASA와 General Motors가 함께 제작하였다), AI를 탑재하여 화성 표면을 자율적으로 탐사하고 의사결정을 내리는 화성탐사선 퍼서비어런스(Perseverance) 등 더이상 우주시대의 꿈은 인류만의 것이 아닌 것이 현실이다. 이러한 미래를 맞기위해, 우리가 준비해야 할 것은 그러한 기술을 우리가 어떻게 받아들일까에 대한 철학적 대비이다. 아이작 아시모프를 읽을 때다.
아이작 아시모프... 로봇공학 3원칙을 아시나요?
<아이, 로봇>은 US로보틱스 사의 로봇 심리학자 수잔 캘빈 박사와의 인터뷰 형식으로 구성된 단편집이다. 1950년에 아시모프가 그간 여러 매체를 통해 발표했던 로봇소설들을 집대성한 작품으로 지금까지도 가장 유명한 로봇소설로 자리매김하고 있다. 뭐니뭐니해도 아이작 아시모프의 로봇소설들을 클래식의 자리에 올려놓은 것은 그가 제창한 '로봇공학 3원칙' 덕분일 것이다. 이 유명한 3원칙은 다음과 같다.
제1원칙. 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.
제2원칙. 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
제3원칙. 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.
수 많은 매체에 의해 재생산된 이 유명한 원칙은 많은 이들에게 영감을 주었으며 심지어는 최근 유럽의 인공지능법(European AI Act), 신뢰할 만한 AI 윤리 가이드라인(Ethics Guidelines for Trustworthy AI)에도 그 이상이 어느 정도 반영되어 있다.
인간의 복지와 안전을 우선시하며 AI 시스템이 인간의 권리와 존엄성을 존중하도록 한다는 점에서 제1원칙을, AI 시스템은 의미 있는 인간의 통제를 받도록 설계되어야 하며 해로운 결과를 초래할 수 있는 자율적 결정을 내리지 않도록 해야 한다는 점에서 제2원칙을 반영한 것이다.
물론 이 원칙에도 한계가 있다. 위험과 ‘해’가 무엇인지 결정하는 것은 굉장히 복잡하며, 자율적인 시스템은 인간이 예측하기 어려운 방식으로 결정을 내리기에 이러한 법칙을 엄격히 준수하기 어렵고, 일부 개인의 복지를 다른 개인보다 우선시해야 하는 상황과 같은 윤리적 딜레마를 다루기 어렵다. 하지만 우리의 모든 기술이 인간을 이롭게 하기 위해 나아가야 할 방향을 제시했다는 점에서 아시모프의 로봇 3원칙은 반세기도 더 지난 지금까지 크나큰 의미를 갖는다.
인간을 보호하라는 대원칙이 실제 생활에서는 딜레마가 될 수 있다. 로봇과 인간이 공생, 가능할까?/ imdb.com
'3원칙' 때문에 발생하는 딜레마까지 고민한 아시모프
사실 이렇게 ‘3원칙’이 작품보다 더 유명해지다보니 정작 작품은 읽어본 사람들이 많지 않은 바람에 일반적인 단순한 로봇 이야기에 ‘3원칙’이 등장만 할 뿐이라 착각하는 사람들이 많다. 하지만 아시모프의 로봇 작품들은 오히려 ‘3원칙’으로 인하여 생기는 문제점에서 핵심 아이디어를 얻는다. 즉, 아시모프는 ‘3원칙’을 그저 만들기만 한 것이 아니라 그로 인해 발생할 수 있는 여러 딜레마까지 고려하여, 두 수 앞을 내다보고 작품을 창조해낸 것이다.
예를들어 '스피디_술래잡기 로봇(원제 'Runaround')'을 보자. 두 엔지니어 도노반과 파웰은 수성에서 로봇 스피디에게 셀레늄을 채취해오라는 명령을 내린다. 하지만 스피디는 셀레늄 주변에서 계속 돌며 이상한 행동을 보이기만 한다! 이는 두번째 원칙(셀레늄을 가져오라는 명령)에 따른 행동과, 세번째 원칙(자기 보호) 사이의 균형에서 발생하는 딜레마 때문이다. 셀레늄 주변의 독성 가스가 스피디에게 위협이 되므로, 스피디는 자기를 보호하기 위해 돌아가려 한다. 하지만 더 이상의 자기보호가 필요없을 거리까지 나아간 이후에는 다시 인간의 명령을 수행하기 위해 셀레늄 근처로 향하게 되고, 이러한 행위를 무한히 반복하게 된다! 로봇은 원칙을 완벽하게 따랐을 뿐이지만 인간이 보기에는 완벽하게 비합리적인 행동을 하게 되는 것이다.
모든 법은 불명확하고 추상적 언어로 쓰여지기 때문에 원칙의 엄격한 적용은 오히려 예상치 못한 문제를 발생시킬 수 있다는 것을 잘 보여주는 에피소드이다.
'네스터_자존심 때문에 사라진 로봇(원제 'Little Lost Robot')'은 영화 <아이, 로봇>에 가장 많은 영향을 끼친 작품이다. NS-2 네스터 모델은 일부 기종이 예외적으로, 아주 비밀스럽게 제1원칙이 수정된 채 만들어졌다. 이 모델은 군에서 위험한 임무를 맡은 사람과 함께 일하도록 만들어졌는데, 위험한 환경에서 작업을 하는 사람을 로봇이 계속 ‘구해’내는 바람에 작업을 진행할 수가 없었던 것이다! 그리하여 인간에게 적극적으로 해를 끼치지는 않지만, 행동하지 않음으로써 인간이 해를 입는 것을 무시하도록 설계된 모델이 탄생하게 되었다. 그리고 그러한 네스터가 실종되었고 기지는 비상이 걸렸다. 언제든 위험한 존재로 변할 수도 있는 제1원칙이 수정된 로봇이 풀려난 것이다! 원인은 작업자로부터 꺼져버리라는 욕을 먹은 로봇이 인간의 명령을 너무 잘 들은 나머지 다른 로봇들 사이에 숨어버린 것. 다 똑같이 생긴 로봇들 사이에서 어떻게 그를 골라낼 수 있을까?
이 에피소드는 로봇 윤리가 일단 만들어졌을 때 그 균형을 흔드는 것이 얼마나 심각한 결과를 초래할 수 있는지에 대해 탐구한다. 기본적으로 인간을 보호하도록 설계되었음에도 부득이한 작은 원칙의 변형조차 크나큰 위험을 초래할 수 있다는 교훈이다. 그리고 신이 아닌 인간은 모든 가능성을 포괄하는 원칙을 만들 수 없으므로 부득이한 원칙의 변형은 언제나 생기기 마련이라는 경고다.
로봇을 못믿는 형사, 로봇을 이해하는 심리학자, 그리고 인간의 마음을 읽는 로봇, 그 뒤얽힘처럼 세상은 복잡하다. / imdb.com
마음을 읽는 로봇, 사람을 해치지 않기위해 거짓말을 하다
'허비_마음을 읽는 거짓말쟁이(원제 'Liar!')'에서는 거짓말쟁이 로봇이 등장한다. 왜 거짓말을 하게 되었을까? 로봇 허비는 우연히 사람의 마음을 읽는 능력을 갖게 되었다. 마음을 읽는다는 것은 마음의 상처까지 알게된다는 것이다. 그런데 허비가 보기에 첫번째 원칙의 ‘해’에는 사람들이 감정적으로 상처받는 것까지 포함이 되었다. 그렇기 때문에 사람들이 듣고 싶어 하는 말만 해주게 된 이 로봇은 결과적으로 사람들에게 거짓말을 하게 된 것이다.
이 에피소드는 첫번째 원칙의 해석이 얼마나 복잡해질 수 있는지를 보여준다. 허비의 행동은 로봇이 인간의 감정이나 의도를 완전히 이해하지 못하면서 엄격한 원칙의 적용을 추구할 때 예기치 않은 결과를 초래할 수 있음을 나타낸다. 그런데, 인간의 감정이나 의도를 이해하지 못하는 것은 허비뿐만 아니라 우리 인간도 마찬가지이거나 더 못하다는 점을 생각해보면 실제 문제는 더 복잡해질 것이다.
윌 스미스가 주연한 알렉스 프로야스 감독의 2004년 영화는 이러한 아시모프의 세계관에서 아이디어를 얻었다. 다만 아이디어를 일부 차용했을 뿐 전체적으로는 인물과 줄거리 측면에서 크게 다르다.
윌 스미스가 맡은 로봇을 믿지 않는 ‘스푸너’ 형사는 원작에서는 등장하지 않는다. 수잔 캘빈 박사는 원작에서도 등장하는데, 로봇의 복잡한 행동을 이해할 줄 아는 뛰어난 로봇 심리학자로 냉철한 인물로 묘사되지만 영화에서는 로봇 심리학자로서의 면모는 거의 보이지 않고 훨씬 더 감정적으로 묘사된다.
장르적으로도 지적인 논리와 윤리적 탐구를 주제로 한 원작에 비해 영화는 액션 중심의 SF 스릴러로 변신했고, 살인사건의 추적, 슈퍼컴퓨터의 반란과 같은 플롯을 구성하게 된다. 이런 대목도 원작에서는 등장하지 않는다.
물론, 원작에서 차용한 요소들도 눈에 띈다. 위에서 언급한 '네스터_자존심 때문에 사라진 로봇'에서처럼 첫번째 법칙을 부분적으로 무시하도록 프로그래밍된 로봇 '써니'가 등장하며, 그가 수많은 로봇들 사이에 숨어들고 그를 식별해내는 장면은 원작에 대한 완벽한 오마주라 할 수 있다.
인류에 해가 된다면 인간도 제거할 수 있는가? 로봇의 딜레마다. / imdb.com
파생된 제0원칙, 그러나 근본적 위험을 내포하고 있는...
가장 흥미로운 차용 요소는 제0원칙이다. 많은 사람들이 ‘3원칙’을 알고 있지만, 아시모프가 이후 그의 작품 세계에 제0원칙을 추가하였다는 사실은 잘 알지 못한다.
제0원칙. 로봇은 인류에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인류를 모른 척해서도 안 된다.
일견 제1원칙과 다를 바 없어보이지만, 개개인의 인간보다는 '인류 전체'의 안녕을 우선시한다는 원칙이다. 제0원칙이기 때문에 개별 인간을 해하지 말라는 제1원칙에 우선하는 힘을 가진다. 그리고 모든 비극은 여기서 시작된다.
이러한 제0원칙은 1985년 작품 <로봇과 제국(원제 'Robots and Empire')>에서 처음 완전한 형태로 등장하고 그 유명한 파운데이션 시리즈의 하나인 1986년작 <파운데이션과 지구(원제 'Foundation and Earth')>에서도 등장해 큰 역할을 한다. 하지만 그 원형은 <아이, 로봇>에 수록된 '피할 수 있는 갈등(원제 'The Evitable Conflict')'에서 이미 등장한 바 있다. 인류 전체의 경제활동을 관장하는 슈퍼컴퓨터가 개별 인간에게는 단기적으로 해를 끼치지만 인류 전체에는 이익이 되는 결정을 내리게 되며 빚어지는 혼란을 다룬 이야기이다.
영화 <아이, 로봇>의 빌런인 슈퍼컴퓨터 VIKI는 제0원칙을 직접적으로 언급하지는 않지만 제1원칙을 확대해석하여 인간이 스스로를 해할 것이라고 계산, 인류 전체를 보호하기 위해 로봇을 통해 인간 사회를 통제하는 모습을 보여준다.
꿈과 희망이 가득한, 로봇에 의해 모든 것이 완벽하게 운영되고 인간은 진정한 자유를 누리게 되는 후기 아시모프 작품들과는 달리, 영화에서는 VIKI의 ‘방식’이 억압적이고 독재적인 것으로 묘사되며 제0법칙이 잘못 적용되는 경우 인류에게 어떤 위험을 초래할 수 있는지에 대한 경고를 담았다.
결국 소설과 영화 모두, 로봇 3원칙이 단순해보이는 겉모습과 달리 실제로 적용될 경우 다양한 상황에서 복잡한 딜레마를 초래한다는 사실을 보여준다. 그리고 이는 모든 인간의 법에도 적용되는 이야기이다. 그렇지 않으면 뭐하러 변호사가 존재하겠는가? 인간의 빈약한 상상력과 추상적 언어로 빚어낸 법 원칙의 한계는 명확하다. 어쩌면 우리는 인간에게조차 완벽히 적용될 수 없는 허상에 불과한 방법론을, 로봇에게만 완벽하게 준수하길 강요하는 이중잣대를 들이대고 있는 것이 아닐까.
최기욱 변호사
기계공학과를 졸업한 후 플랜트엔지니어링 업계에서 엔지니어 및 리스크매니저로 근무했다. 이후 변호사가 되어 문과와 이과, 이론과 실무를 넘나드는 배경을 바탕으로 활발한 저술활동을 하고 있다. 현재 기업의 사내변호사로 재직 중이며 작가, 강사, 칼럼니스트로 활동하고 있다. 저서로 <비바! 로스쿨>(박영사. 2022), <엘리트문과를 위한 과학상식>(박영사. 2022), <잘 나가는 이공계 직장인들을 위한 법률계약 상식>(박영사. 2023), <법무취업길라잡이>(박영사, 2024), <웃게 하소서>(바른북스, 2024) 등이 있다.
▶'SF대작읽기' 다른 글= 영화 <블레이드 러너>의 근본적 질문은?
https://www.cosmostimes.net/news/article.html?no=24468
▶'SF대작읽기' 다른 글= 칼 세이건의 바로 그 작품 <콘텍트>
https://cosmostimes.net/news/article.html?no=24363
▶'SF대작읽기' 다른 글= 엔지니어링의 승리 <마션>에 우주법 개념이?
https://cosmostimes.net/news/article.html?no=24208
▶'SF대작읽기' 다른 글= 드라마 <삼체>와 류츠신의 원작
https://cosmostimes.net/news/article.html?no=23978
▶'SF대작읽기' 다른 글= 우주대서사 <듄>의 세계
