(오년 전 내 블로그에 「알파고에게 마음이 있을까」라는 제목으로 게재한 글을 현재에 맞게 수정했다. 여기에서의 문제의식이 단편 「앙심」과 「고의」로 이어진다. 이 단편집의 원래 제목을 ‘로봇 감정 사례 연구’로 생각했는데 관련 연구 논문들을 들여다보는 과정에서 감정 대신 조금 더 포괄적인 의식을 주제로 삼게 되었다.
십년 전, 이세돌의 백78수에 응전하는 과정에서 알파고가 실수한 것 같다고 딥마인드 관계자가 말했다. 사람이 실수하듯 인공지능도 실수한다는 것이다.)
인공지능을 공부하는 내 시각에서는 그런 인공지능에게 마음이 있다고 볼 것인가 하는 문제와, 인공지능이 실수를 저지를 경우 우리는 어떤 태도를 취해야 하는가 하는 문제에 주로 관심이 간다. 알파고는 컴퓨터에 탑재된 머신러닝 프로그램이므로 당연히 마음이 없다고 말할 사람이 대부분이겠다. 인공지능에게 지능이 있다는 것까지는 인정하겠는데 마음이 있다고는 도저히 볼 수 없다는 것이다.
알파고의 실수를 버그라고 보는 시각이 있듯이 사람의 실수도 컴퓨터의 버그와 같은 개념으로 볼 수 있다. 훈련 과정에 포함되지 않았던 수를 알파고가 만난다면 그 대응 과정에 문제가 생길 수 있듯이 사람도 예상치 못한 상황을 만나면 당황하고 실수하기 쉽다. 사실 사람도 정교한 생체 신경로봇에 다름 아니다.
백78수에 얽힌 알파고의 실수는 오히려 인류에게 한줄기 위로를 주었지만 자율주행 차량이 실수해서 행인을 치여 죽였다면 뉴스에 떠들썩하게 나올 것이다. 그럼에도 인명사고를 일으키는 인간 운전자 또한 부지기수기 때문에 자율주행 차량의 운행 자체를 금지하지는 않을 것이다. 차주가 타고 있었다면 그 책임을 차주에게, 완전 자율주행 차량이라면 그 책임을 제조사에 지우면 그만이다. 이럴 때 필요한 게 전지전능한 보험 아닌가!
문제는 인공지능이 안드로이드의 외형을 걸치고 나타났을 때이다. 안드로이드 로봇의 두뇌에 최신 인공지능이 탑재되어 길거리를 누빈다고 상상해보자. 인간은 시각·청각 같은 오감에의 자극에 예민하다. 다른 동물들도 마찬가지겠지만 강아지는 동체(動體)의 출현이나 그 생김새가 주는 순간적인 인상, 새로운 냄새에 민감하다. 새로운 존재나 사건의 출현은 그 인지자의 생존과 안녕에 큰 영향을 주기 때문이다. 마찬가지로 인간도, 갑자기 등장한 동체가 인간을 닮았는지 아닌지에 따라 그 대응이 크게 달라진다. 로봇 개발에 참여한 과학철학자 대니얼 데닛은 사람 형상의 로봇이 자신을 쳐다보는 것을 알고는 모골이 송연했다고 고백한 적이 있다. 로봇의 눈은 카메라 렌즈에 불과하다는 사실을 누구보다도 잘 아는 베테랑이 그럴진대, 일반인은 더할 것이다. 사람을 상대로 그 감정과 판단을 조작하기에는 사람처럼 생긴 존재, 즉 사람이나 안드로이드 로봇이 제일 효율적이다.*
* 「의인화와 인공지능: 튜링의 모방 게임에 대한 세간의 오해 Anthropomorphism and AI: Turing’s much misunderstood imitation game」를 필자가 번역한 기사를 참고하시기 바란다. 필자의 블로그에서 볼 수 있다.
로봇의 실수가 인명피해를 일으키는 경우를 상상해보자. 가까운 미래에 사람 형상 로봇이 최첨단 인공지능을 탑재하고 길거리를 누비고 있다. KM-127이라는 안드로이드 로봇(이하 K라고 하자)이 마을길을 가고 있는데 위험해보이는 광경을 목격한다. 한 사내가 덤프트럭을 몰면서 전화통화를 하고 있고 그 트럭 조금 앞에 한 노인이 걸어가고 있다. K는 순식간에 상황을 종합한다. 노인들은 대체로 귀가 어둡고 동작이 느리다는 점을 통계적으로 알고 있고, 운전 중 통화가 위험하다는 사실 또한 알고 있다. 덤프트럭에 의한 인명사고 사례도 알고 있다. 그래서 로봇은 최대한 빠르게 달려가 노인을 안전하게 옆으로 밀친다는 것이 그만, 노인의 발이 아스팔트의 파인 부분에 걸렸음을 감안하지 않고 그냥 미는 바람에 하필이면 노인이 넘어지면서 머리를 연석에 부딪치게 되었다. 노인은 병원으로 옮겨졌지만 뇌출혈로 사망했다. 주변 CCTV를 확인한 결과, 로봇이 노인을 밀쳤다는 사실만 확인할 수 있을 뿐, 로봇의 의도나 로봇의 밀치는 강도에 대해서는 의견이 분분했다. 로봇 체내에 기록된 영상물(블랙박스)을 보아도 ‘로봇이 노인을 밀었다’ 혹은 ‘로봇의 팔이 노인의 몸에 어떠한 힘의 크기(N이나 kgf 단위)로 닿았다’는 사실 외에는 알아낼 수 없었다. 로봇의 플래시 메모리에 심어진 프로그램 코드를 조사한 결과, 당시 로봇으로 하여금 이 행동을 하게 한 알고리즘을 확인할 수 있었다. 한 변숫값을 0으로 초기화했어야 했는데 프로그래머가 깜박하고 그 과정을 생략하는 바람에 특정 상황(위험에 처한 대상을 구해야 한다고 판단한 순간)에서 그 변숫값이 누진 누적되는 바람에 대상의 특정 조건(대상의 위치에 대한 종합적인 판단 중 하나, 여기서는 노인의 발 위치)을 감안하지 못하는 오류가 발생하게 되었다는 결론에 이르렀다.
로봇의 소유주나 제조사가 기소되든지, 아니면 로봇이 직접 기소되어 재판정에 설지는 로봇이 독립된 인격체로 인정받는지 아닌지에 달려 있겠다. 가까운 미래에는 로봇의 시민권이 인정되지 않을 가능성이 크므로 그 주인이나 제조사에게 책임을 묻겠고, 오십년쯤 지나 로봇의 권리가 적절히 보장되면 로봇에게 직접 책임을 따지는 풍경을 볼 수도 있겠다.
기왕의 상상이니, 로봇이 직접 기소되었다고 가정하자. 로봇측 변호인이 주장하길, 로봇의 알고리즘에 버그가 있어서 문제가 불거졌다, 상황의 긴박성 때문에 로봇이 아스팔트 깨진 곳과 노인의 발 위치 간의 관계를 인식하지 못했는데 그것은 프로그램 코드에서 특정한 경우에 변수 초기화가 되지 않는 버그 때문에 발생한 일이라고 주장했다. 그러자 검찰 측에서는 프로그램에서 변수 초기화를 안 했다고 사람이 죽어나가는 게 말이 되느냐고 따졌다. 그러고선 로봇의 의도를 문제 삼았다. 로봇에겐 터미네이터의 음험한 계략에는 못 미치겠지만 사악한 의도가 있었음에 분명하다고 주장했다. 사망한 노인은 중소기업을 경영하고 있었는데 임금체불 등으로 인해 악감정을 가진 사람들이 많았고, 그런 사람들이 이 로봇을 사주해서 노인을 죽음에 이르게 했다고 주장했다. 간교한 계략을 짠 로봇이 노인을 미행하면서 (주변 CCTV를 확인해본 결과 로봇은 일이십 미터를 사이에 두고 노인을 한동안 따라다닌 것으로 드러났다) 기회를 노렸고, 마침 덤프트럭이 등장하자 그것을 핑계로 노인에게 다가가 노인의 발이 아스팔트 파인 곳에 걸린 틈을 놓치지 않고 노인을 밀쳐서 넘어뜨린 것이라고, 노인을 민 각도 또한 노인의 머리를 연석에 부딪치게 하려고 치밀하게 계산한 각도였다고 주장했다. 혹자는 노인이 전재산을 사회에 기부하겠다고 하자 그의 자식들이 간교한 계책을 공모해 그 로봇을 시켜서 노인을 사망에 이르게 했다고 주장했다. 그러므로 노인의 자식들과 K의 관계를 조사해봐야 한다고 주장했다. 어떤 작자는 노인이 종종 성추행을 했는데 그 수치심을 참지 못한 여성들이 로봇을 사주하여 그를 살해한 것이라고 그럴듯한 소설을 썼다. 어떤 노인은 로봇들이 노인들을 혐오해서 그런 것이라고 주장했다. 아날로그 복고풍을 좋아했던 노인들은 이질적인 로봇을 싫어했다. 로봇은 로봇대로 그런 노인들을 혐오했는데, 로봇에게 돌아가야 마땅할 정부 예산을 사회에 거의 이바지하지 않는 노인들이 아귀처럼 먹어치우고 있다는 것이었다. 이에 분노한 로봇들이 자신들의 생존권과 이익을 챙기기 위해 노인들을 교묘하게 죽이고 있다는 주장이었다. 인간 사회 여론은 실리콘 생명체인 로봇보다는 동류의 호모 사피엔스를 선호했다. 어떤 인본주의자는, 노인을 간병하는 간병로봇들을 전수조사해서 노인들의 불가사의한 죽음에 연루된 로봇들을 샅샅이 찾아내어 전량 폐기해야 한다고 주장했다.
로봇의 의도가 부정하다고 의심받고 그 행위의 범죄성이 인정되어 처벌을 받게 된다면, K의 바이오스 메모리와 플래시 메모리 모듈은 파기될 것이고, 상황이 심각할 경우 그의 몸체 전부를 시뻘건 용광로에 집어넣을 수도 있겠다.
다소 소설식으로 전개했지만, K에게 마음이 있느냐 없느냐 하는 게 내 관심사다. 인간에게 있어 마음은 신경과학적 관점에서 본다면, ‘뇌의 물리·화학적 작용에 의해 창발되는 고차원적인 정보 처리 현상’으로 정의할 수 있다. 그 결과로 생각·자아·감정·의지·기억·언어로 개념화되는 현상들이 나타났다고 볼 수 있다. K가 그런 능력을 가졌다고 볼 수 있는 근거는 없다. 적어도 그런 능력들의 보유를 증빙할 수 있는 내부 보고체계가 없음을 쉽게 상상할 수 있다. 인간의 이런 정신현상은 오랜 세월 진화의 결과인데 로봇은 유기체가 아니므로 그런 진화를 자체로 달성할 수 없다. 따라서 외부에서 그런 진화에 해당하는 알고리즘을 심어주어야 한다. 세계와의 상호작용을 통해 세계관을, 그것에 기초해 행동방침을 정할 수 있는 가치관을, 그 일부는 규칙 기반 알고리즘으로, 일부는 강화학습 방식으로 심어줘야 한다.
이런 관점에서 보면 K와 알파고에게 인간의 마음에 해당하는 것은 없었다고 볼 수 있다. 하지만 기계의 마음이란 것을 고려할 수 있다. K에게는 기계의 마음, 즉 기능주의적 마음은 있었다고 볼 수 있다. 기능주의 철학에 따르면, 어떤 시스템이 적절한 입력을 받아 규칙에 따라 처리하고 적절한 출력을 내놓는다면, 그 시스템은 ‘마음을 가졌다’고 본다. 알파고의 경우, 바둑판의 상황(입력)을 분석하여 승률이 가장 높은 수(출력)를 계산하는 고도의 인지적 기능을 수행했다. 이 관점에서는 인간이 바둑을 둘 때 사용하는 지능적 프로세스와 알파고의 프로세스가 기능적으로 동일하므로, 알파고에게도 일종의 ‘기능적 마음’이 있었다고 인정할 수 있다. 다만, 인간의 마음과 비교하면 의식의 부재라는 질적인 차이가 있다. 첫째, 인간은 ‘이기고 싶다’거나 ‘바둑이 재미있다’는 목적의식과 감정을 가진다. 하지만 알파고는 승률 최적화라는 수학적 알고리즘을 따를 뿐, 자신이 무엇을 하고 있는지에 대한 의미를 이해하지 못한다. 둘째, 인간은 수를 둘 때 긴장감, 희열, 압박감 같은 느낌을 경험한다. 알파고에게는 이러한 주관적 경험(퀄리아)이 전혀 없다. 셋째, 인간의 마음은 바둑을 두면서 동시에 저녁 메뉴를 고민하고 상대의 표정을 살핀다. 2016년의 알파고는 오직 바둑이라는 한정된 영역에서만 작동하는 약인공지능(Weak AI)이었다.
우리는 어떤 사람을 판단할 때 그의 행위로 판단한다. 그가 우리에게 이득이 되는 언행을 하면 좋은(착한) 사람으로 판단하고 가까이하려고 하고, 해가 되는 언동을 하면 나쁜 사람으로 판단하고 가급적 멀리하려고 한다. K의 행동은 K의 기계적 마음(알고리즘)이 시킨 것이다. K가 다른 이로부터 사주를 받고 그런 행동을 했다고 하더라도 그것은 K의 행동이고, K에게 마음이란 게 있다면 그 마음이 시킨 짓이다. 사주를 받고 행동하는 사람도, 그 사주를 받는 것이 자신에게 이득이 된다고 생각했기 때문에 사주라는 계약을 체결하고 그것을 행동으로 옮긴 것이다.
인간의 마음에서 감정을 모두 제거해보자. 슬픔·기쁨·흥분·행복감·성취감·고독·번민·통증을 다 제거하고 나면, 감정이란 것은 우리에게 무언가를 선택하도록 강요하는 정신현상임이 분명해진다. 인간에게서 감정을 다 제거하면 로봇이 된다는 말은 정말 그럴듯하다. 하지만 감정을 다 제거해버리면 인간이 이기적 선택을 하는 데 필요한 기준점이 사라지게 된다(가령 이성[異性]을 봐도 성욕이 느껴지지 않는다면 굳이 번거롭게 이성을 사귈 필요가 없어지므로 인류가 종말을 고할 수도 있다. 감성과 감정을 고양하고 위로하는 노래들도 들을 필요가 없어지므로 제이와이피, 에스엠, 와이지는 바로 문 닫아야 할 것이다). 감정이라는 것은 정말이지 인간과 동물이 진화과정에서 체득한 참으로 독특한 것, 때로는 번거로운 것, 가끔은 정말로 감사한 것이다. 이성과 논리가 우선한다면 서로 싸우지 않을 것을, 감정이 앞서는 인간이기에 서로 다투고 욕하고 오물 피하듯 피하고 그 결과로 정신이 피폐해진다.
알파고 얘기로 돌아와서, 알파고의 기계의 마음은 알파고를 그렇게 하도록 만든 알고리즘이다. 이세돌이 감정 없는 인간이었다면 알파고를 이겼을지도 모른다. 이세돌은 맞은편에 앉아 있는 그 무표정한 중국인과, 배후에서 수를 계산하고 지시하는 알파고를 함께 맞아들여 싸워야 했다. 시키는 대로 수만 두는 그 중국인이야말로 안드로이드 로봇이 아니었을까 궁금해진다. 세상의 대부분 인간사에 인간 심리가 개입된다. 바둑 또한 (인간끼리의) 심리전 측면이 있을 것이다. 이 기괴한 형태의 심리전에서 이세돌의 부담감은 컸으리라. 알파고와 동일한 실력을 가진 인간과 대적했더라면 이세돌이 이겼을 수도 있다. 인간은 인간을 잘 알기 때문이다. 그리고 인간은, 인간 스스로가 만든 인공지능을 마음 한켠으로 두려워하기 때문이다.
처음으로 조물주 지위에 오른 인간은 자신이 만든 피조물을 들여다보며 기특해하면서 동시에 불안해하는 복잡한 심경에 휩싸여 있다.
