로봇의 권리: 아시모프에서 테즈카까지

현실 세계에 충실하라: 우리는 아이작 아시모프의 "로봇의 3대 법칙" 즉, 로봇은 인간을 해치면 안 되고, 규칙 1을 위반하지 않는 한 인간에게 복종해야 하며, 규칙 1, 2를 위반하지 않는 한 스스로를 보호해야 한다는 것을 기억해야 한다.

로봇의 권리: 아시모프에서 테즈카까지
by Colin P.A. Jones

나는 그냥 로비를 돌아다니는 로봇을 가진 호텔에 머물렀다. 그것의 주요 기능은 "여기는 최신 유행의 호텔이다"라는 메시지를 전달하는 것처럼 보였지만, 그럼에도 불구하고, 그것은 나 자신의 최근 로봇법 분야로의 진출과 멋지게 교차하는 시대의 표시다.

하지만 나는 유행을 타지 않는다. 단지 게으를 뿐이다: 법은 실제 법이 없을 때 쓰기가 훨씬 더 쉬운 과목이다. 그러면 당신은 단지 미래의 어느 시점에 법이 무엇이 되어야 하는지에 대한 골치 아픈 주제에 초점을 맞출 수 있을 것이다.

 

판타지 대 현실

실제 로봇법이 없는 것은 고 아이작 아시모프의 "로봇의 3법칙"에 경의를 표하기 위해 그 주제에 수다를 떨고 있는 많은 사람들의 경향에 의해 입증된다. 2017년 유럽 의회조차 아시모프의 법을 확립된 법적 규범으로 기술하는 언어를 포함하는 로봇법에 대한 결의안을 들고 시류에 편승했다.

아시모프의 '아이 로봇'을 읽어본 적이 없거나 윌 스미스가 주연한 2004년 영화 각색, 다양한 제품 배치를 본 적이 없는 분들을 위해 설명해보면 세 가지 법칙(약간 단순화)은 다음과 같다.

1) 로봇은 인간에 해를 끼치거나 무작용으로 해를 입히도록 해서는 안 된다.

2) 첫 번째 규칙을 위반하지 않는 한 로봇은 인간의 명령에 복종해야 한다.

3) 로봇은 그렇게 하는 것이 처음 두 가지 규칙을 위반하지 않는 한 스스로를 보호해야 한다.

명심해라, 이것들은 허구적인 규칙이다. 또한 이 규칙은 어리석고 로봇법 가이드로 보아서도 안된다. 실제 로봇법에 가장 가까운 것은 무인드론이 언제 인간의 개입 없이 '살해' 결정을 내릴 수 있느냐는 문제를 중심으로 발전할 것으로 보인다.

2017년 법률 검토 기사에서 존 유 교수(옛 부시 시대의 '고문 메모' 명성의 인물) 못지 않게 자율형 무인기 같은 신기술이 '정밀도를 높이고 공격 피해를 줄인다'고 주장하고 있다. 만약 로봇이 인간보다 인간을 죽이는 데 실제로 더 낫다는 것이 밝혀지면, 아시모프의 첫 번째 법칙은 살아남을 것 같지 않다.

두 번째 법에 대해 말하자면, 여러분은 마주치는 모든 사람에게 복종해야 하는 로봇에 많은 돈을 쓸 것인가? "이봐 신경외과봇, 이 배수구를 열어라" 등 아닌게 맞지요?

셋째, 우리의 모든 정치, 경제 시스템이 사유 재산권에 기반을 두고 있다는 점을 감안할 때, 로봇이 스스로를 방어할 수 있는 권한을 부여받지 못할 것으로 기대하는 것은 낙관적인 것 같다. 우리는 이미 인공적인 존재들, 즉 기업들이 때로는 치명적인 힘(즉, 무장된 보안요원)을 동원해서라도, 그들의 재산권을 보호하도록 허용하고 있는데, 로봇이라고 다를게 뭐가 있겠나?

자기 방어는 많은 것을 의미하기도 한다. 유럽의회를 포함한 일부 의원들은 로봇에게 기업처럼 별도의 법적 인격을 부여할 것을 주장해왔다. 이것은 누군가가 보호해야 할 권리를 로봇에게 주는 것을 수반할 것이고, 아마도 그것은 로봇 그 자체일 것이다.

 

일본의 AI

지구상의 어떤 나라보다도 가장 많은 수의 로봇을 보유하고 있다는 점을 감안하면 예상할 수 있듯이 일본에 대한 관심이 매우 높다. 그러나 로봇법에 대해서는 개별 부처가 규제 권한을 어떻게 보호하거나 확대할 수 있을지를 여전히 파악하고 있는 것으로 보인다. 농림수산성은 자급자족 가이드라인을 개발했고, 후생노동성은 산업용 로봇과 근접해 일하는 인간에 대한 규칙을 개정했으며, 노인을 돌볼 수 있는 로봇을 위한 원대한 설계를 갖고 있다. 그리고 경제, 무역, 산업부는 모든 로봇 파이를 다루고 싶어하는 것 같다. 로봇에 대한 권리는 화제가 되지 않지만, 이것은 적어도 단순히 인간존재가 되는것에서부터 발생하는 "자연적인" 권리의 형태도 아니고
로봇들을 가지고 있는 사람들도 관심이 없는 집권당이 있다는 것을 반영하는 것일지도 모른다.

흥미롭게도, 일본은 로봇에 대한 문학적 법칙을 가지고 있다 – 망가의 거인 테즈카 오사무에 의해 수십 년 전에 그의 "아스트로 보이" ("테츠완 아토무") 만화책 시리즈에서 잘 알려진 10개의 법칙은 다음과 같다.

1) 로봇은 인간성에 봉사해야 한다.

2) 로봇은 사람을 죽이거나 해치면 안 된다.

3) 로봇은 인간 창조자를 "아버지"라고 불러야 한다.

4) 로봇은 돈을 제외하고 무엇이든 만들 수 있다.

5) 로봇은 허가 없이 해외로 나갈 수 없다.

6) 남성과 여성 로봇은 그들의 성별을 바꾸지 않을 수도 있다.

7) 로봇은 다른 로봇이 되기 위해 얼굴을 바꾸지 않을 수도 있다.

8) 어른으로 만들어진 로봇은 어린이가 되지 않을 수도 있다.

9) 로봇은 사람에 의해 분해된 로봇을 재조립하지 않을 수 있다.

10) 로봇은 사람의 집이나 도구를 파괴해서는 안 된다.

이것들은 이상하고 가부장적으로 보일지도 모른다. 그래서 아마도 아시모프의 규칙이 좀더 장수를 두게 된 이유가 됐을 것이다. 그럼에도 테즈카 규칙에 나타난 성별과 가족적인 면은 흥미롭다. 게다가, "도라에몽"과 "닥터 슬럼프"와 같은 널리 알려진 만화책 덕분에, 일본 사람들은 로봇이 놀라운 힘을 가지고 있지만, 여전히 인간 가족과 함께 저녁 식탁에 앉아 내일 있을 큰 시험에 대한 농담과 걱정을 하는 가정의 일원으로서 로봇에 대한 생각을 훨씬 더 받아들이고 싶어할 지도 모른다.

 

이와는 대조적으로, 인기 있는 미국인들의 로봇 묘사는 "터미네이터"와 같은 영화에 의해 지배되는 것처럼 보이며, 로봇은 무서운 괴물의 또 다른 종이다. 그래서 아마도 AI에 의해 가능하게 된 로봇의 증가에 대한 많은 우려가 태평양의 저쪽에서 오는 것처럼 보이는 것은 우연의 일치가 아닐 것이다.

내가 보기에 테즈카의 규칙은 비록 구시대적인 가족 및 성별의 관점을 언급하기는 하지만 최소한 로봇 정체성의 개념을 다룬다는 점에서 아시모프보다 실제로 더 타당하다. 하지만 그것은 로봇의 정체성이다. 로봇이란 무엇인가? 로봇법을 주제로 한 더 많은 현대 작가들이 고군분투하고 있는 것 같다. 실질적인 문제로서, 법적 정의가 없는 것은 명확한 규칙을 제안하기 어렵게 만든다(실제로 가능한 해결책을 제시했지만 세부 사항은 다른 날로 남겨두어야 할 것이다).

아마도 아시모프와 테즈카 둘 다 EU의 일반 데이터 보호 규정과 관련된 이메일이나 소프트웨어 업데이트를 받지 않고 평생을 살 수 있었기 때문에 사생활에 대한 어떠한 고려도 하지 않았을 것이다. 돌이켜보면 이것은 상상력의 끔찍한 실패처럼 보인다. 우리 가운데 있는 로봇들이 그들이 경험하는 모든 것을 기록, 저장, 재생할 수 있는 놀라운 능력을 가지고 있을 것이라는 것은 예측 가능했어야 했다. 기술의 이런 측면이 우리 삶의 실제 부분이 되면서, 로봇들, 특히 집에서 우리 사이에서 걸어가는 로봇들의 사생활이 갖는 의미는 엄청나다.

2015년 게이오대 신포 후미오 교수는 OECD 프라이버시 주체를 참고한 로봇법 8가지를 제안했다.

1) 인간 우선 - 로봇은 해를 끼치거나 사람이 되지 않을 수 있다.

2) 주문에 대한 욕구 - 그들은 인간의 명령을 따라야 하며 통제 대상이 되어야 한다.

3) 비밀과 사생활 — 로봇은 그들이 수집한 정보의 비밀을 보존하도록 설계되어야 한다.

4) 사용 제한 - 로봇은 의도된 사용에만 제한되어야 하며 인간을 해치는 데 사용되어서는 안 된다.

5) 보안 보호 장치.

6) 개방성 및 투명성 - 로봇 설계 및 사용은 검증 가능해야 한다.

7) 개인 참여—개인은 로봇을 지배하는 규칙의 작성에 참여해야 하며, 로봇은 개인을 지배해서는 안된다.

8) 책임—로봇으로 인한 위해성에 대한 책임 규칙이 있어야 한다.

로봇에게 권리가 있던 말던 나는 괜찮다. 나는 옆집에 사는 사람처럼 권리를 많이 좋아하는데, 특히 나와 내가 좋아하는 사람들의 권리가 충돌할때, 뭐가 권리인지 의무인지는 누가 무엇을 해야 할지를 말지를 말해 주느냐에 달려있다. 예를 들어 옆집에 사는 당신은 튜바를 불 권리를 가지고 있다. 하지만 나도 집에서 조용히 있을 권리가 있다. 왜냐하면 나는 옆집에 사는 당신이 자정에 당신의 튜바 연습을 멈추도록 민원을 낼 수 있기 때문이다. 로봇 권리는 이와 비슷하게 기본적이고 실용적인 용어로 생각할 필요가 있다.

로봇의 권리 또는 잘못

지난해 앙겔라 메르켈 독일 총리는 로봇에게 권리가 있느냐는 질문을 받았다. 그녀의 대답은 다음과 같았다. "무슨 뜻이야? 전력에 대한 권리? 아니면 정기적인 유지보수에 대한 권리?"

이코노미스트지는 통상적으로 보기 힘든 유머감각을 보여주는 사례로 보고되었지만, 심각한 점을 가진 수사적인 질문으로 받아들여질 수 있다. 로봇들이 권리와 독립적인 인격체를 가지고 있다면, 그들은 그들의 소유자를 형편없는 유지보수에 대해 고소할 수 있을까, 아니면 당신의 전원공급장치에 대한 비상 접근을 요구할 수 있을까? 기업들은 누구나, 심지어 자신들의 이사나 주주들도 소송을 제기할 수 있는데, 왜 그들의 로봇을 이용하거나 대신해서 소유주를 상대로 소송을 제기하지 않는가?

그리고 로봇 권리에 재산 소유권이 포함되어 있다면, 로봇에게 더 나은 법을 약속하는 정당에 돈을 기부할 수 있어야 한다는 것은 논리적으로 보인다. 이것은 이미 일본과 미국의 기업들에서 인정된 권리다.

이론적으로는 좋게 들리지만, 권리는 주장되어야만 의미가 있다. 어른들은 그들 자신의 권리를 주장할 수 있지만, 어린이, 동물, 기업들은 그들을 위해 그것을 할 누군가가 필요하다. 로봇의 경우 AI가 인간의 개입 없이 이런 것들에 대해 독자적인 판단을 내릴 수 있을 정도로 발전하면 달라질 수 있다. 그러나 더 즉시, 로봇 권리는 그들이 기업들을 위해 하는 것과 같은 방식으로 주장될 것이다: 인간 대리인을 통해서. 따라서 그들은 단순히 재산과 권력을 가진 사람들이 우리에게 무엇을 해야 하는지 알려주는 또 다른 수단이 될 수 있다.

어쨌든 우리가 공상과학 소설 세계에서 진정한 법, 이상적으로 자동자보다 인간을 중시하는 법칙으로 옮겨갈 수 있다면 좋을 것이다.

콜린 피에이 존스는 교토의 도시샤 로스쿨 교수로, "일본 법제도"(서학출판, 프랭크 라비치와 공동저작)의 1차저자다. 표현된 견해는 저자의 견해일 뿐이다.