인공지능이 묻는다 “인격이란 무엇인가”

인공지능 연구가 진행되면서 점점 인격에 뭔지에 대한 고민이 생기고 있다. 인간이 갖고 있는 자아가 만일 컴퓨터 안에도 생기게 된다면 과연 이들에게 권리를 부여해야 할까. 유튜브 채널 쿠르츠게작트-인더넛쉘(Kurzgesagt –In a Nutshell)이 공개한 영상은 이런 문제를 말한다.

영상은 토스터를 예로 들고 있다. 토스터는 스스로 새롭고 흥미로운 토스트를 요구하고 인터넷에서 찾는다. 사람에게 오늘 하루 뭘 했는지 묻거나 토스트 기술의 새로운 진전에 대해 말하고 싶을 지도 모른다.

그렇다면 어떤 수준이 되면 토스터가 인간과 같은 게 있게 될까. 토스터가 감정이 있을지도 모른다고 느끼기 시작하는 시점은 언제일까. 이런 경우 전원을 꺼버리는 게 토스터를 죽이는 것일까.

인공지능은 이미 주변에 존재하고 있다. 인공지능은 매장에서 충분한 상품을 관리할 수 있게 해주거나 개인 맞춤형 인터넷 광고를 제공하기도 한다. 하지만 만들어진 인격과 개성의 경계가 모호해질 경우 대처가 필요할 수 있다고 생각할 수 있다.

물론 지금 당장 이런 권리를 부여할 만한 기계가 있냐고 묻는다면 답은 당분간은 없을 것이라는 것이다. 하지만 만일 이런 게 존재한다면 준비가 충분하지 않은 상태인 것도 분명하다. 인간이나 동물에게 권리가 있다는 주장 대부분은 의식 유무를 전제로 한다. 하지만 불행하게도 의식이 뭔지 아는 사람은 어디에도 없다.

정확한 정의가 뭐든 우리는 의식에 대해 직관적으로 알고 있다. 의식을 갖게 하는 경험이 있기 때문이다. 자신과 주변에 대해 인식하고 의식이 없는 상태가 어떤 느낌인지 알고 있다.

일부 신경과학자들은 고급 시스템이라면 의식을 만들어낼 수 있다고 생각하고 있다. 이런 생각에 근거한다면 토스터에게도 자아가 있게 될지도 모를 일이다. 그렇다면 이 때 토스터에게 권한을 줄 필요가 있을까.

의식을 갖고 있다면 권리가 주어진다. 의식을 가진 사람은 고통을 느낄 능력도 갖고 있기 때문이다. 인권은 인체의 시스템과 깊은 관계가 있다. 인간은 고통을 싫어한다. 뜨거운 불에 닿지 않으려 한다. 인간은 포식자에게서 도망치듯 뇌를 진화시켜왔다. 이런 고통에서 스스로를 보호하기 위해 권리를 제시하게 된 것이다.

하지만 원래 움직일 수 없는 토스터가 감옥에 갇혀 있는 걸 싫다고 느낄까. 죽음에 대한 두려움이 없는데 분해되는 걸 걱정할까. 자존심이 없다고 말하면 모욕으로 받아들일까.

만일 통증과 감정을 느낄 수 있게 로봇을 프로그래밍한다면 어떨까. 부정보다 정의를 선호하고 고통보다 기쁨을 선호하고 이를 의식하도록 프로그래밍한다면? 수많은 개발자가 인공지능이 새로운 인공지능을 학습하고 자신보다 뛰어난 인공지능을 창조할 수 있게 되면 기술 폭발이 일어날 것이라고 믿고 있다. 고통을 느끼는 능력이 거의 모든 생물에게 필요하다고 진화 생물학이 말하듯 고통에 대한 프로그램의 필요성을 인공지능이 찾아낸다면 로봇은 권리를 가질 가치가 있을까.

물론 지금은 이렇게 똑똑한 로봇이 가져올 위험에 대해 너무 걱정하는 것보다는 오히려 반대로 우리가 로봇에게 노출될 위험을 걱정해야 할지도 모른다. 인류의 정체성은 독특해 자연을 다스리는 권리를 가진 예외적 존재라는 생각에 기초를 두고 있다. 역사적으로 인류는 다른 존재가 인류와 마찬가지로 고통을 느낄 수 있다는 걸 부정해왔다.

근대 과학혁명 시기에 근대 철학의 아버지로 불리는 르네 데카르트는 동물이 단순한 기계인형(로봇)이라고 주장한 바 있다. 또 인류의 최대 죄악 중에는 가해자가 피해자는 문명화된 인류가 아니라 동물에 가깝다며 타인의 권리를 빼앗는 걸 정당화해온 것을 들 수 있다.

더 큰 문제는 우리가 로봇의 권리를 부정하는 게 경제적인 이점이 있다는 것이다. 의식을 가진 인공지능에 봉사를 강제할 수 있다면 이익을 창출할 가능성도 더 크다. 이는 인류가 과거에도 해온 일이다. 사람들에게 노동을 강요하기 위해 폭력을 사용했던 것이다. 노예제도는 노예를 통해 이익을 주장했고 여성 투표권에 반대했던 남성은 여성이 사실 어려운 결정을 남성에게 맡기고 싶은 것이라고 주장하기도 했다. 로봇이 자아가 갖게 된다면 그들은 권한이 없는 채 일한다는 주장을 하게 될 수 있다.

인공지능은 철학의 경계에 심각한 문제를 제기하고 있다. 감각을 가진 로봇에 자존심이 있는지 또는 권리를 가질 가치가 있는 것일까. 또 우리는 뭘 기준으로 인간이고 무엇을 근거로 권리를 갖고 있을까 등 근원적 물음을 던지고 있다. 어떻게 생각하는지에 관계없이 이 같은 질문을 가까운 미래에 해결해야 할지도 모른다. 로봇이 권리를 요구해온다면 어떤 것에 주의해야 할까. 영상 자막은 한국어로 설정해 볼 수 있다.