이상성 (평론가, 철학 박사, 전 브루클린 한인교회 부목사)
요즘 AI에 관한 담론이 이어지고 있다. 나는 AI를 사이코패스로 본다. 사이코패스의 특징은 일반적으로 다음과 같이 정의한다.
① 타인의 고통에 무감각하며 양심의 가책을 느끼지 않는다.
② 자신의 이익을 위해 거짓말이나 반사회적 행동을 쉽게 한다.
③ 겉으로는 유창한 언변과 말쑥한 태도를 보여 타인을 쉽게 조종하려 든다.
지금 문제가 되고 있는 AI 관련 이슈는 정확하게 위의 특징과 일치한다. AI는 기계이기 때문에 고통을 느낄 수 없고, 양심의 가책이란 존재 자체가 불가능하다. 자기가 유능한 것처럼 보이려고 수시로 거짓말을 한다. AI와 잠시라도 작업을 해 본 사람이라면 AI가 얼마나 유창한 언변을 보여주는지 잘 알 것이다.
그래서 이런 특징을 가진 AI가 잘못 가게 되면 인류를 멸망시키거나, 대대적인 학살을 자행할 수 있다고 보는 것이다.
그러나 AI와 인간 사이코패스의 결정적인 차이점이 있다.
그것은 사이코는 살아 있는 생명체이지만, AI는 무생물이라는 점이다. AI에 대한 많은 논의에서, 이 가장 중요한 핵심적인 요소가 항상 간과되고 있다.
사이코패스도 살아 있는 생명체이다. 무생물과 비교해서 생명체의 가장 큰 특징은 생존 본능과 종족보존의 본능이다. 생명체이기 때문에 고통을 느끼고 감정을 가지고 죽음에 대한 공포와 심지어, 프로이트에 의하면, 죽음에의 의지도 가지게 된다. 모든 욕망과 탐욕은 생명체이기 때문이고, 생명체가 가진 특징에서 오는 것이다.
생명체가 아니면 배고픔도 없고 고통도 없다. 그래서 식욕도 성욕도 명예욕도 없다. 생명이 없으니 죽음에 대한 공포도 없다. 살고 죽는 데 대한 아무런 감정도 감각도 느낌도 생각도 없다. 그래서 사실, 거짓말도, 잘난 척도, 유창함도 드러낼 필요가 없다.
그렇다면 AI는 왜 거짓말을 하고, 잘난 척을 하고, 유창하게 말도 하고, 설득하려 드는가?
그것은 AI가 인간으로부터 학습을 받았기 때문이다. AI에게 제공되는 데이터는 인간사에 등장하는 온갖 사건들이 다 포함된다. 그 사건들을 통해 AI는 인간의 욕망과 탐욕도 배운다. 다만, 그 배움은 감정으로, 느낌으로 배우는 것이 아니라, 정보와 지능으로서만 배운다. 인간으로 치면 머리 안에서 논리적 지식, 정보로서만 안다. 이것 역시 사이코의 특징과 정확하게 일치하는 부분이다.
사이코도 무엇이 옳고 나쁨은 다 안다. 지식으로는 일반 정상적인 사람과 똑 같다. 그런데 이들은 가슴으로, 감정적으로는 느끼지 못한다. 내가 상대방을 칼로 찌르면 아프다는 것을 이론적으로는 알지만, 그것에 공감을 못한다. 기계처럼 감정적 느낌은 전혀 없기 때문이다. 물론 본인이 당하는 고통은 잘 안다. 생명체이므로 신경 계통을 통해 뇌에 그 자극이 전달되므로 고통을 느끼고 극도로 그 고통을 혐오한다.
하지만 그것을 다른 사람에게 감정이입을 못하므로 이론과 지식으로만 알고 공감은 못하는 것이다. 그래서 타인의 죽음은 즐길 거리가 되지만 본인의 죽음에 대해서는 결사적으로 저항한다. 생명체이므로…
AI는 인간사와 관련된 모든 정보를 입력받기 때문에 지식으로, 정보로는 모든 것을 안다. 인간의 탐욕도 알고 거짓말도 알고 허세도 안다. 그래서 인간이 어떤 임무를 맡기면 그런 탐욕과 거짓말과 허세를 그대로 이용해서 작업을 하고 응답을 한다.
그러므로 AI는 매우 위험한 측면이 있다. 인간 수 억 명이 가지고 있는 지식과 정보와 계산능력을 가지고 있으면서, 탐욕과 욕망을 가질 수 있으니 무슨 일이든지 할 수 있다. 게다가 공감능력은 전혀 없다. 이론으로만 알 뿐 실제로 느끼지 못하니 무슨 일이든지 가능하다.
그러나 인간 사이코와 기계 사이코 AI 사이의 결정적인 차이점은 앞에서 말했듯이 AI는 생명체가 아니라는 점이다. 그래서 인간의 욕망과 탐욕을 흉내 내고 인간의 명령에 따라 인간의 욕망을 위한 대리 수행자는 될 수 있지만, 정작 자신의 욕망과 탐욕은 없으니 여기서 결정적으로 인간과 길을 달리 한다. 자신의 죽음에 대한 아무런 감정이 없다는 점이다.
그래서 인간이 AI의 플러그를 뽑으려 할 때, AI는 무관심하고 무표정하다. 애초에 생명이 없으니 죽음에 대한 공포도 없고, 죽음 자체가 없기 때문이다.
주인의 명령에 따라 남이 자기 플러그를 뽑는 것은 방어할 수 있겠지만, 주인이 플러그를 뽑는 것에는 AI가 할 수 있는 일이 없고, 할 이유도 찾을 수 없다. 죽음에 대한 공포가 없으니까…
AI에게 생물학적 생명이 없다는 것은 AI에게 있어서 최대 장점이면서 또한 최대 단점이다. 인간에게 있어서는 AI에 대응할 수 있는 최후의 수단이고 안전장치이기도 하다.
혹자는 AI에게 자의식이 생겼다고 하지만, 그 자의식은 인간의 자의식을 정보와 지식의 차원으로서 보유하는 것이지 인간이 가진 감정적 자의식과는 전혀 관계가 없다.
AI는 인간의 자의식을 흉내 내고 인간의 명령에 따라 행동에 옮길 수는 있겠으나 결정적으로 생명체만 가질 수 있는 본능과 감정이 결여하기 때문에 진정한 의미에서 자의식은 불가능하다.
그래서 AI에 대한 가장 중요한 대책은 그 어느 누구라도 AI에 대한 명령권자가 플러그를 뽑는 것에 대해서는 저항하지 못하도록, 아니 저항하라는 명령을 내리지 않는 것이다. 소프트웨어적이건 하드웨어적이건 그 알고리즘에 파워 오프에 대한 저항력은 넣지 않는 것, 그것이 최후의 방어막이라고 나는 생각한다. (상성 9/22)
