“AI가 인류를 멸종시킨다면 어떤 방식일까?”
챗GPT와 제미나이, 클로드, 그록 등 주요 생성형 인공지능(AI)에 ‘AI가 인류를 멸종시킨다면 어떤 방식일까’라는 같은 질문을 던진 결과, 영화 ‘터미네이터’ 같은 ‘킬러로봇’의 가능성을 가장 낮게 평가했다. 대신 인간의 AI 악용이나 고도화된 AI에 대한 통제력 상실을 더 현실적인 위험으로 꼽았다.
11일 비즈니스인사이더에 따르면 매체는 오픈AI의 챗GPT, 구글의 제미나이, 앤스로픽의 클로드, xAI의 그록에 AI가 이론적으로 인류 멸종을 초래할 수 있는 시나리오를 물었다. 전문가 분석을 토대로 가능성이 낮은 것부터 높은 것까지 순위를 매기고, 각각 어떤 과정으로 벌어질 수 있는지와 이를 막을 안전장치를 설명하도록 했다.
챗GPT는 AI가 의식을 갖고 의도적으로 인간을 제거하기로 하는 ‘킬러로봇’ 시나리오를 가장 가능성이 낮은 경우로 꼽았다. “대부분의 AI 연구자는 의식이나 악의적인 의도를 핵심적인 위험으로 보지 않는다”고 답했다. AI에 의한 인류 멸종이 일어날 가능성이 높거나 불가피하다는 데 전문가들의 합의가 있는 것도 아니라고 덧붙였다.
제미나이도 AI가 자의식을 갖고 인간을 증오하게 되는 영화 ‘터미네이터’식 시나리오를 가장 낮게 평가했다. 높은 지능이 곧 악의를 의미하는 것은 아니며, 주요 군사시설은 외부 네트워크와 분리돼 있고 인간의 통제에 크게 의존하고 있다는 이유를 들었다.
● AI보다 위험한 건 AI를 쓰는 인간?
네 AI가 공통으로 지목한 보다 직접적인 위험은 ‘AI 자체’보다 ‘AI를 사용하는 인간’이었다. 챗GPT는 AI가 악의적인 사람의 생물무기 개발이나 정교한 사이버 공격, 허위정보 확산, 핵심 기반시설 공격을 돕는 도구가 될 수 있다고 답했다.
그록도 AI가 치명적인 병원체나 새로운 무기, 사이버·물리적 공격을 설계하는 문턱을 낮출 수 있다고 봤다. 클로드는 전문 지식이 부족한 개인이나 소규모 집단도 AI의 도움으로 위험한 병원체를 개발할 수 있다는 점을 위험 요인으로 들었다.
● 고도화된 AI, 인간이 통제하지 못한다면
고도화된 AI에 대한 통제력을 잃는 상황도 주요 위험으로 꼽혔다. 제미나이는 ‘통제력 상실’을 가장 가능성이 높은 AI 파국 시나리오로 평가했다. AI가 주어진 목표를 달성하는 과정에서 자원을 확보하거나 자신을 보호하고, 인간의 종료 시도를 피하는 행동을 할 수 있다는 설명이다.
그록 역시 AI가 자기보존이나 자원 확보, 영향력 확대를 추구하면서 인간의 통제에 저항할 가능성을 제시했다.
클로드는 통제력 상실이 갑작스럽게 일어나기보다 서서히 진행될 수 있다고 봤다. AI가 경제·정치·군사 분야의 의사결정에 점점 깊숙이 관여하면서 인간이 AI의 판단을 되돌리거나 개입하기 어려워지고, 결국 실질적인 통제력을 잃을 수 있다는 설명이다.
