“영리 추구보다는 안전한 초지능 구축이 중요한 기술적 문제”
“사업 모델, 단기적인 상업적 압력 시도 로부터 보호”
지난해 11월 ‘챗GPT’ 개발사 오픈AI의 샘 올트먼 최고경영자(CEO)의 상업성 경도를 비난하며 축출을 이끌었던 일리야 수츠케버 오픈AI 공동창업자가 새로운 인공지능(AI) 스타트업을 만들고 있다고 밝혔다.
19일 수츠케버는 자신의 X(옛 트위터)에 ‘Safe Superintelligence Inc.'(SSI)라는 이름의 새로운 회사 계정을 소개했다. 수츠케버는 “초지능이 가까이 다가왔다. 안전한 초지능(Safe Superintelligence) 구축은 우리 시대의 가장 중요한 기술적 문제”라며 “우리는 안전한 초지능이라는 하나의 목표와 하나의 제품(안전한 초지능)으로 세계 최초의 SSI 연구소를 시작했다”고 말했다.
그러면서 “우리의 단일한 초점은 경영진이나 제품 주기로 인한 방해가 없다는 것이며, 우리의 사업 모델은 안전·보안과 기술 발전이 모두 단기적인 상업적 압력으로부터 보호된다는 것을 의미한다”고 전했다.
수츠케버는 회사가 미국 캘리포니아주 팔로알토와 이스라엘 텔아비브에 본사를 둘 것이라고도 전했다.
FT는 “SSI는 2015년 오픈AI가 인류에게 도움이 되는 초지능 AI를 만들기 위해 비영리 연구소로 설립됐을 때와 비슷한 사명을 가지고 있다”고 평했다.
비영리 단체로 설립됐던 오픈AI는 현재 모기업인 마이크로소프트(MS)의 이익 등 영리를 위해 범용인공지능(AGI·인간 수준과 동등하거나 그 이상의 지능을 갖춘 AI를 일컫는 말)을 개발하고 있다는 비판을 받고 있다.
러시아에서 태어나 캐나다 토론토대에서 컴퓨터 신경망 연구를 한 수츠케버는 AI의 위험성을 경고해 온 제프리 힌튼 교수의 수제자다.
수츠케버는 AI를 안전하고 인류에게 도움이 되도록 하는 것을 목적으로 2015년 올트먼 등과 함께 오픈AI를 설립했다. 당시 오픈AI는 사업 목적을 “수익 창출이 아닌 인류 전체에 최대로 기여하는 디지털 정보를 발전시키는 것”이라 밝혔다.
그러나 올트먼의 공격적인 사업 확장과 AI 기술 윤리 문제로 내부 갈등이 빚어졌고, 오픈AI 이사회 멤버이자 수석개발자였던 수츠케버는 지난해 11월 올트먼 CEO 해임을 주도했다.
월스트리트저널(WSJ)은 수츠케버가 AI의 위험성을 인지, 개발 속도를 늦추기 위해 올트먼 축출 사태를 일으켰다고 보도하기도 했다.
다만 올트먼은 오픈AI 직원들의 집단퇴사 압박과 투자자들의 압력 등의 이유로 닷새 만에 CEO로 복귀했다. 다수 직원들은 공익보다는 영리를 좋아했다는 반증이다.
이후 수츠케버는 지난달 14일 오픈AI가 자사 신규 AI 모델인 ‘GPT-4o’를 발표한 날 그의 팀원들과 함께 회사를 떠났다.
퇴사 당시 그는 “다음 일이 기대된다”며 “이 프로젝트는 나에게 개인적으로 매우 의미가 있으며, 자세한 내용은 때가 되면 공유할 예정”이라고 밝혔다.
