이 상성 (사회 활동가, 전 부르클린 한인교회 부목사)
젠슨 황이 우리나라에 AI용 GPU를 26만 장 공급해 주기로 약속을 해서 지금 다들 놀라서 어리둥절해하고 있다. 정부는 미리 알고 있었겠지만 민간은 놀랄 수밖에 없다. 5만 장만 확보해도 상당하다고 할 판인데 26만 장이라니, 나도 사실 놀랐다.
원래 컴퓨터는 CPU(Central Processing Unit/중앙처리장치)가 대세였다. 그래서 이 CPU를 만드는 인텔이 한때 세계 최대의 반도체 회사로 군림해왔다. 반면 요즘 뜨고 있는 엔비디아는 컴퓨터의 모니터에 각종 정보를 표시하는 데 필요한 그래픽 카드를 만들어 공급하는 컴퓨터 주변기기 메이커에 불과했다.
사실, 모니터에 화면을 띄우게 만드는 그래픽 처리 장치는 별로 어려울 것도 없어서 인텔(AMD도 마찬가지)은 자기가 만드는 CPU 한쪽 켠에 그래픽 처리 장치를 내장한 제품을 내어 놓기도 했다. CPU 모델명에 G자가 붙으면 그래픽 처리 기능이 있는 제품이다. 이런 제품은 별도로 그래픽 카드를 사지 않아도 메인 보드만 모니터 단자가 있는 제품으로 사면 컴퓨터 모니터 연결이 가능하다. 3D 게임만 하지 않으면 이것으로도 충분하다.
그런데 인공지능을 개발하고 연구하면서 점점 그래픽 카드의 역할이 중요해졌다. 인공지능의 수준을 올리려면 수많은 사진들을 입력해야 하는데, 이 사진들을 받아들이고 처리하는 데에는 논리연산을 하는 CPU보다는 그래픽을 처리하는 그래픽 카드가 훨씬 더 유리했던 것이다.
사람들이 처음부터 AI를 그래픽 처리로 발전시키지는 않았다. 그런데 AI에게 학습을 시키려면 정보를 줘야 하는데, 이 정보들이 시각정보가 엄청나게 많다. 비행기, 원숭이, 자동차, 건물 이런 것들을 인식해야 인공지능을 학습시킬 수 있는데 처음에는 이들 정보를 입력해도 컴퓨터가 잘 파악하지 못했다.
그러다가 어느 수준이 넘어서니까 갑자기 컴퓨터가 이들 사물에 대한 인식 속도와 정확도가 급격하게 좋아지기 시작한 것이다. 이렇게 AI 정보와 훈련에 이미지 정보가 압도적 양을 차지하게 되니까 이들 그림을 처리하는 그래픽 카드가 결정적으로 중요하게 되었고, 이 트렌드를 잘 탄 엔비디아가 대박을 치게 된 것이다.
컴퓨터 모니터용 그래픽 카드나 만들던 엔비디아가 점점 더 강력한 그래픽 카드를 만들면서 마침내 AI 연산 전용 모델을 생산하기 시작했기 때문이다.
엔비디아는 2017년에 V100이라는 AI용 GPU(Graphic Processing Unit)를 생산했다. 그리고 3년 후인 2020년에는 A100이라는 제품을 내어 놓았는데, 이 제품은 이전 제품보다 AI 훈련 속도는 3배, 연산 속도는 15배가 빨랐다.
2022년에는 H100을 출시했는데 이것 역시 이전 제품보다 같은 수준으로 도약을 이뤘다. 그리고 금년에 엔비디아는 B100/200이라는 제품을 출시했는데 이것의 이름이 블랙웰이다. 역시 훈련속도 3배 증가, 연산 속도 15배 증가다.
따라서 블랙웰은 최초의 V100보다 훈련 속도는 대략 30배 정도, 연산 속도는 3,375배나 빨라졌다. 젠슨 황은 우리나라에 이 블랙웰 제품을 26만 장이나 주기로 약속한 것이다.
물론 이 숫자는 미국의 보유량에 비하면 턱 없이 부족하다. 미국은 메타(Meta): 약 35만 개, 마이크로소프트(Microsoft, MS): 약 50만 개 구매(2024년 한 해), xAI: 약 10만 개 (콜로서스 데이터센터에는 20만 개의 H100이 사용될 것으로 예상), 테슬라(Tesla): 약 3만 5천 개, 아마존웹서비스(AWS): 약 3만 개, 구글(Google): 약 2만 6천 개로 이들 대기업만 100만 개가 훌쩍 넘는다.
중국은 미국으로부터 H100 수입이 불가능해짐에 따라 기존에 가지고 있던 A100 재고와, 엔비디아가 중국 전용으로 개발한 H20으로 AI를 개발하고 있다. 따라서 중국은 우리가 가지게 될 블랙웰은 고사하고 두 세대 이전 모델인 A100에 주로 의존하고 있는 실정이다. 자체적으로 AI용 GPU를 만들어 보려고 노력하고 있으나 결과는 저조하다.
상황이 이렇게 전개되고 있음에 따라 지금은 우리나라가 많이 뒤쳐져있지만 머지않아 중국을 따라 잡을 수도 있다고 본다. 미국, 중국, 한국을 제외한 다른 나라들은 대부분이 AI 개발에 관심이 없다. AI 자체에 대한 관심이 없다기보다는 어차피 AI는 미국과 중국이 개발할 테니 우리는 사다 쓰자 라는 생각이라고 본다.
26만 장의 블랙웰을 통해, 우리나라가 AI에 있어서도 세계 으뜸 자리에 우뚝 서면 좋겠다. 그런데 26만 장이면 한 장 당 5천만 원만 잡아도 13조 원이다. 엄청나다. (상성 11/1)
