왜 GPU는 AI 시대에 중요해졌는가?

AI 시대에 더불어 주가가 크게 오른 기업 중 하나는 엔비디아(nVIDIA)입니다. 물론 코로나 사태를 겪으며 언택트(Untact) 산업의 중심인 IT 관련주들이 오르기는 했지만 엔비디아의 주가 상승세는 경이적이죠. 그렇다면 엔비디아의 주가는 왜 이렇게 많이 상승했을까요? 엔비디아의 주력 상품인 GPU와 AI 시대의 등장을 통해 해답을 찾고자 합니다.

 

엔비디아의 매출 중 상당 부분을 차지하는 GPU는 무엇일까요? GPU(graphic processing unit)은 말 그대로 게임, 동영상 편집 등 그래픽 연산에 특화된 프로세서입니다. 범용 프로세서의 성격을 갖는 CPU의 한계를 보완하기 위해 등장한 프로세서이지요. 그래픽 처리는 일반적으로 화면을 구성하는 많은 수의 픽셀의 색상(깊이)를 계산합니다. 예를 들어 새롭게 떠오르는 해상도인 4K 같은 경우에는 하나의 화면을 약 800만개의 픽셀이 구성하고 있죠. 게임, 동영상 등을 처리하기 위해서는 동시에 여러 계산을 수행해야 하는데, CPU는 코어 수의 한계(최대 20개 가량)가 있고 파이프라인, 슈퍼스칼라 등 최신 기법을 활용해도 이론적으로 한 코어 당 동시에 최대 수십개의 명령어 한계가 있습니다. CPU는 태생적으로 다양한 연산을 유연하게 처리하기 위한 성격의 프로세서이다 보니, 그래픽을 처리하기에는 이와 같이 한계가 있는 것이지요. 이를 보완하기 위해, GPU는 수많은 간단한 연산장치(Processing unit)을 포함하고 있습니다. 그래픽 처리의 대부분이 덧셈, 곱셈과 같은 단순 연산이기 때문에 이 정도 처리가 가능한 간단한 연산장치를 많이 수행함으로써 동일 시간에 CPU보다 많은 픽셀/프레임을 처리할 수 있게 한 셈이지요. 아래 그림을 보시면 다재다능한 커다란 CPU core와 작지만 단순연산이 가능한 초록색 GPU가 잘 비교되어 있습니다.

 

CPU와 GPU 비교 (출처: blog.nvidia.com)

AI 시대에서 GPU의 수요가 왜 증가했을까요? 답은 AI 연산이 그래픽 처리와 같은 단순 및 곱셈 위주의 병렬 컴퓨팅을 요구한다는 특징에 있습니다. CNN으로 대표되는 영상 인식, RNN으로 대표되는 음성 인식 모두 내부 연산식을 살펴보면 행렬(벡터)와 행렬(벡터)간의 곱셈이 대부분입니다. 행렬과 행렬의 곱셈은 고등학교 수학 과정의 기억을 꺼내본다면 두 행렬의 원소를 하나씩 곱한 후 그 결과들을 더한 결과지요. AI 학습은 방대한 양의 데이터를 통한 모델의 업데이트를 통해 이뤄지므로 짧은 시간 내에 많은 처리양을 필요로 합니다. 따라서 AI 연산이 필요로 하는 단순 곱셈 및 덧셈의 대규모 병렬 수행을 잘 할 수 있는 프로세서는 GPU가 아니라 CPU가 되는 것이지요. 새로운 프로세서를 개발하여 양산하는 데는 몇 년의 시간이 걸리고 설계 능력과 비용이 필요하기 때문에 구글과 같이 TPU를 개발할 수 없는 대부분 업체들은 시장에 나와 있는 GPU를 AI 연산에 활용했으므로 AI 시대에 GPU 수요가 증가했습니다.

 

과연 앞으로도 AI 시대에서 엔비디아의 위치가 유지될까요? 답은 GPU의 위치를 노리는 AI ASIC 업체들의 움직임을 주시해봐야 할 것 같습니다. AI ASIC()은 구글의 TPU와 같이 AI 처리에 특화된 프로세서입니다. 최근 인텔이 인수한 Habana, Graphcore와 같은 많은 AI ASIC 업체들은 GPU의 비효율성을 개선할 수 있다고 주장합니다. 효율성의 기준은 1Watt기준 처리할 수 있는 연산량이고요. GPU의 원래 목적이 그래픽 처리였기 때문에 AI 연산에는 비효율이 발생할 수 밖에 없으며 이를 해결하기 위해서는 자신들이 개발한 AI ASIC이 더 적합하다는 주장이지요. 향후 몇 년간 AI 프로세서 시장의 경쟁을 GPU 대 AI ASIC의 대결로 보는 것도 흥미로울 것 같습니다.