GPU

한 줄 정의 GPU(Graphics Processing Unit): 같은 연산을 수천 갈래로 동시에 처리하는 데 특화된 병렬 프로세서. '게임 그래픽 칩'이 아니라 행렬 연산을 대량으로 쏟아붓는 모든 작업의 가속기다.

통념 교정 흔히 GPU를 "CPU보다 빠른 칩"으로 안다. 실제로는 빠른 게 아니라 '넓은' 칩이다. CPU가 복잡한 의사결정을 빠르게 순차 처리한다면, GPU는 단순한 같은 계산을 수천 개씩 한꺼번에 돌리는 구조다. AI가 GPU를 쓰는 이유는 클럭이 높아서가 아니라, 딥러닝의 핵심인 행렬 곱셈이 "같은 연산의 대량 반복"이라 GPU의 병렬 구조와 정확히 맞물리기 때문이다.

---

1.개요

GPU는 원래 게임·3D 그래픽의 픽셀을 빠르게 그리기 위해 발전한 프로세서다. 그러나 그래픽 렌더링과 딥러닝 연산이 본질적으로 같은 '대량 병렬 행렬 연산'이라는 점이 알려지면서, 지금은 AI 학습·추론, 과학 계산, 데이터 분석을 떠받치는 AI 반도체 시장의 심장이 됐다. 개인투자자에게 중요한 건 GPU 칩 하나가 아니라, GPU 수요가 늘면 HBM·파운드리·데이터센터 투자가 함께 움직이는 공급망 구조다. 시장은 엔비디아

와 AMD가 설계를 양분하고, 그 위에서 CUDA 같은 소프트웨어 생태계가 판도를 가른다.

2.연혁·역사 — 픽셀 그리는 칩에서 AI의 심장까지

GPU의 역사는 '그림을 더 빨리 그리고 싶다'는 단순한 욕구에서 시작한다. 1990년대 PC 게임이 2D에서 3D로 넘어가면서, CPU 혼자 화면의 모든 픽셀과 폴리곤을 계산하기에는 한계가 분명해졌다. 화면을 채우는 수십만~수백만 개의 픽셀은 사실상 '같은 계산을 좌표만 바꿔 반복'하는 작업이라, 이런 일을 전담할 별도의 칩이 필요했다.

1999년 엔비디아가 'GeForce 256'을 내놓으며 이 칩을 GPU(Graphics Processing Unit)라는 이름으로 마케팅한 것이 분기점이었다. 변환·조명 같은 그래픽 파이프라인의 핵심 단계를 하드웨어로 떠안으면서, GPU는 단순 그래픽 보조 칩에서 독립된 연산 장치의 지위를 얻었다. 비슷한 시기 ATI(이후 AMD에 인수)가 라데온 라인으로 맞서며, 이후 20여 년간 이어지는 양강 구도가 형성된다.

2000년대 중반, 결정적 전환이 일어난다. 그래픽용으로 깎아둔 병렬 연산 능력이 그래픽 외 일반 계산에도 쓰일 수 있다는 사실이 알려진 것이다. 엔비디아가 2006~2007년 CUDA를 공개하며 개발자가 GPU의 병렬성을 직접 끌어다 쓸 길을 열었고, 과학자들은 물리 시뮬레이션·기상 계산·금융 모델링을 GPU로 돌리기 시작했다. 이 'GPGPU(범용 GPU 연산)' 흐름이 훗날 AI 혁명의 토대가 된다.

2012년은 GPU 역사에서 별표를 칠 해다. 한 이미지 인식 신경망이 GPU로 학습돼 기존 기록을 압도하면서, 딥러닝의 학습 연산이 GPU와 환상적으로 맞물린다는 사실이 입증됐다. 이때부터 GPU는 '게임 부품'이라는 정체성을 빠르게 벗고, AI 연구의 표준 도구로 자리 잡는다. 2010년대 후반에는 암호화폐 채굴 붐이 소비자용 GPU 품귀를 일으키며 게임 시장과 채굴 수요가 충돌하는 부작용도 겪었다.

그리고 2020년대, 거대 언어모델이 폭발하면서 GPU는 또 한 번 위상이 바뀐다. 모델이 커질수록 학습·추론에 필요한 GPU가 기하급수로 늘었고, 데이터센터용 고성능 GPU는 단순 부품을 넘어 'AI 시대의 원유'로 불리게 됐다. 게임 그래픽을 그리려고 태어난 칩이, 한 세대 만에 산업 전체의 자본지출 방향을 좌우하는 자산이 된 셈이다.

3.작동 원리 — 왜 병렬인가

GPU의 강점은 수많은 연산 코어가 동일한 명령을 서로 다른 데이터에 동시에 적용하는 데 있다. 이미지의 픽셀 수백만 개, 신경망의 가중치 수십억 개처럼 "같은 계산을 다른 숫자에 반복"하는 작업이라면 GPU가 압도적이다. 반대로 분기와 조건 판단이 많은 일반 소프트웨어 로직은 여전히 CPU가 유리하다. 그래서 실제 시스템에서는 CPU가 전체 흐름을 지휘하고, 무거운 병렬 연산만 GPU로 넘기는 분업 구조가 표준이다.^[1] 최근에는 추론에 특화된 NPU 같은 전용 칩이 등장해, '모든 AI 연산을 GPU가 다 한다'는 전제도 조금씩 흔들리고 있다 — 이 흐름은 아래 글에서 자세히 다뤘다.

4.어디에 쓰이나 — 두 갈래 수요

GPU 수요는 성격이 전혀 다른 두 시장으로 나뉜다. 하나는 소비자용 그래픽카드로, 게임 프레임·텍스처·실시간 효과 품질을 좌우하며 PC 경기에 민감하게 반응한다. 다른 하나는 기업용으로, 데이터센터에서 대규모 모델 학습·추론에 쓰이고 자율주행·로봇·의료영상·금융 리스크 분석처럼 연산량이 큰 분야로 확산 중이다. 투자 관점에서 이 두 수요를 뭉뚱그리면 오판하기 쉽다 — 게임 수요가 식어도 AI 데이터센터 수요가 떠받치는 국면이 충분히 나올 수 있다. 최근에는 GPU 자체가 표준화된 가격과 금융 구조를 갖춘 '투자·임대 자산'으로까지 취급되기 시작했으며, GPU 파이낸싱 시장의 등장이라는 이 변화는 아래 글에서 자세히 다뤘다.

5.핵심 사건·전환점 — 산업의 무게중심이 옮겨간 순간

GPU 산업의 결정적 전환점은 '게임에서 데이터센터로' 무게중심이 옮겨간 사건들이다. CUDA 공개로 범용 연산의 문이 열린 것, 딥러닝이 GPU로 학습되며 AI의 표준 하드웨어가 된 것, 그리고 거대 언어모델 시대에 데이터센터 GPU 수요가 폭발한 것이 그 줄기다. 동시에 GPU 선도 기업의 성장 동력이 단일 제품을 넘어 CPU·네트워킹·자율주행·로보틱스로 다변화하고 있다는 시각도 나온다. 핵심은, GPU가 더 이상 하나의 부품 사이클이 아니라 여러 산업의 인프라 사이클과 엮여 움직인다는 점이다. 이 '성숙기 논쟁'은 아래 글에서 자세히 다뤘다.

6.경쟁력·해자 — 칩이 아니라 생태계

GPU 산업의 진짜 해자는 하드웨어 성능만이 아니다. 엔비디아가 오래 우위를 지키는 핵심은 CUDA라는 소프트웨어 생태계로, 개발자와 기업이 CUDA에 맞춰 코드·라이브러리를 구축해 두면 다른 하드웨어로 옮기는 전환비용이 커진다. 여기에 고성능 GPU는 HBM 고대역폭 메모리와 결합돼야 제 성능을 내고, 첨단 칩은 TSMC 같은 파운드리의 최선단 공정이 있어야 양산된다. 결국 GPU 경쟁력은 설계·메모리·패키징·파운드리·소프트웨어가 맞물린 생태계의 함수다. 칩 한 장의 스펙만 보고 우열을 가리는 것은, 이 다층 구조를 놓치는 셈이다.

7.산업 구조·밸류체인

GPU 밸류체인은 수직 분업으로 짜여 있다. 회로를 설계하는 팹리스(엔비디아·AMD), 그 설계를 받아 실제로 찍어내는 파운드리(TSMC 등), 연산 칩 옆에 붙는 고대역폭 메모리(HBM을 만드는 SK하이닉스·삼성전자·마이크론), 칩과 메모리를 한 패키지로 묶는 첨단 패키징이 각각의 단계다. 어느 한 단계라도 병목이 생기면 — 가령 HBM 부족이나 패키징 캐파 한계 — 설계 능력이 아무리 좋아도 GPU 출하가 막힌다. 그래서 GPU 사이클을 읽을 때는 설계사 실적만이 아니라 메모리·파운드리·패키징의 캐파 상황을 함께 봐야 한다.

8.시장 사이클·리스크

GPU는 경기 민감도가 높은 자산이다. 소비자용은 PC 교체 주기와 암호화폐 채굴 수요에 출렁이고, 기업용은 데이터센터 자본지출(CapEx) 사이클에 좌우된다. AI 투자 열기가 강할 때는 공급 부족과 가격 변동성이 커지지만, 반대로 빅테크의 투자 속도가 둔화되면 재고가 쌓이며 수요가 급격히 식는 양면성이 있다. 또한 미·중 첨단 반도체 수출 규제, 단일 파운드리(TSMC) 의존, HBM 공급 집중 같은 지정학·공급망 리스크도 GPU 산업 전반을 흔드는 변수다. 여기에 추론 전용 NPU와 빅테크 자체 설계 칩이 일부 수요를 잠식할 가능성도 장기 리스크로 거론된다.

9.정성 비교: GPU vs CPU

구분	CPU	GPU
설계 철학	소수의 강력한 코어	다수의 단순한 코어
잘하는 일	복잡한 분기·순차 제어	동일 연산의 대량 병렬 처리
대표 용도	OS·일반 소프트웨어 로직	그래픽 렌더링·딥러닝·시뮬레이션
시스템 내 역할	전체 흐름 지휘	무거운 병렬 연산 가속
AI에서의 위치	데이터 준비·제어	학습·추론 연산의 주력

10.외부 링크 · 둘러보기

관련 문서: 엔비디아 · AMD · CUDA · HBM · AI 반도체 · 데이터센터 · 파운드리 · NPU

---

본 문서는 정보 제공용이며 투자 권유가 아닙니다.

---

각주

1. 1. 병렬 연산 — 여러 계산을 동시에 수행하는 방식. 같은 명령을 서로 다른 데이터에 한꺼번에 적용하는 GPU의 구조가 대표적이다.