GPU

한 줄 정의 GPU(Graphics Processing Unit, 그래픽 처리 장치): 수천 개의 작고 단순한 연산 코어를 동시에 굴려 같은 계산을 한꺼번에 처리하는 데 특화된 프로세서. 원래 화면에 그림을 그리는(렌더링) 용도였지만, '대량의 단순 곱셈·덧셈을 동시에'라는 특성이 AI 연산과 정확히 맞아떨어지면서 인공지능 시대의 핵심 부품이 됐다.

통념 교정 흔히 "GPU = 게임용 그래픽카드"로 이해한다. 그러나 투자 맥락에서 GPU라고 하면 데이터센터에 들어가는 'AI 가속기'를 가리키는 경우가 대부분이다. 게이밍 그래픽카드와 AI 가속기는 같은 GPU 계보지만, 데이터센터용은 게임용 출력 단자조차 없고 HBM·고속 인터커넥트로 무장한 전혀 다른 등급의 제품이다. 또 "GPU 시장 = 엔비디아"로 단순화하기 쉬운데, 엔비디아의 진짜 해자는 칩 자체보다 CUDA라는 소프트웨어 생태계에 있다.

---

1.개요

GPU는 현대 인공지능(AI) 인프라의 심장이다. CPU가 복잡한 작업을 순서대로 빠르게 처리하는 '소수 정예' 구조라면, GPU는 단순한 계산을 수천 개 동시에 처리하는 '인해전술' 구조다. AI 모델 학습은 본질적으로 거대한 행렬 곱셈의 반복인데, 이 작업이 GPU의 병렬 구조와 완벽하게 맞아떨어진다. 챗GPT를 만든 대규모 언어모델(LLM) 한 개를 학습시키는 데 수만 개의 GPU가 몇 달간 동원된다.

한국 투자자에게 GPU가 중요한 이유는 두 갈래다. 하나는 GPU 자체를 설계·판매하는 미국 빅테크 종목(엔비디아, AMD)이고, 다른 하나는 그 GPU 옆에 반드시 붙는 HBM 메모리를 만드는 한국 기업(삼성전자, SK하이닉스)이다. GPU 수요가 늘면 HBM 수요가 따라 늘고, 그 흐름이 한국 메모리 업체 실적을 직접 좌우한다.

GPU 밸류체인을 대표하는 핵심 종목을 실시간 스냅샷으로 확인해보자.

---

2.정의와 원리: 왜 AI는 GPU를 쓰는가

2.1.CPU vs. GPU — 일하는 방식의 차이

CPU(중앙처리장치)는 똑똑한 직원 몇 명이 복잡한 일을 빠르게 순서대로 처리하는 구조다. GPU는 단순 계산만 할 줄 아는 일꾼 수천 명이 같은 일을 동시에 처리하는 구조다.^[1] 예를 들어 "1만 개 숫자에 각각 2를 곱하라"는 작업을 시키면, CPU는 빠른 직원이 1만 번 반복하고, GPU는 수천 명이 한 번에 나눠 끝낸다.

AI 모델의 학습과 추론은 거의 전부가 이런 '같은 연산을 대량으로'에 해당한다.^[2] 그래서 원래 게임 화면을 그리려고 만든 GPU가 AI 시대의 주력 연산 장치가 됐다. 의외로 이 전환은 엔비디아가 의도한 게 아니라, 연구자들이 게임용 GPU로 신경망 학습이 훨씬 빠르다는 걸 발견하면서 시작됐다.

2.2.학습(Training) vs. 추론(Inference)

GPU의 쓰임새는 크게 둘로 나뉜다. 학습은 모델을 똑똑하게 만드는 단계로, 가장 비싸고 강력한 GPU가 대량으로 필요하다. 추론은 완성된 모델이 실제 답을 내놓는 단계로, 효율과 단가가 더 중요해진다. AI 서비스가 본격적으로 대중화되면 추론 수요가 학습 수요를 넘어설 것이라는 관측이 많고, 이 지점에서 엔비디아 외 경쟁사(AMD, 자체 칩을 만드는 빅테크)에게도 기회가 열린다는 시각이 있다.

불스토리 관점: GPU 투자에서 가장 흔한 오해가 "성능 좋은 칩 = 시장 승자"라는 등식이다. 실제로는 칩을 묶어 굴리는 네트워크, 그 위에서 도는 소프트웨어(CUDA), 그리고 옆에 붙는 메모리(HBM)까지 한 세트로 봐야 한다. 칩 하나의 스펙만 비교하는 건 자동차 성능을 엔진 마력만으로 평가하는 것과 같다.

---

3.구조와 종류

GPU는 단독으로 일하지 않는다. 연산을 담당하는 GPU 코어, 데이터를 빠르게 공급하는 HBM 메모리, 여러 GPU를 묶는 고속 인터커넥트가 한 덩어리로 움직인다. AI 가속기는 연산량이 워낙 많아 일반 메모리로는 병목이 생기는데, GPU 바로 옆에 쌓아 붙인 HBM이 이 병목을 푼다. 그래서 GPU 호황은 곧 HBM 호황이고, HBM 호황은 곧 한국 메모리 업체의 실적이다.

구분	대표 제품·진영	위치	투자 포인트
데이터센터 GPU	엔비디아 H100·Blackwell, AMD MI 시리즈	AI 학습·추론의 본진	가장 높은 마진, 공급 부족 지속
게이밍 GPU	엔비디아 지포스, AMD 라데온	PC·콘솔 그래픽	경기 민감, 사이클 변동 큼
GPU 메모리	삼성전자·SK하이닉스·마이크론 HBM	GPU 옆에 필수 동반	한국 투자자 직접 수혜 구간
위탁 제조	TSMC 첨단 노드·CoWoS 패키징	GPU 실물 생산	첨단 패키징 사실상 독점
소프트웨어 생태계	엔비디아 CUDA	개발자를 묶는 해자	모방 가장 어려운 자산
자체 칩(ASIC)	구글 TPU, 빅테크 인하우스 칩	특정 작업 전용	엔비디아 의존 탈피 시도

GPU와 비슷하게 'AI 가속기'로 묶이지만 결이 다른 게 ASIC(주문형 반도체)다. 구글의 TPU처럼 특정 연산만 전담하도록 설계해 효율을 끌어올린 칩으로, 범용 GPU의 대안으로 거론된다. 다만 범용성이 떨어져 GPU를 완전히 대체하기보다 보완하는 역할에 가깝다는 평가가 많다.

불스토리 관점: 빅테크(구글, 마이크로소프트, 아마존, 메타)가 자체 칩을 개발하는 건 엔비디아 의존도를 낮추려는 움직임이다. 다만 자체 칩으로 CUDA 생태계까지 갈아엎는 건 별개의 난제라, '엔비디아 비중을 줄인다'와 '엔비디아를 대체한다'는 전혀 다른 이야기다.

---

4.대표 종목·ETF

GPU 밸류체인 어느 단계에 투자하느냐에 따라 리스크·수익 구조가 완전히 다르다.

GPU 설계 (미국)

• 엔비디아: AI 가속기 시장의 기준점이자 사실상 표준. GPU 하드웨어와 CUDA 소프트웨어 생태계를 함께 팔기 때문에, 경쟁사가 칩 스펙을 따라잡아도 개발자 이탈 비용이라는 벽을 넘기 어렵다.
• AMD: 엔비디아의 가장 현실적인 경쟁자. MI 시리즈 가속기로 추론 시장을 파고들고 있으며, '엔비디아 단일 의존을 줄이려는 수요'가 AMD에게 기회로 작용한다는 시각이 있다.

GPU 메모리 (한국)

• SK하이닉스: HBM 선두 주자. 엔비디아에 고대역폭 메모리를 독점에 가깝게 공급하면서 메모리 업계의 이익 구조 자체를 바꿨다는 평가를 받는다.
• 삼성전자: DRAM·NAND·파운드리를 모두 가진 종합 반도체 기업. HBM 수율 경쟁에서 SK하이닉스에 뒤처진 구간이 있었고, 반등을 시도 중이다.

GPU 위탁 제조 (대만)

• TSMC: 엔비디아·AMD의 GPU를 실제로 찍어내는 곳. 첨단 노드와 CoWoS 첨단 패키징에서 우위를 확보해 AI 가속기 제조 물량을 대부분 수주하고 있다.

ETF로 접근하기 개별 종목이 부담스럽다면 GPU·AI 반도체 비중이 높은 ETF로 분산할 수 있다. SOXX(iShares Semiconductor), SMH(VanEck Semiconductor) 등 반도체 ETF가 대표적이며, 엔비디아·AMD·TSMC ADR 등을 한 바구니에 담는다.^[3] 다만 이들 ETF는 특정 대형주 비중이 매우 높아 사실상 소수 종목에 집중 투자하는 효과가 날 수 있으니 구성 종목을 확인하는 게 좋다.

---

5.리스크 및 쟁점

AI 투자 버블 논쟁 GPU 수요의 대부분은 빅테크의 AI 설비 투자(CAPEX)에서 나온다. 이 투자가 실제 수익으로 전환되지 못하면 CAPEX가 꺾이고, 그 충격이 GPU·HBM 수요에 직격탄을 날릴 수 있다.^[4] 'AI는 구조적 성장'이라는 낙관론과 '과잉 투자 후 조정이 온다'는 신중론이 팽팽히 맞서는 중이다. GPU 관련 종목의 변동성이 큰 근본 원인이 여기 있다.

미·중 기술 패권 경쟁 미국은 첨단 GPU의 대중 수출을 단계적으로 규제해왔다. 엔비디아가 중국 수출용으로 성능을 낮춘 칩을 따로 만들어야 했던 사례가 대표적이다.^[5] 규제 강도에 따라 매출에서 일정 비중을 차지하던 중국 시장이 흔들릴 수 있어, GPU 종목의 정책 리스크 요인으로 꼽힌다.

공급 집중과 단일 의존 GPU 실물 생산은 TSMC 첨단 패키징에, 핵심 메모리는 한국 두 회사에 쏠려 있다. 밸류체인의 어느 한 단계라도 차질이 생기면 전체 공급이 막히는 구조다. 또 GPU 시장 자체가 엔비디아에 크게 집중돼 있어, 한 기업의 실적·전망 변화가 섹터 전체를 흔드는 경향이 있다.

전력·발열이라는 물리적 한계 GPU가 늘수록 데이터센터 전력 소비가 급증한다. 전력 확보와 냉각이 AI 인프라 확장의 실질적 병목으로 떠오르면서, GPU 수요가 전력·에너지 인프라 투자로까지 번지는 연쇄 효과가 나타나고 있다. 동시에 전력난 자체가 GPU 증설의 제약 요인이 될 수 있다는 지적도 있다.

불스토리 관점: GPU는 'AI 성장의 가장 직접적인 수혜주'인 동시에 'AI 기대가 꺾일 때 가장 먼저 타격받는 자리'다. 상승의 레버리지와 하락의 레버리지를 양쪽으로 다 가진 섹터라는 점을 분명히 인식하고 접근해야 한다.

---

6.알아두면 좋은 포인트

• CUDA라는 진짜 해자: 엔비디아가 2006년 공개한 GPU 프로그래밍 플랫폼. 전 세계 AI 개발자 대부분이 이 위에서 코드를 짠다. 칩보다 이 생태계를 갈아엎는 게 훨씬 어렵다는 게 엔비디아 독주의 핵심이다.^[6]
• 무어의 법칙과 황의 법칙: 트랜지스터 집적도 증가 속도(무어의 법칙)가 둔화되는 가운데, 엔비디아는 GPU 성능이 더 빠르게 좋아진다는 자체 관점('황의 법칙')을 내세운다. 다만 이는 마케팅 성격이 강한 주장이라는 비판도 함께 있다.
• GPU-HBM-파운드리 삼각 연결: GPU 수요 → HBM 수요 → TSMC 첨단 패키징 수요로 이어지는 사슬은 한 묶음으로 움직인다. 한 단계의 호황·불황 신호가 나머지 두 단계의 선행 지표가 되곤 한다.
• 추론 시대의 전환: 학습용 고성능 GPU 위주였던 시장이 추론용 효율 칩 쪽으로 무게중심을 옮기면, 단가·마진 구조가 달라질 수 있다. 이 전환은 AMD나 자체 칩을 만드는 빅테크에게 진입 여지를 넓힌다.

---

7.외부 링크 · 둘러보기

관련 문서 엔비디아 · AMD · CUDA · HBM · 반도체 · TSMC · 삼성전자 · SK하이닉스 · 인공지능(AI) · 데이터센터 · ETF

---

---

본 문서는 정보 제공용이며 투자 권유가 아닙니다. 모든 투자 결정과 그에 따른 손익은 투자자 본인에게 귀속됩니다.

---

각주

1. 1. GPU 코어는 CPU 코어보다 단순하지만 수천 개가 들어간다. 데이터센터용 GPU 한 칩에 수천~수만 개 규모의 연산 유닛이 집적된다. 단순 작업을 동시에 처리하는 '병렬 연산'이 GPU의 본질이다.
2. 2. AI 모델 학습은 수학적으로 거대한 행렬 곱셈의 반복이다. 행렬 곱셈은 작은 곱셈·덧셈을 동시에 대량으로 수행하는 작업이라, GPU의 병렬 구조와 구조적으로 일치한다.
3. 3. SOXX·SMH는 미국 증시 상장 ETF이며, 한국 투자자는 국내 증권사 해외주식 계좌를 통해 매수 가능. 구성 종목 비중과 운용보수, 환율을 확인할 필요가 있다.
4. 4. 빅테크의 AI 설비 투자 규모는 매년 수천억 달러 단위로 확대돼왔다. 이 투자가 실제 수익으로 이어지는지가 GPU 수요 지속성의 핵심 변수다. (각 빅테크 분기 실적·CAPEX 가이던스 기준)
5. 5. 미국은 2022년 이후 첨단 AI 칩의 대중 수출을 단계적으로 규제했다. 이에 따라 엔비디아 등은 중국 시장용으로 사양을 조정한 별도 제품을 출시해야 했다. (미 상무부 수출통제 조치 기준)
6. 6. CUDA: 엔비디아 GPU 위에서 일반 연산을 돌릴 수 있게 해주는 소프트웨어 플랫폼. 플랫폼을 바꾸려면 기존 코드를 상당 부분 다시 짜야 해서 개발자 이탈 비용이 크고, 이것이 경쟁사 진입을 막는 비기술적 장벽으로 작동한다.