INFOAROUNDS 알아두면 좋은 정보
AI GPU 혁명을 이끄는 것이 엔비디아(NVIDIA)라면,
그 엔비디아의 심장(GPU)에 ‘연료’를 공급하는
핵심 파트너는 바로 SK하이닉스와 삼성전자입니다.
그리고 그 연료의 이름이 바로
‘HBM(고대역폭 메모리)’입니다.
️ [GPU란 무엇인가? (CPU와의 차이, AI 혁명의 핵심 엔진)]
“AI 때문에 HBM이 대박 났다는데,
그게 도대체 GPU와 무슨 관계일까?” 🤔
INFOAROUNDS가 AI 시대의 ‘핵심 병목’이자
‘권력’이 된 HBM의 정체와 그 중요성을
재린이 눈높이로 확실하게 설명해 드립니다.
1. AI 시대, 왜 ‘데이터 병목 현상’이
문제인가?
이전 포스트 [️ 왜 AI는 GPU 없이는 불가능한가?]에서,
AI GPU는 수천 개의 코어(‘초등학생’)로
초당 수천조 번의 단순 계산(병렬 처리)을
수행한다고 했습니다.
하지만 여기서 치명적인 문제가 발생합니다.
바로 ‘메모리 병목 현상(Memory Bottleneck)’입니다.
- 문제: GPU 코어(엔진)가 아무리 빨라도,
계산에 필요한 데이터(연료)를 제때 공급받지 못하면
코어는 작동을 멈추고 데이터가 도착할 때까지
기다려야 합니다. - 원인: AGI급 AI 모델은 수천억, 수조 개의
거대한 파라미터 데이터를 처리해야 합니다.
기존 게이밍용 GDDR 메모리로는
이 엄청난 데이터 요구량을 감당할
‘대역폭(데이터가 다니는 길)’이 절대적으로 부족해졌습니다.
2. HBM: 병목 현상을 해결하는
유일한 열쇠 🔑
HBM (High Bandwidth Memory, 고대역폭 메모리)은
이 병목 현상을 해결하기 위해 탄생한
AI 시대의 필수 부품입니다.
HBM이란?
- 여러 개의 D램(DRAM) 칩을 아파트처럼
수직으로 쌓아 올리고(3D 적층),
‘실리콘 인터포저’라는 2.5D 특수 기판을 통해
GPU와 매우 가깝게 배치하여
데이터 경로를 극도로 넓힌 고성능 메모리입니다.
쉬운 비유
- GDDR (게이밍 메모리):
좁고 긴 ‘2차선 고속도로’ 🚗 - HBM (AI 메모리):
매우 넓고 짧은 ’20차선 고속도로’ 🚌🚌🚌
HBM은 ‘실리콘 인터포저(Interposer)’라는
얇은 실리콘 기판을 통해 GPU 코어와 직접 연결됩니다.
이 연결 통로(I/O)의 수는 HBM4 기준으로
2,048개에 달하며, 기존 GDDR(예: 32비트)과는
비교조차 불가능한 수준입니다.
이 압도적인 ‘길’ 덕분에 엔비디아 B200 같은 AI 칩이
8 TB/s라는 경이적인 메모리 대역폭을
달성할 수 있는 것입니다.
3. GPU 생태계의 ‘왕좌’: HBM 공급망
AI GPU는 더 이상 ‘GPU 칩’과 ‘메모리’가
분리된 부품이 아닙니다.
GPU 다이(Die)와 HBM 칩들이
하나의 기판(인터포저) 위에 함께 실장된
‘하나의 시스템(System-in-a-Package)’입니다.
HBM 공급을 통제하는 자가
AI 컴퓨팅의 핵심 병목 지점을 통제하게 됩니다.
AI GPU 핵심 공급망
- 설계 (NVIDIA / AMD):
AI 칩 아키텍처를 설계합니다. - HBM (SK하이닉스 / 삼성전자):
GPU에 탑재될 HBM을 설계하고 제조합니다. - 파운드리 (TSMC / 삼성전자):
엔비디아의 설계도와 SK하이닉스의 HBM을 받아,
GPU 다이를 생산하고 HBM과 함께 정밀하게
패키징(CoWoS 등)하여 최종 AI 칩을 완성합니다.
엔비디아 H100 GPU의 총생산 원가(약 $3,300) 중
HBM이 상당한 비중을 차지하며,
이 패키지는 시장에서 $25,000 이상에 판매됩니다.
‘권력의 이동’
이 공급망 구조는 ‘권력의 이동’을 의미합니다.
과거에는 NVIDIA(설계)가 TSMC(생산)에
절대적으로 의존했다면, 이제는
HBM 공급사(SK하이닉스, 삼성전자)의 중요성이
TSMC만큼, 혹은 그 이상으로 커졌습니다.
HBM은 한국 반도체 산업이 AI 시대에 ‘메모리’로도
생태계의 핵심이 될 수 있음을 증명한 기술입니다.
🔥 HBM 기술, 어디까지 왔을까?
HBM3E를 넘어 세계 최초 HBM4 개발까지!
최신 HBM 기술 트렌드를 확인하세요. 👇
4. HBM 기술 동향: HBM3E를 넘어 HBM4로
HBM 시장은 숨 가쁜 기술 경쟁이 벌어지고 있습니다.
- 현재 (HBM3 / HBM3E):
엔비디아 H100(HBM3)과 B200(HBM3E),
AMD MI325X(HBM3E) 등 2025년 주력 AI 칩에
4세대(HBM3) 및 5세대(HBM3E) HBM이 탑재됩니다. - SK하이닉스 독주:
특히 HBM3E 시장은 SK하이닉스가
90% 이상의 압도적인 점유율로 시장을 선점하고 있습니다. - 미래 (HBM4):
6세대 HBM입니다.
2025년 9월, SK하이닉스는 세계 최초로
HBM4 개발을 완료하고 양산 준비를 마쳤다고 공식 발표했습니다.
이 HBM4는 엔비디아의 차차세대 GPU인
‘루빈(Rubin)’에 탑재될 예정입니다.
(AI 혁명은 GPU 엔진과 HBM 연료가
함께 이뤄내는 것입니다.
AI 투자는 엔비디아뿐만 아니라,
그 엔진에 필수 연료를 공급하는
SK하이닉스와 삼성전자라는
‘공급망’ 관점에서 바라봐야 합니다.)
➡️ GPU 시리즈 더 알아보기
HBM이 왜 중요한지 알았다면,
이 생태계를 구성하는 전체 기업
포트폴리오를 확인해 보세요.
자주 묻는 질문 (FAQ)
HBM은 게이밍 GPU(RTX 5090 등)에도 쓰이나요?
아닙니다.
HBM은 매우 뛰어난 성능을 가졌지만,
생산 단가가 매우 비쌉니다.
게이밍 GPU는 가격 대비 성능이 중요하기 때문에,
HBM 대신 GDDR(Graphics DDR)이라는
전용 메모리를 사용합니다.
HBM은 현재 가격이 매우 비싼
AI/서버용 GPU(H100, B200 등)에만
독점적으로 사용됩니다.
SK하이닉스가 HBM 1위고, 삼성전자는 2위인가요?
네, 2025년 10월 현재 기준으로는 그렇습니다.
특히 HBM3와 HBM3E 등 최신 세대
AI GPU에 탑재되는 HBM 시장은
SK하이닉스가 엔비디아에 독점 공급하며
시장을 선점했습니다.
다만, 삼성전자 역시 HBM4 개발 등으로
SK하이닉스를 빠르게 추격하고 있으며,
엔비디아의 HBM 공급망 다변화 전략에 따라
향후 점유율 경쟁은 매우 치열해질 것입니다.
‘HBM 장비주’가 뜨는 이유는 무엇인가요?
HBM은 D램을 아파트처럼 ‘수직으로 쌓아 올리는’
3D 적층 기술이 핵심입니다.
이 과정에는 기존 D램 생산에는 없던 특수 공정
(예: 칩을 뚫고 전극을 연결하는 TSV,
칩을 붙이는 TC 본딩 등)이 필요합니다.
한미반도체의 ‘TC 본더’ 같은 장비가
바로 이 특수 공정에 필수적인 ‘전용 장비’이기 때문에,
HBM 수요가 폭증함에 따라 관련 장비주들도
함께 주목받는 것입니다.
(️ [GPU 관련주] 참고)
출처 보기
- (사용자 제공 `GPU 콘텐츠 기획 자료 요청` 파일 내 [448], [480]~[483], [489]~[527], [628]~[662] 섹션 참고)
