SK하이닉스 기사 나오면 HBM. 삼성전자 실적 기사 나와도 HBM. 엔비디아 신제품 나와도 HBM.
대체 이게 뭐길래.
저도 처음엔 그냥 메모리 종류 중 하나인가 보다 했는데, 파보니까 이게 지금 반도체 판 전체를 뒤흔들고 있더라고요. 그래서 한번 정리해봤습니다.
일단 HBM이 뭔지부터
High Bandwidth Memory. 직역하면 고대역폭 메모리인데, 이렇게 말하면 뭔 소린지 모르겠죠.
쉽게 갑니다.
보통 메모리는 칩이 기판 위에 옆으로 쭉 붙어있어요. 평면 구조입니다. 근데 HBM은 이걸 위로 쌓아버려요. 아파트처럼. 8층, 12층 이렇게요.
이게 왜 중요하냐. 칩을 위로 쌓으면 데이터가 오가는 통로를 엄청 많이 만들 수 있거든요. DDR5가 64비트 도로라면 HBM3는 1024비트 도로예요. 열여섯 배 넓은 거죠. 차가 그만큼 많이 다닐 수 있으니 당연히 빠릅니다.
근데 쌓아놓으면 위아래를 어떻게 연결하냐. 여기서 TSV라는 기술이 나오는데, 실리콘에 머리카락보다 가는 구멍을 수천 개 뚫어서 구리선으로 연결하는 겁니다. 말이 쉽지 이게 진짜 어려운 기술이에요.
이게 왜 갑자기 이렇게 뜬 건가
ChatGPT 때문입니다. 정확히는 생성형 AI 때문이에요.
AI 모델이 점점 커지잖아요. GPT-4가 파라미터 몇천억 개라고 하는데, 이걸 학습시키려면 데이터를 미친 듯이 빠르게 밀어넣어야 합니다. 초당 몇 테라바이트씩.
기존 메모리로는 이 속도가 안 나와요. 아무리 좋은 GPU 갖다놔도 메모리가 데이터를 제때 못 넘겨주면 GPU가 놀아요. 일 안 하고 기다리는 거죠. 이게 업계에서 말하는 ‘메모리 병목’입니다.
HBM이 이 문제를 풀어준 겁니다. 그러니까 AI 하려면 HBM 있어야 되고, AI가 커지면 HBM 더 필요하고. 이런 구조가 된 거예요.
세대별로 좀 다르던데
맞아요. 2013년에 처음 나왔고 지금 거의 4세대 코앞입니다.
1세대가 스택당 128GB/s였어요. 2015년에 AMD 그래픽카드에 처음 들어갔고.
2세대 HBM2는 2016년에 나왔는데 속도가 두 배로 뛰었습니다. 딥러닝 초창기에 이거 많이 썼어요.
HBM2E가 2019년. 엔비디아 A100에 탑재되면서 데이터센터 표준이 됐고요.
HBM3가 2022년인데, 여기서 진짜 터졌어요. 엔비디아 H100에 들어가면서 ChatGPT 붐이랑 딱 맞아떨어진 거죠. 스택당 800GB/s 넘어갑니다.
지금 최신은 HBM3E예요. 2024년부터 양산 시작했고, 스택당 1.2TB/s. 엔비디아 H200이랑 블랙웰에 이거 들어갑니다.
내년쯤 HBM4 나온다는데, 버스 폭이 2048비트로 또 두 배 늘어난대요.
그래서 돈이 얼마나 되는 건데
이게 진짜 무서운 부분입니다.
SK하이닉스 봐요. 2019년에 HBM이 DRAM 매출의 3%였어요. 3%요. 근데 2025년에는 42%까지 올라간다고 합니다. 금액으로 207억 달러.
이거 하나로 삼성전자 제치고 DRAM 1위 먹을 판이에요. 진짜로요.
시장 전체는요? 2024년에 170억 달러인데 2030년에 980억 달러 간다는 전망 있어요. 6년 만에 여섯 배.
비싸냐고요? 엄청 비쌉니다. DDR5보다 다섯 배에서 일곱 배. 근데 AI 하려면 대안이 없어요. 그러니까 비싸도 사야 되는 거고, 물량이 달려서 못 구하는 회사도 있는 상황입니다.
만드는 데는 어디야
세 군데뿐이에요. 전 세계에서.
SK하이닉스가 점유율 50~60%로 1등입니다. 엔비디아 물량 거의 다 가져가요. 2025년 물량? 벌써 다 팔렸대요. MR-MUF라고 자체 패키징 기술 있는데, 이게 발열 잡는 데 효과가 좋다고 하더라고요.
삼성전자는 솔직히 좀 밀리고 있어요. HBM3E가 엔비디아 테스트 늦게 통과했거든요. 근데 삼성이 만만한 데가 아니잖아요. 메모리, 패키징, 파운드리 다 있는 유일한 회사라 HBM4 때 뒤집으려고 준비 중인 것 같습니다.
마이크론은 미국 회사라는 거 앞세워서 치고 들어오는 중이에요. 전력 30% 덜 먹는다고 밀면서 H200 공급선에 끼어들었습니다.
결국 뭐가 중요하냐면
AI 시대에 HBM 없으면 아무것도 못 한다는 겁니다.
모델 크기는 계속 커지고, 그럼 메모리 대역폭 더 필요하고, 그럼 HBM 더 필요하고. 이 사이클이 당분간 안 끊길 것 같아요.
SK하이닉스 주가가 왜 그러는지, 삼성이 왜 저러는지, 이제 좀 감이 오시죠?
반도체 관심 있으시면 HBM 동향은 계속 보시는 게 좋을 것 같습니다. 여기서 판이 갈릴 거예요.