안녕하세요. 이수민 전문가입니다.
HBM은 High Bandwidth Memory의 줄임말로, 여러 개의 D램 칩을 위로 차곡차곡 쌓아 만든 고성능 메모리예요. 한 층에 한 개씩 깔던 칩을 아파트처럼 8단, 12단으로 쌓아 올린 뒤, 층마다 미세한 구멍을 뚫어 전기 신호가 위아래로 곧장 오가게 만든 구조랍니다. 이 수직 통로를 TSV(실리콘 관통 전극)라고 불러요.
기존 DDR 메모리와 가장 큰 차이는 데이터가 오가는 길의 폭이에요. DDR은 좁은 도로 하나로 차들이 빠르게 달리는 방식이라면, HBM은 1024차선짜리 고속도로를 깔아두고 차들이 천천히 달리게 하는 방식이에요. 차선이 워낙 많다 보니 같은 시간 동안 훨씬 많은 데이터를 옮길 수 있고, 속도를 무리하게 올리지 않아도 되니 전력도 덜 먹는답니다. 게다가 칩을 쌓아 올린 덕에 같은 면적에서 차지하는 공간도 훨씬 작아요.
AI 반도체에 HBM이 필수가 된 이유는 데이터 처리량 때문이에요. 챗GPT 같은 거대 AI 모델은 수천억 개의 매개변수를 매 순간 메모리에서 꺼내 계산해야 해요. GPU가 아무리 빨라도 메모리가 데이터를 제때 공급하지 못하면 계산이 멈춰버리거든요. 마치 요리사가 아무리 빨라도 재료가 늦게 도착하면 요리가 안 나오는 것과 같죠. HBM은 GPU 바로 옆에 붙어 막대한 데이터를 한꺼번에 쏟아붓기 때문에 이 병목을 풀어주는 거예요.
현재 양산되는 주력 제품은 HBM3와 HBM3E예요. HBM3E는 12단까지 쌓아 한 패키지 용량이 36GB에 이르고, 엔비디아의 최신 AI 가속기에 들어가면서 SK하이닉스가 가장 먼저 공급하고 있답니다. 삼성전자도 HBM3E 12단의 엔비디아 품질 인증을 통과하며 본격 합류했고, 두 회사 모두 차세대인 HBM4 양산을 2026년 안에 시작하는 것을 목표로 경쟁 중이에요.
쉽게 말하면 HBM은 'AI 시대의 병목을 푸는 메모리'라고 보시면 돼요. 이 칩 하나가 AI 가속기 가격의 절반 가까이를 차지할 만큼 핵심 부품이라 주식 시장이 그렇게 들썩이는 거랍니다 :)