HBM #1 - HBM이란 무엇일까? HBM의 탄생배경

 

 

 

1) HBM은 High Band Width 메모리를 뜻함. 한국어로 말하자면, 고대역폭 메모리임. 

 

2) Band With는 대역폭을 말함. 대역폭은 단위 시간 당 이동할 수 있는 데이터의 양의 개념임. 차선이 넓으면 많은 차들이 한 번에 갈 수 있는 것과 비슷한 개념. 고대역폭이라는 것은 한 번에 많은 데이터들이 지나갈 수 있는 성격을 가지고 있다는 것을 뜻함

 

3) HBM의 1세대는 2015년에 출시하였음. 약 10년 가까이 된 기술이 갑작스럽게 부상한 것은 폭발적인 AI 반도체칩에 대한 수요에 있음. 고성능 GPU의 수요가 증가함에 따라서 HBM의 수요도 자연스럽게 증가한 것임. 

 

4) 이 구조를 위해하기 위해서는 지금의 반도체 시장에 대해서 이해가 필요함. 지금의 반도체는 폰노이만 구조를 채택하고 있음. 로직(Logic) 반도체가 연산을 한다면, 그 연산된 데이터를 DRAM에 임시로 저장해서 사용하는 구조임. (반영구적인 저장은 NAND나 HDD를 이용함) 

 

5) CPU, GPU와 메모리 반도체간의 연결되어 있는 통로를 버스(Bus)라고 부름. 버스의 성능이 뛰어날수록 대역폭이 높아지게 됨. 대역폭의 공식은 아래와 같음. 즉, 같은 공간에서 데이터가 더 빨리 가거나 폭이 넓어서 한 번에 더 많은 데이터가 지나가게 되면 대역폭이 높아지게 됨. 보통 속도를 높이는 것은 제한적이기 떄문에 폭을 넓힘. 대역폭을 고속도로로 비유하는 이유임. 

 

 

이에 대해서는 존경하는 테크 유튜버 가젯서울님이 다루신 영상이 있어 아래에 공유함. 

 

https://youtu.be/HndwJaR_Zpw?feature=shared

 

6) 기존에는 HBM이 있더라도 시장에서의 존재감은 미미했었음. 이유는 HBM은 비싸고 효용도 애매했기 때문. 어느정도 규모의 경제가 달성되고 있는 현재 시점에서도 HBM의 HB당 비용은 일반 DRAM의 10배에 달함 

 

7) 비싼데 효용이 애매했다는 것은 그 비싼 칩 가격을 감당할 수요가 애매했었기 때문임. 대표적인 DRAM 수요처인 스마트폰의 경우 지금 100만원 하는 휴대폰이 같은 GB의 DRAM을 채택하는데, HBM을 넣는다면, 가격이 300만원에 정도 된다고 보면 됨. HBM이 그저그런 시장에 머무를 수밖에 없었던 이유임. 

 

8) 그렇던 HBM 시장이 폭발적으로 성장하게 됨 .AI반도체로 대표되는 GPU에 대한 폭발적인 수요 증가 덕분이었음 

 

9) 폰노이만구조에서는 기본적으로 메모리 탑재가 기본적임. 로직 반도체의 속도가 메모리 반도체보다 빠름에도 로직만큼의 효능을 못 낸 것은 로직과 메모리의 이동통로인 대역폭의 제한 때문이었음. 

 

10) 오로지 더 빠른 로직의 연산을 위해서 나온 것이 HBM 임. HBM은 대역폭을 높이기 위해서 DRAM을 수평으로 연결하는 것이 아닌, 수직으로 뚫게됨.TSV라는 공정을 통해서 단자를 연결하는데, 이 때문에 수율도 낮아지고 개별 단가도 무지하게 올라가게 됨. 

 

HBM의 구조에 대해서는 다음 글에서 다루도록 하겠음.

 

* 한 줄 요약: 시장성이 없던 기술도 기존의 잘 되지 않던 제약 조건이 풀리게 되면 폭발적으로 성장하게 됨. ASML도 그렇고 HBM도 그렇게 됨. 반도체 분야에 있어서는 신기술에 관심을 가지고 밸류체인에 대해서 알고 있어야 하는 이유라고 생각함.