한국 HBM 없인 AI도 없다, 엔비디아 목줄 쥔 SK하이닉스 위엄

HBM은 DRAM을 수직으로 쌓고 TSV로 관통 연결해 GPU의 메모리 병목을 푸는 기술입니다. 영상은 SK하이닉스가 2013년 세계 최초로 HBM을 선보인 뒤 오랜 기간 투자를 이어 갔고, MR-MUF 액체 패키징과 방열 설계로 수율과 품질을 확보해 엔비디아 공급망의 중심이 되었다고 설명합니다.

⏱ 00:00인공지능 학습에는 엔비디아의 GPU가 사실상 필수지만, 이 연산 장치는 방대한 데이터를 너무 빨리 처리하는 탓에 옆에서 데이터를 공급하는 기존 DRAM의 전송 속도가 따라가지 못했습니다. 이 불균형을 메모리 병목이라 부르며, 데이터가 제때 오지 않으면 고성능 칩도 성능을 내지 못하고 시스템 전체가 멈춥니다. 영상은 이 문제가 인공지능 확산의 가장 큰 걸림돌이었다고 짚으며 이야기를 시작합니다.

⏱ 02:14기존 DRAM은 기판 위에 칩을 옆으로 넓게 펼쳐 배치해 면적이 크고, 칩 사이 데이터 통로도 좁았습니다. HBM은 이 발상을 뒤집어 여러 개의 DRAM을 아파트처럼 수직으로 쌓아 올립니다. 그 결과 바닥 면적이 줄고 GPU 가까이에 메모리를 붙일 수 있으며, 데이터가 오가는 통로인 대역폭이 크게 넓어져 좁은 2차선 도로가 여러 차선짜리 고속도로로 바뀐 것과 같은 효과를 냅니다.

⏱ 03:19칩을 쌓아도 바깥쪽으로 가느다란 배선을 길게 연결하면 데이터가 돌아가느라 느리고 신호도 약해집니다. 이를 해결하는 것이 실리콘 관통 전극, 즉 TSV입니다. 얇은 DRAM 칩에 미세한 구멍을 수천 개씩 뚫고 그 안을 전극 물질로 채워, 위아래 칩을 수직으로 직접 잇는 방식입니다. 이동 거리가 극단적으로 짧아져 데이터가 위아래로 빠르게 오갈 수 있게 됩니다.

⏱ 06:59영상은 시계를 2010년으로 되돌립니다. 당시 업계에서는 기존 DRAM만으로도 충분히 수익을 낼 수 있는데 굳이 막대한 비용을 들여 칩을 뚫고 쌓을 필요가 있냐는 회의론이 강했고, 새로운 메모리의 시장성도 불투명했습니다. 이때 SK하이닉스는 앞으로 대용량 데이터 처리 수요가 커져 기존 방식으로는 한계가 온다고 보고, 고성능 그래픽 칩의 병목을 겪던 미국 AMD와 손잡고 선행 연구에 뛰어들었다고 설명합니다.

⏱ 09:12영상에 따르면 3년 남짓의 연구 끝에 2013년 10월 SK하이닉스는 20나노급 DRAM을 4단으로 쌓고 TSV로 연결한 HBM을 세계 최초로 선보였습니다. 반도체 산업에서는 먼저 제품을 내놓은 쪽이 규격의 기준을 정하는 경우가 많아, 두 회사가 설계부터 함께 만든 방식이 국제 표준의 바탕이 되었다고 봅니다.

하지만 초기 시장은 작았고 제조 비용은 컸습니다. 경쟁사가 수익성 악화를 이유로 연구 인력을 줄일 때 SK하이닉스는 수익이 보이지 않는 시기에도 투자를 이어 가며 세대를 거듭해 기술을 다듬었고, 영상은 이 10년의 축적이 인공지능 시장이 커졌을 때 엔비디아가 신뢰하는 근거가 되었다고 정리합니다.

⏱ 15:45칩을 쌓으려면 사이를 붙이고 보호하는 패키징 공정이 필요합니다. 경쟁사는 칩을 한 층씩 올릴 때마다 필름형 접착제를 끼우고 열과 압력으로 눌러 붙이는 TC-NCF 방식을 썼는데, 층수가 늘고 칩이 얇아지면서 고온과 압력에 칩이 휘어져 불량이 나고 공정도 느려졌습니다. SK하이닉스는 여러 칩을 한꺼번에 얹은 뒤 칩 사이 틈에 액체 보호재를 주입해 한 번에 굳히는 MR-MUF 공법을 택했습니다. 얼음틀에 물을 부어 얼리듯 액체가 빈틈을 채우므로 칩에 무리한 힘이 가지 않아 휘어짐이 줄고 생산 속도도 빨라집니다.

⏱ 22:00HBM은 칩이 빽빽하게 모여 있어 열이 많이 나는 것이 큰 문제입니다. 필름 방식은 단열재처럼 작용해 열을 빼내기 어려웠지만, SK하이닉스는 열전도율이 높은 액체 에폭시 밀봉제를 쓰고, 신호는 전달하지 않으면서 열만 빼내는 더미 범프를 대폭 늘렸습니다. 영상은 이 덕분에 휘어짐과 발열을 동시에 잡아 5세대 HBM 양산에서 수율 약 80%를 달성했다고 주장합니다. 그 결과 엔비디아의 까다로운 품질 테스트를 통과해 안정적인 대량 공급망을 확보했다고 정리합니다.