삼성전자 경기 평택캠퍼스 4공장


"HBM은 반짝 유행에 그칠 것이다.""삼성 HBM은 좋은 평가를 받고 있다."
2023년 삼성전자 반도체(DS)부문에서 나온 HBM에 대한 평가다. SK하이닉스가 엔비디아에 업계 최초로 HBM3(4세대)를 납품하고 시장 장악력을 키워갈 때, 삼성전자는 상대적으로 안이했다. 2024년 '삼성 반도체 위기론'이 불거졌고 지난해 1~3분기 연속해서 D램 세계 1위를 경쟁사에 내줬다.
위기론은 약 2년 만에 수면 아래로 가라앉았다. 지난해 9월 HBM3E(5세대) 12단 제품의 엔비디 바다이야기무료 아 품질(퀄) 테스트를 통과했다. 지난 12일엔 HBM4(6세대)의 엔비디아 업계 최초 납품에 성공했다. 누군가는 '메모리 호황'을 거론하며 운이 좋았다"고 말하지만, 삼성의 귀환은 그냥 그렇게 된 일이 아니다.
실패에 대한 자기반성과 코어 다이(D램) 재설계 등의 초강수, 경쟁사보다 앞선 첨단 공정 활용 같은 전략적 판단이 겹쳐 삼성은 릴게임골드몽 '세계에서 가장 좋은 기술을 보여준 원래 모습'(지난 11일, 송재혁 삼성전자 DS부문 CTO)을 되찾고 있다.
'계륵' 평가에 HBM 축소한 삼성전자
유명 반도체 서적 '칩워'의 저자 크리스 밀러 미국 터프츠대 교수는 지난해 파이낸셜타임즈(FT)와의 인터뷰에서 HBM 시장 구도에 대해 "닥터페퍼(SK하이닉스)가 코카콜라 릴짱릴게임 (삼성전자)보다 갑자기 인기를 끌게 된 것"이라고 비유했다. 코카콜라처럼 계속 1등일 것 같았던 삼성전자의 위기는 여러 요인이 수년간 겹친 결과였다.
삼성전자는 2016년 HBM2부터 2020년 HBM2E까지 HBM 시장 세계 1위를 기록했다. 내부에선 '계륵'이란 평가가 나왔다. 최첨단 패키징을 접목하기 때문에 제작 난도가 높고 수율은 바다이야기합법 낮았다. 당연히 모바일·PC·서버에 들어가는 범용 D램보다 이윤이 적었다. 당시 HBM 매출은 전체 D램에서 5%에도 못 미치던 상황. AI용 서버 시장 성장성에 대해서도 확신할 수 없었던 삼성전자는 2019년 메모리 다운턴 국면에 HBM 조직의 힘을 뺐다.
합리적 경영 판단으로 볼 수도 있는 이 결정은 2022년 11월 챗GPT의 등장과 바다이야기게임기 함께 결과적으로 '오판'이 된다. 엔비디아에서 "시장이 좀 이상하다"는 말이 나올 정도로 HBM이 장착되는 AI 가속기 수요가 급격하게 커졌다. 당시 AI 가속기의 주류는 HBM3가 적용된 엔비디아의 호퍼(H100) 시리즈. HBM 사업을 포기하지 않고 오히려 키운 SK하이닉스는 2022년 6월 HBM3 양산 및 출하를 시작했다. 삼성전자는 HBM3에 신속하게 대응하지 못했다.
?연이은 퀄 탈락에 '퀄치기 소년' 지적 나와
2023년 경영진은 진화에 나섰다. HBM2와 HBM2E가 계속 팔리며 삼성전자의 점유율은 아직 50% 언저리를 기록하던 상황. 동요하는 직원들을 "아직 우리가 HBM 1위"라고 다독였고, 매 분기 투자자 대상 콘퍼런스콜(실적설명회) 등에선 "HBM3 양산 준비를 마쳤고 고객사 평가도 좋다"고 발표했다. 그런데 대형 고객사 대상 본격 양산 시점은 그해 3분기에서 4분기, 연말로 계속 미뤄졌다. 결과적으로 삼성전자는 의미 있는 물량을 공급하지 못했다.
2024년 초 삼성전자는 결단을 내린다. HBM3 대신 HBM3E(5세대) 12단 수율 향상과 HBM4(6세대) 납품에 주력하기로 한 것. HBM3E 12단 제품을 그해 3분기 엔비디아에 납품하는 걸 목표로 100명 규모 에이스를 모아 태스크포스(TF)를 조직했다. 동시에 300여 명은 HBM4 개발팀에 배속됐다. (삼성전자의 전략은 SK하이닉스가 2016년 HBM2 납품 실패 이후 실행에 옮긴 대책과 상당히 유사하다.)



2024년 3월 젠슨 황이 삼성전자의 HBM3E 12단 시제품에 남긴 친필 사인


하지만 TF 내부에서조차 "HBM은 원히트원더(깜짝 인기 가수)"라는 얘기가 나올 정도로 HBM에 대한 '회의론'이 여전했다. 최대 고객 엔비디아의 HBM3E 12단 납품에 대한 연이은 희망고문에 메모리사업부에선 '낙관적' 보고가 삼성전자 최고위 경영진과 이사회에 올라갔다. 당시 삼성전자에 대한 업계의 인식을 반영한 말이 '퀄치기소년'(콘퍼런스콜에서 퀄 테스트 통과에 대한 낙관적 전망을 내놨지만, 계속 실패한 것을 양치기 소년에 빗댄 것)이다.
?1a D램 재설계 강수...HBM3E 엔비디아 납품 성사
반격은 리더십 교체와 함께 본격화했다. 2024년 5월, 약 7년 만에 DS부문에 복귀해 "5년 놀았다", "초식공룡 같다"는 질타를 쏟아낸 전영현 DS부문장(부회장)은 많은 것을 바꿨다. 조직 문화부터 손을 봤다. 거짓 보고를 금지하고 치열한 토론 문화를 복원하기 위해 애썼다.



2024년 11월 NRD-K 설비반입식에서 기념사를 하는 전영현 삼성전자 DS부문장(부회장)


전 부회장 취임 이후로도 HBM3E 12단은 엔비디아 퀄 테스트에서 고배를 마셨다. TSMC가 하GPU와 삼성 HBM을 패키징하는 과정에서 발열이 발목을 잡았다. 코어다이에 10나노 5세대(1b) D램을 쓰는 경쟁사와 달리 삼성전자는 4세대(1a) D램을 쓰는데, 비슷한 성능을 내려니 어찌 보면 당연한 결과다. 전 부회장은 2024년 말 HBM3E 12단용 1a D램 재설계라는 초강수를 둔다. (삼성전자는 범용 1b D램을 HBM용으론 개발하지 않았다.)
2025년 1~2분기 HBM 매출을 포기하고라도 기술력을 정상화해 시장에서 긍정적 평가를 받겠다는 의지가 담겼다. 황상준 당시 메모리사업부 D램개발실장(부사장), 손영수 HBM개발팀장(부사장) 등 HBM 실무 책임 임원은 엔비디아 실리콘밸리 본사를 계속 드나들며 고객사와 합을 맞췄다. 지난해 9월 삼성전자는 HBM3E 12단 개발 약 1년6개월 만에 엔비디아 퀄 테스트를 통과했다.



삼성전자 HBM3E 12단 제품


이 사실은 지난해 9월 20일자 한국경제신문 A10면 '1년 반 만에 '엔비디아 벽' 뚫은 삼성…HBM3E 12단 공급한다' 등의 기사를 통해 반도체업계에 널리 알려졌다. 삼성전자의 HBM 공급망 복귀를 알리는 신호탄이 됐다. 그리고 HBM4에선 '메모리 왕의 귀환'을 예고했다.

≫ HBM 열전 4회에서 계속


설 연휴에 HBM 열전을 한경닷컴의 반도체 전문 플랫폼 '반도체 인사이트'에 연재합니다. HBM1부터 최근 경쟁이 격화하고 있는 HBM4까지 산업의 스토리를 다룹니다. 한경 기사와 취재 내용에 컨설팅그룹 플랫폼9와3/4이 최근 발간한 책 <슈퍼 모멘텀>을 참조했습니다


황정수 기자 hjs@hankyung.com