게티이미지뱅크.



인공지능(AI) 인프라 경쟁의 문법이 바뀌고 있다. 반도체를 ‘얼마나 많이’ 쓰느냐가 아니라 같은 자원으로 더 많은 연산을 ‘얼마나 효율적으로’ 더 중요한 기준으로 떠오르고 있다.구글이 내놓은 ‘터보퀀트(TurboQuant)’가 글로벌 메모리 반도체 시장에 충격을 줬지만, 삼성전자와 SK하이닉스의 시선은 이미 ‘고대역폭메모리(HBM) 이후’를 향하고 있다는 평가가 나온다. 시장 일각에서는 AI 메모리 ‘종말론’까지 고개를 들었지만, 업계 안팎에서는 오히려 이를 단순 용량 경쟁의 한계를 넘어 컴퓨트익스프레스링크 바다이야기디시 (CXL), 프로세싱인메모리(PIM) 등 차세대 메모리늬 기회의 장이 될 수 있다는 분석이 나온다.

27일 반도체 업계에 따르면 구글 리서치는 지난 25일(현지시간) 대형언어모델(LLM)의 메모리 사용량을 최소 6분의 1로 줄이고 연산 속도는 최대 8배 높이는 AI 압축 알고리즘 ‘터보퀀트’ 논문을 공개했다.
검증완료릴게임 핵심은 AI 추론 과정에 활용되는 ‘키-값 캐시(KV 캐시)’ 압축 기술이다. KV 캐시는 AI가 이전 대화와 문맥을 기억하기 위해 사용하는 일종의 임시 저장공간이다. 인터넷 브라우저에 캐시가 쌓이면 속도가 느려지듯, AI 모델이 커지고 이용자가 늘수록 사용량도 기하급수적으로 불어난다.
구글은 이 KV 캐시 데이터를 3비트 수준으 릴게임다운로드 로 압축해 정확도 손실 없이 메모리 병목현상을 해결하는 기술을 내놓았다. 엔비디아 H100 GPU 기준으로 어텐션 연산 속도를 최대 8배 끌어올리는 효과도 확인한 것으로 전해졌다.?
기술 공개 직후 시장은 즉각 반응했다. 지난 26일 삼성전자 주가는 4.71% 하락했고, SK하이닉스는 6.23% 급락 마감했다. 미국 마이크론도 3.4% 하 오션파라다이스예시 락했다. 사이버보안기업 클라우드플레어의 매튜 프린스 최고경영자(CEO)는 자신의 사회관계망서비스(SNS)를 통해 이번 기술을 “구글의 딥시크(DeepSeek) 모멘트”라고 표현했다. 소프트웨어 최적화만으로 메모리 의존도를 낮출 수 있다는 인식이 확산되며, 메모리 반도체 업계에는 AI 메모리 ‘종말론’까지 제기됐다.
한지영 키움증권 연구원은 바다신게임 “터보퀀트 공개 이후 ‘메모리가 덜 필요할 수 있다’는 새로운 내러티브가 형성되며 단기적으로 주가에 부담 요인으로 작용하고 있다”고 분석했다.
과도한 공포?…업계 "HBM 수요는 여전히 견조"
다만 업계에서는 이번 충격이 과도하다는 평가가 우세하다.
터보퀀트는 AI ‘추론 단계’의 효율을 높이는 기술로, 모델 학습 과정에는 직접적인 영향을 미치지 않는다. 또 터보퀀트가 줄이는 것은 GPU 내부의 임시 저장공간인 KV 캐시일 뿐, 서버에 탑재되는 HBM이나 D램 모듈 수요와 직접적인 대체 관계에 있는 것은 아니라는 설명이다. 실제로 삼성전자와 SK하이닉스, 마이크론 모두 2026년 HBM 물량이 사실상 완판된 상태로, 공급 부족 상황은 여전히 이어지고 있다.
또한 실제 현장에서는 이미 저정밀 연산이 상당 부분 적용되고 있어 체감되는 메모리 절감 효과는 이론보다 제한적일 수 있다는 평가다.
구글이 내세운 ‘메모리 6배 절감, 속도 8배 향상’이라는 수치도 32비트(FP32) 무압축 기준 이론상 최댓값이다. 현재 AI 추론 연산의 70~80%는 이미 8비트(FP8) 수준에서 이뤄지고 있어 실제 체감 메모리 절감 효과는 최대 2.6배 수준에 그친다는 분석이 나온다.
아울러 터보퀀트는 현재 공식 오픈소스 코드조차 공개되지 않은 논문 단계로, 상용화까지는 상당한 시간이 필요하다는 지적도 나온다. 구글은 4월 브라질에서 열리는 ‘ICLR 2026 학회’에서 관련 기술을 정식 발표 예정이다.
앤드루 잭슨 오터스어드바이저스 애널리스트는 “현재의 극심한 메모리 공급 제약을 감안하면 터보퀀트가 수요에 미치는 실질적 영향은 미미할 것”이라고 평가했다.
비용 낮아지면 수요 폭발… '제번스의 역설'장기적으로는 오히려 메모리 시장을 키울 것이라는 시각도 적지 않다. AI 구동 비용이 획기적으로 낮아질수록 중소기업과 스타트업은 물론, 스마트폰 등 온디바이스 환경으로 AI가 빠르게 확산되고, 결과적으로 전체 메모리 수요가 늘어날 수 있다는 시나리오다.
모건스탠리는 “AI 운영 비용이 6분의 1 수준으로 낮아지면 그간 도입을 망설이던 기업들이 AI 생태계로 유입될 것”이라며 “이는 메모리 수요의 파이를 줄이는 게 아니라 시장 전체를 키우는 촉매제가 될 것”이라고 진단했다. 자원의 효율이 높아질수록 해당 자원의 전체 소비량이 오히려 늘어나는 ‘제번스의 역설’이 반도체 시장에서도 재현될 수 있다는 논리다.
업계에서는 이를 단순한 수요 감소가 아니라 AI 인프라 구조 전환의 신호로 해석한다. 소프트웨어 측면에서는 모델 경량화와 양자화 기술이 빠르게 확산하고, 인프라 측면에서는 CXL을 통한 메모리 공유 구조와 PIM 기술이 더해지면서 AI 컴퓨팅 구조 자체가 바뀌고 있다는 것이다.
삼성·SK하이닉스, 이미 '다음 판' 깔았다
삼성전자와 SK닉스도 이미 HBM 이후를 준비해왔다. 현재 데이터센터는 서버마다 메모리가 독립적으로 작동하는 구조 탓에 전체 메모리의 평균 23%만 실제로 활용된다. CXL은 여러 서버가 메모리를 실시간으로 공유하고 풀링(pooling)할 수 있도록 해 이런 구조적 낭비를 근본적으로 줄이는 기술이다.
삼성전자는 최대 1TB 용량에 초당 72GB 대역폭을 갖춘 CXL 모듈 ‘CMM-D 3.1’ 개발을 완료하고, 핵심 고객사 대상 샘플 공급을 앞두고 있다. D램·파운드리·패키징을 한 몸으로 묶는 수직 통합(IDM) 전략을 바탕으로 설계부터 양산까지 내재화해 데이터센터 구조 전환 수요를 직접 공략한다는 방침이다.
SK하이닉스는 글로벌 빅테크·GPU 기업과의 협업을 기반으로 한 ‘오픈 생태계’ 전략을 강화하고 있다. 네이버와 양해각서(MOU)를 체결하고 대규모 데이터센터에 CXL을 적용하는 기술 검증(PoC) 프로젝트에 착수한 데 이어, PIM 기반 차세대 메모리 ‘GDDR6-AiM’도 개발을 마쳤다. PIM은 연산을 메모리 칩 내부에서 직접 처리하는 방식이다. 터보퀀트가 소프트웨어로 데이터 이동을 줄이는 접근이라면, PIM은 하드웨어 차원에서 이동 자체를 없애는 접근이다. GDDR6-AiM은 AI 연산 속도를 최대 16배 높이면서 에너지 소모는 80%까지 낮추는 것으로 알려졌다.

시장 전망도 이런 흐름을 뒷받침한다. 시장조사업체 욜 인텔리전스는 글로벌 CXL 시장이 2028년 약 150억달러(한화 약 22조원) 규모로 성장할 것으로 내다봤다.






이혜민 기자 hyem@kukinews.com