편집자주
AI, 반도체, 통신, 바이오에 이르기까지 우리 생활에 꼭 필요하지만 너무나 생소한 기술 이야기를 쉽게 풀어 전해 드립니다.



지난 16일(현지시간) 미국 산호세에서 열린 엔비디아 GTC(GPU 테크놀로지 콘퍼런스)에서 주목받은 건 다름 아닌 중앙처리장치(CPU)였습니다. 엔비디아의 차세대 CPU '베라'는 단순한 AI 컴퓨터 부속품이 아니라, 독립적인 단일 제품으로 판매될 예정입니다. GPU 설계사 엔비디아가 CPU 사업에 뛰어든 배경은 무엇일까요.

엔비디아 릴게임꽁머니 최초의 단독 CPU, 베라



엔비디아의 베라 중앙처리장치(CPU). 엔비디아


이번에 공개된 베라 CPU는 엔비디아가 직접 설계한 올림퍼스 코어 88개를 탑재한 프로세서입니다. 해당 코어는 엔비디아와 깊은 협력 관계를 바다신2 다운로드 맺고 있는 ARM 홀딩스의 ARM v9.2 설계를 골자로 합니다.
엔비디아는 과거에도 ARM 기반 CPU를 설계해 왔지만, 베라부터는 단일 제품으로도 제공합니다. 젠슨 황 최고경영자(CEO)는 "베라에 대한 시장의 관심이 상당하기 때문에 우리는 (이 제품을) 별도로 판매한다"며 "우리가 CPU를 단독 판매하게 될 줄은 몰랐다. 하지만 C 오션파라다이스사이트 PU 시장에서 곧 수십억달러 규모의 매출을 거둘 것으로 예상한다"고 전망했지요.
그동안 AI 데이터센터에서 CPU는 부속품에 가까웠습니다. 그래픽처리장치(GPU), 메모리가 AI 훈련 작업을 수행하는 동안 다양한 '잡무'를 하는 쪽에 가까웠지요. GPU, 메모리 가격이 폭등하는 동안 CPU는 상대적으로 소외된 이유이기도 합니다.
바다이야기예시그러나 국면이 서서히 전환하고 있습니다. 이미 지난해부터 AI 대기업들은 CPU를 다음 AI 병목으로 지목한 바 있습니다. 샘 알트먼 오픈AI CEO는 지난해 중순 참석한 AMD 행사에서 "엄청난 CPU가 필요하다"고 강조했습니다.
'암달의 법칙'…아무리 GPU 개선해도 컴퓨터 성능은 CPU에 달려

릴게임바다이야기

AI 데이터센터는 천문학적인 연산 코어를 지휘할 강력한 성능의 CPU가 필요하다. 연합뉴스


현재 하이퍼스케일러 AI 데이터센터는 한 번에 수만개 넘는 GPU를 조율합니다. GPU 안에는 수만개 넘는 코어가 배열됐으니, 천문학적인 연산 장치가 돌아가고 있는 셈입니다. 여기서 새로운 병목이 야기됩니다. 일부 GPU 코어가 AI 연산 작업을 마친 뒤 다음 작업을 수행할 때까지 '놀고 있는' 상황이 발생하는 겁니다. 아무리 병렬 작업 능률을 늘려도 전체 컴퓨터 시스템 내부에는 반드시 순차적으로 수행해야 하는 작업이 있기에 발생하는 병목으로, 컴퓨터 과학에선 '암달의 법칙'으로 알려져 있습니다.
즉 GPU가 아까운 연산 능력을 허비하지 않고 쉴새 없이 가동하게 하려면, 수백만개 넘는 코어에 순서대로 작업을 지시할 중앙 지휘자가 필요합니다. CPU만 할 수 있는 일이지요. 메모리에 담은 데이터를 GPU에 공급하고, GPU가 너무 오래 입력 대기 상태에 머물러 있지 않도록 촘촘히 일정을 조율하는 작업을 '스케줄링'이라고 합니다. 앞으로 AI 데이터센터의 성능은 CPU의 스케줄링과 지휘 작업에 달려 있습니다.
인텔, AMD, ARM 등 CPU 각축전 준비



인텔 반도체 공장 표지판. 로이터 연합뉴스


CPU의 또 다른 장점은 '만능'이라는 겁니다. GPU는 AI 훈련·추론 작업만 수행하는 가속기이지만, CPU는 기본적으로 모든 업무를 어느 정도 할 수 있습니다. 즉 훈련 완료된 AI를 대량으로 배포하는 추론 작업용 엔진으로도 사용할 수 있다는 뜻이지요.
이 때문에 엔비디아는 베라 CPU를 단독 판매할 예정입니다. 새 제품은 '베라 CPU 랙(Rack)'이라고 불리며, 256개의 베라 CPU를 집적한 대규모 하드웨어 형태로 제공됩니다. 베라 CPU 랙은 한 번에 수많은 AI 에이전트를 구동할 수 있는 'AI 공장'으로 활약합니다.
CPU 병목의 해결사로 나선 건 엔비디아뿐만이 아닙니다. 전통 CPU 강자인 인텔은 올해 GTC에 처음으로 참가했습니다. 자사 서버 CPU 제온 6 프로세서를 루빈 AI 서버 호스트 CPU로 채택했습니다. 한편 AMD는 자사 블로그에 차세대 에픽 CPU 개발 소식을 알리며 응수했습니다. 엔비디아에 CPU 핵심 설계 기술을 지원하는 ARM 홀딩스는 구글, 마이크로소프트, 아마존 등 빅테크들과의 협력을 통해 ARM CPU 생태계를 확장하고 있습니다.
임주형 기자 skepped@asiae.co.kr