지포스 기념 행사 참석한 젠슨 황-이재용-정의선 (서울=연합뉴스) 이진욱 기자 = 젠슨 황 엔비디아 최고경영자와 이재용 삼성전자 회장, 정의선 현대차그룹 회장이 30일 서울 코엑스에서 열린 엔비디아의 그래픽카드(GPU) '지포스' 출시 25주년 행사에 참석해 있다. 2025.10.30 [공동취재] cityboy@yna.co.kr


(서울=연합뉴스) 조성미 기자 = 챗GPT 등장에 전 세계의 시선이 집중됐던 2023년 초 국내 인공지능(AI) 산업계·연구계에서는 한숨이 흘러나왔다.
초거대 AI를 개발하려고 해도 그래픽처리장치(GP 바다이야기프로그램 U)로 대표되는 컴퓨팅 자원이 턱없이 부족한 상황이었기 때문이다.
정부는 부랴부랴 GPU 확보에 나섰다.
프랑스 정부가 2018년부터 25억 유로(한화 약 4조1천억 원)를 AI 개발 인프라에 쏟아부으며 미스트랄AI라는 유럽 대표 AI 모델의 싹을 틔운 것과 비교하면 한참 늦은 각성이었다.
하지만 ' 바다이야기디시 속전속결'이 강점인 나라답게 AI 연산의 핵심 자원인 엔비디아 칩 확보에 팔을 걷어붙였다.
GPU 확보 후발국에서 세계 3대 보유국 지위로
지난해 10월 말 경주 아시아태평양경제협의체(APEC)에서 젠슨 황 엔비디아 최고경영자(CEO)가 우리나라에 최첨단 그래픽처리장치(GPU) 26만장을 공급하겠다고 발표하면서 단숨에 사이다릴게임 'GPU 빈국'에서 '부국'으로 지위가 상승했다.
하정우 대통령실 AI미래기획수석은 당시 엔비디아 GPU 공급에 대한 브리핑에서 "확보량 기준으로 우리나라가 세계 3위가 된다는 의미"라고 강조했다.
기존 보유량인 약 6만5천 장 GPU에 엔비디아로부터 추가로 구매할 26만 장을 더하면 총 32만 장 이상의 GPU가 국내에 오리지널골드몽 도입되는데, 전 세계 GPU 클러스터 역량의 75%, 15%를 각각 보유하며 '넘사벽'의 위치인 미국과 중국에 이어 한국이 세 번째 반열에 오른다는 이야기였다.



이재명 대통령, 젠슨 황 접견 (경주=연합뉴스) 김도훈 기자 = 이재명 대통령이 31일 APEC 정상회의장인 우주전함야마토게임 경주화백컨벤션센터에서 젠슨 황 엔비디아 최고경영자를 접견하고 있다. 2025.10.31 superdoo82@yna.co.kr


엔비디아 GPU 공급 약속 분량 26만장 중 삼성전자·현대차·SKT 각각 5만장을, 네이버는 6만장 확보 계획을 세우고 있으며 정부 확보량은 5만장 수준이다.
데이터센터 업계에서는 삼성, 현대차, SKT, 네이버 등 기업이 각자 확보한 엔비디아 첨단 칩을 기존 자체 데이터센터·스마트 공장 등에 이식해 AI 연산 능력을 획기적으로 높일 것으로 보고 있다.
또, 반도체 설계·공정·수율 관리 전반의 AI 도입, 디지털 트윈 기반의 지능형 제조 공정, 자율주행·로보틱스 기술 등을 뒷받침할 별도의 데이터센터를 설립할 것으로도 전망하고 있다.
데이터센터협회 관계자는 "엔비디아 GPU 공급 대상인 SK그룹(울산), 삼성(해남), 네이버(세종) 등이 모두 비수도권에 대규모 데이터센터의 신축 및 증축을 계획하고 있어 추가 전력 공급에 큰 문제가 발생하지는 않을 것으로 보인다"고 진단했다.
그는 "다만, 수도권 인근에 데이터센터를 구축해 주요 서비스와 연계할 필요가 새로 부각될 수 있어 현재의 제한적인 수도권 인근 전력 공급 구조에 대한 고민이 필요하다"고 했다.
정부 확보 몫 5만2천장…언제 들어와 어떻게 쓰일까
인공지능 전환(AX)을 위한 비전과 자본력, 특화(도메인) 데이터를 갖춘 대기업이 새로 확보한 컴퓨팅 자원을 어떻게 성과로 연결할지는 큰 문제가 안 될 것이라는 게 AI 업계의 관측이다.
관건은 공공 AX를 끌어낼 정부 측과 컴퓨팅 자원 여력이 부족한 스타트업, 학계에 제공될 국가 확보 몫 GPU 5만2천장의 성공적인 활용 여부에 달렸다고 해도 과언이 아니다.
우리나라는 김대중 정부 시절 시작된 전자정부 도입으로 유엔(UN) 2024년 평가에서 종합 4위를 기록하고 온라인 공공 서비스 분야에서 세계 1위를 차지하는 등 공공 디지털화 수준이 높게 유지되고 있지만, 지난해 9월 국가정보자원관리원 화재에서 여실히 드러났듯 아직 클라우드 및 AI 전환에서는 갈 길이 먼 형편이다.
피지컬 AI·의료 및 헬스케어 AI·AI 네트워크 인프라, 제조, 보안, 법률 등 특화 AI 분야에서 미·중 빅테크의 공세에도 아직 틈새시장을 노리고 있는 AI 스타트업에 대한 컴퓨팅 자원 지원 역시 시급한 과제로 꼽힌다.
스타트업·기업이 활용할 AI 기술의 씨앗을 심는 학계도 GPU 기근에서 아직 벗어나지 못하는 형편이다.



GPU 워킹그룹 발족식 (서울=연합뉴스) 류제명 과학기술정보통신부 제2차관이 27일 서울 종로구 S타워 버텍스홀에서 열린 'GPU 워킹그룹 발족식'에서 참석자들과 기념 촬영하고 있다. 앞줄 왼쪽부터 유경상 SK텔레콤 AI CIC장, 김유원 네이버클라우드 대표, 류제명 제2차관, 정소영 엔비디아코리아 대표, 진은숙 현대자동차 부사장, 이호준 삼성SDS 부사장. 2025.11.27 [과학기술정보통신부 제공. 재판매 및 DB 금지] photo@yna.co.kr


엔비디아 칩 정부 확보분 5만2천 장 중 지난해 추가경정예산 1조4천600억원 편성으로 1만3천장 구매가 이뤄졌고 한국과학기술정보연구원(KISTI)이 세계 10위권 성능 수준으로 구축하고 있는 슈퍼컴 6호기에는 올해 상반기 9천장이 투입된다.
과학기술정보통신부는 슈퍼컴 지원분 중 우주·핵융합 등 거대 계산 과학 분야에 70%, 과학기술과 AI 접목 프로젝트에 30%를 배분하기로 했다.
추경 확보분 가운데 정부가 1만장(B200 8천장, H200 2천장)을 올해부터 2030년까지 공공 AX와 학계·스타트업, 독자 AI 파운데이션 모델 프로젝트 참여 팀 지원에 투입할 계획이다.
여기에 올해 예산 2조800억원을 들여 1만5천장을 사들이며 2028년 문을 여는 국가AI컴퓨팅센터에도 1만5천장을 추가 확보하면, 정부 몫 5만2천장 도입이 완료된다.
'모두의 AI' 기조를 바탕으로 AI 국세 정보 상담사, 모두의 경찰관, AI 인허가 도우미, 인체 적용 제품 AI 안전 지킴이 등 국민 생활과 연결되는 공공 AI 서비스를 개발하는 공공 프로젝트에도 엔비디아 첨단 GPU가 쓰이게 된다.
학계·공공 수요 2만장…"부족하진 않다, 문제는 디테일"
정부는 478개 기업·기관을 대상으로 첨단 GPU 수요를 조사한 결과 약 2만장이 필요한 것으로 집계한 바 있다. 수요보다 확보 분이 2배 이상 많은 상황이 됐다.
국가AI위원회 인재·인프라 분과위원을 맡았던 김두현 건국대 인공지능학과 교수는 "GPU 양만 놓고 보면 충분하다고 본다. 다만 GPU뿐 아니라 전기료와 같은 운영비, 설비 비용 등에 대한 고려도 함께 수반돼야 컴퓨팅 자원이 놀지 않게 될 것"이라고 조언했다.
그는 충분한 GPU 시설을 갖춘 대학이 거의 없어 작은 AI 모델을 학습시킬 때도 사나흘씩 걸렸던 최근까지의 상황을 지적하며 GPUaaS(서비스형 GPU) 형태 등으로 연구 및 공공 기관에 충분한 컴퓨팅 자원을 지원하기 위한 촘촘한 계획을 짤 것을 주문했다.



엔비디아 [연합뉴스 자료사진]


이원준 가천대 '가천AI·컴퓨팅연구원'(GAIC) 원장은 "같은 GPU 1장이라고 해도 블랙웰과 그 이하 모델의 수준은 완전히 다른데 정부 확보 몫이 어떻게 구성돼있는지 구체적인 정보는 부족한 편"이라며 보다 투명하고 세밀한 정보 공유의 필요성을 강조했다.
그는 "또, GPU만 준다고 학부생, 외국인 연구 인력으로 탁월한 AI 연구가 이뤄질지 회의적"이라며 "AI 인프라 지원책이 지방 분산 등의 정치적 구호에 빠질 것이 아니라 현실적인 상황을 고려해 매우 치밀하게 설계돼야 한다"고 지적했다.
csm@yna.co.kr
▶제보는 카톡 okjebo