일론 머스크 테슬라 최고경영자(CEO)가 개발한 생성형 인공지능(AI) 챗봇 그록 로고. AFP 연합뉴스


성 착취물 딥페이크(인공지능 기반 가짜 이미지·영상·음성) 논란에 휩싸인 '그록(Grok)'이 인도네시아에 이어 말레이시아에서도 퇴출됐다. 그록은 일론 머스크 테슬라 최고경영자(CEO)의 인공지능(AI) 기업 'xAI'가 개발한 챗봇이다.
12일(현지시간) 로이터·AFP통신 등에 따르면 말레이시아 통신멀티미디어위원회(MCMC)는 전날 성명을 내고 자국 내 그록 접속을 일시적으로 제한한다고 밝혔다. MCMC는 이러한 조치가 온라인릴게임 "그록이 여성과 미성년자 관련 콘텐츠를 포함해 음란하고, 성적으로 노골적이며 외설스럽고, 심하게 불쾌감을 주며, 동의 없이 조작된 이미지 생성에 반복적으로 악용된 데 따른 것"이라고 밝혔다.
MCMC는 앞서 이달 초 그록의 딥페이크 우려와 관련해 xAI에 공문을 보내 기술적 보호 조치 등을 요구했지만 xAI 측이 "AI도구의 설계·운영으로 사이다쿨 인해 발생하는 내재적 위험을 해결하지 못하고 주로 사용자 신고 메커니즘에 의존했다"고 지적했다. 이에 따라 "(관련) 입법·규제 절차가 진행되는 동안 합리적인 예방 조치로 이번 일시적 접촉 차단을 시행한다"고 밝혔다. 접속 제한 기한은 "여성·아동 관련 (딥페이크) 콘텐츠를 방지하는 효과적인 안전장치가 마련될 때까지"로 제시했다.
앞서 릴게임하는법 인도네시아 통신디지털부는 지난 10일 딥페이크 콘텐츠와 관련해 세계 최초로 그록 접속 차단 조치를 내렸다. xAI는 인도네시아 정부의 그록 차단 조치와 관련해 사회관계망서비스(SNS) 엑스(X)에 올린 글에서 "불편을 드려 죄송하다. 이번 문제를 해결하기 위해 노력하고 있다"고 밝혔다.
xAI는 최근 X에서 그록을 통해 간편하게 딥페이크 오션파라다이스다운로드 이미지를 생성하는 서비스를 선보였다. 이후 X에 올라온 여성·미성년자 등의 이미지를 이용해 다른 사용자가 동의 없이 비키니 수영복 착용 등 노출이 심한 딥페이크 이미지를 만들어 올리는 사례가 이어지면서 각국의 비난 여론이 커지고 있다.
미국의 일부 상원의원들은 애플과 구글 최고경영자(CEO)에게 서한을 보내 그록과 X 애플리케이션을 앱스토 릴게임몰 어에서 퇴출하라고 요구했고, 영국 정부도 방송미디어 규제 기관 오프콤이 그록과 관련해 X 차단 결정을 내리면 지지하겠다고 밝혔다. 인도 정부 역시 그록에 대한 우려를 나타낸 상태다.


연관기사




? 야한 비키니 합성도 뚝딱… 그록 성착취물 판치는데 손 놓은 정부
(www.hankookilbo.com/News/Read/A2026011114570000905)




? 그록 '성적 사진 합성' 각국 비판에… 머스크, "파시스트" 반발
(www.hankookilbo.com/News/Read/A2026011110370000219)




? 머스크 AI '그록', 1·2세 영유아 사진마저 성적 대상화… 각국 정부?조사 나서
(www.hankookilbo.com/News/Read/A2026010609470001082)




박소영 기자 sosyoung@hankookilbo.com