전 구글 윤리담당 최고책임자 크리스탄 해리스 "통제 불능의 딥페이크 문제, 사기, 사이버 공격…'미친 미래 원치 않는다' 선언해야"
[미디어오늘 정민경 기자]



▲



“AI가 우리를 유토피아(천국)로 이끌 것이라고 기대하는 데 딱 맞는 말이 있다. 바로 미쳤다는 말이다. 특히 소셜 미디어에서 벌어진 일들을 고려했을 때, 우리는 이 기술을 더 신중하고 사려 깊게 도입해야 한다. 우리는 왜 이렇게 말도 안 되는 미친 짓을 하고 있는 손오공릴게임 걸까?” (Why are we doing something so crazy and so insane?)

넷플릭스 다큐멘터리 '소셜 딜레마'(The Social Dilemma, 2022)의 주인공으로 주목받은 전 구글 윤리담당 최고책임자인 트리스탄 해리스(Tristan Harris)가 20일 오마이뉴스가 주최한 'AI 백경릴게임 권력의 시대: 인간다움과 민주주의의 미래'의 기조연설에서 한 말이다. 트리스탄 해리스는 다큐멘터리 '소셜 딜레마'에서 빅테크에서 SNS 알고리즘을 설계할 때 사람들에게 더 오래 중독시키기 위한 연구를 하고, 이것이 어떻게 현대인들의 정신건강을 해치는 지 내부 고발을 해 주목을 받았다. 트리스탄 해리스는 현재 '인간 중심 기술 센터'의 공동 창립자이자 대표로 바다이야기예시야마토게임 활동하고 있다.[관련 기사: 소셜미디어는 인간을 어떻게 망치는가]



▲20일 서울 대한상공회의소 국제회의장에서 열린 오마이뉴스 주최의 'AI 권력의 시대, 인간다움과 민주주의의 미래' 포럼에서 트리스탄 해리스가 기조연설을 하고 있다. 사진=정민경 기자.
사이다릴게임


트리스탄 해리스는 이날 '누구를 위한 AI인가'라는 주제의 기조연설을 통해 “우선 2013년 이야기부터 하겠다. 소셜미디어의 '인센티브'는 사람들의 시청률과 참여도를 극대화하는 것이다. 저는 당시에도 이것이 중독, 무한 스크롤링, 짧은 집중력, 고립감, 양극화로 이어질 것이라 경고했다”며 “그러나 야마토통기계 많은 이들이 '신기술에 대한 도덕적 공포, 반사적 공포일뿐이야'라고 말했다. 하지만 실제로 일어난 일을 돌아보면 우리 모두가 그 가능성 높은 결과를 미리 생각했더라면 좋았을 것이라 생각한다”고 말했다.

해리스는 “AI는 다른 모든 기술들과 다르며, 다른 모든 기술의 힘을 합친 것보다도 훨씬 강력하다. AI는 지난 100년 간 이뤄온 과학 진보 등을 10년 안에 이룰 것이라 예측된다”며 “물론 'AI 유토피아'를 기대하는 사람들이 말하는 것처럼 우리는 그 혜택을 누리고 있기도 하다. AI를 이용해 60년 만에 신종 항생제를 발견하고 수학이나 과학적 미해결 문제들이 풀리고 있다”고 전했다.
그는 “그러나 통제 불능의 딥페이크 문제, 사기, 사이버 공격 역시 마주하고 있다. 나아가 소수의 행위자들만 AI 기술을 통제할 수 있기에 'AI 디스토피아'가 예측되기도 한다”며 “이미 AI 기업에서 제품 홍보와 시장 지배력 확보에 안전이 뒷전으로 밀려났다는 내부 고발이 줄줄이 나오고 있다. 제품의 안전보다 '인센티브'가 우선시되고 있는 상황은 이미 왔다”고 밝혔다.

“'미친 미래 원치 않는다' 선언해야…인류는 기술 개발의 어두운 면 규제해와”


트리스탄 해리스는 “'AI 유토피아'로 갈 것이라 기대하는 사람들에게 딱 맞는 말이 있다. 바로 미친짓이라는 말”이라며 “이미 소셜미디어에서 벌어진 일을 고려할 때 우리는 더 신중하게 기술을 도입해야한다”고 했다. 그는 “그런데 우리는 왜 이 미친 짓을 하고 있느냐. '우리는 이 기술을 피할 수 없다. 운명이며 반드시 일어날 일'이라고 믿기 때문이다. 이걸 정말 우리가 피할 수 없느냐. 인간적 가치와 인간의 통제를 중심에 둔 미래를 원한다면 그걸 원하는 이들이 '미친 미래를 원하지 않는다'고 선언해야 한다”고 밝혔다.

해리스는 “우리는 다른 선택을 할 수 있다. 우리는 함께 다른 길을 찾겠다는 의지를 확고히 해야 한다”며 “1946년으로 되돌아가 보자. 150개국이 핵무기를 보유하는 건 피할 수 없는 길이고 핵 재앙에 직면할 것이라는 예측이 있었으나 실제로는 그렇지 않았다. 인간은 핵실험 금지 조항과 핵보유 금지 협약 등을 통해 지금까지 핵 재앙이 일어나지 않는 세상을 만들어왔다”고 밝혔다. 그는 “또한 생식 세포 편집 등에 대해서도 인간들은 합의를 했다. 인간이 보호해야하고 보호하고 싶은 신성한 무언가가 있다는 걸 깨달았기 때문”이라며 인간들이 세계 협약을 통해 기술을 통제해온 사례를 열거했다.
그는 “본질적으로 AI시대는 인류가 직면한 궁금적인 시험이자 도달할 수 있는 가장 현명하고 성숙한 모습으로 존재하기 위한 위대한 초대”라며 “우리 미래를 선택하기 위한 글로벌 조정(규제) 장치를 개발해 나갈 수 있다. 저는 더 인간적이고 인본주의적이며 민주적인 미래가 가능하다고 믿는다”고 밝혔다.



▲20일 서울 대한상공회의소 국제회의장에서 열린 오마이뉴스 주최의 'AI 권력의 시대, 인간다움과 민주주의의 미래' 포럼에서 김민석 국무총리와 트리스탄 해리스가 특별대담을 하고 있다. 사진=정민경 기자.



이날 포럼에서는 김민석 국무총리와 트리스탄 해리스의 대담도 이어졌다. 김민석 총리는 AI 시대 마주하고 있는 위험에 대해 구체적으로 물었다. 해리스는 “AI 발전이 기업간의 경쟁, AI 프로그램을 빠르게 출시하려는 국가간의 경쟁이 있다는 것을 의식해야 하고, 이러한 경쟁은 더 나은 미래를 제공하기 위함이 아니라 이윤을 창출하기 위한다는 논리”의 위험성을 지적했다.

이어 “한국에서도 민주주의를 강화시키기 위해 기업들은 어떤 노력을 하고 있는지, AI 진흥을 위해 힘쓰는 기업들이 디지털 웰빙이나 정신 건강을 챙기는 기업으로 부상할 수 있는지 보아야 한다”고 말했다. 그는 “현재 호주나 덴마크에서는 학교에서의 SNS를 금지했다. 한국도 이같은 논의가 이뤄지고 있다고 알고 있는데 기술 자체를 반대하자는 게 아니라 기술이 만들어내는 악영향을 막아내자는 것”이라 밝혔다.