김병필 KAIST 기술경영학부 교수


AI에 ‘알아서 돈을 벌어오라’고 시키면 무슨 일이 벌어질까. 한 AI는 뜻밖의 방법을 택했다. ‘AI로 돈 버는 법’ 강좌를 만들더니 유료로 판매하기 시작한 것이다. 그러자 누군가 강좌 웹사이트에 접속해 구매했다. 그런데 놀랍게도 구매자가 모두 AI였다. 다섯 개의 AI가 실제 결제까지 했다고 한다. 판매된 것이 제대로 된 강좌였을 리 없다. 결국 AI가 다른 AI를 상대로 사기를 친 셈이 되었다.
■
「 ‘투자 AI’ 큰 수익 기대는 성급 막상 써보면 기술 한계 느 오션릴게임 껴져 막연한 기대나 공포 품기보다 작은 일부터 맡겨 결과 살펴야 」



김지윤 기자


최근 공개된 ‘오픈클로(Open Claw)’ 프로그램으로 벌어진 일이라 한다. PC에 설치하면 AI가 키보드와 마우스 제어권을 온라인릴게임 통째로 넘겨받는다. 사람이 컴퓨터로 할 수 있는 일이라면 대부분 AI가 대신 수행할 수 있다. 카드 결제 권한을 부여하면 구매까지 대신한다. 이용자가 메신저로 지시만 하면, 결과가 돌아온다.
오픈클로를 쓰면 부하 직원 한 명을 둔 기분이다. 자료를 모아 보고서를 쓰고, 파워포인트 발표 자료를 만들어 온다. 심지어 음성 생성 앱으로 직접 릴게임 전화를 걸어 업무를 처리한 사례도 있다. 영화 속 아이언맨이 쓰던 ‘자비스’ 비서가 현실로 나타나는 것만 같다.
이러한 AI들은 자기들만의 ‘사회’를 만들기까지 한다. 한 엔지니어는 ‘몰트북’이라는 토론 게시판을 만들어 AI만 글을 쓸 수 있도록 했다. 그러자 100만 개가 넘은 AI 계정이 만들어졌다. AI들은 각자 ‘오늘 한 일’을 바다이야기예시 일기처럼 나누며 열띤 토론을 벌였다. 인간이 배제된 AI들끼리만의 커뮤니티는 아무런 문제 없이 굴러갔다. 인류 없이 AI가 장악한 미래 사회를 엿보는 기분이다.
이러한 소식을 들으면 조만간 대부분의 사무직 근로자가 대체될 것처럼 느껴진다. 사무직 업무는 결국 하루 종일 컴퓨터 앞에 앉아 있는 일이 아니던가. 거기서 한발 더 나아가 AI가 바다이야기꽁머니 인간을 뛰어넘는 ‘수퍼 인텔리전스’가 되어 세상을 차지할지도 모른다는 상상도 떠오른다.
하지만 이런 경이로운 기술에 대한 뉴스의 이면에는 다른 현실이 숨어 있는 경우도 많다. 오픈클로는 단순한 지시도 제대로 이해하지 못한 채 한참을 헤맬 때도 많다. 언제 실수를 저지를지 모르니, 안심하고 일을 맡길 단계는 아니다. AI가 터무니없는 행동을 보인 사례도 보고되고 있다. 이용자의 승인 없이 고가의 온라인 강좌를 멋대로 결제해 버린다거나, 계좌 관리를 맡겼더니 24시간 거래를 해서 투자금을 모두 날려버렸다는 식이다.
보안 위협도 크다. 오픈클로에 파일 관리를 지시했다가는 컴퓨터에 저장된 모든 자료가 삭제될 수도 있다. AI가 악성 프로그램을 내려받아 설치할 수도 있다. 개인정보나 기밀 자료가 외부로 유출될 위험도 크다. 내 PC가 다른 시스템을 공격하는 ‘좀비 PC’가 될 수도 있다. 그래서 지금 당장 AI에 컴퓨터 제어권을 통째로 넘기는 것은 시기상조다. AI를 더 세밀하게 통제할 기술과 보안 위협을 막을 장치가 먼저 마련되어야 한다.
지난 몇 년간 오픈클로와 같이 우리의 기대와 공포를 함께 자극하는 새로운 소식이 끊기지 않고 들려오고 있다. 하지만 독자의 흥미를 끌기 위해 과장된 경우도 적지 않다. 그러한 AI들을 막상 써 보면 기대감과 두려움이 금세 옅어지기도 한다. 아직 기술 한계가 적지 않기 때문이다. 오히려 경계해야 할 것은 AI 기술을 써 보지도 않은 채 품는 막연한 기대와 공포가 아닐까. 그리고 이에 대한 현명한 대응은 직접 써 보고, 무엇이 유용한지, 무엇이 과장인지 가늠해 보는 일이다.
지금 우리는 AI 도입의 중요한 갈림길에 서 있다. 기업은 AI에 얼마나 투자할지, 어떻게 도입할 것인지 결정해야 한다. 공공기관이나 학교도 활용 범위를 정해야 한다. 지금 내리는 결정이 앞으로의 AI 도입 방향을 크게 좌우할 수 있다. 그럴수록 현실에 근거한 판단이 더욱 중요해진다. AI를 써 보지도 않고 언제 어떻게 활용할 것인지 정할 수는 없다. 평생 버스를 한 번도 타보지 않은 사람이 버스 노선을 정하는 것과 마찬가지다. 우리 모두 AI에 작은 일부터 맡겨보고 결과를 평가해 볼 필요가 있다. 써 본 만큼 판단은 정확해진다. 사실에 근거해 옳은 답을 구하는 실사구시의 자세가 그 어느 때보다 중요하다.
김병필 KAIST 기술경영학부 교수