인공지능(AI) 발전은 우리에게 많은 혜택을 안겨주지만 그와 동시에 내가 보는 영상이 진짜인지 확신할 수 없는 세상, ‘불신의 시대’도 같이 열리고 있다. 중국의 화웨이가 2025년 3월2일 스페인 바르셀로나에서 열린 ‘모바일 월드 콩그레스’(MWC)에서 딥페이크 탐지 기술을 선보이고 있다. REUTERS


▶이코노미 인사이트 구독하기http://www.economyinsight.co.kr/com/com-spk4.html
2024년 2월, 홍콩의 한 다국적기업 직원은 화상회의에서 최고재무책임자(CFO)의 지시로 2억홍콩달러(약 3 야마토게임장 40억원)라는 거액을 송금했다. 문제는 그 회의에 참석한 CFO를 포함한 모든 임원이 딥페이크였다는 것이다. 음성, 표정, 말투까지 완벽히 재현된 가짜 임원들 앞에서 그 직원은 아무런 의심도 하지 않았다.
이는 실제 일어난 일로 영화 속 이야기가 아니다. 한 글로벌 인증 플랫폼의 2024년 보고서에 따르면, 2023년 한 해 동안 전세계 모바일바다이야기하는법 적으로 딥페이크를 이용한 신원 사기 시도가 전년보다 245% 급증했다. 특히 아시아·태평양 지역에서 그 증가율이 450%였다. 딥페이크 기술의 악용은 단순히 금융사기에 그치지 않는다. 정치적 선동, 명예훼손, 성범죄까지 사회 전반에 걸쳐 확산되고 있다.
눈부신 인공지능(AI)의 발전은 우리에게 많은 은혜를 내려준다. 이와 동시에 내가 보는 바다이야기게임기 영상이 진짜인지, 읽는 글이 사람이 썼는지, 듣는 목소리가 본인의 것인지 확신할 수 없는 세상, ‘불신의 시대’도 같이 열리고 있다.
신뢰의 대붕괴
딥페이크 기술의 진화 속도는 우리의 대응 능력을 훨씬 앞지르고 있다. 최신 딥페이크는 너무 정교해져, 영국 유니버시티칼리지런던(UCL)의 2023년 연구에 따르면 사람들은 백경게임 딥페이크 오디오를 30%도 채 식별하지 못했다. 비디오의 식별률은 이보다 더 떨어지고 있다. 기술의 발전과 함께 식별 난도는 지속적으로 상승하는 추세다.
한국의 상황은 더욱 심각하다. 방송미디어통신심의위원회가 받은 딥페이크 성적 허위 영상물에 대한 시정 요구는 2020년 473건에서 2023년 7187건으로 3년 만에 15배 급증했다. 초 릴게임꽁머니 기에는 주로 연예인이 표적이었다면 이제는 직장 동료, 학교 친구 등 일반인을 대상으로 한 범죄가 급증하고 있다. 더 우려스러운 점은, 제작 기술의 진입장벽이 급격히 낮아진다는 사실이다. 이제는 고도의 기술 없이도 몇 번의 클릭만으로 그럴듯한 딥페이크를 만들 수 있는 시대가 됐다.
최근 유튜브 등에서 흔히 볼 수 있는 이른바 ‘가짜 전문가’의 범람도 심각한 문제다. 의료·법률·금융 등 전문 지식이 요구되는 분야에서 실존하지 않는 AI 생성 전문가들이 등장하고 있다. 이들은 그럴듯한 이력과 얼굴을 갖췄고, 때로는 실제 전문가보다 더 설득력 있게 보이기도 한다. 소비자는 더 이상 전문가의 말을 맹목적으로 믿을 수 없는 상황에 직면했다.
이러한 불신의 시대에 가장 먼저 타격을 입는 건 지금까지 열심히 활동해오던 창작자들이다. 창작자들은 자신이 힘들게 작업한 결과물이 AI 학습의 데이터로 활용되는 것을 넘어 이제는 자신의 정체성을 도용당하는 이중 피해를 보고 있다.
화풍이나 문체, 멜로디를 흉내 낸 AI 결과물이 등장하는 것은 물론, 유명 유튜버나 인플루언서의 경우 그들의 얼굴과 목소리를 복제한 가짜 계정이 사기나 불법 광고를 일삼는 사례가 급증하고 있다. 창작자 본인의 평판이 훼손되고 법적 책임까지 우려해야 하는 상황이다. 이는 개인 창작자의 브랜드 가치를 근본적으로 위협하는 요소로 작용한다. 이런 문제를 막기 위해 각계의 노력이 계속되고 있지만 지금 단계에선 검증의 한계만 보일 뿐이다.
유튜브는 2025년 7월부터 AI로 대량 생성되거나 반복성이 높은 콘텐츠에 대한 수익 창출을 제한하는 정책을 시행했다. 이른바 ‘AI 슬롭’이라는 저품질 자동 생성 콘텐츠에 대한 전면 단속이다. 유튜브는 이 조치에서 실제 사람의 목소리가 담긴 원본 콘텐츠만 수익화 대상이 된다고 명시하며 AI로만 제작된 영상, 재활용 복제 콘텐츠, 저품질 영상은 광고 수익을 받을 수 없다고 밝혔다.
유튜브는 이 조치를 대량생산되거나 반복적인 콘텐츠를 더 정밀하게 식별하기 위한 업데이트라며 창작자의 개입과 창의성이 뚜렷한 콘텐츠는 여전히 수익화가 가능하다고 설명했다. 실제 유튜브는 AI를 스토리텔링 도구로 활용하는 것은 오히려 권장한다는 태도다. 문제는 독창성과 진정성의 결여다.
이러한 정책에도 허점은 존재한다. 얼굴이 드러나지 않는 채널, 실질적 변형 없이 재사용된 자료에 의존하는 크리에이터가 교묘하게 규정을 우회하는 사례가 여전히 발생하고 있다. 플랫폼의 자동 탐지 시스템은 완벽하지 않고, 악의적 사용자는 항상 새로운 우회 방법을 찾아낸다. 유튜브 내 AI 생성 영상의 비중은 2023년 대비 2025년 2배 이상 늘었고, 전체 영상의 8~12%를 차지한다는 추정도 있다. 플랫폼의 기술적 대응이 콘텐츠 생성 속도를 따라가지 못하는 구조적 한계가 드러나고 있다.
양날의 검에 고통받는 창작자들
다른 플랫폼들도 비슷한 대응에 나서고 있지만 집행의 일관성과 실효성 문제는 여전하다. 틱톡은 AI 생성 콘텐츠에 대한 레이블링(제작물 표기)을 의무화했지만 사용자가 자발적으로 표시하지 않으면 적발이 어렵다. 인스타그램과 메타는 자체 AI 탐지 시스템을 구축했지만 오류 사례가 빈번하다. 결국 플랫폼만의 노력으로는 한계가 있고 창작자와 소비자, 규제 당국이 함께 참여하는 다층적 접근이 필요하다는 인식이 커지고 있다.
어떻게 보면 문제를 방치하는 듯한 업계의 모습에 전문가들은 큰 우려를 표하고 있다. 가장 크게 우려되는 건 사람들의 피로감이다. 정보가 너무 많고 진위를 판별할 방법이 없을 때, 사람들은 아예 판단을 포기한다. 이는 양질의 콘텐츠조차 외면당하는 신뢰 공백 상태를 만든다. 심리학에서는 이를 ‘결정 피로’(Decision Fatigue) 또는 ‘인지 과부하’라고 부른다. 매번 콘텐츠의 진위를 의심하고 검증해야 하는 상황은 소비자에게 엄청난 정신적 부담을 준다.
그 결과 두 가지 극단적 반응이 나타난다. 하나는 무분별한 수용이다. 판단하기 귀찮아진 사람들은 모든 정보를 그대로 받아들이며 가짜뉴스나 허위정보에 쉽게 속는다. 다른 하나는 극단적 회의주의다. 모든 정보를 의심하고 신뢰할 수 있는 정보원조차 배척하는 태도를 보인다. 둘 다 건강한 정보 소비가 아니며, 결국 콘텐츠 생태계 전체가 피해를 보는 상황으로 이어질 수밖에 없다.
AI가 콘텐츠 제작의 효율성을 극대화하고 개인화된 경험을 제공하며 새로운 창작의 지평을 여는 강력한 도구임은 부정할 수 없다. 이 모든 기술적 성취는 신뢰라는 사회적 자본 위에서만 지속될 수 있다.



2025년 5월26일 서울 중구 LG서울역빌딩에서 열린 인공지능(AI) 보안 기술설명회에서 관계자들이 딥페이크 감지 기술을 시연하고 있다. 연합뉴스


다행히 한국 정부는 2025년 11월12일 모든 생성형 AI를 이용한 제품이나 서비스에 해당 내용을 알리는 의무가 담긴 ‘AI 기본법 시행령’을 통해 뒤늦게나마 대응에 나서고 있다. 하지만 기술과 규제를 기다리기만 해서는 안 된다. 업계 스스로의 능동적인 전략이 필요하다.
가장 쉽게 접근하는 방법은 투명성을 경쟁력으로 만드는 것이다. AI 사용을 숨기는 것이 아니라, 어떻게 사용했는지를 명확히 공개하는 것이 신뢰를 구축한다. 이를 위해 다층 검증 시스템을 구축해야 한다. 기술적 워터마크(식별 표시), 창작자 신원 인증, 커뮤니티 검증을 결합한 입체적 접근이 필요하다. 단일 솔루션만으로는 부족하다. 여러 겹의 안전망을 통해 신뢰를 강화해야 한다.
‘미디어 리터러시’(매체 이해력) 교육을 필수화하는 제도 정비 역시 필요하다. 기술적으로 막는 것도 중요하지만 소비자가 스스로 판별할 수 있는 능력을 키워야 한다. 미디어 리터러시는 단순히 가짜를 구별하는 기술만이 아니다. 정보의 출처를 확인하는 습관, 다양한 관점을 비교하는 태도, 감정적 반응보다 이성적 판단을 우선하는 자세 등을 포괄한다. 이는 학교 교육뿐 아니라 기업의 직원 교육, 공공기관의 시민 교육, 플랫폼의 사용자 가이드 등 다양한 경로로 확산돼야 한다.
신뢰를 재구축하는 여정
불신의 시대는 이미 시작됐다. 하지만 역사를 돌아보면, 새 기술이 등장할 때마다 신뢰 위기가 있었고 우리는 그때마다 새로운 신뢰 메커니즘을 만들어냈다. 인쇄술이 등장했을 때 가짜뉴스가 넘쳐났고, 사진 기술이 발명됐을 때 조작 논란이 있었다. 인터넷이 보편화됐을 때도 똑같은 위기를 겪었다.
그때마다 사회는 적응했다. 인쇄술 시대에는 출판사와 편집자라는 중개자가 등장했고, 사진 시대에는 저널리즘 윤리와 검증 프로세스가 확립됐다. 인터넷 시대에는 디지털 서명과 암호화 기술이 발전했다. 각 시대의 기술적 도전에 맞는 사회적, 기술적, 법적 해법이 진화해온 것이다.
이번에도 마찬가지다. AI가 만든 불신의 시대는 동시에 새로운 신뢰 시스템을 구축할 기회다. 핵심은 기술, 정책, 윤리의 삼위일체다. 어느 하나만으로는 부족하다. 기술은 검증 도구를 제공하지만, 기술만으로는 악의적 사용을 막을 수 없다. 정책은 규제 틀을 만들지만, 정책만으로는 빠르게 진화하는 기술을 따라갈 수 없다. 윤리는 행동 규범을 제시하지만, 윤리만으로는 경제적 유인을 극복하기 어렵다. 세 가지가 조화롭게 작동할 때 비로소 지속 가능한 신뢰 생태계가 만들어진다.
불신의 시대를 넘어 새로운 신뢰의 시대로 나아가는 여정은 쉽지 않을 것이다. 하지만 이것이야말로 콘텐츠 산업의 지속가능성을 결정하는 핵심 과제다. 기술 발전이 인간의 신뢰를 파괴하는 것이 아니라 오히려 더욱 견고한 신뢰 시스템을 구축하는 계기가 되게 하는 것, 그것이 우리 시대의 과제다.
문동열 콘텐츠산업 칼럼니스트 rabike0412@gmail.com 기자 admin@no1reelsite.com