IT조선은 독자들이 이해하기 어려웠던 보안 용어와 개념을 보다 쉽게 풀어 설명하는 '보안TMI(Too Much Information)' 코너를 새롭게 마련했습니다. 매주 주제를 선정해 개념은 물론 기사에 담지 못했던 배경과 맥락까지 짚어드립니다. 독자들이 보안 관련 뉴스를 보다 명확하게 이해할 수 있도록 돕겠습니다. [편집자 주]

A씨는 아들을 사칭한 전화를 받고 500만원을 송금했다. 급한 일이 생겼다며 울먹이는 목소리가 생생했지만, 알고 보니 인공지능(AI)이 만든 가짜 음성이었다. 이처럼 가족조차 구별하기 어려울 만큼 정교한 딥페이크 범죄가 늘고 있다.?
모바일야마토



딥페이크 기술 이미지. / TTA 용어사전


경찰청 국가수사본부에 따르면 2024년 11월부터 2025년 10월까지 사이버 성범죄 혐의로 검거된 인원은 총 3557명이다. 이 중 딥페이크 범죄가 155 오리지널골드몽 3건으로 전체의 35.2%를 차지했다. 딥페이크 범죄 용의자의 61.8%가 10대였으며, 10대와 20대를 합하면 90% 이상에 달했다.
딥페이크(Deepfake)는 딥러닝(Deep Learning)과 가짜(Fake)의 합성어다. AI 기술을 활용해 사람의 얼굴, 음성, 영상을 합성하거나 조작하는 기술을 의미한다. 핵심에는 생성적 대립 신 바다신릴게임 경망(GAN, Generative Adversarial Network)이?있다. GAN은 가짜 이미지를 만들어내는 생성자와 진짜와 가짜를 구별하는 판별자가 서로 경쟁하며 학습하는 구조다. 생성자는 판별자를 속이기 위해 점점 더 정교한 가짜를 만들고, 판별자는 이를 가려내기 위해 더 정밀도를 높인다. 이 과정이 반복되면서 사람의 눈으로는 구별하기 어려운 수준 신천지릴게임 의 합성물이 만들어진다.
딥페이크 기술은?2014년 이언 굿펠로(Ian Goodfellow)가 학술 논문에서 처음 발표했다. 이후 영화 산업에서는 고인이 된 배우를 되살리거나 특수효과를 구현하는 데 활용됐다. 영화 '스타워즈: 로그 원'에서 캐리 피셔의 얼굴을 합성해 레아 공주를 등장시킨 것이 대표적 사례다. 기술 악용의 문제가 본격화된 바다이야기모바일 것은 2017년이다. 미국 온라인 커뮤니티 레딧에?유명 연예인의 얼굴을 성인물에 합성한 영상이 등장하면서다. 이후 AI 기술이 발전으로 누구나 쉽게 딥페이크 영상을 만들 수 있게 됐고, 기술이 고도화되면서 진짜와 구분하기 어려운 수준까지 발전했다.
딥페이크 범죄는 크게 네 가지 유형으로 나뉜다. 첫째는 불법 성착취물 제작 및 유포다. 피해자의 얼굴을 성인물에 합성한 영상을 제작해 유포하거나 협박 수단으로 사용하는 경우가 가장 많다. 둘째,?금융 사기다. 앞서 소개한 사례처럼 가족의 음성을 복제해 금전을 요구하거나, 기업 임원의 얼굴과 목소리를 위조해 직원을 속여 거액을 송금하게 만드는 수법이 늘고 있다. 셋째,?허위 정보 및 여론 조작이다. 정치인의 연설을 조작한 딥페이크 영상은 텍스트 기반 가짜뉴스보다 파급력이 크다. 넷째,?사이버 스토킹과 협박이다. 개인적 갈등으로?딥페이크를 활용해 사생활을 침해하거나 피해자를 협박하는 사례도 빈번하다.
딥페이크 범죄의 가장 큰 문제는 피해자가 자신도 모르는 사이에 피해를 입는다는 점이다. 영상이 존재한다는 사실조차 모른 채 유포가 이뤄지고, 삭제하더라도 재유포가 반복된다. 제작은 쉽고, 유포는 빠르며, 삭제는 어렵다. 피해자는 극심한 정신적 고통과 사회적 낙인을 겪게 되고, 본인이 아니라는 것을 스스로 입증해야 하는 2차 피해까지 내몰린다.
이에 대응하기 위한 기술도 발전하고 있다. 딥페이크 탐지 기술은 합성 과정에서 발생하는 영상의 고유 특징을 분석해 진위 여부를 판별한다. 영상 합성 노이즈, 표정의 부자연스러움, 눈 깜빡임 패턴, 그림자 방향, 원본과의 주파수 차이 등을 분석하는 방식이다. 경찰청은 허위 영상물의 진위를 판별하기 위해 정부 최초로 딥페이크 탐지 소프트웨어를 개발해 수사에 활용하고 있다.
민간 기업의 대응도 활발하다. 한컴위드는 화자인증과 딥페이크 음성 탐지 기술을 결합한 보안 솔루션을 선보였으며 라온시큐어는 생성형 AI 기반 딥페이크 탐지 기술을 고도화하고 있다. 이와 함께 동형암호 기반의 AI 안면인식, AI를 활용한 악성앱과 스미싱 공격 탐지, AI 작성 콘텐츠 탐지 기술 등도 개발 중이다.?
홍주연 기자jyhong@chosunbiz.com