2024년, 국내 학생과 교사들을 대상으로 대량의 성착취물이 제작 및 텔레그램방을 통해 유포된 사건이 발생한 것을 계기로, 딥페이크 기반 성착취물의 단순 제작 또한 처벌하는 방향으로 성폭력범죄의 처벌 등에 관한 특례법(이하 '성폭법'이라 함)이 개정되었다. 이로써 우리나라는 성착취물을 세계적으로 가장 선제적이고 강력하게 처벌하는 국가가 되었다. 사실 딥페이크 기반 성착취물에 대한 처벌의 역사는 그리 오래되지 않았는데, 성착취물의 '배포'로 범위를 확장하더라도 우리 법에서의 처벌이 시작된 것인 2020년이다.
성착취물 제작은 인공지능의 등장 이전에도 이루어지곤 했는데, 왜 생성형 인공지능 바다이야기#릴게임 이 본격적으로 대두된 후에야 처벌 규정이 마련되기 시작하였을까. 가장 큰 이유는 생성형 인공지능의 발달로 인한 결과물의 정교화 및 그로 인한 오인가능성에 있을 것이다. 사진의 얼굴과 몸을 잘라 붙이는 등의 전통적 방법으로 제작된 성착취물은, 그 자체로 음란물이거나 피해자를 모욕하는 효과가 있음과는 별개로 실제 피해자와 동일시하기 어려웠고, 피해자의 사진 내 바다이야기릴게임 지 영상이 아님이 쉽게 식별되었기 때문에 피해자의 인격권을 중대하게 훼손한다고 보기는 어려웠다. 반면 고도로 발달한 생성형 인공지능을 활용해 제작된 성착취물은 일견 실제 상황을 찍은 것으로 오인할 수 있어 피해자의 사회적 명예에 비가역적인 손상을 가할 우려가 있다.
우리나라의 관련 처벌 범위는 세계적인 기준에서 빠르게 확장되어 온 편이다. 바다이야기모바일 미국을 중심으로 대부분의 국가에서는 아동을 대상으로 한 성적 딥페이크물 제작은 엄히 처벌하여 왔으나, 성인을 대상으로 한 성적 딥페이크물은 제작 뿐 아니라 배포에 이르더라도 처벌하는 별도의 규정을 두지 않고 있다. 그 배후에는 아동은 절대적 보호의 대상으로써 표현의 자유 밖에 위치하는 반면 성인에 대한 딥페이크는 표현의 자유의 영역에 포함된다는 인식이 있 카카오야마토 다. 이러한 불일치와 쌍방 가벌성에 따른 제약으로 인해 우리 수사기관은 해외에 서버를 두고 있는 메신저(텔레그램 등)를 통한 성착취물 배포를 수사함에 있어 현지 당국의 협조를 거의 받지 못하고 있다.
그러나 최근에는 세계적으로도 이러한 처벌의 범위를 확장하고자 하는 시도가 이루어지고 있다. 영국의 Online Safety Act(2023) 바다이야기오락실 에서는 성인 대상 딥페이크물의 배포 역시 처벌하는 규정을 마련하였으며, 나아가 단순 제작 역시도 범죄화를 시도하고 있다. 미국에서도 형사처벌은 아니지만 비동의 성적 딥페이크에 관해 손해배상을 청구할 수 있는 구체적 권리를 규정한 DEFIANCE Act가 지난해 상원을 통과하여 주목받고 있다. 이러한 흐름은 생성형 인공지능에 기반한 성적 딥페이크가 피해자의 사회적 명예를 저해할 뿐 아니라 피해자의 디지털 쌍둥이를 만들어 성적으로 악용함으로써, 피해자의 성적 자기결정권 역시 침해한다는 점에서 타당하다고 생각된다.?
윤상원 공익법무관(대검찰청 국제협력담당관실)