밍키넷: 새로운 온라인 커뮤니티의 매력과 활용법

6·3 지방선거가 60여 일 앞으로 다가오면서 광주·전남 선거판에 인공지능(AI)을 악용한 딥페이크 불법 선거운동이 빠르게 번지고 있다. 존재하지 않는 인물을 만들어 특정 후보 지지 발언을 덧씌우거나 사진을 정교하게 손질한 선거 홍보물이 잇따라 적발되면서 선거 공정성을 해칠 수 있다는 우려가 커지고 있다.
31일 광주·전남선거관리위원회에 따르면 선거일 120일 전부터 이날까지 광주 사이버공정선거지원단은 AI를 활용한 딥페이크 게시물 104건을 적발해 삭제 등 조치가 이뤄지도록 했다. 이 가운데는 가상 인물을 AI로 만든 뒤 특정 후보를 지지하는 것처럼 음성을 입힌 영상도 포함된 것으로 바다신릴게임 파악됐다.
전남 지역 상황은 더 심각하다. 같은 기간 전남 사이버공정선거지원단이 찾아낸 AI 활용 딥페이크 불법 선거물은 1천500여건에 이른다. 지원단은 온라인 커뮤니티를 비롯해 입후보 예정자나 지지자들의 블로그, SNS 등을 상시 점검하며 AI 기반 선거 홍보물을 추적하고 있다.
적발된 사례 상당수는 AI로 사진을 보 바다이야기게임 정하거나 합성하는 방식처럼 겉으로는 티가 잘 나지 않도록 정밀하게 제작된 것으로 전해졌다. 전남도선관위 관계자는 "허위 사실 공표와 같은 중대한 위반까지 확인된 것은 아니지만 AI로 사진을 수정하는 등 정교하게 이뤄진 사례가 많았다"고 설명했다.
선관위는 딥페이크 감별 프로그램과 전문가 자문 등을 통해 AI 활용 여부를 가려내고 있다. 겉 야마토게임연타 보기에는 일반 홍보물과 크게 다르지 않아도 후보자 이미지나 메시지를 왜곡할 수 있는 만큼 기술적 판별 작업이 중요해졌다는 것이다.
경찰도 상황을 예의주시하고 있다. 딥페이크 선거범죄는 짧은 선거기간 동안 유권자 판단에 직접적인 영향을 줄 수 있어 파급력이 크기 때문이다. 전남경찰청 사이버범죄수사대는 이날까지 딥페이크 선거범죄 신고 2건을 오션릴게임 접수해 수사에 착수했다. 이 가운데는 특정 후보를 비방하는 내용의 AI 영상을 제작해 온라인에 게시·유포했다는 피해 신고도 포함돼 있다. 경찰은 관련 사안을 직접 들여다보고 있다. 현재까지 입건된 인원은 없는 것으로 전해졌다.
선거일 90일 전부터는 AI 생성물 표시 여부와 관계없이 누구든 선거운동을 목적으로 AI로 만든 딥페이크 영상이나 백경게임 음향 등을 제작·편집·유포·상영·게시할 수 없다./조태훈 기자 thc@namdonews.com