노다 요시히코(왼쪽)와 사이토 데쓰오 중도개혁연합 공동대표가 정견방송을 하는 중 중국 의상을 입은 것으로 합성돼 있다. 엑스 캡처


총선을 앞둔 일본에서 AI(인공지능)를 이용한 정치 게시물이 늘어나며 이에 대한 우려가 커지고 있다.
현지 전문가들은 “정견방송이 변조되면 유권자의 판단에 영향을 미쳐 선거가 왜곡될 수 있다”며 우려를 나타냈다.
1월 31일 요미우리(讀賣)신문에 따르면 전날 한 일본인 유저의 엑스(X·구 트위터) 계정에 야당인 중도개혁연합의 정견 방송이 게시됐다.
해당 영상의 원본 릴박스 에선 노다 요시히코(野田佳彦)·사이토 데쓰오(齊藤鐵夫) 공동대표가 정견발표를 마치고 수화통역사 등과 인사를 나누던 장면이다. 그러나 엑스에 게시된 영상에선 두 공동대표가 돌연 자신들의 앞에 있던 연단을 밀쳐내고 부채를 꺼내 춤을 추기 시작한다.
해당 게시물이 공개되자 일본 SNS 이용자들은 “선거의 공정성에 그림자를 드리운다”는 등의 비판 릴게임뜻 댓글을 이어갔다.
논란이 커지자 계정 사용자는 31일 정오쯤 문제의 동영상을 삭제한 뒤, AI(인공지능)로 가공한 영상이었다고 밝히며 “유머의 범위 내”라는 인식이었으나 배려가 현저히 부족했고 부적절한 표현이었다고 사과했다.
그러나 해당 영상은 삭제 전까지 160만 회 이상 조회되며 화제가 됐다.
중도 야마토통기계 개혁연합의 홍보 담당자는 요미우리 신문 취재에 “정당의 생각을 널리 알리는 정견방송의 취지에 반하는 것으로, 극히 유감스럽다”고 논평했다.



다마키 유이치로 국민민주당 대표의 비리 인정 가짜뉴스. 엑스 등 캡처


해당 온라인릴게임 영상 외에도 이번 중의원 선거에선 다른 야당의 입후보 예정자가 공시 전에 거리에서 손을 흔드는 이미지가 생성 AI로 탱크톱 차림으로 변조되는 피해도 확인됐다.
가상화폐(암호자산) 감세론자인 다마키 유이치로(玉木雄一?) 국민민주당 대표는 ‘암거래 발각’이라는 제목의 딥페이크 영상이 유튜브에 유포돼 곤욕을 치르고 있다.
영상 알라딘릴게임 속 가짜 다마키 대표는 “사실 가상화폐 세금 인하를 주장한 건 내 비자금을 불리기 위해서였다”거나 “중국계 자본과 내통해 코인 시세를 조작했다”고 태연하게 말한다.
과거 다마키 대표가 불륜 스캔들로 도덕성에 타격을 입었던 점을 악용해, 있지도 않은 비리 의혹을 본인 목소리로 자백하게 만든 것이다.
친중(親中) 프레임 공격을 받는 중도개혁연합 등 야당 후보들은 중국 전통 의상인 치파오를 입고 오성홍기를 흔드는 가짜 사진으로 곤욕을 치르고 있다.
이를 놓고 일본 내에선 AI를 이용한 선거 왜곡과 이를 막을 법령이 없다는 지적이 계속 나오고 있다.
정견방송은 국정선거와 도도부현지사선거의 후보자나 정당·정치단체가 정치에 관한 의견 ‘정견’을 발표하는 텔레비전 프로그램이나 라디오 프로그램이다.
현지 공직선거법에서는 ‘그대로 방송해야 한다’고 규정하고 있지만, 유권자가 내용을 변경해 SNS에 게시하는 것을 금지하는 규정은 없다.
선거 제도에 정통한 메이지대학의 유아사 가미치(湯淺墾道) 교수(정보법)는 “정견 방송의 가짜 동영상이 제작되면 시청자가 그 내용을 진실로 오인하기 쉬워질 위험이 있다”고 지적했다.
이어 그는 “정치적 주장이나 정책, 사실이 변조되면 유권자의 판단에도 영향을 미쳐 선거가 왜곡될 수 있다”고 지적했다. 이어 “현행 공직선거법은 선거 포스터를 찢으면 위반이지만, AI에 의한 가짜·오정보가 범람하는 네트워크 공간에는 대응하지 못하고 있다. 현실에 부합하는 공직선거법 개정이 필요하지 않을까”라고 말했다.
박준우 기자