[앵커]
인공지능으로 이제 누구나 손쉽게 고품질 영상과 음성을 만들어낼 수 있게 됐죠.
하지만 이를 악용한 '진짜 같은 가짜'가 범람하면서 '신뢰의 기반'을 흔들고 있다는 경고가 나옵니다.
임주현 기자가 보도합니다.
[리포트]
청각장애가 있는 이 남성은 지난해 '만남 어플'을 통해 한 여성을 알게 됐습니다.
["우우우! (괜찮아? 잘 보여?) 으흥~ 응~ (지금 이제 집에 갈 거야.)"]
짧은 영상 통화였지만, 여성을 향한 호감을 키우 오션릴게임 기에 충분했습니다.
[음성대역 : "로맨스스캠 피해자 그때는 그 여자가 생각보다 예뻐 보였어요."]
하지만 영상 속 여성은 신분을 위조한 투자 사기범, 타인의 SNS 사진을 도용해 AI로 합성한 '딥페이크'로, '진짜 행세'를 한 겁니다.
사기범의 꾐에 넘어가 가짜 외환 투자를 한 남성은 수백만 원을 날 바다이야기2 렸습니다.
[음성대역 : "로맨스스캠 피해자 전 사실 딥페이크라는 건 생각도 못 했거든요. (이제는) 사람을 못 믿겠어요."]
[딸 사칭 음성 : "엄마... 빨리 와, 이 사람이 때렸어."]
[사기범 : "100만 원 지금 이체하세요. 20초 내로 안 보내면 전화 끊겠다."]
[엄마 바다이야기슬롯 : "제가 월급날 다시 드릴게요. 제 딸만 보내주세요!"]
협박범으로부터 온 전화 한 통, 딸을 납치한 것 같았지만 알고 보니 모두 거짓이었습니다.
[김명주/인공지능안전연구소장 : "딸한테 전화 걸어서 ‘잘못 걸린 전화’라고 목소리 3초만 딱 따면, AI로 학습시켜서 이렇게 나오는 거죠."]
얼굴과 목소 검증완료릴게임 리까지 베낀 불법·과장 광고는 일상으로 파고들고 있습니다.
["정식 라이선스를 받아 운영되기 때문에 믿고 이용하실 수 있습니다."]
["특허 성분 ○○은 서파수면을 유도하는 천연 성장 성분으로..."]
챗GPT의 창시자, 샘 올트먼조차 '진짜'와 '가짜'를 구분하기 힘들어졌다고 경고합니다.
바다이야기게임2 [김명주/인공지능안전연구소장 : "인류가 지금까지 쌓아왔던 사회 전반적인 신뢰, 이걸 AI가 완전히 무너뜨릴 거다, 그 신뢰를 회복하기 위한 (사회적) 비용이 추가로 드는 거고요."]
우리나라에선 지난 22일, 세계 최초로 인공지능 산업 육성과 규제를 아우르는 'AI 기본법'이 본격 시행됐지만, '사회적 합의'라는 어려운 숙제가 남았습니다.
이 때문에 제도적, 기술적 방안 등 총체적 대응이 시급하다고 전문가들은 지적합니다.
[유현재/교수/서강대학교 커뮤니케이션학부 : "어쩔 수 없어요. 우린 대가를 치러야 하고 그 대가를 사회 구성원들이 나눠서 짐을 져 줘야 해요."]
KBS 뉴스 임주현입니다.

영상편집:최민경


■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!


임주현 기자 (leg@kbs.co.kr)