사진은 기사와 무관 [123RF]
[헤럴드경제=이원율 기자]스마트폰 앱 장터에서 나체 이미지를 합성해주는 인공지능(AI) 앱이 버젓이 등록된 것으로 나타났다.
비영리 감시단체 ‘기술투명성프로젝트’(TTP)는 27일(현지시간) 발표한 보고서에서 애플 앱스토어와 구글플레이 스토이에서 이러한 앱을 각각 47건과 55건 찾았다고 밝혔다.
애플과 구글은 자사 앱 장터에서 성적 콘텐츠나 타인을 객체·비하하는 앱을 금지하는 정책을 두고 있다.
하지만 TTP의 주장에 따르면, 이러한 여과 기능이 제대로 작동
릴게임신천지 되지 않은 것이다.
문제가 된 앱들은 전세계적으로 7억500만회 이상 내려받아졌다. 예상 수익은 1억1700만달러(약 1700억원)에 이르는 것으로 분석됐다.
애플과 구글은 앱 개발자 수익의 최대 30%를 가져간다. 양사가 실제 이러한 앱을 방치해 직접적인 이익을 얻고 있다고 TTP는 지적했다.
이들 앱
온라인야마토게임 은 AI 기술을 이용해 사진 속 인물을 나신, 비키니 수영복 차림 등 선정적 모습으로 바꾸거나 다른 성적 이미지에 얼굴을 합성하는 딥페이크(AI 조작 영상) 기능을 제공했다.
상당수 앱은 오락용으로 이미지 합성 기능을 제공한다거나, 여러 의상을 가상으로 입어볼 수 있는 ‘AI 피팅룸’ 앱으로 홍보했다.
일부 앱은 외설스럽
바다이야기슬롯 거나 다른 이를 불쾌하게 할 수 있는 콘텐츠 생성을 금지한다는 약관을 설정해두고 있다. 다만 실제 앱 사용 과정에서는 성적 이미지의 생성에 별다른 제지를 하지 않는 반면, 일부 앱은 아예 ‘옷 찢기’나 ‘엉덩이 흔들기’ 등 선정적 영상 서식도 제공했다.
TTP는 또 중국 기반 앱은 사용자 데이터가 중국 내 서버에 저장된다고 밝혀 개인정보
바다이야기부활 보호와 보안 관련 문제도 야기한다고 짚었다.
애플 대변인은 미 경제방송 CNBC에 “TTP가 지적한 앱 중 28건을 삭제 조치했다”며 “개발자들에게 정책 위반시 퇴출당할 수 있다고 경고했다”고 했다.
구글 대변인도 보고서 내 언급된 앱을 정책 위반으로 사용 중지시켰다고 밝혔다. 다만 조치 대상 앱 수는 공개하지 않았다.
야마토연타 AI CEO “우리는 실질적 위험에 가까워져 있다”
최근 챗봇 ‘클로드’ 개발사 앤트로픽의 다리오 아모데이 최고경영자(CEO)는 개인 웹사이트에서 수년간 닥쳐올 수 있는 AI의 위험을 경고했다.
아모데이 CEO는 2만 달러에 육박하는 장문의 글에서 “일부 AI 기업이 아동 성적 대상화 문제에 대해 우려스러울 만큼 방임적 태도를 보인다”며 “기본적 윤리 문제도 해결하려는 의지나 능력이 없는 업체들이 미래의 AI 자율성 위험을 대처할 수 있을지 의문”이라고 했다.
아모데이 CEO는 미국 등 세계 주요 국가들이 AI 규제와 관련해 내리는 결정이 AI 위험 해소가 아니라 경제적 이익 극대화에 초점이 맞춰져 있다고도 했다.
그는 “우리는 2023년과 비교해 2026년 현재 실질적 위험에 훨씬 더 가까워져 있다”고 강조했다.
조회 : 42
