사진은 기사 내용과 무관함. 유튜브 캠페인 광고 중 한 장면. [유튜브코리아 공식 채널 캡처]


[헤럴드경제=박혜림 기자] “쓰레기에 돈 쓰고 평판도 버렸다”
유튜브 등 영상 플랫폼에 집행되는 기업 광고 예산의 20% 가량이 이른바 ‘AI 슬롭’ 등 민감 콘텐츠에 연계돼 외려 브랜드 가치를 훼손시키는 것으로 나타났다. 생성형 AI 기술의 발전이 기업 브랜드 안전을 위협하는 새로운 리스크로 부상했다는 우려가 나온다.
4일 영상이해 AI 기업 파일러(Pyler)가 발간한 ‘AIGC 시대의 AI 슬롭 확산 리포트’에 바다이야기룰 따르면 현재 영상 플랫폼에 집행되는 기업 광고 예산의 19.3%가 AI 슬롭을 포함한 저품질 콘텐츠 및 민감 영상에 연계돼 쓰이고 있는 것으로 조사됐다.
AI 슬롭은 AI와 영단어 ‘쓰레기(slop)’를 결합한 단어다. 인공지능이 대량 생산한 저품질 콘텐츠를 뜻한다.
파일러는 AI 슬롭을 성격에 따라 세 가지 유형으로 분 릴게임바다신2 류했다. 각각 ▷AI로 제작된 허위 정보나 사칭으로 신뢰를 붕괴시키는 ‘AI Allegation(허위정보)’ ▷비동의적 누드 등 성적 이미지를 생성해 인권을 침해하는 ‘AI Nudity(선정성)’ ▷저품질 콘텐츠로 검색 피드를 뒤덮어 주의력을 저하시키는 ‘AI Disturbing(정보 교란)’ 등이다.


야마토통기계
‘AI 슬롭’의 예시로 알려진 ‘새우 예수’ 이미지 [엑스(X·옛 트위터) 갈무리]


문제는 이런 저품질 유해 콘텐츠가 기업에 비용 손실 등 심각한 피해를 초래한다는 것이다. 파일러에 따르면 광고가 유해 콘텐츠와 연계될 경우 브랜드 신뢰도는 최대 60%까지 감소한다. 구 골드몽사이트 매 의도 역시 절반 수준으로 떨어지는 것으로 나타났다. 사실상 광고 집행을 안하느니만 못한 상황인 셈이다.
그럼에도 불구하고 기업 영상 광고 예산의 최대 55%가 이러한 유해 콘텐츠에 노출돼 무의미하게 낭비되고 있는 실정이다. 업계 관계자는 “기업이 광고를 집행할 개별 영상을 선택할 수 없는 건 아니지만 원하는 맥락의 영상을 일일이 찾아 오리지널바다이야기 지정하기 어렵기 때문에 보통 인구통계, 키워드, 관심사 등 사용자 기반으로 타겟팅을 한다”면서 “그러다보니 AI슬롭을 포함한 민감 콘텐츠들이 들어가는 걸 거를 수 없는 상황”이라고 설명했다.
한국이 전 세계에서 AI 슬롭을 가장 많이 소비하는 국가라는 점은 기업이 유해 콘텐츠와의 연계를 피하기 어렵게 만드는 핵심 요인이다. 지난해 글로벌 영상 편집 플랫폼 ‘카프윙’ 조사에 따르면 한국은 전 세계 AI 슬롭 소비량 1위를 차지했다. 한국발 AI 슬롭 유튜브 채널의 누적 조회수는 약 84억 5000만 회로 2위 파키스탄(53억 회), 3위 미국(34억 회)을 크게 앞질렀다.



파일러(Pyler)가 발간한 ‘AIGC 시대의 AI 슬롭 확산 리포트’ 이미지. [파일러 제공]


조회수가 높은 영상에 광고를 우선 매칭하는 플랫폼 알고리즘 특성상 막대한 트래픽을 유발하는 AI 슬롭은 광고주의 의사와 상관없이 기업 예산을 빨아들일 수밖에 없다. 실제 카프윙 조사 결과를 토대로, 유튜브 초기 추천 영상 5개 중 1개(20.8%)가 AI 슬롭으로 채워지는 환경에서는 브랜드 세이프티 확보가 사실상 불가능하다.
이에 파일러는 브랜드 안전을 넘어 브랜드 적합성(Suitability)까지 확보할 수 있는 기술적 대안으로 ‘AiD’ 솔루션을 제안했다. 독자 개발한 영상이해 AI 모델 ‘Antares(안타레스)’를 기반으로 유해 콘텐츠 노출 빈도를 평균 85% 줄이고, 낭비되는 예산을 총 예산의 3% 내외 수준으로 절감하는 성과를 거두고 있다는 설명이다.
아울러 일반 이용자와 기업이 AI 슬롭을 식별할 수 있는 판별 방법으로 ▷시각적 결함(인물의 관절이나 디테일 붕괴) ▷내용적 결함(맥락 없는 문구 반복이나 출처 없는 정보) ▷반복적 결함(지나치게 일관적인 톤과 무의미한 컷 전환) 등을 제시했다.