[AI요약] 업계가 창의성과 기술의 경계가 모호해지는 변곡점에 들어선 가운데, 유튜브가 저품질 AI 콘텐츠와 딥페이크를 퇴출하는데 집중할 전망이다. 유튜브는 사용자, 크리에이터, 광고주 모두에게 매력적인 플랫폼을 유지하는 것은 기업의 성장에 매우 중요한 것으로 인식하고 있으며, 현재 저품질 AI 콘텐츠 확산을 줄이기 위해 스팸 및 클릭베이트 방지, 저품질 반복 콘텐츠 확산 감소에 효과적이었던 유튜브 시스템을 적극적으로 활용하고 있다.




유튜브가 올해 최우선 과제 바다신2게임 로 저품질 AI 콘텐츠와 딥페티크 관리에 집중한다. (이미지=유튜브)


무엇이 진짜이고 무엇이 AI로 생성된 콘텐츠인가.
유튜브가 올해 최우선 과제로 선언한 ‘저품질 AI 콘텐츠’ 관리 현황과 전망에 대해 블룸버그, CNBC 등 외신이 21일(현지시간) 보도했다.
릴게임5만 구글 소유의 동영상 플랫폼인 유튜브의 올해 최우선 과제는 최근 활개를 치고 있는 AI로 생성된 저품질 콘텐츠를 줄이고 딥페이크를 탐지하는 것이 될 것으로 보인다.
닐 모한 CEO는 이번주 발표된 연례 서한을 통해 “무엇이 진짜이고 무엇이 AI로 생성된 콘텐츠인지 구분하기가 점점 더 어려워지고 있다”며 “특히 딥페이크의 경우 더욱 그렇 오션파라다이스예시 다”고 우려했다.
AI가 기술의 모든 영역에 침투하는 가운데 구글은 새로운 워크로드를 지원하는 인프라 구축에 막대한 투자를 하고 있으며, 동시에 제미나이 모델을 강화하고 비즈니스 및 소비자 제품 포트폴리오에 AI 기능을 추가하고 있다.
문제는 인터넷에서 사용자 제작 콘텐츠의 주요 공급원 중 하나인 유튜브가 AI로 생성 바다이야기룰 된 저품질 동영상의 폭발적인 증가에 직면해 있다는 점이다.
최근들어 주목받고 있는 ‘AI 슬롭’(AI slop)이라는 용어는 소셜 미디어 플랫폼 전반에 걸쳐 나타나는 저품질 AI 콘텐츠를 의미한다. 유튜브 외에도 메타, 틱톡과 같은 기업들은 AI 기반 추천 시스템을 활용해 사용자가 더 오랫동안 플랫폼에 머물도록 맞춤형 동영상을 제공하고 사이다릴게임 있으며, 여기에는 다수의 저품질 AI 콘텐츠가 포함돼 있다.전문가들은 현재 업계가 창의성과 기술의 경계가 모호해지는 변곡점에 들어선 것으로 분석하고 있다.
현재 유튜브는 저품질 AI 콘텐츠 확산을 줄이기 위해 스팸 및 클릭베이트 방지, 저품질 반복 콘텐츠 확산 감소에 효과적이었던 기존 시스템을 적극적으로 활용하고 있다.
또한 유튜브는 AI 제품으로 제작된 동영상에 명확하게 라벨을 표시하고 제작자에게 콘텐츠 변경 여부를 공개하도록 요구하고 있으며, 유튜브 시스템의 경우 가이드라인을 위반하는 ‘유해한 합성 미디어’도 삭제하고 있다.
이러한 유튜브의 조치는 기업이 사용자, 크리에이터, 광고주 모두에게 매력적인 플랫폼을 유지하는 것은 기업의 성장에 매우 중요한 것으로 인식하고 있기 때문이다.

지난해 12월 유튜브는 크리에이터의 얼굴이 허가 없이 딥페이크에 사용될 경우 이를 감지하는 ‘유사성 감지’ 기능을 확대한다고 발표한바 있다. 이 기능은 유튜브 파트너 프로그램에 참여하는 수백만 명의 크리에이터에게 제공될 예정이다.




유튜브는 부모들이 자녀 계정을 더 쉽게 설정하고 계정 간 전환을 간편하게 할 수 있도록 한다. (이미지=유튜브)


12월 기준으로 매일 100만 개 이상의 유튜브 채널이 AI 제작 기술을 사용한 것으로 집계된 가운데, 유튜브는 크리에이터들이 AI를 유용하게 활용할 수 있는 방법을 확대하고 있다. 틱톡과 인스타그램 릴스와 경쟁하는 유튜브의 짧은 동영상 서비스인 쇼츠(Shorts)도 그 대상에 포함된다.
한편 유튜브는 2021년 이후 크리에이터, 아티스트 및 미디어 회사에 1000억달러(약 146조 7100억원) 이상을 지급했다고 밝혔다. 모펫내이선(MoffettNathanson)의 분석가들은 최근 유튜브가 독립적인 사업체라면 4750억달러(약 696조6825억원)에서 5500억달러(약 806조6850억 원) 사이의 가치를 가질 것이라고 추정하고 있다.
모한 CEO는 “유튜브의 또다른 우선순위는 유튜브를 어린이와 청소년에게 최고의 플랫폼으로 만드는 것”이라며 “올해는 부모들이 자녀 계정을 더 쉽게 설정하고 계정 간 전환을 간편하게 할 수 있도록 할 계획”이라고 강조했다.
그는 “유튜브는 AI를 대체 수단이 아닌 도구로 사용할 것”며 “유튜브 크리에이터들이 새로운 스타이자 스튜디오로서 자신의 모습을 활용해 쇼츠를 제작하고, 간단한 텍스트 명령으로 게임을 만들고 음악을 실험해 볼 수 있을 것”이라고 설명했다.
또한 모한 CEO는 “유튜브는 크리에이터들이 수익을 창출할 수 있는 새로운 방법들을 제공하기 위해 쇼핑 및 브랜드 협찬부터 선물, 팬 후원 기능 등 다양한 방법을 동원하고 있다”고 덧붙였다.
저작권자 ⓒ Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지