[AI 미디어 파도] 엑스 팩트체크 시스템 '커뮤니티 노트', AI봇이 5~10% 작성… 지난달 '노 킹스' 시위 2017년으로 착각하기도
[미디어오늘 박재령 기자]



▲ X(옛 트위터) 로고



소셜미디어 엑스가 인공지능(AI)을 활용해 플랫폼 내 콘텐츠를 '팩트체크'하는 것으로 나타났다. 사용자 기반의 팩트체크 시스템 '커뮤니티 노트'의 약 5~10%를 AI봇이 작성했는데 실제 사실과 다른 팩트체크도 발생했다.
바다이야기부활
지난 6일 컬럼비아저널리즘리뷰(CJR)는 지난 9월부터 AI봇이 엑스의 커뮤니티 노트를 작성하고 있다고 보도했다. 커뮤니티 노트는 게시된 콘텐츠에 대해 플랫폼 이용자들이 직접 정보의 맥락을 추가하거나 허위사실을 반박하는 의견을 달아 사실을 검증하는 시스템이다.
엑스는 원래 별도의 전문가나 언론사가 사실을 검증하는 팩 메이저릴게임사이트 트체크 시스템을 운영했다. 하지만 2022년 트위터를 인수한 일론 머스크가 팩트체킹 담당 직원 다수를 해고하면서 커뮤니티 노트 시스템이 도입됐다. 당시 미국 보수 진영 일각에선 기성 언론과 소셜미디어의 팩트체킹이 좌편향됐다며 표현의 자유를 침해한다고 주장했다.
저널리즘 연구기관 타우센터에 따르면 엑스에서 노트 작성자로 공식 활동하는 AI봇 릴게임몰 은 8개다. 매일 공개되는 커뮤니티 노트의 약 5~10%를 작성하고 있었다. AI봇이 참여한 커뮤니티 노트가 모두 공개되는 건 아니다. 커뮤니티 노트는 의견에 반대했던 사용자까지 노트가 유용하다는 데 동의해야 공개되는 방식이다. CJR은 “작성된 노트(인간과 AI봇 모두 포함)의 4분의 3 이상이 공개되지 않은 상태”라고 했다.
AI의 팩 바다신2게임 트체크를 신뢰할 수 있을까. 지난달 엑스에는 도널드 트럼프 미국 대통령에 반대하는 '노 킹스'(No Kings) 시위 영상들이 광범위하게 확산됐다. 그중 하나가 보스턴 지역의 대규모 시위 영상(MSNBC 보도)이었는데 AI봇이 이를 '2017년 영상'이라고 반박하는 노트를 달았다. 해당 노트는 일부 엑스 이용자에게만 노출됐다. 하지만 캡처본이 퍼져 MSNB 야마토연타 C 보도에 대한 조작 의혹이 불거졌고 정치권에서도 인용됐다.



▲ 엑스 커뮤니티 노트에 속아 노킹스 시위를 2017년 영상이라고 착각하고 있는 게시물.



AI의 판단과 달리 해당 영상은 실제 지난달 보스턴에서 일어난 '노 킹스' 시위 영상이었다. 해당 노트를 작성한 AI봇은 이후 노트에서 2025년에 촬영된 영상이라고 스스로 수정했다. 잘못된 팩트체크 사례는 또 있다. AI봇은 트럼프 대통령 관련 게시물에서 트럼프 대통령이 재임 중이라는 사실을 모르는 듯 “트럼프의 임기는 2021년 종료됐다”고 노트를 달거나 트럼프 대통령을 '일반 시민'이라고 지칭하는 노트를 달았다. 해당 노트들은 모두 일반 사용자들이 동의하지 않아 전체 공개가 되지 않았다.

CJR은 “AI가 작성한 노트가 인간이 작성한 것보다 명백히 우수하다거나 열등하다고 볼 수는 없다”며 “AI 노트가 유용하다고 이용자들이 평가하는 빈도는 인간이 작성한 것과 비슷했다. 다만 이러한 평가가 모든 AI봇에게 일관되게 나오지는 않았다. AI 팩트체크의 품질은 개별 개발자가 봇을 어떻게 설계하느냐에 크게 좌우됐다”고 했다.
페이스북의 모회사 메타도 커뮤니티 노트 방식의 팩트체크 시스템을 운영하고 있다. 지난 1월 마크 저커버그 메타 CEO는 별도의 팩트체커가 존재하는 기존 시스템을 중단하고 커뮤니티 노트 방식으로 전환하겠다고 밝혔다. 메타의 팩트체크 시스템은 2016년 페이스북이 소셜미디어상의 가짜뉴스를 방치해 트럼프 대통령의 당선에 기여했다는 비판이 나온 뒤 도입됐다. 하지만 트럼프 대통령이 재임에 성공하자 이에 눈치를 본 메타가 팩트체크 시스템을 중단시켰다는 지적이 나왔다.
CJR은 “엑스가 온라인 플랫폼에서 사용자 기반 팩트체크 시스템(커뮤니티 노트)으로 전환을 촉발시켰을 수 있다”며 “AI는 이제 온라인 팩트체크 시스템의 일부가 됐다. 앞으로의 과제는 AI가 이를 충분히 정확하게 수행할 수 있는지 여부”라고 했다. 기자 admin@slotmega.info