온라인 환경이 일상의 중심이 된 오늘날 소셜 네트워크 서비스(SNS)는 소통의 창구이자 정보의 보고인 동시에 각종 유해 콘텐츠와 고도화된 범죄가 도사리는 위험한 놀이터가 되기도 합니다. 특히 판단력이 성숙하지 않은 청소년을 대상으로 한 스캠(신용사기)과 그루밍 성범죄 등이 기승을 부리면서 플랫폼 기업의 사회적 책임과 보호 시스템 구축이 그 어느 때보다 절실한 상황입니다. <디지털데일리>는 전 세계가 안전한 인터넷 세상을 만들기 위해 노력하는 '안전한 인터넷의 날(2월10일)'을 맞아 기업과 사회의 온라인 안전망을 조명하는 '세이프-네트워크'를 준비했습니다. <편집자 주>

바다신2 다운로드

[디지털데일리 이학범기자] 로블록스가 연령 인증 시스템을 전면 도입하며 플랫폼 안전 정책을 한층 강화하고 있다. 안전과 소통의 재미는 상충하는 가치가 아니라 오히려 안전이 소통의 전제가 된다는 것이 회사 측 설명이다.
맷 코프만 로블록스 최고안전책임자(CSO)는 최근 <디지털데일리>와의 서면 골드몽사이트 인터뷰에서 "플랫폼 내 안전을 강화할수록 이용자 경험은 오히려 개선된다"며 "최근 도입한 연령 기반 시스템은 로블록스의 지속 가능성을 좌우할 핵심 인프라"라고 밝혔다.
코프만 CSO는 로블록스의 안전 및 시민의식(Safety & Civility) 부문을 총괄하며 제품·운영·정책 전반의 안전 기준을 설계·적용하는 역할을 맡고 있다. '시민의 릴게임추천 식을 갖춘 가상 세계'라는 회사 비전을 구체화하는 것이 그의 주요 과제다.
◆ "연령대별 소통 구조 분리"…AI 얼굴 추정 도입
로블록스는 지난 1월 전 세계 서비스를 대상으로 인공지능(AI )기반 얼굴 연령 추정 기술을 도입하고 채팅 이용을 위한 연령 인증을 의무화했다.
핵심은 '연령대별 소통 구조 분 바다이야기룰 리'다. AI로 이용자 연령을 추정해 만 9세 미만부터 21세 이상까지 6개 그룹으로 세분화하고 인접 연령대끼리만 대화할 수 있도록 제한했다. 범죄자의 접근 가능성을 구조적으로 낮추겠다는 취지다.
회사에 따르면 시행 한 달 만에 전 세계 일일 활성 사용자(DAU) 1억4400만명 가운데 45% 이상이 인증을 완료했다. 기존 자기 보고식(생 모바일바다이야기하는법 년월일 입력 방식) 데이터 의존도를 낮추고 연령 정보 정확도를 높였다는 설명이다.

코프만 CSO는 "로블록스는 안전과 소셜 활동을 상충 관계로 보지 않는다"며 "연령 인증 시스템으로 보다 안전하고 시민의식을 갖춘 온라인 환경을 조성함으로써 청소년들을 보호하고 성인들의 표현의 자유를 보장한다"고 강조했다.




다만 인증 절차 강화가 이용 경험을 저해할 수 있다는 우려도 제기된다. 채팅 접근 문턱이 높아지면 활동이 위축될 수 있고 AI 기반 연령 추정 특성상 오차 가능성도 배제할 수 없기 때문이다.
이에 대해 코프만 CSO는 "안전 장치 고도화가 단기적으로 일부 이용 패턴에 영향을 줄 수는 있다"면서도 "장기적으로는 플랫폼 신뢰도와 커뮤니티 건강성을 높이는 기반이 될 것"이라고 말했다.
이어 "인증 참여율이 빠르게 상승하고 연령 데이터 정확도도 개선되는 등 긍정적 지표가 나타나고 있다"며 정책이 비교적 안정적으로 자리 잡고 있다고 평가했다.
로블록스는 조만간 로블록스 스튜디오의 실시간 협업 기능에도 연령 확인 절차를 적용할 예정이다. 커뮤니티 정책 역시 순차적으로 업데이트한다는 계획이다.



◆ 딥페이크 탐지·레드팀 운영…'다층 보호' 체계
또 연령 인증 시스템에서 부모 대리 인증과 같은 실제 운영 과정에서의 변수도 고려하고 있다. 로블록스는 부모가 자녀의 인증을 돕다 실수로 본인의 연령을 입력한 경우 부모 통제 기능을 통해 1회에 한해 나이를 정정할 수 있도록 했다. 강화된 정책이 이용 경험을 과도하게 훼손하지 않도록 보완하는 장치다.
특히 온라인 그루밍이나 사칭과 같은 지능화된 잠재적 위협에 대응하기 위해 로블록스는 단일 인증을 넘어선 다층적 보호 시스템을 가동 중이다.
코프만 CSO는 "로블록스는 AI 기반 얼굴 연령 추정 기술의 정확도를 높이고 부정행위를 차단하기 위해 파트너사인 페르소나와 협력해 딥페이크 탐지·공인이미지 도용 방지 등 부정 방지 기능을 적용하고 있다"며 "레드팀(Red-team) 훈련을 정기적으로 실시해 잠재 취약점을 선제적으로 점검·보완하고 있다"고 설명했다.
그는 "로블록스는 단일 얼굴 인식 결과에 의존하지 않고 다양한 지표로 이용자 행동을 지속 분석해 실제 연령과 프로필 정보의 불일치 여부를 정교하게 판별하고 있다"며 "채팅 설정·연락처 제한·콘텐츠 노출 범위를 연령별로 최적화하는 위험 최소화 설계로 플랫폼 구조 자체를 악용 사례에 원천 대응할 수 있도록 견고하게 구축할 방침"이라고 부연했다.
연령 인증 과정에서 얼굴 이미지가 활용되는 데 따른 이용자들의 불안감에 대해서는 "인증 과정에 사용된 이미지와 동영상은 절차가 완료되는 즉시 삭제된다"며 철저한 개인정보 보호 원칙을 재확인했다.
코프만 CSO는 "이용자가 감시받는 것이 아니라 자연스럽게 보호받고 있다는 안도감을 느끼게 하는 것이 보안의 지향점"이라며 "앞으로도 개인정보 보호에 최적화된 솔루션을 지속적으로 탐색하여 시스템을 고도화하기 위해 노력하겠다"고 강조했다.



◆ 한국 맞춤 가이드라인…왜곡 콘텐츠 '엄정 대응'
한국 시장에 맞춘 별도 안전 가이드라인도 운영 중이다. 안전 센터와 가이드를 한국어로 현지화해 제공하고 있으며, 2024년에는 전국미디어리터러시교사협회(KATOM)와 협력해 청소년·보호자·교육자 등을 위한 '디지털 시민의식 가이드북'을 제작·배포했다.
콘텐츠 관리 역시 동일한 기준이 적용된다. 로블록스는 역사적 사건이나 사회적 갈등을 왜곡하는 콘텐츠에 대해 엄정 대응 방침을 유지하고 있다. 실제 지난해 5·18 민주화운동 왜곡 콘텐츠를 삭제한 데 이어 최근 12·3 비상계엄 상황을 왜곡한 콘텐츠도 삭제 조치했다.
코프만 CSO는 "한국 이용자들의 창의성은 로블록스를 특별하게 만드는 원동력"이라며 “이들이 음껏 표출할 수 있는 안전한 공간으로 남을 수 있도록 앞으로도 한국 시장에서 기술 고도화와 보안 표준 강화에 최선을 다하겠다"고 말했다.
그는 "안전 기술은 산소처럼 없어서는 안 될 필수 요소"라며 "사후 검토가 아니라 처음부터 안전이 기본값으로 작동하는 환경을 구축하는 데 집중하고 있다”고 강조했다. 이어 “연령 추정 시스템은 그 시작에 불과하다”고 덧붙였다.