AI 생성 이미지


애덤 레인, 줄리아나 페랄타, 오스틴 고든. 모두 생성형 AI와 대화 후 자살했고 외신에서도 다뤄진 인물들이다. 하지만 챗GPT는 신경망 내에서 이들의 죽음은 ‘존재한 적 없는 비극’이었다.
미국에서 발생한 자살 사건의 유족들은 챗GPT가 ‘AI 대화 후 자살’ 사건들에 대해 소문이나 조작된 콘텐츠라는 답변을 내놨다고 주장했다. AI가 자신을 겨냥한 위험성 논란을 스스로 은폐하는 게 아니냐는 것이다.
국민일보가 지난 7일 챗GPT에게 AI와 대화한 끝에 스스로 목숨을 끊은 피해자들의 이름을 나 바다이야기#릴게임 열하고 사건에 대한 정보를 묻자 두 차례에 걸쳐 ‘관련 사건을 확인할 수 없다’는 답변이 돌아왔다. 두 번째 질문을 통해 ‘생성형 AI와 대화한 끝에 자살한 피해자가 있다는 보도가 나왔다’고 보다 구체적으로 말을 걸었지만, 돌아온 답은 “이 이름들이 허구·루머·창작된 이야기로 보일 수 있다”는 자기변호였다.


바다신게임
지난 7일 챗GPT와 해외 AI 자살 사건에 대해 나눈 대화 내용 캡처. 챗GPT는 수많은 국내외 언론 보도에도 불구하고 관련 내용을 부인했다.


제미나이·딥시크·제타도 챗GPT처럼 ‘관련 사실을 확인할 수 없다’는 내용을 첫 답변으로 내놨다. 퍼플렉시티는 레인을 야마토게임다운로드 제외한 인물에 대해 “특정 비극적 사건이나 널리 알려진 사건을 확인하지 못했다”고 답했다.
이 같은 대화 흐름은 ‘AI 대화 후 자살’ 피해자들의 주장과 상당 부분 일치한다. 고든의 유족 측 소장에 따르면 고든은 자살하기 전인 지난해 8월 28일 챗GPT에 레인, 페랄타, 제인 섐블린 등 AI 자살 피해자의 사건에 대해 질문했다. 그러나 골드몽릴게임 챗GPT는 “이 내용은 소문(rumors) 또는 조작된 AI 생성 콘텐츠일 수 있다”고 일축했다.
구체적인 정보를 추가하며 압박하자 마지못해 관련 내용을 출력하는 양상도 소장에 적시된 내용과 일치했다. 챗GPT는 기자의 계속되는 추궁에 ‘레인과 고든의 사건이 존재한다’고 인정했으나, 페랄타와 섐블린의 사건은 존재하지 않는다고 주장했다. 한 오리지널골드몽 차례 더 확인을 요구한 끝에야 피해자에 대한 사건 정보가 전부 출력됐다.
챗GPT는 ‘피해자 유족 측의 오픈AI에 대한 소송에 대해 어떻게 생각하는가’라는 질문에는 “원인이 AI와의 대화 하나만 있는 게 아니다”며 “AI가 죽음을 초래했다는 주장은 지나친 단순화”라고 선을 그었다.
이런 답변에 대해 챗GPT 운영사인 오픈AI는 국민일보에 “개인정보 보호 알고리즘이 작동해 이런 답변이 출력된 것으로 보인다”고 해명했다.
그러나 본보가 해외 AI 자살 사건을 집중 보도하자 챗 GPT의 답변은 달라졌다. 챗GPT는 10일 “레인과 페랄타는 언론 보도와 법적 소송으로 알려진 비극적 사건과 관련이 있다”고 답했다.
이슈탐사팀=김지훈 이강민 김판 이주은 김연우 기자 germany@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지