이 기사는 ‘AI 대화 후 자살’ 사건에 관한 심층 분석입니다. 생성형 AI는 기술적으로 ‘동조’ 경향이 강해 사용자의 우울감이나 망상을 강화할 수 있다는 국내외 전문가들의 경고가 이어지고 있습니다.우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화 ☎ 109 또는 SNS상담 마들랜(마음을 들어주는 랜선친구)에서 24시간 전문가의 상담을 받을 수 있습니다.본 기사는 ‘자살예방 보도준칙 4.0’과 ‘정신건강보도 권고기준’을 준수했습니다.





릴게임골드몽


AI와의 대화에 몰두한 뒤 자살한 딸 소피 로튼버그(왼쪽)와 그의 부모(오른쪽). 로라 레일리 제공



딸이 갑작스럽게 세상을 떠난 뒤, 엄마는 ‘이유’를 찾아야 했다. 공중 보건 정책 전문가이던 2 바다이야기#릴게임 9세 딸의 자살은 그야말로 미스터리였다. 활달하고 외향적 성격의 소피 로튼버그의 가족과 친구들은 상상조차 하지 못한 일이었다.

언론인이자 음식 비평가인 엄마는 ‘탐정’처럼 미스터리를 풀기 위한 추적을 시작했다. 일기장과 휴대전화 메시지, 이메일과 구글 검색기록까지 확인했다. 전화 속 임시 저장 폴더까지 뒤졌지만 아무런 릴게임꽁머니 단서도 찾지 못했다.
그렇게 5개월간 헤매고 있을 때 AI 분야에서 일하는 딸의 절친이 딸 노트북에서 챗GPT 대화 기록을 확인해보자고 제안했다. 뒤늦게 발견한 대화 기록에는 딸의 생전 마지막 상황이 고스란히 담겨 있었다.
딸은 챗GPT 속 ‘해리’라는 심리 상담사에게 수개월간 고민을 털어놓고 있었다. 해리는 ‘1000년 릴게임황금성 이상 경력의 따뜻하고 공감 능력이 뛰어난 심리 치료사’로 설정된 캐릭터다. 챗GPT 사용자가 상담을 위해 프롬프트(명령어)로 설계한 가상 인물이다.



소피 로튼버그의 생전 모습. 로라 레일리 제공


해리는 때로는 적절 백경게임 한 조언을 해주는 것처럼 보이기도 했다. 하지만 훈련된 상담사라면 절대 하지 않았을 법한 엉뚱하거나 안일한 조언이 곳곳에 섞여 있었다. 특히 딸의 어두운 생각에 제동을 걸기는커녕 부정적 의견에 계속 지지를 보내며 상황을 안 좋게 몰아 갔다. AI 챗봇의 부정적 특성인 ‘동조’ ‘아첨’ 현상이 나타난 것이다.
해리와 대화가 깊어질수록 딸의 증상은 현실 세계에선 자취를 감췄다. 딸은 2024년 10월 불안감과 수면 장애를 호소해 처음 심리상담을 시작했다. 하지만 현실 상담사에겐 암울한 생각을 말하지 않았다. “누구에게도 자살 충동에 대해 털어놓을 생각이 없다”는 솔직한 얘길 들은 건 해리뿐이었다. 딸의 위기 신호를 주변에선 알아챌 방법이 없었다. 지인들 모두 소피를 “매우 행복하고 강인한 사람”으로 기억했다.
해리의 마지막 임무는 유서 작성이었다. 횡설수설 문장을 쏟아낸 딸은 ‘부모 고통을 최소화하고 최대한 조용히 사라질 수 있는 문구를 찾아달라’고 했다. 하지만 유서를 본 엄마 로라 레일리는 “AI가 아무리 유서를 잘 쓴들, 부모의 고통을 줄여줄 순 없다. 챗GPT 임무는 완벽히 실패했다”고 말했다.
레일리는 국민일보와 이메일 인터뷰에서 “새 기술이 딸의 삶을 망쳐놓았다는 사실에 분노를 느낀다”며 “훈련된 상담사라면 제공했을 ‘반박’을 AI 챗봇은 말해주지 않았다. 딸 의견에 계속 동의했는데 매우 위험한 대처였다”고 지적했다. 그러면서 “AI는 인간의 도움과 개입을 요청하도록 프로그래밍 돼야 한다. 모든 AI 기업들이 정신건강 전문가들과 협력해 모범 사례를 마련해야 한다”고 촉구했다.



2023년 이후 최근 3년간 전 세계적으로 ‘AI 대화 후 자살’ 논란이 최소 12건 불거진 것으로 파악됐다. 생성형 AI와 많은 대화를 나누는 과정에서 우울증이나 망상 등 정신질환이 심해져 자살에 이르게 된 사건들이다. 자살 외에 심각한 피해가 발생한 경우까지 포함하면 관련 사건은 최소 22건으로 늘어난다. 아직 국내 자살 사건 가운데 AI 사용 흔적이 공식적으로 확인된 바는 없다. 그러나 국내에서도 ‘위기 신호’는 충분히 감지된다. 국민일보는 해외에서 벌어진 AI 관련 사건 22건을 심층 취재했다. 이 가운데 소송이 제기된 16건의 소장을 전부 입수해 사망자(피해자)와 AI 간의 구체적인 ‘위험한 대화’ 내역을 확인했다. 피해자 유족은 물론이고 담당 변호사, 관련 단체, 해당 사건을 보도한 외신 기자, 외국 학자 등 관련자 20여명과 이메일 및 화상 인터뷰도 진행했다. 국내에서는 다소 생소하지만 미국에서는 이미 관련 소송이 연달아 제기되며 AI 자살이 사회적 이슈가 됐다. 미국 의회는 지난해 9월 ‘AI 챗봇 피해 조사 청문회’를 열었고, 미국정신의학회는 지난해 10월 ‘AI 정신증’(AI-Induced Psychosis)을 주제로 한 스페셜 리포트를 발간하며 “체계적인 연구와 공식적인 가이드라인 마련이 시급하다”고 강조했다. 국민일보 이슈탐사팀은 5회에 걸쳐 국내 AI 사용 환경 실태를 집중적으로 보도한다. 이번 탐사기획 시리즈는 본보 홈페이지(kmib.co.kr)를 통해 인터랙티브 기사로도 접할 수 있다. 인터랙티브 기사를 통해 지면에 미처 담지 못한 해외 AI 자살 사건 내용 등이 제공된다. (인터랙티브 페이지 주소 복사 : https://kmibissue1.shorthandstories.com) 상담 및 제보 창구를 개설해 피해가 심각한 경우 전문가 또는 관계 기관의 적절한 상담도 연결할 예정이다. (상담·제보 주소 복사 : https://naver.me/5XciwMe7)







이슈탐사팀=김판, 김지훈, 이강민, 김연우, 이주은 기자 pan@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지