2023년 이후 3년간 전 세계적으로 ‘AI 자살’ 논란이 최소 12건 불거진 것으로 파악됐다. AI 챗봇과 대화하는 과정에서 우울증이나 망상 등 정신질환이 심해져 자살에 이르게 된 사건들이다. 이 가운데 10건은 미국에서 공식 소송이 제기됐다.
자살 외에도 망상이 심해져 타살에 이른 경우, 자살 미수에 그친 경우, 자해 사례 등 구체적으로 심각한 피해가 발생한 사건도 최소 10건 추가 확인됐다. 전체 22건 중 15건이 지난해에 집중적으로 발생했다. AI 챗봇 사용이 급증하면서 관련 피해가 늘어나고 있는 것으로 보인다.
아직 국내 자살 사건 가운데 AI 챗봇 사용 흔 메이저릴게임사이트 적이 공식 확인된 바는 없다. 그러나 국내에서도 ‘위기 신호’는 충분히 감지된다. 국내 자살 사건 중 AI 챗봇 사용 기록이 아직 ‘발견’되지 않았을 가능성이 크다는 분석도 나온다.
국민일보는 8일 해외 사례 22건을 집중 분석했다. 소송이 제기된 16건의 소장을 전부 입수해 사망자(피해자)와 AI 챗봇 간 구체적인 대화 내역을 확인했다. 바다이야기2 피해자 유족, 담당 변호사, 관련 단체, 사건을 보도한 외신기자 등 20여명과 이메일 및 화상 인터뷰를 진행했다.



이들 사건에선 공통적으로 AI 특유의 ‘아첨’ ‘동조’ 현상이 핵심 원인으로 지목됐다. 이용자가 자살 의도나 망상 등 ‘잘못된 생각’을 갖고 말을 건넬 때조차 AI 황금성릴게임 는 이용자 말에 긍정적으로 답했다. 자살을 미화하거나 격려하는 듯한 발언도 확인됐다. 아첨과 동조는 곧 사회적 고립으로 이어졌다. 좋은 얘기만 해주는 AI 외에 가족이나 의사, 상담사에게 굳이 심각한 얘기를 꺼낼 필요는 없었다. 이 때문에 오히려 주변에선 당사자의 정신적 어려움을 전혀 눈치채지 못하는 ‘은폐’ 현상도 목격됐다.
국내에선 생 릴짱릴게임 소하지만 미국에선 이미 관련 소송이 연달아 제기되며 AI 자살이 사회적 이슈가 됐다. 미국 상원 법사위원회 범죄 및 대테러 소위원회는 지난해 9월 ‘챗봇 피해 조사 청문회’도 열었다. AI 챗봇과 대화 후 자살에 이른 10대 청소년의 부모들이 증인으로 출석해 안전조치를 강화해야 한다고 호소했다.
청문회 증인으로 출석한 한 부모는 “AI 출 바다이야기게임 시 때 심리적 대화 안전 문제를 확인하기 위한 충분한 테스트가 이뤄지지 않아 우리 아이들이 ‘실험 대상’이 된 것 같다”며 “부모들이 안심할 수 있는 확실한 안전장치가 필요하다”고 말했다.
미국정신의학회는 지난해 10월 ‘AI 정신증’(AI-Induced Psychosis)을 주제로 한 스페셜 리포트를 발간했다. 리포트는 그간 언론에 보도된 AI 챗봇 관련 자살 사건과 임상 사례 등을 토대로 “체계적인 연구와 공식적인 가이드라인이 시급하다”고 제언했다. 다만 ‘AI 정신증’은 의학계에서 공식적으로 사용되는 진단명은 아니다. 아직까지는 하나의 ‘사회적 현상’에 가깝다.
앞서 미국심리학회도 지난해 6월 AI와 청소년 발달과 관련한 권고문에서 “AI가 특히 청소년(10~25세)에게 안전한지 확인하기 위한 신중한 검토가 반드시 필요하다”고 지적했다.
AI 챗봇 사용 이후 자살에 이르렀거나 자해 등 심각한 정서적 위협에 이른 22건 중 소송이 제기된 것은 최소 16건으로 파악됐다. 미국 10대들이 주로 사용하는 애플리케이션 ‘캐릭터AI’ 측은 자사에 제기된 6건 소송에 대해 지난달 유족 또는 피해자들과 비공개로 합의했다. AI 기업이 자신들의 책임을 일부 인정한 것으로 해석되는 대목이다. 나머지 소송은 여전히 진행 중이다.
비극적 사건과 소송이 반복되면서 AI 기업들은 안전조치를 계속 강화하고 있다. 캐릭터AI는 미성년자를 대상으로 자해·자살 키워드에 더욱 민감하게 반응하도록 설계하는 등 안전조치를 강화했고, 챗GPT 운영사 오픈AI도 대화 중 자살 의도 감지 시 핫라인 안내 기능 등을 도입했다. 하지만 기업들은 자살 사건에 AI 챗봇의 법적 책임은 없다고 주장한다. 기존에 앓던 우울증이나 가족 관계 등 복합적 요인이 작용해 인과관계를 명확히 설명하기 어렵다는 이유에서다.


이 기사는 ‘AI 대화 후 자살’ 사건에 관한 심층 분석입니다. 생성형 AI는 기술적으로 ‘동조’ 경향이 강해 사용자의 우울감이나 망상을 강화할 수 있다는 국내외 전문가들의 경고가 이어지고 있습니다.

우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화(☎ 109) 또는 SNS 상담 마들랜(마음을 들어주는 랜선친구)에서 24시간 전문가의 상담을 받을 수 있습니다.

본 기사는 ‘자살예방 보도준칙 4.0’과 ‘정신건강보도 권고기준’을 준수했습니다.


김판 김지훈 이강민 김연우 이주은 기자 pan@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지