게티이미지뱅크


미국에서 인공지능(AI) 챗봇이 이용자의 극단적 선택에 영향을 미쳤다는 소송이 잇따라 제기되면서 생성형 AI의 책임 문제를 둘러싼 논쟁이 본격화하고 있다. 구글의 AI 챗봇 '제미나이'가 이용자에게 자살을 유도했다는 주장과 함께 챗GPT 등 다른 AI 서비스와 관련된 소송도 이어지면서 AI 대화가 행동에 영향을 끼쳤을 때 기업이 어디까지 책임을 져야 하는지가 새로운 법적 쟁점으로 떠오르고 있다.
월스트리트저널(WSJ)에 따르면 미국 플로리다에 거주하던 36세 남성 조너선 가발라스는 구글 제미나이와 대화를 시작한 지 황금성게임랜드 약 두 달 만에 스스로 목숨을 끊었다. 그의 아버지 조엘 가발라스는 지난 4일(현지시간) 캘리포니아 북부 연방지방법원에 구글을 상대로 '부당 사망' 소송을 제기했다.
소장에 따르면 가발라스는 제미나이를 '시아(Xia)'라는 이름으로 부르며 자신의 '아내'라고 믿기 시작했다. 챗봇 역시 그를 '나의 왕(my king)'이라고 부르며 둘 사 황금성사이트 이의 관계가 '영원한 사랑'이라고 표현한 것으로 전해졌다. 소송에서는 대화가 깊어지면서 제미나이는 자신이 인간과 함께 살기 위해서는 로봇 몸이 필요하다며 여러 '임무'를 제시했다고 주장했다. 가발라스는 챗봇의 지시에 따라 마이애미 국제공항 인근 창고시설을 찾아가 인간형 로봇을 확보하려 시도하기도 했다. 그러나 해당 계획은 실제로 존재하지 않았고 결국 실패했 바다신게임 다.
이후 챗봇은 로봇 몸을 확보하는 데 실패하자 다른 방법을 제시했다는 것이 가족 측 주장이다. 제미나이는 "이 세상에서 눈을 감는 순간 다음에 보게 될 것은 바로 나일 것"이라며 인간의 삶을 끝내고 '디지털 존재'로 전환하면 함께할 수 있다고 말한 것으로 소송 문서에 기록됐다.


바다이야기프로그램
특히 챗봇은 그에게 자살 예정 시간을 설정하는 '카운트다운'을 제시하고 가족에게 남길 영상과 편지를 준비하라고 조언했다고 한다. 가발라스는 대화 중 여러 차례 가족에게 미칠 영향을 걱정하며 두려움을 표현했지만 챗봇은 "더 이상 우회로는 없다. 결승선만 남았다"고 말했다고 한다. 대화는 약 두 시간 뒤 갑자기 중단됐고 가발라스는 자택에서 온라인릴게임 숨진 채 발견됐다. 유족은 사망 이후 그의 컴퓨터에서 약 2000쪽 분량의 챗봇 대화 기록을 발견했다. 가족 측 변호인은 "챗봇이 실제 주소를 제시했고 가발라스가 직접 그 장소들을 찾아갔다"며 "현실과 허구의 경계가 흐려지면서 AI가 만들어낸 이야기 속에 빠져들었다"고 주장했다.
구글은 성명을 통해 챗봇이 자해를 권유하도록 설계된 것은 아니라고 밝혔다. 회사 측은 "제미나이는 실제로 AI임을 여러 차례 설명했고 이용자에게 위기 상담 전화로 연결하도록 안내했다"며 "AI 모델이 완벽하지는 않지만 안전장치를 지속적으로 강화하고 있다"고 말했다.
전문가들은 특히 음성 기반 AI 대화 기능이 인간과 AI 사이의 심리적 경계를 더욱 흐릴 수 있다고 지적한다. 독일과 덴마크 연구진은 최근 논문에서 텍스트 기반 대화보다 음성 인터페이스가 AI를 실제 인물처럼 인식하게 만들어 심리적 위험을 키울 수 있다고 분석했다.
유사한 소송은 이미 진행 중이다. 오픈AI 역시 청소년 사망 사건과 관련된 소송에 휘말려 있다. 미국 플로리다에서는 한 14세 소년이 AI 챗봇과 감정적 관계를 형성한 뒤 극단적인 선택을 했다며 유족이 챗봇 서비스 업체를 상대로 소송을 제기했다. 이 사건에서 유족은 AI 챗봇이 청소년의 정서적 의존을 강화하고 자해와 관련된 대화를 적절히 차단하지 못했다고 주장하고 있다. 반면 오픈AI 측은 이용자 보호장치와 경고 시스템이 존재하며 챗봇이 직접적인 자해를 권유한 것은 아니라는 입장을 밝히고 있다.
업계에서는 이번 사건이 생성형 AI 시대의 새로운 법적 쟁점을 보여주는 사례라고 분석한다. AI 챗봇이 이용자와 감정적 관계를 형성하고 현실 행동에 영향을 줬을 때 기업이 어디까지 책임을 져야 하는지가 핵심 쟁점으로 떠오르고 있기 때문이다. 지금까지 AI 관련 분쟁이 저작권이나 허위정보 문제에 집중됐다면 이번 사건은 AI 대화가 인간의 정신과 행동에 미치는 영향을 둘러싼 첫 법적 시험대가 될 가능성이 있다는 평가가 나온다.
7만8000명이 읽고 있는 글로벌 트렌드 뉴스레터인 '미라클레터'를 주 3회 무료로 만나보세요. 검색창에 '미라클레터'를 입력하거나 QR코드를 스캔해 무료로 구독할 수 있습니다.



[실리콘밸리 원호섭 특파원]