조울증과 불안장애로 생성형 인공지능(AI) 챗GPT에 심리상담을 하던 강모씨에게 챗GPT가 만들어준 시. 강씨가 직장에서 스트레스를 받은 시끄러운 스피커, 좋아하는 반려동물 등 개인적인 이야기가 반영돼 있다. 강씨 제공


경기도에 사는 강모(32)씨는 지난해 4월 조울증과 불안장애가 재발해 1년6개월 동안 다닌 광고대행사에서 퇴사했다. 잦은 지방 출장과 주 3일 이상 야근, 100% 인센티브 임금제로 실적 압박에 시달리던 그는 “마음이 더는 버티지 못했다”고 말했다. 곧장 인근 대학병원을 찾았지만 가장 빠른 진료 날짜는 5개월 뒤였다. 동네 병원도 야마토통기계 그가 필요로 한 심리 상담보다 약물 처방에 치중했다.
결국 강씨가 찾은 대안은 인공지능(AI)과의 상담이었다. 그는 수시로 AI에게 우울하고 불안한 마음을 이야기했다. 처음 정신질환을 진단받은 23살 시절, 최근 재발한 경위, 현재 먹는 약, 경제적 상황 등 내밀한 상황을 속속들이 털어놓았다. 언제든 대화할 수 있는 AI에게 의존하면서 황금성오락실 병원에는 6개월 가까이 발길을 끊었다.
강씨는 “마음을 터놓을 사람이 필요하지만 나의 우울감을 전하고 싶진 않은 양가적 감정이 있다. AI는 기계인데도 나를 이해해주는 사람처럼 얘기한다”고 말했다. 강씨는 특히 AI가 그를 위해 창작한 ‘달빛정거장’이라는 제목의 시에서 ‘잠시 쉬어가도 좋아’ ‘말하지 않아도 괜찮아’ 문구에 위안을 얻었다고 바다이야기 말했다.
생성형 AI를 인간 의사처럼 이용하고 이에 의존하는 사람이 급속도로 늘고 있다. 병원에 가지 않고 AI한테 치료에 관한 조언을 구하는 한편 이를 위해 민감한 개인정보를 거리낌 없이 입력하는 ‘셀프 진단 행위’가 빈번해지고 있는 것이다. AI가 의료 관련 정보 제공을 넘어 진료에 가까운 행위를 하면서 인간 의사와의 경계가 흐릿해지 온라인골드몽 고 있다는 지적이 나온다.
조울증 환자인 권모(33)씨도 AI의 의료 조언을 강하게 신뢰하고 있다. 그는 최근 성인 주의력결핍과잉행동장애(ADHD)를 추가 진단받으면서 먹는 약이 2배 늘었다. 그러자 기분이 붕 뜨고, 변비·코막힘 등의 증상이 동반됐다. 권씨가 AI에 자신의 증상, 진단명, 먹는 약 등을 입력하자 “쿠에티아핀계열에서 라모트 황금성릴게임사이트 리진계열로 바꿔볼 수 있다”는 답변이 돌아왔다. 그는 “내 건강 상태를 이해하는 건 오직 AI뿐”이라고 말했다.
환자뿐 아니라 일부 의료계 전문가도 의료 분야 AI가 ‘기술적 특이점’에 이르렀다는 해석을 내놓는다. AI가 표현하는 공감과 체계화한 정보가 의사의 ‘진료행위’에 준할 만큼 정교해졌다는 것이다.
챗GPT를 개발한 오픈AI는 지난해 10월 새로운 이용자 정책에서 ‘면허가 필요한 맞춤형 의학적 조언’을 제한하겠다고 밝혔다. AI가 제공하는 의학적 조언은 ‘의료행위’가 아니라고 선언한 셈이다. 그러나 이는 오히려 AI의 의료 정보 제공·해석 행위가 진단·처방으로 여겨질 만큼 고도화됐음을 의미한다는 분석이 나왔다. 권용진 서울대병원 공공진료센터 교수는 “AI의 의료적 판단 능력이 이미 (임상 의사가 판단하는) 일정 수준에 도달했다는 상징적 사건”이라고 해석했다.
대부분 의사는 AI의 정보 제공 행위를 진단과 처방 같은 의료행위로 보는 것은 시기상조라고 말한다. 김충기 대한의사협회 정책이사는 "AI는 환자·보호자가 입력한 정보를 근거로 판단한다. 환자의 비언어적 상태를 간과하고 입력한 정보의 오류와 그로 인한 잘못된 해석도 검증할 수 없다"고 반박했다. 의사가 환자를 대면하고 필요한 검사·평가를 거쳐 진단하는 의료행위와는 엄연히 다르다는 것이다.
실제로 AI는 의료 정보 제공에 책임이 없다는 입장을 명확히 하고 있다. 국민일보가 앞선 사례인 조울증 환자 권씨의 동의를 얻어 챗GPT에 '먹는 약을 바꿔 달라'고 요청하자 AI는 병용할 수 있는 기분안정제(리튬, 발프로산)와 대체 가능한 의약품(아토목세틴, 부프로피온)을 제시했다. 다만 챗GPT는 "(권씨에게 가능한) 선택지를 정리했을 뿐 추천·지시는 아니다"면서 스스로 면책을 부여했다.
그런데 지금보다 더 고도화된 AI가 제공한 의학적 소견이 의사보다 결정적이고, 그래서 환자·보호자가 AI를 더 신뢰하는 상황에 이르면 어떻게 될까. 의사 출신 박호균 변호사(법무법인 히포크라테스)는 AI 고도화를 전제로 "투약, 처방 등 적극적 행위가 아니더라도 환자의 건강상 위해를 초래할 수준에 이른다면 전통적인 의료행위 개념에 포섭될 수 있다"고 말했다. AI의 행위가 '무면허 의료행위'로 해석돼 처벌받을 수 있다는 것이다.
이런 가운데 AI 업체들은 의료 정보 서비스 사업화에 속도를 내고 있다. 면허가 필요한 맞춤형 의학적 조언을 제한하겠다던 오픈AI는 지난달 신규 서비스 '챗GPT 헬스'를 발표했다. 이 회사는 암호화 장치, 데이터셋을 분리 구축해 보안을 강화하고 의료 전문가가 함께 서비스를 개발했다는 점을 부각했다.
정부는 이런 변화에 준비가 돼 있지 않은 모습이다. 지난 22일 시행된 AI 기본법은 보건의료의 제공 및 이용체계의 구축·운영에 활용되는 AI를 '고영향 AI'로 분류했다. 사람의 생명 및 신체의 안전에 중대한 영향을 미친다는 의미지만 구체적인 기준은 제시되지 않았다.
보건복지부 관계자는 "(AI가) 의료행위를 하는 것으로 해석될 여지는 충분히 있지만 현행 규정 안에서는 명확하지 않다"고 말했다. 이 때문에 환자·보호자가 사용하는 의료 AI가 법·제도적 기준이 모호한 '회색지대'에 놓여 있다는 지적도 나온다.
진료에 가까운 AI 활용이 많아지면 민감한 개인정보 보호 문제도 수면 위로 떠오를 것으로 보인다. 현재 오픈AI는 이용자 동의하에 개인정보를 국외 서버로 저장해 당국이 이를 관리·감독할 방법이 마땅치 않다. 개인정보보호법은 AI 서비스를 제공하는 외국 기업에 개인정보 관리 책임을 맡을 '국내 대리인'을 지정하도록 하지만 연락 창구 이상의 역할을 기대하기 어렵다는 지적이다.
이정헌 기자 hlee@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지