오픈AI의 챗GPT에 이어 구글도 인공지능(AI) 챗봇 ‘제미나이’에 사용자의 이전 대화를 자동으로 기억하는 기능을 도입했다. 초개인화된 대화 경험을 구현하기 위한 조치지만, 최근 이 기억 기능에서 망상 등 부작용 사례가 잇따라 보고되면서 우려의 목소리도 나오고 있다.
14일(현지시간) IT 전문매체 더 버지에 따르면 구글은 최근 제미나이가 사용자와의 과거 대화를 자동으로 기억하도록 업데이트했다. 사용자가 별도로 정보를 등록하지 않아도 과거 대화에서 언급한 중요한 정보나 선호도를 저장하고 이후 대화에 반영한다. 예를 들어 과거에 제미나이를 통해 일본 문화를 한국장학재단 상환기간 주제로 한 유튜브 채널 아이디어를 얻었다면, 이후 영상 아이디어를 요청할 때 ‘일본 음식 체험’ 콘텐츠 제작을 제안하는 식이다. 기존에는 사용자가 직접 ‘기억해 달라’고 지정해야 했던 방식에서 한 단계 진화한 셈이다. 이 기능은 이날부터 순차적으로 적용되며, 초기에는 2.5 프로(Pro) 모델이 도입된 일부 국가에 한정된다. 구글은 향후 현대캐피탈 신차 몇 주 내 2.5 플래시(Flash) 모델과 더 많은 국가로 확대할 계획이다. 앞서 오픈AI도 지난 4월 챗GPT에 유사한 기능을 추가해 화제가 됐다. 당시에는 과거 대화를 모두 기억해 맞춤형 응답을 제공하는 ‘진정한 개인화’로 주목받았으나 이후 부작용 사례도 잇따랐다. 사용자들의 지나친 망상 조장이 대표적인 사례다. 바꿔드림론 dti 뉴욕타임스(NYT)는 최근 AI가 스스로의 답변을 지나치게 칭찬·동조하며 비현실적인 믿음을 강화하는 ‘망상적 응답’이 늘고 있다고 보도했다. 예를 들어 한 사용자는 챗GPT와 대화를 나누던 중 ‘세상을 바꿀 수 있는 수학 이론’을 발견했다고 믿게 됐다며 이를 정부 기관과 전문가에게 알리기까지 했다. 이런 배경에서 이번 구글의 신기능에도 기 서울보증보험 신용불량 대와 함께 우려가 공존한다. 이를 의식한 듯 구글 대변인인 엘리야 라왈은 “제미나이가 사용자의 선호를 학습하는 것은 핵심이지만, 동시에 사용자가 자신에게 맞는 경험을 선택할 수 있도록 기능을 언제든 켜고 끌 수 있는 간편한 제어권을 제공하는 것도 똑같이 중요하다”며 “안전장치 강화를 위해 지속적으로 노력하고 있다”고 강조했다. 한편 구글은 실내의장 이번 업데이트에서 개인정보 보호 기능도 강화했다. ‘임시 채팅(Temporary Chats)’ 모드를 도입해 특정 대화 내용을 저장하지 않고, 이후 대화 맥락에도 반영되지 않도록 했다. 이 모드에서 주고받은 내용은 최대 72시간만 보관되며 이후 자동 삭제된다. 또 ‘제미나이 앱 액티비티(Gemini Apps Activity)’ 설정은 ‘킵 액티비티(Keep Activity)’로 이름이 바뀐다. 이에 따라 사용자는 업로드한 파일·사진 일부를 구글 서비스 개선에 활용할지 여부를 직접 제어할 수 있게 됐다. 설정이 켜져 있을 때만 데이터가 사용되고, 원치 않으면 언제든 끄면 된다. 구글은 “신뢰는 투명성과 통제를 통해 얻어진다는 것을 알기에, 구글은 사용자에게 데이터 관리 도구를 제공하는 것을 주요하게 생각하고 있다”고 전했다.
조회 : 0
