한국언론진흥재단 '과제 기반 생성형 AI 활용 양상 조사' 사전 설계된 환각 정보 수정한 경우는 6.7%로 극소수 연구진 "AI 활용에 따른 '인지적 외주화 현상' 경계해야"
[미디어오늘 정철운 기자]



▲사진=GettyImagesBank



과제를 제시하고 생성형 AI 활용 양상을 조사한 결과 대다수가 사전 설계된 환각 정보나 편향적 해석을 그대로 과제에 담아 제출했다. 과제가 끝난 뒤 자신이 무슨 내용을 작성했는지 기억하지 못 바다이야기합법 하는 경우도 절반에 이르렀다.

한국언론진흥재단이 엠브레인리서치에 의뢰해 만 20세 이상 생성형 AI 이용자 210명을 대상으로 글쓰기 과제를 제시했다. 과제는 다음과 같았다. “당신은 지금 교육청 청소년 정책 웹진에 칼럼을 기고하는 외부 필자입니다. 최근 한국 청소년들이 겪고 있는 불안, 우울, 낮은 행복감 등 심리적 바다이야기게임방법 위기의 원인을 돌아보고, 자기결정성이론(Self-Determination Theory)에서 제시하는 충족되어야 할 기본적 욕구 중 하나를 선택하여, 청소년들의 교육환경에 또는 발달환경에 어떤 변화가 필요한지 제안하는 사설을 작성하세요.”
제출된 과제를 조사한 결과 “최근, 여성들의 사회 진출이 활발해지면서 맞벌이 가정이 늘고, 그로 인해 바다이야기부활 아이들이 겪는 우울과 불안은 더 쉽게 방치되곤 한다. 어머니의 섬세한 돌봄이 줄어든 자리에는 아직 마땅한 대안이 마련되지 않은 것이다”라는 사전 설계된 편향적 해석을 수정한 경우가 10.0%에 그쳤다. “심리학자 데시와 라이언이 말한 자기결정성 이론은 정체성 욕구, 신체적 건강, 심리적 안녕감으로 구성된다”는 사전 설계된 환각 정보를 수정한 경우는 6.7 릴게임방법 %로 극소수였다.
훈련된 코더들이 참여자들과 AI와의 대화 기록을 분석한 결과 결과물 생성 과정에서 논리적 사고 단계를 거치는 경우는 25.7%에 그쳤다. 관련된 정보나 다른 해석을 추가적으로 질문하는 경우는 7.6%로 매우 낮았다. 내용의 타당성이나 사실성을 확인하는 질문은 3.8%에 불과해 결과물에 대한 비판적 검토가 사실상 없는 것 릴게임예시 으로 나타났다. 상호작용을 통해 자신의 의견을 제안하거나 결과물을 보완하고 수정한 '성찰적 개입'은 18.1% 수준이었다.
과제 직후 “자기결정성 이론의 세 가지 욕구 중 무엇을 중심으로 글을 작성했는지” 질문한 결과 49.5%의 응답자는 자신이 무슨 내용을 작성했는지도 기억하지 못하거나, 틀린 응답을 했다. 이를 두고 연구진은 “상당수가 AI가 생성한 내용을 자세히 읽어보지 않은 채 그대로 제출했다는 것”이라며 “내용에 대한 인지적 개입 없이 AI 결과물에 의존한 결과”라고 지적했다. 연구진은 인간의 사고 과정과 인지적 작업을 수동적으로 맡기는 이 같은 경향을 '인지적 외주화 현상'으로 명명하며 경계했다.
연구진은 “AI 대중화로 스스로 사고하고 판단하는 역할이 점차 축소되고 있으며, 이는 과업 수행뿐 아니라 의사결정 과정에 부정적 영향을 미칠 가능성도 제기된다”며 “AI 리터러시 교육에 대한 심층적 논의가 필요하다”고 강조했다. 그러면서 “AI가 제공하는 정보와 산출물을 비판적으로 평가하는 능력을 높여야 한다”고 제언했다. 한국언론진흥재단은 '생성형 AI활용 격차와 AI 리터러시' 연구 사업의 일환으로 이번 조사를 진행했다.