[주간경향] 챗GPT 등 생성형 AI가 대중화되면서 일부 출판사가 생성형 AI를 활용해 막대한 양의 책을 찍어내고 있다. 번역과 기획, 저술 과정에서도 인공지능(AI)이 활용되고 있지만, AI 생성물 표기 의무 등은 전혀 없다. 신뢰도를 가늠하기 어려운 양산형 책이 쏟아져나오는 가운데, 생성형 AI에 대처하는 출판사 차원의 다양한 시도도 존재한다.

신뢰도 물음표, 양산형 AI책들

2025년 한 해에만 최소 9000종의 전자책을 출판한 A출판사의 경우 특정한 저자 이름 없이 대부분의 책이 ‘A출판사 ○○출판 에디팅팀’이라는 이름으 릴짱릴게임 로 출간됐다. 다루는 분야도 경제, 고전, 인문학부터 자기계발, 패션, 식음료까지 다양하다. 표지는 거의가 똑같은 바탕에 비슷한 테마를 엮어 생성한 제목이 적혀 있는 형태다. 예를 들어 ‘아포리즘(금언·격언)’이라는 키워드로만 지난해 11월 한 달간 110여권의 전자책이 출간됐다. 이 역시 저자는 ‘인문출판 에디팅팀’이었다. 해당 시리즈에선 동서고금 위인들 야마토무료게임 의 명언을 소개하고 있었지만 발언의 출전, 참고문헌 등은 표기된 게 없다. 해당 출판사가 출간한 전자책 속의 패션 관련 이미지는 모두 AI 생성 이미지였다.



A출판사 이름으로 검색하면 나오는 패션 관련 서적들. 표지와 수록 이미지 모두 생성형 AI로 만들어진 것이 의심된다. 릴게임바다신2 교보문고 사이트 갈무리


연구자 B씨(39)는 “학술서에 들어갈 만한 키워드들을 가지고 AI로 그럴듯한 목차를 뽑아내 양산형으로 책을 내는 출판사도 존재한다”며 “처음엔 AI 생성 책인지 몰라서 검색에 걸려 몇 권 사봤는데 내용이 엉망진창이었고, 참고문헌도 적혀 있지 않았다”라고 말했다. 최근 한 바다신게임 소셜네트워크서비스에서는 온라인서점 검색 시 특정 출판사 차단 기능을 배포하기도 했다. AI 생성 책이 쏟아지면서 책을 찾을 때 키워드 검색이 방해받을 지경이 됐기 때문이다.
2023년 아마존은 AI로 생성된 것으로 의심되는 자료들이 아마존 사이트에 대량으로 등록되기 시작하자, 상품 등록 시 콘텐츠가 AI로 생성된 것인지 여부를 반드시 밝히 게임몰 도록 하고 등록할 수 있는 도서의 수를 하루 3권으로 제한하는 규정을 신설한 바 있다.
그간 기술·정보 관련 서적을 주로 출판해온 C출판사는 최근 호메로스의 <오딧세이아>, 카프카의 <변신> 등 고전 문학 번역본을 다수 출간했는데, 번역본 중 “스불재(‘스스로 불러온 재앙’을 줄인 신조어)”, “알빠노(‘네 사정은 알 바 아니다’라는 의미의 신조어)” 등 맥락상 어울리지 않는 표현이 등장하거나 어투가 갑자기 바뀌는 등의 문제로 생성형 AI 번역이 의심되며 논란이 되기도 했다. 역자 이름은 ‘제미나이·S’라고 돼 있으며, 해당 책은 종이책으로도 나와 대형서점에도 입고된 상태다.
생성형 AI의 과잉 사용이 의심되는 책들은 일부 도서관에 들어오기도 한다. 대학원생 이모씨(27)는 최근 동네 도서관의 신간 코너를 훑어보다가 당황스러운 경험을 했다. 문단과 문단이 마치 요약형처럼 한두 줄씩만 적혀 있거나 비문이 있고, 삽입된 이미지들이 책 내용과 관련이 없으며 생성형 AI로 만든 것처럼 보이는 책이 서가에 꽂혀 있었기 때문이다. 이씨는 “직접 보면 본문 내용도, 수록된 그림도 생성형 AI로 만들어진 것을 모를 수가 없을 지경”이라며 “책의 가격도 2만원 이상인 데다 같은 저자의 비슷한 책이 여러 권 꽂혀 있었는데, 이런 책을 사려고 다른 신간을 구입하지 못하게 되면 이용자들 입장에서도 큰 손해일 것”이라고 말했다. 다만 현재로서는 희망도서 선정제외 기준에 선정성, 고가 도서, 영리·정치 목적 신청자료 등은 포함돼 있지만 생성형 AI와 관련된 규정은 없다.
업계 관계자는 “AI로 빠르게 만든 책을 굳이 종이책으로 내는 이유는 도서관에 납품하는 것이 목적일 가능성이 크다. 그런 곳들이 더 늘어날 수 있다”고 말했다.

챗GPT 내용 그대로 복사해 내기도

업계에선 이와 같은 추세가 출판계 전반으로 퍼져나갈지에 대해서는 의견이 갈리지만, 그럼에도 전반적으로 AI 양산 책이 책에 대한 신뢰도를 낮추고, 도서관 수서 비용 등 공공자원을 낭비할 수 있기 때문에 적절한 조치가 필요하다는 지적이 나온다.
출판사 대표 D씨는 “생성형 AI를 과도하게 쓴 책들이 정성을 들인 책을 대체할 수 있을 것이라고는 생각하지 않는다”면서도 “기존에 대중의 선택을 받기 어려웠던 학술서, 교양서 등의 경우 도서관 납본이 그나마 도움이 되는데 AI 양산형 책이 안 그래도 적은 책 구매 예산을 잡아먹게 되면 기존의 정성 들인 책을 만들던 출판사들이 어려움을 겪을 가능성이 있다. 도서관에 갖춰야 할 양서의 기준을 현실화할 필요가 있다”고 말했다. 20년 이상 경력의 편집자 E씨 역시 본질적인 출판 노동이 생성형 AI로 대체되긴 어렵다고 말한다. E씨는 “(번역 출판의 경우) 요즘 계약에서는 저작권 등의 문제로 아예 번역 과정에 ‘인공지능 활용 금지’ 문구를 명시해두는 경우가 대부분”이라며 “다만 국내 저자의 경우에는 확실히 챗GPT를 활용해 글을 쓰는 사람들이 늘었을 텐데, 그 경우에도 편집자가 보면 티가 나기 때문에 일반적인 출판사에서 기획이 쉽게 통과되기 어려울 것”이라고 말했다.
필요한 경우 AI를 사용하되 학술 논문의 경우처럼 기준과 범위를 명백하게 밝히는 것이 답이 될 수도 있다. ‘사이언스’처럼 아예 생성형 AI 텍스트, 사진 삽입을 불허하는 경우도 있지만 출판윤리위원회(COPE) 등의 경우 원고 작성에 AI를 활용한 경우 사용 목적과 범위를 명확히 공개하며 그 결과물에 대해서는 저자가 책임을 지도록 하고 있다.
예를 들어 국내 출판사 가운데 1000종의 ‘인공지능총서’ 시리즈를 목표로 현재 약 650권째 발간한 커뮤니케이션북스의 경우 지난해 12월 생성형 AI 관련 가이드라인을 발표했다. AI를 보조적인 부분에는 활용할 수 있지만 활용 여부를 서문에 명시해야 하고, 최종적인 사실관계 확인 책임은 저자에게 있다는 내용 등이다. 커뮤니케이션북스 관계자는 “생성형 AI가 생성한 문장을 그대로 복사하는 것은 표절에 해당하기 때문에 허용되지 않는다”며 “AI를 활용해 요약·정리한 내용이라도 최종 결과물에 대해 할루시네이션(거짓 정보) 등이 없는지를 확인하는 것은 저자의 역할”이라고 말했다.



1000종을 목표로 인공지능총서를 내고 있는 커뮤니케이션북스 출판사는 지난해 12월 출판사 중 최초로 ‘생성형 AI 가이드라인’을 발표했다. 커뮤니케이션북스


AI로 생성되는 책 대부분이 정보성 논픽션이라는 점에서, 그런 종류의 논픽션 ‘책’ 수요가 얼마나 되는지 짚어볼 필요가 있다는 의견도 있다. 한기호 출판마케팅연구소장은 “논픽션의 인기가 크게 떨어진 오늘날, (생성형 AI로 찍어낸) 단순 정보들로만 이루어진 ‘책’이 얼마나 대중 독자에게 어필할 수 있을지 회의적”이라며 “애초 그런 정보를 원하는 사람들은 책이 아닌 챗GPT로 정보를 얻을 텐데, 챗GPT 내용을 그대로 낸 책을 얼마나 볼지도 의문”이라고 말했다.
문화체육관광부 관계자는 “(생성형 AI) 규제에 대해서는 조심스럽게 접근해야 하는 부분이 있기 때문에 당장 구체적인 규제를 만들려고 진행 중인 건 없다”며 “다만 출판계에서도 생성형 AI 문제가 이슈가 되고 있는 상황은 알고 있기 때문에 내년도 수립·발표될 출판문화산업진흥계획에 AI 관련 정책을 담아내려고 준비 중”이라고 말했다.
김지원 기자 deepdeep@kyunghyang.com