“챗GPT한테 물어봐.”
2020년대, 우리가 가장 많이 쓰는 말은 바로 이 말이 아닐까요? 인공지능(AI)은 인터넷이, 스마트폰이 그랬던 것만큼이나, 아니, 그보다 더 빠르게, 광범위하게 우리 생활에 침투하고 있습니다. AI는 개인의 일상에서 대화 상대를 해주거나, 레시피를 추천해 주거나, 다이어트 플랜을 짜주는 것을 넘어, 사회 곳곳에서 중요한 역할을 맡기 시작했습니다. 공공 부문에서는 ‘AI 국민비서’ 시범사업이 시작되었고, 국가인공지능전략위원회가 출범했습니다. 이러한 추세는 세계적입니다. 싱가포르는 공공 행정에 AI 에이전트를 도입해 데이터 분석과 문서 처리에 활용하고 있으며, 야마토릴게임 미국은 군사 작전에서도 AI 에이전트를 정보 분석 참모로 투입했습니다.



서아람 변호사



그러나 규제나 관리 없이 무분별하게 확산되는 AI로 인하여, 곳곳에서 불평과 비난의 목소리도 들리고 있습니 모바일릴게임 다. 대형 사고도 속속들이 터집니다. 미국의 유명 일간지 시카고 선타임스에서는 ‘여름을 위한 도서 추천’ 특집 기사를 실으면서, 해당 작가가 실제로 쓴 적도 없는 가짜 소설 제목을 한 무더기 포함시켜 망신을 샀습니다. 알고 보니 AI를 활용한 기사였습니다. 맥도널드는 업계 최초로 드라이브 스루 음성 주문에 AI를 적용하려는 시도를 했지만, 오류를 일으킨 A 모바일바다이야기하는법 I가 한 개의 맥너깃 주문을 260개로 등록하는 참사를 일으켰습니다. 미국의 한 변호사는 콜롬비아 항공사를 상대로 제기한 소송에서 AI를 법률 조사에 활용했다가, AI가 실제로 존재하지도 않는 가상의 판례와 인용문을 대거 생성하는 바람에 패소하고 페널티까지 받았습니다.

단순히 가짜 정보만 유통되는 거라면 그나마 다행입니 릴게임신천지 다. AI에 대한 사람들의 맹신은 더 치명적인 결과를 낳기도 합니다. 미국에서는 10대 소년이 특정 드라마 캐릭터를 닮게 설정한 AI 챗봇과 몇 달간 대화를 나누면서 정서적으로 의존하다가, 자살에 대하여 긍정적으로 표현하는 챗봇의 말에 실제로 극단적인 선택을 하는 사건이 발생했습니다. 아마존에서는 약 4년간 AI 기반 채용 시스템을 사용해 왔는데, 훈련 데 바다이야기프로그램다운로드 이터에 성차별적인 자료를 활용하여 이를 학습한 AI가 성차별적인 편향을 띠게 되었으며, 여성 지원자들을 자동으로 감점하거나 탈락시켜 왔던 것이 밝혀져 결국 해당 시스템을 폐기하는 사건도 발생했습니다. AI에 대한 법률적인 통제뿐만 아니라, 윤리적인 선도 재정립되어야 한다는 것을 보여주는 사례들입니다.
그리고 2026년 1월22일, 우리나라에서는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’, 이른바 ‘AI기본법’이 시행됐습니다. 법률 제정 자체는 유럽연합(EU)이 빨랐지만, AI 관련 법률을 전면 시행한 것은 세계 최초라고 인정받고 있습니다. 과연 정보기술(IT) 강국, 속도의 나라 대한민국답습니다. 그러나 그 역사적, 사회적 의의에 비해 국민의 인식이나 이해도는 그에 미치지 못하는 것 같습니다. 실제로 AI기본법이 시행된 지 3개월이 넘었다는 사실을, 아니, 그런 법이 생겼다는 것도 모르는 국민이 대다수이기 때문입니다. 기업들도 마찬가지입니다. 법률 시행으로 인하여 지금까지 자유롭게 활용하던 AI에 어떤 변화가 생기는지, 아무도 정확하게 알 수 없어, 여기저기서 전문가를 초빙하고 강연과 세미나를 열고 있지만, 구체적으로 무슨 준비를 언제부터 어디서부터 시작해야 하는지 종잡지 못하는 상황입니다.
다행히 AI기본법은 1년간 자율통제기간을 두고 있습니다. 일종의 ‘연습 기간’인 셈입니다. 해당 법률에서는 에너지, 식수, 의료, 채용, 대출, 심사, 공공 서비스, 교육을 포함한 10개 영역을 고영향군으로 분류하고, 해당 분야와 관련된 AI에 대해서는 수시로 위험성 영향 평가를 실시하도록 규정하고 있습니다. 또한 고영향군에서 AI를 활용하는 기업에는 기획 단계부터 검증·개발·배포·운영 전 과정의 위험 관리 활동 그리고 이에 대한 기록을 유지하는 의무를 지웠습니다. 즉, 인간의 생명과 신체, 재산과 인격에 직접적으로 영향을 미칠 수 있는 주요 영역에 있어서는 투명하고 안전한 AI관리를 의무화하자는 것, 이게 해당 법률의 핵심이라고 할 수 있습니다.
다만 입법의 공백을 메우기 위하여 신속하게 법을 제정하다 보니, 미처 규율하거나 정비하지 못한 부분들도 속속들이 발견되어 지적을 받고 있습니다. 예를 들어 가짜 정보에 특별히 취약한 계층인 아동 청소년에 대한 안전 보호 의무가 그렇습니다. 전문가들은 AI 서비스 및 개발사에 성인 이용자뿐만 아니라 아동·청소년 이용자를 고려한 AI 사용 사실 투명 고지, 감사 로그 확보, 기만적 AI 설계 금지 등 구체적인 의무를 부여해야 한다고 말합니다. AI를 일선 학교 등 교육 현장에서도 다각도로 활용하고 있어, 교원의 AI 활용 능력 증진과 윤리 교육 제도도 의무화되어야 한다는 개정안도 제시되었습니다.
AI기본법이 시행되었지만, 정작 가장 취약한 이용자에 대한 보호 장치는 여전히 부족한 상태입니다. 다행히 현재의 법률은 완성판이 아니며, 향후 개정과 보완을 통해 더 정밀한 형태를 갖추어야 한다는 것에 사회 각계각층에서 뜻을 모으고 있는 것으로 보입니다. 한 번 만들어진 규제는 부작용이 생기더라도 없애기 어렵습니다. 그렇다고 규제가 없는 상태로 방치하면 결국 사고로 이어집니다. 어려운 문제이지만, 피할 수 없는 문제입니다. 우리는 이미 AI와 함께 살아가고 있기 때문입니다. 제도가 완성되기를 기다리는 사이에도 기술은 계속 발전하고 있습니다. 이 문제의 중요성을 모두가 인식하고, 활발한 토론과 연구를 거쳐 보다 안전하고 건강한 AI 시대를 만들기 위해 힘을 합쳐야 할 시점입니다.
서아람 변호사