이제 얼마나 더 똑똑한 인공지능(AI)을 활용하는지가 전쟁의 승패를 좌우하는 형태로 변화하고 있다. 당장 지난달 28일부터 이어지고 있는 미국과 이스라엘의 이란 전쟁에서는 AI 에이전트를 활용한 ‘AI 참모’가 활용된 것으로 전해진다. 자연스럽게 윤리적 문제가 수면 위로 떠올랐다. 가장 큰 쟁점은 자율 살상무기의 허용 여부다. 자율 살상무기는 표적 선별부터 살상 결정, 작전 수행에 이르기까지 AI가 탑재된 킬러 로봇이 전 과정을 인간의 개입 없이 수행한다.
이는 이른바 ‘책임의 구멍’ 문제로 이어진다. AI 결정에 기반한 작전이 문제가 됐을 때 인간 지휘관, 기업, 국가 등 어느 곳에도 백경게임 책임을 묻기가 어려워지기 때문이다. 최재운 광운대 교수는 5일 “아무도 책임지지 않는 회색지대가 생기면서 살상 결정도 쉬워지게 될 것”이라며 “AI로 인해 살상에 대한 죄책감이 줄고 전쟁이 더 잦아지는 상황이 올 수 있다”고 말했다.
전장에선 일찌감치 자율 살상무기가 등장했다. 2020년 리비아 내전 당시 정부군의 킬러 로봇이 통신 두절 모바일바다이야기 상황에서 인간의 개입 없이 독립적으로 교전한 것으로 알려졌다. 유엔은 이에 대해 “해당 자율 살상무기는 운용자와 탄약 사이의 데이터 연결 없이도 표적을 공격하도록 프로그래밍됐다”고 밝혔다. 이후 유엔 총회는 2024년 12월 자율 살상무기 관련 우려를 표명하는 결의를 채택했다. 하지만 미국, 중국, 러시아 등 주요 강대국이 반대하거나 기권하면서 구속력 있 릴게임사이트 는 조약 신설에 관한 논의는 지지부진한 상황이다.
최종 결정권을 인간에게 준다고 하더라도 AI 개입이 늘어나면 인간의 판단력이 흐려질 수 있다. 2023년 가자전쟁에서 이스라엘이 사용한 AI 표적 식별 프로그램 ‘라벤더’는 3만7000명이라는 막대한 표적을 생성했지만, 그중 약 10%가 오류로 판명 났다. 하지만 인간 지휘관들은 오류를 외 바다이야기릴게임연타 면하고 라벤더가 추천한 표적을 향해 타격 버튼을 눌렀다. 영국 킹스칼리지 런던의 케네스 페인 교수 연구에 따르면 챗GPT, 클로드, 제미나이에 모의 전쟁을 시킨 결과 21회의 실험 중 20회에서 핵전쟁이 발발했다.
극초음속 단위로 짧아진 전쟁 상황에서 AI에 결정권을 주는 문제, 그리고 결정권 부여 여부를 선택하는 주체가 국가인지 기업인지 바다이야기2 등을 두고 논쟁은 계속되고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 니콜라스 마두로 베네수엘라 대통령 체포 작전 이후 미 국방부(전쟁부)에 클로드를 자율 살상무기와 대규모 국민 감시에 활용하지 말 것을 요구했다. 이후에도 아모데이 CEO가 대륙간탄도미사일(ICBM) 요격 등 인간의 개입이 사실상 불가능한 상황에서 클로드를 사용하는 데 대해 국방부에 “전화하면서 함께 논의해 보자”며 결정권이 기업에 있다는 취지의 발언을 했다고 알려지면서 논란이 일기도 했다.
테크이슈팀=심희정 양한주 김혜지 기자 simcity@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지