국민일보 DB.


인공지능(AI) 기술이 군사 작전에도 활용되는 사례가 늘면서 AI의 군사적 활용 범위를 두고 정부와 업계가 대립하는 상황이 발생하고 있다. 미국 국방부는 생성형 AI 기업 앤트로픽이 자사 AI 모델 사용을 제한할 경우 강력한 제재를 가하겠다고 경고했다. 전문가들은 AI가 전장 상황에서 오판을 내릴 경우 민간인 피해가 발생할 수 있다며 우려의 목소리를 내고 있다.
피트 헤그세스 미 국방장관은 24일(현지시간) 국방부에서 다리오 아모데이 앤트로픽 최고경영자(CEO)를 만나 미군이 앤트로픽의 AI 모델 ‘클로드’를 모 릴게임 든 합법적 용도에 사용할 수 있도록 동의하라고 요구했다. 미 국방부는 앤트로픽이 설정한 안전장치가 군의 AI 활용에 걸림돌이 되고 있다는 입장이다.
헤그세스 장관은 앤트로픽이 이런 요구를 거부할 경우 계약을 취소하고 ‘공급망 위험’ 기업으로 선정할 것이라고 압박했다. 공급망 위험 업체로 선정되면 국방부와 거래하는 공급업체들이 클로드를 사용 골드몽 할 수 없다. 헤그세스 장관 또 필요할 경우 냉전 시절 제정된 국방물자생산법(DPA)을 동원해 클로드를 강제로 사용할 수 있다는 뜻도 시사했다. DPA는 국가 비상 상황에서 기업에 물자나 기술의 생산·공급을 강제할 수 있도록 한 법이다.
현재 클로드는 미군 기밀 시스템에서 사실상 유일하게 활용할 수 있는 AI다. 국방부는 지난달 니콜라스 체리마스터pc용다운로드 마두로 베네수엘라 대통령 체포·압송 작전에서도 클로드를 활용한 것으로 알려졌다.
하지만 앤트로픽은 클로드의 군사적 활용과 관련해 완전 자율무기나 자국민 대상 대규모 감시에는 사용할 수 없다는 입장을 보인다. 앤트로픽 측은 “국가안보 임무를 지원하는 데 협력하되 AI가 책임 있게 작동할 수 있는 범위 내에서만 제공하겠다”고 밝혔다.
골드몽사이트


미국 외에 다른 국가들도 AI를 군사적 목적으로 활용하는 추세다. 이스라엘군은 중동 가자지구에서 AI 시스템인 라벤더를 활용해 팔레스타인 무장단체인 하마스 연계 의심자 약 3만명을 추린 바 있다.
전문가들은 AI의 군사적 활용이 중대한 위험을 동반할 수 있다고 지적한다 골드몽릴게임릴게임 . AI가 분석한 정보를 토대로 군사적 판단을 내렸을 경우 책임 소재가 불분명해 진다는 점도 문제다. AI가 내린 군사적 판단에 대한 책임 범위를 명확하게 규정한 국제법은 아직 제정되지 않은 상태다.
기술적 한계도 우려 요인이다. AI는 학습된 데이터에 의존하다 보니 예측 불가능한 전장 상황을 완벽히 판단하기 어렵다. 표적 대상을 오판하면 민간인 피해로 연결될 가능성도 있다. 특히 전시 상황에서는 신속한 판단이 요구되는 만큼, AI의 분석 결과를 충분히 검증할 여유 없이 의사결정이 이뤄질 위험도 있다.
박진호 동국대 컴퓨터·AI학부 교수는 “AI가 지휘자의 명령을 따르지 않거나 사람을 공격할 경우에 대비한 통제 장치가 마련돼야 한다”며 “AI를 활용하는 군이나 제공업체에 매출액의 두 배에 해당하는 벌금을 물리는 등 강력한 규제 장치를 둘 필요가 있다”고 말했다. 박 교수는 이어 “AI를 활용한 전쟁에서 민간인은 공격하면 안 된다는 조항 등을 담은 국제법을 제정해야 한다”고 덧붙였다.
차민주 기자 lali@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지