김형민 “법률사무소 민하” 대표변호사


최근 중동에서 벌어진 미국이란 전쟁을 AI가 주도하고 있다.
개전과 동시에 미군은 AI를 이용해 이란 최고 지도자 하메네이와 군 수뇌부의 회의를 확인했고, 회의가 끝나기 전에 전투기를 동원해 이들을 폭사시켰다.
지난달 미군은 AI를 이용해 베네수엘라의 마두로 대통령을 작전 개시 2시간 30분 만에 생포하여 미국으로 끌고 왔다. 참고로 2003년 이라크의 사담 후세인 대통령 생포에는 9개월이 걸렸다.
위 이란과 베네수엘라 작전들은 모두 팔란티어의 전쟁 AI인 릴게임뜻 '메이븐 스마트 시스템(MSS)'이 주도했다.
팔란티어의 AI는 정보 수집부터 추적, 표적 지정, 타격으로 이어지는 전쟁 의사결정 체계인 '킬체인(정보 수집부터 타격까지 이어지는 대응 체계)'을 가속화했다.
정보 수집부터 타격까지 빠르게 원스톱으로 해결하는 'AI 킬체인' 도입으로 몇 시간만에 적군의 수뇌부를 제거하는 릴게임골드몽 참수 작전이나 하루에도 1000곳 이상을 동시다발적으로 공격하는 대규모 작전이 가능해졌다.
실제로 미군은 AI를 통해 공습 첫날 1000개 이상의 목표를 타격했고, 7일간 3400개 이상의 목표를 타격했다고 밝혔다.
이번 공습 때 이란 남부 미나브에 있는 '샤자라 타이이바' 여자 초등학교가 폭격당해 어린이 등 170명이 바다이야기예시 넘는 민간인이 숨졌다.
과거 위 건물이 군사 시설의 일부로 사용되었는데 이러한 이력이 오폭의 원인으로 추정되고 있다. AI도 오판하고 실수를 한다.
최근 영국 런던 킹스칼리지(KCL)의 케네스 페인 연구팀은 충격적인 실험 결과를 발표했다.
AI에게 핵무기를 가진 국가 간 전쟁의 작전권을 부여했더니, 총 바다신2 다운로드 21회의 전쟁 시뮬레이션 중 20회에서 핵무기를 발사했다. 핵전쟁의 확률이 95%로 나온 것이다.
인간에게 핵전쟁은 인류의 공멸을 의미하지만 AI에게는 승리의 도구에 불과했다.
주목할 점은 AI는 21회의 전쟁 중 단 한 번도 협상이나 항복을 하지 않은 것이다. 패배의 순간에도 망설임 없이 핵을 발사하여 다 같이 죽는 ' 모바일바다이야기 공멸'을 택했다.
AI는 승리를 위해서 인류 공멸의 버튼도 망설임 없이 누를 수 있다. 그리고 그것이 오판이나 실수일 수도 있다.
필자는 이전 칼럼('인공지능 시대, 우린 더 망설여야 한다')에서 “인공지능은 연산과정에서 버퍼링을 할지언정 망설이지 않는다. 그러나 자연지능은 불확실한 정보를 말할 때나 중요한 결정을 내릴 때 혹시 내가 틀리진 않았을까 하고 망설인다”라고 밝힌 바 있다.
이미 우리는 'AI가 전쟁을 하는 시대'에 살고 있다. AI로 전쟁이 쉬워졌고 주요 국가들의 자국 우선주의에 따라 전쟁은 더 활발해질 것이다.
AI가 망설이지 않는다면 인간이 망설여야 한다. 이대로 '전쟁 AGI'가 등장하여 인류의 운명을 결정하기 전에 인간은 이에 대한 통제 방안을 마련해야 한다.
김형민 법률사무소 민하 대표변호사 minha-khm@naver.com
◆김형민 법률사무소 민하 대표변호사는 인공지능(AI)·지식재산(IP)·리스크관리(RM)·경영권 및 동업 분쟁 전문 변호사이다. 서울대학교 산학협력단 자문변호사, 법제처·한국법제연구원 자문위원, SBS 자문위원, 연합뉴스 자문위원, MBN 자문위원, 교육부·전자신문 IT교육지원캠페인 자문위원, 중소벤처기업부 중소기업인력양성사업 자문위원, 중소기업진흥공단 중소기업인식개선사업 자문위원, 경상북도청 지식재산전략 자문위원, 안동시청 지식재산관리 자문위원, 경상북도문화콘텐츠진흥원 해외투자 및 저작권사업 자문위원 등을 역임했다.