미국이 전쟁에 AI를 동원한 것이확실히 밝혀졌다. 미국의 AI 기업 앤트로픽이 개발한 생성형 인공지능 LLM, ‘Claude(클로드)’를 이용해서 전쟁 발발 후 첫 24시간 동안 1,000 여개 이상의 목표물을 타격했다고 한다. 각각의 목표물들을 AI가 분석하여 중요도와 필수시설들로 나뉘었고, 세부적으로는 목표물 제거 시 치명적인 순위 및 추측 사망 인원수까지 분석하여 미군에게 타겟으로 제공한 것이다. 일부 사람들은 AI가 디지털 지휘관 역할을 한 최초의 전쟁이라고 한다.
[논란의 중심에 선 앤트로픽의 클로드 AI]
모두가 머리로는 알고 있었을 것이다. AI가 인류의 역사에 등장하고 나서 전쟁에 이용되는 것은 당연했고, 이용되는 것은 시간문제였을 뿐이라는 것을 말이다. 전쟁에 이용된 AI, 클로드의 회사 앤트로픽은 해당 모델의 군사적 활용에 대한 협조 요청을 거부했다. 정확히는 두 가지 조건을 걸었는데, 첫째는 완전 자율 살상 무기에 사용하는 것을 금지하는 것과, 둘째는 국민 대규모 감시에 활용하는 것을 금지해달라는 것이다. 이에 트럼프는 보복으로 앤트로픽을 안보 위협 기업으로 지정했고, AI가 전략 자산이 된 만큼 최종 통제권도 국가가 가져가야 한다는 논리를 펼쳤다. 기술을 사용하지 않겠다고 했지만 이란과의 전쟁에서 핵심적인 역할을 하고 있다. 엄연한 계약 위반을 대놓고 저질렀지만, 전시 상황에 돌입한 만큼 누구도 섣불리 개입하지 못하고 있다.
AI의 활용에 대해서 조금 더 체감되게 설명해 보자면, 이라크 전쟁 이후 사담 후세인을 포획하는데 9개월이 걸렸고, 9.11 테러 이후 빈 라덴을 사살하는데 10년이 걸렸다. 현재는 미국의 참전 선언 당일 이란을 30년간 통치했던 알리 하메네이가 사망했으며, 헤즈볼라의 지도자는 참전 선언 10분 후 사망하였다. AI가 게임의 판도를 완전히 뒤집어엎은 것이다.
그럼, 여기서 질문, 인공지능은 인간이 도구로 사용하기 위해 만들어진 것인데 전쟁에 사용하는 게 어때서? 라는 질문을 던질 수가 있다. 사실 AI를 전쟁에 본격적으로 활용한 것은 이번이 처음이 아니다. 바로 전, 이스라엘의 가자 전쟁 당시 때부터 엄청난 논란에 있었다. 실제로 이스라엘 방위군(IDF)은 가자 지구에서 무장 세력으로 추정되는 사람들을 표적으로 삼아 공격하는데 AI 표정 설정 소프트웨어 ‘라벤더’를 이용했었다. 문제는 10%에 달하는 오탐률을 대체로 무시했고 결과는 수많은 민간인이 전쟁에 휘말려 목숨을 잃었다.
아무리 소프트웨어가 업그레이드되고 성능이 향상되어서 오탐률이 줄어들어도, 결론은 AI가 작성한 보고서에 의존하여 인명 살상을 하는 것이다. 관리 감독은 누가 하는 것이고 최종 결정권자는 누구인가? 라는 질문에 미국의 국방장관 피트 헤그세스는 인류애가 무너지는 답변을 하였다. “더 이상 멍청한 교전 수칙을 따르지 않겠다.” 여기서 말하는 교전수칙은 무고한 희생을 막기 위해 인류가 수백 년간 쌓아온 최소한의 도덕적 마지노선 이었다. 해당 발언은 목표 달성을 위해 더 이상 정치적 올바름이나 국가 건설과 같은 제약 없이, 수단과 방법을 가리지 않겠다는 것이다. 2차대전 때 인류애의 수호를 주장했던 미국에서 나올법한 워딩은 전혀 아니라는 것이 필자의 생각이다.
[순식간에 지옥으로 변한 이란의 테헤란]
미 국방부의 전쟁 교전수칙에 따르면 미군은 공격 목표물이 적 전투원과 같은 군사 목표물인지 확인하기 위해 최소한의 실현 가능한 예방 조치를 취해야 한다. 이러한 규정에 따라 민간인, 군 의료진 및 종교인, 학교와 병원 그리고 예배 장소 같은 종교 시설은 타격 대상에서 제외된다. 전시 상황에서 인공지능이 신속하게 배치되는 것을 고려할 때, 미군이 민간인이 아닌 진정한 군사 목표물을 표적으로 삼고 있는지 확인하기 위해 최소한의 관리 감독이라도 필요하다는 것이다.
AI니까 당연히 인간보다 자동화된 프로세스를 통해 빠르게 방대한 목표 목록을 순식간에 생성하는 것은 당연하다. 하지만 여기서 발생하는 윤리적, 법적 문제는 인간이 해당 목록에 있는 특정 목표들을 실제로 검토하고, 합법성과 군사적 가치를 검증하고 나서 승인을 하냐는 것이다.
과연 미국이 전시 상황에서 이 모든것을 지킬까? 국방부 장관의 멍청한 교전 수칙 발언부터 생각해 보면 지키지 않을 것이다. 인간이 모든 과정에 완전히 참여하더라도 기계의 결정에 대한 인간의 검토가 본질적으로 형식적이기 때문에 민간인 피해가 결국엔 발생할 것으로 예상된다.
연초의 빅 뉴스인 베네수엘라 대통령 니콜라스 마두로를 체포하는 미군 작전에서도 클로드가 사용되었다는 것은 이젠 비밀도 아니다. 인공지능은 현대 전쟁의 핵심으로 빠르게 자리 잡고 있으며, 이는 일부 기술 기업의 반발을 불러일으키고 군사 협력의 윤리에 대한 새로운 논쟁이 터져나오고 있는 중이다. 위에서 말한 사례들이 다가 아니다. 러시아와 우크라이나의 전쟁에서는 우크라이나 군은 이미 인공지능 기반의 자율 드론을 배치해서 인간의 개입 없이 목표물을 식별하고 공격하고 있다고 했다.
결국엔 책임론으로 갈 수도 있지만, 최소한 인간은 항상 상황을 100% 파악하고 있어야 한다고 생각한다. 앞으로 점점 더 많은 곳에 AI가 사용될 것은 당연하지만, 최소한 생사를 결정하는 권한은 인간이 유지하고 있어야 한다. 도덕적 윤리적 문제에 관한 결정이 항상 존재하기 때문에 인간은 항상 과정에 참여해야 한다는 것이다.
[컴퓨터 보다 본인의 판단을 믿고 인류를 핵전쟁으로부터 막아낸 스타니슬라프 페트로프]
이는 역사적으로 소련의 장교 ‘스타니슬라프 페트로프’가 전 인류를 구해낸 위대한 판단을 했던 것으로 증명하였다. 전 인류를 구했다는 말은 과장이 아니다. 당시 미국과 냉전 중이던 소련의 위성 관제 센터에서 당직사령으로 근무하던 페트로프의 앞에 핵전쟁 개시 버튼이 깜빡거리고 있었다. 위성으로 미국에서 ICBM을 발사한 것이 관측되었고 페트로프의 할 일은 보복성 상호확증파괴를 하는 것이었다. 하지만 그는 버튼을 누르지 않고 정말 초인적인 판단으로 핵전쟁 취소 코드를 입력했고, 결과는 인공위성이 햇빛을 발사 섬광으로 잘못 인식한 것이었다. 이 일이 세상에 알려지게 된 것은 소련이 해체되고 기밀이 공개되면서인데, 전 세계가 그를 칭송하고 감사했으며 유엔의 표창장을 받았다.
한 명의 인간의 판단이 최악의 결과를 막아낸 것이다. 만약 최종 결정권자를 배제한 자동 반격 시스템을 이용했다면 현재 역사는 우리가 알고 있는 것과 상당히 다를 것이다. 전쟁에서의 딜레마는 종종 상충하는 윤리적 문제를 수반하며, 그러한 선택권을 기계에 맡기는 것은 전쟁을 인간의 통제 범위를 벗어난 것으로 만들 것이다.
그래서 지금 꾸준히 화자 되고 문제 되고 있는 것은 현재 미국이 AI를 전쟁에 활용하는 것이 아니라, 제대로 관리 감독을 하면서 사용하냐는 것이다. 또 다른 전문가는 미국 지도부 일부가 기술이 전장을 지배하도록 하는 것을 선호하는 것으로 보인다고 지적하였는데, 이 문제를 제대로 짚은 듯 싶다.
엔지니어인 필자가 윤리적인 문제와 도덕적 문제를 강조하는 것이 웃기지만, AI에 모든 것을 내맡기는 행동은 책임 없는 쾌락과 다름없다고 생각한다. 인간의 책임이 배제된다면 전쟁은 인간 행동의 범주를 벗어나게 되어, 그 결과에 대해 인간에게 책임이나 과실도 묻지 않는 상황이 되면 정말로 지옥도가 열릴 것이다.
95%에 해당하는 인공지능 챗봇이 모의 전쟁 게임에서 핵무기 사용을 선택했다. 그리고 그 실험에서 클로드는 핵 공격을 권고한 가장 높은 비율을 가진 인공지능이다. 그런 인공지능이 현재 전선에서 활동 중인 것이다. 모델들에게 완전 항복에 대한 약간의 양보를 포함한 8가지 완화 전술이 학습되었지만, 전혀 사용되지 않았다는 것이다. 인공지능인 만큼 인간보다 핵무기에 대한 두려움이 크지 않아 가볍게 여길 수도 있다는 점도 해당 연구에서 지적된다. 필자가 AI를 크게 신뢰하지 않는 건 이런 부분에 있다.
앞서 말했든 인공지능의 전쟁 활용은 시간문제였을 뿐이다. 하지만 이것이 위험한 전환점임은 분명하다. 정말 안타까운 점은 전 세계에서 가장 강력한 나라가 적극적으로 움직이고 있으니 그 어떤 나라도 단체도 할 수 있는 일이 많지 않다는 것이다. 인공지능을 군사적으로 책임감 있게 사용할 수 있도록 구속력 있는 제약을 수용하도록 전 세계가 뭉쳐서 압력을 가해야 하는 상황이 왔다고 생각한다.
> comments
댓글
댓글 쓰기