얼마전 세상을 공포로 몰아넣었던 AI 미소스(Mythos)가 페이블 5(Fable 5)이라는 이름으로 출시, 그리고 사흘 만에 막혔다. 앤트로픽이 자랑하던 모델을 풀었지만, 미국 정부가 그 셔터를 내려버렸다. 본인도 3일동안 사용하면서 많은 실험을 할 꿈에 젖어있었지만, 그 문은 4일만에 닫혀버렸다.
앤트로픽에는 너무 위험해서 공개하지 못했다는 얼마 전에도 소개했었던 모델 미소스가 있었다. 해킹이던 취약점 탐색이던 거침없이 해버리는 물건이라 여기에 안전장치를 둘둘 감아 입마개를 씌운 버전을 따로 만든 것이 바로 페이블 5다. 미소스와 똑같은 머리를 가졌는데 입만 막아둔 모델인 것이다. 6월 9일, 앤트로픽은 페이블 5를 공개하며 기존 요금제에 추가 비용 없이 6월 21일까지 마음껏 써보라고 풀었다. 회사 자료에 따르면 코딩 성능이 GPT 5.5를 압도한다고 했으니 사람들도 본인도 마음껏 사용해 봤다.
그런데 사흘 뒤인 6월 12일, 페이블 5가 갑자기 막혔다. 현재 사용할 수 없다는 메세지와 함께 비활성화 되어있다. 앤트로픽에 따르면 그날 오후 미국 정부로부터 페이블 5를 미국인만 쓰게 하라는 지시 편지를 받았다고 한다. 미국 IP로 차단하면 되겠냐 물으니, 정부는 외국인이면 미국 안에 있어도 무조건 못 쓰게 하라고 답했다고 한다. 앤트로픽 직원 중에도 외국 국적자가 있을 텐데, 자기 회사 직원조차 못 쓰게 막으라는 황당한 주문이다.
이건 거의 불가능한 요구다. 아파트 한 동에서 외국 국적자만 엘리베이터를 못 타게 하라는 것과 똑같다. 일일이 앞에서 지킬 수 없으니 결국 할 수 있는 건 엘리베이터를 통째로 꺼버리는 것뿐이다. 앤트로픽도 외국인 계정과 미국인 계정을 정확히 가려낼 수 없으니, 미국인을 포함한 모든 고객에게 페이블 5와 미소스 5를 일시 중단해 버렸다. 줬다가 사흘 만에 도로 뺏은 셈이다.
미국의 명분은 국가 안보였다. 다만 앤트로픽은 정부가 페이블 5를 우회하거나 탈옥(안전장치를 풀어 금지된 답을 끌어내는 행위)하는 방법을 알게 된 것 같다고 추측했다. 그리고 탈옥이야말로 이 사태의 진짜 핵심이다. 거대언어모델의 고질병은 통제가 안 된다는 것이다. 왜 그런 출력이 나오는지는 만든 사람들조차 추측할 뿐이고, 아무리 안전장치를 둘러도 새 모델이 나올 때마다 어김없이 탈옥 방법은 발견되었다. 앤트로픽도 완벽한 탈옥 방지는 불가능하다고 인정했다. 그래서 택한 것이 심층 방어 전략이다. 뚫릴 건 알지만 뚫는 데 오래 걸리게, 귀찮고 힘들고 짜증나게 만들겠다는 것이다. 탈옥을 막는 게 아니라 비효율적으로 만드는 지극히 공학적인 타협인 셈이다.
미국 정부는 그 우회법을 어떻게 알았을까. 알려진 바로는 아마존 연구원들이 페이블 5 우회에 성공했고 그 결과를 들고 정부를 찾아갔다고 한다. 그동안 앤트로픽이 우리 AI가 이렇게 위험하다며 호들갑 떨었는데 허무하게 안전장치가 풀리는 걸 본 정부가 수출 통제라는 초강수를 둔 것이다. 미소스로 호들갑 바이럴 마케팅 제대로 한 엔트로픽 입장에서는 할 말이 없을 수밖에 없다. 오히려 위험도로 따지면 GPT 5.5가 한 수 위다. 사이버 보안 능력 비교에서 GPT 5.5는 두 번 만에 해킹에 성공했고, 미소스는 세 번 만에 성공했다고 한다. 근소하지만 GPT가 더 잘 뚫는다는 것이다. 심지어 이번에 발견된 우회법은 페이블 5뿐 아니라 GPT 5.5에서도 통한다. 그런데 차단된 건 앤트로픽뿐이고 GPT 5.5는 멀쩡하다.
하지만 해킹하는 위험한 AI라는 이미지를 만든 게 바로 앤트로픽이라 할 말이 없다. 3월, 4월부터 앤트로픽은 미소스가 27년 묵은 취약점을 찾아냈다느니, 너무 위험해서 공개를 못 하겠다느니 빌드업을 해왔다. 구글의 제미나이가, 오픈AI가 "우리 모델 해킹 잘합니다"라고 광고하던가? 잘나가는 회사들은 하나같이 개발 잘한다고 자랑했지, 해킹 능력을 떠벌린 적이 없다. 좋을 게 없기 때문이다. 그런데 해킹을 마케팅 전면에 내세운 건 앤트로픽이 처음이었다. 공포가 곧 주목이라는 계산이었겠지만, 역풍이 이렇게 자기 발등을 찍을 줄은 몰랐을 것이다. 이제 앤트로픽에게는 두 가지 선택밖에 없다. ‘사실 그동안 다 마케팅이었다’라며 고백하고 수출 통제를 풀어달라고 하든가, ‘정말 위험한 게 맞다’하고 출시를 접든가. 둘 중 무엇을 골라도 스스로 쌓아온 서사가 무너진다.
사실 이 상황은 처음이 아니다. 1990년대 초, 미국은 강력한 암호화 기술을 미사일이나 전투기와 똑같은 무기로 분류했다. 정부가 감청할 수 없을 만큼 강한 암호화 기술을 해외로 내보내는 것을 무기 수출을 막듯 통제한 것이다. 그때 필 짐머만이라는 인물이 1991년 PGP(Pretty Good Privacy : 강력한 이메일 암호화 프로그램)를 만들어 인터넷에 올려버린다. 누구나 내려받을 수 있게 되자 외국인도 받을 수 있게 됐고, 미국 정부는 그를 무기 밀수출 혐의로 약 3년간 수사한다. 그런데 여기서 짐머만의 반격이 기가 막혔다. 그는 PGP의 소스 코드 전체를 종이에 인쇄해 책으로 출판해 버린다. 인터넷 업로드는 무기 수출일지 몰라도 출판은 미국 수정헌법 제1조가 보장하는 표현의 자유 아니냐는 논리였다. 외국에서는 그 책을 코드로 되돌리면 그만이었다. 결국 미국 정부는 1996년 조용히 기소를 취소했다. 비슷한 시기, 미국 정부와 국가안보국(NSA)은 모든 통신 기기에 정부가 합법적으로 도청할 수 있는 '클리퍼 칩'을 의무 탑재하려 시도했다. 하지만 이 역시 국민들을 감시하겠다는 발상이라는 시민사회의 비판을 받으며 결국 좌초되고 말았다.
이 두 사건이 증명한 명제는 분명하다. 칩이나 반도체 같은 유형의 물건은 국경에서 막을 수 있지만 정보와 데이터는 가둘 방법이 없다는 것이다. AI 모델의 가중치와 우회법 역시 본질은 정보다. 페이블 5를 미국 안에 묶어두려는 지금의 시도가 30년 전 암호화 통제의 데자뷔처럼 보이는 이유인 것이다.
미국에는 원칙이 있다. 국가 안보에 위협이 된다면 무슨 수를 써서라도 막는다는 것이다. 반도체와 그래픽 카드까지 통제해 온 역사를 보면 충분히 나올 만한 판단이다. 다만 해킹 도구가 될 위험은 다른AI도 마찮가지이기 때문에 머지않아 GPT 5.5와 제미나이까지 싹 다 묶이거나 싹 다 풀리거나 둘 중 하나일 것이다. 그런데 같은 6월 12일, 바다 건너에서는 정반대의 일이 벌어졌다. 중국 즈푸 AI가 GLM 5.21을 소스 코드까지 전면 개방한 것이다. 프론티어 모델은 소수가 독점해서도, 소수의 규칙에 차단되어서도 안 된다는 말과 함께였다. 누구 들으라고 한 말인지는 뻔하다. 물론 중국이 착해서 베푼다고 보면 순진한 생각이다. AI 위에 서비스들이 막 올라오는 결정적 순간에 미국이 찬물을 끼얹으면 개발자들은 막히지 않는 중국 오픈소스로 몰릴 수밖에 없다. 자칫 중국 기술이 AI의 글로벌 표준이 되어버리는 무서운 전략적 오픈이다.
그렇다면 우리나라는 이 판에서 무엇을 쥐고 있는가. 미국 모델을 쓰다 차단당하면 발만 동동 구르고 중국 모델을 쓰자니 데이터 주권이 걸린다. 프론티어 모델 한 줄 제대로 가진 게 없으니 미국이 잠그면 낮은 성능의 모델로 버티고, 중국이 열면 그 생태계에 빨려 들어갈 처지다. 차단을 거는 쪽도 빗장을 푸는 쪽도 모두 자기 모델을 쥔 자들의 이야기이고, 그 어느 자리에도 우리가 설 자리는 없다.
어차피 탈옥이 불가능한 AI는 없고, 사람은 기어이 우회법을 찾아낸다. 차단의 빗장은 시간문제일 뿐 결국 새어나갈 것이다. 그 사이 잠그기에만 골몰하다 생태계의 주도권을 통째로 내주는 게 과연 현명한 선택일까. 줬다 뺏는 사이, 정작 판을 짜는 사람은 따로 있을지도 모른다.
> comments
댓글
댓글 쓰기