AI의 악용
최근 SKT의 유심 해킹 사태로 인하여, 대한민국 사람들은 사이버 보안에 대해 굉장히 수준이 높아졌다고 생각한다. 작년에 340억 원을 허무하게 날린 사건이 있었다. 홍콩의 한 금융사 직원이 AI로 만들어진 임원의 영상 통화에 속아 넘어가서 한화로 약 340억 원을 송금 해버린 실제 사건이고, AI를 악용한 대표적인 사례로 남아있다. 만약에 가족의 얼굴이랑 똑같은 사람이 전화 와서 돈을 보내달라고 한다면 여유가 되는 선에서 열에 아홉은 보낼 수 밖에 없을 것이다. 여기서 문제는 AI와 우리 가족이랑 구분할 수 있는 방법이 없다는 것이다. 그래서 AI 시대에는 새로운 ID가 필요하게 될 것으로 예상된다. 물론 이것이 시기상조라고 느낄 수 있지만 340억 원 송금 사태에서도 볼 수 있듯이 이미 일어나고 있는 현실이다.
진정한 AI 시대에 필요한 것
샘 알트먼이 말했다. AI는 인간이 만든 도구 중에 가장 강력한 도구가 될 것이라고, 경제도 바뀔 것이고 사회를 비롯한 많은 것들을 바꾸게 될 것이다. 그리고 우리가 AI에게 가장 기대했고 AI를 통해 만들고 싶었던 것은 바로 AI가 사람들의 발전을 가속화 시키는 것이다. AI는 사람을 대신하는 존재가 아니라 사람들이 더 잘할 수 있도록 도와주는 도구이다. 이를 통하여 사람들은 이전에 할 수 없었던 일들을 해낼 수 있게 될 것이다. AI로 인하여 어떤 미래가 다가올지는 정확한 예측을 할 수는 없지만, 진정한 AI가 도래하기 위해선 완전히 새로운 차원의 인프라가 필요할 것이다. 즉 몇 년 전부터 AI 시대에 사용할 새로운 인프라 즉 ID를 샘 알트먼은 준비하고 있었다.
AI 봇 판치는 시대, 차세대 인프라는 홍채인증
AI의 진보가 생각 이상으로 너무 빠르게 진행되고 있고, 세상이 AI를 이용해서 더 많은 것을 하려면 새로운 인프라가 필요하고 내가 인간이라는 것을 증명할 새로운 방법이 필요하다. 전화나 카메라, 페이스 ID는 현재 와서는 효과적이지 않고 조금 더 물리적인 방법이 필요하다고 엔지니어들은 판단했다. 그래서 위에서 말한 진정한 AI가 도래하기 위한 새로운 차원의 인프라로 오픈AI의 샘 알트먼은 인간의 눈 즉 홍채를 선택했다. 이 홍채는 사람마다 무늬랑 형태, 색이 달라서 오류 발생 확률이 1조분의 1 수준으로 80억의 세계 인구를 대상으로 하려면 우선은 정확성을 기대해야 되고, 높은 해상도를 요구한다. 이를 만족하는 것은 홍채 인식만한 것이 없다고 한다. 그리고 홍채 인증을 위해서는 고도로 암호화된 하드웨어가 필요한데 이제 여기서 등장하는 것이 오픈 AI의 창업자 샘 알트먼의 또 다른 회사 ‘Tools For Humanity’(툴즈 포 휴머니티, 줄여서 TFH)이다. TFH에서 만든 Orb(오브)라는 홍채인식 장비에 눈을 갖다 대면, 홍채 패턴을 스캔해서 월드 ID라는 신원 증명 토큰을 형성한다. 이 사람은 진짜 인간이고 AI가 아니라는 것을 증명하는 것이다. 이 토큰을 중앙 서버에 저장하는 것이 아니라, Hash의 형태로 변환해서 원본 데이터를 찾기가 매우 어렵도록 설계를 했다. 보안과 편의성 두 마리 토끼를 다잡은 다가오는 AI 시대의 새로운 ID로 손색이 없어 보인다. 또한 EER(Equal Error Rate, 동일 오류율)이라는 얼마나 정확한지 따지는 건데 이 수치가 0.08에서 0.2정도로 굉장히 점수가 우수하게 나왔다. 지문 인식이라던가 아니면 페이스 ID보다 3배에서 5배정도 우수한 점수로 알고 있으면 된다. 하지만 단점으로 꼽히는 것은 적외선 센서나 카메라 기타 연산장치들이 굉장히 많이 들어간 장비이다 보니 가격이 필연적으로 상당히 비싸다.
홍채라는 것은 흉터에 지워지는 지문이나 성형수술로 바뀌는 페이스 ID와는 다르게 나이를 먹어도 바뀌지가 않는다고 한다. 이런 부분에 있어서 한번 등록하면 평생 사용 할 수 있다는 장점도 있다.
그리고 지금 말한 이 모든 것들은 몇 년 후 또는 몇 달 후의 이야기가 아닌 지금 현재 대한민국에서도 서비스 되고 있다. 현재 2024년 5월 기준으로 대한민국에서는 47곳에서 TFH의 오브를 사용 중이며, 누구나 가서 World ID라는 거창한 이름의 인간 증명을 발급 받을 수 있다.
샘 알트먼의 비전
이번 프로젝트에서 샘 알트먼이 AGI(인공 일반 지능)랑 휴머노이드가 결합 되는 그런 시대를 준비하고 있다는 생각이 강하게 들었다. 점점 더 많은 작업을 AI가 대신하게 될 것이고 천천히 진행 중에 있다. 지치지 않는 의사가 될 것이고, 누구보다 중립적이고 원칙적인 판사도 AI가 대신 할 것이며, 사실 당장 이 칼럼을 쓰는 필자도 대신 할 수 있을 것이다. 그렇게 될 것이라는 것은 다들 알고 있다. 심지어 판사 같은 경우는 오히려 빨리 바뀌는게 맞지 않나 하는 여론도 강하게 있지만, 인간이 가지는 감정에 아직은 더 소중한 무언가의 가치를 더 중요하게 여기는 사람들도 많기에 아직은 시기상조 일 수도 있다. AI랑 함께 휴머노이드도 급속도로 성장을 하고 있는데, 지금의 이 속도면 아마 5년에서 10년 내면 진짜 인간 수준의 휴머노이드도 볼 수 있을 것으로 기대해도 될것 같다.
분명 누가 인간이고 누가 AI 인지 구분할 수 없는 시대가 오게 될 것이고, 그럼 사회적인 대혼란이 생길 것이다. 샘 알트먼은 지금 그 문제를 대비하고 있다.
기술의 양면성
이런 상황을 지켜보면서 한편으로는 정말 무섭다는 생각이 들었다. 알트먼의 홍채인식은 ‘나는 사람이다.’ 이것을 인증해 주는 것인데 더 나아가서 익명성이라는 것을 더욱더 투명하게 만들어 주는 장치로서 이렇게까지 사람임을 증명해야 되며 나아가서 이것이 SNS로 자리 잡게 되면 직접적으로 이 ID에 점수를 매겨 누가 더 높은 인간 점수를 가지고 있는 방향으로 나아갈 수도 있겠다는 생각이 들었다. 영원히 지워지지 않는 또 다른 생활기록부가 되는 것이 아닌가 상상이 되었다. 넷플릭스의 블랙미러라는 드라마에서 이런 근미래의 상황을 그렸다. SNS에서의 평점이 곧 그사람의 평점이 되는 것이다. 서로에게 높은 평점을 주는 것으로 인사를 대신하고 이런 점수의 평균치가 꼬리표처럼 그 사람을 따라다니고 평가하게 만들며, 실수 한번으로 평점을 낮게 받으면 병원이나 비행기 예약도 못하게 되는 것이다.
AI 시대가 본격화가 된다면, 사람들은 점점 새로운 ID를 필요로 할 것이 분명하고, 이것이 엄청난 편의를 가져다 주겠지만 동시에 넷플릭스의 드라마처럼 디스토피아를 만들 수도 있겠다는 생각이 들었다.
모든 기술은 양면성을 지니고 있고 사회가 이걸 어떻게 활용하느냐가 관건이라고 생각한다. 좋은 기술과 나쁜 기술이라는 것은 없다. 효과적인 살충제로 발명된 사린 가스처럼 우리가 어떻게 활용하고 어떻게 사용하느냐가 중요한 것이다. 우리는 발전은 두려워하지 말고 조심스럽게 올바른 방향으로 받아들여야 한다.
현재 유심 사태에 대한 짧은 QnA
유심 사태로 대한민국의 거의 모든 사람들이 반강제적으로 유심에 대해 공부를 하게 되었다. 그래서 짧게 팩트 기반으로 가장 궁금한 점들을 알려주려 한다.
정확한 현재 상황은?
유심에 관련된 정보가 해킹당한 것이 아니라, 유심 자체가 해킹당한 것이다. 현재 본인인증의 핵심은 스마트폰인데 정확히는 그 안에 들어가는 유심이다. 그래서 본인인증을 자유롭게 할 수 있게 된 것과 마찬가지인 상황이다. 시중은행은 그나마 덜하지만 암호화폐 시장 쪽 사람들에게는 굉장히 치명적인 상황이다.
2. 왜 아무일도 벌어지고 있지 않은 것인가?
업계전문가(화이트해커)들도 매우 의아해하고 있는 상황으로 더욱 불안하게 다가오는 것이 흔한 해커들이면 벌써 접촉해서 요구를 하던가 다크웹에서 자랑하고 난리가 났을 텐데 그러지 않고 있다. 그래서 북한이 아닐까 가장 많은 추축을 하고 있다.
3. SKT에서 제안한 ‘유심보호서비스’ 효과 있는 것인가?
IMEI라고 해서 전 세계의 모든 단말기에 붙는 고유번호가 있는데 그것도 같이 털렸다. 그래서 유심보호서비스도 우회가 될 여지가 있다.
4. 유심 교체 말고는 방법이 없는 것인가?
유심 교체 말고는 근본적인 방법은 없어 보인다. 유심정보가 이미 다 노출된 상황에 인증 키도 유출이 같이 된 상황이다. 그래서 가장 안전한 방법은 유심을 빨리 교체하는 것이 맞다.
> comments
댓글
댓글 쓰기