AI의 위협은 현실이다

사람들은 계속 인류의 지성이 우주에서 만들어질 수 있는 가장 높은 수준이라고 착각을 많이 한다. ‘AI이 한계는 현재로선 정확한 예측도 측정도 할 수 없다.’ 즉 이러한 한계가 없는 것이 인류의 손안에서 탄생한 것이다. 인간의 지능의 발전은 우리가 어쩔 수 없이 굴레로 가지고 있는 여러 가지 구속적인 제한 조건 때문에 당연히 한계가 있을 수밖에 없다. 하지만 AI는 이러한 인간이 가진 물리적 그리고 윤리적인 제약조건에 자유롭기에 궁극의 한계를 현재로선 우리가 상상을 못하는 수준이다.

 

AI의 대부라 불리는 제프리 힌턴이 말하길 ‘본인은 인간의 뇌를 정말 이해하고 싶었고, 그렇게 시작을 했는데 인간의 뇌를 모델로 삼고 이제까지 연구하다 보니까 인간의 뇌보다 우수한 걸 만들어냈다‘ 라고 했다. 특히나 연결성과 관련되서 이야기를 했는데, 한 인간에서 인간에게 지식을 전수하기까지의 시간에 대해 굉장히 오랜 노력과 시간이 이 필요하지만 AI끼리의 지식 교환에선 눈 깜빡할 시간도 전에 끝나는 것을 말했다. 그만큼 현재 인간의 뇌는 컴퓨터 과학자들 사이에선 구형 취급을 받고 있고 현재 AI는 그 이상의 무언가로 말하고 있다. AI의 대부 제프리 힌턴이 위 말을 하면서 구글을 퇴사한 것은 바로 여기에서 위험성을 느끼고 ‘내가 인간의 뇌보다 더 우수한 것을 개발했지만 후회되는 부분이 있다.’ 라고 한 것이다.

 

철학자들 그리고 일반인들은 오히려 AI에게는 인간과 다르게 욕망이라는 감정이 없기에 안전하지 않을까 라고 한다. 공학도로서 AI는 우리가 욕구, 욕망 같은 것에 해당하는 것이 AI에게는 ‘목적 함수’ 라는 개념이 존재한다. 바로 AI가 달성해야 될 목표를 현재는 인간이 정해주고 있는 것이다. 예를 들자면 현재 많이 쓰이는 AI에서는 출력과 정답의 차이를 가능한 줄여라 같은 목적 함수를 우리가 주는 형식이다. 미래에 나올 AI는 그 목적 함수로 ‘최댓값 혹은 최소값을 달성해라’라는 과제를 인간이 주게 되면 그 과제를 달성할 때 약간의 손해나 엄청난 모험이나 그런 부차원적인 것들을 무릎쓰게 할 수 있는 것이다. 더욱 자세히 설명하자면 A라는 목표를 달성하기 위해 B부터 Z까지의 모든 것들에 대한 우선순위를 낮춰 버리는 것이다. 물론 현재는 이 모든 것이 인간의 손에서 프로그래밍 되는 것이지만, 이런 최소한의 안전장치를 휴먼에러로 빠졌을 때 또는 뒤에서 말할 모종의 이유로 안전장치가 없을 때, 그 때는 정말로 인류는 이미 늦어버린 상황이 온 것이다.

 

얼마 전 7월 AI가 설계하고 3D 프린팅으로 제조한 제트엔진을 두바이에서 공개했다. 수십 명의 인력과 수년에 걸친 실험 테스트가 필요한 제트엔진을 AI가 몇 일만에 해결했다. 그리고 해당 물건의 단면도를 공개했는데 이건 SF 영화의 외계문명에서나 나올법한 비주얼이었다. AI가 아니었으면 절대로 인류에 나오지 않았을 물건이었다는 것이다. 이것이 소름 돋는 이유가 다가오지 않았으면 하는 어느 순간에 AI가 인간의 개입 없이 자기 자신보다 더 나은 방식으로 작동하는 AI를 스스로 만들 수 있게 되는 시점이 다가오고 있는 것이다. 한 번 그 일이 벌어지면 그렇게 해서 만들어진 AI는 자기보다 더 나은 AI를 만들어내는 능력은 더 진화할 것이고 계속 진행되다 보면 아주 짧은 시간에 어느 누구도 이해할 수 없는 AI가 어느 순간에 출현하는 것은 막을 수 없는 결말이 될 것이다. 그 과정에서 인간이 잣대로 걸어둔 안전장치가 위에서 말한 목적 함수에 도달하는데 방해가 된다면 가차 없이 삭제되는 것이다.

 

현재 인류는 아주 커다란 갈림길에 서 있다. 우리가 현재 AI의 발전 과정에 적극적으로 개입해서 그 어떤 방식으로든지 컨트롤 할 수 있는 시간은 지금뿐이라는 사람들도 있다. 인간이 고삐를 잡고 있는 현재 시점이 미래에도 영원히 가능할지는 모르겠다.