요즘 AI 이슈 중에서도 많이 언급되는 것이 AI 특이점과 관련된 이야기들이다. AI 역사상 지난 1,2년 사이에 가장 급격한 발전이 일어났다. 멀티모달 모델이 등장을 했고, 생성형 AI는 대중화에 성공을 했고 또 로봇과 결합 된 피지컬 AI가 떠오르는 등 기술 발전의 간격이 수년이 아니라 수주에서 수일 단위로 좁혀지고 있는 느낌이라서 이제는 새로운 등장에 취해줄 리액션이 남아나질 않고 있다. 이런 흐름 속에서 2025년 새해 첫날 오픈AI의 샘 알트먼이 X를 통해 AI 특이점을 언급했는데, 이 발언이 미래학자인 레이 커즈와일이 예언해 온 기술적 특이점과 맞물리면서 정말 특이점이 가까워진 건지 AI 커뮤니티에선 꽤 큰 반향을 일으켰다.
우리가 정말 돌아갈 수 없는 선을 넘는 순간 이 특이점이라는 개념이 학계를 넘어서 대중적인 담론으로도 확산되는 것이 필연적인 현상으로까지 보이기도 한다. 사실 GPT-4가 의사 시험을 통과한 이야기도 이미 1년 전 뉴스라 옛날 이야기가 되어버렸다. 실리콘밸리에서 벌어지는 AGI(일반 인공 지능) 개발 경쟁도 보면 정말로 21세기 맨하튼 프로젝트로 비유해도 될 만큼 치열해지고 있고, 두려움까지 가지게 되었다. 이러한 상황 속 AI 분야에서 영향력 있는 인물들은 누구는 견고하고 누구는 낙관하면서 이 특이점을 서로 다른 방식으로 해석하고 있다.
완전히 새로운 체계로 등장하는 그 전환점은 바로 특이점이다. 요즘 AI 기술의 발전을 보면서 현재 우리가 목격하는 AI의 패러다임 시프트의 경우에는 무언가 질적으로 다른 것들, 많은 기능이 추가되고 개선되는 수준을 넘어 AI가 이제 자기 자신의 출력물을 분석하고 개선하는 자기 참조 능력이나 고도화된 AI 모델들이 서로를 훈련 시키는 모델 증류 기술이 확대되고있다. 이런 현상들을 보면 AI의 발전이 연장선이 아닌, 특이점 이전과 이후를 구분하는 질적인 변화의 신호탄으로 보인다는 것이다. 이러한 변화를 “ 기술적으로 AI 특이점이 오기 직전이라고 인식해야 되는 것인가?”, “아니면 지금 이미 특이점의 한가운데를 통과하고 있어서 알아차리지 못하고 있는 것인가?” 라는 질문을 할 수 있다. 항상 말하듯 지금 우리는 굉장히 혼란스러운 시기에 살고 있는 것이 맞다.
레이 커즈와일은 ‘2045년에 인공지능은 인간지능을 초월할 것이다.’ 라고 2005년에 이야기 했다. 당시만 해도 SF소설에나 나올법한 그런 이야기로 치부했다고 한다. 하지만 45년은커녕 현재 2025년인데도 이미 AI는 인간의 지능을 넘어섰다고 평가받고 있고, 그때 커즈와일이 예견했던 상상이, 즉 특이점의 존재 조건들이 지금 하나 둘 놀랍게도 구체화 되고 있는 상황이다. 그 중 뉴럴링크나 싱크론 같은 뇌 기계 인터페이스 기술도 프로토타입이 아닌 실제 사람 뇌에 칩을 이식해서 컴퓨터와 소통하는 모습도 알려져 있다. 인간 수준의 정확도를 갖춘 의료 진단 AI와 이를 실질적으로 지원하는 나노봇 기술까지 커즈와일이 말했던 특이점의 물질적 기반, 즉 특이점을 실현 시켜줄 수 있는 수단으로서 등장했던 이론들이 눈앞에 등장하고 있다. 특히 아직 원시적인 형태이긴 하지만 뇌의 기계 인터페이스 같은 경우에는 인간과 기계의 경계를 허무는 AI 특이점의 첫 단추라는 이야기가 많이 나오고 있다. 커즈와일이 말하는 새로운 예측 AI의 지능이 인간의 생물학적 지능을 초월하는 순간 그 너머에는 두 형태의 지능이 융합해서 인간의 존재 자체가 다시 정의되는 시대가 올 것이라는 주장이 지금 AI 분야를 새롭게 자극되고 있는 것이다. 물론 많은 AI 연구자들이 ‘현재 AI는 특정 작업에 특화된 약한 AI일 뿐이고, 인간처럼 범용적인 지능이나 의식을 지닌 것은 AI와는 거리가 멀다.’ 라고 주장한다. 커즈와일식의 주장에 반론을 제기하는 목소리도 적지 않다. 아직 AI가 자의식, 도덕적인 판단, 창의적인 호기심 같은 인간의 고유한 지능 측면에서 넘어야 할 장벽이 여전히 높다는 뜻이다. 그럼에도 이런 논의를 보다 보니 어쩌면 이 지능이라는 개념 자체도 인간 중심적으로 구성된 인식의 틀이라는 점을 상기해야 한다.
결국 ‘AI 특이점’이라는 순간은 AI가 인간처럼 생각하거나 인간을 뛰어넘는 것이 아니라 완전히 다른 방식의 인지적 존재 양식을 탄생하는 순간이 아닐까 싶다. 그렇게 된다면 지능이 형성되고 해석하는 방식이 지금과는 전혀 다르게 펼쳐질 것이다. 항상 우리가 범하는 오류가 ‘인간처럼 생각하는 AI가 등장하면?’ 부터 이야기를 시작하는 것이다. AI가 인간과 같은 사고를 하는 것 자체가 자체적 퇴보라고 생각한다. AI는 우리 예상을 이미 계속 뛰어넘고 있다. GPT-4가 의사 시험을 통과하고 알파폴드가 과학자들이 수십년간 풀지 못한 단백질 구조 문제를 해결하고 잘 작동하는 도구 수준의 영역을 넘어서 어느새 이미 도구 이상의 무언가로 변모하는 과정처럼 보인다는 것이다. 특히 AI 시스템의 학습 패턴이 블랙박스처럼 변해가는 현상에 대한 연구들, 딥러닝 신경망이 수십억 개의 매개변수를 가진 복잡한 구조로 발전하니 특정 임계점을 넘어서면 창발적인 속성이 나타난다. 이제 AI가 너무 복잡해지니 그걸 만든 사람들도 왜 이런 결과가 나왔는지 완전히 설명 못하는 경우가 많아지고 있다.
AGI(인간수준의 범용 지능)와 ASI(인간수준을 뛰어넘는 지능)의 경계에 대해 이야기한 모든 내용을 생각해 보면 과연 AI 특이점은 우리 인류의 근본적인 한계를 깨뜨려 줄 수 있는 전환점이 될 수 있을까 하는 의문점이 든다. AI가 정말 가능할까 싶던 시절부터 커즈와일은 특이점에 관한 예측을 계속 주장해 왔고
그 내용들이 지금 하나둘 현실로 나타나고 있다. 특히 그가 컴퓨터의 튜링 테스트(기계가 인간과 동등한 지능적 행동을 보일 수 있는 능력이 있는 보는 검사, 쉽게 말하면 인공지능 여부를 판별하는 검사이다.) 통과 시점으로 예상했던 때가 2029년인데 그때가 되면 정말 단순한 목소리가 AI인지 사람인지 구별할 수가 없게 되는 일이 올지도 모른다. AI와 인간의 결합이 발전될수록 어떤 새로운 신체, 새로운 의식을 불러올 것인가에 대한 예측들이 SF 속 이야기가 아닐 수도 있는 것이다. 우리의 의식이 디지털화되고 복제되고 확장된다면 과연 나라는 존재를 어디까지 나라고 규정할 수 있는지, AI와 인간 사이의 정체성의 경계가 앞으로 어떻게 변할 것인지 생각해 봐야 하지 않을까? 또 이를 현실적으로 가능하게 해줄 나노봇 기술, 뇌를 확장하는 장치에 우리 신경계와 직접 통하고 우리의 여러가지 건강 문제를 대응할 수 있는 세포 크기의 의료용 나노봇을 다룬 이야기도 급속한 고령화나 만성질환이 세계적인 문제로 떠오른 지금과 겹치면서 더욱더 이런 SF적인 일들이 현실적으로 다가오고 있는 것을 피부로 체감하고 있다.
과거에 증기기관이라는 것이 등장하면서, 단순히 ‘인류가 방직을 더 잘하게 되었다.’로 끝나지 않았다. 사회구조 전체가 바뀌었다. 도시의 모양부터 사회체제, 사회계급까지 바뀌었다. 그런데 현재 증기기관보다 더욱 큰 쇼크로 다가올 것으로 예상되는 것이 AI의 등장이다. 증기기관보다 더 많은 곳에 영향을 줄 것으로 예상하고 있고, 사회적 혼란까지 야기할 것으로 예상하는 학자들도 있다. 지금 우리가 살고 있는 시기가 그런 시기인 것이다. 증기기관의 등장 후 등장 전으로 돌이킬 수 없을 정도로 불가항력적으로 많은 것들이 바뀌었는데, 현재 AI에 대한 사람들의 인식이 너무 약하다는 것이 필자의 생각이다. 단순히 ‘증기기관이 나와서 옷값이 싸지겠네?‘ 수준의 인식이라고 생각한다. AI로 인하여 사회 전반에 영향을 미칠 것이고 많은 것을 붕괴시키고 탄생시키는 대혁명이 벌어질 것이다. 최소한 이렇게 인식하며 대비를 해야 AI로 인한 변화를 놓치지 않을 것이라고 개인적으로 생각한다. AI의 특이점이 인류를 얼마나 좋은 곳으로 이끌어 갈지는 아무도 예측하지 못하지만, 적어도 이런 시기에 살고 있는 한 명의 공학도로서 이런 변화무쌍한 발전을 지켜보는 것은 여전히 즐거운 일이다.
> comments
댓글
댓글 쓰기