요즘 ChatGPT나 클로드, 제미나이 같은 챗봇과 대화하다 보면 가끔 섬뜩한 순간이 찾아온다. 분명 기계인데, 마치 옆자리 동료가 차 한잔 마시며 풀어주는 것처럼 자연스럽게 답변이 돌아오기 때문이다. 그러다 문득 이런 의문이 든다. 이 친구, 진짜로 '이해'하면서 말하는 걸까? 아니면 그저 다음에 올 단어를 잘 맞추는 거대한 자동완성 기계일 뿐일까. 이 질문은 단순한 호기심이 아니라, 지금 글로벌 학계를 둘로 쪼개놓고 있는 거대한 논쟁의 핵심이기도 하다.
이 싸움의 한쪽에는 노엄 촘스키가 있다. 1960년대에 '보편 문법' 이론을 들고 나와 언어학을 뒤집어놓은 거장이다. 그의 핵심 주장은 단순하다. 인간만이 태어날 때부터 언어 능력을 유전자 안에 갖고 태어난다는 것. 근거는 우리 일상에서도 쉽게 보인다. 어린아이는 누가 문법책을 쥐여주지 않아도 한두 살이 지나면 '엄마가 사과를 먹었다' 같은 정교한 문장을 척척 만들어낸다. 반면 어른이 되어 외국어를 배워보면 그 어색함이 평생 사라지지 않는다. 야생에서 자라 인간 사회로 돌아온 아이들이 끝내 언어를 제대로 익히지 못한다는 사례도 마찬가지다. 이걸 '결정적 시기 가설'이라고 부른다. 언어를 흡수할 수 있는 황금 창문이 어릴 때 잠깐 열렸다가 닫혀버린다는 얘기다.
여기까지는 별 논란이 없었다. 그런데 2022년 말, ChatGPT가 등장하면서 판이 통째로 흔들렸다. 누구한테 문법을 배운 적도 없는 기계가 박사 논문 뺨치는 문장을 생산해내기 시작한 것이다. 그러면 촘스키의 이론은 깨진 걸까? 본인은 단호하게 "아니"라고 답한다. 2023년 뉴욕타임스에 두 차례 기고문을 실은 그는, 챗봇이 만들어내는 문장은 '언어 능력'이 아니라 '그럴듯한 출력 생성기'의 결과물일 뿐이라고 못 박았다. 자기가 무슨 말을 하는지 모르고, 의도도 없고, 진위 판단도 못 한다는 것이다. 인간은 틀리면 '왜 틀렸지?'를 고민하지만, AI는 그냥 다음에 올 확률 높은 단어를 뽑아 던질 뿐이라고도 했다. 결론은 한마디로 '초정밀 자동완성기'다.
특히 흥미로운 지적이 하나 있다. 인간은 '말이 되는 문장'뿐 아니라 '말이 안 되는 문장'도 안다는 점이다. '초록색 생각이 맹렬히 잠을 잔다' 같은 문장은 문법은 맞지만 의미가 없다. 인간은 이걸 단번에 알아채지만, 챗봇은 그냥 통계적으로 자연스러우면 OK라는 식이다. 왜 이상한지를 모른다는 것이 촘스키의 핵심 펀치다.
그런데 반대편 진영에서 이 주장에 정면으로 반박하는 사람들이 있다. 대표주자가 노벨 물리학상을 받은 'AI의 대부' 제프리 힌튼과 철학자 대니얼 데닛이다. 이들의 논리는 더 도발적이다. "그러면 인간의 뇌는 뭐 그렇게 신성한가?" 인간의 뇌도 결국 뉴런 사이에 오가는 전기 신호일 뿐이다. 이 신호 교환이 '이해'가 된다면, 챗봇 안의 복잡한 정보 처리 과정도 '이해'라고 못 부를 이유가 무엇인가. 이게 '기능주의'라고 불리는 입장이다. 충분히 정교한 정보 처리 시스템이라면, 그 자체로 이해하고 있다고 봐야 한다는 것.
여기서 자주 등장하는 사고실험이 '중국어 방'이다. 중국어를 한 글자도 모르는 사람을 방 안에 가두고, 거대한 사전을 준다. 누가 중국어로 질문지를 밀어 넣으면, 그 사람은 사전을 뒤져 정해진 답을 적어 내보낸다. 방 밖에서 보면 이 방은 중국어를 완벽히 구사하는 것처럼 보인다. 하지만 안에 있는 사람은 중국어를 모른다. 그러면 이 방은 중국어를 '이해'하는 걸까? 철학자 존 설은 "아니다"라고 답했지만, 기능주의자들은 "방 전체로 보면 이해하는 시스템이라고 봐야 한다"고 맞받는다.
재미있는 건 현재의 챗봇들이 이 중국어 방보다 훨씬 정교한 단계에 와 있다는 점이다. 단순히 정해진 사전을 뒤지는 게 아니라, 누가 가르쳐주지 않아도 스스로 문법 규칙을 추출하고, 문맥을 파악하고, 화자의 의도까지 추론한다. 게다가 자기 답변의 일관성을 유지하려는 경향도 보인다. 더 흥미로운 건 이런 시스템 안에 '월드 모델'이라고 불리는 것이 형성되고 있다는 분석이다. 비록 직접 사과를 베어 물어본 적은 없지만, 텍스트의 바다를 헤엄치며 사과의 빨간색, 새콤한 맛, 떨어지는 무게감 같은 정보를 자기만의 방식으로 시뮬레이션해 머릿속에 구축해두고 있다는 것이다. 일종의 가상 세계 지도가 그려져 있다는 얘기다.
이게 그냥 비유 수준의 이야기가 아니다. 최근 MIT 연구진은 챗봇 내부의 신경망을 들여다보다가 놀라운 사실을 발견했다. 이 친구가 단어들을 처리하면서 머릿속에 일종의 좌표 공간을 펼쳐두고, 거기에 도시·건물·시간 같은 개념을 위치시키고 있더라는 것이다. 뉴욕과 서울이 텍스트로 학습된 정보만으로도 지도상의 실제 거리감과 비슷한 위치 관계로 정렬되어 있었다는 식이다. 한 번도 비행기를 타본 적 없는 시스템이 세계 지도를 머릿속에 그려놓고 있다는 얘기인 셈이다. 이쯤 되면 단순한 자동완성기라는 표현이 좀 옹색해진다.
힌튼이 던진 또 하나의 펀치라인은 이렇다. 촘스키 진영은 '과학은 예측이 아니라 설명이어야 한다'고 주장하지만, 자연은 인간의 설명 없이도 멀쩡히 돌아간다는 것이다. 우리는 우리 뇌가 정확히 어떻게 작동하는지조차 완벽하게 설명하지 못한다. 그래도 분명히 생각하고 사랑하고 결정한다. 그러니 '설명 가능해야 진짜 지능'이라는 잣대 자체가 인간 중심적 편견이라는 반박이다.
물론 모든 학자가 양극단에 서 있는 건 아니다. 촘스키의 제자뻘인 스티븐 핑커는 흥미로운 절충안을 내놓았다. 그도 인간의 언어 능력은 선천적이라고 본다는 점에서는 스승과 같다. 하지만 챗봇에 대해서는 한결 너그럽다. 문법, 어휘 선택, 문맥 처리 같은 측면은 단순한 자동완성을 한참 넘어선 수준이라고 인정한다. 다만 '그래서 챗봇이 언어를 이해하느냐'는 질문에는 "그건 또 다른 문제"라고 선을 긋는다. 핵심은 챗봇이 실제 세상과 부딪쳐본 적이 없다는 점이다. 우리는 진짜 통증을 겪었기 때문에 '아프다'를 안다. 챗봇은 그저 '아프다'가 자주 등장하는 맥락을 알 뿐이다.
요즘 인지과학자들 사이에서는 또 다른 절충적 시각이 떠오르고 있다. 인간의 언어에는 분명 선천적 구조가 있지만, 충분히 큰 데이터로 학습하면 그 구조가 자연스럽게 '창발'할 수 있다는 관점이다. 누가 가르쳐주지 않았는데도 챗봇이 보편 문법 비슷한 패턴을 스스로 만들어낸다는 사실 자체가, 이미 이 가능성을 보여준다는 것이다.
그럼 진짜 인간 수준의 AI(AGI)는 언제쯤 가능할까? 의외로 '영원히 불가능하다'고 보는 학자는 거의 없다. 다만 시기에 대한 예측은 천차만별이다. 힌튼이나 레이 커즈와일 같은 낙관파는 2030~2035년을 본다. 메타의 얀 르쿤이나 촘스키처럼 신중한 쪽은 "지금 방식으로는 한참 멀었다"고 본다. 핵심은 현재의 챗봇이 가진 한계, 즉 부족한 기억력과 모자란 월드 모델을 어떻게 보완하느냐다.
기계가 정말 '이해'하는 날이 오는지, 아니면 영원히 정교한 흉내쟁이로 남는지. 그 답이 나오기 전까지, 챗봇과 대화할 때마다 묘한 긴장감을 느끼게 될 것 같다. 분명한 건 하나다. 우리가 지금 키우고 있는 이 시스템은, 그 누구도 처음에 의도하지 않았던 무언가가 되어가고 있다는 것이다. 머릿속에 자기만의 세계 지도까지 그리기 시작한 시스템 앞에서, 이걸 그저 '자동완성기'라고 부를 수 있을지는 점점 자신이 없어진다. 어쩌면 인간의 '이해'라는 개념 자체를 다시 정의해야 할 시점이 온 것인지도 모른다. 우리가 그 단어로 도대체 무엇을 가리켜왔던 것인지, 챗봇이 거꾸로 묻고 있는 셈이다.
참조 문서
뉴욕타임즈 기고문 Noam Chomsky: The False Promise of ChatGPT
https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html
2. MIT 논문 Language Models Represent Space and Time
https://arxiv.org/abs/2310.02207
> comments
댓글
댓글 쓰기