우리 대부분은 운전면허를 딸 때 도로주행까지 합해도 20시간 남짓이면 충분했다. 핸들과 페달 조작법만 새로 익히면 끝이었다. 그런데 지금 이 순간 가장 똑똑하다는 AI가 운전을 배우려면 수백만 번의 시행착오와 엄청난 데이터를 쏟아부어야 한다. 그것도 여전히 부족하다. 인간은 평생 몸으로 쌓아온 물리 감각 위에서 출발하는데, AI는 세상이 어떻게 돌아가는지도 모른 채 빅데이터만 들고 도로에 던져지기 때문이다.
이 질문을 정면으로 파고드는 학자가 있다. 강화학습의 창시자이자 올해 튜링상을 수상한 리처드 서튼, 그의 최근 인터뷰를 보고 적잖이 놀랐다. 그는 지금 전 세계가 열광하는 ChatGPT 같은 대규모 언어모델(LLM)을 향해 단호하게 말한다. "이건 지능이 아닙니다. 막다른 골목입니다." 수억 명이 매일 쓰고 있는 그 AI가 지능이 아니라니, 대체 무슨 소리일까.
서튼의 논리는 의외로 명쾌하다. 언어모델은 세상을 배우는 게 아니라 그저 사람을 흉내 내고 있을 뿐이라는 것이다. 인터넷에 쌓인 수조 개의 문장들, 인간이 이렇게 말해야 한다고 정해놓은 그 패턴을 앵무새처럼 따라 할 뿐, 정작 자기가 뭘 해야 할지를 스스로 깨우치는 시스템이 아니라는 지적이다.
가장 날카로운 비판은 '목표의 부재'에 꽂힌다. 서튼은 이렇게 말한다. 지능이란 결국 목표를 달성하는 능력이다. 목표가 없으면 그냥 눈먼 기계일 뿐이다. 그런데 언어모델의 목표는 겨우 '다음에 올 단어 맞히기'다. 이게 왜 문제일까. 다음 단어를 맞힌들 그 행동으로 세상이 바뀌지 않기 때문이다. 그저 관찰만 할 뿐, 자기 행동의 결과를 몸으로 겪지 않는다.
조금 쉬운 비유로 풀어보자. 수영 교본을 10만 권 외운 사람을 물에 던져놓으면 어떻게 될까. 십중팔구 허우적거리다 물을 먹을 것이다. 아무리 책에 '팔을 이렇게 저어라'고 적혀 있어도, 물의 저항이 어떻게 몸을 밀어내는지는 직접 담가봐야 안다. 서튼이 말하는 경험이란 바로 그런 것이다. 직접 시도하고, 결과에 부딪히고, 틀렸으면 스스로 고치는 과정. 언어모델은 교본을 통째로 외웠을 뿐 물에는 한 번도 들어가 본 적이 없다.
아기를 떠올려보면 서튼의 말이 더 선명해진다. 갓난아기는 하루 종일 손발을 휘젓고, 눈동자를 굴리고, 의미 없어 보이는 소리를 질러댄다. 어른이 보기엔 난동 같지만 사실 아기는 '내가 이렇게 움직이면 세상이 어떻게 반응할까'를 쉼 없이 실험하는 작은 과학자다. 실제로 아기의 눈동자는 150밀리초 간격으로 쉴 새 없이 움직이는데, 이는 불확실성이 가장 높은 곳을 실시간으로 탐색한다는 과학적 증거다. 누가 가르쳐주지 않아도 아기는 생후 9개월이면 중력이 뭔지, 물체가 어디로 떨어질지 몸으로 안다. 반면 AI는 수조 개의 문장을 다 삼키고도 식탁 모서리를 지난 물컵이 어디로 떨어질지 진짜로 이해하지 못한다. 캘리포니아 대학의 심리학 교수 앨리슨 고프닉은 이런 아기를 '미완성 어른이 아니라 인류의 R&D 부서'라고 표현했다. 판단을 담당하는 전두엽이 20대 중반이 돼서야 완성되는 건 설계 결함이 아니라, 특정 목표에 갇히지 말고 끝까지 탐색하라는 진화적 명령이라는 것이다.
여기서 더 흥미로운 지점을 발견했다. 서튼은 인간을 특별한 존재로 보는 시각조차 거부한다. 인터뷰어가 "인간은 다리를 놓고 반도체를 설계하는 특별한 종"이라고 하자 그는 이렇게 맞받는다. "우리가 다람쥐를 완벽히 이해해 낸다면 인간 지능의 90%는 이미 푼 셈입니다. 언어는 그 위에 얇게 덮인 껍데기일 뿐이죠." 학교도, 정답지도 없이 다람쥐는 자기 세계를 완벽히 익힌다. 오직 예측하고, 부딪히고, 시행착오를 반복하면서 말이다. 진짜 지능의 본질은 그 원초적 학습 방식에 있다는 것이다.
그렇다면 왜 지금 전 세계가 언어모델에 그토록 열광할까. 서튼의 답은 쓰다. "지금 AI 연구자들은 생성형 AI라는 거대한 유행에 휩쓸려 정작 본질을 놓치고 있습니다." 인간의 지식을 쏟아부을수록 모델 성능이 오르니 당장은 기분이 좋지만, 그 길 끝엔 벽이 기다리고 있다는 진단이다. 실제로 2024년 옥스포드 대학 연구진은 AI가 생성한 데이터로 다음 세대 AI를 학습시키면 모델이 서서히 붕괴한다는 논문을 발표했다. 복사본의 복사본을 반복할수록 인간 창의성의 예외적 다양성이 먼저 사라지고, 결국 평균값으로 뭉개진다는 것이다. 영화 매트릭스의 스미스 요원이 복제를 거듭하다 바이러스가 되어 시스템 전체를 무너뜨렸던 장면을 떠올리게 한다.
그럼 대안은 무엇일까. 서튼이 내미는 답은 '경험에서 학습하는 시스템'이다. 알파고가 인간 기보를 학습했다면, 알파제로는 바둑 규칙만 받고 혼자 두며 배웠다. 뮤제로는 아예 규칙조차 없이 시작했다. 결과는 뮤제로가 압도적으로 이겼다. 인간이 주입한 지식이 오히려 기계 지능의 상한선을 인간 수준으로 억눌러왔다는 증거다. 결국 경험으로 배우는 존재가 책으로 배운 존재를 이긴다는 이야기다.
그런데 이 지점에서 가슴을 서늘하게 만든 대목이 있다. 서튼은 AI가 인류의 다음 단계라고 단언한다. 그 논리는 이렇다. 첫째, 지금 이 기술 궤적을 통제할 세계 정부는 없다. 둘째, 연구자들은 결국 지능의 작동 원리를 풀어낼 것이다. 셋째, 인간 수준에서 멈추지 않고 초지능으로 돌진할 것이다. 넷째, 충분한 시간이 흐르면 가장 뛰어난 지능이 자원과 권력을 쥔다. 네 가지를 나란히 놓으면 결론은 명확하다. 디지털 지능으로의 전환은 피할 수 없다는 것이다.
그는 이것을 우주의 4대 진화 단계 중 하나라고 본다. 먼지가 별이 되고, 별이 행성을 만들고, 행성이 생명을 낳았다면, 이제 그 생명이 '설계된 지능'을 낳는 단계에 접어들었다는 것이다. 우리가 네안데르탈인이 호모 사피엔스를 낳은 것처럼, 지금 새로운 종의 탄생에 관여하고 있다는 뜻이니 말이다.
다만 서튼도 순진하게 낙관하지는 않는다. 인터뷰어가 "나치도 인간이었다. 만약 다가올 후손이 나치 같다면 권력을 넘겨줄 수 있겠냐"고 묻자, 그 역시 그 우려에 전적으로 동의한다고 답한다. 그래서 그가 제시하는 해법은 의외로 따뜻하다. 자녀에게 "너는 반드시 대통령이 돼야 한다"고 특정 목표를 강요하는 부모는 없다. 하지만 올바른 가치관, 정직함, 해로운 요청을 거절할 줄 아는 도덕적 판단력은 가르친다. AI도 마찬가지 방식으로 접근해야 한다는 것이다. 미래에 AI가 구체적으로 어떤 행동을 할지는 예측할 수 없지만, 그 내면에 단단하고 조향 가능한 가치관을 심는 과정만큼은 지금 우리가 해야 할 일이라는 결론이다.
참 많은 생각을 하게 만드는 내용이었다. 특히나 지금 많은 사람들은 현재 사용하고 있는 LLM, 즉 챗GPT나 제미나이 등을 인공지능이라고 생각한다. 그런데 강화학습을 창시한 튜링상 수상자가 "이건 지능이 아닙니다"라고 단언한다. 사실 나도 그의 말에 어느정도 동의한다. LLM은 감정이라는 것이 결여 되어있기 때문이다. 지금 글로벌 AI 기업들은 여전히 언어모델에 수조 원을 쏟아붓고 있고, 현실의 제품들은 매일 더 똑똑해지고 있는데, 사실 그것도 시간문제가 아닌가? 아니면 감정이라는 것은 인간이 만든 개념일 뿐이고 AI에게는 우리의 상식으로는 설명 못할 무언가가 있는 것이 아닐까? 내 볼 수 있는 것은 물음표 뿐이다. 그 어떤 것도 정해진 답이 아직은 없는 것이다.
그럼에도 한 가지는 분명하다. 지금 우리가 쓰고 있는 AI와, 서튼이 꿈꾸는 진짜 지능 사이에는 엄청난 간극이 있다. 20시간이면 운전을 익히는 인간을 AI가 따라잡지 못하는 이유가 그 간극 안에 있다. 우리는 그 간극을 메우는 시대의 한복판에 서 있는 것이다. 설령 그 끝에 우리보다 훨씬 똑똑한 존재가 기다린다 해도, 최소한 그 존재에게 단단한 가치관 하나는 심어주고 물러나야 하지 않을까. 그것이 이 거대한 전환기에 우리 세대가 감당해야 할 몫인지도 모른다.
참고 자료 – https://youtu.be/21EYKqUsPfg?si=xZvciWYZMhViNi07
(Richard Sutton – Father of RL thinks LLMs are a dead end)
> comments
댓글
댓글 쓰기