생각하는 AI의 탄생 o1

지난 9월 12일 ChatGPT의 새로운 모델인 OpenAI o1(오픈AI 오원)이 등장했다.

인공지능에 관심이 있는 사람들이라면 알고 있는 Artificial Analysis(아티피셜 아날리시스)라는 인공지능 종합 평가사이트에 따르면 기존에 나온 모든 AI 모델 가운데 퀄리티 부분에서 압도적인 1위를 하였지만 속도 부분에서는 압도적으로 낮은 최하위를 하였고, 가격 부분에서도 압도적으로 가장 비싼 뭐든 압도적인 것을 확인할 수 있었다.

 

직접 사용해 본 결과 대답 하나에도 몇 십초가 걸렸다. 하지만 여기엔 이유가 있었다. 한번 프롬포트(명령)를 입력하고 나면 그것을 바로 대답하는 것이 아닌 그걸 반추해 보고 검증도 해보고 스스로 시나리오를 생성해서 추론하는 것들을 학습해서 마련하기 때문에 실질적으로 토큰 수도 엄청나게 많이 들어가기에 이런 속도와 가격이 나오게 된 것이다. 쉽게 말하면 AI가 깊은 생각까지 하게 된 것이라고 봐도 되는 것이다. 특히나 위의 세개의 스펙(퀄리티, 속도, 가격)말고도 다른 여러가지의 스펙들을 봐도 과학적 지식이라던가 코딩능력, 추리능력 등등 각각의 능력 부분에서도 압도적인 1위를 하는 것을 볼 수가 있다. 이에 연구자나 엔지니어들이 많은 도움을 받을 수 있을 것으로 기대하고 있다.

 

관련 논문에 따르면 이 o1모델(이하 오원)은 추론 토큰 방식을 도입했다고 한다. 이전에는 추론방식을 인간이 직접 수많은 데이터를 통하여 학습시키는 방식이었다면 오원은 쉽게 풀어 말하면 스스로 사고할 수 있는 시나리오들을 마구마구 생성함으로서 여러가지로 스스로 훈련하고 추론함으로서 인간이 기존에 작성한 데이터보다 뛰어난 방식으로 다양한 시나리오를 뽑아서 직접 학습 하는 방식이다. 그러니까 영화 어벤저스의 닥터스트레인지가 수천만의 미래를 보고 그중 단 하나의 답을 찾아내 듯 이 AI는 우리의 질문 또는 명령에 수많은 시나리오를 가지고 접근하여 대답하는 것이다.

 

기존의 LLM 즉 GPT 전 모델들의 방식이 그냥 번역만 하는 방식 혹은 단어 다음에 무엇이 올 것인가에 대해서만 집중해서 사용자가 원하지 않는 또는 엉뚱한 대답들 또는 윤리적으로 문제가 되는 것들 이러한 대답들을 필터링 해서 그냥 닫아놓는 그런 과정으로 작동하는 것들이 기존의 모델들이었다.

근데 이제 오원은 사람에 의해서 답을 필터링 한다거나 튜닝을 하는 것이 아닌 ‘직접 자기가 여러가지 답을 시나리오로 많이 만들어서 그 중에서 뽑아낼 수 있도록 학습을 시켰다는 것’ 그렇게 되면 아무래도 조금 더 객관적인 답을 찾아갈 수 있도록 할 수 있다는 방식인것이다. 그러니까 인간과 흡사하게 모델링을 했다고 추측하는 것이다.

 

기존의 AI 모델들로 IQ 테스트를 한 것을 보면 대부분이 IQ 100을 넘어서지 못하고 있다. 80에서 90초반 사이의 IQ를 가지고 있었다. 하지만 이번에 나온 오원이 IQ 120점을 기록하였다. 단순히 정답을 맞추는 것뿐만이 아니라 이 과정 중심으로 여러가지 시나리오를 생성 및 학습하는 것에 대한 차이점을 명확히 보여준 것이다. 물론 이런 장점만 있는 것은 아니고 단점도 있긴 하다. 테스트 중에 주관적인 해석이나 창의적인 사고가 필요한 문학, 예술. 철학 같은 부분에서는 최하점을 기록하며 반복학습을 통해도 오히려 점수가 향상이 되지 않는 부분도 많았다.

 

AI가 점점 인간의 손이 덜가는 방향으로 발전하고 있다. 인간의 몇 십초와 AI의 몇 십초는 차원이 다른 시간이다 어쩌면 수개월 아니면 수년의 시간일 수도 있다. 대답하나를 작성하는데 사용된 시나리오 토큰들에는 얼마나 많은 생각이 들어있을지 공학도를 떠나서 인간으로서 순수한 호기심이 생긴다. 과연 우리가 맞는 방향으로 발전하고 있는 것인가 의구심이 든다.