만약 당신이 미국에 있는 텍사스의 고속도로에서 22톤짜리 대형 화물 트럭이 운전석에 사람 없이 질주하는 모습을 보게 된다면, 불안감을 느끼는가 편안함을 느끼는가? 숫자로 나타난 팩트로는 이 자율주행 트럭은 사람이 운전하는 트럭보다 인명 사고를 일으킬 가능성이 훨씬 낮다. 자율주행차 소프트웨어 개발업체인 ‘오로라 이노베이션’의 최고경영자 크리스 엄슨은 그렇게 주장했다.
완전히 다른 분야인 법률 중재에도 비슷한 논리가 적용되고 있다. 미국에서 대법원장을 역임하고 현재 미국 중재 협회(AAA)의 CEO인 브리짓 메리 맥코맥은 자신의 협회에서 새로 개발한 AI 중재자(Arbitrator)가 대부분의 인간보다 더 나은 방식으로 분쟁을 해결할 수 있다고 주장했다.
사실 보험 회사들은 지금처럼 AI 붐이 불기 전부터 알고리즘 기반 의사 결정을 해왔는데, 규제 당국은 해당건에 대해서 AI 기반 시스템도 인간의 판단과 동일한 기준을 적용받아야 한다고 했다. 그래서 많은 보험 회사들이 알고리즘을 "설명 가능하게" 만들도록 강요받았고, 결과로는 AI 블랙박스 안에 알고리즘을 숨기는 대신 그 작동 방식을 공개하기도 했다. 그만큼 보험 회사들은 이 AI 알고리즘의 중립성과 판단을 믿는다는 것이다.
우리가 쉽게 접하는 챗봇이 머지않아 우리보다 똑똑해질 것이라는 주장들도 점점 많아지고 있다. 이러한 의사결정 시스템을 개발하는 개발자들은 챗봇의 사고 과정을 꼼꼼하게 문서화하고, 그 능력을 입증하고 신뢰성을 확보할 수 있는 영역으로 끌어내는데 상당한 노력을 기울이고 있다. 하지만 우리 중 많은 사람들은 여전히 인간의 판단을 더 선호한다. 챗봇과의 대화보다 상담원과 직접 대화하고 싶어 한다. 모두 한 번쯤은 그런 경험이 있을 것이다. 챗봇에게 들은 답변에 불만을 품고 오랜 시간을 기다려 상담원에게 같은 대답을 듣고 나서야 인정한 적 있지 않은가?
필자의 생각으로는 철학적인 딜레마에 빠져 있는 듯하다. 수년간의 연구를 통해 인간의 불완전성이 드러났음에도 불구하고 우리는 인간의 불투명한 의사결정과정을 용인하고 있다. 자동화 시스템이 우리보다 더 나은 결과를 낼 수 있다는 것을 믿기에는 아직 망설이는 사람들이 너무나 많은 것이다. 퓨 리서치 센터에 따르면 사람들은 인공지능에 대해 기대감만큼이나 우려도 크다고 한다. 그리고 이는 당연한 일이다. 컴퓨터 기반 의사 결정의 역사는 현재 인류에게는 너무나도 짧기 때문이다.
하나 황당한 실제 사례를 말해주자면, 미국의 형량 결정 AI와 실제 판사 중 누가 더 공정해 보이는 판결을 내릴 것 같은가? 정답을 말하자면 실제 인간 판사가 더 공정한 판결을 내렸고, AI는 상당한 인종적 편향성을 드러냈다. 이 황당한 사례가 생긴 이유로는 AI가 역대 법원 판결을 기반으로 학습된 것이기 때문에, 백인이나 아시아인들보다 상대적으로 범죄 비율이 높은 유색인종의 데이터들 때문에 이러한 현상이 발생한 것이다. 이것에 대해서는 사실 할 말이 굉장히 많지만, 말을 아끼도록 하겠다.
2023년, 자율주행 트럭 소프트웨어 개발사인 오로라(Aurora)의 엔지니어들은 2018년부터 2022년까지 댈러스와 휴스턴을 잇는 45번 주간 고속도로에서 발생한 모든 치명적인 충돌 사고를 분석했다. 경찰 보고서를 바탕으로 각 사고를 시뮬레이션한 후, 오로라 드라이버(Aurora Driver)라는 인공지능(AI)을 이용해 시뮬레이션을 진행했다. 이로 인해 CEO는 오로라 운전자는 어떤 상황에서도 충돌을 피할 수 있었을 것이라고 자신했다.
하지만 이 회사는 최근 차질을 겪기도 했다. 오로라는 텍사스에서 운전자가 없는 트럭으로 화물을 운송하는 시범 운행을 시작했는데, 2주 후 한 제조업체가 대중에 밝혀지지 않은 사유와 요청으로 오로라는 다시 운전자를 배치해야 했다. 회사 측은 자사의 소프트웨어가 여전히 운전을 전적으로 책임지고 있으며, 2026년 중반까지 일부 트럭은 다시 완전 무인 운행이 가능해질 것으로 주장하고 있다.
법 쪽으로는 미국중재협회(AAA)의 AI 출시 초기에는 인공지능이 사용하기 가장 적합한 특정 유형의 사건, 즉 문서만으로 결정되는 사건에만 인공지능 중재 시스템을 제공했다. 이 시스템은 투명성, 설명 가능성을 제공하고 인간 전문가의 결론과 다른 부분을 공유하고 피드백하며 업데이트되었다. 하지만 전문 중재인, 판사, 법대생들이 AI 중재인의 신뢰성을 테스트에서 확인했음에도 불구하고, 지난달 출시 이후 실제 사건에 이 봇을 사용하기로 선택한 사람은 아직 없다. 전문가들은 그 이유가 AI 중재인의 참신함과 실무자들의 익숙하지 않음 때문일 수 있다고 말했다. (분쟁 당사자 양측은 사전에 봇 사용에 동의해야 한다.)
인공지능을 증오하고 신뢰해서는 안 된다고 말하는 사람들이 주장하는, 극단적으로 자살을 부추기는 챗봇부터 일자리와 지적 재산을 파괴하는 이미지 생성기에 이르기까지 우리 모두가 매일 접하는 다양한 방식으로 인류에게 해악을 끼치는 것만을 보여주고 있다. 현재 대중에게 공개된 그리고 개발된 AI에는 감정이라는 것이 없다. 모두가 인간이 쌓아둔 데이터를 통해서 학습한 것이고, AI가 활용된 각종 범죄들은 결국 인간의 손에 들어간 도구에 불과한 것이다. 지금까지는 AI가 주도적으로 인류에 해악을 끼치거나 그러진 않는다.
AI에 대한 공포감과 거부감, 사실 조금만 생각해 보면 반복되는 역사일 수도 있다. 십여 년 전 알파고로 대두된 일자리 문제 기시감이 있지 않은가? 1990년대 후반 딥 블루가 체스 챔피언을 이겼을 때의 설레발이 반복되고 있는 건 아닐지 생각해 볼 필요가 있다. 20년 이내에 없어질 가능성이 높은 직업 상위 10순위 따위는 1990년대 후반 딥 블루가 체스 챔피언을 이겼을 때도 나왔던 설레발이다. 또한 1990년대 후반은 오프라인에서 온라인(인터넷)으로 패러다임이 전환되는 시기였는데, 앞으로 사이버 시대니까 가수가 없어지고 사이버 가수가 대세가 될 것이라는 미래 학자의 전망을 너무 믿은 나머지 스퀘어라는 회사는 먼저 선수 치겠다고 올인하듯 투자했다가 낙동강 오리알 신세로 전락하며 합병당했다. 즉, 미래에 대해 이러쿵 저러쿵 떠드는 사람들 덕분에 미래를 잃었다. 당시 한국에서조차 사이버 배우(아담)가 출연하여 음반까지 발표하며 잠시 반짝했다가 사라졌을 정도니, 당시 시대상의 분위기를 짐작해 볼 수 있을 것이다.
인사 관리와 같은 일부 영역에서는 AI 업계 전문가들조차 ‘인간의 감정’이 중요하며 AI의 의사 결정이 지나치게 냉담할 수 있다고 주장한다. 하지만 현실적으로는 그 누구도 손에 그러한 피를 묻히고 싶어 하지 않는다. 인간이 내리기 힘들어하는 정답에 가까운 냉정하고 냉담한 평가는 누군가는 내려야 하는 비인간적인 결단이고, 그런 어려운 결단을 내리고 책임을 지라고 리더라는 자리가 있는 것이다.
필자의 결론은 결국에는 시간이 해결해 줄 것으로 생각된다. 인류에게 AI의 역사는 아직 초기 단계이며 아직은 친해져야 할 시간이 필요한 것은 사실이다. 인류가 AI와 친해지는데 드는 시간 동안, 책임감 있는 개발은 인공지능의 부정적인 측면을 상쇄하는 균형을 가져올 수 있다고 생각한다. 단, 이러한 시스템이 제작자가 주장하는 대로 작동하는지 검증할 수 있어야 한다. AI와 완전히 융합한 인류는 그 누구도 정말로 상상도 못해본 신세계일 것이다.
> comments
댓글
댓글 쓰기