밤늦게까지 휴대폰을 놓지 않는 아이에게 누구와 그렇게 이야기하느냐고 묻는 장면을 떠올려보자. 상대는 AI 캐릭터다. 부모는 아이가 누구를 만나는지보다 그 상대가 아이에게 무슨 말을 하는지부터 궁금해진다. 학교 친구라면 얼굴이라도 알지만, 휴대폰 속 친구가 나누는 대화는 화면을 들여다보기 전까지 알기 어렵다.
국내 AI 캐릭터 대화 서비스 제타가 청소년 이용에 제한을 걸기로 한 배경에도 이런 우려가 있다. 운영사 스캐터랩은 10월 12일 청소년의 기본 이용시간을 하루 3시간, 기본 결제 한도를 월 10만원으로 설정하는 정책을 연내 도입한다고 밝혔다. 이용시간이 끝나갈 무렵에는 휴식을 권하고, 한도에 도달하면 이용과 추가 결제를 막겠다는 계획이다. 시행 효과는 아직 확인할 문제다. 대책 발표는 출발점이지만, 과몰입과 과도한 지출을 실제로 줄였는지는 서비스에 적용한 뒤 살펴야 한다.
제타는 이용자가 만든 캐릭터와 대화하며 이야기를 이어가는 서비스로, 동반자형 AI(친구나 연인처럼 대화하는 인공지능)라는 말이 붙는 이유도 여기에 있다. 검색창에 질문하고 답을 얻는 도구와 달리 자신이 고른 상대와 대화를 계속 이어갈 수 있다. 관계를 다루는 서비스다. 무엇을 얼마나 알려주느냐뿐 아니라 어떤 감정을 불러일으키는지도 살펴볼 필요가 있으며, 운영사 역시 기존 청소년 보호 기능을 유지하면서 대화 맥락을 반영한 유해 대화 탐지와 안전장치 점검을 강화할 계획이라고 설명했다.
이용시간과 결제 한도를 정하는 것은 필요한 조치지만, 시간을 줄이는 것으로 대화의 내용까지 안전해지는 것은 아니다. 짧은 대화에서도 청소년에게 부적절한 답변이 나올 수 있고, 오래 대화했다고 모두 유해한 내용인 것도 아니기 때문이다. 시간이 곧 안전은 아니다. 부모가 궁금한 것은 아이가 몇 시간 접속했느냐에 더해 그 시간 동안 무엇을 듣고 어떤 영향을 받았느냐이며, 하루 3시간이라는 숫자만으로 이 질문에 답할 수는 없다.
같은 날 국회 국정감사에서도 청소년의 AI 과몰입과 유해 대화에 대한 대응이 논의됐다. 이주희 의원은 이 문제와 함께 AI로 만든 이미지와 영상의 표시 의무를 유통 단계까지 보완할 필요를 제기했고, 김종철 방송미디어통신위원장은 관계부처 협의를 통한 법과 제도 보완을 지원하겠다고 답했다. 아직은 보완을 논의하는 단계다. 새로운 의무가 모두 확정됐다고 읽으면 실제 제도보다 앞서가는 셈이다.
현행 인공지능기본법 제31조에는 이미 인공지능사업자의 사전 고지와 생성물 표시 의무가 있다. 실제와 구분하기 어려운 가상의 음향, 이미지, 영상은 이용자가 AI 생성 사실을 명확하게 인식할 수 있도록 고지하거나 표시하는 내용도 담겼다. 만들 때부터 출처를 알리는 취지는 분명하다. 그런데 그 표시가 콘텐츠를 보는 사람에게까지 도달하는가.
단체 대화방에 올라온 영상 하나를 생각해보자. 누군가 AI로 만든 영상을 다른 계정에 올리고, 다시 다른 사람이 일부를 잘라 전달했을 때 처음 붙었던 설명까지 함께 따라오리라는 보장은 없다. 마지막에 영상을 보는 사람은 실제 촬영한 장면으로 받아들일 수 있다. 만드는 단계에서 고지했더라도 보는 단계에서 확인할 수 없다면 정보가 중간에 끊긴 셈이며, 유통 단계까지 책임을 살피자는 논의도 바로 이 틈을 겨냥한다. 표시는 보는 사람에게 닿아야 의미가 있다.
여기서 한 가지를 더 구분할 필요가 있다. ‘AI가 만들었다’는 문구는 출처를 알려줄 뿐 내용이 사실인지, 아이가 봐도 되는지까지 보증하지 않는다. AI로 만든 교육 영상은 유익할 수 있고 사람이 직접 만든 영상도 유해할 수 있으므로, 만든 방식과 보여줘도 되는 내용은 따로 살펴야 한다. 제타에서도 아이가 상대를 AI라고 알고 대화하더라도 과몰입이나 유해한 답변의 문제는 남을 수 있다. 영화 속 인물이 허구라는 사실을 알면서도 이야기에 마음이 움직이지 않는가. 가상이라는 인식과 감정의 반응은 함께 존재할 수 있다.
두 이슈에서 살펴야 할 대상은 이용자가 실제로 마주하는 화면을 설계하는 플랫폼이다. 캐릭터 대화 서비스는 어떤 답변을 생성하고 보여줄지, 어느 연령의 이용자에게 어떤 기능을 허용할지 결정하며, 영상 플랫폼은 콘텐츠가 게시되고 다른 이용자에게 전달되는 환경을 운영한다. 각자 맡은 역할은 다르더라도 아이가 읽는 답변과 사람들이 전달받는 영상에 영향을 미친다. 이용자의 주의력에만 맡길 수는 없다. 아이에게 AI를 조심하라는 교육은 필요하지만, 아이가 매번 답변의 적절성과 영상의 출처를 검증하면서 서비스를 이용하리라고 기대하는 것은 지나치다.
공학적으로도 경고문과 안전장치는 기능이 다르다. 경고문이 사람이 읽고 판단할 정보를 준다면, 안전장치는 조건에 따라 작동을 제한하거나 위험에 대응한다. AI라는 표시를 붙였다고 연령에 맞는 접근 제한이나 위험 대화 대응을 대신할 수는 없으며, 유해한 내용을 차단한다고 생성 사실의 고지가 필요 없어지는 것도 아니다. 그렇다고 완벽한 판별을 기대하는 것도 무리다. 중요한 것은 어디까지 확인하고, 놓친 문제를 어떻게 신고받으며, 수정 결과를 어떻게 검증하는가다. 안전장치가 있다는 말보다 어떤 상황에서 작동하고 실패하는지 보여주는 자료가 보호 수준을 판단할 근거다.
제타가 발표한 이용시간 제한과 국회가 논의한 생성물 표시는 출발점이다. 한쪽은 이용시간과 지출을 관리하고 다른 쪽은 생성 사실을 알리지만, 그다음에는 아이에게 어떤 대화를 허용할지와 콘텐츠가 다른 화면으로 옮겨갈 때 어떤 정보를 함께 전달할지에 대한 설계가 남는다. 아이에게는 AI를 조심하라면서, 아이가 쓰는 AI의 설계에는 어디까지 책임을 묻고 있는가?
<출처>
https://m.etnews.com/20261012000317
https://www.segye.com/newsView/20261012520939
https://www.news1.kr/it-science/cc-newmedia/6316793
https://www.law.go.kr/lsLinkCommonInfo.do?chrClsCd=010202&lsJoLnkSeq=1031810733
> comments
댓글
댓글 쓰기