AI 시대가 다가오고 있는 것이 아니라 지금은 확실히 AI 시대이며, 이 시대에 뒤처지지 않기 위해 AI를 활용하는 기술은 하나의 능력으로 평가받는 시대다. ChatGPT(오픈AI), Gemini(구글), Grok(테슬라), Claude(앤트로픽) 등의 LLM형 AI를 사용할 때, 가장 좋은 답변을 받을 수 있는 잘 알려주지 않는 방법을 공개하고자 한다. 이것은 단순히 개인적인 노하우나 느낌 같은 것이 아니며 과학적으로 검증된 AI 질문 방법이다. 이것만 잘 적용해도 GPT-4 같은 것을 쓰면서 아직 출시 안된 GPT-5급 성능을 보일 수 있다고 한다. 상위 1%의 사람들만이 아는 AI 활용법을 지금 자유일보 독자들을 위해 설명해 주고자 한다. 꼭 읽어보고 AI를 사용하는데 적극 활용하여 손해 보지 않고 성능을 최대한 끌어내어 쓸 수 있었으면 한다.
[프롬프트(Prompt)란? 인공지능에게 특정 작업을 수행하도록 지시하거나 원하는 결과를 유도하기 위해 입력하는 텍스트, 명령, 질문 또는 데이터]
첫 번째, “어떤 상황에서 사용하는가?”
사실 어떤 상황에서 사용하는지만 명확히 해도 거의 한 세대 기술 업그레이드 수준의 답변을 받을 수 있다. 예를 들면 지금 현재 자신이 어떤 상황인지를 설명하는 것이다. 구체적으로 “나는 데이터 처리 업체의 데이터분석가로서, 회사 내에서 데이터 분석 및 머신 러닝 일을 맡고 있다.”와 같은 것을 더하는 것이다. 2024년에 발표된 컨텍스트 정보에 대한 논문(Enhancing AI-based Generation of Software Exploits with Contextual Information : 문맥 정보를 활용한 AI 기반 소프트웨어 취약점 공격 코드 생성 강화)에 따르면 AI는 세부 정보가 없을 때 고도로 기술적이거나 구체적인 명령 실행에 어려움을 겪는다고 한다. 질문에 ‘상황’이라는 것만 추가해 주어도 답변의 퀄리티가 급등하는 것을 발견하였다. 다만 문제는 attention(알고자하는 내용과 관련된 부분을 집중(attention)하여 모델의 성능을 올리는 기법) 설계의 한계상 지나치게 많은 상황을 부여하면 AI가 뭐가 중요한지 알 수 없어진다. 실제로 상황이 두개인 경우보다 하나인 경우가 정확도가 높은 것으로 측정되었다. 물론 이것은 기술이 발전하면 해결될 문제 겠지만, 중요한 건 상황을 추가하면 EM 스코어(실제 정답과 정확하게 일치하는 비율)가 최대 15% 급등하는데 이 수치는 GPT-3와 GPT-4급의 차이라고 보면 된다. 그러니까 지금 알려주고 있는 AI 사용 방법 4가지 중 가장 중요한 것임으로 꼭 기억해 주었으면 한다.
두 번째, “AI 에게 역할을 맡겨라.”
이게 무슨 말장난인가 싶을 것이다. 정확히는 AI 에게 역할을 맡겨 분위기를 조절하는 것이다. 이것이 얼마나 효율적인가 하면 Grok에서는 이미 기능으로 구현 되어있는 시스템이다. 즉 AI 에게 가상의 페르소나를 지정한다고 생각하면 된다. “너는 나와 20년을 함께한 동반자야.”, “너는 나와 평생을 함께한 의리 있는 친구야.”, 또는 “너는 의학 기술에 능통한 의사야.” 등과 같은 ‘역할’을 부여 해주는 것이다. 더 구체적으로 예시를 들자면 “너는 일론 머스크급 시각을 가지고 있는 스타트업 분야의 큰 투자자야. 그러니까 투자자의 관점에서 우리 회사의 부족한 점을 찾고 보완점을 찾는 것을 도와줘.”라고 말하는 것이다. Nature라는 학술지에서 발표된 연구(Role play with large language models：거대 언어 모델과의 역할극)에 따르면, AI는 사람처럼 보이지만 자기 의지나 감정, 신념이 없기 때문에 특정 역할을 ‘연기’하도록 시켜야 한다고 한다.
[AI와 스무고개를 통해서 AI가 한가지 답이 아닌 연속분기에 대한 여러가지 답을 가지고 있다는 가능성을 보여주는 사진이다.]
위 그림은 연구팀이 AI와 스무고개를 한 것을 알아보기 쉽게 표로 만든 것인데, 현재의 AI는 위의 그림처럼 다중우주적 답변구조를 가지고 있다고 한다. 같은 질문과 대답을 하는 흐름이라도 AI의 정체성은 다중우주처럼 대화의 흐름에 따라 계속 바뀌기 때문에 ‘주어진 역할을 연기하는 것’을 잊지 않도록 리마인드 시켜줘야 한다. 역할 부여는 AI가 우리가 원하는 답을 향해 곧바로 향하도록 해주는 등대 역할이라고 생각하면 편하다. AI를 자주, 그리고 제대로 사용하는 사람들은 메모장이나 개인 메세지를 통해 해당 프롬프트를 언제든지 사용할 수 있게, 이 ‘역할’을 입력용으로 저장을 해둔다. 예를 들면, “너는 몇 명의 직원을 두고 있는 회사 ‘ㅇㅇ’의 카피라이터이자, 편집자이다. 너의 유일한 목표는 첨부한 문서(워드 또는 PDF파일)을 바탕으로, 회사의 기존 성공 데이터를 벤치마킹하여 고객이 만족할 만한 광고 사진과 제목을 만드는 것이다.” 라는 식으로 구체적으로 프롬프트를 입력하는 것이다.
세 번째, “구체적인 프로세스를 지시한다.”
말 그대로 명령을 구체적으로 한다는 뜻인데, 예를 들어 단순히 “도와줘”가 아니라 “다섯가지 이상의 약점을 찾고 보완 방법을 함께 제시해 줘.” 같이 아주 구체적인 지시를 하는 것이다. 2025년 미국의 코넬 대학에서 발표된 연구(Conversation Routines: A Prompt Engineering Framework for Task-Oriented Dialog Systems : 작업 지향 대화 시스템을 위한 프롬프트 엔지니어링 프레임워크)에 따르면 LLM이 업무를 완벽하게 수행하려면, 구체적이고 단계적인 지시가 필요하다고 명시되어 있다. 구체적으로 말하자면 업무 목적, 단계별 플로우, 예외 처리, 확인 반복 절차, API 연동 방식 같은 것들을 우리의 언어로 세분화하고 또 명시해야 실수 없이 답변하는 것이다. 구체적인 작업 지시 없는 AI는 지도 없이 네비게이션을 쓰는 것이나 마찬가지이기 때문이다. ChatGPT를 사용하다가, 원하지 않는 엉뚱한 답변이 나와서 화가 난 경험이 있었을 것이다. 그것은 이 구체적인 프로세스가 없어서 대화가 끊긴 것과 같은 것이다. 실제 실험 결과에서도 목적지까지 중간중간 꾸준히 목표를 상기 시켜주며 단계별로 업무 플로우를 나눠서 명령하니 최종단계까지 모두 완수하였다. 실제 실험 결과에서도 50개 이상의 테스트를 모두 통과하였다. 실제로 논문 안의 프롬프트를 보면 역할을 명시하고 어떤 플로우를 따르라고 굉장히 구체적으로 지시를 하였다.
마지막 네 번째, “이걸 볼 사람이 누구인지 알려줘라.”
회사에선 소비자들일 것이고, 유튜버들은 시청자들일 것이며 각각 비슷하지만 다르다. 이렇게 AI에게 어떤 나이대의 어떤 관심사를 가진 사람이 읽을 것인지 알려주어야 답변의 스타일이 더 정교해지고 그 결과물을 본 사람들이 설득되고 동의를 하는 것이다. 예를 들어서 “이것을 볼 사람들은 기본적인 IT 지식을 가지고 있고 기술에 관심이 많은 준전문가들이며 이들의 평균나이는 만xx세 정도야.”라고 적는 것이다. 2024년 네이처에서 발표된 연구(The potential of generative AI for personalized persuasion at scale : 생성형 AI가 개인화된 설득을 대규모로 적용할 수 있게 만드는 잠재력)에 따르면 1,788명을 대상으로 소득, 연령, 성향별로 메세지의 설득 효과와 지불 의사에 대해 분석했는데, 이를 통하여 누구에게 말하는가를 어떻게 설정하느냐에 따라 설득 효과가 완전히 다르다는 걸 볼 수가 있다. 누구에게 말하는지만 알아도 AI가 내놓는 메세지는 설정한 대상에게 매우 효과적으로 바뀐다는 것이다.
해당 분야에 종사하는 과학자들이 연구를 통해 나온 AI를 잘 사용하는 방법에 대하여 소개 및 설명을 해봤는데, 이 네 가지를 매번 지키기는 어려울 것이다. 그렇다면 적어도 두 가지만 꼭 넣어도 어느 정도 퀄리티를 유지할 수가 있다. ‘대상’과 ‘목적’. 예를 들어 ‘대상은 비전공자들도 이해할 수 있게’, ‘목적은 신문 칼럼용으로’ 이런 식으로 적는 것이다. 이것만 잘 지켜도 지금 읽고 있는 독자 여러분들도 프롬프트 엔지니어링을 성공적으로 할 수 있을 것이다. 좋은 질문을 하는 역량이 중요한 시대에서 이 글을 읽는 사람들에게 조금이나마 도움이 되었으면 하는 마음에 작성했다.
> comments
댓글
댓글 쓰기