고수들의 AI 활용법은?

 

"신사업 타당성 검토 보고서 초안을 AI로 3분 만에 뽑았어. 프롬프트를 기가 막히게 짰거든. 남들 하루 걸릴 일을 커피 한 잔 마실 시간에 끝냈지."

어떤 동료가 이렇게 자랑을 하면서 자신이 사내 최고의 AI전문가임을 은근 드러내는 풍경. 아마 한두번은 목격하지 않나요? 하지만 그가 보여준 보고서는 어딘가 엉성합니다. 화려한 표현은 가득하지만 날카로운 인사이트는커녕 치열할 고민의 흔적은 전혀 없습니다. 그도 그럴것이 3분 만에 뽑았으니까요. 

AI를 잘 쓴다는 것이 '프롬프트를 기가 막히게 작성해서 작업 속도를 비약적으로 높이는 것'일까요? 물론 이 정도를 구사할 수 있는 것도 훌륭하겠지만, AI의 고수라고 볼 수는 없습니다. 글로벌 컨설팅 기업인 KPMG의 직원들을 대상으로 한 연구를 들여다보면 말이죠. 

KPMG의 AI 고수들은 AI에게 한 번의 프롬프트로 완벽한 결과물을 요구하지는 않습니다. 대신 그들은 AI를 일종의 '스파링 파트너'로 활용하죠. 대화를 거듭하면서 자기 의견을 가다듬고, AI가 내놓은 결과물에 끊임없이 의문을 제기하는 모습을 보입니다. 심지어 때로는 AI에게 자신의 논리를 비판해 달라고 요구한다고 합니다. "내가 작성한 이 보고서에서 논리 비약이 있는 부분을 3가지 찾아"라고 질문을 던지는 식이죠.

또한 이들은 단순히 기존 업무를 빠르게 처리하는 데 그치지 않고, 업무 프로세스 자체를 재설계(Workflow Redesign)합니다. 과거에는 자료조사 80%, 기획 20%의 시간을 썼다면 일 잘하는 직원들은 자료조사는 AI에게 맡겨 10%로 줄이고, 남은 90%의 시간을 고객의 숨은 니즈를 파악하거나 창의적인 전략을 세우는 데 투여합니다. 이것이 이들의 결과물이 가진 경쟁 우위죠.

 

AI에게 명확한 목표와 맥락을 제공해서 마치 유능한 비서에게 업무를 맡기듯 정교하게 프롬프팅한다는 것, AI를 특정 업무용 툴이 아니라 업무 전반의 인지 능력을 보완하는 범용적인 도구로 내재화한다는 것도 AI 고수의 차별점입니다.

고수들의 활용법을 예로 들어볼까요?

"이 보고서를 요약해 줘." 
--> "이 보고서를 읽고 경쟁사 A사의 입장에서 이 보고서의 가장 취약한 논리 3가지를 지적해. 그리고 취약점을 보완하려면 어떤 데이터나 전략을 추가하면 좋을지 제안해."

"재택근무 확대가 좋은 점 3가지를 말해줘."
--> "내가 '재택근무가 생산성을 높인다'는 주제로 보고서를 작성하고 있어. 이 주장에 반대하는 최신 경영학적 근거와 통계적 반론들을 찾아서 보여줘. 내가 이 반론들에 논리적으로 재반박할 답변도 제시해줘."

"OO 서비스의 가격을 10% 인상하는 것이 좋은지 나쁜지 의견을 말해줘."
--> "우리가 OO서비스 가격을 10% 인상하려고 해. 기존 고객들의 예상되는 반발 유형을 3가지 페르소나(가격 민감 고객, 충성 고객, 기업 고객)별로 나누어 시뮬레이션해. 그리고 각 그룹의 이탈을 막기 위한 설득 논리를 표로 정리해줘."

AI 리터러시를 높이려면 직원들을 강당에 모아놓고 '챗GPT 프롬프트 작성법 10계명' 같은 스킬 교육을 시키는 것에서 멈춰서는 안 됩니다. 정교한 프롬프팅 기술을 공유하여 AI가 더 나은 결과물을 도출하게 하는 방법을 학습시켜야 합니다. 이를 위해 '나의 AI 실패 사례'를 공유하는 것도 좋은 방법입니다. "AI에게 이런 프롬프트를 넣어서 해봤는데 이상한 결과가 나오더군요. 그래서 이렇게 저렇게 바꿔서 프롬프트를 넣었더니 꽤 유용한 결과를 얻을 수 있었습니다." AI 역량의 향상에도 현장 경험을 공유하는 것이 무엇보다 중요합니다.

AI가 타이핑 시간을 줄여줄 수는 있지만 치열한 고민을 대신할 수 없습니다. AI 시대의 진정한 경쟁력은 '얼마나 빨리 해냈는가'가 아니라, AI라는 거울로 '얼마나 더 깊이, 얼마나 다르게 생각할 수 있는가'에 달렸습니다. AI를 '업무의 보조 도구'에서 나의 지적 한계를 깨주는 '협업 파트너'로 격상시키는 것이 AI 고수가 되는 방법입니다. (끝)


*참고기사
https://hbr.org/2026/03/what-the-best-ai-users-do-differently-and-how-to-level-up-all-of-your-employees