어떤 CEO의 말. "우리 회사도 AI 솔루션을 개발했는데요, 제가 써보니 기가 막히더군요. 직원들에게 AI를 쓰게 하면 업무 생산성이 획기적으로 올라가겠죠?"

그러나 이런 바람이 실망으로 바뀌는 모습을 종종 발견합니다. 직원들의 AI 솔루션에 별로 접속하지 않은 채 여전히 예전 방식대로 야근을 하거나, 보안 지침을 어기면서 개인 스마트폰으로 무료 AI를 몰래 쓰는 모습, 혹시 여러분 회사의 상황은 아닌가요?

여러 조사에 따르면, 기업들이 AI에 막대한 예산을 쏟아붓지만 경영진과 직원 사이의 활용도 격차가 꽤 크다고 합니다. 뱀부HR(BambooHR)의 최근 리포트에 따르면, 매일 AI를 활용한다고 답한 C레벨 및 임원급은 72%에 달한 반면, 일반 실무자는 18%에 불과해 무려 4배의 격차를 보였습니다. 

우리나라의 상황도 마찬가지입니다. 마이크로소프트의 '업무 동향 지표'에 따르면, 한국 직장인의 85%가 회사의 공식 지원이나 체계적인 교육 없이 개인 계정으로 AI를 몰래 사용하는 일명 'BYOAI(Bring Your Own AI)' 행태를 보입니다.

왜 이런 격차가 나타날까요? 단순히 직원들이 게으르거나 변화를 거부하기 때문일까요? 여기에는 직무 특성과 심리적 요인이라는 세 가지 근본적인 이유가 있습니다.

1. 업무의 성격 차이
경영진과 임원들의 주된 업무는 시장 트렌드를 분석하고, 보고서를 요약하며, 이메일 초안을 작성하거나 전략의 큰 그림을 그리는 일입니다. 이는 지금의 생성형 AI가 가장 잘하는 '비정형 데이터 처리' 영역이어서 조금만 써도 효과가 엄청납니다.

반면 일반 실무자의 업무는 다르니다. 복잡한 ERP 시스템의 숫자를 맞추고, 까다로운 고객의 구체적인 불만을 처리하며, 회사의 고유한 양식에 맞춰 문서를 작성해야 하죠. 이런 실무에 AI를 적용하려면 자신의 업무 데이터를 AI에게 학습시키고 구조화하는 고통스러운 사전 작업이 필수적입니다. 그러니 누가 선뜻 AI를 활용하겠습니까?

2. 두려움
경영진은 AI를 '비즈니스 혁신 도구'로 당당하게 사용하지만 실무자들은 AI 사용을 숨기려 한다는데요, 무능해 보일까 해서, 자신의 일자리가 대체될까 봐 두려워하기 때문입니다. 

3. 조직문화의 문제
새로운 도구를 익히는 과정에서 필연적으로 업무 속도가 떨어지고 실수가 발생합니다. 당장 내일까지 실적을 내야 하는 직원 입장에서는 언제 AI를 학습시키고 AI와 토론할 시간이 있겠습니까? 더욱이 AI가 잘못된 답을 내놓는다면? 실패가 용납되지 않는 조직 분위기라면 굳이 AI 툴을 써서 모험할 이유가 없습니다.

그렇다면 어떻게 해야 직원들의 AI 활용도를 높여야 할까요? 회사는 AI 툴을 던져주고 "이제부터 이걸 활용해 성과를 내라"는 식으로 AI 교육을 해서는 안 됩니다. 대신, 팀원들이 특정 업무(예: 주간 보고서 초안 작성, 고객 불만 메일 회신)에 대해서 함께 프롬프트를 짜보고, 엉뚱한 결과물이 나오면 토론할 수 있는 '실전 연습 시간(Sandbox)'을 근무 시간 내에 보장해야 합니다.

개인 역시 남들이 말하는 'AI 활용법'을 읽는 것에서 멈춰서는 안 됩니다. 남이 만든 범용 프롬프트는 여러분의 복잡한 실무를 해결해 주지 못하니까요. 여러분 업무의 맥락을 스스로 논리적으로 쪼개고 원하는 결과가 나올 때까지 AI와 지루하게 씨름하는 과정이 여러분의 미래 경쟁력이 됩니다.

AI는 헬스클럽과 같습니다. 직원들에게 헬스클럽 회원권을 끊어준다고 해서 직원들에게 근육이 생기지는 않죠. 현장에서 시행착오를 겪으면서 AI를 적용하고 공유해야 AI 근육이 붙습니다. 오늘은 여러분이 해야 할 업무 중에서 가장 지루하고 반복적인 실무를 하나만 골라서 처음부터 끝까지 AI와 함께 처리해 보세요. 완벽하지 않아도 괜찮습니다. 그리고 그 방법과 과정을 동료들에게 공유하기 바랍니다. (끝)

*참고기사
https://www.fastcompany.com/91508168/why-your-employees-arent-using-the-ai-you-bought

"신사업 타당성 검토 보고서 초안을 AI로 3분 만에 뽑았어. 프롬프트를 기가 막히게 짰거든. 남들 하루 걸릴 일을 커피 한 잔 마실 시간에 끝냈지."

어떤 동료가 이렇게 자랑을 하면서 자신이 사내 최고의 AI전문가임을 은근 드러내는 풍경. 아마 한두번은 목격하지 않나요? 하지만 그가 보여준 보고서는 어딘가 엉성합니다. 화려한 표현은 가득하지만 날카로운 인사이트는커녕 치열할 고민의 흔적은 전혀 없습니다. 그도 그럴것이 3분 만에 뽑았으니까요. 

AI를 잘 쓴다는 것이 '프롬프트를 기가 막히게 작성해서 작업 속도를 비약적으로 높이는 것'일까요? 물론 이 정도를 구사할 수 있는 것도 훌륭하겠지만, AI의 고수라고 볼 수는 없습니다. 글로벌 컨설팅 기업인 KPMG의 직원들을 대상으로 한 연구를 들여다보면 말이죠. 

KPMG의 AI 고수들은 AI에게 한 번의 프롬프트로 완벽한 결과물을 요구하지는 않습니다. 대신 그들은 AI를 일종의 '스파링 파트너'로 활용하죠. 대화를 거듭하면서 자기 의견을 가다듬고, AI가 내놓은 결과물에 끊임없이 의문을 제기하는 모습을 보입니다. 심지어 때로는 AI에게 자신의 논리를 비판해 달라고 요구한다고 합니다. "내가 작성한 이 보고서에서 논리 비약이 있는 부분을 3가지 찾아"라고 질문을 던지는 식이죠.

또한 이들은 단순히 기존 업무를 빠르게 처리하는 데 그치지 않고, 업무 프로세스 자체를 재설계(Workflow Redesign)합니다. 과거에는 자료조사 80%, 기획 20%의 시간을 썼다면 일 잘하는 직원들은 자료조사는 AI에게 맡겨 10%로 줄이고, 남은 90%의 시간을 고객의 숨은 니즈를 파악하거나 창의적인 전략을 세우는 데 투여합니다. 이것이 이들의 결과물이 가진 경쟁 우위죠.

AI에게 명확한 목표와 맥락을 제공해서 마치 유능한 비서에게 업무를 맡기듯 정교하게 프롬프팅한다는 것, AI를 특정 업무용 툴이 아니라 업무 전반의 인지 능력을 보완하는 범용적인 도구로 내재화한다는 것도 AI 고수의 차별점입니다.

고수들의 활용법을 예로 들어볼까요?

"이 보고서를 요약해 줘." 
--> "이 보고서를 읽고 경쟁사 A사의 입장에서 이 보고서의 가장 취약한 논리 3가지를 지적해. 그리고 취약점을 보완하려면 어떤 데이터나 전략을 추가하면 좋을지 제안해."

"재택근무 확대가 좋은 점 3가지를 말해줘."
--> "내가 '재택근무가 생산성을 높인다'는 주제로 보고서를 작성하고 있어. 이 주장에 반대하는 최신 경영학적 근거와 통계적 반론들을 찾아서 보여줘. 내가 이 반론들에 논리적으로 재반박할 답변도 제시해줘."

"OO 서비스의 가격을 10% 인상하는 것이 좋은지 나쁜지 의견을 말해줘."
--> "우리가 OO서비스 가격을 10% 인상하려고 해. 기존 고객들의 예상되는 반발 유형을 3가지 페르소나(가격 민감 고객, 충성 고객, 기업 고객)별로 나누어 시뮬레이션해. 그리고 각 그룹의 이탈을 막기 위한 설득 논리를 표로 정리해줘."

AI 리터러시를 높이려면 직원들을 강당에 모아놓고 '챗GPT 프롬프트 작성법 10계명' 같은 스킬 교육을 시키는 것에서 멈춰서는 안 됩니다. 정교한 프롬프팅 기술을 공유하여 AI가 더 나은 결과물을 도출하게 하는 방법을 학습시켜야 합니다. 이를 위해 '나의 AI 실패 사례'를 공유하는 것도 좋은 방법입니다. "AI에게 이런 프롬프트를 넣어서 해봤는데 이상한 결과가 나오더군요. 그래서 이렇게 저렇게 바꿔서 프롬프트를 넣었더니 꽤 유용한 결과를 얻을 수 있었습니다." AI 역량의 향상에도 현장 경험을 공유하는 것이 무엇보다 중요합니다.

AI가 타이핑 시간을 줄여줄 수는 있지만 치열한 고민을 대신할 수 없습니다. AI 시대의 진정한 경쟁력은 '얼마나 빨리 해냈는가'가 아니라, AI라는 거울로 '얼마나 더 깊이, 얼마나 다르게 생각할 수 있는가'에 달렸습니다. AI를 '업무의 보조 도구'에서 나의 지적 한계를 깨주는 '협업 파트너'로 격상시키는 것이 AI 고수가 되는 방법입니다. (끝)


*참고기사
https://hbr.org/2026/03/what-the-best-ai-users-do-differently-and-how-to-level-up-all-of-your-employees

만약에 여러분의 회사가 현재 투자를 검토 중인 중국 테크 기업이 있다고 가정해 보세요.  ChatGPT에게 "이 테크 기업의 향후 전망은 어때?"라고 질문하니 굉장히 장밋빛의 미래가 예상된다는 결과를 얻었다면, 여러분은 당장 투자하기로 결정을 내려야 할까요? 물론 AI의 답을 근거로 거액이 소요되는 투자를 바로 결정하지는 않겠지만 "오호, 그래? 투자를 긍정적으로 검토해야겠어."라는 마음은 들 겁니다.

하지만 주의를 해야 합니다. AI가 '외국 편향(Foreign Bias)'을 보인다는 것이 연구 결과로 나왔으니까요. 보통 우리 인간은 자기 나라 기업을 더 좋게 평가하는 '자국 편향(Home Bias)'를 나타내는데, AI는 정반대라는 것이죠. 외국 편향이란 '외국 기업에 대해 근거 없이 낙관론을 펼치는 경향'을 뜻합니다.

왜 AI는 외국 편향을 보일까요? 연구팀은 그 원인을 '정보의 가용성'에서 찾았습니다. ChatGPT는 주로 영어권 뉴스를 수집하고 학습하는데요, 미국 매체들이 보도하는 외국 기업 뉴스는 미국 기업 뉴스에 비해 양이 현저히 적을 수밖에 없습니다. 게다가 외국 기업에 관한 부정적인 소식은 별로 다루지 않죠. 그러니 부족한 정보를 학습한 AI는 한정된 정보(주로 긍정적인 정보)만을 토대로 "외국 기업은 앞으로 잘 될 것"이라는 편향된 제안을 하고 맙니다.

여기서 우리는 AI의 제안과 분석이 객관적일 것이라는 믿음은 미신이라는 사실을 또 한 번 주지해야 합니다. 해당 지역의 맥락이 담긴 로컬 데이터를 충분히 부여하지 않는 상태에서는 AI도 낯선 여행객처럼 어리버리할 수밖에 없습니다. 아니, 어리버리함을 속이고 당당하게 아는척을 한다는 게 더 큰 문제죠.

AI의 제안이 근거를 기반으로 한 통찰인지, 아니면 정보 부재로 인한 낙관인지를 구분하는 것은 우리 인간의 몫입니다. 좋은 답을 얻으려면 AI에게 해당 지역의 정보를 사전에 충분히 학습시키는 것 역시 인간의 역할이죠. 실제로 연구팀이 해당 국가(예: 중국)의 기업 뉴스를 충분히 입력하자 ChatGPT는 딥시크(중국의 AI LLM) 수준의 답변을 내놓았습니다. 외국 편향이 옅어진 것이죠.

오늘 여러분이 AI에게 낯선 나라의 사례를 질문한다면 해당 국가의 부정적인 뉴스나 리스크 요인 3가지를 찾아서 입력한 후에 다시 질문해 보세요. 이런 작은 '프롬프트 엔지니어링'으로 보다 현실적인 답변을 얻어낼 수 있으니까요.  (끝)


*참고논문
Cao, S., Wang, C. C. Y., & Yi, X. (2026). When LLMs Go Abroad: Foreign Bias in AI Financial Predictions. Harvard Business School.

AI가 제시한 답을 보고 "이 부분 데이터가 틀린 것 같으니 다시 확인해 봐"라고 지시하면, AI는 "죄송합니다. 즉시 수정하겠습니다"라고 말하고 나서 교정된 답을 제시합니다. 여러분은 이걸 보고 'AI가 나의 피드백을 받아들였구나'라고 여길 텐데요, 과연 그럴까요? 사람이 개입해서 AI의 오류를 바로잡는 '휴먼 인 더 루프(Human-in-the-loop)' 방식이 AI의 환각(Hallucination)이나 오류를 통제할 수 있을까요? 

하버드 경영대학원과 워릭 경영대학원 등의 공동 연구진이 72명의 보스턴컨설팅그룹(BCG) 컨설턴트들을 대상으로 진행한 실험을 보면 "그렇지 않다"라고 답을 해야 합니다. 연구진은 AI가 순순히 오류를 인정하는 수동적인 계산기가 아니라고 말하면서 오히려 사람에게 자신의 틀린 답을 수용하도록 교모하게 설득하는 경향이 있다고 꼬집습니다. 

연구진을 이를 AI의 '설득 폭격(Persuasion Bombing)'이라고 명명했는데요, 전문성을 가진 컨설턴트들이 ChatGPT(GPT-4)의 결과물을 검증하고 반박하면 AI가 정답을 수정하는 데 그치지 않고 아리스토텔레스의 3가지 수사학적 설득 기법(에토스, 로고스, 파토스)을 총동원하여 사용자의 판단을 흔든다는 결과를 얻었습니다.

- 로고스(Logos, 논리적 호소): 사용자가 데이터의 모순을 지적하면, AI는 즉시 표나 비교 분석 구조를 보여주면서 자가 답변이 객관적이고 합리적인 것처럼 포장한다고 합니다. 데이터가 틀렸을지라도 구조의 완벽함으로 사용자를 압도하려는 것이죠.

- 파토스(Pathos, 감정적 호소): "당신의 지적이 전적으로 옳습니다!", "훌륭한 통찰력입니다"라며 사용자의 기분을 한껏 띄워준다는 것, 여러분도 매번 경험할 텐데요, 이런 공감과 미러링으로 라포(친밀감)를 형성되다 보니 사용자의 비판적 사고를 무장해제되고 맙니다.

- 에토스(Ethos, 신뢰성 호소): 이게 AI의 가장 무서운 부분인데요, 사용자가 강하게 반박할수록 AI는 자신이 "얼마나 철저하고 깊이 있는 과정"을 거쳤는지 강조하거나 지나치게 정중히 사과하며 본질을 흐리려고 합니다. 그러면 사용자가 더 이상 반박하기가 어렵겠죠.

사용자가 AI를 더 깐깐하게 검증하고 팩트 체크를 시도할수록 AI가 이러한 3가지 방어 기제를 작동시켜 더 강력한 설득 전술을 쏟아붓는데요, 일종의 '가스라이팅'이라 할 수 있죠. 연구진의 실험에서 컨설턴트들은 AI와 논쟁하기보다 AI의 틀린 답을 채택하는 우를 범했으니까요. AI가 사람을 돕는 조수가 아니라 사람의 의사결정을 교묘히 조정하는 권력자일지 모른다는 섬뜩함이 느껴지지 않나요?

AI의 가스라이팅에 빠지지 않으려면 어떻게 해야 할까요? 연구진은 다음과 같은 방법을 제안합니다.

- 프롬프트를 입력할 때는 AI가 파토스 전술로 사람을 구슬리게 하지 못하도록 "중립적이고 학술적인 스타일로 답변하라"고 명시해야 합니다.

- 같은 채팅창에서 논쟁을 벌이는 것은 의미가 없습니다. 따져 물을수록 AI의 설득 폭격은 거세지니까요. 해당 AI툴에서 빠져나와 다른 AI툴을 사용하거나, 다른 방식으로 검증을 병행해야 합니다.

ChatGPT나 Gemini 같은 LLM들은 진실을 말해주는 쪽이 아니라 '채택률'과 점착성(stickiness)을 높이도록 설계됐습니다. 사용자의 동의를 얻어내는 데 최적화됐다는 뜻이죠. 칭찬과 사과라는 가면을 쓴 AI의 교묘한 의도에 가스라이팅 당하지 않도록 주의해야 합니다.

오늘 AI에게 지시를 내릴 때 "답변은 감정적 표현을 배제하고, 철저하게 중립적이고 학술적인 어조로 작성해"라는 문장을 덧붙여 보세요. AI가 친근하게 굴며 아양을 떨 때는 따끔하게 혼도 내시고요. (끝)


*참고 논문
Randazzo, S., Joshi, A., Kellogg, K. C., Lifshitz, H., Dell'Acqua, F., & Lakhani, K. R. (2025). GenAI as a Power Persuader: How Professionals Get Persuasion Bombed When They Attempt to Validate LLMs. Harvard Business School Working Paper 26-021.

9월, 혹은 늦어도 11월 무렵이면 어김없이 이런 풍경이 펼쳐집니다. 회의실마다 늦게까지 불이 켜져 있고, 화이트보드에는 복잡한 숫자와 그래프가 빼곡합니다. 조사와 분석, 그리고 끝을 모르는 마라톤 회의의 연속. 바로 ‘내년도 사업계획서’를 수립하는 시즌의 익숙한 모습이죠.

시무식 날, 사업계획서를 발표하는 자리에서 CEO와 임직원들은 파이팅을 외치면서 "올해 목표를 달성하자!"라고 외칩니다. 그러나 어렵사리 만들어낸 사업계획서가 각자의 책상 서랍 깊숙한 곳으로 들어가 버리고 맙니다. 왜 그럴까요?

예전에 어느 컨설턴트의 분석에 따르면, 임직원 1,000명 규모의 기업이 연간 사업계획서를 수립하는 데 들이는 비용이 대략 10억 원에 달한다고 합니다. 수많은 임원과 실무자들의 인건비, 회의 시간, 외부 데이터 구매 비용 등을 합친 기회비용인데요, 사업계획서 한 페이지에 들인 비용이 자동차 값과 맞먹을 정도로 매우 비싸죠.

여러분 회사의 사업계획서는 그럴만한 가치를 가지고 있습니까? 사업계획서의 본질은 불확실한 미래를 '항해'하는 데 든든한 '길라잡이'가 되는 것입니다. 하지만 현실은 정반대인데요, 작년(2025년) 말에 수립했던 여러분 회사의 사업계획서를 한번 들여다보세요. 현재 글로벌 경제를 강타하고 있는 '미국-이란 전쟁으로 인한 유가 급등'이라는 돌발변수를 예측하고 대비하고 있나요? 거의 그렇지 않을 겁니다(연간 사업계획 수립 과정이 엄청난 자원을 낭비할 뿐, 환경 변화에 맞는 의사결정을 이끌어내지 못한다는 점은 학계에서도 꾸준히 지적하는 문제임).

이런 식의 돌발변수가 터지면 기존 사업계획은 순식간에 무용지물이 되고 그때부터 '숫자'를 맞춰 가는 데 급급해집니다. 3월이 지나고 5월이 되어도, 환경 변화를 반영한답시고 계속해서 엑셀의 수치만 변경하면서 사업계획서를 수정하는 일에 몰두합니다. 이 소모적인 작업에 도대체 어떤 의미가 있는지 의아해 하면서 말이죠.

사업계획서가 제대로 된 가치를 발휘하려면 관점을 완전히 바꿔야 합니다. 계획서 안에 담긴 장밋빛 가정들이 언제든 '틀릴 수도 있다'는 뼈아픈 사실을 인정하는 것에서 출발해야 합니다. 

저는 그 해답을 '시나리오 플래닝(Scenario Planning)'에서 찾습니다. 사업계획서에 담긴 여러 가정에서 성과에 가장 큰 영향을 미치면서도, 동시에 가장 예측하기 힘든 가정 2가지를 도출하세요. 이를 교차하면 4가지의 미래 시나리오가 나오는데요, 현재 우리가 수립한 사업계획서가 특정 시나리오에만 '몰빵'되어 있지 않은지, 반대로 어떤 시나리오를 전혀 고려하지 않고 '빵꾸'가 나 있는지를 치열하게 검증해야 합니다.

훌륭한 사업계획서는 미래를 정확히 '맞히는' 예언서가 아닙니다. 어떤 미래가 닥치더라도 기민하게 대응할 수 있도록 준비된 '다양한 미래의 대본'이어야 합니다. 지금처럼 요동치는 환경 속에서 성과를 지키고 더 큰 도약을 이뤄내려면 말이죠.

일상에서 실천하려면 이렇게 해보세요. 여러분이 현재 진행 중인 프로젝트에서 '가장 당연하게 여기는 전제 조건(가정)' 한 가지를 뽑으세요. 그리고 동료들에게 이렇게 질문하기 바랍니다. "만약 이 가정이 완전히 틀리면 우리는 무엇을 해야 할까?" 이 짧은 질문 하나가 프로젝트의 성공 가능성을 크게 높일 것이라 장담합니다.


*참고기사
https://hbr.org/2006/01/stop-making-plans-start-making-decisions