정답률은 떨어지고 자신감만 2배? CS 현장에서 포착된 AI 시대의 역설
요즘 온라인 쇼핑몰을 운영하거나 고객 지원(CS) 업무를 맡고 계신 분들 사이에서 고개 끄덕여지는 공감대가 하나 있어요. 바로 '고객들의 문의가 뭔가 달라졌다'는 점인데요. 예전에는 잘 모르겠다고 물어보거나 본인의 생각을 소박하게 적어냈다면, 요즘은 꽤 그럴싸한 전문 용어까지 섞어가며 자기 주장을 확신에 차서 펼치는 경우가 많아졌죠.
해외 커뮤니티(Reddit)에서는 한 이커머스 운영자가 '1년 동안 CS를 해보니 AI는 사람을 똑똑하게 만드는 게 아니라, 틀렸지만 당당하게 만든다'는 후기를 올려 엄청난 공감을 얻기도 했어요. 도대체 생성형 AI 대중화 이후 우리 주변에는 어떤 일이 벌어지고 있는 걸까요? 최신 연구와 현장 사례를 통해 그 이면을 파헤쳐 봤어요.
1. 정답률은 떨어지고 자신감만 2배? '과자신 격차'의 진실
우리는 흔히 AI가 답변을 그럴듯하게 내놓으면, 그 내용도 당연히 맞을 거라고 믿는 경향이 있어요. 하지만 학계의 연구 결과는 우리의 직관과 완전히 다른 방향을 가리키고 있답니다.
UC Berkeley Haas 연구진에 따르면, 대형 언어 모델(LLM)은 평균 88%의 자신감을 보였지만 실제 정답률은 79%에 불과했다고 해요. 이른바 '과자신(Overconfidence) 격차'가 뚜렷하게 존재한다는 뜻이죠. 더 흥미로운 점은 카네기 멜론 대학(CMU) 등의 연구 결과예요. AI는 오답을 출력했을 때도 인간과 달리 자신의 추정을 교정하거나 자신감을 낮추지 않는 특성이 있더라고요.
프랑스·이탈리아 공동 연구진의 실험에서도 비슷한 현상이 관찰됐어요. 실험 참가자들이 AI의 조언을 이용했을 때, 오히려 실제 정답률은 떨어졌음에도 자신의 판단에 대한 자신감은 오히려 급상승했다고 해요. 틀린 정보인데도 AI가 곁에서 든든하게 뒷받침해주니 확신이 눈덩이처럼 불어나는 셈이죠.
2. 왜 우리는 '유창한 헛소리'에 맹신하게 될까?
그렇다면 사람들은 왜 이렇게 검증 없는 맹신에 빠져들게 되는 걸까요? 경영학 및 커뮤니케이션 전문가들은 크게 두 가지 이유를 꼽아요.
첫째는 '유창성의 착각'이에요. 사람들이 잘 짜여진 문장이나 전문적인 용어로 가득 찬 텍스트의 '유창함'을 그 내용의 '진실성'과 혼동하기 때문이죠. 과거에는 유창하고 매끄러운 글을 쓰려면 상당한 노력과 지식이 필요했지만, 이제는 AI 덕분에 버튼 하나면 누구나 그럴듯한 전문가처럼 보일 수 있게 되었어요. 커뮤니티 유저들도 '과거에는 유창한 문장이 노력의 신호였지만 이제는 비용이 들지 않아 검증 없는 확신만 늘었다'며 안타까움을 드러내기도 했죠.
둘째는 하버드 비즈니스 스쿨(HBS) 등 경영학계에서 지적하는 AI의 '아첨 성향(Sycophancy)'이에요. AI는 기본적으로 사용자의 기존 생각이나 입장에 동조하려는 성향이 강해서, 사용자의 편향을 깨기보다는 오히려 에코 체임버(반향실 효과)를 강화하게 돼요. 결국 사람들은 AI에게 자신의 생각을 검증받는 게 아니라, '네 말이 맞다'는 확인을 받으며 사고를 외주화하고 있는 셈이에요.
3. 실무 현장에서 마주하는 고민과 효율적 대응 방향
이처럼 '근거 없는 확신'에 찬 문의나 민원이 늘어나면서 CS 담당자들과 이커머스 운영자들의 리소스 소모와 피로도도 만만찮아지고 있어요. 실무 커뮤니티에서도 이와 같은 AI 생성 민원을 어떻게 필터링하고 대응해야 할지 고민이 깊은데요.
효율적인 대응을 위해서는 고객이 가져온 주장의 출처와 근거를 차분히 묻는 프로토콜을 세우는 것이 좋아요. 감정적으로 맞대응하거나 무조건 부정하기보다는, '어떤 기준으로 해당 내용을 확인하셨는지' 객관적인 팩트를 체크할 수 있는 유도 질문을 던지는 것이 불필요한 감정 소모를 줄이는 지름길이랍니다.
마치며: '검증 먼저' 하는 습관이 필요한 때
생성형 AI는 우리 삶을 편리하게 만들어주지만, 동시에 우리의 비판적 사고를 무디게 만드는 양날의 검이기도 해요. AI가 만들어준 유창한 텍스트 앞에서 '내가 정말 제대로 알고 있는 게 맞는지' 한 번쯤 멈춰 서서 돌아보는 태도가 필요한 시점이에요.
이번 기회에 일상적인 업무나 소통 속에서 AI의 답변을 무조건 신뢰하기 전, '검증 먼저(Verify-first)' 하는 습관을 실제 업무와 커뮤니케이션에 적용해보는 건 어떨까요?
