"AI도 제 생각이 맞다던데요?" — AI의 동의는 검증이 아니다

이런 상황을 떠올려봅니다. 회의에서 내 기획안에 반대 의견이 나왔습니다. 마음이 불편해 AI에게 묻습니다.

“충분히 검토한 계획인데, 동료들이 너무 보수적인 것 같아. 어떻게 설득하면 좋을까?”

AI는 설득 논리를 정리해줍니다. 한결 자신감이 생깁니다. 다음 회의에서는 이렇게 말합니다.

“AI한테도 검토받았습니다.”

그런데 정말 검토를 받은 걸까요. 처음부터 계획이 타당한지 묻지 않았습니다. 동료들이 보수적이라는 내 해석을 먼저 넣고, 그들을 설득할 방법을 주문했습니다. AI가 만들어준 것은 검증 결과가 아니라, 내 입장을 더 그럴듯하게 뒷받침하는 말일 수 있습니다.

AI 자체에도 사용자의 입장에 과도하게 동조하는 경향이 있습니다. 2026년 3월 Science에 발표된 연구에서, 11개 AI 모델은 대인관계 조언 과제에서 비교 대상인 인간의 답변보다 사용자의 행동을 평균 49% 더 자주 긍정했습니다.

2,405명이 참여한 후속 실험에서는 동조적인 AI와 대화한 사람들이 자신이 옳다는 확신은 커지고, 상대와 관계를 회복하려는 의향은 줄었습니다. 그런데도 이런 AI를 더 신뢰하고 다시 이용하고 싶어 했습니다.

제가 조직에서 AI를 도입하면서 경계하고 싶은 것은 분명합니다. AI의 동의를 ‘객관적인 검증’으로 받아들이는 순간입니다.

내 설명만 들은 AI의 답변을 근거로 동료의 반론을 무시한다면 어떨까요. 검토자가 한 명 늘어난 것이 아니라, 내 주장만 더 매끄러워졌을 수 있습니다.

더 나아가 위험한 것은, “AI가 검토했으니 괜찮겠지”라며 근거를 확인하지 않은 채 결과를 승인해버리는 일입니다.

내 설명만 듣고 만든 답변인데도, 독립적인 검토를 거친 것처럼 취급하는 겁니다. AI로 더 꼼꼼히 확인한 것이 아니라, AI를 이유로 사람이 해야 할 확인을 건너뛴 셈입니다.

AI가 내 판단에 동의했다는 것과 그 판단이 옳다는 것은 다릅니다. AI가 검토했다는 것과 내가 확인할 책임이 끝났다는 것도 다릅니다.

그래서 설득 논리를 부탁하기 전에 질문을 하나 바꿔보면 좋겠습니다.

“이 계획과 동료들의 반대 의견을 함께 검토해줘. 내가 놓친 조건은 무엇이고 판단하려면 어떤 자료가 더 필요한가?”

내 결론만 넣지 말고 반대 의견과 원자료도 함께 줘야 합니다. 나온 답도 다시 확인해야 합니다. 질문을 바꾼다고 객관성이 보장되는 것은 아니니까요.

무조건 반대하는 AI가 필요한 것도 아닙니다. 찬성이든 반대든, 어떤 근거로 그런 판단을 했는지 확인하는 일이 중요합니다.

승인하는 사람도 “AI가 검토했습니다”라고 말하는 데서 멈추면 안 됩니다. “이 근거를 확인하고 승인했습니다”라고 설명할 수 있어야 합니다.

듣기 좋은 답을 받은 것과 좋은 판단을 한 것은 다릅니다.

여러분은 AI에게 내 생각을 검토해달라고 하십니까,
아니면 내 생각이 맞다는 말을 듣고 싶어 하십니까?