AI는 생각하지 않는데, 우리는 찰떡같이 왜 믿을까?

 

며칠 전, 자주 가던 포장마차에서 혼자 술 한잔하던 날이었다. 옆 테이블에서 중년 두 사람이 건강 이야기를 나누고 있었다. 한 명이 허리가 아프다며 병원에 가야 할지 고민하자 다른 한 명이 웃으며 말했다.

“요즘은 병원 안 가도 돼. AI한테 물어보면 다 나와. 내가 물어봐줄까?”

평소 같으면 그냥 흘려들었을 텐데, 그 말이 이상하게 마음에 걸렸다. 요즘 이런 말을 주변에서 참 자주 듣기 때문일까?

요즘은 어떤 질문이든 AI에게 묻는 게 자연스럽다. 건강, 인간관계, 진로, 돈 문제까지 다 물어본다. AI는 언제나 단정적이고 그럴듯한 말투로 답한다. 문장도 매끄럽고 논리도 맞다.

그런데 그 답이 정말 '정답'일까?

AI는 스스로 생각하지 않는다. 단지 수많은 데이터를 조합해 가장 자주 쓰인 말을 내놓을 뿐이다. 말이 설득력 있어 보여도 그 안에 ‘이유’나 ‘책임’은 없다. AI는 생각하지 않는다. 그럴듯한 말투로 ‘생각하는 척’할 뿐이다.

문제는 사람들이 그걸 점점 ‘조언’으로 받아들인다는 점이다. 마치 옆에서 이야기 들어주는 친구나 조언자처럼 대한다. 요즘 유튜브나 방송에서도 그런 장면이 많다.

어떤 연예인은 AI에게 타로점을 본다고 말하고, 또 어떤 사람은 'AI가 내 스타일을 스타일리스트보다 더 잘 알아요'라며 농담처럼 이야기한다. 이런 장면이 반복되다 보니 AI를 ‘도구’가 아니라 ‘파트너’처럼 대하는 문화가 자연스러워지고 있다.

AI가 나쁘다는 뜻은 아니다. 오히려 정말 편리하다. 하지만 편리함이 커질수록 우리는 한 가지를 놓치고 있다. ‘도구’와 ‘신뢰 대상’은 다르다는 점이다. 도구는 내가 쓰는 것이고, 신뢰 대상은 내가 따르는 것이다.

AI에게 판단을 맡기기 시작하면, 책임의 주체가 사라진다. 'AI가 그렇게 말했으니까'. 이 말이 합리화가 되는 순간, 우리는 스스로 판단하는 능력을 조금씩 잃는다.

전문가의 역할과도 비교해 볼 수 있다. 의사는 환자의 상태를 보고, 생활습관을 듣고, 감정까지 살핀다. AI는 이런 맥락을 모른다. 데이터로만 판단한다. 그래서 AI의 답은 ‘가능성’이지 ‘판단’이 아니다.

그런데 우리는 그 답을 더 믿는다. 왜냐면 AI는 단호하게 말하기 때문이다. 인간의 말엔 주저함이 있지만, AI는 확신에 차 있다. 우리는 그 확신을 ‘지식’으로 착각한다. AI는 생각하지 않지만, ‘확신하는 말투’를 학습했다. 그게 사람을 더 쉽게 믿게 만든다.

중요한 건 태도다. AI와 대화할 수는 있지만, 최종 판단은 스스로 해야 한다. 대화는 도울 수 있지만, 결정은 대신할 수 없다.

도구로 쓸 때 AI는 강력한 힘이 되지만, 판단을 넘기면 위험해진다. 특히 AI의 말은 늘 ‘그럴듯한 말’이라는 점을 기억해야 한다. 정말 중요한 결정을 내려야 할 땐 AI보다 경험 있는 사람의 말을 들어야 한다.

AI가 틀릴 수 있다는 사실보다 더 중요한 건, AI는 애초에 생각하지 않는다는 사실이다. 그걸 잊으면 우리는 스스로 생각할 기회를 잃는다. 우리는 도구를 믿는 사람이 아니라 도구를 다루는 사람이어야 한다. AI가 아무리 똑똑해져도, 생각하고 책임지는 건 아직은 인간의 몫이다.