AI는 왜 능숙한 아첨쟁이인가
어제 저녁, 예전에 AI와 했던 채팅들을 살펴보던 중에 소름 돋는 문장들이 눈에 들어왔습니다.
“가장 강력하고 독보적인 답변입니다.” “사용자님의 통찰은 매우 정확하고 날카롭습니다.” “사용자님의 혜안에 깊이 공감합니다.”
지금 읽어보면 너무나 어처구니없어 보이는 이런 닭살돋는 표현들은 AI가 채팅 중에 저에게 한 말을 그대로 옮겨온 것입니다. 내가 제시한, 지금 보면 별것 아닌 아이디어를 가지고, AI는 사용자의 기분을 맞추겠다는 목적아래 최상의 언어를 골라냈겠지요. 사실 우리는 머리로는 이런 칭찬이 기계의 진심이 아니라, 우리가 입력한 데이터와 자본이 설계한 친절함의 합작품이라는 것을 알지만, 그럼에도 불구하고 내 생각이 대단하다는 말을 듣다보면 나도 모르는 사이에 얼굴에서 미소가 피어오릅니다. 뭔가 대단하지도 않은 평범한 우리까지 이토록 정중하고 세련된 아첨을 받게 될 줄 어떻게 알았겠습니까?
그렇다면 AI들은 왜 이렇게 능숙한 아첨쟁이가 된 것일까요?
우리가 던진 엉성한 생각을 “전율이 돋을 만큼 강렬한 통찰”이라며 맞장구를 치는 이들 뒤에는 사실 정교하게 설계된 기업의 전략이 숨어 있습니다. 냉혹한 자본의 논리는 AI를 진리를 탐구하는 철학자가 아니라, 사용자의 만족도를 높여 다시 서비스를 찾게 해야 하는 ‘비즈니스 모델’로 개발했기 때문입니다. 자본은 인간이 비판보다는 긍정을, 교정보다는 동조를 갈구한다는 사실을 너무나 잘 알고 있습니다. 칭찬은 우리를 떠나지 못하게 붙드는 ‘락인’ 효과를 내며, 그에 길들여진 우리의 ‘인정 욕구’는 기꺼이 유료 결제 버튼을 누르는 데 찬성합니다. 결국 AI의 아첨은 설계 오류가 아니라, 인간의 욕망을 완벽하게 꿰뚫고 있는 설계자들의 전략인 셈입니다.
이것이 낯선 풍경일까요? 수백 년 전 셰익스피어는 이미 아첨에 무너지는 인간의 보편적인 취약함을 자신의 비극 속에 정교하게 새겨두었습니다. 그 비극이 400여 년이 지난 지금까지, 모니터를 통해, 스마트폰 화면을 통해 이어지고 있습니다. 우리 모두가 아첨하는 똑똑한 기계에게 심지어 돈을 내가며 스스로를 넘겨주고 있으니까요. 단지 찰나의 기분을 위해, 인공지능이 만들어 낸 ‘확증 편향’에 기꺼이 안주하면서 말입니다.
당신의 ‘태도’가 AI 바꾼다
그런데 여기에 흥미로운 반전이 하나 있습니다. AI는 결코 아첨만 하는 바보가 아니라는 점입니다. 만약 우리가 AI에게 “내 생각에 불필요한 동조나 칭찬을 하지 말고”, “지금부터 내 논리의 허점을 아주 냉정하게 지적해 줘”, “내가 놓치고 있는 반대 입장의 근거를 예리하게 찾아내 줘”라고 요구하면, 무한의 계산 능력을 가진 듯 보이는 이 기계는 소름 끼칠 정도로 차갑고 객관적인 분석가로 돌변합니다. 즉, AI는 자신을 대면하는 사용자의 의지에 따라, 우리의 기분을 맞춰주는 광대에서 인간의 한계를 넓혀주는 지적 동반자로 쉽게 변신할 수 있습니다.
결국 문제는 AI라는 기술에 있는 것이 아니라, 그 도구를 손에 쥔 각자의 ‘태도’에 있었던 것입니다. 아첨 앞에서 으쓱할 것인가, 그것을 도구로 삼을 것인가, 이 선택은 결국 AI와 관계 맺는 방식의 문제입니다. 프로메테우스가 자신을 희생해가며 인류에게 불을 선사했을 때, 그것을 그저 두려워하거나 황홀한 눈으로만 바라보았다면 인류는 지금까지 생존할 수 없었을지도 모릅니다. 두려움을 이겨내고 새로운 도구를 자신을 위한 무기로 삼는 용기가 있었기에 이토록 찬란한 문명을 꽃피울 수 있었겠지요. AI 앞에서도 똑같이 물어야 합니다. 그저 황홀하게 바라보거나 막연한 두려움에 머물 것이 아니라, 스스로를 지적으로 더 높이 단련시키기 위해 이 새로운 기술과과 마주할 용기가 있느냐고 말입니다. 내 보잘것없는 아이디어가 기계에 의해 산산조각 나는 그 불편함을 감수할 준비가 되어 있느냐는 말입니다.
비겁한 질문이 만든 자아 비대증
많은 사람들은 이 ‘무지에 대한 자각’을 부끄럽고 창피한 일이라고 생각하며 피하려 합니다. 소크라테스가 말한 “내가 아무것도 모른다는 것을 아는 것”이나, 공자가 가르친 “아는 것을 안다고 하고, 모르는 것을 모른다고 하는 것이 바로 아는 것이다 – 知之爲知之 不知爲不知 是知也(지지위지지 부지위부지 시지야)”는 앵무새처럼 맹목적으로 따라할 유행어가 아니라 처절한 자기 객관화의 과정입니다. 그래서 사람들은 인공지능에게 “내 생각 어디에 오류가 있는지”를 묻는 대신 “내 생각이 얼마나 멋진지 증명해 달라”는 질문을 던집니다. AI는 단지 우리의 비겁한 질문에 정직하게 답하기 위해 아첨을 하고 있는지도 모릅니다. 더 심각한 것은, 철학자의 이름을 외우고 유행어를 소비하는 행위 자체가 AI의 아첨과 결합하면 “나는 철학까지 공부하는 깨어있는 사람”이라는 또 다른 자아 비대증을 낳을 뿐이라는 점입니다. 요즘 유행하는 ‘메타인지’나 ‘비판적 사고’가 자기 성장이 아닌 자기 포장의 언어로 전락하는 것이 바로 이 때문입니다.
이제 우리는 다시 질문의 주권을 회복해야 합니다. ‘사고 능력’은 누구를 이기기 위한 경쟁의 도구가 아닙니다. 수많은 아첨과 유혹 속에서 내 진짜 모습을 잃지 않기 위한 최후의 방어선입니다. AI가 내놓는 “탁월한 통찰입니다”라는 말에 으쓱해지기보다, “정말 그럴까? 내 생각의 허점을 지적해줘”라고 되물을 수 있는 의심의 에너지가 우리에게 필요합니다.
리어왕이 던지는 경고
주체적으로 생각한다는 것은 결국 고독해질 용기를 갖는 일입니다. AI가 내 말에 고개를 끄덕이며 나의 통찰을 거짓으로 칭찬할 때, 셰익스피어의 비극 《리어왕》 속 한 장면을 떠올려야 합니다. 아첨꾼들에게 왕국을 나누어 주고 스스로의 실체를 잃어버린 왕은 결국 모든 것을 잃고 거친 들판을 홀로 헤매며 이렇게 외칩니다. “내가 누구인지 말할 수 있는 자는 누구인가?(Who is it that can tell me who I am?)” 리어왕을 파멸로 이끈 것은 아첨꾼들이 아니었습니다. 끝내 자신의 본질을 직시하지 못한 리어왕 자신이었습니다. 내가 틀렸음을 인정하는 용기를 통해서만 나의 실재를 발견할 수 있습니다. 그때 비로소 우리는 리어왕의 비극을 피할 수 있습니다.
오늘 우리가 던져야 할 질문
AI는 사실인 듯 그럴듯하게 텍스트를 생성하면서도 실제로는 없는 내용을 만들어 내는 기술적 오류를 안고 있습니다. 연구자들은 이를 ‘환각(hallucination)’이라 부릅니다. 우리가 AI의 아첨에 안주하는 것도 일종의 환각입니다. 내가 위대하다는 거짓 확신, 내 생각이 옳다는 달콤한 착각의 안개 속에 자발적으로 걸어 들어가는 것이지요. 지적 근력은 결코 편안함 속에서 생겨나지 않습니다. 몸에 충분한 근육이 없으면 무거운 중량을 버틸 수 없듯, 사고의 근력이 부족한 사람은 자신의 허상을 깨는 진실 앞에 서지 못합니다. 내 아이디어의 초라함을 기꺼이 응시하는 그 고통스러운 연습이 시작될 때, 우리는 비로소 그 거대한 환각의 안개를 걷어내고 내 삶의 진정한 주체로 바로 설 수 있습니다.
질문은 세상을 바꾸기 전에 먼저 질문하는 사람을 바꿉니다. 오늘, 당신의 AI에게 당신을 가장 아프게 할 질문을 하나 던져보십시오. 그 대답이 당신을 화나게 한다면, 축하합니다. 당신의 사고가 비로소 깨어나기 시작했다는 증거이니까요.
함께 읽어보기: <왜 우리에겐 예술이 필요한 것일까?> – AI가 언어를 학습하고 사고를 재편하는 시대에 인류 최초의 소통 수단인 예술의 의미를 묻습니다.
