최근 언론과 SNS에서 ‘사고의 외주화’라는 표현을 자주 접한다. 인공지능 시대, 우리가 생각하기를 기계에 맡기고 있다는 경고의 메시지를 담은 듯하다. 그런데 한 가지 질문을 던져보고 싶다. 이 표현을 사용하는 우리는, 정말 이 단어의 의미에 대해 고민을 하며 쓰는 것일까?
우리는 왜 새로운 용어에 끌리는가
어디선가 들어본 듯한, 왠지 그럴싸하게 들리는 새로운 용어가 등장하면 우리는 대부분 이렇게 반응한다. 그 단어가 내포한 정확한 의미나 유래 또는 시의성 및 적절성을 따져보기보다, ‘이 단어가 새로운 유행인가? 그렇다면 나도 이 정도 단어는 알아야 하지 않을까?’하며 무비판적으로 수용하는 것이다.
왜 이런 현상이 일어나는 것일까? 어쩌면 우리 안에 있는 두 가지 감정 때문일지도 모른다. 하나는 새로운 개념을 알고 있다는 지적 만족감이고, 다른 하나는 ‘이 정도도 모르는 사람’으로 보이고 싶지 않은 불안감이다. 그래서 그 단어가 정말 최근의 현상을 정확히 설명하는지, 혹은 애초에 성립 가능한 개념인지 묻기도 전에, 그것을 받아들이며 지적 허영심의 부추김으로 누구보다 먼저 많이 사용하고자 한다.
그렇다면 이제 우리 앞에 놓인 이 최근의 유행어를 한번 살펴보자. 과연 ‘사고의 외주화’라는 표현은 정말 우리가 최근 경험하고 있는 현상들을 적확하게 포착한 표현인가, 아니면 또 하나의 그저 그럴듯하게 들리는 유행어에 불과한 걸까?
당신이 생각하는 ‘외주’의 의미는?
먼저 ‘외주’라는 단어를 생각해보자. 기업이 마케팅을 외주로 맡기거나, 소프트웨어 개발을 외주로 진행할 때를 떠올려보면, 거기에는 명확한 구조가 있다. 공급을 받고자 하는 발주자(갑)가 있고, 공급자의 요구에 맞는 결과물을 제공하는 공급자(을)가 있다. 갑은 공급받고자 하는 제품이나 서비스에 관한 핵심 전략과 방향을 쥐고 있으며, 을은 단지 그 방향과 요구에 맞춰 실행할 뿐이다. 제품이나 서비스가 완성된 후 갑은 완성된 결과물이 최초 계약시 약속한 품질을 준수하고 있는지를 철저하게 검사한 후 인수 결정을 내린다.
그렇다면 인공지능에게 생각을 맡기고 있는 우리는 정말 우리 생각을 인공지능에게 외주를 주는 공급 요청자인 ‘갑’의 위치에 서있는 것일까?
인공지능 챗봇에게 궁금한 사항을 물어본 후, 챗봇이 제공한 답변에 대해 과연 우리는 그 답의 정확성과 적절성을 꼼꼼하게 따져보고 있을까? 제공된 대답이 우리가 원하는 원래의 의도에 부합하는지, 그리고 사실관계는 정확한지, 답변 내용들이 논리적으로 정합적인지를 과연 따져보고 있을까?
혹시, ‘그럴듯한 답’을 받았다는 점에 스스로 만족하며 무비판적으로 수용하는 것은 아닐까?
스스로에게 직접 질문해보라. 그리고 만약 인공지능의 그럴듯한 답변에 만족해서 무비판적으로 수용하고 있다면 당신은 외주를 주고 있는 것이 아니다. 결과의 품질에 관한 핵심 판단을 포기한 채 결과를 그대로 수용하는 것이라면, 그것은 외주라기보다는 다른 무언가에 가깝지 않을까?
인공지능은 정말 ‘생각’하는가
두 번째 질문이다. 당신은 ‘사고’라는 단어를 어떻게 정의내리고 있나? 과연 현재의 인공지능들은 스스로 사고할 능력이 있는 기계일까?
현재의 대규모 언어 모델(LLM)이 어떻게 작동하는지 생각해보자. 이들은 방대한 데이터에서 학습한 패턴을 바탕으로, 특정 맥락에서 어떤 단어가 다음에 올 확률이 높은지를 계산한다. 선형대수라는 수학적 도구와 강력한 GPU의 계산 능력을 통해서 말이다.
이것을’사고’라고 또는 ‘생각하기’라고 부를 수 있을까?
그렇다면, 인간이 생각을 한다는 것은 무엇을 의미하나? 주어진 문제의 의미를 파악한 후, 해결을 위해 다양한 가능성을 도출하고, 이런 여러 가능성을 각자의 경험과 가치를 바탕으로 저울질하며 가장 적합한 결정을 내리는 일련의 과정을 의미하는 것이 아닐까? 그렇다면 자신이 출력하는 내용이 무엇을 의미하는지 ‘이해’하지 못한 채, 단지 통계적 패턴만으로 최적의 근사치를 답으로 생성해내는 기계를 과연 생각하는 시스템이라고 불러도 되는 것인가?
인간이 생각하는 모든 것의 의미와 본질을 파악한 후 인간이 도달할 수 없는 경지의 해결책을 제시하는 전지전능한 인공지능은 결국 영화나 SF 소설에서나 존재할 뿐이다. 최소한 지금까지는.
현재 우리가 그토록 경탄하며 사용하고 있는 LLM(대규모 언어 모델)은 전혀 우리가 정의하는 ‘생각’을 하는 기계는 아닌 것이다.
그렇다면 우리는 무엇을 하고 있는가
지금까지의 질문을 종합해보면, 흥미로운 상황이 드러난다.
‘외주’라는 말은 본래 명확한 발주 능력과 검수 능력을 전제로 한다. 그런데 많은 경우 우리는 인공지능 모델I에게 무엇을 요청해야 할지조차 명확하지 않은 상태에서 무의미한 질문을 던진 후, 기계들이 던져주는 그럴싸한 답변을 아무런 검증 없이 수용하고 있을 뿐이다.
‘사고’라는 말은 이해와 판단을 전제로 한다. 그런데 LLM은 우리가 통상 ‘생각’이라고 부르는 과정을 거치지 않는다.
그렇다면 ‘사고의 외주화’는 무엇을 의미하는가?
생각할 능력이나 의지가 부족한 사람이, 생각하지 않는 대상에게, 자기 대신 생각해달라고 부탁하는 상황? 이것을 정말 ‘외주’라고 부를 수 있을까?
이렇게 생각해보자. 만약 당신이 기업의 프로젝트 매니저인데,외주 업체를 고를 때 당신이 건넨 제안 요청서에 언급된 내용의 의미를 이해하지 못하면서 단지 언변이 뛰어나서 그럴싸하게 자기들의 능력을 포장하는 업체를 고를 것인가?
만약 당신이 인공지능이 제시한 결과를 꼼꼼하게 검수할 능력이 없다면 현재의 많은 인공지능은 단지 언변만 번지르르한 영업 사원일지도 모른다.
진짜 문제는 무엇인가
어쩌면 ‘사고의 외주화’라는 표현 자체가, 우리가 직면한 문제를 보여주는 증거일지도 모른다.
우리는 이미 유튜브 알고리즘, SNS 피드, 추천 시스템에 의해 주의력과 판단력의 상당 부분을 내어준 상태다. 그런 상황에서 ‘사고의 외주화’라는, 그럴듯하게 들리지만 실상은 모순적인 표현이 등장했을 때, 우리는 그 표현의 적절성을 따져보기보다 그저 받아들이고 확산시킨다.
이것이야말로 진짜 문제가 아닐까?
현상을 비판하기 위해 만든 용어가, 그 용어를 사용하는 방식을 통해, 오히려 우리가 비판하려던 바로 그 문제를 재현하고 있는 것은 아닐까?
우리에게 필요한 질문
그렇다면 우리는 무엇을 물어야 할까?
‘인공지능이 나쁘다’가 아니라, ‘나는 인공지능을 어떻게 사용하고 있는가?’ ‘사고의 외주화가 문제다’가 아니라, ‘나는 정말 생각하고 있는가?’ ‘유행어가 현실을 왜곡한다’가 아니라, ‘나는 이 말을 정말 이해하며 쓰고 있는가?’
진정으로 이런 상황이 문제라고 생각한다면, 가장 먼저 해야 할 일은 우리가 사용하는 언어부터 되돌아보는 것이 아닐까? 그럴듯한 유행어로 복잡한 현실을 단순화하는 대신, 한 발 물러서서 질문을 던지는 것.
그것이 어쩌면, 우리가 정말로 ‘생각하기’를 포기하지 않는 유일한 방법일지도 모른다.
