국회의원 대신 AI 알고리즘을 이용해서 법을 만들 수 있을까? 이재명 대통령의 야심 찬 “소버린 AI” 구상이 한국에서 시작되는 지금, 한때 공상과학 소설에나 나올 법했던 아이디어가 왠지 한번쯤 고민해볼만한 가치가 있는 질문처럼 느껴진다.
과연 기계가 인간을 위해, 인간보다 더 나은 법을 만들 수 있을까?
지구상의 많은 민주주의에서 입법 활동은 국회의원들에 의해 이루어지고 있는데, 이들은 자신들의 사익, 자신이 속한 정파를 위한다는 감정 그리고 자신에게 표를 주겠다는 유권자들의 유혹에 따라 입법을 하고 있다는 비난을 종종 받는다. 그에 반해 감정이 없다고 알려진 AI라면 어쩌면 순수한 합리성을 바탕으로 인간이 처하게 되는 정치적 계산 등의 복잡한 현실에서 벗어난 독립적인 결정을 내릴 수 있지 않을까? 이런 생각은 왠지 우리에게 매력적으로 느껴진다.
합리적 행위자 환상
알고리즘 입법의 근거는 인간이라면 피할 수 없는 휴먼-에러 라는 오류 가능성에서 시작된다. 하버드대 경영대학원에 따르면 가장 합리적인 결정을 내릴 것이라 기대되는 Fortune500 기업의 CEO들 조차 약 75%에 달하는 결정을 감정에 근거해서 내렸다고 한다. 분석적 사고가 가장 뛰어날 것이라고 여겨지는 선진 기업의 리더들조차 감정에 휘둘려 행동하고 있다면, 정파적 논리, 유권자와의 관계 등 숫한 감정적 요소들이 개입할 수 밖에 없는 국회의원들이 만들어 내는 법률은 과연 무엇을 시사하고 있을까?
아마도 기계의 독립적이고 합리적인 행동 패턴을 지지하는 사람들은 AI 시스템이 수학적 정밀성을 바탕으로 입법 체계를 분석하고, 특정 이익에 유리한 편향 패턴을 파악하며, 역사적 사례 분석에 기반한 경험적 증거와 논리적 일관성을 갖고 입법안을 도출할 것이라고 주장할 것이다. 이러한 비전에서 AI의 입법 행위는 어쩌면 민주주의가 갖는 단점들에 대한 교정 메커니즘, 즉 오랫동안 정치 시스템에 문제를 가져온 편향성 등을 극복할 수 있는 합리적 중재자가 될 가능성이 있다.
하지만 이러한 프레임은 AI의 실제 역량이나 사회에서 적절한 역할보다는 또 한번 현재 민주주의 시스템이 안고 있는 혼란에 대한 시민의 좌절감을 드러낼 뿐이다.
중립성의 환상
AI 입법이 더 중립적일 것이란 개념은 여러 기본 전제들이 필요하다는 점에서 또 다른 근본적모순을 불러온다.
데이터
입법에 특화된 AI는 기존의 법률 체제와 사법 판결문 및 다양한 정책의 결과들에 대한 학습이 필요하다. 그런데 이런 기록들 자체가 오랜 시간에 걸친 권력 암투, 각 시대별 발생하는 사회적 편견, 그리고 변화하는 사회적 가치를 반영한 결과물이다. 즉 본질적으로 기존 데이터 자체가 전혀 중립적일 수 없다는 것이다. 그렇다면 우리는 어떻게 AI에게 중립적인 원칙을 학습시킬 수 있을까?
개발자 문제
AI 시스템은 개발자의 편향이 반영될 수 밖에 없다. 그렇다면 역시 마찬가지로 우리는 완벽하게 정치적 중립성을 띤 LLM 개발자, 데이터 관리자 그리고 이들을 중립적으로 관리해야 할 관료들을 찾기 어렵다는 이제까지 정치적 중립성에 제기되어 왔던 동일한 문제에 부딪힌다.
인프라 문제
설사 위의 두 가지 문제들이 해결되어 중립적인 알고리즘이 개발되었다 하더라도, 이를 중립적으로 관리할 팀 또는 기관이 필요할 것이다. 누가 데이터 센터를 관리할 것이며 또 이 데이터 센터를 관리하는 곳을 관리할 것인가? 누가 중립적인 최적화 매개변수를 정의해야 할까? 누가 “객관적”이고 “정의로운” 결과를 구성하는 요소를 판단할 수 있을까?
이런 질문을 던지고 보면 우리 앞에 놓인 완벽하게 중립적인 입법을 만들어 내야 한다는 과제들은 단순히 기술적 장애만 극복해서 이룰 수 있는 일이 아님을 이해하게 된다. 결국 아무리 좋은 기술적 도구가 있더라도 그것을 만들고 운영하는 것이 인간이라면 어떤 경우라도 인간적 특징이라는 맥락을 완벽하게 분리해 내는 것이 개념적으로 불가능하다는 것을 확인시켜 준다.
효율성을 넘어: 민주주의의 실제 역할
AI 입법이 주는 매력 포인트는 부분적으로 민주주의의 목적에 대한 오해에서 비롯된다. 민주적 거버넌스는 단순히 논리적이고 효율적인 수단을 통해 최적의 정책을 수립하는 것에 있지 않다. 민주적 거버넌스는 각자의 감정들이 만들어 내는 의견 차이를 이해하고, 다양한 관점에 관심을 드러내며. 이를 통해 상충되는 이해관계와 가치를 설사 완벽하지 않더라도 하나로 묶기 위해 노력하는 과정을 유지해야 하는 시스템이다.
인간 정치의 “비효율성”, 즉 대립, 토론, 타협 등은 어쩌면 AI를 통해 고쳐야 할 문제가 아니라 민주주의의 더 깊은 기능을 반영하는 특징으로 이해해야만 한다. 즉, 민주 사회라면 가치, 우선순위, 그리고 정의 등의 본질적인 측면에 대한 서로간의 의견 차이를 인정하고 그것을 헤쳐나갈 수 있도록 하는 평화로운 메커니즘을 제공해야만 하는 것이다.
알고리즘 거버넌스를 상상하는 동안, 기존 정치의 완벽한 제거를 생각하게 된다. 하지만 정치는 어쩌면 해결해야 할 문제가 아니라, 서로의 차이에도 불구하고 함께 살아갈 수 밖에 없는 현실을 유지하고 지속시키기 위한 끊임없는 노력 일지도 모른다.
가치있는 질문들
위의 논의들을 통해 우리는 다음과 같은 새로운 질문들을 떠올리게 된다.
AI가 인간의 판단을 대체하지 않으면서 우리의 사고 과정 및 방법을 향상시킬 수 있을까?
알고리즘 분석은 민주적 책임을 유지하면서 정책의 맹점이나 의도치 않은 결과를 파악하는 데 어떤 역할을 할 수 있을까?
기술의 복잡성이 증가함에 따라 어떻게 거버넌스에 대한 시민 참여를 의미 있게 유지할 수 있을까?
새로운 기술은 어떤 새로운 형태의 시민 참여를 가능하게 할 수 있을까?
이런 의문들을 통해 우리는 정치적 의견 불일치를 기술적 해결책이 필요한 기술적 문제로 규정할 때 누가 이익을 얻게 될지 그리고 정치적인 결정을 비정치화하게 될 때 사회 전체에 어떤 이익이 실현될지 등을 심사숙고해야 할 것이다.
민주적 필수성
결국 궁극적인 질문은 기계가 인간보다 더 나은 법을 만들 수 있느냐가 아니라, 알고리즘 최적화가 민주적 참여를 대체하는 사회가 옳다고 할 수 있겠는가 이다. 완벽하게 합리적인 거버넌스라는 약속은 매혹적이다. 하지만 이런 유혹들은 종종 민주주의에 큰 문제를 야기할 수 있다. 바로 인류의 가장 중요한 업적 중 하나인, 어떤 우월한 힘이나 지식이 아닌 서로의 의견을 교환하고 수렴하는 과정에서 정당성을 도출하는 민주주의란 시스템의 발전 및 지속을 포기하도록 요구 받게 되기 때문이다.
한국을 비롯한 여러 국가들이 AI 개발에 막대한 투자를 하고 있는 현재, 우리에게는 인간의 주체성을 유지하면서도 기술 역량을 신중하게 통합할 수 있는 민주주의 제도를 강화해야 한다는 숙제가 주어진다.
다시 말해 계속 발전하는 AI가 인간보다 더 나은 판단을 할 수 있느냐가 아니라, 인간 중심의 가치들을 훼손하지 않으면서도 AI를 활용할 만큼 충분한 AI 거버넌스 역량을 가질 수 있느냐는 질문을 스스로에게 해야만 할 것이다.