정치적으로 중립적이지 않고, 민주주의 원칙과 지식, 신뢰를 훼손해
민주주의를 위협하는 AI!

우리는 인터넷과 기타 디지털 기술이 우리가 살고 있는 사회를 얼마나 빠르게 변형시켰는지를 여실히 경험하고 있다. AI와 같은 디지털 기술은 사회에 많은 혜택과 기회를 제공하지만, 민주주의의 침식과 권위주의 및 전체주의 정권의 부상과 유지에도 일정한 역할을 하는 것으로 보인다. 특히 소셜 미디어는 진실을 파괴하고 양극화를 심화시켜 민주주의를 불안정하게 만든다는 비난을 받고 있다.

저자는 “AI는 좋은 쪽으로도 나쁜 쪽으로도 사용될 수 있으며, 그것은 단지 어떻게 사용하느냐에 달려 있다”라는 ‘기술이나 기술과 정치의 관계에 대한 협소한 도구적 개념’과 작별해야 하며, “AI가 정치적으로 중립적이지 않고 현재의 AI가 민주주의를 훼손한다”는 주장을 진지하게 받아들이고 깊이 논의해야 할 때임을 강조한다.

그는 기술관료적 권력과 거대 기술 기업이 알고리즘 추천 시스템, 데이터 감시, 자동화된 의사결정 구조 등을 통해 시민의 자율성과 공론장을 약화시키고, 사회를 필터 버블(filter bubble)과 반향실(echo chamber)에 가두며, 갈등과 분열을 증폭시켜 민주주의를 위협하는 실태를 여러 사례를 들어 면밀히 분석한다.

어떤 AI, 어떤 민주주의?
단순한 기술 비판을 넘어 공동선에 기여할 정책적·윤리적 해법을 제시한다!

AI로 인한 민주주의의 위기를 극복하기 위해 기술을 폐기하거나 맹신하는 대신, 민주주의 제도를 혁신하고 교육을 변화시키며 기술 혁신 자체를 민주적으로 통제함으로써 AI를 ‘공동선을 위한 공통의 세계를 구축하는 도구’로 새롭게 빚어내야 한다는 점이 이 책을 관통하는 핵심 메시지이다.

숙의적이고 참여적이며 공화주의적인 민주주의의 이상이 우리를 안내해야 하며 이를 위해 르네상스, 휴머니즘, 공화주의, 계몽주의에서 영감을 받은 문화와 교육의 중요성을 강조한다. 결국 민주주의를 위한 AI란 공동선과 공공성, 소통과 공통 세계의 구축에 기여하는 기술이어야 한다는 것이다. 시민은 기술을 맹목적으로 수용하는 데서 벗어나 비판적 사고력을 길러야 하며, 공학자 역시 자신이 만드는 기술이 지닌 정치적·사회적 영향을 성찰할 수 있는 역량을 갖춰야 한다.

이 책은 강력한 기술과 반민주적 권력이 결합하는 시대에 민주주의가 얼마나 취약한지, 또 얼마나 회복력을 지닐 수 있는지를 점검하는 동시에, ‘우리는 어떤 민주주의를 원하며, 다음 세대에게 어떤 세계를 물려주고자 하는가’라는 근본적인 질문을 던진다.

이 책의 구성

2장에서는 기술과 민주주의의 관계에 대한 역사적 관점을 통해 새로운 기술이 종종 중앙집중화를 심화하는 경향으로 이어졌음을 보인다. 하지만 정치에 대한 기술의 영향에 있어서 결정론은 없음을 강조한다. 3장에서는 우리가 말하는 AI와 민주주의가 무엇인지 탐구한다. 4장에서는 현재 사용되고 개발되는 AI가 자유, 평등, 박애, 법치, 관용과 같은 자유민주주의와 공화주의의 기본 원칙에 어떻게 영향을 미쳐서 이 원칙들을 훼손하고, 자유민주주의를 위험에 빠트리면서 잠재적으로 권위주의와 전체주의로 이끌 수 있는지를 보여준다. 5장에서는 AI의 사용이 권력 비대칭의 생성, 조작, 진짜와 가짜의 구분 침식, 인식적 거품의 생성을 통해 어떻게 민주주의의 지식과 신뢰 기반을 약화할 위험이 있는지를 보여준다.

6장에서 기술 개발 수준에서의 변화와 함께 기술 개발이 민주적 정치제도와 내재적으로 연계될 필요가 있다고 주장한다. 7장에서 민주적 AI 프로젝트가 AI를 더 민주적이고 전체주의에 저항적으로 만드는 것일 뿐만 아니라, 방어적이기보다는 더 건설적인 민주주의를 위한 AI를 만드는 것임을 강조한다. 8장에서는 공동선을 실현하고, 찾고, 진정으로 의사소통하고 공통 세계(common world)를 건설하는 데 우리를 도와줄 AI와 여타의 디지털 기술이 필요함을 주장한다.