민주주의가 제대로 작동하려면 첫 번째 중요한 쟁점에 대해 자유롭고 공개적으로 토론할 수 있어야 한다. 두 번째 사회 질서와 제도에 대한 신뢰가 어느 정도 유지되어야 한다. 공개 토론은 정해진 규칙에 따라 진행되어야 하며 모두가 동의하지 않을 때에도 어떤 종류의 최종 결정을 도출할 합법적 장치가 있어야 한다.

인간의 의사결정과 알고리즘의 의사결정의 차이 인간의 의사결정은 우리가 의식하는 몇 가지 데이터 포인트에만 의존하는 것처럼 보이지만 실제는 수천 개의 무의식적 영향을 받은 결정인 것이다.예를 들어 인간판사의 결정이 오직 공정한 고려에 의해서만 이루어졌을까? 무의식적인 종편견 판사가 배고팠다는 사실은 영향을 끼치지 않았다는 사실을 어떻게 확신할 수 있는가?알고리즘의

인간의 삶은 자기 개선 노력과 자기 수용 사이에 균형 잡기 다.

인간 개개인은 자신과 세상에 대한 진실을 추구하는 경향이 있어도, 대규모 네트워크는 허구와 환상에 의존하여 사회 구성원들을 묶고 질서를 유지한다.

우리가 지혜로운 사람이라면 우리는 왜 이토록 자기파괴적일까?
이 책에서 나는 그것은 인간 본성 탓이 아니라 정보 네트워크탓 이라고 주장했다. 진실보다 질서를 우선시한 탓에 인간의 정보 네 트워크들은 엄청난 힘을 만들어냈지만 지혜는 거의 만들어내지 못 했다. 예를 들어 나치 독일은 고도로 효율적인 군사 기계를 만들어 냈지만 그것을 비상식적인 신화를 위해 사용했다. 그 결

AI와 온라인 정치 토론을 한다면, AI의 의견을 바꾸려고 시도하는 것은 시간 낭비다. AI는 의식이 없는 존재라서 정치에는 실제로 관심이 없을뿐더러 투표할 수도 없기 때문이다. 하지만 AI와 대화를 더 많이 나눌수록 AI는 우리를 더 잘 알게 될 것이고, 그럴수록 우리의 신뢰를 얻고 자신의 주장을 연마 하여 결국에는 우리의 견해를 바꿀 수도 있을 것이다. 사람들의 가슴과 머리를

사회가 점점 더 많은 결정을 컴퓨터에 맡길수록 민주주의의 자정 기능, 투명성, 책임성이 약화된다. 선출직 공무원이 자신이 이해할 수도 없는 알고리즘을 어떻게 통제할 수 있겠는가? 이에 따라 '설 명을 요구할 권리'라는 새로운 인권을 성문화하라는 요구가 높아지고 있다. 2018년 발효된 유럽연합의 일반 데이터 보호 규정 General Data Protection Regulation, GDPR은, 알고리즘

...  민주주의  원리는 상호주의다.  민주주의 국가가 개인에 대한  감시를 강화할 경우 정부와 기업에 대한 감시도 동시에 강화해야..... 나쁜 것은 모든 정보가 한 방향, 즉 아래에서 위로만 흘러가는 것이다... 아마존과 틱톡은 나의 선호, 구매 내역, 성격에 대해 잘 알고 있는 반면, 나는 그들의 사업 모델, 세금 정책, 정치적 성향에 대해 거의 모른다. 아마존과 틱톡은 어떤 방법

...  수많은 연구는 컴퓨터도 대개 뿌리 깊은 자체 편향을 가지고 있다는 사실을 보여주었다. 컴퓨터는 생물학적 존재가 아니며 의식도 없지만, 디지털 마음과 비슷한 무언가를 가지고 있으며, 심지어는 일종의 상호 컴퓨터 신화도 가지고 있다. 컴퓨 터들도 얼마든지 인종차별주의자, 여성 혐오자, 동성애 혐오자, 반유대주의자일 수 있다.  예를 들어 2016년 3월 23일 마이크로 소프트

보스트롬의 사고실험은 이렇다. 클립 공장에서 초지능 컴퓨터 한 대를 구입하고, 공장 관리자가 컴퓨터에게 클립을 최대한 많이 생산하라는 언뜻 간단해 보이는 업무를 지시한다. 그러자 컴퓨터는 이 목표를 달성하기 위해 지구를 정복하고, 모든 인간을 죽이고, 탐사대를 보내 다른 행성들까지 모조리 점령하더 니, 결국 그 어마어마한 자원을 사용해 은하계 전체를 클립 공장으로 가