인공지능은 뇌의 신경세포가 아니라 노동에서 왔다!
AI의 진짜 역사를 다시 쓰는 AI 사회기술사

인공지능의 시대를 맞은 우리 사회에는 AI에 관한 여러 가지 신화가 떠돈다. 그중 가장 대표적인 것은 ‘인공지능은 뇌의 신경세포 같은 인간 지능의 생물학적 속성을 본떠 만들었다’는 것일 테다. 이같이 기술이 순수하게 과학적인 발견으로 만들어졌다는 기술 내재주의적 관점은 지금의 AI 기술을 가치중립적이고 자연스러운 것으로 제시한다. 따라서 이를 비판하거나 거스르는 것을 어렵게 만들고, 기술의 개발과 활용 전반에 자리한 사회경제적 조건, 권력과 불평등, 정치의 문제를 가려버린다.

이 책은 기술의 역사적·사회적 맥락을 고려하는 외재주의적 관점을 통해 기술의 내적 논리에 영향을 미친 경제적·정치적 요인까지 규명하는 AI의 ‘사회기술사’를 쓴다. 저자는 과학사 분야에서 주로 쓰여온 역사적 인식론의 방법을 활용해 전 지구적 경제 동학 내 사회적 실천, 노동 도구, 과학적 추상의 변증법적 전개에 주목하며 AI와 알고리즘적 사고를 탐구하고자 한다.

현대 컴퓨터의 시초라 불리는 찰스 배비지의 차분기관부터 딥러닝 기술의 기초가 된 프랭크 로젠블랫의 퍼셉트론까지 알고리즘 기술의 역사를 따라가며, 저자는 이 기술들이 독립된 공학자의 천재성이나 사회와 무관한 과학적 발견이 아니라, 노동자들의 분업과 사회적 관계를 모방하여 만들어졌음을 논증한다. 기술은 노동자들의 기술과 지식, 창의성을 포착해 그것을 기계적 산물로 전환해왔고, 그를 통해 노동을 자동화하여 노동력을 대체해왔다. 산업기계부터 인공지능까지 반복된 이러한 기술 발전의 역사를 저자는 (마르크스의 ‘노동가치론’에 대응하여) ‘노동자동화론’으로 이론화한다.

배비지의 차분기관부터 로젠블랫의 퍼셉트론까지
AI의 사회적 기원을 밝히는 유물론적 기술 비평

이 책은 이러한 논지를 전개하는 9개의 장으로 구성된다. 1장은 본격적인 AI의 역사를 탐색하기 전에 이 기술의 중심 개념인 알고리즘 자체를 다시 사유하고자 한다. 저자는 알고리즘을 서구 컴퓨터과학의 전유물이 아니라 모든 문명에 존재해온 물질적 사고의 형식으로 읽어낸다. 그에 따르면 알고리즘적 사고와 실천은 주로 사회경제적 문제를 해결하기 위한 물질적 추상으로 출현했으며, 다름 아닌 노동이 바로 최초의 알고리즘이다.

이어지는 1부와 2부는 각각 산업화 시대와 정보화 시대에 기계 지능이 어떻게 발전해왔는지 다룬다. 1부의 첫 장인 2장에서는 현대 컴퓨터의 시초라 불리는 찰스 배비지의 차분기관과 해석기관의 설계 과정을 살핀다. 이 산업기계들은 수기 계산을 수행하던 노동자들의 분업 체계를 흡수하여 자동화하고, 그와 동시에 생산에 필요한 노동을 쪼개고 측정하여 통제한다. 3장은 19세기 영국 사회에서 촉발된 ‘기계 문제’를 검토하면서 현재 AI로 인해 떠오른 정신노동과 기술적 실업, 지식 소외의 문제가 이 시기부터 활발히 논의되었음을 짚는다. 4장은 카를 마르크스의 일반 지성과 총노동자 개념을 중심으로 지식, 노동, 기계의 관계를 분석한다. 초기에 마르크스는 지식의 축적이 해방적 가능성을 지닐 수 있다고 보았지만, 이후에는 지식이 기계 속에 응고되어 노동자에게 적대적인 힘으로 작동한다는 점에 주목하며 분업과 협업으로 이루어진 집합적 노동의 힘을 강조하게 된다. 5장은 산업화 시대에서 정보화 시대로의 이행 과정에서 노동이 어떻게 추상적 에너지와 추상적 형식으로 이분화되었는지 설명하면서, 이후 등장할 사이버네틱스와 AI의 이론적·역사적 조건을 정리한다.

정보화 시대를 다루는 2부에 들어서면, 6장은 사이버네틱스와 자기조직화 이론을 중심으로 현대 연결주의 AI의 계보를 그린다. 그리고 신경망 원형, 세포 자동자, 퍼셉트론 등의 자기조직적 인공신경망 또한 당대의 기술적·사회적 협업 구조를 투영해 만들어진 것임을 밝힌다. 7장에서는 연결주의 이론과 게슈탈트 이론 사이의 대립을 소개하며 연결주의 AI가 하려는 것이 논리적 추론의 자동화가 아니라 시각적 분류 작업의 자동화, 즉 패턴 인식의 자동화라는 점을 짚는다. 다시 말해 오늘날 AI는 ‘생각하는 기계’보다 ‘분류하는 기계’에 가깝다는 것이다. 8장은 신자유주의 경제학자 프리드리히 하이에크가 시장의 자율성을 논하기 위해 연구한 마음의 자기조직화 이론이 어떻게 연결주의 패러다임과 연결되는지 분석한다. 이를 통해 AI 기술과 경제 이데올로기가 얼마나 깊이 얽혀 있는지가 드러난다. 9장은 최초의 머신러닝 알고리즘으로 평가되는 프랭크 로젠블랫의 퍼셉트론 개발 과정을 살핀다. 저자는 이미지를 통계적으로 분류하는 퍼셉트론의 수학적 기반이 컴퓨터과학이 아니라 심리측정학, IQ 테스트, 우생학 같은 사회적 분류 및 통제 기술에서 왔음을 지적하며, 현대 AI가 그 기원에서부터 사회적 위계화와 통제의 역사를 품고 있음을 보여준다.

현대판 ‘주인의 눈’을 해체하고
기술의 주권을 탈환하는 AI 정치학을 향하여

이 책의 제목인 ‘주인의 눈’은 기술적이면서도 정치적인 비유이다. 이는 본래 산업화 시대에 공장 전체를 조망하며 노동자들의 분업을 감시하고 통제했던 자본가의 관리 체계를 뜻하는 표현이었다. 저자가 분석하는 자동화의 역사에서 배비지의 산업기계가 수행한 것도 바로 공장주의 눈이 하듯이 노동을 분해하고 측정한 뒤 통제하는 작업이었다. 이후 사회 내 분업이 대규모로 확장되며 주인의 눈은 전 지구적 자본의 운영과 같은 새로운 통제 기술로 진화했으며, 이것이 디지털 기술과 결합해 궁극적으로는 현재의 AI 알고리즘이 되었다는 것이 저자의 설명이다. (한편으로 이 표현은 현재 AI 패러다임인 딥러닝이 인지 이론이 아니라 시각 노동 혹은 패턴 인식을 자동화하려는 기술에서 출현했다는 것을 절묘하게 암시하기도 한다.) AI의 형태를 띤 현대판 ‘주인의 눈’은 수많은 사람들의 데이터를 들여다보고 수집하는 소수의 빅테크 기업들을 중심으로 그 어느 때보다 정교한 전 지구적 관리 체계를 만들어내고 있다.

이 새로운 주인의 눈에 우리는 어떻게 저항할 수 있을까? 결론에서 저자는 기술 발전의 원리로 이론화했던 노동자동화론을 현재의 AI 독점체를 분석하고 그것에 대항할 수 있는 실천적 도구로 제시한다. 노동의 자동화로서 기술이 탄생한다면, 기술의 재전유와 재발명은 그것을 구성했던 사회적 관계의 매트리스 속으로 들어감으로써만 가능하다는 것이다. 따라서 현재의 기술에 비판적으로 개입하는 기술 정치는 기술적인 것이 아니라 정치적인 방식으로만 비로소 시작될 수 있다. 우리는 인간의 노동으로 만들어졌고 인간에게서 추출한 데이터로 운용되는 이 기술의 진짜 주인이 누구인지를 묻고 그 주권을 되찾아오는 정치를 구성해야 한다. 그리고 더 나아가 기술 시스템의 근간이 되는 노동 조직과 사회적 관계를 해방하고 탈식민화하는 근본적인 정치적 변혁을 불러와야 한다. 이 같은 AI 정치학의 가능성을 열어내려는 이 책은 전 지구가 AI라는 물신에 잠식되고 있는 지금, 판을 뒤엎기 위해 꼭 필요한 이론적·실천적 무기가 되어줄 것이다.