#인공지능파놉티콘 #김영사 #홍성욱 #서평 #일파만파독서모임

(본 도서는 서평을 조건으로 김영사 출판사에서 제공받았습니다.)

우리가 어디에서 무엇을 하든, 사진을 찍고, 올리고, 공유 하게 되면 전세계로 노출이 되는 시대다. 이게 자유롭고, 나를 표현 할 수 있는 수단 중 하나라고 생각하지만, 우리가 생각한 것보다 훨씬 더 방대하게 우리는 '벌거벗은 임금님'이 된다. 

편리한 시대에 살고 있으나 그만큼 우리에 대한 '정보', '신원', '생각과 이념, 가치관'까지 "착취"당하고 있다고 저자는 얘기하고 있다.

제러미 벤담이 설계한 감옥 '파놉티콘'이 교육,의료,정치까지 그 개념이 퍼지면서 지금까지 맞닿아 있다. 물리적인 구조가 아닌 이제 보이지 않는 세계에서 우리를 다 감시하고 있는 권력자들이 있다. "데이터가 새로운 석유다"라는 슬로건이 있을 정도로 우리가 뭔가를 하는 것 하나하나가 힘을 가진 자들에게는 많이 가질수록 이득이 되는 중요한 자원인것이다. 우리는 여기에 어떻게 대응할 수 있는가?

권력을 가진 사람들이 역사를 만들어가는 것 같지만 이는 권력자가 우리에게 주입시키려는 생각에 불과하다. 역사는 결코 권력자 마음대로 만들어지지 않는다. - p.228

우리의 논의는 단지 국가의 오류를 드러내는 데 그치지 않고 정보를 어떻게 다루고 책임질 것인가에 대한 새로운 감각과 윤리를 요구한다. - p.235

단지 나의 개인정보가 유출이되거나 오남용이 되어서 문제가 된다기 보다는, 개인적 차원의 보호를 넘어서 바람직한 민주주의 사회를 만드는 행위를 우리, 시민들이 할 수 있다는 것이다. 

비문학을 오랜만에 읽어봤는데, 한국분이 작가셔서 그런지 모르겠지만, 현재 우리 한국인으로서의 시선으로 상황과 환경을 설명하고, 무엇을 해야하는지, 어떤걸 알고 있어야 하는지에 대해 아주 잘 풀어주셔서 정말 흥미있게 읽어내려갔다.

지금 현 한국의 상황에서, 꼭 읽어봐야하는 도서 중 하나라고 생각한다. 강추!

"일상에 편재한 감시의 역학 속에서 

역감시와 역파놉티콘의 가능성을 모색하다."

 홍성욱의 ＜인공지능 파놉티콘＞을 읽고

"우리는 프라이버시를 되찾을 수 있을까?"

누군가가 나의 행동을 지켜보고 있다면? 내가 하는 모든 말과 행동들이 감청당하고 감시당하고 있다면? 

즉 국가가 언제든 개인을 감시하고 있고 나의 자유가 없다면 어떻게 될까? 당신은 그런 사회를 상상이나 할 수 있겠는가? 

나의 행동과 말은 CCTV 같은 텔레스크린이 나를 항상 주시하고 있고 그 텔레스크린 너머에는 '빅 브라더'가 있다. 

조지 오웰인 『1984』를 통해 독제 체제의 현실과 미래 예언적 디스토피아 사회를 그렸다. 감정을 통제하고, 사고의 범위를 말살함으로써 인간이 가지고 있는 정신까지도 조작하고 제거하는 국가의 독재 권력과 힘의 위험성에 대해 경고했다.

이 책을  통해 조지 오웰은 빅 브라더에 의해 통제되는 디스토피아 사회의 모습을 통해 현대 사회 속에서 국가가 개인에게 행사하는 독재 권력에 대해 비판하고 개인의 자유와 인간 정신의 중요성을 강조하였다.

그런데 1984 속 빅 브라더에 통제되는 디스토피아 사회가 현실에서 재현되고 있다. 텔레스크린 너머 빅 브라더처럼 우리 일상  과 주변에는 인공지능이 있다. 만인을 대상으로 한 빅데이터 인공지능 감시가 일상화되었다. 국가는 공공의 안녕과 질서 유지라는 명목으로 개인정보 수집하며, 기업은 효율적인 마케팅을 위해 데이터를 기반으로 우리의 행동을 예측한다. 더 나아가 각종 혜택을 누리고 타인과 소통하가 위해 사람들은 SNS를 통해 자발적으로 개인정보와 사생활을 노출 시킨다.

이렇게 인공지능에 의한 '빅 브라더가 지켜보고 있는 감시 사회'야말로 조지 오웰이 그린 1984 속 디스토피아 사회가 아닌가?

이런 감시 사회 속에서 과연 우리는 프라이버시를 지킬 수 있을까?

이 책 「인공지능 파놉티콘」 에서 저자는 벤담의 파놉티콘을 시작으로 하여 17세기 산업혁명 시대를 거쳐 20세기 말 정보화 시대까지 감시 기제의 변천사를 고찰하고 있다. 벤담이 설계한 원형 감옥인 파놉티콘에서 시작한 감시의 메커니즘이 현대 사회 속 빅데이터-인공지능에 의한 감시 문화에 얼마나 영향을 미쳤는지, 감시의 역학관계를 뒤집는 역감시과 어떤 상관관계가 있는지를 설명해준다.  이런 감시 문화의 역사적 고찰 후,  2010넌대 빅테이터 인공지능 기술의 부상으로 대두된 현대사회의 감시문화, 역감시, 프라이버시 침해 등 감시 문제를 다룬다.

우리는 어떤 서비스를 이용하기 위해 회원 가입을 하고 휴대폰 인증을 한다. 인증 후 기나긴 약관에 동의한 후에야 비로소 가입 절차는 완료된다. 그런 과정을 통해 우리도 모르는 사이에 개인정보는 유출된다. 2025년에 발생한 SK 통신사 고객 정보 유출 사건, 온라인 쇼핑몰 쿠팡의 고객 정보 유출 사건 등을 통해 클라우드 기반 서비스와 민간 데이터 관리 체제가 여전히 취약함을 알 수 있다.  또한 대형 기업마저도 보안에 대한 투자가 미미하다는 점을 여실히 보여주고 있다.  그렇기에 우리의 개인정보는 너무 쉽게 노출되는 위험에 빠져 있다.

개인정보 유출 문제와 더불어 프라이버시 침해 문제가 심각하게 대두 되고 있다. 이와 관련해 페이스북의 창업자 마크 저커버그는 2010년에 '프라이버시는 죽었다"고 선언했다. 국가나 기업의 감시가 더 만연하고 은밀해져서가 아니라 SNS 사용자들이 자발적으로 자신의 일상을 올리기 때문이라는 것이었다. 

이 책은 단순히 감시체계의 오류와 감시 사회의 폐해만을 지적하지 않는다. 이 비판을 통해 우리는 국가가 어떤 식으로 세상을 바라보야야 하는지, 이런 사회 속에서 우리는 어떻게 프라이버시를 지킬 수 있는지에 대해 생각해보게 한다.

특히 8장을 통해, 이런 편재화된 감시에 대한 저항을 다루면서 기술의 어긋남과 저항하는 사람들을 통한 다양한 저항의 사례를 제시한다. 이 8장을 통해 저자는 빅데이터와 인공지능이라는 새로운 기술의 감시 능력을 과장해서 평가하지 않는다.

또한 9장을 통해 빅데이터-인공지능 파놉티콘 시대의 새로운 프라이버시 권리선언문에 대해 제시하면서 21세기 프라이버시 개념의 중요성을 강조하며 빅데이터와 인공지능 시대에서는 프라이버시를 재해석할 필요가 있음을 주장한다.

21세기 빅데이터-인공지능 파놉티콘의 지배를 막을 수 있는 첫걸음은 정치적·관계적 사회정의의 관점에서 프라이버시 개념을 새롭게 인식하고 이를 실천하는 것이다. (…) 프라이버시는 나의 개인정보를 보호해주는 수동적 방패가 아니라 감시와 통제의 구조에 균열을 내기 위한 저항의 도구로 새롭게 상상될 필요가 있다. 이렇게 프라이버시를 상상하는 것이 시민사회와 감시권력의 역학관계를 역전시키고 새로운 민주적 질서를 형성하는 기술적·제도적 실험의 시작이다.
-p.284

21세기 빅데이터-인공지능 파놉티콘의 지배를 막을 수 있는 첫 걸음은 프라이버시 개념을 새롭게 인식하고 이를 실천하는 것이다. 프라이버시는 나의 개인정보를 보호하는 것에서 더 나아가 감시와 통제의 구조에 균열을 내기 위한 저항의 도구인 것이다. 먼저 나부터 나의 프라이버시를 지키려는 노력을 하는 것이 필요하다. 

내가 나의 프라이버시를 지키기 위해 할 수 있는 일이 무엇인지, 나에게 프라이버시는 어떤 의미인지 생각해보게 된다. 

이 책을 통해 우리가  빅 데이터와 인공지능에 의한 감시 사회 속에서 살고 있으며, SNS를 통해 나도 모르는 사이에 얼마나 개인정보를 유출하고 있었는지 새삼 깨닫게 된다. 

＜출판사로부터 도서를 제공받았습니다＞

#인공지능파놉티콘

#홍성욱

#김영사

#일파만파독서모임

#도서협찬

#인공지능파놉티콘_홍성욱

#김영사

#1984

2002년도 PC통신에서 인터넷시대로 넘어오면서 인터넷이 보여주는 감시와 역감시의 가능성에 대한 ＜파놉티콘＞이 출간되었고, 인터넷 시대를 넘어 AI 시대로 넘어가는 인공지능의 감시에 대한 확장판으로 ＜인공지능 파놉티콘＞이 개정되어 출판되었다.

과거 조지오웰의 1984에서 느꼈던 빅 브라더의 사회통제가 점점 실제가 되어가는 현재에 이 책은 디지털 감시와 데이터 통제가 어떤 방식으로 인간에게 영향을 미치는지, 빅데이터와 인공지능이 인간 사회를 어떻게 변화 시키는지를 여러 사례를 통해 서술한다.

미셸푸코의 ‘파놉티콘’의 개념이 인공지능의 감시에 대한 탁월한 선택이었다. 파놉티콘은 중앙의 감시자가 죄수를 언제든 관찰할 수 있는 원형 구조의 감옥을 뜻하지만 핵심은 실제 감시여부가 아니라 감시를 받고 있다고 느끼는 그 상태에서 개인은 외부의 강제 없이 스스로를 감시하게 된다는 이론인데, 알고리즘의 감시를 받는 듯한 현재의 디지털 감시에 이처럼 탁월한 예시는 없다.

이러한 환경속에서 우리는 어떤 태도를 취할 것이가.에 대한 고민을 던져주고, 앞으로의 기술 발전에서 인간이 어떤 포지션을 취해야 할지에 대해 여러 생각이 들게 하는 여러모로 고민을 가득 안겨준 책이다.

서울대 홍성운 박사님의 탁월한 통찰력 덕분에 눈 깜작할 순간에도 오백보 천보로 만보로 발전하는 인공지능 시대에 앞으로의 기술 발전에 어떻게 대처해야 할 것인가에 대해 고민해본 좋은 시간이었다.

p.281 우리는 전방위적인 감시가 단지 개인의 사생활을 침해하는 수준을 넘어서 감시받는 시민과 감시하는 권력의 불균형을 심화하는, 즉 민주주의의 기반 자체를 흔드는 결과를 낳을 수 있음을 인식하고 이를 폭로해야 한다.

＜김영사의 지원으로 독서 후 작성되었습니다.＞

출판사로부터 도서를 제공받아 작성한 서평입니다.

요즘은 인공지능이라는 말을 모르는 사람이 거의 없을 정도가 된 것 같습니다. 예전에는 SF 영화에서나 보던 기술처럼 느껴졌는데, 지금은 챗GPT 같은 생성형 AI를 직접 사용하는 사람도 많고 추천 알고리즘이나  범죄 수사처럼 생각보다 다양한 분야에서 활용되고 있습니다. 저도 과제를 하거나 궁금한 것을 찾아볼 때 AI를 사용해 본 적이 있는데, 편리하다는 생각이 드는 동시에 "이 기술이 앞으로 어디까지 발전할까?" 하는 궁금증도 들었습니다.

《인공지능 파놉티콘》은 이런 인공지능 기술을 조금 다른 시선으로 바라보게 만드는 책입니다. 단순히 AI가 얼마나 뛰어난지 설명하는 것이 아니라, 인공지능이 사회와 개인의 자유에 어떤 영향을 줄 수 있는지를 중심으로 이야기합니다. 제목에 있는 '파놉티콘'은 원래 제러미 벤담이 제안한 감옥 구조를 의미하는데, 저자는 이 개념을 현대의 인공지능과 연결해서 설명합니다.

읽으면서 가장 흥미로웠던 부분은 감시가 예전과는 완전히 다른 방식으로 이루어지고 있다는 내용이었습니다. 과거에는 감시라고 하면 누군가를 직접 지켜보거나 통제하는 모습을 떠올렸는데, 지금은 사람들이 스스로 서비스를 이용하는 과정에서 많은 정보가 자연스럽게 수집됩니다. SNS에 사진을 올리고 검색을 하고 영상을 시청하는 행동들이 모두 데이터로 남는다는 사실을 생각해보면 조금 신기하기도 하고 한편으로는 불편하게 느껴지기도 했습니다.

또 알고리즘이 단순히 사용자가 좋아하는 것을 보여주는 데서 끝나는 것이 아니라, 사용자의 선택에도 영향을 줄 수 있다는 설명도 인상 깊었습니다. 실제로 유튜브나 쇼핑몰을 이용하다 보면 내가 관심을 가질 만한 콘텐츠가 계속 추천되는데, 어느 순간에는 내가 선택하는 것인지 추천을 따라가는 것인지 헷갈릴 때도 있는 것 같습니다. 책을 읽으면서 평소에는 크게 의식하지 않았던 부분들을 다시 생각해보게 됐습니다.

물론 이 책이 인공지능을 무조건 위험한 기술이라고 말하는 것은 아닙니다. 오히려 기술 발전 자체보다 그것을 사용하는 사회가 어떤 기준을 세워야 하는지에 더 관심을 두고 있다는 느낌을 받았습니다. 인공지능이 앞으로 더 발전할 가능성이 큰 만큼, 편리함만 볼 것이 아니라 개인의 자유와 개인정보 보호 같은 문제도 함께 고민해야 한다는 생각이 들었습니다.

《인공지능 파놉티콘》은 인공지능 기술을 단순한 신기한 기술이 아니라 사회와 연결된 문제로 바라보게 만드는 책입니다. AI에 관심이 있는 사람뿐 아니라 앞으로 기술이 우리 삶에 어떤 영향을 줄지 궁금한 사람이라면 한 번쯤 읽어볼 만한 책이라고 생각합니다.

홍성욱 《인공지능 파놉티콘》

조지 오웰의 《1984》가 여전히 회자되는 이유는 ‘빅브라더’의 존재 때문이다. 그러나 《인공지능 파놉티콘》을 읽다 보면, 우리는 빅브라더가 출현할 미래가 아니라 이미 감시가 일상화된 현재를 살고 있음을 깨닫게 된다.

오늘날의 감시는 억압적인 방식으로만 이루어지지 않는다. 인터넷 검색, 신용카드 사용, SNS 게시물, 위치 정보 등 우리는 일상 속에서 스스로 정보를 제공한다. 개인의 기록은 나이, 성별, 취향에 따라 분류되고 상업적 정보로 가공된다. 문제는 이 과정이 대부분 이용 약관 속에 포함되어 있어, 서비스를 이용하려면 사실상 동의할 수밖에 없다는 점이다.

저자는 이런 비대칭적인 정보 구조를 ‘파놉티콘’에 비유한다. 파놉티콘은 감시자는 수감자를 볼 수 있지만, 수감자는 감시자를 볼 수 없는 감옥의 형태다. 오늘날의 플랫폼과 알고리즘도 이와 닮아 있다. 우리는 어떤 정보가 수집되고 어떻게 활용되는지 정확히 알기 어렵다.

하지만 이 책은 감시 사회의 위험만을 말하지 않는다. 저자는 인터넷과 디지털 기술이 시민이 국가와 기관, 기업을 감시하는 ‘시놉티콘’의 도구가 될 수도 있다고 본다. 결국 중요한 것은 기술 자체가 아니라 그것을 대하는 우리의 태도다.

《인공지능 파놉티콘》은 감시당하는 사회에 익숙해질 것인지, 감시하는 시민으로서 권력을 견제할 것인지 묻는다. 그리고 그 선택이 아직 우리 손에 남아 있음을 보여준다.

*출판사로부터 도서를 제공받아 주관적으로 작성한 글입니다.

* 출판사로부터 책을 증정 받아 직접 읽고 주관적으로 작성했습니다.

서울대학교 물리학과를 졸업하고 서울대학교 대학원 과학사 및 과학철학 협동과정에서 석·박사 학위를 받은 뒤 현재 서울대학교 과학학과 교수로 재직 중인 홍성욱 교수님이 집필한 책으로, 인공지능 시대를 살아가는 인간의 위치와 미래 사회를 철학적으로 깊이 있게 탐구할 수 있었던 책이었습니다.

인공지능과 빅데이터 시대 속 인간의 자유와 감시, 그리고 사회 구조의 변화를 함께 다루고 있었던 책인데요. 철학자 제러미 벤담의 ‘파놉티콘’ 개념이 등장하면서, 현대 사회에서 이루어지는 디지털 감시와 데이터 통제가 어떤 방식으로 인간에게 영향을 미치는지를 흥미롭게 설명하고 있었습니다. 또한 빅데이터와 인공지능 기술이 인간 사회를 어떻게 변화시키고 있는지, 그리고 그 과정에서 인간은 어떤 위치에 놓이게 되는지를 철학적 논증과 과학 기술 사례를 통해 함께 보여주고 있었습니다. 그래서 과학·기술, 철학이 함께 융합된 철학책에 가깝다는 느낌을 받았습니다.

저자가 과학자이면서도 철학적 사고를 굉장히 자연스럽게 연결하고 있다는 부분이 가장 큰 강점이 되는 책입니다. 실생활 속 사례들과 과학 기술 이야기를 활용해 설명하고 있어서 내용이 지나치게 어렵거나 추상적으로 느껴지지 않았고, 오히려 현실과 밀접하게 연결되어 있다는 점에서 더욱 몰입해서 재미있게 읽을 수 있었습니다.

빅데이터 기술의 원리와 디지털 사회 구조, 그리고 페이스북의 마크 저커버그 발언 등을 인용하면서 앞으로 다가올 시대의 모습을 구체적으로 보여주고 있는 부분들을 통해 기술에만 초점을 맞추고 설명하기보다는 미래 사회에서 인간이 어떤 방식으로 살아가게 될 것인지에 대한 통찰력까지 함께 전달해 주고 있었습니다.

앞으로 다가올 기술 발전이 지배하는 미래에서 인간이 어떤 철학적 사고와 비판적 시선을 가져야 하는지 고민하게 만드는 책이었다는 점에서 큰 의미가 있었습니다. LEET나 고차원적인 철학, 사회과학 지문에서 만날 법한 주제들이 많이 등장하기 때문에 리트를 준비하시는 분들이라면 한 번 쯤은 만나보게 될 주제라는 생각이 드네요. 사고력을 넓히는 데에도 상당히 도움이 되는 책이라고 느꼈습니다. 인공지능 시대와 디지털 사회 속 인간의 미래, 그리고 기술과 철학의 관계에 관심이 있는 분들께 추천드리고 싶은 매우 인상 깊은 책이었습니다.

‘좋은 것을 추천해 줄게.’라고 감시를 정당화하는 사회에 대한 의문 “인공지능 파놉티콘”/도서제공 김영사에서 보내주셨습니다.

“그래서 역파놉티콘은 가능하지만 자동적으로 이루어지지 않음을 인식하는 것이 중요하다. 시민운동과 다양한 NGO들의 행정 및 사법 권력 감시, 대기업의 횡포와 통신·인터넷 기업의 개인정보 유출에 대한 감시, 의정과 언론 감시, 시민운동의 또 다른 권력화에 대한 끊임없는 성찰과 자기 감시, 인터넷과 같은 새로운 미디어 통제에 대한 반대운동, 정보수집을 제한하는 강력한 프라이버시 법안의 입법화, 그리고 역감시를 위한 정보 공개권 확보 등이 결합할 때 역파놉티콘은 제 기능을 발휘할 것이다.”

이 책에서 가장 재미있는 부분은 간주 Intermezzo입니다. 일상생활에 들어온 ‘감시’ 이를 활용하는 ‘기업’의 이야기를 사례와 함께 설명합니다. 알고리즘이 몰래 임신한 소녀의 집으로 전단지를 보내는 것은 그럴 수가 있겠구나 싶었지만 SNS를 고용이나 해고의 자료로 사용하는 부분은 알고리즘이 이제 사람들의 삶까지 좌우하고 있구나 싶어 슬퍼졌고요.

“만약 수사기관에서 그녀를 관찰했다면 그녀를 잠재적 범죄자로 주목했을 것이다. 카드를 사용하지 않고, 메일과 SNS를 조심하고, 토르 브라우저를 사용하는 그녀는 마약이나 총기르 거래하는 전형적인 범죄자들의 모습과 비슷했기 때문이다. 자신을 숨기기 위해서는 음흉한 범죄자와 비슷한 존재가 되어야 했던 것이다.”

“마크 저커버그는 2010년에 ‘프라이버시는 죽었다’고 선언했다.”

우리는 우리의 국가가, 각종 단체가 “데이터보호법”을 어떻게 사용하는지 지켜봐야 합니다. 그것을 지켜보고 항의하고 권리를 주장하는 것이 시민인 우리가 할 수 있는 유일한 역파놉티콘입니다. 최근 여러 대형기업의 사례를 통해 우리가 알게 되었듯 그들은 알아서 우리를 지켜주지 않기 때문입니다. 9장의 ‘인공지능 파놉티콘 시대의 새로운 프라이버시 권리선언문’을 시간나면 꼭 읽어보셨으면 좋겠습니다.

‘우리는 감시의 일상화를 거부한다.’ 이 말에 반대하시는 분?