우리는 시공간의 제약 없이 정보통신망과 컴퓨터 접속만으로 디지털 공간에서 쇼핑하고, 기업, 금융 등 사업과 상거래를 하고, 정보를 검색하고, 게임을 하고, 사람을 만난다. 오프라인에서만 살던 인간은 디지털이라는 또 다른 영토를 찾아 분주하게 이주하고 있다. 디지털의 발명은 기존에 없던 시공간을 새로 만들어 인간의 삶을 근본적으로 바꿔 가치를 더한다. 가히 디지털 혁명이라고 불러도 부끄럽지 않다. 디지털은 생성형 AI 등 AI 기술을 만나 더욱 심화되고 있다. AI는 디지털 시대의 불쏘시개로서 디지털 혁명을 성공시킬 주역이라고 해도 과언이 아니다.
---「들어가는 글」중에서

AI의 위험은 어떻게 다른가? AI를 이용하는 모든 분야와 경로에서 발생할 수 있다. AI 알고리즘이 작동하는 블랙박스 구간은 작동 방식과 경로를 알기 어렵다. 예측할 수 없는 결과를 만들어내는 과정에서 어떤 위험이 어느 정도 발생할지 모른다. 피해를 원상복구하기 어려우며, 피해가 AI로 인한 것인지 인과관계를 입증하기도 어렵다. 기계는 매뉴얼에 충실하지만, AI는 인공신경망으로 작동되는 탓이다. 물질에 대한 통제보다 ‘정신’에 대한 통제가 어려운 것과 같다. 기계는 오작동에 의한 위험이 대부분이지만, AI는 정상적인 작동과정의 위험이 더 클 수 있다. AI 알고리즘 특성상 오류 수정이 쉽지 않다. AI 작동 과정에서 사업자 또는 사용자의 관여가 피해를 더욱 확대할 수 있다.
--- p.34

과학기술의 발전은 오프라인 세상에 버금가는 온라인, 모바일, 메타버스 세상을 만들고 있다. 디지털은 오프라인을 모방해 오프라인 상품을 온라인에서도 손쉽게 사고파는 시스템을 구축했다. 오프라인 의존도를 낮춰가며 자신만의 세계를 구축할 것이다. 오프라인에 없고 디지털로만 거래가 되는 상품과 서비스가 나올 것이다. 가상 인간이나 아바타가 입는 명품 의류와 가방 등 가상 재화가 그것이다. 그들만이 사용하는 화폐도 나올 것이다. 모바일 뱅킹이 늘어나고 은행 창구가 없어지듯이 중복되는 오프라인 상품을 줄이거나 없앨지 모른다.
--- p.93

프랑스 소설가 베르나르 베르베르는 인간의 자존심에 상처를 준 3대 사건으로 인간이 사는 지구가 우주, 태양계의 중심이 아니라는 지동설, 인간도 동물의 일종이라는 진화론, 무의식이 사람의 삶을 지배한다는 프로이트의 심리학을 꼽는다. AI가 인간을 넘어선다면 자존심에 상처를 주는 정도에 그칠까? 대화형 인공지능인 챗GPT의 성장은 많은 것을 생각하게 한다. 챗GPT를 어떻게 대해야 할까?
--- p.129

우리는 오프라인을 넘어 온라인으로, 스마트폰의 등장으로 모바일로 옮겨왔으며, 이제는 가상공간 메타버스를 이야기한다. 오프라인이 진짜 세상이라면 온라인, 모바일, 메타버스는 진짜를 베껴 놓은 가짜다. 가짜에서 원본의 아우라를 뛰어넘는 새로운 아우라를 찾는 것이 AI를 낳은 시대다. AI는 가짜의 아우라를 만드는 기술이 되고 있고, 새로운 산업과 시장을 획기적으로 열어젖히는 마중물 역할을 하리라 기대하고 있다.
--- p.151

사이버 보안 침해는 대부분 관리 권한을 해킹해 일어난다. 따라서 PC, 스마트폰 등 네트워크에 연결된 말단 장치에는 관리 권한을 줄여야 한다. 많은 일을 원격접속으로 하는 지금, 원격접속 자체가 해킹 경로가 될 수 있으므로 원격접속 관리 권한을 최소화하고, 관제 센터를 통한 원격접속 모니터링을 철저히 해야 한다. 침해 기술은 진화하므로 사이버 보안 인프라를 처음부터 탄탄하게 구축해야 한다. 지속적인 업데이트가 중요하다. 이것은 정부와 기업의 역량만으로는 한계가 있다. 민간 전문가, 이용자 참여와 그 피드백에 귀를 기울여야 한다. 정부와 지방자치단체, 참여 기업, 전문가, 일반 국민 등 다양한 주체가 참여해 의사결정하는 책임 체계로서 사이버 보안 거버넌스를 확립해야 한다. ‘스마트 보안’ 없는 스마트도시는 국가를 망친다.