이 책은 미국 전 국무장관 헨리 키신저, 구글 전 회장 에릭 슈밋과 인공지능 전문가인 대니얼 허튼로커 3인의 공저로 쓰인 책이다. 원제는 'The age of AI and our human future' 라고 되어 있다. '챗GPT는 시작일 뿐이다. 세계질서 대전환에 대비하라.' 라는 부제를 달고 있다. 이 책에서는 인공지능이 상용화되면 정치, 경제, 사회적으로 어떻게 변화할지 펼쳐 보인다. 또한 인공지능이 국제 관계와 전쟁가능성에 불러올 변화와 위험을 진단하고 있다. 내 자신을 나름대로의 낙관주의자라고 생각해왔다. 그러나 이 책을 다 읽고 나니 과연 우리 인류는 인공지능을 현명하게 지배할 수 있을 것인지 걱정이 되지 않을 수 없었다. 

인류는 새로운 변화를 맞을 때마다 위협을 느끼고 저항했다. 대표적으로 산업혁명의 선두를 이끈 영국에서 방직기계가 발명되었을 때 많은 노동자들이 일자리를 잃을 것을 두려워했다. 기술혁명으로 산업현장에서 획기적인 발전을 가져온 신기술을 파괴하려는 '러다이트' 운동이 일어났다. 지금의 시대에는 인공지능이 단순한 업무를 대체할 것이고 많은 노동자들이 실업자가 될 것을 우려하고 있다. 단순작업이나 육체노동자 뿐만 아니라 법관이나 의사마저도 인공지능이나 로봇에 의해서 대체될 것이며 연예인이나 정치인도 인공지능 로봇이 더 우세할 것이라고 한다. 이런 소식만으로도 청소년들은 장래에 어떤 직업을 선택해야 할 지 고민이 많을 것이다. 기성세대마저도 당장은 아닐지라도 조만간 내 일자리가 인공지능에게 빼앗기지 않을까 조금식은 걱정하고 있을 것이다.

지금까지의 인공지능은 주어진 문장을 번역하고 이미지를 분류하고 신약 후보 발견과 체스 경기에서의 승리에 이르기까지 인간을 능가하고 있다. '생성형 신경망'은 창조가 가능하므로 기존의 텍스트나 이미지로 훈련된 후 새로운 문장과 이미지를 생성할 수 있다. 인공지능이 코딩이나 작문을 할 수 있으며 딥페이크 제작에 악용될 수 있다. 생성형 인공지능이 머신러닝의 단순한 학습 차원을 넘어서서 스스로 코드를 짜는 단계가 온다면 인간이 만들어 놓은 시스템을 벗어나 스스로 사고하려는 단계로 넘어갈 수 있을지도 모른다.

사이버 무기를 통한 침투나 정보전에 의한 사이버 공격은 예측이 불가능하고 통제가 어렵다. 더 중요한 것은 인공지능의 학습능력과 목표물 설정 능력을 제한하지 않으면 사이버 무기나 자율살상무기에 의한 분쟁의 위험을 배제할 수 없다는 것이다. 저자는 적대국 간의 위기 상황에서 첨단 무기를 사용할 때에는 반드시 인간의 최종적 승인이 있어야 한다고 강조한다. 인공지능이 핵무기 사용을 승인하는 결정을 인간의 최종적 승인 없이 스스로 해버린다면 이른다면 인류는 파멸을 면하지 못할 수도 있다.

인간은 진화과정에서 가능하면 뇌를 덜 사용하는 쪽을 선호했다. 가능하면 생각하는 것을 줄임으로써 뇌의 에너지 소모를 최소화하려는 경향으로 발달한 것이다. 이러한 인간의 습성때문에 인공지능에게 더 의지하고 비판적인 사고 과정마저도 인공지능에게 의존하게 될 가능성을 배제할 수 없다. 따라서 인공지능 기술을 개발하는 단계에서 과학자들의 책임의식과 도덕성이 절실하게 요구된다. 정치인과 관료들은 인공지능을 규제하고 안전하게 이용할 수 있는 제도를 마련해야 할 것이다. 위기라는 한자가 위험과 기회라는 두 가지의 의미를 내포하고 있는 것처럼 인공지능이 인류에게 풍요로운 미래를 가져다 줄지, 인류의 파멸을 앞당길지는 지금 이시대의 인류의 선택과 규제에 달려있다. 

ChatGPT로 대변되는 인공지능이 우리의 일상전반을 크게 바꾸고 있다. 그 변화의 속도는 우리가 상상하지 못할 정도로 빠르다. 이제 이런 추세를 다시 되돌릴 수도 없는 상황이다. 우린 인간보다 더 똑똑한 AI시대에 인간답게 산다는 것은 어떤 모습이고, 또 어떻게 해야 인간답게 살 수 있을 것인가?

되돌아보면 챗GPT, 달리(DALL·E)를 비롯한 생성형 AI의 등장으로 인공지능에 대한 관심은 크게 높아졌다. 하지만 이러한 신기술이 인류에게 끼칠 근본적 영향과 대처에 관한 논의는 제대로 시작되지도 못했다. 과연 인공지능 기술이 인간보다 뛰어난 특이점에 도달한 상황에서도 인간이 주도적인 판단과 결정을 지속할수 있을까? 그럼 환경을 만들어 내려면 우린 무엇을 준비하고 대비해 나가야 할 것인가?

이 책은 과거부터 지금까지 기술의 역사를 돌아보면서 AI가 인류의 미래에 끼칠 영향을 설명한다. 헨리 키신저(미국 전 국무장관),  에릭 슈밋(구글 전 CEO), 그리고 대니얼 허튼로커(MIT 학장)가 저자로 참여해 정치, 경제, 외교, 기술 분야에서 AI가 가져올 변화와 우리의 대응 과제에 대한 지난 몇년간의 토론내용을 정리해 제시한다.

저자들은 인공지능이 제기하는 다양한 문제에 대한 답을 제시하기 전에 여러가지 질문부터 던진다. 현재 인공지능 개발은 어디까지 진척되었고 어디로 나아가는 중인가? 인공지능이 계몽주의 이후 지성사에 어떤 영향을 주고 있는가? 페이스북 같은 AI 기반 디지털 플랫폼에는 무슨 혁신이 일어나는가? AI로 인하여 전쟁의 형태와 국제질서는 어떻게 개편되며 미국의 역할은 무엇인가? 초인적 지능과 공존하는 사회에서 인간의 정체성은 어떻게 달라지는가?

저자들은 특이점 이후의 세계에서도 ‘인간성’은 무의미해지지 않는다고 설명한다. AI의 엄청난 능력에도 불구하고 인공지능은 의식도 없고 성찰 능력도 없기 때문이다. 그렇기 때문에 정책 결정이나 법 집행 등 중차대한 사안은 인간이 결정하고 감독할 때에만 정당성이 확보된다고 설명한다. 문제는 어떻게 AI가 지니고 있는 문제인 데이터의 편향성, 프라이버스 보호를 시정하고 우리의 삶을 건설적인 방향으로 도와주는 파트너로 매김하는 역할을 하는 거버넌스를 만드는 문제가 아닌가 싶다. 구체적인 답은 미래 세대에서 결정해야 하겠지만, 그 시작은 지금부터 착실하게 해야 하지 않을까 싶다.

 CHAT-GPT에 열광하는 친구가 있는가 하면, 시큰둥한 반응을 보이기도 한다. 기계가 인간의 언어를 흉내 내는 수준을 넘어 인간보다 뛰어난 결과를 만들어낸 것은 놀라운 일이다. 현재까지 인간이 만들어낸 데이터를 학습하고 인간의 삶에 좋은 결과를 도출하는 목적보다 한 차원 올라간 일임을 부인할 수 없다.

 개인적으로 CHAT-GPT의 텍스트를 시중에서 익숙한 음성 서비스로 진행한다면 활용할 부분이 많다는 생각을 한다. 동시에 대단히 큰 위험도 존재한다. 오늘 읍내에 잠시 나가 세상의 다양한 사람들의 주장을 보았다. 한 시대, 지금 순간을 사는 사람들의 욕망은 다 다르다. 역사의 발자취 속에 그 욕망이 올바른 결론과 귀결되었는지, 그렇지 않은지, 어떤 결정적인 요인이 흥망성쇠를 결정했는지 알 수 있다. 지금 현재는 결과가 나올 때까지 사후적 판단이 유보될 수 있다. 그런 일이 AI처럼 될 수 있을까? 사실 좀 부정적이다. 왜냐하면 모든 데이터는 인간이 만든 양에 비례하기 때문이다. 수학의 극한개념처럼 막대한 데이터를 넣으면 편차가 줄고 빈도의 확률이 정확해진다고 가정하겠지만, 막대한 오류의 데이터를 넣는다면 터미네이터의 세상이 될 수도 있다. 아니면 무릉도원처럼 합리적인 세상을 띄고 있지만 이를 지키지 않는 인간이 날뛰는 세상이 되지 말라는 법도 없다. 무엇보다 미래 데이터는 넣을 수 없기 때문이다.

 인간이 자연과 신앙의 세계에서 이성의 시대로 전환된 16세기의 비교는 적절하다. 유발 하라리의 편이 의미 있게 다가오는 이유다. 정확하게 데이터를 분별하는 것이 아니라 현실의 데이터를 최대한 넣어 유사하게 접근하는 관점을 보며 왜 노자가 도를 설명하는 것과 유사하다는 느낌이 드는지 모르겠다. 책에서는 동굴과 그림자를 통해 소크라테스를 이야기하지만 이 두 가지가 너무 멀리 있다는 생각이 들지 않는다. 다만 지금 이루어진 AI는 인간의 학습 형태를 흉내 내고 있지만 인간과 같은 지각이 없다. 인간이 보편적 행위, 데이터 생성결과에 수렴되겠지만 그것이 절대적 힘을 갖긴 어렵다. 원천적으로 인간의 오류가 포함되며, 데이터를 생성하는 힘, 권력, 자본의 차이에 따라서도 왜곡될 수 있다. 너무 편리하지만 통제되지 않는다면 없는 것보다 못한 위험이 커지기 때문이다. 

 이런 인간의 발자취와 현재의 AI를 보면 인간의 역할도 존재한다. AI가 고도로 발전된다면 SF영화처럼 그 혜택을 누릴 수도 있고, Robot기술과 AI가 통제되지 않으면 기계와 전쟁을 할지도 모른다. 그런 먼 미래가 아니라면 분명 AI를 지배하는 자, AI에 통제되는 자, AI를 돕는 자로 세상은 구분되지 않을까? 몇몇 학자들이 AI가 다양한 인간활동을 대체하고, 인간은 안락함을 제공받는 세상이 될 것이라고 예상한다. 나는 정반대의 생각을 한다. 인간의 역사 속에 탐욕, 전쟁, 폭력이 사라진 예가 없기 때문이다. AI를 바라보면 무엇을 AI 할 것인가? 에 대한 정의와 그것에 대한 범위관리가 되지 않으면 정말 빌런이 날뛰는 세상의 위험도 존재한다.

  지금 한쪽의 측면에서는 AI의 기술적 발전과 가능성에 대한 도전이 한창이다. 안보와 세계질서의 장에서 나오는 이야기 전에 안보와 관련된 이야기는 너무 많다. 작게는 최근에 자주 볼 수 있는 개인정보보호, 사생활보호, 네트워크 보안과 같은 일들이다. 요즘 신문을 보면 모든 사람들이 전화기를 목숨보다 중요하게 생각한다. 가끔 궁금한 것은 통신, 은행, 카드, 교통 정보를 받아서 묶으면 소유자가 언제, 어디서 무엇을 했는가에 대한 자료를 받을 수 있다. 네트워크는 익명이랑 이름(ID, 통장번호, 카드번호) 아래 완벽한 실명제이기 때문이다. 범위를 확장에 AI는 전쟁에서 한 편으로 아군의 생명을 보호하고, 한 편의로 적군의 생명을 더 효과적으로 제거할 우려가 있다. 강대국이 패권과 경쟁 이면에도 적이 보다 정확하고 빠른 실시간 예측 AI 시스템을 갖춘다면 전쟁은 의미가 없다. 어디로 공격할지 안다면 방어는 훨씬 쉬워진다. 또한 역으로 적의 예측보다 빠른 시스템은 알아도 속수무책인 공격이 가능하게 할 수 있다는 말이다. 경제시스템에 적용된다면 보다 강력한 AI를 갖은 나라가 그렇지 못한 나라를 착취하는 디지털 제국시대도 불가능한 것은 아니다. 이성적 자각, 옳고 그름에 대한 판단이 아니라 인간 데이터를 통해, 인간보다 빨리 결과를 내는 이 만물상자의 효용과 위험을 동시에 인식할 필요가 있는 시대다. 결국 인간의 중요성은 더 올라간다. 다만 AI를 inspiration 할 수 있는 사람이 되어야 한다는 사실이 인간의 과제가 아닐까?

 일상에서 AI를 자주 보면 어떻게 학습했는가가 중요하다. 학습환경과 데이터에 따라 반응한다. 책에서 말한 강화학습형태로 AI를 제공하는 것은 돈이 어마어마하게 든다. 학습 데이터를 조그만 컴퓨터와 장비에 맞게 경량화하는 작업도 쉽지 않다. 아직은 학습 조건과 유사하게 만들어서 사용하는 것이 정확성이 높다. 게다가 보조도구로써의 역할을 늘려가는 과정이고 오류도 많다. 문제는 AI를 접하는 사람은 기계가 아닌 사람의 기준으로 생각하다 보니 만능으로 생각한다. 기계도 공부 안 한 것은 모른다. AGI라는 일반범용 인공지능이 언젠가 가능할지도 모르겠지만, 그것이 가능하다면 국가란 그저 세금 걷는 기구가 될까? 인간이 직업이라고 하는 수많은 분야에 AI가 적용되어 권위가 사라진다면 인간이 그 불만족을 인내할까? 새로운 러다이어트 운동은 어떤 방식일까? 

 미래소설의 끝이 디스토피아로 그려지는 창작이 어떤 면에서 인간의 인사이트를 보여준다고 생각한다. 기계는 과거의 데이터로 현재에 필요한 결과를 산출한다. 인간은 미래를 상상한다. 기계는 인간이 인지하지 못하는 데이터로 새로운 것을 구현할 수 있지만, 미래에 대한 상상력이란 존재할 수가 없다. 동시에 인간에 대한 인사이트는 더할 나위가 없다. 지식이 많다고 지혜로운 것이 아니다. 농담처럼 슬기로운 직장생활이 오래 회사 다녔다고 만들어지지 않듯, AI는 인간에서 지혜와 슬기를 축적하는 거대한 도전을 요구하는 것일지도 모른다. 모든 의사결정과 책임은 인간의 몫이다.

#AI이후의세계 #헨리키신저 #에릭슈밋 #내이러허튼로커 #인공지능 #인간 #독서 #khori