내일 비행기를 타 볼 생각인데, 아침부터 바쁘게 조조할인 영화와 책을 열심히 보게 된다. AI2041은 내러티브를 가미한 미래에 대한 이야기를 그리며 인공지능이 갖고 올 세상을 상상하고 있다. 인공지능이 다양하게 적용되는 분야에 대한 이해가 있다면 내러티브 한 부분보다 각 챕터의 마지막 부분의 화두만 읽어도 괜찮을 것 같다.

 내 이해로 보면 인공지능이란 인간이 반복적으로 하고 있는 일을 줄이는 것, 인간이 인지하고 판단하는 유사한 활동을 데이터로 처리해서 인간의 활동을 돕는 긍정적인 부분이 있다. 그런데 어제 신문 기사에서 미군의 시뮬레이션에서 AI가 걸리적거리는 인간을 제거하고 목표를 달성했다. 이런 일이 일상에서 생긴다면 어떻게 될까? 

 우리가 보는 현상의 그림자(이면)에는 인간의 행동함으로 나타나는 모든 활동을 데이터로 처리하고, 딥러닝을 통해서 유사성과 확률 계산을 통해 그 순간의 목적에 부합하는 결과를 갖고자 한다. 어쩌면 세상 사람들이 모두 부처, 예수, 마호메트와 같은 수준이며 비밀이 없다면 인공지능의 미래는 100점 만점의 밝은 미래가 될 수 있다. 인간의 본능에 반하는 고도로 수준 높은 평등한 공산주의의 실현이 불가능한 것도 아닐 것이다. 하지만 인간에게 가능한 일일까? 절대 불가능한 일이란 사실은 인류가 만들어 온 문명의 역사가 반증한다. 

 인공지능은 옳고 그름을 판단하는 것이 아니라 인간의 행동에 기반한다. 그런데 인간은 오류, 부정과 불법, 나쁜 짓을 안 한다고 볼 수 없다. 그런 데이터를 분류해서 순혈주의처럼 순수한 옳은 데이터만 학습하고 고도화할 수 있을까? 물론 초기의 좁은 분야의 학습은 가능하다. 그렇기에 아마존과 중국의 물류시스템에 사용되는 로봇, 머신비전등에 인공지능을 이용한 공장 자동화, 영상분석을 통한 상업적 이용, 레벨 6의 완벽한 자율주행에 대한 도전, 사용자들의 ID를 만들 때 사용한 개인정보와 클릭을 통한 데이터를 통해 검색할 때 나타나는 맞춤형 광고까지 다양한다. 그런데 이 모든 데이터를 묶어 거대한 인공지능을 경쟁자를 제거하거나 피해를 주기 위해 사용한다면 어떻게 될까? 결국 인공지능의 시대에 인간은 무엇을 해야 할까로 귀결된다.

 세상은 이런 인공지능의 발전과 더불어 네트워크란 데이터의 보호를 위한 정보보안에 힘을 기울인다. 동시에 개인정보보호와 사생활 보호란 이름으로 데이터의 접근성을 제약하는 활동이 병행되고 있다. 창과 방패의 의견이 동시에 존재한다는 말이다. 

 인간의 오류 외에도 인공지능의 의사결정을 우리는 이해하지 못한다. 수학적 모델로 엄청난 대량의 데이터를 인간보다 빠르게 계산한다. 알파고에서 보듯, 인간은 이해하지 못하지만 정밀하게 목표를 달성한다. CHAT-GPT가 거짓말을 하듯, 그것이 거짓말을 하고 있다는 것은 또 어떻게 알아내야 할 것인가? 인공지능을 인공지능하는 수단이 필요할까? 이것이 자물쇠 만들고 열쇠에 다시 자물쇠 다는 일을 영원히 반복하는 무식한 과제가 될지도 모르겠다.

 이런 문제를 회피하는 방법은 No Network Life를 구현하면 된다. 단지 그렇게 살기 어렵다는 심각한 문제에 직면할 뿐이다. 동시에 인공지능이 고도로 발전된 사회가 된다면 세상은 유토피아가 될 것인가? 개인적으로 기계의 문제가 아니라 인간의 문제로 디스토피아가 될 개연성이 높아진다. 당장 쿠팡의 물류센터 고용광고(유튜브에 자주 보여서 ㅎㅎ)가 당장 개인에게 도움이 되지만 결국 기계를 돕고, 돕는 과정의 데이터를 제공하는 일이기도 하다. 이 일을 물류 로봇이 대체한다면 이 인간은 누가 구제할 것인가? 국가가 기업에 세금을 거둬 만백성을 먹여 살린다는 생각은 아무 말이나 다름없다. 그런 인간이 국가를 운영한 사례가 있는가? 독점기업들과 국가 그리고 많은 거지들이 사는 세상이 된다면 터미네이터의 세상이 되지 않을까? 너무 비관적인가? 이런 상상을 해보는 것은 그래야 또 인공지능의 긍정과 비교하며 또 좋은 방법을 찾아볼 수 있다고 생각하기 때문이다.

 스마트폰의 설계, 제조과정에 인공지능을 활용하고 애플, 삼성, 화웨이 중에 고도의 인공지능을 구현한 최후의 승자가 시장을 석권한다면 이런 과정이 경쟁이 아니라 절대적 군림이 되지 않을까? 한 번 앞선 기계를 따라잡기가 불가능하다. 물론 양자컴퓨팅으로 해결할 수 있을지도 모르겠다. 동시에 기계도 한 번 학습된 것은 제거하기 힘들다. 그럼 다시 해야 하나? 도쿄전력의 전례만 봐도 인간은 거짓말과 책임질 일이 생기면 거짓말을 하거나 묵비권을 행사한다.

 미국이 발 빠르게 중국을 가능한 모든 방법을 통해서 두드리는 이유도 승패가 나뉘는 절대적인 게임 때문이란 생각이다. 내가 군림학 위한 인공지능의 세상이 행복한 세상이란 마음이 없다면 거짓말 아닌가? 경제문제로 보면 지위의 세습과 고착화가 강해질 수 있고, 사다리를 기어 올라가는 일은 어려워질 수 있다고 생각한다. 금융투자에서 내가 갖고 있는 인공지능이 다른 어떤 시스템보다 0.01초 빠르게 움직인다면 부의 축적 속도는 100:0에 가까운 결과가 될 수 있다. 전쟁은 말할 필요도 없다. 미사일을 0.01초 먼저 막을 수 있다면 손오공과 싸우는 부처님 손바닥을 갖은것과 다르지 않기 때문이다. 

 이런 시대의 변화 속에 문화적 성장과 시대의 철학이 크게 변화해야 한다. 그래야 이에 발맞춰 제도와 법률도 인간을 위해서 조금씩 바뀌어 가기 때문이다. 어려움이라면 막강한 수단을 쥐면 인간은 만만한 녀석들 버르장머리를 고치겠다고 쌈박질을 한다는 딜레마가 책의 긍정과 부정을 보면 머리가 명쾌하지 않다. 아이고!

#인공지능 #미래 #기술발전 #문제 #독서 #khori

1장 황금 코끼리
미래의 보험사는 고객에게는 건강과 알뜰한 경제생활을 제공하지만 인간의 평등이나 인도주의적인 측면에서 부정적인 영향도 있다.
딥러닝은 데이타에 의존하는 경향이 있으므로 치우치지 않은 기반 데이터도 중요하고 
AI가 내리는 결정에 대해 부정적인 영향을 막으려면 해당 알고리즘에 대한 충분한 설명이 있어야 하며 감시할 수 있는 법안도 만들어져야 함.

2장 가면뒤의 신
GAN기술을 통해 페이크영상을 만들 수 있으며 진위여부를 검사하는 안티페이크소프트도 만들 수 있는데 페이크 영상과 경쟁해서 사양이 우수한 쪽이 우위를 차지하는 특징이 있다. 
페이크영상을 근본적으로 막으려면 장기적으로 블록체인 기술을 활용한 기술이 필요하며 단기적으로 새로운 기술이 나와야 한다.

3장 쌍둥이참새
자연어처리로 인해 24시간 365일 맞춤형 인공지능 1인 교사가 등장하여 교육평등이 이루어질 것으로 예측. 기존 교사들의 역할은 학생의 비판적 사고 창의성을 키워주고 인공지능 프로그래밍의 아이디어를 제공하게됨으로 공존. 특이점이 2041에 올 것인가에 대한 얘기도 다루고 있으나 필자는 60년동안 겨우 딥러닝만 두각을 보였기 때문에 
인공지능이 10여개의 기술은 아예 시작도 안했으므로 불가능하다는 판단이다.

4장 접촉없는 사랑
영상의학을 비롯해 신약 및 백신개발 기술에도 AI가 압도적 두각을 보이며 점차 정밀의학분야라고 불리우는 맞춤형 1:1 의사 역할이 기대되고 있다
로봇은 AI에 비해 기술의 복잡성으로 인해 발전 속도가 더디지만 점차 점유율을 높여갈 것이며 결국 인간의 일자리를 상당부분 대체하게 될 것이다.

5장 유령이 된 아이돌 스타
XR, 확장현실(VR,AR은 게임에 활용도가 높을 뿐 아니라 HMD 혹은 미래의 XR렌즈를 통해  경험이 가능하고 인간의 오감을 모두 느낄 수 있는 기술도 기대가 된다.
하지만 홀로그램이나 BCI(뇌를 통해 입력받는 기술)은 지지부진할 것이다. 
맞춤형 서비스를 통해 개개인의 정보가 많이 노출되는 만큼 보안이 중요하며 법적인 규제도 필요하고 장기적으로 여러 해법을 도출해야 할 것이다.
인공지능과 확장현실은 인간의 꿈을 완성하고 경험의 가능성을 확장할 것이다. 

6장 거룩한 드라이버
5단계 완전 자율주행차 개발은 AI의 매우 복잡한 의사결정이 필요하며 방대한 학습 데이터를 바탕으로 해야하는 기술적인 난제가 있다.
하지만 스마트 도로와 같은 상호보완적인 인프라를 도입한다면  그 도입 시기를 앞당기는 것도 가능하다. 테슬라가 추구하는 방향과 같이 실지로 자율주행차를 선도입 후 문제점을 고쳐나가는 것도 빠른 기술 발전을 향한 방법이지만 인간의 목숨과 연관되어있는 문제이기 때문에 사고발생시 책임소재가 분명한 생태계가 조성되어야 한다.
이에 대한 문제에 대한 인식을 제고하고 토론을 장려하고 해결책에 도달해야한다.

7장 양자 대학살
양자컴퓨팅은 기존 수퍼컴퓨터보다 100만배 이상 빠르며 상용화할 수 있는 성능의(4,000개의 논리적 큐비트와 물리적 큐비트 100만개 이상 탑재한) 양자컴퓨터가 2041년 안에 탄생할 가능성이 80%라고 생각한다.
양자컴퓨터는 비트코인 등의 암호화에 쓰인 rsa 공개키 암호를 10분안에 풀 수 있는 성능이다. 따라서 앞으로는 절대 풀 수 없는 양자저항 암호화 기술이 필요하다.
자율무기를 잘 활용하게 되면 전쟁 시 인명피해를 줄일 수있지만 악용하게 되면 테러 및 특정인물 암살용으로 쓰일 수 있다. 자율무기 확산에 따른 인류의 파멸을 막기위해서는 다양한 해법마련에 진지하고 신속하게 대처해야 한다.

8장 구원자 이야기
비접촉적이고 반복적인 업무일수록 인공지능에 의해 대체될 것이고 상대적으로 사회적이고 창의력 및 정밀한 수작업이 필요한 직업이 영향이 적다.
정부 입장에서 인공지능에 따른 일자리 퇴출에 대한 해법으로 국민들의 기본소득제가 단기적인 처방일 수는 있다. 
인공지능이 취약한 분야인 창의력,공감,수작업이 있고 요양보호사,의료보조인의 수요가 늘어날 것이고   인공지능 엔지니어 로봇 정비사의 직업이 새로 생긴다.
의사와 교사는 인공지능과 병립할 것이다.  3R 재교육,재조정, 르네상스를  통한 직업세계의 판도가 많이 바뀔 것이다.
인공지능으로 인한 직업 변화를 비관적으로만 볼 수는 없고 일상적이고 반복적인 일에서 해방시킬 수 있어서 인간을 인간답게 만들 수 있는 장점도 있다.

9장 행복의 섬
AI가 인간에게 편리함을 넣어서 행복을 가져다 줄 수 있는가
행복의 가치는 주관적이고 시대에 따라 변할 수 있기 때문에 구현이 어렵다. 하지만 2041년에 적어도 프로토타입은 나올 것이다.
이것이 가능하려면 개인 데이터의 공유가 중요한데 개인의 데이터를 저장해야 할 주체가 이윤을 추구하는 기업보다는 비영리적인 공동체에 의해 관리되어야 사용자 개개인에게 만족감을 줄 것이다.
가장 이상적인 견해로는 1. 자애로운 통치자와 같은 사람의 주도하는 환경 2. 오픈소스 코믠 3. 분산형 블록체인 시스템과 같은 신기술의 발전도 필요하다.

10장 풍요를 꿈꾸며
거의 무상인 에너지, 비싸지 않은 소재, 인공지능에 의한 자동화 생산 덕분에 풍요를 맞이하게 될 것이다.
화폐는 기본화폐와 사회보상적인 화폐가 발생될 것이라 예측하지만 세세한 부분에서는 필자의 주관적 견해가 많다.
싱귤래리티 즉 특이점은 2040년안에는 오지 않는다고 생각한다. 왜냐면 AI분야에서의 가장 큰 혁신이라 할 수 있는 딥러닝과 같이 비약적인 기술이 10여회는 있어야하는데 그런일이 20년 안에는 발생하기 힘들다.
인공지능과 인간사이의 균형을 잡을 수 있다면 인류역사에서 의심할 나위 없이 가장 위대한 업적이 될 것이다.

소설의 형태로 상황을 설정하고 AI관련 지식을 전달하는 구성이 너무 좋습니다.

마치 10편의 AI 단편영화를 보는거 같아요.

인공과 자연,  개인정보의 보호와 활용, 해킹과 방어, 편리함과 실직 ..

요즘 chatGPT 유료버젼을 쓰면서 

10년전 상상했던 검색결과중 딱 맞는 정답?을 누가 하나로 알려주면 안되나? 했던

것이 현실이 된것을 느끼면서 너무 큰 감동을 받았었습니다.

하지만 이책을 읽으면서( 아니 영화를 보면서 )

AI가 가져다 줄 미래에 대한 희망과 공포를 생생하게 느끼게 되네요.

강력 추천해요..

한빛비즈 출판사에서 출간된 리카이푸,천치우판 작가님의 ＜AI 2041＞이라는 책을 읽고 작성하는 리뷰입니다. 최근 인공지능에 관심이 생겨서 관련된 책을 찾아보다가 제목이 흥미로워서 구매하게 된 책입니다. 10개의 결정적 장면으로 읽는 인공지능과 인류의 미래에 대해 이야기 하고 있는데, 인공지능이 가져올 미래 시나리오에 대한 이야기이기 때문에 과연 정말로 그렇게 될지 아닐지 아직은 알 수 없지만 흥미로운 관점이었습니다. 특히 딥페이크에 관심이 많아서 2장 가면 뒤의 신을 가장 흥미롭게 읽었습니다.