인공지능에 뭔가 커다란 전환점이 온 것은 분명한 거 같다. 내가 자세히는 모르겠지만, 알파고가 이세돌을 이긴 시점인 2016년은 AI기술에 있어 너무도 중요한-그 내막은 알지 못하지만, 상징적으로 대중에 AI기술의 진보를 알리는 너무도 중요한 사건으로 생각된다.-전환점임에 분명한 거 같다. 딥러닝이라는 개념을 대중에게 알려준 일대 사건.

그로부터 7년이 지난시점 이제 대중은 구글 등과 같은 IT기업들의 인공지능에 열광하고 있는 듯 하다. 그 핵심의 사건이 바로 챗GPT. OPEnAI란 회사에서 만들어낸(?) 대화형 인공지능에 전세계가 열광하고 있는 것 같다. 만들어낸 답변도 상당히 그럴싸한 거 같고, 벌써 챗GPT가 만들어낸 결과물이 일으킬 파장도 우려하는 거 같고, 내년 미대선에서 어떤 악영향이 미칠 수 있지 않을까 하는 생각도 할 정도 인 듯 하다. 이시점에서 저자의 ‘AI강의‘는 이런 우려를 통찰하여 인공지능의 현재와 우려를 간략하게 설명하고 있는 듯 하다.

여느 전문가들과 같이 저자의 우려는 인간이 모른다는 것이다. 어떤 상황이나, 조건 등을 통제가능하게 하려면 그 상황이나, 조건을 충분히 알아야 한다. 현 정부가 반복해서 재앙의 통제에 실패하는 이유는 기 상황을 충분히 알지 못하기 때문임이 분명하다. AI기술에도 마찬가지일 것이다. 저자는 분명히 인류가 AI기술에 대하여 충분히 알지 못하고 있는 상황에서 뭔가 비약적 발전이 발생했는데, 그것에 대해 우려하는 것으로 보인다. 인류의 통제를 벗어난 AI가 스스로 어떤 비약적 발전을 거듭한다는 것이 마냥 인류에게 유리한 방향으로 작용할 것인지에 대한 근본적 의문이 이 책을 저술하게 한 원동력이 된 거 같다.

“우리 후손들은 우리가 아직 잘 이해하지 못하는 어떤 끔찍한 일을 했다는 것을 알게 될 것입니다. 현재 세대의 AI 도구가 아직은 그렇게 무섭지 않지만, 잠재적으로 무서운 도구에서 그리 멀지 않았다고 생각합니다. 인공지능 도구의 사회 통합이 빠르게 이루어질 것이며, 세상이 적응할 시간이 필요합니다. 인공일반지능이 만약에 고장 나면 무엇인가 다른 조치가 필요할 수 있습니다. 이 때문에 특정 회사가 이런 AI를 소유해서는 안 됩니다.”

OPENAI CEO 샘 알트먼이 한 얘기라고 합니다. 책에도 정리되어 있다. 그는 챗GPT를 만들어낸 회사의 대표이다. 시사하는 바가 아주 큰 발언이다. 그의 전문가적 위치보다 그가 바로 자신의 회사가 만들어낸 챗GPT에 대한 언급이기 때문이다. 그의 회사도 챗GPT의 특이점에 대해서는 파악하지 못하고 있기 때문일지도 모른다. 아마 확실할 것이다.

이미 화살은 시위를 떠났다고 보는 것 맞을 거 같다. 인류의 탐욕이 만들어낸 여러 가지 것들과 동일한 궤적을 그릴 것으로 생각된다. 다만 기존의 전개와 다른 상황이 발생할 가능성이 높아 보인다. 기존의 기술은 인류가 어느정도 통제했지만,-물론 통제가 벗어나기도 했지만, 그것은 통제를 벗어난 인류의 행동결과일 뿐이지 기술 그 자체가 통제를 벗어난 것은 아니다.-인공지능은 다르다. 자기 학습이 있어 스스로 진화할 것이 분명해 보이기 때문이다. 그리고 그 진화는 인류의 사고를 넘어서는 결과를 만들어낼 것이 분명해 보인다. 화살은 인류가 발사했지만, 결국 화살이 총알이 되고, 결국 핵탄두가 될지도 모를 상황은 화살 스스로 결정해 만들어 낼 가능성이 높아 보인다. 유발 하라리가 호모 데우스란 책에서 인간이 결국 신적 존재로 진화할 것이라고 예상했는데, 그가 그렸던 그 미래가 과연 이런 모습일까 

난 인류 멸종의 예상 원인을 하나 더 추가했다. 환경(범위가 너무 넓다, 폐기물, 온실가스, 식량 문제 등도 모두 환경에 포함시키는 것이 맞을 듯), 군비경쟁(핵, 전쟁 등을 포함), 정신나간 인간(트럼프 같은 정신나간 지도자) 등이 주요 범주 였는데, 인공지능이 이 책을 읽고 포함되었다.