챗GPT의 충격이 전 세계를 휩쓸고 있다. 빌 게이츠와 같이 평생 컴퓨터 산업에 몸담아온 인물뿐만 아니라 인공지능 연구자, 개발자들을 넘어서 일반 대중에게도 큰 관심을 불러들이고 있다. 최근 딥러닝의 창시자 중 한 명인 제프리 힌튼 토론토 대학 교수 또한 10여 년 재직한 구글을 떠나면서 인공지능 기술을 향해 우려의 목소리를 내기도 했다. 인공지능 기술의 위험성을 말하며 일평생 해오던 인공지능 연구를 후회한다고 밝힌 것이다. 2016년 구글 딥마인드 사에서 개발한 알파고도 이세돌 9단을 4 대 1로 비교적 손쉽게 이기면서 한국 사회에 큰 충격을 던졌지만 챗GPT에 비하면 그 파급력은 제한적이었다. 알파고의 혁신도 눈부셨지만 어디까지나 바둑에만 특화된 인공지능이었으므로 일반 대중의 실제 삶까지 변화시키지 못했다. 하지만 챗GPT는 다르다. 챗GPT는 우리 모두가 인공지능 기술을 바라보는 태도를 근본적으로 변화시켰다.
---「추천 서문」중에서

마법처럼 강력한 기술을 누구나 자유로이 쓸 수 있는 환경에서 중요한 것은 그 힘을 어디에, 무엇을 위해 사용해야 하는가의 문제이다. 누구나 자신에게 가장 소중한 것에, 자신이 가장 욕망하는 것에 강력한 도구를 활용하게 될 것이기 때문이다. 생성형 인공지능이 생산성 향상과 창의적 도구로 쓰이는 사례만큼이나 어뷰징과 사기, 범죄와 혼란에 동원되는 경우가 늘어날 수밖에 없다. 인터넷과 소셜미디어 누구나 욕망을 이루기 위해 가장 강력한 도구를 동원할 수 있는 상황이 된 만큼 개인적·사회적 차원에서 어떠한 조정 원칙과 통제 체계를 마련해야 하는지가 핵심 과제가 된다.
---「2장 (40쪽)」중에서

어느 쪽으로 챗GPT를 포함한 대화형 인공지능이 발전하더라도 그 방향이 단순히 기술을 개발하거나 이와 관련된 이익을 누리는 사람들에 의해 결정되는 것은 곤란하다. 대화형 인공지능이 의료에 더 많이 개입하면 할수록, 지금과는 의료 환경이 달라질 수밖에 없다. 지금까지는 새로운 의료 기술이 도입될 때 대중 참여public engagement와 숙의deliberation 과정이 크게 활성화되지 못했다. 현재 의료에 도입된 인공지능 역시 많은 사람들은 그 사정을 자세히 알지 못한다. 그러나 챗GPT 등 대화형 인공지능과 같이 의료의 지평을 바꾸는 기술이 도입될 때는 이와 관련된 이해 당사자들이 모두 참여할 수 있는 논의의 장이 마련되어야 한다. 챗GPT가 의료에 도입되려면 대중 참여가 꼭 필요할까? 이 질문에 대해 챗GPT는 답한다. 필수는 아니지만 윤리적인 문제를 짚어보고 신뢰를 쌓아 공정하게 적용하는 데 도움이 될 것이라고.
---「3장 (53쪽)」중에서

지금은 생성형 인공지능의 발전으로 상황이 달라졌다. 이제 인공지능은 논리적이고 완결성 있는 글쓰기를 할 수 있다는 점에서 기자를 대체할 수 있을 가능성을 보여준다. 미국의 IT 매체인 《시넷》은 2022년 11월부터 금융 서비스에 관해 인공지능이 작성한 기사를 77건 냈다. 인공지능이 기사 초고를 쓰면 사람이 보완해 출고하는 방식이었다고 한다. 조나 페레티Jonah Peretti 버즈피드BuzzFeed 최고경영자는 2023년 초 직원들에게 보낸 서한을 통해 “인공지능이 앞으로 버즈피드의 편집과 경영에 있어 더 큰 역할을 할 것”이라며 “15년 뒤에는 인공지능이 콘텐츠 자체를 만들게 될 것”이라고 전망했다.
---「4장 (60쪽)」중에서

콘텐츠 수출에도 유리하다. 번역 지능을 활용하면, 현재 출판산업의 한 특징인 지역적, 언어적 장벽은 사실상 무너진다. 책의 번역본을 빠르게 다른 언어로 생성해 전 세계 독자에게 제공할 수 있기 때문이다. 이는 펭귄랜덤하우스, 하퍼콜린스 같은 슈퍼 자이언트 출판사들의 세계 시장 지배력을 높이고, 이와 제휴하는 번역 출판의 급격한 쇠퇴를 가져온다. 번역지능과 출판의 만남은 동시에 소수자 출판을 융성하게 한다. 고유한 내용과 독특한 개성을 확보하는 한, 어떤 책도 다국어 번역을 이용해서 만족할 만한 독자를 찾을 수 있다. 전 세계 인구를 독자로 상정하면, 극히 좁은 관심사를 다룬 콘텐츠라도 충분한 숫자의 독자가 있을 가망이 높은 까닭이다. 케빈 켈리가 초연결 시대를 ‘비非베스트셀러의 시대’라고 부르는 이유다. 번역지능과 출판의 만남은 더 다양하고 더 다채로운 콘텐츠의 풍요를 가져온다.
---「5장 (77쪽)」중에서

챗GPT를 써보면 그 생산성에 감탄하기도 하지만 한계를 쉽게 알아차릴 수 있다. 이 챗봇에서 나오는 반응은 유창한 문장이라도 사실이 아닌 것이 많다. 전혀 사실이 아닌 역사적 인물의 이름과 존재하지 않는 사실을 만들어내기도 하고, 수학 문제는 해결하지 못하는 것도 곧 눈치챌 수 있다. 하지만 모든 주제에서 유연하고 순조로운 대화가 가능하다는 것은 그 내용의 참과 거짓을 혼동시키는 환각적인 결과를 만들 수 있다. 결국은 기술 자체의 문제가 아니라 기술에 반응하는 사람의 문제인 것이다. 에밀리 벤더는 단어의 형태와 의미를 혼동하지 말라고 이렇게 역설한다.
---「6장 (96쪽)」중에서

우리는 대부분의 시간을 콘텐츠를 가장한 광고, 혐오 선동, 포르노 등 온갖 주목 경쟁에 ‘낚이는hooked’ 데 보낸다. 그나마 어떤 주제를 직접 고민하고 스스로 공부하던 우리의 짧은 시간마저 인공지능에 몽땅 넘겨버리고 나면, ‘깊이 배우는deep learning’ 유일한 존재는 기계가 될지 모른다. 그게 바로 정치의 종말이고 인간이라는 종의 마지막 모습일 것이다. 그런데 과연 그게 그렇게 나쁜 일일까? 과연 우리는 인공지능, 알고리즘의 예속에서 해방되거나 저항하고 싶은가? 어쩌면우리는 겉으로는 인공지능이 인간을 지배하는 미래를 걱정하는 척하지만 실은 그저 인공지능이 시키는 대로 살아가길 욕망하는 건 아닐까? 영화 〈매트릭스〉에서 매트릭스로부터의 해방을 설파하는 주인공들에게 “위험한 매트릭스 밖 현실이 아니라 안온하게 쾌락을 즐길 수 있는 매트릭스 안이 더 이득”이라고 반박한 사이퍼처럼 말이다.
---「7장 생각을 포기한 사람들과 챗GPT _ 121쪽」중에서

실제 챗GPT는 창의적인 가설을 제공하는 데는 부족함이 있다. 아직 원론적 수준 이상의 답변을 기대하기 힘들 정도로 전문성이 부족하고, 심지어 잘못된 정보나 엉뚱한 답변을 내놓을 때도 많다. 챗GPT가 필자를 전문가인지 아닌지 확인해보려고 일부러 저런 대답을 하는 것이 아닐까라는 생각이 들 정도이다. 따라서 챗GPT를 생산적으로 이용하려면 과학적 사고와 태도를 바탕으로 허위와 위선에 관대해지는 탈진실의 정서를 매우 경계할 수 있어야 한다. 또한 우리 스스로가 정보나 지식 판단의 주체로서 대안적 사실로 둔갑한 가짜 정보에 이끌리지 않아야 한다. 챗GPT가 제공하는 정보나 지식에 비판적 자세를 유지하는 것이 무엇보다도 중요한 이유 중 하나는 오류에 취약한 우리의 사고 체계에서 찾을 수 있다. 인지심리학자 대니얼 카너먼Daniel Kahneman이 지적한 바 있듯 우리는 대개 시간이 들고 인지적 노력을 많이 기울여야 하는 논리적 사고보다 빠르고 노력이 크게 필요하지 않는 직관적 사고에 우선적으로 의존한다. 이러한 비합리적인 사고 체계로 인해 체계적으로 편향이 발생할 위험이 크다. 따라서 신중하고 합리적인 사고 능력을 함양시키지 않으면 챗GPT가 우리의 사고 편향을 더욱 증폭시킬 수 있다. 이는 과학적 소양과 문화가 더욱 강조될 수밖에 없는 이유이다.
---「8장 챗GPT는 과학자를 대체할 수 있을까? _ 133쪽」중에서

인공지능은 시민에게 양날의 칼이다. 잘 활용하면 시민이 직접 고도의 정책 제안을 할 수 있다. 국회의원이나 공무원의 도움을 받지 않고도, 챗GPT와 대화하면서 좋은 정책을 만들어 제안할 수도 있다. 일반 시민 개인도 특정 사안에 대해 논리를 잘 만들어 전문가들과 치열하게 논쟁할 수 있다. 시민이 정책에 직접 의견을 내고 토론하며 의사결정을 하는, 직접민주주의가 강화될 수 있다. 하지만 거꾸로 권력이 시민에 대해 고도의 감시를 하게 될 수도 있다. 초거대 인공지능 모델을 소유한 인공지능 플랫폼 기업이 우리의 가치를 지배하게 될 수도 있다. 독점 이익이 더욱 커지면서 불평등이 확대될 수도 있다. 결국 시민사회와 정치가 대응하기 나름이다. 모든 시민이 인공지능을 활용해 각자 자신의 가치를 지닌 1인 NGO를 만들어 활동하는 사회가 될 수도, 정부와 거대 기업이 인공지능을 활용해 모든 시민의 일거수일투족을 감시하고 통제하는 사회가 올 수도 있다.
---「9장 딸기를 모르는 챗GPT와 시민사회 151쪽」중에서

컴퓨터과학자이자 몬트리올대학교 교수로 인공지능의 대부에게 수여하는 튜링상을 수상한 몬트리올학습알고리즘연구소 MILA의 소장인 요슈아 벤지오는 다음과 같이 말했다. 우리는 특히 사회과학과 인문학 분야의 연구자들의 노력을 자극해야 합니다. 왜냐하면 이 솔루션에는 기술적, 계산적 측면뿐만 아니라 특히 사회적, 인간적 고려 사항이 포함되기 때문입니다. (2023년 4월 5일) 나는 벤지오의 말을 이렇게 해석한다. ‘챗GPT가 인간을 모방하는 것이 목표라면, 먼저 속도를 늦추고 틀릴 것을 예상하는 법을 배워야 한다.’
---「10장 챗GPT가 메타인지를 시작하면 우리는 어떻게 될까? 163쪽」중에서

리터러시는 문자화된 기록을 통해 지식과 정보를 획득하고 이해할 수 있는 능력을 말한다. 그러나 유네스코는 현대 사회에서의 리터러시는 텍스트로 매개되는 디지털 세상을 이해하고 해석하며 의사소통할 수 있는 수단이라고 정리한다. 리터러시 의미가 이렇게 확장되는 배경에는 애초에 리터러시 교육을 시작한 중요 목적이 사회로부터 소외되지 않고 평등한 지위를 획득하기 위한 정보 접근성을 높이는 데 있었기 때문이다. (중략) 마찬가지로 현대 사회를 변화시키고 있는 인공지능에 대한 이해(이 이해는 기술적인 것뿐 아니라 사회에 미치는 영향까지 전반적인 이해를 의미한다), 구체적으로 챗GPT의 원리와 문제에 대한 이해는 이 사회의 중요 기술을 더 잘 활용하고 그것이 일으킬지 모를 문제로부터 자신을 보호하는 데 바탕이 된다.
---「11장 우리에게는 AI리터러시가 필요하다 178쪽」중에서

그래서 의미를 이해했느냐 혹은 생각하고 있느냐라는 주제는 항상 논쟁거리가 될 수밖에 없다. 챗GPT의 등장, 혹은 딥플이나 구글 번역 혹은 파파고Papago의 등장은 이런 질문, 즉 인간이란 무엇인가, 인간이 생각하고 이해한다는 것은 무엇인가라는 질문을 계속 묻게끔 하는 철학적인 상황을 불러온다. (중략) 이러한 문제의식 없이, 표절을 하거나 남의 답안지를 베껴서 좋은 학점을 받게 되는 것이 큰 문제라는 식으로 논점을 좁힌다는 데서 불만이 생기는 것이다. 물론 윤리도 중요하다. 하지만 더 큰 쟁점이 있다. 이 지점에서 진짜로 물어야 할 것은 결국 대학에서 배워야 하는 능력이라는 게 무엇이냐일 것이다. 교수들이 이 능력을 키워주는 문제에 대해 별 고민도 하지 않고 딱히 대안도 없다면, 도대체 대학의 존재의 의미는 무엇이고, 나아가 교육의 의미는 무엇인지 물어야 할 것이다.