이 책은 다양한 분야에서 챗GPT의 활용과 한계에 대해 종합적으로 알아 볼 수 있는 책입니다.  2022년 12월 챗GPT 서비스가 공개된 후 법률, 의료, 출판, 신문사 등 여러 분야에서 챗GPT를 활용하여 사람을 대신하기도 하고 창의적인 컨텐츠를 만들어 사람들을 놀라게 하고 있습니다.

발빠르게 출시된 챗GPT책들이 챗GPT에게 잘 명령 내리는법(프롬프트 엔지니어링)과 활용 예시를 주로 다뤘다면 이 책은 각 분야의 교수, 전문가 들이 직접  챗GPT 이후의 세상에 대해 이야기 하고 있습니다. 

누구나 한 번쯤 생각해본 '챗GPT가 기자를 대체할 수 있을까?라는 질문에 대해 '미디어 오늘'의 금준경 팀장님은 이렇게 답합니다. "산불이나 스포츠 처럼 현장의 소리를 빠르게 전달하거나 오랫동안 취재를 통해 새로운 사실을 유추하는 탐사 보도는 챗GPT가 못하는 분야 입니다." 물론 날씨나 주식시황을 기계적으로 표현하는 것은 챗GPT가 잘 하는 분야긴 합니다.

의료분야에 대해서도 그 동안 쌓은 데이터를 기반으로 새로운 정보를 예측하는 일은 가능할 수 있겠지만 사람의 목숨이 걸린 진료/진단의 영역에서 챗GPT를 사용하는데는 시간이 걸릴 것이라 합니다. 

이처럼 다양한 분야의 전문가 들에게 듣는 챗GPT이야기를 들으면서 나의 업무, 미래의 삶과 관련 지어 생각해보기도 하고 새로운 아이디어를 얻는데 도움이 되었습니다. 

책을 읽으면서 더 깊은 내용으로 저자들과 얘기해 보면 좋겠다는 생각이 들었는데요.  챗GPT가 나와 사회에 미치는 영향을 종합적으로 알아볼 수 있는 점에 대해 이 책을 추천합니다.

YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다

YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다

챗GPT라는 생성형 인공지능을 잘 활용해야 할 때가 왔다. 쉽게 챗GPT와 대화를 통해 원하는 정보를 얻을 수 있지만, 그 정보의 정확성은 사용자 스스로가 확인해야 한다. 챗GPT가 제공하는 정보를 아직은 그대로 믿어서는 안 된다. 필요한 정보를 얻기 위해서는 챗GPT가 잘 알아들을 수 있는 질문을 해야 한다. 어떤 질문을 하느냐에 따라 얻는 정보의 차이는 크다.

챗GPT를 둘러싼 흥미로운 점은 누군가 자신이 잘 아는 분야에 대해서는 챗GPT의 성능을 무시하고, 자신이 잘 모르는 분야에 대해서는 엄청나다고 칭찬하는 경우가 많다는 것이다. 즉, ‘평균적인’ 수준의 문장을 번역하거나 정보를 생성하는 일에는 별 문제를 제기하지 않지만, 평균에서 벗어나 있는 ‘변칙’에 대해서는 챗GPT가 뛰어나지 않다고 지적하는 것이다.

따라서 평균적으로 습득해 놓은 지식과 지혜, 즉 우리의 유산을 넘어선 엉뚱하고, 창의적이거나 창조적인 활동을 하는 것이 인간의 가장 중요한 특징인 것이다. 그것이 지금의 챗GPT와 인간이 다른 점이고 달라야 하는 점이 아닐까 한다.

챗GPT를 통해 답을 얻었다 할지라도 여과 없이 그대로 쓸 것이 아니라 자신의 판단과 경험을 통해 다시 다듬어서 사용해야 할 것이다. 챗GPT에 대한 새롭게 제기되는 문제점들도 깊이 있게 들여다 보고, 활용은 하되, 피해는 줄이도록 노력해야 할 것이다.

챗GPT..

초저학년 아이가 보는 어린이과학잡지에 챗GPT 내용이 나와서 급관심을 가지고 보게 되었다..

하지만 챗GPT가 무엇이다정도의 내용만 파악될뿐..

앞으로 내가.. 아이와 우리가.. 어떻게 적응하고 받아들여야할지에 대해서는 판단이 잘 되지 않았다.

하지만 나도 이제.. 인공지능과 현명하게 공존해야 하기에 진지하게 알아보고자 한다..

포스트 챗GPT ＜폭주하는 AI가 뒤흔든 인간의 자리 ＞

제목이 너무나 적절하다..

폭주라니!!!

포스트 챗GPT는 고삐 풀린 기술을 직시하는 전문가 15인의 시대진단 이라고 소개되고 있다

전문가15인의 글 속에서 

교육, 의료, 비즈니스 등 여러분야에서 활용되는 챗GPT를 살펴볼 수 있으며

과학계, 교육계, 출판계 등의  입장을 살펴볼 수 있었다

잠깐 목록과 함께 주요 내용을 보자면 다음과 같다.

1장 오픈에이아이와 챗GPT로 본 테크 산업 _ 박상현 (테크산업)
“지금 인공지능은, 실리콘밸리 벤처자본의 귀를 쫑긋하게 만든다.”

2장 역사상 가장 빨리 보급된 기술, 챗GPT _ 구본권 (기술비평)
“기술의 힘을 어디에, 무엇을 위해 사용해야 하는가”

P36. 챗GPT는 마치 인터넷 검색처럼 전에 없이 강력하고 편리한 도구가 우리 손에 주어졌다는 것을 의미한다. 도구 사용 능력을 배우는 것 못지 않게 그 도구를 어떤 영역에서 어떤 목적에 이용할지가 중요해지게 된다. 

P41. 개인적, 사회적 차원에서 어떠한 조정 원칙과 통제 체계를 마련해야 하는지가 핵심 과제가 된다.

3장 의료 현장의 챗GPT 지각변동 _ 조동현 (의료)
“단순 업무가 줄어들면, 의사와 환자의 관계는 개선될까?”

P55. 결국 새로운 기술이 도입되어도 의료에 있어 그 환경을 바꾸는 것은 사람이다. 그래야만 한다

4장 챗GPT는 기자가 될 수 있을까? _ 금준경 (언론)
“저널리즘의 가치를 구현하는 심층 보도와 받아쓰기, 수익성 기사 사이에서”

5장 챗GPT, 인공지능 시대의 출판 _ 장은수 (출판)
“콘텐츠 생산 구조를 깨트리는 인공지능과 편집의 창조성.”

P87. 인공지능을 창조적으로 만드는 것은 오직 인간뿐이다.

6장 챗GPT와 인공지능 연구의 흐름 _ 한소원 (심리학)
“문제는 기술이 아니라, 기술에 반응하는 인간이다”

P102~103 인공지능은 가짜 정보를 만들어내고 계속해서 그것이 사실이라 주장하기도 한다.(중략) 인공지능 산업이 엄청난 자본과 노동력을  쓸 뿐 아니라 환경에도 나쁜 영향을 끼치고 있다는 점도 지적할 만한 문제이다(중략) 빈곤과 불공정을 줄이고 더 나은 지구를 만들고 사람들의 삶의 질을 높이기 위해 어떤 노력이 필요한지 논의와 대책이 필요하다.

7장 생각을 포기한 사람들과 챗GPT _ 박권일 (사회비평)
“인공지능 시대의 위험은 우리 내부에 있다.”

8장 챗GPT는 과학자를 대체할 수 있을까? _ 전주홍 (과학)
“문제는 과학 연구의 소통에 끼치는 영향력이다”

P133. 우리 스스로가 정보나 지식판단의 주체로서 대안적 사실로 둔갑한 가짜 정보에 이끌리지 않아야한다. 

P136. 챗GPT와의 협업을 통해 얻을 수 있는 기회와 혜택과 부작용을 고민하면서 미래를 대비해 나가는 것이 더욱 현명하고 책임있는 자세가 아닐까 생각한다.

9장 딸기를 모르는 챗GPT와 거버넌스의 가능성 _ 이원재 (시민사회)
“챗GPT 시대에 어떤 정치, 어떤 시민사회를 선택할 것인가.”

P145. 챗GPT는 사람이못한는 엄청난 일을 해주는 인공지능이 아니다. 꼭 사람처럼 활용할 때 가장 좋은 인공지능이다. 사람처럼 대할 때, 즉 창작과 스토리텔링 등을 주문할 때 가장 큰 가치를 줄 수 있다.

10장 챗GPT가 메타인지를 시작하면 우리는 어떻게 될까? _　리사손　(메타인지)
“슬프게도 우리는 점점 기계를 닮아가고 있다”

11장 우리에게는 AI리터러시가 필요하다 _ 이유미 (AI리터러시)
“챗GPT는 생각하지 마! 발전된 기술이 가져온 프레임을 깨는 법”

12장 인공지능의 법적 인격을 규제할 수 있을까? _ 박도현 (법률)
“챗GPT가 저지를 수 있는 위법의 가능성들에 대하여”

P.198. 촘스키는 챗GPT를 "하이테크 표절"이라고 단언했다. (중략) 인공지능을 통해 보고서를 대충 생성해서 제출하는, 일종의 표절을 하는 상황이 개탄스럽다는 것이었다.

P.202. 인공지능이 만들었든 인간이 만들었뜬, 과거에 만든 것이든 다른 지역에서 온 것이든 생산물을 변별하고 분별하고 감식하는 예술가적 혜안을 기르는 일이 교육에서 목표로 삼아야 할 지향점이 아닐까 한다.

13장 인공지능은 창의적인 소설가가 될 수 있을까? _ 강우규 (글쓰기)
“또 하나의 세계를 완성하는 챗GPT의 글쓰기”

P.214. " 인공지능 챗GPT는 당신의 자리를 대체 하지 않을 것이다. 인공지능 챗GPT를 사용하는 사람이 당신을 대체할 뿐"이라는 문구를 명심하기 바란다.

14장 디지털 네이티브와 챗GPT 교육 _ 최재용 (교육비평)
“교사는 토론을 돕는 코치와 퍼실리테이터로 변화해야 한다.”

15장 챗GPT가 던지는 철학적 물음들 _ 김재인 (철학)
“인간을 인간이게 하는 조건들은 무엇인가?”

함께 공존해야할 챗GPT를 현명하게 사용하기 위해 좋은 질문을 하고 잘못된 정보가 아닌지 다시 한번 확인하며, 모든것을 인공지능에게 맡기는 것이 아닌..

그냥 좋은 도구, 훌륭한 도구임을 명심하고 챗GPT를 만능으로 생각하지 말자는 다짐을 해보았다

다짐은 다짐이지만.. 아직 인공지능과 함께 하기 여전히 두려운..

그래서 오래 읽은 이 책을..  다시 자주 읽을 책으로 생각하며

챗GPT 입문서로 추천해본다.

 -YES24 리뷰어클럽 체험단 자격으로 작성한 리뷰입니다-

챗GPT가 등장하고 반응은 폭발적였다.

기존의 신기록이었던 8-9개월?만에 1억 명이 이용하게된 틱톡을 이기고, 챗GPT가 2달만에 1억 명을 달성했다고 한다. 어제는 챗GPT로 인해 직장을 잃은 사람의 기사를 접했다.

이렇게 빠르게 AI의 시대를 만날 줄은 몰랐다. 나역시 처음엔 거부감이 들었지만 챗GPT를 써봤다. 처음 쓴 대화내역을 보니 웃긴다 ㅎㅎㅎ

막상 써보면 생각보다 훨씬 재미있고 친근하게 느껴진다.

챗GPT에 대해 여러 분야의 전문가들의 견해가 담겨있는 책을 읽고 싶었는데

결론적으로 굉장히 유익했고 재미있었다!

다양한 전문가의 글이 담겨있어서 통일감이 무너지진 않나 싶었는데

출판사의 역량인지 굉장히 톤이 일정하면서도 정말 잘 읽힌다.

내용이 재미없을 내용인데도 - 재미있다!

그렇다고 내용이 가벼운 것도 아닌데 말이다.

이런 전문지식 분야 책들이 괜히 단어도 어렵고 뚝뚝 끊기고 졸리기 쉬운데,

졸린 차 안에서도 안 졸고 잘 읽었다.

넘쳐나는 정보들 사이에서 우리는 주목 경쟁에 빠지게 되었으며

정보를 선택할 수 있자 더 게을러지며 정보 격차는 더욱 커지기 시작한다.

AI의 메타인지와 관련된 부분도 흥미로웠다.

챗GPT를 써보면 알지만

도덕적인 부분이나 차별이나 선입견에 해당되는 부분에는 딱 거절하고 대답을 해주지 않는다.

이것만으로도 기존에 나왔던 많은 AI들과 확고하게 다른 발전된 부분이다.

하지만 그 이상으로 넘어서야하는 메타인지는 되지 않는다고 이야기한다.

실수였다고 인정하고 이를 수정할 수 있는지의 여부가 진정한 테스트가 될거라고 한다.

챗GPT에 대해서 제대로 이해하고 현재의 위치를 파악할 수 있고, 우리가 가져야할 점검 사항들을 알 수 있어서 정말 유익한 도서였다.

진심으로 강력 추천합니다.

- 이 리뷰는 펍스테이션으로부터 도서를 받고 작성되었습니다.

#도서협찬

#포스트챗GPT

#한빛비즈

벌써 7년 전의 일입니다. 2016년 3월, 바둑 인공지능 프로그램 알파고와 이세돌 9단의 대결에서 알파고는 4승 1패로 승리했습니다. 기계는 바둑에서는 절대 인간을 이기지 못할거라는 사람들을 비웃기라도 하듯 알파고는 압도적인 실력을 보여주었습니다.

그 후 한동안 잊혀졌던 인공지능이 2023년 1월 챗GPT로 다시 폭발적인 관심을 받기 시작했습니다. 인공지능의 발전 속도가 너무 빠르다 보니 많은 사람들이 두려움을 갖게 되었습니다. 과연 챗GPT의 발전이 인류에게 긍정적인 영향을 미칠 것인지, 아니면 부정적인 결과를 초래할 것인지에 대한 논쟁이 여전히 진행 중입니다. 이러한 고민과 희망, 우려를 모두 담고 있는 ＜포스트 챗GPT＞라는 책을 읽게 되었습니다.

＜포스트 챗GPT＞라는 책은 의료, 언론, 과학, 법률, 교육 등 각계의 15명의 전문가들이 ‘챗GPT 기술과 이후 급속히 대중화될 인공기술이 초래할 여파에 대해서 깊이 있는 분석을 제공합니다.

지난 10여 년 동안 인공지능 기술이 폭발적으로 발전해 기존의 알파고와 같은 인공지능의 한계를 넘어서 다양한 영역에서의 활용에 큰 기대를 모으고 있습니다. 이 책은 기술의 우려와 기회를 균형있게 제시하며, 읽는 이로 하여금 놀라운 혁신과 부작용의 양면성에 대해 고찰하게 합니다.

생산성 향상과 창의적 도구로서 활용될 수 있는 생성형 인공지능 기술이 어뷰징과 사기, 범죄와 혼란에 이용될 가능성에 경계해야 함을 강조합니다. 여기에 따르면, 대화형 인공지능이 의료와 같은 분야에서 더 깊게 포문을 벌리려면 이해 당사자들이 전체적인 참여를 통해 공정한 방식으로 문제를 조정하고 통제할 필요가 있습니다.

또한, ＜포스트 챗GPT＞는 인공지능의 활용이 기존의 산업 구조 및 일자리에 어떤 영향을 미칠지에 대한 통찰도 제공합니다. 많은 전문가들은 인공지능 기술의 발전이 특정 산업의 직업을 없애고, 다른 산업에서의 새로운 직업의 기회를 창출할 것이라고 전망하고 있습니다. 이러한 변화의 물결에 적응하려면 교육과 평생 학습에 대한 관심을 높여야 함을 강조합니다.

이 책은 인공지능 기술이 번역 지능, 환경 보존 등의 분야에서도 선한 영향력을 발휘할 수 있다는 점을 잘 보여줍니다. 하지만 그와 동시에 이 기술이 가짜 정보나 오류에 악용될 가능성을 우려하며, 이를 방지하기 위한 국제적 협력과 규제에 대한 논의가 필요하다고 말합니다.

＜포스트 챗GPT＞는 현대 사회에서 인공지능이 가져올 수 있는 양날의 칼 같은 특성을 깊이 이해하게 해 주는 동시에, 우리가 어떻게 책임 있는 방식으로 이 기술을 적용해야 하는지에 대한 답도 고민하게 해 주는 책입니다. 이 책을 인공지능 기술의 발전과 관련된 중요한 이슈에 대해 알아보고, 미래 사회에 대비하려는 분들은 꼭 읽어야 할 책으로 추천합니다.

@hanbitbiz 출판사로부터 도서를 지원받아 작성한 리뷰입니다. 좋은 책 정말 감사합니다.

#챗GPT #GPT #AI #인공지능 #포스트챗GPT #직업 #인공지능윤리 #메타인지 #AI리터러시 #테크산업 #AI심리학 #추천책 #한빛비즈 #책스타그램 #북스타그램 #서평 #서평단 #서평단모집 #펍스테이션 #펍스테이션서평단

챗GPT는 생산성 향상 도구이다. 기존 지식을 요약하고 정리해서 답변을 해준다. 또 다른 특성은 챗GPT는 사실 확인을 하지 않고 부정확한 사실이나 잘못된 사실도 확신하는 문구와 표현으로 출력물을 내놓는다. 이것은 사용자 개인이나 최종적 선택 책임의식 없이는 무용지물이거나 부작용이 더 큰 위험기술이 될 수 있다.

컴퓨터 프로그램이나 인공지능에 속거나 피해를 입지 않으려면 대중이 인공지능의 작동 방식과 한계에 대하여 알아야 하고 개인적 차원의 활용 교육과 책임의식 고취를 넘어서 사회적 차원의 위험 대비책과 규제방안이 필요하다.

챗GPT는 온라인 공간에 정보가 제공된 사안을 논리정연하게 정리하는 데 특화되어 있지만 일반적인 담론을 벗어난 새로운 담론을 만들어내기는 힘들다.

인간이 보기에는 그럴듯한 문장이지만 늘 정확한 정보를 제공하지는 않는다. 정보의 출처도 제공하지 않아 그것이 무심코 산출하는 허위 정보나 근거 없는 문장은 정보 생태계를 교란할 위험이 있어 대비책이 필요하다. 인공지능사업은 엄청난 자본과 노동력을 필요로 하고 환경에도 나쁜 영향을 미친다.

챗GPT는 우리에게 공포와 우려를 준다. 역사적으로 기술혁신은 많은 이들에게 풍요와 편리를 가져다 준 반면 불평등을 확대하는 결과를 낳았다. 격변의 시대는 진보를 가져오기도 하고 역사의 비극적 후퇴를 가져오기도 한다. 챗GPT로 어떤 미래 사회가 될 것인지 선택의 갈림길에 서 있다.

교육적인 면에서는 보고서나 숙제할 때 챗GPT의 활용도면에서 논란이 많다. 대학은 개인의 여러 역량을 키워주고 훈련시켜주는 곳이다. 사회에 나가서 그 능력을 발휘해 도구의 도움을 받으며 스스로 일을 처리해야 한다. 혼자 무언가를 하려고 할 때 활용할 수 있는 능력을 길러주는 것이 대학 교육이므로 챗GPT를 활용해 과제를 할 수 있도록 하는 것이 좋을 것 같다.

글쓰기는 단순히 어떤 내용을 담은 보고서가 아니라 생각을 훈련하여 그것을 정리하고 쓰고 다듬을 수 있는 능력을 키우는 방법이다.

현재는 챗GPT가 창의력은 없지만 자기가 학습한 자료에서의 분석과 정리기능이 뛰어남으로 이것을 활용해 글을 쓴다면 자료 수집시간과 나이대별의 관심사 등과 같은 부수적인 자료를 모으고 분석하는 시간 같은 것은 아낄 수 있을 것이고 인간의 창의력과 상상력, 경험이 더 해 진다면 챗GPT는 쓸 수 없는 글이 완성될 것이다. 챗GPT는 거짓을 참으로 알려주는 경우도 있으므로 잘 판단해야 할 것이다.

앞으로 챗GPT가 어떻게 변하여 갈지는 알 수 없다.

[YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다]

"포스트 챗GPT: 폭주하는 AI가 뒤흔든 인간의 자리"는 인공지능 모델인 포스트 챗GPT와 인간의 삶에 어떠한 영향을 끼치는지 그리고 우리가 어떻게 대응하고 준비해야 되는지에 대한 생각을 하게 해주는 책입니다. 포스트 챗GPT의 능력과 가능성을 탐구하며, 이 모델이 어떻게 인간과의 상호작용을 형성하고 변화시킬 수 있는지에 대해 논의가 필요하며 챗GPT의 능력과 제한사항에 대해 언급합니다. 챗GPT는 자연어 처리 작업에서 뛰어난 성과를 보이는 대규모 언어 모델이지만, 그 응답은 항상 정확하거나 완벽하지 않습니다. 또한, 챗GPT는 인터넷 문서와 대화 데이터를 학습한 결과로, 최신 정보와의 일치성이나 신뢰성에 제한이 있을 수 있습니다. 챗GPT가 자연스럽고 유창한 대화를 제공하며 사용자의 질문이나 입력에 대해 상세하고 포괄적인 답변을 제공하지만 인간의 감성이나 도덕적인 판단과 같은 측면에서는 챗GPT의 역할은 현재 제한된 범위안에서만 작동을 합니다. 현재의 챗GPT는 인간의 역할을 대체하지는 않으며, 인간의 독립적인 사고와 판단력이 필요한 영역에서는 여전히 인간의 역할이 중요하지만 미래는 예측이 불가 합니다.

인공지능의 발전이 사회와 윤리적인 문제들이 발생 될 것으로 예상되는 현재 시점에서 노동 시장에서의 일자리 변화, 개인 정보 보호, 편견과 차별 등과 같은 문제들이 발생할 수 있다라고 구체적으로 설명해줍니다. 이러한 문제들은 인공지능의 발전에 대한 윤리적인 고민과 적절한 규제의 필요성을 제기합니다.

인공지능은 놀라운 발전을 이루고 있지만, 여전히 인간의 독립적인 사고와 창의력, 윤리적인 판단력과 같은 면에서는 한계가 있습니다. 따라서 인간과 인공지능은 상호보완적인 관계를 형성하며, 인간의 능력과 유일성은 존중되어야 건전한 발전을 이룰수 있으리라 생각 됩니다.

인공지능은 데이터가 없으면 작동하지 않는 등 여러 문제점이 있습니다. 인종에 대한 편견과 성차별 언급 등 윤리 문제도 심각하다고 합니다. 인공지능 상품들은 프로그래밍 결함 가능성을 내재하고 있으며, 강인공지능에서는 이러한 결함 인자가 인류에 치명적으로 작용할 가능성이 있다고 합니다. 인공지능 기술이 도입되면 부와 편익이 소수에게 집중될 가능성이 있어 사회적 불균형을 초래할 수 있다는 우려도 있습니다. 또한, 인공지능은 설명력이 낮은 블랙박스이며, 처리된 결과물의 인과 관계는 설명하기 어렵다는 문제도 있습니다. 이러한 문제들을 해결하기 위해 공정성을 보장하는 기술 개발, 개인정보 보호를 강화하는 기술 개발, 인공지능의 책임을 명확하게 하는 법적 규제 등의 방안에 대해 알려주며 대비해야 된다고 합니다.

최근 많은 사람들이 사용해 본 결과 챗GPT는 자연어 처리 작업에서 우수한 성과를 보이지만 완벽하지 않으며, 환각이나 응답의 품질 변동성, 업데이트 문제 등의 단점을 가지고 있다고 합니다. 이러한 단점은 챗GPT가 인간이 아니기 때문에 발생하는 것이라고 설명하며, 챗GPT가 사회와 일자리에 미칠 영향과 인간을 위한 유용한 도구로 활용될 수 있는 방향에 대해 많은 생각을 하게 합니다.

또한, 챗GPT의 등장으로 인하여 인간의 자율성과 의미에 대한 영향을 논의하며, 이전의 신기술과는 다른 영향을 미칠 것으로 보고 있습니다. 모든 분석이 옳은 것은 아니지만, 이 책에서 미래를 내다보고 있는 전문가들의 의견을 살펴보고 예측하고 대응하는 일은 우리들의 몫입니다.

YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다

서평단 활동으로 작성하였습니다.

https://sponsor.pubstation.co.kr/sponsor_banner.png?t=bd478e10-aa0c-49dd-a641-3917133450ac

챗GPT가 작년 말부터 전세계를 뒤흔들었다. 코로나 엔데믹보다도 더 큰 이슈였다. 그래서 그동안 AI와 챗GPT에 관한 여러 책이 나왔는데 이 책은 그 현상들을 지켜 본 각계 각층의 전문가 이야기들을 모아놓은 책이다. 덕분에 다각도에서 AI와 챗GPT를 어떻게 생각하고 있고 정말 그 이후의 세상과 현재에 어떻게 적용시키고 대비해야 할지를 고민하고 바라볼 수 있게 만든다. 그래서 어떻게 챗GPT를 받아들이고 어떻게 해야 더 효율적으로 이용할 수 있을지 그리고 인간의 역할과 현재 처한 처지까지 생각하게 된다.

특히 단순하게 두려움으로 다가웠던 초반과 달리 지금은 챗GPT의 장단점이 많이 분석된 상황에서 이 책은 더더욱 결정적인 역할을 하게 되는 것 같다. 논란의 돌풍인 태풍의 눈 시기보다 태풍이 지나가고 나서 진짜 결과가 나타나기 때문이다. 더 선명하게 그 흔적과 영향이 보인다. 초기의 챗GPT의 돌풍은 지나간 시점에서 나온 책이기에 그 점에서 유리하기도 하다. 무엇보다 챗GPT에게 직업을 뺏길 것을 두려워하고 역할에 대해서 고민이 많았던 사람들에게는 큰 도움이 될 것이다. 챗GPT는 이제 시작일 뿐이다.

**결국에는 인간이 문제인 것이다. 챗GPT도 인간이 만들었고 인간이 사용하니까. 우리는 엄청난 도구를 만들었고 이제 그 엄청난 도구를 어떻게 해야 하는가가 주어진 상태가 됐다.

***가장 먼저 창작이 무너지는 것이 아니냐는 초기의 반응들이 많았지만 거꾸로 창작에 대해서 다시 한 번 생각해 보게 하는 계기가 되었다.

****창작은 역시 가장 나중의 침범받는 영역이 될 것이다.

*****특히 많은 창작자들이 앞다투어 먼저 써본 것도 컸다. 제일 먼저 단점을 찾아낸 사람들도 그들이다.

******물론 수많은 질문을 하며 오답을 유도해내고야 만 일부 대중들에게도 무서운 집념이 느껴진다. 어디까지 완벽한지 확인해 보려는 것처럼.

*******항상 사람이 가장 독한 것 같다. 한계치를 빨리 알아내려 한다.

********저작권 문제는 기하급수적으로 커지고 있는 것 같다. 물론 창작이 기존의 있던 것을 바탕으로 새로 만들어진거라지만 사람이 적절한 수준에서 가져오는 것과 달리 챗GPT는 마구 긁어오기 때문이다.

*********악보에서 몇마디만 똑같아도 표절이라고 이슈되던걸 생각해 보면 앞으로 가장 커질 영역이다.

**********미국의 작가 파업도 이와 관련 있는 것 같다.

***********챗GPT를 너무 믿어서도 안된다는 것이 책에도 나오지만 항상 어딘가에 많이 기대고 의지하게 되면 문제가 생기는 듯 하다.

************이미 챗GPT가 없던 시절에도 분열주의와 가짜뉴스가 판치는 시절이었는데 더더욱 무서워진 세상이 되었다.

*************그래서 한 때 딥페이크가 문제됐던 적도 있지 않나.

**************이러다가 직업으로 사실 또는 진실 판정단이 생길지도 모르겠다.

***************역시 인간이 최종 검수자가 되어야 하는 것이다.

****************그걸 놓치는 순간 인간은 기계에게 지배당할 것이다. '터미네이터'같은 지배가 아니라 기계가 알려주는대로만 알게 되고, 왜곡되게 세상을 바라보게 되는 것이다.

*****************그래서 더 세상은 판타지가 될지도 모른다. 과거의 역사들마저도 다 왜곡될 수 있다.

******************범죄적 측면에서 증거의 오염 가능성도 크다. 챗GPT를 이용하면 증거도 조작 가능하고, 진실도 만들어낼 수 있으니.

*******************그래서 잠시 과학자들이 멈추자고 합의 했는지도 모르겠다. 기술이 법과 윤리, 여러 제도를 너무 앞서 버렸다.

********************사실 챗GPT이전에 스트리밍 업체도 여러 문제를 앓고 있었는데 그게 결합된 문제가 터진 것이다.

*********************공공장소와 공공의 것이라는 개념도 복잡해 질 것 같다.

**********************인공지능이 환경오염과 기후위기와 관련이 없지 않은 것이 책에도 나와있지만 핵심은 전기이고 탄소세이다.

***********************반도체도 문제가 된다. 인터넷도 마찬가지다. 그 두가지도 미세하게 탄소를 발생시키는데 그게 어마어마하게 쓰이고 있다. 하지만 이걸 막으면 난리가 나니 일회용품 같은 것만 줄이고 있다. 그보다 더 기하급수적인 속도로 반도체와 인터넷이 쓰이고 있다.

************************전기 문제도 마찬가지다. 지금의 전기 생산력으로는 전세계 전기가 부족할지도 모른다.

*************************결국 전기에 관한 핵심 기술이 발전해야 챗GPT도 더 대중화되고 일상화 될지 모른다.

**************************이 부분은 전기차와도 일부 연관된 문제이다.

***************************전기세가 오른다는 지점에서 더더욱 그렇다.

****************************결국 아직도 AI는 넘어야 할 큰 산들이 꽤 있는 셈이다.

*****************************그러나 이정도만 보여 줬는데도 혼란이 일었다. 어쩌면 우리는 백신 예방을 챗GPT로 맞은 걸지도 모른다.

******************************사실 단순 노동 관련해서도 꽤 기계가 대체하고 있다고 한다. 하지만 아직도 인건비가 싸고 효율적인 면이 있다. 항상 돈, 자본이 문제이다.

*******************************챗GPT가 상용화되면 오히려 평균만 올려놓을 듯 하다. 챗GPT로 쓴 글 위에 그걸 뛰어넘는 개성을 담아야 할테니까.

********************************그래서 마냥 좋고 편리한 것만도 아니다. 특히 배움에 있어서도 그렇다. 검색하면 답이 나오는데 문제는 답이 아니라 찾는 과정과 그 과정에서의 생각하는 법 아닌가.

*********************************그래선지 ADHD환자가 많아지고 현대인의 집중력이 과거보다 많이 약화됐다는 것도 심심찮게 들린다. 책에서도 인지력으로 조명한다.

**********************************자신이 알고 있으면서 이용하는 것과 아예 백지 상태에서 이용하는 것은 엄청난 차이이다.

***********************************달리 말하면 모르는 사람일수록 AI가 더 위험한 것이다. 일종의 사이비 교주나 선생님이 될수도 있다.

************************************그래서 나중에는 아이들에게 AI를 접하게 되는 시기를 늦추려는 법이 생길지도 모른다. 아이의 뇌발달에도 영향을 줄 테니까.

*************************************그래서 더 아날로그 경험과 체험이 중요해질지도 모르겠다. 노동이 정말 신성시 될지도 모른다. 그게 바탕이 돼야 AI잘 쓸 수 있다.

**************************************아날로그를 잊어버리면 전기가 사라진 순간 인간들은 다시 원시인으로 돌아갈지도 모른다.

***************************************왠지 우주산업의 폭발적 성장과 평행을 맞출 것 같다. 우주에서는 무엇보다 인공지능이 중요하고도 중요할 것이다. 많은 사람들이 동시에 갈 수가 없으니까.

****************************************이 글은 챗GPT로 쓰여지지 않았다.

##인상적인 문구들##

##사람의 경우에는 최대 1000억 개의 뉴런이 있다고 알려져 있다. GPT-3 모델의 경우는 1750억 개의 매개변수로 구성되어 있고 구글의 PaLM이라는 모델은 500억 개 이상이다. ~하지만 확실한 것은 GPT는 학습 용량이 어마어마한 딥러닝 모델이고, 이 모델이 학습하게 되는 모든 지식은 데이터로부터 온다는 것이다.~인공지능이 사람의 삶에 들어와 함께 상호작용을 하려면 사람들의 법칙을 이해하고 따라야 한다. 사람의 지시를 정확히 수행하는 것도 중요하지만 사회에서 정의된 옳고 그름에 대한 원리나 상식을 이해하고 철저히 준수할 수 있어야 한다.

##대용량의 학습 데이터 상에 개인정보나 잘못된 정보, 사회적, 정치적, 성별, 인종에 대한 편향이 존재하지도 않도록 주의해야 한다. 그렇지 않다면 초거대 모델은 이를 그대로 반영할 것이다.~현재의 챗GPT는 완벽하지 않다. ~사실과 다른 얘기를 자주 한다는 점이다. 이는 확률 기반 모델의 한계이다.~질문을 어떻게 하느냐에 따라 응답의 품질이 매우 심하게 변한다는 점이다.~최신 지식의 업데이트가 몇 개월 간격으로 진행되므로, 최근 사건에 대한 질문에 대응을 못하는 경우가 많다.~매우 짧은 미래에 이들 대다수는 해결될 것으로 기대되고 있다.

##챗GPT가 발표된 이후 사회적인 규제의 목소리가 있는 것은 사실이다. 많은 회사들은 사내 민감 정보의 유출에 대한 우려로 직원들의 챗GPT 사용을 금지하고 있다. 정부 기관에서도 감독을 위한 준비를 서두르고 있다.~이탈리아 데이터 보호청은~이탈리아 내 접속을 차단하기도 하였다.~인공지능 기술을 받아들이는 능력에도 불평등이 존재할 수밖에 없으므로, 인공지능 약자에 대한 사회적인 배려도 필요한 시점이다.

##신경망에 대한 연구는 꾸준히 진행 되었지만 '학습'에 필요한 데이터가 충분하지 않았는데, 인터넷의 보급과 함께 이 문제가 해결된 것이다. ~이때 구글이 인수한 인공지능 스타트업 딥마인드가 그 일을 해주었다. 특히 2016년 이세돌 9단의 대결에서 딥마인드의 알파고가 승리하고, 2017년 세계 랭킹 1위 커제 9단마저 꺾은 사건은 일반 대중이 머신러닝의 위력을 깨닫게 되는 중요한 계기가 되었다. 현재 관심을 한 몸에 받은 오픈에이아이가 설립된 것도 이즈음의 일이다.

##무엇이든 적절한 검색어를 입력하고 찾아낸 정보를 분석해낼 줄 알면 전문가 수준의 지식에 도달할 수 있는 길이 열렸다. 하지만 검색과 모바일 인터넷이 대중화 되었다고 해서 모든 사람이 특정 분야의 전문가나 달인이 되지는 않았다. 오히려 활용 능력 여부에 따라 격차가 커졌을 따름이다.

##챗GPT는 ~보편적으로 수용되거나 확립된 사실과 관점을 깔끔한 논리와 문장의 형태로 출력하는 도구일 뿐이다. 또 다른 특성은 챗GPT는 사실 확인을 하지 않고 부정확한 사실이나 잘못된 사실도 확신하는 문구와 표현으로 출력물을 내놓는다는 점이다. 이는 사용자의 개입이나 최종적 선택, 책임의식 없이는 무용지물이거나 부작용이 더 클 '위험 기술'이 될 수 있다는 것을 의미한다. 이런 특성은 모두 기존 데이터를 통해 학습하는 인공지능의 기본 속성이다.

##챗GPT는 거짓 정보를 만드는 비용을 0에 가깝게 만들었다. 미국의 컨설팅 업체 가트너는 2017년 ＜미래 전망 보고서＞에서 2022년이 되면 선진국 대부분의 시민들은 진짜 정보보다 거짓 정보를 더 많이 이용하게 될 것이라고 예측했는데, 챗 GPT로 인해 현실이 되었다.~효율적인 도구가 등장하는 만큼 인터넷은 허위 정보와 합성 데이터로 넘쳐나게 된다.

##인공지능이 각종 서비스와 제품에 보편적으로 적용되는 환경에서 사람들이 인공지능의 속성과 위험성을 인지하지 못하면 피싱과 사기로 인한 피해가 더욱 커지게 된다.~대중이 인공지능의 작동 방식과 한계에 대해 알아야 한다. 또한 개인적 차원의 활용 교육과 책임 의식 고취를 넘어서 사회적 차원의 위험 대비책과 규제 방안이 필요하다.~생성형 인공지능이 생산성 향상과 창의적 도구로 쓰이는 사례만큼이나 어뷰징과 사기, 범죄와 혼란에 동원되는 경우가 늘어날 수밖에 없다.~개인적·사회적 차원에서 어떠한 조정 원칙과 통제 체계를 마련해야 하는지가 핵심 과제가 된다.

##의학과 의료는 크게 교육, 연구, 진료의 세 영역으로 나눌 수 있는데, 챗GPT는 이 세 영역 모두에 영향을 줄 것이다. ~확실하게 알지 못하는 주제가 있을 때 챗GPT에게 물어보면 실마리를 얻기 쉬운데~의학적 판단을 할 때는 기본적으로 위험과 이득을 따진다. 실보다 득이 크다면 그 선택은 정당하다.~완벽한 의료 기술 및 치료제는 없다. 부작용이 있더라도 치료로 인한 이득이 명백하고 그 위험을 감수할 수 있다면 치료하는 것이 현대 의학의 원칙이다. 다만, 이러한 원칙을 지금 당장 챗GPT에게 적용하기에는 너무 이른 감이 있다. 아직 챗GPT는 의료에 바로 도입되기에는 부족한 기술이다.~특히 의료의 경우 잘못된 정보나 판단은 환자의 안전을 위협하기 때문에 문제가 된다. 오류가 발생하여 의학적 판단이 잘못 이루어진다면 이때 책임은 누구의 몫일까?~결국 새로운 기술이 도입되어도 의료에 있어 그 환경을 바꾸는 것은 사람이다. 그래야만 한다.

##생성형 인공지능을 활용해 진짜 기사 같은 허위 정보를 만들게 되면 검증은 더욱 까다로워 질 수밖에 없다.~생성형 인공지능 기술이 언론의 '저질 기사'에 할용될 우려도 배제할 수 없다.~이런 우려 탓에 이미 포털은 로봇 저널리즘을 규제하고 있다.~언론에 부정적인 영향만 미치는 것은 아니다. 오히려 취재와 기사 작성 과정에서 양질의 도구가 될 수 있다.~이미 발표된 기사라면 작성 자체를 맡겨도 큰 무리가 없다.~챗GPT의 등장으로 인해 오히려 인공지능이 대체하기 힘든 영역이 부각되는 면도 있다. 챗GPT는 온라인 공간에 정보가 제공된 사안을 논리정연하게 정리하는 데 특화되어 있지만 일반적인 담론을 벗어난 새로운 담론을 만들어내기는 힘들다.

##미국 오픈에이아이가 개발한 이 대화형 인공지능은 2022년 12월 1일 대중에게 공개된 후, 두 달 만에 월 사용자 1억 명을 돌파하는 등 세계에서 가장 빠르게 성장한 앱이 되었다. 이전 기록은 아홉 달 걸린 틱톡이었다.

##번역지능과 출판의 만남은 동시에 소수자 출판을 융성하게 한다. 고유한 내용과 독특한 개성을 확보하는 한, 어떤 책도 다국어 번역을 이용해서 만족할 만한 독자를 찾을 수 있다. 전 세계 인구를 독자로 상정하면, 극히 좁은 관심사를 다룬 콘텐츠라도 충분한 숫자의 독자가 있을 가망이 높은 까닭이다. 케빈 켈리가 초연결시대를 '비베스트셀러의 시대'라고 부르는 이유다.

##출판 시장이 고유한 문화적 특성을 존중하면서 새로운 기술을 통합하는 일은 어려운 과제이다.~여기서 고유한 문화적 특성이란 극히 섬세하고 예리하며, 개성적이고 다양성을 존중하는 면모를 일컫는다. 로봇 글쓰기는 이와 반대로 작동한다. 이미 익숙하고 비슷비슷하며, 몰개성적이고 무척 일반화된 글들이 대다수이다. 김대식의 말처럼 300억 개 넘는 문장을 학습 했더라도, 챗GPt는 결국 새로운 문장을 만드는 게 아니라 미리 학습된 문장들 사이의 확률 패턴을 재조합한 문장을 쏟아낼 뿐이다.~인공지능은~의견이나 견해를 가지고 있지 않다.

##챗GPT같은 생성형 인공지능을 책 콘텐츠에 활용할 때 주의할 점이 있다. 현재로서는 챗GPT가 내놓는 답변은 모두 짜집기이다. 내용은 너무나 부정확하고, 수준은 초보적이다.~더욱더 조심할 것도 있다. 표절이다.~글쓰기에선 많은 문장에 모두 주인이 있다.~김대식의 말처럼 챗GPT의 생각은 지난 수십 년간 인류가 인터넷에 올린 문장과 생각의 합집합에 불과하다.~신선한 창의성을 느낄 수 없기 때문이다.

##사유를 한 걸음 전진시킬 때 우리는 비로소 콘텐츠에 매력을 느끼고, 기꺼이 지갑을 연다. 인공 지능을 창조적으로 만드는 것은 오직 인간뿐이다.

##통계에 기반하여 거대한 양의 텍스트에서 패턴을 찾아 그다음 단어를 추측하는 방식으로 작동한다. 이런 언어 모델은 모방에 능하고 사실에 약하다.~실제 세계의 대상을 이해할 수 없기 때문이다.~거짓이든 진실이든 상관하지 않고 독자를 설득하는 것만 중요시하기 때문이다.

##관련된 위험을 줄이기 위해~모델의 프롬프트에 대한 응답이 '적절한지'인간에게 피드백을 요청하고 해당 피드백을 바탕으로 모델을 업데이트 하는 것이다.~하지만 '적절한'것이 무엇인지에 대한 인간의 의견이 분분하다는 것이다.~결국은 기술 자체의 문제가 아니라 기술에 반응하는 사람의 문제인 것이다.~기계는 마음이 없어도 텍스트를 생성해낸다. 문제는 우리가 그 텍스트 뒤에 마음이 있다고 상상하는 것을 멈추지 못한다는 것이다.~최근에 자주 등장하는 표현이 "인공지능에 대체 되는 것이 아니라 인공지능을 잘 쓰는 사람에게 대체된다"는 것이다.~그러나 정보의 평등이 이루어져 긍정적인 방향으로 인류가 나아갈 것이라는 기대보다는 더 불평등이 심화될 것이라는 우려가 크다.

##인공지능 산업이 엄청난 자본과 노동력을 쓸 뿐 아니라 환경에도 나쁜 영향을 끼치고 있다는 점도 지적할 만한 문제이다. 인공지능 사용은 다른 형태의 컴퓨팅보다 많은 전기를 사용한다. 챗GPT의 학습에는 미국 내 120개 가구의 1년 전기 사용량과 같은 1287메가와트시의 전기가 사용되었다고 알려졌다.

##유발 하라리~그는 이미 기술적으로 인간의 뇌를 해킹하고 통제하는 것이 가능한 시대가 도래했음을 선언하면서, 특히 자신이 '자유 의지'를 가지고 주체적으로 선택한다고 믿는 사람일수록 정부와 기업에게 뇌를 해킹당하기 쉽다고 강조한다.~다음 권위는 아마도 인간에게서 컴퓨터로 이동할 것이다.~자유 의지의 신화가 인공지능의 위험을 증폭시킬 것이라는 하라리의 지적은 예리하다.~상투적인 경고보다 훨씬 섬뜩한 구석이 있다. 위험의 근거가 다름 아닌 우리 '내부'에 있기 때문이다.

##과거에 비해 우리 자신의 두뇌 활동에 대해 훨씬 잘 알게 되었는데, 월드와이드웹, 모바일 통신기기 와 같이 무서운 속도로 발전해온 정보 접속 환경이나 미디어가 인간의 인지 능력을 향상시키기는커녕 오히려 감소시키고 있다는 사실도 속속 알려지게 됐다.~글자 그대로 '뇌의 인지 능력이 줄줄 새는 것'이다.~스마트폰의 존재 그 자체가 그들의 인지 능력을 떨어뜨렸다.

##'그럴듯한 이야기'가 곧 진리는 아니다. 서사는 인과 관계로 빽빽하게 채워지곤 하지만, 실재에는 우연적 요소들도 많다. 이야기는 연속적이고 자극적이다. 진리는 대체로 비연속적이며 권태롭다. 음모론이 과학적 설명보다 훨씬 각광받으며 빠르게 확산되는 이유는 인지적 소모를 줄이면서 사태를 흥미롭게 설명해주기 때문이다. 서사 중독은 기본적으로 개인의 증상을 가리키는 개념이며, 이 증상이 사회적으로 확산되면 '서사 과잉'이 된다.

##탈진실~이제 대중은 인터넷 정보를 바탕으로 전문가를 면전에서 무시하기 시작했다. 인터넷 의학 정보로 주치의와 논쟁하는 환자가 한국만이 아니라 전세계에 동시다발 하고 있는 것은 결코 우연이 아니다.~이런 자신감이 빠르게 대중에게 공유되면서 대중은 급기야 '앎'을 주장하는 걸 넘어 '앎'을 편의적으로 취사선택하겠다고 선언하기에 이른다. 이제 사람들은 알지 못하는 게 아니라 알 수 있음에도 알려 하지 않는다.

##'선택적 무지'다. "가르치려 들지 마. 내가 편들고 싶으니 편드는 거야" 탈진실은 의도적 무지, 적극적 무지의 다른 이름이다.~예술사회학자 이라영은 이 멘탈리티를 "나는 알기 싫다. 고로 혐오한다"라는 문장으로 간명히 요약한 바 있다.~인지 빈곤~압도적인 정보량과 인간의 인지적 한계 때문에 타당한 지식을 습득하는 것은 물론이고 터무니없는 허위정보를 감지하는 일도 점점 어려워지고 있다는 것이다.~우리의 뇌는 점점 더 해킹당하기 쉬워지고 있다.

##세상에 끝내주게 흥미로운 스토리텔링과 감각적 자극들이 넘쳐나는데 굳이 권태롭고 지루한 사실들과 진리에 관심을 가질 이유가 있는가? 그 결과가 지금의 정치다.~적지 않은 나라에서 이른바 '민주주의'는 사회경제적 지대를 축적해 여가를 확보한 엘리트들, 특히 거대 자본가와 법 기술자들이 사익을 공익으로 포장하여 공동체 자원을 강탈하는 '합법적 빨대로 기능하고 있다. 이런 일이 가능한 배경에는 다수 시민의 무관심과 무지에 기인한 정보 비대칭 상황이 놓여 있다.~어떤 주제를 직접 고민하고 스스로 공부하던 우리의 짧은 시간마저 인공지능에 몽땅 넘겨버리고 나면, 깊이 배우는 유일한 존재는 기계가 될지 모른다. 그게 바로 정치의 종말이고 인간이라는 종의 마지막 모습일 것이다.

##우리는 대개 시간이 들고 인지적 노력을 많이 기울여야 하는 논리적 사고보다 빠르고 노력이 크게 필요하지 않는 직관적 사고에 우선적으로 의존한다. 이러한 비합리적인 사고 체계로 인해 체계적으로 편향이 발생할 위험이 크다. 따라서 신중하고 합리적인 사고 능력을 함양시키지 않으면 챗GPT가 우리의 사고 편향을 더욱 증폭시킬 수 있다. 이는 과학적 소양과 문화가 더욱 강조될 수밖에 없는 이유이다.

##원래 창작이니 기획 능력은 불평등했다. 높은 수준의 교육을 받고 지능이 높은 이들의 전유물이었다. 소수의 창작자나 기획자가 낸 아이디어로 세상이 움직이는 것으로 여겨졌다.~인간은 어쩌면 틀린 이야기를 할 수 있는 능력 덕분에 오히려 스토리텔링을 할 수 있고 창작을 할 수 있다. 엄격한 사실이면 이야기하는 사람이 상상력을 발휘해 놀라운 창작을 하기는 쉽지 않다. GPT 모델의 사실 오류는, 사람의 지능을 닮아서 생기는 일이다. 사람의 지능을 따라가지 못해 생기는 일이 아니다.~물론 태생적으로 GPT는 인간보다 사물에 대한 이해도가 낮은 게 사실이다. ~언어 모델은 대상 자체를 인식하는 게 아니라, 단어와 단어 사이의 이음새만 인식하며 글을 만들어낸다. 언어가 묘사하는 세상 그 자체는 인식하지 못한다.

##결국 다섯 살 어린아이가 가장 고도로 발달한 인공지능보다 '딸기'를 훨씬 더 잘 안다고 할 수 있다.~이런 면에서 챗GPT의 한계는 명확하다.~GPT도 세상을 이해하고 있다. '나스닥 시장'이나 '한계 효용'처럼 어렵고 추상적인 것일수록 오히려 사람과 비슷한 방법으로 이해한다. 이런 '추상적 언어 인식 능력'은 이전에는 인간 고유의 능력으로 여겨졌다.~그래서 챗GPT는 화이트 칼라 노동에 위협적이다.

##초거대 인공지능 모델을 소유한 인공지능 플랫폼 기업이 우리의 가치를 지배하게 될 수도 있다. 독점 이익이 더욱 커지면서 불평등이 확대될 수도 있다.~분명한 것은 미래의 문을 열 열쇠는 시민들에게 있어야 한다는 점이다. 즉 인공지능의 활용권과 통제권을 시민들에게 돌려주어야 한다. 이른바 '리터러시'와 '거버넌스'이다. 그 열쇠를 찾아 시민들에게 쥐여줄 책임은, 정치가 짊어지고 있다.

##메타인지란 자신이 무엇을 알고, 무엇을 모르는지 파악하는 능력에 가깝다. 즉 생각에 관한 생각, '자신의 기억, 느낌, 자각하는 모든 것을 판단하는 능력'이다.~챗GPT가 인간의 인지뿐만 아니라 메타인지까지 모방할 수 있다면 인간과 기계의 구분이 어려워질 수 있기 때문이다. 또한 나는 교육자로서 표절 사례를 적발하는 것 또한 힘들어질 게 뻔했다.~하지만 안타깝게도 현재 챗GPT는 자신의 지식이 부족할 수 있다는 것 자체는 알고 있지만, 이를 극복하기 위한 추가 학습이나 도움을 요청하지 않는다.~챗GPT가 인간을 모방하는 것이 목표라면, 먼저 속도를 늦추고 틀릴 것을 예상하는 법을 배워야 한다.~메타인지는 목표에 도달하는 것이 아니라 새로운 정보를 받아들일 때마다 순간순간 조정하는 것이다.

##더 무서운 것은 인간이 로봇을 닮아갈 가능성이 있다는 사실이다. 즉 우리는 빠르고 완벽한 응답을 포함하여 기계와 같은 행동을 조장하는 방식으로 가르치고 있다.~인공지능 기술에 대한 두려움은~기술이 사회에 미칠 영향성에 대한 불투명성이 더 크기 때문이 아닐까 싶다.~챗GPT가 판정자가 되는 것은 생각보다 두렵다. 판정은 정답이고, 정답은 지금이 아닌 미래에까지 영향을 미치는 기반이 될 것이기 때문이다.~챗GPT의 생성형 대화 방식은 개인의 정보 편향 문제를 발생시키게 될 것이다.~이것은 데이터 안에 들어 있어서 대답으로 도출되는 정보의 편향성 문제와도 연결된다. 그렇기 때문에 기술적인 측면에서는 대량으로 수집된 데이터 안에 존재하는 개인 정보와 사용자들의 대화 데이터에 대한 정보 보호에 대해서도 심각하게 고려해야 한다.~이 기술을 이용해 바른 세상을 보려면 바른 질문자가 되어야 한다. 올바른 질문을 넣어야만 올바른 대답을 주기 때문이다.

##왜 사람들은 서로의 생각을 정확히 교류하기 위한 질문은 심각하게 고민하지 않으면서 기계의 생각을 이끌어내기 위한 질문에는 열광하는가라는 다소 실망스러운 마음이 들기도 한다.

##평균에서 벗어나 있는 '변칙에 대해서는 챗GPT가 뛰어나지 않다고 지적하는 것이다. 변칙이라는 것은 오랜 학습과 경험 속에서 얻게 된 '평균에서 먼 지식'이다.~그렇게 '보통과 평균'바깥에 존재하는, 경계 바깥쪽에 존재하는 것, 그래서 기존의 것을 넘어서는 인간 활동과 관련되는 것이 변칙이라 할 수 있다.~기존에 없던 뭔가로 한 단계 도약했다는 뜻이다. 후자에 대해 우리는 '창조적' 혹은 창의적'이라는 수식어를 붙인다.

##글쓰기라는 행위를 단순히 어떤 내용을 담은 보고서 수준으로 이해할 게 아니라, 생각의 훈련, 즉 자기 생각을 벼리고 잘 키우는 훈련이라고 봐야 한다.~현대의 교육은 그것을 못 하고 있고, 동시에 인공지능이 등장하면서 그동안 못해왔다는 게 들통나서 두려워진 상황이 되어버렸다.~건축은 건물을 짓는 거고, 감리는 제대로 지었는지를 확인하는 겁니다. 그런데 인공진으은 건축가지 감리사가 아닙니다. 우리에게 필요한 건 감리사 입니다. -민경진 PSB대표

##외국에는 정확한 대답을 얻고자 하는 '프롬프트 명령어 예시집'을 만들어 판매하는 사람도 있다.~중요한 것은 대답이 아니라 질문이다.~인공지능 챗GPT는 당신의 자리를 대체 하지 않을 것이다. 인공지능 챗GPT를 사용하는 사람이 당신을 대체할 뿐이라는 문구를 명심하기 바란다.

##한편 챗GPT가 만들어낸 결과물은 인간의 창작물이 아니기 때문에 어느 나라에서도 저작권법에 걸리지 않으며, 출처가 명확하지 않을뿐더러 표절 여부를 가리기 어려울 정도의 문장력을 구사할 수 있어 그에 따른 윤리적 문제에 대한 대책 마련은 매우 시급해 보인다.~재산권의 측면에서 보면 챗GPT는 로봇을 탑재하지 않는 한 형체가 없는 소프트웨어에 해당하여 무형의 지식재산권 이슈와 주로 결부된다.~인격권의 측면에서 보면 챗GPT는 그 중에서도 개인 정보의 자기 결정권 이슈와 밀접하게 연관된다. ~입력 데이터의 개인정보보호법 위반 문제가 논란이 될 소지가 있다.

##일부 악성 이용자들은 이를 우회하는 이른바 탈옥 기법을 통해 각종 윤리적 문제를 일으키고 있다. ~이뿐만이 아니다. 일각에서는 이러한 악의적 공격을 제외하더라도, '선한 의도를 가진'챗GPT가 인간의 모든 노동을 대체하여 삶을 붕괴시킬 것이라고 우려한다. 법은 이러한 디스토피아 시나리오의 예방책으로 흔히 언급된다.

##챗GPT에는 무수히 많은 법적 이슈가 결부되고 있다.~챗GPT의 작동 양상이 이러한 관련 법규의 적용을 받는 경우, 해당 법조항에 따른 의무나 책임의 주체가 누구여야 하는가의 문제이다. 일단 현재 시점에서 인공지능의 법인격은 인정되기 어렵다는 것이 일반적 견해이므로, 선택지는 인간 제작자와 이용자로 좁혀진다.

##소설가 김태연의 주도 아래 개발된 인공지능 바람풍이 장편소설＜지금부터의 세계＞를 창작했다는 언론 보도를 접하게 되었다. 그런데 소설가 김태연은 자신을 소설 감독이라고 칭하며,~바람풍이 소설 창작의 주역인 것처럼 이야기했다. '창작'이란 특정한 의도'를 바탕으로 예술 작품을 '구상'하고 '생산'하는 행위인데, 바람풍의 집필에는 의도와 구상이 제외된 '생산'의 의미만이 담겨 있기 때문이라고 여겨진다.

우리에겐 어느 순간부터 쏟아져 나오는 기술을 따라가기 너무 바쁜 인생이 되었다.

폭주하는 기술에 있어서 내가 저 기술을 따라가지 않으면 도태될거 같다는 두려움에 어찌저찌 따라가고 있는 와중에 이러한 책은 나에게 도움이 많이 된다.

각각의 위치에 있는 여러 전문가들이 지켜보는 상황들.. 여러 시각들을 한권에 정리하기 힘들텐데

정말 흥미롭게 정리가 되어있는거 같다.

책을 읽는 도중 가슴에 와닿는 문장이 있다면

"속절없이 붕괴하고 있는 인간 고유의 영역들" 문장이다.

인간의 고유한 영역은 어디까지 였을까 이 부분까지 없어진다면

인간이기에 할 수 있고 인간이기에 느낄 수 있던 영역들이 점차 사라지는 모습들을 보면서

20~30년뒤 우리 사회 모습을 상상하게 된다.

물론 그렇게 썩 좋지 않은 상상이다. 

나는 이 책을 읽으며 이러한 부분들을 생각해보았고 또 내가 어떤 시야를 가져야하는지 알게 되었다.

이 책을 읽은 아니 읽을 독자들에게 한마디 질문을 해보며 서평을 마치겠다.

"아직도 인간이기에 특별하다고 생각하는가?"

YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다

p.62

논의의 대상을 미드저니, 빙이미지크리에이터 같은 이미지 생성 인공지능으로 확장하면, 사진으로 된 허위정보(가짜뉴스)는 이미 논란이 된 사례들이 있다. - 생성형 인공지능 기술이 언론의 '저질 기사'에 활용될 우려도 배제할 수 없다.

p.79

인공지능은 스스로 세계를 체험하지 못하고, 의미나 가치를 알지 못하며, 의견이나 견해를 가지고 있지 않다.

p.87

아무리 잘 정리된 생각이나 아이디어도 그 자체로는 매력이 없다. 언제나 정리를 뛰어넘어 사유를 한 걸음 전진시킬 때 우리는 비로소 콘텐츠에 매력을 느끼고, 기꺼이 지갑을 연다. 인공지능을 창조적으로 만드는 것은 오직 인간뿐이다.

p.95

오픈에이아이가 대규모언어모델과 관련된 위험을 줄이기 위해 사용한 두 가지 접근 방식이 있다. 하나는 인간피드백강화학습인데, 이는 모델의 프롬포트에 대한 응답이 '적절한지' 인간에게 피드백을 요청하고 해당 피드백을 바탕으로 모델을 업데이트하는 것이다.

p.112

연구진은 스마트폰이 옆에 있기만 해도 가용할 수 있는 인지 능력이 줄어들었음을 밝혀냈다.

p.121

영화 ＜매트릭스＞에서 매트릭스로부터의 해방을 설파하는 주인공들에게 '위험한 매트릭스 밖 현실이 아니라 안온하게 쾌락을 즐길 수 있는 매트릭스 안이 더 이득' 이라고 반박한 사이퍼처럼 말이다.

*YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다