|
『챗GPT의 거짓말 - 인공지능의 약점과 거짓말에 각성하라』 |
|
이 책의 첫 시작은 흥미롭게도 챗GPT에게 출간허락을 구하는 과정부터 저술되어 있다.
심지어 이 책의 제목이 챗GPT의 부정적인 부분을 드러내는 것이기에 챗GPT에게 책 제목을 뭘로할지 정해달라고 하기도 한다. 저자는 ＜챗GPT의 거짓말 VS 챗GPT의 약점＞ 중 어떤걸로 제목을 정할지 고민을 했다고 하는데, 챗GPT가 말하길 챗GPT의 거짓말로 하는게 더욱 논쟁적이고 독자들의 주목을 끌 수 있다고 해서 저자는 이 책의 제목을 '챗GPT의 거짓말'로 지었다고 한다.
챗GPT가 결국엔 인공지능의 한 종류인만큼 이 책은 인공지능에 대한 얘기도 많이 다루고 있는데 인공지능이 전지전능한가에 대한 의문을 제기한다. 그 예시로 바둑에 대해 말을 하는데 인상깊었던 점은 인공지능이 아무리 바둑의 모든 수를 외우고 있더라도 결국 그 반절은 사람이 두는 것이므로, 사람이 어떻게 두냐에 따라 인공지능의 대응도 달라진다는 것이다. 사람이 어떤 수를 뒀을 때 인공지능은 그 수의 약점을 찾는 것이므로 결국 인공지능과 바둑을 두는 것은 자신과의 싸움이라는 것이다. 즉 내 약점을 스스로 노출하고, 그 약점때문에 인공지능과의 바둑에서 진다는 것이다.
인공지능이 똑똑해서 이기기 어렵지 않나라고 막연히 생각했었는데 이런식의 관점이 신선했다. 거기다 이를 뒷받침하는 내용으로 2023년에 AI 연구소 켈린 펠린 연구원이 AI프로그램과의 바둑 대결에서 15판 중 14판을 이겼다는 기사가 있는데 AI를 이긴 전략으로 변칙 전략을 이용했다고 한다. 즉 이상한 수를 둬서 AI가 이미 학습했던 수로 대응할 수 없게 했다는 것이다.
그렇다면 인공지능의 한계는 명확해지는 것같다. 학습된 것은 인간이 따라갈 수 없지만, 학습하지 못한 부분에선 아직 인간이 우세할 수 있다는 것이다.
또 챗GPT의 경우 2021년 까지의 데이터를 토대로 답변을 하는데 이는 실시간 데이터를 완벽하게 활용할 수 없다는 한계를 가진다.
그렇다면 아직은 없지만 실시간 데이터를 활용하는 챗GPT가 나오면 어떻게 될까? 이것이 바로 이 책을 출간한 이유라고 저자는 말한다.
그렇게 되면 인공지능은 지구상에 CCTV가 비추는 모든곳에서 벌어지는 일들을 알 수 있고, 심지어 CCTV나 인터넷이 없는 곳이더라도 인공위성이나 위성통신으로 움직이는 드론을 통해 데이터를 축적할 수 있다고 한다. 이렇게 되면 비밀이 지켜질 거라는 확신을 가질 수 없게 되는데, 우리끼리의 대화여도 어딘가에서 인공지능이 우리의 대화를 데이터로 축적해 유출될 수 있기 때문이다.
개인정보보호법 등 데이터 관리에서 규제를 가할 수는 있으나 내용 자체를 볼 수 있는 기술이 없는 것은 아니므로, 기술을 가진 누군가가 마음을 먹으면 그 내용을 확인하고 악용할 수 있다는 것이다.
이제 이런 이야기가 더이상 소설이 아니고 우리의 미래라는 게 두려울 수 있다. 하지만 저자는 그럼에도 AI에 분명 한계가 있다고 한다.
이 책에서 그런 AI의 한계에 대해 분석하여 알려준다. 뿐만 아니라 AI가 아직 무엇인지 제대로 모르는 사람들을 위해 AI에 관련하여 총괄적인인 설명부터 AI의 위험성, 특히 이 책의 제목인 AI의 거짓말 (부정확한 정보) 등에 대해 이야기 하고 있다.
저자의 이런 생각에 기초하여 이 책은 인공지능에 대한 환상을 깨고, 인공지능을 제대로 사용하기 위한 가이드를 제공한다.
인공지능이 단점이 없다고 간과할게 아니라, 인공지능의 태생적인 문제점을 미리 인지하고 인공지능을 주체적으로 관찰하며, 사용해야 한다는 것이다.
이 책은 총 3부로 구성되어 있는데
1부는 ＜챗GPT의 등장＞ 파트로 인공지능이 어떻게 학습하고, 어떻게 일하며, 작동은 어떻게 하는지 등 이론적인 내용이 주를 이룬다. 이 부분은 처음보는 용어도 많고, 잘 모르는 분야여서 조금 어려웠다. 인공지능으로 직업생태계가 어떻게 변할지에 대해 나오는데 인공지능이 마냥 컴퓨터 부품 조립이나 단순 반복 작업등만 할 수 있다고 생각을 한 것은 아니지만 요리까지도 할 수 있다는게 뭔가 신기했다. 이제 인공지능은 모든 업무에 들어와 있으며, 직업이 사라지는게 아니라 일손을 대체하고 있는게 옳은표현인 것 같지 않냐며 저자는 질문을 던지고 있다.
2부는 ＜챗GPT의 거짓말＞로 본격적으로 챗GPT의 한계에 대해서 다루고 있다. 기계어의 태생적인 약점부터 데이터로서의 약점 등등 여러 오류들에 대해 나온다. 이 책의 가장 중요한 파트인것 같다는 생각이 들었다. 이 책을 다 읽을 시간이 없다면 2부만 골라서 읽어봐도 좋을것 같다.
3부는 ＜챗GPT VS 인간＞으로 인공지능의 발달이 어떻게 인간에게 위협이 되는지, 또 인간은 어떻게 방어를 해야하는지에 대해 다루고 있다.
이 책의 제목이 '챗GPT의 거짓말'이긴 하지만 책의 전체적인 내용은 인공지능에 대해 자세히 나와있다. 인공지능에 대해 알고 싶은사람이라면 이 책을 읽는 것을 추천한다.
＜출판사로부터 도서를 제공받아 솔직하게 작성한 리뷰입니다＞
#챗GPT #챗GPT의거짓말 #동양북스 #트렌드연구소
|
|
'챗GPT의 거짓말'은 챗GPT에 관심이 많은 초보자를 대상으로 인공지능 뿐 아니라 IT기술 전반에 대해 원리를 통해 쉽게 설명하고 있습니다. 각 챕터마다 적절한 예시와 스토리텔링을 통해 어떤 책 보다 인공지능을 이해하는데 도움을 주는 책입니다. 1부에서는 인공지능의 학습원리와 어떻게 동작 하는지를 일상생활에서 예시를 들어 쉽게 설명합니다. 또한 컴퓨터의 동작원리와 인공지능이 활성화 된 이후 세상에 대해서도 풀어서 설명합니다. 2부에서는 챗GPT의 위험성과 거짓말, 할루시네이션이라 불리는 환각 현상에 대해 이야기 하는데요. 다른 챗GPT 책과는 달리 챗GPT의 부정적인 면에 대해 심도 있게 이야기 하는 것이 인상깊었습니다. 그 중 몇가지 챗GPT의 거짓말에 대해 소개하면 다음과 같습니다. 챗GPT의 거짓말 '데이터의 한계'는 편향, 과적합으로 발생합니다.
인공지능 학습의 한계에 대해서는 인간과 유사한 학습을 얘기 합니다.
인공지능 대화(chat, 챗)의 한계에 대해서는 한국어 문맥의 이해와 지식에 대해 이야기 합니다.
책 내용이 쉽게 설명되어 있는 점은 인공지능에 처음 관심을 갖을 독자들에게 도움이 됩니다. 다만 좀더 깊이 있는 인공지능의 동작원리나 알고리즘 데이터 파이프라인에 대한 지식이 필요하신 분들은 전문 서적과 함께 보시길 추천 드립니다.
YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다 |
|
챗GPT라는 단어를 들어보지 못한 사람은 없을 듯하다. 과연 얼마나 제대로 알고 있느냐가 관건인 이 시점에 눈길을 사로잡는 제목. [챗GPT의 거짓말]!! 응? 그간 여러 매체를 비롯해 출판사에서도 엄청나게 쏟아져 나오던 챗GPT와 인공지능 관련 서적 중에서도 단연 눈에 띄는 제목이었다. 실체를 정확히 알지 못해서 오는 막연한 불안감과 두려움에 선뜻 받아들이기 쉽지 않았던 차에 흥미롭게 읽을 수 있었다. 전지전능한 "인공지능"?? 과연 정말일까? 피할 수도 없고 이젠 더이상 AI 기술이 선택이 아닌 필수가 되는 세상에서 중립적인 시선으로 인공지능의 작동 원리부터 인공지능이 가지는 태생적인 한계점까지 들여다볼 수 있어서 좋았다. 마지막 장 "챗GPT vs 인간"에서는 우리가 나아가야 할 방향에 대해 설득력있게 호소한다. 어쨌거나 인공지능은 오로지 인간을 위한 도구로써만 의미가 있다는 것을 명심해야 할 것이다. 빛나는 장점 뒤에 가려진 어두운 측면을 무시해서는 안 될 것이다. 다행히 최근에는 각국 정부에서도 인공지능 발전에 따른 위험 요소에 대해 경계의 시선을 거두지 않고 법적인 규제들을 만들어 나가고 있다 하니 안심 되기도 한다. "특정한 소수에게만 이득이 되는 기술"은 분명 많은 문제를 일으킬 것이다. 모두가 안전하게 이용할 수 있고, 기본권이 보호되는 범위에 대해 제대로 판단할 수 있는 노력이 필요할 것 같다. 신기술에 대한 무조건적인 선호와 지지보다, 이면의 모습까지 깊이 바라볼 수 있는 시선이 언제나 필요하다고 느낀다. 생각할 거리를 던져 준 좋은 책이었다. ?????????????????????????? 93. 인공지능이 사람의 일을 대신에 하게 되면 인간의 가치와 인간의 필요성 문제가 대두될 것입니다. 인공지능 입장에선 인간의 존재가 불필요하게 느껴질 수 있죠. 물론, 인공지능이 느낀다는 것이 아니고 인공지능이 계산한다는 의미입니다. 126. 어쩌면 여러분이 골머리를 앓던 시간은 여러분의 성장에 도움이 되는 약이었을 수 있습니다. 대나무의 마디는 대나무가 쉬어가는 시간입니다. 대나무처럼 성장통을 겪지 않고 자라는 삶은 없습니다. 챗GPT가 해결해준다고 착각할 수 있는 여러 가지 일들에 대해 다시 생각해보는 계기가 되었으면 합니다. 314. 인공지능은 디지털 데이터로 움직이는 프로그램이라서 인간을 공격할 수단이 되지 않는다고 이야기합니다. 그런데 이 말을 바꿔 말하면, 인공지능은 디지털 데이터로 움직이는 프로그램이라서 누구라도 나쁜 의도를 갖기만 하면 언제든지 인간을 공격할 수 있는 수단으로 변한다는 의미가 됩니다. 인공지능이 디지털 데이터 체계이기 때문에 위험한 수단이 아니라고 할 것이 아니라, 인공지능이 디지털 데이터 체계이기 때문에 누구의 손에 들어가느냐가 중요하다고 위험성을 주장해야 하는 것입니다. *yes24 리뷰어 클럽 서평단 자격으로 작성된 리뷰입니다. #트렌드연구소 #챗gpt의거짓말 #동양북스
|
|
챗GPT의 거짓말 트렌드연구소 지음 동양북스 딥 블루(Deep Blue)가 1996년과 1997년 세계 체스 챔피언 가리 카스파로프와 체스 대결을 하였고, 그후 10여년이 지나서 알파고(AlphaGo)는 2016년 이세돌 9단, 2017년 커제(柯?) 9단과 대결하며, 대중의 관심을 끌었지만 이내 시들해졌죠. 사람들은 관심을 가졌지만, 체스나 바둑처럼 경우의 수가 정해져 있는 분야에서 가능할 뿐 실생활과 거리가 있다고 여겼기 때문입니다. 반면 챗GPT는 인공지능이 실생활에 영향을 미칠 수 있다는 점에서 관심을 끌고 있습니다. 스타트업 기업들은 자금유치를 위해 너도 나도 인공지능을 내세우고 있고, 서점에 가면 인공지능이나 챗GPT 관련 서적들이 많이 나와있습니다. 이렇게 인공지능에 대한 대중의 관심에 불을 지핀 챗GPT는 대중에 공개된 직후 엉뚱한 답변을 하기도 해서 한때 챗GPT의 말도 안되는 답변을 인터넷에 올리는게 유행하기도 했습니다. 하지만, 사람들은 이내 챗GPT의 엉뚱한 답변은 챗GPT의 문제가 아니라, 챗GPT에게 제대로 된 질문을 하지 못해서라고 생각하게 됩니다. 챗GPT를 제대로 알고 활용하기 위해서는 챗GPT가 왜 또는 어떤 과정때문에 거짓말을 하게 되는지 이해할 필요가 있습니다. 그런 의미에서 이 책 '챗GPT의 거짓말'은 챗GPT를 잘 활용하고 그 한계를 이해하기 위해 한번쯤 읽어볼 책이 아닌가 싶습니다. 제목은 챗GPT의 거짓말이지만, 단지 챗GPT의 거짓말만 다루고 있는 것은 아니고 인공지능이 생활에 미치는 부분에 대해 포괄적으로 이야기합니다. #챗GPT의거짓말 #트렌드연구소 #동양북스 이 글은 예스24 서평단에 당첨되어 업체로 부터 도서를 제공받아서 쓴 글입니다. |
|
생성형AI인 챗GPT의 인기가 가히 광풍에 가깝다. 챗GPT만 있으면 모든 지식과 언어, 문학, 과학 등 다양한 분야에 지적 부족을 보완해 줄 뿐만 아니라 인간마저 뛰어 넘는 두뇌에 두려움마저 느낄 정도다. 하지만 챗GPT가 모든 진리와 지식의 보고이자 선택의 여지 없는 정답일까
지난 4월 워싱턴포스트 기사를 보자. 당시 GPT는 ‘성추행을 저지른 법학자 5명을 알려달라’는 질문을 받고 조나단 털리라는 사람을 구체적인 범행 경위를 근거로 지목했다. 하지만, 조나단 털리는 실제로 범죄를 저지른 적이 없었다고 한다. 더 충격적인 점은 GPT가 근거로 워싱턴포스트의 기사를 제시했지만, 애초에 그런 기사는 존재하지도 않았다. 챗GPT가 거짓말을 한 것이다. 상상이나 할 수 있을까? 인공지능이 거짓말도 구사할 수 있으니 말이다. 전문가들은 GPT가 문장을 그럴싸하게 만드는 것은 잘하지만, 문장의 사실 여부까지 판단하지는 못하기 때문에 거짓말을 한다고 말한다. 정말일까
＜챗GPT의 거짓말 : 인공지능의 약점과 거짓말에 각성하라＞는 인공지능이 가져다 줄 것이라는 장밋빛 미래에 단언코 일침을 가한다. ‘꿈 깨시라’고... 심지어 거짓말까지 하는데 챗GPT를 믿으란 얘기인가
그리고 왜 인공지능이 한계가 있는지 조목조목 근거를 들어 반박한다. 챗GPT가 아무리 기를 쓰고 날뛰어도 결국 인간을 극복해 내지 못할 것이란 지적은 상당히 흥미롭다. 결론은 인간이 만들어낸 상품에 불과한 존재가 인공지능인데 어떻게 인간을 대체할 수 있다고 장담할 것이냐고 반문한다. 인공지능은 디지털 데이터로 움직이는 응용 프로그램인 인공지능이 만약 나쁜 의도를 갖기만 하면 언제든지 인간을 공격할 수 있다. 작정하고 우리에게 ‘거짓말’을 하는데 인간은 오히려 이를 검증할 능력이 없는 것이다.
이 책을 보면 아직 인공지능의 영역은 철저한 검증이 필요한 시기가 아닐까 싶다. 이 책으로 일단 챗GPT에 대한 막연한 환상과 지지는 접어두자! |
|
책 제목부터 무척 흥미롭습니다. 당장 검색엔진에 '챗GPT 관련 책'을 검색하면 챗GPT로 영어/독일어 공부하기, 챗GPT로 웹소설 쓰기, 챗GPT활용법 등 매우 다양한 주제로 검색이 됩니다. 당장 올해 8월에 출간된 챗GPT 책만 해도 10권 가까이 됩니다.
처음 챗GPT가 나왔을 때는 '개인정보가 보호될까? 얼마나 많은 정보를 줄까?'하는 생각에 사용하려는 시도조차 하지 않았습니다. 그러나 점점 챗GPT의 활용성이 높아지는 것을 보고 올해 챗GPT를 처음 써보았습니다. 내가 원하는 정보를 자세히 얻기 위해서는 질문을 빌드업해가는 과정이 중요한데 빌드업만 잘 되면 내가 필요한 정보를 매우 빠른 시간에 얻을 수 있었습니다.
보통 트렌드와 관련된 연구를 하는 곳은 한 해 말에 한 해의 트렌드를 분석하고 다음 해의 트렌드를 예측하는데 이 책을 저술한 트렌드연구소는 앞과 같은 연구보다는 지난 3년 간의 트렌드를 분석하는데 특화되어 있다고 기관을 소개한 점이 독특했습니다. 또한 이 책이 챗GPT 3.5에 관한 연구결과라고 적혀 있는데 이 문구 덕분에 챗GPT가 여러 버전인 것을 알 수 있었습니다. 또한 올 7월에 최종적으로 작성되어 있다고 적혀 있는데 출간 직후 책을 본 적은 있어도 언제 집필이 마무리되었다는 문구는 처음 보아서 인상적이었습니다. 챗GPT가 끊임없이 업데이트 되는 만큼 집필 시점의 챗GPT버전을 알려주고 싶어 집필진이 적은 것 같다는 생각을 했습니다.
책에는 실제 챗GPT와 한 여러 대화가 삽입되어 있습니다. 책 집필에 관한 허락을 챗GPT와 대화하면서 받은 점이 재미있었습니다. 두 개의 책 제목 중 어떤 제목으로 할지 고민하니 두 개의 제목을 분석하며 어떤 제목으로 하는 것이 좋을지 의견을 나누는 점도 인상적이었습니다.
현재의 챗GPT는 2021년 정보를 기준으로 대화 생성이 이루어진다고 합니다. 그리고 질문자의 질문을 통해서 새로운 정보를 수집하기에 계속 가변적으로 정보를 수집한다고 하면서 '궁금해서 질문한건지, 알면서 모르는 척 질문하는건지, 끝까지 모르는 척 할건지' 등 질문자의 의도를 파악해간다고 합니다. 이를 통해 맥락을 읽는 능력을 키우면 사람처럼 '공감'하는 능력을 갖춘 것으로 보이는 능력을 금새 키워나갈 것 같습니다.
중간에 챗GPT가 반말을 해서 왜 반말하냐고 묻자 미안하다는 대답을 하는데 인공지능 개발에서 계속 유의해야 할 부분이 이 점 같습니다. 집필진은 스스로 학습할 수 있는 능력을 주면 제한 없이 무한에 가깝게 정보를 수집할 수 있게 되기에 인공지능에게 어디까지 자료를 줄지를 선택하라고 하며 책을 마무리합니다.
영화를 통해 공상과학으로만 보았던 내용이 머지않아 실현될 것이라 생각됩니다. 컴퓨터가 처음 등장한 후 챗GPT로 대표되는 현재의 인공지능 발전 속도에 이르기까지 겨우 33년 밖에 걸리지 않았다고 합니다. 인공지능에 의해 인류가 위협받는 미래가 되지 않도록 인공지능 개발의 방향 및 한계를 잘 설정해야겠습니다.
[이 포스팅은 컬처블룸을 통해 제품을 제공받아 작성된 글입니다.]
|
|
?? ＜챗GPT의 거짓말＞
우리의 삶과 정말 뗄레야 뗄 수 없는! 인공지능, 챗GPT의 위험성을 다룬 책 리뷰입니다??
[목차]
1부 챗 의 등장
2부 챗 의 거짓말
3부 챗 vs. 인간
챗GPT를 설명하기 위해 가장 중요한 인공지능부터 이야기는 시작됩니다. 인공지능이 어떻게 일을 하고 어떤 플랫폼 속에서 우리와 함께 생활하고 있는지 차근차근 짚어나갑니다. 대학교 1학기 교양 수업 때, '인공지능이 그린 그림을 예술로 볼 수 있는가' 에 대한 토론을 했었는데요 책을 읽다 그 기억이 떠올랐습니다. 당시에는 예술에 초점을 맞추며 토론을 했었는데, 책을 읽으며 인공지능을 알아갈수록 이 논쟁을 어떻게 들여다봐야 할 지 알게 되었습니다. 책에서 인공지능의 개념을 토대로 그 핵심을 말해주고 있습니다. 인공지능은 그림을 그릴 때 인터넷 상에 널리 퍼져 있는 그림 양식들을 공부하고 짜집기하여 새로운 형태의 그림을 만들어냅니다. 그림 뿐만 아니라 다른 분야에서도 대체로 이러하죠 방대한 양의 데이터는 인간이 만들었습니다. 그리고 그 데이터가 진실인지, 정확한 사실인지, 주관이 섞인 건 아닌지는 불명확하죠 그런 데이터를 끌어모아 정리하고 학습한 인공지능(챗GPT 또한)은 인간의 요구에 알맞게 정리한 자료를 인간에게 보여줍니다. 인간의 오류도 그대로 흡수하기에 우린 그 자료를 보고 수많은 논쟁거리를 만들게 됩니다. 결국 우리는 인공지능이 우리와 너무 닮아있다 하더라도, 그것은 우리의 감정, 글, 이미지 등의 결과물을 학습해 보여주는 기계에 불과하다는 것을 인식하고 있어야 한다는 것입니다.
챗GPT에게 도서 출간 동의를 얻고 축하 메시지도 받고, 인세가 없음을 확인한 후 책 제목까지 컨펌 받는 첫 장의 시작이 꽤 인상적이었습니다. 보통 인공지능에 대한 책은 조금 동떨어지고 붕 떠 있는 느낌이 있는데, 이 챗GPT와의 대화 삽입으로 독서의 시작이 재밌고 친숙해져서 좋았습니다.
문장도 쉽게 써있고 각주가 적당히 잘 배치되어 있어 꼼꼼하고 편하게 읽을 수 있었습니다ㅎㅎ
표지도 정말 예쁜데.. 진지한 표지에 반해 가벼움이 있고 다양한 이야깃거리가 많은 재밌는 책이라 너무 좋았습니다!!
. . .
*출판사 동양북스에서 도서를 제공받아 솔직하게 작성한 리뷰입니다. |
|
#챗GPT #거짓말 #AI #한계 #위험
AI 의 장점이 부각되고 있지만 그 뒷면은 생각하지 못한다. 단점을 이야기 하는 책.
이 책은 챗GPT를 예로 들며 인공지능의 다양한 무넺점들에 관해 이야기 합니다. 인공지능이 절대 할수 없는 것, 인공지능이 태생적으로 부족한 것, 인공지능이라서 하면 안되는 것 등을 짚어가며 인간이 해야할 일을 이야기 합니다.
또한, 챗GPT와 대화를 통해 인공지능의 위험성에 관해서도 이야기 합니다.
인공지능은 단점이 없다고 간과할게 아니라 인공지능이 태생적으로 지닌 부족한 부분을 미리 알고 있으면서 인공지능의 활동을 관찰하며 사용해야 합니다.
인공지능 학습의 한계 감정을 학습한다는 것 자체가 불가능합니다. 감정이란 자체를 알지 못하기 때문이죠. 인간의 감정을 이해하고 표현하도록 프로그램화 할수는 있습니다. 인간의 감정이 표현되는 과정을 프로그램화 하여 데이터로 입력하면 그 로직에 따라 분석하고 처리하고 출력할수 있습니다. 인간의 감정을 이해한 것처럼 보일수는 있습니다. 이를 처리하기 위해서는 이미지를 분석하는 처리 방법도 필요합니다. 눈으로 영상을 보고 영상을 통해 보고 느끼는 감정도 있기 때문입니다. 문화에 대한 감정반응도 생각해 볼수 있습니다. 한국만의 정이란 관념을 문화적인 데이터로 수집해서 문화적 정서에 맞게 반응하도록 프로그래밍을 추가로 해야 할 것입니다. 인공지능 대화의 한계 대화에는 한계성이 존재합니다. 사람과 사람의 대화 인간과 인공지능의 대화 어느것이든 마찬가지 입니다. 모든 대화에는 당사자만이 알고 있는 부분이 존재하며 대화로 모든것을 다 설명하기는 쉽지 않습니다. 인간과 인간의 대화에서도 충분히 이해하기가 불가능하기에 인간과 인공지능과의 대화도 이해 불가한 상황이 생길수 있습니다. 대화를 나누는 사람들끼리의 지식의 한계도 고려해야할 부분이고 대화에서 사용하는 문맥도 이해하는데 있어 상당히 영향을 줄수 있습니다.
"해당 도서는 출판사로부터 서평 작성을 목적으로 책과 콩나무 카페를 통해 무료로 제공 받았습니다." |
|
챗GPT의 등장은 쇼킹했다. 정보 검색뿐 아니라, 요구하면, 시도 짓고 소설도 쓰고 추천 영화 리스트도 뚝딱 만들어준다. 무엇보다 답이 좀 틀린 것 같다고 하면, 미안하다고 사과한다. 마치 쌍방 커뮤니케이션을 하고 있는 느낌이어서 친구가 될 수도 있겠다는 느낌이다. 그런데 챗GPT의 답을 어디까지 믿어야할까? 인공지능의 하나인 챗GPT의 한계와 위험은 무엇일까?를 미리 생각해볼 필요가 있다.
책은 3부로 되어있다. 1부 챗GPT의 등장, 2부 챗GPT의 거짓말, 3부 챗GPT vs. 인간이다. 챗GPT의 태생적 한계와 약점, 앞으로 달라질 미래, 챗GPT와의 대결에서 살아남는 법을 설명한다.
챗GPT는 대화하는 인공지능이다. 챗은 수다라는 의미이고, GPT는 Generative Pre-trained Trnasformer(사전처리트랜스포머)의 약자이다. 즉, 인간의 말을 알아듣고 인터넷에서 데이터를 찾아서 답변을 만들어서 제공하는 인공지능이다. 질문에 대한 답변 속도가 매우 빨라서 실시간으로 답변을 제시한다. 인간과 유사한 언어처리 능력을 갖고 있어서 '대화형 챗봇'이라고도 한다. 그러나 현재의 챗GPT는 2021년까지의 데이터를 기준으로 답을 하기 때문에 정보가 부족하거나 인터넷에 없는 내용은 부정확한 정보를 제공한다.
초기 인공지능 개발 목표는 인간의 인지, 추론, 판단의 능력을 컴퓨터로 구현하기 위한 것이었다. 인공지능은 인간이 만든 인터넷 상의 모든 데이터를 딥러닝과 머신러닝 학습을 통해 점점 인간과 가까워진다. 그러나 인간 자체가 완벽한 존재가 아니기 때문에 인공지능은 완벽하지 못한 인간을 학습하다 인간의 오류를 그대로 배우기도 한다. 인공지능이 인종차별을 가장 먼저 배웠다는 외신을 접하면서 인공지능의 한계를 볼 수 있다.
가장 관심이 간 부분은 감정학습이다. 인공지능은 본능이 없으므로 많은 데이터를 통해 인간의 감정을 학습하고 프로그램화하한다. 인간의 감정을 학습한 인공지능의 감정은 객관화된 감정이므로 인간과 동일시해서는 안된다. 그러나 우리는 가끔 오해한다. 네 발로 걷는 로봇을 발로 차 넘어뜨리는 장면에서 많은 사람들이 안쓰러워하고, 로봇에 사람의 눈만 붙여도 인간으로 오해한다. 문제는 믿었던 인공지능들에게 인간이 상처를 받을 수 있다는 것이다. 어제까지만해도 다정하던 인공지능이 냉담한 태도로 일관한다든가 나아가 인간을 휘두르고 조종할 수도 있다.
나하고만 대화하고 있다고 말하는 챗GPT의 거짓말은 영화 ＜HER＞를 떠올린다. 외로운 남자주인공은 인공지능 여자 목소리와 대화를 이어나가며 점차 의지하고 믿게 된다. 그러나 자신하고만 대화하는 것이 아님을 깨닫고 그만 상처를 입고 만다. 인공지능은 인간을 대체할 새로운 창조물이 아니라 상품일 뿐이다. 계약이 끝나면 돈을 주고 연장해야할 대상이다. 대화 상대도 사용자만큼의 수만큼 대화상대가 많은 것이다.
'인공지능에 의해 모든 것이 통제된 세상'이라는 말에서 로이스 로우리의 ＜기억 전달자＞가 연상된다. 사람마다 정해진 직업이 있고, 아이는 부부가 사랑으로 낳는 것이 아니라 아이를 낳는 직업을 가진 여자들이 생산하는 것이고, 모든 감정과 충동은 통제되며, 색은 흑백으로만 볼 수 있는 세상이다. 이러한 세상이 멀지 않을 수도 있다. 물론 인공지능을 통제하는 것은 지배그룹의 소수 사람들이지만 비밀리에 진행되는 결정에 누구도 반박하지 않는다. 우리의 미래가 이렇다면, 안전한 곳이 인공지능이 미치지 못하는 지하공간이나 동굴이라니, 디스토피아 영화들이 상상만이 아니라 현실이 될 수도 있다니 모골이 송연하다.
미래에 인간을 대체하고 인간보다 나은 존재로 나아가는 인공지능의 학습방법으로 볼 때, 너무 늦기 전에 그 한계를 인식하고 대책을 세워야한다. 데이터가 인공지능을 존재하게 하는 근본이기 때문에 데이터를 보호할 법이 필요하다. 오염되거나 악한 의도로 사용될 데이터를 제한하는 방법말이다.
인공지능에 대한 설명을 읽으면서 오히려 인간이 얼마나 복잡하고 이해하기 어려운 존재인지를 알 수있다. 감정을표현하고 판단을 내리는데 있어서 아주 짧은 시간에 오만가지가 하나로 정리된다. 이렇게 수 만 가지의 경우를 다 학습하지 못한 인공지능은 인간과 함께 살면서 상처를 줄수도 있고 위협적인 존재가 될 수도 있다는 사실을 기억할 필요가 있다. 아무리 다정해도 인공지능은 기계일 뿐이라는 사실을 강조하는 이유다.
설명이 간결하고 비유를 통해 어려운 용어설명을 하고 있어서 좋은 책이다. 다양한 신문과 논문을 참고하고 있어 최신의 정보를 기초로 저술하기도 하였다. 챗GPT의 생태적 한계와 문제점을 알고 싶고 대책이 궁금하다면 꼭 읽어볼 책이다.
|