인공지능 기술과 산업의 발달로 인해 다양한 형태의 부가가치 창출이나 우리 모두가 일상과 현실에서 느끼는 삶의 편의성이 높아진 것도 사실일 것이다. 하지만 모든 기업들이 자신들의 철학이나 양심, 윤리 및 도덕 등을 지키며 관련한 기술적 정보나 데이터를 사용하는 것도 아니며, 때로는 자신들의 이권을 위해 불법이나 편법적인 형태로도 악용하는 사례도 있는 현실에서 이 책은 구체적으로 어떤 형태의 대응이나 견제, 이를 대중적인 관점에서도 이해하며 해당 사안과 문제에 대해서도 그 위험성과 심각성을 인지해야 하는지, 이에 대해 함께 소개해 주고 있는 책이다.

＜실리콘밸리 길들이기＞ 때로는 특정 국가나 지역 권위나 권력보다 더 높은 수준의 힘과 영향력을 가지는 주체이기도 하며 그렇다고 무작정 미워하거나 부정적으로 평가하는 것도 모순이지만 그럼에도 이를 감시, 견제해 나가는 과정을 통해 더 나은 사회와 미래가치를 지향해 볼 수 있다는 점에 있어서도 충분히 접하며 판단해 봐야 할 것이다. 책에서도 기업들이 처한 현실과 상황을 통해 해당 주제와 키워드를 강조하고 있으며 오히려 우리보다 앞선 의식과 이를 실행하는 계획, 능력 등이 활발하게 이뤄지고 있다는 점도 체감할 수 있어서 새롭게 다가오는 부분도 많을 것이다. 

＜실리콘밸리 길들이기＞ 때로는 사회적, 정치적인 해석도 가능한 영역이라서 신중하고 냉철한 판단력이 요구 될 것이며 그럼에도 방만한 기업 경영이나 빅테크 기업들이 꿈꾸는 부정적인 방식이나 기법 등에는 어떤 유형과 흐름이 존재할 수 있는지도 알아 볼 수 있어서 다양한 관점에서의 가치 판단과 배움의 시간도 가질 수 있을 것이다. 또한 기본적인 경영 및 경제 분야에 대해서도 일정하게 배울 수 있는 책이며 기술 분야의 발전으로 인해 또 다른 양극화나 격차의 발생이 일어날 수 있다는 점도 느낄 수 있어서 우리의 현실과도 비교하며 판단, 평가해 볼 수 있을 것이다.

결국 정보의 독점과 이를 통한 악용, 또 다른 사람들을 감시하게 만드는 빅브라더 사회가 펼쳐질 수 있다는 점을 본다면 책에서 말하는 핵심가치가 무엇이며 이를 어떤 형태로 마주해야 하는지도 함께 접하며 생각해 보자. ＜실리콘밸리 길들이기＞ 어떤 이들은 이를 음모론이자 기업 혐오주의자 정도로 평가할 수도 있겠지만 그만큼 현실에서 충분히 일어날 수 있는 부분을 중심으로 한 소개가 인상적인 책이라서 많은 분들이 접하며 판단해 봤으면 하는 책이다. 요즘 시대에 알아야 하는 다양한 방식과 정보에 관한 가이드라인도 괜찮은 책이라 추천하고 싶은 책이다. 

바야흐로 AI 시대다. 

도처에 AI 정보가 넘쳐나고, 관심이 집중되고 있다. 

물론 AI 는 필요하고, 삶을 풍성하게 하고, 효율적인 부분이 있다는 것은 사실이다. 

그에 정비례해서, 개인 정보 유출, 가짜 뉴스, 불안정성. 적절한 규제의 부재 ..

이런 부분의 위험성도 급격하게 늘어나고 있는 것도 부인할 수 없는 사실이다. 

이 책은 현재 인기있는 생성형 AI 가 무엇이며, 진정으로 원하는 AI 는 어떤 모습이어야 하는지, 그리고 현재의 상황을 만든 자본의 힘, 빅테크 기업들에 대한 비판 (어떻게 사람들과 정부를 속여 왔는지) 을 함께 다루며 논의를 펼치고 있다. 

우리가 단순히 편리하기 때문에 사용하는 AI 툴에 대한 본질적인 접근을 통하여, 우리가 무얼 놓치고 있었는지, 무얼 경계해야 하는지, 어떻게 다르게 접근해야 하는지에 대해서 이야기하며, 우리의 현명한 선택을 이야기한다. 

최근 도처에 AI 가 만들어낸 가짜 이미지와 왜곡이 넘쳐난다.

지브리 스타일의  사진 변형도 이러한 범주에 들어간다.

단순한 호기심과 재미로 접근하지만, 

실제로 이면에는 많은 문제점을 내포하고 있다. 

우리가 보는 것이 사실이 아닐 수 있다, 

우리가 듣는 것이 진짜 소리가 아닐 수 있다, 

특히 알고리즘의 소용돌이에 빠져서 제한된 정보와 왜곡된 정보만을 보게되는 것도 성급하고 무모한 방식으로 개발된 위험에 노출되는 것이다. 

이러한 상황에 대한 이해가 선행되지 않으면, 

AI 에 의해서 조정되는 것이다. 

알게 모르게, 깊이 조정되는 것이다. 

저자는 실리콘밸리는 어떻게 정부를 움직이고, 

규제를 피해 나가며, 

이를 통하여 돈벌이에 집착하는지를 잘 설명해준다. 

이런 내용들을 정확히 알고, 이해함으로써,

대중들이 오히려 실리콘밸리, 빅테크 기업들을 역조정할 수 있다고

저자는 설명하고, 설득한다. 

위험한 시대에 깨어있는 대중이 필요하다는 내용이다. 

책을 읽으면서 AI 위험성에 대해서 새삼 다시 절감하게 되었고, 

저자의 생각에 적극 동의하는 바이다. 

** 책을 제공해주셔서 감사히 읽고 평을 합니다, 

#실리콘밸리길들이기

#tamingsiliconvalley

#게리마커스

#garymarcus

#폭주하는빅테크기업에브레이크를걸다 

#에이콘

실리콘밸리 길들이기 - 게리 마커스

SNS를 하다 보면 특히 X(트위터)에서 AI 그림에 대해서 굉장히 많이 접하고 많은 사람들이 욕을 하는 걸 보고 AI가 도움이 되지 않고 오히려 사람에게 위협이 된다는 것을 생각하게 되었다.

그래서 인스타그램을 하다가 AI에 대해서 더 자세히 알 수 있지 않을까 싶어 이 책을 서평 신청하게 되었다.

그런데 초반부터 부정적인 면들을 보여주는 걸 보고 오히려 더 끌렸다. 

p.17 우리는 AI의 발전을 그저 바라만 보고 있어서는 안 된다. Al의 미래는 정해진 것이 아니라, 우리가 만들어 가는 것이다. 기술이 발전 한다고 해서 무조건 그 길을 따라가야 하는 것이 아니라, 우리가 AI의 방향을 결정해야 하는 것이다.

p.19 현재 모두가 집중하고 있는 생성형 AI에는 심각한 결함이 있다. 바로 진실과 허구를 구분하지 못한다는 것이다.

프롤로그부터 굉장히 인공지능에 대해 경고를 하고 문제점들을 꼬집어주기에 책에 한순간에 빠져들어 읽게 되었다.

1부에서 12가지 위험성 중 

p.74 펜타곤이 폭발했다는 가짜 이미지가 인터넷을 통해 급속도로 퍼지면서 내 경고는 현실화됐다. 단 몇 분 만에 이 이미지를 접한 수천 또는 수억 명의 사람들에 의해 주식 시장이 잠시 휘청거린 것이다. 주식 시장이 흔들린 것이 공매도 세력의 의도적인 움직임이든 아니든, 이는 허위정보가 금융시장 조작에 사용될 수 있으며, 앞으로도 거의 확실히 그렇게 될 것이라는 점을 보여 준다.

저작물 도용과 딥페이크, 목소리 모방 등으로 범죄가 발생하는 등 범죄가 과속화 되어 간다고 한다. 이는 굉장히 우리가 살아가는 데에 있어 전혀 좋지 않은 상황인 걸 나타낸다고 생각한다. 

뉴스에서도 sns에서도 심심찮게 등장하는 주제이기에 좀 더 경각심을 가져야겠다는 생각을 하게 되었다.

Chat GPT가 과제를 할 때 좋다고 하지만 나는 한 번도 쓴 적이 없다. 물론 교양 수업 때 관련 교양이다보니 교수님께서 이용하여 과제를 하라고 할 때 빼고는 자발적으로 쓴 적은 없다.

거기다 지금 여러 문제점들이 나오면서 의도적으로 멀리 하게 되고 눈길도 주지 않으려 노력하게 된다.

2부에서는 기업들이 AI를 대하는 방식이 나온다. 좋게 보이는 기업들이 안타깝게도 없었다. 그나마 하나 고르자면 애플은 개인정보 보호를 위해서 노력을 하고 다른 기업들과는 다른 방침이 있어 다행이라는 생각이 들었다.

이걸 다행이라는 생각을 해야 맞는지 참 의문인 것 같다. 기업들이 앞다투어 우리의 개인정보나 여러 지적 재산권을 빼앗아 가는데 다른 하나의 기업이 그렇게 행동하지 않는 것에 안심을 해야 한다니.

아직까지 AI 관련 법 같은게 제대로 되어 있지 않다는 것도 의문이다.

3부 우리가 무엇을 할 수 있는지에 대한 주제인데 지적 재산이 제대로 보호 받기 위한 법률이 만들어져야 하는 것과 개인 데이터를 통해 기업이 얻는 이익, 데이터가 어떻게 쓰이는지에 대한 것들을 공개하는 것 등등 굉장히 다양한 대책과 자세한 이야기가 나온다.

문제점과 우리가 해야 할 행동들에 대해서 나오기에 참 좋았던것 같다. 문제점에 대해서도 여러 사례들과 함께 자세히 설명이 되어 있고, 해야 할 행동들에서도 자세히 알려주기에 경각심을 가지고 내가 할 수 있는 행동들을 찾아보고 할 수 있는 것들을 해 볼 생각이다.

#실리콘밸리길들이기 #게리마커스 #에이콘 #서평 #서평단 

* 출판사로부터 책을 증정 받아 직접 읽고 주관적으로 작성했습니다.

이 책은 뉴욕대학교 명예교수이자, MIT에서 뇌과학 연구로 박사학위를 취득한 인공지능 전문가 게리 마커스가 쓴 책이다. 그는 과학자이자 베스트셀러 작가인데, 이 책에서도 AI에 대한 깊은 통찰력을 확인할 수 있었다. 현대 사회에서는 GPT나 구글 제미나이, 마이크로소프트사의 코파일럿 등 챗봇을 사용하지 않는 사람을 찾아보기 힘들 정도로 많은 사람들이 AI에 의존하고 있고, 도움을 받고 있다.

하지만 그 AI가 언제까지나 우리 인간의 신뢰를 저버리지 않을 수 있을지, 그리고 언제까지나 인간에게 항상 도움을 주는 존재일지는 이 책에서 의구심을 제기하고 있다. 그저 당연하게만 도움이 될 것이라고 생각하는 AI가, 우리에게 적대적이거나 우리가 생각하는 것과는 전혀 다른 방향으로 나아간다면 우리는 어떻게 대처해야 할까? 이에 대한 인식과 AI 전문가의 설명, 통찰력을 이 책을 통해서 함께 알아볼 수 있었다.

인간과 AI가 어떤 점에서 다른지, 생성형 AI의 한계는 무엇인지, 논리적으로 추론하는 능력을 가진 인간과 아직까지 그러한 능력이 없는 AI 사이에서, 특히 챗GPT를 중심으로 그동안 AI에 대해 알고 싶었던 또 궁금했던 점들에 대한 답을 이 책에서 얻을 수 있었던 것 같다. 세상의 모든 것은 양면성이 있는 것 같다. 

AI는 분명히 도움이 되기도 하지만, 또 단점도 존재할 수 있는 것처럼, 인생의 많은 것들은 독이 되기도 하고 약이 되기도 한다. 과학기술이 발달하고 점점 더 많은 기업들이 빅데이터에 접근하면서, 우리에게 사생활적인 관점에서 어떤 문제가 발생할 수 있을지, 이론이 아닌 현실적으로 처한 위협에 대해서도 이 책을 통해 알아볼 수 있는 시간이었다.

인공지능은 분명 확실한 장점을 가지고 있다. 하지만 위험한 점도 있고, 또 논리적인 추론을 하지 않다 보니 얼토당토않은 결과를 내기도 한다.

이 책에서는 AI가 가진 능력과 한계를 모두 알아볼 수 있는 기회를 제공하고 있다. 특히 71페이지에서는, 생성형 AI가 지닌 크고 급박한 위협 12가지에 대해 구체적으로 설명하고 있으며, 이와 관련된 내용들이 책 전반에 걸쳐 매우 자세하게 다루어지고 있었다. 

지금은 AI 없이는 살 수 없는 시대이고, AI를 다루지 않는 사람도 없다. 이에 따라 많은 직업들이 생겨나고 있고, 일반인들조차도 AI를 전혀 모르더라도 챗봇 없이 살아가는 사람은 찾아보기 힘들 정도로 우리 삶에 AI가 깊이 들어온 상황이다. 이 책을 통해 AI를 공부하고, AI가 가진 한계에 대해서 숙지할 수 있었던 소중한 시간이 되었다.

-출판사로부터 책을 제공받아 주관적으로 작성한 글입니다-

오늘 신문을 보니 다양한 영역에서 AI를 멘토로 활용하는 분위기가 확산되고 있다는 뉴스가 보도가 되고 있습니다. 운동, 다이어트에 대한 조언부터 심리상담은 물론 육아등 영역을 가리지 않고 인류의 일상생활속에서 챗GPT를 활용하여 큰 도움이나 위로를 얻었다는 내용으로 가득 차 있습니다. 그러나 우리는 이런 편안함 속에 감추어진 “인류의 불편한 진실”에 대해서는 생각을 해보신 적이 있을까요?

저자는 프롤로그 처음을 이렇게 시작하고 있습니다. “방향을 바꾸지 않으면, 우리가 알고 있는 사회는 사라질 것이다”. 저자의 이런 인류를 향한 준엄한 경고는 AI의 벡터(Vector)인 크기와 방향에 대한 진지한 성찰과 반성을 통한 모두의 자각이 반드시 필요한 시기라고 생각됩니다.

우선 이 책을 소개하자면, 조물주인 신이 창조한 인간도 불완전 투성이인데, 불완전한 인간이 만든 AI는 어떻겠습니까? “AI에 투영되고 극도로 집약된 인간의 욕망을 가득담은 멈출 수 없는(길들일 수 없는)폭주하는 기관차처럼, 이를 어떻게 통제할 것인가?”라는 질문과 문제의식이 책 전체의 기조라 할 수 있습니다.

저자는 진정으로 AI가 가져올 파괴적인 혁신 방향에 대한 인류의 진지한 성찰과 반성을 우리에게 촉구하고 있습니다. 그래서 다소 냉소적이고 비판적인 시각으로 AI에 대한 실제적이고 실체적인 위험(위협)을 바라보고, AI의 배경에서부터 이의 문제점과 이슈를 냉정하게 파헤치며 인류가 나아가야 할 방향을 제도(법)적 대안 중심으로 제시하고 있습니다. 이런 점들은 이 책의 진정한 가치이자 핵심적인 매력 포인트라 생각됩니다.

저자는 인류에게 진정으로 도움이 되는 AI를 만들려면 지금과는 완전히 다르게 접근해야 함을 강조하고 있습니다. 따라서 현재까지의 기업들이 미래의 모습으로 추구하고 있는 기술적 진화의 방향과 정책적(제도 및 법적) 대안에 대해서는 파괴적인 혁신의 관점으로 접근하고 있어 보입니다.

그래서 AI의 문제점으로 3가지[실리콘벨리(기술산업 전체를 일컫는 전체적인 표현)의 도덕적 타락(기업의 이윤 추구만을 위한 탐욕적 부패), 여론 조정법, 정부정책 조정법]을 도출하고 있습니다.

또한 저자의 통찰이 드러나는 대안의 가장 큰 특징은, 기업과 정부에 대해 수동적인 자세와 태도에서 벗어나, 깨어있는 민주 시민의식을 바탕으로 적극적인 시티즌십(Citizenship)으로서의 권리(Rights)를 주장하고 있습니다. 즉 능동적이고 주체적인 “우리가 요구해야 할 사항”이라는 타이틀을 달고 11개(데이터 권리, 프라이버시, 투명성, 책임감, AI 리터러시, 독립적/다층적 감독, 좋은 AI에 인센티브 제공, 민첩한 거버넌스와 AI 기관의 필요성, 국제 AI 거버넌스, 진정으로 신뢰할 수 있는 AI에 관한 연구)의 법/제도적인 시스템 구축을 제안하고 있는 포인트라 할 수 있습니다.

AI 대전환 시대의 태풍의 눈은 AI와 그의 완성인 AGI(로봇/휴머노이드)이라 할 수 있습니다. 이는 전 세계의 정치, 경제, 사회, 문화등 모든 분야에 쓰나미처럼 다가왔습니다만, 향후 단순히 이에 국한된 문제가 아니라 인간 자체에 대한 실체적 존재의 이슈로까지 대두될 것입니다. 결국 “신을 닮아가는 인간, 인간을 닮아가는 로봇” 에 대한 궁극적이고 본질적인 화두에 다다르게 될것입니다.

AI 시대의 핵심 질문은, “AI 시대의 고도화 및 성숙화가 과연 인류의 바람직한 공존과 공진화의 방향으로 가고 있는가?”라는 것이라 생각합니다. 결국 이는 대전환 시대를 맞이하여 인류가 몇 몇의 패권국가가 아닌 전 세계국가들과 기업들 그리고 시민사회들의 협업을 통한 건강한 생태계의 글로벌 집단 지성으로 풀어내야 할 인류의 도전적인 과제이자 숙제라 할 수 있습니다. 또한 이 모든 과제들은 위기회(위기와 기회를 합성한 말)라는 고달픈 인류의 숙명이 아닌가라는 생각이 듭니다.

진정으로 믿고 싶습니다! 인류의 선택이 절망이 아니라 희망이라고....그러나 과연 바람직한 미래방향으로 인류가 갈것인가에 대해서는 많은 의구심이 드는 건 왜 일까요?

이 책의 누구나 쉽게 접근할 수 있는 내용적 특징을 가지고 있습니다. 따라서 일반 교양서이자 동시에 전문 서적의 두 가지 역할을 아주 충실히 할 수 있으므로, AI에 대해 관심이 있는 모든 독자들에게 인류가 나가야 할 진정한 가치를 찾는 정도(定道)로서 올바른 시각과 관점을 제공하며 미래의 무한한 가능성을 열어주는 좋은 책으로 오랫동안 독자들과 함께하길 바랍니다. 감사합니다^^*

#인공지능 #빅테크 #AI시대 #실리콘밸리길들이기