"본 도서는 출판사로부터 제공받아 솔직하게 작성한 리뷰입니다."

AI가 빠르게 발전하면서 일상에서도 다양한 변화를 경험하고 있다. 하지만 기술이 발전하는 속도를 따라가는 것만으로 충분할까? 이 책은 이 질문을 넘어 AI가 가져올 미래의 위험성과 인간이 지켜야 할 가치에 대해 생각하게 하는 책이다.

이번 책에서는 AI의 위험성을 경고하고 안전한 발전을 위해 노력하는 12명의 인물을 소개한다. 특히 첫 번째 인물인 다리오 아모데이의 이야기를 통해 AI에도 인간을 해치지 않고 정직하며 유익해야 한다는 원칙이 필요하다는 점을 살펴볼 수 있다. 국내 대중 감시와 완전 자율 무기 같은 문제를 접하면서 AI의 능력이 잘못된 방향으로 사용될 때 얼마나 심각한 결과를 가져올 수 있을지 생각하게 되었다.

AI의 발전은 앞으로도 계속될 것이다. 그렇기에 무조건 두려워하거나 막연히 기대하기보다는 기술의 가능성과 위험성을 함께 이해하는 태도가 중요하다고 느꼈다. 무엇보다 AI가 인간의 삶을 더 나은 방향으로 이끌기 위해서는 인간의 존엄성과 안전을 최우선으로 고려해야 한다. AI 시대를 살아가는 우리가 기술의 발전을 어떤 시선으로 바라보고 어떤 미래를 만들어 가야 할지 고민하게 하는 의미 있는 책이다.

#도서협찬

"인류의 AI 개발이 매우, 매우 나쁜 비극(파멸)으로 끝날 확률이 25%에 달한다."

AI와 가장 가까운 곳에서 기술을 개발하는 사람들조차 AI의 미래에 공포를 느끼기 시작했다.

하지만 아이러니하게도 AI 산업의 자원과 인력은 안전 연구보다는 당장 수익을 창출할 수 있는 기술 개발에 집중되고 있다.

"우리가 멈춰도 다른 누군가가 만든다. 다만, 덜 신중하게, 더 위험하게 만들 것이다. 그렇다면 차라리 우리가 앞서서 책임감 있게 만드는 것이 낫다."

엔트로픽의 설립자 다리오 아모데이가 내세운 AI 개발 철학이자, 동시에 외부로부터 비판받는 논리이기도 하다.

이 발언은 지금 AI 산업이 안고 있는 가장 근본적인 모순을 보여준다고 생각한다.

AI가 인류에게 심각한 위협이 될 수 있다는 사실을 알면서도, 경쟁에서 뒤처지지 않기 위해 개발을 멈출 수 없는 현실.

안전을 위해 개발을 계속해야 한다는 논리와 안전을 위해 개발을 멈춰야 한다는 주장이 공존하는 역설이다.

『AI 인물열전 3. AI의 안전망을 구축하는 사람들』에 등장하는 인물들은 모두 같은 문제의식에서 출발한다.

바로 AI의 발전이 인류의 안전을 위협할 수 있다는 것이다.

하지만 AI의 위험을 바라보는 관점과 해결 방법은 서로 다르다.

AI 개발과 인류의 안전을 동시에 추구하는 사람들

고발과 날카로운 독설로 AI 개발을 당장 멈춰야 한다고 주장하는 사람들

무엇이 문제인지 근본적인 질문부터 논리적으로 파고드는 사람들

법과 제도를 통해 AI 개발의 속도를 조절하려는 사람들

이들은 각자의 자리에서 서로 다른 방식으로 AI의 안전망을 구축하고 있다.

얼마 전 뉴욕시의 AI 청문회에서도 한 개발자가 AI로 인한 인류 멸망 가능성을 경고하는 등, AI의 위험성을 알리는 경고의 목소리는 점점 커지고 있다.

하지만 정작 우리의 관심은 그 목소리를 따라가지 못하고 있는 것 같다. 

이 책에 등장하는 인물들의 이름조차 우리에게 낯설다는 사실이 이를 잘 보여준다.

기술은 이미 빠르게 발전하고 있다. 

하지만 그 기술을 안전하게 다룰 수 있는 우리의 준비는 그 속도를 따라가고 있을까?

더 똑똑한 AI를 만드는 경쟁만큼이나, 더 안전한 AI를 만들기 위한 노력이 절실한 시대다.

AI의 발전 속도를 따라가진 못해도 그 방향과 속도에 대해 끊임없이 질문하고 고민해야 하지 않을까.

AI의 미래는 기술자들만의 몫이 아니다. 그 기술이 만들어 갈 세상에서 살아갈 우리 모두가 관심을 갖고 함께 고민해야 할 문제다. 어쩌면 AI 시대에 인류를 지켜낼 가장 중요한 안전망은 기술이 아니라, 위험을 외면하지 않고 끊임없이 질문하는 우리 자신일지도 모른다.

그래서 AI 인물열전 시리즈 중에서도 특히 3편이 더 반갑게 다가온다. 

261030 AI 인물열전, 김경달, 이은북 - 이대로 가면 폭주합니다, AI 개발자가 직접 브레이크를 밟은 충격적 이유

261030 AI 인물열전, 김경달, 이은북 - AI의 브레이크를 찾아서

#도서제공

AI 기술이 가속 페달을 밟으며 폭주할 때, "잠깐, 여기서 멈춰 서야 한다"고 경고하며 브레이크를 연구하는 사람들이 있다. 김경달 저자의 《AI 인물열전》 3권은 AI의 위험성을 통제하고, 넘지 말아야 할 선을 구축하려는 12인의 인물과 법·제도적 담론을 담아낸 책이다. 그 기술의 통제는 누가, 어떻게 할 것인지에 대한 내용이다.

1권에서는 아무도 인정하지 않을 때 연구하고 뼈대를 세우면서 AI의 태동을 이끌어낸 이들을 소개했다. 2권에서는 그 시장의 가장 끝에서 알만한 젠슨 황, 마크 저커버그, 손정의 등 시장 설계자들을 살펴보았다. 3권은 넘지 말아야 할 선을 다루는 이들이  안전과 규제를 외치며 법과 제도로 구축하려는 시도를 엮었다. 1·2권이 기술의 '속도'와 '거대 자본'에 집중했다면, 3권은 그 속도가 가져올 궤도 이탈을 막는 '방향키'와 같다.

새로운 변화의 가장 가까이에 있는 이들이 안전의 경계를 세우면서 경고나 내부고발, 지지나 독립으로 시스템을 만들고 자신만의 목소리를 내고 있었다. 

특히 엔트로픽의 다리오 아모레이 편이 기억에 남는다. 아모데이를 비판하는 이가 없지는 않다. AI헌법을 만들어 창조자에게도 아니라는 대답을 할 수 있게 만들었다. 

안전망에 대한 노력과 방향에 대한 부분은 더 지켜봐야 겠다. 매의눈으로! 개발자가 기술의 위험을 스스로 경고하고, 피조물(AI)에게 창조자의 명령을 거부할 권한을 부여한다는 역설은 기술 독점에 맞서는 인간다운 통제 방식이 아닐까 싶었다. AI 모델을 개발하면서도 AI의 위험성을 꾸준히 경고해온 행보가 이어지기를 바란다. 

상업적인 기업들이 이런 주류의 흐름을 이끌어 가면서 누가 그 경계선을 세우지라는 고민은 늘 있었다. 이번 책은 이 시리즈의 세번째 책으로 그 부분의 고민을 해결해나갈 수 있는 책이었다. 조직 내의 개인으로서의 사람으로도, 규제하려는 제도적인 측면으로도 두 가지를 다 이미 해 오고 있었지만 실제적으로 눈으로 드러나거나 하는 부분이 아니었기에 (혹은 나의 식견이 짧거나 무지의 일부로) 더 공감이 되는 부분이었다. 

한 줄 평, AI의 브레이크를 걸어 경고와 안전을 말하는 최극단에서 일하는 이들과 법적 규제의 필요성을 이들의 이야기를 들려주는 책이다. 

인간이 AI시대에 세울 그 경계선을 잡는 책이라서 도덕, 윤리, 경계와 울타리를 고민하는 모든 이들에게 전하는 이야기다. 결국 AI의 브레이크를 쥐는 것은 몇몇 천재나 제도가 아닌, 기술을 소비하고 감시하는 우리 모두의 윤리적 감각이어야 함을 일깨워준다.

© 자소월(自素月), 스스로 뜨는 하얀 달

— 책의 문장으로 현실을 읽습니다

#AI인물열전3

#김경달지음

#이은북

#AI브레이크

#AI책추천

AI가 얼마나 빠르게 발전할 수 있을까.

그보다 더 중요하게 생각해야 할 질문은 AI가 어디까지 나아가도 괜찮은가.

이 책을 읽으며 새삼 깨닫게 된 질문이다 

AI인물열전3 편에서는 AI 기술의 발전을 이끄는 사람들뿐 아니라, 그 위험을 살피고 안전한 미래를 고민해 온 12명의 이야기를 담고 있다.

⠀

AI의 가능성에 주목하는 사람들 사이에서 기술의 부작용을 예측하고, 윤리와 안전을 위한 기준을 세우려는 사람들.

이 책은 AI 시대에 왜 이들의 목소리에도 귀 기울여야 하는지를 보여준다 

⠀

소수의 기업과 자본에 집중되는 기술의 힘, AI가 사회와 인간의 삶에 가져올 변화, 기술 발전에 뒤따라야 할 책임과 윤리까지.

평소 AI를 주로 편리한 도구로 생각해 왔는데 이 책은 그 너머를 바라보게 한다. 기술이 발전할수록 그것을 사용하는 인간의 판단과 사회적 안전망이 얼마나 중요한지도 생각하게 된다.

⠀

특히 인상 깊었던 건, 가속 페달을 밟는 사람들만큼이나 브레이크를 고민하는 사람들도 필요하다는 사실.

더 빠르게, 더 많은 것을 가능하게 하는 기술이 반드시 더 나은 미래를 보장하는 것은 아니기에 발전의 속도만큼이나 그 방향을 살피는 일이 중요하다.

⠀

결국 더 나은 미래를 만드는 것은 기술 자체가 아니라 그 기술을 어떻게 만들어 가고 활용하는냐에 달려 있는지도 모르겠다.

-

＜AI 인물 열전 3 - AI의 안전망을 구축하는 사람들＞ 김경달, 이은북

🧯

AI 기술을 연구하고 실제 업무에 적용하는 일이 일상이 된 가운데, 솔직히 하루에도 몇 번씩 복잡한 감정에 휩싸이곤 한다. 이전에는 며칠씩 걸리던 작업이 몇 초 만에 풀리는 사실에 엄청나게 감탄하기도 한다. 하지만 출력된 결과물을 하나하나 검증하다 보면 기술의 발전 속도를 과연 우리가 제대로 통제하고 있는지 의구심이 드는 것도 사실이다. 이 책, 『AI 인물 열전 3』은 현장에서 느끼는 그 찜찜함을 해소해줄 수 있는, 기술의 윤리와 안전을 위해 노력하는 사람들에 관한 이야기였다.

🧭

이 책에서 소개하고 있는 열두 명의 AI의 안전망을 구축하는 사람들은, 기술을 배척하는 비관론자라고 보기는 어렵다. 누구보다 AI의 최전선에서 연구를 이끌었거나 그 파급력을 가장 가까이서 목격한 전문가들이니 말이다. 흥미로운 점은 책에 등장하는 사람들 모두 ‘안전’을 말하면서도 각자가 바라보는 위협의 층위는 조금씩 다르다는 사실이었다. 먼 미래에 도래할 초지능의 통제 불능과 인류 멸종을 경고하는 이들이 있는가 하면, 당장 지금 벌어지고 있는 데이터 편향, 차별, 플랫폼 노동의 문제를 지적하는 이들도 있었다. 장단기적 관점에서의 AI 안전과 윤리에 대해 생각하는 사람들이 다양하게 있다는 것은 참 고무적인 일이란 생각이 들었다. 초지능이 인류를 위협한다는 미래의 경고와 당장 벌어지는 차별이나 일자리 문제를 나란히 들여다 볼 수 있어서 아주 좋았다. AI 안전이라는 개념이 생각보다 훨씬 넓고 복잡한 문제라는 걸 깨닫게 된다.

🛟

특히 스튜어트 러셀이 지적하는 ‘목표 설정(Alignment)’의 문제는 실무적으로도 상당히 와닿았다. 우리는 AI에게 명령을 내릴 때 의도가 명확하다고 믿지만, 사실 인간의 언어에는 수많은 상식과 사회적 합의, 맥락이 생략되어 있다. 단순히 빠르게 처리하라는 주문에 공정성과 정확성, 누군가의 수고를 헤아리는 태도까지 담아내기는 사실상 불가능할 것이다. 벤치마크 성능이 올랐다고 해서 기계가 그 생략된 맥락까지 이해한 것은 아닐 것이다. 위험을 알기 때문에 우리가 먼저 주도권을 쥐어야 한다며 개발 경쟁을 가속하는 빅테크의 모순된 논리를 짚으며, 기업의 선의에 기대기보다 명확한 검증 기준과 책임 소재를 세워야 한다는 지적도 아주 명쾌하게 와닿았다.

🧭

새로운 모델의 출시 소식과 화려한 성능 지표가 연일 쏟아지는 요즘, 의도적으라도 AI에 브레이크가 필요하다고 외치는 이들의 목소리는 생각보다 귀한 것 같다. 인물마다 제시하는 해법에 다소간의 차이는 있었지만, 적어도 기술의 질주에 취해 잊기 쉬운 기본 전제를 다시 점검하게 만드는 그런 책이었다. 책을 덮고 나니 이제는 새로운 AI 도구를 마주할 때 이걸로 무엇을 더 빠르게 해낼 수 있을까를 묻기 전에, 이 도구에 어디까지 책임을 맡겨도 안전한가를 잠시라도 생각해봐야겠다. AI 기술을 다루는 사람이라면 모두가 자문해야하는 일이 아닌가 싶다.

* 이 책은 띵북서평단(@thing_book)에서 제공받았습니다. 이 글은 보내주신 책을 탐독 후 주관적으로 작성된 서평입니다.]

출판사 : 이은북(@eeunbook)

#AI인물열전3 #김경달 #이은북 #띵북서평단 #서평단

본 도서는 출판사로부터 도서를 제공 받았습니다. (이은북 / 띵북) 그래도 솔직한 후기 시작합니다. 

다른 ai책도 같이 읽어봤는데 이게 제일 재밌습니다.

 이 책이 좋았던 이유 & 특징

1. 뉴스 보는 재미가 생김 

평소 얼굴이나 이름을 잘 못 외우는 편인데, 이 책을 읽고 나니 뉴스에 나오는 AI 관련 인물들을 알아볼 수 있게 되어 신기하고 재밌습니다.

 2. 역사 연표처럼 매끄러운 흐름 

학교 다닐 때 역사, 국사 공부할 때 연표를 외우듯, AI의 역사와 사건 기록이 바이블처럼 매끄러운 흐름으로 정리되어 있어 인지가 잘 됩니다.

3. 딱딱하지 않고 흥미진진한 스토리 

사람과 사람 사이에 얽힌 사건, 사연, 업적들이 재미있게 풀어져 있어 어렵지 않습니다.  

마치 친구와 수다 떨듯 "일리야 수츠케버가 샘 올트먼을 몰래 해고했다며?" 같은 가십처럼 자연스럽게 아는 척, 똑똑한 척이 가능해집니다.

 4. AI 시대의 깊이 있는 통찰 제공 

AI 시대의 거침없는 고발, 독설, 수학적 방정식, 거시적 철학, 정직한 질문들을 던져주며 안전을 위한 법과 규제를 세운 12명의 인물을 다루고 있습니다.  

이 책을 읽으면 어디 가서 AI 관련 토론을 가볍게 소화할 수준이 된다고 생각 합니다. 그래서 가끔 뉴스 보다가 남편이랑 Ai 관련 토론도 나누고 아는척도 좀 하게 되네요 ㅎㅎ

본 도서는 출판사로부터 제공받아 솔직하게 작성한 리뷰입니다.

AI는 이제 뉴스 속 기술이 아니라 일상 속 도구가 되었다. 검색을 하고, 글을 쓰고, 일을 처리하는 방식까지 빠르게 바뀌고 있다. 그런데 문득 이런 질문이 들었다. 우리는 AI가 얼마나 빨라지는지에는 관심이 많지만, 그 속도만큼 안전에 대해서도 고민하고 있을까?

AI 인물열전 3은 바로 이 질문에서 출발하는 책이다. 연구자를 다룬 1권, 기업가를 다룬 2권에 이어 이번 3권에서는 AI 기술의 한가운데에서 위험을 감지한 연구자들과, 바깥에서 법과 제도로 울타리를 세우려는 사람들까지 12명의 인물을 조명한다. 다리오 아모데이, 일리야 수츠케버, 스튜어트 러셀처럼 이름은 들어봤지만 그들이 무엇을 걱정했는지는 잘 몰랐던 인물들의 생각을 따라가다 보면, AI를 바라보는 시선이 한층 넓어진다.

가장 흥미롭게 읽은 부분은 앤트로픽의 탄생과 클로드의 진화, 그리고 오픈AI 내부의 경영 갈등이었다. 같은 목표를 향해 출발했던 사람들이 안전을 바라보는 관점 차이로 갈라서고, 각자의 방식으로 답을 찾아가는 과정은 한 편의 드라마처럼 읽혔다. 동시에 기술 기업들이 성능 경쟁 속에서 안전을 어떻게 평가받고 있는지 살펴보면서, 기술의 발전과 안전이 반드시 같은 속도로 나아가지는 않는다는 사실을 실감하게 되었다.

스튜어트 러셀이 강조하는 AI 정렬 문제도 오래 생각하게 만든 대목이다. AI가 인간의 명령을 그대로 잘 수행하는 것만으로는 충분하지 않으며, 인간이 정말로 원하는 가치와 어긋나지 않도록 설계하는 일이 훨씬 더 어렵고 중요하다는 것이다. 더 똑똑한 AI를 만드는 경쟁은 이미 시작되었지만, 그 AI를 통제 가능한 범위 안에 두는 일은 아직 충분한 주목을 받지 못하고 있다는 점에서 이 책의 문제의식은 더욱 묵직하게 다가왔다.

이 책에 등장하는 인물들은 서로 다른 주장을 펼치면서도 결국 같은 곳을 바라본다. AI가 인류에게 이로운 방향으로 발전하려면, 누군가는 반드시 멈춰 서서 방향을 점검해야 한다는 것이다. 결국 AI의 미래를 결정하는 것은 얼마나 빨리 가느냐가 아니라 어디로, 어떻게 가느냐다.

AI를 단순히 편리한 도구로만 바라봤던 사람이라면, 이 책을 통해 기술 뒤편에서 안전을 고민해 온 사람들의 이야기를 꼭 만나보길 권한다. 가속 페달을 밟는 사람만큼 브레이크를 고민하는 사람이 왜 필요한지, 그 이유를 분명하게 알려주는 책이다.

#이은북 #서평 #AI인물열전3 #AI #인공지능 #AI윤리 #AI안전 #AI정렬 #앤트로픽 #AI리터러시 #책스타그램 #북스타그램 #도서리뷰

AI가 세상을 바꾼다는 이야기는 많이 들었지만, 누가 AI의 폭주를 막을지는 깊이 생각해 본 적이 없었다. 와! 이 책은 그런 질문을 던진다.

특히 스튜어트 러셀의 'AI 정렬' 이야기가 인상 깊었다. AI가 인간의 명령을 완벽히 수행하는 것이 오히려 위험할 수 있다니! 보안 업무를 하면서 기술만큼 통제와 관리가 중요하다고 느꼈던 경험과도 맞닿았다.

12명의 인물을 통해 AI의 위험과 책임을 쉽게 이해할 수 있다는 점도 매력적이다. AI를 활용하는 직장인이라면 관심 있는 인물부터 읽고, 우리 조직에 필요한 AI 안전장치는 무엇인지 생각해 보길 추천한다.

#AI인물열전3 #김경달 #이은북 #AI안전 #인공지능 #AI윤리 #AI거버넌스 #책스타그램 #북스타그램 #책추천 #서평단



지금까지의 ai시리즈 중 가장 길었던 책이자 하이라이트였던 책이다. 학자들은 모두가 조금씩 다른 주장을 하면서도 공통적으로 지향하는 바는 '안전'이다. AI가 안전을 지키지 못하고 벗어난다면 우리 인류의 안전을 위협한다는 것이다. 가장 처음로 눈에 띄었던 말은 수츠케버가 한 말 "오늘날의 대형 신경망은 어쩌면 약간의 의식을 가지고 있을지도 모른다(May be a slight bit conscious)." 이 말에 대해 chat gpt에게 의견을 물었더니 흥미로운 답변을 내놓았고 나도 열띤 토론을 했었더랬다. 또 인상깊었던 부분은 닉 보스트롬의 질문이었다. AI가 질병을 정복하고, 빈곤을 없애고, 인간이 하던 모든 노동을 대신하는 세계. 그 세계는 유토피아일까, 아니면 삶의 의미가 텅 비어버린 거대한 진공상태일까? 이 질문은 내가 계속해서 되묻고, 또 되물을 것이다. 그 외의 학자들이 말한 주장들은 책 속에서 확인하고, AI를 안전하게 사용하는 방법을 탐구해보기를 바란다. 추천, 또 추천!!