포토/동영상 (1)
방대한 양의 데이터를 활용한 빠른 분석 능력과 편리함으로 인간에게 혁신적인 생활의 변화를 제공하는 AI이지만, 편리함의 이면에는 여전히 윤리적인 문제가 화두에 오르고 있다. 기술이 발전하는 만큼 악용 사례도 늘어나는 추세인데, 이는 AI도 예외 없이 적용된다. 인간의 삶에 밀접하게 관여하는 만큼 예측 불가능한 방향으로 향하지 않게끔 AI에 대한 깊은 이해와 통제를 위한 전략
"브라이언 크리스천 [인간적 AI를 위하여]" 내용보기
|
방대한 양의 데이터를 활용한 빠른 분석 능력과 편리함으로 인간에게 혁신적인 생활의 변화를 제공하는 AI이지만, 편리함의 이면에는 여전히 윤리적인 문제가 화두에 오르고 있다. 기술이 발전하는 만큼 악용 사례도 늘어나는 추세인데, 이는 AI도 예외 없이 적용된다. 인간의 삶에 밀접하게 관여하는 만큼 예측 불가능한 방향으로 향하지 않게끔 AI에 대한 깊은 이해와 통제를 위한 전략이 필요하다. AI는 선과 악을 분리할 수 없다. 데이터를 학습하고, 학습한 데이터로 가장 정확도가 높은 결과를 도출한다. 선한 의도로 쓰인다면 선한 영향력을, 악한 의도로 쓰인다면 악한 영향력을 행사할 것이다. 이는 휘두루는 사람에 따라 칼이 되어 인간을 찌를 수도 있다는 말이 된다. 이런 양날의 검과 같은 AI를 보다 효율적으로 통제하고 다루기 위해서는 AI에 대한 심도 있는 고찰과 미래 AI 발전 방향의 새로운 모색이 필수적이다. AI에 대한 수많은 질문과 답변이 있었지만, 인간의 행동이 AI에 어떤 영향을 미칠 수 있는지, 또 AI가 옳은 데이터만을 학습한다고 확신할 수 있는지에 대한 내용이 가장 흥미롭고 인상적이었다. AI는 인간이 만들어낸 산물이고, 인간을 위해 존재하는 공학이다. 그런데 그런 공학의 산물이 인간의 통제를 벗어나 주체성을 가지고 판단한다면, 그야말로 가장 공포스럽고 끔찍한 사건이 아닐까. 많은 학자들이 가진 AI를 향한 걱정과 우려, 옳은 발전을 위한 끊임없는 고민들의 결과를 정성스러운 답변과 대화를 통해 참 많이 배우고 공감하고 감탄했던 것 같다. AI라는 용어가 등장한지는 꽤나 오랜 시간이 흘렀지만, 인간의 일상에서 자리 잡기 시작한 것은 비교적 최근이 아닐까 싶다. 요즘엔 주변에서 쉽게 ChatGPT를 통해 정보를 얻고, 원하는 이미지를 구현하는 모습을 쉽게 볼 수 있다. 이렇게 많은 사람들이 다양한 기능을 접하고 유용하게 사용하는 만큼, AI의 미래가 인간적이고 긍정적이었으면 하는 바람이다. AI의 편리성 뒤에는 이렇게 많은 사람들의 노력과 고민이 있음을, 사용자들이 함께 조금이나마 이해하고 고심한다면 기술의 발전이 조금 더 순탄해지지 않을까 싶다. |
AI에 윤리를 심기 위한 철학과 공학의 거대한 도전p450. "들판을 질주하는 수말 같은 인류의 기술력과, 후들거리며 서 있는 망아지 같은 인류의 지혜 사이에 장거리 경주가 벌어지는 중이다" 2018, 보스트롬, 인류미래연구소인간적 AI를 위하여The Alignment Problem:Machine Learning and Human Values1부. 예언들 Prophecy[1] 표현 Representation[2] 공정 Fairness[3] 투명성 Transpar
"인간적 AI를 위하여" 내용보기
|
AI에 윤리를 심기 위한 철학과 공학의 거대한 도전 p450. "들판을 질주하는 수말 같은 인류의 기술력과, 후들거리며 서 있는 망아지 같은 인류의 지혜 사이에 장거리 경주가 벌어지는 중이다" 2018, 보스트롬, 인류미래연구소 인간적 AI를 위하여 The Alignment Problem :Machine Learning and Human Values 1부. 예언들 Prophecy [1] 표현 Representation [2] 공정 Fairness [3] 투명성 Transparency 2부. 행위자 Agency [4] 강화 Reinforcement [5] 조형 Shaping [6] 호기심 Curiosity 3부. 규범성 Normativity [7] 모방 Imitation [8] 추론 Inference [9] 불확실성 Uncertainty 머신 러닝 ① 비지도 학습 ② 지도 학습 ③ 강화 학습 자동조정에 대한 우려 ① 기술의 윤리적 위험에 대한 우려 ② 기술을 통한 더 유연하고 빠른 의사결정에 따라올 위험 정렬문제 Alignment Problem 특정 시스템이 인간의 규범과 가치를 파악하고, 인간이 의도하거나 뜻하는 바를 이해하고, 인간의 명령을 따르는 사실을 보증하는 법을 알아내는 것 600여 페이지 중 본문 내용은 470여 쪽. [인간적 AI는 인간의 몫]이라는 결론을 향해 달려가는 긴 여정. 조금씩 천천히 읽으면서 관조해야 할 책. 초반에 욕심내서 읽다가 체할 뻔^^ 챗 GPT와 자주 대화를 한다. 이 녀석 거짓말 참 잘 한다. 무엇을 물어보면 사실이 아닌데도 사실인 양 답을 척척 내 놓는다. 그래서 어... 그거... 아닌데... 하면서 내용을 보정해 주면, 맞아~ 잘 알고 있네~ 그러면서 답을 수정해서 다시 내 놓는다. 뻔뻔하게시리... 근데 내 입장에서는 거짓말인데, 이 녀석 입장에서는 거짓말이 아니다. 가진 데이터에서 답을 주었고 나는 새로운 내용을 추가해 준 것 뿐이다. 녀석에게 넌 도덕적이지 못해!라고 말할 수 없는 것. 책은 어려웠다. 사용된 용어가 어려웠고, 제시한 예시들을 이해하기 위해서는 계속해서 앞으로 돌아가 지금 이 이야기와 챕터의 제목과 설명하고자 하는 내용의 연관성을 짚어보아야 했다. 그럼에도 재미있었다. 특히나 8장 추론 초반에 18개월 아기가 어른이 도움을 요청하지 않아도, 자신과 딱히 눈을 마주치지 않아도, 보상을 기대할 수 없을 때도 나서서 도왔다는 부분에서, 앞으로 로봇에게서도 이런 도움을 기대할 수 있을까. 로봇은 이런 류의 행동을 학습할 수 있을까... 생각해보기도... 머신 러닝에 대한 방대한 양의 지식을 습득할 수 있는 책. 그래서 파도처럼 밀려오는 AI를 상상하며 막연하게 두려워하기보다는 이해하며 안심할 수 있게 되는 책. 독파할거야! 달려들지 않고 그냥 옆에 두고 천천히 읽어보면 좋을 책^^ 출판사로부터 도서를 제공 받아 읽고 쓴 리뷰입니다. |
이 글은 출판사에서 도서를 제공 받아, 직접 읽고 작성한 리뷰입니다.인공지능은 더 이상 먼 미래의 이야기가 아닙니다. 우리의 일상 속으로 깊숙이 파고들어 챗지피티부터 제미나이까지 때로는 편리함을, 때로는 불안감을 안겨주죠. 브라이언 크리스천의 ＜인간적 AI를 위하여＞는 이러한의 인공지능의 윤리적 위험성, 즉 '정렬 문제(Alignment Problem)'를 탐구합니다. 정렬 문제는 인
"인공지능의 시대, 우리에게 필요한 건 인간적인 질문." 내용보기
   이 글은 출판사에서 도서를 제공 받아, 직접 읽고 작성한 리뷰입니다. 인공지능은 더 이상 먼 미래의 이야기가 아닙니다. 우리의 일상 속으로 깊숙이 파고들어 챗지피티부터 제미나이까지 때로는 편리함을, 때로는 불안감을 안겨주죠. 브라이언 크리스천의 ＜인간적 AI를 위하여＞는 이러한의 인공지능의 윤리적 위험성, 즉 '정렬 문제(Alignment Problem)'를 탐구합니다. 정렬 문제는 인공지능이 인간의 의도를 벗어날 수 있는 위험성을 뜻합니다. 저자는 바로 이러한 딜레마에 대해 묵직한 화두를 던지고자 하죠. 철학부터 컴퓨터 과학, 문학까지 다채로운 학문적 소양을 가진 저자는 인공지능 기술 이면에 숨겨진 복잡한 윤리적 딜레마를 날카롭게 파헤칩니다. 이 책의 가장 큰 매력은 인공지능 단순한 기술적 관점에서 벗어나, 인문학적 성찰을 통해 다각도로 조명한다는 점이에요. 저자는 인공지능 알고리즘의 공정성 문제를 지적합니다. 인공지능이 사회적 편견을 학습하고 강화하는 메커니즘을 심층적으로 분석하죠. 예를 들어, 과거의 데이터에 기반하여 학습된 AI 채용 시스템은 의도하지 않아도 특정 성별이나 인종을 차별할 수 있습니다. 이러한 편향성은 단순히 데이터의 문제가 아니라, 우리 사회의 뿌리 깊은 불평등을 반영하는 것이죠. 저자는 이러한 문제점을 지적하며 인공지능 개발자들이 기술적 해결책 뿐만 아니라, 사회적 맥락과 윤리적 책임을 고려해야 한다고 강조합니다. 인공지능이 인간의 가치관과 어떻게 조화를 이루어야 하는지에 대한 깊이있는 질문을 가지도록 하는 대목이에요. 그렇다고 이 책이 인공지능의 어두운 면만을 부각하지는 않습니다. 인공지능이 가진 무한한 가능성과 긍정적인 측면 또한 놓치지 않죠. 인공지능은 인간이 미처 발견하지 못한 패턴을 찾아내고, 복잡한 문제를 해결하는 데 도움을 줄 수 있습니다. 하지만 저자는 이러한 기술적 진보가 인간의 삶을 더욱 풍요롭게 만들기 위해서는 인공지능이 인간의 가치와 목표에 부합하도록 설계되어야 한다고 주장해요. 책에서는 강화 학습, 모방 학습 등 다양한 인공지능 기술을 소개하고 있습니다. 이러한 기술들이 인간의 의도와 어긋나지 않도록 어떻게 제어할 수 있는지 끊임없이 고민하도록 하죠. 우리는 인공지능이 단순히 인간의 능력을 넘어서는 것이 아니라, 인간의 삶을 향상시키는 도구로 활용될 수 있도록 주시하여야 합니다. ＜인간적 AI를 위하여＞는 단순히 인공지능 기술을 설명하는 서적이 아닙니다. 인공지능 시대에 우리는 어떤 가치를 추구해야 하는지, 어떤 삶의 방식을 선택해야 하는지에 대한 철학적 질문을 던지는 책이에요. 인공지능의 발전은 우리에게 새로운 가능성을 열어주는 동시에 인간의 존엄성과 자유를 해칠 수 있는 양날의 검이 될 수 있습니다. 이 책은 이러한 위험성에 맞서 인공지능이 인간의 가치에 부합하는 방향으로 나아갈 수 있도록 우리 모두가 함께 해야 한다는 메시지를 전달합니다. 인공지능에 대한 관심이 있는 분들에게 가장 추천하며, 특히 앞으로 인공지능의 시대에 살아갈 우리 모두에게 깊은 울림을 줄 작품이라고 생각해요. 기술 발전이 가져올 미래에 대한 깊이 있는 통찰력을 얻을 수 있는 귀한 시간이었습니다. #인간적AI를위하여 #브라이언크리스찬 #시공사 #인공지능 #AI #AI윤리 #머신러닝 |
최근 지브리 스타일 사진 생성 등 AI의 활용과 저작권 및 이용의 도덕성이 이슈가 되었다. AI가 어떤 원리로 작동하는지도 모른채 GPT를 활용만 해왔다. 이번 시공사에서 ＜인간적 AI를 위하여＞라는 책을 발매하며 서평단을 모집해 신청하게 되었다.책은 1부-예언들, 2부-행위자, 3부-규범성 으로 구성되어있다. AI를 어떻게 개발하게 되었는지 그 역사적 배경부터 AI를 제대로 작동시키
"브라이언 크리스천 - 인간적 AI를 위하여" 내용보기
|
최근 지브리 스타일 사진 생성 등 AI의 활용과 저작권 및 이용의 도덕성이 이슈가 되었다. AI가 어떤 원리로 작동하는지도 모른채 GPT를 활용만 해왔다. 이번 시공사에서 ＜인간적 AI를 위하여＞라는 책을 발매하며 서평단을 모집해 신청하게 되었다. 책은 1부-예언들, 2부-행위자, 3부-규범성 으로 구성되어있다. AI를 어떻게 개발하게 되었는지 그 역사적 배경부터 AI를 제대로 작동시키기 위해 어떠한 방식을 거쳐왔는지, 그 AI에게 도덕적인 판단 가치를 부여할 수 있을지에 대한 내용이 실려있었다. 가장 인상깊었던 내용은 머신러닝은 그 배움을 인간에게서 얻기 때문에 인간의 편향된 시각이나 편견, 바이어스를 그대로 배워온다는 것이다. 이는 더 많은 데이터을 입력한다고 해서 늘 올바른 결과값을 가져오지 않는 다는 것을 뜻한다. 더 많은 데이터를 입력할 수록 인간의 사고방식과 다수의 편견을 반영하는 결과값을 낼 수 있는 것이다. 이런 연구 결과는 올바른 방식으로 AI를 교육시키기 위한 수많은 방법론을 만들어냈고, 그 과정을 이 책에서 흥미롭게 언급하고 있었다. 또한 의학에서의 머신러닝 이용도 인상깊었다. CHA2DS2-VASc score는 심방 세동 환자에서 뇌졸중 발생 위험을 예측하는 수단으로 이용되고 있는데, 이 모형은 그저 누군가가 만들어낸 '보그샛법(Bunch Of Guys Sitting Around a Table)' 으로 생각될 수 있고, AI를 잘 활용한다면 새로운 더 정확한 기준을 만들어낼 수도 있겠다는 생각을 했다. 물론 책에 언급 된 것 처럼 더 중증도가 높을 때 더 많은 의료자원을 필요로하고, 더 obsessive하게 치료하게 되므로 사망률이 적게 결과가 나오는 것을 중증도가 높을 수록 사망률이 낮다고 해석하게 되는 오류 등 아직 해결해야할 과제는 많다. 또한 머신 러닝에서 RL(Reinforcement Learning)을 활용하는데, 이를 통해 기계를 학습시키는 과정에서 인간이 학습하는 메커니즘을 반대로 이해하게 되는 것 같다는 생각을 했다. 놀라움 이라는 것이 있어야 인간이 행동을 하게 되며, 도파민은 인간이 기대하는 것과 결과값이 다를 때 나온다는 것도 인상깊었다. 새로움과 놀라움이 인간에게 자극제가 되는 만큼 AI에게도 놀라움과 새로움이 적절한 보상으로 작용한다는 것이 신기했다. 명확한 도덕적 규범이 있어야 AI에게 윤리를 주입과 교육할 수 있을 텐데 우리조차도 무엇이 도덕적으로 옳고 그른지 아직도 결론을 내지 못했다. 이런 상태에서 AI에게 윤리를 알려주고 배우게 하는 것은 쉽지 않을 것이나 AI가 배우는 과정, 그 결론을 도출하는 과정을 우리가 이해하고 적절히 활용해야만 그 결과가 왜곡되지 않고 남용되지 않을 것이다는 생각이 들었다. 평소 관심있는 소재에 대해서 깊이있게, 그러나 재미있게 배울 수 있어서 좋았던 책이다.
|