인간이 강력한 도구를 개발한 건 AI가 처음이 아닙니다. 어느 시대에서든 인간이 개발한 강력한 도구는 늘 선과 악의 양면적 결과를 가져왔어요. 예를 들어 전기의 경우 이전에 발명된 그 어떤 기술보다 더 많은 사람들에게 빛과 따뜻함을 가져다주었습니다. 그러나 동시에 시장 경제하에서 불평등을 야기하는 요인이 되기도 했죠. AI도 마찬가지라고 봅니다. AI 기술은 인류에게 매우 큰 선익을 가져다줄 수 있고 모든 이가 그 효용을 누리도록 하는 잠재력을 지니고 있습니다. 하지만 분석 가능한 데이터와 비즈니스 모델을 갖춘 사람들이 부와 권력을 독점하게 만들 수도 있어요. 그래서 저는 AI 기술이 선악을 결정하는 유일한 요소가 아니라 전체의 한 부분이라고 생각합니다. AI 기술과 관련된 정책을 수립하고, 규제를 확립하고, 시민사회가 참여함으로써 전체가 이루어지는 것입니다. AI 기술이 그저 방치되는 것이야말로 제가 진심으로 걱정하는 일입니다.
---「신인류의 미래」중에서

사람들은 흔히 저와 같은 윤리학자가 공학자나 과학자들과 어울려 시간을 보내면 제가 그들에게 “좀 천천히 합시다”, “그 일은 멈추는 게 어떨까요?”, “그게 정말 좋은 생각이라고 확신할 수 있나요?” 하는 식으로 딴지를 건다고 생각합니다. 또 그렇게 하는 것이 윤리학자의 역할이라고 생각하고, 마찬가지 방식으로 철학자들도 기업의 움직임에 제동을 건다고 생각하죠. (...) 저는 윤리란 누구도 피할 수 없는 것이라고 생각합니다. 우리 모두가 도덕적 잣대를 지니고 있고, 개인적인 일상에서나 직장 생활에서 윤리적 문제를 마주하게 됩니다. 저는 무엇이 옳고 그른 일인지 결정해주는 전문가가 아니라, 개인적인 삶과 사회적인 삶에서, 그리고 특히 기술 진보의 최전선에서 불가피하게 가치가 상충할 때 필요한 윤리적 관점의 틀을 제공하는 사람이고 싶습니다.
---「피할 수 없는 딜레마」중에서

사람의 몸은 그대로인데 뇌 기능이 정지되어 AI 로봇에 장착하는 인공 뇌를 이식한 경우, 반대로 몸은 전부 기계인데 사람의 뇌를 이식한 경우, 둘 중 어느 쪽을 사람이라고 봐야 할까요? 아니면 그 어느 쪽도 사람이 아닐까요? 단번에 쉽게 답을 내릴 수 없는 심오한 질문, 즉 존재, 인간, 책임, 정의, 삶과 죽음 등과 같이 아주 근원적인 것에 대한 질문입니다. 하지만 이러한 질문이 AI 시대에 새롭게 등장하게 된 것은 아닙니다. 사실 인류의 문명이 시작되었을 때부터 꾸준히 탐구해온 철학적 주제죠. 기존 사회의 모습을 혁신적으로 변화시키는 첨단 기술의 시대, 그 변화로 우리가 지녀온 생각의 틀이 지각변동을 일으키는 지금이야말로 더 깊이 있는 철학적 사유와 윤리적 논의가 필수적으로 요구되는 시점입니다.
---「AI 시대의 철학자들」중에서

소셜 미디어에서 게시물의 우선순위를 결정하는 알고리즘이 갈등을 일으키거나 부정적인 감정을 유발한다면 어떻게 해결해야 할까요? 이 문제의 답은 명확하지 않습니다. 누군가가 “대다수 사람들이 이 비디오게임에는 대표 캐릭터가 없다고 생각한대”라고 말할 경우, 그것은 진짜 대표적인 의견이 맞을까요? 혹은 그 말을 믿는다면 우리가 무엇을 어떻게 해결하는 것이 좋을까요? 그렇다면 이 게임은 서로가 서로의 것을 차지해야만 이길 수 있는 제로섬 게임이라고 생각해야 할까요? 혹은 캐릭터의 방식을 바꾸면 그것을 대표 캐릭터라고 느끼는 특정한 유저들이 나타날까요? 그래서 저는 이와 같이 옳고 그름이 명확하지 않다는 점이 엔지니어들로 하여금 ‘아, 그만하고 싶다. 이런 모호한 것을 배우러 학교에 온 게 아닌데’라고 생각하게 만든다고 여깁니다. 하지만 저희가 임베디드 에틱스를 통해 학생들이 생각해보도록 권유하는 내용은 바로 질문을 하게 하는 것입니다.
---「융합의 시작」중에서

인간은 수많은 편견과 모순으로 가득한 존재입니다. 이는 인간을 모방해 정보를 습득하고 학습하도록 프로그래밍된 AI 또한 인간의 편견을 확대?재생산할 수 있다는 의미이기도 합니다. 그러나 인간의 편향성, 편견이라는 주제에는 깔끔하게 떨어지는 정답이 없는 수많은 질문이 뒤얽혀 있습니다. 물론 어떤 편향이나 편견이 특정 집단 또는 개인을 부당하게 대할 위험이 있는 경우라면 그 부정성에 주의를 기울여 접근하는 것이 옳겠지만, 편향이나 편견 자체가 좋은지 나쁜지에 대한 질문은 다른 차원의 문제입니다. 편향성이 꼭 나쁜 것은 아니고 나름의 필요로 인간이 지니고 있는 것이라면, AI에도 그대로 반영하는 것이 맞을까요? 아니면 부정적 측면이 더 많으니 AI에 적용할 때는 편견을 완전히 제거해야 할까요? 그런데 우리가 기술적으로 편견이라는 요소를 통제할 수 있을까요? 통제할 수 있다고 해도, 그렇게 조작하는 것이 과연 올바른 일일까요? 또 우리는 편견이 완전히 제거된 AI를 더 공정하고 윤리적인 AI, 좋은 AI라고 말할 수 있을까요?

<b>“지금까지 경험하지 못한 세상을 준비하라”<br/>과학 너머의 인류 미래를 향한 거대한 질문과 성찰</b><br/><br/>대한민국을 대표하는 지성으로 꼽히는 (故)이어령 선생이 삶을 마무리하며 주목한 주제는 다름 아닌 ‘인공지능’이었다. 그는 2016년 알파고의 등장 이후 영면에 들기까지 대부분의 시간을 AI에 대한 원고를 집필하는 데 몰두했다. 인공지능과 한국의 미래를 걱정하며 ‘너 어떻게 살래?’라는 질문을 던졌던 그의 통찰은 예상보다 빠르게 적중했다. 실제로 팬데믹이라는 유례없는 사건 때문에 인공지능의 도입 속도는 빨라졌다. 덕분에 우리의 삶은 편해졌지만, 동시에 인간이 오랫동안 유지해 온 윤리 체계를 파괴하고 인간 존엄을 위협하는 등 새로운 문제가 발생하기 시작했다. 효율성 및 통제를 위해 설계된 AI의 감시 및 데이터 시스템은 프라이버시 침해 위험, AI에 의한 사람들의 일자리 대체는 경제적·디지털 격차로 인한 사회적 불평등, 시민들이 통제 불능의 사이버 범죄와 전쟁에 노출될 가능성 등 지금껏 인류가 맞닥뜨려본 적 없는 문제에 답을 찾아야 하는 중대한 시점이다. <br/><br/>대한민국 대표 인공지능 전문가인 윤송이 박사가 세계적 화두인 ‘인간과 AI의 새로운 공존’이라는 주제를 꺼내 들었다. 《가장 인간적인 미래》에서는 AI와 인류의 미래를 고민하는 철학자, 사회학자, 윤리학자, 공학자 등 다양한 분야의 세계 석학들과 함께 인류가 나아갈 길을 모색한다. 대담에 참여한 석학들은 “지금은 AI를 향한 윤리적 관점의 필요성을 논의하는 단계를 넘어, 새 시대의 AI를 위한 철학을 재정립해야 할 때”임을 강조하며, 새 시대는 모든 학문의 경계를 무너뜨릴 때 비로소 가능하다고 주장한다. ‘AI는 공학의 갈래’라는 기존의 틀에 박힌 공식을 완벽하게 깨는 이 책은 윤리, 사회, 철학, 교육, 공학 등 종합적인 관점으로 새롭게 전개될 미래를 그려 나간다. <br/><br/><b>“학문의 경계가 무너질 때, AI가 인간을 돕는다”<br/>공학을 넘어 철학, 인문, 사회, 교육까지<br/>세계 지성들이 학문의 경계를 넘어 그리는 미래 지도</b><br/><br/>《가장 인간적인 미래》는 정치학자, 철학자, 컴퓨터과학자 등 각 분야의 대표 지성들이 모여 AI 기술을 바라보는 새로운 관점을 제시한 엔씨소프트의 ‘AI 프레임워크(Framework)’ 시리즈를 엮었다. 총 다섯 번의 대담으로 이루어진 이 시리즈는 누적 조회 수 170만을 기록하며, 우리 사회의 가장 중요한 주제를 시의적절하게 공론화한 콘텐츠로 평가받는다. 이 책의 가장 큰 특징은 과학 분야의 영역으로 여겨졌던 AI를 인간과 사회의 영역으로 확장했다는 것이다. 또한 AI 미래를 진단하고 예측하는 콘텐츠는 많았지만 대부분 다가올 미래를 불안하게 조망하거나 경고하는 데 그쳤다면, 이 책은 세계 석학들과 학문의 경계를 넘어 새로운 해법을 나누며 차별화된 사고와 더 넓은 시야를 선사한다. 가령, AI 기술의 발전으로 벌어지는 윤리적 문제의 심각성에 주목하는 것이 아니라, 정부와 학계 그리고 기업의 역할을 묻는 등 이제까지와는 다른 통합적 접근법으로 새로운 관점을 제시한다. <br/><br/>대담을 이끈 윤송이 박사는 “사회적 규범과 인간에 대한 이해가 통합적으로 이루어지지 않는다면, 인공지능과 함께 살아가게 될 인류는 차별과 혐오, 책임의 부재, 인간성 상실, 윤리 기준의 해체로 갈 수밖에 없다”고 촉구하며, 각각의 대담을 통해 다가올 미래를 내다보고 세상의 변화에 공헌할 수 있는 인류의 과제를 새로운 관점으로 바라볼 수 있도록 우리를 초대한다. 지금 세계가 어떻게 움직이고 변화해가는지 입체적인 시각에서 조망하고 싶은 독자라면, 이 책에서 가장 뜨거운 쟁점과 해법을 만날 수 있을 것이다. 팬데믹으로 앞당겨진 유례 없는 AI 시대, 거대한 흐름 속에서 새로운 가능성을 발견하는 계기를 이 책을 통해 얻기를 바란다.

“이 책은 복잡하고 불확실한 시대에 당신만의 지적 무기가 될 것이다.”

“새로운 세상의 규칙, 위험과 딜레마, 편견의 극복…. 최적의 알고리즘만 찾던 공학자는 필연적으로 철학자의 손을 잡고 지도를 그려나가게 된다.”

“당신은 책장을 넘길 때마다 세상에 없던 질문을 마주하게 될지도 모른다. 하지만 불확실한 미래를 누구보다 먼저 그리고 싶다면, 반드시 필요한 질문이다.”

“‘가장 인간적인 미래’는 저자가 추구하는 지향점이며, 인간 중심의 AI를 위해 우리가 풀어야 할 과제가 무엇인지 돌아보는 데 필요한 인사이트가 이 책에 담겨 있다.”

“이 복잡하고 중요한 문제를 어떻게 풀어갈지 제시하는, 이 시대에 꼭 필요한 ‘지도’와도 같은 책이다.”

“이 책은 AI와 친숙한 사람은 물론, 인간의 삶이나 사고에 대해 고뇌하는 인문학자에게도 많은 영감을 줄 것이다.”

“이 책은 우리가 화려한 성과에 취해 AI가 사회에 미치는 영향을 간과하지 않았는지 일깨워준다. AI의 윤리적 이슈와 사회적 책임에 대한 고민과 대책이 필요한 지금, 이 책은 좋은 화두와 길잡이가 될 것이다.”

“컴퓨터 과학에서 출발한 AI가 경제·교육·행정 등 여러 분야와 융합하는 현 추세를 이해하는 데 요긴하다. AI 관련 소식이 넘치는 지금의 ‘정보 멀미’를 이겨내고 변화의 큰 그림을 보려는 이들에게 일독을 권한다.”