사람이 술을 마시는 게 아니라 술이 사람을 마신다는 말이나, 사람이 돈을 부리는 게 아니라 돈이 사람을 부린다는 말 등이 있다. 이런 말들은 모두 주객이 전도된 모순된 상황을 빗대어 표현하는 것들이다. 우리 시대는 이렇게 사람이 사람으로서의 본분을 잊고서 목적과 수단이 전도된 것들을 오히려 추구하는 듯한 이상한 가치관에 물들어 있는 것 같다. 그렇다면 술이나 돈 못지않게 수단이 목적이 되는 대표적인 것에 무엇이 있을까? 바로 ‘기술’이다. 삶을 더 풍요롭고 의미 있는 것으로 만들어주어야 할 기술이 오히려 삶을 얽매는 것으로 변질된 사례를 우리는 여러 곳에서 목격한다.

우리 시대를 규정짓는 단 하나의 단어가 있다면 그것은 링크, 혹은 네트워크라고 할 수 있다. 특히 인터넷 기술의 발달로 온 세상이 효율적으로 연결되어 있다. 덕분에 우리는 물적, 정신적으로 모두 바쁘고 신경이 예민해진 시대에 살게 되었다. 그 정점에 코로나19가 있다. 긴밀히 연결될 만큼 빠른 확산이 가능한 속성은 쓰레기 정보와 바이러스를 가리지 않는다. 이 네트워크는 하나의 시스템이다. 시스템은 항상 안전하게 유지될 필요가 있다. 하지만 어딘가 문제가 발생해도 완전히 붕괴되는 것은 아니기에, 이것을 악용하는 무리가 항상 존재한다. 심지어 본인이 악이라고 생각하지 않는 경우도 있다.

이 책의 핵심은 기술과 기술의 사용이라는 주제를 구분하고 있다는 점이다. 기술 그 자체는 좋거나 나쁘다고 말할 수 있는 성질의 것이 아니다. 가치중립적이라는 것이다. 하지만 그것을 사용하는 문제는 복잡하다. 가치판단이 개입되기 때문이다. 가치판단이 개입된다는 것은 여러 사람의 이해관계가 복잡하게 얽히는 것을 의미한다. 이때 다툼이 일어나며, 주도권을 잡기 위한 여러 시도들이 행해진다. 이렇게 보면 기술은 꼭 칼이나 펜과 같다. 사용하기에 따라 사람을 살리기도 하고 죽이기도 하는 것이다.

기술만능주의가 만연하는 가운데 돈이 가장 큰 가치판단의 기준이 되었다. 돈이 될 수만 있으면 그 기술이 사회에 어떤 영향을 끼치는지는 중요한 고려 대상이 아니어도 무관하다는 분위기다. 때문에 어떤 기술이 상업적으로 성공하게 되면 미디어나 대중의 관심은 그것이 일으키는 부의 증진이나 쾌락의 증대 같은 것에만 관심을 기울인다. 그것이 인간성에 어떤 변화를 일으키는지에 대해서는 입을 다문다. 그 결과는 사회가 각종 병폐로 물들고 악화되는 악순환이다. 그 가운데서 기술 주권을 가진 이들은 도덕심이 상실된 듯 부를 축적한다.

인공지능 기술이 발전하면서 더불어 주목받고 활발하게 논의되고 있는 것이 인공지능 윤리 문제다. 인공지능은 빅데이터 기술의 발전으로 비로소 빛을 보고 있는 영역인데, 이 빅데이터를 처리하는 알고리즘 기술에 기반한 인공지능의 발전에 사람들은 중립성이 있다고 기대했고, 궁극적으로 민주주의 발전에 크게 기여할 것이라 믿었다. 하지만 이러한 최신 디지털 기술에조차 인간의 편견이 작용한다는 사실이 밝혀지면서 윤리 문제는 결코 도외시할 수 없다는 것을 확인하기에 이르렀다.

우리는 이 책을 통해 기술 시대를 살아가는 모든 인류가 표면적인 기술의 발전에 환호하거나 좌절하거나 무관심할 것이 아니라, 이성적으로, 합리적으로 기술의 문제를 바라봐야 할 이유를 확인하게 될 것이다. 세 명의 저자는 기술에 대한 사람들의 인식에 인문학적 논점의 불을 지피기 위해 이 책을 썼다고 밝히고 있다. 기술 시대의 인문학 혹은 기술 시대의 윤리학이라는 책의 일관된 흐름 속에서 더 이상 기술이 사람을 쥐고 흔드는 시대가 아니라, 사람을 널리 이롭게 하는 기술이 되게 만드는, 다시 말해 사람이 기술을 현명하게 사용하고 비평할 수 있는 사회가 건강한 사회라는 사실을 생각해볼 수 있었던 소중한 기회였다.

* 네이버 「리앤프리 책카페」 카페 이벤트를 통해 출판사로부터 책을 무상으로 제공받아 읽고 쓴 서평입니다.

#시스템에러, #어크로스, #기술윤리, #리앤프리책카페

IT기술이 발전하면서 편리하게 변했습니다.

사람들은 좀 더 간편하고 쉬운 것을 선호합니다.

은행을 직접 찾아가지 않고도 쉽게 인터넷 뱅킹을 통해 이체를 할 수 있습니다.

효율과 최적화를 고려했기에 지금 편리하게 사용 중입니다.

효율적인 것을 사람들이 선호하지만 간과하는 것이 있습니다.

바로 빅테크 시대의 윤리가 필요하다고 말해주는 책을 소개하려 합니다.

소개해 드릴 책은 ‘시스템 에러’입니다.

책 제목이 ‘시스템 에러’인데 왜 시스템 에러라고 한 것일까요?
사람이 시스템을 만들지만 완벽하고 문제없이 만들긴 어렵습니다.

잘 만들어진 시스템에도 에러가 발생할 수 있습니다.

이 책을 통해 빠르게 변해가는 빅테크 시대에 주변을 살펴보는 시간이 되면 좋겠습니다.

◆ 효율과 최적화에 집중
실리콘밸리에선 공룡기업들이 많이 나왔습니다.

효율과 최적화에 집중한 기업들이 사람들에게 편리함을 제공해줍니다.

디지털 광고 클릭 수, 유튜브 재생 시간, 체류시간 등 사람들이 이용하는 데이터를 수집합니다.

수집한 데이터를 통해 더욱 효과적인 알고리즘을 만들어 나가게 됩니다.

물건을 살 때도 최저가를 알아보고 사는 사람들도 있습니다.

일할 때도 반복적인 업무의 경우 자동화를 통해 일을 처리하기도 합니다.

◆ 결과 위주
실리콘 밸리 기술전문가들의 대표 문장을 아시나요?
바로 ‘일단 결과를 만들어내고 용서는 나중에 구하라’입니다.

새로운 기술들이 나오면 많은 사람이 관심을 갖습니다.

또한 많은 기업이 측정할 수 있는 지표를 만들고 지표를 달성하기 위해 매진합니다.

첨단기술의 결과물로 인공지능, 자율주행차, 안면인식, 지문인식이 삶을 편리하게 만들어줍니다.

시스템은 사람이 만들기 때문에 완벽할 순 없습니다.

만들어진 시스템에도 에러가 있을 수 있습니다.

기술을 활용하되 질문을 통해 문제가 되는 부분은 찾고 개선해야 합니다.

끝으로 철학, 컴퓨터과학, 정치학을 가르치는 스탠퍼드 교수의 강의가 책으로 만들어졌습니다.

기술이 발전하고 있지만 진정 인간에게 도움 되는지 질문하게 해줍니다.

혁신은 하되 규범을 지켜가며 살아야 한다고 말하고 있습니다.

의료인이 히포크라테스 선서하듯이 기술 과학자에게도 필요하다고 말합니다.

빅테크 기술과 관련한 문제가 궁금하신 분들에게 이 책을 추천합니다.

《시스템 에러》는 기술 혁신이 우리에게 미치는 영향이 무엇인가를 보여주는 책이에요.

인터넷, 소셜미디어 네트워크는 우리 일상에 스며들어 있어서 대부분 수동적으로 받아들이는 경우가 많을 거예요. 그러나 한편에서는 스마트 머신 시대의 자동화 가속, 소셜미디어 플랫폼의 역정보와 허위정보 등에 대한 비판의 목소리도 나오고 있어요. 이제는 기술의 혜택을 이용하면서 동시에 기술이 개인과 사회에 미치는 명백한 피해를 인지하고 줄여나가는 방법을 찾아나가야 해요.

이 책의 저자들은 기술의 영향은 피할 수 없는 운명이 아니며, 기술을 지배하는 규칙을 설정하는 것이 더 이상 해커나 기업들만의 일이 아닌 새로운 시대에 접어들었다고 이야기하고 있어요. 기술의 영향은 우리가 새로운 기술을 어떻게 설계하고 상호작용하며, 기술을 지배하기 위해 어떤 규칙을 마련하느냐에 달려 있다고 보고 있어요. 우리 모두는 기술이 우리 사회를 어떻게 바꾸어야 하는지에 관한 결정권을 가져야 하며, 이는 21세기를 살고 있는 사람들에겐 가장 중요한 과제라고 할 수 있어요. 우리 스스로 책임지고 결정하지 않는다면 기술의 미래, 우리의 운명을 엔지니어, 벤처투자가, 정치인들에게 내맡기는 것이므로 최악의 상황이 될 거예요.

이 책에서는 최적화를 추구하는 사람들에게 책임을 맡기는 일이 얼마나 위험한지를 보여주고 있어요. 자율규제의 시대는 끝났어요. 디지털 플랫폼이 콘텐츠에 대한 통제권을 쥐고 있는 한 기업의 반독점 조치를 규제할 수 있는 건 법적 장치뿐이에요. 알고리즘 의사결정 시스템에 관한 문제 역시 기업과 정부 기관의 선한 의지에만 맡길 수는 없어요. 알고리즘 책임성이 요구되어야 해요. 우리는 감시 사회에 살고 있어요. 매일 사용하는 디지털 도구의 놀라운 기술 덕분에 정부와 기업은 우리가 무엇을 원하는지, 무엇을 하는지, 어떤 생각을 하는지 그 어느 때보다 많이 알고 있어요. 따라서 사생활권을 명확하게 규정하고, 그것을 보호할 힘과 권위를 갖춘 기관을 만들기 전까지는 법의 공백기에 놓여 있어요.

빅테크 기업들은 세상을 더 나은 곳으로 만들겠다는 원대한 비전을 내세우고 있지만 양극화, 역정보, 혐오발언의 문제들을 제대로 해결하진 못했어요. 정보 생태계 오염의 문제는 표현의 자유와 민주주의 사이에서 균형을 잡아야 해결할 수 있어요. 우리가 할 수 있는 일은 정보 생태계의 건전성을 보호하는 데 관심을 갖는 것이 시작이라고 할 수 있어요.

세 명의 저자는 새로운 기술이 야기한 긴장과 균형에 우리 모두가 참여할 수 있는 대안적 미래를 창출하기 위해서는 세 영역의 진전이 필요하다고 강조하네요. 첫째, 기술자들의 윤리적 문제에 대한 인식과 이해를 높일 것. 둘째, 기업의 힘을 억제할 것. 셋째, 기술과 기술자들이 우리를 지배하게 놓아두는 수동적 자세를 버리고 시민과 민주주의 제도에 기술을 관리할 수 있는 권한을 부여할 것. (385p)

결국 기술이 우리를 지배하기 전에 시스템 에러를 없애는 노력을 해야 해요. 그건 바로 시스템 리부팅, 우리 모두가 나서야 할 때인 거죠.

2000년이후 기술은 점점 빠르고 급하게 발전하고 있습니다. 이 기술을 빅테크라고 합니다. 그런데 이 빅테크가 인간과 다양한 갈등이 나타나고 있습니다 물론 그 원인은 인간이고요. 빅테크를 사용함에 있어 나타나는 영향에 대한 인간의 윤리가 사회적 문제로 대두되고 있습니다. ＜시스템 에러＞는 기술혁신가들이 명심해야 하는 윤리를 다룹니다. 미국전대통령 트럼프는 재선에 실패하고 선거에 승복하지 않고 트위터를 통해 자신의 지지자들의 폭동을 독려해서 실제 의사당으로 지지자들이 난입을 해서 큰 문제를 야기했습니다. 여기에 사용되었던 트위터의 윤리적 사용의 문제가 대두되었습니다. 이는 테슬라의 일론머스크가 트위터를 최근 사들여 트위터운영자들의 윤리기준을 새롭게 제시하려고 합니다. 이점도 사회시스템에 대한 논의의 일부겠죠. 저자들은 기술을 사용하는 사람들이 그리고 이로인해 위험에 처한 사람들이 가져야한 경로를 검토합니다

저자 롭 라이히는 스탠퍼드대 정치학교수입니다. 동대학 사회윤리센터장이고 인간중심인공지능연구소 부소장이라고 합니다. 빅테크시대의 윤리를 다룰수있는 위치에 있습니다. 메흐란 사하미는 스탠퍼디대 컴퓨터과학교수입니다. 구글초기맴버였고 프로그래밍강의도 하고 있습니다. 제러미 와인스타인은 스탠퍼드대 정치학교수로 오바마대통령때 백악관핵심참모로 신기술을 어떻게 시민에게 영향을 미치는지 연구했습니다. 3명의 저자가 모두 세계 최고 기술의 요람 스텐포드대소속이고 스텐포드는 기술뿐아니라 기술을 다루는 학생들에게 인간을 위한 윤리관을 고민하도록 한 점에서 스텐포드대학의 우수한을 간접적이지만 알게 해줍니다

기술자(엔지니어)는 어떤사람일까요. 저 어릴때는 과학자라고 많이 했는데 요즘은 과학자보다는 기술자라고 하죠. 과학보다는 기술이 더 핫한 시대일듯합니다. 이 기술자들은 기술의 최적화에 심려를 기울입니다. 효율적인것 '소이랜트'라는 간편제품으로 시간을 줄이는 것이 대표적입니다. 개인적으로 인공지능을 배우고 있는데 코드에도 최적화, 표준화, 규제정화 등을 통해 성능개선을 위해 노력합니다. 이를 조직경영평가에 적용하는 OKR기법이 있습니다. 구글들 많은 빅테크기업에서 사용하는데 이 기법도 효율과 최적화에 촛점을 맞춘점을지적합니다. 그리고 20년전부터 파괴적혁신이라고 부는 기술계의 바람도 규제라는 벽을 뚫어서 사회에 피해를 주는 영역도 많습니다. 한국사회에 공유택시 우버가 들어오지 못하는 것이 바로 그 문제겠죠. 기술의 시대 기술자의 사고는 너무 효율화에만 맞춰져있습니다.

그럼 기술은 어떤가요. AI가 발달하면서 인재선발을 AI에 맡기는 경우가 늘고 있습니다. 패턴만 찾으면 사람보다 휠씬 빠르고 비용도 적게 좋은 인재를 뽑는 다는거죠. 그런데 아마존에서 AI인재 채용시스템을 돌리니 남자직원만 선발하는 문제가 발생했습니다. 이는 과거 인재채용에서 남자들이 주로 채용되는 특징을 추출해서 선발에 적용한 결과입니다. 앞으로 자동의사결정시스템이 활성화될텐데 기술에도 큰 문제가 있죠. 그리고 세계적인 팝가수 테일러 스위프트는 스토커로 부터 자신을 보호하기위해 모든 팬들의 사진을 찍어서 범죄자를 찾는 알고리즘을 시행했습니다. 하지만 이때 개인정보에 대한 불법수집문제가 발생했습니다. 기술이 가치중립적이지 않다는 걸 알려주는 사례입니다. 그리고 앞으로 들이닥칠 자동화의 문제 인간의 능력을 약화시킬수있고 당연히 일자리로 뺏을 겁니다. 기술도 통제가 안되게 인간을 뛰어넘어 발전하려고 하지만 통제가 되지 않는 문제가 발생합니다.

기술은 도구입니다. 선하게 사용할수도 있고 나쁘게 사용할수도 있습니다. 최근 전쟁의 양상이 컴퓨터게임으로 되고 있습니다. 미군은 아예 게임머를 고용해서 사람을 죽이는 무인드론 조정사로 쓴다는 이야기도 있습니다. 실제 무인무기들이 전쟁의 핵심으로 등장하고 있습니다. 그리고 러시아에서 UN에서 금지한 초강력무기를 우크라이나전에 사용하고 몇일전에는 북한이 핵무기를 강화해서 한국을 선제타격하겠다고 선언도 했습니다. 이렇게 정치에 휘둘리면서 사람의 생존을 위협하는 기술을 개발하는 기술자들은 어떤 윤리를 가져야 할까요. 이는 전쟁관련 기술자들의 문제만도 아니고 AI, 바이오, 원전등에 관련된 대부분의 기술자에게 적용이 될겁니다. 저자도 강하게 지적했습니다만 빅테크들이 가지는 제한없는 힘과 시장지배력은 사용자의 사생활을 침해하는 법위반이 여러차례 문제가 되기도 했습니다. 인공지능중에 강한 인공지능이 있습니다. 이는 스스로 사고하고 행동하는 인공지능을 뜻합니다. 많은 인공지능학자들은 100년안에는 불가능하다고 합니다. 그것이 사실일지 모릅니다. 하지만 미래는 점점 기술이 지배하는 세상일 가능성이 높습니다. 민주주의로 그것을 통제하고 인간의 행복을 위해 논의를 본격화해야 할때인것만은 틀림없습니다.

본 도서는 출판사로부터 무상으로 제공받아 주관적인 리뷰를 했습니다.

『시스템 에러』 System Error

롭 라이히. 메흐란 사하미. 제러미 M와인스타인(지음)/ 어크로스(펴냄)

기술에 대한 맹신 극단적 사고의 유혹을 견디기 위해 우리는 어떻게 해야 할까? 코로나19를 겪으며 소셜미디어에 접속하고 무엇이 유용한 정보인지 가짜 뉴스인지 제대로 인지하지 못한채 맹목적으로 받아들인 결과는? 두려움은 우리의 이성을 마비시켜버렸다, 이제 좀 가다듬어야 할 때가 아닌가? 이런 분기점에서 이 책 《시스템 에러》를 만났다.

세 명의 분야 전문가인 저자는 윤리, 기술, 정책 등 사회현상 다각도를 면밀히 분석하고 그 전략을 서술한다. 책에 담긴 공동 저자들의 사회 문제의식에 깊은 고민을 해 보는 시간이었다. 빅 테크 시대에는 어떤 윤리가 필요할까? 지식인들은 그들이 개발한 유형의 물체가 이 사회에 어떤 식으로 작동하는지 면밀히 관찰해야 할 책임이 있다. 그러나 대부분은 지식을 창출하는 결과에만 집중하고 책임에는 무관심하다.

기술이 곧 '부'로 가는 지름길임을 문과 대신 이과를 택하는 수많은 고등학생들을 보면 알 수 있다. 아무도 '철학'에는 관심이 없다. 의치한수사(의대, 치의예, 한의예, 수의학, 법학)을 추종하는 것은 내가 학창 시절이나 지금이나 마찬가지 현상이다. 상위 1% 학생들은 생각해 볼 것 없이 바로 의치한수사를 지원한다ㅎㅎㅎ

기술의 진보가 필연의 수레바퀴가 되어 우리를 밟고 지나가고 있다는 공통의 확신이다.p35

그렇다면 우리가 개발한 기술로 파괴(?)된 우리 인간 사회를 회복할 대안은 무엇일까? 세 명의 저자는 혁신과 기술이 답이 아니라고 말한다. 기술을 배우고 다루는 실리콘밸리의 수재들에게 인문학 수업을 강조한다. 정치학 교수, 컴퓨터 과학 교수, 정치학 교수인 세 명의 저자는 알고리즘에 대해서도 회의적이다. 저자들이 말하는 공정성은 의사결정 과정에서 이미 도덕적 연관성이 있는 사항을 결정해야 한다는 것이다. 알고리즘의 책임성만이 투명성을 밝혀줄 것이다.

오래전부터 인간의 소망을 하나씩 이루어졌다. 하늘을 날고 싶은 소망에 이어 이제 하늘을 나는 자동차까지. 공상과학영화는 현실이 되었다. 모든 것에는 빛과 그림자가 있음을 책은 말한다. 또한 책 후반부에서 절대 자동화하지 말 것 예를 들면 자율 무기와 같은 것들 챕터는 인상 깊었다. 우리가 기술에 대해 낙관적인 인식을 가진 적도 많았다. 그러나 편향된 알고리즘, 감시 자본주의, 일자리를 빼앗는 자동화 등에 대해 우리 인간은 어떻게 대처해야 하나?

저자들은 민주주의는 그 자체로 기술이라고 한다. 개개인이 기술에 대해 자각할 필요가 있으며 이런 개인의 의사를 반영할 정부가 필요하다는 얘기다. 개인의 권리와 소수와 약자를 위한 정부,  디지털 환경이 만들어낼 모든 위협으로부터 국민을 지켜줄 정부가 필요하다. 며칠 전에 읽은 시난 아랄 교수의 『하이프 머신』과 함께 두 책을 병렬 독서하는 시간. 기술 산업의 미래에 대해 고민하고 성찰해 보는 계기가 되었다.

출판사 협찬 도서를 읽고 쓴 주관적인 리뷰

#시스템에러, #빅테크시대의윤리학, #어크로스, 

#롭라이히, #메흐란사하미, #제러미M와인스타인, 

#이영래옮김, #기술윤리, #AI윤리, #공정성, #실리콘밸리, 

#구글, #아마존, #빅테크, #머신러닝, 

시스템 에러

가속화.
코로나19 팬데믹으로 인하여 가장 크게 변화된 것이라고 하면
'과학 발전'이라고 할수 있을 것 같다.
그중에서도 과학 발전의 가속화가 아닐까 싶다.
전기로만 가는 자동차가 나올 것이라는 것은 20년 후에나 있을 것이라 생각했다.
한 10년 전쯤 오토바이를 구매했던 친구가 했던 말이 기억난다.
'이 오토바이 다음엔 전기차가 나오면 구매할거야'
그 때 나는 '아, 이 친구가 평생 오토바이만 타며 살려고 하는구나'라는 생각을 했던게
아직도 기억이난다.
10여년 전에 했던 생각이 아직도 기억나는 이유는, 그 친구가 한말이 너무나 어처구니가 없었기 때문이다.
'전기차'라니.
짧게는 20년이 더 지나야 눈앞에서 보이기 시작할것이라고 생각 했는데
코로나19로 인해 과학 발전의 가속화가 50%이상은 높아졌다고 생각한다.

그러나 이렇게 빠른 과학발전에 우리는 어떠한 규칙을 만들어가고 있을까?
인류, 환경, 윤리.
우리가 살아가는데 우리끼리의 룰을 잘 정하고 있을까?
아마 과학발전이 우리의 삶에 끼치는 기술적인 부분외에 윤리적인 측면에서 더 고심하고 있는 사람은
이 세상에 상당히 소수일 것이다.
이것이 1차 경고가 아닐까 생각한다.
기술 측면에서 보자면,
가치 있는 삶에서 가치 있는 사고방식을 배제한채 떨어져가는 윤리적인 생각 보다 떨어져가는 기술 주식이 아마 현대인들에게 더 큰 관심사가 아닐까 싶다.

간혹 우리는 범죄를 일으킨 '공인'들에 대한 잣대를 엄격하게 규범할 때가 있다.
그러나 그 사람들에게 우리는 과연 정말 엄격한 잣대로 그들의 행동을 판단하고 있을까?
어떤이는 사람을 죽음으로 몰아낼 수 있는 '비방 댓글'을 수 없이 생성하고 있음에도
우리는 댓글을 다는 자유를 살인과 똑같은 짓이라고 말하진 않기 때문에
이 것은 꽤나 아이러니한 일이 아닐까 싶다.

아직은 이를 토대로 윤리적 규범을 만들기엔 애매하다는 입장을 하기도 한다.
하지만 실제로 수많은 악플 때문에 죽음으로 간 이들을 보며 우리가 정말 '아직은'이라는 말이 어울릴지 모르겠다.
점점 많은 기술적인 부분에서 우리는 삶이 윤택하고 자유로워지고 있음에도
쉽게 죽음으로 이를수도 있다는 것을 깨닫지 못하고 있기 때문이다.

과학에 관한 증시를 보며 떨어지는 칼날만 걱정하는 우리 현대사회를 반성해야한다.
칼날이 무섭다면 칼을 사용하지 않고 음식을 만들어야 한다.
이 책을 읽고 느낀 점은, 
칼을 어쩔수 없이 사용해야하는 우리 사회에서,
칼날을 마주하지 않고는 '이제는'어렵다는 것을 우리는 인지해야하지 않을까 생각한다.

코로나가 바꾼 새로운 세상?

언제부터인가 거의 모든 것이 비대면으로 가능하다는 것을 알게 되었다. 배달도 비대면이 가능하고(그전에도 가능했지만 이제는 거의 뭐 벨튀 수준..) 최근에 코로나 확진으로 인해서 집에서 가래가 끓거나 하는 문제가 있었는데 이것도 전화로 비대면 진료가 가능하다는 것을 알았다. 생각해보면 의사 입장에서도 분명 찝찝할 텐데 이렇게 하는 것이 더 현명한 것은 아닐까? 물론 예외 케이스 수준에 머물고 있긴 하지만. 그리고 최근에는 AI를 활용하여 채용에 적용을 하는 상황도 진행이 되고 있다. 당장 내가 다니는 회사는 워낙 뽑는 사람이 많기도 하니 일일이 담당자가 읽어볼 수가 없어서 AI가 쭉 돌려서 진행을 한다고 한다. 참 재미난 세상이 아닌가?

그러면 이제 완벽한 세상이 되어가는 것인가?

아니다. 절대 아니다. 의외로 좀 더 양극화가 진행이 되어가고 있다. 아까 잠시 채용에 대한 이야기를 하기도 했는데 실제로 미국에서 활용을 해 본 결과 젊은 백인 남성 위주로 채용이 선택되는 것을 알게 되었다. 사실 사람이 하더라도 비슷한 결과로 나오기도 하겠지만 AI조차 사람과 하나도 차이가 없는 수준으로 나온다는 것이다(이것이 차라리 좋은 현상인지도 모른다) 그런데 최근과 같이 다양성이 중요시되고 기회의 평등이라는 측면에서는 과거와 동일한 방식으로 채용이 된다면 아무런 변화가 있을 수 없다. 국내에서도 일부러 지역안배를 하고 있기도 한데 그런 부분조차도 고려하지 않는다고 하면 과거와 아무런 차이가 없을 것이다. 그럴 거면 그냥 서류보고 뽑는 게 낫지.

일자리의 빠른 변화가 있다.

빠른 변화로 인해서 생기기만 한다면 정말 감사한 일이지만 특히 제조업의 경우 점차 로봇이 그 자리를 대체하기 시작하면서 기존에 있던 숙련공들의 일자리가 매우 위험해지기 시작했다. 그렇다고 세상 모든 사람들이 개발자가 될 수는 없는 노릇인데 개발자 외에는 딱히 어떤 직업이 좋겠다라고 생각이 되는 직업이 거의 없는 편이다. 일자리는 점차 다변화와 더불어 소수의 인원만으로도 충분히 가능하도록 변화가 되어갈 것이다. 어느 누구도 자신의 일자리가 침식당하는 것을 원하지 않지만 결국 자신의 일자리는 침식당해 없어질 것이라는 것이 뻔한 직종이 분명히 있다. 과연 이런 상황에서 어떤 도움이나 해결책이 있을까?

민주주의라는 해결책?

민주주의는 다수의 행복을 우선으로 하게 된다. 그렇기 때문에 투표를 하게 되고 그 투표에 따라 결정이 된 것에 대해서 따라야 한다는 전제조건이 있다. 그런데 아예 첨예하게 갈라져있는 상태에서는 민주주의가 해결책이 될 수 있을까? 바로 중간이라는 것도 필요한 경우가 있다. 그리고 민주주의가 가능하기 위해서는 1인 1투표제가 일반화되어야 하는데 비대면 방식의 투표의 경우 누군가 아이디를 대량으로 구매를 한다던가 하는 문제가 발생이 될 수 있다. 과연 이것을 어떻게 극복해야 할까? 현재 있는 블록체인 기술만을 가지고는 완벽하게 막지 못한다는 것도 문제가 될 수 있다고 한다.

항상 최적화에 목숨을 건다.

그런데 과연 사람에게 그것을 적용하는 것은 맞는 것일까? 업무의 경우 최적화를 하면 특별히 손해보거나 문제 되는 경우 없이 최적화가 가능하지만 그것의 대상이 사람이라고 하면 최적화를 하는 경우 불가능한 경우와 더불어 도태되거나 반대의 상황이 발생되는 경우가 나온다. 이유는 '사람' 이기 때문에 그리고 '감성의 동물' 이기 때문이다. 아무리 최고로 좋다고 해도 가끔은 일부러라도 돌아가는 경우가 생기는데 그것의 예외를 적용하지 않는다면 사람에게 적용을 하는 것은 매우 어려운 일이 된다. 우리가 과거 산업혁명 시대의 러다이트 운동과 같이 지금이라고 다른 운동이 생기지 않을 것이라 생각하지 않는다. 이러한 무수히 많은 시스템 에러를 해결해 나가는 것이 이번 세대의 운명 아닐까?

출처: https://k50321.tistory.com/1202 [The EconoMic Person]

인문학 서적을 종종 읽었지만 그들의 사상과 가르침에만 관심을 가지고 읽었지만, 과연 미래시대에 이러한 이문학이 어떤 쓰임새로 어떻게 변화를 하게 될런지, 그리고 또 어떠한 과정으로 적용하게 될지 몰랐습니다. 이렇게 미래에 대한 인문학의 재구성을 할 시점 이라고 생각이 되던 차에 우리가 세상을 살아가면서 만들어낸 실질적인 인문에 관한 모음들을 초보자들 또한 잘 이해하고 재미있게 읽을 수있게 꾸며놓은 인문학 사용설명서 처럼 보여 머리를 비우고 새로 시작하는 마음으로 공부해보도록 할 수 있어서 기대가 컸습니다. 인문학이 인기를 얻고는 있지만 어렵고 힘겹게 느껴져왔던 탓에 미래를 통한 변화를 겪는 많은 사람들이 잘 모르고 있는 것이 사실입니다. 제대로 공부를 해보고 싶어도 방법도 모르고 책을 선정하는 방법도 잘 모릅니다. 이 책 ＜시스템 에러＞를 보자마자 한권씩 실질적인 인문학이 미래에 필요로 하는 내용을 만들고 있어 읽어보기 쉬울 듯 보였습니다. 처음부터 미래를 위한 인문학에 대한 이해를 도울 수 있는 기본서가 될 것 같은 기대감으로 읽기 시작했습니다.

"정부가 유효하려면 사회적 협력과 경쟁에 대한 공정하고 안정적인 규칙을 제시하고, 다각화되고 복잡한 경제의 성장을 촉진하는 투자에 인센티브를 제공해야 한다. 경제 성장이 없다면 번영의 창출과 확산이 어렵고 교육, 의료, 사회보호를 위한 필요한 자원을 확보하기 힘들다."

정말로 인류 역사를 지배해온 학문은 과학 분야를 뺀다면 인문학이라고 할 수 있겠습니다. 사람들의 생각들을 총 정리하고 있고, 사람들의 공통정들을 한데 묶어 그룹화 시켜놓은 것이 인문학이라면, 그 시대를 잘 반영하고 있는 학문은 인문학이라는 생각도 들게 합니다. 발전을 위해서는 국가가 나서서 공정과 규칙을 내세워 촉진해야 하는 힘이 있어야 하며, 이러한 성장을 바탕으로 국가가 바라는 모든 국민들을 위한 사업을 할 수 있다는 것 자체가 오랜 민주주의 원동력이라는 사실을 안다면, 미래사회에도 이러한 원리는 지속되리라 생각이 들었습니다. 이렇게 오랜 시대를 지배해온 사상들과 문화들에 대한 자세한 역사적인 사실들을 설명하면서 인문학이란 것이 우리 생활 속에 빠질 수 없는 당여하게 여기는 것들을 학문적으로 잘 정리한 것이라는 사실을 깨달을 때 지금 우리가 살아가는 현대 속에서 인식 못하는 당연한 것들을 인문학에서는 또 새로인 정의하고 있겠다는 생각을 해보기도 했답니다.

이 도서 ＜시스템 에러＞를 읽기 전에 미래 뿐만 아니라 현재 인문학이 우리에게 끼치고 있는 영향에 대해서 전혀 생각하지 않고 살았던 것 같습니다. 이 책 ＜시스템 에러＞를 통해 인생의 나침반이자 지혜의 원석이라고 할 수 있는 인문학의 힘에 대해 느껴볼 수 있었습니다. 이 책은 읽는 내내 정말 미래에도 빠지질 않은 인문학에 대해 제대로 소개해주는 자료들과 이야기에 저절로 빠져들게 됩니다. 즐겁게 이 책을 재미있게 만나볼 수 있어서 근대문명의 위대함과 그 속의 지혜를 미래에도 녹아들어갈 것이라는 것을 잘 쉽게 알수있었습니다.

얼마 전 ChatGPT라는 대화형 인공지능 서비스가 나오면서 많은 사람들에게 큰 충격을 주었다. 마치 사람처럼 대화를 할 수 있을뿐더러, 전 세계에 흩어져 있는 엄청난 자료를 거의 즉각적으로 찾아서 신문기사든, 논문이든, 에세이든 바로 만들어준다니 그럴 만도 하다.

하지만 우리가 이런 기술발전으로부터 놀라는 건 이번이 처음은 아니었다. 몇 해 전 알파고는 그 수가 너무나 복잡해서 인간을 이기기 어려울 거라는 전망도 있었던 바둑으로 이세돌 기사에게 거푸 승리를 거두며 세상을 놀래켰고, 그 와중에 이세돌이 한 판을 승리한 것이 도리어 역사적인 일이 되어버리기도 했으니까.

오늘날 과학기술의 발전은 더 이상 평범한 사람들이 따라갈 수 있는 수준을 넘어버렸다. 대부분은 그 정확한 매커니즘을 이해하기 보다는 그 결과를 일방적으로 받아들일 수밖에 없게 되었다. 문제는 이 과정에서 그 기술을 이용해 엄청난 힘을 획득한 사람들/조직(기업)이 생겨났다는 점이고, 그들은 제대로 된 견제 없이 자신의 힘을 키워가기 위한 움직임을 계속하고 있다는 점이다.

문제는 이 과정에서 다양한 종류의 개인적 권리와 사생활 침해가 광범위하게 일어나고 있다는 점인데, 기업들은 이런 정보를 더 많은 이윤을 얻는 데 사용하고 있다. 책에서는 특정한 콘텐츠나 상품을 우리 눈앞에 들이미는 알고리즘의 구조 문제, 그리고 눈에 잘 띠지 않게 우리의 권리를 포기하거나 기업에 양도하게 만드는 약관 동의 버튼, 자동화 기계의 확산으로 인한 실업문제, 표현의 자유라는 명분으로 민주주의를 파괴할 지도 모르는 사상과 발언들의 확산을 방조하는 문제 등이 지적된다.

사실 배경이 달라졌을 뿐이지, 이 상황에서 문제가 되는 것 자체는 오랫동안 논의되어 왔던 것들이다. 개인정보의 소유권, 민주주의 사회에서의 개인의 권리, 인간 생명의 중요성, 모든 사람들이 받아야 할 공정한 대우, 또 인간적인 삶을 지탱시켜주는 사회의 책임 같은 주제들이 그것이다. 다만 과학기술의 발전으로 이런 것들을 보장하기 위한 상황이 크게 변했고, 달라진 상황에서 어떻게 인간다움을 보전할 수 있을까에 관한 새로운 고민이 필요하다는 게 저자들의 주장이다.

하지만 결국 이런 상황을 통제하기 위해서는 정부의 규제가 필요한데, 여기에도 문제가 있다. 앞서 말한 것처럼 오늘날 기술발전의 속도가 너무 빠르고 전문적이어서, 입법을 담당하는 의원들조차 문제가 무엇인지 정확히 파악하기 어려워졌기 때문이다. 또, 규제에 대한 노이로제적 반응을 보이는 반규제맹신도들도 적잖게 보이고.

문제가 복잡할 때는 가장 기본적인 사항을 확인하는 것으로 시작하는 게 한 방법이다. 처음으로 돌아가는, 이른바 실마리 찾기다. 저자들은 이 실마리를 민주주의라는 가치에서 찾는다. 우리가 교과서에서 배우기는 했지만, 평소에는 잘 꺼내지 않는 케케묵은 개념쯤으로 여기는 그것 말이다.

민주주의는 어쩌면 오늘날 극단으로 치닫고 있는 시장(만능)주의나 자본주의의 폐해를 줄이고, 복잡한 사항들 사이에서 균형을 잡는 일종의 추로 작용할 수도 있다. 이 책에서는 크게 세 가지 의제를 제안하는데, 첫 번째는 개인정보의 통제권에 있어서 기업과 소비자 사이에 존재하는 거대한 권력의 불균형을 해결해야 한다는 것이고(기업에서 소비자 쪽으로), 두 번째는 기술변화로 인해 피해를 입을 사람들에게 좀 더 큰 목소리를 낼 기회를 주어야 한다는 것이다. 예컨대 단지 주주들의 목소리가 가장 중요한 것으로 여겨지는 사회와는 다른 사회를 우리는 구성해 낼 수 있다. 그리고 세 번째는 대형 기술기업의 시장지배력을 억제하기 위한 적극적인 반독점 노력이 필요하다는 것.

최첨단을 달리고 있는 기술발전계에 윤리라는 (오래된) 잣대를 가져다 대는 게 가능할까 싶기도 하지만, 결국 윤리라는 건 사람들이 함께 살아가기 위해 정해둔 최소한의 기준이다. 이 기준이 무너진다는 건, 더 이상 사람들이 살아갈 수 없게 된다는 뜻인데, 기술발전의 목표가 사람의 안녕에 있지 않다면, 우리는 굳이 그렇게 빠른 발전을 해야 할 이유도(그리고 거기에 많은 사람들의 자산으로부터 나온 세금이나 인프라적 지원을 할 필요도) 없을 것이다.

우리의 빅테크 기업들로 하여금 이런 윤리적 기준을 받아들이도록 만들어야 한다. 온갖 로비를 뚫고, 특정한 경제이론만이 절대진리라고 믿는 변종 광신자들의 반대를 넘는 일이 쉽지만은 않겠지만.