‘기계가 사람처럼 생각할 수 있을까?’
이런 생각을 처음으로 한 사람은 누굴까요? 인간이 아닌 사물이 뭔가 생각을 하게 만든다는 것은 20세기 초반까지만 해도 누구도 상상 못 할 일이었지요. 하지만 영국의 천재 수학자 앨런 튜링은 계산기가 인간의 뇌를 모방할 수 있고, 그 기계의 능력이 갈수록 향상될 것이라고 예상했어요. 언젠가는 인간의 뇌를 모방한 기계의 능력이 향상되어 컴퓨터가 구한 답과 사람의 뇌가 구한 답을 구별할 수 없게 될 거라고 말이에요. 바로 기계가 생각할 수 있는 능력을 갖게 된다는 뜻이지요.
당시 튜링은 기계 장치로 모든 계산식을 풀 수 있다는 걸 증명해 보이기 위해 매우 간단한 기계 장치를 고안해 냈어요. 바로 그 유명한 ‘튜링 기계’예요. 정보가 기록된 테이프를 특수한 규칙에 따라 작동하는 기계에 집어넣으면 순서에 따라 계산을 반복하며 자동으로 답을 찾아낸다는 원리로 움직이지요. 튜링 기계는 오늘날 컴퓨터의 기원이 되며, 컴퓨터의 필수 구성 요소인 하드웨어, 소프트웨어, 입력장치, 출력장치의 개념을 모두 갖추고 있답니다. 그래서 앨런 튜링은 ‘컴퓨터 과학의 아버지’, ‘인공지능의 창시자’로 불리지요. 이뿐 아니라 튜링은 암호학과 논리학에도 뛰어난 능력을 나타냈어요. -30~31쪽 중에서-



그러나 세계 주요 국가들이 이와 같은 킬러 로봇 개발 경쟁을 중단하지 않으면 지구는 통제가 불가능한 무한 전쟁 시대에 휘말릴 수도 있다는 우려가 커지고 있어요. 세계 각국의 지도자들이 적국이나 분쟁 대상국 등을 상대로 외교 작전을 펼치는 대신 로봇 등 무인 무기를 동원한 군사적 해결 방식에 의존할 가능성을 무시할 수 없다는 것이지요.
또한 인간의 개입 없이 자율적으로 움직일 수 있는 인공지능 로봇이 스스로 목표를 설정해 공격이 가능하다는 점도 주목할 만한 문제가 돼요. 최근 인공지능 기술이 사람 통제를 벗어나 스스로 움직일 수 있는 단계에 이르렀기 때문이에요.
인공지능 로봇 무기 개발에 대해 반대하는 과학자들도 많아요. 2015년 7월 아르헨티나 부에노스아이레스에서 열린 인공지능 국제회의에서는 2500명이 넘는 과학자들이 인공지능 기술 자율 로봇을 무기화하는 것을 자제해 줄 것을 촉구하는 서명을 하기도 했지요.
이와 같은 무인 무기가 대량으로 개발될 경우 지구촌에는 심각한 참상이 벌어질 것이라며, 인공지능 로봇을 전투용으로 활용하는 문제를 법적으로 통제해 줄 것을 요구했답니다. 과학자들은 로봇 무기가 화약과 핵무기 개발에 이어 인류에게 세 번째 큰 재앙이 될 거라고 주장하지요. 강대국을 중심으로 무인 무기 개발 경쟁이 더욱 치열해짐으로써 인간의 상상을 초월한 끔찍한 무기가 개발될 수 있어요. -96~97쪽 중에서-