데이터나 알고리즘에 담긴 왜곡이나 편견은 개발자가 의도하지 않았고, 사회·문화적인 경험과 습관에 따라 반영될 가능성도 배제하지 못합니다. 스스로 의도하지 않거나 인식하지 못한 사항은 법적으로 다루기가 쉽지 않습니다. 그러므로 인공지능 윤리도 함께 다뤄야 합니다. 인공지능 윤리에 대한 사회적 합의가 마련되어야 인공지능에 제대로 된 법적 대응이나 평가도 뒤따를 것입니다. --- p.45

인간의 학습 과정에서도 인공지능처럼 편견을 학습하거나 악용된다면 한 사람의 인격과 인생이 바뀔 수 있습니다. 교육은 인간과 동물, 그리고 기계에도 치우침이 없어야 합니다. 잘못된 학습이 사회 전반적으로 문제가 될 수 있음은 이미 역사적으로 경험한 것이기도 합니다. 따라서 기계학습 과정은 제대로 이루어져야 하며, 이때 기준으로 제시하는 것이 인공지능 윤리입니다. --- p.47

인공지능은 아직 스스로 판단해 행동하거나 그 결과에 책임질 수 있는 능력을 갖추고 있지 않습니다. 인간이 초기 알고리즘에서 의도적으로 판단할 수 있는 기능을 부여해야 어느 정도 가능할 것입니다. 로봇을 구동하게 하는 시스템도 마찬가지입니다. 로봇은 스스로 인식해 필요에 따라 시동을 걸지 못합니다. 어떤 조건에 부합하도록 설계된 경우, 그 조건에 맞는 상황에 이르렀을 경우로 한정됩니다. 설계된 영역을 넘어설 때는 로봇이 스스로 판단할 수 있도록 프로그래밍 될 수 있겠지만, 로봇 스스로는 인간이 개입하지 않으면 작동하지 못하게 해야 합니다. 어떤 위험이 따를지 알 수 없기 때문입니다. --- p.68

인간이 갖는 수준의 법적 기준까지 윤리가 갖는 규범성을 인공지능에 요구할 수도 있습니다. 인간은 인공지능에 기술적으로 구현 가능한 최대한 높은 수준의 윤리를 요구할 가능성이 큽니다. 오랫동안 인간의 기술 의존도가 높아지고, 기술을 객관적인 가치로 이해해 왔으니까요. 이런 의존적인 현상을 엘리제 효과라고 합니다. 최근에는 반려동물 의존도가 높아지면서 반려동물이 죽은 뒤에 겪는 상실감 및 슬픔 등의 정신적 어려움인 펫로스 증후군이 생겨나기도 합니다. 로봇 의존도가 높아진다면 로봇을 바라보는 윤리적인 인식도 변하지 않을까 생각합니다. --- p.96

인공지능을 사용하는 과정에서 발생하는 다양한 문제에 따른 책임과 의무를 어떻게 지울지도 문제입니다. 기존 법률과는 다른 해결 방안이 제시되어야 합니다. 즉 새로운 입법을 위한 사회적 합의 과정이 필요하지만, 그 과정에서 다양한 이해관계자들의 충돌이 예견됩니다. 인공지능을 기획하는 사람, 제작하는 사람, 이용하는 사람, 소유하는 사람, 점유하는 사람 등 다양한 이해관계가 성립할 수 있으며, 이 과정에서 어떻게 해결 방안을 마련할지 등 쉽지 않은 법률문제가 제기되는 상황입니다. --- p.105

로봇도 마찬가지입니다. 로봇이 갖춰야 할 윤리를 학습시키는 것은 어쩌면 불가능한 일일지도 모릅니다. 하지만 인간과 공존해야 할 로봇을 야만 상태로 놓아두는 것은 바람직하지 않습니다. 야생동물이 가축화되었던 것처럼 인공지능도 인간을 위해 그 존재가치를 학습하는 것도 필요하지 않을까요. 로봇의 윤리적인 역할을 위해 로봇 윤리에 관한 논의가 활발해지고 있습니다. 그런 면에서 로봇에 윤리란 인간과의 공존을 위한 사회적 관계의 설정이라고 할 수 있습니다.