“당신은 인간인가?” 당신이 온라인에 접속하면 AI가 가장 먼저 던지는 질문이다. 온라인에서 인간과 AI를 구분하기 어렵기 때문에 AI가 가장 궁금해하는 것도 이 질문이다. 인간은 생물학적 종인 호모사피엔스를 지칭한다. 모든 인간은 출생과 함께 이 분류에 속한다. 식물인간처럼 의식이 없어도 생물학적으로 인간이다. AI가 당신에게 인간인지 증명하라고 요구한다면 이는 당신이 생물학적으로 인간인지 알고 싶다는 뜻이다.
--- p.27, 「당신이 인간임을 증명하라」 중에서

AI가 인간에게 인격을 증명하라고 요구하는 이유는 책임 때문이다. 인간은 온라인에서 다양한 활동을 하는데, 자신이 주체적으로 하는 활동에는 책임이 따른다. 단순히 인간이라는 사실이나 신원을 증명한다고 해서 권리와 의무를 자각하고 책임지는 주체인지는 알 수 없다. AI는 책임지지 않는다. 법적이나 윤리적으로 아무런 책임을 지지 않는 AI에 인격을 부여할 수는 없다. 반대로, AI에 인격을 부여하려는 움직임도 있다.
--- p.38, 「당신의 인격을 증명하라」 중에서

AI는 개인화라는 명분으로 당신이 좋아할 만한 내용을 보여준다. 당신은 편하다는 이유로 개인화를 받아들인다. AI는 개인화를 통해 당신을 특정한 방향으로 유도하고 당신은 AI가 유도하는 대로 끌려간다. 미국 작가인 엘리 프레이저는 이런 현상에 필터 버블이라는 이름을 붙였다. 당신이 AI에 오늘 아침 뉴스를 브리핑하라고 요구하면 AI는특정한 사건이나 뉴스를 중심으로 반복해서 보여준다. 당신은 다양한 시각에서 조화롭게 생각하지 못하고 생각의 버블에 갇혀버린다.
--- p.124, 「AI는 당신을 개인화로 통제한다」 중에서

기존 상품에 AI를 적용해서 기능을 확장하는 방식은 기업이 가장 먼저 생각하는 방식이다. 기존 상품에 AI를 도입하면 새로운 가치를 창조할 수 있다. 상품에는 인간도 포함된다. 예를 들어 서비스 산업은 지금까지 인간이 주체였다. 인간은 경험과 실전을 통해 얻은 암묵지를 바탕으로 고객을 대한다. 인간이 어떻게 응대하는가에 따라 서비스 품질은 크게 변한다. 서비스 산업은 제조업에 비해 생산성이 낮다. 사원이 가진 경험과 지식은 균일하지 않고 성과도 균일하지 않아 표준화하기도 어렵다. 표준화하지 못하면 생산성을 향상하기 어렵다. 결국 개인의 역량에 의존할 뿐이다.
--- p.124, 「AI 자율경제 시대의 상품 개발 전략」 중에서

AI는 모든 인간을 개인화한다. 개인화는 각 개인의 특징을 반영해서 맞춤형으로 답을 생성한다. 개인화의 핵심은 다른 사람과 다르게 차별화한다는 점에 있다. 예를 들어 당신이 자주 가는 식당에서는 당신에게만 국물을 더 많이 준다. 당신이 국물을 좋아한다는 사실을 AI가 학습해서 알고 있기 때문에 가능하다. 물론 가격은 다른 고객과 똑같다. 당신 옆자리에 있는 고객 테이블에는 콩자반이 더 많이 있을지도 모른다. 식당에 들어온 모든 고객은 각자 자신이 좋아하는 반찬을 더 많이 받고 싫어하는 반찬은 처음부터 받지도 않는다. 이처럼 기존 상품에 당신이 선호하는 가치를 플러스하면 당신은 대접을 잘 받았다고 생각하게 된다.