우리는 봇이 좋은 목적과 나쁜 목적 양쪽 모두에서 이용될 수 있다는 것을 이미 보았다. 월드 와이드 웹 봇 역시 다르지 않았다. 원래 봇은 월드 와이드 웹에서 방대한 양의 정보를 구성하고 트롤링하는 문제에 대한 해답으로 이용되었으나, 곧 보다 기만적인 목적에 더 많이 적용되었다. 1990년대가 지나면서 월드 와이드 웹(그리고 유즈넷, IRC 같은 다른 온라인 커뮤니티)이 계속 성장함에 따라 기업적 기술자들은 터미널의 반대편에 본인의 의지와 상관없이 정보를 발송할 수 있는 포로와도 같은 청중이 있다는 것을 알아차렸다. 이러한 직관은 스팸 봇의 탄생을 이끌었다. 스팸 봇은 상품과 광고를 대규모로 홍보하는 온라인 자동화 도구이다.
--- p.34

봇은 대체로 후면이나 주변에서 또는 인간인 것처럼 위장하도록 설계된 사회적 상황에서 작동하기 때문에 놓치거나 잊기 쉽지만, 봇은 삶에 그리고 온라인상의 기술 프로세스를 작동시키는 데 필수적이다. 봇은 전면에서는 정치적 과정, 사업 거래, 그리고 소셜 미디어 사이트에서의 자신의 역할을 수행하고 있다. 후면에서는 기계가 다른 기계와 통신하는 수단이자, 우리가 선호하는 기술이 원만하게 운영되도록 하는(또는 악의적인 의도로 공격하도록 하는) 수단이다. 이들 영역 각각에서 일부 봇은 인공지능 기술을 사용하지만 다른 봇은 설계가 지극히 단순하다.
--- pp.53~54

사회에서 소셜 봇이 수행하는 역할을 이해하려 할 때 기억해야 하는 중요한 점은 봇의 행동이 인간의 욕망과 입력을 반영한다는 것이다. 봇 뒤편에 있는 인간의 역할은 의미 없는 것이 아니다. 사람들은 많은 이유로 봇을 만드는데, 여기에는 앞에서 거론했던 사회적으로 동기부여된 작업, 즉 뉴스 기사 작성, 비디오 게임, 데이팅 프로필 흉내 내기, 정치 이야기 등을 수행하는 것이 포함된다. 대부분의 경우 이러한 소셜 봇은 인간 세상과 욕망을 반영한다. 소셜 봇의 행위는 일반적으로 그 봇을 만든 사람의 행동과 전혀 다르지 않다.
--- p.79

IRA의 활동이 항상 한 후보자 또는 다른 후보자에 대한 정치적 지원을 만들어내는 것을 목적으로 한 것은 아니었다. 종종 혼란을 일으키는 것만으로도 충분했다. 즉, 유권자들이 관심을 잃으면 그 자체로 성공이었다. 손을 놓은 시민, 진상 규명을 포기한 시민, 제도에 대한 믿음을 잃은 시민, 투표하지 않기로 선택한 시민 ― 이런 것은 민주주의에 대한 믿음을 약화시키려는 활동가에게 승리였다.
--- p.104

그러나 우리는 봇이 문제가 아니라는 것을 기억해야 한다. 문제는 봇 배후에 있는 사람들이다. 결국 정치적 허위정보는 항상 이런 활동을 설계하고 지휘하고 조직하는 인간에 의해 퍼진다. 봇은 단순히 그것을 수행할 뿐이다. 우리가 보았듯이 봇은 이야기를 증폭시키고, 알고리즘을 다루고, 댐프닝과 디도스 공격을 통해 정치적 입장을 검열하고, 온라인의 데이터를 수집하고, 목표물을 감시하고, 유권자의 행위에 영향을 끼칠 수 있다. 하지만 봇은 투명성을 높이고, 사실 확인 과정을 간소화하고, 민주적 참여와 약속을 증가시킬 수도 있다.
--- p.121

현재 대부분의 소셜 미디어 사이트는 우리가 밖으로 나가 친구들과 오프라인에서 질 높은 시간을 보내도록 권장하기보다 우리를 그들의 플랫폼에 잡아두도록 최적화되어 있다. 이 플랫폼들은 우리가 광고를 보고 물건을 구매하기 원하며, 우리가 계속 그렇게 하는 한 우리가 행복한지에 대해서는 관심이 없다. 금융 봇과 거래 봇은 현재 덜 규제되고 있으므로 시장 갈등을 계속 야기할 텐데, 이들 봇은 우리 중 주식에 투자할 여유가 있는 사람이 아닌 가장 가난한 사람에게 가장 큰 영향을 미친다.
--- p.140

봇은 만든 사람의 가치관을 반영한다. 그렇다면 봇은 어떻게 예상치 않거나 기대하지 않은 행위를 할 수 있을까? 이런 이야기는 더 넓게는 소셜 미디어 안팎의 웹에서 봇이 수행하는 사회문화적 역할에 대해 생각해 보도록 한다. 봇은 정의상 자율적인 객체이지만, 사회성을 추구할 수도 있다. 봇은 머신 러닝을 통해 넓은 온라인 세상에서 정보를 발견해서 사용하도록 코딩되어 있기 때문에 우리 인간의 사회적 규범, 규칙, 또는 관계에 영향을 미칠 수도 있다. 그러나 프로그램 언어들로 구성된 봇이 어떻게 인간 문화를 바꿀 수 있을까?
--- pp.174~175

울리와 황이 언급한 것처럼, 봇은 단순히 봇이기 때문에 ‘좋은 것’도 아니고 ‘나쁜 것’도 아니다. “‘좋은’ 봇의 실패는 설계의 실패이지 자동화의 실패가 아니다.” 다시 말해 테이처럼 ‘좋은’ 일을 하도록 설계된 봇이 ‘나쁜’ 일을 하는 것은 올바른 지시가 주어지지 않았기 때문이지 단순히 자동화되었기 때문이 아니다. 울리와 황은 “봇에 대한 우리의 담론의 초점을 나쁜 목적을 위해 봇을 이용하는 사람들에게 이 기술의 가능성을 양보하는 데 맞추기보다 사회적·윤리적 관점에서 봇을 작업에 적합한 도구로 만드는 자질에 맞춘다면 담론이 더욱 생산적일 것이다”라고 주장한다.
--- p.195

컴퓨터가 자율적으로 구문의 의미를 이해하는 능력을 갖고 있다면 대량 디지털 감시는 훨씬 더 억압적이 될 수 있었다. 예를 들어, 정부가 자신들에 대해 부정적인 발언을 하는 반체제 인사를 찾아서 박해하는 것이 더 쉬워질 수 있다. 회사는 똑같은 도구를 이용해 잠재적인 기업 내부 고발자 또는 배반자를 식별할 수 있을 것이다. 이러한 기술들의 심대한 영향은 이와 같은 잠재적 해악을 최소화하도록 계획되고 설계되어야 한다.