AI를 활용하는 전문가들이 경계해야 할 점은 시스템이 생산한 결과를 지나치게 당연하게 받아들이는 것이다. AI는 방대한 데이터를 바탕으로 답을 생성하지만, 그 답이 언제나 적절하거나 바람직한 것은 아니다. 전문가의 역할은 결과를 단순히 수용하는 데 있지 않다. 그것이 타당한지, 어떤 전제와 맥락 위에서 만들어졌는지, 그리고 실제 문제 상황에 적절한지를 살펴야 한다. AI 코파일럿 시대의 전문성은 더 이상 모든 과정을 직접 수행하는 능력만으로 설명되지 않는다. 같은 도구를 사용하더라도 어떤 결과를 선택하고, 무엇을 의심하며, 어떤 결정을 내리는가는 사람마다 다르다. AI는 많은 일을 대신할 수 있다. 그러나 무엇을 믿고 무엇을 버릴 것인지, 어떤 결과에 책임질 것인지는 여전히 인간의 몫이다. 결국 전문성을 구분하는 것은 AI를 사용할 수 있는가가 아니다. AI가 만들어 낸 결과를 이해하고 판단하며 그 결과에 책임질 수 있는가이다.
--- 「01 AI 코파일럿 시대의 새로운 전문성」 중에서

AI는 정보가 충분하지 않은 경우에도 학습된 패턴을 바탕으로 답변을 이어 간다. 이 때문에 AI의 오류는 단순한 실수 이상의 의미를 갖는다. 사용자는 AI가 잘못된 정보를 제공할 수 있다는 사실을 알고 있더라도, 실제 상황에서는 어디까지를 믿고 어디부터 의심해야 하는지 판단하기 어렵다. 특히 자신의 지식이 충분하지 않은 영역에서는 더욱 그렇다. 전문성이 부족하거나 확신이 낮은 상황일수록 사람들은 내용 자체보다 설명의 방식과 표현의 자신감에 더 영향을 받을 수 있다. 전문가가 결과물의 완성도에 안심한 나머지 검토를 소홀히 하면, AI가 만들어 낸 환각은 전문가의 권위를 통해 사실처럼 유통될 수 있다. 특히 법률, 의료, 교육과 같이 결과가 다른 사람의 판단과 결정에 영향을 주는 영역에서는 그 위험이 더욱 커진다.
--- 「03 AI의 헛소리」 중에서

일부 연구자들은 이러한 현상을 ‘사회적 우회(social bypassing)’라고 설명한다. 이는 복잡하고 피로한 인간관계를 통하기보다 비교적 예측 가능한 AI와의 상호작용을 선호하게 되는 경향을 의미한다. 이러한 경향이 지속될 경우 실제 인간관계에서 필요한 갈등 조정 능력과 사회적 적응에도 영향을 미칠 수 있다는 우려를 불러온다. 하지만 이러한 저마찰(low friction) 환경이 곧바로 인간 고유의 사회적 역량 약화로 이어진다고 단정할 수는 없다. 인간이 어렵고 불편한 대화를 피하려는 경향은 AI 이전에도 존재했다. AI는 그것을 더 쉽게 선택할 수 있는 환경을 제공할 뿐이다. 결국 중요한 것은 AI를 인간관계의 대체물로 사용할 것인가, 아니면 보완 수단으로 활용할 것인가에 있다. AI가 어떤 위치를 차지하느냐에 따라 그 영향 역시 달라질 수 있다.
--- 「06사교적 AI와 인간관계」 중에서

민주사회는 시민들이 정보를 이해하고 판단하며 공적 문제에 참여할 수 있을 때 유지된다. AI는 이러한 시민의 역할에도 영향을 미친다. 이 때문에 AI는 단순한 기술의 문제가 아니라 시민성의 문제이기도 하다. 쿠켈베르흐는 생성형 AI의 위험을 단순히 허위 정보의 문제로 보지 않는다. 그는 AI가 민주주의를 유지하는 데 필요한 인식론적 조건들, 즉 사람들이 스스로 생각하고 진실을 구분하며 공적 논의에 참여하는 능력에 영향을 줄 수 있다고 주장한다. AI 시대의 시민성은 이러한 문제의식에서 출발한다.