이와 같은 변화는 전문가의 입지를 약화할 뿐 아니라, 사회적 판단의 정당성 확보에도 영향을 미친다. AI는 학습된 데이터를 기반으로 평균적이고 전형적인 답변을 제공하나, 이는 개별 사건의 특수성이나 맥락적 고려를 간과할 수 있다. 예컨대, 판례 해석이나 환자의 진단에 있어 AI가 제시하는 일률적인 응답은 오히려 문제를 단순화하거나 오판을 유도할 수 있다. 문제는 일반 사용자가 이러한 AI의 한계를 인지하지 못한 채, 그것을 ‘정답’으로 받아들인다는 점이다. 게다가 AI는 오류를 범하더라도 그것을 신속히 식별하거나 반박할 수 있는 전문가적 ‘판단 장치’가 결여되어 있다. AI가 제공하는 정보가 최신의 것이 아닐 경우에도, 사용자 입장에서는 그것이 가장 신뢰할 만한 응답으로 오인될 가능성이 있다. 전문가의 설명은 복잡하고 긴 반면, AI의 응답은 간단하고 단정적이기 때문에, 정보의 실제 신뢰성과 무관하게 사용자 선호가 기계 쪽으로 기울 수 있다.
---『01_“AI 검색은 무엇을 바꾸는가”』 중에서

AI가 생성한 검색 결과에 저작권자의 권리가 침해되었을 경우, 전통적인 웹 환경에서의 ‘통지-삭제’ 요청 모델이 그대로 적용되기 어렵다. 생성형 AI는 고정된 URL이나 게시물 기반이 아니라 프롬프트에 따라 매번 새로운 응답을 실시간 생성하기 때문이다. 결과적으로 저작권자는 자신이 침해되었음을 인지하더라도, 구체적인 침해 표현물을 특정하기 어려우며, 그로 인한 권리 행사 또한 제한받게 된다.
---『03_“AI 검색의 저작권 문제”』 중에서

프라이버시 침해의 위험은 개인 차원에 그치지 않는다. 자동화된 검색과 응답이 반복될수록, 사회는 특정 인물이나 집단을 고정된 이미지로 기억하게 된다. 이는 개인의 자기형성권을 침해할 뿐 아니라, 사회적 낙인을 구조화한다. 이로써, 프라이버시는 개인 인격의 보호 문제가 아니라, 사회가 특정인에 대한 기억을 조직화하는 방식에 대한 규율 문제로 확장된다. 즉, AI에 의하여 조직화하는 특정인에 대한 기억을 어떻게 유지하고 그에 대해 평가할 것인지다. 결국, AI 검색 시대의 프라이버시 문제에서는 정보를 보호할 것인가라기보다는 어떤 기억을 허용할 것인가라는 프레임의 전환이 요구된다. 법의 규율 체계는 데이터의 존재 여부보다, AI 검색과 그에 따른 결과물이 생성되는 조건과 한계를 규율하는 방향으로 전환될 필요가 있다. 이는 기술 발전에 대한 저항이 아니라, 인간의 시간성과 존엄을 보존하기 위한 최소한의 법적 기준에 관한 것이다.
---『06_“AI 검색과 프라이버시”』 중에서

개인화 알고리즘은 사용자 편의성 향상이라는 긍정적 효과에도 불구하고, 정보 다양성을 해칠 수 있는 위험을 내포한다. AI는 사용자의 과거 검색 이력, 관심사, 클릭 기록 등을 기반으로 ‘맞춤형’ 응답을 제공하지만, 이로 인해 사용자에게 익숙한 정보만 반복적으로 노출되면서 필터 버블(filter bubble) 현상이 발생하게 된다. 이러한 현상은 정보의 다양성, 특히 상반된 관점에 대한 접근을 제한하여 민주적 담론 형성을 저해한다. 사용자는 자신과 유사한 정보에만 노출됨으로써, 비판적 사고의 기회를 상실하고 편향된 세계관을 형성할 위험이 있다. 이는 정치적 극단화, 사회 분열, 이념 간 단절을 심화하는 중요한 사회적 요인으로 작용할 수 있다.