AI 기술의 발전은 우리 사회에 긍정적인 영향과 부정적인 영향을 동시에 가져올 것이다. AI는 생산성을 향상시키고 새로운 기회를 창출할 수 있지만, 동시에 일자리 감소와 사회적 불평등을 심화시킬 수도 있다. 또한 AI의 오용 가능성에 대한 우려도 존재한다. AI 기반의 감시 시스템은 개인의 프라이버시를 침해할 수 있으며, AI 기반의 무기는 인류의 안전을 위협할 수 있다. 따라서 AI 기술의 발전과 함께 윤리 문제는 중요하게 고려해야 한다.
--- p.20

흔히 AI는 사용자가 입력한 데이터를 서버나 클라우드로 가져가서 그것을 AI 모델에 집어넣어 처리한 결과물을 돌려보내는 방식으로 활용된다. 최근에는 보안, 프라이버시 보호 등을 위해 데이터가 생성된 단말기 자체에서 바로 AI 처리를 하는 기술이 등장했는데 그것을 흔히 엣지 AI(Edge AI)라고 부른다.
--- p.68

영화에서 보면 서로 다른 AI가 서로 질문을 하거나 토론을 하는 장면이 나온다. 급기야 서로 다투는 경우까지 나오는데, 이런 장면은 관객을 웃게 만드는 장난스러운 장면으로 취급되는 경우가 많았다. 그러나 이제 챗GPT, 클로드와 같은 대규모언어모델(LLM)이 사용자와 이전에 나누었던 대화의 맥락을 되살려 그 대화를 계속해서 이어갈 수 있고, 필요시 외부 데이터베이스와 도구에 접근해 더 깊은 정보를 제공할 수 있는 표준화된 개방형 기술규약이 있는데 이것을 모델컨텍스트프로토콜(MCP)라고 한다. MCP 덕분에 AI를 중심으로 다양한 데이터와 앱을 불러들여 통합해 활용할 수 있는 것이다.
--- p.120

둘째, AI 로봇, 드론 등 스스로 알아서 떼로 움직일 줄 아는 지능형 비대칭 무기가 전장의 주역으로 등장하고 있다. 제1차 세계대전 때 전차, 전투기, 생화학 무기가 그랬고, 제2차 세계대전 때 항공모함과 잠수함이 그랬듯이 새로운 기술은 곧 전투의 승리를 의미한다. 기존 강대국에 도전하는 것을 두려워했던 국가와 정치 세력들이 점점 더 첨단 무기로 무장하면서, 어느 쪽도 일방의 승리를 장담할 수 없는 혼돈의 시대로 들어서고 있다.
--- p.173

음식도 급하게 먹으면 체하듯이 새로운 IT 기술도 급하게 오남용했다가는 큰 부작용에 직면하게 된다. 급속도로 확산되고 있는 생성형 AI가 갖는 그늘에는 여러 가지가 있다. ‘환각’이라고 해 전혀 사실이 아니거나 질문과 관계가 없는 내용을 사실과 섞어서 답으로 내놓는 바람에 그것을 검증하고 사용하는 데도 상당한 시간과 비용이 소모되고 있는 점이 그중 하나다. 미국에서는 변호사가 시간에 쫓겨 실제 있지도 않은 판례를 생성형 AI로부터 받아 재판정에서 내밀었다가 망신을 당한 일도 있었다.
--- p.232

AI 시대에도 한자 교육은 의미가 있다. 텍스트 분석에 AI를 적용하는 영역을 흔히 자연어처리(NLP)라고 부른다. 자연어처리 기술에는 실시간 통번역 기술도 포함되는데, 요즘 해외여행 할 때 자주 사용하는 구글 번역기나 파파고 같은 앱들이 바로 여기 포함된다. 앞으로 통번역이 AI에 의해 더욱더 자동화될 텐데 굳이 외국어나 한자를 배워야 하느냐는 의문이 들 법도 하다.