일명 환각 현상 역시 증가한 것이다. 환각이란 AI가 사실이 아닌 정보를 마치 진실인 것처럼 잘못 생성하는 현상이다. 사람으로 치면 시험은 더 잘 보는데 그만큼 횡설수설해지는 경향도 강해진 것이다.
--- p.16

2025년 AI업계 최고 키워드는 ‘추론’이다. 인공지능 간 협업구조를 만들어 문제해결능력을 올린다는 멀티에이전트 개념도 결국 추론하는 AI를 그 근간으로 하고 있다.
--- p.19

우리가 인공지능을 이해한다는 것은 단지 기술을 아는 것을 넘어서, 인간의 지능이 작동하는 방식에 대한 이해를 확장하는 일이다. 우리는 데이터로 세상을 경험하고, 규칙으로 세상을 해석하며, 그 둘의 상호작용을 통해 더 나은 판단과 결정을 내린다.
--- p.25

이 놀라운 성과에도 불구하고, 딥러닝은 여전히 몇 가지 약점을 안고 있다. 대표적인 것이 ‘설명 가능성’과 ‘불확실한 상황에서의 판단 능력’이다. 왜 이런 결론에 도달했는지를 설명할 수 없고, 이전에 학습하지 않은 전혀 새로운 상황에서는 예측 불가능한 판단을 내리기도 한다.
--- p.32

뉴로심볼릭 AI가 적용된 자동 규칙 업데이트 시스템은 대출 신청자의 과거 금융 데이터를 뉴럴 네트워크가 학습하여 숨겨진 패턴을 발견하고, 이로부터 새로운 규칙을 심볼릭 형태로 자동으로 도출한다. 예를 들면 다음과 같다.

“최근 1년간 소득 증가율이 15% 이상이면서 부채 상환률이 30% 이하인 경우, 신용점수가 750점만 넘더라도 추가 심사 없이 대출을 승인해도 된다”는 식이다.
--- p. 60

데이터는 경험을, 규칙은 이론을 닮았다. 우리는 경험과 이론이 결합될 때 비로소 온전한 이해에 도달하는 것처럼, AI도 그 두 세계의 균형 속에서 진짜로 똑똑해질 수 있다. 우리가 인공지능을 균형 있게 이해하려면, 그 이론과 경험의 조화가 현실에서 어떻게 작동하는지를 계속해서 살펴보고 학습해야 한다. 그것이야말로 AI를 사용하는 사람에게 요구되는 새로운 리터러시의 출발점일 것이다.
--- p. 85

지금까지의 AI는 대부분 귀납과 유추에 강했다. 데이터에서 패턴을 찾고, 유사한 상황을 연결하는 데에는 탁월했다. 그러나 연역처럼 명확한 논리적 설명을 요구하거나, 가추처럼 불완전한 상황에서 창의적인 해석을 해야 하는 경우에는 여전히 많은 한계가 존재한다. 누가 하든 이론적으로 의사결정 능력은 연역-귀납-유추-가추의 순으로 강하다. 그러니 우리는 연역과 가추 중심으로, AI는 귀납과 유추 중심으로 추론하고 협업하면 추론 전면을 커버할 수 있게 된다. 이게 인간지능과 인공지능의 황금균형의 기본이 된다.
--- p.115

정보지식 중심 전략만으로는 AI 시대의 주도권을 잡을 수 없다. 그럴 필요도 없고 그러기에는 AI 군비 경쟁에서 상위에 있다고 말하기도 어렵다. 현장의 경험을 수집하고, 이를 말로 표현하고, 규칙으로 정리하고, 알고리즘으로 구조화해야 한다. 그렇게 되면 우리는 단순히 데이터를 소비하는 나라가 아니라, ‘사고의 구조’를 수출하는 나라가 될 수 있다.
--- p.141

대한민국에는 그간 고도성장기에 갖게 된 무수한 고급 직무지식이 있고, 이것이 실질적으로 현장에서 중요한 문제해결 자원이 된다는 것은 누구도 부정 못할 것이다. 다만 이것을 어떻게 AI에게 훈련시킬지 모호했을 뿐이다. 왜냐하면 경험지는 비非정형데이터가 아니라, 무(無)정형 데이터이기 때문이다.
--- p. 157

우리는 오래전부터 지식을 다루는 존재였고, 이제는 그것을 외부화 하려는 기술적 문턱에 서 있다. 기계는 더 똑똑해지고 있지만 인간은 더 통찰력 있어야 한다. 기술은 우리를 넘어설 수 있지만 구조는 여전히 우리의 손에 달려 있다. 결국 우리가 얼마나 잘 생각할 수 있는가에 따라 기계가 얼마나 잘 작동할 수 있는지도 결정될 것이다. 지금이 그 질문을 던질 마지막 기회인지도 모른다. 생각은 여전히 인간의 몫이다.
--- p.163

온라인 쇼핑몰에서 ‘당신을 위한 추천’ 상품이 왜 나오게 되었는지, 혹은 은행에서 대출 심사를 할 때 AI가 내린 결과가 어떤 이유에서 비롯된 것인지에 대한 설명이 부족하다면 사용자들은 불신을 품게 된다. 특히 의료 분야나 금융, 법률처럼 결정 하나가 사람의 생명이나 재산, 권리에 큰 영향을 미치는 분야에서는 AI의 판단 근거를 명확히 알 수 있어야 한다.
--- p.187

학생이 시험을 본 후 선생님의 피드백을 통해 자신의 약점을 보완하고, 다음 시험에서 더 나은 성적을 내기 위해 학습 전략을 수정하는 것과 같다. AI도 자신의 추론 과정에서 오류나 편향이 발견되면, 그 결과를 바탕으로 뉴럴 네트워크와 심볼릭 시스템 모두를 업데이트하여 점차 더 정확하고 신뢰할 수 있는 모델로 발전해 나간다.
--- p.226

오늘날 뉴로심볼릭 AI는 그 복잡한 구조와 연산 비용 문제, 대규모 시스템 구축 시 발생하는 여러 도전 과제를 안고 있다. 그러나 이러한 문제들은 단순히 기술적인 단점이 아니라, AI가 인간과 유사한 창의적 사고와 종합적 문제해결 능력을 갖추기 위한 필수적인 과정의 일부임을 이해해야 한다. 한 학생이 여러 번의 학습과 경험을 통해 자신의 지식을 완성해 나가는 과정에서 겪는 어려움과 마찬가지로, 뉴로심볼릭 AI도 초기에는 많은 도전 과제를 안고 있지만, 지속적인 연구와 기술 발전을 통해 점차 그 한계를 극복하고 AGI로 나아가는 길에 큰 진전을 이룰 것이다.
--- p. 251

우리는 편향 문제를 해결하기 위해 데이터 전처리와 증강, 다중 전문가 협업, 동적 피드백 시스템, 혼합 학습 전략, 인터페이스와 변환 계층 강화, 지식 그래프의 활용, 그리고 윤리적 관리와 같은 다양한 설계 방법들이 필요하다는 점을 강조하였다. 이러한 방법들을 통해 AI는 데이터를 통해 축적한 암묵적인 지식을 명확한 규칙과 논리로 전환하고, 그 결과를 투명하게 설명할 수 있게 된다.