기억하는 삶이 반백년을 넘어서는 즈음, 알게 되고 믿으며 살아가는 진리라는 것이 하나씩 생긴다. 그 중에 하나...

"하나를 얻으면 하나를 잃는다."

물론 해석의 여지는 있지만 "하나"가 하나가 아닐 수 있는 변수가 있으며, 얻고 잃는 개념의 판단 기준에 따라 해석은 사람마다 달라질 수 있어도 "얻는 것이 있으면 잃는 것이 있다"는 점에 반기를 드는 사람은 없을 것이리라.

인공지능이 생활 속에 들어오면서 습관처럼 사용하는 사람들이 늘어가며 편리를 주장하는 사람들이 있는 반면에 그 편리 덕분에 인간으로써 가지는 존재의 경쟁력을 잃어가는 위기를 걱정하는 사람들도 있다. 내가 살아가는 과정에서 인공지능을 사용할 기회가 많지는 않지만, 그 파급력을 생각하면 공부하지 않으면 안된다는 생각은 늘 하고 있다. 스마트폰이 처음 세상에 나왔을 때도 나는 같은 방식으로 고민했다. 당장 나의 삶에 스마트폰이 필요하지는 않지만, 그 존재에 대한 학습은 해야 한다는 생각을 했고, "아이폰 1"을 구매해서 몇 개월 사용한 후 정지시켰던 경험이 있다.

지금은 다양한 서적이나 소스를 이용해 인공지능에 대한 공부를 하고 있고, 제자들이 인공지능을 사용하는 모습을 관찰하며 이해득실도 분석하고 있는 상황이다. 분명 편리하고, 인간이 기존에 하기 어려웠던 일들을 쉽게 해주는 장점도 있지만, "생각의 외주화"라는 심각한 위험이 동반된다는 위협이 공존한다.

어떤 선택을 하건 얻고 잃는 것이 있다면, 그 선택에서 잃는 것을 최소화하며 얻을 수 있다면 얼마나 좋을까?

스마트 기기를 어린 아들에게 사주며 나는 정공법을 선택했었다. 어차피 피할 수 없다면 적극적으로 대응해서 분석하고 이용하자는 판단으로 어린 아들과 함께 게임을 했고, 게임을 통한 이득을 취하며 위험을 관찰하여 손실을 최소화하기 위해 교육했다.  게임을 통해 아들의 친구들과 친해질 수 있는 기회를 만들었고, 교육적 목적으로 게임을 활용할 수 있는 지혜를 얻었으며, 중독에 이르지 않고 적절하게 활용하는 방안을 지도한 끝에 고등학교 이후로는 아들 스스로 게임을 중단하는 결정을 내리는 효과를 만들어낼 수 있었다.

나는 인공지능 역시 같은 방법으로 접근이 필요하다고 믿는다. 인간의 능력으로 만들어낸 기기라지만 오히려 인간이 중독되거나 의존하게 되는 상황은 피해야 하기 때문에 그 존재 자체를 이해하고 적절한 사용법을 학습해야 하며, 필요 이상의 사용을 자제할 수 있도록 교육해야 한다는 생각에 이른다.

이런 고민의 과정에서 내 눈에 들어온 책 하나... "기계가 언어를 사용한다는 것에 대한 인문학적 사유"는 그 제목 만큼이나 나의 인문학적 관심을 끌기에 충분했다.

인공지능을 다루는 책 답게..  그 시작부터 인공지능이 작성한 머리말로 나를 충격에 빠뜨렸다. 일단 관심을 증폭시키고 집중력을 높이게 하는 효과로는 확실했다.  천천히 내용을 읽어가며 느껴지는 생각들...  인공지능 그 자체의 작동원리와 LLM 의 학습과정, 그리고 인간이 인공지능의 답변을 좋아할 수 밖에 없는 이유를 알게 된다. 결국 인공지능 역시 인간이 만들었고, 인간이 좋아하는 방향으로 답을 낼 수 있도록 만들 수 밖에 없다는 상업논리를 배제할 수 없는 것이었다.

더 나아가 인간이 사용하는 언어에 대한 고찰을 통해 나 스스로 구사하고 있는 언어의 의미를 조금 더 객관적으로 들여다보는 기회를 만들어 주는 기회가 되었다. 학습된 언어모델의 Data 역시 인간들이 평소에 사용하는 말들이기 때문에 LLM 이 만들어내는 답변도 인간이 했던 질문에 대응하는 단어의 확률적 조합이라는 점을 이해할 수 있었고, 반드시 이런 개념을 이해하고 인공지능과 대화(?)해야 "편향"을 이해할 수 있을 것이라는 결론을 내린다.

한 편으로, 나이가 들어가면서 우리가 사용하는 언어의 중요성이 늘어가는 이유를 이해할 수 있었고, 제자들을 포함한 젊은 세대들이 언어 능력이 이전 세대의 같은 나이에 비해 부족할 수 밖에 없는 이유도 알게 되었다. 스스로 사용하는 언어의 개념과 원리를 이해하며 사용하는 일이 그래서 더 중요하고, 잘 알아야 잘 활용할 수 있다는 점을 깨닫게 되는 순간이 모두에게 찾아왔으면 좋으련만...  

인공지능에게 의식을 부여하며 사람으로 대하는 사용자들이 늘어가는 점은, 이같은 작동원리를 이해하지 못하는 사람들의 맹목적 편의 수용의 결과가 아닐까 싶다. 이미 "지능", "환각", "아첨"과 같은 단어들을 인공지능의 특징을 설명하는 용도로 사용하는 환경이 그런 착시를 가속화시키는 원인에 하나라는 지적에 나도 동의한다. 공부를 하면 할수록 인공지능은 잘 만들어진 소프트웨어에 불과하다는 확신이 생긴다. 물론 여기에 Hardware 가 연결되는 Phsical AI 가 상용화 되면, 안드로이드의 이점에 편승해서 더더욱 인공지능을 인간으로 대우하는 사람들이 늘어갈 것도 확실해 보인다. 

그 때, 인간이라는 존재가 얼마나 나약하고 무지한 존재인지 다시 한 번 확인하는 순간이 될 것으로 보인다. 자신이 만들어낸 피조물에 종속되고 지배당하는 인간이 늘어가는 상황은 어떻게든 막아야 할 것인데...  그러기 위해 인공지능 그 자체에 대한 이해는 필수적이라는 생각만 강해진다.

인간이 가진 지식과 인공지능이 가진 지식이라는 것이 같은 것일까? 그럼 지식이라는 것을 정의해봐야 한다. 소위 "알고 있는 것"이 지식이라면 안다는 부분을 정확하게 이해할 필요가 있겠다. 안다는 것은 특정 대상에 대한 이해를 통해 원리를 파악하고 필요에 따라 활용할 수 있는 능력이라고 정의하고 싶다. 단어 하나를 단순하게 암기하고 있다 한들, 사용할 수 없는 것이기 때문에 지식이라 정의될 수 없다. 단어 하나를 정확하게 이해하고 의미를 파악했다면 적시적소에 사용할 수 있어야 한다. 그래야 비로서 알고 있다는 표현을 사용할 수 있는 것이다.

그런 의미에서 보면 인공지능이 가진 것이 과연 지식일까? 인간의 요구에 따라 필요한 단어를 찾아 조합하여 나열해주는 기능을 지식이라고 할 수 있을까? 오히려 원하는 것을 확률적 계산을 통해 빠르게 찾아주는 행위(?)가 인간의 관점에서 보면 지능이 있는 것처럼 보이는 효과는 가질 수 있겠다. 그래서 인공지능이라 부르는 것이겠지만 말이다. 그럼 지능이 아닌데 지능으로 이해하면 의식이 아님에도 의식으로 느껴질 수 있는 함정이 있다는 것을 이해해야 한다. 지능이 있으면 판단을 할 수 있고, 생각을 통해 판단을 하는 것이 바로 의식이기 때문이다. 기계로 인간의 의식을 흉내낼 수 있다면, 그것 역시 수용하는 사람에 따라 의식이 있다고 생각하는 것 또한 부정하기 어려울 것이다.

이런 문제 때문에 튜링테스트라는 것이 만들어졌지만, 오히려 이 시대의 인공지능은 이미 튜링테스트를 넘어서기 시작했고, 심지어 튜링테스트를 통과하지 못하는 인간들이 늘어가는 현상이 만들어지고 있다. 테스트의 평가자는 물론, 응시하는 대상의 언어능력 저하와 인공지능의 답변에 적응된 평가자의 편향된 기준도 한 몫을 했을 것이다.

여기까지 생각하면 데카르트에서 튜링으로 이어지는 인간과 존재에 대한 정의를 다시 생각할 수 밖에 없는 상황이 된다. 대화로 인간과 소통이 되는 LLM 을 인간으로 정의하고 의식을 부여하는 해석에 혼란이 생길 수 밖에 없다면 결국 철학적 개념에서 인간은 다시 정의되어야 한다. 참으로 혼란스러운 일이 아닐 수 없겠다.

LLM 은 생각을 표현하는 것이 아니다. 그저 Token 에 맞는 가장 높은 확률의 단어를 나열할 뿐이다. 그래서 우리는 인공지능을 바라보고 활용하는 관점에서 늘 의심하고 확인하는 습관을 가질 필요가 있으며, 생각과 판단까지 의존하는 일은 끝까지 피해야 할 부분이다. 거기에 더해 오류를 인식해야 한다. 인공지능이 학습한 자료가 이미 오류의 확률이 높은 것들이라는 것과 의도적으로 만들어진 컨텐츠까지 학습한 결과물이라는 사실을 잊어서는 안되겠다. 오히려 누가 보아도 가짜를 그럴듯하게 포장해서 진짜처럼 만드는 능력을 가진 것이 인공지능이다.

책을 읽으며 언어에 대한 고찰을 하게 되었다. 언어의 무게와 의미, 그래서 나라는 인간의 존재를 더욱 중요하게 만들어주는 수단이 언어의 역할이라는 것을 잊지 말아야겠다.