MIT의 막스 테그마크Max Tegmark 교수는 말합니다. “챗GPT가 이상한 얘기를 하는 걸 금지시키는 건, 살인자에게 ‘죽이겠다고 말하지 마’라고 하는 거랑 똑같다. 중요한 건 살인을 못 하게 하는 것이지, 살인할 마음은 있는데 말만 하지 말라고 하는 게 지금 우리가 하는 짓 아니냐.” 영국 출신 버클리대학교 AI 교수인 스피어 래슬Stuart Russell도 비슷한 얘기를 하고 있습니다. 이런 걸 막으려면 결국 사회적 규제가 불가피합니다. 그런데 놀랍게도 지금 샌프란시스코에서 샌드위치 가게가 새로운 샌드위치를 출시하려면 지켜야 할 규정이 챗GPT 같은 AI 모델을 만들 때 지켜야 할 규정보다 더 많습니다. 샌드위치 하나 새로 만들려면 정부의 관련 부서로부터 승인을 받아야 합니다ㅋㄴ

래서 최근에는 AI한테 숙제를 주고 “지금 왜 그런 생각을 하는지 정확히 설명하라”라고 요구하는 연구를 시도하고 있습니다. 딥시크 같은 경우 그렇게 합니다. 이걸 CoT라고 부릅니다. 초기에는 우리가 프롬프트를 입력하면 그에 맞는 대답을 내놓는지, 혹은 헛소리를 내놓는지에 주목했습니다. “어떤 대답을 내놓는가” 하는 것이 최대의 관심사였지요. 하지만 최근에는 대답하면서 어떤 근거로 그 대답을 했는지 설명하게 합니다. 그런데 연구 결과를 보면, 대답과 설명이 안 맞는 경우가 꽤 많습니다. 예를 들어 인간이 시를 써서 챗GPT한테 평가해 달라고 요청하면 챗GPT는 100이면 100 “좋다”라고 대답합니다. “이 시는 매우 훌륭하고 감정을 잘 표현했어요.” 납득이 안 되니까 솔직히 말해달라고 해도, “여전히 좋지만, 여기 조금 고치면 더 좋을 것 같아요”라고 합니다. 여기에서 그치지 않고 정말 객관적인 평가가 듣고 싶으니까 제발 솔직하게 말해달라고 해도, 끝까지 좋게 말해줍니다. 그런데 옆에서 인터프리터블Interpretable AI로 어떤 생각을 했는지 보면 이렇게 생

그리고 2000년대 초, 갑자기 일반 소비자들은 인터넷으로 친구들과 교류하고 싶어 했습니다. 이게 바로 소셜 네트워킹입니다. 이것도 마찬가지입니다. 저 같은 엔지니어는 어차피 친구가 없습니다. 아무도 엔지니어들이랑 놀고 싶어 하지 않기 때문에, 소셜 네트워킹이 중요하다고 생각한 엔지니어는 아무도 없었습니다. 그런데 일반 소비자들은 그게 중요하다고 생각했던 것입니다.

소비자들이 인터넷을 체험하자마자, 그 전 20년 동안 전문가들은 생각조차 하지 못했던 새로운 활용 방식을 생각해 냈던 것입니다. 1990년대 후반부터 갑자기 일반 소비자들은 인터넷으로 쇼핑을 하고 있었습니다. 그런데 이건 엔지니어들은 20년 동안 전혀 상상도 못 했던 영역입니다. 여러분들이 아실지 모르겠지만, 저 같은 엔지니어는 쇼핑에 관심이 없습니다. 돈도 별로 없고요. 근데 일반 소비자들에게는 그게 중요한 일이었습니다.