피터 틸의 말에 따르면 그 올바른 한 명은 누구도 견제할 수 없습니다. 오직 그만이 옳기 때문입니다. "사람들은 중요한 결정을 맡길 수 있는 존재가 아니기" 때문입니다. 카프에 따르면 서구권이 틀릴 때, 어처구니없이 잘못된 결정을 내리기 시작할 때 그것을 견제할 수단은 없습니다. 그는 단지 권위주의 국가가 위험하니 이에 맞서기 위해 국방력을 강화해야 하고, 최소한의 규제로
그는 인류가 절벽을 향해 달려가고 있지만 아직 절벽에 닿은 것은 아니며, 속도를 늦추고 경로를 변경해 추락을 피하고, 안전하고 정렬이 된 인공지능이 제공할 놀라운 혜택을 누릴 기회가 남아 있다고 말합니다. 그리고 이를 위해서는 절벽이 실제로 존재한다는 것, 그리고 절벽에서 떨어질 수 있다는 것을 인정해야 한다고 말합니다. 테그마크 교수는 이렇게 끝을 맺습니다. "올려다봐!
하사비스는 우리가 세 가지를 가져야 한다고 말합니다. 우선 통제 할 수 있어야 합니다. '우리보다 더 뛰어난 지능이 되었을 때도 여전히' 통제할 수 있어야 한다고 말하는 게 더 정확한 표현이겠군요. 두 번째는 해석할 수 있어야 합니다. AI가 어떤 일을 할 때, 왜 그런 일을 하게 되었는지를 구조적으로 해석할 수 있어야 한다는 것입니다. 거대모델에서는 이미 극도로 어려운 일입니
AI가 스스로 자기 개선을 통해 성능이 좋아진다면 우리는 두 가지를 놓치게 됩니다. 우선 왜 좋아지는지를 알기가 어려워집니다. 우리가 한 게 아니기 때문이지요. 두 번째는 어느 방향으로 가고 있는지도 알기가 어렵습니다. 역시 우리가 결정한 게 아니기 때문이지요. 어느 순간 우리의 지능을 넘어설 텐데, 그때부터는 더욱 곤란해 질 겁니다. 우리는 우리보다 지능이 뛰어난 존재의
얀 르쿤이 말하고 싶었던 핵심은 이런 겁니다. "현재의 챗GPT 같은 AI는 패턴 맞추기 게임일 뿐이고, 진정한 지능을 위해서는 세상을 '이해'하는 능력이 필요하다. 그가 생각하기에 현재 AI, 즉 거대언어모델의 문제점은 세상을 정말 이해하는 게 아니라, 언어 패턴을 복사하는 것 같다는 겁니다. 정말 필요한 능력은 '월드 모델', 즉 이미 당신의 머릿속에 있는 '세상이 어떻게 작동하는