4차 산업혁명을 넘어 본격적인 AI 시대로 진입하면서, 우리는 흔히 데이터는 21세기의 원유(Oil)라고 말한다. 하지만 이 비유에는 간과하기 쉬운 섬뜩한 진실이 숨어 있다. 원유가 잘못 다뤄지면 거대한 화재나 폭발을 일으키듯, 데이터−특히 우리 자신을 설명하는 ‘개인정보’−역시 잘못 다뤄지면 우리 사회를 송두리째 흔드는 시한폭탄이 될 수 있다는 사실이다. AI의 끝없는 식욕과 우리의 프라이버시 사이에서 벌어지는 이 긴장 관계를 어떻게 바라봐야 할까? 인공지능의 성능은 데이터의 양과 질에 좌우되기 때문에, 우리는 지금 혁신의 연료를 공급하는 것과 시한폭탄의 뇌관을 건드리는 것 사이의 위태로운 줄타기를 하고 있다.
－01_“개인정보는 원료인가, 시한폭탄인가” 중에서

이 법리를 AI 학습에 대입해 보면 어떻게 될까? 우리가 SNS에 사진을 올릴 때, “이 사진을 글로벌 AI 기업이 가져가서 상업용 AI 모델을 만드는 데 써도 좋다”라고 묵시적으로 동의했다고 볼 수 있을까? 상식적으로 그렇게 생각하는 이용자는 거의 없을 것이다. 따라서 현행 국내 법제하에서 공개된 개인정보의 처리에 대한 별도의 특례 규정이 없고, 일반적인 개인정보보호법상의 규율을 따르는 상황에서, AI 기업들이 정보 주체의 명시적 동의 없이 공개된 데이터를 무차별적으로 긁어가는 것은 위법 판단의 위험성에 직면할 소지가 존재한다.
－03_“공개된 정보는 모두의 것인가” 중에서

우리는 왜 기계의 판단을 거부하고 설명을 요구해야 할까? 단순히 불합격이 억울해서가 아니다. 그것은 인간의 존엄성(Human Dignity)을 지키기 위함이다. 인간은 데이터 덩어리로 환원될 수 없는 복잡하고 존엄한 존재다. 나의 인격과 미래가 차가운 알고리즘의 확률 계산에 의해 일방적으로 재단되는 것을 방치한다면, 우리는 주체성을 잃고 시스템의 부속품으로 전락할 것이다.
－06_“알고리즘 감옥과 설명 요구권” 중에서

AI 시대의 보안 전략 핵심 키워드는 수동적 ‘방어(Defense)’에서 ‘회복 탄력성(Resilience)’으로 이동하고 있다. 회복 탄력성이란 “단순한 복구 능력을 넘어, 위기 발생 후 더 나은 보호 체계를 갖추는 능동적 회복과 진화”를 포함하는 개념이다. AI·초연결 사회의 침해는 이제 ‘막느냐/못 막느냐’의 문제가 아니라, 얼마나 빨리 발견하고(Detect), 얼마나 작게 가두고(Contain), 얼마나 빨리 복구하며(Recover), 이후 학습해 더 단단해지느냐(Adapt)의 문제로 바뀌고 있다. 사고는 일어날 수 있다. 중요한 것은 그 충격을 흡수하고 시스템을 신속하게 정상화하여 사회적 혼란을 막는 능력이다.
－09_“해킹, 유출, 그리고 회복 탄력성” 중에서