사회 재난 연구자들은 대부분의 대형 사고가 ‘정상 사고(normal accident)’가 아니라 ‘조직화된 무관심(organized irresponsibility)’의 결과라고 말한다. 위험은 시스템 안에 구조적으로 내재되어 있었고, 관련자들은 그 위험을 알고 있었지만, 조직의 논리와 경제적 유인이 경고를 침묵시켰다. 재난은 대체로 세 단계를 거쳐 성숙한다. 첫 번째는 잠재 위험의 축적이다. 구조적 결함, 규정 미준수, 과부하 상태가 누적된다. 건물 균열이 생기고, 과적이 반복되며, 인력이 부족한 상태가 지속된다. 두 번째는 경고 신호의 무시다. 관계자가 위험 신호를 인지했으나 조치하지 않는다. 균열 보고가 묵살되고, 안전 경보가 해제되며, 현장의 목소리가 묻힌다. 세 번째는 촉발과 연쇄 붕괴다. 사소해 보이는 계기가 전체 시스템의 붕괴를 불러온다.
---『01_“사회 재난의 이해”』 중에서

디지털 리터러시가 재난 안전의 핵심 역량이 되는 시대는, 동시에 디지털에 접근하기 어려운 사람들이 재난에 더 취약해지는 시대이기도 하다. 고령층, 저소득층, 장애인, 이주 외국인 등 디지털 기기 사용에 어려움을 겪는 인구는 재난 알림을 받지 못하거나, 대피 정보를 이해하지 못하거나, 신고 방법을 모르는 상황에 놓이기 쉽다. 이 문제는 개인이 혼자 해결할 수 없다. 가족 중에 디지털 기기 사용이 어려운 구성원이 있다면, 재난 시 연락 방법과 대피 경로를 오프라인으로 함께 확인해 두어야 한다. 지역사회 차원에서는 이웃의 디지털 취약 계층을 파악하고, 재난 상황에서 정보를 전달하고 함께 대피하는 ‘이웃 안전망’을 만드는 것이 중요하다. 디지털 리터러시는 재난 시대의 생존 능력이다. 그러나 그 능력이 없는 이웃을 함께 챙기는 것은 공동체의 책임이다.
---『03_“개인의 생존 전략 1”』 중에서

재난은 비용이다. 그러나 재난 예방도 비용이다. 오랫동안 사회는 재난 예방에 드는 비용을 ‘지출’로 보았다. 재난이 일어나지 않으면 투자 효과가 보이지 않기 때문이다. 그 결과 예방 투자는 항상 후순위로 밀렸고, 재난이 반복되었다. 그런데 이 방정식을 뒤집는 발상이 등장했다. 재난 예방을 비용이 아닌 시장으로 보는 것이다. 사람들이 안전에 기꺼이 지불하려는 수요가 있고, 그 수요를 AI 기술로 정밀하게 충족하는 사업 모델이 가능하다면, 재난 예방은 사회적 선(善)이자 동시에 수익성 있는 비즈니스가 된다.
---『06_“AI 기반 사회 재난 예방 비즈니스”』 중에서

AI 시스템이 고도화될수록, 인간이 그 작동을 완전히 이해하고 통제하기 어려워진다. 이것을 ‘정렬 문제(alignment problem)’라고 한다. AI가 주어진 목표를 달성하는 과정에서 인간이 의도하지 않은 방식으로 행동하는 것이다. 재난 대응 AI의 맥락에서 이 문제는 구체적이다. ‘대피 완료 시간을 최소화하라’는 목표를 가진 AI가 사람들을 비상구가 아닌 가장 가까운 출구로 몰아넣어 혼잡을 유발할 수 있다. ‘감염 확산을 차단하라’는 목표를 가진 AI가 특정 지역의 모든 이동을 봉쇄하는 극단적 조치를 권고할 수 있다. 목표 달성의 효율성만 최적화하는 AI는 인간이 중시하는 다른 가치들−공정성, 존엄성, 선택의 자유−을 희생시킬 수 있다.