전통적인 해상 운송 환경에서 선박 사고의 약 75%에서 96%는 항해사의 상황 인식(Situational Awareness, SA) 오류, 피로 누적, 정보 과부하와 같은 인적 과실에 기인한다고 알려져 있다. 특히 야간 항해나 악천후 상황에서는 인간의 감각 기관이 거리와 속도를 오판하기 쉬우며, 작은 오판이 곧 충돌로 연결되는 경우가 많다. 이때 문제는 “보지 못했다”라기보다, “보았지만 의미를 붙이지 못했거나, 우선순위를 잘못 두었거나, 행동으로 이어지는 결정을 늦게 내렸다”는 형태로 나타난다. 즉 SA는 단순한 관측 능력이 아니라, 관측된 정보를 바탕으로 위협을 식별하고 다음 행동을 조직화할 수 있는 인지 상태다.
－01_“MASS와 안전 운항” 중에서

안전 운항은 ‘현재를 정확히 아는 것’에서 시작하지만, 그 출발점은 데이터의 무결성(Data Integrity)이다. 시스템이 주변을 어떻게 보고 있는지, 그리고 그 정보가 얼마나 믿을 만한지 스스로 판단할 수 있어야 자율 의사 결정이 성립한다.

MASS는 자동 식별 장치(Automatic Identification System, AIS), 레이더(Radar) 등 여러 소스에서 정보를 받는다. 그러나 각 데이터에는 센서 노이즈, 통신 지연, 신호 누락 같은 불확실성이 포함된다. 이런 상태에서 충돌 위험 지수(Collision Risk Index, CRI)를 계산하면, 위험 판단이 흔들리고 회피 기동도 잘못될 수 있다.
－02_“안전 운항의 기본 전제” 중에서

MASS는 선박의 기동 한계(Manoeuvring Limit)를 수식화하고, 예측 모델 제어(Model Predictive Control, MPC) 등 제어 틀 안에 넣어야 한다. MPC는 ‘미래 일정 구간’을 내다보며 현재의 제어 입력이 앞으로의 상태 변화를 어떻게 만드는지 예측하고, 그 예측을 바탕으로 최적 입력을 선택한다. 선박 회피에 이 접근이 중요한 이유는 두 가지다. 첫째, 선박은 즉각 반응하지 않으므로 “지금의 타각”이 “몇 분 뒤의 위치·침로”를 결정한다. 둘째, 회피 기동은 단일 순간의 조작이 아니라 일정 시간 지속되는 제어의 연속이기 때문이다. 따라서 MPC 기반 회피는 단발성 변침 명령이 아니라, 시간에 따라 달라지는 타각·속력 명령의 시퀀스를 산출하는 형태로 구현되는 편이 자연스럽다.
－05_“회피 행동 설계” 중에서

여기서 중요한 것은 XAI가 ‘결과를 정당화’하는 장치가 되어서는 안 된다는 점이다. 설명은 시스템을 변호하기 위한 말이 아니라, 항해사가 시스템을 감독할 수 있도록 근거를 제공하는 도구여야 한다. 따라서 XAI는 불리한 정보도 숨기지 않고 드러내야 한다. 예컨대 “AIS 지연으로 표적 속력 추정 오차가 커서 CRI 신뢰도가 낮다” 같은 문장이 포함되어야 하고, 필요하면 “현재 권고안은 보수 모드 기준”이라는 조건도 명시되어야 한다. 이 투명성이 있어야 항해사는 ‘맹목적 신뢰’가 아니라 ‘조건부 신뢰’를 형성할 수 있고, 그 조건부 신뢰가 실제 운항에서 가장 안전한 형태가 된다.
－08_“예측 가능성과 적응성의 균형” 중에서