20세기 초 어느 겨울, 짙은 안개에 휩싸인 음산한 런던, 15년 전 칩거생활에 들어갔던 셜록 홈즈가 사망했다는 소식이 전해지면서 소설은 시작된다. 홈즈의 동료이자 전기작가인 왓슨 박사는 홈즈의 유언장 공개가 있다는 공증인 홀본 변호사의 연락을 받고 그의 사무실로 향한다. 홀본 변호사와 왓슨 박사, 그리고 셜록 홈즈의 형인 마이크로프트와 런던 경찰청장인 레스트레이드가 한자리에 모인다. 셜록 홈즈는 유언을 통해 홀본에게는 ‘왓슨이 쓴『런던의 공포』가 든 봉투’를, 왓슨에게는 ‘바이올린’을, 마이크로프트에게는 ‘추리력’을, 그리고 레스트레이드에게는 ‘의혹과 회한’을 남긴다. 그리고 홈즈 자신이 가지고 있었던 원고 『런던의 공포』를 왓슨에게 그 자리에서 읽어줄 것을 부탁한다.
왓슨의 낭독으로 최초로 공개되는『런던의 공포』는 15년 전 런던, 밀뱅크 교도소에 수감되어 있던 마크 두간이라는 변호사가 한 범죄조직의 정체를 밝히기 위해 간수로 위장, 잠입취재를 벌이던 기자 레지날드 포스터를 토막살해, 암매장하고 탈옥한 사건을 시작으로, 15건의 피로 물든 처참한 살인사건이 연이어 발생한다. 어린 여자아이에서 노파, 주류 도매상에서 귀족에 이르기까지, 서로 아무 연관도 없어 보이는 다양한 희생자들이 잔인하게 살해될 때마다 현장에는 살인자의 표식, 뒤집어진 십자가 표시가 남는다. 경찰은 그 표식을 다수의 범인이 남긴 일종의 모방으로 치부하고, 마치 누군가 일부러 현장에 남겨놓은 듯한 증거를 토대로 손쉬운 용의자들을 체포한다. 홈즈는 그 사건들을 동일범의 소행으로 확신한다. 그러나 사건 해결은 고사하고 범행 동기조차 밝혀내지 못한 채 범인이 계획적으로 남겨놓은 단서들의 미로 속을 헤맨다. 그리고 결국 홈즈는 사건을 풀어내려는 광기서린 집념에 시달린 채로 세상과 결별하고 칩거생활에 들어간다. 그리고 15년 후 세상을 뜬 홈즈의 연쇄살인 사건을 풀기 위해 벌인 15년 간의 끈질긴 집념의 사투가 공개된다.
셜록 홈즈의 유언으로 『런던의 공포』의 낭독을 마친 그 자리에서 셜록 홈즈는 자신의 유언장을 통해 초자연적인 힘을 가진 것처럼 보였던 살인범의 정체와 미스터리로 남아 있던 엽기적 살인행각의 전모를 드디어 밝혀낸다.