1931년 12월 서울 수표동의 한 독실한 가톨릭 집안에서 태어났다. 1954년 가톨릭대학 신학부에 입학, 1961년 사제품을 받았다. 이탈리아 로마 우르바노 대학에서 교회법으로 석사 학위를 받았으며, 1970년 최연소 주교로 서품되었다. 이후 28년 동안 청주교구장을 지냈고, 한국 천주교 주교회의 의장 등을 역임했다. 1998년부터 2012년까지 서울대교구장과 평양교구장 서리를 겸했다. 2006년 3월에는 베네딕토 16세 교황으로부터 추기경으로 서임되었고, 2007년부터 임기 5년의 교황청 성좌조직재무심의 추기경 위원회 위원을 지냈다. 최근까지 왕성한 저술 활동을 하고 있으며, 15권에 달하는 교회법 해설서 저술로 자타가 공인하는 교회법의 권위자이기도 하다.