‘국민의정부’ 시절, 3년 8개월 동안 김대중 대통령의 의전비서관과 외교안보수석비서관으로 근무하면서, 대통령에 관한 의전 업무는 물론 정상외교와 남북 관계에도 관여했으며, 2001년 10월 주중 한국대사로 임명되었다. 이후 노무현 대통령 재임 기간 5년을 거쳐 2008년 3월 이명박 정부의 초대 통일부장관에 임명되기 전까지 6년 반을 재임하며, 직업외교관으로서 ‘최장수 대사’가 된 대표적인 중국통이다.
1973년 외무부에 들어가, 주뉴욕총영사관, 주인도대사관, 주일본대사관을 거쳐 1992년 2월 중국으로 가서 직접 한.중 수교 교섭에 참여했다. 수교 이후 주중대사관의 정무공사로서 활동하던 중, 1994년 11월 중국을 방문한 김대중 당시 아태재단 이사장과 운명적인 만남을 하게 된다. 그리고 1998년 2월 김대중 대통령 취임 직전 대통령 의전비서관으로 발탁되어, 2년 반을 근무하면서 대통령의 17차례의 외국 방문과 25명의 정상들의 국내 방문, 그리고 대통령이 참석하는 다양한 국내 행사를 준비했으며, 동시에 6.15 남북정상회담 시 의전과 행사에 관련된 업무를 총괄하여 맡은 바 임무를 성공적으로 수행했다.
2000년 8월 외교안보수석비서관으로 승진해 대통령의 외교.안보.통일에 관한 업무를 보좌하면서, 한.미 관계를 비롯한 4강 외교에 깊이 관여했으며, 제3차 서울 ASEM 정상회의 개최 시 대통령을 보좌하여 정상회의가 성공적으로 개최되도록 노력했다. 또한 남북 관계가 미묘한 시기에 미.북 대화와 남북 관계의 회복을 위해 노력했다. 대통령의 유엔 새천년정상회의, 노벨평화상 수상식, 브루나이 APEC 정상회의, 싱가포르 아세안+3 정상회의 등의 국제회의 시 대통령의 국제무대에서의 활동을 보좌하는 동시에, 대통령의 외국 순방 및 외국 정상들의 한국 방문 시 정상회담 등 관련 업무를 보좌했다. 그리고 2001년 10월 주중대사로 자리를 옮겼다.
서울대 중국문학과를 졸업하고, 외무고시에 합격하여 외무부 아시아태평양국장, 대통령 의전비서관, 대통령 외교안보수석비서관, 주중대사를 거쳐 통일부장관을 역임했다.저서로 《김하중의 중국 이야기 1 - 떠오르는 용, 중국》, 《김하중의 중국 이야기 2 - 영원한 이웃, 끝없는 도전: 한국과 중국》(이상 비전과리더십), 《사랑의 메신저 1》, 《Ambassador of God 1》, 《神の大使 1》(이상 두란노), 《하나님의 대사 1》, 《하나님의 대사 2》, 《하나님의 대사 3》(이상 규장)이 있다.