1940년 서울에서 태어나 한국외대를 졸업한 후 독일 뮌스터대학에서 학부 과정부터 경제학을 공부해 박사 학위를 받았다. 서강대 교수로 재직하던 중 부가가치세 실시를 계기로 정부 정책에 조언하기 시작해 근로자재형저축, 의료보험 실시를 가능케 했다. 1987년 헌법 개정 당시 제119조 2항 ‘경제민주화’ 조항을 도입하였다. 독일식 경제사회 모델 가운데 우리나라가 따를 수 있을 만한 부분을 적용하기 위해 평생 노력했으며, 한독관계 증진에 기여한 공로로 2008년 독일 정부가 수여하는 일등십자공로훈장을 받았다.

1990년 청와대 경제수석 재직 당시 부동산 가격을 단시간에 안정시켜 ‘소방수’라 불렸으며, 경제 참모의 역할을 넘어 외교 사안까지 해결해 ‘만능 수석’이라고 불리기도 했다. 새누리당, 더불어민주당, 국민의힘 등에서 비상대책위를 맡아 위기 때마다 정당을 일으켜세워 ‘정당 소생술사’, ‘닥터 K’, ‘여의도 차르’, ‘경제 할배’ 등 다양한 별명을 얻었다.

독립운동가이자 초대 대법원장인 가인 김병로 선생의 손자로 1960년대부터 현실 정치의 한복판을 경험해 ‘한국 정치사의 살아 있는 증인’으로 통한다. 보수-진보를 막론하고 여러 정부에서 총리 후보 등으로 숱하게 거론돼 ‘지상 발령 최다 정치인’이라는 수식어도 갖고 있다.