1961년 서울에서 태어나 연세대학교 신학과를 졸업했다. 그가 만난 사람들 한명 한명의 삶을 귀 기울려 듣고 기록했던 김흥겸은 대학 3학년 때인 1983년부터 파주 백석교회와 신림동 낙골교회에서 봉사했다. 어디서든 오르간이나 피아노가 있으면 오래 앉아 연구하곤 했던 그는 노래 <민중의 아버지>를 바로 이즈음에 지었다. 1987년부터 사당동, 돈암동, 신대방동 등 재개발 지역에서 도시 빈민 주거권 확보를 위해 운동했다. 1991년 신대방동 철거반대투쟁으로 구속되었다가 나온 뒤 영등포에서 노점상을 했다. 1993년부터는 농산물 직거래를 위한 공동체 한겨레 농산을 결성하고 일했다. 1995년 가수 류금신의 데뷔음반 '희망'을 준비했다. 1997년 1월 21일 서른 여섯 나이로 저 세상으로 떠나기 전까지 자신이 살았던 시대와 삶을 글로 남겼다. 그 외 <민중의 아버지>외 여섯 곡의 노래와 유고집 <낙골연가>를 남겼다.