1954년 타이완에서 출생했다. 1976년에 타이완대학 외국어문학과를 졸업하고, 미국 위스콘신대학에서 비교문학 전공으로 1978년에 석사 학위를, 1982년에 박사 학위를 받았다. 타이완대학(1982~1986), 하버드대학(1986~1990), 콜롬비아대학(1990~2004) 교수를 거쳐 2004년 이후 하버드대학 동아시아 언어 문명학과 교수로 재직하고 있으며 2014년부터 비교문학과 교수를 겸직하고 있다. 2004년에는 타이완 중앙연구원의 멤버가 되었다. 영문 저서로는 The Lyrical in Epic Time(2014), The Monster that Is History(2004), Fin-de- siecle Splendor(1997), Fictional Realism in Twentieth Century China(1992) 등이 있다. 중문 저서로는 『史詩時代的抒情聲音』(2017), 『華夷風起: 華語語系文學三論』(2015), 『現當代文學新論: 義理ㆍ倫理ㆍ地理』(2014), 『現代抒情傳統四論』(2011), 『後遺民寫作』(2007), 『台灣: 從文學看歷史』(2005), 『被壓抑的現代性: ??小說新論』(2005), 『跨世紀風華: 當代小說二十家』(2002), 『?聲喧?以後: 點評當代中文小說』(2001), 『如何現代, ?樣文學?: 十九,二十世紀中文小說新論』(1998),『想像中國的方法:歷史ㆍ小說ㆍ?事』(1998),『小說中國:??到當代的中文小說』(1993), 『?聲喧?: 三○ 與八○年代的中國小說』(1988) 등 20여 권이 있다. 그 외에도 수 백 편에 이르는 논문ㆍ평론ㆍ리뷰와 수 십 권에 이르는 역서ㆍ편서ㆍ편저 등이 있다.

김혜준은 고려대학교 중문과에서 박사 학위를 받았고, 부산대학교 중문과에서 재직 후 현재 명예교수로 있다. 그동안 홍콩 중원대학(CUHK), 중국 사회과학원(CASS), 캐나다 브리티시컬럼비아대학(UBC), 미국 캘리포니아대학 샌디에이고 캠퍼스(UCSD) 등에서 연구생 또는 방문학자 신분으로 연구했다.

중국 현대문학사, 중국 신시기 산문, 중국 현대 페미니즘 문학, 홍콩문학, 화인화문문학 등을 연구했거나 하고 있다. 이에 따라 단독 또는 공동으로 《중국 현대문학 발전사》(1991), 《중국 당대문학사》(1994), 《중국 현대산문사》(1993), 《중국 현대산문론 1949-1996》(2000), 《중국의 여성주의 문학비평》(2005), 《현대 중문소설 작가 22인》(2014), 《시노폰 담론, 중국 문학 ― 현대성의 다양한 목소리》(2017) 등 관련 이론서를 번역하기도 하고, 《하늘가 바다끝》(2002), 《쿤룬산에 달이 높거든》(2002), 《사람을 찾습니다》(2006), 《나의 도시》(2011), 《포스트식민 음식과 사랑》(2012), 《뱀 선생》(2012), 《술꾼》(2014), 《그녀의 이름은 나비》(2014), 《동생이면서 동생 아닌: 캐나다화인소설선》(2016) 등 수필 작품과 소설 작품을 번역하기도 했다. 저서로 《중국 현대문학의 ‘민족 형식 논쟁’》(2000), 《홍콩문학론 ― 홍콩 상상과 방식》(2019) 및 이 책 《북미 화인화문문학 ─ 북미 한족계 초국적 이주자의 문학》(2026)이 있고, 논문으로 〈화인화문문학(華人華文文學) 연구를 위한 시론〉(2011) 외 수십 편이 있다.

오랜 기간 부산대학교 현대중국문화연구실(http://cccs.pusan.ac.kr/)을 중심으로 청년 연구자들과 함께 다양한 공동 작업을 진행해왔다. 이와 더불어 개인 홈페이지 ‘김혜준의 중국 현대문학(http://dodami.pusan.ac.kr/)’을 운영하면서, 〈한글판 중국 현대문학 작품 목록〉(2010), 〈한국의 중국 현대문학 학위 논문 및 이론서 목록〉(2010) 등 중국 현대문학 관련 자료 발굴과 소개에도 노력해왔다.