서울대학교 경영대학을 졸업하고 미국 펜실베이니아대학 와튼스쿨(Wharton School)에서 경영학 석사와 박사 학위를 받았다(통계학 부전공). 사회와 기업의 다양한 문제를 계량 분석적으로 접근하는 연구를 주로 했으며, 기업의 현안을 데이터 분석적으로 해결하면서 동시에 직원들의 분석 능력을 키워주는 교육 프로그램을 개발해 여러 기업에서 실행했다. KBS 선거예측조사 자문위원을 역임했으며, KBS TV 특강(3회)과 삼성경제연구소(SERI)에서 통계 관련 인터넷 강좌(유쾌한 통계: 40강좌)를 오픈했다.
『주간동아』에 「김진호 교수의 빅데이터 이야기」, 『동아비즈니스리뷰』에 「Power of Analysis」라는 칼럼을 연재했으며, 현재는 『동아비즈니스리뷰』에 「빅데이터 리더십」을 연재하고 있다. 2016년 3월 인공지능 알파고와 이세돌 9단의 대국을 앞두고 많은 바둑 혹은 인공지능 전문가와 달리 알파고가 완승할 것이라고 예측해 주목을 끌었다.
세계적으로 유명한 분석 전문가인 토머스 대븐포트와 함께 미국에서 『Keeping Up With the Quants: Your Guide to Understanding and Using Analytics』라는 책을 출간했다(Harvard Business Review Press, 2013). 이 책은 일본어, 중국어, 스페인어로 번역되었으며 한국에서는 김진호 교수가 직접 번역해 『말로만 말고 숫자를 대봐』라는 제목으로 출간되었다. 그 외에 저서로는 『우리가 정말 알아야 할 통계 상식 백 가지』·『괴짜 통계학』·『빅데이터가 만드는 제4차 산업혁명』·『빅데이터 리더십』 등이 있으며, 『빅데이터@워크』를 우리말로 옮겼다.
2015년 서울과학종합대학원(aSSIST)에 빅데이터MBA학과를 만들었다. 어시스트 빅데이터MBA학과는 가장 많은 학점(45)과 과목(28)으로 구성된 체계적인 커리큘럼을 갖추고 있으며, 스위스 로잔경영대학 빅데이터MBA 학위도 받을 수 있는 공동학위 과정이다. 현재 어시스트 빅데이터MBA학과 주임교수 겸 빅데이터연구센터장을 맡고 있다.