서울대학교 산업공학과에서 학사, 석사학위를, 미국 미네소타 대학에서 정보시스템 분야로 경영학박사 학위를 취득했다. 피츠버그 대학 경영대학원 교수를 거쳐 1993년부터 KAIST 경영대학에 재직 중이며 현재 경영대학 교수/연구담당 부학장 및 정보미디어 경영대학원 원장 직을 맡고 있다. KAIST 우수강의 대상, 과학기술부 우수연구 대통령 표창, 국제의사결정학회 및 한국경영정보학회, 한국지식경영학회의 최우수 논문상을 수상한 바 있다.
초기 정보기술 분야의 교육/연구를 바탕으로 지난 10여 년간 지식경영, 고객관계관리 분야로 연구주제를 진화시켰고 최근에는 엔터테인먼트 및 미디어산업에 특화된 비즈니스 모델 및 전략 연구에 집중하고 있다. 삼성그룹 사장단 정보화교육 책임교수, 전국 검사장 혁신교육 책임교수, 맥킨지코리아 정보기술 자문교수, 포스코 지식경영 자문교수직 등을 역임했으며 CGV, 제일모직, 매일유업, 세종문화회관, 아산병원 등 국내 유수 기업/기관들의 CRM 현황을 진단한 바 있다. 현재 〈조선일보〉 위클리비즈에 “김영걸 교수의 CRM Clinic” 칼럼을 기고하고 있다.