본명은 장지락(張志樂). 평북 용천 출생. 일본, 만주, 상하이, 베이징, 광둥, 옌안 등을 누비며 중국 공산혁명을 통한 독립운동에 몸을 던졌다. 신흥무관학교를 최연소로 졸업한 뒤 상하이로 가 이동휘, 안창호 등의 영향을 받았다. 1924년 고려공산당 베이징지부를 설립하고 1925년 중국대혁명에 참가하였다. 1930년과 1933년 두 차례에 걸쳐 일본경찰에 체포되었다. 1937년 중국의 옌안에서 님 웨일즈와 만나게 되었고 님 웨일즈는 이 만남의 성과를 담아 1941년 미국 뉴욕에서 『아리랑의 노래(Song of Ariran)』를 출간했다. 1938년 중국공산당 사회부장 캉성에 의해 ‘일제 스파이’라는 누명을 쓰고 처형됐으나 1983년 중국 공산당은 김산의 억울한 죽음을 인정하고 명예와 당원 자격을 회복시키는 복권을 결의하였다.