1902년 9월 7일 평안북도 구성군에 있는 외가에서 부친 김성도와 모친 장경숙의 장자로 출생한다. 본명은 김정식이다. 태어난 지 백일 후부터 평안북도 정주군 곽산면의 본가에서 자란다. 1904년 부친 김성도가 당시 경의선 철도 부설공사를 하던 일본 목도꾼에게 폭행을 당한 이후 정신 이상 증세에 시달린다. 김소월은 광산을 경영하는 할아버지의 손에서 컸는데, 이 무렵 시인의 길로 가도록 영향을 준 숙모 계희영을 만났다. 1915년 평안북도 곽산의 4년제 남산보통학교를 졸업하고 평안북도 정주에 있는 오산고등보통학교에 입학해 김억과 사제관계를 맺게 되고 한시, 민요시, 서구시 등을 본격적으로 접하게 된다. 후에 경성 배재고등보통학교에 편입하여 1923년 졸업했다. 이후 일본 도쿄 상과대학교에 입학 후 귀국했을 시점에 시인 나도향과 만나 친구가 되었다. 일제강점기 시절 이별과 그리움을 주제로 우리 민족의 한과 슬픔을 노래하는 시를 썼다. 김소월은 자신의 문학적 스승인 김억의 격려를 받아 그의 지도 아래 시를 쓰기 시작하였으며 1920년 「낭인(浪人)의 봄」, 「야(夜)의 우적(雨滴)」 등 5편을 소월(素月)이라는 필명으로 동인지 『창조』 5호에 처음으로 시 「그리워」를 발표하며 등단하였다. 오산학교를 다니는 동안 김소월은 왕성한 작품 활동을 했으며, 1921년 [동아일보]에 「봄밤」, 「풀 따기」 등을 발표했다. 1922년 「금잔디」, 「엄마야 누나야」를 개벽지에 발표하였으며, 1925년에 시론 「시혼(詩魂)」을 발표하고, 같은 해 7월호에 떠나는 님을 진달래로 축복하는 한국 서정시의 기념비적 작품인 『진달래꽃』을 발표하여 크게 각광받았다. 이는 시인이 생전에 낸 유일한 시집으로 기록된다. 그 밖에 1923년 『깊고 깊은 언약』 『접동새』 1924년 『밭고랑 위에서』 『생과 사』 1926년 『봄』 『저녁』 『첫눈』 1934년 『제이, 엠, 에스』 『고향』 등을 발표했다.

1923년 도쿄상업대학교에 입학하였으나, 같은 해 9월 관동대지진이 발생하자 중퇴하고 귀국했다. 김소월은 고향으로 돌아간 후 조부가 경영하는 광산일을 돕다가 처가가 있는 구성군으로 거처를 옮겼다. 이어 1926년평안북도 구성군 남시에서 [동아일보 지국]을 개설하고서 이도 실패하자 극도의 빈곤에 시달리기도 했다. 예민한 성격이었던 김소월은 이에 큰 충격을 받았으며, 이후 류머티즘을 앓으며 친척들에게도 대접을 받지 못하는 등 고생하다가 1934년 12월 24일 만 32세의 나이로 평안북도 곽산에서 아편을 마시고 스스로 목숨을 끊었다. 1939년 스승 김억이 엮은 『소월시초(素月詩抄)』가 발간된다. 1977년 [문학사상] 11월호에 미발표 소월 자필 유고시 40여 편이 발굴, 게재된다.