1901년 9월 12일, 노량진 현 수도국 자리에서 조상 숭배 관념이 철저한 아버지 심상정과 어머니 파평 윤씨 사이에서 3남 1년 중 막내로 태어났다. 그의 어머니는 조선조 말 중류 가정 출신으로 온후한 성품과 뛰어난 재질을 지닌 여인이었다고 전해진다. 심훈의 본명은 대섭이고 소년 시절에는 금강생, 중국 유학 때는 백랑, 1920년 이후에는 훈이라고 썼다.
1915년 심훈은 경성 제일고보에 입학하였으며, 1917년 3월 왕족인 전주 이씨와 혼인하였다. 제일고보 4학년 재학중(19세)에 3·1만세 운동에 가담했다가 3월 5일 피검되어 7월에 집행유예로 풀려 나왔다. 이어 중국 망명길에 올라 남경과 상해를 거쳐 향주에 이르러 지강대학 국문학과에 입학했다. 여기에서 안석주와 교유하여 후일 '극문회'를 만들기도 했다고 한다.
1942년 이후 [동아일보] 기자로 활동하였으며, 아내 이해영과 이별하였다. 1930년, 심훈은 19세의 무희인 안정옥과 결혼하여, 『독백』『그날이 오면』등의 시를 발표했다. 그 후 장남 재건과 같이 충남 당진에 내려가 창작에 전념하였다.
1933년 심훈은 장편 『영원의 미소』를 탈고하여 [중앙일보]에 연재하고, 이해영에 대한 회고적 작품 『직녀성』을 발표하여 그 고료로 부곡리에 자택을 짓고 '필경사'라고 불렀다. 이 필경사에서 심훈은 『상록수』를 쓰고 또 그것이 [동아일보]현상모집에 당선되어 일약 명성을 떨치게 되었다. 『상록수』는 1935년 [동아일보] 창간 15주년 현상 모집에 당선되어 상금 500원을 탄 작품으로, 농촌 계몽 운동을 일으킨 큰조카 심재영과 최용신을 모델로 쓰여졌다. 가난한 농촌의 현실을 배경으로 한 그의 작품들은 대개 애향심과 민족의식을 고취시키는 계몽주의 문학의 전형을 이루고 있다.
