1877년 독일 뷔르템베르크에서 태어났다. 아버지 요하네스는 목사이고, 외가도 신학자 집안이다. 외조부는 인도에서 다년간 포교했다. 어머니는 인도에서 태어나 독일에서 교육받고 인도로 돌아가 영국인 선교사와 결혼했지만, 사별 후 독일에서 요하네스와 재혼해 헤세를 낳았다.
헤세는 1890년 라틴어학교에 입학하고 이듬해 신학교에 들어가지만 속박된 기숙사생활을 견디지 못하고 탈주해 자살을 시도하기도 했다. 다시 고등학교에 들어갔으나 1년도 못 되어 퇴학하고 서점 견습점원이 되었다. 한동안 아버지 일을 돕다 병든 어머니를 안심시키기 위해 시계공장에서 3년간 시계 톱니바퀴를 닦으면서 문학수업을 했다.
1895년 서점에서 다시 견습점원으로 일하면서 낭만주의 문학에 심취해 처녀시집 《낭만적인 노래 Romantische Lieder, 1899》와 산문집 《자정 이후의 한 시간 Eine Stunde hinter Mitternacht, 1899》을 출간해 R. M. 릴케에게 인정받았다. 시인으로 입신할 기회를 얻게 되지만, 확고한 문학적 지위를 얻게 해준 것은 장편소설 《페터카멘친트 Peter Camenzind, 1904》였다. 같은 해 아홉 살 연상의 피아니스트 마리아 베르누이와 결혼했으나, 1923년 이혼하고 스위스 국적을 획득했다. 그후 인도 여행으로 동양에 대한 관심이 깊어졌고, 1차세계대전 중 독일 문단으로부터 애국주의에 동조하지 않는다는 비난을 받기도 했고, 아버지의 죽음, 아내의 정신병 등으로 정신분석학에 심취하기도 했다. 2차세계대전 중 나치에 저항하면서 파란을 겪기도 했다.
주요 소설로 《수레바퀴 밑에서 Unterm Rad, 1906》 《게르트루트 Gertrud, 1910》 《로스할데 Rosshalde, 1914》 《크눌프 Knulp, 1915》 《데미안 Demian, 1919》 《싯다르타 Siddhartha, 1922》 《황야의 늑대 Der Steppenwolf, 1927》 《나르치스와 골트문트 Narziss und Goldmund, 1930》 《유리알유희 Das Glasperlenspiel, 1943》(1946년 노벨문학상 수상) 《헤세와 로맹 롤랑의 왕복서한, 1954》 등이 있다. 이밖에 단편집, 시집, 우화집, 여행기, 평론, 수상(隨想), 서한집 등이 있다.
1962년 8월 9일 세상을 떠날 때까지 자기실현을 위해 한시도 쉬지 않고 꾸준히 노력했다. 뇌출혈로 사망한 후 아본디오 묘지에 안치되었다.