요한 프리드리히 헤르바르트는 1776년 5월 4일 올덴부르크에서 법률가이며 지방정부의 법률고문인 아버지 토마스 게르하르트 헤르바르트, 어머니 루치아 마르가레테 헤르바르트(출생명 쉬테) 사이에 태어났다. 유복한 가정환경을 타고난 헤르바르트는 어머니의 교육열에 힘입어 어려서부터 다양한 사교육을 받았다. 지적인 수업은 물론이고 다양한 음악수업을 받아 여러 악기를 잘 다루었는데 특히 피아노를 잘 다루어 수준급의 피아니스트가 되었고, 작곡법까지 배워 뒷날 피아노소나타를 작곡할 정도였다. 1788년부터 올덴부르크의 라틴어학교(김나지움)를 다녔는데, 그는 특히 고전어와 수학, 자연과학에 열심이었으며, 또한 당시 명성이 높던 칸트의 철학을 공부하기 시작했다. 1794년부터 예나에서 부모의 희망에 따라 법학공부를 시작했으나, 철학에 관심을 기울이게 되었고, 당시 예나대학에 있던 피히테의 영향을 크게 받았으나 얼마 안 가서 거리를 두게 되었다. 1797년 봄 스위스 베른의 주지사 슈타이거의 두 아들을 가르치기 위해 가정교사로 입주했으며, 이 시기에 스위스에서 민중교육의 실천으로 명성을 얻고 있던 페스탈로치를 만나보고 그의 교육관과 교육실천에 감명을 받았다. 1802년 괴팅겐으로 가서 같은 해에 박사학위와 교수 자격을 취득하고, 1805년부터 철학과 교육학 조교수로 활동했다. 1806년 《일반교육학》과 《형이상학의 주안점들》이 출판되어 그의 철학적?교육학적 전체체계가 확립되었다. 1808년 칸트의 후임으로 쾨니히스베르크 대학의 정교수로 취임하여 철학의 여러 분야에 대해 가르쳤으며 1810년에는 새로 개설된 교육학과를 이끌었고, 일종의 부속학교를 설립·운영했다. 1811년 영국에서 이주해 온 상인가문의 딸 메리 제인 드레이크(Mery Jane Drake)와 결혼했다. 이후 왕성한 저술 활동을 펼쳤는데, 《철학입문 교본》, 《심리학 교본》, 《학문으로서의 심리학》 등이 이 시기의 대표작들이다. 1831년 사망한 헤겔의 후임으로 베를린대학으로 옮기고자 했으나 프로이센 정부가 다른 학자를 헤겔 후임으로 임명하자 실망한 헤르바르트는 (프로이센에 속해 있는) 쾨니히스베르크대학을 떠나서 괴팅겐대학으로 옮겼다. 헤르바르트가 1837년 철학부의 학장을 지낼 당시, 새로 등극한 하노버 왕이 요구한?반개혁적인 내용이 포함되어 있는?충성서약을 거부한 7인의 교수들(이들은 ‘괴팅겐의 7인’이라고 불리면서 영웅 대접을 받았고, 그들 중 2인은 그림형제)에 대해 거리를 둠으로써 교수단과 학생들의 냉대를 당하게 되었다. 이로 인해 헤르바르트는 쓸쓸한 말년을 보내다가 1841년 8월 14일 65세의 나이에 심장마비로 사망하여 괴팅겐의 시립묘지에 안장되었다.