야곱 그림은 1785년에, 그의 동생 빌헬름 그림은 1년 후에 독일 하나우에서 태어났다. 그들의 아버지는 변호사였고, 여섯 명의 형제와 한 명의 누이가 더 있었다. 아버지는 아주 어릴 때 돌아가셨지만, 두 소년은 매우 좋은 친구로 지냈고 어려운 시절에 서로를 도왔다. 심지어 동생이 결혼을 한 뒤에도 형 야곱은 동생 집에서 함께 살았다.

함께 마르부르크 대학에서 법률 공부를 하던 시절, 그들은 민간 전설과 동화를 수집하기 시작했다. 두 형제는 학교를 그만두고, 마법과 유령에 대한 독일과 덴마크의 옛날 이야기를 들으면서 시골을 여행하였다. 1812년, 그들은 자신들이 들은 이야기를 적어 『어린이와 가정의 동화 Children's and Household Tales』라는 제목으로 첫 번째 모음집을 출판했다. 그 책은 후에 200여 개의 다른 이야기들이 덧붙여져서 『그림 동화 Grimm's Fairy Tales』라는 제목으로 출판되었고, 독일 문학에서 가장 잘 알려진 작품이 되었다. 그 외에도 베를린 대학에서 교수로 있으면서 독일 역사와 독일어를 일생 동안 연구하여 독일어 사전도 출판했고, 『German Mythology』, 『Old German Tales』, 『The History of the German Language』 등의 책을 내기도 했다.