만년에 접어든 괴테의 조력자이자 동료이기도 했던 에커만은 1792년 독일 루에 강변의 빈젠에서 출생했다. 어린 시절을 혹독한 가난 속에서 보냈고, 나폴레옹에 대항하는 북부 독일 해방전쟁에 참가하기도 했다. 문학에 대한 열정 때문에 법학 공부를 중도에 그만두었다. 괴테를 사숙하던 에커만은 1823년 「시학 논고」라는 원고를 괴테에게 보내 관심을 끌었고, 괴테가 그를 초청하자 바이마르를 방문하게 된다. 그의 자질을 알아본 괴테는 자신의 전집 발간을 위해 에커만을 바이마르에 묶어 두었다.
1823년부터 1832년까지 10여 년 동안 에커만은 대략 1000번 가량 괴테와 만난다. 그리고 그때마다 대화를 기록해 두었다가, 후일에 그것을 정리하여 괴테의 사후인 1836년에 1부와 2부를, 그리고 1848년에 3부를 출간하는데, 이것이 니체가 ‘현존하는 독일 최고의 양서’라고 평한 『괴테와의 대화』다.

일본 조치대학 독어독문학과 수학하고 서울대학교 문리과대학 독어독문학과 졸업했다. 미국 시카고대학교 대학원 독어독문학과 졸업(석사), 독일 뷔르츠부르크대학교 독문과 졸업(독문학박사), 서울대학교·서강대학교 독문과 교수 역임를 역임했다. 국제펜클럽 한국본부 사무국장 역임하고 한국 독어독문학회 회장과 한국 괴테학회 초대회장을 맡았다. 서강대학교 명예교수이다.
저서로는 『독일문학의 사상과 배경』, 옮긴책 괴테 『파우스트』 『젊은 베르테르의 슬픔』 『빌헬름 마이스터의 편력시대』, 에커만 『괴테와의 대화』, 폰타네 『사랑의 미로』, 토마스 만 『마의 산』, 헤르칸 카자크 『강물 뒤의 도시』, 하인리히 뵐 『아담, 너는 어디 가 있었나』, 프리덴탈 『괴테 생애와 시대』, 슈테판 츠바이크 『어제의 세계』, 니체 『차라투스트라는 이렇게 말했다』 등이 있다.