미국 오클라호마 시에서 태어났다. 1967년 물리학과 천문학 전공으로 메릴랜드 대학을 졸업하고, 그 즉시 베트남전에 징집되어 공병으로 참전했다. 1969년 파편 100여 개가 몸에 박히는 중상으로 명예제대를 한 후, 같은 해 SF전문지 《갤럭시(Galaxy)》에 단편 「Out of Phase」을 게재하며 작가로 데뷔한다.

그가 직접 경험한 베트남전의 참상은 작품에 큰 영향을 미친다. 대표작 『영원한 전쟁』(1974)은 전쟁의 본질이 무엇인지 대중들에게 재확인시켜 주었고, 독자와 평론가들의 압도적인 지지를 받으며 휴고 상, 네뷸러 상, 로커스 상의 최우수 장편상을 수상한다. 또한 작가 어니스트 헤밍웨이에 대한 애정과, 그와 자신 사이에 존재하는 공통점에서 착안한 작품인 『헤밍웨이 위조사건』(1991)으로 휴고 상과 네뷸러 상의 최우수 중편상을 수상하는 저력을 보인다. 2009년에는 전미 SF 판타지 작가 협회(SFWA)에서 그랜드마스터의 칭호를 받았으며 2012년에는 SF 명예의 전당에 올랐다.

2016년 현재 홀드먼은 MIT에서 조교수로 문예창작을 가르치며 『Graves』(1993),『Forever Peace』(1997), 『Camouflage』(2004)등의 작품을 통해 지금까지 꾸준하고 왕성하게 활동하고 있다.

한국의 SF 및 환상문학 평론가이자 번역가. ‘그리폰북스’ ‘경계소설’ ‘SF총서’ ‘필립 K. 딕 걸작선’ ‘미래의 문학’ ‘조지 R. R. 마틴 걸작선’을 기획하고 번역했다. 번역 작품으로 테드 창의 『당신 인생의 이야기』 『숨』, 로저 젤라즈니의 『신들의 사회』 『전도서에 바치는 장미』, 그렉 이건의 『쿼런틴』 『내가 행복한 이유』 『대여금고』 『잠과 영혼』, 필립 K. 딕의 『화성의 타임슬립』 『파머 엘드리치의 세 개의 성흔』 『유빅』, 로버트 A. 하인라인의 『스타십 트루퍼스』, 조 홀드먼의 『영원한 전쟁』 『헤밍웨이 위조사건』, 로버트 홀드스톡의 『미사고의 숲』, 크리스토퍼 프리스트의 『매혹』, 이언 뱅크스의 『말벌 공장』, 새뮤얼 딜레이니의 『바벨-17』, 카를로스 카스타네다의 『돈 후앙의 가르침』 3부작, 에릭 재거의 『라스트 듀얼』, 존 그리빈의 『시간의 물리학: SF가 상상하고 과학이 증명한 시간여행의 모든 것』, 존 셜리의 『인간이라는 기계에 관하여: 구르지예프 평전』 등이 있다.