1927년 미국 뉴저지 주 케이프 메이에서 독일계 이민자의 후손으로 태어났다. 고등학교를 졸업하기 전부터 다양한 학생모임에서 활동했고, 정치학에 관한 해박한 지식으로 또래들과 선생님들에게 깊은 인상을 주었다. 정책에 특화한 프린스턴대학교 우드로 윌슨 스쿨(Woodrow Wilson School)을 최우등으로 마쳤다. 그는 졸업논문에서 제2차 세계대전 이후 연준이 인플레이션을 억제하는데 실패한 점을 비판했다.

뉴욕 연준에서 리서치 보조로 일하다가 하버드대학원에 진학해 정치경제학으로 석사학위를 취득한 뒤 런던정경대에서 수학했다. 1952년 뉴욕 연준에서 풀타임 이코노미스트로 재직하다 1957년에 체이스맨해튼은행으로 자리를 옮겨 금융 담당 이코노미스트로 일했다. 이후 1962년에 자신의 멘토인 로버트 루사에 의해 재무부 금융분석국장으로 등용되었고, 1963년 미국 재무부 통화 담당 차관보에 임명되었다. 1965년에 다시 체이스맨해튼은행 부행장 겸 기획 담당 임원으로 있다가 1969년에 닉슨 행정부의 부름을 받고 1974년까지 재무부 국제통화 담당 차관을 역임했다. 1971년 8월 15일 금태환 정지 결정에 중요한 역할을 했던 볼커는, 이 일이 자신의 인생에 있어서 가장 중요한 이벤트였다고 회고했다.

1975년 뉴욕 연준 총재를 거쳐 1979년 8월 카터 대통령의 지명으로 미국 연준 의장에 취임했다. 볼커는 1970년대부터 1980년대 초까지 나타났던 대대적인 인플레이션을 공격적인 통화긴축정책으로 퇴치하면서 ‘인플레이션 파이터’라는 닉네임을 얻었다. 1980년 3월 14.8%까지 올라갔던 미국의 인플레이션이 1983년에는 3% 밑으로 떨어졌다. 볼커 의장의 연준은 1979년 평균 11.2%이던 연방기금금리를 1981년 6월 20%까지 인상했다. 1981년 프라임 레이트(prime rate)가 21.5%까지 상승하는 과정에서 경기침체에 빠졌고(1980~1982년), 실업률이 10% 위로 올라갔다. 당시 연준에 항의하는 전례 없는 강력한 시위가 발발했다. 농민들이 트랙터를 몰고 와 연준 본관 에클스빌딩을 봉쇄하는 사태가 벌어지기도 했다. 볼커는 언제까지 인플레이션과 싸울 것이냐는 세간의 항의에 “인플레이션이라는 괴물을 잡을 때까지 전쟁을 멈추지 않을 것”이라며 소신을 굽히지 않았다. 결국 볼커의 뚝심은 성과로 나타났다. 인플레이션이 떨어지면서 미국 경제성장의 여건을 조성한 것이다. 이후 1982년부터 통화긴축을 풀기 시작하면서 미국은 경제성장세를 재개했다. 볼커는 1983년 레이건 행정부에서 연준 의장에 연임되었다. 1985년 플라자합의를 통해 악화하는 미국의 만성적 경상수지 적자에 대응하면서, 독일과 일본 등이 달러에 대해 자국 통화를 절상하도록 유도했다.

1987년 8월 연준 의장에서 퇴임한 뒤에도 볼커는 정부와 중앙은행의 멘토로 활약했다. 후임자 그린스펀 연준 의장은 볼커처럼 인플레이션을 낮게 유지하는데 정책의 초점을 맞췄다. 금융위기가 한창이던 때 오바마 대통령은 당시 여든이 넘은 볼커에게 경제회복자문위원회 의장직(2009년 2월-2011년 1월)을 맡겼다. 볼커는 은행들의 자기매매와 프라이빗 에쿼티 및 헤지펀드와의 거래를 제한하는 내용의 강력한 금융규제를 발표했다. 이러한 볼커의 정책은 ‘볼커룰(Volcker Rule)’이라 불리며, 금융과잉을 막는 예방장치 역할을 해왔다.

“연준이 금리인하를 더 하지 않아 미국 경제가 망가지고 있다면서 미국의 적은 중국이 아니라 연준”이라는 트럼프 행정부의 노골적인 불평에, “중앙은행은 정치적 권력에 휘둘리지 말고 공정성을 지켜내야 한다”며 맞섰던 볼커는, 2019년 12월 8일 92세로 영면했다.