인도 바라나시에서 출생하였으며, 1958년 알라하바드(Allahabad) 대학에서 역사, 경제, 산스크리트어의 학사학위를 받았다. 1970년에 시라쿠스(Syracuse) 대학에서 경제학으로 석사학위를, 1974년에 비교종교학으로 M.T.S 학위를 받았고, 그후 1978년에 미국 하바드 대학에서 산스크리트어와 인도학으로 박사학위를 받았다. 현재 캐나다 맥길(McGill) 대학교의 비교종교학 교수이며, 세계 종교와 관련한 50여권의 책과 500여 편의 논문을 저술했다. 아르빈드 샤르마는 또한 2006년 몬트레올에서 개최된 세계 종교 의회를 주관한 의장이기도 했고, 최근에는 세계 종교에 입각한 인권 운동의 지구적 선언과 관련된 업무에 치중하고 있다.
그가 쓴 대표작으로는 The Hindu Gita: Ancient and Classical Interpretations of the Bhagavadgita(1986), The Experiential Dimension of Advaita Vedanta(1993) 등이 있다. 또한 그가 편집한 최근의 대표적인 저서로서 본서 Our Religions와 The World‘s Religions: A Contemporary Reader(2010)가 있다.