1879년 황해도 해주에서 태어났다. 어려서는 안응칠로 불렸고 해외생활 중에도 이 이름을 많이 사용했다. 6세 때 가족이 황해도 신천군 두라면 청계동으로 이사했으며, 학문보다 사냥에 뜻이 있어 명사수로 성장했다. 16세 때인 1896년 김아려와 결혼해 이후 2남1녀를 두었고, 이듬해에 천주교에 입교해 세례를 받고 도마(토마스)라는 세례명을 받았다.

27세 때인 1905년 을사보호조약이 체결되자 중국 상하이로 건너가 한인들을 모아 국권회복을 도모했다. 이때 돈의학교와 삼흥학교를 세우는 등 인재 양성에 힘썼으며, 평양에서 삼합의라는 광산회사를 설립해 산업 진흥운동에도 매진했다. 이후 연해주로 가서 의병대열에 참가해 대한의군을 조직하고 무장 항일투쟁에 나셨다. 1909년 뜻을 같이 하는 이들과 함께 ‘동의단지회’라는 비밀 결사를 조직했는데, 이때 이들은 왼손 네 번째 손가락 한 마디를 잘라 태극기에 붉은 피로 ‘大韓獨立’(대한독립)을 새겼다. 그해 10월 26일 10월 26일 만주 하얼빈역에서 조선통감부 초대통감인 이토 히로부미를 사살했다. 1910년 2월 14일 공판에서 사형이 선고되고, 그해 3월 26일 뤼순 감옥에서 순국했다. 이때 그의 나이 31세였다.

옥중에서 자서전인 『안응칠 역사』와 동양평화를 실현하기 위한 『동양평화론』을 집필했으며, 이 중 『동양평화론』은 형이 집행되면서 미완으로 남았다. 대한민국 정부는 그의 공훈을 기리어 1962년 건국훈장 대한민국장을 추서했다.