1869년 중국 저장성 위항[餘杭]에서 태어났다. 원래 이름은 슈에청[學成]이고 훗날 빙린[炳麟]으로 개명한다. 타이옌[太炎]은 자호(自號)이다. 지식인 가계 출신으로 소년 시절 부친과 외조부에게 배웠고, 1890년 항저우 고경정사(故經精舍)에 입학해 고증학을 공부했다.

1896년 고경정사를 나와 계몽 운동에 투신했고, 1903년에는 청년 혁명가 저우룽[鄒容]의 『혁명군(革命軍)』에 서문을 써 주고는 필화를 입어 3년간 옥고를 치른다. 이 필화 사건 이후 장타이옌은 중국 청년들에게 반청(反淸) 혁명의 상징이 된다.

옥중에서 불교에 입문한 장타이옌은 대승불교사상의 한 축인 유식학을 공부했다. 유식학은 이후 그의 철학과 학술에 크게 영향을 끼친다. 1906년 출옥 후 일본으로 건너간 그는 쑨원[孫文]과 함께 중국혁명동맹회를 이끌었고, 동맹회 기관지 『민보(民報)』의 편집장을 맡았다.

그는 고증학과 불교 유식학 그리고 서양 철학을 동원하여 혁명을 논하고 전통 학술을 논했으며, 봉건 습속과 근대 문명을 비판했다. 『민보』 시기 장타이옌의 학술에는 시대가 온전히 있었고, 비판 정신이 생동했다. 『제물론석(齊物論釋)』이 대표적이다. 제자 루쉰은 이 시기 스승을 ‘학술이 있는 혁명가’로 묘사했다.

1911년 신해혁명 이후 장타이옌은 빠르게 보수화했고, 오래지 않아 정치 일선에서 은퇴하고 순정한 국학자로 제자를 길렀다. 장타이옌 말년 제자와 손제자는 오늘날까지 중국 학술계를 호령하고 있다.