뉴햄프셔 콩코드에서 태어난 마크 레빈은 5살 때 피아노를 처음 배웠고, 10대 초반에 트롬본을 연주하기 시작하였다. 그는 1960년 보스턴 대학교에서 음악 학위를 받고 졸업하였으며, 뉴욕으로 이주하여 휴스턴 퍼슨, 몽고 산타마리아, 윌리 보보 등의 음악가들과 함께 연주 활동을, 1975년 이후에는 블루 미첼/해럴드 랜드 퀸텟, 조 헨더슨, 스탠 게츠, 바비 허처슨, 루이스 가스카와 칼 자데르와 함께 음악 활동을 하였다.

1980~1983년 판막 트롬본에 집중하였던 그는, 다시 피아노 연주에 복귀하였으며 얼마 후 자신의 밴드를 이끌며 1983년, 1985년에 ‘콩코드’에서 리더로 녹음하였다. 1992년부터는 헨더슨의 빅밴드 일원이었으며, 1996년 새로운 트리오를 만들어 자신의 동명의 레이블을 위해 녹음하였고, 그의 라틴 재즈 그룹인 ‘케 칼로르’는 1997년에 결성되었다.

그는 디아블로 밸리 칼리지, 밀스 칼리지, 안디옥 대학교, 샌프란시스코 음악원, 소노마 주립 대학교, 재즈 스쿨에서 음악을 가르쳤으며, 두 권의 방법론을 저술하였는데, 바로 『재즈 피아노 북』과 『재즈 이론』이다. 그는 2003년 ‘Isla’를 녹음한 공로로 ‘그래미상 최우수 라틴 재즈 앨범상’의 후보에 오르기도 하였다.