1952년 Berliner Sinfonie-Orchester (Berlin Symphony Orchestra)로 창단. 동베를린과 서베를린으로 나뉘어 있던 당시, 동베를린에 위치한 베를린 교향악단은 서독의 베를린 필하모닉 오케스트라(Berliner Philharmoniker)와 서로 경쟁하였다. 베를린 필이 카라얀을 앞세워 전 세계 클래식 애호가들의 시선을 끌었다면, 베를린 심포니 오케스트라은 1960년부터 1977년까지 쿠르트 잔덜링이 지휘를 맡아 그 실력과 위력을 과시하였다.
1989년 독일 통일 후, 오케스트라도 해산할 위기에 처했으나, 후원자들의 도움으로 어려움을 이겨냈다.
현재는 '베를린 콘체르트하우스 오케스트라'로 불린다.