성대한 클래식의 어느 공연장. 수천의 청중을 사로잡는 교향악단의 지휘자 모항쥬에게 오래된 낡은 일기장을 든 옛 친구 페피노가 찾아온다. 그리고 모항쥬와 페피노는 60여 년 전 여름, 한 대머리 선생과의 만남을 떠올린다.
2차 세계대전 직후 전쟁의 상처가 채 아물지 않은 프랑스 마르세이유의 작은 기숙사 학교. 면회가 되는 토요일마다 교문 앞에서 하염없이 아빠를 기다리는 전쟁고아 페피노, 역시 아빠의 부재 속에서 엄마의 관심을 끌기 위해 말썽을 일으키는 모항쥬. 이처럼 쓸쓸한 여름방학을 보내는 아이들의 학교에 미완성의 악보를 든 마티유가 임시직 교사로 부임해온다. 마티유는 부임 첫날부터 아이들의 거친 장난과 교장의 비인간적인 교육을 맞닥뜨리게 된다. 상처 받은 아이들의 짓궂은 장난에 학교는 엄한 체벌과 규칙으로 강압적인 교육을 실시한다. 여름이지만 겨울보다 더욱 차가운 교정, 하지만 마티유는 그곳에서 희망의 씨앗을 발견한다.
취침을 확인하던 마티유는 우연히 아이들의 흥얼거리는 노랫소리를 듣는다. 그는 그날 밤 접어두었던 오선지를 꺼내어 다시 음악을 작곡하고 닫혀있는 아이들에게 노래를 가르치기로 결심한다.
파트를 나누고 매일 밤낮 함께 합창을 하는 아이들의 얼굴에 어느새 외로움의 그림자는 사라진다. 반항아 모항쥬는 천상의 목소리로 놀라운 음악적 재능을 발견하게 되고, 교문 밖에서 아빠를 기다리던 페피노의 그리움은 마티유로 인해 점차 사라진다. 그리고 아이들의 하모니가 삭막한 학교에 울려 퍼지면서, 차가웠던 선생들과 교장의 얼굴에도 봄의 미소가 깃든다. 기부금 장학사를 위한 합창공연도 대성공을 이룬다. 비록 그 공적을 교장이 차지하지만 그래도 마티유와 아이들은 노래할 수 있다는 것만으로도 행복함을 느낀다. 그러나 희망으로 가득 차기 시작한 교정은 문제소년 몽당의 전학으로 예기치 못한 사건의 소용돌이에 휘말리고 그들의 합창은 금지 당하게 되는데…