오사카의 무역상 집안에서 쌍둥이로 태어났다. 어머니 가문의 대를 잊기 위해 태어나자 외가로 보내져 내내 외조부모와 살았다. 밖에서 하는 일에는 크게 간섭하지 않았지만 기본적인 예절만큼은 엄격했던 외할머니 밑에서 독립심을 기르며 성장하였다. 공업고등학교에 진학하고 2학년이 되던 17살에 프로복서에 입문하였으나. 고교 생활이 끝날 무렵 당시 일본 권투계 최고의 스타였던 하라다 선수의 스파링 모습을 보면서 현실을 직시하게 되었다.

고등학교 졸업과 동시에 진로를 결정해야 하는 순간이 오면서 그는 자신이 물건 만들기에 흥미를 잃지 않고 있다는 사실을 깨닫고 고등학교에서 배운 지식을 바탕으로 인테리어를 시작하게 되었다. 아르바이트 형식으로 시작하여 가구, 인테리어, 건축 등으로 점차 범위를 확장한 그는 헌책방에서 르 코르뷔지에의 도면집을 구입하고, 그의 도면을 수없이 베끼면서 독학을 시작하였다. 1964년 일본에서 해외여행이 자유화가 되자마자 그는 해외여행을 결심한다. 서구에 대한 호기심으로 그는 7개월의 기간 동안 유럽, 남아공, 인도, 필리핀 등을 돌아보고 왔다.

이후 자신의 사무소를 개설할 때 까지 돈만 모이면 세계를 돌아다녔다. 전세계적으로 변혁의 분위기로 가득찼던 60년대에 20대를 보낸 그는 1969년 거의 나이 28세에 그의 아파트를 건축사무소로 삼아 세상과 대면하게 되었다. 첫 데뷔작인 '스미요시 나가야(住吉の長屋)' 부터 그는 노출콘크리트로 건축을 하는데, 그에게 콘크리트란 자신의 창조력 한계를 시험하는 일종의 도전이었다. 건축의 재료를 콘크리트로 좁히고 구성도 기하하적인 형태를 고수한다는 원칙 아래에서 자신만의 작업을 하고 있는 그는 콘크리트 작업을 하면서도 자연과의 조화, 인간과 삶의 공간, 주거에 대한 고민의 끈을 놓지 않는다.

절제와 단순미로 표상되는 일본의 미의식을 표해온 그는 도심부의 주택과 상업건축을 넘어 미술관 등 공공건축으로 범위를 넓혀나간다. 미국의 예일대학, 컬럼비아 대학, 하버드 대학 객원교수를 거쳐 1997년 도쿄대학 건축과에서 강의를 시작하였고, 2002년 미국 건축가협회(AIA) 대상 등 각종 건축상을 수상하였다. 그의 건축은 여전히 진행중이며, 세계 곳곳에서 도시와 문화를 연결하는 각종 프로젝트에 참여하고 있다.