1924년 도쿄에서 태어났고 이듬해부터 중학교를 마칠 때까지 만주에서 살았다. 의사였던 아버지의 뒤를 이으려고 도쿄대학교 의학부에 들어갔으나, 의사의 길을 포기하고 작가의 길을 택했다. 1947년 첫 시집 『무명시집(無名詩集)』을 자비로 출판하고 이후 열성적으로 작품 활동을 하였다. 1951년 『붉은 누에고치』로 제2회 '전후문학상'을, 『S. 카르마 씨의 범죄』로 제25회 아쿠타가와상을 수상하며 작가로서의 지위를 굳혔다. 그는 전후 일본의 대표작인 작가로 초현실주의적인 수법을 통해 인간 소외, 정체성 상실 등 현대 사회의 문제를 심도 있게 파고든 실존주의적 작품들을 남겼으며 일본의 카프카라고도 불린다. 「뉴욕 타임스」 선정 세계 10대 문제 작가 중 한 사람으로 꼽혔으며 노벨문학상 후보에 오르는 등 국제적인 작가로 평가받았다.

『모래의 여자』와 『타인의 얼굴』은 그를 세계적인 작가로 만든 대표작이며, 『모래의 여자』는 영화화되어 칸 영화제 심사위원 특별상을 수상했고, 『타인의 얼굴』은 오우삼 감독의 '페이스 오프'에 영감을 주었다. 그 밖에 『불타버린 지도』 등의 작품이 있다. 1973년 아베 고보 스튜디오를 설립하여 다수의 자작 희곡을 연출하면서 극작가로도 이름을 날렸다. 1993년 급성 심부전으로 사망했다.