1922년 평양에서 태어났다. 어린 시절을 아버지가 없는 집안에서 할머니와 어머니와 더불어 보냈는데, 작가 스스로 “소학교 시절에는 자신의 생일을 알고 있었으나 그후로는 기억할 필요가 없어 잊어버렸다”면서 성장한 후로는 자신의 생일을 몰라 기념조차 할 수 없었던 사람이다. 소학교를 졸업한 이후 10여 년간 만주를 거쳐 일본으로 건너가 교토와 도쿄에서 신문 배달과 우유 배달 등 고학으로 몇 군데의 중학교를 거쳐 니혼(日本) 대학에서 잠시 수학했다. 이 무렵(19세) 일본인 친구의 여동생인 지즈코와 동거 생활에 들어가는가 하면, 뒤늦게 독서의 필요성을 깨닫고 많은 책을 읽기 시작했다.

해방을 맞아 1946년에 부인과 아이를 일본에 남기고 홀몸으로 귀국했으나 오갈 데 없는 처지로 고통스러운 밑바닥 생활을 체험했다. 이때 만주와 일본 등지에서 귀국한 이른바 ‘해방 따라지’들과 공동으로 자활 건설대를 조직했으나 경관을 구타한 사건으로 3개월간의 도피 행각, 그후 상경했으나 또다시 미군 부대 통역관을 폭행한 일로 서대문 형무소에서 1개월간 복역했다가 출감한 후 38선을 넘어 고향인 평양을 찾아갔다. 공산치하인 고향 평양에서 2년간 지내다가 반동분자로 낙인찍혀 1948년 월남, 그후 교사ㆍ잡지사 편집 기자ㆍ출판 사원 등으로 일하면서 겨우 생활의 기반을 마련하던 중에 6ㆍ25 전쟁이 터졌다. 이때 피난지 부산에서 남편을 찾아 한국에 건너와 있던 아내 지즈코와 기적적으로 상봉, 비로소 정상적인 가정 생활을 시작했다.

1952년에 단편 「공휴일」을 김동리의 추천으로 지에 발표하면서 등단, 그후 휴전 직후에서 4ㆍ19에 이르는 몇 해 사이에 중요한 작품을 잇달아 발표함으로써 전후 한국문학의 대표적인 작가로 떠올랐다. 그의 문학이 당시 우리 문학계에서 ‘새로운 전율’로 받아들여진 까닭은 ‘주리고 헐벗은 소외’의 문제를 다룬 그 주제 의식이 전후의 물질적 결핍과 물리적 황량의 문학적 대응으로서 폭넓은 호응을 얻었기 때문이다. 1960년대에「길」등의 몇몇 장편소설을 발표하고 동시에「환관」「청사에 빛나리」등과 같은 역사 단편을 시도해서 새로운 경지를 펼쳐보였으나, 1970년대 들어 부인의 조국인 일본으로 건너간 후 국내 문단과는 전혀 소식을 끊고 지내다 2010년 6월 지병으로 타계하였다.

주요 작품으로 단편소설 「사연기(死緣記)」「치몽(稚夢)」「신의 희작(戱作)」 「육체추(肉體醜)」 「흑야(黑夜)」 등이 있으며, 장편소설 『낙서족(落書族)』 『부부』 『인간교실』 『길』 『삼부녀』 『유맹(流氓)』 등이 있다.