1963년 강원도 철원 출생으로 서울대학교 영문과를 졸업했으며, [한겨레신문] 기자로 일했다. 1991년 경향신문 신춘문예에 「쥐잡기」가 당선되어 등단하였다. 1993년 『열린 사회와 그 적들』, 1995년 『장석조네 사람들』, 1995년 『고아떤 뺑덕어멈』 등의 단편 소설집과 장편 소설을 썼으며 같은 세대 작가들 사이에서 일약 주목받는 위치에 올라섰다.

1995년부터는 다니던 신문사마저 그만두고 당시 선배와 동료 문인들이 일하던 서교동의 한 출판사 구석에 자리를 얻어 '전업작가'로서의 의욕을 불태웠다. 1996년에 『자전거 도둑』, 『양파』와 『신풍근 배커리 약사(略史)』, 『눈 속에 묻힌 검은 항아리』 등의 단편을 꾸준히 발표하였다. 1997년 3월 위암 판정을 받았으며, 동료 문인들의 기원에도 불구하고 끝내 97년 4월 22일 일기를 다하고 사망하였다. 2007년에는 10주기를 맞아 그의 동료와 선후배 문인들이 펴낸 추모 문집 『소진의 기억』이 출간되기도 했다.

도시적 감수성의 개인주의로 무장한 신세대 문학이 득세하던 90년대에 김소진의 작품은 희소성을 획득하고 있다는 평가를 받았다. 도시 서민들의 곤궁한 삶과 거대조직에서 낙오한 존재들에 대한 연민 어린 묘사를 통해 공동체적 삶의 현장을 현실감있게 표현했기 때문이다. 특히 작가 특유의 질박하면서도 다듬어진 한국어는 눈밝은 독자들과 평론가들에게 주목의 대상이었다.

또한 김소진의 소설은 현대에 잘 사용하지 않는 어휘들이 사용되었으며 과거의 전통적인 글쓰기 방식을 바탕으로 하여 현대의 시대 상황과 사람들의 생각을 잘 살리고 감정적인 면에 있어서도 완급 조절을 훌륭하게 이루어낸 것을 특징으로 하고 있다.