지방의 가난한 학자인 구엔 신 후이의 아들로 태어나 킴리엔이라는 마을에서 자랐다. 14~18세에 휴에 있는 문법학교에 다녔으며, 판티에트에서 교사로 지냈고 이어 사이공에 있는 기술훈련원 견습생이 되었다. 1911년 그는 바(Ba)라는 가명으로 프랑스 증기선의 요리사 자리를 얻어 3년 이상을 선원으로 지내면서 아프리카와 미국 등을 여행하였다. 제1차 세계대전 중반에 프랑스로 옮겨 그곳에서 정원사, 청소부, 웨이터, 사진 수정자, 화부(火夫)로 일했다. 1917~23년 프랑스에서 지내는 6년 동안 그는 구엔 아이 쿡('애국자 구엔')이라는 이름으로 적극적인 사회주의 활동을 폈다.

러시아 공산혁명의 성공과 레닌의 반제국주의 정책에 자극을 받아 1920년 12월에 사회당을 탈당하고 프랑스 공산당에 가담했다. 그후 자신이 발간하는 잡지 '파리아 Le Paria'('추방자')에서 프랑스와 영국의 식민주의 정책의 해악을 고발했다. 호치민은 프랑스에서 노동자 계층의 많은 지도자들과 사귀었고, 6월 17일부터 7월 8일까지 열린 제5차 공산당 인터내셔널 대회에 적극 참여하여 압박받는 농민들(산업 노동자들과 대치되는 계층)의 혁명적 역할의 중요성에 대한 그의 신념을 표명했다.

1924년 12월 호치민은 리 투이(Ly Thuy)라는 가명으로 공산주의의 요새인 광저우[廣州]로 갔다. 이후 베트남 혁명청년협회를 결성하여 인도차이나 민족주의의 첫 발을 내딛었으며, 1929년 5월 홍콩에 모여 인도차이나 공산당을 결성하였다. 1930년 2월 3일 호치민은 시암에서 돌아온 후 공산당 창당을 주관했다. 처음에는 베트남 공산당이라고 이름을 붙였으나, 모스크바의 신임을 받던 호치민은 1930년 10월 이후 소련의 충고를 받아들여 인도차이나 공산당(PCI)이라는 이름을 수용했다.

독립의 과정에서 그는 혁명활동의 조직중심적 사고와 여러 파당간에 벌어지는 갈등을 중재하는 일을 더 많이 하였다. 1940년 프랑스가 독일에게 패하고, 1941년 1월 국경을 넘어 베트남으로 들어가 5월에 베트민이라는 조직을 구성했다. 이 단체의 결성으로 베트남 고유의 민족주의가 다시 강조되었다. 1945년 일본의 인도차이나 점령과 일본의 패망으로 9월 2일 바딘 광장에 구름같이 모여든 수많은 군중 앞에서 호치민은 베트남이 독립되었음을 공표했다.

종전 후 중국과 프랑스의 점령의 국면에서 그는 프랑스 군대를 통해 중국군을 물리치고, 프랑스와의 협약을 맺으려고 했으나 결국 프랑스와 전쟁을 하게되고 1차 인도차이나 전쟁에서 베트남은 승리하였다. 1954년 제노바 협정을 통해 베트남의 독립을 보장하려고 했으나, 베트남의 재통일을 보장할 수 있었던 선거가 미국과 남베트남에 의해 무기한 연기되었다. 1959년경부터 북베트남은 다시 전쟁에 개입했고 전쟁중인 1969년 심장병으로 사망하였다.

1945년 전남 해남 출생
1968년 전남대 영문과 입학
1974년 『창작과 비평』 여름호에「잿더미」등 7편의 시를 발표하면서 문단에 나옴
1979~1988년 남민전 사건으로 구속되어 옥중 생활
1991년 제9회 신동엽창작기금 수상
1992년 제6회 단재상 문학 부문 수상
1993년 제3회 윤상원문화상 수상
1994년 2월 13일 별세, 제4회 민족예술상 수상
2014년 제3회 파주북어워드 특별상 수상

저서로 제1시집 『진혼가』, 제2시집 『나의 칼 나의 피』, 제3시집 『조국은 하나다』, 제4시집 『솔직히 말하자』, 제5시집 『사상의 거처』, 제6시집 『이 좋은 세상에』 그리고 유고 시집 『나와 함께 모든 노래가 사라진다면』이 있으며, 시집 『농부의 밤』은 일어판으로 출간되었다. 옥중 서한집으로 『산이라면 넘어주고 강이라면 건너주고』, 시 선집으로 『사랑의 무기』, 『학살』, 『함께 가자 우리 이 길을』, 『옛 마을을 지나며』, 『꽃 속에 피가 흐른다』, 시 전집으로 『저 창살에 햇살이』 1~2권, 『김남주 시전집』, 산문집으로 『시와 혁명』, 『불씨 하나가 광야를 태우리라』가 있다. 번역서로 『자기의 땅에서 유배당한 자들』, 『아랍 민중과 문학: 팔레스티나의 비극』, 『아타 트롤』, 『은박지에 새긴 사랑』, 『아침저녁으로 읽기 위하여』가 있으며, 평전으로 『김남주 평전』(강대석 지음, 2004), 『김남주 평전』(김상웅 지음, 2016)이 있다. 추모 21주기를 맞아 『김남주 산문 전집』이 출간되었다.