미국 남부 루이지애나주 포인트 쿠피 패리쉬에 있는 리버 레이크 대농장에서 12형제의 장남으로 태어났다. 노예 제도는 사라졌지만 대농장의 흑인 거주 구역에서 자란 게인스의 어린 시절은 여전히 궁핍했다. 어린 시절의 게인스를 키운 것은 장애 때문에 기어 다니며 집안일을 돌보던 그의 이모였다. 게인스는 나중에 《미스 제인 핏맨의 자서전(The Autobiography of Miss Jane Pittman)》에서 ??평생 단 하루도 걷지 못했지만 나에게 똑바로 서는 것이 얼마나 중요한지 가르쳐주셨던 사랑하는 이모 어거스틴 제퍼슨의 추억??에 책을 헌정한다며 이모에 대한 감사의 마음을 전하기도 했다. 게인스는 소설의 주인공 그랜트와 제퍼슨과 마찬가지로 대농장의 교회 학교에 다녔고, 흑인 가톨릭 학교인 성 어거스틴 학교로 진학해서 3년을 더 다녔지만 당시 포인트 쿠피 패리쉬에서 흑인 아이들에게 8학년 이상의 교육을 제공하는 곳은 없었다. 게인스는 열다섯 살이 되었을 때 어머니와 새아버지가 살고 있던 캘리포니아주의 발레조로 이주했다. 그의 첫 소설은 열일곱 살 때 완성되었고, 뉴욕에 있는 출판업자에게 원고를 보냈지만 거절당했다. 그렇지만 나중에 이 원고를 개작해서 최초의 장편소설 《캐서린 카미어(Catherine Carmier)》로 출판했다. 게인스는 샌프란시스코 주립대학에서 문학사 학위를 받았는데, 1956년에는 대학 잡지에 그의 첫 번째 단편소설 <거북이들(The Turtles)>을 실었다. 졸업 후 군대에서 2년을 복무한 게인스는 문필 연구비 지원을 받아 스탠포드대학교에서 공부했다. 그 이래 《캐서린 카미어》, 《사랑과 먼지에 관해서(Of Love and Dust)》, 《혈통(Bloodline)》, 《미스 제인 핏맨의 자서전》, 《11월의 어느 긴 하루(A Long Day in November)》, 《아버지의 집에서(In My Father's House)》, 《늙은 남자들의 모임(A Gathering of Old Men)》, 그리고 《죽음 앞의 교훈》까지 전부 여덟 권의 소설을 출간했다. 1984년부터 게인스는 한 해의 반을 샌프란시스코에서 보내고, 나머지 반은 루이지애나 주립대학 라파이예트 캠퍼스에서 캠퍼스 상주 작가로 지내면서 창의적인 글쓰기에 대한 워크샵을 열었다.