평안북도 곽산 출신으로 아버지 김기범(基範), 어머니 김준(金俊) 사이에서 5남매 중 장남으로 태어났다. 출생 연도는 호적상으로 1896년으로 되어 있으나, 김억 유족의 말에 의하면 1895년이라고도 한다. 호는 안서(岸曙), 호적명은 희권(熙權)이고 뒤에 억(億)으로 개명했으며, 필명으로 안서 및 안서생(岸曙生), A.S., 또는 본명 억(億)을 사용했다. 어린 시절에는 서당에서 한문을 배웠다고 한다. 1904년 고향에서 박씨가(朴氏家)의 규수와 혼인했으나, 1930년 중반에 사별하고, 1944년 봄 신인순(辛仁順)과 재혼했다.
1907년 정주군의 오산학교(五山學校)에 입학하여 춘원 이광수를 선생으로 만난다. 그를 통해 김억은 투르게네프, 바이런의 시를 알게 되었고, 일본에서 번역된 바이런의 시를 우리말로 다시 번역하여 춘원에게 보여 주어 칭찬을 받기도 했다고 하는데, 이후 최남선이 경영하는 출판사에 번역 작품을 투고하기도 했다.
김억은 1913년 일본 게이오의숙(慶應義塾) 영문과에 진학했다. 1914년에는 도쿄 유학생들이 발간하는 ≪학지광≫에 시 ＜이별＞을 실었고, 이후 ＜야반＞, ＜나의 적은 새야＞, 산문시 ＜내의 가슴＞, ＜밤과 나＞ 등의 자유시를 발표했다. 또한 개인의 삶과 예술의 일치를 주장하는 ＜예술적 생활＞과 보들레르, 베를렌 등을 통해 상징주의를 소개하는 시론 ＜요구와 회한＞ 등을 ≪학지광≫에 1915∼1916년 계속 게재했다. 1918년 ≪태서문예신보(泰西文藝新報)≫에는 시론 ＜프랑스 시단＞(1918)을 발표했는데 ‘음향, 색채, 방향, 형상’ 등을 중심으로 상징주의의 중요한 요소들을 설명했다. 그는 지속적으로 프랑스 상징주의 시의 번역과 소개 및 창작시를 발표함으로써 문단 활동을 본격화했다. 이후 아버지의 갑작스런 죽음으로 학업을 중단하고 귀국한 김억은 1916년 오산학교에 교사로 부임했다. 이 시절 그는 김소월을 지도했으며, 1922년 문단에 김소월을 처음 소개했으므로 김억과 김소월의 관계는 각별하다 할 수 있다.
≪창조(創造)≫, ≪폐허(廢墟)≫ 등의 동인으로 활동했으며, 이외에도 ≪영대(靈臺)≫,≪개벽(開闢)≫, ≪조선문단(朝鮮文壇)≫, ≪동아일보≫, ≪조선일보≫ 등에 시·역시(譯詩)·평론·수필 등 많은 작품을 발표했다. 1924년에는 ≪동아일보≫에 학예부 기자로 입사했고 이후 ≪매일신보≫의 기자, 경성 중앙방송국 차장 등 언론계에서 활동하기도 했다.
김억은 최초의 역시집인 ≪오뇌의 무도≫(1921), 최초의 창작시집 ≪해파리의 노래≫(1923)를 냈을 뿐 아니라 광복 전까지 20여 권의 시집을 발간하기도 했다. 또한 ＜프랑스 시단＞(1918), ＜스핑크스의 고뇌＞(1920)를 통해 해외 문학 이론을 수용하고, 아울러 ＜시형의 음률과 호흡＞(1919), ＜작시법＞(1925), ＜시론＞ 등을 통하여 개성적 운율과 조선시형을 강조하기도 했다. 뿐만 아니라 ＜역시론＞(1930)과 역시집의 서문 등을 통해 번역과 관련한 자신의 방법론 및 철학을 밝혔다. 번역은 제2의 창작이라는 신념하에 우리말의 어감과 어향(語響)에 맞게 번역을 시도함으로써 모국어를 새롭게 발견하는 계기를 마련했는데, 특히 ≪오뇌의 무도≫의 번역을 통해 상징시풍을 1920년대 초기 시단에 정착시켰다. 이 밖에도 에스페란토 보급에 앞장서는 등 다양한 활동을 펼쳤는데, 그 보급을 위하여 강습소를 열기도 했다. ≪개벽≫에 ＜에스페란토 자습실＞을 연재하여, 뒤에 간행된 ≪에스페란토 단기 강좌(Esperanto Kurso Ramida)≫는 한국어로 된 최초의 에스페란토 입문서가 되었다.
이외 ≪기탄자리≫(1923), ≪신월≫(1924), ≪원정(園丁)≫(1924) 등의 역시집을 통하여 한국 시단에 인도 시인 타고르를 본격적으로 소개했다. 1925년 이후에는 전통 지향성으로 회귀하여 한시 번역에 치중하여 ≪망우초(忘憂草)≫(1934), ≪동심초(同心草)≫(1943), ≪꽃다발≫(1944), ≪지나명시선(支那名詩選)≫(1944) 등의 역시집을 출간했다. 또한 한국적 정서와 가락을 살려 낸 민요시 제작에 몰두하여 ≪금모래≫(1925), ≪안서시집≫(1929) 등 민요조 서정시집을 출간했고, ‘격조시(格調詩)’라는 이름으로 칠오조 4행의 정형률을 창안하여 장시 ≪지새는 밤≫(1930)을 내놓기도 하였다. 김소월의 시를 ≪소월시초≫(1939), ≪소월 민요집≫(1948) 등으로 편저하여 출간하기도 했다.
1930년대 말에는 김포몽(金浦夢)이라는 예명으로 대중가요 작사자로 활발한 활동을 했다. 작사한 노래 가운데 선우일선의 ＜꽃을 잡고＞는 대중의 인기를 끌었다.
광복 후 출판사 수선사(首善社) 주간을 역임하였고, 한국전쟁 당시 서울에 남아 있다가 납북되었다. 북한에서는 출판사 교정원(1952)으로 일하다가 신병으로 요양소에 입소했으며(1953), 다시 평화통일촉진협의회 중앙위원에 강제 임명되었으나(1956), 이후 평북 철산지방의 협동농장으로 강제 이주되었다(1958). 그 후 행적은 알려져 있지 않다. 김억은 서구 시 및 시론의 번역 소개와 아울러 시 창작을 병행함으로써 개인 정감의 세계와 서정의 새로운 지평을 열어 준 한국 초기 시단의 대표적인 이론가, 번역자, 시인이었다.

이화여자대학교 국어국문학과를 졸업하고 동 대학원에서 박사 학위를 받았다. 1996년 ≪세계일보≫ 신춘문예 평론 부문에 당선되어 문학평론가로 활동 중이며 현재 이화여자대학교 이화인문과학원 교수로 재직 중이다. 근대 문학 초창기 문학 장(場)의 형성, 식민지 시기 한국 근대문학의 근대성과 탈식민성, 번역과 비교문학 연구, 젠더 연구, 동아시아 지식 연구 등의 주제에 학문적 관심을 기울여 왔다.
저서로는 ≪생명파시의 모더니티≫, ≪근대문학의 장(場)과 시인의 선택≫, ≪회화로 읽는 1930년대 시문학사≫ 등의 연구서와 ≪시에 관한 각서≫, ≪불우한, 불후의 노래≫, ≪기억의 수사학≫ 등의 비평집이 있다.