1902년 9월 7일 평안북도 구성군 서산면 왕인리의 외가에서 아버지 김성도(金性燾, 1863.5.13. ~ ?)와 어머니 인동 장씨 장경숙(張景淑, 1882.7.15. ~ ?)[10] 사이에서 무녀독남으로 태어났다. 자란 곳은 아버지의 고향인 평안북도 정주군 곽산면 남단동(현 평안북도 곽산군 남단리)이다.

1904년 아버지 김성도가 친척집에 음식을 싸들고 말을 타고 가던 길에 정주와 곽산 사이의 철도를 부설하던 일본인 목도꾼들이 이 음식을 뺏으려고 김성도에게 달려들어서 마구 구타당해 정신이상자가 되는 사건이 벌어진다. 다행히도 목숨은 건졌으나 심한 폭행을 당한 일로 PTSD에 시달리면서 음식을 거부하며 집안 사람들과 말을 섞지 않고 방 안에 틀어박혀 있다가 굶어 죽게 되었으며 어린 김소월은 이런 아버지를 불쌍히 여기면서도 한편으로는 경멸하는 양가감정에 휩싸였다고 한다.

이후 김소월의 가족은 광산을 운영하고 있었던 김소월의 할아버지 집으로 이사했는데 김소월도 할아버지의 훈도를 받고 성장하였다. 아버지가 사고를 당한 직후인 1905년 훗날 김소월의 민요적 어조에 김억과 더불어 큰 영향을 끼친 계희영이 김소월 집안에 김소월의 숙모로 들어왔다. 김소월의 숙부는 당시 경성에서 사업을 하고 있었기 때문에 자주 집을 비우는 날이 많았고 남편이 자리를 비워서 홀로 남은 계희영은 어린 김소월을 앉혀놓고 자신이 알던 전래 동화나 민요들을 들려주었다고 한다.

1919년 3.1 운동의 여파로 오산학교가 문을 닫자 김소월은 배재고등보통학교에 편입학하여 졸업한다. 1923년 일본의 도쿄상과대학(오늘날 히토쓰바시대학)으로 유학을 갔으나 하필이면 입학 직후 관동 대지진과 일본의 잔혹한 한국인 학살 사건이 발생하여 일본의 분위기가 흉흉해진 탓에 신변의 위험을 느끼고 1924년 도쿄상과대학을 중퇴한 후 귀국했다. 당시 집안이 점점 기울던 김소월의 집안은 가문의 마지막 자존심[16] 겸 집안을 일으킬 마지막 희망이라는 기대를 가지고 가문의 전재산 절반을 밑천 삼아 가까스로 김소월을 도쿄상과대학에 입학시켰기 때문에 학업을 다 마치지 못한 아쉬움과 자책감은 김소월에게 평생 한으로 남았다. 귀국 후 김소월은 스승 김억과 경성에 가서 약 4개월간 일자리를 알아보지만 일자리를 구하지 못한 채 고향으로 돌아온다. 경성에서 머무는 동안 김소월은 자신과 비슷한 처지인 소설가 나도향[17]과 친하게 지냈으며 경성에서 구성군으로 돌아오기 직전인 1925년 자신의 유일한 시집이 된 <진달래꽃>을 김억의 자비 출판으로 출간하였다.

낙향한 김소월은 할아버지의 광산 경영을 도왔으나 광산이 경영 실패로 망한 후 할아버지의 집에서 독립하여 <동아일보> 지국을 열고 신문 배포, 수금, 경영 모두를 혼자 도맡아서 했을 정도로 돈을 벌기 위해 애썼다. 그러나 신문사는 얼마 못 가서 당시 대중들의 신문에 대한 무관심과 일제의 방해 등이 겹쳐 문을 닫고 말았다. 신문사가 문을 닫은 이후 김소월은 극도의 빈곤에 시달리며 술에 의지했고 결국 1934년 12월 24일 성탄절 이브에 뇌일혈로 세상을 떠났다. 유서나 유언은 없었으나 아내에게 죽기 이틀 전 "여보, 세상은 참 살기 힘든 것 같구려."라면서 쓴 웃음을 지으며 우울해했다고 하며 사망 당일 김소월이 시장에서 아편을 샀다는 기록이 있어서 "김소월이 빈곤에 시달리다가 아편을 먹어 자살한 거 아니냐"는 추측이 나오기도 했다. 김소월의 증손녀가 증언한 바로는 김소월은 심한 관절염을 앓고 있었고 통증을 완화하기 위해 아편을 먹고는 했다가 아편 과다 복용의 후유증으로 인해 세상을 떠난 것이라고 한다.

1981년 대한민국 정부는 김소월에게 금관문화훈장을 추서하였으며, 1990년 9월 문화부 '이달의 문화인물'로 선정되었다.