馬勒生於波希米亞的喀裡斯特，1875年獲准進入維也納音樂學院就讀，
向茱里奧斯·艾柏士坦（Julius Epstein）學習鋼琴，
隨後又到維也納大學修讀布魯克納講授的課程。他第一次嘗試作曲，
是為了參加一場歌劇比賽而寫下悲嘆之歌﹝後來馬勒把這部作品改為合唱曲﹞。
不過他並未成功，於是把注意力轉向指揮，巴德廳的第一份指揮工作以後，
他陸續擔任多家大型歌劇院指揮──1881年在利比亞納，1882年在歐婁摩茨，
1884年在卡塞爾，1885年在布拉格，1886年在萊比錫，1891年則在布達佩斯。

1891年馬勒在漢堡歌劇院首次獲得長期聘任，直到1897年離開。
於漢堡歌劇院任職期間，他在史坦因巴赫度過夏天並專心於作曲，
這段時間裡馬勒完成了第一號交響曲和「少年魔號角」。

1897年，為了保住維也納國家歌劇院藝術總監這個極具聲望的位置，
原是猶太教徒的馬勒改信天主教（當時並不容許猶太教徒擔任這個職務），
自此十年他都留在維也納，以其近乎苛求的完美主義著稱。
一年之中他花費九個月管理歌劇院，剩下三個月主要待在麥亞尼希作曲；
他有一棟小房子位於沃特湖畔，馬勒在此創作了第二號至第八號交響曲。
1902年，與愛爾瑪‧辛德勒結婚，育有兩個女兒；
長女在1907年過世，同年他被診斷出患有心臟病，
還失去了維也納歌劇院的職務──馬勒試著在維也納表演他並未被廣泛接受的作品，
卻受到多數反猶太的媒體攻訐抨擊。
縱然第四號交響曲曾獲得些許好評，
一直到1910年第八號交響曲首演，馬勒才真正在音樂上得到肯定，
之後的作品皆未在他生前公開演出。

馬勒一直承受著越發嚴厲的反猶太攻擊，直到1907年幾乎已是忍無可忍，
同年接下紐約大都會歌劇院指揮職務，1908年也指揮了一季，
卻因為大都會轉念支持托斯卡尼尼而被停職。
隔年又回到紐約擔任新成立的紐約愛樂交響樂團指揮，
大約此時他完成「大地之歌」與最後一部完整的作品，第九號交響曲。
1911年二月最後一次前往美國，此時馬勒的病況嚴重，
在他要求之下被送回維也納。
1911年五月18日，馬勒因鏈球菌感染病逝於奧匈帝國內的維也納，
留下未完成的第十號交響曲。死後葬於維也納格林清墓園。