Bécs környékén született 1862. július 14-én egy aranyműves családjában. Az Osztrák Császári és Királyi Iparművészeti Iskola befejezése után - Ernst testvérével és Franz Matsch-csal közösen - elvállalta a bécsi Szépművészeti Múzeum belső udvarának díszítését, s 1890-ben elkészítették a lépcsőház dekorációját is. Hármójukat kérték fel többek között a Karlovy Vary-i Kurhaus, a rijekai városi színház, a bukaresti nemzeti színház és a román királyi palota belsejének megtervezésére. Nevükhöz fűződnek az Erzsébet császárnő nyári rezidenciáját, az úgynevezett Hermes villát díszítő festmények is.
Klimtet mélyen megrázta apja és öccse 1892-ben bekövetkezett halála, depresszióba zuhant. A következő évben Budapestre hívták professzornak, de a kultuszminiszter elutasította kinevezését. 1894-ben megbízást kapott a bécsi egyetem dísztermének falfestményeire; az ún. Fakultás-képek (Jogtudomány, Filozófia, Orvostudomány) óriási botrányt kavartak, így azokat a művész és barátai visszavásárolták.
1897-ben megalapította a Szecesszió nevű csoportot, amelynek elnöke lett. A társulás 1898-ban megrendezte az első Szecesszió-kiállítást, majd létrehozta a Ver Sacrum (Szent Tavasz) című folyóiratot, amely rendszeresen közölte Klimt rajzait. 1902-ben megfestette a Beethoven-frízt, amely az ember boldogságkeresését ábrázolja. 1903-tól Toulouse-Lautrec, Munch, Van Gogh és Matisse művészetét tanulmányozta, ekkor kezdődött "arany korszaka". 1905-ben szakított a Szecesszióval, de továbbra is a bécsi Jugendstil képviselője maradt. A bécsi polgárok portréfestője lett, előkelő hölgyeket ábrázoló alakjai az állat- és növényvilágra emlékeztetnek.
1912-ben az Osztrák Képzőművész Szövetség elnöke lett, 1910-ben a Velencei Biennálén, majd 1913-ban Münchenben, Budapesten és Mannheimben állította ki műveit. 1917-ben rendes tanárrá való kinevezését - bár a Bécsi Képzőművészeti Akadémia tiszteletbeli tagjává választotta -, négyszer is elutasította a miniszter. Szinte az utolsó pillanatig dolgozott, 1918-ban agyvérzés érte, majd elkapta a spanyolnáthát és február 6-án - számos befejezetlen művet hagyva maga után - tüdőgyulladásban elhunyt.
Klimt korai, történelmi eseményeket bemutató jelenetei, majd erotikus-szimbolikus témákat megörökítő, a realizmust a dekorativitással párosító művei ma is népszerűek, nem egy alkotása dollármilliókért kel el az árveréseken. Sajátos színvilágú falfestményei, akárcsak táblaképei (Igazság, A három életkor, A csók) bölcselkedő, morális vagy szexuális tartalmúak. Kiváló portrékészítő, reklámgrafikus és iparművész volt, ruhaterveket és mozaikokat is készített. A Szépművészeti Múzeum a 2008 szeptemberében nyíló Klimt és a bécsi szecesszió kezdetei című kiállítással emlékezik meg róla.