A berlini születésű Marcuse az I. világháború után Freiburgban kezdte meg egyetemi tanulmányait, irodalmat, filozófiát és közgazdaságtant hallgatott. Filozófiai doktorátusát Heidegger tanítványaként szerezte meg, értekezését Hegel ontológiája és a történetiség elméletének alapvetése címmel írta. Bár élete végéig hangoztatta, hogy Heidegger volt számára a legnagyobb gondolkodó, idővel eltávolodott a náci eszmékkel rokonszenvező professzorától.

A "frankfurti iskola" egyik alapítójaként részt vett a kritikai társadalomelmélet kidolgozásában. Kollegáival, Horkheimerrel és Adornóval együtt egyre nagyobb hírnévre tett szert, zsidó származása miatt azonban 1934-ben jobbnak látta elhagyni hazáját. Genfen és Párizson át New Yorkba vezetett az útja, ahol a Columbia Egyetem biztosított helyet intézetének, később több neves egyetemen tanított. 1941-ben már angolul jelent meg Ész és forradalom című műve, amely Hegel, Marx és a modern társadalomelmélet eszméinek kialakulását tárgyalta.

A II. világháború alatt csatlakozott a CIA elődjének számító OSS-hez, majd a külügyminisztérium munkatársa lett. Elemzőként a náci rezsim, majd a háború végeztével a demokratizálás folyamatában vett részt.

A tudományos munkához 1951-ben tért vissza, négy évvel később jelent meg Érosz és civilizáció című műve. Ebben az ösztönös boldogságra és szabadságra törekvésről ír, egy nem-elnyomó civilizációról, amelyben nincs jelen az elidegenedés, s amelyet szabadság és nyílt szexualitás jellemez.

Nézeteivel a hatvanas évek lázadóinak példaképe lett, a modern társadalom által termelt plusz elnyomásról alkotott véleménye és a megújulásra való felhívása kapcsán az "újbaloldal" atyjaként kezdték emlegetni, noha ő nem kedvelte ezt a kifejezést.

Még nagyobb visszhangot váltott ki az 1964-ben megjelent Egydimenziós ember, amelyben a fejlett kapitalista társadalmak mellett a kommunista berendezkedést is kritizálta. Szerinte a fejlett ipari társadalom hamis szükségleteket teremt, a tömegkultúra és a tolerancia hiánya pedig újratermelik a rendszert. Az An Essay on Liberation címet viselő tanulmányában kiállt az összes létező felszabadító mozgalom mellett, a Viet Kongtól a hippikig.

A hetvenes években az új realizmust felismerve a Counterrevolution and Revolt című tanulmányában már arról írt, hogy az előző évtized nagyszabású vágyait letörte a jobboldali fordulat és a hatvanas évekkel szembeni "ellenforradalom". Utolsó éveit visszavonultan töltötte, 1979-ben hunyt el szülőhazájában - Jürgen Habermas meghívására tartózkodott németországi előadókörúton, mikor agyvérzést kapott.