A családi hagyományokat követve lett építész, 1908-ban már olyan később híressé vált szakmabeliekkel dolgozott együtt, mint Ludwig Mies van der Rohe, Le Corbusier és Dietrich Marcks, majd 1910-ben Adolf Meyerrel Berlinben új vállalkozást indított. Első jelentős művük, a történelmi formák helyett racionális, egyszerű vonalakból, nagy üvegfelületekből álló Fagus Werk épületének formanyelve meghatározta a modern építészetet.
Magánéletét alaposan felforgatta az első világháború és viszonya Gustav Mahler feleségével, Almával. Alma a zeneszerző halála után rövid ideig Oskar Kokoschka festő karjaiban vigasztalódott, majd Gropius-szal kötött házasságot. Manon lányuk 1916-ban született és 18 évesen halt meg gyermekbénulásban. Miközben Gropiust katonai kötelezettségei távol tartották a családtól, felesége Franz Werfel író iránt lobbant szerelemre, s a kapcsolat kitudódása után, 1920-ban elváltak. Az építész magánélete 1923-ban rendeződött, amikor Ise Frankot vette feleségül, aki élete hátralevő részében hűséges társa maradt.
Szakmailag azonban egyre sikeresebb lett. 1919-ben Weimarban Bauhaus néven egyesítette és átalakította az Iparművészeti, a Képzőművészeti Iskolát, valamint a Képzőművészeti Akadémiát, az új modell megszüntette az építészet, a képzőművészet és a technika szétválását. Később az orosz konstruktivisták és Le Corbusier alkotásainak hatására átszervezte az iskolát, amelyet a nagyobb anyagi támogatás reményében Dessauba költöztetett. Olyan művész társakkal tanított együtt, mint Johannes Itten, Moholy-Nagy László, Oskar Schlemmer, Vaszilij Kandinszkij.
1937-ig több híressé vált épületet tervezett, közöttük a Dessaui Állami Bauhaus őt épületből álló komplexumát. 1934-ben elhagyta a fasizálódó Németországot és Angliában, majd 1937-től az Egyesült Államokban telepedett le. A Massachusetts állambeli Lincolnban Breuer Marcellel dolgozott együtt a saját maga számára tervezett Gropius házon és a pittsburgi New Kensington-lakótelep épületein. Másik jelentős magyar tanítványa Molnár Farkas volt.
1937-ben a Harvard Egyetem építészeti professzora, majd tanszékvezetője lett. 1946-ban megalapította a The Architect Collaborative (TAC) nevű irodát, s elnyerte a Harvard posztgraduális épületének tervezését. Többek között az Egyesült Államok athéni nagykövetsége, a PANAM New York-i székháza (ma a Metlife), a Bagdadi Egyetem viselik kézjegyét.
Gropius 1969. július 5-én halt meg Bostonban. Emlékét nemcsak különböző épületei, hanem Berlinben az általa tervezett városrész, a róla elnevezett Gropiusstadt is őrzi.
