1854. július 3-án született az észak-morvaországi Hukvaldyban. Első zeneleckéit édesapjától kapta, tízéves korától egy brnói papiskolában egyebek között kóruséneklést és orgonálást tanult. Emellett alkalmi muzsikálásra is lehetőséget kapott színházban és ünnepségeken, így a legkülönfélébb zenei műfajokban szerzett tapasztalatot.

A prágai konzervatóriumban egy év alatt végezte el három év anyagát, s rövidesen már ő oktatta az összes zenei tantárgyat egykori brnói iskolájában. Orgonatanulmányai közben zenetanárként és amatőr kórusok karnagyaként tartotta fenn magát, 1881-től a brnói Filharmóniai Társaság igazgató karnagya és egy zenei folyóirat szerkesztője lett. Már ekkor szívügyének tartotta a cseh nemzeti zene - Smetana, Dvorák műveinek - népszerűsítését, Dvorák barátja is lett. Ebből az időből származik egyik első szerzeménye, a Szvit vonószenekarra (1877), amely leginkább a romantika hatását mutatja, de felismerhetők benne a cseh népzenei hagyományok is.

1879-1880-ban a lipcsei és a bécsi konzervatóriumban tanult, emellett egyre több időt fordított zeneszerzésre. 1882-től majd négy évtizedig vezette Brno orgonaiskoláját, az intézményből nőtt ki a helyi konzervatórium. Janácek ideje nagy részét a cseh folklór tanulmányozására fordította, s a romantikától elfordulva - Bartókhoz és Kodályhoz hasonlóan - népdalgyűjtéssel foglalkozott (Bartókkal közös koncerten is szerepelt). Műveit egyre inkább a morva, illetve a cseh és szlovák népzenei elemek felhasználása jellemezte, kései alkotásaiban már impresszionista vonások is érződnek.

1887-ben született első, erősen Wagner és Smetana hatását tükröző operája, a Sárka. Az igazi sikert csak a majdnem tíz évig komponált, 1904-ben bemutatott Jenufa hozta meg számára, a darab igazi visszhangot pedig csak a több mint tíz évvel későbbi átdolgozott prágai, majd bécsi előadás után keltett. (A Gabriele Preissová drámáján alapuló népies balladát 2004-ben - harminc év után, s első alkalommal eredeti nyelven - játszotta a Magyar Állami Operaház.)

Janácek írt operát Osztrovszkij Vihar című színműve alapján Katja Kabanova címmel, Karel Capek színműve nyomán (A Makropoulos ügy). Dosztojevszkij regénye ihlette a Holtak házát, a Ravasz rókácska egy morva elbeszélésen nyugszik. II. vonósnégyesét Tolsztoj Kreutzer szonáta című elbeszélése alapján írta, a "Meghitt lapok" alcímet viselő darab önéletrajzi jellegű is, mert az idős komponista és a nála negyven évvel fiatalabb Kamila Stöslova viharos szerelmének zenei megfogalmazása. Janácek jelentős kórusszerző is volt, utolsó nagyszabású darabja az ószláv nyelvre íródott Glagolita mise.

A színpadi zene, s egyben a modern opera egyik úttörőjeként elismert Leos Janácek 1928. augusztus 12-én halt meg Ostravában, számos műve befejezetlen maradt.