Apja jómódú lengyel nemesi származású erdészeti felügyelő, anyja tatár-orosz volt. Kilencéves korában skarlátbetegség következtében szinte teljes egészében elvesztette hallását, négy évvel később meghalt anyja. A magányos, gátlásos, társai által kicsúfolt fiú a könyvekhez menekült. 16 évesen Moszkvába ment, ahol nyomorúságos körülmények között élt, miközben bádogtölcsérből szerkesztett "hallókürttel" látogatta a felsőfokú matematikai előadásokat az egyetemen. 1879-től Borovszkban, majd 1892-től Kalugában volt tanító.
A világtól elzárt, nyugalmas tanári lakásában kidolgozta a gázok kinetikus elméletét, mit sem tudva arról, hogy ezt Maxwell már egy évtizeddel korábban megtette. Érdeklődése ekkor a repülés felé fordult, 1894-ben a madárszerű repülőgépről közzé tett írásában a világon elsőként vetette fel egy fémvázas, egyszárnyú repülőgép gondolatát. 1897-ben Oroszországban elsőként épített szélcsatornát aerodinamikai vizsgálatok céljára. Támogatás híján a beruházáshoz a családi költségvetésből csípett le pénzeket, csak első sikeres kísérletei után utalt ki neki az Akadémia 470 rubelt.
Ciolkovszkij a rakétarepülés és az űrhajózás elméletére és gyakorlatára vonatkozó legfontosabb eredményeit 1903-1914 között tette közzé. Kimutatta, hogy a világűrben való mozgásra a legalkalmasabb a hatás-ellenhatás elvén, folyékony üzemanyaggal működő rakéta. Bebizonyította, hogy e rakéta segítségével el lehet érni a kozmikus sebességet, eljutott a szökési energia és a szökési sebesség fogalmához. Meghatározta a rakétamozgás alapegyenletét, a Ciolkovszkij-képletet, amely szerint az égésvégi sebesség nem függ attól, milyen ütemben fogyott el az üzemanyag, a végső sebesség az egyes lépcsők végsebességének összege. 1929-ben vetette fel a többlépcsős rakéta gondolatát, amellyel elérhető a Föld elhagyásához szükséges sebesség.
1902-ben öngyilkos lett a fia, 1908-ban árvíz rombolta le otthonát, az Akadémia nem méltányolta kutatásait és teljes közöny fogadta repülőgép-terveit is. Számottevő támogatásban csak az új szovjethatalom részesítette az akkor már hatvanéves tudóst. 1918-ban az újonnan alapított Szocialista Akadémia tagjává választották, 1924-től a légierő akadémiájának tiszteletbeli tanára volt.
1917 után 18 év alatt 450 publikációja jelent meg, míg korábban csak 133. Eredményei a húszas évektől váltak ismertté külföldön is, s bár egyes rakétaelméleti eredményeit tőle függetlenül mások is levezették, a harmincas évektől elsőségét nem vonták kétségbe.
Ciolkovszkij tudományos munkássága mellett szépirodalommal is foglalkozott, több ötletét elbeszéléseiben, regényeiben dolgozta fel. Írt az űrutazás élményéről, űrruhákról, műbolygókról, a Naprendszer meghódításáról. Ő javasolta a folyékony hajtóanyag alkalmazását, a Föld körül keringő űrállomás létesítését, a hosszú időtartamú űrutazásoknál zárt ökológiai rendszer ("télikert") alkalmazását, a súlytalanság kompenzálását az űreszköz forgatásával - ötletei közül több meg is valósult.
Az első űrhajók repülését már nem érhette meg, 1935. szeptember 19-én halt meg Moszkvában. Kalugai sírján obeliszk áll, amelyet rakéta díszít, egykori faháza ma múzeum. Nevét viseli az 1590. számú kisbolygó és egy kráter a Hold túlsó oldalán.
