Az akkor Oroszországhoz tartozó Berdyczówban (ma Berdicsiv, Ukrajna) született Jósef Teodor Konrad Korzeniowski néven. Erős lengyel hazafias érzelmektől fűtött, irodalmi ambíciókat dédelgető szüleit a cári hatalom négyéves korában Vologdába száműzte, ahol hamarosan meghaltak tüdőbajban. Konradot anyai nagybátyja, Tadeusz Bobrowszki vette szárnyai alá, aminek a fiú nem igazán örült: mérhetetlenül unta a kötelező latin és görögórákat, matematikát és földrajzot. Már ekkor is sokféle betegségben szenvedett, melyek végigkísérték egész életét, gyenge egészségi állapota azonban nem akadályozta abban, hogy folyamatosan kalandokba keveredjen. Az energiával teli fiú messzi utazásokról álmodozott, különösen Afrika vonzotta.
1874-ben Marseille-be utazott és egy francia hajón nekivágott a tengereknek, kalandjai során találkozott azokkal a különös emberekkel, akikről később regényeinek hőseit mintázta. A szilaj természetű tengerész fegyvercsempészetbe keveredett, adósságokat halmozott fel a kikötőkben, végül reménytelen anyagi helyzete miatt öngyilkosságot kísérelt meg. Mell-lövéséből végül felgyógyult, nagybátyja kifizette adósságait, de állását elveszítette, így kénytelen volt egy angol hajóra elszegődni.
Idővel parancsnokká küzdötte fel magát és 1886-ban megkapta az angol állampolgárságot, 1890-ben pedig beteljesült álma és eljutott Belga Kongóig. A hosszú hajóutak azonban aláásták amúgy is gyenge egészségét, gyakran szenvedett köszvénytől és depressziótól. Láztól elgyötörve tért vissza Angliába, s bár humora és iróniája soha nem hagyta cserben, egészségét a kongói élmények örökre aláásták.
A tengeri viharoktól visszavonulva Kentben telepedett le, megnősült és minden idejét az írásnak szentelte. Regényeiben az ember természetét és benne levő gonoszt, cselekedeteinek indítékát kutatta, atmoszférateremtő képességét és drámai realizmusát Kiplinghez hasonlították. Conrad legfőbb erénynek az embernek önmagához való hűségét tartotta, az erkölcsi becsületesség volt életének igazi témája. 1900-ban jelent meg a Lord Jim, amely a felelősség elől egyre távolabbi vidékekre menekülő hajóskapitány megrázó képe. Két évvel később született A sötétség mélyén, majd 1904-ben látott napvilágot a Nostromo, amelyet ma is az egyik legjobb XX. századi angol regénynek tartanak.
Conrad idős korában sokat utazott, még az Egyesült Államokba is eljutott, ahol lelkes rajongótábor fogadta. 1924-ben lovagi címet ajánlottak számára, de nem fogadta el a kitüntetést. 1924. augusztus 3-án szívrohamban halt meg Canterburyben, ahol a helyi temetőben felesége mellé temették.
