Konsztantinosz Gavrasz néven született Athénban, görög-orosz szülei oltották belé a politika iránti érdeklődést. Köztisztviselő apja hősiesen ellenállt a náci megszállás alatt, ezért megkapta a kommunista címkét, fiát pedig nem engedték be Amerikába, ahol filmkészítést akart tanulni. Costa-Gavras az 1950-es évek elejétől Franciaországban élt, 1956-tól francia állampolgárként. 1957-től rendezőasszisztens volt többek között René Clair és Henri Verneuil mellett. Első önálló rendezése 1965-ben a Tökéletes bűntény című krimi volt, első nagy nemzetközi sikerét a Z, avagy egy politikai gyilkosság anatómiája című filmjével aratta 1969-ben. A görögországi katonai diktatúra hatalomra jutása után játszódó "Z" 1969-ben megkapta a legjobb külföldi filmnek és a legjobb vágásnak járó Oscar-díjat, Cannes-ban pedig elnyerte a zsűri díját.
Az 1970-ben bemutatott A vallomás témájául a prágai Slansky-per szolgált, a latin-amerikai forradalmi szervezkedések ihlették Ostromállapot című filmjét, Yves Montand főszereplésével. A zsidók második világháborús deportálása, a nácikkal való együttműködés volt a témája a Különleges ügyosztálynak és a Berlinben Aranymedvével díjazott Zenedoboz című filmjének. A chilei diktatúra korszakát elevenítette meg első amerikai filmje, az Eltűntnek nyilvánítva (Missing), amely a legjobb filmadaptációért járó Oscar-díjat és a cannes-i nagydíjat is megkapta. A rendkívül jól felépített, feszült drámában Jack Lemmon nyújtott emlékezetes alakítást. A rendező nem politikai témájú filmjei közül kiemelkedett a Romain Gary regénye alapján készült Női fény, és a Családi balhé című krimiparódia.
Costa-Gavras időről időre visszatért kedvenc műfajához, a politikai drámához, nézeteivel, leleplező kritikájával gyakran váltotta ki a politika nemtetszését. A palesztin kérdést boncolgató Hanna K. (1983) miatt sok támogatóját elvesztette, de ugyanakkor új híveket is szerzett. Az 1988-as Elárulva amerikai rasszista gyilkosságokat leplezett le, A kis apokalipszisben hajdani balos párizsi értelmiségiekről adott szatirikus képet. Az Őrült város vegyes fogadtatásban részesült, de Dustin Hoffman és John Travolta játéka, a feszültséggel teli cselekmény és a rendezői rutin azért ezt a filmet is sikeressé tette. 2002-ben sokakat sokkolt Ámen című filmje, amely Rolf Hochhuth korábban már nagy viharokat kavaró A helytartó című drámája alapján készült, a vitákat fokozta a Benetton-kampányokból megismert Oliviero Toscani által komponált filmplakát is.
Costa-Gavras, aki többször maga is vállalt filmszerepeket, az idei Berlinale zsűrijének elnöke lesz.