Herskó Ferencként született Karcagon. Édesapját, Herskó Mózest 1943-ban az orosz frontra vitték munkaszolgálatra, ő a következő évben fiútestvérével és édesanyjával a helyi, majd a szolnoki gettóba került. Az őket is szállító transzportot azonban Auschwitz helyett - ismeretlen ok miatt - Bécs környékére irányították, s egy osztrák kisváros munkatáborában élték túl a háborút. A harcok elcsitultával visszakerültek Karcagra, majd ötéves fogság után édesapja is hazatért. A család 1950-ben a nagyszülőkkel együtt kivándorolt Izraelbe, ahol Hershko két évig gyakorló katonaorvosként is működött az izraeli hadseregben.

1969-ben szerezte doktorátusát a jeruzsálemi egyetem orvostudományi karán. 1969 és 1971 között a San Franciscó-i egyetemen végzett kutatásokat, majd a hetvenes évek elején visszatért Izraelbe, ahol 1978-ban professzori kinevezést kapott. Tudományos tevékenységének nagy részét egy haifai kutatóintézetben végezte, de dolgozott a jeruzsálemi egyetemen és az Egyesült Államokban is. Nevéhez fűződik az ubikvitin nevű fehérje felfedezése, amelynek döntő szerepe van a szükségtelenné vált fehérjék lebontásában.

A kémiai Nobel-díjat 2004-ben kapta - megosztva az izraeli Aaron Ciehanoverrel és az amerikai Irwin Rose-zal, , ő a tizennegyedik magyar, illetve magyar származású Nobel-díjas. Az indoklás szerint "a három tudós még az 1980-as években fedezte fel a sejtek egyik legfontosabb ciklikus folyamatát, a proteinek lebontásának szabályozását, amelynek köszönhetően ma már molekuláris szinten megérthetjük, miként ellenőriznek a sejtek központi folyamatokat az emberi szervezetben".

Hershko több izraeli, kanadai és egyesült államokbeli kitüntetés birtokosa, számos elismert szakkönyv szerzője. 2004-ben Karcag díszpolgára lett, 2005-ben megkapta a Magyar Köztársasági Érdemrend Középkeresztje a Csillaggal kitüntetést. Három fia van, közülük a legkisebb a budapesti orvostudományi egyetemen tanul.