A Nyomozó Iroda élére 1924-ben nevezték ki az energikus J. Edgar Hoovert, aki a botrányoktól sújtott, tekintélyét elvesztett szervezetet jól működő gépezetté változtatta.
Nagy hangsúlyt helyezett az ügynökök toborzására és kiképzésére, 1926-tól létezett az ujjlenyomat nyilvántartó részleg, világszínvonalú bűnügyi laboratóriumot hozott létre, továbbá az FBI híres akadémiáját, ahol válogatott rendőrök és bűnüldözők kaptak különleges kiképzést. (A szervezett bűnözés visszaszorítása érdekében, nemzetközi programkeretében Magyarországon is működik 1996 óta Nemzetközi Rendészeti Akadémia, közismert nevén FBI Akadémia.)
A szervezett bűnözés fénykorában sikerült kiterjesztenie a bűnüldözők hatáskörét, az 1935-től már FBI (Szövetségi Nyomozó Iroda) ügynökei fegyvert viselhettek és az Egyesült Államok területén bárhol letartóztathatták a gyanúsítottakat. Jogosítványaikkal éltek is, golyóiktól halt meg például a bankrabló John Dillinger és a női bűnözők királynője, "Ma" Baker.
Az FBI az idők folyamán rettegetté, Hoover pedig a nem egyszer törvénysértő módon felhalmozott érzékeny személyes adatok révén Amerikai egyik legnagyobb hatalmú emberévé vált.
Az Egyesült Államoknak 1924 és 1972 között nyolc elnöke, de az FBI-nak csak egy igazgatója volt, aki azt is kiharcolta, hogy "cége" az Amerikában folyó külföldi kémtevékenységet is vizsgálhassa.
Az FBI az ötvenes évektől szinte letett a direktor szerint nem is létező szervezett bűnözés üldözéséről (állítólag Hoover azért jutott erre a következtetésre, mert a maffia vezérei homoszexuális kapcsolatával zsarolták).
Az ügynökök inkább a veszélyesnek tartott nézeteket valló közszereplőket és a politikai korrupciót vizsgálták, 1959-ben az FBI 489 ügynöke figyelte a vélt vagy valós kommunistákat és csak 4 a maffiát.
Hoover 1972-ben halt meg, nem sokkal később kirobbant a Nixon elnök lemondásához vezető Watergate-botrány, amelyről tudni lehet, hogy az oknyomozó újságírók belső informátora, a titokzatos Mély Torok az FBI egyik igazgatóhelyettese volt.
A hetvenes-nyolcvanas években az FBI az erőszakos bűncselekmények üldözését tekintette prioritásnak, ez csak a kilencvenes években változott meg, amikor a terrorizmus elleni küzdelem került előtérbe.
A 2001. szeptember 11-i terrormerényletek kapcsán az FBI felelőssége is felvetődött, mert a bürokrácia és a belső vetélkedés miatt nem tudták kiértékelni a rendelkezésre álló információkat.
A támadás után a terrorizmus-ellenes harcra irányítottak át több száz ügynököt, a másik két kiemelt terület a kémelhárítás és az ország informatikai rendszerének védelme lett.
Az átszervezés emberi jogi aktivisták szerint túl jól sikerült, mert az FBI a "régi szép időkre" emlékeztető módon ma már ismét több mint félmillió embert figyel.
