Varga János 1927-ben született Sótonyban. 1951-ben szerzett történész-levéltárosi diplomát az Eötvös Loránd Tudományegyetemen (ELTE). 1951-52-ben az ELTE középkori magyar történelem tanszékének tanársegédje, 1952- és 1954 között aspiránsa, 1954-55-ben adjunktusa, majd 1957-ig docense. 1957-68 között az MTA Történelemtudományi Intézetének munkatársa, 1968 és 1978 között a Művelődésügyi, majd Kulturális és Művelődésügyi Minisztérium levéltári osztályvezetője. 1978-tól 1990-es nyugdíjba vonulásáig Varga János a Magyar Országos Levéltár főigazgatója volt.
1990 és 1994 között az MDF országgyűlési képviselője.
Varga János fő kutatási területe a koraújkori és újkori magyar történelem. 1955-ben a történelemtudományok kandidátusa, 1972-ben pedig a tudományok doktora fokozatot szerezte meg.
A tudóst 1990-ben választotta az MTA levelező tagjává, 1998-ban pedig rendes tagjává.
Főbb munkái: Népfelkelő és gerillaharcok Jellasics ellen 1848 őszén (1953), A jobbágyi földbirtoklás típusai és problémái 1767-1849 (1967), Jobbágyrendszer a magyaroszági feudalizmus kései századaiban 1556-1767 (1969), A jobbágyfelszabadítás kihívása 1848-ban (1971), Deák és az első magyar polgári büntetőrendszer tervezete (1980), Románok és magyarok 1848-49-ben (1995).
Varga János a Nemzetközi Gazdaságtörténeti Társaság (IEHA) magyar nemzeti bizottságának a tagja, az Agrártörténeti és Faluszociológiai Bizottság tiszteletbeli elnöke volt.
A tudós munkásságát számos kitüntetéssel ismerték el. 1965-ben Akadémiai Díjjal, 1985-ben Akadémiai Nagydíjjal tüntették ki, 1982-ben a Szabó Ervin-emlékérmet vehette át. 2000-ben Széchényi Ferenc-díjjal ismerték el, 2005-ben pedig a Széchenyi-díjat vehette át. 2007-ben a Magyar Köztársasági Érdemrend középkeresztjével tüntették ki.